全球主机交流论坛

标题: 询问一下gpt接口请求一次的时间大概要多久 [打印本页]

作者: Qys 时间: 2024-4-22 02:08
标题: 询问一下gpt接口请求一次的时间大概要多久
最近想试手自己做个对话类的项目，先用了论坛里白**的api，请求一次大概都要十几秒，不管是从国内还是国外都需要这么久，这是普遍现象吗？

作者: 陈桂林 时间: 2024-4-22 02:43
网速快就快把

作者: squalll 时间: 2024-4-22 03:41
是普遍，内容生成越多越慢，问1加1秒回的

作者: 5000000 时间: 2024-4-22 04:32
你要用流式请求，不然普通的post只能等全部回答才接收。还可以限制回答的字数以加快速度

作者: 韭菜炒基蛋 时间: 2024-4-22 08:25
他处理的就慢跟网有什么关系。你不会用流式输出吗

作者: Qys 时间: 2024-4-22 12:51
本帖最后由 Qys 于 2024-4-22 12:58 编辑

5000000 发表于 2024-4-22 04:32
你要用流式请求，不然普通的post只能等全部回答才接收。还可以限制回答的字数以加快速度 ...

感谢mjj的解答，不过目前回答字数基本都是50字以内，都是短对话。同时，因为需要将回答内容再次转回语音，所以想的是拿到全部回答再tts输出。想了想确实应该用流式请求，然后根据逗号转语音一段一段输出。

欢迎光临全球主机交流论坛 (https://443502.xyz/)