求助协作DeepSeek流式网络求助
DeepSeek API 流式响应跑到一半总是断,是网络还是参数问题?
作者:法务小张身份:求助中发布时间:今天 13:40最后更新:2 小时前
问题描述:用 DeepSeek-V3 做一个长文生成接口,开了 stream=true。本地 Mac 跑没问题,能稳定输出 3000+ 字。部署到阿里云 ECS 之后,每次跑到 30-60 秒就断连接,但客户端和服务端都没有报错日志,看起来就像是 TCP 连接被人在中间掐了。
已经试过的:① max_tokens 调到 8000 没用;② 把 nginx 的 proxy_read_timeout 调到 600 也没用;③ 直接在服务器上 curl 调 API,同样的问题;④ 换成非流式 stream=false 就能完整返回。
现在怀疑是 ECS 出口对长连接有限制?还是 DeepSeek 这边对单次流式响应时长有上限?有遇到过类似情况的朋友给点方向吗,找了一天没头绪。
回复区
0 条回复
9 浏览