开发者社区 > 弹性计算 > 云服务器ECS > 正文

基于百炼+NLUX前端构建web端AI助手时常Failed to stream content

环境

  • 百炼大模型平台, Qwen-Turbo-0919 模型
  • 华北2ECS,2核2G,3M固定带宽,Node v16.13.2
  • 前端使用静态HTML + NLUX

问题

部分时间该AI助手运行良好;但是部分情况下(根本原因暂时未知;通常是输出量较大时)会输出到一半,NLUX报Failed to stream content并清除对话历史记录。

Screenshot_20241118_002744.jpg

以下为console中的内容:

Parse content failed: id:57
event:result
:HTTP_STATUS/200
data:{"output":{"session_id":"a208fff4daf14ea9add0b3ab3eecdceb","finish_reason":"null","text":"。这样做不仅有助于"},"usage":{"models":[{"input_tokens":828,"output_tokens":216,"model_id":"qwen-turbo-0919"}]},"request_id":"e2f7990e-5d2b-961e-b2e5-bfa5a307f {}

Screenshot_20241118_003922.jpg

目前猜测可能是百炼返回json格式是不完整,导致JSON.parse()失败;该如何解决?

展开
收起
游客4o5oleq52cj6y 2024-11-18 07:40:41 45 0
0 条回答
写回答
取消 提交回答

云服务器ECS是一种安全可靠、弹性可伸缩的IaaS级云计算服务。在这里你可以获取最新的ECS产品资讯、最前沿的技术交流以及优惠活动等信息,加速自己的技术成长。

相关电子书

更多
Web应用系统性能优化 立即下载
高性能Web架构之缓存体系 立即下载
PWA:移动Web的现在与未来 立即下载