比 DeepSeek V3.1 生成速度快 5 倍,调用成本仅为 70%,度娘搜索 AI 助手自研技术再更新
摘要:8 月 29 日,百度搜索 AI 助手已全量上线极速大模型,其自研技术能够大幅提升搜索结果生成速度。对比 DeepSeek V3.1,在效果持平情况下,生成速度是其 5 倍,而调用成本仅为 70%。 据悉,该技术聚焦大模型中最耗时、最烧钱的推理环节,全面优化百度 AI 助手的生成速度、调用成本和使用...,比 DeepSeek V3.1 生成速度快 5 倍,调用成本仅为 70%,度娘搜索 AI 助手自研技术再更新

8 月 29 日,百度搜索 AI 助手已全量上线极速大模型,其自研技术能够大幅提升搜索结果生成速度。对比 DeepSeek V3.1,在效果持平情况下,生成速度是其 5 倍,而调用成本仅为 70%。
据悉,该技术聚焦大模型中最耗时、最烧钱的推理环节,全面优化百度 AI 助手的生成速度、调用成本和使用效果。在该技术加持下,百度 AI 助手的首 token 返回时间缩短 39%,回答吐字速度加快 500%,为行业最快。
来源:互联网
