百川智能披露To B技术路线:看好搜索增强大模型,文本获取规模增至1亿汉字
【百川智能披露To B技术路线:看好搜索增强大模型,文本获取规模增至1亿汉字】百川智能今日首次对外介绍了公司To B技术路线,同时宣布开放基于搜索增强的Baichuan2-Turbo系列API,包含Baichuan2-Turbo-192K及Baichuan2-Turbo。在支持192K超长上下文窗口的基础上,还增加了搜索增强知识库的能力。据王小川介绍,通过长窗口+搜索增强的方式,百川智能在192K长上下文窗口的基础上,将大模型能够获取的原本文本规模提升了两个数量级,达到5000万tokens——相当于1亿汉字。通过搜索增强,模型可以先根据用户的Prompt在海量的文档中检索出最相关的内容,再将这些文档与Prompt一起放到长窗口中,有效节省了推理费用和时间成本。(新浪科技)
本文系网络转载,不代表本站立场。
上一篇 : 中广天择今日涨停 一机构净卖出4999.52万元