据 IT 之家 12 月 19 日消息,在今天举办的 Baichuan2 Turbo 系列 API 发布会上,百川智能宣布开放基于搜索增强的 Baichuan2-Turbo 系列 API,两款模型“Baichuan2-Turbo-192K”、“Baichuan2-Turbo”,在“支持 192K 上下文窗口”的基础上,新增“搜索增强知识库”的能力。
王小川声称,百川智能通过长窗口 + 搜索增强的方式,在 192K 长上下文窗口的基础上,将大模型能够获取的文本规模提升至“相当于 1 亿汉字”的 5000 万 tokens,模型可以先根据用户的提示词,在海量的文档中检索出最相关的内容,再将这些文档与提示词一起放到长窗口中,从而节省推理费用与时间成本。
领取专属 10元无门槛券
私享最新 技术干货