Mistral推出两款端侧AI模型 可一次性处理50页文档

【太平洋科技快讯】近日，Mistral公司宣布推出两款新型AI模型——Ministral 3B和Ministral 8B。这两款模型的设计宗旨是提升笔记本电脑和智能手机等设备的本地化AI体验。与传统的云服务器连接方式不同，这两款模型可直接在设备上运行。

即使在无互联网接入的情况下，Ministral 3B和8B也能提供翻译服务、本地分析和机器人等多项服务，满足用户多样化的需求。两款模型的上下文窗口均为128K，相当于可以一次性处理50页文档，展现了强大的数据处理能力。

Ministral 8B的价格为每百万个tokens 0.1美元(约合人民币：0.7元)，而3B版本则为0.04美元(约合人民币：0.28元)。较低的定价使得3B版本更适用于小规模操作和初创开发者。Ministral 8B采用了独特的交错滑动窗口注意力机制，这种设计在提高推理速度的同时，还能有效节省内存。