首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

排名前三!360开源70亿智脑大模型

360公司是一家领先的互联网安全公司,致力于通过创新技术为用户和企业提供全面的安全解决方案。

通过不断的技术研究和产品开发,360公司正在推动人工智能技术的发展,为建设一个更安全、更智能的数字世界做出贡献。

近日,360公司宣布其自主研发的7B参数大模型正式上线开源社区,这一里程碑事件标志着长文本处理能力的飞跃。

该模型支持最长360K的长文本输入,3秒内能够快速阅读完《三体》等长篇著作,为开发者和行业带来了前所未有的便利。

360智脑7B大模型的开源,意味着开发者可以轻松获取并使用这一强大的工具。

无论是基础模型还是4K、32K、360K三种不同文本长度的版本,都已在GitHub上公开,让开发者能够根据自己的需求进行微调和应用。

在技术实现上,360智脑7B大模型摒弃了传统的滑动窗口attention和跳跃attention等有损压缩技术,转而采用超长文本的无损压缩技术,这不仅保证了文本处理的质量,也大幅提升了效率。

在LongBench评测中,该模型以高分领跑,展现了其在长文本处理方面的强大能力。

通过OpenCompass的对比评测,360智脑7B大模型在同参数模型中综合能力排名前三。

在C-Eval、MMLU、HellaSwag、LAMBADA等多项评测中,该模型均取得了第一名的佳绩,显示出其在中英文知识和推理理解能力方面的竞争力。

360智脑7B大模型的开源,预示着长文本将成为大模型的标配。这不仅将推动国内大模型场景化落地,还将为大模型在应用层的创新提供重要支撑。

无论是在智能客服、内容推荐还是知识图谱构建等领域,360智脑7B大模型都将发挥重要作用。

360公司的这一创举,无疑将为人工智能行业带来深远的影响。

长文本处理能力的突破,将为AI技术的发展开辟新的道路,同时也为各行各业的数字化转型提供了强有力的支持。

直达链接:https://github.com/Qihoo360/360zhinao

  • 发表于:
  • 原文链接https://page.om.qq.com/page/O6vBRRrHYbGFzxsDz8ybCRcQ0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券