之前马斯克起诉OpenAI上了热搜!当时他起诉的理由就是OpenAI没有兑现承诺开源,后来还打趣说应该叫“CloseAI”!随后他宣布要开源自家的AI大模型!
近日,马斯克说到做到,他旗下的AI初创公司xAI宣布开源了3140亿参数Grok-1的大模型!
Grok-1是什么?
Grok-1是一个混合专家模型,这意味着它由多个专家系统组成,每个系统都擅长处理特定类型的任务。这种模型的设计使得Grok-1在处理大量数据时更加高效和精确。而3140亿参数的规模,让Grok-1成为迄今为止参数量最大的开源语言模型。
Grok-1的参数量是ChatGPT 3.5的近两倍,这使得它在理论上拥有更强的计算能力和更高的性能。但是,与其他模型相比,Grok-1的一个显著特点是它没有针对任何特定应用进行微调,这意味着它是一个更加“原始”的模型,为研究人员提供了更多的灵活性。
开源!随便商用!
而且Grok-1遵守Apache 2.0开源协议,这代表着用户可以自由地使用、修改和分发软件。
无论是个人学习使用还是二次开发进行商业使用,都是没问题的!由于马斯克的强大影响力,还有Grok-1的不俗的性能,项目已收到23k星星!
Grok-1如何部署使用?
去github上下载(见文末)Grok-1 开放权重模型的 JAX 示例代码(使用之前,用户需要确保先下载 checkpoint,并将 ckpt-0 目录放置在 checkpoint 中)
然后,运行下面代码进行测试:
pip install -r requirements.txtpython run.py
您可以使用 torrent 客户端和此磁力链接下载权重:
但是需要注意,由于模型规模较大(314B参数),需要有足够GPU内存的机器才能使用示例代码测试模型。这不是个人玩家可以部署的,谨慎使用!
项目地址:
https://github.com/xai-org/grok-1
领取专属 10元无门槛券
私享最新 技术干货