ChatGPT很火,但是它是在线的无法本地部署!
但是很多企业或者个人都想在本地用自己的数据训练一个类似GPT的AI,
那么开源领域有没有解决方案呢?!
今天给大家介绍一个开源的程序:Anything-llm!
它用一个简洁的用户界面,来创建和管理你的私人聊天机器人!
Anything-llm是什么?
Anything-llm是一个全栈式的应用程序,可以帮助个人创建本地私有ChatGPT。
Anything-llm的核心功能是,它可以将任何文档、资源或内容转化为LLM可以使用的参考上下文,从而提高LLM的交互性和准确性。你可以选择使用任何商用或开源的LLM或矢量数据库,以及支持多用户管理和权限的功能。你还可以在会话和查询两种模式之间切换,以满足你不同的需求。
它支持权限管理和多类型文档文档(PDF、TXT、DOCX等)
链接到原始文档源和文本的聊天内引文
可云部署、可本地部署
可查询、可聊天两种对话模式
Anything-llm如何使用?
Anything-llm支持任何开源 llama.cpp 兼容模型。
Anything-llm支持LanceDB (default)、Pinecone、Chroma、Weaviate、QDrant多种向量数据库。
代码地址:
https://github.com/Mintplex-Labs/anything-llm
领取专属 10元无门槛券
私享最新 技术干货