首先安装 Python 包:
pip install embedchain
安装包后,根据您的偏好,您可以选择使用以下内容:
本节提供了一个快速入门示例,展示了如何使用 Mistral 作为开源 LLM(大型语言模型)和 Sentence transformers 作为开源嵌入模型。这些模型是免费的,并且主要在您的本地机器上运行。
我们使用的是在 Hugging Face 上托管的 Mistral,因此您需要一个 Hugging Face 令牌来运行此示例。它是 免费 的,您可以在此处创建一个 here。
import os
# 将此行替换为您的 HF 令牌
os.environ["HUGGINGFACE_ACCESS_TOKEN"] = "hf_xxxx"
from embedchain import App
config = {
'llm': {
'provider': 'huggingface',
'config': {
'model': 'mistralai/Mistral-7B-Instruct-v0.2',
'top_p': 0.5
}
},
'embedder': {
'provider': 'huggingface',
'config': {
'model': 'sentence-transformers/all-mpnet-base-v2'
}
}
}
app = App.from_config(config=config)
app.add("https://www.forbes.com/profile/elon-musk")
app.add("https://en.wikipedia.org/wiki/Elon_Musk")
app.query("What is the net worth of Elon Musk today?")
# 回答:Elon Musk 今天的净资产是 2587 亿美元。
在本节中,我们将使用来自 OpenAI 的 LLM 和嵌入模型。
import os
from embedchain import App
# 将此行替换为您的 OpenAI 密钥
os.environ["OPENAI_API_KEY"] = "sk-xxxx"
app = App()
app.add("https://www.forbes.com/profile/elon-musk")
app.add("https://en.wikipedia.org/wiki/Elon_Musk")
app.query("What is the net worth of Elon Musk today?")
# 回答:Elon Musk 今天的净资产是 2587 亿美元。
本文系外文翻译,前往查看
如有侵权,请联系 cloudcommunity@tencent.com 删除。
本文系外文翻译,前往查看
如有侵权,请联系 cloudcommunity@tencent.com 删除。
扫码关注腾讯云开发者
领取腾讯云代金券
Copyright © 2013 - 2025 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号:粤B2-20090059 深公网安备号 44030502008569
腾讯云计算(北京)有限责任公司 京ICP证150476号 | 京ICP备11018762号 | 京公网安备号11010802020287
Copyright © 2013 - 2025 Tencent Cloud.
All Rights Reserved. 腾讯云 版权所有