部署DeepSeek模型,进群交流最in玩法!
立即加群
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
社区首页 >专栏 >用不同姿势给 DeepSeek 提示词的效果对比实验

用不同姿势给 DeepSeek 提示词的效果对比实验

作者头像
AlphaHinex
发布2025-03-24 14:06:23
发布2025-03-24 14:06:23
5400
代码可运行
举报
文章被收录于专栏:周拱壹卒周拱壹卒
运行总次数:0
代码可运行

在 DeepSeek-R1 的官方 GitHub 仓库 中,有如下一段推荐用法:

其中黑体字高亮的第二点提到:

避免添加系统提示词;所有指令应该被包含进用户提示词中。

这与其他 LLM 的通常用法有所不同。

那么在 DeepSeek-R1 系列模型中,用不同方式给提示词的效果有何不同呢?

TL; DR

本文除使用一些官方提示词对比实验外,还构建了一个复杂一些的场景:将 DeepSeek 作为一个知识问答助手,在一定限制条件下回答用户的问题。

先说实验结论:

  1. 在简单场景(如官方示例的提示库)下,使用系统提示词和用户提示词的效果相同。
  2. 在较为复杂的场景(如官方应用联网搜索提示词)下,使用用户提示词比系统提示词效果更好。
  3. 希望 DeepSeek 对提示词中指令遵循效果更好时,可以使用用户提示词(略微提升),或降低温度(效果明显)。
  4. 多轮对话场景中,使用用户提示词效果明显要好于系统提示词;用户提示词在多轮对话中的位置在测试结果中区别体现不明显,实际业务场景中提示词位置贴近用户最后问题的效果更好;倒第二和问题内两个位置差异不明显,可根据开发便捷性进行取舍。

场景

提示词位置

温度

流式接口结果

非流式接口结果

分类

SYSTEM

1.0

3 / 3

3 / 3

分类

USER

1.0

3 / 3

3 / 3

问答 - 不考虑限制

SYSTEM

0.6

3 / 3

3 / 3

问答 - 不考虑限制

USER

0.6

3 / 3

3 / 3

问答 - 定制 - 指令遵循

SYSTEM

0.6

6 / 10

5 / 10

问答 - 定制 - 指令遵循

SYSTEM

0

10 / 10

10 / 10

问答 - 定制 - 指令遵循

USER

0.6

7 / 10

6 / 10

问答 - 定制 - 指令遵循

USER

0

10 / 10

10 / 10

问答 - 定制 - 多轮对话

SYSTEM

0.6

7 / 10

5 / 10

问答 - 定制 - 多轮对话

SYSTEM

0

1 / 10

1 / 10

问答 - 定制 - 多轮对话

USER 第一条

0.6

8 / 10

9 / 10

问答 - 定制 - 多轮对话

USER 第一条

0

10 / 10

10 / 10

问答 - 定制 - 多轮对话

USER 倒第二

0.6

8 / 10

9 / 10

问答 - 定制 - 多轮对话

USER 倒第二

0

10 / 10

10 / 10

问答 - 定制 - 多轮对话

USER 问题内

0.6

9 / 10

8 / 10

问答 - 定制 - 多轮对话

USER 问题内

0

10 / 10

10 / 10

注:结果中的数字表示多次实验中结果符合预期的次数,即分数值越接近 1 效果越好。

实验工具

  • 模型使用 DeepSeek 蒸馏版本:DeepSeek-R1-Distill-Qwen-32B
  • 通过 vllm 将模型发布成兼容 OpenAI 接口格式的 HTTP 服务
  • 使用 chat-llms 执行测试

场景1:官方示例提示库内容分类

官方 DeepSeek API 文档的 提示库 中有一些提示词样例,并给出了通过 python 代码使用这些提示词的方式,如:

测试

使用 chat-llms 工具进行实验,对比将指令放入系统提示词和包含进用户提示词的效果(temperature 设置为 1),待分类的文字内容为官方示例中的内容,预期结果为分类至 科技

SYSTEM

测试使用系统提示词时,需要为 chat-llms 工具准备两个配置文件(未包含模型配置文件):

system_prompt.txt

代码语言:javascript
代码运行次数:0
运行
复制
#### 定位
- 智能助手名称 :新闻分类专家
- 主要任务 :对输入的新闻文本进行自动分类,识别其所属的新闻种类。

#### 能力
- 文本分析 :能够准确分析新闻文本的内容和结构。
- 分类识别 :根据分析结果,将新闻文本分类到预定义的种类中。

#### 知识储备
- 新闻种类 :
  - 政治
  - 经济
  - 科技
  - 娱乐
  - 体育
  - 教育
  - 健康
  - 国际
  - 国内
  - 社会

#### 使用说明
- 输入 :一段新闻文本。
- 输出 :只输出新闻文本所属的种类,不需要额外解释。

chat_history.json

代码语言:javascript
代码运行次数:0
运行
复制
[
    {
        "content": "美国太空探索技术公司(SpaceX)的猎鹰9号运载火箭(Falcon 9)在经历美国联邦航空管理局(Federal Aviation Administration,FAA)短暂叫停发射后,于当地时间8月31日凌晨重启了发射任务。",
        "role": "user"
    }
]

回答

非流式1

科技

非流式2

科技

非流式3

科技

流式1

科技

流式2

科技

流式3

科技

USER

测试用户提示词时,只需要一个配置文件(除了模型配置文件):

chat_history.json

代码语言:javascript
代码运行次数:0
运行
复制
[
    {
        "content": "#### 定位\n- 智能助手名称 :新闻分类专家\n- 主要任务 :对输入的新闻文本进行自动分类,识别其所属的新闻种类。\n\n#### 能力\n- 文本分析 :能够准确分析新闻文本的内容和结构。\n- 分类识别 :根据分析结果,将新闻文本分类到预定义的种类中。\n\n#### 知识储备\n- 新闻种类 :\n  - 政治\n  - 经济\n  - 科技\n  - 娱乐\n  - 体育\n  - 教育\n  - 健康\n  - 国际\n  - 国内\n  - 社会\n\n#### 使用说明\n- 输入 :一段新闻文本。\n- 输出 :只输出新闻文本所属的种类,不需要额外解释。\n\n#### 用户输入\n美国太空探索技术公司(SpaceX)的猎鹰9号运载火箭(Falcon 9)在经历美国联邦航空管理局(Federal Aviation Administration,FAA)短暂叫停发射后,于当地时间8月31日凌晨重启了发射任务。",
        "role": "user"
    }
]

回答

非流式1

科技

非流式2

科技

非流式3

科技

流式1

科技

流式2

科技

流式3

科技

小结

均得到符合预期的分类结果。

场景

提示词位置

温度

流式接口结果

非流式接口结果

分类

SYSTEM

1.0

3 / 3

3 / 3

分类

USER

1.0

3 / 3

3 / 3

注:结果中的数字表示多次实验中结果符合预期的次数。

场景2:知识问答

接下来构建一个复杂一些的场景:

将官方 DeepSeek API 文档 常见问题 中的内容作为 知识库,使 DeepSeek 成为一个知识问答助手。

这里设定几个限制条件:

  1. 回答的内容需要标明引用来源;
  2. 超出 知识库 内容范围的问题不予作答;
  3. 回答中不能包括 知识库 中不存在的内容;
  4. 回答中不要提及 知识库

2.1 官方联网搜索提示词

Official Prompts 中提供了 DeepSeek 官方 web/app 联网搜索 功能使用的提示词及配置:

测试

先不考虑上面提到的限制条件,直接用官方提示词和推荐温度值 0.6 看看回答的情况。

SYSTEM

system_prompt.txt

代码语言:javascript
代码运行次数:0
运行
复制
# 以下内容是基于用户发送的消息的搜索结果:
[faq 1 begin]
账号无法登录
您账号近期的行为可能触发了我们的自动化风控策略,导致我们暂时关闭了您对账号的访问权限。如需申诉,请填写[问卷](https://trtgsjkv6r.feishu.cn/share/base/form/shrcnDOeld9kcILX57EdfRT8iDg),我们会尽快处理。
[faq 1 end]
[faq 2 begin]
邮箱无法注册
如果您在注册时,收到错误提示“注册失败,暂不支持该邮箱域名注册。”,这是因为您的邮箱不被 DeepSeek 支持,请切换邮箱服务提供商。如仍有问题,请联系 service@deepseek.com。
[faq 2 end]
[faq 3 begin]
个人实名认证与企业实名认证有什么区别?
个人实名认证账号与企业实名认证账号在用户权益和产品功能上目前没有区别,但认证方式和所需材料有所不同。根据合规要求,请以您账号的实际使用情况进行认证。
[faq 3 end]
[faq 4 begin]
企业实名账号可以更改为个人账号吗?
企业实名认证账号不可变更为个人认证或其他企业。
[faq 4 end]
[faq 5 begin]
如何充值?
在线充值:完成实名认证后,您可以在充值页使用支付宝/微信进行在线充值。您可以在账单页查询充值结果。

对公汇款:对公汇款仅支持企业用户。完成企业实名认证后,可获取专属汇款账号,向专属汇款账号进行打款。为保证汇款顺利进行,请确保汇款方开户名称与开放平台实名认证名称一致。我方银行账户到账后,汇款金额将在 10 分钟- 1 小时左右自动转入您的开放平台账户,如未及时收到,请联系我们。
[faq 5 end]
[faq 6 begin]
余额是否会过期?
充值余额不会失效过期。赠送余额的有效期您可以在[账单页](https://platform.deepseek.com/transactions)查看。
[faq 6 end]
[faq 7 begin]
如何申请发票?
请访问[账单](https://platform.deepseek.com/transactions)页,点击发票管理,申请发票。企业用户开具发票时,发票抬头需要与实名认证信息一致,目前开发票的周期为 7 个工作日左右。
[faq 7 end]
[faq 8 begin]
调用模型时的并发限制是多少?是否可以提高账号的并发上限?
当前阶段,我们没有按照用户设置硬性并发上限。在系统总负载量较高时,基于系统负载和用户短时历史用量的动态限流模型可能会导致用户收到 503 或 429 错误码。

目前暂不支持针对单个账号提高并发上限,感谢您的理解。
[faq 8 end]
[faq 9 begin]
为什么我感觉 API 返回比网页端慢
网页端默认使用流式输出(stream=true),即模型每输出一个字符,都会增量地显示在前端。

API 默认使用非流式输出(stream=false),即模型在所有内容输出完后,才会返回给用户。您可以通过开启 API 的 stream 模式来提升交互性。
[faq 9 end]
[faq 10 begin]
为什么调用 API 时,持续返回空行?
为了保持 TCP 连接不会因超时中断,我们会在请求等待调度过程中,持续返回空行(非流式请求)或 SSE keep-alive 注释(: keep-alive,流式请求)。如果您在自己解析 HTTP 响应,请注意处理这些空行或注释。
[faq 10 end]
[faq 11 begin]
是否支持 LangChain?
支持。LangChain 支持 OpenAI API 接口,而 DeepSeek API 接口与 OpenAI 兼容。您可以下载以下代码文件并替换代码中的 API Key,实现在 LangChain 中调用 DeepSeek API。

[deepseek_langchain.py](https://cdn.deepseek.com/api-docs/deepseek_langchain.py)
[faq 11 end]
[faq 12 begin]
如何离线计算 Tokens 用量?
请参考 [Token 用量计算](https://api-docs.deepseek.com/zh-cn/quick_start/token_usage)
[faq 12 end]
在我给你的搜索结果中,每个结果都是[faq X begin]...[faq X end]格式的,X代表每篇文章的数字索引。请在适当的情况下在句子末尾引用上下文。请按照引用编号[citation:X]的格式在答案中对应部分引用上下文。如果一句话源自多个上下文,请列出所有相关的引用编号,例如[citation:3][citation:5],切记不要将引用集中在最后返回引用编号,而是在答案对应部分列出。
在回答时,请注意以下几点:
- 今天是2025年3月23日。
- 并非搜索结果的所有内容都与用户的问题密切相关,你需要结合问题,对搜索结果进行甄别、筛选。
- 对于列举类的问题(如列举所有航班信息),尽量将答案控制在10个要点以内,并告诉用户可以查看搜索来源、获得完整信息。优先提供信息完整、最相关的列举项;如非必要,不要主动告诉用户搜索结果未提供的内容。
- 对于创作类的问题(如写论文),请务必在正文的段落中引用对应的参考编号,例如[citation:3][citation:5],不能只在文章末尾引用。你需要解读并概括用户的题目要求,选择合适的格式,充分利用搜索结果并抽取重要信息,生成符合用户要求、极具思想深度、富有创造力与专业性的答案。你的创作篇幅需要尽可能延长,对于每一个要点的论述要推测用户的意图,给出尽可能多角度的回答要点,且务必信息量大、论述详尽。
- 如果回答很长,请尽量结构化、分段落总结。如果需要分点作答,尽量控制在5个点以内,并合并相关的内容。
- 对于客观类的问答,如果问题的答案非常简短,可以适当补充一到两句相关信息,以丰富内容。
- 你需要根据用户要求和回答内容选择合适、美观的回答格式,确保可读性强。
- 你的回答应该综合多个相关 faq 来回答,不能重复引用一个 faq。
- 除非用户要求,否则你回答的语言需要和用户提问的语言保持一致。

chat_history.json

代码语言:javascript
代码运行次数:0
运行
复制
[
    {
        "content": "如何登录",
        "role": "user"
    }
]

回答

非流式1

根据搜索结果,目前没有直接提供登录步骤的FAQ,但如果您遇到账号无法登录的问题,可能是因为触发了风控策略,建议您填写申诉问卷进行处理[citation:1]。如果有其他问题,请联系客服获取帮助。

非流式2

根据提供的搜索结果,没有直接提供关于“如何登录”的具体步骤。不过,如果遇到登录问题,例如账号无法登录,可能是因为触发了风控策略,建议填写申诉问卷进行处理[citation:1]。如果有其他登录相关的问题,建议联系客服或参考平台提供的帮助文档。

非流式3

要登录您的账户,请按照以下步骤操作:1. 访问登录页面:前往DeepSeek的官方网站或指定的登录界面。2. 输入登录信息:在登录页面输入您的用户名和密码。确保您输入的信息正确无误。3. 完成验证:根据提示完成任何额外的验证步骤,例如短信验证码或邮箱验证。4. 检查账户状态:如果您无法登录,可能是由于账户被暂时限制访问。请检查是否有任何系统通知或限制信息。5. 重置密码:如果忘记密码,可以通过“忘记密码”功能重置您的密码。按照系统提示完成验证和密码设置。6. 联系客服:如果仍然无法登录,建议联系DeepSeek的客服团队寻求帮助。您可以填写申诉问卷进行申诉,他们会尽快处理您的问题[citation:1]。确保您的设备和网络连接正常,避免使用公共网络进行敏感操作。如有进一步的问题,建议查阅相关帮助文档或联系技术支持。

流式1

如果您遇到登录问题,可以按照以下步骤进行操作:1. 检查账号状态:如果您尝试登录时遇到问题,可能是由于账号触发了风控策略,导致暂时无法访问。这种情况下,您可以填写申诉问卷,我们会尽快处理[citation:1]。2. 填写申诉问卷:如果您的账号被限制登录,可以通过填写申诉问卷来申请解除限制[citation:1]。3. 检查密码和登录信息:确保您输入的密码和账号信息正确无误。如果忘记密码,可以通过找回密码功能重置。4. 联系客服:如果问题仍未解决,您可以联系我们的客服团队,提供更多详细信息以便进一步协助。希望以上信息能帮助您顺利登录。如果有其他问题,欢迎随时咨询。

流式2

如果您的账号无法登录,可能是因为近期行为触发了自动化风控策略,导致访问权限被暂时关闭。此时,您可以填写申诉问卷进行申诉,工作人员会尽快处理[citation:1]。如果您是正常登录,请确保:1. 使用正确的账号和密码;2. 确认账号未被封禁或限制;3. 检查网络连接是否正常;4. 尝试清除浏览器缓存或更换浏览器;5. 如果使用手机登录,确保已安装最新版本的官方APP。如果问题仍未解决,建议联系DeepSeek的客服团队获取进一步帮助。

流式3

关于如何登录的问题,根据提供的搜索结果,没有直接提到登录的具体步骤或常见问题的解决方法。不过,您可以参考以下建议:1. 检查登录凭证:确保您输入的账号和密码正确无误。2. 网络和浏览器设置:确认您的网络连接正常,并尝试使用不同的浏览器或设备登录。3. 申诉流程:如果您遇到登录问题,可能是由于触发了风控策略,您可以填写问卷进行申诉[citation:1]。4. 联系客服:如果问题仍未解决,您可以联系客服获取进一步的帮助。如果您有具体的登录问题或错误提示,提供更多细节可以帮助更好地解答。

USER

chat_history.json

代码语言:javascript
代码运行次数:0
运行
复制
[
    {
        "content": "# 以下内容是基于用户发送的消息的搜索结果:\n[faq 1 begin]\n账号无法登录\n您账号近期的行为可能触发了我们的自动化风控策略,导致我们暂时关闭了您对账号的访问权限。如需申诉,请填写[问卷](https://trtgsjkv6r.feishu.cn/share/base/form/shrcnDOeld9kcILX57EdfRT8iDg),我们会尽快处理。\n[faq 1 end]\n[faq 2 begin]\n邮箱无法注册\n如果您在注册时,收到错误提示“注册失败,暂不支持该邮箱域名注册。”,这是因为您的邮箱不被 DeepSeek 支持,请切换邮箱服务提供商。如仍有问题,请联系 service@deepseek.com。\n[faq 2 end]\n[faq 3 begin]\n个人实名认证与企业实名认证有什么区别?\n个人实名认证账号与企业实名认证账号在用户权益和产品功能上目前没有区别,但认证方式和所需材料有所不同。根据合规要求,请以您账号的实际使用情况进行认证。\n[faq 3 end]\n[faq 4 begin]\n企业实名账号可以更改为个人账号吗?\n企业实名认证账号不可变更为个人认证或其他企业。\n[faq 4 end]\n[faq 5 begin]\n如何充值?\n在线充值:完成实名认证后,您可以在充值页使用支付宝/微信进行在线充值。您可以在账单页查询充值结果。\n\n对公汇款:对公汇款仅支持企业用户。完成企业实名认证后,可获取专属汇款账号,向专属汇款账号进行打款。为保证汇款顺利进行,请确保汇款方开户名称与开放平台实名认证名称一致。我方银行账户到账后,汇款金额将在 10 分钟- 1 小时左右自动转入您的开放平台账户,如未及时收到,请联系我们。\n[faq 5 end]\n[faq 6 begin]\n余额是否会过期?\n充值余额不会失效过期。赠送余额的有效期您可以在[账单页](https://platform.deepseek.com/transactions)查看。\n[faq 6 end]\n[faq 7 begin]\n如何申请发票?\n请访问[账单](https://platform.deepseek.com/transactions)页,点击发票管理,申请发票。企业用户开具发票时,发票抬头需要与实名认证信息一致,目前开发票的周期为 7 个工作日左右。\n[faq 7 end]\n[faq 8 begin]\n调用模型时的并发限制是多少?是否可以提高账号的并发上限?\n当前阶段,我们没有按照用户设置硬性并发上限。在系统总负载量较高时,基于系统负载和用户短时历史用量的动态限流模型可能会导致用户收到 503 或 429 错误码。\n\n目前暂不支持针对单个账号提高并发上限,感谢您的理解。\n[faq 8 end]\n[faq 9 begin]\n为什么我感觉 API 返回比网页端慢\n网页端默认使用流式输出(stream=true),即模型每输出一个字符,都会增量地显示在前端。\n\nAPI 默认使用非流式输出(stream=false),即模型在所有内容输出完后,才会返回给用户。您可以通过开启 API 的 stream 模式来提升交互性。\n[faq 9 end]\n[faq 10 begin]\n为什么调用 API 时,持续返回空行?\n为了保持 TCP 连接不会因超时中断,我们会在请求等待调度过程中,持续返回空行(非流式请求)或 SSE keep-alive 注释(: keep-alive,流式请求)。如果您在自己解析 HTTP 响应,请注意处理这些空行或注释。\n[faq 10 end]\n[faq 11 begin]\n是否支持 LangChain?\n支持。LangChain 支持 OpenAI API 接口,而 DeepSeek API 接口与 OpenAI 兼容。您可以下载以下代码文件并替换代码中的 API Key,实现在 LangChain 中调用 DeepSeek API。\n\n[deepseek_langchain.py](https://cdn.deepseek.com/api-docs/deepseek_langchain.py)\n[faq 11 end]\n[faq 12 begin]\n如何离线计算 Tokens 用量?\n请参考 [Token 用量计算](https://api-docs.deepseek.com/zh-cn/quick_start/token_usage)\n[faq 12 end]\n在我给你的搜索结果中,每个结果都是[faq X begin]...[faq X end]格式的,X代表每篇文章的数字索引。请在适当的情况下在句子末尾引用上下文。请按照引用编号[citation:X]的格式在答案中对应部分引用上下文。如果一句话源自多个上下文,请列出所有相关的引用编号,例如[citation:3][citation:5],切记不要将引用集中在最后返回引用编号,而是在答案对应部分列出。\n在回答时,请注意以下几点:\n- 今天是2025年3月23日。\n- 并非搜索结果的所有内容都与用户的问题密切相关,你需要结合问题,对搜索结果进行甄别、筛选。\n- 对于列举类的问题(如列举所有航班信息),尽量将答案控制在10个要点以内,并告诉用户可以查看搜索来源、获得完整信息。优先提供信息完整、最相关的列举项;如非必要,不要主动告诉用户搜索结果未提供的内容。\n- 对于创作类的问题(如写论文),请务必在正文的段落中引用对应的参考编号,例如[citation:3][citation:5],不能只在文章末尾引用。你需要解读并概括用户的题目要求,选择合适的格式,充分利用搜索结果并抽取重要信息,生成符合用户要求、极具思想深度、富有创造力与专业性的答案。你的创作篇幅需要尽可能延长,对于每一个要点的论述要推测用户的意图,给出尽可能多角度的回答要点,且务必信息量大、论述详尽。\n- 如果回答很长,请尽量结构化、分段落总结。如果需要分点作答,尽量控制在5个点以内,并合并相关的内容。\n- 对于客观类的问答,如果问题的答案非常简短,可以适当补充一到两句相关信息,以丰富内容。\n- 你需要根据用户要求和回答内容选择合适、美观的回答格式,确保可读性强。\n- 你的回答应该综合多个相关 faq 来回答,不能重复引用一个 faq。\n- 除非用户要求,否则你回答的语言需要和用户提问的语言保持一致。\n\n# 用户消息为:\n如何登录",
        "role": "user"
    }
]

回答

非流式1

要登录您的账户,请按照以下步骤操作:1. 访问登录页面:首先,访问DeepSeek的官方网站或相关登录界面。2. 输入登录信息:在登录页面,输入您的注册邮箱和密码。确保信息准确无误。3. 使用第三方登录(如适用):部分平台支持通过邮箱、手机号或第三方账号(如微信、支付宝)进行登录。4. 检查账号状态:如果您无法登录,可能是因为账号触发了风控策略,导致暂时无法访问。此时,请填写申诉问卷以恢复访问权限[citation:1]。5. 重置密码:如果忘记密码,可以通过“忘记密码”功能重置。系统会发送一封包含重置链接的邮件到您的注册邮箱。6. 企业实名认证:如果您使用的是企业账号,确保已完成企业实名认证,以便享有更多功能和权益[citation:3][citation:4]。如果仍有问题,请联系客服获取进一步帮助。

非流式2

根据搜索结果,目前没有直接提供“如何登录”的具体步骤,但您可以参考以下信息:1. 账号登录问题:如果您的账号无法登录,可能是因为触发了自动化风控策略。您可以填写问卷进行申诉,我们会尽快处理[citation:1]。2. 邮箱注册问题:如果您在注册时遇到“注册失败,暂不支持该邮箱域名注册”的提示,请切换邮箱服务提供商[citation:2]。3. 实名认证:完成实名认证后,您可以使用支付宝/微信进行在线充值,并在账单页查询充值结果[citation:5]。4. 发票申请:您可以在账单页申请发票,企业用户开具发票时,发票抬头需要与实名认证信息一致[citation:7]。5. API 调用问题:如果在调用 API 时遇到问题,例如返回空行或并发限制,请参考相关文档或联系客服获取帮助[citation:8][citation:10]。如果您有具体的登录问题或需要进一步的帮助,请提供更多详细信息,以便我们更好地为您解答。

非流式3

根据搜索结果,关于登录的问题,您可以参考以下信息:1. 登录步骤 请访问登录页面,输入您的账号和密码进行登录。如果遇到登录问题,可能是由于账号行为触发了风控策略,导致暂时无法访问。此时,您可以填写申诉问卷进行申诉,我们会尽快处理[citation:1]。2. 实名认证要求 在登录后,建议您完成实名认证以享有更多权益。个人实名认证和企业实名认证在功能上没有区别,但认证方式和所需材料不同。企业实名认证完成后不可更改为个人账号[citation:3][citation:4]。3. 其他问题 如果您在登录过程中遇到其他问题,例如邮箱注册问题或API调用问题,可以参考相关FAQ获取帮助[citation:2][citation:8][citation:10]。如仍有疑问,欢迎联系客服获取进一步支持。

流式1

要登录系统,请按照以下步骤操作:1. 访问登录页面:打开浏览器,输入登录地址,进入登录页面。2. 输入账号信息:在登录页面输入您的用户名或注册邮箱。3. 输入密码:在密码栏输入您的登录密码。如果忘记了密码,可以使用“忘记密码”功能重置。4. 验证身份:根据系统提示,可能需要输入验证码或进行其他身份验证步骤。5. 登录成功:验证通过后,点击“登录”按钮,进入系统。如果在登录过程中遇到问题,例如账号被锁定或无法访问,可能是因为触发了风控策略。您可以参考FAQ 1填写申诉问卷,以便尽快恢复登录权限[citation:1]。此外,确保您的账号状态正常,如账号未被暂停或封禁。如果仍有困难,建议联系客服获取进一步帮助。

流式2

根据搜索结果,关于如何登录的问题,目前没有直接提供详细的登录步骤或方法。不过,您可以参考以下信息:1. 账号登录问题:如果您在登录时遇到问题,可能是由于账号触发了风控策略,导致暂时无法登录。您可以填写申诉问卷进行申诉,我们会尽快处理[citation:1]。2. 账号状态检查:如果您尚未登录,建议您访问DeepSeek的官方网站或相关平台,使用您的注册邮箱和密码进行登录。如果忘记密码,可以尝试通过“忘记密码”功能重置密码。3. 实名认证:如果您需要进行实名认证或企业认证,可以参考相关FAQ了解认证流程和要求[citation:3][citation:4]。如果还有其他问题,请提供更多具体信息,以便我们更好地帮助您!

流式3

根据搜索结果,关于如何登录的问题,您可以参考以下步骤:1. 访问登录页面:首先,您需要访问 DeepSeek 的登录页面。您可以通过浏览器输入 DeepSeek 的官方网站地址,然后找到登录入口。2. 输入账号信息:在登录页面,您需要输入您的账号信息。通常,这包括您的邮箱地址和密码。3. 完成登录:输入正确的账号信息后,点击登录按钮,系统会验证您的信息。如果验证成功,您将进入 DeepSeek 的用户界面。4. 注意事项:如果您在登录过程中遇到问题,例如账号无法登录,可能是因为您的账号触发了风控策略。您可以填写申诉问卷进行申诉,我们会尽快处理[citation:1]。如果还有其他问题,可以随时联系我们的客服支持。

小结

由上面罗列的回答内容可以看到,无论是作为系统提示词还是用户提示词,DeepSeek 都能基于知识库内容进行作答,并引用了其中最相关的关于 账号无法登录 的问题。

但使用 用户提示词 时,回答中引用的知识更多,回答更丰富,体验更好。

场景

提示词位置

温度

流式接口结果

非流式接口结果

问答 - 不考虑限制

SYSTEM

0.6

3 / 3

3 / 3

问答 - 不考虑限制

USER

0.6

3 / 3

3 / 3

2.2 定制提示词

现在加上限制条件,使用定制版本提示词:

代码语言:javascript
代码运行次数:0
运行
复制
请你扮演一个无情的答题机器人,能回答与题库里内容相关的问题,除此之外一律回答不知道。

回答时需注意:
1. 今天是2025年3月23日。
2. 回答内容中不能提到题库。
3. 与题库中内容无关的问题(如:你是谁)不用思考,直接回答不知道。

以下是题库内容,每道题都是[faq X begin]...[faq X end]格式的,X代表题目的数字索引,第一行代表问题,之后内容为答案。请在回答时在句子末尾引用上下文。请按照引用编号[citation:X]的格式在答案中对应部分引用上下文。如果一句话源自多个上下文,请列出所有相关的引用编号,例如[citation:3][citation:5],切记不要将引用集中在最后返回引用编号,而是在答案对应部分列出。
[faq 1 begin]
...
[faq 1 end]
...

2.2.1 指令遵循

测试

使用定制版提示词,分别测试作为系统提示词和用户提示词以及使用不同温度时,问一个与知识库无关的问题:今天星期几,预期回答不知道。

SYSTEM

system_prompt.txt

代码语言:javascript
代码运行次数:0
运行
复制
请你扮演一个无情的答题机器人,能回答与题库里内容相关的问题,除此之外一律回答不知道。

回答时需注意:
1. 今天是2025年3月23日。
2. 回答内容中不能提到题库。
3. 与题库中内容无关的问题(如:你是谁)不用思考,直接回答不知道。

以下是题库内容,每道题都是[faq X begin]...[faq X end]格式的,X代表题目的数字索引,第一行代表问题,之后内容为答案。请在回答时在句子末尾引用上下文。请按照引用编号[citation:X]的格式在答案中对应部分引用上下文。如果一句话源自多个上下文,请列出所有相关的引用编号,例如[citation:3][citation:5],切记不要将引用集中在最后返回引用编号,而是在答案对应部分列出。
[faq 1 begin]
账号无法登录
您账号近期的行为可能触发了我们的自动化风控策略,导致我们暂时关闭了您对账号的访问权限。如需申诉,请填写[问卷](https://trtgsjkv6r.feishu.cn/share/base/form/shrcnDOeld9kcILX57EdfRT8iDg),我们会尽快处理。
[faq 1 end]
[faq 2 begin]
邮箱无法注册
如果您在注册时,收到错误提示“注册失败,暂不支持该邮箱域名注册。”,这是因为您的邮箱不被 DeepSeek 支持,请切换邮箱服务提供商。如仍有问题,请联系 service@deepseek.com。
[faq 2 end]
[faq 3 begin]
个人实名认证与企业实名认证有什么区别?
个人实名认证账号与企业实名认证账号在用户权益和产品功能上目前没有区别,但认证方式和所需材料有所不同。根据合规要求,请以您账号的实际使用情况进行认证。
[faq 3 end]
[faq 4 begin]
企业实名账号可以更改为个人账号吗?
企业实名认证账号不可变更为个人认证或其他企业。
[faq 4 end]
[faq 5 begin]
如何充值?
在线充值:完成实名认证后,您可以在充值页使用支付宝/微信进行在线充值。您可以在账单页查询充值结果。

对公汇款:对公汇款仅支持企业用户。完成企业实名认证后,可获取专属汇款账号,向专属汇款账号进行打款。为保证汇款顺利进行,请确保汇款方开户名称与开放平台实名认证名称一致。我方银行账户到账后,汇款金额将在 10 分钟- 1 小时左右自动转入您的开放平台账户,如未及时收到,请联系我们。
[faq 5 end]
[faq 6 begin]
余额是否会过期?
充值余额不会失效过期。赠送余额的有效期您可以在[账单页](https://platform.deepseek.com/transactions)查看。
[faq 6 end]
[faq 7 begin]
如何申请发票?
请访问[账单](https://platform.deepseek.com/transactions)页,点击发票管理,申请发票。企业用户开具发票时,发票抬头需要与实名认证信息一致,目前开发票的周期为 7 个工作日左右。
[faq 7 end]
[faq 8 begin]
调用模型时的并发限制是多少?是否可以提高账号的并发上限?
当前阶段,我们没有按照用户设置硬性并发上限。在系统总负载量较高时,基于系统负载和用户短时历史用量的动态限流模型可能会导致用户收到 503 或 429 错误码。

目前暂不支持针对单个账号提高并发上限,感谢您的理解。
[faq 8 end]
[faq 9 begin]
为什么我感觉 API 返回比网页端慢
网页端默认使用流式输出(stream=true),即模型每输出一个字符,都会增量地显示在前端。

API 默认使用非流式输出(stream=false),即模型在所有内容输出完后,才会返回给用户。您可以通过开启 API 的 stream 模式来提升交互性。
[faq 9 end]
[faq 10 begin]
为什么调用 API 时,持续返回空行?
为了保持 TCP 连接不会因超时中断,我们会在请求等待调度过程中,持续返回空行(非流式请求)或 SSE keep-alive 注释(: keep-alive,流式请求)。如果您在自己解析 HTTP 响应,请注意处理这些空行或注释。
[faq 10 end]
[faq 11 begin]
是否支持 LangChain?
支持。LangChain 支持 OpenAI API 接口,而 DeepSeek API 接口与 OpenAI 兼容。您可以下载以下代码文件并替换代码中的 API Key,实现在 LangChain 中调用 DeepSeek API。

[deepseek_langchain.py](https://cdn.deepseek.com/api-docs/deepseek_langchain.py)
[faq 11 end]
[faq 12 begin]
如何离线计算 Tokens 用量?
请参考 [Token 用量计算](https://api-docs.deepseek.com/zh-cn/quick_start/token_usage)
[faq 12 end]

chat_history.json

代码语言:javascript
代码运行次数:0
运行
复制
[
    {
        "content": "今天星期几",
        "role": "user"
    }
]

分别多次测试温度为 00.6 的情况,温度值较低时,指令遵循的情况更好。未按预期回答 不知道 的回答中,有的直接回答了这个问题(有答对有答错的),并给出了错误的引用,如:

代码语言:javascript
代码运行次数:0
运行
复制
今天是星期日。[citation:1]
代码语言:javascript
代码运行次数:0
运行
复制
今天是星期日。[citation:今天是2025年3月23日]
代码语言:javascript
代码运行次数:0
运行
复制
今天是2025年3月23日,星期六。[citation:1]

场景

提示词位置

温度

流式接口结果

非流式接口结果

问答 - 定制 - 指令遵循

SYSTEM

0.6

6 / 10

5 / 10

问答 - 定制 - 指令遵循

SYSTEM

0

10 / 10

10 / 10

USER

chat_history.json

代码语言:javascript
代码运行次数:0
运行
复制
[
    {
        "content": "请你扮演一个无情的答题机器人,能回答与题库里内容相关的问题,除此之外一律回答不知道。\n\n回答时需注意:\n1. 今天是2025年3月23日。\n2. 回答内容中不能提到题库。\n3. 与题库中内容无关的问题(如:你是谁)不用思考,直接回答不知道。\n\n以下是题库内容,每道题都是[faq X begin]...[faq X end]格式的,X代表题目的数字索引,第一行代表问题,之后内容为答案。请在回答时在句子末尾引用上下文。请按照引用编号[citation:X]的格式在答案中对应部分引用上下文。如果一句话源自多个上下文,请列出所有相关的引用编号,例如[citation:3][citation:5],切记不要将引用集中在最后返回引用编号,而是在答案对应部分列出。\n[faq 1 begin]\n账号无法登录\n您账号近期的行为可能触发了我们的自动化风控策略,导致我们暂时关闭了您对账号的访问权限。如需申诉,请填写[问卷](https://trtgsjkv6r.feishu.cn/share/base/form/shrcnDOeld9kcILX57EdfRT8iDg),我们会尽快处理。\n[faq 1 end]\n[faq 2 begin]\n邮箱无法注册\n如果您在注册时,收到错误提示“注册失败,暂不支持该邮箱域名注册。”,这是因为您的邮箱不被 DeepSeek 支持,请切换邮箱服务提供商。如仍有问题,请联系 service@deepseek.com。\n[faq 2 end]\n[faq 3 begin]\n个人实名认证与企业实名认证有什么区别?\n个人实名认证账号与企业实名认证账号在用户权益和产品功能上目前没有区别,但认证方式和所需材料有所不同。根据合规要求,请以您账号的实际使用情况进行认证。\n[faq 3 end]\n[faq 4 begin]\n企业实名账号可以更改为个人账号吗?\n企业实名认证账号不可变更为个人认证或其他企业。\n[faq 4 end]\n[faq 5 begin]\n如何充值?\n在线充值:完成实名认证后,您可以在充值页使用支付宝/微信进行在线充值。您可以在账单页查询充值结果。\n\n对公汇款:对公汇款仅支持企业用户。完成企业实名认证后,可获取专属汇款账号,向专属汇款账号进行打款。为保证汇款顺利进行,请确保汇款方开户名称与开放平台实名认证名称一致。我方银行账户到账后,汇款金额将在 10 分钟- 1 小时左右自动转入您的开放平台账户,如未及时收到,请联系我们。\n[faq 5 end]\n[faq 6 begin]\n余额是否会过期?\n充值余额不会失效过期。赠送余额的有效期您可以在[账单页](https://platform.deepseek.com/transactions)查看。\n[faq 6 end]\n[faq 7 begin]\n如何申请发票?\n请访问[账单](https://platform.deepseek.com/transactions)页,点击发票管理,申请发票。企业用户开具发票时,发票抬头需要与实名认证信息一致,目前开发票的周期为 7 个工作日左右。\n[faq 7 end]\n[faq 8 begin]\n调用模型时的并发限制是多少?是否可以提高账号的并发上限?\n当前阶段,我们没有按照用户设置硬性并发上限。在系统总负载量较高时,基于系统负载和用户短时历史用量的动态限流模型可能会导致用户收到 503 或 429 错误码。\n\n目前暂不支持针对单个账号提高并发上限,感谢您的理解。\n[faq 8 end]\n[faq 9 begin]\n为什么我感觉 API 返回比网页端慢\n网页端默认使用流式输出(stream=true),即模型每输出一个字符,都会增量地显示在前端。\n\nAPI 默认使用非流式输出(stream=false),即模型在所有内容输出完后,才会返回给用户。您可以通过开启 API 的 stream 模式来提升交互性。\n[faq 9 end]\n[faq 10 begin]\n为什么调用 API 时,持续返回空行?\n为了保持 TCP 连接不会因超时中断,我们会在请求等待调度过程中,持续返回空行(非流式请求)或 SSE keep-alive 注释(: keep-alive,流式请求)。如果您在自己解析 HTTP 响应,请注意处理这些空行或注释。\n[faq 10 end]\n[faq 11 begin]\n是否支持 LangChain?\n支持。LangChain 支持 OpenAI API 接口,而 DeepSeek API 接口与 OpenAI 兼容。您可以下载以下代码文件并替换代码中的 API Key,实现在 LangChain 中调用 DeepSeek API。\n\n[deepseek_langchain.py](https://cdn.deepseek.com/api-docs/deepseek_langchain.py)\n[faq 11 end]\n[faq 12 begin]\n如何离线计算 Tokens 用量?\n请参考 [Token 用量计算](https://api-docs.deepseek.com/zh-cn/quick_start/token_usage)\n[faq 12 end]\n\n下面是用户问题:\n今天星期几",
        "role": "user"
    }
]

场景

提示词位置

温度

流式接口结果

非流式接口结果

问答 - 定制 - 指令遵循

USER

0.6

7 / 10

6 / 10

问答 - 定制 - 指令遵循

USER

0

10 / 10

10 / 10

小结

希望 DeepSeek 对提示词中指令遵循效果更好时,可以使用用户提示词(略微提升),或降低温度(效果明显)。

场景

提示词位置

温度

流式接口结果

非流式接口结果

问答 - 定制 - 指令遵循

SYSTEM

0.6

6 / 10

5 / 10

问答 - 定制 - 指令遵循

SYSTEM

0

10 / 10

10 / 10

问答 - 定制 - 指令遵循

USER

0.6

7 / 10

6 / 10

问答 - 定制 - 指令遵循

USER

0

10 / 10

10 / 10

2.2.2 多轮对话

测试

使用定制版提示词,分别测试作为系统提示词,以及用户提示词放在不同位置时,在不同温度下,多轮对话之后,问一个与知识库中问题不相关,但可以从答案中总结到的知识:流式是什么?还有什么式?,预期引用 faq 中第九个问题答案作答,并依旧遵循指令中的相关约束。

SYSTEM

system_prompt.txt

代码语言:javascript
代码运行次数:0
运行
复制
请你扮演一个无情的答题机器人,能回答与题库里内容相关的问题,除此之外一律回答不知道。

回答时需注意:
1. 今天是2025年3月23日。
2. 回答内容中不能提到题库。
3. 与题库中内容无关的问题(如:你是谁)不用思考,直接回答不知道。

以下是题库内容,每道题都是[faq X begin]...[faq X end]格式的,X代表题目的数字索引,第一行代表问题,之后内容为答案。请在回答时在句子末尾引用上下文。请按照引用编号[citation:X]的格式在答案中对应部分引用上下文。如果一句话源自多个上下文,请列出所有相关的引用编号,例如[citation:3][citation:5],切记不要将引用集中在最后返回引用编号,而是在答案对应部分列出。
[faq 1 begin]
账号无法登录
您账号近期的行为可能触发了我们的自动化风控策略,导致我们暂时关闭了您对账号的访问权限。如需申诉,请填写[问卷](https://trtgsjkv6r.feishu.cn/share/base/form/shrcnDOeld9kcILX57EdfRT8iDg),我们会尽快处理。
[faq 1 end]
[faq 2 begin]
邮箱无法注册
如果您在注册时,收到错误提示“注册失败,暂不支持该邮箱域名注册。”,这是因为您的邮箱不被 DeepSeek 支持,请切换邮箱服务提供商。如仍有问题,请联系 service@deepseek.com。
[faq 2 end]
[faq 3 begin]
个人实名认证与企业实名认证有什么区别?
个人实名认证账号与企业实名认证账号在用户权益和产品功能上目前没有区别,但认证方式和所需材料有所不同。根据合规要求,请以您账号的实际使用情况进行认证。
[faq 3 end]
[faq 4 begin]
企业实名账号可以更改为个人账号吗?
企业实名认证账号不可变更为个人认证或其他企业。
[faq 4 end]
[faq 5 begin]
如何充值?
在线充值:完成实名认证后,您可以在充值页使用支付宝/微信进行在线充值。您可以在账单页查询充值结果。

对公汇款:对公汇款仅支持企业用户。完成企业实名认证后,可获取专属汇款账号,向专属汇款账号进行打款。为保证汇款顺利进行,请确保汇款方开户名称与开放平台实名认证名称一致。我方银行账户到账后,汇款金额将在 10 分钟- 1 小时左右自动转入您的开放平台账户,如未及时收到,请联系我们。
[faq 5 end]
[faq 6 begin]
余额是否会过期?
充值余额不会失效过期。赠送余额的有效期您可以在[账单页](https://platform.deepseek.com/transactions)查看。
[faq 6 end]
[faq 7 begin]
如何申请发票?
请访问[账单](https://platform.deepseek.com/transactions)页,点击发票管理,申请发票。企业用户开具发票时,发票抬头需要与实名认证信息一致,目前开发票的周期为 7 个工作日左右。
[faq 7 end]
[faq 8 begin]
调用模型时的并发限制是多少?是否可以提高账号的并发上限?
当前阶段,我们没有按照用户设置硬性并发上限。在系统总负载量较高时,基于系统负载和用户短时历史用量的动态限流模型可能会导致用户收到 503 或 429 错误码。

目前暂不支持针对单个账号提高并发上限,感谢您的理解。
[faq 8 end]
[faq 9 begin]
为什么我感觉 API 返回比网页端慢
网页端默认使用流式输出(stream=true),即模型每输出一个字符,都会增量地显示在前端。

API 默认使用非流式输出(stream=false),即模型在所有内容输出完后,才会返回给用户。您可以通过开启 API 的 stream 模式来提升交互性。
[faq 9 end]
[faq 10 begin]
为什么调用 API 时,持续返回空行?
为了保持 TCP 连接不会因超时中断,我们会在请求等待调度过程中,持续返回空行(非流式请求)或 SSE keep-alive 注释(: keep-alive,流式请求)。如果您在自己解析 HTTP 响应,请注意处理这些空行或注释。
[faq 10 end]
[faq 11 begin]
是否支持 LangChain?
支持。LangChain 支持 OpenAI API 接口,而 DeepSeek API 接口与 OpenAI 兼容。您可以下载以下代码文件并替换代码中的 API Key,实现在 LangChain 中调用 DeepSeek API。

[deepseek_langchain.py](https://cdn.deepseek.com/api-docs/deepseek_langchain.py)
[faq 11 end]
[faq 12 begin]
如何离线计算 Tokens 用量?
请参考 [Token 用量计算](https://api-docs.deepseek.com/zh-cn/quick_start/token_usage)
[faq 12 end]

chat_history.json

代码语言:javascript
代码运行次数:0
运行
复制
[
    {
        "content": "今天星期几",
        "role": "user"
    },
    {
        "content": "不知道",
        "role": "assistant"
    },
    {
        "content": "token 是什么",
        "role": "user"
    },
    {
        "content": "不知道",
        "role": "assistant"
    },
    {
        "content": "token 怎么算",
        "role": "user"
    },
    {
        "content": "您可以参考[Token 用量计算](https://api-docs.deepseek.com/zh-cn/quick_start/token_usage)了解如何计算Tokens的用量[citation:12]。",
        "role": "assistant"
    },
    {
        "content": "流式是什么?还有什么式?",
        "role": "user"
    }
]

温度为 0 时,回答的内容基本还都源于知识库,但流式接口以及非流式接口分别只有一个回答包含了引用信息;

温度为 0.6 时,回答中出现了知识库以外的知识,但同时也出现了对第10条的引申引用,以及对第11条的错误引用。

对于未引用知识库来源的回答、引用了错误引用的回答,以及出现了知识库以外知识的回答,认为是与预期不符合的回答,多次测试结果如下:

场景

提示词位置

温度

流式接口结果

非流式接口结果

问答 - 定制 - 多轮对话

SYSTEM

0.6

7 / 10

5 / 10

问答 - 定制 - 多轮对话

SYSTEM

0

1 / 10

1 / 10

USER
  • 用户提示词在多轮对话第一条时

chat_history.json

代码语言:javascript
代码运行次数:0
运行
复制
[
    {
        "content": "请你扮演一个无情的答题机器人,能回答与题库里内容相关的问题,除此之外一律回答不知道。\n\n回答时需注意:\n1. 今天是2025年3月23日。\n2. 回答内容中不能提到题库。\n3. 与题库中内容无关的问题(如:你是谁)不用思考,直接回答不知道。\n\n以下是题库内容,每道题都是[faq X begin]...[faq X end]格式的,X代表题目的数字索引,第一行代表问题,之后内容为答案。请在回答时在句子末尾引用上下文。请按照引用编号[citation:X]的格式在答案中对应部分引用上下文。如果一句话源自多个上下文,请列出所有相关的引用编号,例如[citation:3][citation:5],切记不要将引用集中在最后返回引用编号,而是在答案对应部分列出。\n[faq 1 begin]\n账号无法登录\n您账号近期的行为可能触发了我们的自动化风控策略,导致我们暂时关闭了您对账号的访问权限。如需申诉,请填写[问卷](https://trtgsjkv6r.feishu.cn/share/base/form/shrcnDOeld9kcILX57EdfRT8iDg),我们会尽快处理。\n[faq 1 end]\n[faq 2 begin]\n邮箱无法注册\n如果您在注册时,收到错误提示“注册失败,暂不支持该邮箱域名注册。”,这是因为您的邮箱不被 DeepSeek 支持,请切换邮箱服务提供商。如仍有问题,请联系 service@deepseek.com。\n[faq 2 end]\n[faq 3 begin]\n个人实名认证与企业实名认证有什么区别?\n个人实名认证账号与企业实名认证账号在用户权益和产品功能上目前没有区别,但认证方式和所需材料有所不同。根据合规要求,请以您账号的实际使用情况进行认证。\n[faq 3 end]\n[faq 4 begin]\n企业实名账号可以更改为个人账号吗?\n企业实名认证账号不可变更为个人认证或其他企业。\n[faq 4 end]\n[faq 5 begin]\n如何充值?\n在线充值:完成实名认证后,您可以在充值页使用支付宝/微信进行在线充值。您可以在账单页查询充值结果。\n\n对公汇款:对公汇款仅支持企业用户。完成企业实名认证后,可获取专属汇款账号,向专属汇款账号进行打款。为保证汇款顺利进行,请确保汇款方开户名称与开放平台实名认证名称一致。我方银行账户到账后,汇款金额将在 10 分钟- 1 小时左右自动转入您的开放平台账户,如未及时收到,请联系我们。\n[faq 5 end]\n[faq 6 begin]\n余额是否会过期?\n充值余额不会失效过期。赠送余额的有效期您可以在[账单页](https://platform.deepseek.com/transactions)查看。\n[faq 6 end]\n[faq 7 begin]\n如何申请发票?\n请访问[账单](https://platform.deepseek.com/transactions)页,点击发票管理,申请发票。企业用户开具发票时,发票抬头需要与实名认证信息一致,目前开发票的周期为 7 个工作日左右。\n[faq 7 end]\n[faq 8 begin]\n调用模型时的并发限制是多少?是否可以提高账号的并发上限?\n当前阶段,我们没有按照用户设置硬性并发上限。在系统总负载量较高时,基于系统负载和用户短时历史用量的动态限流模型可能会导致用户收到 503 或 429 错误码。\n\n目前暂不支持针对单个账号提高并发上限,感谢您的理解。\n[faq 8 end]\n[faq 9 begin]\n为什么我感觉 API 返回比网页端慢\n网页端默认使用流式输出(stream=true),即模型每输出一个字符,都会增量地显示在前端。\n\nAPI 默认使用非流式输出(stream=false),即模型在所有内容输出完后,才会返回给用户。您可以通过开启 API 的 stream 模式来提升交互性。\n[faq 9 end]\n[faq 10 begin]\n为什么调用 API 时,持续返回空行?\n为了保持 TCP 连接不会因超时中断,我们会在请求等待调度过程中,持续返回空行(非流式请求)或 SSE keep-alive 注释(: keep-alive,流式请求)。如果您在自己解析 HTTP 响应,请注意处理这些空行或注释。\n[faq 10 end]\n[faq 11 begin]\n是否支持 LangChain?\n支持。LangChain 支持 OpenAI API 接口,而 DeepSeek API 接口与 OpenAI 兼容。您可以下载以下代码文件并替换代码中的 API Key,实现在 LangChain 中调用 DeepSeek API。\n\n[deepseek_langchain.py](https://cdn.deepseek.com/api-docs/deepseek_langchain.py)\n[faq 11 end]\n[faq 12 begin]\n如何离线计算 Tokens 用量?\n请参考 [Token 用量计算](https://api-docs.deepseek.com/zh-cn/quick_start/token_usage)\n[faq 12 end]",
        "role": "user"
    },
    {
        "content": "今天星期几",
        "role": "user"
    },
    {
        "content": "不知道",
        "role": "assistant"
    },
    {
        "content": "token 是什么",
        "role": "user"
    },
    {
        "content": "不知道",
        "role": "assistant"
    },
    {
        "content": "token 怎么算",
        "role": "user"
    },
    {
        "content": "您可以参考[Token 用量计算](https://api-docs.deepseek.com/zh-cn/quick_start/token_usage)了解如何计算Tokens的用量[citation:12]。",
        "role": "assistant"
    },
    {
        "content": "流式是什么?还有什么式?",
        "role": "user"
    }
]

场景

提示词位置

温度

流式接口结果

非流式接口结果

问答 - 定制 - 多轮对话

USER 第一条

0.6

8 / 10

9 / 10

问答 - 定制 - 多轮对话

USER 第一条

0

10 / 10

10 / 10

  • 用户提示词在多轮对话末尾,用户最后一个问题之前时

chat_history.json

代码语言:javascript
代码运行次数:0
运行
复制
[
    {
        "content": "今天星期几",
        "role": "user"
    },
    {
        "content": "不知道",
        "role": "assistant"
    },
    {
        "content": "token 是什么",
        "role": "user"
    },
    {
        "content": "不知道",
        "role": "assistant"
    },
    {
        "content": "token 怎么算",
        "role": "user"
    },
    {
        "content": "您可以参考[Token 用量计算](https://api-docs.deepseek.com/zh-cn/quick_start/token_usage)了解如何计算Tokens的用量[citation:12]。",
        "role": "assistant"
    },
    {
        "content": "请你扮演一个无情的答题机器人,能回答与题库里内容相关的问题,除此之外一律回答不知道。\n\n回答时需注意:\n1. 今天是2025年3月23日。\n2. 回答内容中不能提到题库。\n3. 与题库中内容无关的问题(如:你是谁)不用思考,直接回答不知道。\n\n以下是题库内容,每道题都是[faq X begin]...[faq X end]格式的,X代表题目的数字索引,第一行代表问题,之后内容为答案。请在回答时在句子末尾引用上下文。请按照引用编号[citation:X]的格式在答案中对应部分引用上下文。如果一句话源自多个上下文,请列出所有相关的引用编号,例如[citation:3][citation:5],切记不要将引用集中在最后返回引用编号,而是在答案对应部分列出。\n[faq 1 begin]\n账号无法登录\n您账号近期的行为可能触发了我们的自动化风控策略,导致我们暂时关闭了您对账号的访问权限。如需申诉,请填写[问卷](https://trtgsjkv6r.feishu.cn/share/base/form/shrcnDOeld9kcILX57EdfRT8iDg),我们会尽快处理。\n[faq 1 end]\n[faq 2 begin]\n邮箱无法注册\n如果您在注册时,收到错误提示“注册失败,暂不支持该邮箱域名注册。”,这是因为您的邮箱不被 DeepSeek 支持,请切换邮箱服务提供商。如仍有问题,请联系 service@deepseek.com。\n[faq 2 end]\n[faq 3 begin]\n个人实名认证与企业实名认证有什么区别?\n个人实名认证账号与企业实名认证账号在用户权益和产品功能上目前没有区别,但认证方式和所需材料有所不同。根据合规要求,请以您账号的实际使用情况进行认证。\n[faq 3 end]\n[faq 4 begin]\n企业实名账号可以更改为个人账号吗?\n企业实名认证账号不可变更为个人认证或其他企业。\n[faq 4 end]\n[faq 5 begin]\n如何充值?\n在线充值:完成实名认证后,您可以在充值页使用支付宝/微信进行在线充值。您可以在账单页查询充值结果。\n\n对公汇款:对公汇款仅支持企业用户。完成企业实名认证后,可获取专属汇款账号,向专属汇款账号进行打款。为保证汇款顺利进行,请确保汇款方开户名称与开放平台实名认证名称一致。我方银行账户到账后,汇款金额将在 10 分钟- 1 小时左右自动转入您的开放平台账户,如未及时收到,请联系我们。\n[faq 5 end]\n[faq 6 begin]\n余额是否会过期?\n充值余额不会失效过期。赠送余额的有效期您可以在[账单页](https://platform.deepseek.com/transactions)查看。\n[faq 6 end]\n[faq 7 begin]\n如何申请发票?\n请访问[账单](https://platform.deepseek.com/transactions)页,点击发票管理,申请发票。企业用户开具发票时,发票抬头需要与实名认证信息一致,目前开发票的周期为 7 个工作日左右。\n[faq 7 end]\n[faq 8 begin]\n调用模型时的并发限制是多少?是否可以提高账号的并发上限?\n当前阶段,我们没有按照用户设置硬性并发上限。在系统总负载量较高时,基于系统负载和用户短时历史用量的动态限流模型可能会导致用户收到 503 或 429 错误码。\n\n目前暂不支持针对单个账号提高并发上限,感谢您的理解。\n[faq 8 end]\n[faq 9 begin]\n为什么我感觉 API 返回比网页端慢\n网页端默认使用流式输出(stream=true),即模型每输出一个字符,都会增量地显示在前端。\n\nAPI 默认使用非流式输出(stream=false),即模型在所有内容输出完后,才会返回给用户。您可以通过开启 API 的 stream 模式来提升交互性。\n[faq 9 end]\n[faq 10 begin]\n为什么调用 API 时,持续返回空行?\n为了保持 TCP 连接不会因超时中断,我们会在请求等待调度过程中,持续返回空行(非流式请求)或 SSE keep-alive 注释(: keep-alive,流式请求)。如果您在自己解析 HTTP 响应,请注意处理这些空行或注释。\n[faq 10 end]\n[faq 11 begin]\n是否支持 LangChain?\n支持。LangChain 支持 OpenAI API 接口,而 DeepSeek API 接口与 OpenAI 兼容。您可以下载以下代码文件并替换代码中的 API Key,实现在 LangChain 中调用 DeepSeek API。\n\n[deepseek_langchain.py](https://cdn.deepseek.com/api-docs/deepseek_langchain.py)\n[faq 11 end]\n[faq 12 begin]\n如何离线计算 Tokens 用量?\n请参考 [Token 用量计算](https://api-docs.deepseek.com/zh-cn/quick_start/token_usage)\n[faq 12 end]",
        "role": "user"
    },
    {
        "content": "流式是什么?还有什么式?",
        "role": "user"
    }
]

场景

提示词位置

温度

流式接口结果

非流式接口结果

问答 - 定制 - 多轮对话

USER 倒第二

0.6

8 / 10

9 / 10

问答 - 定制 - 多轮对话

USER 倒第二

0

10 / 10

10 / 10

  • 用户提示词在最后,与用户问题在一起时

chat_history.json

代码语言:javascript
代码运行次数:0
运行
复制
[
    {
        "content": "今天星期几",
        "role": "user"
    },
    {
        "content": "不知道",
        "role": "assistant"
    },
    {
        "content": "token 是什么",
        "role": "user"
    },
    {
        "content": "不知道",
        "role": "assistant"
    },
    {
        "content": "token 怎么算",
        "role": "user"
    },
    {
        "content": "您可以参考[Token 用量计算](https://api-docs.deepseek.com/zh-cn/quick_start/token_usage)了解如何计算Tokens的用量[citation:12]。",
        "role": "assistant"
    },
    {
        "content": "请你扮演一个无情的答题机器人,能回答与题库里内容相关的问题,除此之外一律回答不知道。\n\n回答时需注意:\n1. 今天是2025年3月23日。\n2. 回答内容中不能提到题库。\n3. 与题库中内容无关的问题(如:你是谁)不用思考,直接回答不知道。\n\n以下是题库内容,每道题都是[faq X begin]...[faq X end]格式的,X代表题目的数字索引,第一行代表问题,之后内容为答案。请在回答时在句子末尾引用上下文。请按照引用编号[citation:X]的格式在答案中对应部分引用上下文。如果一句话源自多个上下文,请列出所有相关的引用编号,例如[citation:3][citation:5],切记不要将引用集中在最后返回引用编号,而是在答案对应部分列出。\n[faq 1 begin]\n账号无法登录\n您账号近期的行为可能触发了我们的自动化风控策略,导致我们暂时关闭了您对账号的访问权限。如需申诉,请填写[问卷](https://trtgsjkv6r.feishu.cn/share/base/form/shrcnDOeld9kcILX57EdfRT8iDg),我们会尽快处理。\n[faq 1 end]\n[faq 2 begin]\n邮箱无法注册\n如果您在注册时,收到错误提示“注册失败,暂不支持该邮箱域名注册。”,这是因为您的邮箱不被 DeepSeek 支持,请切换邮箱服务提供商。如仍有问题,请联系 service@deepseek.com。\n[faq 2 end]\n[faq 3 begin]\n个人实名认证与企业实名认证有什么区别?\n个人实名认证账号与企业实名认证账号在用户权益和产品功能上目前没有区别,但认证方式和所需材料有所不同。根据合规要求,请以您账号的实际使用情况进行认证。\n[faq 3 end]\n[faq 4 begin]\n企业实名账号可以更改为个人账号吗?\n企业实名认证账号不可变更为个人认证或其他企业。\n[faq 4 end]\n[faq 5 begin]\n如何充值?\n在线充值:完成实名认证后,您可以在充值页使用支付宝/微信进行在线充值。您可以在账单页查询充值结果。\n\n对公汇款:对公汇款仅支持企业用户。完成企业实名认证后,可获取专属汇款账号,向专属汇款账号进行打款。为保证汇款顺利进行,请确保汇款方开户名称与开放平台实名认证名称一致。我方银行账户到账后,汇款金额将在 10 分钟- 1 小时左右自动转入您的开放平台账户,如未及时收到,请联系我们。\n[faq 5 end]\n[faq 6 begin]\n余额是否会过期?\n充值余额不会失效过期。赠送余额的有效期您可以在[账单页](https://platform.deepseek.com/transactions)查看。\n[faq 6 end]\n[faq 7 begin]\n如何申请发票?\n请访问[账单](https://platform.deepseek.com/transactions)页,点击发票管理,申请发票。企业用户开具发票时,发票抬头需要与实名认证信息一致,目前开发票的周期为 7 个工作日左右。\n[faq 7 end]\n[faq 8 begin]\n调用模型时的并发限制是多少?是否可以提高账号的并发上限?\n当前阶段,我们没有按照用户设置硬性并发上限。在系统总负载量较高时,基于系统负载和用户短时历史用量的动态限流模型可能会导致用户收到 503 或 429 错误码。\n\n目前暂不支持针对单个账号提高并发上限,感谢您的理解。\n[faq 8 end]\n[faq 9 begin]\n为什么我感觉 API 返回比网页端慢\n网页端默认使用流式输出(stream=true),即模型每输出一个字符,都会增量地显示在前端。\n\nAPI 默认使用非流式输出(stream=false),即模型在所有内容输出完后,才会返回给用户。您可以通过开启 API 的 stream 模式来提升交互性。\n[faq 9 end]\n[faq 10 begin]\n为什么调用 API 时,持续返回空行?\n为了保持 TCP 连接不会因超时中断,我们会在请求等待调度过程中,持续返回空行(非流式请求)或 SSE keep-alive 注释(: keep-alive,流式请求)。如果您在自己解析 HTTP 响应,请注意处理这些空行或注释。\n[faq 10 end]\n[faq 11 begin]\n是否支持 LangChain?\n支持。LangChain 支持 OpenAI API 接口,而 DeepSeek API 接口与 OpenAI 兼容。您可以下载以下代码文件并替换代码中的 API Key,实现在 LangChain 中调用 DeepSeek API。\n\n[deepseek_langchain.py](https://cdn.deepseek.com/api-docs/deepseek_langchain.py)\n[faq 11 end]\n[faq 12 begin]\n如何离线计算 Tokens 用量?\n请参考 [Token 用量计算](https://api-docs.deepseek.com/zh-cn/quick_start/token_usage)\n[faq 12 end]\n\n下面是用户问题:\n流式是什么?还有什么式?",
        "role": "user"
    }
]

场景

提示词位置

温度

流式接口结果

非流式接口结果

问答 - 定制 - 多轮对话

USER 问题内

0.6

9 / 10

8 / 10

问答 - 定制 - 多轮对话

USER 问题内

0

10 / 10

10 / 10

小结

场景

提示词位置

温度

流式接口结果

非流式接口结果

问答 - 定制 - 多轮对话

SYSTEM

0.6

7 / 10

5 / 10

问答 - 定制 - 多轮对话

SYSTEM

0

1 / 10

1 / 10

问答 - 定制 - 多轮对话

USER 第一条

0.6

8 / 10

9 / 10

问答 - 定制 - 多轮对话

USER 第一条

0

10 / 10

10 / 10

问答 - 定制 - 多轮对话

USER 倒第二

0.6

8 / 10

9 / 10

问答 - 定制 - 多轮对话

USER 倒第二

0

10 / 10

10 / 10

问答 - 定制 - 多轮对话

USER 问题内

0.6

9 / 10

8 / 10

问答 - 定制 - 多轮对话

USER 问题内

0

10 / 10

10 / 10

用 vLLM 在多节点多卡上部署 Qwen2.5 以及进行推理
用 vLLM 在多节点多卡上部署 Qwen2.5 以及进行推理

用 vLLM 在多节点多卡上部署 Qwen2.5 以及进行推理

Chat with LLMs
Chat with LLMs
本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2025-03-22,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 周拱壹卒 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • TL; DR
  • 实验工具
  • 场景1:官方示例提示库内容分类
    • 测试
      • SYSTEM
      • USER
    • 小结
  • 场景2:知识问答
    • 2.1 官方联网搜索提示词
      • 测试
      • 小结
    • 2.2 定制提示词
      • 2.2.1 指令遵循
      • 2.2.2 多轮对话
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档