腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
腾讯云架构师技术同盟
文章/答案/技术大牛
搜索
搜索
关闭
发布
首页
学习
活动
专区
工具
TVP
腾讯云架构师技术同盟
返回腾讯云官网
小七的各种胡思乱想
专栏成员
举报
114
文章
216695
阅读量
57
订阅数
订阅专栏
申请加入专栏
全部文章（114）
NLP 服务（52）
nlp（34）
LLM（30）
prompt（26）
机器学习（18）
chatgpt（17）
tensorflow（11）
深度学习（11）
自然语言处理（10）
agent（7）
数据挖掘（6）
推荐系统（6）
github（4）
决策树（4）
神经网络（3）
编程算法（3）
pytorch（3）
第二期热点征文-人工智能（3）
git（2）
人工智能（2）
serverless（2）
开源（2）
数据分析（2）
https（2）
token（2）
2023腾讯·技术创作特训营 第二期（2）
2023腾讯·技术创作特训营 第三期（2）
2023腾讯·技术创作特训营 第四期（2）
DeepSeek（2）
python（1）
bootstrap（1）
apt-get（1）
命令行工具（1）
网络安全（1）
强化学习（1）
正则表达式（1）
markdown（1）
大数据（1）
数据可视化（1）
腾讯云开发者社区（1）
entity（1）
hidden（1）
key（1）
label（1）
lm（1）
mask（1）
pipeline（1）
size（1）
text（1）
title（1）
腾讯技术创作特训营S7（1）
搜索文章
搜索
搜索
关闭
解密prompt系列50. RL用于优化Agent行为路径的一些思路
nlp
LLM
agent
OpenAI新推出的Deep Research功能，属实有些惊艳，也验证了去年的一些观点，之后的大模型工作流会呈现一些截然不同的形态，有敏捷型的例如语音端到端的及时对话，也会有异步长流程的复杂任务，去做例如课题研究，信息收集,实验设计，假设验证等等。
风雨中的小七
2025-03-06
26
0
解密prompt系列49. 回顾R1之前的思维链发展
LLM
DeepSeek
nlp
在所有人都在谈论R1的今天，作为算法也是有些千头万绪无从抓起。所以这一章先复盘，我先按照自己的思路来梳理下R1之前整个模型思维链的发展过程。下一章再展望主要去看RL在Agent上的一些尝试，毕竟Agent规划和长思考的本质是非常像的，在优化中面临的问题也是类似的。
风雨中的小七
2025-02-19
306
2
解密prompt系列48. DeepSeek R1 & Kimi 1.5长思维链 - RL Scaling
nlp
LLM
DeepSeek
春节前DeepSeek R1和Kimi1.5炸翻天了，之前大家推测的O1的实现路径，多数都集中在MCTS推理优化，以及STaR等样本自优化方案等等，结果DeepSeek和Kiim直接出手揭示了reasoning的新路线不一定在SFT和Inference Scaling，也可以在RL。也算是Post Train阶段新的Scaling方向，几个核心Take Away包括
风雨中的小七
2025-02-07
843
0
解密prompt系列47. O1 Long Thought的一些特征分析
nlp
LLM
但O1之后，思维链一个简单但之前都没进入视野的特征引起了大家的注意，那就是思考的长度对推理效果的影响，更准确来说是通过哪些思考步骤来有效延长思维长度对推理的影响。这一章我们着重讨论思考长度，慢思考的一些特点，下一章再讨论一些实现方案。哈哈注意这里的很多观点都是各方推测，请辩证看待~
风雨中的小七
2025-01-16
195
0
解密prompt系列46. LLM结构化输出代码示例和原理分析
LLM
nlp
最近闭源大模型们都陆续支持结构化输出，这一章我们先结合demo看下开源和闭源对结构化输出的支持，随后会介绍Constrained Decoding和Format Restricting Instructions 两种结构化输出约束方案，最后会给出结构化输出对比自然语言输出的一些观点。
风雨中的小七
2025-01-02
424
0
解密Prompt45. 再探LLM Scalable Oversight -辩论、博弈哪家强
nlp
LLM
之前我们已经介绍过几个针对Scalable Oversight的解法，也就是当模型能力在部分领域超越人类标注者后，我们该如何继续为模型提供监督信号，包括
风雨中的小七
2024-12-20
182
0
解密prompt系列44. RAG探索模式？深度思考模式？
LLM
nlp
前一阵多步RAG的风吹入了工业界，kimi推出了探索版本，各应用都推出了深度搜索，You.COM更是早就有了Genius的多步模式。其实都是类似multi-hop RAG的实现。之前学术界在讨论multi-hop RAG的时候总是给一些基于历史知识类的问题，什么某年诺贝尔奖的获奖人在哪读的大学呀，给人一种错觉就是这类问题现实世界里真的有人这么提问么？其实还真有！
风雨中的小七
2024-12-06
279
0
解密prompt系列43. LLM Self Critics
nlp
LLM
前一章我们介绍了基于模型自我合成数据迭代，来提升LLM生成更合理的自我推理思考链路。但在模型持续提升的道路上，只提升Generator能力是不够的，需要同步提升Supervisor、Verifier的能力，才能提供有效的监督优化信号。
风雨中的小七
2024-11-21
413
0
解密prompt系列42. LLM通往动态复杂思维链之路
LLM
最近大家都在探讨和尝试复现OpenAI O1的思考效果，解码出的关键技术方向，包括之前已经探讨过的Inference Time Scaling在推理过程中进行路径决策和选择。但想要更优的Inference Time Scaling曲线，前提是模型本身是一个很强的Generator，已经拥有足够的生成合理推理过程的能力，同时还拥有很强的Verifier模型来对推理节点进行打分决策，并且二者可以在少人类监督的条件下不断迭代优化。
风雨中的小七
2024-11-07
471
0
解密prompt系列41. GraphRAG真的是Silver Bullet？
nlp
LLM
这一章我们介绍GraphRAG范式，算着时间也是该到图谱了，NLP每一轮新模型出来后，往往都是先研究微调，然后各种预训练方案，接着琢磨数据，各种主动学习半监督，弱监督，无监督，再之后就到图谱和对抗学习~
风雨中的小七
2024-10-24
347
0
解密prompt系列40. LLM推理scaling Law
nlp
LLM
OpenAI的O-1出现前，其实就有已经有大佬开始分析后面OpenAI的技术路线，其中一个方向就是从Pretrain-scaling，Post-Train-scaling向Inference Scaling的转变，这一章我们挑3篇inference-scaling相关的论文来聊聊，前两篇分别从聚合策略和搜索策略来优化广度推理，最后一篇全面的分析了各类广度深度推理策略的最优使用方案。
风雨中的小七
2024-10-10
485
0
解密prompt系列39. RAG之借助LLM优化精排环节
prompt
LLM
RAG的部分我们之前讨论过信息召回的多样性，信息密度和质量，主要集中在召回，融合，粗排的部分。这一章我们集中看下精排的部分。粗排和精排的主要差异其实在于效率和效果的balance。粗排模型复杂度更低，需要承上启下，用较低复杂度的模型，在大幅度缩小召回候选量级的基础上，和精排的排序一致性做尽可能的对齐，保证精排高质量内容不被过滤。而精排模型复杂度更高，可以使用更复杂的模型来尽可能地拟合最终的目标排序。在RAG任务中，最终目标就是候选内容可以回答问题，客观评估就是推理引用率。
风雨中的小七
2024-09-26
432
0
解密Prompt系列38.多Agent路由策略
nlp
LLM
agent
chatgpt
常见的多智能体框架有几类，有智能体相互沟通配合一起完成任务的例如ChatDev，CAMEL等协作模式, 还有就是一个智能体负责一类任务，通过选择最合适的智能体来完成任务的路由模式，当然还有一些多智能体共享记忆层的复杂交互模式，这一章我们针对智能体路由，也就是选择最合适的智能体来完成任务这个角度看看有哪些方案。
风雨中的小七
2024-09-13
637
2
解密Prompt系列37.RAG之前置决策何时联网的多种策略
nlp
LLM
之前我们分别讨论过RAG中的召回多样性，召回信息质量和密度，还有calibration的后处理型RAG。前置判断模型回答是否要走RAG的部分我们之前只提及了自我矛盾和自我拒绝者两个方案。这一章我们再补充几种RAG前置判断方案。
风雨中的小七
2024-08-29
535
0
解密Prompt系列36. Prompt结构化编写和最优化算法UNIPROMPT
prompt
上一章我们聊了标准化的Prompt生成方案DSPy，但DSPy还是更多依赖few-shot的Prompt编写范式，在纯任务描述型指令上的优化效果有限。这一章我们就重点关注描述性指令优化。我们先简单介绍下结构化Prompt编写，再聊聊从结构化多角度进行Prompt最优化迭代的算法方案UniPrompt
风雨中的小七
2024-08-14
687
0
解密prompt系列35. 标准化Prompt进行时！ DSPy论文串烧和代码示例
prompt
一晃24年已经过了一半，我们来重新看下大模型应用中最脆弱的一环Prompt Engineering有了哪些新的解决方案。这一章我们先看看大火的DSPy框架，会先梳理DSPy相关的几篇核心论文了解下框架背后的设计思想和原理,然后以FinEval的单选题作为任务，从简单指令，COT指令，到采样Few-shot和优化指令给出代码示例和效果评估。
风雨中的小七
2024-08-01
1.1K
3
解密prompt系列34. RLHF之训练另辟蹊径：循序渐进 & 青出于蓝
LLM
前几章我们讨论了RLHF的样本构建优化和训练策略优化，这一章我们讨论两种不同的RL训练方案，分别是基于过程训练，和使用弱Teacher来监督强Student
风雨中的小七
2024-07-18
448
0
解密Prompt系列33. LLM之图表理解任务-多模态篇
chatgpt
prompt
LLM
上一章我们介绍了纯文本模态的表格理解任务，这一章我们聚焦多模态图表数据。先讨论下单纯使用prompt的情况下，图片和文字模态哪种表格模型理解的效果更好更好，再说下和表格相关的图表理解任务的微调方案。
风雨中的小七
2024-07-04
755
0
解密Prompt系列32. LLM之表格理解任务-文本模态
chatgpt
prompt
LLM
腾讯技术创作特训营S7
这一章我们聊聊大模型表格理解任务，在大模型时代主要出现在包含表格的RAG任务，以及表格操作数据抽取文本对比等任务中。这一章先聊单一的文本模态，既你已经通过OCR或者多模态等方式从PDF或者图片中获取了表格的文本数据。和前文相同，我们分别介绍微调和基于Prompt的两种方案。
风雨中的小七
2024-06-20
932
0
解密Prompt系列31. LLM Agent之从经验中不断学习的智能体
prompt
agent
chatgpt
nlp
Agent智能体的工作流可以简单分成两种：一种是固定的静态工作流，一种是智能体自主决策的动态工作流。
风雨中的小七
2024-06-06
689
0
点击加载更多
社区活动
Python精品学习库
代码在线跑，知识轻松学
立即查看
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客，速成社区影响力并领取好礼
立即体验
技术创作特训营·精选知识专栏
往期视频·干货材料·成员作品 最新动态
立即查看
领券
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档
