TextGrad不仅用于提示词工程还可用于其他场景

TextGrad不仅用于提示词工程还可用于其他场景

TextGrad不专门用于提示词工程。虽然它在提示词工程方面有很好的应用效果，但它的功能和应用场景远不止于此，具体如下：

提示词工程方面

通过TextGrad优化的prompt，能显著提升语言模型的QA准确率，如将GPT-3.5-turbor的**QA准确率从78%提升到了92%**，而且只需进行少量几次的优化迭代。它可以自动搜索最优的任务描述直接参与优化，让**开发者从手工设计prompt中解放出来**，有望自动找到更棒的in-context learning范式。

其他应用方面

- **代码优化**：可以对LLM生成的代码进行优化，例如优化LeetCode问题的代码，提高代码的质量和效率。

- **科学研究**：在药物探索中，用于优化化学结构的药物相似性和结合亲和力等关键属性，从而发现新的分子同时兼顾药效和毒性等多个优化目标。

- **医疗领域**：可用于优化放射治疗计划，自动权衡肿瘤和附近健康组织，确定放射治疗所需的剂量并精确定位需要治疗的部位。

TextGrad将LLM应用视为一个计算图，以自然语言为媒介实现不同组件之间的“梯度”传递，利用从语言模型的输出中反向传播文本反馈到所有可能的早期组件，来优化各种系统中的各种变量，具有很强的通用性和普适性。

代码优化

假设要解决一个编程问题，如“给定一个由1到n的不同整数组成的大小为n的数组nums和一个正整数k，返回nums中中位数等于k的非空子数组的数量”，GPT-4O提出的第一个解决方案未通过测试，**TextGrad识别了第一个解决方案中的一个边缘情况，并提供了改进建议，优化后的实现通过了所有测试，将性能提升至36%**。

问题解决方案优化

比如在解决复杂科学问题时，如在Google-proof问答基准测试中，通过TextGrad在测试时优化解决方案，可将GPT-4O的零样本准确率从51%提高到55%。在解决数学问题“解方程3x^ 2-7x+2=0”时，TextGrad可以对初始的错误解法进行优化，通过定义损失函数和优化器，利用文本反馈指出错误，如“判别式计算中的符号错误：应该是b^2 -4ac，而不是b^2 +4ac。二次公式的简化错误：分母应该是2a，而不是6。最终解缺少除以2a”，经过反向传播和更新，得到正确的解法。

提示词优化

在推理任务中，通过TextGrad优化提示词，可使GPT-3.5在多个推理任务中的表现接近GPT-4。例如在GSM8K任务中，通过数次迭代，将准确率从72.9%提升到81.1%。