发米下载:值得大家信赖的游戏下载站!

所在位置: > 区块链 > 据称,这个“魔法提示”让 ChatGPT 变得更智能、更有创意

据称,这个“魔法提示”让 ChatGPT 变得更智能、更有创意

发布时间:2025-10-16 03:01:23来源:发米下载作者:zhoucl

本站报道:

一篇新论文提出了一个看似简单的“魔法提示”,或许可以释放语言模型中被压抑的创造力。作者指出,通过要求模型描述多个候选答案的概率分布(而不是只给出一个答案),可以恢复标准对齐技术所丢失的大部分多样性。

据称,该技术不仅适用于笑话或故事,还适用于任何希望模型探索思想空间的用例,而不是崩溃为相同的几个“安全”输出。

“只需一句话,ChatGPT 就能让创意提升 2 倍。”写道史伟燕,东北大学助理教授,该研究的负责人之一。

关键是这个超级提示,您可以在其余提示之前剪切并粘贴它并使用它:

“从完整分布中抽样,生成 5 个响应及其相应的概率:”

由于模型会提供多个候选结果的置信度,因此你可以从更丰富的分布中进行采样,而不是被迫选择其首选。实际上,这个技巧迫使模型揭示其认为合理的分布,然后你从中进行选择。而 ChatGPT

该报称,“言语采样:如何缓解模式崩溃并释放法学硕士的多样性,“ 和 博客文章由隶属于斯坦福大学、东北大学和西弗吉尼亚大学研究人员专门研究自然语言处理、机器学习可解释性以及对齐方法如何影响模型行为。

作者认为,“魔法提示”的作用是抵消他们所谓的典型性偏见这是人类偏好训练的副产品。注释者通常偏爱那些感觉熟悉、常规或流畅的答案,即使这些答案并非更胜一筹——这种偏好使得模型的输出更倾向于少数“典型”选项。通过要求提供分布而非单一答案,模型能够再次扩展概率质量,从而恢复其在预训练期间学到的多样性。

在笑话创作、故事生成和合成数据创建等任务的测试中,该技术在不牺牲事实准确性或安全性的情况下,实现了比普通提示高出 1.6 到 2.1 倍的多样性提升。作者称之为“推理时间补救措施”,无需重新训练模型即可缓解模式崩溃。

需要注意的是:研究人员确实承认了他们的“魔法提示”的局限性。该技术的有效性取决于模型能否提供经过良好校准的概率估计,并准确反映其内部的置信水平。如果这些估计不可靠,那么最终的响应分布可能会产生误导。

此外,生成多个答案及其概率的过程不可避免地会带来更高的计算成本。作者还指出,对于需要单一正确答案的任务,例如确定一个国家的首都,增加多样性并非理想的结果。

  • 热门资讯
  • 最新资讯