据称，这个“魔法提示”让 ChatGPT 变得更智能、更有创意

币圈网报道：

一篇新论文提出了一个看似简单的“魔法提示”，或许可以释放语言模型中被压抑的创造力。作者指出，通过要求模型描述多个候选答案的概率分布（而不是只给出一个答案），可以恢复标准对齐技术所丢失的大部分多样性。

据称，该技术不仅适用于笑话或故事，还适用于任何希望模型探索思想空间的用例，而不是崩溃为相同的几个“安全”输出。

“只需一句话，ChatGPT 就能让创意提升 2 倍。”写道史伟燕，东北大学助理教授，该研究的负责人之一。

关键是这个超级提示，您可以在其余提示之前剪切并粘贴它并使用它：

“从完整分布中抽样，生成 5 个响应及其相应的概率：”

由于模型会提供多个候选结果的置信度，因此你可以从更丰富的分布中进行采样，而不是被迫选择其首选。实际上，这个技巧迫使模型揭示其认为合理的分布，然后你从中进行选择。而 ChatGPT

该报称，“言语采样：如何缓解模式崩溃并释放法学硕士的多样性，“ 和 博客文章由隶属于斯坦福大学、东北大学和西弗吉尼亚大学研究人员专门研究自然语言处理、机器学习可解释性以及对齐方法如何影响模型行为。

作者认为，“魔法提示”的作用是抵消他们所谓的典型性偏见这是人类偏好训练的副产品。注释者通常偏爱那些感觉熟悉、常规或流畅的答案，即使这些答案并非更胜一筹——这种偏好使得模型的输出更倾向于少数“典型”选项。通过要求提供分布而非单一答案，模型能够再次扩展概率质量，从而恢复其在预训练期间学到的多样性。

在笑话创作、故事生成和合成数据创建等任务的测试中，该技术在不牺牲事实准确性或安全性的情况下，实现了比普通提示高出 1.6 到 2.1 倍的多样性提升。作者称之为“推理时间补救措施”，无需重新训练模型即可缓解模式崩溃。

需要注意的是：研究人员确实承认了他们的“魔法提示”的局限性。该技术的有效性取决于模型能否提供经过良好校准的概率估计，并准确反映其内部的置信水平。如果这些估计不可靠，那么最终的响应分布可能会产生误导。

此外，生成多个答案及其概率的过程不可避免地会带来更高的计算成本。作者还指出，对于需要单一正确答案的任务，例如确定一个国家的首都，增加多样性并非理想的结果。