Step-Back Prompting 是一种提升大模型处理复杂任务能力的提示词技巧。
它将一步到位的Prompt拆分为两个环节:先让大模型提炼出问题涉及的抽象概念和原则,再让大模型进行具体问题的处理。
这种方式有助于防止中间步骤的错误,从而提升内容生成的精准性。在诸如PaLM-2L、GPT-4和Llama2-70B等模型上进行了测试,显著优于传统方法(如链式思维(CoT)提示)。
该方法分为两步:
-
抽象:询问解决问题所涉及的概念或原则;
-
推理:将上一步得到的概念和原则 + 原始问题一并提供给大模型进行处理。
例如:
我们想要给第一人称射击游戏的关卡编写一段故事情节,如果直接将问题询问大模型,得到反馈如下:

使用Step-Back Prompting的方法
我们首先让大模型提炼概念和要点:“参考流行的第一人称射击游戏,给第一人称射击游戏的关卡编写一段故事情节的5个要点是什么?” 大模型就会返回编写关卡剧情的核心要素。


在诸多数据集上,使用Step-back prompting的技巧都带来了显著的效果提升。

先抽象再具体,这就是Step-back prompting的核心思想所在。

