Prompt 工程

任务大一统

随着语言模型在规模上的显著提升，从T5开始，应用大语言模型处理下游任务时开始从“预训练-微调-预测”范式。转向灵活的“预训练-提示(Prompt)预测”范式。

Prompt是指用于指导生成式人工智能模型执行特定任务的输入指令，这些指令通常以自然语言文本的形式出现。Prompt的核心目的是清晰地描述目标任务，并适当提供解决该任务所需的辅助信息。

Prompt 的基本元素

一个标准的Prompt能显著提升模型生成回答的质量，一个标准的Prompt通常包含任务说明、问题、上下文、输出格式等四个基本元素。

• 向模型明确提出具体的任务要求。
• 向模型描述具体问题或需要处理的信息。
• 向模型提供的任务相关的辅助信息。
• 期望模型给出的回答的展示形式

Prompt 如何使用

Prompt可以用于引导大模型进行模仿作答，也可以用于微调大模型阶段，使其更听话，即指令跟随更强。

零样本/少样本学习

模仿记忆中的知识，进行作答。

指令微调大模型

让大模型更能“听懂人话”，会“抢答”。

Prompt 工程-优化 Prompt

Prompt工程(Prompt Engineering)，又叫提示工程，是指设计和优化用于与生成式人工智能模型交互的Prompt的过程。Prompt工程作为一门专注于如何编写有效指令的技术，成为了连接模型与任务需求之间的桥梁。

Prompt 工程的内容

Prompt工程提供了一种高效且灵活的途径来执行自然语言处理任务。只通过设计 Prompt，我们便能指示大语言模型有效地完成既定任务。常见的Prompt工程技术包括：上下文学习、思维链等。上下文学习思维链