提示(Prompt)工程中提示词的开发优化基础概念学习总结

2023-12-13 20:42:59

本文对学习过程进行总结,仅对基本思路进行说明,结果在不同的模型上会有差异。

提示与提示工程

提示:指的是向大语言模型输入的特定短语或文本,用于引导模型产生特定的输出,以便模型能够生成符合用户需求的回应。
提示工程:首先是关注提示词的开发和优化,帮助用户将大语言模型(Large Language Model, LLM)用于各场景和研究领域。其次包含与大语言模型交互和研发的各种技能和技术。

提示(Prompt)的组成结构、设计技巧、使用场景

常见的Prompt符合下列格式

  • 指令:想要模型执行的特定任务或指令。
  • 上下文:包含外部信息或额外的上下文信息,引导语言模型更好地响应。
  • 输入数据:用户输入的内容或问题。
  • 输出指示:指定输出的类型或格式。

并非所有的Prompt都要遵循这样的结构,根据实际场景选择而不同。

Prompt

指令:提取下列输入文本中的地名,并按输出格式输出
输入:2008年奥会在北京举办,2022年世界杯在卡塔尔举办
输出:[地名]

输出
输出:[北京,卡塔尔]

在设计Prompt时我们遵循下列的原则以便获取我们期望得到的结果

  • 明确
  • 具体

样例1

Prompt
指令:对下列文本内容做归纳
文本:虽然距离2024年元旦春节还有一段时间,但是对假期出行的关注以及相关预订已经开始悄然升温。记者从在线旅游预订平台了解到,元旦假期的整体旅游预订量同比增长4倍,其中机票订单同比增长4倍,酒店预订量同比增长5倍。根据在线旅游平台数据显示,截至目前,元旦假期旅游热度同比上升181%。进入12月以来,元旦假期出行的旅游产品预订量环比增长57%,玩雪和避寒成为假期出行的两大主题。

输出:归纳:2024年元旦春节假期的旅游预订量已经开始悄然升温,尤其是机票和酒店预订量同比增长4倍和5倍。在线旅游平台数据显示,元旦假期旅游热度同比上升181%12月以来元旦假期出行的旅游产品预订量环比增长57%。假期出行的主题主要是玩雪和避寒。

样例2

Prompt
指令:对下列文本内容做不超过10字的归纳
文本:虽然距离2024年元旦春节还有一段时间,但是对假期出行的关注以及相关预订已经开始悄然升温。记者从在线旅游预订平台了解到,元旦假期的整体旅游预订量同比增长4倍,其中机票订单同比增长4倍,酒店预订量同比增长5倍。根据在线旅游平台数据显示,截至目前,元旦假期旅游热度同比上升181%。进入12月以来,元旦假期出行的旅游产品预订量环比增长57%,玩雪和避寒成为假期出行的两大主题。

输出:元旦假期旅游预订量同比增长4倍,酒店预订量同比增长5倍。

常见场景包含下列7个,文本概括信息提取问答对话文本分类代码生成推理。其中问答关注单次的提问与解答,对话关注与多轮的提问与回答。

常用的提示词技术

零样本提示(Zero-shot),我们在构造Prompt时,关于如何产出结果,不给出任何样例说明。

Prompt
将文本分类为中性、负面或正面。
文本:我认为这次假期还可以。
情感:

少样本提示(Zero-shot),我们在构造Prompt时,关于如何产出结果,会给出少量的示例说明,少量可以是1个(1-shot)、3个(3-shot)、5个(5-shot)等。

例如根据推断一个机器是否可以使用

指令:判断机器是否可用
背景:
1.组件A坏了,机器不可用
2.组件B坏了,机器可用
输入:机器同时包含组件A组件B,但组件B用了两天就不工作了,但组件A正常

模型输出:
在这种情况下,虽然组件B不工作了,但是机器仍然可以使用。因为组件A仍然正常工作,所以机器在当前情况下仍然可以被视为可用。

提供示例对解决某些任务很有用。当零样本提示和少样本提示不足时,这可能意味着模型学到的东西不足以在任务上表现良好。从这里开始,建议开始考虑微调您的模型或尝试更高级的提示技术。其中包括下列的提示技术,具体可以看参考资料中的详细介绍。

  • Chain-of-Thought Prompting
  • Self-Consistency
  • Generate Knowledge Prompting
  • Tree of Thoughts (ToT)
  • Automatic Reasoning and Tool-use (ART)
  • Automatic Prompt Engineer
  • Active-Prompt
  • Directional Stimulus Prompting
  • ReAct Prompting
  • Multimodal CoT Prompting
  • Graph Prompting

学习参考

[1]提升工程英文:https://github.com/dair-ai/Prompt-Engineering-Guide
[2]提示工程中文:https://www.promptingguide.ai/zh

文章来源:https://blog.csdn.net/Revivedsun/article/details/134910919
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。