写点什么

今天来揭秘提示工程 (Prompt Engineering)

作者:澳鹏Appen
  • 2024-07-17
    上海
  • 本文字数:1664 字

    阅读完需:约 5 分钟

今天来揭秘提示工程 (Prompt Engineering)

提示工程 (Prompt Engineering),也称为上下文提示,是一种通过不更新模型权重/参数来引导 LLM 行为朝着特定结果发展的方法。从回答问题到算术推理,提示工程可应用于各种领域。


理解提示工程,能够帮助我们了解大模型的限制和能力。本期澳鹏干货,一起走进提示工程 (Prompt Engineering)。


WHAT IS PROMPT  ENGINEERING————

什么是提示工程?


为了理解提示工程,先要理解什么是提示(Prompt)


提示(Prompt)是指提供给生成式 AI 模型的输入文本或指令。它可以是一个问题、一句话、一段文字或者一个完整的段落,用来引导模型生成相应的回答或输出。提示(Prompt)的质量和准确性对于生成符合预期的模型结果非常重要。



提示工程 (Prompt Engineering)是指通过对提示的开发和优化,与 LLM 进行交互,以引导其产生所期望的结果,而无需对模型进行更新。


举一个简单的例子,当我们让模型“介绍一下中国新年”时,模型会回答:



如果我们想要编写一个针对小朋友的科普段落,那我们就需要进一步将指令内容细化,通过增加上下文信息,对输出的结果做进一步的规范:“在一本针对小学生的科普书中,我们需要一篇对中国新年起源的介绍,约为 200 字,要求文字通俗易懂”。


在上下文信息和输出结果的约束下,大模型返回的内容就变得更加确切:



提示工程让我们通过修改和规范提示来获得想要的结果,可以帮助研究人员提升大模型在处理复杂任务时的能力,比如问答和算术推理。


通过合理设计和使用提示工程,可以赋能大模型得到更加符合人们期待的结果,使其更好地适应各种任务和应用场景。



KEY TECHNIQUES FOR PROMPT ENGINEERING————

提示工程的重要技术?


提示(Prompt)通常包含以下要素:


指令

明确说明希望语言模型执行的特定任务。

上下文

提供额外的外部信息,以引导语言模型更好地理解和响应。

输入数据

包括用户输入的内容或问题,作为模型生成输出的依据。

输出指示

指定所期望的输出类型或格式。


提示工程 (Prompt Engineering)的重要技术包括:


零样本提示

在“中国新年”的例子中,我们一直使用的是零样本提示,即没有进行举例,只是对内容和结果进行描述。

少样本提示

在模型结果差强人意的时候,我们可以提出样本,作为“上下文提示”的一种方法,来规范大模型给出的结果。然而,对于需要多重推理的问题,如算术题和推理题,思维链提示就成为了非常重要的新技术。

思维链提示

思维链提示通过引入中间推理步骤,实现了对复杂推理能力的增强——通过描述一系列中间推理步骤,人工构建推理过程,使得大模型能够通过学习这些推理过程,在算数推理、常识推理、符号推理等任务中取得更理想的结果。

此外,提示工程的重要技术还包括:自我一致性,生成知识提示,思维树,检索增强生成,ReAct 框架等等。


PROMPT ENGINEERING WITH APPEN 

Better Prompt Engineering, 与澳鹏合作


作为拥有 26+年经验的人工智能数据服务商,澳鹏紧跟行业前沿,提供提示工程 (Prompt Engineering)相关的数据定制服务,包括指令标注、指令泛化、CoT 描述等,为高质量的大模型部署提供数据支持。



澳鹏思维链数据标注:针对给定的一段逻辑推理过程,分解出前提条件和结论,并论证逻辑的正确性。我们的标注工具提供针对原始文本的修改和打分机制,能够进一步解析每一段文本的细节属性。标注工具的标记内容适配各种不同的公式表达,可以在各种专业领域提供个性化的支持和扩展。



澳鹏 ReAct 标注:通过检查 ReAct 推理轨迹并做出少量手动编辑和标记,来替换推理轨迹中的错误输出。事实核查、上下文一致性检查,以及调整工具调用过程中的错误使用等,可帮助模型调整其行为,简洁高效地解决任务。我们内嵌的多模态编辑器可以对工具调用返回的 JSON 格式数据做结构化的展示。



澳鹏 ReAct 标注的工具定义悬浮窗口支持 1 万个以上的工具定义,帮助标注员快速查看和掌握工具的用途以及输入输出参数。



随着生成式 AI 的进一步发展,提示工程 (Prompt Engineering)的重要性将进一步增强,它通过精心设计的问题或提示,可以显著提高 AI 模型的性能。


未来,提示工程可能会包含更多人文关怀和道德考量。随着技术的不断进步,我们有理由相信,提示工程将成为未来 AI 和 NLP 领域的重要支柱。


发布于: 19 分钟前阅读数: 7
用户头像

澳鹏Appen

关注

还未添加个人签名 2021-03-15 加入

高质量的AI训练数据服务商

评论

发布
暂无评论
今天来揭秘提示工程 (Prompt Engineering)_大模型_澳鹏Appen_InfoQ写作社区