AI提示词设计指南

AI提示词的设计基础概念，对提示工程的概念、组成、应用、技术及风险等方面进行了详细梳理，有助于对提示工程相关知识的系统学习和理解。

提示工程

• 定义与应用
  • 提示工程是与AI交互的技术/艺术
    • 提示工程师帮助AI更好地服务任务
    • 提示工程用于开发优化提示
      • 提高语言模型(LUM)在多种应用和研究中的能力
      • 优化大型语言模型的功能和局限性理解
    • 提示工程技能有助于理解大型语言模型(LUM
  • 提示工程的兴起
    • 用于指导和优化大型语言模型(LUM
      • 提升在问题回答和逻辑推理等任务上的表现
    • 开发人员使用提示工程设计与LUM交互的技术
      • 提高对使用LUM进行开发的兴趣
• 提示工程的组成
  • 提示格式
    • 标准提示格式
      • 适用于多种任务
      • 例如文本摘要、信息提取、文本分类等
    • 提示的要素
      • instruction 指令
        • 指导模型执行特定任务或指令
      • context 上下文
        • 提供背景信息或基于上下文的引导
      • input data 输入数据
        • 为模型提供输入以找到响应
      • output indicator 输出指示
        • 指示输出的类型和格式
  • 提示设计技巧
    • 从简单开始
      • 设计简单有效的提示
      • 随着目标的深入逐渐增加复杂性
    • 版本控制
      • 对提示进行版本控制以追踪改进
    • 特定任务的提示设计
      • 使用命令指示模型实现目标
      • 结合关键字、上下文和数据类型
  • 提示工程案例
    • 文本摘要
      • 使用提示执行文本摘要任务
    • 信息提取
      • 提示用于执行信息提取任务
    • 文本分类
      • 提示用于指导模型进行文本分类
    • 对话系统
      • 提示用于指导LLM如何表现和回答问题
    • 代码生成
      • 提示用于代码生成任务
    • 推理任务
      • 提示用于指导模型执行推理任务
• 高级提示技术
  • 零样本提示
    • LUM接受大量数据训练
      • 能够执行多种任务
  • 小样本提示
    • 使用少量提示让模型学习
      • 改进模型在复杂任务上的性能
  • 思想链提示
    • 通过中间步骤进行复杂推理
      • 结合使用以提高结果质量
  • 自我一致性
    • 选择最一致的答案
      • 改善模型在多步骤任务中的表现
  • 生成知识提示
    • 使用生成的知识作为提示的一部分
      • 提高模型在特定任务上的准确性
  • 自动提示工程
    • 自动化提示生成和选择
      • 提高任务执行效率和质量
• 提示工程应用
  • 生成数据
    • 利用LUM强大的文本生成能力
      • 生成有用和准确的数据
  • 程序辅助语言模型
    • 使用LUM生成程序作为中间处理
      • 解决特定问题
• 提示工程风险
  • 对抗性提示
    • 提示工程中的一个主要问题
      • 硬编码理解LM涉及的风险和安全问题
  • 提示注入
    • 通过改变行为的提示实现攻击
      • 需要防止可能的即时攻击
  • 提示泄漏
    • 泄露可能用于构建在LUM之上的有用提示
      • 需要避免公开重要提示
  • 系统劫持
    • 模型可能执行不安全的指令
      • 需要采取措施防止劫持