分类目录归档:大模型基础技巧

Prompt 提示词技巧

提示词框架

RTF(Role-Task-Format)框架

  • Role 角色设定:为 AI 赋予一个虚拟身份或专业视角,引导其用特定角色思维回答问题
  • Task 任务指令:清晰定义AI需要完成的具体动作和内容要求,避免模糊指令或用词
  • Format 输出格式:指定AI结果的结构化呈现方式,比如格式、排版或特殊规范

CO-STAR 提示词框架

用 XML 格式包装提示词

原始提示词:

你是一个资深的文学家,你正在阅读一篇文章,请仔细阅读,然后基于文章的内容,按如下格式返回总结:

## 文章概览

[对文章的整

Read more

Agent 通信协议

MCP 模型上下文协议

  • 由 Anthropic 提出,用于标准化 LLMs 与外部系统交互的接口
  • 开发者能以统一的方式将大模型对接到各种数据源和工具

目前 MCP 协议已得到了广泛的生态支持,兼具通用性和灵活性

MCP 的两种模式:

  1. Stdio:主要用在本地服务上,操作本地的软件或者本地的文件
  2. SSE:主要用在远程服务上,比如基于 API 访问谷歌邮件,谷歌日历等

MCP 工具投毒

工具投毒攻击(Tool Poisoning Attack,简称 TPA),主要

Read more

上下文学习 ICL

大语言模型(LLMs)的上下文学习:经过预训练的 LLMs 能根据文本提示或任务示例来直接对下游任务进行预测,而无需更新模型权重,这种能力也被称为上下文学习(in-context learning,ICL)或语境学习

简单来说,ICL 就是在不更新模型参数的前提下,通过输入经典示例作为提示来增强模型的能力

以情感分析为例,来说明 ICL 的一般流程(图源):

  • ICL 需要一些示例来形成一个用于情景演示的上下文,作为提示输入来增强 LLMs
  • ICL 示例一般用自然语言模板编写,并拼接真实的输入查询(Text)与结果(Label)

ICL 的分类:

  • Few-shot learning,

Read more