分享
上下文就是一切!行业热议话题:提示工程是否应该改名
输入“/”快速插入内容
上下文就是一切!行业热议话题:提示工程是否应该改名
用户4242
用户4242
2025年7月3日修改
上下文工程讨论的博客版本
大家好,我是歸藏(guizang),今天来讨论一下最近圈子很火的上下文工程概念。
这几天 AI 圈子有个非常有必要也非常热的讨论就是提示工程是不是应该被称为“上下文工程”更加适合。
最早由 Shopify CEO Tobi Lutke 在推特说,他觉得相比提示工程更喜欢“上下文工程”这个术语。
因为这个词可以更加准确的描述岗位所需要的核心技能:
需要为 LLM 提供完成任务所需要的所有上下文。
之后 Andrej Karpathy 也发表了意见,“提示”通常让人联想到日常使用的 LLM 聊天机器人中的简短任务描述。
但是在每一个工业级 LLM 应用中,上下文工程是精心艺术和科学地填充上下文窗口,
使其包含下一步所需恰到好处的信息
。
因为做到这一步需要的不只是提示词这一个东西,还需要任务描述和解释、少量样本、RAG(检索增强生成)、相关的(可能是多模态)数据、工具、状态和历史、以及压缩等信息。
如果信息太少或形式不对,LLM 可能无法获得最佳性能所需的正确上下文。
但如果信息过多或不相关,LLM 的成本可能会上升,性能也可能下降。
所以上下文工程师需要提供恰到好处的信息,而且这需要对 LLM“心理”有一种引导性的直觉。
我认为只有不断的使用和优化提示词和上下文内容对模型的边界足够了解才能形成这种直觉。
同时前几天很火的是否要进行多Agent构建的争论中的两个主体 Cognition 和 Anthropic 都提到了在 AI Agent 构建中上下文管理的重要性。
Cognition 强调说:
上下文工程是构建 AI Agent 工程师的“首要任务”。
Anthropic 说:
Agent经常需要进行长达数百轮对话的交互,这要求采用精细的上下文管理策略。
53%
47%