超越提示词:从对话到 AI 治理

超越提示词:从对话到 AI 治理

英文版:Beyond Prompts: From Chat to AI Governance

一句精心打磨的提示词,或许能换来一次惊艳的回答。但它无法让项目记住昨天的教训,无法在失败后自动复原,更难以协调多位专家协作或确保下周的表现优于本周。因此,那种将人机协作简化为“人类寻找完美语句”的传统图景,显然过于狭隘了。

更具解释力的模型,是一个从单人作坊演变为治理有序的公司的过程。起初是一张对话桌,随后增加了书面任务简报,接着搭建起流水线,最终必须确立章程、明确角色分工、设立质量关卡并建立交接班记录。这一演进路径,正是 Leo Wang 在《Harnessing Intelligence》(《驾驭智能》)一书中提出的核心框架:对话、提示词、工作流与宪法。

AI协作的历史,本质上是一部抽象层级不断攀升的历史。

第一级阶梯:对话

2022 年 11 月 30 日,ChatGPT 向公众开放。它把强大的能力放进了一个极其简单的界面:一个文本框,一场对话。人们无需先学习专用界面、菜单或命令语法,便能以日常语言开始交互。在此阶段,人类的角色是好奇的用户,AI 的角色是对话伙伴,关键动作则是提问。

对话让智能变得触手可及,但可访问并不等于可控。同样的宽泛请求,今天可能产出犀利见解,明天却可能游移不定。一段对话虽能解锁有用成果,却无法解释如何可靠地复现该过程。此时的作坊里只有一位出色的员工坐在桌前,却缺乏标准化的操作流程。

第二级阶梯:提示词

下一步是用更精准的任务简报取代模糊的请求:设定目标、受众、格式、约束条件、示例以及成功标准。提示词工程捕捉到了一个真实发现:任务框架的构建方式直接决定模型结果,结构化指令能大幅减少模型的猜测空间。

然而,提示词仍仅针对单次任务。它无法保留项目历史,无法裁定多名专家如何协作,无法验证文件的有效性,也无法挽回发布失败的后果。措辞再精妙,只能引导生成方向,既不能保证真理,也无法运营一家公司。

第三级阶梯:工作流

随着作坊业务繁忙,工作必须分工。研究在先,写作在后;事实核查挑战草稿;图像、旁白、字幕、元数据和发布各有不同要求。专门处理判断密集型任务的智能体(Agent),与负责转换、测试、上传等对可重复性要求高于解读能力的确定性工具各司其职。产出物通过关卡检验,独立工作并行推进。

此时,邻近概念也愈发清晰。智能体是在循环中运行的模型:检查、选择行动、使用工具、观察结果并继续。RAG(检索增强生成)可将相关文档检索至当前任务上下文。MCP则为AI助手连接工具和数据源提供了标准方式。这些组件提升了能力上限,但并不能自动赋予系统连贯的权威、记忆或质量策略。

为何上下文不等于机构记忆

在模型调用层面,除非周围的应用程序持久化并重新提供状态,否则文本生成请求是无状态的。更大的上下文窗口虽能让模型在一次会话中获得更多素材,但它不会自动保留团队上个月否决某个想法的原因,也无法将反复出现的故障转化为永久的防御机制。

可以将上下文视为办公桌空间。桌子越大,能放的纸张越多。但它不是档案系统,不是政策手册,也不是决策记录。关于长上下文模型的研究也表明,当相关信息淹没在大段输入的中间时,往往更难被有效利用。桌面更大固然有用,但这与一个懂得记忆的组织机构并非同一回事。

RAG有助于检索存储的事实,记忆层可以保留偏好或事件。但治理提出的是不同的问题。知道项目使用了哪个数据库只是信息;而规定每次模式变更都必须包含经过测试的迁移方案、回滚计划和审查关卡,则是关于组织如何运作的规则。

第四级阶梯:宪法

基于宪法的架构为作坊赋予了章程。它定义了使命、红线、角色、工作流、决策记录、质量关卡与会话生命周期。轻量级路由器指引智能体查阅权威文档;交接记录上一班次的变化及下一班次的任务;最终审查将反复的即兴发挥转化为持久的规则、测试用例、操作手册或命令。

此处的“宪法”指代外部的、可审计的项目治理结构。它并非宣称AI系统拥有意识或道德人格,也不等同于Anthropic关联的“宪法AI”(Constitutional AI)模型训练方法。这里的宪法规范的是围绕模型调用的工作流程,它不会魔法般地改变模型本身的本质。

交接记录,是无状态模型参与有状态项目的关键机制。

随抽象层级提升,人类角色随之跃迁

在对话层级,人类是好奇的用户;在提示词层级,人类成为指令设计师;在工作流层级,人类成为角色、交接、工具和关卡的建筑师;在宪法层级,人类升维为元设计师:决定由何种系统来跨时间治理工作。

称主智能体为“CEO”,这是一种运营模式,而非所有权或问责制的转移。智能体稀缺的上下文资源应专注于协调与判断,而非重复性机械劳动。人类仍需对使命、权限、现实后果以及那些无法安全委托的价值判断负责。

诊断层级,而非盲目重写提示词

  • 对话问题: 你尚未发现模型能提供何种类型的帮助。
  • 提示词问题: 任务清晰,但指令留给猜测的空间过大。
  • 工作流问题: 结果依赖多个角色、工具、交接环节或恢复步骤,这不应由单一提示词承载。
  • 宪法问题: 工作流已存在,但决策、边界、记忆和学习在会话间消失。

每一层级都包含其下的层级。宪法仍需工作流支撑,工作流仍需优质提示词,提示词仍通过对话实现。错误不在于使用较低层级,而在于将某一层级误认为是整个阶梯的全部。

深入探索

如需了解完整的四个时代、生产案例及其背后的开源架构,可以阅读或购买 《Harnessing Intelligence》(《驾驭智能》)。带回自己工作中的问题其实很简单:你当前的难题,究竟处于哪一级阶梯?

延伸阅读:OpenAI最初的ChatGPT介绍Anthropic的MCP介绍《迷失在中间》Anthropic的宪法AI论文;以及开源的工作流设计圣经


Watch more first-principles field guides on Wiki4What, or read the essays at blog.wiki4what.com.