不透明递归成AI安全焦点，OpenAI Astra带起术语更新潮

AI正在改写技术地图，也在批量生产新词。上周，OpenAI新模型Astra采用的不透明递归（opaque recurrence）推理技术刚让AI安全研究者绷紧神经，各类会议里的缩略语又以更快速度入场。LLM、RAG、RLHF……想要逐词跟上，连技术从业者也觉得吃力。

TechCrunch为此更新了一份AI术语解读清单，把从AGI（通用人工智能）到扩散模型、蒸馏、AI agent等高频概念用相对直白的语言拆解。这份清单以活文档方式维护，会随技术路线变化随时增补词条，与它所描述的AI系统一样保持着更新频率。

通用人工智能（AGI）描述的是一种在多数任务上至少不比普通人差的人工智能。OpenAI首席执行官萨姆·奥尔特曼给出的通俗版本是：它像一位可以雇来当同事的中位数人类。OpenAI公司宪章则采用另一种尺度，将其界定为在最具经济价值的工作上胜过人类的高度自治系统。

谷歌DeepMind对AGI的理解又有所不同，实验室更倾向于把它定义为在多数认知任务上达到人类水平的系统。三套说法在报道和发布会中被交替引用，却不总说明出自哪家口径。TechCrunch在词条里提醒读者，研究最前沿的专家也未必能把这几个字拿稳。

AGI定义长期无法收敛，背后藏着不同机构的利益位置。OpenAI将其与经济价值挂钩，为商业化产品预留了更大解释空间；DeepMind从认知水平出发，更贴近实验室的校验方式。监管方必须在这些口径里选出可操作的基准，选错口径可能让政策提前锁定错误的技术阶段。

大模型把难题拆成中间步骤，逐步推理后再汇总答案，这种方法被称为思维链。人类处理复杂问题也是如此——统计40个头、120条腿的鸡牛数量时，写下算式比心算更可靠。具备思维链能力的推理模型，也因此成为大模型家族中一个独立的开发方向。

不透明递归从思维链延伸而来，却主动收起一部分中间过程。OpenAI的Astra模型将部分推导折叠回内部循环，对外只输出浓缩后的结论。AI安全研究者之所以警觉，是因为许多错误恰恰发生在推理的中间步骤；当这一段对外不可见，外界将更难分辨模型出错是概率波动还是系统性偏差。

是否公开推理过程，是一个没有标准答案的产品抉择。完全透明可能暴露模型的内部规律，给恶意攻击者提供更多素材；完全隐藏又让错误取证无从下手。较可能出现的路径是分层披露：普通用户看到结果，审计机构获得可复核的日志。透明度之争，终将落到“哪些信息、以什么粒度、交给谁看”这些更具体的问题上。

AI代理承担的不是输出文本，而是完成一连串实际动作。报销流程里的收据识别、科目归集、提交审批，订餐厅时的查空位、下订单、确认支付，都属于代理可接管的范围。它要与外部系统打交道，而程序员给这些软件预留了API端点——可以理解为藏在后端的一排按钮，按下按钮即可取数或触发服务。

编码代理是这条赛道上落地最快的分支之一。它面对的不再是单个问题，而是整个代码库：自动写代码、跑测试、修Bug，把开发者从循环试错中解放出来。这类工具像一个速度极快、从不睡觉的实习生，不过按惯例，实习生交上来的工作仍需要人复核。

把操作权交给代理的同时，责任归属变得比以往更难说清。代理一旦误点了不该点的按钮，问题属于用户授权没说清、模型理解出了偏差，还是服务方把接口暴露得过于随意？权限边界越模糊，自动化规模扩大以后要付出的制度成本就越高。

深度学习是当下多数AI系统的底层能力。它用多层人工神经网络从样本中自行抓取关键特征，区别于线性模型和决策树，能够处理更复杂的相关性，也能在反复试错中自我校正。代价是通常需要百万级以上的数据支撑，训练耗时和开发成本也更高。

扩散模型负责大量图像、音频乃至文本的生成任务。它从物理扩散得到灵感，先给素材逐步加噪，再学习逆向还原的过程，最终练成从随机噪音中重建原始数据的能力。GAN（生成对抗网络）是另一条生成路线，通过生成器与判别器彼此博弈来逼近真实，早期图像合成和风格迁移的很多尝试建立在它之上。

蒸馏解决的是大模型太贵的问题。开发者把教师模型的输出记录下来，训练一个更小的学生模型去模仿这些行为，在性能损失可控的情况下获得更轻量的版本。TechCrunch在词条中写道，OpenAI的GPT-4 Turbo在开发时很可能就使用了蒸馏方法。

蒸馏还存在争议性用法：把竞争对手模型的输出收集起来作训练材料，形成追赶头部模型的捷径，但这通常违反对方API和聊天工具的服务条款。由于此类做法难以被完全发现，它已经成为模型公司之间围绕训练数据来源的持续争论点。比起追查单个案例，行业更缺的是一套统一的训练数据使用规则。

微调解决的是让模型更“懂行”的问题。许多AI公司拿开源大模型做起点，再喂入垂直领域语料继续训练，造出更懂法律、医疗或代码仓库的版本。公开权重本身已不稀缺，与具体场景绑定的高质量数据，变成了多数产品真正的护城河。

算力则是整条技术链的物质底座。GPU等专用硬件和大型训练集群构成AI公司成本的核心去向，模型规模与调用量同步攀升，让算力供给的紧张程度直接传导到芯片采购和云服务定价上。

术语批量生长，也在技术圈内外划出一条条信息界线。开发者的工作词表、投资人的路演讲义与大众媒体的报道语言并不重合，不敢追问缩写含义的听众，往往也错失了对技术方案提出质疑的机会。能描述模型如何运作，和能清晰表达自身需求，本来是同一件事的两面。

在AI名词快速更替的背后，维持一份澄清语义的清单，有时比追逐下一场发布会更接近行业真相。下次再出现不透明递归这类新说法时，与其困在黑话里，不如先问一句：它改变了谁的负担，又让谁手里的牌变多了？