再读-腾讯研究院5月15日《AI原生工作报告》
- 2026-11-01 23:33:35
DEEP OCEAN
深度长文
再读|腾讯研究院5月15日《AI原生工作报告》:可靠不等于不出错,而是出错之后还能接住
序言:先看那道“信任鸿沟” · 关键词一|驾驭工程:人设计环境,AI在环境中执行 · 关键词二|记忆:精确遗忘比完美记忆更重要 · 关键词三|技能:最好用的,是自己持续维护的Skills
WECHAT · LONG READ
12 PARTS
CONTENTS · 本章导览
12 PARTS
PART 01
序言:先看那道“信任鸿沟”
PART 02
关键词一|驾驭工程:人设计环境,AI在环境中执行
PART 03
关键词二|记忆:精确遗忘比完美记忆更重要
原文:腾讯研究院AI原生工作团队《AI原生工作报告2026》(副标题:从信任鸿沟到可靠协作的十个关键词)
这份报告发布已经有一阵子了。第一次读,容易被一个个数据和案例吸引;隔了一段时间再读,反而更能看清它真正想说的事:AI原生工作,不是找一个零错误的完美AI,而是搭一套“可控失败、透明修复”的协作体系。
报告用十个关键词,把这件事拆开来讲。下面按我自己的理解,重新梳理一遍。
01
PART
序言:先看那道“信任鸿沟”
CHAPTER 01
报告开篇抛出一组反直觉的数字:2023年,Stack Overflow调查中AI编程工具的信任度是40%;两年后,采用率从70%升到84%,信任度却降到了29%。用得越多,信得越少。
为什么?报告给出两个原因。
第一,认知摩擦。 工程师、律师、医生这些职业,训练建立在确定性之上:同样的输入,应该得到同样的输出。而AI是概率性系统,同一个问题问两遍,可能给出两种结构、两套方案。这种不适,不是能力质疑,而是一种更原始的不适应。
第二,验证成本。 AI把“写”的工作量砍下来了,却把“查”的负担顶了上去。它的产出往往“看起来正确但不可靠”,错误藏在合理的逻辑里。一旦检查成本超出预期,人们的反应不是查得更仔细,而是干脆不查。报告引用的数据很有意思:96%的开发者不完全信任AI代码,但只有48%的人在提交前始终检查。嘴上的不信任是安全的,手上的放行才危险。
更麻烦的是感知失真。METR的实验中,经验丰富的开发者用AI后实际慢了19%,自己却觉得快了20%,感知与现实相差39个百分点。
那怎么办?首尔国立大学的实验提供了线索:人对AI的信任会经历“建立—冲击—修复”三个阶段,一次错误会让信任断崖式下跌,但经过透明解释、边界澄清之后,修复后的信任甚至可以超过最初的水平,这被称为“信任加速悖论”。
所以报告的核心判断是:可靠不等于不出错,可靠是出错之后还能接住。
02
PART
关键词一|驾驭工程:人设计环境,AI在环境中执行
AI FRONTIER
人机协作的重心,经历了从提示词工程,到上下文工程,再到驾驭工程(Harness Engineering)的迁移。核心逻辑是:不再只盯着怎么“问”,而是设计一个让AI可靠工作的环境,包括约束系统、反馈循环、验证机制和状态管理。
报告用“前馈/反馈”和“确定性/推理性”两条轴,把驾驭手段分成四个象限,比如模板、规范都属于其中的一类。它也提醒了几件事:约束要适度,规则、工具、架构各有特点;组织规模不同,Harness的厚度也不同。更进一步,人的位置会从“盯着AI干活”,移动到“在环上”去修改系统,最终用Agent来改进Harness本身。
03
PART
关键词二|记忆:精确遗忘比完美记忆更重要
CHAPTER 03
很多人以为AI记忆的挑战是“记得多”,报告说恰恰相反,核心挑战是精确遗忘。认知科学的研究表明,遗忘是大脑保护高价值信息检索效率的一种设计。
具体的管理手段包括修剪、压缩、巩固、冲突解决。FadeMem项目就是模仿遗忘曲线,设计了两层衰减速度不同的记忆系统。工程上有三条路线:选择性事实提取、文档化自主管理、结构化知识图谱,分别对应认知科学里不同类型的记忆。记忆系统做得好,个人知识才能从零散积累,上升到结构化管理,形成别人难以复制的壁垒。
04
PART
关键词三|技能:最好用的,是自己持续维护的Skills
CHAPTER 04
Skill,就是把“遇到这种情况应该怎么做”写成可复用的指令模块,是程序性知识的数字化表达,和微调、检索增强生成都不一样。
但Skill不是越多越好。上下文是稀缺资源,Skill太多反而成为负担,还会出现“指令漂移”。报告给出的维护要点很朴素:描述要精准,聚焦关键信息,重视踩坑记录,并根据实践不断精简。
05
PART
关键词四|评估:可靠的评估与反馈,是方向盘
CHAPTER 05
AI自己评自己,并不可靠,会有上下文污染等问题。报告建议采用PGE三角色架构,把“做工作的Agent”和“判断工作的Agent”分开。
但评估者本身也会有系统性偏见,所以评估本身也需要被评估。比较稳妥的做法是多层评估:确定性检查、AI审查、人类判断结合使用,同时注意从错误里学习。
06
PART
关键词五|上下文:停止把你的人生故事放进去
CHAPTER 06
信息给得太多或太少,都会影响AI表现。在Transformer架构下,上下文膨胀的成本很高,还会带来“毒化”“分心”等问题。
报告给出的原则是:找到最小的高信号token集合;采用渐进式披露;清空往往比压缩更有效;并且定期审查上下文,删掉过时信息。
07
PART
关键词六|工作流:人类始终是这场演出的导演
WORKFLOW
现实中,大多数人只是用AI加速单个任务,整体工作流并没有变,所以提效有限。报告提出要重新审视工作流:
08
PART
关键词七|多智能体:用好一个,再用多个
CHAPTER 08
多Agent并不是越多越好。报告的提醒是:有时候升级模型,比堆更多token更高效;基础打牢之后,再考虑多Agent。
要避开几个陷阱:过度委托、规格不足、协调开销、“电话游戏”效应。分工时,可以看是否共享上下文,并借鉴管理幅度、权威梯度等组织理论。多Agent有应用边界,当单Agent确实无法满足需求时再用。
09
PART
关键词八|加法偏见:加法是能力,减法是智慧
CHAPTER 09
人类倾向于“加东西”而不是“减东西”,AI的加法偏见甚至更极端。放到实践中,就是Skill库越堆越大,提示词越写越长。
减法是反人性的,但可以靠纪律训练。报告建议通过“策展”来管理Skill库等资产,不断判断哪些内容该减。
10
PART
关键词九|去技能化:如果有一种技能我们输不起
CHAPTER 10
这是整份报告里最让人警醒的一部分。AI可能让使用者逐渐失去原本具备的技能:开发者的编码能力下降,医生、法学生等在各自专业领域也受到影响。
报告把损失分成三种:替代性、侵蚀性和构成性。背后还有一个悖论:学习的最优策略,和生产力的最优策略,并不是同一个。
应对办法也很具体:定期不用AI完成任务,保留深度思考的时间,重新练习深度阅读。
11
PART
关键词十|知识工程:方法会过时,工具会迭代,最终留下什么
TOOLKIT
最后一个关键词,回答的是“长期”的问题。报告强调要从“消耗”走向“积累”:别做消耗型学习,把教AI做事的方式沉淀成Skill,让每次交互留下痕迹,并建立知识之间的联系。
报告提出了“写下来、记下来、连起来”的螺旋模型:写下来,是把可复用的流程变成技能;记下来,是留存决策、偏好和失败教训;连起来,是梳理知识间的因果与依赖,进而构建语义层、本体、知识图谱,并对抗知识腐烂。
因为方法会过时,工具会迭代,真正属于个人的,是判断框架、因果链条和领域直觉组成的知识网络。
12
PART
再读之后
CHAPTER 12
把十个关键词连起来看,会发现它们其实在回答同一个问题:当AI不再完美,我们如何与它可靠地共事?
信任不是一个静态的指标,而是在一次次校准中长出来的。与其期待AI永不犯错,不如把功夫花在“出错之后如何接住”上。
本文根据腾讯研究院《AI原生工作报告2026》整理,观点和数据均出自原报告,完整内容请以原文为准。
ABOUT · 作者
如果觉得今天这篇有收获,欢迎点赞、在看、转发三连,我们下篇见