事情大都知道了江苏万能胶，Jeff Dean 选择离开了 Google。

今天，这位互联网时代传奇的工程师，在社媒上宣布结束自己长达 27 年的 Google 生涯，并与另外三名技术大牛共同创办名为 Discovery Loop 的公司，动机器学习、科学和工程的自动化。

*Discovery Loop 团队，右三为 Jeff Dean

这条消息的分量，很难只用个职位变化来解释。

在过去的 27 年里，Jeff Dean 与同事共同设计了 MapReduce、Bigtable 和 Spanner，是初代 TensorFlow 的主要设计者和实现者之。2011 年，他联创办 Google Brain，并成为 Gemini 项目的重要负责人之。

除了铸就 Google，这些项目在过去二十多年里启发了全球数互联网应用、Infra 和 AI 从业者。

如今 Jeff Dean 创办的这新公司，属于备受瞩目的 AI 自进化向。离职消息公布前两个多月，他密集出现在不少场，谈起了自己对 AI 的认识和判断。

这些内容涉及训练、智能体、数据和力，也有他的下个向，持续学习和自我改进的 AI，放在起就像份顶工程师对 AI 的判断记事本。我把这些信息读了几遍，整理出 Jeff Dean 对 AI 的 22 个判断。

智能体证明，今天的所有工具都太慢

01 智能体的工作时间从小时变成星期。

在几天前 YC 采访现场，Jeff 提醒台下的技术创业者，人们仍然低估了长时间智能体。只要底层模型足够强，在适的问题域里，智能体可以连续运行几天甚至几周，完成复杂任务。

他举的例子是让软件从种语言重写到另种语言。过去这件事往往需要团队逐个模块改写。现在 Jeff 观察到，智能体已经能够接手其中相当完整的段流程：读取原代码，翻译测试，生成新实现，再比较两边行为，直到差异消失。

02 长任务失败的原因。

今天的智能体经常在十几次或几十次工具调用后开始跑偏。Jeff 的解释是，模型会逐渐进入自己缺少经验的区域。它离训练分布越远，能越容易下降，前面的小错误也会给后面的步骤制造新问题。

这解释了个常见现象：同个智能体，前十步看起来像个熟练工程师，到五十步却开始忘记自己初要做什么。

03 给智能体做长任务铺条熟悉的路江苏万能胶。

现在保证智能体做长任务的准确率，Jeff 提出了几种式。

种补救办法，是编写技能和操作指引。技能并不改变模型参数，它把人类解决某类问题的法写成模型能够调用的步骤，让智能体尽量沿着熟悉、可验证的路径行动。

另种法，是让多个智能体尝试不同路径，再由另个模型评估哪些向有希望。失败或跑偏的路径被丢弃，计资源继续投入那些看起来能走通的案。

在 Jeff 看来，这是种通用的理式搜索。单个智能体不次就做对，系统可以用多理计换取的成功率和长流程可靠。

04 模型只是系统中的个件。

Jeff 对"模型能力"的理解很工程化，他认为真正要交付的是套能解决问题的系统，模型只是其中部分。系统还要处理检索、记忆、工具调用、任务分解、结果评估，以及不同智能体之间的编排。

同个基础模型放进不同的工具和上下文系统里，终表现会相差很大。这些情况我们也在很多 Harness 里见到了。

05 智能体会证明，今天的所有工具都太慢。

模型速度提之后，瓶颈会转移到它调用的工具上。很多数据库、编译器、网页和企业软件，都是按照人类能够接受的等待时间设计的。人类愿意等几秒，连续工作的智能体却会把这几秒重复成几小时甚至几天。

Jeff 认为，即使模型变得限快，工具的延迟仍会限制真实工作的加速幅度。Agent 时代需要重做的，远不止模型。

06 代码发便宜，选择问题的品味稀缺。

虽然模型和智能体还有优化空间，但假设每位创始人都能同时调度几百个智能体，代码也主要由智能体完成，稀缺的能力会变成"让它们做什么"。这是种品味。

个研究项目执行得再漂亮，如果问题本身聊，价值仍然有限。人类要负责给大量 AI 计指向，判断哪些问题配得上这些时间和力。模型至少目前未擅长这件事。

07 品味可以靠提前下注，再回头复盘来训练。

"品味"听起来很玄，Jeff 给了个可以操作的办法：写下你认为未来 12 个月会变得重要的批问题。你只需要亲自选择其中项，但年后要回头检查其他判断。

哪些问题真的变重要了，哪些被别人做出来了，哪些直没人碰。这样的复盘会给判断力增加样本，比只复盘自己真正做过的个项目快。

下代 AI 会怎样学习、计和改进自己

08 模型处理复杂任务的速度江苏万能胶，进步飞快。

Jeff Dean 原本已经对模型相当乐观，但仍然低估了模型处理复杂任务的进步速度。他发现变化也开始越过编程，进入其他能够调用工具、拆分步骤并检查结果的域。

衡量模型进步，现在只看它能否回答难的问题已经不够了。大的变化来自它能否接住项复杂工作，并把工作继续做下去。

09 持续学习是没攻克的核心问题，今天的模型架构太规整。

持续学习意味着模型可以不断吸收新经验，又不破坏已有能力。Jeff 在两个月前次 Google 组织的活动中坦言，自己和同事尝试过些法，但当时没有找到正确答案。

关于模型架构，他觉得现在的混模型包含许多模块，但每个的结构通常很相似。Jeff 以为，模型会早走向种有机、结构差异大的形态。但这个向还没有真正实现，他仍然认为这种模型架构有价值。

10 AI 会把科学法的循环自动化。

Jeff 关心的自我改进，并不是让模型凭空"变聪明"。他描述的是套可以执行的循环：提出实验，万能胶生产厂家完成实验所需的实现，运行实验，评估结果，再把结果放回下轮。

当智能体能够把层目标拆成子问题，每个子问题都进入自动实验循环，后再把答案组起来，机器学习、科学研究和工程设计都会因此加速。

11 快的评估器，直接改变科学研究的节奏。

关于 AI 自己促进科学试验，Jeff 举过个量子化学案例。原来的密度泛函理论模拟器评估种分子构型，需要运行整夜，后来研究团队用模拟结果训练了个经网络近似模型，速度提约 30 万倍，准确度仍接近完整模拟器。

所以，当 1000 万个候选（潜在分子结构案）可以在顿午饭的时间里筛完，实验循环就被重写了。过去要做六个月的筛选，现在可以不断迭代，再把有希望的少量候选交回昂贵模拟器验证。

这或许和他的下步创业相关。

12 明年，AI 改进 AI 会有重大成果。

在 5 月的 Gemini 圆桌上，Jeff 给出了项很具体的预测：年后，人们可能已经能指着模型中的某个重大改进说，这是模型与智能体为了自我提升而共同工作，后生成的成果。

这仍然是预测，不是已经发生的事实。但它把" AI 改进 AI "从遥远口号压缩成了个很近的时间表。

对训练模式、数据、力和能耗的非共识

13 预训练和后训练会逐渐交替进行。

今天的模型通常先预训练江苏万能胶，再进入强化学习、指令微调等后训练阶段。Jeff 对这种截然分开的流程并不满意。他设想的系统会在观察数据和使用新知识之间反复交替。

模型可以在模拟环境、机器人世界或软件环境中行动，再根据后果学习。交替次数足够多时，两阶段之间的边界会越来越模糊。

14 数据还没有耗尽。

关于数据，Jeff 近表示公开文本确实已经被大量使用，但他并不认为数据会很快卡住模型进步。因为，尚未充分利用的、科学数据和其他模态仍然很多；成数据、重复处理已有数据，以及的学习法，也能继续从现有材料中提取新价值。

因此，他真正关心的是系统能从每份数据里学到多少，远不止"还有没有 token "。

15 和人类相比，AI 的学习率太低。

Jeff 做了个直观比较：个大模型看到的数据量，约是个能力很强的人类的 1000 倍，后才获得大致相当的能力。有些任务强，有些任务仍然弱。

如果模型能从每个样本中多提取几个数量的信息，AI 的进步就不只依赖多数据和大力。数据率仍有巨大的法空间。

16 搬运数据的能耗，是次计的 1000 倍。

关于硬件，Jeff 也有很多判断。

先他指出在现代加速器（GPU/TPU）里有个反直觉的事实：把数据从存储器搬到计单元，往往比真正执行乘法昂贵得多。Jeff 认可的量差异约为 1000 倍。

这也是批处理存在的重要原因。既然搬次这么贵，那就让搬来的数据尽量多用几次。

但批处理有代价：要凑够批数据就得等，攒齐了才开跑，单个用户的请求得在队列里多等会儿，模型的响应就变慢了。系统设计须在两者之间取舍。

17 理硬件会比训练硬件加用。

训练追求吞吐，理还要面对用户等待和智能体连续调用，因此延迟要求。理期间模型权重通常保持不变，数值精度也可以低，这些特征都给用芯片留下了空间。

Jeff 设想，未来硬件将直接固定少数几种真正需要的精度，减少数据搬运，也不再承担大量关的通用。

18 模型架构和芯片架构需要起设计。

当智能体在后台消耗海量 token，仅仅堆多同类芯片很难解决问题。Jeff 关心模型与硬件的协同设计：模型采用什么结构，芯片支持什么精度和存储式，两者起换取低延迟、每瓦能和每美元能。

TPU 的历史已经展示过次这种思路。未来的理硬件会把它得远。

19 "终身 AI "未要把切塞进上下文窗口。

Jeff 希望 AI 能调用个人生接触过的数字内容，也希望它能理解规模达到百亿行的代码库。但现在把这些内容次放进昂贵的注意力窗口，并不现实。

他的案是联检索。先从 100 亿份文档中筛出 3 万份，再由轻量模型找出其中相关的 117 份，后才交给大的模型。用户感觉所有资料都在眼前，后台其实完成了多筛选。

创业者该做些什么，该怎么选

20 创业该找模型成功率为 0 或 1 的问题。

在他离职前的后次采访中，Jeff 谈了不少创业话题。他给创业者的建议是，如果通用模型已经有 20 的成功率，这项能力往往已经进入模型的上升曲线，未来半年到年就会快速。

的失败反而提供了空间。失败的模型通常缺少数据、工具、界面或域知识，小团队可以围绕其中项建立持久的优势。

21 私有数据和用模型，是小团队的壁垒。

小团队在模型域还有机会。

类机会来自通用模型看不到的数据。个产品如果得到用户授权，可以理解他的个人文件、邮件或工作记录，通用模型便法只靠公共训练数据复制同样的体验。

二类机会来自窄而难的问题。AlphaFold 注蛋白质结构，材料科学和芯片设计也适训练小而用的模型。它们不追求什么都做，只要把个重要问题做到准确率。

22 好的职业向。

谈到工作，Jeff 给职业选择设了三个条件：研究自己真正关心的事情；和喜欢、互补的人作；如果事情做成，它会给世界带来积影响。

大公司提供平台、力和大量拥有不同知识的同事，小团队提供强的自主和集中的冒险。两条路都可以选，他到后会问同个问题：如果理想的结果真的发生，世界会不会因此好很多？

如果答案是"嗯，是有点酷，不过也就那样"。Jeff 的建议是：别把时间花在那里。相关词条:罐体保温施工     异型材设备     锚索    玻璃棉    保温护角专用胶

奥力斯    保温护角专用胶批发    联系人：王经理    手机：13903175735（微信同号）    地址：河北省任丘市北辛庄乡南代河工业区

1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定江苏万能胶，并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方，并积极配合修改。
3.凡用户访问本网页，均表示默认详情页的描述，不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》，以此来变相勒索商家索要赔偿的违法恶意行为。