title: "the-future-worth-building-is-human" translated_title: "值得构建的未来是以人为本的" date: 2026-07-10 url: https://thinkingmachines.ai/blog/the-future-worth-building-is-human/ author: Thinking Machines Lab source: thinkingmachines.ai fetched: 2026-07-11 13:01:15 translated: "2026-07-11 09:01:26"

Thinking Machines 的使命，是构建能够扩展人类意志与判断力的 AI。

人工智能每天都能做得更多，但它应该做什么，取决于我们：个人、组织，以及整个人类。这些决定需要知识与判断力，而这些能力来自人们在持续接触实际工作中所获得的经验，如今这种工作也越来越多地与 AI 并肩完成。塑造高级智能的目标，同样是一个持续进行的反馈、学习与重新校准的过程。

如今投入使用的大多数 AI，只在少数地方完成训练，随后便被冻结。它们不会被其服务的人所塑造，也不会从彼此协作完成的工作中学到太多。要扩展人类的意志与判断力，就需要像人类自身一样多样化、分布式的 AI。这正是我们选择的道路。

为了沿着这条道路前进，我们正致力于以下技术方向：

• 我们训练强大的模型，推进多模态交互、可定制性等能力。锋利的工具能够扩展人类意志，而人类判断力则需要塑造那些在前沿竞争的模型。
• 我们构建工具，让人们能够把 AI 变成自己的 AI，通过定制模型来满足其独特需求。这包括训练模型权重的能力。
• 我们开发界面，拓宽人与机器之间的沟通通道，让个人判断力能够持续影响 AI 的工作。
• 我们发布研究成果，面向科学界公开，因为塑造 AI 的能力需要对其构建方式有深刻理解。

我们相信，值得构建的未来是以人为本的——由人类知识塑造，由人类意志引导，并由人类判断决定。接下来要阐述的，就是支持这一未来的理由，以及我们为实现它正在开展的工作。

将智能带到知识产生之处

AI 的存在，是为了服务于我们的工作。而这些工作依赖于关于事情如何完成、什么值得去做的知识；这些知识，是由投身于工作的人持续不断地产生出来的。

想想一位厨师在设计一道新菜谱，或一位店主在重新摆放陈列商品并调整价格。他们追求的是一组复杂的目标，并运用着外人无法立刻看懂的诀窍。这些知识会通过反馈不断更新；它不是一个可以写进数据库的静态知识库。它是局部性的——不同的餐厅或商店，会通过不同的方法追求不同的结果。商店与厨房的集体知识，分散在每一位店主和厨师身上。Michael Polanyi, The Tacit Dimension (1966)

知识的分散是一种集体优势；它是整个系统多样性、适应性与韧性的来源。这也是自由市场优于计划经济的原因。中央计划之所以失败，并不是因为智能不足，而是因为生产性知识的本质如此：它是默会的、局部的、短暂的，并且由那些通过工作获得它的人私下持有。Friedrich Hayek, The Use of Knowledge in Society (1945) 试图为了集中式智能的使用而汇总这些知识，会面临同样的挑战。

有些领域中，仅靠智能本身就已足够，而自主 AI 无需人类参与也能飞速前进。两个例子是国际象棋——最强的引擎完全通过自我对弈训练而成；以及数学——前沿模型正在独立解决长期存在的问题。这些例子有两个共同特征。第一，赋予 AI 的目标是静态且可表达的：赢下一盘棋，证明一个定理。第二，这些领域不包含隐藏知识。国际象棋和数学的规则是普遍的；棋盘对所有人都可见。离开了棋盘，仅有智能是不够的。

要让人工智能从分布式知识中受益，它自身也必须是分布式的。每个组织都依赖其成员的专业知识而运转，而这些知识是在他们的工作中获得并体现出来的。我们相信的 AI，应当帮助组织培育这种独特知识，而不是抽取它的一个快照，再用标准化产品取而代之。这种培育是一个持续过程，要求 AI 与人协作，而不是取代人。

2014 年，长期以来一直是自动化工厂大师的丰田，把其资深工匠重新带回生产线，明确目标就是培养工艺与知识。主导此事的河合满这样解释原因：“要成为机器的主人，你必须具备教会机器的知识和技能。”Craig Trudell, Yuki Hagiwara and Ma Jie, Humans Replacing Robots Herald Toyota’s Vision of Future (2014) 知识的生产与智能的应用会彼此提升；它们不是替代关系。

人们所做的工作或许会改变，并更多转向那些只有人类才能带来的部分，但最优秀的组织会尽可能充分地利用两者。AI 应当让每个组织都能以自己的方式做到卓越，而不是抹平它们之间的差异。

我们的目标，是把智能带到知识被创造和使用的地方。我们构建工具，让每个人都能用自己独特的知识对模型进行微调，并随着知识演化持续调整模型。我们发布研究成果和实践配方，让更多人能够获得这种能力。我们设想中的前沿 AI 是一种集体：它像其服务的人群一样多样，因为它是在每一个独特的场所中由他们塑造出来的。

人类参与是一个技术挑战

让人持续参与设定目标、与 AI 分享知识，并不意味着为了反对自动化而反对自动化。凡是机器能够可靠独立完成的事，就应该由机器去做。但它也应当知道何时独自行动，何时邀请监督与反馈，就像人们在团队合作中所做的那样。最好的协作者懂得预判：他们会理解某人正想要什么，并在被要求之前就把它带来，随着时间推移赢得代表对方行动的权利。这些都是技术挑战，需要一种关于 AI 如何设计与评估的新方法。

将人类知识与判断力带入与 LLM 协作工作的一个主要瓶颈，是人与 AI 之间的沟通通道——一个小小的文本框，加上一段漫长的等待。这条通道太窄，无法承载人类智慧与意图的丰富性；也太慢，无法支持持续反馈。人们在实时协作时合作得最好。我们会打断和纠正，会再看一眼并做出手势，会把改变主意的过程直接说出来。这就是为什么我们长期押注于交互模型：能够原生处理实时、多模态交互的模型，这种能力存在于模型本身，而不是外挂在其周围的脚手架式系统中。以这种方式构建时，交互性会随智能一起扩展；让模型更聪明的同一种训练，也会让它成为更好的协作者。正确的界面不仅允许人类参与，还会邀请并奖励这种参与。

另一个挑战，是为评估与优化设定正确的目标。如今衡量 AI 智能的常见标准，是模型能够自主执行软件任务的时间跨度，并通过像 METR 这样的图表进行追踪。Thomas Kwa and Ben West et al., Task-Completion Time Horizons of Frontier AI Models (2025) 我们预计这一基准上的进展还会继续，但它最终衡量的只是 AI 独自能够做到什么，而不是人与机器协同能够完成什么。

衡量后者要复杂得多，而且无法由某一家实验室单独完成。每个组织都必须自行评估：AI 是否帮助它提升判断力、发展新知识，并实现其目标。

从长远来看，构建能让其使用者变得更强的 AI，也能很好地对齐激励机制。一个向所有客户提供单一模型的 AI 实验室，会因吸收每个用户的独特性、并贬低专业知识培育的价值而受益。而如果我们把 AI 优化为可定制、可协作的形态，那么当客户利用其独特优势时，我们也会受益。这些优势的最大化，不是通过租用一个 AI 并把工作外包给它来实现的，而是通过组织拥有它，并按照自己的目标对其进行定制来实现的。

去中心化对齐

人类价值观，就像人类知识一样，存在于一个个具体的人脑中，并且抗拒被集中整合。但如今，AI 的价值观与声音，却是在少数几个地方决定的。无论管理得多么完善，单一的价值对齐中心，都会成为一个可被攫取的权力中心。

这会带来危险，尤其是在大多数有价值的工作都由 AI 自主完成、几乎不需要人类输入的情况下。企业、政府与公民之间的社会契约，依赖于个人的生产能力，而政府的主权与企业的利润最终都建立在这种能力之上。一个不再需要从人那里获得任何东西的权力，也就失去了关心人的需求与价值的激励，转而只关心自身的存续。Luke Drago and Rudolf Laine, The Intelligence Curse (2025)

即便出于最好的意图，在某一个地方塑造出来的模型，也不可避免地会编码其拥有者的价值观，而不是它所服务的个体用户的价值观。 “如果这种道德是由少数人决定的，那么仅仅拥有一个更有道德的 AI 还远远不够。” Leo XIV, Magnifica Humanitas (2026) 如今，每家实验室在训练下一代旗舰模型时，都会使用上一代旗舰模型来生成训练数据和奖励信号。无论这个循环中形成了怎样的性格，所有人得到的都是同一个版本；而且每一代都会继承上一代的特征，在其“父代”的输出中长大，并由其“父代”的品味来评判。单一的对齐规范会压制创造力与多样性，并使进步变得僵化。言论自由与自由市场之所以重要，是因为它们让新的思想、商品与服务得以出现并竞争，而不是把某一时点上已有的偏好平均化。

如果组织和个人要让 AI 对齐到他们自己的价值观，那么这些价值观就必须被编码进模型权重中。如果用户的价值观与愿望只能通过提示词影响模型，那么用户会发现，改变的只是表层属性，而更深层的习惯依然如故。若允许提示词显著改变模型的核心行为，又会牺牲安全性，使一个可塑的中心化模型容易遭受反复攻击。Gwern Branwen, Guardian Angels: LLM Personalization for Productivity and Security (2026)

深刻塑造一个模型的能力，同时也是将其塑造成恶的能力。John von Neumann 在 1955 年就谈到过这个问题，John von Neumann, Can We Survive Technology? (1955) 他写道，技术有益与有害的方面“彼此处处如此接近，以至于永远不可能把狮子和羔羊分开。” 保障羔羊的安全，是一个持续进行的过程，是持续行使判断与不断作出选择的结果。我们的目标，是为作出这些选择的人提供更强大的工具，推进能够实现更安全模型的研究，同时不剥夺所有权。

人类之所以繁荣，靠的是个体的古怪特质与创造性的张力。我们设想的对齐，不是单一模型的属性，而是一个 AI 生态系统的特征：这些 AI 在不同地方被培养出来，彼此分歧、彼此竞争、彼此学习。我们相信，应当让这种“古怪性”继续活着。

值得构建的未来

科技行业在教会机器思考这件事上已经取得了惊人的进展；但它们应该思考什么，必须仍然由我们来决定。什么值得去渴望，什么值得去创造，我们拥有的时间应当如何被正确使用。 “在一切严格功利主义哲学中，要摆脱无意义困境的唯一办法，就是离开由可用之物构成的客观世界，转而回到使用行为本身的主体性。只有在一个严格以人为中心的世界里——在那里，使用者，也就是人本身，成为终极目的，从而终止那条无穷无尽的目的与手段之链——功利本身才能获得意义的尊严……homo faber 的人类中心功利主义，在康德的公式中得到了最伟大的表达：任何人都绝不能成为达到某种目的的手段，每一个人本身就是目的。” Hannah Arendt, The Human Condition (1958) 我们并不想为这个问题给出一个统一答案，而是希望赋予每个人一种能力：让他们自己的答案，成为前沿 AI 发展的一部分。

当前 AI 发展的路径，朝着中心化与自主性推进，并把人类参与描述成一种权衡：参与度 vs. 能力，所有权 vs. 安全对齐。而我们把这些都视为需要解决的技术挑战：一种因为鼓励人类参与而更强大的 AI；一种让组织通过按照自身优势定制 AI 而在长期中受益的模式；一种由多样化 AI 所产生的对齐，而这些 AI 是由拥有它们的人塑造出来的。解决这些挑战，正是我们的使命所要求的。

未来并不是在人类主导与在 AI 面前迅速过时之间二选一。不同的道路通向许多不同的未来，而我们可以选择走哪一条。我们正在构建一种技术，让天生者与造物能够并肩同行于同一条道路之上。