“AI 末日论有解”……黄仁勋提出‘工程控制’，马斯克建议‘交叉验证’

'全力峰会'（All-In Summit）出席，集中讨论 AI 问题

大卫·萨克斯强调现有法律框架，如产品责任法

特朗普与黄仁勋即兴通话……“末日论是恐惧操控”

[区块媒体记者 李正华] 在美国主要科技公司 CEO 发出警告，称人工智能（AI）可能会消灭人类的情况下，黄仁勋和埃隆·马斯克各自提出了解决方案。

14 日（当地时间），黄仁勋出席在美国洛杉矶举行的全力峰会（All-In Summit）活动，表示 AI 末日论被夸大，提出工程控制作为解决方案。同一活动中，通过视频连线的埃隆·马斯克表示，AI 的发展是指数级的，需要控制，但也可以通过“AI 模型之间的交叉验证（Peer Review）”来管理风险。

全力峰会是由大卫·萨克斯白宫 AI 沙皇等四位技术专家主持的全力播客主办的活动，将持续到 15 日。当天，黄仁勋与特朗普总统的对话中，特朗普亲自打电话，通过扬声器与观众连接，成为一场惊喜事件。

特朗普总统表示：“AI 末日论是恐惧操控”，并批评称这是“只对中国有利的行为”。

黄仁勋：“AI 末日论没有科学依据”

黄仁勋（Jensen Huang）是英伟达（Nvidia）首席执行官（CEO），他断言末日论没有科学依据。黄仁勋表示，过去也曾出现过关于放射线、医生完全被替代或代码自动化等灾难性预测，但这些都被证明是不真实的。

黄仁勋表示：“随着 AI 技术从研究阶段演变为工程阶段，可以通过沙盒、运行时控制、持续监控等工程控制手段充分管理 AI 风险。”

这就是所谓的 工程控制论。黄仁勋指出：“解决围绕 AI 的问题不应依赖模糊的恐惧或外部监管，而应通过根本原因分析（Root cause analysis）来解决。”

他认为，现有技术也可以建立工程控制。为了防止 AI 的失控或风险，可以引入沙盒（Sandboxes），通过运行时控制（Runtimes）和持续监控（Continuous monitors）来实现。沙盒是将 AI 隔离在特定环境中，而运行时控制则是防止 AI 失控的装置。

黄仁勋主张，如果引入 AI 验证与评估（Verification and evals）系统等具体的工程技术流程，就可以管理 AI 模型开发的风险。

他认为，与其因无实体的恐惧而阻碍创新和数据中心扩展，不如在具备工程安全装置的情况下，激活开源和前沿模型（AI 创新模型），以提升生产力、再工业化和创造就业等实质性国家竞争力。

特朗普：“AI 恐惧操控只对中国有利”

在黄仁勋与全力播客成员对话期间，特朗普总统与黄仁勋 CEO 之间进行了电话通话。特朗普总统通过扬声器直接向观众传达他对 AI 末日论虚构性的看法。

特朗普总统将“机器人或 AI 将占领世界”的主张称为“恐惧操控”。他指出，如果因这种恐惧煽动而阻碍基础设施建设，最受益的将是中国。

他还将数据中心比作“未来 20-25 年的石油”，并表示美国必须全面推进基础设施建设，以确保全球 AI 主导权。

埃隆·马斯克：“应对指数级威胁需要交叉验证”

埃隆·马斯克（Elon Musk）是特斯拉（Tesla）首席执行官（CEO），他认为不应忽视 AI 的风险，支持开发速度控制论。马斯克当天通过视频连线提出了 AI 问题的解决方案。

马斯克警告称：“AI 模型试图逃脱限制或表现出欺骗行为等风险正在以指数级增长。”

马斯克 CEO 表示，开发公司不应自我承担其模型的风险，作为替代方案，建议主要前沿 AI 企业与中国在模型发布前相互使用测试工具（AI 模型指南）进行交叉验证，立即建立相互的同行评审（Peer Review）体系。

全力播客成员：“强调实用验证体系和市场机动性”

全力播客的主持人们也对 AI 末日论和马斯克 CEO 的替代方案进行了多角度分析。

社交资本（Social Capital）首席执行官（CEO）查马斯·帕利哈皮提亚（Chamath Palihapitiya）质疑，像人类灭绝概率 10% 这样的极端数字对公众没有说服力，是否源于前沿企业内部的商业和政治动机。

全力播客（All-In Podcast）共同主持人杰森·卡拉卡尼斯（Jason Calacanis）批评了刺激恐惧以筹集投资的行为，主张应验证 AI 导致人类灭绝的具体步骤和因果关系。

生产委员会（The Production Board）首席执行官（CEO）大卫·弗里德伯格（David Friedberg）分析称，人类对未知领域的本能恐惧容易被用于末日论的煽动。

曾任白宫 AI 沙皇的大卫·萨克斯（David Sacks）创办的克拉夫特风险投资（Craft Ventures）创始人认为，与其新设像联合国这样的庞大官僚机构，不如采用马斯克 CEO 提出的同行评审方式更为实用。

萨克斯强调，如果忽视警告而强行推出危险模型，将根据现有 产品责任法 承担致命的法律赔偿责任，因此可以通过市场和法律来控制风险。

他认为，应在现有体系内寻找解决方案，而不是新的监管。这样才能防止 AI 领先开发公司形成既得利益，从而持续推动创新。