查尔斯国王召集AI峰会 呼吁在为时已晚前为人工智能设限

英国国王查尔斯三世周四在苏格兰艾尔郡的邓弗里斯庄园主持一场私人峰会，把全球最有分量的一批人工智能从业者请到同一张桌子前。

与会者包括英伟达首席执行官黄仁勋、OpenAI与Anthropic的高层代表、英国新任AI大臣Kanishka Narayan，以及英国对外情报机构负责人。教皇的人工智能顾问Paolo Benanti也在受邀之列。

邓弗里斯庄园是查尔斯名下慈善基金会持有的18世纪宅邸。按英国宪制惯例，王室通常谨慎回避政治议题，而人工智能恰是当下争议最激烈的领域之一。

查尔斯在这场AI峰会上的表态因此格外引人注意。他提醒在场领袖，要设法在“为时已晚”之前管住人工智能。

“人工智能已经展现出改善和拯救生命的巨大能力。”查尔斯以医学和科学为例，随即话锋一转，称这项技术及其“实质”的发展“既引人入胜，又令人深感担忧”。

他提到，那些创造出这些技术的人如今正越来越多地警告，人工智能有可能发展出“更黑暗的能力”，甚至夺走生命。

这番话说出口的几天前，Anthropic一名研究员宣布辞职，并在网上写道，人工智能公司正在“竞相建造比任何人类都聪明得多的机器”，而人类“可能无法从中幸存”。

查尔斯接着强调，必须认真对待技术落入错误之手、被以“潜在灾难性方式”使用的“生存危险”。“我们难道不需要足够的手段来控制它，以免一切都太迟吗？”他说。

收尾时，他呼吁在场者想办法驾驭人工智能有益的一面，并为此建立国际合作与共识。“你们面前的任务不只是推进技术，而是确保它始终坚定地服务于人类、社区与自然世界。”他最后说，“在拥抱新事物的同时，我们不能丢掉永恒的东西。”

发言结束后，查尔斯停留约20分钟便离开，把讨论留给宾客自己继续。OpenAI派出首席财务官Sarah Friar，Anthropic则由负责全球事务的Tino Cuéllar出席。

Cuéllar表示，公司很荣幸参与讨论，感谢国王召集产业领袖与社会各界人士，共同探讨人工智能如何服务公共利益。

峰会的时机颇为微妙。就在本月，OpenAI的Sam Altman、马斯克与Anthropic的Dario Amodei先后呼吁放缓人工智能研发节奏，但英伟达的黄仁勋与美国总统特朗普很快拒绝了这种主张。

“我们在人工智能上领先中国，”特朗普说，“我们是世界上最先进的国家，坦白说我希望能保持下去，因为谁赢得人工智能，谁就赢得一切。”

两种声音之间的落差，折射出这门生意已经和国家竞争、产业利益缠在一起。英伟达是这轮人工智能热潮里卖铲子的人，模型越往大做、算力需求越高，它的芯片越好卖；对黄仁勋而言，减速意味着需求减速。

特朗普则把人工智能看成中美博弈的胜负手。对呼吁刹车的一方来说，难处在于他们自己也身处竞赛之中——慢一步，市场可能就归了对手。

这种矛盾在欧洲尤其刺眼。Anthropic此前把Fable与Mythos两款模型的访问权限收窄到仅限美国客户，在欧洲科技界掀起波澜，也让“人工智能主权”这个说法被反复提起。

欧洲既缺少本土的头部模型公司，又在算力和数据上依赖美国。当美国企业可以按国别开关服务时，欧洲手里可打的牌并不多。

查尔斯口中“国际合作与共识”的呼吁，落到现实里，先要面对的就是这种各算各账的局面。

过去一年，OpenAI与Anthropic都放出过重磅IPO的风声。OpenAI近期又表示，由于对AI安全的担忧挥之不去，今年的上市计划陷入停滞。

这个细节耐人寻味：一家公司既要向投资人证明自己跑得足够快，又要回应外界对它会跑得太快的质疑。安全叙事既是它们区别于传统科技公司的招牌，也可能成为资本市场上的负担。

查尔斯并非第一次就人工智能发声，2023年和2024年他都谈过这项技术的利弊。英国也曾在2023年11月于布莱切利园举办首届全球人工智能安全峰会，试图在美国的放松路线与欧盟的强监管之间找中间位置。只是时间过去，围绕人工智能监管的会议开了一场又一场，模型仍在变大，争论仍在原地打转。

大二那年冬天，宿舍熄灯后屏幕还亮着。第一次让人工智能帮忙改一段英文，回车敲下去，几秒钟后滚出一整段话，通顺得不像机器写的，握着鼠标的手指都顿了顿。那阵子逢人就推荐，说以后写东西查资料能省下大把时间，像提前摸到了未来一角。几年过去，同一件事，如今是国王在庄园里对着一群首席执行官，说得在失控前想办法管住它。当年以为等来的是个听话的工具，现在摆在桌面上的问题变成，谁来管、管得住吗。窗外天色暗下来，屏幕还是那块屏幕。

庄园里的茶点撤下，宾客各自散去。20分钟的发言改变不了什么，但把它放在英伟达芯片出货、Anthropic调整服务范围、OpenAI推迟上市这些具体动作旁边看，国王的担忧并非空穴来风。

问题留在了桌面上，答案还没有。