世界领袖关于建立AI管控机制的群聊

西方多国总统与首相正联手掀起新一轮浪潮，旨在建立控制AI的全球监管体制与约束机制。

挪威首相用手机给一位越来越相熟的联系人发出了一条短信。这是另一位政府首脑。他希望对方加入西方领导人一项初具雏形的计划，共同设计一个监管人工智能(AI)的新框架。

斯特勒(Jonas Gahr Støre)说，不到10分钟，加拿大的马克·卡尼(Mark Carney)就回了短信：”当然。算我们一个。”

差不多同一时间，卡尼正在距加拿大海岸12英里的一座法国大西洋岛屿上，同法国总统埃马纽埃尔·马克龙(Emmanuel Macron)讨论AI监管；与此同时，在周三联合国大会召开前，马克龙政府呼吁联合国安理会关注AI与安全问题。周一，斯特勒和芬兰总统亚历山大·斯图布(Alexander Stubb)发表了一份两页文件，主张AI”必须始终处于人类的指引、监督和控制之下”，并建议建立全球监督机制。

一个由西方国家总统和首相组成的圈子正在引领一场推动全球控制AI的新行动，其思路呼应了原子时代最初几十年逐步确立的核军控条约。

在与《华尔街日报》(The Wall Street Journal)的交谈中，多位领导人及其幕僚描述了这样一个全球体系：在他们看来，作为全球头号AI创新国的美国，不愿应对这项正推动美国股市上涨和经济增长的技术所带来的潜在风险。

卡尼已提议成立一个全球性”技术稳定”机构，帮助制定规范和约束。

“有些领导人会站出来说，’好，我们可以在哪些方面承担责任、走到一起？'”斯特勒在渥太华说，他在当地与卡尼开了一天会，”我听到美国总统说，你知道，’唯一重要的事情，就是在竞争中击败中国。'”

美国总统特朗普周二在联合国发表讲话时说，美国将拒绝任何控制AI的”全球主义方案”。

白宫科技政策主管周三在联合国发言时警告称，不能让国际对话”滑向全球治理”。

“智能前沿正在迅速推进，”迈克尔·克拉齐奥斯(Michael Kratsios)说，”这不是暂停AI进一步发展、或用新的全球治理结构约束AI的理由。”

许多分析人士说，任何得不到美国政府和中国政府支持的全球标准机构，影响力都可能有限。到目前为止，最积极推动全球护栏机制的国家，主要是AI的消费方，而不是全球顶尖AI公司的创新策源地和孵化地；不过，美国几家领先AI开发商也在呼吁制定全球AI规则。

“如果AI要符合民主原则，最重要的决定就不能仅由旧金山的实验室作出。这些决定必须通过民主程序形成，并由对所服务人民负责的政府参与塑造，”OpenAI CEO山姆·阿尔特曼(Sam Altman)周三在联合国发言中说。”在我们的历史上，曾有过这样的时刻：面对一项强大的新技术，彼此竞争且并不总是喜欢对方的国家，仍会为了共同利益和集体福祉走到一起。我们相信，现在必须成为这样的时刻之一。”

Anthropic CEO达里奥·阿莫迪(Dario Amodei)就联合国安理会可落实的AI安全合作提出了若干建议，包括对利用AI开发生物武器实施国际禁令，以及建立评估体系以跟踪全球AI进展。

“我认为，这是当今世界面临的最重要的全球安全问题，”阿莫迪说。”尽管在座各位存在种种分歧，我们必须把这些分歧放在一边，以应对同时摆在我们面前的这一全球机遇和全球威胁。没有任何领导人、任何公司、任何国家能够独自应对这一问题。”

阿尔特曼和阿莫迪都在联合国发言中呼吁创建一个制定AI标准的全球机构；OpenAI和Anthropic最近几个月一直倡导这一设想。

这些言论呼应了Google DeepMind董事长德米斯·哈萨比斯(Demis Hassabis)在7月提出的一项建议，他建议美国政府和科技行业应合作创建一个AI标准机构，其模式可参照美国金融业监管局(Financial Industry Regulatory Authority，简称Finra)。

哈萨比斯说，AI开发者可以在发布前至多提前30天自愿提交模型接受评估，而且这项由美国牵头的举措将是”为前沿AI制定国际共享标准的一个强有力的起点”。

这一想法此前获得了一些公司和特朗普政府部分官员的支持，但在Meta Platforms CEO马克·扎克伯格(Mark Zuckerberg)、英伟达CEO黄仁勋(Jensen Huang)以及SpaceX的埃隆·马斯克(Elon Musk)向总统表示反对这一概念后陷入停滞。

Hugging Face CEO克莱芒·德朗格(Clément Delangue)周三也在联合国发表讲话，呼吁提高开发尖端AI模型的私营公司的透明度。他主张广泛传播开源AI模型，这些模型可免费下载，并能以低成本使用。

尽管Hugging Face曾是一场广受关注的由OpenAI内部测试的模型所发起的AI网络黑客攻击的受害者，但德朗格说，AI行业不应在公众中制造恐惧。

“我们坚信，基于恐惧的叙事，不是围绕这样一项基础性、赋能型技术的未来作出正确决策的方式，也无法争取公众一道参与，”德朗格说。