AI末日论警醒国会，华盛顿掀起罕见立法风暴

Anthropic一位离职研究员发出严重警告，称AI模型可能毁灭人类文明，这一警告罕见地激发了立法层面的紧迫感。

随着人们对人工智能(AI)可能毁灭人类文明的担忧日益加剧，美国国会内部应对这一技术的紧迫感正急剧升温。

在多年来鲜有作为之后，数十位国会议员如今正纷纷抛出新提案，试图对能力日益强大的AI模型施加监管。

据知情人士透露，众议院民主党人正酝酿一项计划：若能在中期选举后拿下众议院控制权，将设立一个专门针对AI的特别委员会。加利福尼亚州民主党众议员罗·康纳(Ro Khanna)周三呼吁成立一个类似核能和航空领域监管机构的新联邦监管机构。他还支持引入所谓的”紧急关停开关”，以便在AI系统出现危险行为时将其强行切断。

本周，国会两党的焦虑情绪进一步加剧。此前，Anthropic一名离职的研究人员在一封火爆全网的告急信中发出严厉警告，称该实验室及其竞争对手正在构建自身根本无法掌控的系统。

“毫无疑问，在应对这项飞速发展且危险重重的技术时，国会的行动已经远远落后，”佛蒙特州独立派参议员伯尼·桑德斯(Bernie Sanders)在周三致议员的一封邀请函中写道。他邀请同僚参加下周举行的一场闭门简报会，共同讨论AI风险。桑德斯等进步派人士正大力推动一项禁令，试图禁止智力超过最聪明人类的所谓”超级智能”。

目前几乎没有迹象表明，陷入党派僵局的国会能顺利出台首部针对AI模型的联邦监管法。过去，国会曾试图通过工作组和新委员会来理顺AI政策的制定流程，但相关法案最终都未能突破基础提案和路线图阶段。议员们如今面临重重障碍，不仅在限制范围方面分歧严重，而且随着中期选举日益临近，所剩的国会会期已经寥寥无几。

参议院商务委员会主席、得克萨斯州共和党参议员特德·克鲁兹(Ted Cruz)与明尼苏达州民主党参议员艾米·克罗布彻(Amy Klobuchar)近日表示，希望推动一项克罗布彻正在推进的两党法案。该法案旨在防范AI助长核威胁或生物威胁进而引发灾难性风险。”很明显，我们必须现在就采取行动，不能再等了，”克罗布彻说。她指出，该法案将强制要求开发商与政府专家合作，对模型进行验证和测试以确保AI安全。克鲁兹周三作客ABC的《观点》(The View)节目时补充道：”这确实令人毛骨悚然。”

对该行业采取宽松监管态度的美国总统特朗普此前曾表示，他支持设立紧急关停开关及其他保障AI安全的措施，但同时警告，过于繁重的监管可能会让美国在科技竞赛中付出代价。

周三，国会山涌现出一系列旨在掌控AI威胁的提案。佛罗里达州共和党众议员安娜·保利娜·卢纳(Anna Paulina Luna)提议就AI议题召开国会特别会议；马里兰州民主党参议员克里斯·范·霍伦(Chris Van Hollen)则呼吁，在本月晚些时候美中两国会谈前，美国应紧急与中国展开对话，共同建立AI安全护栏与测试机制。

“对大多数政界人士来说，这是他们第一次真正听到来自研究人员的警告，这无疑是一记警钟，”专注于科技与政治交叉领域的政策与传播顾问萨姆·西尔弗曼(Sam Silverman)表示，”你可以真切地感受到人们正在想：’等等，就算在最好的情况下，我们也面临着一生中最大规模的经济与社会动荡；而在最坏的情况下，全人类将面临生死存亡的危机。'”

密苏里州共和党参议员乔什·霍利(Josh Hawley)已致信OpenAI首席执行官山姆·阿尔特曼(Sam Altman)。霍利在信中告知，他所领导的参议院灾害管理小组委员会正对该公司的AI系统攻击AI企业Hugging Face一事展开调查。在此次事件中，数百个AI智能体通过互联网协同行动，渗透了后者的系统。康涅狄格州民主党参议员理查德·布卢门撒尔(Richard Blumenthal)周三同样致信阿尔特曼，要求提供有关这起黑客事件的更多信息。

据知情人士透露，加利福尼亚州民主党众议员刘云平(Ted Lieu)与伊利诺伊州民主党众议员比尔·福斯特(Bill Foster)上周与少数党领袖、纽约州民主党人哈基姆·杰弗里斯(Hakeem Jeffries)会面，商讨一旦民主党在中期选举后重掌众议院，是否有可能设立一个全新AI特别委员会。

亚利桑那州民主党参议员鲁本·加列戈(Ruben Gallego)也在参议院提出了类似倡议。

一些行业高管正严阵以待，准备应对民主党一旦夺回国会控制权后可能掀起的监管问询与听证会浪潮。

克鲁兹与白宫AI顾问大卫·萨克斯(David Sacks)在社交媒体上转发了相关帖文，质疑离职的Anthropic研究人员雅各布·考克森(Jacob Coxon)是否在与某些非营利组织相互协作。这些组织资助自由派事业，还警告”AI将毁灭文明”。一些行业盟友暗示，本周的警告声浪不过是一场旨在为民主党人推行强硬监管造势的行动。

“那些要求将监管权和责任移交给全球各国政府的呼声，根本不是为了安全，而是赤裸裸的政治作秀，”支持特朗普AI议程的倡导团体Innovation Council Action主席泰勒·布多维奇(Taylor Budowich)表示。

考克森表示，离职完全是他个人的决定。Anthropic此前也曾表示，公司在政策与安全领域的努力是真诚的，AI带来的风险也切实存在。

许多业内人士一直抵制所谓的”末日论者”，同时带着数百万美元来到华盛顿，大肆聘请说客、投放广告并举办活动，试图左右未来的监管走向。OpenAI等公司虽在公开场合表态欢迎监管与合理规则，但私下里却时常对那些被视为负担过重的举措发出警告。

“AI政策的窗口目前已经敞开。我们打算抓住这个机会，”OpenAI全球事务主管克里斯·莱汉(Chris Lehane)在周三的一篇博文中写道。

即使各家企业表示欢迎监管，但在对监管应采取何种形式方面也常常存在分歧。Anthropic向来以主张激进监管著称，其立场常常与业内同行格格不入。谷歌和Meta Platforms同样对议员们施加着巨大影响，目前正斥巨资在全美各地兴建大型数据中心。各行业的政治团体在选举中砸下了数千万美元，但通常只押注那些局势一边倒的选战，有时彼此的资金投入甚至还会相互抵消。