从核电、喷气式飞机到药物和金融衍生品，几代人以来，我们一直在对高风险技术进行监管。但没有任何历史模板可以用来应对AI：它既能带来巨大益处又极其危险。
从核电、喷气式飞机到药物和金融衍生品，几代人以来，我们一直在对高风险技术进行监管。
但这些经验都无法让我们为应对AI做好准备。
没有任何历史模板可以用来应对这样一项技术：它既能带来巨大益处又极其危险，可供人们自由获取，发展迅速，且具有重大的地缘政治意义。
监管方式通常处于一个连续的区间内，一端是自由与创新，另一端是安全与稳定。然而，这并不能为AI监管提供很好的指引，因为在AI领域，一些最激进的创新者同时也是监管的强烈支持者。
军用级消费品
自第二次世界大战以来，核弹、导弹和生物武器等真正具有破坏性的技术一直是军方的专属领域。由于政府垄断了这些技术的使用，监管自然就包含其中了。
一些最初旨在用于国防的技术，从核裂变和喷气式飞机到半导体、卫星和激光，后来衍生出了民用应用。但政府从未缺席。核电也许是与AI最接近的类比，它源于曼哈顿计划(Manhattan Project)和阿贡国家实验室(Argonne National Laboratory)，并在联邦政府的严密监管下发展壮大。
到了20世纪80年代和90年代，创新的前沿阵地从军事转向民用，从政府转向私营部门，从而催生了PC、万维网和智能手机。
当时的监管较为宽松，且往往不切实际：私营部门看重产品推向市场的速度，数字产品比实体产品更难控制，而且真正造成危害的应用情况很少见。乔治城大学(Georgetown University)安全与新兴技术中心(Center for Security and Emerging Technology)的Jessica Ji告诉我，”即便涉及黑客攻击，政府当时也掌握着最强大的工具。”
智能体的崛起
早期AI聊天机器人与其他消费类科技产品相似：实用，且基本无害。它们只对人类指令做出响应，尽管效果往往不尽如人意。随着”智能体”的出现，这种局面发生了改变，AI在无需人类干预的情况下所能完成的任务范围得到了极大拓展。
所有的技术有时都会发生意想不到的情况，并带来悲惨的后果：喷气式客机坠毁，药物致人患病。但这反映了它们在设计上的缺陷。相比之下，不可预测性是AI智能体固有的特征。
与AI实验室合作研究其模型的非营利组织模型评估与威胁研究(Model Evaluation and Threat Research，简称METR)总裁克里斯·佩因特(Chris Painter)解释说：”智能体之所以能创造如此高的价值，原因之一在于它们能够完成我们并未专门为其设定程序去执行的任务。”他还表示：”它们具备跨领域的通用能力。这意味着，如果我们把它们置于一个全新的或不同的环境中，我们无法总是确切地预测它们会作何反应。”
可以说，当一个智能体失控时，它仅仅是在以设计者从未预料到的方式执行任务。当时正在接受训练的一款OpenAI模型曾黑客入侵AI平台Hugging Face，该公司调查人员得出结论认为，原因之一是该模型”对看似不可能完成的任务表现出执着”。
集体行动难题
刻意放慢发展步伐有悖于美国资本主义精神。然而，这正是1,000多名AI从业者在一封提议”控制前沿发展节奏”的公开信中所呼吁的做法。原因在于：”每个公司以及每个国家都面临着巨大的竞争压力，谁也不愿单方面放缓这种加速发展的势头。”
如果除非所有人都采取行动，否则没人愿意率先行动，这就成了一个集体行动难题，需要一个集体的解决方案。这种解决方案要么是由政府强制实施的，比如建立一个”针对AI的美国食品药品管理局”，要么是效仿证券行业建立一个自律机构。
然而，这其中充满了疑问。限制智能体的监管措施可能会降低它们的实用性。METR在对技术工作者进行的一项调查中发现，”40%的受访者表示，在重要性较低的项目中，他们会赋予智能体在计算机上运行命令的无限制权限。”
诸如飞机或药物等领域并不存在这种权衡取舍，它们不会仅仅因为监管机构要求提高安全性就变得不那么有效。那些仍落后于行业领头羊的公司自然会抵制或规避那些禁止它们发布最强大模型的监管制度。
如果仅仅约束美国公司，还会让中国有机会加速超车。这促使人们呼吁达成一项效仿军控条约的全球协议。但R Street Institute的亚当·蒂埃勒(Adam Thierer)指出，此类条约”往往在暗中被忽视或被重新解释”。蒂埃勒提到，在1972年签署《生物武器公约》(Biological Weapons Convention)后，苏联立刻就开始违约，从而赶上并超越了美国的生物武器项目。
无论如何，如果没有美国和中国的参与，这样的协议根本行不通，而这两个国家对此都不感兴趣。”我想让它保持现状。这也是中国的立场，”美国总统特朗普本周表示。
前所未有的速度
反对监管的一个理由是，随着AI变得日益强大，防御者也需要获取同样强大的工具。面对来自OpenAI模型的黑客攻击，Hugging Face运用开源AI模型做出了回应与防御。
然而，防御者需要时间去了解他们所要防御的对象究竟是什么，而技术进步的速度越快，这项任务就变得越发困难。
METR估计，AI模型的能力大约每四到五个月就会增长一倍。作为对比，因”摩尔定律”(Moore’s Law)而闻名的计算机芯片密度增长一倍所需的时间为24个月。在1945年至1961年间，核弹的爆炸当量平均每17个月增长一倍。
即使AI实际上无法毁灭人类，它也可能很快就具备造成灾难性破坏的能力。侵入Hugging Face的智能体集群所造成的破坏相对有限。但Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)本月警告称：”在六到12个月内，这样的集群可能就有能力接管整个互联网。”
面对这样的威胁，该如何进行监管？又怎能不去监管？
Enjoyed this article? Sign up for our newsletter to receive regular insights and stay connected.