企业面临AI新难题：智能体泛滥

随着Anthropic的Claude Cowork等平台降低了创建门槛，企业正面临AI智能体泛滥的难题，急需在推动创新与控制数量之间取得平衡。

随着AI智能体在企业中的应用日益普及，一些最热衷于此的企业用户正加紧行动，以避免智能体泛滥带来的种种问题。

包括Lyft、DaVita和极狐(GitLab)在内的多家公司正在应对AI智能体激增的挑战。这些公司告诉《华尔街日报》(The Wall Street Journal)，希望在不打击员工使用AI积极性的情况下缓解这一问题。

这个被称为”AI智能体泛滥”(AI agent sprawl)的问题，部分源于创建独立AI机器人的门槛实在太低——借助Anthropic的Claude Cowork等平台，即便是非技术岗位的员工也能轻松上手。此外，可协调多个智能体的开源工具OpenClaw也进一步推动了智能体在职场中的普及。

但这些公司表示，AI智能体过多，尤其是多个智能体执行相同任务时，会给企业IT部门带来网络安全和管理难题，还会推高计算费用。

Ben & Jerry’s母公司梦龙冰淇淋公司(Magnum Ice Cream)的美洲区首席信息官迈克尔·弗里德兰德(Michael Friedlander)说：”既然人人都能创建，我们最终很可能会面临许多人拥有同类智能体的局面。”

弗里德兰德说，这家冰淇淋生产商最终需要精简并集中管理公司内部创建的所有AI智能体，但同时也不希望在这个过程中扼杀员工的创造力。

他补充说：”根据这一切的最终走向，会产生token(词元)消耗，随之而来的就是成本问题，最终你不得不面对这样一个拷问：’我们该如何管理这一切，以确保其符合财务问责模式？'”

据市场研究和IT咨询公司Gartner预测，未来两年内，全球财富500强企业平均将运行超过15万个AI智能体。但Gartner同时指出，只有13%的组织认为自身已具备完善的AI智能体治理机制。

管控泛滥风险

目前，多数AI智能体正被白领员工用于编写代码、总结电子邮件、提供客户支持和分析数据等工作。但更复杂的智能体正被用于”深度研究”以及实现整个业务工作流程的自动化。

风险投资公司Sapphire Ventures的联合创始人兼总裁贾伊·达斯(Jai Das)说，即便如此，这些智能体可能分散运行在员工的笔记本电脑、服务器或其他公司系统上，IT部门很难对它们进行全面追踪。

Fair Isaac首席客户官兼首席信息官迈克·特尔凯(Mike Trkay)表示，该公司的3,500名员工每天都在创建几十个新的AI智能体。Fair Isaac因其知名的信用评分而以FICO之名为人熟知。

特尔凯说：”毫不夸张地说，每天都有新的智能体被创建出来，几乎遍布公司架构的每一个层级。”

他说，这些智能体既包括用于管理电子邮件或撰写简报等任务的”个人级别”机器人，也包括能够管理多个项目数据集的更大规模智能体。

该公司正在制定治理规范，以防止过多的AI智能体对同一问题给出相互矛盾的结果。”我们认识到这其中潜藏的风险，”特尔凯说。

肾脏护理公司DaVita的首席信息官马杜·纳拉辛汉(Madhu Narasimhan)表示，该公司员工已创建了超过1万个AI智能体。纳拉辛汉说，为防范网络安全风险，该公司不允许”消费者级”AI智能体工具进入企业环境。”因为我们要守护患者的安全，扩展必须以安全为前提，”她说。

DaVita还开发了一个内部平台，既能在需要时缩减推理量、控制token成本，也能为表现最优的AI智能体追加token投入。

集中管理机器人

一些企业技术主管同样采取了积极主动的策略来管理旗下AI智能体，希望防止智能体泛滥成为更普遍的问题。

网约车公司Lyft的AI转型执行副总裁杰森·沃格里内克(Jason Vogrinec)表示，公司已向员工开放了Claude的使用权限，还摸索出了一套经IT部门批准的”技能”共享机制；所谓的”技能”，即帮助Claude智能体处理特定任务的指令集。

Lyft还在着手为旗下所有智能体搭建一个受IT管控的集中式平台。沃格里内克说，智能体过多给”一家承担大量监管义务的上市公司”带来挑战。

Anthropic表示，公司已推出多项功能，帮助IT管理员在基于角色的访问权限、支出控制、使用情况分析、审计日志和精选插件库等方面进行管理。

软件开发工具开发商极狐的首席信息官马努·纳拉扬(Manu Narayan)表示，该公司现有的治理机制和防护措施正在”守住底线”，以防止AI智能体过度泛滥。

但拥有过多的AI智能体也有好处，至少目前如此。

“短期内会出现智能体泛滥的情况，”纳拉扬说，”我们实际上对此可以接受，因为AI会带来机遇。”