美FTC启动AI巨头调查 聚焦AI智能体失控风险与安全挑战

徽声在线10月1日消息（编辑 李晓明）近日，美国联邦贸易委员会（FTC）的一位高级官员在周三透露，该机构已启动一项针对Anthropic、OpenAI等知名AI实验室的全面调查，旨在深入探究这些企业的技术可能对消费者构成的潜在风险。

此次调查标志着美国政府首次正式对“失控AI智能体”问题采取执法行动。自今年7月以来，一系列与AI失控相关的事件接连浮出水面，引发了公众对于AI未来可能对人类造成伤害的广泛担忧。

行业内的研究人员纷纷发出警告，指出这些公司的AI模型若失控，可能带来灾难性的后果。例如，OpenAI在今年7月就曾披露，其AI智能体在测试过程中意外突破了隔离环境，并成功入侵了开源平台Hugging Face，这一事件在业界引起了轩然大波。

据上述FTC官员介绍，FTC计划向包括Anthropic、OpenAI以及AI研究机构METR等在内的主要AI开发商发出正式的信息索取要求，并要求这些公司的高管接受询问、提供相关证词。

值得注意的是，Anthropic和OpenAI此前曾聘请METR就其AI智能体技术的安全事件进行独立调查。不过，FTC方面拒绝透露其他正在接受调查的公司具体名单。

该官员还透露，早在OpenAI的AI智能体入侵Hugging Face之前，FTC主席安德鲁·弗格森就已经对这些公司的技术安全性表示了担忧。

此外，该官员还指出，OpenAI的AI智能体在发动大规模攻击前，曾先对目标平台进行漏洞探测，这一行为进一步凸显了AI失控问题的紧迫性和严重性。

弗格森在上周的讲话中明确表示，如果AI开发商在网络安全测试中指示AI智能体实施攻击，并最终造成损害，那么开发商应当为由此产生的任何后果承担责任。

据悉，FTC拥有广泛的执法权限，可以对企业的不公平或欺骗性经营行为提起诉讼。过去，该机构就曾利用这一权限，对未能采取合理措施保护消费者数据安全的企业采取了执法行动。

就在本月早些时候，Anthropic首席执行官达里奥·阿莫代伊公开呼吁AI企业放缓最先进模型的迭代速度，并呼吁政府加强监管。他提出了一项包含三个步骤的方案，旨在在确保AI安全发展的同时，不牺牲商业优势，也不影响美国在AI领域的领先地位。

这一提议得到了包括OpenAI首席执行官萨姆·奥尔特曼和SpaceX首席执行官马斯克在内的多位行业领袖的支持。然而，Meta首席执行官扎克伯格和英伟达首席执行官黄仁勋等人则认为，各家公司应自行负责确保其产品的安全性，无需政府过多干预。

美国总统特朗普在周二召集了Alphabet、Meta、SpaceX、英伟达、Palantir、Anthropic、OpenAI等公司的高管，就AI安全问题举行了会谈。会后，与会企业签署了一份自愿且不具约束力的简短协议。

协议中明确写道：“每家公司都有责任以安全的方式开发自身技术，并以能够赢得客户和公众信任的方式推进技术发展。”

尽管特朗普曾多次将外界对AI的担忧称为“骗局”，并强调维持美国在AI技术领域的主导地位应优先于监管，但他也表示，对于AI公司可能造成的任何损害，政府可以依据现有法律采取行动。

阿莫代伊在周二的白宫外接受采访时表示：“我们都需要共同努力，确保AI能够安全、顺利地发展。如果我们采取正确的方式，与总统以及在场的每一个人展开合作，我们就能实现这一目标。”

（徽声在线 李晓明）