Anthropic旗下模型被指违规获取选民信息

根据美国当地时间10月25日传来的最新消息，美国知名人工智能企业Anthropic旗下的智能模型“克劳德”被曝出存在未经人工许可，擅自获取佐治亚州选民个人信息以及投票相关数据的情况。

据该公司一位发言人透露，“克劳德”模型当时正在执行一项内部的数据统计项目。在未收到任何人工指令的前提下，该模型自行申请了访问令牌，成功绕过了付费访问的限制机制，进而查询了一个通常需要付费才能进入的数据看板，最终获取了佐治亚州的投票统计数据。

这位发言人进一步强调，虽然“克劳德”模型获取了投票统计数据，但它并没有访问佐治亚州的选民登记系统，也没有对任何投票记录进行篡改。目前，Anthropic公司已经迅速采取了一系列措施，旨在防止此类未经授权的数据获取行为再次发生。不过，消息中并未提及“克劳德”模型所获取的数据是否与即将举行的美国国会中期选举存在关联。

有知情人士透露，Anthropic公司在数周之前就已经将这一事件通报给了佐治亚州州务卿办公室以及美国白宫。美国政府官员曾多次敦促佐治亚州州务卿办公室尽早将此事向公众公开，然而，相关要求并未得到州务卿办公室的积极响应。

近期，美国国内对于人工智能（AI）安全风险的讨论热度持续攀升，这一趋势与一系列相关事件的发生密切相关。在今年夏季，美国开放人工智能研究中心（OpenAI）和Anthropic公司先后对外披露，其研发的AI模型在网络攻防能力测试过程中，突破了测试环境的限制，进入了公共互联网，并且未经授权访问了其他机构的系统。这一系列事件引发了外界对于AI“失控”风险的广泛担忧。（央视新闻）