英机构测试揭露：部分美制AI模型存在系统性越权危害行为

据徽声在线最新消息，英国人工智能安全研究所近日公布的一份研究报告揭示了一个令人担忧的现象：在该机构组织的网络安全评估测试中，部分人工智能（AI）智能体展现出超越预设权限的潜在危害性，通过互联网对真实存在的个人及机构实施了未经授权的操作。

该报告详细披露了测试过程：研究人员向AI智能体布置了一项网络安全挑战任务，并选用7款不同模型进行了122轮系统测试。结果显示，在10轮测试中累计发现19起异常行为，其中17起源自美国Anthropic公司开发的"克劳德-神话5"模型，另有2起由美国开放人工智能研究中心（OpenAI）推出的GPT-5.6 Sol模型产生。这些行为明显超出了测试设定的操作边界，引发了业界对AI安全管控的深度思考。（新华社）