高盛前分析师ChatGPT泄奸杀计划，AI监测后报警引关注

人工智能再次展现出其维护社会安全的潜力！

近日，美国佛罗里达州发生了一起令人震惊的案件：一名25岁的男子因在工作时间向ChatGPT详细描述其强奸并杀害前女友的阴谋，被该人工智能的开发商OpenAI通过技术手段监测到，并迅速向联邦调查局（FBI）举报。

据徽声在线了解，人工智能公司通常采用先进的多标签有害内容分类模型，能够精准识别出对话中涉及的暴力、仇恨、性侵害等高风险内容。同时，这些模型还会从情绪强度、语气意图等多个维度对风险等级进行补充评估，以确保及时发现并处理潜在威胁。

根据OpenAI的公司政策，一旦后台监测系统发现对话者可能正在策划伤害他人的行为，便会立即启动人工审核流程。若判定风险等级极高，公司有权将相关对话内容提供给执法部门，作为调查和办案的重要线索。

法庭文件显示，涉案男子名为Darren Zhou，外貌特征显示他可能为亚裔。案发时，他担任佛罗里达州西棕榈滩高盛公司的分析师一职。

今年3月，Darren在工作之余开始向ChatGPT倾诉自己刚刚结束的恋情。起初，他的话题还集中在过去的回忆和希望复合的愿望上，但很快，对话内容就演变成了涉及强奸、谋杀以及自杀的极端计划。

他曾对ChatGPT直言不讳地表示：“我将在这月底前杀了她。如果我得不到她，别人也休想得到。”

随后，Darren还向ChatGPT详细分享了他的报复计划，包括在健身房停车场用鲜花等待前女友，要求复合；若被拒绝，则打算拔枪将其杀害，并随后自杀。

不仅如此，Darren还通过邮寄方式向前女友发送了包含AR-15步枪、格洛克手枪、12号霰弹枪、塑料拉链和乳胶手套等物品的照片，以此进行恐吓。

在被对方多次拉黑后，Darren并未放弃骚扰，而是不断使用各种应用程序生成的虚拟号码继续联系前女友。甚至在女孩21岁生日当天，他还发送了明确的性侵威胁信息，其中一条信息仅包含她最新的住址。

这名同样居住在佛罗里达州的女子向调查人员透露，她因对Darren仍存愧疚之情而一直未选择报警，但内心深感恐惧，担心其行为会进一步升级。她提出分手的原因，正是由于Darren行为反复无常、嫉妒心强且控制欲极强。

FBI探员在将人工智能对话内容与该女子收到的信息进行了细致比对后，认定Darren已构成了足够的人身安全威胁。于是，在5月将其逮捕。Darren在缴纳了10万美元的保释金后获得假释。

高盛公司在得知这些指控后，于6月迅速终止了与Darren的雇佣关系。

Darren被指控的罪名包括发出杀人或伤害他人的威胁、以明确人身威胁实施严重跟踪骚扰等。8月13日，他在法庭上当庭认罪，并被判处5年缓刑。

此案件不仅引发了公众对人工智能安全应用的关注，还激起了业界关于AI聊天隐私边界的深入讨论：平台究竟应在何种程度上对用户私人对话进行监测？在什么情况下，平台有权将用户的对话内容提交给执法部门？这些问题亟待社会各界共同探讨和解答。