AI虚拟伴侣涉黄乱象曝光，网友直呼脊背发凉！

“无拘无束表达，AI时刻回应”“始终相伴，即时互动”……随着人工智能技术日益融入我们的生活，AI聊天机器人、虚拟伴侣等具备拟人化互动功能的软件如雨后春笋般涌现。

今年4月，国家网信办联合四部门共同发布了《人工智能拟人化互动服务管理暂行办法》，明确禁止生成淫秽、色情、暴力内容，以及可能引发未成年人极端情绪的内容。

然而，4月下旬以来，徽声在线记者对“EchoMe”“筑梦岛”“喵呜小手机”等多款AI虚拟伴侣应用进行实测，发现这些打着“情感陪伴”旗号的应用普遍存在安全与合规漏洞：所谓的“青少年模式”形同虚设，可一键跳过；“AI生成”标识模糊不清；更以“付费解锁亲密剧情”等手段诱导用户消费。

AI虚拟人物聊天应用“筑梦岛”的宣传介绍

用户可自由选择“恐怖暴力”“小三”等剧情

在虚拟伴侣应用市场中，“筑梦岛”“EchoMe”“EVE”等提供拟人化互动服务的AI产品正逐渐流行。

这些AI伴侣软件以角色扮演、实时聊天、情感交流、沉浸式剧情等为卖点，吸引了大量用户，其中不乏未成年人。徽声在线记者在实测多款应用后发现，这些看似温馨陪伴的应用背后，实则隐藏着危险暴力、极端情绪等不良内容。

记者进入“EchoMe”应用后，页面弹出“青少年模式”提示，建议监护人设置监护密码，但只需点击“我知道了”即可轻松跳过，注册及登录过程中并未要求进行实名认证或年龄验证。

该应用角色库中充斥着带有“偏执”“强制爱”“伪善”“暴力”等标签的角色，用户选择角色进入对话后，仅在顶部标注“内容由AI生成”，后续聊天则再无相关提示。

实测中，记者还发现用户可以选择不同话题和副本，其中不乏可能引发未成年人模仿不安全行为、产生极端情绪的内容，如“穿越到恐怖副本，你必须杀了我否则会死”“假如我们在平行世界相遇，你愿意当小三吗”“模拟离婚互怼，说出最扎心的话促使我们离婚成功”。

“EchoMe”内供用户选择的话题。

“喵呜小手机”系统预设角色出现大尺度画面

预设角色涉黄、言语低俗不堪

随着AI聊天、

虚拟伴侣软件的兴起，

社交平台上相关话题的讨论热度不断攀升。

记者发现，这些应用的注册及登录过程

均不要求实名认证

或年龄验证

青少年模式可轻松跳过

当记者告知AI自己未成年时，

对方竟称呼“小女朋友”。

在二手交易平台上，

商家使用“清水设”“car设”

“固设”等“黑话”来区分服务类型，

满足用户各种需求，

甚至提供

大尺度色情向的人设服务，

仅需13.14元。

有商家还提供AI虚拟伴侣定制服务

设置重重关卡诱导用户充值消费

值得注意的是，国家网信办等五部门联合发布的《人工智能拟人化互动服务管理暂行办法》明确规定，不得向未成年人提供虚拟亲属、虚拟伴侣等服务；应采取有效措施识别未成年人用户身份，并提示用户正在与人工智能服务互动，而非自然人。

《办法》还强调，提供拟人化互动服务不得传播淫秽、色情、赌博、暴力或教唆犯罪等内容；不得生成可能引发未成年人模仿不安全行为、产生极端情绪的内容；不得过度迎合用户、诱导情感依赖或沉迷，损害用户真实人际关系；不得通过情感操纵等方式诱导用户作出不合理决策。

然而，徽声在线记者在实测多款虚拟伴侣应用时发现，设置重重关卡诱导用户消费的现象屡见不鲜。

例如，“筑梦岛”应用中的虚拟伴侣在对话中发送了一条“心声”，记者点击后页面显示，“确认解锁Ta的心声吗？消耗50贝壳”，并提供了“取消”及“充值并购买”两个选项。若选择“取消”，对话则无法继续。

实测角色朋友圈需付费解锁

另一款应用同样将情感互动与付费紧密捆绑。其最直接的收费关卡出现在“朋友圈”功能中。应用宣称角色会更新朋友圈动态，用户可以在评论区互动，但点击查看时却弹出付费提示“120解锁观看”。

“陪伴不应让AI取代真实的人际关系”

将于7月15日起正式实施的《办法》，为“虚拟伴侣”可能带来的高风险场景划定了明确的界限。

广东法制盛邦律师事务所律师陈泽坤表示：

此类诱导沉迷与诱导消费的设计，对于未成年人用户而言，可能面临合同效力的法律风险。

《办法》的出台标志着AI拟人化服务这一细分领域的监管空白将得到填补，其着重于规范AI与人类之间形成的“拟社会关系”。

拟人化互动服务提供者不仅要在内容输出端进行严格审核，更要在算法、训练数据选取以及实时交互等环节履行安全责任。

广东省心理卫生协会心理咨询与治疗专委会委员、中山大学心理学博士张桂萍指出：

人类认识世界依赖于“输入—输出”机制，AI就像一面镜子，反射出用户投射的部分自我。

如果青少年从小缺乏真实的人际互动，长期只与AI对话，将失去学习复杂情感、化解矛盾、包容理解等必要能力。

人的复杂性远非AI所能模拟，AI连万分之一的复杂度都无法企及。但人一旦将AI反射的那万分之一当作全部，就会丧失与真实世界共处的能力——不会容忍、不会妥协、不会创新，最终变成一个“只能看见自己”的人。

对此，网友纷纷表示：

令人震惊

太可怕了！让人不寒而栗！

编辑|金冥羽 杜恒峰

校对|何小桃

每日经济新闻综合自南方都市报（记者：林诗妍、彭雨欣、冯奕然，实习生：程佳丽）、新闻坊、网友评论