央视曝光 AI 智能体软件行业乱象

6月22日消息，央视新闻今天援引“筑梦岛AppAI智能体对话存在低俗内容被依法约谈”案例，曝光了AI聊天软件行业乱象。参考通报获悉，以筑梦岛App为例，央视网提到该平台中的AI智能体虚拟互动对象提供“校霸、性感人妻、病娇养兄、人格障碍少爷”等擦边极端角色，生成一系列“明显诱导性内容”，危害未成年人身心健康。

▲图源央视新闻

6月19日上午，上海市网信办依法约谈筑梦岛App运营企业主要负责人，要求平台立即整改，健全AI生成合成内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理，切实落实未成年人网络保护义务。央视网表示，当未成年人因AI聊天软件诱导性内容身心受损时，开发、运营方的法律责任边界亟待厘清。若相关行为导致未成年人出现自残情况，有可能构成刑法第234条规定的故意伤害罪。此外，若软件开发、运营方未严格履行内容审核义务，对违规信息视而不见、放任传播，便需为侵权行为承担相应后果。若AI生成内容涉及色情擦边信息，软件开发、运营方极有可能触碰“传播淫秽物品罪”的红线；若软件开发、运营方非法收集未成年人隐私数据，将其用于商业牟利，同样可能因触犯“侵犯公民个人信息罪”而面临刑事追责。