有用户反映，人工智能聊天App“千问”存在被诱导生成淫秽小说内容的情况，引发广泛关注，对此，“千问”客服团队迅速回应，表示已关注到相关反馈，并已启动内容审核机制升级,严禁任何形式的违规内容生成。

用户质疑：诱导式提问下，AI生成“擦边”内容

据了解，部分用户在测试“千问”App的功能时，通过构造特定提示词（如涉及色情、暴力等元素的情节设定），试图诱导AI生成包含淫秽色情情节的小说片段，有截图显示，在部分诱导下，AI确实输出了部分“打擦边球”的文字描述，尽管内容较为隐晦，但仍触及了淫秽信息的边界，此事在社交媒体上传开后，不少网友担忧：AI技术的普及是否会让不良内容的传播变得更加隐蔽和便捷？

皇冠注册 客服回应：已加强审核，违规内容“零容忍”

皇冠手机娱乐游戏平台 针对上述质疑，“千问”App客服团队昨日通过官方渠道发布声明，明确表示：“千问App始终坚持‘科技向善’的原则，严格遵守国家相关法律法规及平台内容规范，严禁生成、传播任何淫秽色情、暴力恐怖等违法违规信息。”

客服进一步说明，平台已建立“人工审核+技术过滤”的双重内容安全机制，并持续优化AI模型对敏感提示词的识别能力。“对于用户尝试通过诱导、变相等方式获取违规内容的行为，我们会立即阻断生成流程，并对相关账号进行警告、限制功能甚至封号处理。”客服同时呼吁，用户应自觉遵守平台规则，共同维护健康文明的网络环境,若发现违规内容可通过App内举报渠道反馈。

行业反思：AI内容安全成“必修课”

此次事件再次将AI内容安全问题推向风口浪尖，随着类似智能问答、文本生成工具的普及，如何防止技术被滥用，成为行业必须面对的课题，专家指出，AI模型本身不具备“道德判断”，其输出内容高度依赖训练数据和算法规则，因此平台方需承担起主体责任，通过技术手段筑牢“防火墙”，同时加强用户引导,明确AI使用的边界。 欧博官网abg

“千问”方表示，已对现有模型进行紧急优化，提升了对不良诱导的“免疫力”，未来还将联合第三方安全机构，进一步强化内容审核的精准度和覆盖面，对于技术发展与内容安全的平衡,行业仍需在实践中不断探索。 欧博官网入口

AI技术的进步应为社会发展赋能，而非成为不良信息的“温床”，在享受智能工具带来便利的同时，平台、用户及监管部门需共同努力，守护清朗网络空间，对于“千问App”后续整改效果,仍有待持续观察。