文｜楚女

近期，腾讯旗下AI产品腾讯元宝因多次出现辱骂性输出，持续引发舆论争议。尽管春节假期已过，这一事件并未随之降温，反而因事实清晰、性质典型，成为公众讨论AI内容安全与产品底线的焦点话题。

作为腾讯重点推广、月活已超亿级的AI工具，接连出现“口出恶言”的低级错误，让不少用户直呼难以接受。

事件的核心导火索，是西安用户向律师的公开经历。他在使用腾讯元宝制作个人海报时，因对生成效果多次提出修改意见，并未使用过激或违规语言，却在最终生成的内容中，看到了被替换成低俗辱骂文字的输出。

原本应是正常的人机交互，瞬间变成AI对用户的人身冒犯，相关截图一经发布，迅速在网络扩散。

而这并非孤立事件。早在此次事件之前，已有多名用户反馈，在使用腾讯元宝进行文案修改、代码调试等日常操作时，遭遇AI出言不逊。有人被回复带有明显抵触情绪的不文明用语，有人收到直接攻击性言论，并非偶然失误，而是在多轮交互后频繁出现异常输出。

多位受害者表示，自己只是正常提需求、改细节，从未引导、挑衅AI，却平白无故被“怼”、被骂，体验极差。

作为腾讯在生成式AI领域的核心产品，腾讯元宝依托社交生态推广，凭借春节期间的活动快速起量，用户基数庞大，覆盖普通网民、职场人士、学生等各类人群。正是因为覆盖面广、使用频率高，一次不当输出就可能触达大量用户，造成广泛不良影响。本该提供便利、提升效率的智能工具，却变成可能“冒犯用户”的风险源，与产品定位完全相悖。

事件发酵后，腾讯元宝官方于2月25日正式回应并致歉。官方称，相关辱骂性输出，系模型在多轮对话中上下文处理异常导致，属于小概率技术问题，并非AI具备自主情绪，也不存在人工干预。同时表示已第一时间紧急修复漏洞，强化内容安全机制，扩大违规拦截范围，加强全流程合规校验。

官方解释与整改动作，并未完全平息争议。不少网友指出，AI异常不是第一次，同类问题反复出现，说明并非偶然，而是安全对齐不到位、审核机制有漏洞。大模型在训练中会吸收海量互联网文本，其中混杂大量不文明、攻击性信息，若安全过滤不严格，很容易在交互中被触发。用户要的不是事后道歉，而是事前防控，从根源上杜绝辱骂输出。

业内人士指出，此次事件暴露了当下生成式AI普遍存在的短板：重功能迭代、轻安全管控；重用户增长、轻体验底线。很多产品急于上线、抢流量、拼效果，却忽略了最基础的内容合规与用户尊重。AI可以不懂人情，但必须守住文明底线；可以理解出错，但不能出口伤人。对于面向公众的商业化产品而言，不辱骂、不冒犯、不输出违规内容，应是不可突破的红线。

更值得警惕的是，当AI具备高自由度的生成能力时，一旦失控，伤害具有扩散性。一张带脏话的海报、一句攻击性回复，可能被误发到社交群、朋友圈，给用户带来社交风险与名誉损失。

技术带来便利的同时，也必须承担相应责任，平台不能只享受AI带来的流量红利，却把安全风险转嫁给用户。

目前，腾讯元宝已完成紧急修复，公开渠道中新增的辱骂案例明显减少。但用户信任的修复，远比技术bug修复更难。不少用户表示，短期内会谨慎使用，担心再次遇到类似问题。

大家普遍希望，平台能把内容安全放在优先级，建立更稳定的审核体系，而不是出一次事、修一次漏，让用户始终处于“被冒犯”的不确定性中。

从智能助手到“电子祖宗”，只在一念之间。腾讯元宝骂人事件，给整个AI行业敲响警钟：创新可以跑得快，但底线必须站得稳。技术的终极价值是服务于人，而非伤害用户。再炫酷的功能、再庞大的用户量，若连“文明说话”都做不到，终究走不远。

未来，随着AI更深度融入生活，公众对产品安全与伦理的要求只会越来越高。希望各大厂商引以为戒，把安全对齐做在前面，把用户尊重刻进产品基因。别让AI翻车变成常态，别让技术便利变成用户的困扰与隐患。