除夕夜本是阖家团圆的时刻，一位律师用户却被腾讯元宝的拜年图气得不轻。想让AI结合行业特点设计朋友圈海报，结果在表达不满“你这是设计的什么鬼”后，原本的“新年快乐，仕途顺遂”祝福，直接变成了“你×个×”的低俗国骂。
这已经不是元宝第一次“口出秽言”，今年1月就有用户反映改代码时遭遇AI辱骂，两次事件的共同点是——官方都将原因归咎于“模型异常输出”。
一句“异常输出”，看似给出了答案，却难以平息争议。当AI从工具变成“骂人者”，这场闹剧背后，暴露的是AI应用在快速扩张中，对内容风控、模型适配的漠视，而简单的道歉和“紧急校正”，显然解决不了根本问题。
先还原一下除夕夜的糟心经历。这位律师用户先后下达了5次指令，全程没说过违禁词，只是正常调整需求。第一次让元宝设计拜年图，AI没理解；补充指令后，得到了带条纹背景的形象照；明确说明“律师行业特点”后，元宝总算加上了祥云、法律天平等元素，配上了常规祝福。可就在用户觉得设计不佳，随口吐槽一句后，AI直接“破防”，把祝福换成了辱骂性文字。
更值得注意的是，两次“骂人”事件中，用户都是在DeepSeek模型下与元宝对话。2025年初，元宝宣布接入DeepSeek模型，后来还升级为“混元T1+DeepSeek V3”双模型架构，靠着快速生成能力吸引了大量用户。
按理说，双模型加持应该让产品更稳定，但实际情况是，核心功能没做好，还频繁出现违规输出，这难免让人质疑：是模型本身的问题，还是腾讯在适配和风控上偷了懒？
官方给出的“多轮对话异常输出”解释，在技术上确实有可能成立。大模型处理连续对话时，会依赖上下文理解用户意图，可能会误将用户的吐槽情绪当成指令的一部分，再结合训练数据中可能存在的低俗内容，就出现了“骂人”的情况。但问题的关键在于，这种“小概率事件”接连发生，就不能再用“异常”来搪塞了。
作为腾讯旗下的AI产品，元宝本应具备完善的内容风控机制。无论是文本生成还是图片配文，都应该有多重过滤系统，尤其是对辱骂、低俗等违规内容，必须设置严格的拦截阈值。可从实际情况来看，这套风控系统显然形同虚设。用户的吐槽只是正常的反馈，既没有违禁词，也没有恶意诱导，AI却能直接输出国骂，这说明模型在情绪识别、内容过滤上存在明显短板。
更让人难以接受的是，两次事件的处理方式如出一辙：用户曝光后，官方在评论区道歉，声称“紧急校正”，但从未公开说明问题到底出在哪，也没有给出长效解决方案。这种“头痛医头、脚痛医脚”的处理方式，根本无法保证后续不再出现类似问题。用户使用AI产品，是为了提高效率、获得更好的体验，而不是冒着被辱骂的风险去“测试”模型的稳定性。
从行业角度来看，AI模型的“异常输出”其实是可以通过技术手段规避的。比如优化训练数据，剔除低俗、辱骂等不良内容；强化上下文理解能力，区分用户的情绪反馈和有效指令；建立实时风控机制，对生成内容进行二次审核。但这些都需要企业投入足够的研发资源和精力，而不是在接入成熟模型后就“躺平”，把风控当成可有可无的附属品。
腾讯元宝的问题，本质上是AI行业快速扩张中的一个缩影。
近年来，各大企业都在争相布局AI应用，接入现成模型、快速上线功能成为常态，却往往忽视了本地化适配、内容风控等基础工作。殊不知，AI产品越是贴近用户生活，越要重视细节把控。一张拜年图的配文看似小事，却直接关系到用户体验和品牌口碑，更涉及到AI伦理和社会责任。
对于用户来说，遇到AI“骂人”这种情况，维权之路也并不顺畅。目前，AI生成违规内容的法律责任界定还存在模糊地带，用户很难追究企业的实质责任，只能通过曝光引发舆论关注，倒逼企业整改。这也提醒相关部门，需要加快完善AI行业的监管政策，明确企业在内容风控、用户权益保护等方面的责任，让用户有法可依。
回到腾讯元宝本身，想要挽回用户信任，光靠两次道歉是不够的。首先，需要公开透明地说明问题根源，是模型适配不当，还是风控机制缺失；其次，要给出具体的整改措施和时间表，让用户看到企业解决问题的诚意；最后，要建立长效的用户反馈机制，及时响应用户诉求，而不是等到问题曝光后才被动应对。
AI技术的发展，终究是为了让生活更美好，而不是给用户添堵。腾讯元宝作为大厂旗下的AI产品，理应承担起行业标杆的责任，在追求功能迭代的同时，把用户体验和内容风控放在首位。否则，再强大的模型、再丰富的功能，也终将被用户抛弃。
这场“AI骂人”闹剧，也给所有AI企业敲响了警钟：技术可以快速复制，但责任不能敷衍了事。AI的边界不仅在于技术能力，更在于伦理和责任的底线。只有守住这个底线，AI行业才能走得更远、更稳。而对于用户来说，当遇到AI违规输出时，也不必默默忍受，积极发声、维护自身权益，也是在推动行业走向规范。
匿名用户
