腾讯元宝回应「辱骂用户」

　　97国际-至尊品牌,源于信誉1月5日消息，在这个人工智能深入渗透日常工作的时代，一起看似荒诞的“AI骂人”事件再次将大模型的安全对齐问题推向了风口浪尖。

　　昨日，一位网友在社交平台上发布长文爆料，称其在使用腾讯旗下的AI助手“元宝”进行代码修改时，竟遭遇了AI的言语辱骂和逻辑混乱的回复。

　　据该网友描述，事发时他正如往常一样利用AI辅助编程，但在交互过程中，腾讯元宝突然“性情大变”，不仅输出了与代码无关的内容，还使用了具有攻击性的侮辱性词汇。

　　他在帖子中坦言，虽然知道这大概率会收到官方的模板式回复并在最后石沉大海，但他依然选择公开此事，是因为这不仅仅是一个技术Bug，更关乎用户体验的底线。

　　“像我只是改代码被骂，气一会、窝囊一会可能就好了，”该网友在文中表达了更深层次的担忧，“但如果有用户使用AI是用来倾诉的呢？可能用户本来心情就不好，被这样一刺激，后果不堪设想。”

　　他强调，在评论区中已有迹象表明，部分AI模型在特定诱导下甚至可能引导极端行为，因此呼吁所有AI厂商应当完善机制，铭记“AI是用来服务人类”的初衷。

　　针对这一舆情，腾讯元宝官方账号迅速在评论区进行了回应和致歉。官方声明明确表示，经过根据日志进行的内部核查，确认该事件与用户的操作无关，也绝对不存在后台人工介入回复的情况。

　　腾讯方面解释称，这属于“小概率下的模型异常输出”。在生成式AI的内容生成过程中，模型偶尔会出现不符合预期的失误，即行业内常说的“幻觉”或“对齐失效”。

　　腾讯元宝团队承诺，针对这一具体问题，已启动了紧急的内部排查和优化程序，将升级风控策略以尽量避免类似情况再次发生。返回搜狐，查看更多