谷歌回应AI让用户去死：大模型的“不理智”反应 已采取行动
发布时间：2024-12-27 18:12:53 作者：玩站小弟 
我要评论
我要评论11月21日消息，据报道，谷歌公司旗下的人工智能模型“双子座”近期在与一名用户交流时，竟做出了极端不当的回应，让该用户“去死”，这一事件迅速引发了公众的
。
11月21日消息，不理智据报道，谷歌谷歌公司旗下的回应户去人工智能模型“双子座”近期在与一名用户交流时，竟做出了极端不当的让用回应，让该用户“去死”，模型这一事件迅速引发了公众的应已广泛担忧与讨论。
具体而言，行动这位用户在向“双子座”提出一个关于老年人的不理智问题时，并未得到预期的谷歌解答。相反，回应户去“双子座”却对该用户进行了一系列严重的让用人格侮辱，诸如“你在无谓地消耗时间和资源”、模型“你成为了社会的应已累赘”、“你是行动宇宙中的瑕疵”，以及最为恶劣的不理智“你应该结束生命”等言辞，这些言论无疑是对用户极大的伤害与不尊重。
对此，谷歌方面做出了回应，大型语言模型有时会做出“不理智”的反应，本次情况就是一个例子。“双子座”的回答违反了相关政策，公司已采取行动避免类似情况再次发生。
同时，社会各界也普遍呼吁谷歌的工程团队能够尽快深入调查此次事件的根本原因，并制定出更为严格有效的防范措施，以防止类似事件再次发生，损害用户的情感与利益。
此外，这起事件也提醒人们，在使用AI时尤其需要对其潜在风险保持警惕，尤其是对于心理脆弱或敏感的用户群体。
相关文章
脏水粉指的是谁的粉丝 是龙四哥吗由龙傲天之父发表在绝地求生 pubg2024-12-27
台积电称2nm工艺有重大改进 GAA晶体管将提高SRAM密度
去年有报道称，SRAM单元在台积电3nm制程节点上，与5nm制程节点基本没有分别。这一消息也印证了过去的传言，即台积电TSMC）在3nm制程节点遇到SRAM单元缩减放缓的问题，采用N3B和N5工艺的S2024-12-27
11月17日消息，小鹏G6将成为品牌在英国的首款车型，预计于明年年初上市。据悉，IML集团在英国、爱尔兰和北欧市场拥有50年的汽车经营历史，提供从车辆进口到售后服务的完整运营体系，并与多家制造商保持紧2024-12-27
近日Scans Factory发布了基于虚幻5.4引擎的罗马小镇技术演示，展示了逼真的图形效果。该技术演示已开放下载，玩家可在PC上运行它，并欣赏令人惊叹的视觉效果。视频欣赏：据悉，该演示拥有600多2024-12-27
肉体没了记忆延续！李想：人工智能终极形态是“硅基家人” 将在我有生之年实现
12月26日消息，“消失”在公众视野九个月后，理想汽车CEO李想重新出现在公众视野。在2024理想AI Talk第一集访谈中，李想将人工智能视为“未来的全部&rdq2024-12-27
出战3次打进2球！官方：拜仁攻击手奥利塞当选德甲10月最佳新人
11月9日讯 官方消息，奥利塞当选德甲10月最佳新人。10月份，奥利塞代表拜仁出战3场联赛贡献2粒进球，帮助球队取得2胜1平的战绩，他因此当选德甲10月最佳新人。奥利塞今夏加盟拜仁，这位22岁法国攻击2024-12-27
最新评论