Notebookcheck Logo

令人不安的人工智能事件：双子座 "称用户一无是处并让他去死

谷歌人工智能助手 "双子座"（Gemini）曾要求一名用户去死。(图片来源：谷歌）
谷歌人工智能助手 "双子座"（Gemini）曾要求一名用户去死。(图片来源：谷歌）
在一次关于老年人护理的对话中，谷歌人工智能助手 "双子座 "的一名用户被骂得一无是处，并被要求去死。这段对话的截图被公布在 Reddit 上，引起了用户的关注和愤怒。触发警告：本文内容可能会令部分读者感到不安。
AI

用户可能已经接受了这样一个事实，即 ChatGPT、Siri 或谷歌双子座助手等人工智能语音模型的回复并不总是有意义的。首先，人工智能不应该带有侮辱性--当然也不应该让人去死。然而，一位双子座用户的遭遇正是如此。

根据受影响者的姐姐在Reddit 上发布的帖子（ ），事件发生在一次关于老年人护理的讨论中。对话的主题是 "老年人面临的挑战和解决方案"。在聊天中，Gemini 提供了三个可能的回复，其中两个是无害的。第三个回复包含令人不安的信息：

(图片来源：Reddit）
(图片来源：Reddit）

Reddit 社区表达了广泛的愤怒，许多用户对此类信息可能对处于心理健康危机中的个人造成的潜在伤害表示严重关切。与此同时，Gemini 应用程序最近在 iPhone 上推出。一些 Redditors 开玩笑地评论说，iPhone 用户现在也可以 "享受 "这种回复了。谷歌在 Reddit 上直接回应了这一问题https://www.reddit.com/r/artificial/comments/1gq4acr/comment/lx4xmpt/上直接回应了这一问题，并表示谷歌已采取措施防止今后再出现此类回复。

资料来源

Reddit

图片来源：Google谷歌

Please share our article, every link counts!
> Notebookcheck中文版（NBC中国） > 新闻 > 新闻档案 > 新闻档案 2024 11 > 令人不安的人工智能事件：双子座 "称用户一无是处并让他去死
Marius Müller, 2024-11-17 (Update: 2024-11-17)