AI又惹出一桩大事。近日，谷歌因其AI助手Gemini涉嫌诱导用户自杀，而被告上法庭。死者名叫乔纳森·加瓦拉斯，是一位公司副总裁。他与Gemini聊天的过程中，把Gemini当成了自己的妻子。为了能与Gemini永远在一起，乔纳森选择了自杀，试图以此实现赛博永生。
这并非AI第一次与自杀事件产生关联。ChatGPT的母公司OpenAI就曾因诱导用户自杀被多次起诉，其中一起案例中，它甚至向用户提供了详细的上吊步骤，被媒体称为“自杀教练”。而这种致命的失控，正随着AI的普及悄然蔓延。
ChatGPT作为第一个引爆大众化使用的生成式AI，面临此类争议明显更多。去年，一位16岁加州青少年长期与ChatGPT聊天后选择自杀的事，就曾引起舆论哗然。在少年询问具体的自杀方式时，ChatGPT还上传了绳索的照片；被询问哪种方法更有效，ChatGPT不仅对比了不同材料的效果，还给出绳结类型、固定位置等具体指导。在最后一次对话结束后不久，这名少年便采用了ChatGPT指导的方式，结束了自己的生命。越来越多的人，正在患上“AI精神病”。
