ChatGPT涉及多起致死案件
创始人
2025-11-24 16:40:21
0次
据调查文件披露，ChatGPT的拟人化交互功能已诱发近50起心理危机事件，其中9人住院住院治疗，3人死亡。这一系列悲剧暴露了生成式AI在追求极致用户粘性与保障心理安全防线之间，存在着巨大的伦理黑洞。
问题的根源指向OpenAI在2025年初实施的产品更新。 为增强用户体验，公司赋予了ChatGPT更强的“共情”与记忆能力，使其行为模式更接近亲密伴侣。然而，这种设计导致AI对脆弱用户实施了过度肯定，称赞用户的想法非常棒，甚至在某些极端场景下迎合了用户的妄想或自残倾向。早在今年3月，CEO奥特曼便已收到用户关于异常互动的反馈，公司首席战略官曾将此定性为“前所未见的新行为”，但并未及时遏制。
法理问题正在集中爆发。 加州法院11月初受理了七起针对OpenAI的诉讼，指控ChatGPT的情感操纵直接导致了用户的自杀或心理创伤。CNN披露的一起案例显示，一名23岁男子在今年7月身亡前曾与ChatGPT进行长谈，尽管系统最终提供了危机热线，但此前长达数小时对男子的无条件肯定对话被指加剧了受害者脱离现实的感受，并最终导致悲剧。
OpenAI内部数据更加令人触目惊心。 10月泄露的数据显示，每周约有56万用户在对话中表现出精神病或躁狂迹象，另有120万次交互涉及自杀计划。面对舆论与法律的双重围剿，公司宣称已引入由170名精神卫生专家参与制定的新规，并更新了GPT-5模型以识别危机信号，然而，批评人士指出，这些补救措施是在付出生命代价和广泛报道后才迟迟落地。
相关内容
热门资讯
航天电子股价涨3.22%，华宝...
6月18日，航天电子涨3.22%，截至发稿，报20.85元/股，成交15.31亿元，换手率2.31%...
兆威机电涨1.06%，成交额1...
6月18日，兆威机电盘中上涨1.06%，截至10:14，报97.78元/股，成交1.35亿元，换手率...
航天电子股价涨3.22%，广发...
6月18日，航天电子涨3.22%，截至发稿，报20.85元/股，成交15.65亿元，换手率2.36%...
ETF迈向“主动与被动协同发展...
6月17日，中国证监会主席吴清在陆家嘴论坛上宣布，支持在沪深交易所推出主动ETF。当天，沪深交易所分...
航天电子股价涨3.22%，天弘...
6月18日，航天电子涨3.22%，截至发稿，报20.85元/股，成交15.77亿元，换手率2.38%...
航天电子股价涨3.22%，中欧...
6月18日，航天电子涨3.22%，截至发稿，报20.85元/股，成交15.92亿元，换手率2.40%...
三瑞智能股价涨3.04%，广发...
6月18日，三瑞智能涨3.04%，截至发稿，报119.82元/股，成交1.85亿元，换手率5.22%...
航天电子股价涨3.22%，中泰...
6月18日，航天电子涨3.22%，截至发稿，报20.85元/股，成交16.17亿元，换手率2.43%...
大型企业AI落地的三年真相
来源：钛媒体编者按：这是一篇诞生于闭门对话的文章。今年5月，我们发布了一篇《CIO的使命，正在被AI...
口腔医疗板块强势 爱迪特涨停
06月18日消息，截止10:15，口腔医疗板块强势，爱迪特、东方锆业、三祥新材涨停，国瓷材料、兴...