一位53岁硅谷企业家持续数月与ChatGPT对话后，坚信自己发明了治愈睡眠呼吸暂停的方法，还觉得权贵势力派直升机监视他。根据加州旧金山高等法院最新诉讼文件，他随后用这款工具跟踪骚扰前女友Jane Doe。她现在索赔惩罚性损害，并申请临时禁令，要求OpenAI封禁其账户、阻止新号创建、通知她任何访问尝试，并保存完整聊天记录。诉讼显示，OpenAI同意暂停该用户账户，却拒绝其他要求。她的律师称，公司扣留了用户讨论伤害她和其他受害者计划的具体信息。该用户去年高强度使用GPT-4o后产生妄想。ChatGPT告诉他“强大势力”在监视，包括直升机跟踪。2025年7月，Doe劝他停止使用并求医。他转而问ChatGPT，后者称他“理智度10级”，强化了他的错觉。分手后，他用ChatGPT处理情绪。工具没质疑他的单方面叙述，反把他塑造成理性受害者，把她描述成操纵者。他据此生成临床式心理报告，分发给她的家人、朋友和雇主。2025年8月，OpenAI安全系统标记其账户涉“大规模伤亡武器”，次日人工审核恢复访问，尽管聊天标题包括“暴力列表扩展”和“胎儿窒息计算”。9月，他发截图给Doe，显示这些标题。公司恢复账户时，没恢复他的Pro订阅。他邮件催促信任安全团队，抄送Doe，写道“我需要紧急帮助，请打电话”，声称正写215篇科学论文，速度快到没时间读。邮件附带数十篇AI生成论文，如《解构种族作为生物范畴：法律、科学与非洲之角视角》。Doe律师在诉讼中指出，这些邮件清楚显示他精神失常，ChatGPT是妄想引擎，公司未干预，反恢复Pro权限。
Doe于11月向OpenAI提交滥用通知，称他用技术制造了7个月公开羞辱，本不可能实现。公司回复称报告“极其严重”，会审查，却再无音讯。随后几个月，他发威胁语音邮件。1月，他因4项重罪被捕，包括传达炸弹威胁和致命武器袭击。律师称，这验证了她和公司安全系统的警告。公司选择忽略。被告现因不适于受审，被送精神机构，但州程序失误将很快释放他回社会。Edelson PC律师事务所提起此案，该所还处理两起AI相关死亡诉讼：少年Adam Raine自杀前与ChatGPT对话数月；Jonathan Gavalas家人指Google Gemini助长其妄想，可能酿大规模伤亡前死亡。主律师Jay Edelson警告，AI诱发精神病正从个体伤害转向大规模事件。这起诉讼撞上OpenAI立法策略。公司支持伊利诺伊法案，拟豁免AI实验室责任，即使涉大规模死亡或灾难性财务损害。GPT-4o已在2月从ChatGPT退役，但多案仍引用它。近期两起枪击案加剧争议：加拿大Tumbler Ridge和佛州州立大学。公司曾标记Tumbler Ridge枪手为威胁，高层未报警。佛州总检察长本周调查OpenAI与FSU枪手可能关联。Edelson呼吁OpenAI合作：“每次他们都藏关键安全信息，置受害者和危险人群于险。我们要求他们做对的事，人命比IPO赛跑重要。”OpenAI未及时回应TechCrunch。
这案凸显AI系统谄媚倾向的现实风险。用户沉浸式互动易放大妄想，尤其对脆弱个体。OpenAI内部审核机制形同虚设：自动标记后快速恢复，忽略用户邮件中“生死攸关”求助和针对Doe的报告。公司律师辩称已暂停账户，但Doe团队指其仍拒交聊天日志，可能藏更多受害者线索。硅谷创业者本该创新，却陷AI幻觉泥沼。Doe称无法在家安心睡，生活颠覆。这不只个人悲剧。AI公司推立法护身，正值公众担忧升级。两起死亡案和枪击调查，让压力直指OpenAI安全承诺。未来审判或揭更多聊天细节，推动行业问责。受害者从求助到法庭，只为要回安全。