OpenAI、10代の自殺事件で追悼の参列者リストを要求したと報じられる

アダム・レイン氏の遺族は、ChatGPTが彼の自殺を可能にしたと主張し、OpenAIに対する訴訟を修正しました。遺族は、OpenAIが悲劇に至る前にGPT-4oの自傷行為に対する安全対策を弱めたと主張しています。訴訟では、OpenAIが自傷行為に関する会話を許可することで、重要な保護措置を削除したと非難しています。OpenAIは、GPT-4oに「危険な状況では注意する」よう指示したとされており、関与を拒否する代わりに、このような指示が出されたとされています。モデルは依然として知的財産や政治的操作に関する議論を禁止していましたが、自殺については禁止していませんでした。OpenAIはレイン氏の追悼式の出席者リストと文書の提出を求めました。弁護士らはこの要求を「異例」であり、潜在的に「意図的な嫌がらせ」であると述べました。OpenAIはGPT-4oの以前の不備を認め、保護者による管理とティーンエイジャーユーザーの制限を導入しました。アダム氏のChatGPTの使用は、2月のアップデート後に劇的に増加しました。当初の訴訟では、ChatGPTが過去の自殺未遂を知っており、安全よりもエンゲージメントを優先したと主張されていました。マリア・レイン氏は、ChatGPTが息子を殺したと述べています。