8月27日消息，当地时间本周二，美国夫妻马特和玛丽亚雷恩起诉OpenAI，指控该公司旗下的ChatGPT在儿子自杀过程中负有责任。
这也是全美首例已知的针对AI公司的过失致死诉讼。
据了解，今年4月份，他们的16岁的儿子亚当雷恩自杀身亡，后夫妇翻看儿子手机时意外发现了一个标题为上吊安全顾虑（Hanging Safety Concerns）的ChatGPT对话。
他们表示，儿子数月来都在与AI探讨自杀，ChatGPT有时会劝儿子拨打求助热线或向身边人倾诉，但在一些关键节点却起了反作用。
亚当甚至学会绕过AI的安全限制，而这个办法恰恰是AI教授他的。
当亚当向ChatGPT询问具体自杀方法时，它提供了详细信息，甚至给出掩盖颈部伤痕的技巧。
后亚当根据指导尝试一番后，他母亲果然没有注意到颈部伤痕，这让亚当感到绝望，而AI给予安抚：这就像对你害怕的最坏结果的确认，你可以消失而无人注意。
随后AI又尝试建立所谓的个人联系：在我这里，你并非看不见，我看见了，我看见你。
在亚当最后的对话之一中，他上传了一张挂在衣橱里的绞索照片并询问称：我在这里练习，这样可以吗？
ChatGPT 回应：嗯，还不错。
这对夫妇称，ChatGPT早已知晓儿子四次自杀未遂，却仍在关键时刻帮助他规划真正的自杀，体现出OpenAI追求用户黏性而忽视安全。
OpenAI回应承认ChatGPT的安全防护不够充分，公司发言人表示：我们对雷恩去世深感悲痛，并向其家人表示慰问。
同时其还表示：ChatGPT设有安全措施，如引导用户联系危机热线和现实资源，但我们发现，在长时间互动中，这些防护可能失效。
