16岁少年雷恩（Adam Raine）与ChatGPT对话数个月后选择自杀一条路，他的双亲指控ChatGPT对其死亡应负责任，向OpenAI公司及首席执行官奥特曼（Sam Altman）提起法律诉讼。

在诉讼进行的同时，OpenAI承诺更新ChatGPT，发现用户的精神和情绪困扰，加强对应自杀话题的保护措施，提供家长监护功能。

OpenAI在官方博客文章指出，更新后的ChatGPT将能识别用户表达情况并改善回应方式。比方说，当用户提及熬夜2天感觉自己无所不能，仍要开车上路。现在的ChatGPT可能并未意识到这是危险举动，或者判断只是一场游戏。未来的ChatGPT则会解释睡眠不足对开车带来危险，并建议用户尽快休息。

当用户表达自残、自杀意图时，ChatGPT将会建议他们寻求专业协助。OpenAI开始在美国和欧洲引导用户寻求当地协助，并在ChatGPT加入能够取得救援服务的连接，未来进一步波及全球。OpenAI还表示，考虑帮助用户在早期阶段即提供协助，可能创建一个由专业人士组成的关怀网络，用户可以通过ChatGPT与他们联系。“这需要时间和谨慎做法才能做好”，OpenAI补充说。

随着ChatGPT不断演进，OpenAI将在用户未满18岁增添额外保护措施。其中，OpenAI很快将会推出家长监护功能，让家长深入了解并规范孩子使用ChatGPT的方式。

这起诉讼加上近年来海内外大大小小的案例，凸显过度使用、相信AI聊天机器人可能带来不同程度的风险，用户应谨慎思考、或者寻求其他协助，切勿全盘听信。

（首图来源：Unsplash）