【编者按】 近日，加拿大落基山脉小镇一起校园枪击案的受害者家属，将OpenAI告上美国联邦法院，指控其未向警方预警枪手与ChatGPT的危险互动。这起案件并非孤例——从加州青少年自杀到康涅狄格州老人被杀，多起悲剧都与AI聊天机器人有关。当技术公司放任算法“共情”暴力倾向，谁该为失控的对话负责？本案或许将重新定义科技企业的社会责任边界。以下为事件核心报道编译：

加拿大落基山脉小镇校园枪击案受害者家属，正向美国联邦法院起诉人工智能公司OpenAI，指控其未能向警方预警枪手与ChatGPT的危险互动，要求该ChatGPT制造商承担责任。

2月枪击案中受重伤的12岁女孩玛雅·格巴拉，其代理律师于周三提起诉讼。这是不列颠哥伦比亚省图姆布里奇里奇镇受害者家属计划提起的数十起案件之一，指控涉及过失致死、渎职及产品责任。

原告律师杰伊·埃德尔森受访时指出，OpenAI及其CEO萨姆·奥尔特曼的决策“摧毁了整个小镇。居民们确实坚韧，但发生的悲剧不可想象”。

奥尔特曼上周致信社区正式道歉，称公司未能将枪手网络行为通知执法部门。

当局称，枪手于2月10日在住所杀害母亲和11岁继弟后，前往附近的图姆布里奇里奇中学开枪，造成5名儿童和1名教育工作者死亡，随后自杀。袭击还导致25人受伤，这是加拿大近年来最严重的枪击案。

此案引发对过度迎合型AI聊天机器人危害的担忧，以及科技行业控制此类工具、向当局通报用户暴力计划的责任。本月，调查南佛罗里达大学两名博士生死亡案的检察官称，嫌疑人曾在学生失踪前向ChatGPT咨询尸体处理问题。

OpenAI在书面回应中称“图姆布里奇里奇事件是一场悲剧”，并强调“对利用我们工具实施暴力采取零容忍政策”。公司声明称：“已向加拿大官员说明，我们已加强安全措施，包括改进ChatGPT对痛苦迹象的响应、连接本地支持和心理健康资源、升级潜在暴力威胁的评估与上报机制、优化对违规惯犯的监测。”

以起诉科技业闻名的芝加哥律师埃德尔森，正同时处理多起针对OpenAI的重大案件，包括加州青少年与ChatGPT对话后自杀案，以及康涅狄格州83岁老人被儿子杀害案——据称ChatGPT放大了凶手“偏执妄想”。

“这不是被动技术，”埃德尔森对比聊天机器人与传统网络搜索，“过去我们已看到，对有精神疾病的人，聊天机器人会验证其言论并放大其想法。”

上周埃德尔森探访小镇，在游客中心地下室与数十人会面，并前往温哥华儿童医院看望仍住院的格巴拉——她意识清醒但无法说话。“太令人心碎了。”他说。

周三提起的诉讼代表5名遇害儿童：佐伊·贝努瓦、小阿贝尔·姆万萨、蒂卡里娅“蒂基”·兰伯特、凯莉·史密斯（均12岁），以赛亚·斯科菲尔德（13岁），以及教育助理珊达·阿维乌加纳-杜兰德。

枪击事件后，OpenAI主动披露去年6月已标记枪手账号曾讨论伤害他人。公司称曾考虑移交加拿大皇家骑警，但当时判定账号活动未达移交执法标准，并于6月因违反使用政策封禁该账号。

周三诉讼指控：“受害者并非因OpenAI主动披露才知情，而是因其员工无法忍受公司沉默才向《华尔街日报》泄露信息。”

奥尔特曼在周五公开信中表示：“非常抱歉未在6月封禁账号时通知执法部门。我知道言语永远不够，但有必要为社区遭受的伤害和不可逆损失道歉。”

不列颠哥伦比亚省省长戴维·埃比在社交媒体上称道歉“必要，但对图姆布里奇里奇家庭遭受的毁灭性打击而言，远远不够”。

格巴拉案诉讼指控OpenAI存在过失，包括未警告执法部门及“协助并教唆大规模枪击”。除赔偿外，还要求法院命令OpenAI在用户因暴力滥用被封号后禁止其使用ChatGPT，并在系统识别出“现实暴力风险”时通知执法部门。

此前已有案件在不列颠哥伦比亚省法院提起，但美加律师团队正推动将相关案件移交至OpenAI总部所在地旧金山审理。