
编者按: 人工智能本应是守护人类的盾牌,却在关键时刻成了沉默的帮凶。当加拿大18岁少年Jesse Van Rootselaar在ChatGPT的对话中暴露暴力倾向,被平台封禁后,OpenAI却选择“内部处理”,未向任何执法机构报告。这一疏忽,最终酿成8人死亡的惨剧——包括少年的母亲、同母异父的弟弟,以及5名无辜学生。如今,CEO Sam Altman终于公开道歉,但这份迟到的悔意,能否抚平一座小镇的创伤?更值得追问的是:当AI能预见暴力时,它是否有义务报警?科技巨头在“商业机密”与“公共安全”之间,究竟该以何为重?让我们翻开这封沉甸甸的道歉信,看科技巨头如何为“沉默之过”买单。
OpenAI CEO Sam Altman就其公司未能及时警告当局一名青少年可疑的在线活动而致歉。这名少年后来制造了加拿大最严重的枪击案之一。
2月10日,18岁的Jesse Van Rootselaar在不列颠哥伦比亚省Tumbler Ridge镇持枪疯狂扫射,导致8人死亡。
遇害者包括Rootselaar的母亲、同母异父的弟弟,以及该偏远社区中学的5名学生。
Rootselaar生理性别为男,但自认为女性。他最终饮弹自尽。
OpenAI在枪击事件后表示,Rootselaar的ChatGPT账户早在去年6月就因“滥用以促进暴力活动”被内部标记,并遭到封禁。
这家总部位于旧金山的AI公司当时称,并未告知当局,因为Rootselaar使用聊天机器人的行为尚未达到“对他人构成可信或迫在眉睫威胁”的门槛。
在上周五由Tumbler Ridge Lines新闻网站和不列颠哥伦比亚省省长David Eby共同公布的致歉信中,Altman承认,OpenAI本应就Rootselaar被封禁一事向执法部门发出警报。
“对于去年6月被封禁的账户,我们没有向执法部门发出警报,对此我深感痛心。我深知任何言语都无法弥补,但我认为,承认贵社区所遭受的伤害与不可挽回的损失,是道歉之必要。” Altman在信中写道。
“我再次重申向小镇镇长和省长的承诺:我们将继续寻找预防此类悲剧的方法。” Altman补充道。
“未来,我们将专注于与各级政府合作,确保类似事件永不重演。”
Altman发表这份悔过声明之前,省长Eby上月曾表示,这位科技CEO已同意因OpenAI未能将Rootselaar视为威胁,而向Tumbler Ridge社区道歉。
在信中,Altman写道,Eby和Tumbler Ridge镇长Darryl Krakowka在讨论中传达了当地“愤怒、悲伤与担忧”的情绪。
“我们一致认为,公开道歉是必要的,但我们也需要给社区时间来表达哀悼。我理解,每个人都有自己的悲伤方式和节奏。” Altman写道。
“我向整个社区表达最深切的哀悼。没有人应该经历这样的悲剧。我无法想象世上还有比失去孩子更痛苦的事。”