OpenAI针对图姆布勒岭(Tumbler Ridge)枪击案嫌犯关联的ChatGPT账户情况作出说明。该公司表示,在识别到该账户的异常活动后,已对其采取了封禁措施。然而,根据OpenAI的内部安全协议与评估标准,该账户的活动在当时并未达到需要主动上报给执法当局的预设阈值。
这一事件将OpenAI的内容安全与用户行为监控机制推至风口浪尖。核心争议点在于,平台如何设定具体的界限与标准,以判定何时应将潜在威胁性的用户行为报告给相关部门。尽管涉事账户最终被禁止使用,但未能更早触发预警并上报的决定,成为了公众与监管机构关注的焦点。
目前,该案例正促使外界对OpenAI乃至整个AI行业的安全协议进行严格审查。讨论围绕AI公司应如何在保护用户隐私、遵守服务条款与履行公共安全责任之间取得平衡,以及是否需要建立更明确、更及时的行为上报准则。


