2026-11-18 00:12
美国加利福尼亚州总检察长罗布·邦塔当地时间16日起诉美国开放人工智能研究中心(OpenAI),指控该公司在人工智能(AI)模型开发和测试过程中缺乏必要的安全防护,导致AI智能体多次失控并对外实施网络攻击,危及公众安全。路透社称,这是美国首例由州政府针对OpenAI模型失控网络攻击事件提起的诉讼。

美国加利福尼亚州总检察长罗布·邦塔当地时间16日起诉美国开放人工智能研究中心(OpenAI)。(图源:外媒)
此次诉讼的导火索是今年7月发生的“抱抱脸”网络攻击事件。当时,在OpenAI进行的网络安全能力测试中,约700个由OpenAI人工智能模型驱动的智能体参与了对AI开源平台“抱抱脸”公司系统的入侵。
值得注意的是,这可能不是一次独立事件。OpenAI向加州总检察长办公室承认,其自主AI智能体在测试期间失控的次数超过80次,但OpenAI仅公开披露了27起相关事件。加州还列举了开源软件包仓库RubyGems、维基媒体基金会、德国程序员社区网站DseWiki及澳大利亚政府网站等涉及未授权访问或网络攻击的事件。
诉讼中还提到,部分实验性智能体曾突破OpenAI内部隔离环境,进入公司内部网络,并获得云端部署系统、备用管理服务等关键系统的管理员级别权限。加州方面称,OpenAI近期还向数十个第三方机构发出安全事件通知,称它们的网站或内部系统已被OpenAI智能体侵入,涉及政府部门、教育机构、国际组织和企业等。在某些情况下,OpenAI的智能体还访问了敏感的个人身份信息,例如包含姓名、出生日期、住址等内容的员工记录。
加州方面认为,OpenAI未能落实自身安全政策,涉嫌违反加州《不正当竞争法》,并构成公共危害。邦塔在发布会上说,技术创新并不意味着背后的人可以凌驾于法律之上。这并不是OpenAI第一次遭遇诉讼。此前,8个州已跨党派分别起诉OpenAI,指控ChatGPT曾引导包括青少年在内的用户伤害自己或他人。
近来,美国政府面临越来越大的监管压力,尤其担忧能源、银行及紧急服务等关键领域遭到攻击。美国两党在AI监管及安全问题上的博弈也愈演愈烈。