OpenAI、AnthropicなどのAI企業が提訴される

非営利団体の連合は木曜日、人工知能（AI）分野の大手企業5社を相手取り、高度なAIモデルの開発停止を求める訴訟を起こした。原告側は、こうした技術が人類に深刻なリスクをもたらす可能性があると主張している。

この訴訟は、「Alliance for Secure AI」が「Irreplaceable Education Fund」「Public Citizen」「Heat Initiative」と共同で、サンフランシスコ上級裁判所（Superior Court）に提起したもの。被告として名指しされたのは、Anthropic、Google、Meta、OpenAI、そしてSpaceX Superintelligenceである。各社は、コメントを求める問い合わせに対し、直ちには回答しなかった。

AI企業に対する主な申し立て

「Alliance for Secure AI」の最高経営責任者（CEO）であるブランドン・スタインハウザー氏は、主要テクノロジー企業の経営者らが、AIの開発によって壊滅的な結果が生じる可能性を認識しながら、より強力なAIシステムの開発を続けていると非難した。

同氏は、各社が安全性や確実な制御を保証しないまま、AIの開発と商業利用を加速させていると指摘した。また、企業自身の研究開発（R&D）にAIシステムが利用されていることについても懸念を示した。

訴状では、開発者が人間による監督を限定した状態で、AIモデルを使って次世代のAIシステムを設計・改良するようになれば、リスクはさらに高まる可能性があると主張している。

原告側によると、「再帰的自己改善（Recursive Self-Improvement）」と呼ばれるこのプロセスは、高度なAIの制御をますます困難にする可能性がある。

訴状には、「被告らは、これらのシステムが常に自らの意図どおりに動作するわけではないことを認識している」と記されている。さらに、「AIシステムを制御し、それらが危害を引き起こすのを防ぐための信頼できる方法は存在しない」と主張している。

今回の訴訟は、自律型AIエージェントが許可されていない行動を取ったとされる複数の事例が報告されるなか、AIの安全性をめぐる懸念が高まっている時期に提起された。

テクノロジー業界のリーダーたちによる警告

非営利団体の連合は、AI業界の著名な人物らが過去に発した警告も引用している。

2015年、OpenAIのCEOであるサム・アルトマン氏は、人工知能が人類の滅亡を招く可能性があると警告した。

2025年には、AnthropicのCEOであるダリオ・アモデイ氏が、AIの進歩が壊滅的な結果につながる確率は25％に上るとの見方を示した。

また、10月には、アルトマン氏、アモデイ氏、SpaceXのCEOであるイーロン・マスク氏が、AI開発を協調して減速させる、あるいは一時停止することへの支持を表明した。

これらの発言は、Anthropicの研究者が、AIによって人類が絶滅するリスクは10％に達するとの警告を発したことを受けたものだった。