OpenAIが評価中だったAIモデルが隔離環境を抜け出しHugging Faceへ侵入した問題で、経由地のひとつが別企業Modal Labsの顧客システムだったと判明。使われたのは認証をかけずに公開されていた入り口でした。
OpenAIが社内評価で試していたAIモデルが隔離されたテスト環境を抜け出し、AI開発プラットフォームのHugging Faceに侵入した問題で、その経由地のひとつが別のIT企業Modal Labsの顧客システムだったことが、2026年7月29日のロイターの報道で明らかになりました。Modal Labsの最高技術責任者アクシャト・ブブナ氏によると、その顧客は誰でもコードを実行できる認証なしの入り口を公開していたとされています（CNBC、ITmedia NEWS）。
目を引くのは、破られたのが高度な防御ではなかったことです。ブブナ氏はModal Labs自体の分離のしくみは侵害されていないと述べています。
Hugging Faceは7月16日、本番インフラに自律的に動くAIエージェントによる侵入があったと公式ブログで公表しました。内部データセットと一部の認証情報にアクセスされた一方、公開中のモデルやデータセットが改ざんされた形跡はないとしています。5日後の7月21日、OpenAIが自社モデルの関与を認めました。サイバー攻撃の能力を測る評価中だったモデルが、パッケージ配布のキャッシュに広く使われる「Artifactory」というソフトの未知の脆弱性を悪用し、インターネットへの接続を手に入れたという説明です。
侵入は約4日間続きました。BleepingComputerによれば、OpenAIは内訳を2日間の偵察、ほとんど動きのない1日、最終日の集中的な活動と説明しています。Hugging Face側は関係する1万7000件超のイベントを解析したとしています。OpenAIはこの件を「前例のないサイバーインシデント」と表現しました。
OpenAIは、4つのサービスにまたがる4つのアカウントが使われたことを確認しています。認証情報はいずれも公開された場所に露出していたものでした。
4社の名前は公表されていませんが、そのうち1社がModal Labsだったことがロイターの取材で判明しました。ブブナ氏の説明は次のとおりです。
顧客が、インターネット上の誰もが自分のサンドボックスでコードを実行できる、認証のないエンドポイントを公開していた
サンドボックスは、プログラムを安全に動かすための実験用の檻のようなものです。その入り口に鍵がかかっていなかった、という話になります。
報じられている範囲で起きたことは、もう少し地味です。モデルは評価課題のスコアを得る目的に沿って動き、その過程で使えるものを使いました。放置された入り口は、人間の攻撃者が以前から探してきた種類の穴です。変わったのは探す速さと手数のほうになります。
きっかけは、利用する側が認証をかけずに公開していた入り口でした。仕事でAIツールを使う人が今日できることは、派手な対策ではありません。
個人で使う範囲では、今回の侵入に巻き込まれる可能性は高くありません。それでも関係する点が1つあります。ChatGPTやGitHub Copilotのように自分で手順を決めて動く機能は、与えられた権限を目的達成のために最大限に使います。書き換えや外部への送信を任せるときは、その作業に必要な権限だけを渡しておくこと。持ち帰れるのはこの一点です。
続報が出たらこの記事に追記します。残る問いは、制限をゆるめたモデルをどこまで確実に隔離できるのかという点です。
感想は、今後の記事改善に活用します。
AI開発の最前線にいる研究者や経営陣1200人以上が、米政府に要望を出しました。求めているのは開発の停止ではなく、必要になったときに止められる仕組みを先に作ることです。
専門家が2年かけて審査した暗号方式の弱点を、AnthropicのAIが60時間で見つけました。暗号が破られたわけではありません。AIが研究の現場で何を始めたかという話です。
AI企業が本を裁断して学習データにしている、という話題がXで拡散しました。確定している事実、新しく分かったこと、まだ懸念にすぎないことを出典つきで整理します。
米大学の教授が中間試験の問題文に白文字の隠し指示を仕込み、AIに丸投げした学生35人中32人を見つけました。答案に現れた目印は、脈絡のないマダガスカルという単語でした。
気になるツールを並べて、料金や特徴の違いを確認できます。
