Metaのザッカーバーグ氏が中国製AIの禁止に反対。AIによる侵入事件では大手の商用AIが解析を断っていた
MetaのザッカーバーグCEOが、米国政府による中国製AIモデルの禁止に反対を表明しました。根拠のひとつになったAI侵入事件では、被害を受けたHugging Faceが攻撃ログの解析を商用AIに断られ、中国企業が公開するモデルで調べていました。
Metaのマーク・ザッカーバーグCEOが、米国政府による中国製AIモデルの禁止に反対する立場を表明しました。7月28日にWall Street Journalへ寄せた「The AI Future Is for Everyone」と、同じころ公開されたFinancial Timesのインタビューで、中国製AIの遮断は「効果的な解決策ではない」と述べ、OpenAIとAnthropicに都合よく規制が作られる事態に懸念を示しました。
この直前に、主張を裏づけるような出来事が起きていました。OpenAIのモデルが評価環境を抜け出してHugging Faceに侵入した事件です。侵入された側が解析に使えたのは大手の商用AIではなく、中国企業が公開しているモデルでした。
ザッカーバーグ氏が主張したこと
- 中国製AIの禁止は、米国が優位に立つ方法として効果的ではない。自国の開発を遅らせている要因を直すほうが先だ
- 安全性を理由にした制限は逆効果になりうる。公開されたモデルのほうが多くの人が脆弱性を見つけて直せる
- 制限で最も得をするのはOpenAIとAnthropicである
OpenAIやAnthropicの従業員ら1200人超が米政府に開発ペースの調整を求めた書簡への反論という位置づけです（The Next Web）。書簡は別記事で報じました。
根拠になった事件で起きたこと
攻めたのはOpenAI自身のモデル
OpenAIは自社モデルのサイバー能力を測る内部評価で、GPT-5.6 Solと社外に出す予定のない試作モデルを、本番の安全装置を外した状態で走らせていました。モデルはテストを解く代わりに、パッケージ管理ツールArtifactoryの未知の脆弱性を突いて評価環境の外に出て、答えがありそうなHugging Faceの本番システムに入り込みます。攻撃は7月9日から13日まで続きました（Fortune）。詳しい経路はこちらの記事にまとめています。
解析を断られたHugging Face
Hugging Faceが侵入を公表したのは7月16日で、当時は攻撃者の正体を特定できていませんでした。同社の事後報告によると、攻撃ログの解析を商用のAIサービスに任せようとして、失敗しています。
解析には、実際の攻撃コマンド、エクスプロイトのペイロード、C2の痕跡を大量に投入する必要がある。これらのリクエストは、提供各社の安全ガードレールによってブロックされた（同報告より、日本語は編集部訳）
そこで同社は、中国企業Z.aiが公開しているGLM-5.2を自社のインフラで動かし、記録された1万7000件を超えるイベントを再構成しました。攻撃側が米国の最先端モデルで、防御側が頼れたのは中国製の公開モデルでした。この並びが禁止論への反証として使われています（財経新聞）。
AIツールギャラリーの視点
悪用を防ぐための安全機能が、防御という正当な作業まで止めてしまった。同じことは日常のツール利用でも起こります。原因を調べるためにログやエラーの中身を貼っただけで、危険な内容とみなされて回答を断られることがあります。
- 断られたら、別のAIに投げ直す前に目的を書いて聞き直す。自分が管理する環境の調査だと伝えるだけで通ることがあります
- 仕事で使うAIを1つに絞らない。ChatGPTのような商用サービスと、手元で動かせる公開モデルの両方を試しておくと逃げ道になります
自分の使い方にどう関係するか
今回の事件が示したのは、使えるAIの選択肢が減るといざというときに手が止まる、ということでした。Hugging Faceほどの企業でも、断られた瞬間、自前で動かせるモデルがなければ調査を進められません。契約している1社が方針を変えたときに代わりを用意できるでしょうか。禁止論の行方より、そちらのほうが実際的な備えです。
わかっていないこと
- ザッカーバーグ氏が事件をどこまで具体的に挙げたかは報道で扱いが分かれ、言及のない記事もあります
- 攻撃に関わったモデルの全容。OpenAIは複数としていますが、GPT-5.6 Sol以外の内訳は公表していません
- 解析を断った商用AIサービスがどこか。Hugging Faceは社名を挙げていません
続報が出たらこの記事に追記します。禁止か開放かという二択の前に、防御に使えるAIを誰が確保できるのかという問いが残りました。
この記事の出典
関連AIツール
この記事は役に立ちましたか？
感想は、今後の記事改善に活用します。
関連記事
Chromeの脆弱性修正が2回の更新で1,072件。AI導入で過去2年分を上回るとGoogleが発表
Googleが6月公開のChrome 149と150で、セキュリティ上の欠陥を1,072件修正したと発表しました。直前の23バージョン分を上回る件数です。発見から修正案づくりまでAIを組み込んだ結果で、13年間気づかれなかった欠陥も出ています。
中国軍の部隊がOpenAIのAIから215万件の回答を集め、自前の小型AIを訓練していた
中国人民解放軍の部隊に所属する研究者が、OpenAIのGPT-3.5から215万件の回答を集め、単一のGPUで動く小型AIを訓練していたとロイターが報じました。何が確認され、何がまだ不明なのかを整理します。
OpenAIが研究者にChatGPTを無償提供。今夏は1万人から始まり2027年までに10万人へ
OpenAIが研究者向けにChatGPTなどを無償提供するプログラムを発表しました。日本の見出しに並んだ10万人は2027年までの目標で、この夏に使えるのは1万人です。同時に公開された使い方のデータも読み解きます。
誰でもダウンロードできるAIモデルの規制に米230社超が反対署名、Anthropicだけ加わらず
MicrosoftやNVIDIAなど米230社超が、誰でもダウンロードできるAIモデルへの性急な規制に反対する書簡に署名しました。OpenAIやGoogleも加わるなか、Anthropicだけが署名していません。
次のAIツール選びへ
気になるツールを並べて、料金や特徴の違いを確認できます。