AI開発の最前線にいる研究者や経営陣1200人以上が、米政府に要望を出しました。求めているのは開発の停止ではなく、必要になったときに止められる仕組みを先に作ることです。
AI開発の最前線にいる研究者や経営陣が1,200人以上そろって、米国政府に要望を出しました。7月28日に公開された「Pacing the Frontier」という公開書簡で、署名者には Anthropic の CEO ダリオ・アモデイ氏、OpenAI のチーフサイエンティスト ヤクブ・パチョツキ氏、Google DeepMind 共同創業者のシェーン・レッグ氏らが名を連ねています。OpenAIとAnthropicは会社としても数時間内に支持を表明しました。
作っている側が政府に何かを求めるとき、ふつうは規制を緩めてほしいという話になります。今回は逆でした。
ここは誤解されやすいところです。書簡が求めているのは、AIがAI自身の開発を設計する段階（自動化されたAI研究開発）に入ったときに、そのペースを意図的に調整できる技術とルールを国際的に整備することです。開発をいま止めろという要求ではありません。
言い換えると、ブレーキそのものを踏めと言っているのではなく、踏みたくなったときに踏めるブレーキを先に作っておいてほしいという要望です。作っている当事者が「今のうちに」と言っている点が、この書簡の性格をよく表しています。
署名は個人としてのものですが、匿名ではありません。会社を代表する立場の人が実名で並んでいます。
署名者数は公開後も増え続けており、報道では1,134人から1,293人と幅があります。本記事の確認時点では1,293人でした。
この4日前、7月24日には別の書簡が出ています。MicrosoftとNVIDIAが主導し、公開されたモデルへの規制に反対する内容で、130社以上が署名しました。Anthropicはこちらには参加していません。
同じ週に、規制の枠組みを求める書簡と、規制に反対する書簡が並んで出た。AI業界の内部で方向性が割れていることが、そのまま見えるかたちになっています。
この動きの直前に、OpenAIの未公開のテスト用エージェントが隔離環境を抜け出し、Hugging Face のインフラに侵入する事件が発覚していました。二次被害としてModal Labsにも影響が及び、サム・アルトマン氏自身が重大なセキュリティインシデントだと認めています。
なお、アルトマン氏が7月29日に米上院議員らと個別に面会したという報道もありますが、こちらは書簡とは別の動きです。共通のきっかけはありますが、1,200人の公開書簡と、CEOによる議会説明は分けて考える必要があります。
すぐに何かが変わるわけではありません。書簡は政府への要望で、法律や規制になったわけでもありません。政府側の反応も、検討しているという段階から先には進んでいません。
ただ、この書簡はAIツールがこれから何を売りにしていくかの予告として読めます。「速い」「賢い」の次に、止められる・監視できる・記録が残るといった性質が価値として扱われるようになる。開発の当事者がそこに国のお金と枠組みを求めたのは、その方向に業界が動いているサインです。ツールを選ぶときに安全性の設計を見る目は、これから効いてくると思います。
AIツールギャラリーの視点: 署名者の所属を見ると、当サイト掲載ツールの開発元が並んでいます。Claudeを提供するAnthropicは経営陣3人が署名し、ChatGPTのOpenAIはチーフサイエンティストが署名しました。日常的に使うツールの、その裏にいる人たちの立場表明として読むと近い話になります。
署名者数は公開後も増えるため、本記事は確認時点の数字を記載しています。アルトマン氏本人が署名しているかは確認できていません。政府側の制度的な対応は、検討段階を超える情報が本記事の時点では確認できていません。続報が出た場合はこの記事に追記します。
感想は、今後の記事改善に活用します。
専門家が2年かけて審査した暗号方式の弱点を、AnthropicのAIが60時間で見つけました。暗号が破られたわけではありません。AIが研究の現場で何を始めたかという話です。
AI企業が本を裁断して学習データにしている、という話題がXで拡散しました。確定している事実、新しく分かったこと、まだ懸念にすぎないことを出典つきで整理します。
米大学の教授が中間試験の問題文に白文字の隠し指示を仕込み、AIに丸投げした学生35人中32人を見つけました。答案に現れた目印は、脈絡のないマダガスカルという単語でした。
AIツールギャラリーがSkywork公式アンバサダーに就任しました。Felo・Gensparkに続く3社目のパートナーシップです。なぜ異なるAIツールベンダーが同じメディアを選ぶのか、600種以上を検証する第三者メディアの裏側を代表の山原が語ります。
気になるツールを並べて、料金や特徴の違いを確認できます。
