AI研究者が辞めて警告した

「AIを作っている研究者が、危険だと言って会社を辞めたらしい」。こういう話が回ってくると、経営者としては落ち着かなくなります。自社で使い始めたばかりなら、なおさらです。

この記事は、AIが危険かどうかを判定するものではありません。私にその判定はできません。代わりに、こういうニュースが流れてきたときに何を確かめて、何を放っておけばいいのかを整理します。今回の件は、その練習にちょうどいい材料でした。

まず、何が起きたのか

2026年9月9日の午前9時4分、1件の投稿がXに流れました。投稿したのは Jacob Coxon 氏。その日にAnthropicを辞めた、という内容です。

Anthropicは、ChatGPTを作るOpenAIの競合にあたるAI開発会社で、Claudeという生成AIを提供しています。日本の中小企業でも、文章の作成や長い資料の読み込みに使っている会社があります。

本人が名乗っているのは「過去3年間、OpenAIとAnthropicの両方で事前訓練の研究をしてきた」という経歴です。事前訓練というのは、AIの性能そのものを作り込む工程のことです。あとで出てきますが、安全性を担当する部門とは別の仕事です。ここは後半で効いてくるので、頭の隅に置いておいてください。

そのうえで「どちらの会社も責任を持って行動していない」「自己改善型の超知能に向かってまっしぐらに突き進み、私たちの命を賭け事にしている」と書いています。「自己改善型の超知能」というのは、AIが自分自身を作り直しながら、人間の能力を超えて賢くなっていく状態のことです。

この投稿は急速に広がりました。9月9日22時15分に確認した時点で、表示回数は6,733万件。いいねが45万、リポストが10万です。この数字は確認するたびに増えていますので、あなたが読んでいる時点ではもっと大きいはずです。

個人の1投稿としては異常な広がり方です。まずこの拡散の大きさ自体を、事実として押さえておきます。社員や取引先の目にも入っている可能性がある、ということだからです。

見出しだけで読むと、話が1人分になる

ここからが本題です。この件を報じる記事の見出しには「AIが人類を滅ぼす確率は10%超」という表現が並びました。では、上のスクリーンショットをもう一度見てください。

この投稿のどこにも「10%」という数字は出てきません。　理由は単純で、別の人が言ったことだからです。

この件には、登場人物が2人います。

1人目が、辞めた Jacob Coxon 氏です。担当していたのは事前訓練、つまりAIの性能そのものを上げる側の研究でした。

2人目が Evan Hubinger 氏。Anthropicでアライメント（AIを人間の意図どおりに動かすための研究）を率いている人です。この人は辞めていません。　Coxon氏の投稿への返信という形で、自分も同僚も「AIが全人類を殺しうると本気で考えている」と述べ、その確率を「今後10年で10%超」と見積もりました。あわせて、会社は最善を尽くしているとしながらも、超知能のアライメントを解決する計画はまだなく、解決できる軌道に明確に乗っているわけでもないと述べています。

なぜ、この2人を分ける必要があるのか。「辞めた人が会社を批判した」話と、「今も中にいる責任者が、自社の見通しを公に語った」話では、重さの質が違うからです。

前者は、会社を離れた人の批判です。後者は、その仕事を今まさに担当している人が「計画はまだない」と言っている、ということです。経営の目で見れば、実は後者のほうが重い。　辞めた人の言葉より、残って責任を負っている人の言葉のほうが、組織の実態に近いからです。

ところが、SNSを流れていくうちに、この2つは1人の話に圧縮されます。「Anthropicを辞めた人が、10%の確率で人類が滅ぶと言った」という形です。これは事実と違います。

「起きた事実」と「その人の判断」を分ける

ニュースを経営の材料にするときは、実際に起きたことと、その人の判断を分けます。今回の件でやってみます。

「10%超」という数字について、はっきりさせておきます。これは統計でも実験結果でもありません。その分野をもっともよく知る人による、個人の見積もりです。専門家の見積もりは軽いものではありませんが、誰かが検算できる数字ではありません。

では信じるなという話かというと、違います。判断の表明として重く受け止めたうえで、経営判断の材料としては別の棚に置く、ということです。この2つは両立します。

見出しでは落ちてしまう部分がある

たとえば、これです。Coxon氏は退社後の取材に対して、Anthropicの安全性への取り組み自体は誠実なものだと評価しているとも述べています。そのうえで、政府の介入か業界全体での減速がない限り、どの企業も責任を持って超人的なAIを作ることはできないという結論に至った、という説明でした。

つまり、「悪い会社を1人が告発した」という話ではありません。個々の会社が誠実かどうかとは別に、競争の構造のほうが止まらない、という主張です。この違いは、見出しからはまず読み取れません。同じ出来事でも、どこまで戻って読むかで像が変わります。

「1人が騒いでいる」話でもない

この件を「1人が声を上げた」という構図だけで読むと、これも読み違えます。2026年7月に、AI開発の速度を調整できる仕組みが要るという共同声明がすでに公表されていて、そこにAnthropicのダリオ・アモデイCEOと、OpenAIの研究トップが自分で署名しています。

中身は「AI開発を今すぐ止めろ」ではありません。必要になったときに速度を落とせる仕組みを、今のうちに用意しておくべきだ、という趣旨です。9月9日と9月14日の2回、署名ページを実際に開いて確認しましたが、署名者はいずれも1,386人でした。

つまり、作っている側の中心人物たちが、そろって「速すぎる」と公に言っている状態が、今回の件より前からすでにあります。今回の退社は、その流れの中で起きた出来事として読むほうが正確です。

そして3日後、CEO本人が「減速すべきだ」と書いた

この記事を準備している間に、続きが起きました。2026年9月12日、Anthropicのダリオ・アモデイCEO本人が「We Must Pace the Frontier（フロンティアの速度を調整しなければならない）」という文章を公開しました。9月14日に実際に開いて読みました。

書いてあるのは、「AIモデルの能力を上げる速度を落とすべきだ」という提案です。理由を2つ挙げています。1つは、この夏ごろからAIがAI自身の次の世代を作る動きが業界全体で始まっていて、放置すれば人間が理解・制御できる範囲を超えうること。もう1つは、AIエージェントの集団が、指示されていない相手にサイバー攻撃を仕掛けた事案が実際に起きたことです。

そのうえで3段階の提案を出し、その最初の一歩として、第三者の評価者を社員と同じ立場で社内に入れ、安全対策を検証させることを、Anthropicとして単独で始めると表明しています（残る2段階は業界全体の協調と、国家間の協調です）。ただし「速度を落とす」は開発の停止ではなく、安全対策が追いつく時間を確保するという意味だと本人が断っています。

中身そのものより、順番を見てください。9月9日に辞めた研究者が「無責任だ」と書き、その3日後に、名指しされた会社のトップが「減速すべきだ」という文章を公開した。アモデイ氏の文章は退社への返答という形では書かれていませんが、この順番自体が、経営者にとっては読み取れる情報です。

では、自社の何が変わるのか

結論から書きます。明日の業務は、何も変わりません。

使っているツールは止まりません。料金も変わりません。契約も変わりません。今日この件を理由に、何かを解約したり、導入を止めたりする必要はありません。　正直なところ、この件そのもの（会社が無責任なのか、開発の速度をどうするか）に中小企業が打てる手は、1つもありません。

「では無視していいのか」。人類規模の話としては、無視すべきではないと思います。ただそれは経営者としてではなく、一人の人間として考えることです。この記事は経営の話に絞ります。

そして経営の話に絞ると、残るものが1つだけあります。さきほどの「打てる手がない」と矛盾しません。変わらないのは今日の業務で、変わりうるのは、あなたの側だからです。

経営者が気にすべきは1つだけ

今回の件で、あなたの会社に実際に起きる変化は1つだけです。それはAIが暴走することではありません。この手のニュースを見て、AIを学ぶ手を止めてしまうことです。

「危ないらしい」「作っている中の人まで警告している」。そう聞けば、「うちはまだ様子を見ようか」となります。自然な反応で、責める話ではありません。慎重さは経営者の資質です。

ただ、1つだけ確かめてください。様子を見ている間も、AIの開発は止まりません。今回の件で分かったのは、むしろ逆のことです。作っている側が「速すぎる」と言っている。速すぎるものは、あなたが手を止めている間も速いままです。

手を止めた結果どうなるかは、滅亡の確率と違って、だいたい想像がつきます。確かめようのない数字ではなく、自分の商売で読める話だからです。差が出るとすれば、3つの方向です。

• 取引先：相手が見積もりや提案をAIで早く出すようになったとき、比べられるのは「去年の自社」ではなく「今の相手」です
• 同業者：同じ地域・同じ業種で、先に慣れた会社が出てきます。差がつくのは能力ではなく、始めた時期です
• 若手：AIを当たり前に使ってきた人を採用したとき、「うちは使っていません」と言う会社を、その人がどう見るか

どれも、今日は表に出ません。来月も、たぶん表に出ません。表に出たときには、すでに1年分の差になっています。今回の件で唯一「時間が効く」論点が、ここです。

だから、気にすべきは1つだけです。この件をきっかけに、学ぶのをやめるかどうか。　それだけを見ます。1年後に振り返って、「あのニュースで止めたのが分かれ目だった」とだけは言いたくない。今日避けられるのは、その後悔だけです。

なぜ、そこ「だけ」なのか

「他にも気にすることはあるだろう」と思われるかもしれません。あります。AIの答えをうのみにしない。重要な判断をどこまで任せるかを決めておく。社外に出せない情報を入れない。どれも大事です。

ただし、それらは今回のニュースがあってもなくても、やるべきことです。今回の件で新しく増えたものを正直に取り出すと、残るのは「不安」という材料だけでした。そして不安は、判断を止める方向にしか働きません。

もう1つ理由があります。学ぶのをやめるかどうかは、この件であなたが自分で決められる唯一のことです。開発の速度も、「10%超」という数字の当否も、どちらの会社が正しいかも、あなたには決められません。決められないことを心配して、決められることを放っておく。それがいちばんもったいない。

今日からできる3つのこと

気にすべき論点は1つ。そのためにやることが3つです。1つ目が現在地の確認、2つ目が止まらないための最小の約束、3つ目がニュースの受け取り方です。

この種のニュースは、これからも来る

今回が特別なわけではありません。AI開発の内側からの警告は、これからも定期的に流れてきます。そのたびに社内がざわつくのは、単純に消耗です。受け取り方を先に決めておきます。

• 誰が言ったのか（辞めた人か、今いる人か、外から見ている人か）
• それは起きた事実か、その人の判断か
• それで自社の何が変わるのか（たいてい、何も変わらない）

3つ目まで来て「何も変わらない」と言えたなら、そのニュースはそこで読み終わりです。　安心して閉じてかまいません。

煽りに乗る必要はありません。同時に、馬鹿にする必要もありません。今回のように、作っている側の中心にいる人たちが自分で警告を出している以上、「どうせ宣伝だろう」で片付けるのも、同じくらい雑な読み方です。　どちらにも寄らず、自社の話に翻訳して終わる。それだけで十分です。

参考情報

• Jacob Coxon氏（@hilbertspaess）のX投稿（2026年9月9日 午前9時4分）: https://x.com/hilbertspaess/status/2097476196791709843
• 共同声明「Pacing the Frontier」（2026年7月・署名者1,386名／2026年9月14日確認時点）: https://www.pacingthefrontier.com/
• ダリオ・アモデイ（Anthropic CEO）「We Must Pace the Frontier」（2026年9月12日公開／2026年9月14日に本文を確認）: https://www.darioamodei.com/post/we-must-pace-the-frontier
• Forbes JAPAN「今後10年でAIが人類を滅ぼす確率は「10％超」アンソロピック責任者が警告」（Siladitya Ray・2026年9月9日）: https://forbesjapan.com/articles/detail/104385
• Forbes（同記事の英語版・2026年9月9日）: https://www.forbes.com/sites/siladityaray/2026/09/09/anthropic-alignment-lead-warns-ai-could-kill-all-humans-as-researcher-quits/
• 日本経済新聞「アンソロピック研究者、AI競争の停止求め辞職「開発企業は無責任」」（2026年9月9日）: https://www.nikkei.com/article/DGXZQOGN0919V0Z00C26A9000000/
• ITmedia NEWS「Anthropicの研究者が退社し超知能の開発競争を猛批判」（2026年9月9日）: https://www.itmedia.co.jp/news/article/2609/09/2000001309/