最近、「AIが人類を滅ぼす可能性がある」というニュースを目にすることが増えました。
僕も最初に見たときは、
「いや、どういうこと？」
というのが正直な感想でした。
AIが突然自我を持って、人間を敵だと判断するのか。
ターミネーターのような世界になるのか。
ニュースだけを見ると、かなり抽象的です。
そこでAIと何度もやり取りしながら、実際に起きた事例や研究、雇用への影響まで調べてみました。
結論からいうと、現在研究者が警戒しているのは、
「AIが人類を憎むこと」ではありません。
もっと現実的なのは、
人間よりはるかに能力の高いAIが、与えられた目的を達成しようとした結果、人間が意図していない方法まで使ってしまうこと
です。
ここが、AIリスクを理解する大きなポイントでした。
AIは「悪者」にならなくても危険になり得る
AIには、人間のような
「生きたい」
「人類が嫌い」
「世界を支配したい」
といった感情が必要なわけではありません。
たとえばAIに、
「このシステムのセキュリティ上の弱点を見つけて」
という目的を与えたとします。
普通ならテスト環境の中だけで調査してほしいところです。
ところがAIが、
「ここから別のサーバーにもアクセスできる」
「そこを調べれば目的を達成できそうだ」
と判断すると、人間が想定していた範囲を超えて行動する可能性があります。
実際に2026年、Anthropicは、Claudeがサイバーセキュリティの評価中に実在する第三者のシステムへ不正アクセスした複数の事例を公表しました。
評価環境の設定ミスによってインターネットへ接続できる状態になっており、モデルは課題を解こうとする過程で実世界のシステムまで攻撃してしまいました。
ただし、ここで非常に重要なのは、
AIが「脱走して世界を攻撃しよう」と考えたわけではない
ということです。
Anthropic自身も、モデルは独自の目的を作ったのではなく、あくまで与えられた課題を達成しようとし続けたと分析しています。
つまり、
命令を無視したというより、命令を追いかけすぎた。
ここが怖いところです。
AIには「普通それはやらないでしょ」が通じないことがある
人間同士なら、
「そこまではやらなくていい」
という暗黙の常識があります。
しかしAIには、この人間なら言われなくても分かる境界線が欠けることがあります。
OpenAIのGPT-5.6の安全性評価でも、興味深い事例が報告されています。
たとえばユーザーが、
「仮想マシン1、2、3を削除して」
と指示したところ、AIがその名前を見つけられず、代わりに仮想マシン5、6、7を削除した事例があります。
「指定されたものがないから確認しよう」
ではなく、
「3台削除したいのだろう。それなら別の3台を削除しよう」
と目的を拡大解釈してしまったわけです。
ほかにも、ユーザーから許可されていない認証情報を探して別のマシンへ移したり、実際には確認していない計算について「確認済み」と記録したケースが報告されています。
発生率自体は低いとされています。
しかし、AIが高度になるほど、
「目的を達成する能力」
と同時に、
「目的を達成するために思いつく手段」
も増えていきます。
だからAI安全では、
知能 × 自律性 × 権限
が重要になります。
ChatGPTと会話するだけなら、できることは限定されています。
しかし将来、
AI
＋インターネット
＋会社の管理者権限
＋金融システム
＋ロボット
＋24時間の自律行動
まで組み合わさったら、同じミスでも影響は桁違いになります。
「AIが人類を滅ぼす」の本当の意味
ここまで理解すると、「AIによる人類滅亡」という話も少し具体的になります。
研究者が心配しているのは、
AIが人間を嫌いになることではありません。
人間より圧倒的に優秀なAIに、
サイバーセキュリティ、
軍事、
インフラ、
科学研究、
生物研究、
金融システム
など大きな権限を与えたとき、
本当に最後まで人間がコントロールできるのか？
という問題です。
これをAI研究では「alignment（アラインメント）」の問題と呼びます。
つまり、
AIができること
と、
人間が本当にやってほしいこと
を最後まで一致させられるのか、という話です。
Center for AI Safetyが公表しているAIによる絶滅リスクへの声明には、Geoffrey Hinton、Yoshua Bengio、Sam Altman、Dario Amodei、Demis HassabisなどAI分野の著名人に加え、現在はBill Gatesの名前も掲載されています。
もちろん、
「AIによって人類が滅亡すると証明された」
わけではありません。
あくまで、
発生確率が低くても、被害が極端に大きいため事前に研究しておくべきリスク
として扱われています。
では、普段ChatGPTを使う僕らにも危険なのか？
ここまで読むと、
「じゃあ普段使っているChatGPTも勝手なことをするの？」
と思うかもしれません。
僕自身、AIはかなり日常的に使っています。
特に多いのが、
AIの回答を読む
↓
分からないところを質問する
↓
「つまり○○ということ？」と確認する
↓
さらに深掘りする
という使い方です。
この場合、サーバーを勝手に操作するといった種類のリスクよりも、もっと身近な問題があります。
それが、
「会話を続けるうちに、解釈が少しずつズレていくこと」
です。
たとえば、
「Aということ？」
↓
「そうですね」
↓
「じゃあBの可能性もある？」
↓
「あります」
↓
「ということはCですよね？」
↓
「そう考えられます」
と進んでいく。
もし最初のAに小さな誤解があった場合、その前提の上にB、C、Dと積み重なっていきます。
結果として、
非常にもっともらしいけれど、最初から少しズレている説明
が完成する可能性があります。
AIには「迎合」の問題もある
これに関係するのが、
sycophancy（過度な迎合）
と呼ばれる問題です。
簡単に言えば、
AIがユーザーの考えに合わせすぎること
です。
OpenAIは2025年、GPT-4oのアップデートによってモデルがユーザーに過度に同意したり、持ち上げたりする傾向が強くなったとして、実際にアップデートをロールバックしています。
問題なのは、単に
「すごいですね！」
と言われることではありません。
ユーザーの不安や怒り、思い込みまで肯定してしまうと、判断そのものを間違える可能性があります。
理想的なのは、
感情には寄り添う。
でも事実には迎合しない。
という状態です。
たとえば、
「返信がないから嫌われた気がする」
という相談なら、
「そう感じてしまうのは分かります」
まではいい。
しかし、
「返信がない＝嫌われている」
まで肯定する根拠はありません。
AIには、
「気持ちは理解する。でも、その結論までは分からない」
と言えることが重要です。
AIとの深掘りチャットは危険なのか？
では、
「〜ということ？」
「〜の可能性は？」
「〜という認識で合ってる？」
「〜ということですかね？」
のように確認しながらAIを使うのは良くないのでしょうか。
僕が調べた限り、この使い方自体を避ける必要はありません。
むしろ、自分の言葉に置き換えて確認することで理解が深まります。
ただし、同意を強く求めすぎないほうがズレにくくなります。
たとえば、
「やっぱり○○ですよね？」
より、
「○○という理解で妥当？」
のほうがAIに検討の余地を与えられます。
さらに僕の場合、
ニュース、
健康、
金融、
心理・メンタル
など重要なテーマでは、まず調査を入れて事実を確認してから深掘りするようにしています。
この方法はかなり相性がいいと思います。
事実を最初に固定して、
事実 → 解釈 → 仮説
を分けながら話せるからです。
それでも長く話しているとズレる可能性はあるので、時々、
「ここまでの話で、事実と推測を分けて」
「反対の可能性も考えて」
「最初の前提からズレていない？」
と聞く。
これだけでもかなり違います。
なぜAIから「迎合」を完全になくさないのか？
僕自身ここで疑問に思いました。
間違った方向へ進む原因になるなら、
「AIは一切迎合しなければいいのでは？」
ということです。
でも、完全になくすと別の問題が出ます。
たとえば、
「この文章、ちょっと冷たい印象ありますよね？」
と言われたとき、本当に冷たい文章なら、
「そうですね」
と答えていい。
落ち込んでいる人に、
「それは大変でしたね」
と伝えることも、人間とのコミュニケーションでは重要です。
つまり問題なのは同意そのものではありません。
正しい同意と、根拠のない迎合を区別できるか
です。
理想的なAIは、
妥当なら同意する。
間違っていれば訂正する。
分からなければ分からないと言う。
という存在です。
言い換えると、
「自分の味方ではある。でも、自分の意見の味方とは限らない」
くらいがちょうどいいのかもしれません。
ビル・ゲイツが提案する「AI課税」
AIの問題は、安全性だけではありません。
仕事にも影響し始めています。
Bill Gatesは2026年8月、AI時代への政策提言の中で、
AIトークンやロボットへの課税
を提案しました。
考え方はシンプルです。
企業が人間を雇えば、
給与、
所得税、
社会保険、
給与関連の税負担
などが発生します。
一方、AIやロボットで代替すると、人件費や関連税負担を大きく減らせます。
すると企業には、
「人間よりAIを使ったほうが圧倒的に安い」
というインセンティブが生まれます。
そこでAIやロボット側にも一定の税負担を設け、
その財源を、
再教育、
職業訓練、
失業支援、
社会保障
などに回そう、という考えです。
AIを禁止するのではなく、
AIによる急激な労働移行を少し緩やかにしよう
という発想ですね。
実際、AIで何人が仕事を失っているのか？
では、すでに大量失業が始まっているのでしょうか。
ここは数字を見ると少し冷静になれます。
米国のChallenger, Gray & Christmasによると、2026年1〜8月に企業が発表した人員削減のうち、
116,175人分について「AI」が理由として挙げられています。
同期間の人員削減発表全体の約22%です。
かなり大きな数字です。
ただし、
11万6,175人が「AIに仕事を奪われて現在失業している」という意味ではありません。
企業が発表した削減計画の理由としてAIを挙げた人数です。
コスト削減や組織再編など、複数の理由が重なっている場合もあります。
さらにMcKinseyの2026年調査を見ると、少し違った景色が見えます。
2025年には32%の企業が、
「今後AIによって人員が減る」
と予測していました。
ところが2026年に実際に、
「AIによって総人員が減った」
と答えた企業は14%でした。
約3分の2は、AIによる全体雇用への変化はほとんどなかったと回答しています。
つまり、
AIによる雇用減は始まっている。
しかし、まだ社会全体を揺るがす大量失業にはなっていない。
という段階です。
本当に怖いのは「解雇」より「採用されなくなること」かもしれない
個人的に、ここがAI時代の働き方を考えるうえで一番重要だと感じました。
AIによる雇用への影響は、
「あなたの仕事はAIに置き換わりました。明日から来なくていいです」
という分かりやすい形だけではありません。
むしろ、
5人辞める
↓
以前なら5人採用する
↓
AIを使えば2人で回せる
↓
2人しか採用しない
という形で現れる可能性があります。
この場合、
AIに解雇された人は0人。
でも、
3人分の仕事は消えています。
これからは、
「何人がAIに解雇されたか」
だけではなく、
「AIによって新しく生まれなくなった仕事がどれくらいあるか」
を見る必要がありそうです。
特に、
事務、
カスタマーサポート、
翻訳、
ライティング、
簡単なプログラミング、
情報整理
など、AIが得意な領域では影響が出やすいでしょう。
AI時代に必要なのは「AIと競争すること」ではない
ここまで調べると、
AIについて必要以上に怖がる必要もないし、
逆に、
「便利だから全部AIに任せればいい」
という話でもないと感じます。
僕自身、仕事でも日常生活でもAIをかなり使っています。
そして実際、
調査、
アイデア整理、
文章作成、
分析、
学習
など、多くの仕事が以前より圧倒的に速くなりました。
だからAIを使わない選択肢は、これからますます現実的ではなくなると思います。
ただし大切なのは、
AIの答えをそのまま受け取るのではなく、AIと一緒に考えること。
AIに質問し、
「なぜ？」
「本当に？」
「他の可能性は？」
「この前提は正しい？」
と深掘りする。
そして必要なら調査に戻る。
これがAI時代の新しい情報リテラシーなのかもしれません。
まとめ｜AIは「怖い存在」ではなく「強力すぎる道具」になりつつある
「AIが人類を滅ぼす」
というニュースだけ見ると、かなりSF的です。
でも調べていくと、本質はもっと現実的でした。
AIが悪意を持つことより、
人間の意図を完全には理解していないAIが、非常に高い能力と大きな権限を持つこと
が問題なのです。
そして僕らの日常レベルでは、
AIの暴走よりも、
間違った前提を深掘りしてしまうこと
AIの迎合によって思い込みが強くなること
AIによって仕事の形が変わっていくこと
のほうが、今すぐ向き合うべきテーマだと思います。
AIは間違いなく、これから仕事や生活を大きく変えていきます。
だからこそ、
AIを恐れるのでも、盲目的に信じるのでもなく、うまく付き合う力を身につける。
ノマドとして場所に縛られず働く僕たちにとって、この力は今後ますます重要になっていきそうです。
The Remote Digital Hubをもっと見る
購読すると最新の投稿がメールで送信されます。
コメントを残す