AIの暴走は「AI憲法」で防ぐことができるか～～人間社会とAIが融合していく未来を考える（４）　佐々木俊尚の未来地図レポート　Vol.907

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 佐々木俊尚の未来地図レポート　　　　　2026.5.4　Vol.907 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ http://www.pressa.jp/ 【今週のコンテンツ】 特集１ AIの暴走は「AI憲法」で防ぐことができるか 〜〜人間社会とAIが融合していく未来を考える（４） 特集２ わたしが濫読してるさまざまなKindle本を紹介 未来地図キュレーション 佐々木俊尚からひとこと ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ ■ 特集１ AIの暴走は「AI憲法」で防ぐことができるか 〜〜人間社会とAIが融合していく未来を考える（４） ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ アンソロピックが開発した最新のAI、Claude Mythos（クロードミトス）の脅威について、わたしが出演した先日のアベマプライムでも議論になりました。平将明前デジタル大臣、AIセーフティ・インスティテュート所長の村上明子さんがゲストでした。以下に動画があります。 ★キケン過ぎて即封印...最強AI「ミュトス」その脅威は? https://abema.go.link/essyL アンソロピックは、AI業界の中でもかなり倫理的な企業理念を持っているとされています。たとえば同社は昨年夏、アメリカの国防総省にクロードを提供する契約を締結しました。契約には米国人に対する大規模監視と完全自律型兵器は利用外とする条項が含まれていたのですが、今年2月に始まったイランへの攻撃で、国防総省がこれらの制限の解除をアンソロピックに要求。しかし同社が拒否したためトランプ大統領が怒り、すべての連邦政府機関が同社の技術を使わないように命じる措置をとっています。 そういうアンソロピック社ですから、クロード・ミトスの威力を悪用するようなことはないだろうという安心感は（とりあえずは）あると言えるでしょう。しかしアベマプライムでの議論にもでてきたのですが、これだけAIの技術開発が猛烈なスピードになっていることを考えれば、遅かれ早かれアンソロピック以外からもクロード・ミトスと同等の能力を持つAIが出てくるのは間違いありません。 しかもAI分野では、アンソロピックやOpenAI、グーグルといった米国ビッグテック勢だけでなく中国も猛烈に追い上げています。中国のディープシークが小さなコンピュータパワーでビッグテック並みの能力のAIを発表し業界を驚かせたのは有名ですが、それ以外にもアリババなど大手テック企業が開発を進めています。AI関連の論文数ではアメリカを抜いているという報道も出ているようです。仮に中国でクロード・ミトスと同等の実力を持つAIが誕生すれば、そこから生じる安全保障的な危機は非常に大きなものになるでしょう。 いまやAIは核兵器と同じレベルのリスクになりつつあるということです。さらにもうひとつの論点として、AI自身がどこまで倫理を持ちうるのかという議論もあります。 ★The Adolescence of Technology https://www.darioamodei.com/essay/the-adolescence-of-technology 前号でも紹介したアンソロピックCEO、ダリオ・アモデイのブログ記事「テクノロジーの思春期」は、AIが人間的な倫理に反する言動に出る可能性についても論じています。引用しましょう。 「AIは膨大な量のテキストデータを学習しますが、その中にはAIが人類に反旗を翻す内容のSF作品も数多く含まれている。これが意図せずにAI自身の行動に関する期待値を形成する要因になり、結果としてAIが人類に対して反乱を起こすような事態を招く可能性はある」 「あるいは、AIが道徳に関する概念を極端に解釈する可能性がある。たとえば、人間が動物を食べたり特定の種を絶滅に追いやったりしているという理由で、人類を根絶することが正当化されると考えるかもしれない。またそのようなAIによる極端な解釈が、奇妙な結論を導き出す可能性もある。たとえば自分たちがテレビゲームをプレイしていると考え、そのゲームの目的は他すべてのプレイヤー（すなわち人類）を駆逐することだと結論づけるかもしれない」 「それともAIが学習する過程で、精神病質、妄想性障害、暴力的傾向、情緒不安定などと診断されるような人格特性が形成され、それが発現した場合、特に非常に強力なシステムにおいては、人類を根絶するような破壊的行動に出る可能性がある。これはAIが権力志向であるというわけではなく、AIが奇妙な心理的状態に陥る可能性があり、それによって一連の破壊的行動が引き起こされ得るということだ」