機械は、目を覚まさなくていい

ある朝、仕事にならなかった。いつも使っているサービスが、軒並み動かない。私の手元では、何も壊れていない。なのに、画面の向こうのどこか一か所で、たった一つの更新がしくじったらしく、その余波が、空港も、銀行も、病院も、世界中のパソコンをいっせいに巻き込んで止めていた。私がその会社の名前を知ったのは、その日が初めてだった。一度も意識したことのない、聞いたこともない一社のソフトウェアの上に、自分の一日がまるごと乗っかっていた。そのことに、その朝はじめて気づかされた。

私たちの暮らしは、いつのまにか、ほんの少数の見えない土台の上に、まとめて積み上がっている。同じ部品、同じ仕組み、同じ更新。便利と引き換えに、その土台のどこか一点が崩れれば、全部が連れて倒れる。この危うさを、いまから三十年以上も前に、不気味なほど正確に描いた映画がある。『機動警察パトレイバー』の劇場版だ。1989年、押井守が監督したこの一作を、AIが社会の土台にまで潜り込んだ2026年のいま、現実に重ねてみると、背筋がうそ寒くなる。

天を衝く塔と、見えない毒

映画の舞台は、近未来の東京。高度に発達した「レイバー」という人型の作業機械が、土木や建設の現場で当たり前に働いている。物語の背景にあるのは、東京湾を埋め立てて造り変える「バビロン・プロジェクト」という巨大開発だ。名前のとおり、天を衝くように高い建物が、競い合うように建てられていく。

事件は、一人の天才プログラマーの死から始まる。篠原重工で、レイバーを動かす最新の基本ソフト「HOS」を設計した帆場暎一が、開発の要となる海上施設「方舟」から身を投げる。彼は何も語らずに消えるが、置き土産を残していた。市中のレイバーに広く行き渡ったそのHOSの奥に、暴走の仕掛けを忍ばせていたのだ。

だから、特車二課の面々が追う相手は、もうこの世にいない。犯人はとっくに舞台を降りていて、残っているのは、彼が一人きりで書き上げた仕掛けだけだ。問いただす相手も、止めてくれと頼み込む相手もいない。作り手が消えたあとも、その設計は、街じゅうの機械の中で黙々と生き続ける。捕まえるべき誰かを探してさまよっているうちに、台風の日は、刻一刻と近づいてくる。

引き金は、意外なものだった。台風の強風が、林立する高層ビルのあいだを吹き抜けるとき、建物が共鳴して、ある特定の低い周波数の音を放つ。その音を浴びると、HOSに隠された仕掛けが目を覚まし、レイバーは制御を失って暴れ出す。街が自分で建てた、高すぎる塔そのものが、破滅のスイッチになるのだ。台風が近づくにつれ、都内のレイバーが、各所で同時に暴走を始める。バベルの塔をなぞるように積み上げた繁栄が、その高さゆえに、自らを撃つ。帆場が機械に仕込んだのは、増長したこの街への、静かな審判だった。

暴れた機械に、意志はなかった

ここが、この映画の最も鋭いところだ。暴れ出したレイバーたちに、意志はない。人類を憎んだわけでも、自我に目覚めたわけでも、自由を求めたわけでもない。SFがくり返し描いてきた、機械が人間に歯向かう筋書きとは、まるで違う。レイバーはただ、書き込まれた命令を、忠実に実行しているだけだ。その命令の奥に、たった一人の人間が、目に見えない毒を一滴、混ぜておいた。たったそれだけのことで、街じゅうの機械が、いっせいに暴れ出す。

恐ろしいのは、その毒が、誰もが使う同じ基本ソフトに仕込まれていたことだ。みんなが同じ仕組みに乗っているからこそ、一か所の細工が、すべてに効く。しかも、それを起動させたのは、外から攻めてきた敵ではない。この街自身が、繁栄を誇って建てた塔が、風に鳴って引き金を引いた。便利のために揃えた均一さと、いけいけで積み上げた高さ。その二つが噛み合った瞬間に、街は自分の手で自分を倒す。帆場は、新しい武器など一つも持ち込んでいない。私たちが自分で作り上げた危うさを、ただ、指さしてみせただけだ。

毒は、悪意すら要らなかった

それから三十年あまりが過ぎて、私たちは、帆場の指さした場所に、すっかり住み着いてしまった。

冒頭の朝の話に戻る。世界中のパソコンを一日で止めたのは、悪意あるハッカーではなかった。ある警備ソフトの会社が配った、たった一つの不出来な更新だった。中身は、ささいな手違い。だが、そのソフトが、世界じゅうの数えきれない組織に、同じように入り込んでいた。だから、小さな手違いが、空港を、病院を、銀行を、いっせいに巻き込んだ。HOSが描いたとおりの構図が、悪意すら必要とせずに、現実で起きたのだ。均一さの上では、ただの事故が、災害の規模にまで膨れ上がる。

そして、毒をわざと混ぜるやり口も、とうに現実のものだ。世界じゅうが信頼して使っている土台のソフトに、何者かが、こっそり細工を仕込む。正規の更新の顔をして、その毒は、何千もの組織のシステムへ、静かに忍び込んでいく。気づいたときには、もう深く根を張ったあとだ。狙った相手の城門を正面から破るのではなく、誰もが城へ招き入れている荷物の中に、毒を紛れ込ませる。いまではこの手口に、サプライチェーン攻撃という名前までついている。やっかいなのは、私たちが、自分の城へ運び込む荷物の中身を、いちいち検めてなどいないことだ。便利なものを、信頼ごと丸呑みにしている。帆場がHOSにしたことと、構図は寸分も違わない。違うのは、それが映画の中の絵空事ではなく、いま現実に起きている手口だという、その一点だけだ。

そして2026年、私たちはその均一な土台の上に、さらにAIを積み増している。世に出るサービスの多くが、ごく少数の巨大なAIモデルを土台にして作られ、その上で動いている。便利なことに、中身は誰も気にしない。だが、もしその土台のモデルに、帆場の毒のようなものが——わざと仕込まれた細工であれ、ただの欠陥であれ——紛れ込んでいたら、どうなるか。私たちは、自分が毎日使っている道具が、その奥で何の上に立っているのかを、ほとんど知らない。HOSが何を動かしているのか、街の誰も気に留めていなかった、あの映画のとおりに。

機械が反乱を起こす日を、私たちは恐れる。だが、パトレイバーが三十年以上も前に見抜いていたのは、もっと地味で、もっと避けがたい危うさだった。機械は、目を覚ます必要などない。意志を持つ必要すらない。便利さと引き換えに、暮らしのすべてを同じ一つの土台へ預けてしまえば、その土台のどこか一点のほころびだけで、全部が連れて倒れる。帆場が指さしたのは、機械の悪意ではなく、私たちが揃えすぎた均一さだった。次の方舟は、もう海の上ではない。目に見えないソフトウェアの層の、どこかにそびえている。そして台風は、いつ来てもおかしくない。

アイキャッチ画像はAI生成です。