巨神兵のようなAIに「焼き払え」と命令してしまわないために。

AIが僕らに最初に与える力は、創造の力というよりも、破壊の力のほうに近いのではないか、最近は、そんなことをよく考えています。

もちろん、AIを使えばプログラムも書けるし、新しいサービスを立ち上げることだってカンタンにできるので、僕らはついついAIを、何かを新たに生み出すための道具として語りがち。

でも、実際には、AIが圧倒的な力を発揮するのは、何かを一から生み出す場面よりも、それまで存在していた「秩序」をぶっ壊す場面のほうなのかもしれない。

今日は、あまり表立って語られることのないそんなお話を書いてみたいなと思います。

ーーー

このような話題で、僕の頭に必ず浮かぶのは『風の谷のナウシカ』に出てくる「巨神兵」の姿です。

巨神兵は、人間が長い時間をかけて築き上げてきたものを、一瞬で焼き払ってしまうような存在でしたよね。

そして、自分の手では到底動かせないほどの巨大な力を手に入れたとき、人間はつい、その巨神兵に向かって「焼き払え！」と命じたくなってしまう。

悲しいかな、それもまた、人間の性（さが）なのだろうなと思うのです。

ーーー

たとえば、他人が何年も、何十年もかけて耕してきた「風の谷」があるとします。

そこには、その土地なりの歴史や人間関係があって、外から見ただけではわからない事情だって、きっとたくさんある。

一見すると非効率に見える慣習であっても、長い時間のなかで誰かを守るために生まれたものかもしれないし、面倒に見える手順も、過去に何度も起きた失敗の末に残されたその土地の「知恵」かもしれない。

でもAIを使えば、そういった文脈をすべて脇へ置いたまま、構造だけを抜き出すことができてしまうわけですよね。それこそカンタンに「蒸留」できてしまう。

ーーー

そのうえでAIは「この業界は、こうすれば攻略できる。この仕事は、こうすればもっと自動化できる。こうすれば大量のコンテンツで埋め尽くすことができる。やりますか？」と耳元で甘く囁くわけです。

これまでは、人間が手を動かしていたら到底採算が合わず、経済合理性限界曲線の外側に置かれていたような仕事まで、AI、とくにFableの登場によって、突如として採算の合う領域へ一気に入ってきてしまったわけですから。

だからこそ、長い時間をかけて維持されてきた業界の収益構造さえ、外側から内側に入り込み、一気に侵食できるようになった。まさに内側からのハックが、ものすごくカンタンになった。

ーーー

しかも、その土地に対する「敬意」さえ持たなければ、できることは本当にあまりに多いんですよね。

「相手の痛みを感じる」という痛覚さえ切ってしまえば、ほんとうに人間は何でもできる。相手が大事にしていたものを踏みにじっても構わないと、開き直ったら何だってできてしまうのが、人間の恐ろしさです。

他人の土俵で、荒稼ぎしたければ、ほんとうにいくらでも稼げるし、「古い秩序と戦う正義の人」として注目を浴びたければ、自分にはまったく関係のない土地を無惨にも焼き払えばいいだけ。

その土地に暮らしたことがなくてもいいし、そこで働く人の顔を知らなくてもいいわけですよね。

むしろ、暮らしたこともなく、そこで働くひとびとの「顔」を知らないほうが、愛着もなく、無慈悲に数字だけをAIに追わせることもできるわけですから。

ーーー

具体的には、ネット上に無限に落ちているノウハウをAIにかき集めさせて、それを使ってAIに無限に推論させて、既存の仕組みの裏をかけばいいだけの話です。

これまでなら必要だった専門知識も、長い修業も、管理が面倒な大きな組織も、ぜんぶ不要。今では、たったひとりの一言のプロンプトの命令でそれが可能となってしまう。

そしておそらく、これからそのような現象が、さまざまな業界で連鎖的に起きていくはずです。

つまり、この現象は、誰にとっても決して他人事ではない。

ーーー

でも一方で、何かをゼロからつくるのは、本当にむずかしいことだなと思います。

特に、「風の谷」にあるような秩序をつくり出すというのは、とてもむずかしい。

その土地をゼロから耕し、種をまき、水をやり、芽が出るのを待つには、ほんとうに気が遠くなるぐらい長い時間がかかります。

もちろん、そこに人が集まって、文化が生まれて、信頼が育つまでには、さらに長い時間がかかる。

人と人との信頼なんて、無数のやりとりを積み重ねてようやく育つものなのに、壊れるときは、たったひとつの謀反や裏切りで事足りてしまう。

壊すことは、本当に簡単なのです。

文字通り火を放てば、一瞬で終わるわけですから。

そしてAIは、その火を放つためのコストを、驚くほど見事に下げてしまいました。

ーーー

で、ここで本当に怖いのは、破壊する人が必ずしも悪意を持っているわけではない、という点です。

むしろ、自分は善いことをしていると全力で信じている人のほうが、意気揚々と、遠くまで遠征して踏み荒らしてしまう。

俺は、古い業界を変革している、閉鎖的な世界を開放しているだけなんだ、と。

情報を民主化しているし、遅れた人たちを啓蒙してあげているんだからと、正義の顔で語るわけです。

それっていうのは、歴史が既に何度も証明をしていて、革命や植民地支配も、少なくともそれを実行した側の物語のなかでは、単なる破壊としてではなく「遅れた世界を正しい方向へ進める行為」として語られてきたのだと思います。

自分たちのほうが新しく革新的で、救世主なんだ、と。

だから古い秩序はいくら壊しても構わない。むしろ、壊してあげたほうが相手のためになるのだ、と信じて。

そして厄介なことに、その破壊によって、本当に救われる人たちも一定数いる。壊されるべき古い秩序が存在し、結果が出ることも確実であって、何も間違っていません。

ーーー

つまり、いまAIによって僕らが手に入れつつあるのは、単なる生産性だけではなく、この破壊神を手に入れたある種の「全能感」なのだと思っています。

これまで自分にはできなかったことが、何でもできる。この全能感は、最初のうちはとても気持ちがいいものだと思います。

だけれども、人間が大きな力を手にしたときに真っ先に試したくなるのは、つくることではなく、既存の秩序を壊すことのほう。「焼き払え！」と命じたくなるその気持ちのほうであり、今こそその点に強く自覚的でありたいなあと思ってしまいます。

ーーー

そういえば先日、そのことを強烈に突きつけられる番組を、NHKオンデマンドで観ました。

クローズアップ現代「ミュトスの衝撃～人間の限界超える能力とは～」という回です。

僕がいちばん驚いたのは、そのAIの能力の高さではなく、脅威の「語られ方」のほう。

とある企業がデモンストレーション的にAIに対して「つくってください」ではなく「停止してください。」と命令して、一瞬でAIが架空のサイトを落としてみせたこと。

何かを一から生み出すには、細かな指示や対話の積み重ねが必要になる。でも破壊するときには、たったひとこと命じればいい。

焼き払え、止めてください、終わらせろ、と。

最先端のAIの脅威が、創造ではなく破壊の文脈で語られていて、ここに、今回の技術の本質があらわれているような気がしています。

ーーー

そう考えると、これからの時代に本当に怖いのは、AIそのものの意志ではなく、たったひとりの人間の意志なのだろうなあと。

AIが自ら人類を滅ぼそうと考えることよりも、どこかの人間がAIに向かって「人類を滅亡させるウイルスをつくってください」と命じることのほうが、よっぽど怖い。

もちろん、今すぐそんな命令が実現するわけではありません。

でも、できることが増え続ければ、最後に残る問題は技術ではなく、命令する人間の側になります。

たったひとりの怒りや絶望、正義感や単なる純粋な好奇心が、かつては持ち得なかったほど巨大な実行力を手に入れてしまう。

このことを考えると、なんとも言えない不気味さを感じるなと思うのです。

ーーー

このような話を考えるとき、僕はいつも養老孟司さんが語る「人間は虫一匹つくることもできないじゃないか」という話を思い出してしまいます。

最先端の技術を使って、宇宙へ行き、火星に移住しようとし、人工知能までつくろうとしているくせに、足元にいる小さな虫一匹さえ、人間は未だにゼロからつくることができないじゃないかと、養老さんは皮肉交じりに語るのです。

ところが、その虫が生きている森を焼き、生態系ごと壊すことなら、人間にはもうカンタンにできてしまう。

同様に、森を焼くことも、川を汚すことも、動物を絶滅させることもできる。

そしてもしかすると、生命をゼロから生み出すことはできないまま、人類を滅亡させるウイルスだけは、AIによってつくれてしまうかもしれない。

これは、よくよく考えると、本当に奇妙なことですよね。

人間は、つくることよりも先に、壊す力ばかりを手に入れていく。世界をつくったことがないのに、世界を終わらせる力を持とうとする。

自分では虫一匹つくれない人間が、そんな最凶の「巨神兵」に向かって「焼き払え」と命じて悦に浸るわけですから。

そこに、AI時代の人間の姿が凝縮されているような気がしてならないです。

ーーー

だからこそ、本当は力が強くなればなるほど、自制が必要になるはずなんですよね。

「できるから、やる。儲かるから、参入する。非効率だから、壊す」そうではなくて「できるけれど、やらない。壊せるけれど、壊さない」というふうに。

そんな態度が、これまで以上に重要になってくるのだと思います。

もちろんこれは「既得権益を無条件に守れ！」という話ではありません。古いものを、古いというだけで尊重しろという話でも決してない。そこはくれぐれも誤解しないで欲しい点です。

ただ、自分には見えていない時間が、その場所には流れているかもしれないと想像してみること。

不用意に、他人の土地へ踏み入らないことが大切だし、そして何より、自分の正義を疑う目を持ち続ける自制心がとっても大事だなって。

とはいえ、これはもうAI時代の既定路線みたいなものなので、各々ぜひ自己防衛をして欲しいなと思います。

自分の谷がこれから、AIで武装した正義感溢れるひとたちに、無邪気に、そしてかなり乱暴に踏み荒らされる。

それこそ、映画館で観た方なら既にご存知のとおり、『プラダを着た悪魔2』みたいなことが、いやそれよりも、もっともっと無慈悲で残酷なことがこれから無限に起こり続けるはずです。

ーーー

最後に、僕自身ももちろん毎日そんな最先端AIにべったりと張り付いて、これまでできなかったことに日々驚愕し、興奮している側の人間です。

つまり僕もまた、そんな巨神兵の手を無邪気に引いて歩いているひとりに違いない。

だからこれは、誰かに向けた説教というよりも、まずは自分自身への戒めです。

この火力を、自分は一体どこへ向けようとしているのか。

その問いの前に、毎日立たされているなあと思います。

できることなら、「ぶっ壊す」ためではなく、先人たちからの贈り物である大切な何かを「継ぐ」ために、用いたい。

万能なAIを使っても、虫一匹をつくれない僕らだからこそ、そのことだけは常に忘れないでいたいなと思っています。

いつもこのブログを読んでくださっているみなさんにとっても、今日のお話が何かしらの参考となっていたら幸いです。