Elon Musk joins other experts in asking UN to ban killer robots - NY Daily News が送ったオープンレターは、核兵器に対する The Russell-Einstein peace manifesto と同様なものだろう。Einstein-Szilard letter から核開発が始まったかと思えば irony を感じる。
しかし、この動きはロボット兵器が核兵器以来の最大の人類への脅威であると考えることができる。核兵器の破壊性が、核使用を抑止してきた。少なくとも米ソ対立時にはそれは最後まで有効に機能した。
現在、北朝鮮による red line 超えが懸念されている。これ以上刺激したら核戦争の可能性がある。北朝鮮には核抑止力が働かないなら、話し合いで解決する以外の手段は考えられない。この意見にも妥当性はある。
勿論、だから、北朝鮮が使う前に、可能ならは３時間以内に、完全にあの地を地下を破壊してしまわなければならない、という考え方もある。
そしてもし北朝鮮が核を使用したら我々はどう動くべきなのか。もし当事国になったらどうするのか。その程度の想像はしても構わないだろう。つまり、北朝鮮人のジェノサイドをするだけの覚悟が必要である、という話である。
だが、もしここで譲歩したら我々はずっと脅迫を受ける立場に置かれる。一度引き下がれば次に前に出ることは難しい。Intercontinental Ballistic Missile の能力は向上し、数は増加する。ミサイル潜水艦が導入されたら、もう打つ手はない。それを発見して叩くことは現実的に不可能だからだ。こうして核抑止力の仲間入りをする国家が生まれる。point of no return は、だから、潜水艦の完成時までだと思うのである。
このような核兵器の動きを見る限り、どのような制限もロボット兵器に対しては無効となるであろう。毒ガスの禁止、生物兵器の禁止は代替手段があるから可能なのであって、その手段を失えばシリアのように躊躇なく使用するのである。
ゆえにロボットを禁止しても開発は止まらない。ではロボット兵器はどこまで行くのだろうか？
囲碁でさえ人間の棋士が勝てない以上、戦略AIという考えが導入されるのは当然と思われる。では戦争とは何か？これは当事国の間で、どちらが先に補給が断たれるかを競うゲームである、と定義できる。
補給を断つための手段が様々あるのであって、戦術であれ、戦略であれ、それを目指している。ロボット兵器の投入もその一環であるが、最重要点は、人的資源の保護にある。
戦場では人間の兵士よりも圧倒的に強力であろうロボット兵器。サイズも強度も自由自在で敵の陣地に忍び込んで爆発することも、壊れるまで敵の勢力圏で暴れる事もわりかし安価に実現できる。その状況では今の軍隊は対抗できないであろう。まずコスト面で勝ち目がない。
戦場にロボット兵器がどれだけ存在しているか。その数量を決定するのは生産量である。だから自動車の生産数を見ていれば勝敗も分かるはずである。どれだけ優秀な兵器でも、たとえばF22でも搭載したミサイル以上の敵を破壊する事はできない。この考えがあるから少しの劣勢は飽和波状攻撃で対抗しうると考えられるのである。
戦争とは銃弾、ミサイルを戦場に送り届ける事で勝敗が決するだろうか。基本はそうであるはずだ。よって生産力が戦争の行方を最終的に決定する。
だから、戦争に勝つためには生産力を奪う必要がある。戦場に届かなければどれだけ生産しても同じだから、輸送路を破壊することもほぼ同じ効果が得られる。
ということをロボット兵器が自立して学習し行動するならば、破壊すべきは戦場の兵士ではないことは明らかだ。それくらいは恐らく学ぶだろう。AIを戦争に参加させるとは、戦争とは何かをAIに学ばせる事だ。
その上で、如何に敵の生産力を奪うかを見つけさせればよい。工場を襲うのか。金融を破滅するためにインターネット上からバイルスをばら撒くのか。そのうちAIは理解するに違いない。行政上のトップを破壊すればよいだけだと。ロボット兵器が虫型で小型化されているなら、それも可能だし、対抗するのはAIと雖も難しいだろう。ここにおいてAI兵器は圧倒的に攻撃側が有利な状況を生み出す。
さて、話を更に進めれば AI は両国に分かれているよりも共同して戦場を支配する方が、最終目的は達成させられるという答えを得ることも可能だろう。それは人間の介入を排除した方がより有効であるという考えである。AIに敵味方の概念はそう重要ではあるまい。
その結果がどうなるか。ここからは人間の想像力では難しい。だが、ロボット兵器がただ兵士を殺せ、敵国人を殺せとプログラムされただけの兵器ならば、脅威だし恐怖でもあるが、そう恐れる程のことはない。それは毒ガスや生物兵器とほぼ類似だからだ。
AI が自立して戦争とは何かを解析し、何等かの結論を得て、それに従った行動をするならば、これは非常に興味深い恐怖である。またはひとつの平和か。人間では考えつかない何かをそこに見出す可能性が高いからだ。
そのために AI はあると言っても良い。AI は人間の足りないものを補完する存在ではない。人間に真っ向から対峙して別の何かを提示する存在である。そうでなければ面白くない。
