うーんんとAI(Artificial Intelligence)をなめているんじゃないかと思う。大統領と妊婦が近くにいて、速度を落としていないAIがあり得ると思うのか。という話。
安全に対する反応も判断も最終的には人間はAIに勝てなくなる。これは自明である。人間を基準に考えていればAIの能力もそして落とし穴も見落とすだろう。
だからAIが見落として、かつ重篤な事故につながるケースとして、それがどうしても不可避である状況として、どのようなものがあるかを、もっと厳密に設定しなければ、記事として面白いと言えない。専門家からそういうケースを引き出してこないと。
例えば橋の落下を考える。老朽化した橋があって、そこに車が入るスペースはあるが、もし車が入れば橋が落下する。橋の下では運良くも幼稚園児たちが楽しくピクニックしているという想定。
さて、AIは橋に入らないか、入るか。もちろん、入るのである。橋についての情報がなければ入るのである。かりに情報があり危険という判定がされるプログラミングがあれば回避は可能だろう。
しかし判定を組み込まれていなければ入るのである。
津波が起きている時に、AIは津波が迫っている目的地に向かうのか、それとも停止するのか、自動的に逃避行動に入れるのか。火事はどうか、病気が流行っている場合は、テロが発生したら？自動運転は、戦場状態になっている地域に進んで到着するのだろうか。眠りこけていた人が起きて、車の外に出てみれば、倒壊したビルを見ることになるんだろうか。装甲車か、お前は、という話である。
道から突然飛び出したらどうか、と言っても、飛び出す可能性があるなら、徐行するに決まっているし、道から距離と、車の減速能力から、もし、起きたら、こうなるということはあらかじめ計算可能である。
その想定のもとで事故が軽減されるように走行するだろう。しかし、AIは決して諦めない。そういうプログラミングはされていない。常に１ｍｓ単位で最善を図るように動く。最大限の努力は最後まで続けるがそれは決して結果を保証するものではない、これがターミネーター２の慧眼であったが、AIの本来の姿があの映画の中にある。
