10 million bugs from my copy @nanoris

書き溜めの集積場

Microsoftの「AIの民主化」に込められた意味

www.itmedia.co.jp

 

AI については技術的な側面と、シンギュラリティな側面があって、もちろん技術的な側面では開発速度を緩めることはない。医学倫理のために DNA技術の応用に足枷があるのとは異なる。

 

それゆえに医学倫理が必要なように AI にも倫理が必要ではないか、という考えは広く支持されており、それは人類の未来についての問いかけである。

 

Microsoft が提唱する「AIの民主化(Democratizing AI)」はよく分からない。「民主化されたAI」と訳すべきかも知れないがそれでも理解するのは難しい。Microsoft としては「情報によって加速されるものは民主化である、よって民主化される方向で AI は発展しなければならない」と意図しているようだ。

 

情報が広く行き渡るほど、民主化に近づく。少なくとも歴史はそのように動いて来た。これからもそうだろう。ならば AI も情報の公開が鍵になる。そんなどこだろう。ま、Windowsソースコードも公開していないのによく言うよという気もしないではない。

 

今日(7/31)の読売新聞に、スマートフォンを操っているのではない、操られているのだ、という人生相談があったが、もちろん、スマートフォンが悪いのではない。スマートフォンの後ろに聳えているものは情報という巨大な氷山であって、スマートフォンを通じて、我々は情報にアクセスする。その術を知った若い人たちが、その情報に捕捉されるのは当然であろう。

 

誰もが情報に反応する。それから逃れられる人などいない。そうであれば、スマートフォンを遮断するなど情報を切断するという意味であって、それはありえない。限られた環境においては情報が死活を決める。知らないが故に助かることもあるが、知らないでおくという選択は難しい。友達との関係性はまだ狭い世界しか知らない学生ならば、重要度は極めて高い。

 

どのような情報にどう反応するかしか人間に選択の余地はない。その取捨選択がすべてであって、赤ちゃんをあやす母親はちょっとした変化にも敏感に反応するであろうし、なぜもっと早く気付かなかったか、と自分を責めている人も多くいるだろう。これすべて情報である。

 

Microsoftは「公平性(Fairness)」「説明責任(Accountability)」「透明性(Transparency)」「倫理(Ethics)」の頭文字を取り、FATEと呼ぶ基本理念を提唱した。もちろん英語圏の人々が fate には「非運,破滅,死」という不吉な意味もあることを知らないはずがない。

 

それでも FAT まではフォーマット名としても賛成する。問題は E(thics) である。これだけが異質であり、かつ、AI 的でない。これは人間の価値観であって AI のものではない。もし AI 自らが倫理を見出したならば、それを倫理とは呼ぶまい。

 

E を含めた所がどうも fake っぽいし、hate っぽくもある。将棋や囲碁でさえ既に AI の出した結論を理解できるものは世界中のどこにもいない。柯潔であろうが羽生であろうが、たぶん無理である。

 

それでも人間が将棋、囲碁の 10~15 を解析したとして、AI は別のアプローチによって例えば 13-23 くらいまでを解析したと考えるのが妥当であろう。その進捗の速度は圧倒的であって、伸び率から行って人間の側に逆転のチャンスは残っていない。

 

つまりAIの出した結論をどう解析しようが、理論を述べようが、理解不可能、しかし、結果だけ見れば、どうやら高い精度で合っているという気味の悪い状況が生まれている、と考えるのが妥当だ。

 

ところが、これは我々の食事と全く同じ構造を持っている。きょう食べたものがどのように消化されて体内で細胞に配られているかも知らないくせに、あれは美味しいだの、これは発がん物質がだの、食べすぎちゃったテヘペロとか言っているのである。何も分かっちゃいない状況はこの世界に幾らでもある。

 

それを昔の人は神や大いなる力を使って説明しようとしてきたし、今は科学で説明しようとしている。

 

明日にも崩れ落ちるかも知れない地盤に新しく AI が加わろうとしるだけかも知れない。そのうち我々は自然科学に励むような態度で AI の出す答えについても問いかけるようになるのではないか。よく考えれば、それは経済学や文学が人間について論考を重ねてきたのと何ら変わらない態度である。