マサチューセッツ工科大学（MIT）メディアラボ所長の伊藤穰一さんによる『WIRED』US版への寄稿内容が興味深い。
（1）「AIは未来を予測しない。いまを映す『鏡』である」
・人工知能（AI）が犯罪抑止のような用途で活用され、アルゴリズムを使えば客観的なリスク評価が可能だとされている。だがデータのバイアスを考慮すれば、「水晶玉」のように未来を予測することは困難ではないか。むしろ世のなかのひずみを映し出し、社会を批判的に見つめ直すための「鏡」なのではないか。
・わたしたちは「Interventions over Predictions:Reframing the Ethical Debate for Actuarial Risk Assessment」（予測への介入：リスク評価における倫理的議論の再構築）の論文で、テック業界はAIの倫理的な危険性を判断するうえで間違った基準を使ってきたという主張を展開している。正確さや偏向という観点から考えたとき、AIの利点もリスクも限定的にしか捉えられていない。結果として、わたしたちはオートメーションやプロファイリング、予測モデルといったものにAIを導入することで、社会的にはどのようなメリットがあるのかという基本的な問いに答えることをおろそかにしてしまったのだ。
・わたしがここで言いたいのは、大量のデータはいま目の前で実際に何が起きているのかを理解するために使われるべきだ、ということだ。焦点を変えることで、より平等でさまざまな機会に満ちた社会を構築することが可能になるかもしれない。そして『マイノリティ・リポート』のような悪夢は避けることができるのではないだろうか。
（2）「『説明できること』の先にある科学の未来」
・わたしたち人間の脳は、直観的な物理演算エンジンのような働きによって物事を予測できる。こうした「直観」は、統計的な機械学習に依存する現在の人工知能（AI）には備わっていない。もし機械が直観モデルを学習できるようになれば、科学はもうひとつ先の段階に進むのではないか
・AIは長年にわたって驚くべき進化を遂げてきたが、実用化されているものの大半は統計的な機械学習を基にしている。ワークモデルを構築するには、例えば大量の画像といった学習データを必要とする。人間がそれぞれのデータに「猫」や「犬」といったラベル付けをしてやると、ニューラルネットワークはそれを参照し、特定の画像が何であるかを推測するようになる。うまくいけば、人間と同程度の正確さに達することが可能だ。
・この統計モデルに完全に欠けているもののひとつが、データの中身の理解である。AIは写真に写っている犬が動物で、ときにはクルマを追いかけたりするということを知らない。そのため、この種のシステムで正確なモデルを構築するには、大量のデータが必要になる。システムは画像のなかで何が起きているのかを理解するのではなく、パターン認識に近いことをしているからだ。それは「学習」に対する総当たり的なアプローチで、高速なコンピューターと膨大な量のデータセットが手に入るようになったことで実現した。
・ワシントン大学教授のパトリシア・クールは、幼児の言語習得をめぐり「ソーシャル・ゲーティング」という仮説を立てた。人間の言語能力は、乳幼児期に周囲の世界とのやりとりを通じて養われる社会的理解力の発達と結び付いている、というのだ。また、ハーヴァード大学の認知心理学者エリザベス・スペルキは、乳幼児がどのようにして、生後10カ月といった早い時期から他者の目的を推測する「直観的心理学」を構築していくのか研究している。
・人間の脳は乳幼児期にとてつもない変化を遂げる。赤ん坊の脳では成人の2倍の数のシナプスが形成されている。そして脳が成熟するに従って神経同士のつながりは整理され、知覚の対象となる複雑なシステムの直観的理解力が養われる。階段、母親、父親、友達、クルマ、雪山といったものがわかるようになるのだ。
・わたしたちの脳は、自然の声を理解する神経細胞を退化させてしまったのかもしれない。そういったものは都市での生活には必要ないからだ。わたしたちは人生のほとんどを読書やコンピューターのスクリーンを見つめることに費やし、個室で座って世界を理解するための教育を受ける。
・その結果として、世界を数学的あるいは経済的に説明する能力は身につくだろう。だとしても、その能力によって世界を正確に把握していると断言できるだろうか。わたしたちの脳は生態系のようなものについて、幼い頃から大自然に囲まれて育った脳、つまり自然を直感的に理解できる脳よりも、よくわかっているのだろうか。
・テネンバウムと彼のチームが直観モデルを学習できる機械の開発に成功したら、いまは説明できないもの、もしくは複雑すぎて既存の理論やツールでは理解できないものについて、何らかの答えを出すことが可能になるかもしれない。機械学習やAIの説明可能性や、また先住民たちが自然とどのように関わっているかの研究において、わたしたちは「説明できること」の特異点に達するだろう。
ＩＴ起業研究所ITInvC代表 小松仁
