■

●『2045年問題』を書いた松田卓也のインタビューがウェブにあった。映画『トランセンデンス』に絡めたものだけど、映画とはあまり関係がなく、本の内容の要約に近い感じ。
http://wired.jp/special/transcendence/
●例えば、ゴッド・ライク・マシンについて。
《デ・ガリスは、人工知能は急激に発展して、シンギュラリティが21世紀の後半に来ると言うのですね。その時、人工知能は人間の知能の1兆の1兆倍になると主張しています。》
《(…)人間の脳の細胞は10の11乗個あるといわれています。ひとつの脳細胞からシナプスが1万本（10の4乗）でているとして、合計10の15乗本。それらが10ヘルツ、つまり、1秒に10回スイッチングすれば、1秒間に10の16乗回演算できる。それが人間の脳の性能とみなせます。将来のコンピューターが10の40乗で、人間の脳が10の16乗。この違いが、10の24乗倍、すなわち、1兆の1兆倍になるのです。》
《さっき言った1兆の1兆倍というのは、100億人の人間が300万年かかって考えることを、神のような機械なら1秒で考える、というくらい大きな違いです。人間と植物の違いより、はるかに大きい違いがあると言えるでしょう。》
《あるいは人間と岩とか。岩だって考えているかもしれませんよ。神の機械から見た人間は、人間から見た岩よりも反応の鈍い、お話しにならないほどのバカなのです。》
この数字を鵜呑みには出来ないとしても、これがまったくの出鱈目ではないという程度にリアルな話ではあるはず。人類の歴史が十万年くらいあるとして、その間に生きたすべての人の、頭のなかで起こったすべての出来事が、一秒にも満たない時間で完全にシミュレーションできるとすれば、人類の歴史はものすごい勢いで追いつかれ、追い抜かれてゆく。このイメージの途方もなさを、どう受け取ればいいのか。
(でも、そうなれば、コンピュータのメモリと演算のなかで人類のすべてが保存され、さらにその先の未来までシミュレートされ、シミュレーションとして生き続けるのだから、人類は滅亡しても大丈夫、と言える、のだろうか…。)
●では、なぜそんな途方もない、危険なものをつくらなくてはならないのか。それは、それが「可能であるかもしれない」から。つまり、もしそれを「誰か」がつくってしまえば、その「誰か」が他の誰もが逆らえない圧倒的な力をもってしまうから、それに対抗するためには、自分たちもまた、同等のものをつくらざるを得ない、ということになる。その「力」とは、軍事力と金、に代表されるということになる。まるで核兵器の開発の再現のような、まったく愚かなことだけど、しかしこの相互作用は、誰にも止められない。
《現在、人工知能を開発している最大の目的は「軍事と金儲け」です。つい最近、起こったNSAの問題もそうですし、米国やヨーロッパはいま、一生懸命、兵器ロボットを開発しています。これはどうしようもなく最悪なことだと思いますが、彼らにはその自覚はない。国家安全保障のもとではすべて許されるのです。》
《例えばUAV（無人偵察機）は現在はまだ人間が操縦していますが、遠隔で人を殺すことは操縦者にとって大きなストレスなのだそうです。トラウマになる。それを防ぐために、誰を殺すかまでも人工知能に判断させる研究が進んでいます。》
《人工知能開発を止められないもうひとつの理由は、いわゆる「ウォール・ストリート」、金儲けです。現在人工知能開発を主導しているのは、国家ではなく、一部の大企業です。グーグルやフェイスブック、アップル、アマゾンといった企業は、猛烈な勢いで人工知能に投資しています。「シンギュラリティ」への動きは、どんどん加速していると言えます。》
例えば、普通に考えて、原発事故の処理や、その他の災害時のために開発されるロボットの技術も、ほぼそのまま、兵士ロボットに転用可能だろうと思う。
●しかしもう一方で、いわゆる「革命」の可能性もまた、その希望は人工知能にあると言える。
《マルクスが描いたユートピアは、誰も働かないで仕事はみんな機械にさせて、人間は遊んでいる社会。それを実現するために、人工知能に計画経済をやらせればよいのです。》
《計画経済とは最適値問題です。予算の配分とは、たとえて言うなら巨大なエクセルの表に数字を埋めていくことでしょう。ただ、項目が多すぎて人間には最適解が見えない。人間は所詮馬鹿ですから、すべて人工知能にまかせればいい。仮に予算の項目が1万項目あるなら、1万次元空間の中で国民の幸せの総量を最大にする解をコンピューターに探させる。幸せの総量をどう定義するかという問題はありますが、その目的関数さえ決まれば、後は最適値問題を解くだけです。》
《しかしこれも現実には難しい問題があります。分配するというのは、持てるものから奪って、持たざる者へ渡すことでしょう。そんなことを金持ちが許すはずがありません。いまアメリカでは、金持ちだけで街をつくって自分たちの税金を自分たちだけで使おうという動きがあるほどです。》
「人間は所詮馬鹿ですから」とか、さらっと言う。どうしようもなく愚かな人も、奇跡のような天才も、人工知能と比べればほとんど無視できる程度の差しかなく、「所詮馬鹿」ですまされてしまう。しかしこのような、「可能なリソースのなかでの最大多数の最大幸福」を実現するための「分配の最適解」を計算する、というような側面でこそ、コンピュータの計算能力が最大限に生きてくるのではないか。ぼくは、これこそが、政治的な唯一の希望であるようにさえ思われる。
(でも、多くの人はこれをディストピアだと感じるかもしれない。『サイコパス』のシュビラシステムみたいな感じだし。)
(あるいはもしかすると、グローバル化した経済は複雑すぎて、いわば地球の気象状態みたいなっていて、カオス的なバタフライ効果が効いてしまって、一兆の一兆倍のコンピュータでも予測や制御は困難、ということもあるかもしれない。あるいは、競争相手が同等の能力をもった人工知能である場合、お互いの裏のかき合いで、まったく予測不能になるのかも。)