●昨日からのつづきで、もうちょっとイーガン。「クリスタルの夜」が2008年で『ゼンデギ』が2010年。このあたりから、「意識をもつAI」に対する倫理的な問題という側面が強く前に出てくるようになったのは、それがリアルに実現してしまうかもしれないという雰囲気が現実世界に出てきはじめたためだろうか。「クリスタルの夜」ではそれは、主人公の倫理的な葛藤(というか欲望との妥協、というか自己正当化)という形で出てきたのが、『ゼンデギ』では、社会や政治、共同性、家族といった問題を巻き込んだ、もっと大きな構えのなかで捉えられている。
(かといってイーガンが社会派化したというわけではなく、もう一方で『白熱光』や『クロックワーク・ロケット』などでは――どちらも読んでいないけど――より一層浮世離れした、「社会」とはまったくかけ離れた「世界」が思弁的に追究されているようで、イーガンにとっての本当の興味が――現実の――社会にあるわけではないのは明らかだと思う。)
ここでみられるイーガンの倫理感はオーソドックスに西欧的なもので、要するに「意識ある者の自由が制限されてはならない」というところに落ち着く。これはある意味、驚くほど素朴なものだが、イーガンにとってこの価値観がとても重要なものであるからこそ、(イーガンらしくない)『ゼンデギ』という長編がわざわざ書かれたということではないだろうか。それは、意識ある者は、自由な選択や判断が行える者として、十全な形で生み出されなければならない、ということにもなる。これは、魂というのは意識(自由)のことだ、という考え方であるように思われる。
『ゼンデギ』の24章で、ゼンデギのシステムをハッキングしたCHR(シス・ヒューマンリーグ)のロロと名乗る人物と、技術者のナシムが会談する場面がある。そこでロロは、ゼンデギのゲームシステムが、有名スポーツ選手の知覚能力と運動能力のみを脳からスキャンしたソフトウェアを使用することは許容するのだが、二十人の若い女性の脳スキャンデータから合成された仮想人格である<ファリバ>の使用は認めない。以下はロロのセリフ。
《われわれが境界線を引くのはそこです。高度な機能なし、言語なし、社会的技能なし。あなたたちは薄切りにした人間性をクローンにして、それを使って養鶏小屋の鶏のような人間を大量生産するには至っていない。》
《もしあなたたちが人間をチーズおろし器にかけて、削りとった小片を奴隷に仕立てて工場やVRゲーム相手にポン引きをする気なら……そのときあなたたちは、戦争というお荷物をかかえこむことになります。》
これはほぼイーガン自身の倫理観と重なると考えていいと思う。
しかしぼくはここで、イーガンの問題意識とは別のところで、過去も自意識もない意識(意識未満)としての<ファリバ>という存在に惹かれるものがある。それを、《奴隷に仕立て》て何かをさせることが許されないことだという倫理観は共有できるが、それを十全ではないものとみなすことには違和感がある。それは、自由(主体性)を持ち得ない者には魂はないのか、という問題だと思う。
(たとえばぼくは、自動販売機で硬貨が認識されずに吐き出された時、自動ドアでセンサーが感知しなくてドアが開かない時などに、ごく軽くではあるが、機械から拒否された、無視されたという感触をもつ。それは、野良猫にちかづいていったら避けられた、という時の感じに近い何かだ。それは機械に対して、ごくごく薄いものではあれ、魂のようなものを感じているからではないか。)
とはいえ、実際に「意識のある(という可能性のある)AI」が可能となるかもしれないという状況下においては、このくらいに強い倫理観が必要なのかもしれない。
●登場人物の一人であるナシムは菜食主義者だ。現在の技術では、牛の細胞一つから、たとえばロース部分だけを生成することも可能だ。ロースの部分だけの牛肉に魂があるとは思えないので、牛を殺すことなく牛肉を食べることが可能になる。一頭の牛も殺さない食肉工場。ナシムは、そのような牛肉を食べることを自分に許すのだろうか。
●昨日の日記にも書いたけど、<ファリバ>をハッキングに対するフィルタリングとして利用するために数千単位でコピーしようとする場面での、ナシムと部下(バハトール)の会話を引用する。この場面の何と味わい深いことか。この場面は、ロロの言う《養鶏小屋の鶏のような人間を大量生産する》ことに当てはまるのか。このような味わい深さがこの小説には様々なところにある。
《「<ファリバ>たちは奴隷じゃない」ナシムはいった。「人間の行動の微視的な一部のやりかたを学習しているだけ。工員がロボットアームに一連の動作をずっと手引きしたら、ロボットは工員と同じくらい人間になる?」
「いいえ」バハドールは答えた。「そしてわたしは、<ファリバ>たちを人間だとも考えていません。でも、数千単位で作りだすのは、やはり得体のしれない感じがします」
ナシムはいった。「一体か千体かで、なにが違ってくるというの?」
バハドールは両手を広げて、確信がないことを認めた。「たぶん、まったくなにも違わないでしょう。なんともいえません。もし、これについてどう考えればいいのか、自信があったら……」》
