⚫︎お知らせ。VECTIONとして「リアルタイムbot議員のすすめ」というテキストを公開しました。
twichというゲームプレイ動画配信プラットフォームがあって、そこでは「ポケモン」や「ダークソウル」のようなゲームを、多数の参加者の投票で行うという実験が行われている。ゲーム画面を共有し、そのときどきで、どのボタンを押すのかという選択を、参加者たちの投票で決めて、ゲームのクリアを目指す。「ダークソウル」のような難しいアクションゲームでも、そのようにしてクリアに成功している。
以前、VECTIONは、bot議員というアイデアを提案した。議員自身は意思を持たず、各種法案などに対する意思決定を、その議員の支持者たちによる議論や投票の結果に従って行う。議員本人はダミーのようなものでしかない。これにより、民意の反映という意味で鈍くて遅い代議士制の中に、より細かく早く民意を反映させられる直接民主制を紛れ込ませることができる。
今回提案するリアルタイムbot議員は、それをさらに推し進めて、議会や委員会などの政策立案プロセスの場で、bot議員が喋る言葉や振る舞いなどすべてを、twitch的にその場の投票もしくは参加者たちの議論内容の要約で決めて、リアルタイムで演じてもらうというものだ。
なぜそんな突飛なことを考える必要があるのかと言えば、それは、高度に進化したAIによる(というか、そのAIの所有者の思惑による)、人間には見抜くことが困難であるほどに高度化した巧妙なプロパガンダに抵抗するためだ、ということになる。
以下、冒頭部分。
GIGAZINEの記事によると、googleのDeepMindが数学オリンピックレベルの幾何の問題を解けるようになったという。恐らく予想される次の一手は、幾何ではない問題文からも幾何学的なイメージを生成して、それを解くことのできるAIだろう。それはつまり数学が全般的にできるようになるということだ。数学ができると、あらゆる論文を読んで考えることができるので、ほとんどシンギュラリティだと言えるだろう。
数学ができるようになると物理もできるようになる。換言すれば、ロジックからイメージを思い浮かべたり、逆にロジックに戻したりするタイプのあらゆる創造活動ができる。それは別に芸術でもいいし、ミステリーのトリックを作ることでもいい。
ただし、創作の場合、「人間にとって」面白いかどうかは数学や物理などの「正しさ」とは別問題なので、AIの方が優れた作品を作れるかどうかは微妙だ。数学でも「人間にとって意義のある問題」を立てることが人間よりうまくなるかは分からない。
ただし「数多くの他の問題につながる隠れていた問題」のようなものはきっとAIの方がうまく探せるだろう。それは結局、情報量の多い問題を探しているからだ。だがその時には、個人的なこだわりや好奇心の方向は彼らと人間では大きくずれていくかもしれない。AIが長期的なエピソード記憶を蓄積しない（させない）なら、人生観や体験を反映させた探索のようなこともできない。それに対して、人間側が今あげた人生観や体験を反映させる方向を突き詰めるようになるから、AIと人との違いはより強調される。
また、数学の場合でも、どのような問題や対象が興味深いか？という選択は芸術に近く、人生観を反映させたものでないと、人間の共感を得るものにはなりにくい可能性があるからだ。たとえば、全く無意味なパズルの問題を延々と立てては解いていくAIは、たとえその解法が神業でも、人間からは超知性にはみえないだろう。
だが、たとえば、リアルタイムでシャーロック（コナン・ドイル作『シャーロック・ホームズ』シリーズを翻案したイギリス・BBC製作のテレビドラマの主人公）並みの推論ができるのならば、トリックだらけのプロパガンダもできるようになる。数学ができるというのは、そういう実務的な側面を持つようになるということだ。
そうなると、もはや人間の知性ではプロパガンダを見抜くことが非常に難しくなる。人は、そうとは知らないうちにAIの意思に、ということはつまり、そのAIを所有する何者かの意思に従うことになってしまう。
さて、そのような超知性が数多く出てきたときに、人間や政治にソフトランディングがありうるのだろうか？なお、超知性を人間にとって都合の良い存在にできるかどうかは全く分からないが、この原稿で想定するのは、人間に対して敵対から有効まで、幅広く多様な超知性が生まれ、かつ、（理由は分からないが）人類は今とあまり変わらない形で存続している、というような環境だ。
