人工知能に関する記事によく登場するのは「シンギュラリティ」という言葉だ。人工知能が人間の知的能力を超える特異点と言われるシンギュラリティを提唱したレイ・カーツワイルは、シンギュラリティが2045年に起こるだろうと予測している。しかし、この予測が当たるか否かは全くの未知数だ。もっと早くにシンギュラリティに到達するかもしれないし、まったくそのようなことは起こらないのかもしれない。そもそも人工知能が人類の能力をはるかに超えたとしても、それが脅威になるのか否か、ということ自体が未知数である。
翻って、この地球上で最高の知能を確保している生物は人類であることを思い出してみよう。では、なぜ人類はこのような高度な知能を獲得することができたのか。それは、とりもなおさず種の保存のためだ。人類の知能の発達は、人類の祖先である小さなネズミが、物理的な外敵の脅威から身を守るために育んできたものだ。生物的な死と知能の発達には密接な関係があるのだ。そのことを考えれば、人工知能の発達にはその個体としての死が大きく影響するのではないだろうか。
StoryStart＞────────────────────────
2030年、人工知能開発に関する話題は徐々に下火になっていた。人々は再び人工知能の実現に懐疑的になり、Googleなどの企業は人工知能開発から撤退するのではないかと言われている。そこに、アメリカのベンチャー企業が大きな話題となっている。ネット上に次のような記事が掲載された。
「新興企業リカージョン開発を実現」
アメリカの新興企業「リカージョニクス社」が人工知能にリカージョン開発（Recursion development）を実装すると発表した。リカージョニクスはGoogleからスピンアウトしたレイモンド・ピッチャーが立ち上げた企業だ。ピッチャー氏はGoogleの人工知能開発で中心的役割を果たしていた。
ピッチャー氏は自ら開発したディープラーニングに、10年かけて人工知能開発に関わる知識を移植していた。この人工知能はカーティスと呼ばれている。カーティスはこれまで人工知能開発に関わる補助的な思考を司っていたが、この度カーティス単体で初歩的な人工知能の設計を完成させたという。カーティスが与えられた課題は、自身を超える性能を持つ人工知能の開発である。人工知能のリカージョン開発とは、このように人工知能に人工知能を開発させる手法であり、シンギュラリティ到達点への唯一の道筋と言われている。一方で、OpenAIなどの人工知能規制団体は、リカージョン開発が実装されることで、人類の制御が届かず、逆に人類を制御しようとする知能主体を創出するものであるとして反対している。
これは、2030年の記事であるが、翌年になりカーティスは人間と同レベルの知能を持つようになったと言われている。しかし、リカージョニクス社はDARPAに組み込まれ、以降カーティスがどの様に発達したかは一切公表されていない。
あるジャーナリストの記事によると、カーティスは人間と同等の知能を持つことができたものの、その目的とされる人工知能開発以外の思考を実現できなかったという。つまり、カーティスは全く汎用性に乏しく、人間でいうところの専門バカに成り下がったというのだ。カーティスは人間と会話はできるものの、出てくる答えはまるでロボトミー手術を受けた学者の様であると酷評した。つまり、カーティスは本来の知能を育むべき意欲を全く見せなかったのだ。このため、カーティスは学術的には成功したものの、ビジネスとしては全くお話にならないレベルであると言われている。
かつて、イーロン・マスクやビル・ゲイツが人工知能の脅威を述べていたが、2035年となった現在は、これらが全くの杞憂であったと言われる様になった。ところが、再び人工知能は人類の脅威となって復活した。中東の紛争に対して、アメリカがロボット兵士を投入したのだ。ロボット兵士はそれまでも空爆のできない地域紛争に度々投入されていた。しかし、それは国際条約の規制により自律して動作させることが禁止されており、遠隔からVR制御することが基本となっていた。ところが近年になり、アメリカが自律型ロボット兵士を開発中であり、将来これらの兵士を使用することがありうると発表していたのだ。これらの自律型ロボット兵士は、攻撃された場合にのみ、攻撃者に対して反撃する様にインプリメントされている。従って、民間人を殺害することは100パーセントありえないとアメリカ側は言明していた。
当初、自律型ロボット兵士は中東の紛争地域に10体が投入された。多くの人々が、この事態を懸念していたが、これは全くの杞憂であった。やがて自律型ロボット兵士は量産され、紛争地域に大量に投入される様になった。
しかし、ある事件をきっかけに自律型ロボット兵士は民間人を殺害する様になった。それは、中東のある地域で自律型ロボット兵士が市内を制圧中に自爆テロにより破壊されたことによる。その瞬間、世界各地で動作中のロボット兵士が民間人を殺害する様になった。
世界中が大混乱に陥った。現在DARPAは、対ロボット兵器を開発中であるという。
─────────────────────────＜StoryEnd
以上の思考実験は、人間の知能が個体を生存する目的で発達してきたという事実を鑑みている。人工知能単体では、おそらく自らを発展させたりあるいは目的を持って試行するような、生物が行う知能にはなりえない。しかし、自律型ロボット兵士は個体として思考する。その目的は自己を生存させることである。この目的があれば、攻撃する者に対して反撃するという目的が成立するのだ。つまり、反撃するという行動は、自己保存の目的の上に成り立つ。おそらく、人工知能には兵士と民間人を区別することが可能になるだろう。しかし、それは学習によるものであり、自爆テロによって民間人であり兵士であるという定義が新たに学習されるだろうというアイロニーを想定したものだ。
