Within thirty years, we will have the technological means to create superhuman intelligence. Shortly after, the human era will be ended.
Is such progress avoidable? If not to be avoided, can events be guided so that we may survive? These questions are investigated. Some possible answers (and some further dangers) are presented.
The Coming Technological Singularity:
How to Survive in the Post-Human Era
by Vernor Vinge
(1993)
https://www-rohan.sdsu.edu/faculty/vinge/misc/singularity.html
What is The Singularity?
(sk)
Vernor Vinge が「The Coming Technological Singularity: How to Survive in the Post-Human Era」を書いてから、もう22年。
富をどう分配するかという社会システムのモデルが出てこないうちに働かずに遊んで暮らす人たちばかりになってしまうと、ほんとうに一部の金持ちとほんとうに多くの貧しい人たちという社会に突入してしまう。
そうなれば、貧しい人たちのなかに不満が高まり、そのなかの優秀な人がシステムを壊し社会を壊滅させ、それが人間という種の終わりになるというのが、1990年代に AI を研究していた人たちが描いた未来像だった。そして今、それが現実になろうとしている。
技術がエクスポーネンシャルに進むのに合わせ貧富の差がエクスポーネンシャルに広がる時、その変化を止めることは誰にもできない。政府の役人とか大学の学者たちが気付かないあいだに、新しいコントローラーが現れてしまう。はたしてそれは、いつ起きるのか。
今のアメリカや中国の議論は、ヨーロッパや日本での議論と比べ、間違いなく20年は進んでいる。人が増えようが減ろうが、働こうが働くまいが、とにかく富を握る一部とそれ以外の大勢という社会がそこまで来ているという一点で、もう遅い気がする。
恐竜が死に絶えた原因が外にあったのと違い、人間が死に絶える原因は内にあるのではないか。自滅という言葉は、確かに人間によく似合っている。