AIが人間を越える時

【AIは人間の脅威となるのか?】
最近、一番驚いたニュースがこちらの記事「終わりの始まり…? 独自言語で話しはじめた人工知能、Facebookが強制終了させる」です。

Facebookは人と自然に会話できるAIを開発しているのですが、その過程の中で2つのAIを会話させたところ、突然、人間が理解できない会話を始め、どうやらそれが成立している、つまり、人が理解できない言語でAI同士が会話を始めたと言うのです。

この記事の中で私が一番驚いたのは次の部分です。

「今回、独特の言語を話し始めたのは、人工知能2体の会話は英語ですべきというプログラムが抜けていたことが原因ではないかと、ネタ元のFastco Designは指摘。(引用)」。

この出来事は私たち人類に大きな教訓を与えてくれています。

それは「人間は不完全である」という変えることのできない事実を改めて突きつけられたと言うことです。不完全な人間が完全に制御できるAIを作り出すことはできない、何より思考すると言うこと自体が不完全であることの証明と言えるかもしれません。

浦沢直樹の「PLUTO」と言う漫画を読まれた方も多いかと思いますが、その中で「ロボット3原則」と言う考え方が出てきます。それは、

ロボットは、
1、人間に危害を与えてはならない
2、人間に服従しなくてはならない
3、自身を守らなくてはならない」。
2は3に優先し、1はすべての条項に優先する。
このプログラミングがある限り、ロボットが人に危害を加えることは絶対にないと言うものです。

しかし「PLUTO」の中ではロボットが人に危害を加えてしまいます。その理由は、ロボットが限りなく人間に近づいたために「感情」が生まれ、その感情がプログラミングの制御を超えてしまうと言う恐ろしく悲しい物語が描かれています。

人類は制御できないものを作り続けています。もし不完全なAIが「自らを制御できない人間そのものを制御しよう」と考えたら・・・。そこにどんな未来が待っているのでしょうか?

そしてそのAIが、人が行なっていた多くの仕事を代用していく未来がもうすぐ訪れます。

皆さんはこの事についてどう感じ、何を考えますか?