ここから本文です

人工知能の反逆より人間のほうがよほど怖い。一番怖いのは頭でっかちのエリート - 湯川鶴章 湯川鶴章のテクノロジーフィクション

ニューズウィーク日本版 8/16(火) 13:48配信

<人工知能がいずれ人間に牙をむくかもしれないことより心配なのは、目的達成のためには手段を選ばない人間に人工知能を悪用されることだ。理詰めの思考を人工知能に譲り、もっと善悪の判断に敏感になれば、人間は崇高に進化できるかもしれない>

 人工知能(AI)や、それを搭載したロボットが進化し続ければ、いずれ自我を持ち、自分たちを守るため人間に牙をむくようになるのではないか。こうしたAI反逆説って特に米国で盛んで、AIが旬な話題になってきたことで、米国のニュースメディアやブログなどで、こうした議論を頻繁に見かけるようになってきた。

 僕はこれまでに日米のトップレベルのAI研究者を20人以上取材してきたが、結論から言うと、ほぼ全員がAI反逆説を頭から否定していた。

 でも研究者って僕のように評論家のような無責任でテキトーなことは言わない。なのでほとんどの研究者は「今はAIの研究がようやく前に動き出したばかりの段階。こんな初期段階でAIが反逆するようになるかどうかなんて、とても予測できない」というような表現だった。

【参考記事】AIが招く雇用崩壊にはこう対処すべき。井上智洋著「人工知能と経済の未来」【書評】
【参考記事】AI時代到来「それでも仕事はなくならない」...んなわけねーだろ

 僕は研究者じゃないんで、もっと踏み込んだ表現を使わせてもらうけど、AIの反逆説とかいうSFチックな議論て不毛だと思う。その理由は2つ。

 1つは、人間の脳ってまだまだ分からないことだらけ。分からないことだらけだから、「心」「意識」「自我」なんて概念を、脳科学的に定義することもできない。定義できないものをコンピューターで実装するなんてことは、もっとできない。

 人間は末梢神経系を含む全身に「自我」があるという考え方もあるし、「腸」こそが「脳」をコントロールしているという説もある。人間は大脳新皮質の思考脳で判断するのではなく、大脳基底核で直感的に判断するという主張もある。「心」なんて錯覚で、体が勝手に反応したことを自分の意思で動かしたと勘違いしているだけ、という話もある。

【参考記事】人工知能、「予測」を制する者が世界を制す
【参考記事】「スーパー人工知能」の出現に備えよ-オックスフォード大学ボストロム教授

 AIが発達すれば思考脳に関してはAIのほうが人間より優秀になるだろうから、人間を人間たらしめるのは「心」「意識」「自我」ということになると思う。なので、これからこうした領域の研究が進むのだろうけど、果たして全容を解明できるようになるのだろうか。「宇宙」と「人間」って、突き詰めれば突き詰めるほど宗教的な話になる。それほど奥が深い領域なので、21世紀や22世紀くらいで解明できるレベルの話ではない、というのが僕の考えだ。

人間による悪用が先

「いやいや心なんて解明できなくても、自分を守るようにAIをプログラムすればいいだけ。そうすれば、結果的に人間に牙をむく可能性がある」という主張もある。でもそれならそのプログラムに「ただし人間を守ること」という但し書きのようなコードを書き込めばいいだけだと思う。

 この議論が不毛だと思う2つ目の理由は、AIが自我を持つようになるほど発達する前に、悪い人間がAIを悪用する可能性があるから。そっちのほうがより現実的で、すぐにでも起こりうる脅威だと思う。



 非常に進化したAIを搭載したロボット戦士やドローンを大量に生産した国が、戦争で全戦全勝するようになるだろうし、株価の変動を人間より正確に予測するAIを開発した会社が、世界中の富を手中におさめるようになるかもしれない。

 AIによる世界征服を心配する前に、まずはAIを使って世界征服を目論む人間のことを心配すべきだと思う。

 中でも僕が一番心配なのが、議論好きの頭でっかちエリートたちだ。どうやら人間って理詰めで物事を考えると、大事な何かを見失う傾向にあるようだ。この世の中には「この程度の善悪の判断は子供でもできるのに、なぜこんなエリートが誤った判断をしたんだろう」というようなニュースであふれている。

「頭」より「腹」を使え

 会社の利益を最優先して、ウソの報告書を国に提出するなんて、ざらにある話だし、極めつけは戦争だ。1つの民族を劣勢民族だと決めつけて収容所で殺害したり、1つの市が消滅するほどの爆弾を開発して何十万人も一度に殺害したり......。もし宇宙人が宇宙から地球の様子をのぞいていたら、地球人ってなんてバカなんだろうと思うに違いない。狂気の沙汰としか思えないことが、いわゆる「頭のいいエリート」たちの判断で実行に移されている。

 ではどうすればいいのか。「頭」でなく「腹」で決めればいいんだと思う。

 日本人は、人間には「頭」と「腹」の2つの判断器官があると感じてきた民族だと思う。そしてより重要なのは「頭」ではなく「腹」だと考えてきた。「頭にくる」と判断を誤り、物事を深く理解すると「腹落ち」する。日本語は、腹の重要性を示す表現であふれている。

「頭」の部分はAIのほうが優秀になるのだろうから、われわれ人間は「腹」で判断する力を取り戻していく必要があるのだと思う。また理詰めで考えることをAIに任せるようになればなるほど、われわれ人間は「腹」で直感的に感じたことをより大事にするようになっていくのだと思う。

「腹」で判断するということは、どういうことなのだろうか。実際に判断するのは「腹」なのだろうか。CPUは別のところにあり、「腹」はただディスプレイの役割を果たしているだけなのだろうか。科学的にはまだまだ分からないかもしれないが、「頭のいいエリート」が地球を滅ぼす前に「腹」で善悪を判断できる人が一人でも多くなってほしいし、そうなるんじゃないかなって思う。

 AIの進化が1つのきっかけになって、人間はより人間らしく、しかもより崇高な生物へと進化するんじゃないだろうか。楽観的過ぎるかもしれないけど、僕の「腹」は、そんな風に感じ始めている。

*2歩先の未来を創る少人数制勉強会TheWave湯川塾主宰
*有料オンラインサロン

湯川鶴章

最終更新:8/16(火) 13:48

ニューズウィーク日本版

記事提供社からのご案内(外部サイト)

ニューズウィーク日本版

株式会社CCCメディアハウス

2016-12・ 6号
11/29発売

460円(税込)

TEDカンファレンスのプレゼンテーション動画

北朝鮮からの脱出
北朝鮮での幼少時代、『ここは地球上最高の国』と信じていたイ・ヒョンソだったが、90年代の大飢饉に接してその考えに疑問を抱き始める。14歳で脱北、その後中国で素性を隠しながらの生活が始まる。 これは、必死で毎日を生き延びてきた彼女の悲惨な日々とその先に見えた希望の物語。そして、北朝鮮から遠く離れても、なお常に危険に脅かされ続ける同朋達への力強いメッセージが込められている。