Life SUCKS but It's FUN

音楽、IT、サブカル、アイドル、その他思いつくまま、ルサンチマンの雑記です。

【Detroit: Become Human】人は将来AIに支配されてしまう論を本気で考察してみた。

今めちゃくちゃ話題ですね。

Detroit: Become Human。

リアルなグラフィックもそうなんですが、物語自体が実に衝撃的です。

f:id:jetsetloo:20180601124410j:plain

 

このカーラがバッサリ髪を切ってですね

f:id:jetsetloo:20180601124524j:plain

 

ほら!めちゃ可愛い!!!!

 

あ、内容ですね。すみません。以後多少のネタバレ要素を含みますのでご注意ください。

f:id:jetsetloo:20180601124821j:plain

 

近未来のそう遠くないお話です。プレイヤーの選択によって多少変化はあるものの、大筋では、虐待もしくは差別を受けたアンドロイドが自我に目覚め団結し革命を起こすストーリィです。

 

近年AIが人間を支配してしまうのでは?とまことしやかに囁かれております。

一つに以前はコンピュータがカタカタと一行ずつ人力によって組み立てられたプログラムから成り立っていたのが、アルゴリズムの確立によって膨大なデータから自己学習するようになったこと。

二つ目にそれに伴いビル・ゲイツやらスティーブ・ジョブズなどの偉い人が警鐘を鳴らしたこと。

三つ目に実際に囲碁AI「AlphaGo」が碁の達人を打ち負かしてしまったこと。

 

人間より知的なAIはやがて人類を支配するのではないだろうか?という。

 

こういった考察は実はなにも今に始まったことではなく「2001年宇宙の旅」はまさにそういったテーマが盛り込まれた作品だったし、

f:id:jetsetloo:20180604160456j:plain

 

そもそも広く知られている1950年のアイザック・アシモフのロボット工学三原則

    1. 第一条
      ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
    2. 第二条
      ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
    3. 第三条
      ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

 

が出てくる「われわれはロボット」というSF作品は第三条の暴走のストーリィでした。

 

f:id:jetsetloo:20180604160853j:plain

 ミダス王は黄金を望んだ結果、愛する人も食事も金に変わってしまい、孤独と飢えで最後を迎えます。人間の探求と欲望が制御不能に陥る恐ろしさです。のび太かよ。

 

で、僕の意見ですけど、

AIを本気で研究している頭いい人たちがいまだにアシモフ理論の穴に気づかずガンガン研究を進めていると思う?んなわけないじゃん。ってことです。

 

例えばAI研究の第一人者であるスチュワートラッセル氏

f:id:jetsetloo:20180604162448j:plain

あ、関係ないけど歳取ったらこういう人になりたいよね。めちゃイケメン。

 

で、彼はアシモフの三原則は以下のように書き換えられなければならないと主張しています。

  • 第一条
    The robot's only objective is to maximaize the realization of human values. ロボットの唯一の目的は人間の価値観を理解することである。
  • 第二条
    The robot is initially uncertain about what those values ara.
    ロボットは原則的にその価値観に対して不明確である。
  • 第三条
    Human behavior provides information about human values. 
    人間の行動が人間の価値観の情報を提供するものとする。

     

一条はアシモフに反しつまりロボットは自分の存在維持に興味がないということ。二条はその最大の目的が何かを理解していないということ。そして三条はそれを人から学ぶのだということ。翻訳間違ってたらすまん。

 

結果的に彼の作っているAIロボットは人間にスイッチを切らせることができます。

 

f:id:jetsetloo:20180604163943p:plain

ミダス王の背中にもつけてやれよ、「これ押して」つって。俺が押すとボタンが金になるからさっつって。

 

まぁ僕が思うに当然AIが持っている問題というのはきちんと理解されていて正しい方向で研究開発が進んでいますよね、ってことです。そりゃそうだよね。

 

さて次の問題。

じゃあAIがDetroit: Become Humanみたいに自我を持ったらどうするのさ?って問題。

 

これは多少の科学と哲学の問題になってくるのですが、まずそもそも「自我」ってなんですか?

ここからは完璧に持論なのですが、自我とはすなわちエス (Es)を含みます。チャゲじゃないほうのじゃなくて。

 

冒頭にあげた「人間に勝った囲碁マシーン」は膨大なデータから自己学習したわけですが、じゃああなたはそいつが自我を持ってる、つまり人間と同じと思いますか?思いませんよね?じゃあなぜそう思わないの?って聞かれたら、だってロボットが勝ちたいと思って動いてるわけじゃないじゃん、って思うはずです。

 

では勝ちたい!ってのはなんなのか?これが「エス (Es) =感情、欲求、衝動、過去における経験が詰まっている部分」なんです。僕が思うにエスがあって、初めて自我があると言えると思うのです。

 

じゃあAIがDetroit: Become Humanみたいに感情をもつかもしれないじゃん。

・・・・はい。では「感情」ってそもそもなんでしょう?

 

人間の脳の働きはある程度解明されています。で、将来的に精巧にコピーすることもできるでしょう。

たとえば、

 

f:id:jetsetloo:20180604170623j:plain

こういう女の子の写真をAIに見せます。目鼻立ちとかバランスとか膨大なデータから平均値を算出し自己学習し、「かわいいですね!」って言わせることは可能です。もっと上手なこと「できたら付き合いたいっすねー」とかも言えるでしょう。

 

でも!!でもですよ。

僕らが感じる「はぁ~~~かわゆす~~~」という感覚、この写真のから受け取る情報に伴うこの感覚。

 これを「クオリア感覚質)」というのですが実はこれが科学的に全く解明できていないんです。これを「意識のハードプロブレム」といいます。

 

もっと簡単にいうと、wikiにもあるんですが、←これを赤だと認識するシステムは解明されていますが、赤に伴う感覚(暖かそうとか)は全く解明されていないんです。

 

極端に言ってしまえばバットでケツを殴られたときに、痛覚が伝達されて脳に届き、避けようとする動き、までは解明されていても「うわ!痛い!ヤダ!やめてくれ!」という感覚(クオリア)がなんなのか、わからない。

 

物理主義的に考えるのであれば、なにかがなにかに影響を与える時、必ずそこに素粒子なりなんなりのやり取りがあるはずなのです。

女の子の写真を見る→光子(フォトン)が眼球に影響をあたえる、物が落ちる→重力子(グラビトン)が影響を与える、かわいいと思わせる感覚を伝達する→????

ってことです。

 

長くなりましたけど、じゃあこの解明されていないシステムを人間がAIに搭載すること、もしくはAIが自己的に開発、搭載することが可能なのか?と言われたら僕は断じて

「否!ありえない!」

と声を大にして言いたい。わからないものは作れないし、人間が作った掃除機がいきなり空をとぶことはないんです。

 

長くなりましたが、最後に哲学的側面から。

あなたの恋人が「本当に大好き。ずっと一緒にいたい。」と言ってもそこに感情があるかないか、もしくはひょっとしたらものすごく精巧につくられたアンドロイドがプログラムで言っているという可能性の否定、これは哲学的に絶対に証明のしようがないのです。(哲学的ゾンビ

 

哲学者デカルトが言った言葉

「我思う故に我あり」

は、自分は自分だって考えてるから自分がいるって証明できるけど、他のことはなんも証明できないよね。ってことなんです。

 

つまりは仮にでもAIが意識を持ってしまった、なんてことは永遠に証明できないわけですね。

ではでは

少女閣下のインターナショナル - HAL451(HAL9000 Remix) by CRZKNY | CRZKNY | Free Listening on SoundCloud