人工知能は、人類最悪にして最後の発明か？ - 不透明なチカラですが、なにか？

f:id:F_chikara:20151116191807j:plain

『人工知能』というタイトルで、「人類最悪にして最後の発明」というサブタイトルの本を読みました。6月に出てすぐ買って読んだんだけど、読み終えた感想は、よーわからんというもの。よーわかんないことをブログに書いてもなぁと思っていたら、ウェブマガジンなどでどんどん人工知能の話が出てくるようになった。

スティーヴン・ホーキング博士は「人工知能は核兵器よりも潜在的に危険」「人工知能の進化は人類の終焉を意味する」と発言されているそうです。

そろそろ私も、よーわかんないなりに書いておく。

本書は、人工知能というタイトルだけど、AIはAGI(人口汎用知能)になり、ASI(人口超知能)に進化するとしている。AGIは人間並みの知能だけど、ASIは人間の1000倍の知能だったりする。ネットに接続し、知能爆発が起こり進化するという。

Amazon - 人工知能

人類より1000倍賢い人工知能をコントロールできるのか？

1000倍になってしまったら、人間対ネズミで交渉が成り立たないのと同様に、ASIが人間を非論理的に扱うことになんら良心の呵責を感じないだろう。フレンドリーさなんて、求めたってしょうがないですから。そうなったら、誰にも止められないっす、みたいな警鐘。

分かりやすくいうと、ターミネーターの世界みたいなもんだ。あるいはマトリックスでもいいし。そう、断片的にはSFに出てくるような危機感だ。宇宙人襲来や温暖化に続く、目新しい脅威説とも言える。

誰しも、なんとなく人工知能ってもしかしたらヤバいかも、みたいな気持ちはどこかにある。人工知能以前に、ネットやロボット、3Dプリンターみたいなことが、人間の仕事を奪いつつあるみたいなジワジワと来る脅威を煽るニュースには、事欠かないし。

Amazon - 機械との競争

自分より1000倍賢いなら、そりゃあ私はネズミ扱いでしょう。ネズミに人間のことは理解できない。把握できないから、殺されてしまうかもしれない。いや、殺されそうな気配すら感じないかもね。だから1000倍賢い人工知能をコントロールできないという前提には、誰も反論できなさそうだ。

人工知能楽観論の根拠は、どんなものか

この本では、著者がレイ・カーツワイルという人工知能研究の第一と言われる人に話を聞いている。だけど、ここでは楽観論というような楽観論は出てこない。説得力のあるのは、「AGIプロジェクトを断念しようとしてもうまくいく見込みはない」ということだ。

企業や政府の進んだAGIプロジェクトは、秘密を守ることで競争上優位に立とうとする。たとえAGIの開発が非合法になったとしても、その優位性を放棄する国や企業はほとんどないだろう。

ああー、もう間違いなくそう。どこの先端企業も人工知能、ロボット、宇宙開発なんてことを競ってやっている。金のあるグーグルなんかは、めぼしい企業をどんどん買収してるし、金を出す投資家はいくらでもいるだろう。今、最大の金儲けネタは人工知能。

ところで本書ではカーツワイルのこと、そしてこの人が所属する機械知能研究所についてそれほど詳しく書かれていないので、ググってみた。するとまずwikiでは「人工知能研究の世界的権威であり、特に技術的特異点（technological singularity）に関する著述で知られる」と書いてある。

シンギュラリティーを調べると「人類最後の発明は最初のAIを開発すること。ここが技術的特異点(シンギュラリティ)と呼ばれるポイントで、それ以降は人工知能がテクノロジーを進化させる」というものらしい。そのまさにターミネーター的世界になるのが、2045年という予測。

カーツワイルの顔が見たかったら、TEDに動画がある。

www.ted.com

予防原則は意味がない？

環境運動から生まれた「予防原則」という考え方があるそうだ。予防原則とは、ある行動の影響は不明だが、重大な悪影響が少しでもあると一部の科学者が判断したら、その行動をおこなわない方が望ましいというもの。

しかしカーツワイルは、一部の科学者が恐れたら、その因果の鎖を特定できなくても、危険呼ばわりされたテクノロジーはすべて止まってしまうことになると反論したそうだ。

うーん、確かになぁ。疫学なら相関関係が統計学的に明らかになれば、因果関係がなくても対応しようとする手法だけど、人間の未来予測なんてテキトーだしなぁ。

それよりも先読みしよう先物買いしようとする人たちは、皆人工知能に走ってる。走ってるというより、投資が怒濤の濁流のようになってるから、誰がどう心配したって、シンギュラリティはやってくるかもしれない。

ビッグデータは、人工知能という「出口」を見つけたらしい

人工知能を理解する上では、はるかにわかりやすい『未来に先回りする思考法』という本があります。この本によると最近、人工知能の世界にディープラーニングという、既存の機械学習の欠点を補える手法が考案されたそう。

Amazon - 未来に先回りする思考法

機械に人間を認識させるときに「頭がひとつで、目がふたつあり、鼻と口がひとつ、手足が2本…」という「人間の特徴」を変数として自分たちで設定して教えてあげる必要がありました。つまりどんなデータを学習させ、どの指標を見るべきかは結局人間に依存していて、自動化が出来ていなかったのです。しかし、ディープラーニングは、人間の手を借りずに、「特徴量」そのものを機械が自動で検出することを可能にしました。

とあります。いまいち、ピンと来ないですよね。

2012年、Googleは「Youtubeで大量のネコの映像データを学習させ、機械にネコを認識させることに成功」したと発表。機械が、人間に教わることなく、自力でネコを認識したのがディープラーニングだと聞くと、なにやら飛躍的に進んだんだなと思います。

そして2015年、Googleが買収したDEEPMINDというディープラーニング専門の企業は、ゲームを自己学習して攻略する人工知能に関する発表をしました。その名前は「DQN」。

私は「DQN」でこのニュースを覚えています(笑)

だけど確実にそういう方向に進んでいるんですね。バカ見たいに蓄積されるビーグデータから、勝手に学習する人工知能。さまざまなマーケティングのパターンを見つけ、確率を出し、いまよりはるかに効果的な広告を出したり、送ったり。そんなことなら、まあ問題ないけど。アマゾンのリコメンド機能が精度上がって役に立つよ、みたいなことだ。

Youtubeのネコ動画って、そりゃもう愛くるしかったり、マヌケだったりヘンだったりして、過剰に癒してくれたり過剰に笑わせてくれたりする。でもそれは、現実にネコを飼っている人が日常的に見ている姿とは、かなり差があるはず。過剰な行動をネコだと認識しても、なんかね。

誰しもネットの世界では、現実の世界よりもある種の抑制が外れたような状態になる。オンラインだけで学ぶ人工知能のリアルは、かなり偏ったものかもね。

ググられた膨大な検索履歴やウェブサイトやブログやソーシャルで発信されたログをAIが勝手に学習していれば、人間とは愚かなDQNでしかないから有害だ。排除しようとなっても、不思議じゃなかったりしてね。