人工知能について語るときに僕の語ること

人工知能について最近考えていて、
けっきょく人工知能は人を幸せにするのか?というのがメインテーマなんですが、
もしかしたら人工知能があることによって人は幸せになれるのかもしれないと思った。
(僕はこれまで人工知能について否定的でしたが)

人工知能についてふっと思ってそれはそうなんじゃないか?と思ったのが、
「人工知能は社会を作らない」ということである。
もしかしたら今後社会を作るように設計された人工知能が誕生したら
それはそれで変わるのかもしれないけれど、今のところの人工知能というのは、
すべて一対一あるいは一対多を想定していて多対多という状態にはなっていないのではないかと思って。

たとえばペッパーと人が会話するという良記事を今日読んだんですが(DPZ
こういう人工知能なんらなんか悪くないかなあと思って。
思ったんですけどたとえばペッパーとペッパーを会話させるとどうなるんだろう?って。
でもそういう動画も探したら見つかった。

で、これを延長していってものすごい数のペッパー(というかペッパーでなくてもいい)を
会話させるとどうなっていくんだろう?そこに意識や社会のようなものは誕生するんだろうか?ってこと。

そうなったときに仮に社会のようなものが誕生したとして、
それはあくまでペッパー自身には「1」の集合として見えているのか「社会」として見えているのかがすごく気になりませんか?
つまり抽象的な「社会」のようなものは存在するのか?「みんな」という現象は生まれるか?

人工知能が人間を超える「シンギュラリティ」については、
本当に簡単にざっくり言うと「AIが自分よりかしこいAIを作れるようになる」ことらしいんです。
たとえそれが今のAIより1%だけ賢いものであったとしても、
AI自身の製造には人間の成長ほどの時間はかからないでしょうから。
えらい勢いで急激にレベルが上がっていくわけです。

そうなるともうマジ人間追いつけないヤバい死ぬということで、
1984もしくは2001年宇宙の旅みたいな世界観が誕生するわけでございます。

でも僕はこの定義を読んだときに
「いや?人間も人間で前の世代より少しは賢い人間を作れるようになってんじゃねえの?」
「だとするとむしろ人間こそシンギュラリティなんじゃねえの?」と思いましたが、
実際過去の人間も今の人間もそこまで考えてることが大して変わらないことを考えると、
あんまり人間というのは賢くなっていないのかもしれないなあとは思います。

でもたとえば僕らはベイズやアインシュタインより賢くはないと思うけれど、
彼らが作り出した考え方や歴史をもとに生きることができるわけです。
だから前の世代よりは少しは便利な生活を送ることができ続けているわけで。
シンギュラリティの特異なところは「それ自身の性能がアップデートしていく」というところなんでしょうね。

ちなみに僕はその後の世界のイメージとして、ジョジョ第6部の最終話みたいなスピード感を思い浮かべています。
(一応読んでいない人のために詳細は解説しない)

でも僕はそうなったとしてもなんかAIが「社会」を持てているイメージがなくて、
逆に言うと「社会」を持ってしまったらそれは停滞するんじゃないかな?という気がします。

今僕は『ルシファー・エフェクト ふつうの人が悪魔に変わるとき』という
爆裂面白い本を読んでいる、もとい読み始めたばっかりなんですが、
これを読んでいると人間が「社会」によっていとも残虐な行為をしてしまう、みたいな、
そういう話が基本的には描かれているんですね。

で、それを「人工知能」を対象に起こすことはたぶん難しいんじゃねえの?という気がして。
いや、自動的な殺戮マシーンを作ることはできると思いますよ。
でもたとえばペッパー的な感じでもうちょっと人っぽい人工知能があったとして、
仮に「良心」を定義して学習させたとしたら、「そうはならないんじゃねえの?」と思って。

でももしかすると「過剰に学習すること」でそうなりえてしまうのかもしれない。過剰な適応。
たとえばあるルール(例:ユダヤ人は敵だ)を発表したとして、
最初はみんな「いやいやユダヤ人だって良い人はいるし友達だよ」と思っているが、
中には従順にそのルールを受け入れるAIがいて、ユダヤ人を攻撃し始める数が徐々に増えてきたときに、
「これだけの人がユダヤ人を攻撃しているのだからおそらくユダヤ人には攻撃されるべき理由があるんだろう」
ということを学習してしまうとそういうことは起こり得るかもしれない。
(人工知能のみの社会で「ユダヤ人」がいるのか?というとアレですが)

今人工知能でもっとも話題になっているのは「ディープラーニング」という学習技術らしいんですが、
この「ディープラーニング」が「過剰適応」を引き起こす可能性はありますよね。
そうなるとモラルというのは破られてしまうかもしれない。

そうするとなんかここで言っている「社会」というのは
「他の人の振る舞いを参考にして学習すること」なのかもしれない。
それはおおむね合っているように思います。

となるとそういうことをAIで防ぐためには、
「たとえ社会の大勢の人がこう言っていてもここだけは守らねばならない」というルールを
いくつか制定しておく必要がありますよね。

AIであればこれはなんか基幹プログラムに書いておくことでそうできると思うんですが、
人間の場合『「たとえ社会の大勢の人がこう言っていてもここだけは守らねばならない」というルール』
自体がそもそも「社会」から与えられるものなんですよね。
だからそのルール自体が実はまあまあ破られやすいものである。
あるいはAIでも「設計者が最良のルールを設計できるとは限らないからAIの学習にまかせる」としてしまうと、
そういうことはやっぱり起こりえますよね。

どっかで人間の命令を逸脱する必要がありますが、
どこまでが逸脱してよくてどこからは逸脱していけないのかが難しい。
絶対的な参照点があるとそれは少し簡単になる。それはたとえば宗教などになるでしょう。
でもAIが集まったとして宗教を作るだろうか?企業を作るだろうか?

でも僕はこの「AIの社会性のなさ」というのが、
かえって社会に過適応してしまいやすい「人間」を補助することになれば、
それはすごくいいことだなあと思うし、むしろ人間的な社会の実現につながるんじゃないかなと思っています。
つまりAIに無理に社会性を身につけさせるのではなく、
社会から一歩離れた存在として我々を見てもらう。
そういうのが実はベストなんじゃないかなと。
それは一見すると「ロボットに監視される人間社会」なんで結局1984じゃねえかという感じですが、
それは案外その中で暮らしている人間にとっては悪くないのでは?と思ったり。

なぜそんなことが言えるのか、といいますと、
例えば目覚まし時計に起こされた時に「うわ!俺はこんな安っぽいジリジリ鳴る時計に睡眠を支配されている」とか
Googleカレンダーからリマインドが来たときに「うわ!Googleに俺の生活時間が支配されている」とか思いますか?
ということなんですね。たぶん思わない。
「人間の手でいつでもオンオフできる」という安心感さえあれば、
おそらく人工知能はどんどん生活の中に入り込んでくると思います。あとは慣れの問題です。

広告

0 Responses to “人工知能について語るときに僕の語ること”



  1. コメントする

コメントを残す

以下に詳細を記入するか、アイコンをクリックしてログインしてください。

WordPress.com ロゴ

WordPress.com アカウントを使ってコメントしています。 ログアウト / 変更 )

Twitter 画像

Twitter アカウントを使ってコメントしています。 ログアウト / 変更 )

Facebook の写真

Facebook アカウントを使ってコメントしています。 ログアウト / 変更 )

Google+ フォト

Google+ アカウントを使ってコメントしています。 ログアウト / 変更 )

%s と連携中





%d人のブロガーが「いいね」をつけました。