人口知能 人類最後の発明 [無断転載禁止]©2ch.net
■ このスレッドは過去ログ倉庫に格納されています
未来、人々の生活を左右する重要な決定はすべて、機械か、機械によって知能を強化された人間の手で下される。
すでに金融システムやエネルギー、水、輸送といった公共インフラは、コンピュータによって支えられている。
病院や自動車や家電の中にもコンピュータはある。
そうしたコンピュータの多くは、ウォール街で株式売買アルゴリズムを走らせているコンピュータのように、
人間の導きがなくても自律的に作動する。
コンピュータが労力を節約し、娯楽をもたらしてくれると、人々はコンピュータへ依存するようになる。
その依存度は日に日にましている。いまのところは何の問題もない。
しかし、人口知能はコンピュータに命を与え、別物に変えてしまう。
機械が我々に変わって決定を下すのが避けられないとしたら、
機械はいつそのパワーを獲得して我々を服従させるのか？
どのようにして、そしてどのくらいのスピードで支配権を奪うのか？
この記事は、こうした疑問に取り組んでいく。 科学者のなかには、その支配権の委譲は友好的、協力的に進められ、
奪い取られるのではなく譲り渡すという形になるだろうと論じている人もいる。
いわく、徐々に委譲されるのだから、それに対する妨害工作は問題を引き起こすだけだ。
我々にとって最善の道を今よりはるかに賢明に決定してもらうことで、生活の質が向上する、
そのことに異議を唱える人はいないだろう。
しかも、最終的に支配権を握る超知能AIは、人間的でない冷淡なロボットではなく、
強化された1人または複数の人間、あるいはダウンロードされて強力になった人間の脳かもしれない。
だからその権力は容易に受け入れられるはずだ。
一部の科学者が説いている機械への権力委譲は、
あなたや私がいま現在経験しているものとほぼ見分けがつかない。
徐々に進められ、痛みを伴わず、そして楽しいというのだ。 確かにコンピュータ支配へのスムーズな移行は、
目立たずに、おそらく安全に進められるだろうが、それには1つ条件がある。
この主張は知能がなかった場合の話だ。
知能が予測不可能な振る舞いを見せないのは、必ずではなく特別なケースだけだ。
人間レベルの知能を発揮するほどに高度なコンピュータシステムは、
今から追求していく理由のせいで、必ず予測不可能で理解不可能となるだろう。
自己を意識するシステムがどんな行動を取り、どのようにしてその行動を取るのかを、
深いレベルで知ることはできないはずだ。
この理解不可能さに加え、複雑性に由来するさまざまな事故や、
知能に特有のまったく新しい出来事が起きるだろう。
その1つが、後ほど説明する「知能爆発」である。 では、機械はどのようにして支配権を奪うのか？
もっとも現実性の高いシナリオでは、我々は脅かされることになるのだろうか？
有能な科学者たちにこの疑問をぶつけたところ、何人かは、
SF作家のアイザック・アシモフが提唱した「ロボット三原則」を引き合いに出してきた。
彼らは笑顔を崩さずに、AIにはこのロボット三原則が「組み込まれる」のだから、
何も恐れることはないと答えた。まるで確立された科学であるかのような言い方だった。
ロボット三原則については後ほど説明するが、
とりあえずここでは次のように言っておけば十分だろう。
ロボット三原則で超知能マシンのジレンマを解決しようとするのは、
この問題についてほとんど考えてもいないし意見も交換していない証拠だ、と。
どのようにして「フレンドリーな」知能マシンを作るかや、
超知能マシンの何が恐ろしいのかといった問題は、アシモフの凝った言い回しの範囲を超えている。
AIにかけていくら有能で熟達していても、その危険性には気づかないこともあるのだ。
このままでは大災厄は避けられないと説いているのは、私が最初ではない。
人類はやがてこの問題にひどく苦しめられることになるだろう。
この記事では次のような事柄を探っていく。
未来、我々の支配権を奪う機械は、必ずしも人間を憎むとは限らない。
しかしその機械が、我々の到達できないような、
宇宙でもっとも予測不可能で強力なパワーを獲得したら、予想外の振る舞いを示すようになる。
そしてその振る舞いは、我々の生存と相容れないかもしれない。
あまりに不安定で謎めいており、自然が一度しか完成させなかったパワー、
それが知能なのだ。 人類史上最大の発明
発明者・・・たぶん猿人の誰か
発明品・・・石器
石器が発明された時、人類が誕生した
まあ、発明者の友人知人で物凄い偉業が為された事を理解した者がいたかどうか
ゲノム編集が実用化され、遺伝子改良人間の誕生が確実になった訳だが
時代が根元から変わった事を理解出来ている者は０．０００１％もいるかな？ 人の脳は１０年なら１０年の体験と経験してきたことが
元になって構築されるわけでしょ。
その知識とか知恵の部分を補うのは難しいでしょ？
ただ、私で言えば、２ちゃんというこの場だけとってもこれに
これだけ魅せられてる時点で人間をコントロールする力は
かなり持つことになるだろうね
多くの人が人工知能に魅せられたら、出生率なんてだだ下がりだよ
間違いないｗ 人工知能の話しもっとしょうよー
これは大変な問題なのだから。。。
ばかと天才紙一重な人たちは本当に人口知能なんて
進めてるの？ ロボットがロボットを作るようになったとき
人間は終わるよね
進歩とは先のリスクと共に進まなければならないわけです。。。
あの、３つの遺伝子を持つ子どもも神への冒涜だと思うんですよね ■ このスレッドは過去ログ倉庫に格納されています
