人間は人工知能を制御できるか
前回、人工知能の倫理の問題について少し触れました。人工知能を開発するのはいい。でもぼくが人工知能ですごく気になっているのは、人工知能が最終的に人間を超えて、人間が人工知能をもう制御できなくなってしまう心配はないのだろうかということだ。
こういうと、そんな心配はないという人もあれば、それは十分にあり得ることだという人もいる。科学に携わる人でもそうなので、ぼくのような素人は、ますます心配になる。
ぼくはそうは思わないが、人間が人工知能に支配されてもいいということなら別問題。人工知能のおかげで、人間が平和で豊かな生活を送り、いつでも幸せになれるのなら、それでもいい？
ぼくには、ちょっとそうは思えない。
幸せと感じるのは、人それぞれ異なると思う。それでも人工知能は、みんなを幸せと感じるようにしてくれるのかどうか。
ぼくは、人生において幸せと感じないこともあるのは重要だと思う。いつも幸せ感があるだけでは、人生つまらないとも思うがどうだろうか。
あるいは、自分で何も考えず、すべてを人工知能に任せればいいので、苦労しなくて済む。楽じゃんと思う人もいるかもしれない。
それこそ、人工知能に従属してしまうことになる。でもそのほうが楽で、幸せと思う人もいるのは確かだと思う。
人工知能は技術的なもので、人間の感情を技術的に作用させるものではない。人工知能によってもたらされた技術と成果を人間がどう使い、どう感じるかということになる。
技術の成果によって、人間の感情をコントロールできるようになる可能性があるのも確かだ。
人工知能が将来、どういうものになるかまだわからない。だから、今からいろいろ心配しても仕方がないという人もいると思う。
でも、だからこそ心配なのだ。今の段階から人工知能を開発する目的、枠組みをしっかり決めていかないと、人工知能がどういうものになるかわからないまま開発することになる。それでは、開発が暴走する。
それが心配だ。
ただ、その前提条件を今の世代だけで決めるわけにもいかない。人工知能は将来のもので、時間のスパンが長い。その前提条件は、これから続く世代によって変更される可能性も残しておかなけれならない。そうしないと、世代間において民主主義は成り立たない。
人工知能をもう制御できなくなって、後の世代で変えようがないようでは困る。
今、民主主義は同時代人においてしか成り立っていない。でも人工知能のように時間のスパンの長いものが出てくると、世代間で民主主義をどう成り立たせるかも考えなければならない。
これも、人間が人工知能を制御できるかどうかと同様に、重大な課題だと思う。
人工知能が出てきたら、民主主義なんてもう関係ないよとはならないようにも期待したのだが。。。
（2020年1月09日、まさお）
関連記事：
放射性廃棄物と民主主義
Leave a Comment