|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
井出 薫
コンピュータは嘘を吐くことがあるだろうか。「日本の首相は安部晋三である」というデータが記憶され、かつ、日本の首相が誰かと尋ねられたとき（例えば）小泉純一郎だと答えるようにプログラムすることは簡単だ。だが、それは嘘を吐いたことにはならない。単にプログラムに従い記憶されたデータと異なる答えをしたに過ぎない。 コンピュータが間違うことはある。プログラムのバグ、ハードウエアの故障などで間違った計算をすることがあるばかりではない。メモリ容量は有限だから、コンピュータは測定値から小数点ｘ桁未満のごく小さな数を切り捨てて計算する。通常誤差は小さく問題は生じないが、カオス的な現象を解析するときには切り捨てた小さな数が計算結果に大きな影響を及ぼし事実と全く合わないこともある。気象予報の精度がコンピュータを使ってもなかなか上がらないのも、気象現象がカオス的な振る舞いをするからだ。 コンピュータは人間よりも遥かに正確だが人間と同様に間違うことがある。しかし嘘を吐くことはない。 嘘を吐くとは、自分の記憶や知識・信念と違うことを「故意に」語る（あるいは書く）ことを意味する。人間は誰でも嘘を吐くことができるが、コンピュータはできない。なぜならばコンピュータは「故意」に何かをすることができないからだ。コンピュータは故障やカオス現象の解析で偶発的に間違った回答をしたり、プログラムに従い間違った回答をしたりすることはあるが、故意に間違った回答をすることはない。 しかし、この議論は、人間は自由だがコンピュータは自由ではないということを暗黙のうちに前提している。「故意」とは他にも選択肢があったのに、自由な判断で該当の行為を選択したことを意味する。私は安部晋三氏が日本の首相であることを知っていながら、日本の首相は小泉純一郎だと答えた。私は正直に答えることもできたが、自由な判断に基づいて敢えて嘘を吐いた。しかし、コンピュータが日本の首相は小泉純一郎だと答えたのは、プログラムにそう答えるように記述されていたからであり、コンピュータが自由意志で嘘を吐いたのではない。コンピュータには自由はなく、小泉氏が日本の首相だと答えるしかなかった。だから、それを嘘だと言うことはできない。これがここで展開してきたロジックだ。 だが、本当に人間には自由意志があるのだろうか、ただそういう風に見えるあるいはそう信じているだけで自由意志などないのではないか。これは古代からの難問で、誰もが納得できる答えを発見した者はいない。脳科学の進歩は著しいが、それでも人間は脳のことをほとんど知らない。本当は、コンピュータと同じように、脳には一定の条件が成り立つとき嘘を吐くように記述されたプログラムが内蔵されているのではないか、ただそれを知らないから自由な意志で嘘を答えたように錯覚しているだけではないか、こういう可能性を否定できない。 だとすると、コンピュータは嘘を吐かないと断定することは間違いで、コンピュータも嘘を吐くと答えた方が正しいのではないだろうか。 ところがそうではない。「嘘を吐く」とは脳の状態や働き、あるいはコンピュータの動作に代表されるようなロジックの問題ではない。私たちは、脳の構造や機能も、コンピュータも、数理論理学も全く知らない遥か昔から「嘘を吐く」という表現を使ってきた。「嘘を吐く」ことの意味は、脳科学や数理論理学で決まるのではなく、長い歴史を持つ私たちの文化で決まっている。だから、脳科学や数理論理学を使ってコンピュータが嘘を吐く可能性を肯定することはできない。 私たちは、「嘘」という概念をこれまで人間だけに適用してきた。私たちはコンピュータに「嘘を吐く」という表現を使用する文化の中で暮らしているのではない。だから、コンピュータは嘘を吐くことはないと答えるのがやはり正しい。 だが、嘘を吐くことが科学的な基準で決まるのではないということは、いつの日か、私たちがコンピュータも嘘を吐くという表現を違和感なく使える日がくるかもしれないことを示している。昔の人は狐や狸が人を化かすと信じていた（本心から信じていた訳ではなかったと思うが）。今でも狸や狐が人を化かすという表現は使われているが、今では、それは比喩的な表現、ある種のジョークとしての意味しかない。言葉の表現とその使用方法は時代とともに変わっていく。コンピュータやロボットがより一層進歩して人間に親しいものとなったとき、私たちは（比喩的な意味ではなく、本心から）コンピュータが嘘を吐いたと語るようになるかもしれない。そして、そのとき、私たちはコンピュータに自由意志あるいはそれに類したものを認め、事によってはコンピュータを罰することになる。 映画「２００１年宇宙の旅」で宇宙船の船長は宇宙船を制御するスーパーコンピュータＨＡＬに意志と感情の存在を認めた。そして、船長とＨＡＬは互いに相手を倒すために騙し合い、共倒れになる。そこではコンピュータＨＡＬは嘘を吐く存在であり、同時に罰すべき存在となっている。 コンピュータが嘘を吐くと人々が本気で考える時代、それは余り心地よい想像ではないが、そういう時代が来るかもしれない。だが、それまでは、脳科学やコンピュータサイエンスに新たな発見があったとしても、コンピュータが嘘を吐くことはない。 了 （補足） 雷の正体を知らない時代から人々は「雷」という言葉を使ってきた。しかし現在では雷が電磁現象であることが判明しており、人々は科学的な基準に従い「雷」という表現を使用するようになっている。だから、今のところ科学的な基準で意味が決まるのではない「嘘を吐く」という表現も、科学が進歩して嘘を吐いているときの脳状態が分かるようになれば、「嘘を吐く」という表現を科学的な基準に従い使用することになると指摘する人がいるかもしれない。 しかし、そうはならない。雷は感覚で捉えられる外的な現象だが、「嘘」は人々のコミュニケーションの中で意味が決まるもので、自然科学の対象ではない。ただし、人々が過激な科学万能主義に走り、脳の状態を検査して「嘘を吐く」という表現を使うようになる可能性もないとは言い切れない。そのときは、脳の状態との論理的同一性に基づき、コンピュータが嘘を吐いていると表現するようになるかもしれない。だが、そのような悪夢が現実になることはない（と信じたい）。 |