☆ 技術の価値と限界 ☆

井出薫

 1月5日の午前、突然、「ぶいよ、ぶいよ」と鳴る緊急地震警報の音に驚かされた。携帯電話を個人用と業務用の2台持っているので、両方が同時に鳴る。さすがに鈍い筆者でも気が付く。ちょうど、建物の外に出たところで、すぐに建物に戻った。しかし暫くしても揺れは襲ってこない。近くのテレビで確認したところ、茨城県で震度3とのこと。震度3では警報はでないはずと首を傾げたが、ほぼ同時期に富山県でも震度3の地震があり、二つの地震を一つの地震と見誤ったシステムが緊急地震速報を出したらしい。

 大地震の徴候を見逃すと問題だが、小さな地震を大きく見誤るのは実害がほとんどない。避難して損したと不満を言う者もいるだろうが、大した手間ではない。避難訓練をしたと思って、適切な行動をとったかどうかを点検すればよい。それはいざと言うときに必ず役立つだろう。大地震が起きた際、緊急地震速報を受信してから行動したので間に合うのかという疑問を持つ者もいる。しかし建物や電柱の倒壊、看板や窓ガラスの落下などは地震発生と同時に起きるのではなく遅延がある。津波などは1時間くらい後からやってくるから、沿岸部の住民は緊急地震速報を受信すると同時に行動を起こせば、被害を減らすことができる。緊急地震速報は、今回のような誤報もあるが、十分に社会的な価値がある。これも技術進歩の賜物だと言ってよい。

 だが、同時に技術を過信してはいけないことを今回の緊急地震速報は示した。今回は小さな地震を大きな地震と見誤った。だから被害はなかった。しかし逆の場合は、被害が広がる危険性がある。揺れを感じたが、緊急地震速報が発出されないから人々が小さな地震だと誤認する危険性がある。小さな地震を大きいと誤認する可能性はあるが、逆はないということはない。大きな地震を小さい地震と誤認しないように十分な安全設計をしているだろうが、システムは設計図通りに動かないことがあるし、設計そのものに不備があることもある。ソフトウェアにバグがないことを保証する方法はない。そのことは数学的に厳密に証明されている。その意味で私たちは技術を信頼しても、過信してはいけない。

 現代の技術は極めて複雑で、手軽に持ち運べるスマートフォンでも、膨大な数の高度な技術が使用されている。タッチパネル、バッテリー、半導体素子、ソフトウェアなど多くの部品に最新技術が活用されている。半世紀前、筆者の学生時代、実生活には無縁とされた一般相対論ですら、今ではGPSに欠かせない存在となっている。そして、これらの膨大な数の要素技術はそれぞれ専門家が異なる。そして、全ての分野を網羅的に理解している者はいない。だから、どんなに慎重に設計し、製造し、試験をし、運用保全をしても、不具合が生じることは避けられない。ハードは故障する、ソフトはバグがある、人はミスをするということを前提に可能な限りリスクを減らす努力が欠かせない。

 だが、リスクの想定にも限界がある。想定外の事象が生じることを完全に防ぐことはできないし、想定外事象に完璧な対応をすることもできない。それゆえ技術には常に危うさがある。また、技術は今後益々高度化・複雑化する。人間だけでは設計、製造、試験、運用はできず、AIの力を借りないとならない局面が今後急増することが予想される。だがAI自身がリスクを孕むから、AIの開発と活用を進めれば大丈夫ということにはならない。

 それゆえ、私たちは技術に対してどのような姿勢を取るべきかについて、二つに立場が分かれる。新しい技術の導入は慎重且つゆっくりと進めるべきだという立場、新しい技術をどんどん導入して問題が起きたら後から修正するという立場、この二つだ。現在、ほとんど世界中で、企業や行政は明らかに後者の立場を取っている。多くの市民も後者を望んでいるように見える。確かに、早く導入することが期待される分野はある。また導入しないと課題が明らかにならないという面もある。たとえば治療法のない難病では危険性があっても新技術を使いたいという患者やその家族が多いだろう。自動運転車は、技術進歩が進めば、完璧ではなくとも、交通事故を大幅に減らすことができる。特にブレーキとアクセルの踏み間違いなどはほとんどなくなる。それゆえ、新技術をどんどん導入すべしという立場が間違いだという訳ではない。だがそれでも、先に述べたとおり、技術は完璧ではなく常に不具合が生じる危険性があること、技術が高度化・複雑化して人間の手に負えなくなる恐れがあること、などを考えると、技術の限界それは要するに人間の限界なのだが、に留意して新技術の導入は慎重且つゆっくりと進めるべきという意見も十分な説得力がある。

 しかし、現代の自由主義経済では、慎重論が大勢になる状況が生じることは考えにくい。そんな悠長なことを言っていたら、企業レベルでも国家レベルでも競争に勝てない。先進国や新興国では、ほとんどの国が躍起になって技術開発とその実用化を進めている。地球温暖化対策でも、ほとんどの者が、技術に過度に依存しないライフスタイルの構築ではなく、新技術による旧技術の代替で対応しようとしている。おそらく、ここにこそ、現代世界の最大の問題がある。アクセルだけではなくブレーキも必要だと思われる。ところが、環境問題に熱心な一部の者を除くとブレーキを踏む者がいない。果たして、それで問題はないのか。ただ遮二無二に前に進むのではなく、ときには立ち止まってよく考えることが求められる。そして、躍起になって前に進む者もそういう者の意見に耳を傾ける必要がある。


(H30/1/6記)


[ Back ]



Copyright(c) 2003 IDEA-MOO All Rights Reserved.