|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
現代のＡＩが脅威なのは予測不可能性を孕んでいるからだ。ＡＩの研究者たちはＡＩの開発速度を遅らせるべきだと進言している。さもないと予測不可能なとんでもない事態が起きかねないからだ。 予測可能なことは恐ろしくない。幽霊は怖いが、出る時刻と出る場所が確定していれば怖くない。たとえば毎週水曜日夜１０時から１１時までの間、○○池のボート乗り場に出没すると分かっていれば、臆病者はその時刻そこに近づかなければよいし、好奇心の強い者は１１時近くになって近寄ればよい。怖い目にあっても１０分もしないうちに幽霊は姿を消す。一方、いつどこにでるか全く予測が付かず、かつ頻繁に現れ悪さをするとなると人々はパニックになる。熊の恐怖もそれに似ている。 まさに、この予測不可能性が今のＡＩには潜んでいる。たとえば、ＡＩに自動操縦の無人戦闘機を敵国への威嚇に使え・但し攻撃はするなと指示を出すとする。人間側は威嚇するだけで戦争する気はない。相手国も戦争を仕掛けてくることはないと踏んでいる。ところが、ＡＩが自律的に状況を分析し威嚇は効果がなく先制攻撃をしない限り自国の安全を守ることはできないと判断し攻撃を仕掛けてしまう、こういうことが起こりうる。当然、そのような事態になれば敵国は激しい報復攻撃を開始することは必定で、それが切っ掛けで核兵器が使用されたり、世界規模の戦争に突入したりしかねない。 ８０年代に開発が進められたＡＩの一つであるエキスパートシステムは知識ベースを人間が構築していた。ＡＩが知識ベースを新たな情報に基づき更新することがあっても、更新のアルゴリズムを人間が決めているので、ＡＩの振る舞いは予測でき、人間がＡＩを制御することができた。しかし、現在のニューラルネットワークによるディープラーニング方式のＡＩは、ネットワークの重みづけをデータの収集、分析を通じて適宜修正していくので、人間にはＡＩが新たな学習の結果、どのような振る舞いをするかを予測することが困難になっている。だから、上のような異常な事態が起こりうる。 ある意味、これはＡＩが人間に近づいていることを示している。店の番を頼んだ者に「店の商品に絶対に手を出すな」と命じておいても、その者が商品を盗むことがある。人間こそ地上で最も予測不可能な存在とも言える。そして、現在のＡＩは人間が孕む予測不可能性を継承しそれをさらに拡大しようとしている。ＡＩの進歩・普及とともに世界はカオスへと向かう。もちろん全く逆の可能性もある。ＡＩが人間には思いつかない優れた政策を提言し世界が安全で豊かになる可能性もある。だが、今のところ、最初の悪しき可能性の方が高いように思える。ＡＩは核兵器と違いその危険性がはっきりしないために人々はついつい油断し危険性を見逃す。しかし、一部識者が指摘するとおりＡＩは核兵器よりも恐ろしい存在なのかもしれないのだ。 了
|