AIに倫理を問うとは？

2023/07/31

★アンコール掲載（初掲：2019/07/12）★

ここ数年またAIがブームとなり、新ビジネス待望論から「シンギュラリティー」に代表される脅威論までが入り乱れ、書店にも『いまこそ知りたいAIビジネス』から『人工知能は私たちを滅ぼすのか』まで多種多様な書籍が並び、テレビでもAIが「天使か悪魔か」と問う番組が流れている。すでにコールセンターや自動運転車などへの実用化も進み、最近の専門家のもっぱらの話題は、社会に普及させる夢より、普及の阻害要因にもなるかもしれない現実にどう対処するかに移っている。

あらゆるものにAIが組み込まれていくに従い、雇用の喪失の不安ばかりか、顔認識に人種のバイアスがかかっている、自律的に攻撃を行う兵器が開発されている、と人間の理解を超えた新しいテクノロジーの持つ不安な側面が徐々に明らかになってきたからだ。特に深層学習を駆使する最近の応用では、AIが出す結論の正当性や因果性を明快な論理で説明できなくなりつつある。これらを受けるように、EUやOECDを始め、各国でAI利用にともなう倫理が問われ始め、日本でも人工知能学会が倫理指針を出す時代がやってきた。

しかしこの倫理、つまり「人として守り行うべき道」の、「道」を具体的に示すことは難しい。ある時代や地域の倫理は、宗教や政治的立場が異なれば真逆の評価になることさえあり、AIを応用した自動運転でも、事故が不可避な状況で子どもと老人のどちらを助けるか？など、結論が出せない問題も多々出てくる。

昔なら、倫理の判断を神に委ねることもできたが、近代の世界では信仰や観念より、新しいテクノロジーが起こす予測不能なトラブルに備え、保障問題まで視野に入れたより実践的な側面が注目を浴びるようになってきた。欧米ではアンドロイドに人権を認めるか、洗礼すべきか？と神学論議さえ起きているが、現在業界で論議されている内容は、これまでITのセキュリティー問題で指摘されていた安心・安全論議の延長線上でしかない側面もある。

多くの新規テクノロジーは、それ以前の社会の仕事や風習までを大きくゆるがし、往々にして発明者の意図とは違う結果を生んできた。「ダイナマイトは千の世界会議より迅速に平和に導く」（アルフレッド・ノーベル）、「マシンガンで戦争は不可能になる」（ヒラム・マキシムは）と、戦争の道具を発明した人々は平和に貢献すると高らかに宣言していた。また「コンピューターは全世界で5台ぐらいしか売れないと思う」と言ったIBMのトーマス・ワトソンなど、当の専門家自身がテクノロジーのもたらす効用や影響力を正確に理解しているとは限らない。ましてや核戦争後に生き残るためのインターネットが、ショッピングやSNSによる個人の情報発信や、アラブの春のように国家体制まで揺るがす道具になることを予想した人は誰もいなかった。いくらAIの開発者が、人間の知能を模倣することで人類に貢献しようとしても、それが単純に良い結果を生むなどと誰が断言できるのだろうか。

新しいテクノロジーの出現は歓迎されることもあるが、それを使えない旧世代や反対勢力にとっては、既存の体制を揺るがす不安材料でしかない。マラリア根絶のためのDDTが自然を破壊し、品種改良のための遺伝子操作穀物は、長期的にどんな結果を生じるか誰も検証できてはいない。こうした長期的な仮説上の不安を、疑わしければすべて禁止する「予防原則」で対応する流れも加速し、デジタル分野でも欧州のGDPRなどが米中心のGAFAの覇権を牽制しようとしている。AIについても、どんな負の効果をもたらすかわからないから禁止すべきだ、という論がこれからもいろいろな場面で出てくることだろう。

しかし、もともと予想不能な未来に対して、その効果が明確でない新しいテクノロジーを全面禁止するという態度は正しいのだろうか？　歴史的に少しでも社会的に禁止されたテクノロジーは、石弓から銃、ワクチンやコピー機まで多々あり、近年ではコンピューターやインターネットの利用もイスラム圏や共産圏で制限されたり禁止されたりしてきた。しかしこれらの効用はマイナス面を上回り、ある国で禁止されたテクノロジーが他国で使われれば新たな格差を生むことにもなる。

AIの倫理を論じることはかまわないが、多くの綱領や決議は、悪く言えば技術者が「社会的自覚は持っていますよ」という言い訳がましい精神論が多い。それらは無益ではなく、それらを基準に努力目標を置くことで、より高品質で安全な製品が出せるに違いないが実質的ではない。また倫理的善悪の議論も、実際の運用におけるポイント付与などを行うアルゴリズムで判断するなど、客観的な判断をする試みも始まっているがまだ道は遠い。

人類の歴史を振り返るなら、イノベーションはそれ以前の社会を徹底的に破壊して、その瓦礫の上に新しい何かを打ち立てている。倫理を盾に恐れることは大切だが、それを正面から受け止めて自らを変え、単純に善悪の判断をするのではなく、柔軟に新しいルールを作って適応していくことこそが、人類の進化の定めに相応しい方法ではないか。

服部桂　ジャーナリスト

1951年生まれ。早稲田大学理工学部で修士取得後、1978年に朝日新聞社に入社。84年にAT&T通信ベンチャー（日本ENS)に出向。87年から89年まで、MITメディアラボ客員研究員として未来のメディア研究。科学部記者や雑誌編集者を経て2016年に定年退職。関西大学客員教授。早稲田大学、女子美術大学、大阪市立大学などで非常勤講師。

著書に『人工現実感の世界』（工業調査会）『人工生命の世界』（オーム社）『メディアの予言者』（廣済堂出版）『マクルーハンはメッセージ』（イースト・プレス）『VR原論』（翔泳社）。訳書に『デジタル・マクルーハン』『パソコン創世「第3の神話」』『ヴィクトリア朝時代のインターネット』『謎のチェス指し人形「ターク」』『チューリング情報時代のパイオニア』（以上、NTT出版）『テクニウム』（みすず書房）『＜インターネット＞の次に来るもの』（NHK出版）など多数。

参考：