進化するロボットと人間社会との関係②
－ロボット工学三原則 －
2010年10月NHKスペシャルで「無人戦闘機―貧者の兵器とロボット兵器」を見て驚いたことを思い出しました。安全な米軍の施設の中で無人戦闘機に搭載したカメラが捕えた映像をモニターで見ながら操縦士が戦闘機を操り、標的を攻撃するのです。現実は、テロリストの顔まで識別できる程の高性能カメラ画像を見つめ、確実に仕留めたかどうか確認するために着弾して人間が粉々になるシーンまで見続けなければならないことによって心的外傷ストレス症候群（PDSD）に陥る兵士が少なくないとのことですが、当時はまるでテレビゲーム感覚で戦争しているように感じて戦慄を覚えました。
米国が最初に無人戦闘機で人を殺害したのは2010年のアフガニスタンとされています。今では、無人航空機（USV）市場に、欧米やイスラエルの大手メーカーに加え、北欧やパキスタン、中小零細企業までが参入し爆発的な勢いで市場は拡大しているそうです。
しかし一方で、国連人権理事会が依頼した専門家チームの調査では、2004年以降パキスタンの3ヵ国で少なくも479人の民間人が犠牲になっているとのこと。パキスタンでは死者2200人のうち少なくとも400人が民間人、さらに200人が非戦闘員、アフガニスタンの死者は58人、イエメンでは少なくとも21人という調査もあり、リビア、イラク、ソマリア、パレスチナ自治区ガザでも調査を進めているそうです（10/23朝日新聞）。
今年2月TEDカンファレンス、ＳＦスリラー作家ダニエル・スアレース『殺しの判断をロボットにさせてはいけない』（Eテレ10/28放映）のプレゼンテーションには、もっと大きい恐怖を感じさせられます。「人間殺害の決定をロボット自体が行う完全自律型殺傷機能」について語られているのです。2012年11月に米国防総省が、すべての殺害に関する意思決定に人間の介在を義務付ける命令を出しました。しかし、これは、技術的には人を要する訳ではなく、そこに人間を介在させることをわざわざ選択したことを意味します。
スアレース氏は、遠隔操作の無人機が一旦配備されてしまうと、意思決定を人の手から兵器そのものへと押しやる要因を３つ挙げています。
１）
無人機が撮影する映像が膨大になること（2011年には30万時間）。人間が確認できる量をはるかに上回り、視覚情報分析ソフトの力が必要となり、機械が人間に注目すべき所を指示するようになる。
２）
電磁波による妨害（2011年イラン軍によるGPS信号のなりすまし攻撃で無人機と遠隔操作者との通信が途絶えてしまった）。これに対抗するために、無人機が作戦目的を把握し、人間の導きなしに新しい状況に対応するようになるだろう。
３）
まことしやかな関与否定。グローバル経済の中、無人機の設計が工場で模倣され裏市場へと拡散する可能性も高い。小国家や犯罪組織、民間企業、さらに有力な個人さえ入手でき、匿名での攻撃が可能となるので、見えない敵との戦いになる。
また、途上国よりハイテク社会の市民の方がより大きくロボット兵器の危険にさらされている、と指摘しています。自律的兵器が標的を探すための絶好な材料は、「データ」。携帯電話の位置情報、電話の会話から集められるメタデータ、ソーシャルメディア、電子メール、金融取引、交通機関や移動のデータなど、膨大なリアルタイムデータが蓄積されているからだと。
完全自律型の無人戦闘機は民主主義の危機を招くだろうと、憂慮しているスアレース氏はこう結んでいます。
「私たちは 殺人ロボットの開発と配備を禁止する必要があります。 戦争を自動化する誘惑に負けないようにしましょう。
独裁政府や犯罪組織は間違いなくその魅力に屈するでしょうが、 私たちはその同類にならないようにしましょう。自律ロボット兵器は、あまりにも強力な力をごくわずかな人の手に集中させることになります。
そして、 民主主義制度を蝕むものになるでしょう。 民主主義のために殺人ロボットは、フィクションだけのものにしておきましょう」
ここで今一度、SF小説短編集『われはロボット』（1950）で著者アイザック・アシモフが唱えた「ロボット工学三原則」を振り返ってみたいと思います。
第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
トゥルース・アカデミー代表 中島 晃芳
◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇
0 件のコメント:
コメントを投稿
注: コメントを投稿できるのは、このブログのメンバーだけです。