人工知能兵器について知っておくべきこと
- 2015年07月28日
- AI
アルゼンチンの首都ブエノスアイレスで開かれた国際人工知能会議でイーロン・マスクやスティーブン・ホーキングら有識者・著名人が署名したオープンレターが公開され話題になっています。オープンレターは人工知能兵器の開発競争に警鐘を鳴らすもので、Future of Life Institute（FLI）という団体から提出されました。
Future of Life Institute（FLI）はボランティア運営の研究支援団体です。ボストンに拠点を構え、人類の存続を脅かす危機を緩和するために活動しています。マサチューセッツ工科大学の宇宙学者マックス・テグマークやSkypeの共同創業者Jaan Tallinnらによって創設されました。イーロン・マスクが約１２億円を寄付したことでも有名です。
人工知能兵器は自律型兵器とも呼ばれ、人間の意思決定を介在させずに機械が自分で判断してターゲットの選定から交戦までをおこなう兵器のことです。オープンレターの定義は以下です。
自律型兵器は人間の介在を受けずにターゲットを定めて交戦します。たとえば、武装したクアッドコプターで、事前に設定された条件を満たす人間を探し出して排除できるというようなものです。人間がターゲット決定をおこなう巡航ミサイルや遠隔操作ドローンは含みません。
武装したクアッドコプターのイメージはこんな感じです。
簡単に言うと、自分で勝手に敵を見つけ出して銃を発射する殺人マシーンのことですね。
このような自律型兵器の開発状況について、オープンレターではこのように述べられています。
人工知能（AI）技術は、実際には適法ではないにせよ、数十年以内と言わず数年以内にはそのような（自律型兵器）システムの開発に至る段階にきています。そして、火薬、核兵器に次いて、軍事における第三の革命と表現されるでしょう。
もし、人工知能兵器である自律型兵器が実現した場合、どのような未来が待っているのでしょうか。
歴史的に見れば、兵器の進化は社会の変革につながります。数百年前、封建社会は甲冑とお城が強大な武力であり、支配者がその武力を用いて民衆を支配する社会システムでした。
その後、兵器の技術革新が起きます。火薬の登場です。この火薬革命によって社会が大きく変わりました。武士や騎士といった剣と甲冑を用いた戦闘のプロから、ある程度の訓練をうけた大勢の民衆へと軍隊構成が変わったのです。
軍隊の構成が民衆依存になるにつれ、指導者の民衆への依存度も高くなり、当時の社会で現在の国家体制に近い代議制が形成されはじめました。
近年、より近代的な兵器の登場で戦争は高度化。軍事行動に専門性が要求され、徴兵制を採用する国は少なくなりました。
このように、兵器の発展にあわせて社会は変貌していくものです。
そして、現在、まったく新しい兵器である人工知能兵器の実現が迫ってきています。人工知能兵器つまり自律型兵器が登場すれば、軍隊の構成から民衆どころか人間自体が排除されます。機械が判断し、戦闘する。すべての軍事行動が兵器だけで完結するのです。非常に大きな兵器革命と言えるでしょう。
大きな兵器革命は大きな社会の変化を引き起こします。今まで人類が体験したことのない社会が到来するわけです。単純に新しい種類の兵器が登場するだけというものではありません。歴史を振り返ればわかるように、自律型兵器が誕生すれば、それにあわせて社会システムが大きく変わることでしょう。
幸いにも現在は完全な自律型兵器の開発には至っていません。自律型兵器にもっとも近い兵器は遠隔操作の無人機でしょう。ただし、このような遠隔操作の無人機は自律型兵器誕生の前触れであることは間違いないのです。
たとえば、無人機から送られてくるデータの量が年々増加しているため、情報分析に人工知能の力が必要になってきています。データは攻撃対象の認識・選定に用いられる（ことが多い）ため、人工知能による自律的なターゲットの設定がおこなわれるようになるでしょう。
さらに、電磁波による遠隔操作を妨害などを避けるため、無人機はできるだけ自律的に行動することも求められます。
また、自律型兵器は人間と違って匿名性を維持しやすいので、小国家、犯罪組織、民間企業などの小規模な組織にとって非常に有効な兵器となります。人間の国籍や所属を隠すことよりも、自律型兵器がどこで生産され誰に購入されたのか隠蔽することのほうが簡単だからです。これによって、軍事的強者による報復を回避することが可能になります。
現代社会において、私たちは様々なデータに囲まれて生きています。携帯電話の位置情報からSNS、交通機関の移動データなど。これらのデータはすべて人工知能兵器にとって非常に有益な情報となります。攻撃目標の選定から、追跡、交戦のタイミングなど軍事行動に必要な情報が詰まっているからです。ということは、社会が高度になればなるほど人工知能兵器が有効な兵器になるということです。
つまり、人工知能兵器の需要は非常に高く、今後もその需要は増加するということです。
人工知能兵器つまり自律型兵器の需要が高いということは、開発者の前には莫大な利益がぶら下がっているということです。結果として、開発競争が激化する。このあたりについて、オープンレターでは以下のように述べられています。
軍事大国が人工知能兵器開発に突き進みはじめた場合、世界的な軍事競争は事実上不可避となります。そして、この技術的軌道の終点は明らかです。自律型兵器は未来のカラシニコフ銃となる。核兵器と違って、それ（自律型兵器）に高価であったり入手難易度の高い素材は不要です。つまり、すべての主要な軍事的組織が大量生産できるほど安く、普遍的になるのです。ブラックマーケットに並び、テロリストや民衆を効率的に統制したい独裁者、民族浄化の実行を願う部族軍長などのもとへ流れるのも時間の問題です。
人工知能兵器の実現と氾濫が社会を混沌へ陥れることは誰が見ても明らかでしょう。しかし、人工知能兵器を実現させるテクノロジーは否応なしに発展します（人工知能は軍事に限定されず汎用性の高いテクノロジーだからです）。需要もあります。そこで、人類はこの新しい兵器について早期に価値判断を下す必要があります。価値判断を下し、コンセンサスを形成して、ようやく具体的な対策がはじまるからです。
ということで、最後に、人工知能兵器競争についてオープンレターで述べられている結論とイーロン・マスクの判断をご紹介して終わりにしたいと思います。繰り返しになりますが、イーロン・マスクの署名入りのオープンレターです。つまり、彼も同じ判断を下したということですね。
私たちは軍事的な人工知能兵器競争は人類の利益にならないと考えます。
人工知能は様々な用途において人類に大きな利益をもたらすポテンシャルを秘めていますし、この（人工知能の）領域のゴールはそうであるべきです。軍事的な人工知能兵器競争は良くない考えだというのが（私たちの）結論です。
軍事的人工知能兵器競争に反対の方はこちらのオープンレターを署名を。
If you’re against a military AI arms race, please sign this open letter:
http://t.co/yyF9rcm9jz
— Elon Musk (@elonmusk) 2015, 7月 28