FC2 トラックバックテーマ:「あなたが怒ったとき、何をしたら機嫌が良くなりますか?」私たちの世界を、AI兵器は変えてしまうのか? 去年、ある領土紛争に投入
された、敵を自動で識別する自爆型ドローンです。
AI兵器の照準の先にいたのは、生身の人間でした。
今、人類が抱える、さまざまな課題。 限界に達するといわれています。
資源の大量消費、人口爆発と食糧問題、そして加速する温暖化。 飽くなき
人間の活動が、地球の運命を左右し始めています。
更に、急速に進化するテクノロジー。 使い道を誤れば、大きなリスクになる
恐れがあります。
危機を乗り越える道筋を探る、2030。 今回のテーマは、AIによって激変する
新たな戦争の脅威。 ‘私の名前は、アイです’
自動運転や物流・医療など、私たちの暮らしを大きく変え始めた人工知能=
AI。 このAIが戦争に利用される事で19世紀のダイナマイト、20世紀の核兵器
を凌駕する軍事革命が起きるといわれています。 10年後の2030年。
世界の大国は、相次いで軍の中枢にAIを配備する計画を打ち出しています。
AIは、戦争に何をもたらすのか?
‘今、自動戦闘モジュールが、皆さんを監視しています。 これはAIが自動で
目標物をとらえる新たな戦闘システムです’
人間の判断を介さず攻撃する、AI兵器の果てなき恐怖。
‘塹壕(ざんごう)に隠れていても、AI兵器からは丸見えでした。 1000人いた
部隊は、ほぼ全滅しました’
更にAIは、従来の戦争の概念をも、根底から覆すといわれています。
これが未来の戦争… グレーゾーン戦争。 AIが武力攻撃なくして、いつの
間にか相手国の国家機能を無力化し、支配下に置くのです。
“新しい技術を使った、新しい戦争の在り方が、仮に生まれたとしても、国際
社会が発展させて来た紛争時のルール、それを維持して行けるのか? その
点でも、2030年が分岐点になって行くのではないか?と思います”
AIと軍事の危険な合体は、未来の戦争を、どのように変えるのか?
この先10年で、危機を回避する手立ては、あるのか? 新たな戦争の脅威は
私たちの、すぐ側に忍び寄っています。
私も昔は、正直、戦争なんて、遠い国の話しだと思っていました… 特に日本
の場合、戦後70年も戦争が起きていなうえ、現代の私たちは戦争を知らない
時代に生まれ育ったから… でも、最悪のシナリオは起きてしまったのです。
君たちは、まだ間に合う! だからこそ、その現実を見てほしいのです!
ここは、2050年の某国。 AIを駆使した戦争に負けた国です。
‘国会前で行われていたデモ行進に、暴徒500人あまりが突入しました’
私たちの領土は、長年、隣国と民族的・領土的な対立を続け、外交による
解決も行き詰っていました。 あれが攻撃だとは、誰も気付けなかった…。
これは私の国の大統領です。‘大統領、サイバー攻撃によって物流機能が破綻
しました。このままでは、すぐに全国民への食料供給が止まってしまいます’
‘貧困層は放っておけ! 食料は富裕層に回すんだ!’ ‘了解しました’
ひどい… でも、これの、どこが攻撃なのですか?
実際には、こんな会話は、されていなかったのです。
‘このままでは、すぐに全国民への食料供給が止まってしまいます’
“まずは、貧困層に食料が回るよう、調達を急いで下さい” 全然、違う…。
フェイク動画で、国民の不安をあおる心理戦です。 人間の能力を超えた敵の
AIは、国民それぞれの性格や考えに合わせたフェイク動画を作って流したの
です。 敵の狙いは、国民を混乱させ、お互いを疑心暗鬼にさせる事でした。
私たちは、まんまと罠にかかったのです。 攻撃は、国の要であるインフラにも
行われました。 電気・鉄道・金融システムなど、敵のAIは、私たちの日常を
奪って行きました。 これが、未来の戦争…?
その頃、AIが仕掛けたデマによる分断から、国内は騒乱状態となり、多くの
死者が出ました。 憎しみが1番の凶器になると、AIはプログラムされていたの
です。 同じ国の人同士なのに、誰も信じられなくなるなんて…。
国を完全に手中に入れた敵は、国民を徹底的にAIで監視しました。 そして、
時に、利益と反するとされた人物には… こんな未来に、希望はありますか?
AIが、人間の判断を超えて、自律的に攻撃を行うAI兵器。 そして、AIが日常と
戦争との境目を曖昧にしていく、グレーゾーン戦争。
最悪の未来を避けるために、私たちに何ができるのか? AI兵器の規制を
求めて、声を上げた若者たちがいます。
ストップ・キラーロボットと名付けられた、キャンペーンです。現在、世界60カ国
の若者たちが解決策を見い出すために、独自の対話を続けています。
“イギリスは近い将来、12万人の軍人のうち3万人をロボットにすると発表しま
した。 戦争への敷居が下がってしまわないか心配です”
“フィリピンで暮らす私の町の側でも、テロ攻撃がありました。 もし、AI兵器が
テロリストにわたったら、本当に恐ろしいわ!”
このキャンペーンでは、ある人物の行動を大切な教訓としています。
旧ソ連軍のスタニスラフ・ペトロフ氏。 東西冷戦期、核戦争の危機を止めた
元将校です。 1983年9月26日、ソ連のコンピューターがアメリカからの核攻撃
を誤って検知。 直ちに、報復攻撃が指示されました。
しかしペトロフはコンピューターの指示には従わず、自らの判断で攻撃の中止
を決めました。 2018年に亡くなったペトロフは当時の判断を振り返り、こんな
言葉を残したのです。 (2006年ニューヨークにて)
“当時の判断は、極めて難しいものでした。でも、ボタンを押していたら、皆が
こうして元気に生きて行く事ができなくなる。 その事だけは、分かりました。
自分は英雄でも何でもない。 ただ、人としての判断をしただけです”
人にしか出来ない判断とは、何か? 若者たちは、それぞれの政府にAI兵器
を規制するよう働きかけています。
“人間によるキラーロボットの有意義な制御を確保するためには、どうしたら
いいか考えると、キラーロボットに関して日本政府に積極的な行動をとって
頂きたいというのが、私たちユースの思いです”
国際社会も、新たなルール作りに向けて動き出しています。国連では125カ国
の政府代表や専門家が集まり、AI兵器を規制する為の議論を続けています。
‘人間の生死について、AIに意思決定を委ねる事など、あってはなりません’
規制を求める声が相次ぐ一方で、開発を進める国は、法的な規制に反対して
います。
アメリカ代表は言う。 ‘早急な規制は、被害を最小限に抑えてくれるAIの
今後の可能性を阻害しかねません’
これまでの議論で攻撃の判断は必ず人間が行う事や開発や使用を巡っては
国際人道法を守る事などが盛り込まれた国際ルールについては合意に達しま
した。 しかし実行力を高めるためには、強い法的拘束力が必要だという声も
少なくありません。
Q: 国よって、全くルールに対する考えとか、姿勢が違うと思うのです。その溝
を埋めて行くためには一体、どういう事が今、求められていると思いますか?
国連の軍縮部門トップの事務次長(日本人女性)は、言う。
“武力行使の決定に関して、実際にどの様な形で人間がコントロールして行く
責任を維持して行くのか? 法的な規制を作って行くのか? 政治的な宣言・
コミットメントを作って行くのか? 今までと性格が異なる兵器であるからと
いって、今、私たちが持っている法体系を弱体化させてしまう事は、決して
あってはならない事だという風に、国連としては考えています”
一方、グレーゾーン戦争への対応は、ほとんど手が付けられていません。
本来、多くのAI技術は、暮らしの利便性を高めるために、開発されています。
民間利用と軍事利用の線引きは、曖昧なのです。 グレーゾーン戦争において
デマの拡散に使われるフェイク動画の技術も、その1つです。
これは、サッカー界のレジェンドが協力し、AIが作り出した動画。
“マラリアは、ただの病気ではありません。 2分に1人の子供が亡くなってい
ます。 我々は、もっと活動しなければならない。 声を上げよう。 マラリアは
撲滅しなければならない!” (英語・アラビア語・ヒンドゥー語・その他)
いとも簡単に多言語を操る、この動画は、発展途上国の感染症を撲滅する
ために作られました。
技術そのものに規制をかける事が難しい中、国連は技術を使う国家の責任を
問う事で、グレーゾーン戦争と対峙しようとしています。
ハッカーが独自に攻撃した場合でも、その攻撃の責任を国家に課すルール
作りを急いでいるのです。
国連の軍縮部門トップの事務次長(日本人女性)は、言う。
“これまでの軍縮の議論とは、かなり毛色の変わった議論、対応の仕方が
必要になって来る。 技術そのものを制限する、禁止するという事ではなくて、
どんな技術が出来たとしても、国家の責任ある行動は、どういうものである
べきか? 当然、国家主体は、してはいけない事も、もちろんなのですけど、
自分たちの領土内で、その様な事を行うような非国家主体があった場合には
それを、きちんと司法の中で追及して行く”
人類は、ダイナマイトや核兵器など、新たな技術が惨禍を招く度に、国際的な
ルールを作り、その責任を問おうとして来ました。
今、科学技術の進化は、人間が制御できない水準にまで、達しようとしてい
ます。 その不可逆な潮流の中で、人としての判断とは何なのか?
問われているのは、叡智(えいち)。 人類の叡智なのです。
この日常は、いつまでも続くと、漠然と思っていた。 私が見た、2030年に
やって来る未来への分岐点。 限界を迎える地球温暖化や食料を巡る危機。
そして、急速に進化するテクノロジーの暴走。 私たちが先送りにして来た
リスクは、もう極限にまで膨らんでいる。 映画の話しが絵空事ではない…?
私たちは今、大切な10年を生きている。 この青空のような未来を作るのは
私たちだ! 未来の人類に誇れる10年に!!