検索朝刊・夕刊LIVEMyニュース日経会社情報人事ウオッチ
NIKKEI Prime

朝夕刊や電子版ではお伝えしきれない情報をお届けします。今後も様々な切り口でサービスを開始予定です。

検索朝刊・夕刊LIVEMyニュース日経会社情報人事ウオッチ
NIKKEI Prime

朝夕刊や電子版ではお伝えしきれない情報をお届けします。今後も様々な切り口でサービスを開始予定です。

検索朝刊・夕刊LIVEMyニュース日経会社情報人事ウオッチ
NIKKEI Prime

朝夕刊や電子版ではお伝えしきれない情報をお届けします。今後も様々な切り口でサービスを開始予定です。

NIKKEI Primeについて

朝夕刊や電子版ではお伝えしきれない情報をお届けします。今後も様々な切り口でサービスを開始予定です。

/

AI兵器規制できる? 米中ロの慎重論崩す線引きカギ

詳しくはこちら

NIKKEI STYLE

AI(人工知能)技術の急速な進展を背景に、人間の判断を介さずに目標を攻撃する新型兵器「キラーロボット」を、どのように規制するかという議論が国際社会で進んでいます。3月末にスイス・ジュネーブで開いた政府専門家会合では、規制推進派と慎重派の主張に隔たりが残った一方で、規制原則の合意を目指すなど議論が進展する兆しも出ています。

キラーロボットは正式には「自律型致死兵器システム(LAWS)」と呼ばれます。自ら標的を見つけ、自らの判断で攻撃する兵器です。完全に自律的な能力を備えた兵器はまだ存在しないとされますが、その前段階ともいえる高度な自動化兵器は開発・配備が進んでいます。

この問題は、米国の攻撃型ドローン(無人機)による誤爆事件などをきっかけに、国連人権理事会で議論が始まりました。現在は特定通常兵器使用禁止制限条約(CCW)の締約国会議の場で話し合われています。CCWでは2014年から3回の非公式専門家会議、その後4回の政府専門家会合がこれまで開かれました。

途上国や非政府組織(NGO)がLAWSの禁止条約作りなど積極的な規制を主張し、米国や中国、ロシアなどは規制強化に慎重な姿勢を見せている、というのが基本的な構図です。ただ進展の兆しもあります。昨年8月と今年3月の会議では、兵器システムの暴走を防ぐための措置など規制に関わる論点を盛り込んだ10項目からなる基本原則案が議論され、同案を軸に合意を目指すことになりました。

日本代表団の1人として参加している佐藤丙午・拓殖大学海外事情研究所副所長は「8月の次回会議で議論が大きく進む可能性がある」とみています。

日本政府はかねて、LAWSを開発しないと表明しており、3月末の会議では兵器がAIの判断だけで攻撃に至ることを防ぐため「人間の関与が条件」とする文書を提出しました。

ただ日本は他の主要国と同様、兵器システムへのAIの応用自体は積極的に進める考えです。敵からの攻撃を自動的に探知するシステムや兵器運用の省力化にはAIの活用が不可欠だからです。規制対象の線引きをどうするかが、今後の議論のポイントとなりそうです。

AI兵器については、世界の企業や研究者からも懸念の声が上がっています。昨年7月、米グーグルグループのAI開発企業など世界の約150社、2400人以上の研究者が、AIを使う自律的兵器開発に参加・協力しないとする宣言を発表しました。日本でも人工知能学会が昨年、このテーマで会合を開くなど関心が高まっています。

佐藤丙午・拓殖大学海外事情研究所副所長「実効性のある規制枠組みに課題」

自律型致死兵器システム(LAWS)の規制を巡る国際的な議論の現状や見通しについて、特定通常兵器使用禁止制限条約(CCW)の政府専門家会合に日本代表団の1人として参加している佐藤丙午・拓殖大学海外事情研究所副所長(教授)に聞きました。

――LAWS規制の議論はどのように進んできましたか。

「当初は国連人権理事会で議論された。パキスタンでの米国の攻撃型ドローン(無人機)による民間人誤爆などがきっかけで、同理事会は殺人ロボット兵器開発のモラトリアムを求める特別報告を13年に提出した。その前後から非政府組織(NGO)によるロボットの兵器化に対する反対活動も活発になった。NGOは『殺人ロボット禁止キャンペーン』を展開し、無人兵器システム開発の即時禁止などの法的枠組み作りを訴えた。その後、CCW締約国会議議長のイニシアチブで、この問題を同会議の場で議論することになった。LAWS規制は国際人道法のみならず軍備管理・軍縮の問題であるとの理由からだ。CCWでは14年以降、非公式専門家会議が3回、そして政府専門家会合(GGE)が今年3月まで4回それぞれ開かれている。ここでの議論にNGOも参加している」

――LAWS規制に積極的な国々やNGO、慎重な米国、中国などAI(人工知能)先進国の間の意見対立で議論が進んでいないという見方があります。

「私は、合意に向けて着実に進んでいるとみている。議論が始まった当初のことだが、各国の軍関係者が、人間によるコントロールを離れた無人兵器を開発すべきではないと異口同音に表明した。LAWSの登場を警戒して一番反対しているのが他ならぬ軍関係者であることが分かり、これを聞いたNGO関係者が残念そうな表情をしていたのが印象に残っている」

「18年8月の第3回GGEでは、まずCCWとして合意できる原則を議論しようと、そのたたき台となる10項目の基本原則案(Possible Guiding Principles)が提案された。この中には、兵器システムに国際法を適用することや、今後開発配備される兵器に関する説明責任、兵器システムの暴走を防ぐための措置、新技術導入における国際人道法上の配慮や、平和目的の知的自動化技術の開発を妨げないといった内容が盛り込まれている」

「3月の第4回GGEは、この基本原則案について各国政府やNGOが見解を表明する形で進んだ。NGOからはLAWS禁止条約を作るべきだという意見も引き続き出たが、最終的には規制の具体策はともかく、基本原則案を軸に合意を目指そうという流れになった。8月の次回会合で同基本原則で正式合意できる可能性が出てきた」

――LAWS規制に関する日本政府の立場は。

「どのような規制の枠組みになるにしても、多くの国々が参加する実効性のある仕組みでなければならないというのが基本的な立場だ。日本代表はGGE会合のあらゆるセッションで積極的に発言して、合意形成に努めている」

「日本に限らず、各国政府はLAWSは開発しないと表明しているが、LAWSに至らない『高度に自動化した兵器』の開発・導入は必要と考えているようだ。日本でも昨年末に改定された防衛計画の大綱(防衛大綱)では宇宙・サイバー・電磁波といった新領域での防衛力強化を打ち出している。兵器体系へのAI利用は各国が競っており、むしろ日本は遅れているのが現状だ」

――LAWS規制について個人的な意見は。

「LAWSとこれに類似した自動化兵器との間の線引きを明確にする必要がある。兵器使用には人間による介入や判断を反映すべきだ。兵器が勝手な判断で攻撃を始めて、偶発的に戦争が始まってしまうというのはやはり怖い。戦争は高度に社会的な行為であり、戦争開始の判断は、機械ではなく人間が下さなければならない」

「従って何らかのLAWS規制は必要だが、実効性をどう確保するかが問題だ。実は、包括的な禁止条約であったとしても、LAWSに対する実効性のある規制になるのかは疑問だ。軍備管理・軍縮の分野では、核兵器禁止条約にみられるように、1つの条約ですべてコントロールできなくなっているのが現実だ。AI分野では民間技術が非常に高度化しており、先端技術を導入した軍事インフラを政府は民間と協力して構築しなければならない。民間の技術開発を阻害しないよう配慮しつつ、実効性のある規制枠組みを考える必要がある」

(編集委員 吉川和輝)

春割ですべての記事が読み放題
有料会員が2カ月無料

有料会員限定
キーワード登録であなたの
重要なニュースを
ハイライト
登録したキーワードに該当する記事が紙面ビューアー上で赤い線に囲まれて表示されている画面例
日経電子版 紙面ビューアー
詳しくはこちら

ワークスタイルや暮らし・家計管理に役立つノウハウなどをまとめています。
※ NIKKEI STYLE は2023年にリニューアルしました。これまでに公開したコンテンツのほとんどは日経電子版などで引き続きご覧いただけます。

セレクション

トレンドウオッチ

新着

注目

ビジネス

ライフスタイル

新着

注目

ビジネス

ライフスタイル

新着

注目

ビジネス

ライフスタイル

フォローする
有料会員の方のみご利用になれます。気になる連載・コラム・キーワードをフォローすると、「Myニュース」でまとめよみができます。
春割で無料体験するログイン
記事を保存する
有料会員の方のみご利用になれます。保存した記事はスマホやタブレットでもご覧いただけます。
春割で無料体験するログイン
Think! の投稿を読む
記事と併せて、エキスパート(専門家)のひとこと解説や分析を読むことができます。会員の方のみご利用になれます。
春割で無料体験するログイン
図表を保存する
有料会員の方のみご利用になれます。保存した図表はスマホやタブレットでもご覧いただけます。
春割で無料体験するログイン

権限不足のため、フォローできません

ニュースレターを登録すると続きが読めます(無料)

ご登録いただいたメールアドレス宛てにニュースレターの配信と日経電子版のキャンペーン情報などをお送りします(登録後の配信解除も可能です)。これらメール配信の目的に限りメールアドレスを利用します。日経IDなどその他のサービスに自動で登録されることはありません。

ご登録ありがとうございました。

入力いただいたメールアドレスにメールを送付しました。メールのリンクをクリックすると記事全文をお読みいただけます。

登録できませんでした。

エラーが発生し、登録できませんでした。

登録できませんでした。

ニュースレターの登録に失敗しました。ご覧頂いている記事は、対象外になっています。

登録済みです。

入力いただきましたメールアドレスは既に登録済みとなっております。ニュースレターの配信をお待ち下さい。

_

_

_