「北朝鮮の奇襲時、ＡＩに迎撃を任せてもいいのか」 アルトマン氏「検討すべき問題が多い」

人工知能（ＡＩ）に戦争を任せてもいいのだろうか。生成型人工知能（ＡＩ）チャットＧＰＴ開発企業であるオープンＡＩのサム・アルトマン最高経営責任者（ＣＥＯ・写真）が、「そうするためには検討すべき問題が多い」と慎重な態度を示した。北朝鮮の奇襲攻撃時、対応速度が速いＡＩに防衛を頼ってもいいのか」という質問にも、「簡単に決める問題ではない」と答えた。

アルトマン氏は７日、米シンクタンクのブルッキングス研究所とのビデオ対談で、いわゆる「ＡＩの兵器化」について自分の意見を述べた。マイケル・オハンロン上級研究員が、「北朝鮮がソウルに有人戦闘機を出撃させ、韓国がＡＩで制御する防衛ロボットで迎撃する状況を想定した時、ＡＩに人命を害する決定を任せてもいいのか」と尋ねると、「実に検討すべき問題が多い」と答えた。

アルトマン氏は、「戦闘機が韓国に近づいてきたが、人間が意思決定に関与する時間がない時、ＡＩが迎撃決定をすることもある」とし、「しかし、本当にそのような攻撃が起きている状況だと確信できるのか、どの程度確実であるべきかなど、グレーゾーンのどこに線を引くべきか考慮すべきことが多い」と説明した。

アルトマン氏のこのような発言は、様々な強大国がＡＩの兵器化にスピードを上げている状況で、人間の介入の程度などについての議論がもっと必要だという意味とみられる。それでも、ＡＩの兵器化自体に反対するわけではないという考えも示した。アルトマン氏は、「ＡＩが核兵器の発射を決定できるようにすべきだという主張は聞いたことがない」とし、「だからといって、緊急の状況でＡＩを使用してはならないという主張も聞いたことがない」と話した。

ただ、アルトマン氏は、「私たち（オープンＡＩ）は米国と同盟の味方」とし、「ＡＩ技術が人類に利益になることを望んでいるが、私たちが同意しない指導層がいる国に利益を与えることは望んでいない」と付け加えた。米国は最近、ＡＩの兵器化に人間の介入を義務づける規制を推進しており、今月中に中国とＡＩ規制協力のための初会議を行う予定だ。

各国の情報機関は、諜報戦にＡＩを活用する競争を激しく繰り広げている。ブルームバーグ通信は同日、「マイクロソフト（ＭＳ）が米情報機関のためにインターネットと断絶された生成型ＡＩモデルを開発した」と報じた。これまで生成型ＡＩを利用しようとしても、開放されたインターネットに基づいているため、機密情報が外部に流出したり、ハッキングされる可能性があるという懸念から活用が制限されていた。

米中央情報局（ＣＩＡ）幹部のシータル・パテル氏は、最近開かれた安全保障会議で、「各国の情報機関がＡＩの適用をめぐって激しい競争を繰り広げている」とし、「情報機関にＡＩを導入する最初の国がこの戦争で勝利するだろう」と述べた。


ワシントン＝ムン・ビョンギ特派員 weappon@donga.com