米金融当局が１４日（現地時間）、人工知能（ＡＩ）を金融分野の脆弱な要因として規定した。サイバー攻撃、気候変動などと同様に、ＡＩも現在の金融システムと消費者に大きな脅威を与える可能性があることを警告したのだ。
最近、米証券取引委員会（ＳＥＣ）がウォール街の大手金融会社のＡＩ使用実態を調査するなど、米金融圏のＡＩ規制に向けた作業が急ピッチで進んでいる。まだＡＩ規制の下絵を描いていない韓国の金融圏にも、大きな示唆を与えるとみられる。
●「ＡＩの結果導出原理が分かりにくい」
イエレン米財務長官は同日、金融安定監督委員会（ＦＳＯＣ）会議を開き、ＡＩを含む１４の金融への脅威を指定した年次報告書を公開した。イエレン氏は、「今年、委員会は初めて金融サービスでＡＩの使用を金融システムの『出現する脆弱性（emerging vulnerability）』に指定した」と明らかにした。
ＦＳＯＣは２００８年の世界金融危機のような大型危機を防ぐために１０年に作られた機関だ。財務長官が議長であり、米連邦準備制度理事会（ＦＲＢ）、ＳＥＣ、米連邦預金保険公社（ＦＤＩＣ）など主要金融当局のトップがすべて委員として参加している。
報告書がＡＩを主要リスクとして指定した理由は、ＡＩ特有の「説明可能性の不足」だ。ＡＩ以前の電算システムは「インプット」から「アウトプット」までの経路が予測可能で透明だった。一方、自ら学習するＡＩは、なぜそのような結果が出たのかを導き出す過程がまるで「ブラックボックス」のように見ることができない。このため、ＡＩシステムが偏向や不正確な結果を生成し、これを隠蔽する可能性があるという懸念が高まっている。
ＡＩが使用するデータの信頼性の論議も絶えない。ＦＳＯＣは、「ＡＩは出所が不明だったり、整理されていない膨大な資料をもとに結果物を出すが、これが偏向しているかどうか分からない」と指摘した。ＡＩが特定の商品を顧客に推薦した時、その根拠となるデータや推薦理由に欠陥があれば、最終的に消費者への被害につながりかねない。
また、融資の承認に使用されたＡＩが、特定の人種などに対する偏向性をもとに、一部の顧客に人種差別的な結果を引き起こす可能性もある。最近「２０２３東亜ニューセンテニアルフォーラム」に参加した世界的な未来学者ジェイソン・シェンカー未来派研究所会長は、「膨大なデータをもとにしたＡＩの成果物は、単調で歪曲の可能性がある。独占的な情報や機密が流出する可能性があるという点もリスク要因」と指摘した。
ＦＳＯＣ委員でもあるゲイリー・ゲンスラーＳＥＣ委員長も、英紙フィナンシャル・タイムズのインタビューで、当局がＡＩリスクをコントロールするために迅速に介入しなければ、１０年以内に金融危機を引き起こすことは「ほぼ避けられない」と警告した。
●ローマ教皇「ＡＩ活用の自律型兵器システム、人類の生存を脅かす」
国内金融圏の遅いＡＩ規制速度に対する懸念も出ている。ほとんどの金融会社がＡＩを活用したサービスを提供しているが、ＡＩの金融活用のリスクに備える態度は見られない。ＫＢ国民銀行のオ・スンヨン金融ＡＩセンター長も、「生成ＡＩは人と区別がつかないほどの性能を発揮しており、倫理的・法的な問題が争点になるほかない」と話した。
ローマ・カトリック教会のフランシスコ教皇も同日、「世界平和の日」を迎え、無人機（ドローン）などＡＩを活用した自律型兵器システムの発展、選挙介入、監視社会の台頭の可能性を警告した。フランシスコ教皇は、「ＡＩが人類の生存を脅かし、共同体を危うくする『技術独裁』に陥る危険性がある」とし、ＡＩの開発と使用を規制する拘束力のある国際条約の採択を注文した。
金玹秀 kimhs@donga.com
About Dong-A Ilbo