欧州が作った「ＡＩ堀」に陥る前にすべきこと

最近欧州連合（ＥＵ）が合意した「ＡＩ規制法案 （ＡＩ Ａｃｔ）」素案はＡＩシステムのライフサイクル全体にわたって開発会社が守らなければならない一連の義務事項を網羅している。欧州市場への参入を希望する企業は、サービス設計から配布、市場発売後の運営に至るまでの各段階でＡＩ法の遵守を点検しなければならない。

例えば、ある人工知能会社が仮想の知能型ＨＲマネージャー（人的資源開発担当者）を開発するとしよう。同社は開発の初期段階から厳格なデータガバナンスを確立しなければならない。学習データにバイアスがないことを証明しなければならず、データソースも透明に開示しなければならない。

システムを開発する段階では、アルゴリズムでバイアスや不公正に関する問題が提起されないよう注意を払って設計しなければならず、ＡＩ法を遵守していることを保障しなければならない。システムを市場にリリースした後も、継続的なモニタリングを通じて信頼を保たなければならない。問題が生じれば迅速に通知し、誤作動を解決する事故対応能力を備えなければならない。最後に、システムのエネルギー使用量を測定し、二酸化炭素排出量を減らすための努力をしなければならない。

この法に照らして今の状態でＡＩ企業を審査すれば、おそらくほとんどの企業が不合格になるだろう。スタンフォード基礎モデル研究センター（ＣＲＦＭ）が今年６月にＡＩ法の初期バージョンを基準にＡＩファンデーションモデルを評価した結果は、そう思わせている。

同センターの調査はデータガバナンス、著作権遵守、エネルギー利用など計１２項目に対して各４点ずつ計４８点満点で実施された。オープンＡＩの「ＧＰＴ－４」は２５点、スタビリティＡＩのイメージ生成ツール「ステーブルディフュージョン」は２２点、メタの「ラマ」は２１点を獲得した。韓国企業のＬＧＣＮＳとＳＫテレコムが投資したアントロピックの「クロード１」も７点に止まった。１０製品の大半が半分の点数も取れなかった。

ＡＩ法を守らなければ、企業規模に応じて最大３５００万ユーロ（約４８７億ウォン）の罰金が科せられるというが、これらの会社はどれぐらいの罰金を払わなければならないのか気になる。

このため、多くの企業が欧州ＡＩ市場への参入を再考しなければならなくなった。直ちにグーグルは個人情報保護を理由に生成型ＡＩチャットボットである「バード」を当分ヨーロッパに発売しないと決定した。ＡＩ法がＥＵ所属国の人工知能会社の自生力を育てるための時間稼ぎ用の堀だと指摘する人もいる。

しかし、私たちに文句を言っている時間はない。欧州のＡＩ規制がＥＵだけでなく、他の地域にベンチマークされる可能性に備えて対応戦略を準備しなければならない。韓国の人工知能法の大原則は「先に許可し、後で規制する（先許可、後規制）」だ。技術開発が先で、後で問題が発生すると規制するということだ。技術発展を促進するという趣旨だが、国際規制の動きに歩調を合わせずにいて痛い目に合うのではないか憂慮される。

これと共に、国際ＡＩ規制を作る過程で、韓国の意見が十分に反映されるよう、水面下で努力しなければならない。企業がＥＵのＡＩ法を遵守するために履行しなければならない義務の範囲は状況によって多様に解釈される余地があり、欧州ではない米国などＡＩ大国では規制より成長に重点を置いたＡＩ法が制定される可能性も高いからだ。