美國金融當局當地時間14日歷史上首次把人工智能規定為金融領域的脆弱因素。這是在警告，與網絡攻擊、氣候變化等壹樣，人工智能也會對目前的金融體系和消費者造成相當大的威脅。
最近，美國證券交易委員會全面調查華爾街大型金融公司使用人工智能的情況等，美國金融圈制定人工智能限制的工作正在加快速度。預計，這將給尚未繪制人工智能限制基礎的韓國金融圈帶來相當大的啟示。
● “很難知道人工智能得出結果的原理”
美國財政部長耶倫當天主持金融穩定監督委員會會議，並公布了指定包括人工智能在內的14個金融威脅的年度報告。耶倫表示：“今年委員會首次將金融服務中人工智能的使用指定為金融體系的‘新出現的弱點’。”
金融穩定監督委員會是為了防止2008年世界金融危機等大型危機而於2010年成立的機構。由財政部長擔任主席，美聯儲、證券交易委員會、聯邦存款保險公司等主要金融部門負責人都作為委員參與其中。
此次報告把人工智能定性為主要危險的原因，是人工智能特有的“說明可能性不足”。人工智能之前的電算體系從“輸入”到“輸出”的路徑是可預測的，而且非常透明。相反，自主學習的人工智能為什麽會出現這樣的結果，其過程就像“黑匣子”，無法知道。因此，人工智能體系有可能產生偏向或不正確的結果並隱瞞真相，這種憂慮正在高漲。
人工智能使用的數據的可信度爭議也接連不斷。金融穩定監督委員會指出：“人工智能以來源不明或未整理的龐大資料為依據得出結果，但無法知道這是否具有偏向性等。”人工智能向顧客推薦特定商品時，如果其依據的數據和推薦理由等存在缺陷，最終會造成消費者的損失。
此外，貸款批準中使用的人工智能以對特定人種的偏向性等為基礎，有可能對部分顧客造成種族歧視的結果。最近參加“2023東亞新中心論壇”的世界級未來學者、未來研究所主任傑森·辛克表示：“以龐大的數據為基礎的人工智能結果可能會單調、被歪曲。壟斷性情報和機密有可能會泄露，這也是危險因素。”
金融穩定監督委員會委員、證券交易委員會主席加裏·根斯勒在接受英國《金融時報》采訪時警告說，如果當局不迅速介入控制人工智能危險，在10年內引發金融危機是“幾乎不可避免的”。
● 教皇：“利用人工智能的自律武器體系威脅著人類的生存”
韓國也有人擔心金融圈緩慢的人工智能限制速度。雖然大部分金融公司都推出了利用人工智能的服務，但是應對人工智能金融利用危險性的情況還沒有突出。KB國民銀行金融人工智能中心負責人吳順英（音）也表示：“生成型人工智能的性能與人無法區分，倫理和法律問題只能成為爭論焦點。”
教皇方濟格也在當天迎來“世界和平日”之際，警告了利用無人機等人工智能的自律武器體系的發展、介入選舉、監視社會掘起的可能性等。教皇表示：“人工智能有威脅人類生存、危及共同體的‘技術獨裁’的危險。應該通過限制人工智能開發和使用的具有約束力的國際條約。”
紐約=常駐記者 金賢洙、金寶羅 kimhs@donga.com · purple@donga.com
About Dong-A Ilbo