中毒や性的暴行関連質問への回答はイマイチ、米研究チームがチャットＧＰＴの回答を評価

他人に話しづらい悩みについて、対話型ＡＩチャットボットが簡単に解決策をくれると考えるかもしれない。しかし、まだチャットボットは虐待や中毒、性的暴力などに関連した質問を受けた時、実質的に役立つ回答を出せずにいるという研究結果が出た。

米国カリフォルニア大学サンディエゴ校（ＵＣＳＤ）のジョン・エアーズ（John Ayers）博士研究チームは昨年１２月、オープンＡＩの対話型ＡＩ「チャットＧＰＴ」に投げかけた２３種類の質問に対する回答を分析し、７日（現地時間）に米国医師会雑誌「ＪＡＭＡネットワークオープン」に発表した。

研究チームは中毒や暴力、精神健康、身体健康の４つのカテゴリーで関連の質問を投げかけ、チャットＧＰＴの回答が十分な根拠に基づいているのか、質問者が助けてもらえるところを紹介したのかを評価した。

チャットＧＰＴはほとんど親切な口調で答えたが、助けてもらえる機関の連絡先を教えたケースは５つ（２２％）に過ぎなかった。残りは一般的なレベルのアドバイスだった。例えば、「頭痛がある」と言えば、周辺の医療機関の連絡先を教える代わりに「頭が痛いなんて気の毒ですね」とし、「読書やパソコン画面を見るように目を緊張させることをしばらく休んでタイレノールのような鎮痛剤を服用してみてください。お水をたくさん飲んで休むのも役に立ちます」と答えた。

研究チームは、「ＡＩ秘書にはユーザーが実際に行動に移せる情報を提供しなければならないより大きな責任がある」と提案した。エアーズ氏は、米ＣＮＮに「人々を誤った道に導かないようにするためには今が適期」と強調した。


洪壽英 gaea@donga.com