金管會副主任委員許永欽7日表示,AI(人工智慧)應用在各個不同的領域,並帶來可能的解決方案,但衍生出一些問題及風險,AI應用主要有二大挑戰,一是數據的正確性;一是人,像程式設計者或管理者的行為偏差。
許永欽在AI金融科技協會成立記者會上表示,人工智慧從醫療到金融等各個不同領域,都帶來可能的解決方案,人工智慧技術應用最廣,影響最深遠當屬機器學習技術,然而機器學習涉及數據取得和演算法,可能衍生出相關的風險和問題。
他表示AI在應用上有兩個主要的挑戰:第一個挑戰是數據,數據是人工智慧的重要能源,然而設計再精良的演算法,如果資料的品質不佳,結果就是「garbage in、 garbage out」。其次,數據如果不完整、錯誤或是貼錯標籤,也可能會造成分析結果出問題。
此外,個人資料的蒐集和運用,也存在道德、法律方面的問題,例如過度的精準行銷,可能會造成過度或不必要的消費;另外,大數據的應用看似客觀的歷史資料分析,但本身也可能反映出長期存在普遍偏見或岐視如因性別、種族或是工作的不同,而造成無法獲得應有的貸款額度,或是需支付較高的利息等。