金融業運用AI指引六大核心原則
Posted On 2024 年 8 月 20 日
隨著 AI 在金融市場的應用日益普及，雖然 AI 可以提升金融業的效率、降低成本、改善客戶體驗、管理風險、促進合規及防制金融犯罪等，然而若在導入時未經審慎規劃或使用後未能調整，可能會引發金融消費者或業者的損失，甚至影響市場信心。
為協助金融業在導入 AI 時能考量各項風險，本指引依據「金融業運用人工智慧核心原則」及參考國際規範，提供了六大章節，涵蓋 AI 定義、風險評估及監管措施等內容，旨在鼓勵金融業在可控風險下導入 AI。
本指引雖屬行政指導性質，無拘束力，但希望金融機構能依據實際情況參考使用，避免單一關注某項原則而忽視整體風險管理。
一、人工智慧AI相關定義
(一) AI 系統定義：
透過大量資料學習，利用機器學習或相關建立 模型之演算法，進行感知、預測、決策、規劃、推理、溝通等模 仿人類學習、思考及反應模式之系統。
(二)生成式 AI 定義：
可以生成模擬人類智慧創造之內容的相關 AI 系統，其內容形式包括但不限於文章、圖像、音訊、影片及程 式碼等。
二、AI 系統生命週期四週期
(一)系統規劃及設計：設定明確的系統目標及需求。
(二)資料蒐集及輸入：資料蒐集、處理並輸入資料庫之階段。
(三)模型建立及驗證：選擇與建立模型演算法及訓練模型，並對模型進行驗證以確保模型效能、安全性與機密性。
(四)系統佈署及監控：將系統應用於實際環境中，且關注模型是否已完備，並持續監控以確認系統所帶來之潛在影響。
三、金融業使用AI的風險評估考量因素
金融機構運用 AI 系統時，個別使用情境所涉相關風險進行評估，在多分配資源於高風險的 AI 系統，有效管理風險。
風險評估所需考量之因素如下：
(一)是否直接提供客戶服務或對營運有重大影響
1.提供客戶服務(面對客戶)之 AI 系統：
AI 決策結果對客戶權益或 營運有重大影響之 AI 系統，通常有較高之風險性，例如用於信 用評分、機器人理財等系統；AI 決策結果僅係提升客戶服務品質者之 AI 系統，風險性可能較低，例如智能客服系統。
2.用於內部作業(不面對客戶)之 AI 系統：
AI 決策結果涉及監理規 範之 AI 系統，通常有較高之風險性，例如用於法定資本適足率 評估、洗錢防制等系統；AI 決策結果不涉及監理規範之 AI 系統， 風險性可能較低，例如用於提升內部行政作業效率之系統。
(二)使用個人資料的程度：
AI 系統使用個人原始資料4或機敏性個資 程度越高者，可能具有較高之風險性。
(三)AI 自主決策程度：
取代人類決策程度較高，或自動化學習程度較高的 AI 系統，可能會增加未預期之系統性負面影響，或減少即時 人工干預的機會，而有較高之風險性。
(四)AI 系統的複雜性：
運算模型的複雜性較高或使用參數數量與類型較多的 AI 系統，可能降低可解釋性，而有較高之風險性。
(五)影響不同利害關係人(stakeholder)的程度及廣度：
AI 系統決策結 果對內、外部利害關係人(stakeholder)影響程度較深或影響類型及 數量較多者，可能具有較高之風險性。
(六)救濟選項之完整程度：
針對 AI 系統決策結果，如未提供利害關係人(stakeholder)救濟選項或救濟選項較不完整者，可能具有較高之風險性。
四、以風險為基礎落實核心原則
金融機構宜根據 AI 系統風險評估結果，決定採用之風險控管措施及程度，並確保與其現行實務作法相符。
針對風險較高之 AI 系統，除在導入及使用時注意第一章至第六章所列重點及措施外，並評估是否採用下列措施：
(一)記錄：
運用高風險系統宜有較完整之書面或數位紀錄。
(二)監控機制：
運用高風險系統宜建立較高頻率及廣泛層面之監控機制。
(三)審查及核准：
運用高風險系統宜有較嚴格之審查及核准過程，且提高決策層級。
(四)稽核或評測機制：
經評估 AI 系統風險、內部資源及專業程度後， 如有需要得由第三方稽核或評測單位進行獨立驗證。
如導入之 AI 系統由同集團(包含其關係企業)開發或管理，相關稽核得以集團提供之資料替代。
五、第三方業者之監督管理
金融機構委託第三方業者導入 AI 系統相關作業時，宜採行以下監督管理措施：
(一)金融機構宜先進行檢視，評估該第三方業者是否具備相關知識、 專業及經驗等，並判斷委託其導入可能衍生之集中度風險(金融機 構自身委託該機構之集中度風險)，再根據評估結果採取適當之監 督策略與管理作為，以防止可能之風險或問題。
(二)金融機構宜與第三方業者簽訂書面契約，明定導入事項範圍、第 三方業者之責任範疇，以及未達績效目標或發生不良事件之追索 途徑。
(三)金融機構委託第三方業者導入相關作業時，如有涉及將客戶資料 傳送第三方業者進行處理之情況，宜與第三方業者簽訂含有資料保護條款之協議，明確規定資料加密傳輸、存儲安全以及在服務 終止後資料之處置方式。
(四)金融機構委託第三方業者導入 AI 系統，或金融機構進行測試及 監控等作業時，除注意第三方業者複委託之約定外，亦宜釐清責任分配議題，並就停止委託之情形訂定適當之資料或系統遷移機 制。
(五)金融機構宜要求第三方業者留存執行受託辦理事項之書面或數位作業紀錄，俾利後續追蹤、驗證及管理。
(六)金融機構委託第三方業者導入事項如涉及金融業作業委外事項， 應符合各業別相關委外規範。
1.建立治理及問責機制
重點說明
(一)金融機構須對其使用之AI系統承擔相應的內、外部責任。
(二)內部責任包含指定高階主管負責AI相關監督管理並建立內部治理架構；外部責任則涉及對消費者與社會之責任，包括保護消費者之隱私及資訊安全等。
(三)金融機構須建立全面且有效的AI相關風險管理機制，並整合至現行風險管理及內部控制作業或流程中，並應進行定期的評估及測試。
(四)金融機構應確保其人員對AI有足夠的知識及能力，並應以風險為基礎做出適當的決策及監督。
執行落實方法
(一)明確界定組織內各單位之權責，包含宜有明確內部治理架構、由可督導跨部門職務之高階主管或指定之委員會進行監督及管理、界定各部門或各業務線之功能與責任，及落實分層管理機制等。
(二)組織能對外溝通組織之作為，包含具有管道或溝通機制可讓外界查詢或審視受決策影響事項之相關資訊，並確保在運用 AI 系統時係符合規劃目的。
(三)建立明確之風險管理政策與指導方針，涵蓋項目宜包含風險管理、資料蒐集、安全控管、法遵要求、監測及評估等。 * 整合AI風險管理至現有的風險管理及內部控制架構，包括模型風險管理、資訊安全、資料保護及公平待客等現有架構。
(四)對負責 AI 系統之部門、團隊及相關人員提供培訓與資源，以提升人員對 AI 系統導入、使用及管理之了解與能力。
2.重視公平性及以人為本的價值觀
重點說明
(一)金融機構在使用AI系統之過程中，應儘可能避免演算法之偏見所造成的不公平。
(二)AI系統之運用應符合以人為本及人類可控之原則，並尊重法治及民主價值觀。
(三)生成式 AI 產出之資訊，仍需由金融機構人員就其風險進行客觀且專業的管控。
執行落實方法
(一)金融機構應確認資料來源的合宜性及數據資料之品質，在正式推出前於獨立環境中測試及驗證演算法，以避免產出市場不樂見之結果，儘可能讓每個客戶都能獲得公平、非歧視性的金融服務。
(二)使用 AI 系統的數據、資料庫及模型，應進行定期審查及驗證準確性，以減少偏差。
(三)確保金融機構運用 AI 系統時遵循法治及民主等普世價值，並有機制確保 AI 系統之演進仍能維持原本創建該系統之初衷係為協助人類、對人類無危害及確保人類之自主權與可控制權。
3.保護隱私及客戶權益
重點說明
(一)金融機構應充分尊重及保護消費者之隱私，並妥善管理及運用客戶資料。
(二)金融機構如運用 AI 系統向客戶提供金融服務，應尊重客戶選擇的權利，並提醒客戶是否有替代方案。
執行落實方法
(一)於使用客戶資料時，必須充分尊重及保護客戶的隱私權，妥善管理及運用相關資訊，避免任何可能導致個人資料外洩之風險。
(二)在無適當管控機制下，不得向生成式 AI 提供未經客戶同意公開之資訊。
(三)尊重客戶選擇是否使用 AI 服務的權利，並提醒客戶是否有替代方案。
4.確保系統穩健性與安全性
重點說明
(一)金融機構在運用 AI 系統時，必須確保其系統之穩健性(robustness)與安全性，以避免對消費者或金融體系造成損害。
(二)若金融機構運用第三方業者開發或營運之 AI 系統提供金融服務，應對第三方業者進行適當之風險管理及監督。
執行落實方法
(一)金融機構不僅需要有足夠的能力來開發及維護安全的 AI 系統，還需要對其 AI 系統的運作結果進行持續監控，並在必要時採取適當的管控措施。
(二)對第三方業者進行盡職調查，評估其是否具備相關知識、專業及經驗，並充分了解與評估其 AI 系統的運作方式及潛在風險 (包含資料隱私權之處理、營運風險、資安及集中度風險)
5.落實透明性與可解釋性
重點說明
(一)金融機構在運用 AI 系統時，應確保其運作之透明性及可解釋性。
(二)金融機構使用 AI 與消費者直接互動時，應適當揭露。
執行落實方法
(一)金融機構須理解 AI 如何做出決策，才能找出潛在問題，並進行必要的調整，以確保對 AI 的運作之有效管理。
(二)評估如何向利害關係人進行適當之揭露，例如金融機構使用 AI 與消費者直接互動時，亦應適當揭露。
6.促進永續發展
重點說明
(一)金融機構在運用 AI 系統時，應確保其發展策略及執行與永續 發展之原則相結合，包括減少經濟、社會等不平等現象，保護自然環境，從而促進包容性成長、永續發展及社會福祉。
(二)金融機構在 AI 系統運用過程中，宜對一般員工提供適當之教育及培訓，促進員工能適應 AI 帶來之變革，並盡可能維護其工作權益。
執行落實方法
(一)在創新金融服務的同時，也要考慮到 AI 如何提升弱勢族群的金融參與，如何降低經濟、社會、性別、年齡等族群之不平等現象，以及如何透過金融科技推動環境保護。
(二)提供適當的教育及培訓以助其適應新的工作環境。
想了解更多金融業運用AI指引細節，請見此文件
解決方案
訂閱偉康科技洞察室部落格，掌握最新科技趨勢！
專人協助
由偉康業務人員為您詳細說明偉康的解決方案，以及相關產業經驗。
About The Author
