洞察觀點

什麼是負責任 AI?4大步驟,教你如何建立公司的責任AI

本文由 白佩華 撰寫,未經同意請勿轉載、摘編。

人工智慧(AI)的影響範圍已擴及至各行各業,包含科技及傳統製造業、醫療、金融、交通、體育文化藝術等。AI為企業帶來轉型契機,卻也帶出治理風險。「責任 AI」(Responsible AI﹚也逐漸成為相關產業中浮現的話題。高科技及通訊產業在發展生成式AI的同時,也由資訊安全領域延伸到治理的層面。

世界各國目前皆在尋求建立AI的治理原則。2023年5月,美國拜登政府宣布一系列行動,這些行動都集中在促進負責任的人工智慧創新,以及保護公民的權利和安全,包括白宮的《人工智慧權利法案藍圖》和NIST的《人工智慧風險管理框架》(NIST AI RMF)。歐盟首部AI法於2024年8月生效,台灣則於2024年7月15日預告《AI基本法》草案,一旦經立法院通過,將成為全球第二部國家級AI法。

What is Responsible AI 4 Steps to Guide You on How to Build Responsible AI in Your Company-負責任AI

國科會目前預告之草案共18,第3條訂定人類自主等七大基本原則,包括:

1. 永續發展:確保AI技術的發展能夠支持環境和社會的永續性。

2. 人類自主:保障人類在AI技術應用中的自主權,避免過度依賴AI。

3. 隱私保護:強調個資隱私保護,防止資料濫用。

4. 資訊安全:確保AI系統的安全性,防止網路攻擊和資料洩露。

5. 透明可解釋:要求AI系統決策過程透明且可解釋,增強信任。

6. 公平不歧視:確保AI技術在應用中不會產生歧視,促進公平。

7. 問責:建立明確的責任機制,確保AI技術的開發和應用負責。註1

這七項都與治理相關,也就是未來的AI發展,不光是追求創新,更必須基於公司治理的框架,以保障安全與人權的基礎,並以企業永續為目標,發展企業的AI運用和創新。

What is Responsible AI 4 Steps to Guide You on How to Build Responsible AI in Your Company (1)

至於建立公司的負責任 AI,建議可依循以下步驟:

1. 建立團隊

有鑑於AI的特殊性,隱私與著作權(IP)在組織落實負責任AI時,扮演平衡創新與用戶隱私的角色。AI開發之初便須和企業內的法遵及風險管理部門合作,以理解、減輕和管理可能出現的各種風險。透過在公司內部不同的利害關係人之間產生的治理結構,將確保在涉及AI的決策上採取系統性的作法。

2. 發展AI清單(Inventory)

列出所有與AI和機器學習(ML)相關的產品、功能、流程和項目,無論它們來自內部還是外部。從隱私或IT風險管理程序的角度來看,可以在現有的數據地圖或清單的基礎上進行構建。數據發現(Data Discovery)也可決定您的AI系統在與其他數據類別轉換時提供協助。

What is Responsible AI 4 Steps to Guide You on How to Build Responsible AI in Your Company (2)

3. 致力於符合治理框架

任何一個AI系統都希望提供組織一個實用且可提高效率或生產力的工具。如果在一開始運用AI時,便對應到企業的AI治理框架,以擴展或創立新的治理結構。例如,可以將AI風險問題嵌入現有的風險評估和工作流程中,這些流程可能採用隱私影響評估(PIA)或供應商評估的形式。政策、流程和培訓也可以根據需要更新,包括組織對AI的方法。

4. 應對人工智慧的風險

雖然人工智慧為企業提供了巨大的潛力,但它也呈現不同程度的風險,組織要能夠根據風險等級調整他們的應對措施,積極解決與人工智慧相關的風險:

  • 評估與每個人工智慧專案相關的曝險,考慮數據和資訊的敏感性,和對個人的潛在影響,包括偏見和歧視。
  • 與IT安全團隊合作,實施嚴格的資料保護政策和風險評估程序。
  • 在人工智慧的應用,監控並確保相關數據和資訊的合規性,就人工智慧應用程式中,資料匿名化和假名化的最佳實踐提供建議。
  • 建立清晰透明的同意機制,用於人工智慧系統中的數據收集和使用,並提供選擇退場機制。
  • 向組織通報發展中的人工智慧法規和標準,將人工智慧風險管理納入組織的風險管理框架,並關注人工智慧相關風險的獨特性,例如:自主決策的潛力及其責任與監管合規性的影響。

What is Responsible AI 4 Steps to Guide You on How to Build Responsible AI in Your Company (3)

對於渴望發展和運用AI功能的組織,建立一套完整的責任計畫,以及跨部門或跨職能的交叉協作至關重要。隨著人工智慧越來越融入業務營運,科技、治理與風險管理的職能與專業人士,可以協助董事會成員、執行長及其同事清楚地了解,如何以負責任的人工智慧框架,將現有的生成式AI規劃成最佳的實踐體驗。

註1:https://www.cna.com.tw/postwrite/chi/380502

專欄作者簡介:白佩華

現任國際知名風險管理集團資深顧問,專司企業整體風險評估及整合解決方案、新興風險及政治前瞻顧問。

留美傳播學院雙碩士,並擁有英國劍橋大學Judge 商學院循環經濟及永續策略證書、哈佛商學院策略分析(包含破壞性策略、策略執行及永續策略)、領導與管理(management and leadership)以及Business in Society專業證書,美國華頓商學院ESG 重大因素分析證書,工研院TCFD, CDP, SBTi培訓證書,MIC產業分析師課程證書。ISO 14064 (主稽), ISO 14067, ISO 14068-1 (主稽)   BS 8001

永續發展延伸系列文章(不定期更新)
ESG小白看這篇!一次看懂重大性評估步驟與價值
永續轉型下最搶手的新興人才!企業永續的成功關鍵
2023企業決策的永續趨勢:將氣候風險視為轉型加速器
5大策略引領永續發展:創新轉型是ESG的最終目標

先行智庫為台灣管理顧問公司,服務內容包含企業內訓、顧問諮詢等服務,了解更多企業服務內容:https://kscthinktank.com.tw/custom-training/

【先行智庫系列講座】

【先行智庫線上課程系列】

Facebook
LinkedIn
聯絡我們表單
返回頂端
取得最新資訊

訂閱每週最新消息