文／白佩華

生成式人工智慧（Gen AI）的應用正以驚人的速度發展，企業主對於其帶來的獲利成長與營運效率提升充滿期待。然而，這股技術浪潮的背後，也伴隨著管理上的挑戰。根據資誠（PwC）會計師事務所發布的《2025全球暨台灣企業領袖調查報告》，台灣有六成的投資人預期，其投資的企業在未來一年內，將透過GenAI技術提升營收與獲利。

隨著GenAI迅速普及，積極實用主義的業務與科技領導者開始關注組織的準備程度，尤其是五大核心領域：數據管理、風險控制、治理架構、合規性，以及人才與員工發展。無論未來如何演變，妥善應對這些關鍵領域的挑戰，將能幫助企業成功運用GenAI並發揮最大效益。

根據Deloitte於四月發布的企業調查結果，絕大多數受訪者（78%）表示，他們預期在2025年將增加整體AI支出，並對高層管理者制定的GenAI政策抱持高度樂觀態度。然而，隨著新技術不斷湧現，技術變革的速度與個人、企業及政策制定者的適應能力之間仍存在一定落差，如何縮小這一差距將成為未來的關鍵課題。

縮減整合硬體供應商 提高AI投資

在川普關稅問題浮現之前，波士頓顧問公司（BCG）便針對歐美企業2025年的資訊技術部門進行調查。結果顯示，五分之四的受訪企業已在某種程度上導入Gen AI。其中，雲端服務與安全基礎設施被視為提升營運彈性與安全性的關鍵，使企業得以順利部署AI技術。

在當前不確定性高的市場環境中，企業投資策略將傾向於務實的成本管理，對於AI技術（包括GenAI與機器學習ML）等新興領域，企業將聚焦於最具價值的解決方案，其核心目標涵蓋商業分析、流程優化以及強化決策支援。

需特別留意，投資項目的選擇取決於公司的整體策略、核心關注領域、業務發展優先順序以及技術背景。雖然人工智慧（AI）在行銷、產品開發及支援職能等領域展現出極具潛力的前景，但在早期導入階段，其對企業的直接損益影響仍相對有限。

AI導入的企業風險與因應

Gen AI正從試驗階段逐步邁向大規模實施。最初的試點主要聚焦於內容創建與流程自動化，但如今企業已開始將GenAI應用於更加複雜的營運流程與策略性應用。

隨著GenAI技術日益深度嵌入組織工作流程，企業對於安全性與合規性的關注也逐步升高，而AI代理同樣面臨這些挑戰，如何有效管理相關風險將成為未來發展的關鍵。

在企業導入人工智慧（AI）的過程中伴隨著不少風險，以下列舉一些主要的風險及因應對策的建議：

1. 經濟風險：

高額投資與不確定回報。AI專案的回報週期可能較長，且成果存在不確定性，企業可能面臨短期無法收回投資的風險。此外，維護與升級所需的後續成本也可能相當可觀。

因應措施：

• 進行成本效益分析，評估短、中、長期的目標與投資回報。
• 採取階段性導入策略，從小規模試點項目開始，逐步擴大應用範圍。
• 定期評估AI專案的效果並及時調整。

2. 人力風險：

員工可能對AI新技術產生抗拒，主要擔心被取代或無法適應新的工作流程。此外，部分員工可能缺乏操作、管理和維護AI系統所需的技能，這需要企業投入額外的培訓成本和時間。招聘和留住AI領域專業人才也是一大挑戰，這可能導致AI專案進度受阻或影響其品質。

因應措施：

• 投資員工培訓，提升團隊的AI相關技能（Upskill + Reskill）、資安、風險管理訓練。
• 考慮引入AI專家或與外部服務合作，彌補內部專業知識的不足。

3. 技術風險：

• 模型偏差與不公平性：由於AI模型的訓練資料可能存在偏差，這可能導致模型對特定群體產生不公平或歧視性的結果，進而損害企業聲譽並可能觸犯法律。
• 演算法黑箱與不可解釋性：某些複雜的AI模型（如深度學習模型）的決策過程難以解釋，這可能導致企業在信任和監控AI行為方面面臨困難，也難以在出現問題時進行有效應對。
• 技術的壓力：由於AI技術發展迅速，這增加了技術管理的複雜性。

因應措施：

• 進行各類情境測試，確保AI系統的穩定性和準確性。
• 持續追蹤AI技術發展，定期評估並更新系統。

4. 數據隱私與安全風險：

• 資料外洩與濫用：AI系統需要大量數據，這些數據可能包含敏感資訊和商業機密，若安全措施不足，可能導致資料外洩或濫用，帶來法律和聲譽風險。
• 資料品質問題：AI模型效能依賴訓練數據的品質。錯誤、不完整或有偏差的數據會影響模型的準確性和可靠性。
• 法規遵循：不同國家對數據隱私和安全有不同的法規要求（如GDPR）。企業需要確保其AI系統符合所有相關法律和法規，並且在這些法規不斷更新和完善時保持同步。
• Gen AI可能生成侵犯版權或未經授權的內容，造成法律糾紛。

因應措施：

• 擴大原資安隱私治理至AI運用範圍，確保符合相關法規要求。
• 實施組織內部資訊加密和存取控制措施。
• 定期進行安全性審查和漏洞測試。

5. 倫理與合規風險：

• 倫理爭議：AI的應用可能引發倫理爭議，例如在招聘、信貸審核、司法判決等領域的自動化決策是否公平、透明，是否侵犯個人隱私等。
• 責任歸屬：當AI系統做出錯誤決策或造成損害時，責任應該歸屬於誰（開發者、部署者、使用者），目前的法律框架可能無法完全適用。

因應措施：

• 注重AI訓練資訊的多元性和公平性，以降低潛在的偏見風險。
• 定期審查人工智慧決策流程，確保其符合倫理標準及相關法規。
• 保持AI運作的透明度，並與所有利害關係人進行有效溝通。

為了有效應對這些風險，企業在導入AI時需要進行全面的風險評估和管理，制定清晰的AI策略和倫理準則，加強資料安全和隱私保護措施，持續監控和評估AI系統的效能，並培養員工的AI素養和技能。

此外，善用方法學，如ISO 23894人工智慧風險管理指南、ISO/IEC 42001人工智慧管理系統、NISTIR 8332等擇一實施，企業始可將風險降到最低。

專欄作者簡介：白佩華

現任國際知名風險管理集團資深顧問，專司企業整體風險評估及整合解決方案、新興風險及政治前瞻顧問。

留美傳播學院雙碩士，並擁有英國劍橋大學Judge 商學院循環經濟及永續策略證書、哈佛商學院策略分析(包含破壞性策略、策略執行及永續策略)、領導與管理(management and leadership)以及Business in Society專業證書，美國華頓商學院ESG 重大因素分析證書，工研院TCFD, CDP, SBTi培訓證書，MIC產業分析師課程證書。ISO 14064 (主稽), ISO 14067, ISO 14068-1 (主稽)   BS 8001, ISO／IEC42001  主稽

永續發展延伸系列文章（不定期更新）
ESG小白看這篇！一次看懂重大性評估步驟與價值
永續轉型下最搶手的新興人才！企業永續的成功關鍵
2023企業決策的永續趨勢：將氣候風險視為轉型加速器
5大策略引領永續發展：創新轉型是ESG的最終目標

先行智庫為台灣管理顧問公司，服務內容包含企業內訓、顧問諮詢等服務，了解更多企業服務內容：https://kscthinktank.com.tw/custom-training/

如有任何問題或需求，請填寫以下表單，我們將竭誠為您解答！
您也可以透過以下按鈕了解更多資源：