產業觀點

ISO/IEC 42001:2023 是全球第一個針對人工智慧管理系統（Artificial Intelligence Management System, AIMS）制定的國際管理系統標準，適用於開發、提供或使用 AI 系統的各類型組織，不論企業規模、產業或 AI 技術型態。

隨著生成式 AI、機器學習、自動化決策與智慧分析快速進入企業營運流程，組織面臨的議題已不只是「AI 能不能使用」，而是進一步需要回答：

• AI 使用目的是否明確？
• AI 產生錯誤結果時由誰負責？
• 使用的資料是否適當且品質足夠？
• AI 是否可能產生偏誤、不公平或歧視？
• 是否涉及個人資料、機密資訊或智慧財產？
• 如何確保人員對 AI 保有適當監督？
• 第三方生成式 AI 或雲端 AI 服務如何管理？

ISO/IEC 42001 即是透過系統化的治理架構，協助組織建立 AI 政策、角色責任、風險管理、生命週期管理、績效監督與持續改善機制，在推動 AI 創新的同時降低相關風險。

ISO/IEC 42001 與 ISO/IEC 27001 有什麼不同？

ISO/IEC 27001 主要聚焦於資訊安全管理，核心目標是保護資訊的機密性、完整性與可用性；ISO/IEC 42001 則聚焦於 AI 系統的治理及負責任使用。

ISO/IEC 42001 所關注的風險範圍更包含：

• AI 模型偏誤與公平性
• AI 決策透明度與可解釋性
• AI 使用目的與限制
• 人為監督
• AI 系統安全與可靠性
• 訓練及輸入資料品質
• 個人與社會可能受到的影響
• 第三方 AI 服務與供應鏈
• AI 系統生命週期管理

因此，兩項標準並非互相取代，而是高度互補。

對已經建立 ISO/IEC 27001 ISMS 的組織而言，既有的風險管理、文件控制、內部稽核、管理審查、供應商管理與持續改善制度，都可以作為導入 AIMS 的重要基礎。

顧問提醒：已有 ISO/IEC 27001 基礎的組織，導入 ISO/IEC 42001 時通常不需要重新建立一套完全獨立的管理制度，可透過整合管理方式降低重複作業。

哪些組織適合導入 ISO/IEC 42001？

ISO/IEC 42001 不只適用於「開發 AI 模型」的科技公司，只要組織在營運過程中開發、提供或使用 AI，都可能具有導入需求。ISO 官方亦明確指出，此標準可適用於不同產業、企業、政府機關及非營利組織。

常見情境包括：

• AI 軟體與服務供應商
  開發生成式 AI、機器學習、智慧客服、影像辨識或決策系統。
• 金融及保險產業
  使用 AI 進行信用評估、詐欺偵測、風險分析或客戶服務。
• 醫療及健康照護產業
  使用 AI 協助影像判讀、疾病預測或醫療決策。
• 一般企業
  使用 ChatGPT、Microsoft Copilot、Gemini 或其他生成式 AI 協助文件、程式、客服、行銷及資料分析。
• 政府及公部門
  導入 AI 協助行政作業、公共服務或資料分析。
• AI 供應鏈廠商
  因客戶、招標、契約或法規要求，需要證明組織具備完整的 AI 治理制度。

即使企業本身不開發 AI，只是使用外部 AI SaaS 或生成式 AI，也仍然需要管理資料輸入、使用權限、輸出結果驗證、供應商及資訊安全等風險。

ISO/IEC 42001 的核心管理架構

ISO/IEC 42001 屬於管理系統標準，採用與其他 ISO 管理系統相容的管理架構，透過Plan－Do－Check－Act（PDCA）持續改善 AI 治理。ISO 官方亦將其定位為建立、實施、維持及持續改善 AIMS 的管理框架。

實務上可從下列幾個面向理解：

1. AI 治理政策與角色責任

組織應先建立 AI 管理政策，明確界定：

• AI 可以使用在哪些業務
• 哪些用途受到限制或禁止
• AI 系統的權責單位
• AI 風險由誰評估
• AI 系統結果由誰確認
• 發生問題時如何通報及處理

AI 治理不應只交給資訊部門，而應視實際情況納入管理階層、資訊安全、法務、個資、人資、研發及業務等相關單位。

2. AI 風險評鑑與風險處理

ISO/IEC 42001 要求組織建立 AI 風險評鑑與風險處理機制。

與傳統資訊安全風險不同，AI 風險可能包括：

• 模型產生錯誤或虛構內容
• 訓練資料存在偏誤
• 輸出結果造成歧視或不公平
• 個資或機密資料外洩
• 過度依賴 AI 自動化決策
• 模型受到提示詞攻擊或資料污染
• AI 服務供應商停止服務
• 模型更新後結果發生重大改變

組織應依 AI 系統的用途、影響程度與使用環境，決定適當的控制措施，而不是所有 AI 系統都採取完全相同的管理方式。

AI 系統衝擊評估（AIIA）是什麼？

AI System Impact Assessment（AIIA）是 ISO/IEC 42001 AI 治理的重要機制之一。

風險評鑑主要從組織治理角度辨識及處理 AI 相關風險；AI 系統衝擊評估則進一步關注 AI 系統可能對個人、群體及社會產生的影響。

例如：

公平性: 是否可能因訓練資料或演算法偏差，而對特定族群產生不公平結果？

透明度: 使用者是否知道自己正在與 AI 互動？組織是否能適當說明 AI 在決策中的角色？

隱私: AI 是否大量使用個人資料？是否可能從資料或模型輸出中重新識別個人？

安全與可靠性: AI 輸出錯誤時可能造成多大影響？是否需要人工覆核？

個人權益: AI 自動化決策是否可能影響個人的工作、信用、醫療、保險或其他重要權益？

ISO 於 2025 年另發布 ISO/IEC 42005，進一步提供結構化的 AI 系統衝擊評估方法，涵蓋辨識、分析及記錄 AI 系統對個人、群體與社會可能產生的預期及非預期影響。

因此，企業不應把 AIIA 當成單純的「勾選式表單」，而應與 AI 系統風險、用途及生命週期連動。

AI 系統全生命週期管理

ISO/IEC 42001 的另一項重要特點，是要求組織從 AI 系統完整生命週期進行治理，而不是只在系統上線前做一次審查。

可能包括：

需求與用途確認
→ 資料取得
→ 設計與開發
→ 測試與驗證
→ 部署
→ 實際使用
→ 監控與變更
→ 汰除

例如企業自行開發 AI 系統時，除了模型準確度外，也應確認：

• AI 系統預期用途
• 訓練與測試資料來源
• 資料品質
• 開發與測試方法
• 驗證及確認結果
• 使用限制
• 人為監督機制
• 系統監控方式
• 重大變更如何重新評估

對於使用第三方生成式 AI 的組織，也應管理服務供應商、資料使用條款、模型更新、服務中斷及輸入資料風險。

Annex A 控制措施關注哪些領域？

ISO/IEC 42001 Annex A 提供 AI 治理的參考控制措施，主要涵蓋九大領域：

• AI 政策
• 內部組織與權責
• AI 系統資源
• AI 系統衝擊評估
• AI 系統生命週期
• AI 系統使用資料
• 提供給關注方的資訊
• AI 系統使用
• 第三方與客戶關係

Annex A 並不是要求組織不分風險全部採用相同控制措施。

組織應先依 AI 風險評鑑及風險處理結果決定必要控制，再與 Annex A 比較，以確認沒有遺漏必要措施；若有需要，也可採用 Annex A 以外的控制措施。

這與 ISO/IEC 27001 採行的風險導向精神十分相似。

生成式 AI 導入更需要 AIMS

目前許多企業導入 AI 的第一步，不是自行訓練大型模型，而是直接使用第三方生成式 AI。

這種情況看似導入門檻較低，實際上仍存在許多治理議題：

• 員工是否可以輸入客戶資料？
• 可以輸入公司的營業秘密嗎？
• AI 產生的內容是否需要人工確認？
• 產出的程式碼是否可能存在安全漏洞？
• AI 產生圖片或文章是否涉及智慧財產風險？
• AI 服務供應商是否會保存或使用輸入資料？
• 免費版與企業版 AI 服務是否應採不同管理政策？
• 哪些高風險業務不宜完全交由 AI 自動決策？

因此，企業需要的不只是「禁止使用 AI」或「開放使用 AI」兩種選擇，而是一套依據風險分級的 AI 使用與治理制度。

ISO/IEC 42001 建議導入步驟

企業準備導入 AIMS 時，可依下列步驟逐步建立制度：

1. 確認 AIMS 適用範圍
   界定哪些部門、AI 系統、產品、服務與作業流程納入管理。
2. 建立 AI 系統清冊
   盤點自行開發、委外開發及第三方 AI 服務。
3. 辨識法規與關注方要求
   包括個資、資安、智慧財產、產業規範、契約及客戶要求。
4. 建立 AI 政策與治理組織
   界定 AI 使用原則、角色、權責與通報機制。
5. 執行 AI 風險評鑑
   評估安全、隱私、公平性、可靠性、透明度及營運等風險。
6. 進行 AI 系統衝擊評估
   評估 AI 系統對個人、群體與社會可能產生的影響。
7. 建立必要控制措施
   包括資料、系統、人員、生命週期、第三方及使用管理。
8. 教育訓練與實際運作
   使員工了解可接受的 AI 使用方式及相關責任。
9. 內部稽核與管理審查
   確認 AIMS 是否符合標準與組織自身要求。
10. 持續監控與改善
    因應模型、技術、法規及風險環境快速變化，持續調整治理制度。

結語

AI 帶來效率與創新的同時，也產生資訊安全、隱私、偏誤、透明度、智慧財產、供應鏈及責任歸屬等新的治理議題。ISO/IEC 42001 的價值並不是限制企業使用 AI，而是協助組織建立一套可管理、可追蹤、可監督、可持續改善的 AI 治理機制。ISO 官方亦將其定位為協助組織管理 AI 風險與機會、提升透明度、可靠性與負責任 AI 使用的重要管理框架。對已導入 ISO/IEC 27001、ISO/IEC 27701 或其他管理系統的組織而言，更可進一步整合既有的風險管理、資訊安全、個資保護、供應商管理與稽核制度，降低重複建置成本。

頂峰資訊結合 ISO 國際管理標準、資訊安全、個人資料保護與 AI 治理實務，協助企業與機關進行 AI 系統盤點、差距分析、風險評鑑、AI 衝擊評估、制度文件建置、教育訓練、內部稽核及驗證準備，使 AI 從「可以使用」進一步走向「可以治理、可以信任」。