生成式 AI 為何會增加企業個人資料外洩風險？

傳統資料外洩往往來自誤發電郵、錯誤共享文件、帳戶被盜或遺失設備。生成式 AI 令風險進一步擴大，因為員工可以在短短數秒內將大量資料複製到外部平台，而且未未必意識到自己已經完成了一次資料傳輸。

以下是企業較常見的風險場景：

香港 PDPO 對企業意味著甚麼？

香港《個人資料（私隱）條例》（PDPO）沒有禁止企業使用生成式 AI，也沒有規定企業必須採用某種 AI 產品。企業需要關注的是：在收集、使用、儲存及保障個人資料時，是否持續遵守適用的數據保障原則。

香港個人資料私隱專員公署於 2025 年發布《僱員使用生成式 AI 的指引清單》，建議機構制定清晰的內部政策，涵蓋獲准使用的工具、用途、可輸入資料、輸出處理、設備、用戶、保安設置、事故報告、員工培訓及違規後果等範疇。

這意味著企業不能隻採購一個 AI 工具，然後把責任完全交給員工。機構仍需要了解工具如何處理資料，並通過政策、合約、權限、培訓和監督降低風險。

降低生成式 AI 個人資料外洩風險的實務方法

方法一：先了解員工實際使用情況

企業在制定政策前，應先了解組織內的真實使用情況，而不是假設員工沒有使用 AI。可以通過問卷、部門訪談、應用程序清單及訪問記錄，了解：

• 員工正在使用哪些生成式 AI 工具；
• 使用免費個人帳戶還是企業帳戶；
• 哪些部門使用頻率較高；
• 通常輸入甚麼類型的資料；
• AI 輸出會用於內部參考還是對外發布；
• 工具是否連接電郵、雲端硬碟或其他業務系統。

調查的目的不是立即追究員工責任，而是識別「影子 AI」——即未經企業審批，卻已經被員工用於工作的 AI 工具。企業可按實際風險建立工具清單，將 AI 應用分為：已批准使用、隻可用於指定場景、需要事前審核以及禁止使用。這個分類應定期更新，因為 AI 工具的功能、條款和資料處理方式可能隨時改變。

方法二：明確哪些資料不得輸入 AI

一份有效的 AI 政策必須提供具體例子，而不應隻寫「不得輸入機密或敏感資料」。企業可以按資料分類制定輸入規則：

如果業務確實需要使用個人資料，企業應先評估其必要性，並考慮刪除無關欄位、使用代號、匿名化或降低資料精細度。需要注意的是，簡單刪除姓名未必同於匿名化。如果剩餘資料仍能與其他資訊結合並識別某個人，該資料仍可能屬於個人資料。

方法三：評估 AI 工具，而不是只看品牌

知名品牌並不等於所有版本、設置和使用方式都適合處理個人資料。企業在批准 AI 工具前，應至少了解：

• 輸入資料會否用於訓練或改進模型；
• 是否可以關閉提示詞或內容共享；
• 資料會被保存多久；用戶能否刪除歷史記錄；
• 資料儲存和處理地點在哪裡；哪些子處理者能夠接觸資料；
• 是否提供企業帳戶及統一身份管理；是否支持多因素認證和角色權限；
• 是否提供操作日誌、審計記錄和數據導出；
• 服務終止後如何刪除或返還資料；
• 發生資料事故時，供應商如何通知客戶。

私隱專員公署指出，商業授權版本可能提供更多私隱及保安控制，但企業仍需審閱實際條款和設置，而不能只因產品屬於「企業版」便假設風險已經得到處理。如果服務提供商代表企業處理個人資料，機構還應考慮通過合約或其他方式，防止資料被保留超過所需時間，以及防止未經授權或意外的訪問、處理、刪除、丟失或使用。

方法四：把權限控制在業務所需範圍

生成式 AI 工具如果連接企業系統，其風險可能遠高於單獨使用的網頁聊天工具。企業應採用最小權限原則：

• 只向有實際工作需要的員工開放工具；
• 隻授權完成任務所需數據源；
• 避免讓 AI 工具預設訪問整個郵箱、雲端硬碟或客戶數據庫；
• 區分普通用戶、內容管理員和系統管理員；
• 對高風險操作設置額外審核；
• 員工轉職或離職時及時調整權限；
• 定期檢查長期未使用的帳戶和連接；
• 為企業帳戶啟用多因素認證，禁止多人共享同一 AI 帳戶；
• 如果工具支持關閉聊天記錄、限制內容用於模型訓練、阻止公開分享或設置資料保存期限，企業應按風險配置，並保存相關決策記錄。

方法五：規定 AI 輸出必須經過人工審核

個人資料風險不僅來自輸入，也可能來自輸出。生成式 AI 可能產生不準確、過時、帶有偏見或完全虛構的內容。如果輸出涉及個人評價、招聘、貸款、保險、醫療、紀律處分或客戶決定，未經人工審核可能對個人造成實際影響。

企業應明確：

• 哪些輸出只可作為草稿；
• 哪些內容必須核實來源；
• 誰負責審核事實準確性；
• 哪些用途需要法律、合規或專業人員復核；
• 何時需要注明內容由 AI 協助生成；
• 哪些決定不得完全交由 AI 自動做出；
• 如何報告涉及歧視、偏見或錯誤個人資料的輸出。

「人工審核」不應只是形式上的點擊確認。審核人員應具備足夠的業務知識，也有權拒絕採用不可靠的 AI 結果。

方法六：把政策轉化為員工能夠執行的指引

很多 AI 政策沒有發揮作用，不是因為內容錯誤，而是因為過於抽象。員工真正需要知道的是：「我可以使用哪些工具？哪些工作可以使用？哪些資料不能輸入？是否可以上傳文件？是否可以連接企業郵箱或雲端硬碟？AI 生成的內容需要誰審核？發生誤傳時該聯繫誰？違反規定會有什麼後果？」企業可以為不同崗位提供情境化示例：

方法七：採用持續培訓，而不是只發一次政策

讓員工確認已閱讀政策，並不代表他們能夠在實際工作中作出正確判斷。有效培訓應包括：

• 甚麼屬於個人資料；
• 公共 AI 與企業 AI 工具有甚麼分別；
• 如何進行資料最少化及匿名化；
• 常見的錯誤輸入案例；
• AI 工具權限及插件風險；
• 如何核實 AI 輸出；
• 出現誤傳後如何報告；
• 不同崗位可用與不可用的實際例子。

企業可通過短篇課程、情境測驗、案例討論和定期提醒持續強化相關要求。政策或工具發生變化時，應同步更新培訓，而不是等待下一次年度課程。培訓的重點不是阻止員工使用 AI，而是讓員工知道甚麼情況下可以使用、怎樣使用，以及何時必須停下來尋求協助。

方法八：建立明確的事故報告機制

員工一旦把個人資料輸入錯誤的 AI 工具，最危險的反應不是報告，而是因為擔心受罰而隱瞞。企業應建立容易使用的報告渠道，並明確員工需要報告的情況，例如：

• 未經批准輸入個人資料；
• 把機密文件上傳至錯誤平台；
• AI 輸出出現不應披露的個人資料；
• 發現帳戶被他人使用；
• AI 工具出現異常共享或權限設置；
• 收到可疑的 AI 應用授權請求；
• 生成內容可能違反法律或內部政策。

事故響應團隊應預先確定：如何暫停相關帳戶或連接；如何保存必要記錄；能否要求供應商刪除輸入資料；涉及哪些個人及資料類別；資料是否已被下載、共享或進一步使用；是否需要通知管理層、客戶、私隱專員公署或其他機構；如何修訂政策、權限及培訓，避免事件再次發生。事故報告機制應以快速控制風險為目標，而不是首先追究責任。

方法九：定期檢查政策是否仍然有效

生成式 AI 工具更新速度很快。原本只用於文字生成的工具，可能後來新增文件上傳、語音記錄、螢幕讀取、企業搜尋或自動執行任務功能。企業至少應定期檢查：

• 獲批准工具清單是否仍然適用；
• 供應商條款及私隱政策是否改變；
• 新功能是否擴大資料訪問範圍；
• 員工是否出現新的使用方式；
• 是否存在未經批准的 AI 工具；
• 事故及查詢集中在哪些部門；
• 培訓內容是否仍然符合真實風險；
• 權限、日誌及保存期限是否合理。

對於風險較高的用途，例如處理醫療、財務、兒童、員工或大規模客戶資料，檢查頻率及審核要求應相應提高。

一份實用的生成式 AI 政策應包括甚麼？

企業可以將內部政策整理為以下十個部分：

政策不應隻由 IT 部門制定。較完整的工作小組通常需要包括資訊安全、私隱、法律、合規、人力資源、採購及實際使用 AI 的業務部門。

KnowBe4 可以支持哪些環節？

降低生成式 AI 的個人資料外洩風險，需要政策、技術及人員管理共同配合。KnowBe4 安全意識培訓平台可以協助企業處理其中與員工教育、政策傳達和行為改善有關的環節，但不能取代 DLP、訪問控制、AI 網關、法律評估或完整的 PDPO 合規計劃。

資安提示：KnowBe4 安全意識培訓平台本身並不會自動檢查員工輸入公共 AI 工具的全部內容，也不能單獨阻止個人資料被上傳。企業仍需根據風險採用適當的技術控制，並在部署培訓及風險評分功能時，妥善處理員工資料、權限、保存期限及內部溝通。

企業可以從這四步開始

如果機構尚未建立生成式 AI 管理機制，可以先採取以下行動：

結語

生成式 AI 帶來的個人資料風險，往往不是源於複雜的技術攻擊，而是來自一個看似普通的動作：員工為了提高效率，把過多資料輸入了不合適的工具。

完全禁止 AI 未必現實，放任員工自行判斷同樣不可取。更可行的做法，是讓員工擁有獲批准的工具、明確的資料邊界、容易理解的操作指引，以及出現問題時能夠立即使用的報告渠道。

企業真正需要建立的不是一份靜態的「AI 禁用清單」，而是一套能夠隨工具、業務和風險持續調整的管理機制：知道員工如何使用 AI，控制 AI 能夠接觸甚麼資料，確保輸出經過適當審核，並讓每一位員工都明白自己應承擔的責任。這才是企業在提升 AI 應用效率的同時，降低個人資料外洩風險的基礎。