OECD 政策簡報:聊天機器人與爬取資料應提供更細緻的使用者控制

OECD 發表《AI 情境下加強使用者控制與隱私保護》簡報,建議對單一對話、檔案設定退出訓練,並要求開發者能交代爬取資料的來源。

重點

  • OECD 簡報指出個人資料進入 AI 系統有兩條路:使用者與聊天機器人的對話,以及網路爬取。
  • 多數服務只提供帳號層級的「不用於訓練」選項,簡報建議細到單一對話、檔案或資料類別。
  • 爬取資料方面,開發者應能說明來源、過濾了什麼、如何處理異議。
  • 這份簡報是整理現有指引與做法,不是有約束力的法規。
目錄(3 節)
  1. 發生什麼事
  2. 簡報提到的做法
  3. 對你的影響

發生什麼事

經濟合作暨發展組織(OECD)發表了一份政策簡報《Enhancing User Control and Privacy Protections in the Context of AI》。據 The Policy Edge 的整理,簡報把個人資料進入 AI 系統的途徑分成兩種:使用者直接輸入的聊天對話,以及從公開網站爬取的資料。簡報的性質是盤點現有指引與新興做法,並不創設具約束力的規則。(我們未能打開 OECD 頁面,以下內容依該媒體的整理,細節請對照原文。)

OECD 政策簡報建議 AI 聊天與爬取資料應提供更細緻的使用者控制。

簡報提到的做法

  • 目前部分聊天機器人只提供帳號層級的退出訓練選項,沒辦法針對單一對話或單一檔案設定;簡報建議提供更細的控制。
  • 使用者要輸入敏感資訊時,即時跳出提示。
  • 設定要用淺顯語言、好操作,預設值要合理,控制才算有意義。
  • 爬取資料前先避開敏感來源、限縮蒐集範圍、訓練前過濾個資,並尊重網站的禁止爬取指示(但這只對守規矩的機器人有效)。
  • 開發者應記錄資料來源、測試模型是否會複述個資,並提供異議與救濟管道,涵蓋微調或再散布的模型版本。
  • 刪除來源資料不代表模型已「忘掉」,簡報也點出記憶化與生成錯誤個資的問題。

對你的影響

這不是法規,沒有立即的合規義務。但若你的產品會讓使用者與 AI 對話、或會蒐集公開網頁資料,這份清單可以當作檢查表:能不能讓使用者針對單一對話刪除或不被用於訓練、資料來源有沒有紀錄。