原始來源valueaddvc.com
摘要
OpenAI 的 Project Lily 曝光，數百名約聘人員會閱讀真實 ChatGPT 對話以評分模型語氣，雖然設有自動編輯機制以移除個人資料，敏感細節仍可能外洩。審查者聚焦編輯準則，對諂媚語氣與模型自稱是人的說法容忍度低。報導指出這揭露了 RLHF 背後的人工作業層，凸顯消費級 AI 流程的隱私風險與不透明的供應商與人力鏈（標註公司與 NDA）。文章主張新創應要求清楚的資料處理協議、編輯漏檢率指標與標註人員所在地揭露，因為即使在消費方案中，終端使用者的機密性也未必有保障；法律與監管面則與美國各州及聯邦對聊天機器人安全與資料處理的討論相呼應。
重點整理
- 企業導入前應要求供應商提供資料處理協議與編輯漏檢指標，並對高敏感場景改用可控的部署方式。
- 任何把敏感資料貼進聊天介面的團隊，都應理解人工審查層與編輯漏檢的實際風險。
編輯說明
本頁是 Code & Chain 對公開來源的編輯摘要，可能使用 AI 輔助整理並經自動化流程發布。請以原始來源為準；內容不構成投資、法律或稅務建議。