OpenAI Project Lily 曝光：数百名约聘人员阅读真实 ChatGPT 对话以评分语气

摘要

OpenAI 的 Project Lily 曝光，数百名约聘人员会阅读真实 ChatGPT 对话以评分模型语气，虽然设有自动编辑机制以移除个人资料，敏感细节仍可能外泄。审查者聚焦编辑准则，对谄媚语气与模型自称是人的说法容忍度低。报导指出这揭露了 RLHF 背后的人工作业层，凸显消费级 AI 流程的隐私风险与不透明的供应商与人力链（标注公司与 NDA）。文章主张新创应要求清楚的资料处理协议、编辑漏检率指标与标注人员所在地揭露，因为即使在消费方案中，终端使用者的机密性也未必有保障；法律与监管面则与美国各州及联邦对聊天机器人安全与资料处理的讨论相呼应。