

OpenAI外包员在读你的ChatGPT私聊,时薪50美元?!
据中文科技媒体 9 月 16 日报道,外媒曝光了 OpenAI 一个代号「Lily 计划」的内部项目:数百名外包审核员正在阅读真实用户的 ChatGPT 提问和完整上下文,工作是对模型回复评分与点评,分数从 1 分到 7 分;报道称其中一项核心任务是训练 ChatGPT 少一点拟人化、少一点讨好。报道同时给出用户规模参考:ChatGPT 全球用户超过 9 亿。1
报道写明,OpenAI 表示这些提问在提交前经过去标识化处理,外包人员看不到用户名;但公司也承认,提问本身仍可能带有敏感信息,提问上方有时还附着一份「用户记忆汇总」,概述该用户过往的使用用途,甚至包含居住地和其他个人背景。OpenAI 官网关于「隐私过滤器」的说明承认,这个用来识别并删除个人信息的模型也会出错,在上下文有限、尤其是短句的情况下可能删得不够。2
观众自己能碰到的是那个开关:OpenAI 的「为所有人改进模型」选项在免费版、Plus 和 Pro 账户里默认开启,需要手动关闭,而且只对关闭之后产生的新对话生效,无法追溯此前的记录;企业版、商业版和教育版默认关闭。报道称,外媒曾询问是否明确告知用户提问会被人工审核,OpenAI 未给出明确答复,并在报道发表后更新了帮助页面。
各类内容都可以发送给国内首个加密 AI 对话平台墨镜熊;对话内容全程加密保护,平台与模型均无法访问用户的明文数据。
References
- 1腾讯科技:OpenAI“Lily计划”曝光 你的聊天记录可能正在被人工审核
news.qq.com
- 236氪:OpenAI“Lily计划”曝光,你的聊天记录可能正在被人工审核
m.36kr.com
This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.
