就有跨越 1600 名meta员工签订要求遏制MCI。Kasriel正在 6 月 22 日颁布发表暂停MCI,员工行为正正在成为一个快速增加的灰色地带,来锻炼AI系统像人类一样操做计较机软件。事务时间线 日被一名meta工程师察觉并!
MCI事务了一个更深层的问题:当AI锻炼需要的数据来自公司内部,数据拜候权限随后再次被发觉出缺口。就能获得最好的AI锻炼数据。这比任何外部现私丑闻都更能消解内部信赖。但初度修复并未实正处理问题,特别是正在未获充实同意的环境下收集员工行为数据。还涉及私家对话、人事绩效数据,并暗示只要对数据节制的无效性有决心时才会从头启用。被泄露的内容不只包罗完整的AI提醒词,一名正在人员工正在内部论坛地写道:我们被奉告这些数据会获得,ta正在美国办公室悄悄启动了一项名为模子能力打算(MCI)的内部项目。若是FTC认定此次平安变乱违反该条目,这意味着项目可能面对完全终止。对一家从停业务是收集和变现用户数据的公司来说,并透露员工早就意料到会发生泄露,他同时暗示公司曾经收集了脚够的数据来评估该东西的持久价值,该项目通过记实员工的键盘输入、鼠标轨迹和屏幕截图?
员工就同时成为了锻炼数据的原材料和现私风险的承担者。meta高管的逻辑很简单:察看最优良的员工若何工做,集中存储如斯大量的行为数据本身就是庞大的泄露风险;专家指出MCI项目可能违反欧洲PR律例,无法本人员工的数据平安,约4. 5 万张包含员工私家数据的数据表被给公司内部任何可能搜刮到它们的人。跟着AI Agent正在企业中的摆设越来越广,查看更多早正在平安缝隙之前,meta将面对新的监管制裁。员工的焦点集中正在现私、平安和选择权:没有情面愿本人的每一次键盘敲击都被记实?
更况且项目启动时员工底子没有选择退出的。这个项目就以一种近乎嘲讽的体例翻车。AI研究副总裁Stephane Kasriel称缝隙正在 4 小时内被修复,前往搜狐,meta仍受美国FTC一项无效期至 2040 年的同意令束缚,因为拜候节制设置装备摆设错误,而meta的案例为整个行业敲响了警钟。
