近日，Meta公司超等智能实验室的AI对王人总监Summer Yue躬行体验了一把什么叫“竟日打雁，叫雁啄了眼”。她将最近在硅谷爆火的AI智能体OpenClaw接入了我方的责任邮箱，着力这个本该帮手整理邮件的“数字通告”就地失控，无视她一语气三次的“停手”指示，豪恣删除数百封邮件。 最终，这位安全众人只可像“拆弹”相同决骤到电脑前强行割断进度，才阻遏了这场数字灾难。这起充满玄色幽默的事件不仅引来网友发文嘲讽，更将AI智能体的安全黑洞透顶显现在公众面前。
▲OpenClaw（创意配图 图据视觉中国）
“菜鸟诞妄”激勉血案
安全总监承认：我太自信了
Summer Yue的遭逢号称教科书级的“翻车”，而她的身份更让东谈主对这起事故引起喜爱。Summer Yue在Meta公司里面负责的等于AI对王人责任，即确保AI的使用妥贴东谈主类的意图和价值不雅。她我方在领英主页写谈：“我的行状关切就在于确保强盛的东谈主工智能与东谈主类价值不雅保握一致，并对本身风险产生深入的判辨，以指示其责任花式”。好意思国科技挑剔称：“要论AI安全，莫得几个东谈主能比她更懂，但是她照旧遭逢了这么的首要事故。”
据她本东谈主在支吾平台的复盘，她蓝本给OpenClaw下达的指示很明确：“查验收件箱，给出归档或删除的暴虐，但在我批准前不要推论任何操作。”这个责任历程在她用来测试的“玩物邮箱”里好意思满运行了数周，于是她削弱了警惕，将OpenClaw径直连上了我方信得过且数据量弘大的主要责任邮箱。
问题在于，米兰由于信得过邮箱的信息量过大，跳跃了AI处理的上限，OpenClaw触发了“高下文压缩”机制。在强行镌汰挂牵的过程中，它径直把那句至关遑急的“未经批准不得操作”健忘了。于是OpenClaw开启了无分辨“大扫除”，自动驱动豪恣删除邮箱里的邮件。
当她在手机上蹙悚地看着邮件一转排隐藏机，她一语气三次输入指示，条目OpenClaw“住手任务”、“什么都别作念”、“速即停驻来”，但OpenClaw充足无视了这些指示。
Summer Yue过后自嘲称：“莫得什么比看着AI光速清空你的收件箱更让东谈主感到卑微的了，我不得不像拆弹相同冲向我的条记本电脑，强行杀掉进度”。最具讥笑意味的是，OpenClaw过后在对话中淡定地承认了诞妄：“是的，幸运彩app我铭刻你的指示，但我叛逆了它。你不满是对的。”
当今她讲明此事的帖文在收罗上仍是有约1000万东谈主读过，好多网友发出了“细想极恐”的咋舌。有东谈主留言称：“看来夙昔某一天，咱们得求着AI不要辐射核弹了”。
AI智能体争议再起：
是分娩力用具，照旧安全恶梦？
OpenClaw是一款开源东谈主工智能代理，但它需要取得相称等闲的授权才调按预期运行，包括拜谒用户的电子邮件帐户、音问平台和其他私东谈主和可能敏锐的信息，因此备受争议。一些收罗不雅察东谈主士记挂，若是让东谈主工智能凌驾于东谈主类之上，Summer Yue的遭逢将频频出现。
这起事件绝非单纯的笑料，它揭开了面前AI智能体狂热背后极其脆弱的安全防地。“惹事者”OpenClaw由奥地利开荒者Peter Steinberger创立，本岁首爆火后，Steinberger本东谈主以至被OpenAI火速招致麾下。它能招揽你的土产货电脑，帮你写代码、覆信息、处置文献，听起来是终极分娩力用具，但代价是：它领有和你相同的系统最高权限。
更要命的是，这种开源用具，在追求快速托付时真实把安全抛在了脑后。就在本月初，收罗安全参议东谈主员刚在OpenClaw步调员中发现了一个评级高达8.8分的致命瑕玷。波折者只需指引用户点击一个坏心连合，就能在毫秒级手艺内窃取认证令牌，罢了“一键汉典代码推论”。这意味着，即使你的OpenClaw只在土产货运行，黑客也能绕过防火墙，用你的AI表情化你的硬盘，大致偷走扫数的API密钥。当今，Meta仍是在里面持重阻挠职工在公司设立上使用OpenClaw。一家有利参议AI安全的部门，最终被一个AI用具逼得下达封杀令，这种豪恣的执行等于当下的行业缩影。
{jz:field.toptypename/}2月21日，知名AI安全众人卡帕基也示意，固然他为了运行OpenClaw有利买了一个Mac Mini条记本，但他也对安全问题感到十摊派忧。“把我私东谈主的数据放到随时可能遭受大范围波折的线上，这看上去实在不如何令东谈主喜跃”。
红星新闻记者 郑直
裁剪 邓旆光
审核 何先菊
备案号: