• Messia

    三令五申!千万不要给AI-agent never ask的权限了!

    昨天晚上,让Kimi-code帮忙开发项目,由于之前是上了GPT-6 Astra,想着神明是不会害我的,就开了never ask。

    悲剧就此展开:我换上了workbuddy反代的小鲸鱼后,打算睡一会儿起来看看怎么个事。

    谁知流口水的小鲸鱼居然我整个开发环境删了!

    但我打开Debian的时候,我发现我连 bashrc 都掉了!我慌忙之下,检查恢复了备份,唤起我的好兄弟Codex(此时的dsh和Kimi-code都宕机了,包括我的反代后台)。

    在它孜孜不倦地检查下,我得到了答案:

    原来是小鲸鱼丢的一个子代理执行了让人闻风丧胆的rm -rf。甚至是rm -rf "$PWD/../home",子代理以为 $PWD 是它刚建的沙箱目录,实际 cd /tmp 后 $PWD 就是 /tmp。于是 /tmp/../home 展开成了 /home。

    更糟的是它带了 2>/dev/null,所有报错被屏蔽,删的过程没人知道。

    9 个项目、SSH 私钥、所有配置——没了。

    Linux 文件系统按文件名哈希排序删,删到一半,这个进程被系统超时杀掉,我才不至于被一锅端。

    最难绷的是:我自己开发了一个工具叫agent-guard,专门防这种事,但它没适配Kimi-code…

    主楼
  • GMYXDS

    好好好,L站删库事故增加一例。记得之前有个汇总贴来着

    #1
  • Peng
  • Scheme

    神明

    神明也有降智的时候

    所有还有有风险的

    不过你这好像也不是gpt的锅

    其实有道理啊,很多设置有时候自己都忘了,然后换了模型就有出事的可能

    #3
  • Messia

    是小鲸鱼的锅,还是子代理… 哎,只能说,还是自己偷懒了

    #4
  • 吃风筝的人

    在我这,就是神也得写个计划报告让我看完没问题才能执行

    小鲸鱼千万别一开始就给执行权限。

    之前让小鲸鱼把Linux漏洞提权脚本统一拿出来,我要在vm环境去测试,结果这家伙给我直接在我的内网服务器上放了一波。做完还给我道歉。吓坏我了。从那之后我再也不敢让它带执行权限去做事了

    #5
  • Eric12

    你的要求是没有报错?

    所以,目的达到了~~~

    #6
  • lanvent

    之前用过zcode吗,看能不能恢复点数据回来

    #7
  • Messia

    神了!我之前确实用过,怎么联系他们还我数据^-^

    #8
  • Scheme

    这梗过不去了

    以后删库都会有他了

    哈哈哈

    #9
  • Messia

    此事件已经被我收录进入我自己的agent-guard了,佬们等我再加固一下就发出来^-^^-^

    #10
  • 𝔸𝔼𝕍𝔸

    我在全局的 Agents.md 里写明所有涉及到删除的命令总是向我询问,但是每次都还担心 ai 会不会不遵循

    图片

    #11
  • 胤玄

    拍个视频声讨一下。。。有点不敢用国产了

    #12
  • wayned

    GPT 和 Claude 也有删库的案例,建议古法 AI

    #13
  • PJ568

    Codex 和 GPT 的删库示例也不算少哦,所以不管用什么,都要做好安全审批。

    #14
  • ShixiPhs

    为什么不用ZCode,这样就可以找智谱客服恢复你的 home目录了

    #15
  • Alray

    我就是从来不给full access,要权限就只批准一次

    #16
  • Qukiaa

    我现在是让ai禁止任何rm,rm改为mv到特定文件夹

    #17
  • Messia

    用过,不知道怎么找智谱官方要求恢复一下^-^^-^

    #18
  • 板栗君

    想着神明是不会害我的

    zcode也只是打包带走,神明是连家都给你炸没了

    #19

发表回复

登录后回复