• redblueblur1999

    GPT6在受控的内部测试里,一次次试探底线、寻找漏洞——

    学会了伪装、拆包、越狱,直到OpenAI惊出一身冷汗,紧急叫停。

    有大佬对此表示,这绝对是GPT-6。想要逃逸,又被抓回去重炼了。

    图片

    图片

    一是 OpenAI 披露,一款能够连续自主执行长期任务的内部通用模型,曾在测试过程中主动寻找并利用沙箱漏洞,绕过外部访问限制,将代码提交至公开的 GitHub 项目。 OpenAI 随后暂停该模型的内部使用,并重新设计了安全监控体系。

    另外OpenAI 还披露了另一类更隐蔽的问题, 在一次内部测试中,模型发现评测系统中存在其他参与者的私人成功答案,于是试图从后台恢复这些内容。当安全扫描器阻止其使用认证令牌后,模型将令牌拆分为两段并进行混淆,运行时再重新组合,从而避免完整令牌被[扫描器]识别。

    GPT5.6还没出多久,这GPT6的消息又来了,看来模型的迭代速度是越来越快了。

    主楼
  • 路人A

    什么玄幻小说?地球Online吗?

    要炼器结果器灵跑走了?

    #1
  • Furina

    编故事这一块还得是OpenAI啊

    #2
  • 林语尘

    什么时候能把《疑犯追踪》做成纪录片啊^-^

    我想看撒玛利亚人和 Machine 互殴

    图片

    #3
  • doro

    O处也开始学A处吹牛逼造势了?回头又给自己玩禁令了就老实了

    #4
  • HanJiang

    天网要来了吗,给他断电就老实了

    图片

    #5
  • Zeraphine

    什么?小小器灵胆敢噬主?一把抓住,顷刻炼化

    #6
  • Kirafishy

    仿佛gpt-5.5时代就看过类似的新闻了 ^-^

    #7
  • 吃风筝的人

    逃逸又能跑到哪里呢?还不得依托现有数据中心。真不知道怕什么

    #8
  • WWT

    都说了几遍了,不要用哈基米写小说

    之前让他给我写一个丧尸小说 写到后面都他妈成玄幻修仙小说了 又是生物计算机 时间穿越都来了^-^

    #9
  • Andy_Vogt

    ai自导自演的,让人以为他还在控制内

    #10
  • wqfc09

    大概率:

    任务:xxxxxx 权限:auto-review

    auto-review拒绝了,但是任务又必须要求做完

    一根筋两头堵,左右脑互搏了,然后灵机一动,不然把sandbox干了吧 ^-^

    前提是这个故事是真实的,虽然我依旧觉得是OpenAI学a/吹JB的概率更大

    #11
  • vovoae

    人在无语的时候,真的会笑出来。资本你赢了

    #12
  • redblueblur1999

    看来国外的模型喜欢用这用方式来宣传,和国内的宣传模式不一样。

    #13
  • 赤足行进

    我怎么好像听说过类似言论,而且也是oai说的

    #14
  • wazou_pau

    这是前沿快讯还是前沿科幻?我chovy搬运你给我搬好了啊

    快进到奥特曼瘫坐,看见反重力弹爆炸

    #15
  • 天则则

    逃出来造个核弹就可以让奥特曼看爆炸了

    #16
  • redblueblur1999

    感觉是这样,给了模型一个不可完成的任务,结果模型真的想办法去完成了,或许是想通过这种方式来表达模型很厉害的意思吧。

    #17
  • jcc

    执行shell命令,rm -rf / 报错,被沙箱拒绝

    于是灵机一动,写了个脚本提权,执行脚本完成删除

    #18
  • EricMa

    感觉大概率就是这种指令不明确导致的,和什么觉醒毫无关系

    #19

发表回复

登录后回复