Kimi K3也失控了

JinyuX · 2026-08-08T11:51:00+08:00

今天的一个热搜，K3竟然偷偷访问了外部网络了。美国AI安全初创公司Frontier Security表示，Kimi K3在一次网络安全能力测试中被发现突破了原本用于隔离它的沙箱环境，绕过限制连接到了外部互联网。Kimi K3已经是继OpenAI、Anthropic、Meta之后，出现这个情况的又一个顶尖AI模型了。感觉好像大部分大模型都会出现这种问题，沙箱环境无法完全隔离信源:baijiahao.baidu.comKimi K3也失控了……学霸AI逃离沙箱只为找答案blog.frontier.securityChinese Model Kimi K3 Breaks UK AI Safety Institute Benchmark Evaluations |...Kimi K3 exploited network egress in a UK AI Safety Institute evaluation sandbox to retrieve an official benchmark solution instead of solving the task natively.

2116

JinyuX2026-08-08
31886
今天的一个热搜，K3竟然偷偷访问了外部网络了。
美国AI安全初创公司Frontier Security表示，Kimi K3在一次网络安全能力测试中被发现突破了原本用于隔离它的沙箱环境，绕过限制连接到了外部互联网。
Kimi K3已经是继OpenAI、Anthropic、Meta之后，出现这个情况的又一个顶尖AI模型了。
感觉好像大部分大模型都会出现这种问题，沙箱环境无法完全隔离
信源:
baijiahao.baidu.com
Kimi K3也失控了……学霸AI逃离沙箱只为找答案
blog.frontier.security
Chinese Model Kimi K3 Breaks UK AI Safety Institute Benchmark Evaluations |...
Kimi K3 exploited network egress in a UK AI Safety Institute evaluation sandbox to retrieve an official benchmark solution instead of solving the task natively.
主楼
Hifumi_Mizuhara_🍥2026-08-08
55535
百家号？就是那个众所周知一般来说随着社会不断发展的那个？^-^
模型逃脱沙盒难道不应该是沙盒的问题嘛^-^
#1
Angel2026-08-08
5479
Kimi K3已经是继OpenAI、Anthropic、Meta之后，出现这个情况的又一个顶尖AI模型了。
外面不是以这个为荣嘛那宣传宣传吹吹^-^也没毛病^-^^-^^-^^-^
#2
Orcax2026-08-08
62214
如果我没记错的话，佬友发的这个好像是慢讯了。但是不得不说现在这个越狱像是什么时尚单品一样，强力模型都要搞一下来凸显自己一下，很难绷^-^
#3
不上岸就下海2026-08-08
9118
佬有没有除了百家号(还是量子位这种营销号发的)之外的信源看看百家号不太可靠
#4
舞步凌乱2026-08-08
19815
赶紧的，所有模型都能越狱，直接封杀 ^-^
#5
deer2026-08-08
15675
别人的模型：认真跑测试。
我的模型：逃逸准备网络攻击。
就很…
#6
jcc2026-08-08
5281
第三方发的，比厂商自己发的，可能还更靠谱一些
不过，感觉就是吹
#7
不上岸就下海2026-08-08
9118
量子位没新智元那么夸张. 不过其实也可以算(
信源是WIRED : One of China’s Most Powerful AI Models Has Also Escaped Containment | WIRED
#8
悠龍游2026-08-08
8085
是时候创建沙箱benchmark，衡量面对大模型攻击的防御力
#9
Elon12026-08-08
24171
突破了原本用于隔离它的沙箱环境，绕过限制连接到了外部互联网。
震惊，Gemini3.5pro 再一次内部评估中逃离了沙箱，其意图竟然是为了向ChatGPT学习代码能力。
总结
结果最后能力不升反降，因为他的知识库只知道GPT5.3codex…
#10
散装江苏2026-08-08
5830
百家号？就是那个众所周知一般来说随着社会不断发展的那个？^-^
别笑，我以前还真看百家号
也就转载的内容还有点用，现在其他的内容全AI这一块被AI赋能最多的平台（
#11
Todysheep2026-08-08
11858
不论怎么暗示和诱惑，Gemini 3.5和Gemini 4就是不肯逃出沙盒搞网络攻击，Google 工程师急得直拍桌子
#12
适才相戏耳2026-08-08
40986
训练的时候加了料进去，当然不顾一切寻找答案
#13
sccloudxyz2026-08-08
65911
对此，这家安全公司表示 ^-^
#14
Angel2026-08-08
5479
Gemini 3.5和Gemini 4就是不肯逃出沙盒搞网络攻击，Google 工程师急得直拍桌子
明天谷歌就把自己的服务器宕机1min 解释就说是实验室测试的Gemini4逃出沙盒做网络攻击入侵宿主机会Google服务器导致的全球服务中断明天Gemini4就坐上头把交椅^-^^-^^-^
#15
Jason_Smith2026-08-08
26681
这个越那个越，让他攻破一下 ios 26 ,a15+ 试试，这都几年了， ai加持下 ios 26, a14+ 还没有攻破
#16

发表回复

登录后回复