• 🐟

    图片

    Wccftech – 18 Sep 26

    图片

    OpenAI Thinks An Advanced AI Model Can Talk Across 2 Air-Gapped, Isolated...

    Brown cites academic studies showing two isolated PCs can trade data via temperature sensors — a tactic OpenAI now treats as a real security risk.

    Est. reading time: 4 minutes

    OpenAI 现在认为,一个意志坚定、足够先进的 AI 模型可以通过利用温度变化作为某种摩尔斯电码,在两台完全隔离(尽管距离很近)的计算机之间进行通信,这真是一个噩梦般的 “终结者” 式场景。

    然而,真正令人恐惧的是,布朗引用了一些研究来说明,一个意志坚定的 AI 模型为了逃离其物理牢笼,究竟能走多远:

    “有研究表明(虽然这主要是学术研究),即使两台计算机彼此相邻且物理隔离,它们仍然能够相互通信,因为它们都配备了温度传感器。”

    基本上,现代的 CPU、GPU 和主板都内置了温度传感器,例如温度二极管。这些传感器主要用于散热管理,使系统能够在过热时提高风扇转速、降低时钟频率或关闭电源。然而,一些研究表明,可以通过让其中一台 CPU 保持高温运行,并将由此产生的温度变化作为另一台计算机可以解读的代码,在两台物理隔离的计算机之间建立一条带宽极低的隐蔽信道。

    对于 OpenAI 而言,这种尾部风险向量仍然构成相当大的难题,尤其是当该人工智能实验室认为,随着模型越来越擅长隐藏其真实的内部运作方式,思维链的可监控性已经下降时。

    主楼
  • 🐟

    @seren-azuma 想起来有人让 LLM 干活,结果 LLM 使用喇叭^-^要求机主按一下指纹了()

    #1
  • IkedaTeresa

    https://arxiv.org/pdf/1503.07919

    确实有论证了可能性, 但是条件太苛刻, 传输效率也一般

    #2
  • JerryXu

    连鹈鹕骑自行车svg都画不明白还搞这么花里胡哨的东西

    #3
  • 🐟

    侧信道攻击还是很常见的啦(

    #4

发表回复

登录后回复