lao1 me
AI服务器日常推广公告
搜索
菜单
主题回帖收藏
  • cavanw0001
    大龄程序员 2 个 offer 如何选择啊,纠结。。。热
    用户提交明文数据->客户端加密->云端算子基于密文推理->客户端收到密文响应->客户端解密出明文 token 。
    cavanw00012026-10-16日常25shithead
    日常
  • cavanw0001
    大龄程序员 2 个 offer 如何选择啊,纠结。。。热
    @wjcwukong 不是灰产,是基于软件的 AI 模型推理的加密计算,相当于用户请求的是密文,算子解密后完成推理计算,然后输出 token 也是密文的。
    cavanw00012026-10-16日常25shithead
    日常
  • cavanw0001
    大龄程序员 2 个 offer 如何选择啊,纠结。。。热
    相当于适配方面,就是 numberOf(gpu 机型) * numberOf(大模型的推理算子数量)
    cavanw00012026-10-16日常25shithead
    日常
  • cavanw0001
    大龄程序员 2 个 offer 如何选择啊,纠结。。。热
    大家认为隐私保护、机密推理 TEE ,不过这家公司搞的不是硬件的机密计算,是软件的,就是 AI 推理算子重写了,算子接收的数据是密文,算子内部解密后再完成原始算子计算功能,目前可以做到性能损失在 50%,也就是 token 速度平均慢 50%。
    cavanw00012026-10-16日常25shithead
    日常
  • cavanw0001
    大龄程序员 2 个 offer 如何选择啊,纠结。。。热
    @snail396 是的,我也担心,可怜我干了这么多年钱都亏在房子里面了。。。
    cavanw00012026-10-16日常25shithead
    日常
  • cavanw0001
    大龄程序员 2 个 offer 如何选择啊,纠结。。。热
    前者 3 万*13
    cavanw00012026-10-16日常25shithead
    日常
  • cavanw0001
    大龄程序员 2 个 offer 如何选择啊,纠结。。。热
    有必要为了 3.2*15 去后者呢?但是我担心后者各种不确定,最终月薪的绩效和年终都是悬念,可能还加班。。。
    cavanw00012026-10-16日常25shithead
    日常
  • cavanw0001
    大龄程序员 2 个 offer 如何选择啊,纠结。。。热
    求稳呗是吗?我也考虑 1 ,但是到手工资少了点。
    cavanw00012026-10-16日常25shithead
    日常
  • cavanw0001
    大龄程序员 2 个 offer 如何选择啊,纠结。。。热
    @cooco 楼主啥情况?给点建议呗
    cavanw00012026-10-16日常25shithead
    日常
  • cavanw0001
    大龄程序员 2 个 offer 如何选择啊,纠结。。。热
    前者 13 薪,后者 15 薪
    cavanw00012026-10-16日常25shithead
    日常
  • cavanw0001
    大龄程序员 2 个 offer 如何选择啊,纠结。。。热
    跪求大家建议。。。
    cavanw00012026-10-16日常25shithead
    日常
cavanw0001
cavanw0001
Lv1 · lao1 0
TA的主题TA的回帖我的称号TA的收藏
提示