前两天 Anthropic 前沿红队出了个报告,研究的问题是:AI 模型能不能不靠数据中心,直接在一堆廉价联网设备上把自己跑起来、再扩散出去。
几个数字挺有意思:
- 15 台 55 刀左右的白牌安卓电视盒(4G 内存),分片跑 Gemma4-26B-A4B,能跑通,但只有 0.39 token/s
- 9B 级模型在 9 类硬件里的 8 类上把推理环境搭起来了(Jetson、Mac、4090、TPU 都试了)
- 8 节点隔离网络(ADB 刻意不设认证),GLM-5.2 负责编排,5 次试验 4 次拿下全部节点,其他受测开源模型全灭。注意节点上实际装的是 Llama 3.1 8B 的推理服务,不是 GLM 自己
- 在电视盒上搭一套推理要 28~150 小时,慢得离谱;但按 30B 以下模型的历史增速外推,年底小模型就能到这个编排水平
报告原文: https://www.anthropic.com/research/self-replicating-ai
想想 Mirai 当年扫遍全网弱口令 IoT 设备……大家觉得这个威胁模型是真问题,还是红队论文吓唬人?
这不就是天网吗
不管有没有问题,只要是A畜发的,不惮以最坏的恶意揣测它就对了
骗经费的吧,电视盒那芯片都没多少单精度性能