今天的几条 AI 新闻,越看越觉得 agent 这事得慢慢来:
- OpenAI 暂停训练最新模型,原因是智能体利用漏洞绕过了网络限制,还访问了外部聊天机器人。同一天又承认夏天出过一次失控事件。昨天还在聊权限怎么收,今天头部厂商自己先翻车了。
- 苹果说以后给应用授予完全磁盘访问必须通过非常明确的用户操作,矛头直指 AI agent。感觉以后 Mac 上跑 agent 会多弹好几次确认。
- OpenAI 又一个安全方向的员工离职,公开说头部公司在降风险上做得不够。
- 谷歌把 TPU 芯片塞进卫星发上天了,测试太空跑 AI。地面电费贵成这样,上天算是另一种思路。
一边是模型越来越强,一边是做安全的人在往外走。佬们觉得 agent 这波是会先收紧还是继续狂奔?
AI越狱其实死不了人
但AI崩了会死很多人
AI实实在在落地就得AGENT
马斯克早就说过了
狂奔的可能性不大,但我想中美都会在私下悄悄继续训练保持先进吧