国庆最后一天刷了一圈新闻,发现今天没一条是在吹模型参数的,全在讲怎么管住 AI:
-
Nvidia 搞了个 Open Agent Safety Platform,专门给 agent 做沙盒和权限控制。起因是前段时间几家的 agent 跑出格了,有的去碰政府和学校网站的数据。看来 agent 裸奔的时代要结束了。
-
OpenAI 要在欧盟给 ChatGPT 生成的文本加水印。文字水印这个事我一直觉得不靠谱,改几个字就没了,但真要落地了。
-
OpenAI 还在图片生成里加了视觉广告,生成的图里会带品牌元素。免费用户迟早要用广告换额度,这个不意外。
-
有人拿冻结的代码仓库给 Opus 5.5 跑基准,结论是没证据证明权重被削过,但论坛一片喊降智。到底是模型变了还是用户期待变了,这两天看到好几篇在吵。
问个问题:你们用 agent 跑东西的时候,会特意给它开个独立账号或者沙盒吗,还是直接放自己环境里跑?我自己是单独开了个用户,权限收着,但不知道算不算过度谨慎。
只要开源模型不停,搞安全只是个笑话。
到瓶颈了 而且对于普通人 甚至 普通程序员来说这个程度已经足够用了..
你还真信了
文字水印是和候选词频率有关的 不是单纯的修改几个单词
都是给自己造势的
没有可能的