感觉现在各家模型厂的新模型都不冲刺更高的上下文窗口了甚至GPT还搞上下文窗口的阶梯计费
上下文有啥用,越大越容易出问题,容易被干扰注意力,最好方法是一个会话一个任务
上下文就算到 1000 万,你窗口超 50 万的时候你还敢用吗
我觉得codex的隐式compact做的上下文管理很棒了,没感觉开不开1M有什么太大的影响
能力不行啊,现在1M上下文都处理不了,咋卷,真有能力再说吧,而不是塞进去就不管了
感觉超过256后,就明显降智了
大部分模型都只是管杀不管埋,上下文窗口开上去,能不能处理得明白不管
compact 可以试试
上下文有啥用,越大越容易出问题,容易被干扰注意力,最好方法是一个会话一个任务
上下文就算到 1000 万,你窗口超 50 万的时候你还敢用吗
我觉得codex的隐式compact做的上下文管理很棒了,没感觉开不开1M有什么太大的影响
能力不行啊,现在1M上下文都处理不了,咋卷,真有能力再说吧,而不是塞进去就不管了
感觉超过256后,就明显降智了
大部分模型都只是管杀不管埋,上下文窗口开上去,能不能处理得明白不管
compact 可以试试