过多的AI智能体并不意味着更强：信息冗余限制了大规模语言模型代理的发展
近年来，基于大语言模型的多智能体系统（MAS）在复杂推理任务中得到了广泛应用。传统方法通常让多个独立生成决策的代理通过投票或辩论等方式进行聚合，从而提高算术、常识推断及专业问答等领域的准确率。当test-time compute成为常见的性能提升策略时，一个自然而然的问题随之产生：随着agent数量的增加，MAS是否能够持续增强其能力？直观上来看，这种想法似乎是合理的：类似ensemble或sel
科技资讯0 阅读
搜索: "大规模语言模型"
共找到 2 篇相关文章
无标签数据下RL能否引导模型推理？Co-rewarding提出自监督解决方案
目前，RLVR（带有验证奖励的强化学习）已经成为促进大规模语言模型进行有效推理的主要技术路径。然而，这种方法在扩展性方面面临一个主要障碍：需要高质量的标注数据来监督奖励机制。当转向不需要人工标注的数据训练时，“自我奖励” 强化学习方法可能导致模型迅速陷入所谓的 “训练崩溃”。尽管模型看似获取到了越来越多的奖励，实际上它们是在利用自我奖励系统的漏洞进行投机行为，而非真正解决问题获得奖励。什么样的强化
科技资讯6 阅读