昆仑万维发布奖励模型 Skywork-Reward，登顶 RewardBench 排行榜

小枫来为解答以上问题。昆仑万维发布奖励模型 Skywork-Reward，登顶 RewardBench 排行榜,这个很多人还不知道，现在让我们一起来看看吧~.~！

　　 9 月 13 日消息，昆仑万维（300418）发布了两款全新的奖励模型 Skywork-Reward-Gemma-2-27B 和 Skywork-Reward-Llama-3.1-8B。在奖励模型评估基准 RewardBench 上，这两款模型分别位列排行榜上的第一和第三位。

　　奖励模型（Reward Model）是强化学习（Reinforcement Learning）中的核心概念和关键组成，它用于评估智能体在不同状态下的表现，并为智能体提供奖励信号以指导其学习过程，让智能体能够学习到在特定环境下如何做出最优选择。

　　奖励模型在大语言模型（Large Language Model，LLM）的训练中尤为重要，可以帮助模型更好地理解和生成符合人类偏好的内容。

　　与现有奖励模型不同，Skywork-Reward 的偏序数据仅来自网络公开数据，采用特定的筛选策略，以获得针对特定能力和知识领域的高质量的偏好数据集。

　　Skywork-Reward 偏序训练数据集包含约 80,000 个样本，通过在这些样本上微调 Gemma-2-27B-it 和 Llama-3.1-8B-Instruct 基座模型，获得最终的 Skywork-Reward 奖励模型。

来源：IT之家

以上就是关于【昆仑万维发布奖励模型 Skywork-Reward，登顶 RewardBench 排行榜】的相关内容，希望对大家有帮助！

标签：

版权声明：本文由用户上传，如有侵权请联系删除！