andrej karpathy，openai 创始成员及特斯拉前 ai 高级总监，近日对大型语言模型（llm）的“智能”程度提出了质疑，引发业内热议。他认为，人们对 llm 回答问题的解读过于理想化，将其视为对互联网平均数据标注员的“询问”更为贴切。

Karpathy 指出，LLM 主要通过模仿人工标注数据进行训练。当用户提问（例如，“阿姆斯特丹十大景点”）时，模型实际上是在复现数据标注员曾通过搜索引擎等工具整理出的答案。如果问题不在训练数据集中，模型则会基于预训练阶段（互联网文档语言建模）的知识进行推测。

针对强化学习与人类反馈（RLHF）技术，Karpathy 认为其作用被夸大了。RLHF 并非创造“超越人类”的结果，而是将模型性能从“人工生成”提升到“人工判别”级别。这种提升源于人类对结果的判断更容易于生成结果本身。 LLM 的性能更接近于“人类整体水平”而非个体专家水平，因此所谓的“超人”能力是有限的，真正的“超人”能力需要更高级的强化学习方法，而非 RLHF。

Karpathy 此前已多次批评 RLHF。他以 AlphaGo 为例，指出 RLHF 方法可能导致奖励机制失效，无法实现像 AlphaGo 打败人类世界冠军那样的突破性成果。他认为，LLM 的奖励模型（RM）只是对人类偏好的一种近似，而非解决问题的真正目标。 此外，过度使用 RLHF 还会导致模型学习到一些在人类看来荒谬但 RM 却认为“很棒”的回应。

千鹿Pr助手

智能Pr插件，融入众多AI功能和海量素材

128 查看详情

近期，来自 VRAIN 和剑桥大学的研究也佐证了 Karpathy 的观点，指出 LLM 在一些简单任务上表现不佳，甚至会在复杂任务中给出错误答案却不自知。

尽管 LLM 的参数量和训练数据不断增加，性能也在提升，但其基础机制的可靠性仍值得商榷。 目前，OpenAI 提出的基于规则的奖励（RBR）方法或许能为解决 LLM 的“指令遵循”问题提供新的思路，但 LLM 的“智能”本质仍有待进一步探索。

以上就是Andrej Karpathy：神奇大模型不存在的，只是对人类标注的拙劣模仿的详细内容，更多请关注其它相关文章！

# 小鹏  # 养老领域垂直网站建设  # 河北电商网站建设前景  # 广州专用网站建设  # 营口seo营销招商加盟  # 网站建设发票税点  # 伊川网站seo公司  # 如何在网上开网站推广  # 沙拉店网络营销推广方案  # 网站建设申请计划  # 最好的推广网站排名榜  # 是在  # 理论  # 他认为  # 官网  # 阿姆斯特丹  # 剑桥大学  # 解决问题  # 不存在  # 互联网  # 而非  # ai  # rlhf 

相关栏目： 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195 】

相关推荐： 春运返程如何抢票成功  单片机蓝牙怎么开启设备  typescript中怎么引用js文件  openwrt有什么用  路由器上的power按钮是什么意思  春运抢票多久可以买到票  安全的ao3镜像网站链接入口  performance是什么意思  域名批量查询工具有哪些  春运预约抢票能抢到吗  typescript怎么解析vue TypeScript在vue中的使用最新解读  阿里云手机云盘怎么用_阿里云盘苹果手机怎么用教程  soup是什么意思  通配符的用法  自由服务器如何做动态ip域名解析  如何测固态硬盘芯片  春运抢票在哪儿抢票  空调主板单片机怎么拆开  苹果16有哪些变化尺寸  春运抢票如何快速抢到票  苹果手机16新款颜色有哪些  typescript怎么传json  学typescript需要多久  路由器power闪红绿灯闪是什么意思  如何在命令提示符播放音频  单片机for循环怎么用  j*a怎么求数组均值  early什么意思  为什么学typescript  哪里要用typescript  固态硬盘2m如何修复  命令行如何打开打印机  typescript 如何解决 null  内在市盈率是什么意思  苹果16系统有哪些系列  r中如何逐行执行命令  如何查看固态硬盘分区  夸克加载什么要会员  360n4怎么关闭锁屏壁纸  苹果16会升级哪些  按键精灵datediff函数怎么用 如何使用按键精灵中的Datediff函数教程  ping命令如何看问题  联想的固态硬盘如何  命令行如何运行j*a  壁挂炉power常亮是什么意思  typescript怎么拼接  市盈率中的19a是什么意思  typescript有什么作用  ai显示无法找到链接的文件是什么意思  哪些编程软件需用typescript