专给 ChatGPT“找茬”,OpenAI 训练 CriticGPT 模型以检索输出内容错误

来源: 南方周末
2024-06-28 09:26:41

IT之家 6 月 28 日消息,当地时间 27 日,OpenAI 宣布基于 GPT-4 训练了一个名为 CriticGPT 的模型,用于查找 ChatGPT 聊天机器人输出内容中的错误。它可以撰写评论,强调 ChatGPT 生成答案中不准确的地方。

据介绍,CriticGPT 旨在协助人类 AI 训练员完成工作 —— 使用一种名为“从人类反馈中强化学习(IT之家注:Reinforcement Learning from Human Feedback,RLHF)”的技术来训练、改进 GPT-4 的回答。

然而随着 ChatGPT 的准确性日益提升,错误越来越隐蔽,导致 AI 训练员的工作越来越“难做”。OpenAI 对此解释称,这是 RLHF 的基本局限之一 —— 模型逐渐变得比任何可以提供反馈的人都更博学,模型的协调可能也会随之变得越来越困难。

目前,当 CriticGPT 试图从 ChatGPT 的回答中发现错误时,它的一双“鹰眼”就会发挥作用。OpenAI 指出,现实世界中的错误可能遍布答案的多个部分,这是 CriticGPT 未来需要解决的问题。“我们的工作重点是可以在一个地方指出错误,但将来我们也需要解决分散的错误。”

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

  土耳其反对瑞典、芬兰加入北约的原因很简单——瑞典与芬兰支持库尔德工人党和“居伦运动”,并禁止对土出口国防设备。用埃尔多安的话说,不可能希望意见相左甚至敌对的国家加入同一个国际组织。

  【典型意义】根据《中华人民共和国民法典》、《中华人民共和国慈善法》的规定,基金会属于为公益目的设立的捐助法人,基金会的财产属于捐助财产、慈善财产,任何组织和个人不得私分、挪用、截留或者侵占。民政部印发的《关于规范基金会行为的若干规定(试行)》规定,基金会不得向个人、企业直接提供与公益活动无关的借款。实践中,一些基金会的资金以借款的名义外流并失去控制,危害到慈善财产安全和公共利益。本案中,登记管理机关严格执行法律规定,对危害慈善财产安全的行为严厉打击,对基金会予以吊销登记证书的行政处罚。在此基础上,登记管理机关依托社会组织联合执法机制,根据有关规定将叶某某涉嫌挪用慈善资金的证据移交公安机关立案侦查,有利于震慑侵害慈善财产的不法行为,加大追回公益慈善资金的力度,努力保障慈善财产安全,同时也是社会组织领域行政执法与刑事司法衔接的积极探索和有益实践。

  其实,维修价格超过新机并非电视“专利”。北青报记者在采访中了解到,在自动化生产程度较高的数码产品中,多存在同样问题,尤其是成本占比较高的核心零部件的更换,往往总价格要达到甚至超过购买新机的价格,比如笔记本、手机、数码相机更换主板的价格都会明显高于新机价格。

  创新的事业孕育创新的精神,创新的精神推动创新的事业。中心领导介绍说:“如今,中心有65名青年人才担任型号指挥、总师、设计师等职务,70%以上的技术创新来自青年团队,80%的科技成果奖主要完成人是青年技术骨干。”

  申万宏源证券首席经济学家杨成长对记者表示,今年是我国经济恢复到常态性增长的关键一年,资本市场需要在改革中激发民营经济活力,促进国内需求复苏,助力经济高质量发展,更好服务国家战略。

  国家税务总局最新增值税发票数据显示<strong>,今年春节假期,全国消费相关行业销售收入与上年春节假期相比增长12.2%。其中,商品消费和服务消费同比分别增长10%和13.5%</strong>。

谢秉勋

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有