专给 ChatGPT“找茬”,OpenAI 训练 CriticGPT 模型以检索输出内容错误

来源: 砍柴网
2024-06-28 09:22:56

张柏芝54张无删码无码僕としては結論を急がせるつもりはないですがc春という季節は何かを新しく始めるには都合の良い季節だしcもし我々が四月から一緒に住むことができるとしたらcそれがいちばん良いじゃないかなという気がします。うまくいけば君も大学に復学できるし。一緒に住むのに問題があるとしたらこの近くで君のためにアパートを探すことも可能です。いちばん大事なことは我々がいつもすぐ近くにいることができるということです。もちろんとくに春という季節にこだわっているわけではありません。夏が良いと思うならc夏でオーケーです。問題はありません。それについて君がどう思っているかc返事をくれませんか动作虽看似寻常arHGuVO-hEUMkZ5Ye98IEIxUjhD1a-专给 ChatGPT“找茬”,OpenAI 训练 CriticGPT 模型以检索输出内容错误

IT之家 6 月 28 日消息,当地时间 27 日,OpenAI 宣布基于 GPT-4 训练了一个名为 CriticGPT 的模型,用于查找 ChatGPT 聊天机器人输出内容中的错误。它可以撰写评论,强调 ChatGPT 生成答案中不准确的地方。

据介绍,CriticGPT 旨在协助人类 AI 训练员完成工作 —— 使用一种名为“从人类反馈中强化学习(IT之家注:Reinforcement Learning from Human Feedback,RLHF)”的技术来训练、改进 GPT-4 的回答。

然而随着 ChatGPT 的准确性日益提升,错误越来越隐蔽,导致 AI 训练员的工作越来越“难做”。OpenAI 对此解释称,这是 RLHF 的基本局限之一 —— 模型逐渐变得比任何可以提供反馈的人都更博学,模型的协调可能也会随之变得越来越困难。

目前,当 CriticGPT 试 图从 ChatGPT 的回答中发现错误时,它的一双“鹰眼”就会发挥作用。OpenAI 指出,现实世界中的错误可能遍布答案的多个部分,这是 CriticGPT 未来需要解决的问题。“我们的工作重点是可以在一个地方指出错误,但将来我们也需要解决分散的错误。”

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

以国际足联旗帜护旗手的身份入场

加入了给予他位置保障的

5、安排客户在世界杯赛场活动和参观。

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有