AI前哨｜AI胡编乱造怎么办？OpenAI称找到解决“幻觉”方法
(资料图片)
凤凰网科技讯 《AI前哨》北京时间6月1日消息，ChatGPT开发商OpenAI周三发布了一份研究论文，阐述了如何解决人工智能(AI)“幻觉”的新方法。AI幻觉指的是聊天机器人用编造的信息进行回应。
OpenAI要对抗AI幻觉
ChatGPT或谷歌“巴德”(Bard)这样的聊天机器人会完全捏造信息，表现得好像他们在滔滔不绝地讲事实，这就是AI幻觉。举个例子：在谷歌2月份为巴德拍摄的宣传视频中，这个聊天机器人对詹姆斯韦伯太空望远镜做出了不真实的陈述。最近，ChatGPT在纽约联邦法院的一份文件中引用了“虚假”案例，涉案的纽约律师可能面临制裁。
OpenAI研究人员在报告中称：“即使是最先进的模型也容易生成谎言，它们在不确定的时刻会表现出捏造事实的倾向。这些幻觉在需要多步骤推理的领域尤其是个问题，因为一个逻辑错误就足以破坏一个更大的解决方案。”
为了对抗AI幻觉，OpenAI找到了一种潜在新策略：训练AI模型在推理出答案的每个正确步骤上给予自我奖励，而不仅仅是等到推理出正确的最终结论时才给予奖励。研究人员表示，这种方法被称为“过程监督”，与之相反的是“结果监督”，这可能会训练出更好的可解释AI，因为这种策略鼓励模型按照更类似人类的“思考”方式进行推理。
“检测和减轻一个模型的逻辑错误或幻觉，是构建一致性通用人工智能(AI)的关键步骤。”OpenAI数学论文生成器(mathgen)研究员卡尔科布(Karl Cobbe)在接受采访时表示。他指出，尽管OpenAI并非发明了过程监督方法，但该公司正在推动其发展。“这项研究的动机是解决幻觉问题，以使模型在解决具有挑战性的推理问题方面能力更强。”
科布说，OpenAI已经发布了一个附带的数据集，其中包含80万个人类标注，它们用于训练研究论文中提到的模型。凤凰网科技《AI前哨》对此将持续关注。
标签：
为您推荐
广告
- AI前哨｜AI胡编乱造怎么办？OpenAI称找到解决“幻觉”方法
- 全球快资讯丨2023中高考倒计时！考生备考期间怎么吃更安全？
- 美股三大指数集体收跌 大型科技股多数下跌 全球热点
- 朗动两万公里保养，朗动五万公里保养项目-速看料
- 3名未成年强奸犯被执行死刑|环球快资讯
- 天天观焦点：家长曝小学雨天不让打伞进校！网友态度一反常态……
- 山西焦煤与中国石化山西石油分公司签署合作协议
- 天天即时看！什么是框架协议采购的主要_什么是框架协议
- 世界头条：苹果“印度工厂”撤退，中国迎来大回流
- 南王科技值得申购吗？激进投资者可以参与
- 焦点资讯：欧洲央行：欧元区金融稳定前景仍然脆弱
- 光莆股份股东林文坤减持120万股 套现1160.4万 2022年公司净利5251.31万 环球速看料
- ：广汽传祺怎么样及新款启辰T90怎么样_世界微头条
- 特高压或迎新一轮建设高峰 相关设备企业订单暴增
- cctv5乒乓球直播丁宁（CCTV5乒乓球直播）|环球视讯
- 如何制作泥塑_送女孩子礼物可以送什么好一点的
- 赖清德说大陆经商条件已大不如前？国台办：睁着眼睛说瞎话|世界热推荐
- 全国首批试点！成都上线事故处理便民利器
- 古代做过皇帝的三大放牛娃，除了朱元璋，你还知道谁？ 每日头条
- 乘“舟”赴约，开启梦想新篇-环球观天下
- 1法雷奥将战略投资滴滴自动驾驶 天天快看
- 2国家统计局解读5月PMI数据：产需两端有所放缓
- 3天天观速讯丨微软针对英国CMA的上述定于7月进行审理
- 4世界热头条丨正月初一的节日名称和风俗习惯。
- 5热消息：小学语文疑问句 设问句 反问句例句归纳总结（小学语文疑问句 设问句 反问句例句归纳）
- 65月31日强美矿业萤石价格走势暂稳
- 7《护心》伏阴得到幽冥赋的目的 原来他也是个不幸之人（十）
- 8新华全媒+丨点亮不懈探索的精神火炬——基层科技工作者工作生产一线见闻
- 9中国女排今日上演赛季首秀，对阵强敌巴西女排-天天速看料
- 10当前速递！内外资密集调研机构寻找新一轮投资主线
- 15月30日基金净值：景顺长城新兴成长混合A最新净值2.096，跌1.04%
- 2环球看点！推特打击 AI 虚假图片，将对图片添加由用户生成的事实核查信息
- 3环球关注：南昌市将开展2023年“安全生产月”系列活动
- 4超广角镜头什么意思（手机超广角镜头什么意思）
- 5全球热点评！多部门联合举办安全生产月启动仪式
- 6已有多家个体户被查！2023年，所有个体户12大涉税风险，赶紧自查|观察
- 7壮观！日照五莲九仙山云海日出美如画 天天讯息
- 8【环球新视野】2023年海南省专精特新中小企业名单公布
- 9关于福元港汇商务信息咨询有限公司涉嫌非法吸收公众存款案的通告
- 10怎么样炸鱼块才又酥又脆？注意这几个点，炸出来绝对的外酥里嫩，凉了也不回软
广告
- 全员包联送服务，天门烟草150名员工参与走访调研 当前独家
- 民航市场运营稳健，客运量环比持稳，同比大增 天天精选
- 每日简讯：美国防长，不是我们要见的人，中方在新加坡，有更重要的事要忙
- 江苏养殖场撤乡并镇怎样给 天天热点评
- 干上了！比亚迪F品牌这次要打长城坦克，SUV内饰谍照曝光
- 美团面试，他直接给我办了一张电话卡，充了300块钱，然后让我交
- 宇新股份(002986.SZ)6737.5万股限售股份将于6月2日上市流通
- 消逝的光芒本体和信徒哪个好玩_消逝的光芒原版和信徒版的剧情有区别吗 有哪些区别 一开始的|全球今亮点
- 科蓝软件(300663.SZ)：国产数据库、智能高柜数币机器人“小蓝”是公司今年下半年准备重点推广的两款产品 焦点精选
- 2022年中国机器人行业营收超1700亿
- 全球便携式储能电源出货量 市场规模逐年上涨 布局线上+线下渠道模式-环球热推荐
- 今日热文：为什么自酿红酒比瓶装红酒味道香?
- profilefile（profiles是什么文件夹）
- 糜子图片大全大图_糜子图片 环球微动态
- “五四薪火韶年华 三尺讲台写青春” 枝江市中青年教师演讲比赛决赛圆满结束-世界关注
- 雷竞技资讯：尺帝入选韩国队后Uzi复出！Mlxg爆料小狗加入国家队
- 焦点精选！汽车安全带卡扣，汽车安全带卡扣怎么拆
- 即时焦点：女子吐槽饭店收700元服务费却无服务，网友：她一顿饭顶我仨月工资
- 国家发展改革委：5月30日24时起国内汽、柴油价格每吨分别提高100元和95元
- 焦点短讯！全国六省60余位魔术师浠水同台“斗技”