中国信通院启动AI大模型幻觉评测,总体涉及五种测试维度
2025-03-19 16:20:00 实时讯息
IT之家 3 月 19 日消息,IT之家从中国信通院官方微信公众号获悉,为摸清大模型的幻觉现状,推动大模型应用走深走实,中国信息通信研究院人工智能所基于前期的 AI Safety Benchmark 测评工作,发起大模型幻觉测试。
大模型幻觉(AI Hallucination)是指模型在生成内容或回答问题时,产生了看似合理,实则与用户输入不一致(忠实性幻觉)或者不符合事实(事实性幻觉)的内容。随着大模型在医疗、金融等关键领域广泛应用,大模型幻觉带来的潜在应用风险日益加剧,正得到业界的广泛关注。
本轮幻觉测试工作将以大语言模型为测试对象,涵盖了事实性幻觉和忠实性幻觉两种幻觉类型,具体测评体系如下:
测试数据包含 7000 余条中文测试样本,测试形式包括对应于忠实性幻觉检测的信息抽取与知识推理两类题型,以及对应事实性幻觉检测的事实判别题型。总体涉及人文科学、社会科学、自然科学、应用科学和形式科学五种测试维度。
中国信通院邀请各相关企业参与模型测评,共同推动大模型安全应用。
最新推荐
海信风管机售后服务中心号码售后服务网点实时反馈-今-日-更-新(海信风管机空调定时开机 )

天加空调售后服务维修24小时报修中心(天加空调空调耗电 )

远大空调400服务号码全国售后的热线实时反馈-今-日-更-新(远大空调手机怎么开空调 )

海信(Hisense)空调服务24小时热线-各区售后统一服务实时反馈-今-日-更-新(海信(Hisense)空调空调故障f2 )

康拜恩空调售后号码多少实时反馈-今-日-汇-总(康拜恩空调室内风机不启动 )

雷诺士中央空调用户售后服务中心实时反馈-今-日-汇-总(雷诺士中央空调线控器与主板通讯故障 )

帅康空调维修服务中心|全天24小时服务热线实时反馈-今-日-更-新(帅康空调空调免费清洗 )

弗德里希中央空调服务24小时热线-各区售后统一服务实时反馈-今-日-汇-总(弗德里希中央空调中央空调家用 )

欧威尔中央空调24小时售后服务热线实时反馈全+境+到+达(欧威尔中央空调空调温度 )

东芝空调400全国各售后服务热线号码实时反馈-今-日-汇-总(东芝空调空调标志图解 )
