当前位置:首页 >文章发布 > 正文
微软发布新工具,检测和纠正AI幻觉内容
来源:IT之家 作者:
佚名
2024-09-25 16:20:58
9月25日消息,科技媒体TheDecoder昨日(9月24日)发布博文,报道称微软以预览版的形式,在AzureAIContentSafety中推出GroundednessDetection,用于“纠正”AI幻觉。
科技媒体TheDecoder9月24日发布博文,报道称微软以预览版的形式,在AzureAIContentSafety中推出GroundednessDetection,用于“纠正”AI幻觉。
在人工智能领域中,幻觉是由人工智能生成的一种回应,它含有貌似事实的虚假或误导性资讯。
该术语源自幻觉的心理学概念,因为它们具有相似的特征。人工智能幻觉的危险之处之一是模型的输出看起来是正确的,而它实际上是错误的。
微软的GroundednessDetection类似于谷歌在VertexAI中推出的GoogleSearchGrounding,主要对比AI输出内容和源文件,从而识别没有证据或者幻觉内容。
微软强调,虽然该工具提高了人工智能输出的可靠性,但并不能保证完全准确,只是能提高生成内容与源材料之间的一致性。
当系统检测到一个支持不足的句子时,就会触发一个新的请求,要求一个较小的人工智能模型进行修正,该模型会根据基础文档对句子进行评估。
如果一个句子不包含基础文档中的相关信息,它就会被完全过滤掉。对于包含一些相关内容的句子,模型会对其进行改写,匹配源材料。
免责声明:本文系网络转载,版权归原作者所有。本文所用图片、文字如涉及作品版权问题,请联系删除!本文内容为原作者观点,并不代表本网站观点。
编辑:乔帅臣