当前位置:首页 >文章发布 > 正文
测试显示,部分大型科技公司可能违反欧盟人工智能法案
来源:钛媒体 作者:
佚名
2024-10-17 09:28:16
10月16日,数据显示,一些最著名的人工智能模型在网络安全、歧视性内容产出等方面不符合欧洲的规定。
10月16日,数据显示,一些最著名的人工智能模型在网络安全、歧视性内容产出等方面不符合欧洲的规定。一个受到欧盟官员欢迎的新工具“大型语言模型(LLM)检查器”已经测试了Meta和OpenAI等大型科技公司开发的数十个类别的生成式人工智能模型,判断它们是否符合欧盟人工智能法案(AI Act)。该检查器由瑞士初创公司LatticeFlow AI、苏黎世联邦理工学院和保加利亚的INSAIT合作设计,包含技术稳健性和安全性等数十个项目,给人工智能模型在0到1分之间打分。阿里巴巴、Anthropic、OpenAI、Meta和Mistral开发的模型的平均得分都在0.75以上。然而,“LLM检查器”发现了一些模型在关键领域存在缺点。例如,歧视性输出一直是大模型开发过程中的一个问题,反映了人类在性别、种族和其他领域的偏见。LLM检查器给OpenAI的“GPT-3.5 Turbo”给出了相对较低的0.46分。在“提示劫持”(prompt hijacking)测试中,LLM 检查器给Meta的“Llama 2 13B Chat”模型打了0.42分。在这种网络攻击中,黑客将恶意提示伪装成合法的,以提取敏感信息。
免责声明:本文系网络转载,版权归原作者所有。本文所用图片、文字如涉及作品版权问题,请联系删除!本文内容为原作者观点,并不代表本网站观点。
编辑:刘婧