北京:
纽约:
东京:
伦敦:
首页 市场速递 实时资讯 市场评论 财经日历 黄金原油 货币专题 会员分析 产品服务 投资学院 全网信息
测试显示,部分大型科技公司可能违反欧盟人工智能法案

作者:理财18 2024-10-16 16:07


数据显示,一些最著名的人工智能模型在网络安全、歧视性内容产出等方面不符合欧洲的规定。一个受到欧盟官员欢迎的新工具“大型语言模型(LLM)检查器”已经测试了Meta和OpenAI等大型科技公司开发的数十个类别的生成式人工智能模型,判断它们是否符合欧盟人工智能法案(AI Act)。该检查器由瑞士初创公司LatticeFlow AI、苏黎世联邦理工学院和保加利亚的INSAIT合作设计,包含技术稳健性和安全性等数十个项目,给人工智能模型在0到1分之间打分。阿里巴巴、Anthropic、OpenAI、Meta和Mistral开发的模型的平均得分都在0.75以上。然而,“LLM检查器”发现了一些模型在关键领域存在缺点。例如,歧视性输出一直是大模型开发过程中的一个问题,反映了人类在性别、种族和其他领域的偏见。LLM检查器给OpenAI的“GPT-3.5 Turbo”给出了相对较低的0.46分。在“提示劫持”(prompt hijacking)测试中,LLM 检查器给Meta的“Llama 2 13B Chat”模型打了0.42分。在这种网络攻击中,黑客将恶意提示伪装成合法的,以提取敏感信息。

本站所载文章,数据仅供参考,使用前务请核实。未经同意,请勿转载
【免责声明】 本网站所有会员文章,其作者博客简介和文章内容,均由作者本人编写,仅代表作者本人观点,与网站无关。理财18网不对简介和内容的准确性、可靠性或完整性做任何保证。理财18网未授权任何机构或个人直接联系网站用户。任何网站用户因私加会员联系方式而导致的相关账户泄露与资金损失,均由网站用户自行承担。

文章标题搜索     
  博客搜索     
更多精彩文章

理财18    理财18旨在为广大投资者建立一个互动性专业外汇投资服务平台,汇集市场上最优秀的外汇产品和服务。投资者就是网站的主人,网站就是外汇投资者的快乐家园。 ------------------------- 电话:(86) 10-64773422 Email: licai18@foxmail.com 微信公众号:licai18wang

Copyright @ 2004 - 2024 licai18.com. All Rights Reserved 版权所有        关于我们