天尚法评 | 欧盟《人工智能法案》要点速览

一、关注点

1.欧盟议会于本周三（2024年3月13日）批准了世界上第一套针对人工智能（AI）的监管法案，以管理处于科技投资前沿的媒介化人工智能。

2.欧盟《人工智能法案》在2021年就已经首次提出，该法案将该人工智能的风险划分为四类，分别为：“不可接受的风险”（将导致该技术被禁止）、高风险、中风险和低风险。

3.该法案预计将在通过最终检查并获得欧洲理事会的认可后，预计在2024年5月生效。

二、《人工智能法案》意义

作为议会关于该法案草案的谈判的共同领导人，罗马尼亚立法者德拉戈斯·图多拉什（Dragos Tudorache）在投票前说：“《人工智能法案》将人工智能的未来推向了以人为本的方向，朝着人类控制技术的方向发展，而它—技术—帮助我们利用新发现、经济增长、社会进步和释放人类潜力。”

三、《人工智能法案》运作基础

与许多欧盟法规一样，《人工智能法案》最初旨在作为消费者安全立法，对使用人工智能的产品或服务采取“基于风险的方法”进行审视。

新规则根据人工智能的风险水平为提供者和用户规定了相应的义务，人工智能应用程序的风险越大，它面临的审查监管则越多。

低风险

绝大多数人工智能系统预计是低风险的，例如内容推荐系统或垃圾邮件过滤器，但仍需要对其进行评估。公司可以选择遵循自愿要求和行为准则。

不可接受的风险

不可接受的风险人工智能系统是被认为对人类构成威胁的系统，将被禁止。它们包括：

1)对人或特定弱势群体的认知行为操纵：例如鼓励儿童危险行为的声控玩具；

2)社会评分：根据行为、社会经济地位或个人特征对人进行分类；

3)生物特征识别和人员分类；

4)“实时”远程生物识别系统，例如面部识别；

出于执法目的，可能会允许一些例外情况。“实时”远程生物识别系统将被允许用于少数严重案件，而“后”远程生物识别系统，即在重大延误后进行识别，将被允许起诉严重犯罪，并且只有在法院批准后才能进行。

高风险

对安全或基本权利产生负面影响的人工智能系统将被视为高风险，并将分为两类：

1)用于欧盟产品安全法规范围内的产品的人工智能系统。包括玩具、航空、汽车、医疗设备和电梯。

2)属于特定领域的人工智能系统，必须在欧盟数据库中注册：

①　关键基础设施的管理和运营；

②　教育和职业培训；

③　就业、工人管理和自营职业；

④　获得和享受基本私人服务以及公共服务和福利；

⑤　执法；

⑥　移民、庇护和边境管制管理；

⑦　协助法律解释和法律适用。

所有高风险的人工智能系统在投放市场之前以及其整个生命周期内都将接受评估。人们将有权向指定的国家当局提出有关人工智能系统的投诉。

透明度要求

像ChatGPT这样的生成式人工智能不会被归类为高风险，但必须遵守透明度要求以及欧盟的版权法：

1)披露内容是由人工智能生成的；

2)设计模型以防止其生成非法内容；

3)发布用于培训的受版权保护数据的摘要；

可能构成系统性风险的高影响力通用人工智能模型，例如更先进的人工智能模型 GPT-4，必须经过彻底评估，任何严重事件都必须报告给欧盟委员会。

在人工智能的帮助下生成或修改的内容（图像、音频或视频文件（例如深度伪造））需要明确标记为人工智能生成，以便用户在遇到此类内容时有所了解。

四、对于生成式人工智能的监管

该法案的早期草案侧重于人工智能系统执行狭窄的任务，例如扫描简历和工作申请。但以 OpenAI 的 ChatGPT 为代表的通用人工智能模型的惊人崛起，让欧盟政策制定者争先恐后地跟上，增加了所谓的生成式人工智能模型的规定，该技术以人工智能聊天机器人系统为基础，可以产生独特且看似逼真的响应、图像等。

首先，通用人工智能模型的开发者——从欧洲初创公司到OpenAI和谷歌——都必须提供互联网上用于训练系统的文本、图片、视频和其他数据的详细摘要，并遵守欧盟版权法。

其次，人工智能生成的现有人物、地点或事件的深度伪造图片、视频或音频必须被标记为人工生成。

另外，对构成“系统性风险”最大和最强大的人工智能模型进行了额外的审查，其中包括OpenAI的GPT4（其最先进的系统）和谷歌的Gemini。

出于担心这些强大的人工智能系统可能“造成严重事故或被滥用于影响深远的网络攻击”及生成式人工智能可能会在许多应用程序中传播“有害偏见”，影响许多人等风险考虑，法案要求提供这些系统的公司必须评估和降低风险；报告任何严重事件，例如导致某人死亡或严重损害健康或财产的故障；采取网络安全措施；并披露他们的模型消耗了多少能源。

五、对欧洲以外其他地区的立法影响

布鲁塞尔于 2019 年首次提出人工智能法规，在加强对新兴行业的审查方面发挥了全球角色作用，其他国家政府也不断地加快立法步伐

在美国，美国总统乔·拜登（Joe Biden）于10月签署了一项关于人工智能的全面行政命令，预计将得到立法和全球协议的支持。与此同时，美国至少有七个州的立法者正在制定自己的人工智能立法。

中国则提出了全球人工智能治理倡议，以公平安全地使用人工智能。国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局七部门于2023年7月13日联合公布了管理生成式人工智能的《生成式人工智能服务管理暂行办法》，适用于为中国境内人民生成的文本、图片、音频、视频和其他内容。该暂行办法自2023年8月15日起施行。

其他国家，从巴西到日本，以及联合国和七国集团等全球集团，都在着手制定人工智能护栏。

六、后续进展

《人工智能法案》预计将在2024年5月或6月正式成为法律，经过一些最后的手续，人工智能法案还必须得到理事会的认可，并在欧盟官方公报上公布，然后才能生效。这些规定将分阶段开始生效，各国必须在规则正式成为法律六个月后禁止被禁止的人工智能系统。

聊天机器人等通用人工智能系统的规则将在法律生效一年后开始适用。到 2026 年年中，包括高风险系统要求在内的整套法规将生效。

在执法方面，每个欧盟国家都将建立自己的人工智能监管机构，如果公民认为自己是违反规则的受害者，他们可以提出投诉。与此同时，欧盟委员会将在布鲁塞尔设立一个“人工智能办公室”（AI office），负责执行和监督通用人工智能系统的法律。

在处罚上，违反《人工智能法案》可能会被处以高达3500万欧元（3800万美元）的罚款，占公司全球收入的7%。

议会法律工作的联合负责人－意大利立法者布兰多·贝尼菲（Brando Benifei）说，在夏季选举之后，可能会有更多与人工智能相关的立法，包括新法律部分涵盖的工作场所人工智能等领域。