欧盟发布《人工智能法》禁止的人工智能行为指南

人工智能可用于智能家居，智能音箱能理解并执行语音指令 #生活知识# #科技生活# #科技改变生活# #人工智能#

2025年2月4日，欧盟委员会正式发布140页的《欧盟委员会关于禁止人工智能系统实践的指南》，对包括被禁止的人工智能类型进行了详细的说明。

需要注意的是，该类被禁止开发和投入的人工智能规则已于2025年2月2日起生效。

该指南目前仍以草案形式发布，但这是因为正式通过和应用仍有待时日，因为欧盟仍需要用多种官方语言制作译文。

欧洲议会和欧盟理事会于 2024 年 6 月 13 日颁布的第 2024/1689 号条例（欧盟）规定了人工智能的统一规则并修订了某些条例（"人工智能法"），该条例于 2024 年 8 月 1 日生效。人工智能法开创性地采取了基于风险的方法,将人工智能系统划分为四个不同的风险类别:

风险类别

描述

监管情况

不可接受的风险

危害基本权利和联盟价值的人工智能系统

禁止型AI。在《人工智能法》生效后六个月内生效,即从 2025 年 2 月 2 日起生效

高风险

对健康、安全和基本权利构成高风险的 AI 系统

受《人工智能法》第 6 条和附件 I 及 III 要求和义务约束

透明度风险

透明度风险有限的人工智能系统

须遵守透明度义务

最小至无风险

风险最小至无风险的 AI 系统

不受监管，提供商和部署者可自愿遵守自愿行为准则

按照梯度生效程序，自 2025 年 2 月 2 日起，《人工智能法案》的第一批关键条款开始适用，包括有关人工智能素养和禁止的人工智能行为的条款。

法案第 5 条列出了构成不可接受风险的被禁止的人工智能行为，包括操纵技术、利用漏洞、社交评分、犯罪风险分析、未经授权的面部识别、情感推断、生物特征分类，以及 "实时 "生物特征识别的某些用途。

条款

禁止事项

内容

第 5 (1)(a) 条

有害操纵和欺骗

部署潜意识技术超出个人意识范围，或故意采用操纵性或欺骗性技术，旨在或实际造成行为扭曲，导致或合理可能导致重大伤害的人工智能系统

第 5 (1)(b) 条

对弱点的有害利用

利用因年龄、残疾或特定社会经济状况而产生的弱点，旨在或实际造成行为扭曲，导致或合理可能导致重大伤害的人工智能系统

第 5 (1)(c) 条

社会评分

基于社会行为或个人或人格特征对自然人或人群进行评估或分类的人工智能系统，其社会评分在来自不相关社会背景的数据处理时，导致不公平或不合理的不利待遇

第 5 (1)(d) 条

个人刑事犯罪风险评估和预测

仅基于画像或人格特征对人们实施刑事犯罪的风险进行评估或预测的人工智能系统；除非是为了支持基于与犯罪活动直接相关的客观且可验证事实的人工评估

第 5 (1)(e) 条

无针对性抓取以开发面部识别数据库

通过从互联网或闭路电视（CCTV）镜头中无针对性抓取面部图像来创建或扩展面部识别数据库的人工智能系统

第 5 (1)(f) 条

情绪识别

在工作场所或教育机构中推断情绪的人工智能系统；医疗或安全原因除外

第 5 (1)(g) 条

生物特征分类

根据生物特征数据对人进行分类，以推断或推测其种族、政治观点、工会成员身份、宗教或哲学信仰、性生活或性取向的人工智能系统；对合法获取的生物特征数据集进行标记或筛选（包括执法领域）除外

第 5 (1)(h) 条

实时远程生物特征识别（‘RBI’）

在公共场所用于执法目的的实时远程生物特征识别人工智能系统；除非是为了有针对性地搜寻特定受害者、预防包括恐怖袭击在内的特定威胁、搜寻特定嫌疑人的犯罪行为（进一步的程序要求，包括授权等，在《人工智能法》第 5 (2 - 7) 条中概述）

而法案第 4 条规定了任何提供或操作人工智能系统的人都必须具备人工智能专业知识，要求人工智能系统提供商和部署商确保员工在技术知识和人工智能系统使用环境的基础上得到充分的培训和信息。

除通用人工智能模型和处罚条款将于 2025 年 8 月 2 日起执行外，《人工智能法》的其余条款将于 2026 年 8 月 2 日起执行。

欧盟委员会的指南不具有强制约束力，欧洲联盟法院（"CJEU"）可能是对人工智能法案的权威解释机构。

根据指南，人工智能法禁止的做法涉及特定人工智能系统的上市、投入使用或使用。在欧盟市场上市的人工智能系统是"首次在欧盟市场上提供的人工智能系统"。"提供"被定义为在商业活动过程中向欧盟市场供应系统"以供分发或使用,不论是收费还是免费"。提供人工智能系统的方式包括通过应用程序接口(API)、云端、直接下载、实体副本或嵌入实体产品等。

指南认为，虽然《人工智能法案》没有明确定义"使用"人工智能系统,但应该以广义来理解,涵盖系统在投放市场或投入使用后其生命周期中的任何时刻的使用或部署。例如雇主用于推断工作环境中情绪的 AI 系统被禁止使用。

人工智能法案将人工智能系统的操作者分为不同类别:提供商、部署者、进口商、分销商和产品制造商，目前的指南将仅关注提供商和部署者。但需要注意的是，人工智能法明确排除了"仅出于军事、国防或国家安全目的而在市场上投放、投入使用或使用的人工智能系统"的禁止适用，因此，当有相关实体作为上述目的下的承包的私营运营商时，该类运营商将得以豁免。

禁令适用于任何 AI 系统,无论其是"专属用途"还是"通用用途"(即可服务于各种目的)的人工智能类型，或者是直接使用还是集成到其他 AI 系统中。因此,每个运营商都应根据其在价值链中的角色和对系统的控制权采取适当措施,确保 AI 系统的负责任和安全提供及使用,在风险与收益之间达到 AI 法案的双重目标。

人工智能法采取分层方法设定了不同程度违规的处罚,具体取决于违规行为的严重程度。违反第 5 条禁令被视为最严重的违规行为,因此可能会受到最高罚款。从事被禁止人工智能行为的提供商和部署方可能被处以最高 3500 万欧元的罚款，或者最高为其前一个财政年度全球总营业额的7%，以较高者为准。

除了欧盟委员会外，2025 年 1 月 30 日，荷兰数据保护局（AP）宣布根据欧盟《人工智能法》（AI Act）也发布人工智能（AI）扫盲指南。该指南指出，到 2025 年 2 月 2 日，人工智能系统的开发者必须确保员工和其他使用人工智能系统的人员具备正确的技能、知识和理解能力，以便负责任地使用人工智能系统。可以参见全球首个关于AI素养的指南！| 荷兰数据保护局AP关于欧盟AI法项下《AI素养实践指南》全文翻译

另外，2025 年 1 月 30 日，德国汉堡数据保护和信息自由专员（HmbBfDI）也发布了一份新闻稿，介绍了将于 2025 年 2 月生效的《欧盟人工智能法》（AI Act）规定的义务和禁令。德国联邦数据保护和信息权局确认，违反《人工智能法》的行为可能导致数据保护机构（DPAs）的制裁和行动。

请点击阅读原文或通过以下链接下载140页报告全文：https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act

声明：本文来自互联网法律匠，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。

网址：欧盟发布《人工智能法》禁止的人工智能行为指南 https://www.yuejiaxmz.com/news/view/768190

相关内容

欧盟发布《AI系统定义指南》：如何辨别真假AI系统
人工智能教育研究联盟“教师智能助手”主题工作坊成功举办
这一年，人工智能“生成”精彩
0人工，真智能！2024AWE：INXNI以内发布AI智能清洁战略
美国硅谷的人工智能中医诊所——问止中医
LifeSmart ：节约能源 = 人工智能 X 智能家居 ？
人工智能时代人类生存指南
“让人工智能成为生活的助手” ——对话西南交大人工智能研究院副院长李天瑞
人工智能时代生存指南
人工智能=人工智障？当前投入使用的五项人工智能应用

随便看看