2023年结束前，一项关乎AI技术未来发展的重要法案──《人工智能法》（AI Act），经过接近40小时的马拉松式讨论后，欧盟执委会、欧洲议会、欧盟理事会终于就法案达成协议。这是全球首个全面针对AI制定的综合法律框架，将用于规管欧盟境内AI供货商，以及任何使用AI的公司或组织，更有望成为世界各国立法的参考标准。

旨在减少AI对基本人权侵害

   位于比利时布鲁塞尔的总部内，欧盟立法官员在12月7日经历接近24小时的激辩后，翌日再磋谈了15小时，最终在12月9日宣布就《AI Act》达成临时协议；12月14日更确认通过新法案细节，按照风险评级来规范AI与数码产品对人权的可能侵害。

   《人工智能法》的要旨是，减少AI对基本人权的侵害，包括：严禁利用AI进行情绪识别，监控工作或教育场所；严禁从互联网或闭路电视录像中撷取人类脸部影像，并建立识别数据库；严禁运用AI监控人类的行为和特征，进而建立社会评分机制；严禁利用AI操纵人类行为，以违反其自由意志；严禁使用AI搜集人类的生物特征，并针对其政治、宗教、种族、性取向等进行分类。

   倘若警方执法时需利用AI进行生物或情绪辨识，必须先获法院批准，并只能应用在恐怖袭击、人口贩卖等16类重大罪行。至于军事和国防用途的AI系统，则不在该法案的管辖之列。

自ChatGPT在2022年底面世、引起全球广泛关注后，欧盟遂决定必须在2023年内完成《人工智能法》的立法程序。（图片来源：Freepik图库）

制定明确而具法律效力的细则

   《AI Act》的另一重点是，制定了明确的AI法律制度和规范细则。譬如当用户使用如ChatGPT般的聊天机械人时，科技公司必须让对方意识到是跟AI而非真人互动，并需为深伪技术（Deepfake）和生成式AI所产制的内容进行标记，以资识别。

   该法案又要求好像GPT-4般的通用AI模型，在投放到市场前，AI供货商必须遵守透明度义务，包括起草技术文件、遵守欧盟版权法，并披露有关模型训练内容的详细摘要。如属带有系统性风险的高影响力AI模型，推出前必须先对模型作出评估，包括估量系统性风险的规模和缓解方案，并执行对抗性测试；一旦发生严重事故，必须向欧盟执委会报告。

欧盟执委会主席乌苏拉冯德莱恩（Ursula von der Leyen）表示，《人工智能法》是全球首创，为开发值得信赖的AI提供了独特的法律框架。（图片来源：X.com@vonderleyen）

基于风险评级对AI实施监管

   再者，《人工智能法》将基于风险评级的高低来实施监管：风险愈高的AI，规管就愈严。举凡涉及水电煤等基建设施、医疗设备、决定教育或聘雇机会、执法与边境管制的人工智能系统，均属高风险AI。新法案要求这类AI厂商必须遵守严格要求，包括提供风险缓解系统、具有高质数据设定、设有人工监督、附有详细的文件记录和用户信息、以及拥有高水平而稳定的网络安全机制。

   至于内容推荐系统、垃圾邮件过滤器等，则被视为最小风险AI，相关技术供货商将不在法例监管范围，但有关厂商可在自愿基础上遵守这类AI的额外行为准则。

   欧盟将会成立一个新的监管机构──欧洲AI办公室（European AI Office），负责AI的合规审查和执法。一旦发现有AI公司做出违规行为，最高可被判罚款3,500万欧元（约3.02亿港元）或相当于该公司全球营业额的7%，以较高者为准；具体罚款金额取决于违规情况和违法公司规模。

商界：新法窒碍欧洲AI竞争力

   欧盟内部市场委员蒂埃里布雷顿（Thierry Breton）表示，《AI Act》不止是一本规则手册，更是欧盟初创企业在全球AI竞赛中的跳板。但欧洲商界对此却不敢苟同，逾150个欧洲风投基金与企业的负责人向欧盟发出联署公开信，指出研发和使用AI的公司在新法案下面对不成比例的合规成本与责任风险，这可能会迫使AI初创把研发基地转移到欧盟境外，投资者亦会将投入欧洲AI开发项目的资金撤回，窒碍欧洲的AI竞争力。

来自欧盟执委会、欧洲理事会、欧洲议会的立法者经历近40小时的激烈辩论后，最终三方就《人工智能法》达成协议。（图片来源：X.com@vonderleyen）

   由Apple、Google、Ｍeta等组成的计算机与通讯产业协会（CCIA）认为，欧盟为求尽快立法，仓促通过《AI Act》，当中可能有很多法规细节仍未考虑清楚，以致牺牲了AI未来发展的可能性。美国智库数据创新中心（CDI）更指出，该法案可能是全球最严苛的AI法例，预计未来5年可能会为欧洲带来310亿欧元（约2,670亿港元）的经济损失，更会令欧洲的AI投资减少近20%。

   面对各方反对声音，欧盟依然顶着压力，继续推动《AI Act》上路，排定2024年将再敲定各规则细节；跟着，只要取得欧盟各成员国的议员和代表批准，便可正式颁布法令，并于两年后全面生效；换言之，各家AI公司有两年缓冲期来修改产品，以符合新法例。一直不愿披露ChatGPT训练资料详情的OpenAI，如不在法案生效前改弦易辙，就可能要被迫撤出欧洲市场了。

   《经济通》所刊的署名及／或不署名文章，相关内容属作者个人意见，并不代表《经济通》立场，《经济通》所扮演的角色是提供一个自由言论平台。