科技发展总是比法例更新走得更快！生成式AI现已在全球各处遍地开花，但目前仍未有专属监管法规。随着欧洲议会刚刚通过《人工智能法》（AI Act）草案，这个“无法可依”的局面将被改写——未来AI将按风险等级来实施不同程度的监管。不过Google却担心，新法例可能会危及公司商业机密。Open AI执行长奥特曼更一度表示，新法规监管过度，可能因此而退出欧洲市场！究竟此法案将对AI产业带来什么程度的冲击呢？

AI划分3个风险等级作相应监管

   为防范AI发展失控，欧洲议会在2023年6月14日以大比数表决通过《人工智能法》草案。其实早于2021年，欧盟已就AI监管启动立法程序，惟2022年底以ChatGPT为首的生成式AI突然爆红，于是立法者们再针对这种新型AI工具调整草案。根据修订后的草案，AI工具将依照本身技术特性，划分为3个风险等级，不同级别会有相应的监管准则。

2023年6月14日，欧洲议会以499比28票的大比数，表决通过《人工智能法》草案。（图片来源：Twitter@IoanDragosT）

   不可接受风险：在公共场所运作的人脸辨识、生物识别监控系统；以种族、行为、社会地位、或经济能力来分类民众的社会评级系统；通过分析先前犯罪行为，试图预测未来非法活动的预测性警务系统，被列为“不可接受风险”等级，完全禁止使用。

   高风险：透过AI进行信用评分，判断申请人能否获得贷款；运用AI筛选履历，判断求职者能否获得面试机会……等，可能会决定民众生计的AI系统，被评定为“高风险”等级。此外，大型社交媒体平台的AI算法，负责向用户推荐观看什么内容，因为可能被用于影响民意和选举结果，所以也被归类为“高风险”，必须遵守一定的法例要求。

在《AI Act》之下，ChatGPT等生成式AI工具未被列为“高风险”等级，但AI模型的训练数据来源却被硬性规定要全面披露。（图片来源：Freepik图库）

   低风险：利用AI开发的电子游戏，以及基于AI运作的垃圾电邮过滤器，则被归入“低风险”等级，基本上不受限制。

根据《AI Act》，无论是支持AI运算的电玩产品、还是透过AI开发的电子游戏，均被列为“低风险”等级。（图片来源：Freepik图库）

AI模型训练数据来源须全面披露

   《AI Act》法案共同起草人、来自罗马尼亚的欧洲议会议员图多拉切（Dragos Tudorache）表示，这是全球首次针对人工智能的正式立法，代表着欧盟可以带领AI朝着“以人为本”、值得信赖、以及具安全性的方向前进。

《AI Act》法案共同起草人、来自罗马尼亚的欧洲议会议员图多拉切强调：“欧盟这部新法规将为全球AI发展和治理定下基调。”（图片来源：Twitter@IoanDragosT）

   该法案未有将ChatGPT等生成式AI工具视为“高风险”，惟对其背后的大型语言模型则加入了设立护栏与提高透明度的要求，包括：AI开发商必须采取保护措施，防止AI生成非法内容；开发商必须标记AI生成的内容，以防止AI被滥用于散播假信息；开发商必须披露用来训练语言模型的数据来源，确保没有取用受版权保护的数据来进行训练；当内容创作者的作品被AI用作生成内容的材料时，开发商必须向版权持有人提供分享利润方案。

   一旦《AI Act》法案获欧盟全面通过，将会成为世上首部全面性的AI监管法规，日后如有业者违反，最高可以被判处4,000万欧元（约3.44亿港元），或是公司全球年度收入7％的罚款，以高者为准。

出版与新闻界支持立法保障版权

   欧盟筹备两年的AI法案获得阶段性通过，当然得到不少掌声。该法案针对生成式AI所提出的监管，获得出版商、新闻媒体、以及内容创作者的广泛支持。在《AI Act》之下，内容创作者能够知晓他们的博客文章、画作、影片或歌曲，曾否被用于训练AI模型，他们可以据此来决定是否准许其作品被AI复制和使用，并寻求相应的赔偿。

   同时，科技界与学术界也不乏人支持此法案，因为他们认为现时AI军备竞赛过于激烈，如不从最根本的研发过程着手，施加限制和监管，一旦出现问题便会一发不可收拾。AI研调机构埃达·洛芙莱斯研究所（Ada Lovelace Institute）的代理主任班奈特（Francine Bennett）认为，如在没有充分监管的情况下，容许AI公司继续营运，对社会而言肯定是更糟糕的事。

   然而，AI业界却认为，法例规管应针对特定AI应用软件，而不是对整体AI研发定立诸多限制，因为这样只会窒碍AI产业创新。计算机与通讯产业协会欧洲政策经理钱普利斯（Boniface de Champris）指出，欧盟法案不但应明确定义“风险”，更应为AI开发者提供足够的灵活性，这样才可以让所有欧洲人有机会用到有用的AI工具。

AI Act过于空泛或窒碍科技创新

   Salesforce策略规划高级副总裁彼得·施瓦茨（Peter Schwartz）批评，欧盟草拟《AI Act》时根本没有考虑现实状况，更指出欧洲公司在AI领域发展较慢，当下推出AI法案，实际上只是欧洲监管机构管制美国科技企业。他认为，鉴于《AI Act》条文太过空泛，很可能令到部分美国科企重新思考在欧洲市场的参与度。

   Google也对欧盟AI法案作出批评，强调用于训练AI模型的资源均属于商业机密，《AI Act》强制开发商披露相关数据，可能会让公司商业秘密外泄，或为系统创造安全漏洞，被竞争对手或犯罪分子有机可乘。

   OpenAI执行长山姆·奥特曼（Sam Altman）曾多次呼吁对AI进行规管，近几个月更跑遍欧洲、亚洲、南美洲和非洲，拜访多国立法者，其中包括欧盟委员会主席冯德莱恩（Ursula von der Leyen），探讨应怎样对AI实施管制。尽管如此，他亦希望监管法例不会抑制AI研发人员进行创新。

OpenAI执行长奥特曼（左）最近几个月走访了约100名美洲、欧洲、亚洲、以及非洲国家的政策制定者，其中包括欧盟委员会主席冯德莱恩（右），讨论如何在不阻碍科技创新下，实施AI监管。（图片来源：Twitter@vonderleyen）

   2023年5月24日，奥特曼表示，《AI Act》草案对AI产业监管过度，更扬言假如发现OpenAI没办法遵守欧盟新法例，将会因此而退出欧洲市场。他这番离开欧洲的威胁言论，惹来欧盟内部市场业务执委布勒东（Thierry Breton）和多位欧洲议员的大肆批评。于是，奥特曼在5月26日连忙改口说：“我们很高兴能继续在这里营运，当然没有离开的计划。”

AI生物辨识造成歧视、侵犯私隐

   纵然有AI公司认为《AI Act》的监管力度过大，但也有安全风险专家指出，法案的规管范围不够全面——欠缺对AI运算力的管制。每当有新一代的大型语言模型发布，AI系统的运算力都会比上代呈现指数级增长，伴随而来的安全隐患亦可能以倍数暴增。AI信息安全初创Conjecture的策略及治理长米奥蒂（Andrea Miotti）表示，用于训练AI模型的运算力愈大，AI就愈强大，所衍生的潜在风险亦会愈大。

   除此以外，《AI Act》本身亦存有一项较具争议性的条文——禁止使用生物识别系统。根据《BBC》与国际特赦组织发表的报告，拥有人脸与生物辨识技术的AI公司，只要通过社交媒体或电视影像，就可以大规模搜集民众的外观信息进行分析，对个人私隐构成极大威胁。

针对AI生物辨识技术的管制力度，欧洲议会与欧盟执委会尚未能达成共识，这将成为《AI Act》法案获全面通过的一大阻力。（图片来源：Freepik图库）

   目前人脸辨识技术已能依照外观来识别民众的种族，如被广泛引入至执法机关，黑人与棕色人种被拦截搜查的比例有机会大幅上升。国际特赦组织发现，荷兰科技公司TKH Security制造的人脸辨识摄影机，已被以色列用来辅助执行对巴勒斯坦人的种族隔离政策。

欧盟树立AI监管准则成全球典范

   欧洲议会的表决是完全禁用AI生物识别技术，但欧盟执委会却希望在寻找失踪儿童或追捕恐怖分子时，容许政府使用生物辨识系统。事实上，欧盟《AI Act》需要欧洲议会、欧盟执委会、欧洲理事会三方均表决通过，法案始能生效。即使该法案已获欧洲议会通过，惟还需与欧盟执委会、欧洲理事会进行协商。

   欧盟官员表示将会尽快展开协商，希望在2023年底前达成协议，好让法案能够在2024年欧盟选举前生效。可是，因为欧洲议会与欧盟执委会对生物辨识应用的规管力度各持己见，加上欧洲理事会由欧盟27成员国代表组成，要逐一游说和谈判，实际上要花多久时间真的很难说。

   倘若AI法案的最终版本可以在2023年底获三方通过，将设有两年的适应宽限期，预期要等到2025年之后才会全面生效。虽然《AI Act》的管辖范围只覆盖欧盟成员国，但其针对AI监管的规范却可以成为其他国家的参考，预计将会影响全球AI政策的制定；再者，大企业通常会在国际上采取一致性做法，所以欧盟定下的规管准则有很大机会渗透到所有消费产品的标准。由是观之，这部领先全球的AI监管法例将对未来AI发展有着无远弗届的影响力。

《AI Act》法案需要欧洲议会、欧洲理事会、欧盟执委会皆表决通过，才有可能生效。即使该法案现已获欧洲议会通过，但未来内容仍有可能会再变动。（图片来源：Twitter@IoanDragosT）

   《经济通》所刊的署名及／或不署名文章，相关内容属作者个人意见，并不代表《经济通》立场，《经济通》所扮演的角色是提供一个自由言论平台。