Page 6 - 1444a
P. 6

A   6                                                                                                 第 1444 期 2024 年 6 月 7 日 星期五






         ໡ૌ൞ڎᅟᄝದ۽ᇆିνಆࡓ֥ܱܵ࡯ࢫׄĤ







                                                                                                               本月，世界上首部由主要监管机构制定的关于人工智
                                                                                                          能的全面法规——欧盟《人工智能法》在历时三年后终于将
                                                                                                          正式生效。


                                                                                                               根据欧盟网站介绍，这部《人工智能法》将人工智能
                                                                                                          的应用划分为三个风险类别。首先，造成不可接受风险的应
                                                                                                          用和系统将被禁止，如中国使用的由政府管理的社会评分类
                                                                                                          型。其次，高风险应用，如对求职者进行排名的简历扫描工
                                                                                                          具，须遵守特定的法律要求。最后，未被明确禁止或列为高
                                                                                                          风险的应用程序基本上不受监管。


                                                                                                               欧盟的这部《人工智能法》采用的是金字塔式风险监
                                                                                                          管，对高风险人工智能系统实施全生命周期风险管控，被广
                                                                                                          泛视为迄今为止最严厉管理人工智能的法案。


                                                                                                               “欧盟对防范人工智能偏见和有风险的使用案例有着
                                                                                                          更普遍的担忧，这促使欧盟通过全面立法来保护公民权利，
                                                                                                          “陈西文表示。


                                                                                                               与此相比，美国尽管颁布了多项人工智能法案——

           二十多位业界学界领军人物呼吁管理人工智能极端风险。                                                                      从《2020年国家人工智能倡议法案》到2023年《人工智能
                                                                                                          权利法案蓝图》和两个指导国会未来立法的政策框架——但
              在首尔峰会对人工智能的安全承诺一浪高过一浪、欧                         新加坡国立大学教育创新副校长、新加坡国家人工智                     更多强调权利和机遇，鼓励人工智能技术创新发展，采取的
          盟首部《人工智能法》历时三年终将于本月生效之际，20多                     能核心项目人工智能管理高级总监、《我们，机器人？人工                      是审慎监管原则和联邦与州双线监管问责机制，出台的法案
          位人工智能领军人物直指人工智能安全存在严重隐忧，呼吁                      智能监管及其法律局限》一书作者陈西文教授（Simon                      不具约束性。
          管理人工智能极端风险。                                     Chesterman）认为，当前正值管理人工智能的黄金时代，
                                                          但各方言行却背道而驰。                                          “欧盟、美国、英国和中国都采用了不同的监管模式
              二十多位来自美国、中国、英国、加拿大和以色列的                                                                     来应对人工智能的危害风险。欧盟的《人工智能法》干预力
          重量级教授及学者近日在《科学》（Science）期刊联名撰                       “有关人工智能安全性的辩论已迅速从理论走向实                      度最大…以法律监管体系为基础，其中包括全面的隐私保护
          文《在快速进步中管理人工智能极端风险》，直指人工智能                      践，尤其是对生成式人工智能带来何种影响的担忧，”他                       和人权保护，这使其与干预较少的美国截然不同，”墨尔本
          领域重发展轻安全的现状，呼吁立即调整方向，有效监管，                      说。                                              大学的帕特森教授说。
          远离灾难。
                                                              根据斯坦福大学《2024人工智能指数报告》，美国摇                        “值得注意的是，欧盟还制定了《数字服务和数字平
              这份文章的作者包括人工智能“教父”杰弗里·辛顿                     摇领先于中国、欧盟和英国，是世界顶级人工智能模型的主                      台法》，对大型数字平台进行特别监管，”帕特森说。
          （Geoffrey Hinton）、图灵奖得主约书亚·本吉奥（Yosh-            要来源。2023年，全球有61个著名的人工智能模型来自美
          ua  Bengio）、姚期智（Andrew  Yao）、素有“计算机安            国的机构，远远超过欧盟的21个和中国的15个。                              斯坦福大学报告称，2016年至2022年间，美国14 个州
          全教母“之称的宋晓东（Dawn  Song）和《人类简史》三                                                                  通过了与人工智能相关的立法，其中马里兰州居首，通过了
          部曲作者尤瓦尔·赫拉利（Yuval Harari）等。                         生成式人工智能投资也呈井喷式激增。2023年，生成                   七项法案，加利福尼亚州随后，通过了六项法案。
                                                          式人工智能的资金比2022年增长了近八倍，达到252亿美
              他们在文章中指出，人工智能正在黑客攻击、社会操                     元。                                                   “美国采取的是一种市场方法，立法很少，不过随着
          纵和战略规划等关键领域取得进展，并可能很快带来前所未                                                                      风险变得越来越大，这种情况可能会发生变化，”新加坡国
          有的控制挑战。一旦自主人工智能系统开始追求人类不想要                          但人工智能安全研究则严重滞后，只有大约1%到3%的                   立大学副校长陈西文教授说。
          的目标，人类就可能无法控制它们。                                人工智能出版物是关于安全方面的。
                                                                                                               中国和欧盟一样对人工智能的安全推出了立法监管，
              “需要警惕的是，与人类相似，高级人工智能系统可                         报告显示，各国开始重视对人工智能的监管。法律中                     但至今未出台一部全面的人工智能法案。
          能会在[人类对其的]评估中故意表现不同，假装与人类期望                     包含人工智能一词的国家数量大幅增加，从 2022 年的 25 个
          一致，因此这种纯粹的行为评估可能无法奏效，”文章一针                      国家增加到 2023 年的 127 个国家。                               一度被许多人视为全球人工智能监管的领跑者，中国
          见血地指出。                                                                                          在ChatGPT聊天机器人大放异彩仅几个月后就引入了对生
                                                              但是，由于各国政府出台的围绕人工智能的法律和指                     成式人工智能的法律法规，但也因此招来质疑，担心中国政
              澳大利亚联邦政府人工智能专家组成员、墨尔本大学                     引都在人工智能系统的潜在风险和错失这些新技术带来的经                      府的做法会阻碍创新。
          人工智能与数字伦理中心创始联合主任珍妮·帕特森教授                       济社会效益的风险中左右平衡，全球对人工智能的安全监管
          （Jeannie  M  Paterson）指出，不假思索地使用人工智能            可谓雷声大、雨点小。                                           从2021年中国发布《新一代人工智能伦理规范》将伦
          会带来许多风险。                                                                                        理道德融入人工智能全生命周期，到之后陆续发布《互联网
                                                              其中，处于人工智能发展最前端的美国、欧盟和中国                     信息服务算法推荐管理规定》、《互联网信息服务深度合成
              “这些风险又回到了我们自欺欺人的问题上，如果我                     对安全监管的态度尤为值得关注。                                 管理规定》和《生成式人工智能服务管理暂行办法》，从算
          们把人工智能仅仅看作是一种统计工具的话，尽管它是一种                                                                      法、深度伪造、生成式人工智能等方面对相关技术的发布者
          非常复杂的工具，”她说。                                    ୸ૐ WT ૅݓ WT ᇏݓ                                  提出监管要求，中国对新技术的反应一直表现得敏捷迅速。
   1   2   3   4   5   6   7   8   9   10   11