维百财经:AI算法有安全隐患 呼吁多方共治

随着AI技术的精进和产业落地，业界开始聚焦关于产业治理的争端和问题。

8月3日，首届全球数字经济大会的人工智能产业治理主题论坛在京举办，该论坛由北京市经济信息化局、海淀区人民政府共同主办，由清华大学人工智能研究院、北京智源人工智能研究院以及北京瑞莱智慧科技有限公司共同承办。

在论坛上，中国科学院院士张钹首先抛出一个观点：当前，AI的安全治理是迫在眉睫的，随着技术潜入到“深水区”，研究界发现，AI的算法存在一些根本性的问题，本身就带有不安全性，容易受到攻击。

张钹认为，对人工智能进行治理，防止它被误用、制止它被滥用，需要从技术创新层面发力去“治本”，但这条路漫长且艰难，同时，也要从法律法规、伦理规范、行业共识等不同层面去“治标”。

争议和问题随之出现，为何AI的安全漏洞难以修补，AI的发展方向是否正确，政府、企业在其中又该承担什么责任？

原理的漏洞

行业普遍将人工智能的主体分为四类，研发者、设计者、部署者、用户。张钹表示，信息技术产业发展中有很多安全性问题，普遍是由设计的缺陷造成的，这个缺陷被利用后，对系统进行了攻击，所以只要把漏洞补上就能解决。

但AI技术所面临的安全问题是非常特殊的，其问题不在于设计，而是源自算法本身的不安全性。在张钹看来，这种算法的不安全性，是由第二代人工智能所引起的。

第一代人工智能指的是用计算机来解决问题，第二代指的是以AlphaGo为标志的深度学习。张钹表示，在第二代技术中，对图像、语音、文字的处理都可以利用深度学习来做，这种技术在数据样本充足的条件下，在人脸识别、语音识别等场景下，效率是非常高的。

但是，里面用到的算法非常脆弱。张钹举例称，“两张一模一样的雪山图片，如果对右图加入一点噪声，那么人类视觉看起来还是雪山，但计算机就会将右图识别成一条狗。可以看出人类视觉和计算机识别完全是两回事”。

张钹认为，这是有可能通过创新来解决的，方案之一就是发展第三代半导体技术，但这是一项长期任务，技术的路径也非常艰难。

法律的治理

针对不安全性，治理的目标也指向两类行为，一类是有意识地滥用AI技术，一类是无意识地误用。前者行为需要通过法律来解决，加以制止。

中伦律师事务所合伙人陈际红在会上表示，当前，人工智能的立法，已经涉及到隐私保护、数据安全、网络安全、公平竞争、消费者权益保护等方面。

人工智能产业离不开数据处理，一个重要的立法就是《数据安全法》，该法将于今年9月生效。陈际红表示，该法的监管对象是数据处理活动，一个重要的内容是，建立分类分级保护制度。在判断一种数据能否使用、能否公开、能否跨境运输方面，这些内容提供了很好的标准。如果是关系到重要民生、国家安全的核心数据，出境则需要强监管。

另一项限定关于数据交易。陈际红表示，当前一些数据交易机构的运作，引起了很多问题，比如数据的可交易性、对隐私的侵犯等。该法也针对数据中介做了一系列明确规定和管控。

同时，该法也建立起国家安全审查制度，同时，对数据处理活动也提出了监管措施，以及一定的反制措施。随着AI与社会的关系发展密切，关于立法、司法解释会延伸到技术的更多角落。

伦理的规范

若将AI作为客体，则可用法律来治理。但换个角度，我们究竟要发展什么样的人工智能，过去的路是否走偏了？厘清它的愿景，对于当前的治理也是非常重要的。

论坛上，中国科学院自动化研究所研究员、联合国教科文组织人工智能伦理特设专家组专家曾毅表示，全球发展AI的一个共同目标是“以人类为中心”，这会让人忽略技术对环境、生态的影响，甚至让人过于看重短期利益。

在曾毅看来，愿景应该是打造一个负责任的、可持续的人工智能，这也是最大伦理原则，“如果人工智能的创新的目标就是赚钱，那么大多数可持续发展目标无法通过人工智能来实现”。

国家新一代人工智能治理专委会曾对AI提出一些原则，重点之一是协调好发展与治理的关系；重点之二是，在安全可靠、可控的背景下，推动的不仅仅是经济发展，同时关注经济社会和生态协同的可持续发展，共建人类命运体。

这些治理的理念必须落实到参与者之间。曾毅表示，这和企业非常相关，但绝对不是企业唯一的问题，还涉及到设计者、研发者、供应者、部署者、管理者，真正实现多方共治。

企业的责任担当

在本次大会上，首个《人工智能产业担当宣言》正式发布，该宣言由北京智源人工智能研究院和瑞莱智慧共同发起，百度、华为、蚂蚁集团、寒武纪、爱笔科技、第四范式、出门问问等在内数十家研究机构与创新企业联合参与。

宣言包含五项倡议，首先强调，人工智能系统的设计、研发、实施和推广应符合可持续发展理念，以促进社会安全和福祉为目标，以尊重人类尊严和权益为前提。其次在技术能力方面，提出要最大限度确保人工智能系统安全可信，提高鲁棒性及抗干扰性，要增强算法透明性和可解释性，同时保障各方权利和隐私，对用户数据提供充分的安全保障。

对于该宣言，北京瑞莱智慧科技有限公司CEO田天表示，让人工智能更好地服务于人类，是行业共同的目标，当整个社会重新审视技术的价值，科技从业者更应感受到科技治理的紧迫性和使命感，应当积极主动开展自治工作，同时开放共享，共举科技担当。