我國首部人工智能產(chǎn)業(yè)專項立法——《深圳經(jīng)濟特區(qū)人工智能產(chǎn)業(yè)促進條例》(下稱《條例》)于近日發(fā)布。9月5日，深圳市人大常委會官網(wǎng)公布了《條例》全文，這部法規(guī)將于11月起施行。

南都記者注意到，《條例》不但首次從法律層面明確人工智能及人工智能產(chǎn)業(yè)的界定，還創(chuàng)新性地規(guī)定市政府應當設(shè)立人工智能倫理委員會。目前國內(nèi)外人工智能倫理委員會主要由企業(yè)在內(nèi)部設(shè)立，由政府主導的十分罕見。

多位專家對南都記者表示，《條例》一方面對國內(nèi)其他地區(qū)乃至中央層面的人工智能立法有示范意義，另一方面跟國際上相關(guān)的法律政策框架接軌。其中探索由政府設(shè)立人工智能倫理委員會，將對產(chǎn)業(yè)起到示范、主導的作用，對于人工智能技術(shù)的社會影響和倫理問題可能會有更周全的考慮和更系統(tǒng)的調(diào)節(jié)機制。

*1*

首次從法律層面定義人工智能

當下，人工智能已經(jīng)成為新一輪產(chǎn)業(yè)變革的核心驅(qū)動力，是經(jīng)濟發(fā)展的新引擎，催生了許多新技術(shù)、新產(chǎn)品、新產(chǎn)業(yè)、新業(yè)態(tài)、新模式，對加速傳統(tǒng)產(chǎn)業(yè)升級換代、重塑經(jīng)濟結(jié)構(gòu)、實現(xiàn)社會生產(chǎn)力整體躍升有著重要推動作用。但截至目前，我國在國家層面尚無專項的人工智能產(chǎn)業(yè)立法。

2020年，中共中央辦公廳、國務院辦公廳印發(fā)《深圳建設(shè)中國特色社會主義先行示范區(qū)綜合改革試點實施方案(2020-2025年)》，要求深圳在人工智能、無人駕駛、大數(shù)據(jù)、生物醫(yī)藥、醫(yī)療健康、信息服務等新興領(lǐng)域先行探索。通過經(jīng)濟特區(qū)立法方式在人工智能領(lǐng)域先行先試，正是深圳為落實上述方案走出的一大步。

為什么選中深圳?

中國社科院科技和社會研究中心主任段偉文認為，深圳在探索經(jīng)濟發(fā)展和管理模式的過程中積累了本土化的經(jīng)驗，涌現(xiàn)了一些本土的標桿企業(yè)。“就科創(chuàng)方面而言，目前深圳在大灣區(qū)已經(jīng)有了龍頭作用。”他說，“如何利用好輻射至整個大灣區(qū)的影響力，對于深圳既是挑戰(zhàn)也是機遇。”

西南政法大學人工智能法教研室主任馮子軒則認為深圳具備產(chǎn)業(yè)和立法兩方面的優(yōu)勢。“深圳產(chǎn)業(yè)優(yōu)勢非常突出的。它是經(jīng)濟特區(qū)，有產(chǎn)業(yè)集群，還有大量的應用場景”，另一方面，廣東在相關(guān)領(lǐng)域政策制定和立法上積累深厚，尤其是近年來在大數(shù)據(jù)、數(shù)字政府等相關(guān)領(lǐng)域立法表現(xiàn)亮眼，走在全國前列。

《條例》共設(shè)七章七十三條，包括總則、基礎(chǔ)研究與技術(shù)開發(fā)、產(chǎn)業(yè)基礎(chǔ)設(shè)施建設(shè)、應用場景拓展、促進與保障、治理原則與措施、附則等七個方面。值得注意的是，《條例》首次從法律層面明確了人工智能及人工智能產(chǎn)業(yè)的界定。

其中人工智能是“利用計算機或者其控制的設(shè)備，通過感知環(huán)境、獲取知識、推導演繹等方法，對人類智能的模擬、延伸或擴展”。

人工智能產(chǎn)業(yè)則指“與人工智能相關(guān)的軟硬件產(chǎn)品研究、開發(fā)和生產(chǎn)、系統(tǒng)應用、集成服務等核心產(chǎn)業(yè)，以及人工智能在民生服務、社會治理、經(jīng)濟發(fā)展等領(lǐng)域融合應用帶動的相關(guān)產(chǎn)業(yè)”。

值得注意的是，《條例》規(guī)定深圳市工業(yè)和信息化部門為人工智能產(chǎn)業(yè)主管部門，負責實施、協(xié)調(diào)、督促本行政區(qū)域內(nèi)人工智能產(chǎn)業(yè)發(fā)展工作;市教育、財政、住建等十余個部門在各自職責范圍內(nèi)，負責人工智能產(chǎn)業(yè)發(fā)展相關(guān)工作。

中科院人工智能聯(lián)盟標準組成員吳焦蘇指出，人工智能作為計算機的高級階段，對社會的改造面“相當寬”，漏了哪一個部門都可能使人工智能發(fā)展不順暢——“作為地方立法，這個做法是非常有意義的。”

“現(xiàn)在主流的想法是要加快人工智能技術(shù)在城市治理的方面的應用”，但段偉文也提醒，如果要更廣泛地應用人工智能技術(shù)，就要更加審慎地考慮到它可能造成的傷害，并且要有預防措施。

對于這部全國首個人工智能產(chǎn)業(yè)專項立法，馮子軒注意到，《條例》對一些涉人工智能的核心概念進行了厘定，就人工智能應用場景及產(chǎn)業(yè)發(fā)展經(jīng)驗進行了歸納，對于數(shù)據(jù)開放共享、算力算法和產(chǎn)業(yè)發(fā)展瓶頸等關(guān)鍵性問題都有破題。

因此，她認為《條例》“對于兄弟省市的相關(guān)立法有一定啟發(fā)意義，也對將來中央層面的人工智能政策法律制定有所供給……該條例部分內(nèi)容還能跟國際法律政策框架接軌”。

在段偉文看來，除了目前在消費端的應用以外，人工智能技術(shù)在科技領(lǐng)域、城市治理等方面也有很廣泛的應用前景。因此，《條例》有利于人工智能發(fā)揮其普遍的、泛在的賦能作用，不僅會推動人工智能產(chǎn)業(yè)的發(fā)展，也會對城市管理等各個方面產(chǎn)生推動作用。

*2*

公共事務部門應率先使用人工智能產(chǎn)品和服務

上個月，科技部等六部門聯(lián)合印發(fā)《關(guān)于加快場景創(chuàng)新以人工智能高水平應用促進經(jīng)濟高質(zhì)量發(fā)展的指導意見》，提出鼓勵算力平臺、共性技術(shù)平臺、行業(yè)訓練數(shù)據(jù)集、仿真訓練平臺等人工智能基礎(chǔ)設(shè)施資源開放共享，以及在確保數(shù)據(jù)安全的前提下，為人工智能典型應用場景提供數(shù)據(jù)開放服務。

南都記者注意到，《條例》也有類似規(guī)定。具體來說，市政府應建設(shè)公共數(shù)據(jù)開放平臺、建立人工智能應用領(lǐng)域的公共數(shù)據(jù)共享目錄和共享規(guī)則，推動公共數(shù)據(jù)分類分級有序開放;推動人工智能領(lǐng)域數(shù)據(jù)的流通利用，促進數(shù)據(jù)要素資源化、資產(chǎn)化、資本化發(fā)展;建立面向產(chǎn)業(yè)的算力算法開放平臺，推動數(shù)據(jù)共享、算法匯聚及算力開放，培育共享協(xié)作的開源治理生態(tài)。

針對中央和地方均致力于推動人工智能產(chǎn)業(yè)的數(shù)據(jù)開放共享，段偉文表示，當前的人工智能主要是基于數(shù)據(jù)驅(qū)動的智能，數(shù)據(jù)就意味著精度和競爭優(yōu)勢，通過使用大量的數(shù)據(jù)來完善模型，就可以更好地做城市治理、預測產(chǎn)業(yè)發(fā)展趨勢，或者通過計算找到一些問題的最優(yōu)解。

不過，他也提到，以往在數(shù)據(jù)應用中存在著“數(shù)據(jù)孤島”的現(xiàn)象，很多數(shù)據(jù)分屬于不同的部門、領(lǐng)域，在城市治理中無法做到數(shù)據(jù)互通。而在產(chǎn)業(yè)創(chuàng)新方面，現(xiàn)在的數(shù)據(jù)共享和開放程度還不夠，不能適應推動人工智能產(chǎn)業(yè)創(chuàng)新的需求。

《條例》還規(guī)定，本市國家機關(guān)、法律法規(guī)授權(quán)的具有管理公共事務職能的組織以及公共企事業(yè)單位應當率先使用人工智能產(chǎn)品和服務，推動社會管理數(shù)字化、智能化。

“經(jīng)濟學里面一個概念叫公共品(public goods)。政府部門率先采用人工智能產(chǎn)品或服務，就會形成人工智能的公共品。”吳焦蘇說，在其他地方?jīng)]有人工智能公共品的前提下，深圳可能會有一個巨大的先發(fā)優(yōu)勢，使得這個公共品更容易被公眾所接受。

段偉文則提醒，政府部門采購人工智能產(chǎn)品和服務可以在很大程度上推動相關(guān)產(chǎn)業(yè)的創(chuàng)新和發(fā)展，但同時也對這個產(chǎn)業(yè)提出了更高的要求——如果這個產(chǎn)品和服務的質(zhì)量不好，它的負面影響也會更為深遠。

為了促進人工智能產(chǎn)業(yè)發(fā)展，《條例》提出在資金、產(chǎn)業(yè)用地、人才等方面對人工智能產(chǎn)業(yè)予以支持。針對企業(yè)，推動建設(shè)人工智能產(chǎn)業(yè)園區(qū)，探索建立寬松靈活的產(chǎn)業(yè)空間管理機制，對于符合條件的企業(yè)，合理確定開發(fā)強度和配套功能;針對高校，支持開設(shè)人工智能相關(guān)學科和交叉學科，鼓勵企業(yè)創(chuàng)辦研究機構(gòu)、與學校聯(lián)合建設(shè)實驗室;針對引進人才，在企業(yè)設(shè)立、項目申報和出入境、住房、外匯管理、醫(yī)療保障、子女就學等方面，按照有關(guān)規(guī)定享受深圳人才政策待遇。

另外，還要探索完善適應人工智能產(chǎn)品和服務的專門性保險賠償體系，為人工智能產(chǎn)品和服務提供全鏈條的保險保障。對在人工智能基礎(chǔ)研究、關(guān)鍵核心技術(shù)攻關(guān)、科技成果推廣應用等方面取得成果或者做出貢獻的個人、組織給予獎勵。

*3*

由政府設(shè)立人工智能倫理委員會

作為有望引領(lǐng)未來變革的戰(zhàn)略性信息技術(shù)，人工智能在實現(xiàn)快速發(fā)展、廣泛應用的同時，也帶來了安全、隱私、公平等諸多新問題、新挑戰(zhàn)。據(jù)悉，《條例》旨在通過特區(qū)立法有序規(guī)范深圳人工智能產(chǎn)業(yè)，先行探索人工智能社會治理的中國方案。

《條例》確立了人工智能治理國際公認的和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協(xié)作、敏捷治理等八大治理原則，還提出建立和完善政府規(guī)范、行業(yè)自律、企業(yè)自治、社會監(jiān)督的人工智能治理機制，推動形成具有廣泛共識的人工智能治理框架和標準規(guī)范，促進產(chǎn)業(yè)多元主體協(xié)同共治。

南都記者注意到，《條例》首次從立法層面規(guī)定市政府應設(shè)立人工智能倫理委員會，履行研究制定人工智能領(lǐng)域的倫理安全規(guī)范、發(fā)布人工智能倫理安全實踐指南等多項職責。公開資料顯示，目前設(shè)立人工智能倫理委員會的基本都是企業(yè)，比如國外的谷歌、微軟等大型科技企業(yè)，國內(nèi)的曠視也于2019年設(shè)立了人工智能道德委員會，但由政府設(shè)立的十分罕見。

在馮子軒看來，政府代表公共利益，倫理問題涉及一個社會的基本價值觀和底線問題，本身具備公共利益取向。“政府介入的方式多種多樣，深圳是創(chuàng)新性模式之一，”她說，“未來該機構(gòu)運轉(zhuǎn)的過程當中，我們要注意組織機構(gòu)設(shè)置、議事規(guī)則、專家構(gòu)成、公眾參與等關(guān)鍵問題，這是一個系統(tǒng)性的工作。”

“現(xiàn)在很多企業(yè)的人工智能倫理委員會其實很大程度上只是在展現(xiàn)一個姿態(tài)、一種承諾，在企業(yè)進行技術(shù)研究、產(chǎn)品開發(fā)的過程中能否發(fā)揮實質(zhì)性作用還取決于具體的落實情況。但如果由政府來設(shè)立，就會有示范甚至主導的作用……對于人工智能技術(shù)的社會影響和倫理問題可能會有更周全的考慮和更系統(tǒng)的調(diào)節(jié)機制。”段偉文表示。

另一方面，他認為由政府設(shè)立人工智能倫理委員會是政府承擔法律和倫理責任的體現(xiàn)。此外，人工智能是直接涉及人的技術(shù)，它的應用過程中很重要的一點就是協(xié)調(diào)不同主體之間的利益關(guān)系，讓大家覺得這項技術(shù)可以被接受。“政府作為一個具有行政權(quán)力的主體，在這方面具備一定優(yōu)勢，也擔負著更大的責任。”

吳焦蘇也認為，人工智能領(lǐng)域中，人工智能倫理作為推薦性社會標準，對于強制性社會標準——人工智能法律來說具有基礎(chǔ)性地位，是不能缺失的。他表示，人工智能倫理將來會形成全世界通用的國際標準。

《條例》還對公眾感知較深的算法、深度偽造等人工智能應用提出了具體要求。比如對于公共決策領(lǐng)域以及涉及公共利益的商業(yè)領(lǐng)域的算法，提供人工智能產(chǎn)品和服務的組織或者個人應當采取利于公眾理解的方式進行算法說明。開展人工智能研究和應用活動，不得利用算法技術(shù)根據(jù)用戶的習慣、偏好、支付能力實施價格歧視或者消費欺詐等侵害消費者權(quán)益的行為，也不得利用深度合成技術(shù)從事禁止行為。

《條例》還提到，深圳市政府及有關(guān)部門需根據(jù)人工智能應用的風險等級、應用場景、影響范圍等具體情境，實施分級、分類差異化監(jiān)管，完善人工智能領(lǐng)域監(jiān)管機制。據(jù)南都記者了解，深圳市政府將制定人工智能應用分級分類監(jiān)管辦法。

關(guān)鍵詞： 人工智能產(chǎn)業(yè)專項立法 深圳人工智能產(chǎn)業(yè)立法 什么是人工智能 人工智能定義和范圍