Skip to main content

深圳擬出臺人工智能條例:市政府或需設立人工智能倫理委員會

2021-07-20 由【】發表於 科技

7月14日,深圳市人大常委會辦公廳發佈關於《深圳經濟特區人工智能產業促進條例(草案)》(簡稱“《草案》”)公開征求意見的公告。

這是全國人工智能領域的首部地方性法規,共七章八十三條。《草案》從基礎研究與技術開發、產業基礎設施建設、應用場景拓展等方面提出瞭促進人工智能產業發展的措施。此外,《草案》還明確瞭深圳人工智能產業的治理原則和措施,確立多元主體協調共治的治理機制,設立人工智能倫理委員會,並明確規定禁止侵犯個人隱私和個人信息保護、損害國傢安全和社會公共利益、算法歧視等一系列行為,劃定瞭行為底線。

關於《深圳經濟特區人工智能產業促進條例(草案)》公開征求意見的公告。圖自深圳市人大官網

中國社科院研究員段偉文認為,此次深圳出臺《草案》,作為一種地方的先行先試,將對國內其他城市的地方立法探索起到示范作用。而在國傢立法層面,清華大學教授梁正表示,法學界的專傢意見是,現在還不是人工智能綜合立法的適宜階段。目前國傢在人工智能領域以專門立法為主,兜底性地劃定界限,而《草案》則是以促進發展為主的綜合性地方條例,二者在將來可能形成很好的互動。

1

推動公共數據開放,引導開放更多應用場景

《草案》第一章為總則,第二章到第五章具體規定瞭人工智能產業發展的促進措施。

在基礎研究與技術開發方面,《草案》從制度建設和人才培養層面推動解決基礎研究薄弱的問題。提出重視基礎研究和關鍵核心技術突破,鼓勵科技資源開放共享等。

在產業基礎設施建設方面,《草案》要求,加強數據開放平臺、算法開源平臺、算力開放平臺、檢測及認證平臺等基礎設施建設。值得註意的是,《草案》第二十九到第三十六條都與數據相關,鼓勵搭建支撐人工智能發展的綠色數據中心,構建公共數據資源體系,推動公共數據的創新運用。

《草案》明確,市政府應建設公共數據開放平臺,建立人工智能應用領域的公共數據開放清單和調整機制,推動公共數據分類分級有序開放。《草案》還特別提到,超出公共數據開放清單范圍的,“數據主管部門應當在安全可控的前提下,在法律法規允許范圍內最大限度開放相關數據。”

在應用場景拓展方面,《草案》支持人工智能技術在醫療、教育、就業、養老、文化、住房保障等民生服務領域的創新應用,引導開放更多應用場景。關於產品準入機制,《草案》明確,要加快低風險的細分領域的產品行政許可,允許通過測試、試驗、試點等方式,支持低風險人工智能產品和服務先行先試。《草案》特別提到,鼓勵醫療機構建立臨床試驗倫理審查的快速審核機制與互認機制,加速人工智能醫療器械的臨床試驗。

就如何保障人工智能產業的問題,《草案》也指出瞭具體的措施。對於人工智能企業,在金融支持、科技保險、知識產權等方面做好保障。在人才培養方面,《草案》提出要吸引國際高端人才,建立海外人才儲備庫,並為人工智能領域人才提供多方面的保障和便利。

《草案》還提出“加強宣教”,要求相關部門加強向公眾的教育科普,幫助公眾適應人工智能發展帶來的生活方式、就業形式以及倫理道德等方面的影響。

2

專傢解讀治理機制:包容審慎、敏捷治理、協同共治

在一系列促進產業發展的措施之後,《草案》第六章對人工智能產業治理原則與措施做瞭規定。

《草案》確立瞭政府規范、行業自律、企業自治、社會監督的多元主體協同共治的治理機制。人工智能企業應進行倫理安全風險評估,鼓勵人工智能企業設立倫理風險崗位或者委托專業機構,開展前款工作。

梁正認為,在協同共治中,政府規范的主要作用是“保底線”,通過法律法規做兜底工作,主要采取事後追責的方式;但行業發展產生的很多新問題,通過法規也許不好判斷,這時候就需要行業自律,制定行業標準規范;企業內部也需要有良好的治理體系、合規體系、風控體系建設;最後,社會監督層面將來可能主要會涉及應用的環節,監督技術濫用或誤用的問題。前面政府、行業、企業這三個主體在治理中發揮主要作用,社會監督作為外部的一種補充。

段偉文關心社會監督將來如何落地的問題。《草案》第七十七條提到,社會組織和個人可以向市場監管部門、行業組織等舉報違規行為。“比如在人臉識別等應用場景下,一般民眾到底能不能夠進行監督,這個值得觀察。”他說。

延續我國《新一代人工智能治理原則》中的敏捷治理原則,《草案》明確采用敏捷治理方式,相關部門應當開展人工智能發展的監測和評估,組織開展人工智能社會實驗,研究人工智能發展對個人和組織的行為方式、社會心理,就業結構、收入變化、社會公平等方面的綜合影響,並及時調整產業發展政策。

《草案》的一個重要的制度創新是由深圳市政府設立人工智能倫理委員會。人工智能倫理委員會需要履行下列職責:制定人工智能倫理規范和安全標準管理制度;對數據壟斷、算法歧視、隱私保護、倫理道德等重點領域開展監測與研判;評估、監督人工智能企業的倫理規范執行情況等。

在梁正看來,成立人工智能倫理委員會就是敏捷治理的一個很好范例,體現瞭一種靈活的、柔性的治理方式。“在市一級的政府成立人工智能倫理委員會,是一個比較開拓性的思路。目前倫理委員會主要是在一些企業中設立,作為企業內部治理或風險防范的機制。這次深圳由政府設立倫理委員會,從它的職責能看出,這不是一個強監管和懲罰性的機制,更多的是進行一些風險的預判和識別,以及制定白皮書等去做引導。這確實能起到一個很好的引領示范作用。”他說。

段偉文評價,人工智能倫理委員會的職責中提到瞭數據壟斷、算法歧視、智能濫用等重點領域,非常具體,而且是對現有問題的及時應對,落地性很強。

此外,《草案》還明確瞭對人工智能采取分級監管的機制。高風險的人工智能應用應當采用事前評估和風險預警的監管模式;中低風險的人工智能應用應當采用事前披露和事後控制的監管模式。

段偉文認為,分級分類監管的原則,是對人工智能產業的動態治理的表現。

不過,《草案》並未表明風險級別應如何界定。梁正認為,下一步需要對“高風險”和“中低風險”做界定。他給出瞭一種評估方式,從後果的嚴重程度和風險發生的概率這兩個維度來評估風險等級。以自動駕駛為例,風險發生的概率低,但一旦發生事故可能會造成嚴重後果,這樣的應用要采取預防性治理。而像人臉識別這樣的應用,風險發生的概率很高,但在一般的普通消費場景,危害沒有自動駕駛那麼嚴重,因此要采用及時治理的方式。如果風險發生的概率和後果的嚴重程度都高,應采取優先治理方式;如果兩個維度都低,則應該通過激發主體的志願意識進行處理。

對於人工智能技術中的算法,《草案》明確要對算法進行分類規制。其中特別提到,對於公共決策領域以及涉及公共利益的商業領域的算法,應當采取公眾可理解的方式進行算法說明。

《草案》還明確瞭人工智能領域的“禁止行為”,包括侵犯隱私、危害國傢安全、危害人身安全、歧視用戶、大數據殺熟等。此外,《草案》明確禁止相關組織和個人實施壟斷和不正當競爭等行為,並強調瞭相應的法律責任。

段偉文認為,《草案》中的國際治理、風險評估、加強宣教等條款都值得關註。其中,國際治理談到瞭要推動形成具有廣泛共識的國際人工智能治理框架和標準規范,說明此次《草案》出臺的影響力可能將超出國內范圍。風險評估則列舉瞭五項具體的評估內容,讓倫理安全風險評估比較容易落實。加強宣教除瞭教育培訓科普外,還特別強調瞭倫理道德和社會價值觀的引導。

3

立法意義:為其他城市做示范,與國傢立法做互動

作為國內人工智能領域首部地方性法規草案,該草案對於人工智能領域立法實踐有何意義?

據深圳市人大常委辦公廳發佈的《關於的說明》(簡稱“《說明》”)介紹,在人工智能領域立法方面,國際上以歐盟和美國為代表的國傢主要采取分行業、分散式的人工智能立法模式,而國內尚未出臺針對人工智產業發展進行全方位規范的專門性立法。通讀深圳此次出臺的《草案》全文可以發現,其內容大多是對人工智能領域整體的框架性規定,對人工智能的細分行業涉及較少。對此,《說明》進行瞭解釋——該《草案》是基礎性立法。“在結構上側重制度體系的搭建,在內容上不作過細的規定,為與相關細分領域的專門立法做好銜接預留空間,同時保持立法的穩定性。”

此外,《說明》介紹,在立法思路上,該《草案》的另外兩個指導原則分別是創新性和促進性。創新性體現在“發揮先行示范區立法的引領作用,為人工智能國傢層面立法先行探路”,促進性的含義則是現階段更需要對產業發展予以支持、呵護,因此《草案》圍繞“促進人工智能產業發展”這個核心目的,在內容上註重體現“全面促進與合理必要的規范”。

促進性同樣體現在《草案》總則中的“包容審慎監管”條款,明確瞭監管應按照鼓勵創新的原則。段偉文認為,相比歐盟嚴苛的“審慎監管”治理方案和而美國寬松的“無須批準式監管”治理方案,包容審慎體現瞭中國近二十年來對數字和網絡產業的一貫政策。

在他看來,此次深圳出臺《草案》,作為一種地方的先行先試,具有積極意義。深圳的探索反映瞭人工智能的一個特點,即人工智能領域出現新的場景應用的問題、監管的問題,實際上是隨著技術和產業不斷發展而湧現的,在人工智能產業較發達的地區,對於立法的需求就更為迫切。在國內,北京、上海、杭州等城市的人工智能產業創新都比較集中,深圳的探索對國內其他城市能起到很好的示范作用。

此外,他認為,《草案》還可能加快新興行業未來立法的速度。例如,《草案》第七十二條為算法規制,規定對於公共決策領域以及涉及公共利益的商業領域的算法,應當采取公眾可理解的方式進行算法說明。“算法規制實際上是很新的東西,但在這裡的規定是非常明確的。”

在對其他城市立法的引領示范之外,深圳的《草案》是否會對國傢層面在人工智能領域的立法提供經驗?

對於這個問題,梁正認為,這次深圳的《草案》作為一個綜合性的地方條例,可圈可點。它涵蓋瞭人工智能領域的技術研發、產業發展、應用場景、數據等很多方面,主要內容是促進發展。而在國傢層面,目前,法學界的專傢意見是,現在還不是國傢對人工智能產業綜合立法的適宜階段。因為人工智能領域面臨的問題比較新,如果綜合立法的話很容易失於籠統。現在我國與人工智能領域相關的《數據安全法》、《個人信息保護法》,都是專門立法,在網絡安全方面,針對不同場景的標準規范也在逐漸出臺,所以國傢層面目前是以專門立法為主,兜底性地劃定界限,而地方性條例更多以促進發展為主。

“我覺得將來會形成一個很好的互動,國傢層面立法把紅線設置好,地方性條例多采用綜合性方式,做一些促進發展、先行先試的探索。在真正的前沿實踐中反應要快,不能提前就把什麼都管‘死’,這也是我們講的敏捷治理理念。”梁正補充道。

他還強調,所有的立法目的都是促進發展。新一代的人工智能規劃基本的指導原則明確,創新和治理是兩個輪子,都是為瞭更好地發展。“一邊走得稍微快一點,另一邊就要跟上,是這樣一個思路。”他說。

采寫:南都見習記者李婭寧