AI前沿觀察丨“烏卡時(shí)代”下的人工智能治理：剛?cè)岵?jì)、多方共舉

編者按

“人工智能從你出生那天就認(rèn)識(shí)你，讀過(guò)你所有的電子郵件，聽(tīng)過(guò)你所有電話錄音，知道你最?lèi)?ài)的電影……”尤瓦爾·赫拉利在《未來(lái)簡(jiǎn)史》一書(shū)中描述了這樣一種未來(lái)景況：人工智能比人類(lèi)更了解自己。

步入人工智能時(shí)代，人類(lèi)的生活習(xí)慣和生產(chǎn)方式正在被重塑，科幻和現(xiàn)實(shí)滲透，驚喜與擔(dān)憂交加。人與機(jī)器的未來(lái)是一場(chǎng)親密的合作還是激烈的戰(zhàn)爭(zhēng)？機(jī)器會(huì)將人類(lèi)的智能拓展到什么樣的邊界？

南財(cái)合規(guī)科技研究院推出AI前沿觀察系列報(bào)道。從技術(shù)、政策和治理多角度，剖析人工智的技術(shù)瓶頸與倫理考驗(yàn)，追問(wèn)未來(lái)的可能與限度，以期尋找第四次工業(yè)革命浪潮翻涌下人工智能發(fā)展的最優(yōu)路徑。

1956年，在美國(guó)漢諾威小鎮(zhèn)的達(dá)特茅斯學(xué)院，“人工智能”的概念第一次被提出。在接下來(lái)的60余年，人工智能從屏幕上躍動(dòng)的代碼逐漸走向各行各業(yè)的應(yīng)用，成為現(xiàn)實(shí)。

然而，隨著技術(shù)與產(chǎn)業(yè)在變革下交織，我們走向人工智能技術(shù)與各行各業(yè)深度融合的“烏卡時(shí)代”（VUCA，易變性、不確定性、復(fù)雜性、模糊性）。人工智能無(wú)數(shù)次給人類(lèi)帶來(lái)驚喜，亦無(wú)數(shù)次引發(fā)人們對(duì)未知風(fēng)險(xiǎn)的恐慌。人們不禁思考：我們應(yīng)該以何種態(tài)度解決人工智能技術(shù)的發(fā)展遇到的問(wèn)題？

9月初，深圳公布全國(guó)首部人工智能產(chǎn)業(yè)專(zhuān)項(xiàng)立法；9月底，上海通過(guò)《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》，并于10月1日正式實(shí)施。在這個(gè)節(jié)點(diǎn)，追蹤研究人工智能治理的發(fā)展態(tài)勢(shì)具有極其重要的意義。

多位專(zhuān)家在接受南方財(cái)經(jīng)全媒體記者采訪時(shí)指出，當(dāng)前我國(guó)人工智能治理呈現(xiàn)“剛?cè)岵?jì)、多方共舉”的態(tài)勢(shì)。人工智能治理體系由倫理規(guī)范等“軟法”和法律法規(guī)等“硬法”共同構(gòu)成，參與治理活動(dòng)的主體涵蓋政府、行業(yè)組織、企業(yè)和公眾等。專(zhuān)家預(yù)測(cè)，未來(lái)我國(guó)將會(huì)繼續(xù)在法律與倫理領(lǐng)域同步發(fā)力，以促進(jìn)發(fā)展為宗旨對(duì)人工智能產(chǎn)業(yè)進(jìn)行治理。

全球現(xiàn)狀：歐盟監(jiān)管發(fā)力，美國(guó)產(chǎn)業(yè)先行

2016年是人工智能風(fēng)險(xiǎn)逐漸受到關(guān)注的一年，技術(shù)本身的風(fēng)險(xiǎn)以及技術(shù)對(duì)法律體系、倫理規(guī)則的沖擊逐漸引起注意。

在這一年，李世石與Alpha Go的“世紀(jì)決戰(zhàn)”以4-1的結(jié)果落幕，從此這個(gè)“完美” 的對(duì)手，成為籠罩圍棋界的陰影。同年，漢森機(jī)器人技術(shù)公司(Hanson Robotics)開(kāi)發(fā)的類(lèi)人機(jī)器人索菲亞被沙特阿拉伯授予國(guó)籍并獲得公民身份引發(fā)了全球爭(zhēng)議；此外，美國(guó)非盈利媒體ProPublica發(fā)表文章《機(jī)器偏見(jiàn)》(Machine Bias)，其中質(zhì)疑再犯風(fēng)險(xiǎn)預(yù)測(cè)算法COMPAS在判定時(shí)可能存在種族歧視的現(xiàn)象。

近年來(lái)，越來(lái)越多的國(guó)家意識(shí)到人工智能技術(shù)對(duì)經(jīng)濟(jì)與社會(huì)生活帶來(lái)的影響。2020年年底，經(jīng)濟(jì)合作與發(fā)展組織 OECD在《2020年數(shù)字經(jīng)濟(jì)展望》（OECD Digital Economy Outlook 2020）中指出，已經(jīng)有超過(guò)60個(gè)國(guó)家提出了與人工智能相關(guān)的政策。

然而，盡管全球都意識(shí)到了人工智能技術(shù)的重要性，但由于各國(guó)對(duì)相關(guān)產(chǎn)業(yè)發(fā)展、公民隱私等方面存在不同考量，目前國(guó)際上并沒(méi)有形成通行、共識(shí)的人工智能治理規(guī)則和體系。

歐盟與美國(guó)在發(fā)展高新技術(shù)的角逐從未停止，然而，兩國(guó)對(duì)人工智能的治理思路并不相同。前者強(qiáng)調(diào)嚴(yán)格監(jiān)管，后者則主張產(chǎn)業(yè)先行。

對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任張欣認(rèn)為，歐盟的人工智能治理仍然鑲嵌在數(shù)據(jù)治理框架之下。以《通用數(shù)據(jù)保護(hù)條例》（GDPR）為依托，以《人工智能法提案》為主導(dǎo)，歐盟對(duì)人工智能這種關(guān)涉?zhèn)€人隱私、數(shù)據(jù)安全等多領(lǐng)域的前沿技術(shù)，制定較為嚴(yán)格的監(jiān)管路徑是在各方預(yù)期之內(nèi)的。

“強(qiáng)監(jiān)管是歐盟近幾年對(duì)于自身的數(shù)字主權(quán)、技術(shù)主權(quán)重視和關(guān)注的體現(xiàn)。” 北京師范大學(xué)互聯(lián)網(wǎng)發(fā)展研究院院長(zhǎng)助理、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括認(rèn)為，歐盟當(dāng)前治理的主要目的是約束以美國(guó)大型互聯(lián)網(wǎng)企業(yè)為代表的，美國(guó)方面的科技滲透和科技?jí)浩龋源吮Ｗo(hù)歐盟公民的基本權(quán)利和發(fā)展歐盟的數(shù)字產(chǎn)業(yè)。

2021年4月，歐盟公布《人工智能法草案》,這是世界范圍內(nèi)第一部針對(duì)人工智能進(jìn)行規(guī)制的法律。此前，歐盟在2018年、2020年相繼發(fā)布人工智能治理領(lǐng)域重要文件《可信人工智能倫理指南》《人工智能白皮書(shū)—通往卓越和信任的歐洲路徑》。

匯集了微軟、谷歌等科技巨頭的美國(guó)，在人工智能領(lǐng)域亦展露了其打造壟斷地位的野心。華東政法大學(xué)政治學(xué)研究院院長(zhǎng)、人工智能與大數(shù)據(jù)指數(shù)研究院院長(zhǎng)高奇琦認(rèn)為，比起歐盟的強(qiáng)監(jiān)管，目前美國(guó)更傾向于讓人工智能產(chǎn)業(yè)“跑起來(lái)”。 

2019年，特朗普政府簽署行政令《保持美國(guó)在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位》，要求將更多資源和投資用于人工智能的學(xué)習(xí)、推廣和研究。在去年通過(guò)的《美國(guó)創(chuàng)新與競(jìng)爭(zhēng)法案》中，美國(guó)將人工智能和量子計(jì)算等研究共同列為2022 財(cái)年美國(guó)研發(fā)預(yù)算優(yōu)先事項(xiàng)。

“美國(guó)采用的是企業(yè)自我規(guī)制和政府規(guī)制相結(jié)合的治理路徑。”張欣指出，美國(guó)目前以《算法問(wèn)責(zé)法》為引領(lǐng)，創(chuàng)建了一系列在公共治理場(chǎng)景中人工智能應(yīng)用的程序化問(wèn)責(zé)路徑。

剛?cè)岵?jì)：倫理與法律雙管齊下

2019年6月，國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)發(fā)布了《新一代人工智能治理原則》，提出了人工智能發(fā)展相關(guān)方需要遵循的八項(xiàng)原則。時(shí)間走過(guò)三年，我國(guó)的人工智能治理體系現(xiàn)況如何？

從現(xiàn)有規(guī)則來(lái)看，我國(guó)的治理路徑與歐盟和美國(guó)都不盡相同，在倫理規(guī)則和法律法規(guī)方面皆有布局。

9月6日，深圳公布全國(guó)首部人工智能產(chǎn)業(yè)專(zhuān)項(xiàng)立法《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例》；同月22日，上海通過(guò)《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》，并在10月1日正式施行。法律參與人工智能治理的發(fā)令槍已然打響。

值得注意的是，在上海和深圳的條例中，均有一個(gè)引入注目的創(chuàng)新點(diǎn)——對(duì)人工智能進(jìn)行分類(lèi)分級(jí)監(jiān)管。無(wú)獨(dú)有偶，在此前歐盟的《人工智能法草案》中，也提出要將人工智能風(fēng)險(xiǎn)進(jìn)行分級(jí)，不同級(jí)別采用不同規(guī)則管理。

“風(fēng)險(xiǎn)分類(lèi)分級(jí)是與當(dāng)下數(shù)字化發(fā)展的態(tài)勢(shì)相適應(yīng)的一種立法選擇?！眳巧蚶ㄕJ(rèn)為，風(fēng)險(xiǎn)分類(lèi)分級(jí)可以針對(duì)性地構(gòu)建必要的規(guī)則，最大限度地實(shí)現(xiàn)人工智能安全和人工智能產(chǎn)業(yè)發(fā)展之間的一個(gè)動(dòng)態(tài)平衡。

同濟(jì)大學(xué)法學(xué)院副教授、上海市人工智能社會(huì)治理協(xié)同創(chuàng)新中心研究員陳吉棟指出，深圳與上海雖然規(guī)定了分類(lèi)分級(jí)，但與歐盟人工智能條例相比并未出臺(tái)詳細(xì)的制度設(shè)計(jì)?！耙环矫?，分類(lèi)分級(jí)制度的核心是不同主體的權(quán)利義務(wù)的設(shè)置，在我國(guó)屬于中央事權(quán)的范疇，地方立法探索的空間有限；另一方面，兩地立法在定位上，偏重產(chǎn)業(yè)法定位而非治理法定位，相比進(jìn)行治理，更強(qiáng)調(diào)立法促進(jìn)產(chǎn)業(yè)發(fā)展?！?/p>

法律之外，倫理規(guī)則的布局也在進(jìn)行中。2021年，國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)發(fā)布《新一代人工智能倫理規(guī)范》，提出將倫理道德融入人工智能研發(fā)和應(yīng)用的全生命周期。

今年9月，上海和深圳頒布的人工智能發(fā)展條例也要求政府建立人工智能倫理（專(zhuān)家）委員會(huì)（以下簡(jiǎn)稱(chēng)“委員會(huì)”）。根據(jù)條例，委員會(huì)的職能包括制定倫理規(guī)范、推動(dòng)相關(guān)組織機(jī)構(gòu)開(kāi)展問(wèn)題研討和標(biāo)準(zhǔn)制定、對(duì)重點(diǎn)領(lǐng)域風(fēng)險(xiǎn)進(jìn)行評(píng)估等。而此前發(fā)布的《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》要求，若機(jī)構(gòu)從事人工智能科技活動(dòng)，其業(yè)務(wù)涉及科技倫理敏感領(lǐng)域的，也應(yīng)設(shè)立科技倫理（審查）委員會(huì)。

如果將法律法規(guī)比作“硬法”的話，那么倫理規(guī)則便可被視為“軟法”。 

高奇琦認(rèn)為，法律的強(qiáng)監(jiān)管雖然會(huì)帶來(lái)安全性的提升，但同時(shí)也意味著較高的合規(guī)成本。我國(guó)人工智能產(chǎn)業(yè)處在發(fā)展的初期，由于其技術(shù)本身和應(yīng)用場(chǎng)景的不確定性，企業(yè)如果將資源向合規(guī)傾斜，可能面臨著無(wú)法維生的窘境。 

張欣則指出，相比之下，倫理規(guī)則等軟法更具靈活性，其可以更好地平衡科技創(chuàng)新、公共安全以及社會(huì)秩序等多元利益目標(biāo)。

“數(shù)字社會(huì)的治理，在‘硬法’之外需要‘軟法’的配合。”陳吉棟直言，“硬法”之“硬”在于權(quán)義設(shè)置、程序安排、監(jiān)管責(zé)任等方面的規(guī)則剛性及其背后的強(qiáng)制力。雖然硬法可以為治理提供穩(wěn)定的規(guī)則，但現(xiàn)階段僅適用于高風(fēng)險(xiǎn)、違法性明確的行為，且具有相對(duì)的滯后性。然而，人工智能技術(shù)的發(fā)展迅速，對(duì)于其發(fā)展軌跡與可能風(fēng)險(xiǎn)，政府、企業(yè)和社會(huì)可能處于共同的無(wú)知狀態(tài)，很難對(duì)相關(guān)產(chǎn)業(yè)活動(dòng)劃定清晰邊界，此時(shí)用倫理、習(xí)慣和技術(shù)路徑等“軟法”劃定底線和指引方向，是當(dāng)前的不二選擇。如此，軟硬結(jié)合，共同構(gòu)成了科學(xué)的治理體系。

未來(lái)之路：多方共舉助力人工智能治理

人工智能產(chǎn)業(yè)方興未艾，我國(guó)的治理之路將要走向何方？

清華大學(xué)人工智能?chē)?guó)際治理研究院副院長(zhǎng)梁正指出，人工智能產(chǎn)業(yè)的治理除了政府，還應(yīng)該包括行業(yè)組織、企業(yè)等主體。人工智能產(chǎn)業(yè)是治理實(shí)踐的“前哨站”，能夠第一時(shí)間發(fā)現(xiàn)和面對(duì)問(wèn)題。也正因如此，國(guó)家立法和政府監(jiān)管之外，行業(yè)也可以自發(fā)制定現(xiàn)有法律與倫理底線之上的合規(guī)體系、技術(shù)標(biāo)準(zhǔn)等。

在9月剛剛落幕的世界人工智能大會(huì)上，阿里巴巴就發(fā)布了聯(lián)合多個(gè)研究機(jī)構(gòu)撰寫(xiě)的《人工智能治理與可持續(xù)發(fā)展實(shí)踐白皮書(shū)》，討論行業(yè)人工智能治理實(shí)踐面臨的問(wèn)題。

“對(duì)人工智能的治理需貫穿整條產(chǎn)業(yè)鏈，包括對(duì)基礎(chǔ)層、技術(shù)層和應(yīng)用層的治理?！睆埿缽募夹g(shù)視角給出了建議?；A(chǔ)層指的是對(duì)數(shù)據(jù)以及相關(guān)硬件設(shè)施的治理；技術(shù)層則將關(guān)注的重點(diǎn)放在算法以及底層框架上；而在應(yīng)用層則需要結(jié)合場(chǎng)景和產(chǎn)品對(duì)模型系統(tǒng)以及應(yīng)用平臺(tái)進(jìn)行治理。 

吳沈括則表示，除了關(guān)注技術(shù)要素，人工智能對(duì)相關(guān)社會(huì)組織管理體系的影響以及倫理內(nèi)容的影響也是不可忽視的。

事實(shí)上，我國(guó)目前尚未針對(duì)人工智能治理專(zhuān)門(mén)立法。2017年7月，國(guó)務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，其中提到，計(jì)劃在2025年初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系。未來(lái)，我國(guó)人工智能治理能否迎來(lái)一部專(zhuān)門(mén)立法？

張欣解釋了人工智能技術(shù)立法治理的必要性。一方面，人工智能技術(shù)應(yīng)用具有跨域性和場(chǎng)景性，很難通過(guò)單一性的法規(guī)或者規(guī)章予以系統(tǒng)解決。另一方面，目前對(duì)標(biāo)的主要司法轄區(qū)均出臺(tái)或者提出了人工智能治理的基本法，對(duì)人工智能開(kāi)展系統(tǒng)化的法律制定符合國(guó)際治理趨勢(shì)。

隨著人工智能對(duì)社會(huì)生活、產(chǎn)業(yè)發(fā)展的影響力逐漸擴(kuò)大，未來(lái)必然有立法監(jiān)管和治理的必要。梁正直言：“目前國(guó)家層面已經(jīng)在對(duì)立法可能涉及的各項(xiàng)問(wèn)題進(jìn)行研究?！?/p>

　　轉(zhuǎn)自：21世紀(jì)經(jīng)濟(jì)報(bào)道

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來(lái)源“中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個(gè)人觀點(diǎn)，不代表本網(wǎng)觀點(diǎn)和立場(chǎng)。版權(quán)事宜請(qǐng)聯(lián)系：010-65363056。

延伸閱讀