中國(guó)社科院段偉文：AI技術(shù)價(jià)值中立，但需通過(guò)努力實(shí)現(xiàn)

　　數(shù)字時(shí)代正在改變我們的日常生活和經(jīng)濟(jì)方式，人工智能、大數(shù)據(jù)分析、區(qū)塊鏈和云技術(shù)給我們的生活帶來(lái)了諸多便利，但同時(shí)，也帶來(lái)了新的脆弱性，大數(shù)據(jù)殺熟、不當(dāng)索取個(gè)人信息、游戲沉迷、算法歧視、平臺(tái)算法控制等等。數(shù)字時(shí)代的倫理問(wèn)題始終存在，我們應(yīng)該怎么看待這些問(wèn)題，又應(yīng)該如何解決？

　　近日，中國(guó)社科院哲學(xué)所科技哲學(xué)研究室主任、研究員，科學(xué)技術(shù)和社會(huì)研究中心主任段偉文在RealAI主辦的人工智能產(chǎn)業(yè)治理論壇上作了《走向社會(huì)信任與多方共建的人工智能倫理治理》報(bào)告，討論數(shù)字時(shí)代的科技倫理和社會(huì)信任的危機(jī)與重建。

　　段偉文認(rèn)為，數(shù)字時(shí)代帶來(lái)了很多便利，但其實(shí)際上又非常脆弱。當(dāng)數(shù)字技術(shù)作為新事物出現(xiàn)時(shí)，操作便捷、門檻低、效率提升，因其帶來(lái)很多便利而使數(shù)字世代愿意嘗試，人們對(duì)短視頻、各種新的支付方式等沒有信任赤字。但便捷的另一面是風(fēng)險(xiǎn)沒有被充分認(rèn)識(shí)。最后造成傷害時(shí)，就會(huì)嚴(yán)重破壞整個(gè)社會(huì)對(duì)科技的信任。

　　科技活動(dòng)應(yīng)該遵循哪些科技倫理原則？據(jù)科技部官網(wǎng)，7月28日，科學(xué)技術(shù)部科技監(jiān)督與誠(chéng)信建設(shè)司研究起草了《關(guān)于加強(qiáng)科技倫理治理的指導(dǎo)意見（征求意見稿）》，明確科技倫理的原則為增進(jìn)人類福祉、尊重生命權(quán)利、堅(jiān)持公平公正、合理控制風(fēng)險(xiǎn)、保持公開透明。

　　段偉文提出，如果希望這些倫理原則不成為倫理洗白工具而是真正落地，很重要的是一種工作假設(shè)，即科技創(chuàng)新的過(guò)程也是倫理創(chuàng)新的過(guò)程，也是倫理從0到1的過(guò)程。0就是原則，1就是落地，即技術(shù)創(chuàng)新要和價(jià)值創(chuàng)新同步。

　　段偉文認(rèn)為，中國(guó)的數(shù)字產(chǎn)業(yè)的發(fā)展基本是奉行著鼓勵(lì)創(chuàng)新、包容審慎的立場(chǎng)，所以雖然前些年制定很多法律，但存在一個(gè)悖論——嚴(yán)格立法、普遍違法、選擇執(zhí)法。在近幾年，從短視頻防沉迷再到應(yīng)用軟件不當(dāng)?shù)乃魅€(gè)人的數(shù)據(jù)，都有專項(xiàng)的治理，還有金融科技的治理，包括中止上市，相關(guān)機(jī)構(gòu)或企業(yè)成立金融科技倫理委員會(huì)等，還比如跨境數(shù)據(jù)治理導(dǎo)致應(yīng)用軟件下架等等。

　　當(dāng)下是快速變動(dòng)的時(shí)代，有很多的創(chuàng)新便利，同時(shí)也有巨大風(fēng)險(xiǎn)，段偉文以沙漏做比喻，他提出，以前政府管理部門只是處在沙漏的上方，沒有感知到變化的迅速，但現(xiàn)在隨著社會(huì)輿論，國(guó)際政治，國(guó)內(nèi)外的格局等變化，政府會(huì)感到沙漏的巨大風(fēng)險(xiǎn)。段偉文總結(jié)道，在這樣的情況下，政府的治理有兩個(gè)特點(diǎn)。

　　第一，先發(fā)制人，一旦察覺風(fēng)險(xiǎn)，就將其扼殺在搖籃中。

　　第二，當(dāng)察覺一種技術(shù)的濫用造成社會(huì)整體治理架構(gòu)不能接受的風(fēng)險(xiǎn)時(shí)，就會(huì)追溯既往，即以往犯的錯(cuò)誤也是不可接受的。

　　在這樣的情況下，企業(yè)不僅僅需要根據(jù)合規(guī)不合規(guī)去思考問(wèn)題，也需要思考對(duì)不對(duì)，去做出治理。段偉文認(rèn)為，整個(gè)社會(huì)都有一個(gè)對(duì)科技活動(dòng)的許可，這種許可不一定是有形的，但是存在的。

　　2014年，由于一家化工廠不斷排出“臭雞蛋”味，河南省新鄉(xiāng)市獲嘉縣居民聚集抗議要求將化工廠遷離?；S、垃圾焚燒廠、核電站等的建設(shè)過(guò)程中出現(xiàn)的大量公眾事件阻止這些科技的發(fā)展，段偉文將其解讀為社會(huì)許可證，即公眾答應(yīng)與否。其提出，公眾當(dāng)下對(duì)人臉識(shí)別的寬容態(tài)度來(lái)自于還沒有感知到重要風(fēng)險(xiǎn)，一旦出現(xiàn)重大惡性事件，公眾的許可就會(huì)消失。

　　“那么一個(gè)很重要的問(wèn)題是，要直面社會(huì)許可的挑戰(zhàn)，不能只等到出現(xiàn)了惡性事件，再做治理，不能僅僅滿足于合規(guī)，”當(dāng)下面對(duì)這樣一種既先發(fā)制人也追溯既往的治理格局，段偉文認(rèn)為，企業(yè)應(yīng)該更多考慮怎樣重塑科技的社會(huì)印象，這是非常關(guān)鍵的。

　　在措施方面，段偉文提出，一個(gè)是技術(shù)上改進(jìn)，比如隱私計(jì)算等，另一個(gè)是倫理設(shè)計(jì)，比如游戲的防沉迷機(jī)制，在知曉用戶濫用技術(shù)時(shí)提醒其不要過(guò)度使用。更重要的是關(guān)懷倫理，即從用戶的角度去關(guān)心他，“說(shuō)個(gè)不恰當(dāng)?shù)睦?，在有些賭場(chǎng)現(xiàn)在實(shí)行關(guān)懷倫理，當(dāng)你輸一百萬(wàn)的時(shí)候他會(huì)告訴你你剩下了20萬(wàn)，你別輸了，你今天手氣不好，坐下來(lái)喝喝茶等等。所以我們可以看到世界上的善和惡可能有各種各樣的標(biāo)準(zhǔn)，但唯一的一種智慧就是我們做什么事情都要有個(gè)度，這是最重要的，”段偉文說(shuō)。

　　2021年1月5日，全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)發(fā)布了《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南—人工智能倫理安全風(fēng)險(xiǎn)防范指引》也明確了四大責(zé)任主體，研究開發(fā)著、設(shè)計(jì)制造者、部署應(yīng)用者、用戶。

　　“技術(shù)是價(jià)值中立的，但它是需要通過(guò)努力實(shí)現(xiàn)的，真正意義上的創(chuàng)新應(yīng)該面向用戶，面向社會(huì)價(jià)值，是整體性的創(chuàng)新，而不只是增加財(cái)富，加強(qiáng)資本?！倍蝹ノ暮粲?，“我們要超越技術(shù)解決主義，當(dāng)下有很多手段能解決倫理問(wèn)題，但更重要的是超越這些技術(shù)手段，用更廣泛的社會(huì)關(guān)懷進(jìn)行補(bǔ)充。”段偉文進(jìn)一步闡釋，從疫情防控期間可以看到，很多技術(shù)手段的應(yīng)用需要人的關(guān)懷，比如手機(jī)的適老化，這些都是很有意義的。（記者：邵文）

　　轉(zhuǎn)自：澎湃新聞

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來(lái)源“中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個(gè)人觀點(diǎn)，不代表本網(wǎng)觀點(diǎn)和立場(chǎng)。版權(quán)事宜請(qǐng)聯(lián)系：010-65363056。

延伸閱讀