積極探索建立我國人工智能治理與應用指南制度

　　近年來，人工智能技術快速發(fā)展，在賦能人類社會經(jīng)濟進步的同時也帶來安全隱患和風險挑戰(zhàn)。既要促進人工智能技術發(fā)展和應用，又要確保其發(fā)展過程中的安全性、可靠性和可控性，構(gòu)建人工智能治理體系的緊迫性日益凸顯。世界各國都積極探索人工智能治理的方法路徑。

　　今年3月，美國白宮行政管理和預算辦公室（OMB）發(fā)布《致行政部門和機構(gòu)負責人的備忘錄》（以下簡稱“《指南》”）。《指南》要求，設立首席人工智能官（CAIO）、成立人工智能治理委員會、推動人工智能應用創(chuàng)新、遵循最低風險管理實踐等，為推進人工智能治理、創(chuàng)新和風險管理確立了新的管理要求和實踐指引。作為負責任的科技大國，我國也積極推動人工智能治理體系優(yōu)化完善，《指南》中的一些內(nèi)容對于促進我國政府部門人工智能應用和治理實踐具有參考價值。

　　《指南》的主要內(nèi)容

　　首先，強化人工智能治理架構(gòu)體系。一是設立首席人工智能官。各聯(lián)邦機構(gòu)自《指南》發(fā)布60日內(nèi)設立首席人工智能官，《指南》還對首席人工智能官的角色、職責、級別、職位以及匯報結(jié)構(gòu)做出明確要求。二是組建人工智能治理委員會，由委員會召集高級別官員會議，統(tǒng)籌管理本單位人工智能應用，并且掃除障礙、管控風險。三是實施遵從計劃管理，各聯(lián)邦機構(gòu)自《指南》簽署180天內(nèi)至2036年，每兩年向OMB提交指南遵從計劃，確保本單位治理原則與治理方向與《指南》保持一致。四是實施用例清單管理。各聯(lián)邦機構(gòu)需建立人工智能用例清單，并以年度為單位提交至OMB，同時面向公眾公開。各聯(lián)邦機構(gòu)還需識別影響安全和權利的人工智能用例，披露用例風險細節(jié)與風險防控措施。

　　其次，推動負責任的人工智能創(chuàng)新。一是落實人工智能戰(zhàn)略管理。各聯(lián)邦機構(gòu)需自《指南》發(fā)布365天內(nèi)制定并公開發(fā)布本單位人工智能發(fā)展戰(zhàn)略，識別并掃除人工智能應用障礙，提升本單位人工智能發(fā)展整體成熟度。二是為負責任地使用人工智能掃除障礙?！吨改稀访鞔_了“負責任地使用人工智能”的基本原則，即強化底線監(jiān)管的同時消除人工智能使用的不必要和無益障礙，確保各聯(lián)邦機構(gòu)擁有使用人工智能的足夠柔性，并提出IT設施、數(shù)據(jù)、網(wǎng)絡安全、生成式人工智能等四個方面具體指導建議。三是強化人工智能人才培養(yǎng)?！吨改稀访鞔_各聯(lián)邦機構(gòu)需強化機構(gòu)內(nèi)部人工智能人才的選擇、使用、培育、留用，提升機構(gòu)人工智能創(chuàng)新應用能力。四是推動人工智能共享合作。各聯(lián)邦機構(gòu)需以有利于政府與公眾再利用與協(xié)同的方式共享其人工智能代碼、模型和數(shù)據(jù)，保障人工智能應用的法律政策遵從與公眾權利保護。

　　最后，有效管控人工智能應用風險。一是實施最低風險管理實踐。所有聯(lián)邦機構(gòu)對涉及安全與權利的人工智能（系統(tǒng)）實施最低風險管理實踐。各機構(gòu)需于2024年12月1日前實施該項管理，終止使用不符合最低風險管理要求的人工智能。二是實施定期審查、報告披露與豁免管理制度。各聯(lián)邦機構(gòu)需定期開展審查評估，明確人工智能系統(tǒng)是否對安全和權利造成影響、是否符合《指南》規(guī)定的最低風險管理實踐，對不符合要求的人工智能系統(tǒng)決定終止使用或?qū)で蠡砻?。各?lián)邦機構(gòu)需記錄并報告審查結(jié)果，在必要時向公眾披露。

　　《指南》本質(zhì)上是基于原有網(wǎng)信安全、隱私保護、公民權利、數(shù)據(jù)開放等法律基礎，編織出一套以“人工智能應用”為核心的監(jiān)管治理體系，既鼓勵人工智能應用與創(chuàng)新，同時亦形成對人工智能（尤其是生成式人工智能）風險的系統(tǒng)性防控。

　　《指南》的發(fā)布，是對通用人工智能廣泛應用的主動回應，既為政府部門部署和使用人工智能提供了可靠遵循，又形成對市場部門的示范性實踐與軟性行為約束。

　　我國人工智能治理的主要特點

　　作為負責任的科技大國，我國積極推動人工智能治理體系優(yōu)化完善。目前，已形成以《中華人民共和國網(wǎng)絡安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》為主體的人工智能治理法律框架，對人工智能涉及數(shù)據(jù)采集、數(shù)據(jù)處理、網(wǎng)絡安全、數(shù)據(jù)安全、個人信息保護等做出明確要求?！渡墒饺斯ぶ悄芊展芾頃盒修k法》對生成式人工智能服務的提供與使用做出規(guī)范，包括技術發(fā)展、服務規(guī)范、監(jiān)督檢查和法律責任等。《國家人工智能產(chǎn)業(yè)綜合標準化體系建設指南》《國家新一代人工智能標準體系建設指南》的發(fā)布亦有效推進我國人工智能標準體系的形成。

　　國內(nèi)治理方面，推出《科技倫理審查辦法（試行）》和《生成式人工智能服務管理暫行辦法》，提出人工智能治理的中國方案。全球治理方面，積極倡導國際合作與全球共治，《全球人工智能治理倡議》《人工智能全球治理上海宣言》，堅持“以人為本、智能向善”，為世界提供了基于人類命運共同體理念的人工智能治理新視角，為全球人工智能治理積極貢獻中國智慧。

　　2022年《關于加快場景創(chuàng)新以人工智能高水平應用促進經(jīng)濟高質(zhì)量發(fā)展的指導意見》提出尊重人工智能發(fā)展規(guī)律，發(fā)揮政府和市場的積極性，共同為場景創(chuàng)新提供制度供給，促進人工智能創(chuàng)新發(fā)展與監(jiān)管規(guī)范相協(xié)調(diào)。2024年6月，工信部等四部門發(fā)布《國家人工智能產(chǎn)業(yè)綜合標準化體系建設指南（2024版）》亦是要求完善治理標準，結(jié)合人工智能治理實際需求，規(guī)范人工智能的技術研發(fā)、運營服務和全生命周期治理。我國人工智能治理不斷走向體系深入。

　　我國雖然通過制定上述法律法規(guī)及標準指南構(gòu)成人工智能治理基本遵從，但在細分領域（包括政務），如何使用和治理人工智能（尤其是生成式人工智能）尚缺乏可靠的規(guī)范指引。同時，由于我國在人工智能治理架構(gòu)設置、制度規(guī)范方面仍然存在一些短板和不足，缺乏類似首席人工智能官、人工智能治理委員會的治理架構(gòu)設置及諸如遵從計劃管理、用例清單管理、部門發(fā)展戰(zhàn)略管理、最低風險管理實踐、定期審查與報告披露等制度規(guī)范，中央或省級政府層面難以形成對內(nèi)部人工智能使用情況的全面掌握和有序統(tǒng)籌，各部門無法在人工智能應用創(chuàng)新和人工智能風險管理上形成有效協(xié)同。

　　此外，我國還存在高層次指南性文件缺位的問題，這將造成三方面不利影響：一是不利于政府內(nèi)部各部門條線形成協(xié)同一致的人工智能部署應用和治理監(jiān)管；二是不利于政府引導示范作用發(fā)揮。政府采購與使用是最好的“產(chǎn)業(yè)政策”，通常會形成對各行業(yè)的示范引領作用；三是不利于人們消除對人工智能系統(tǒng)應用的焦慮與抗拒。

　　加快制定符合我國實際的人工智能治理指南

　　它山之石可以攻玉，其他國家在人工智能治理和應用實踐方面的一些有益探索也可以為我所用。當前，應結(jié)合我國人工智能治理和應用實踐，加快制定符合我國實際的人工智能治理指南。

　　第一，優(yōu)化人工智能治理組織架構(gòu)。由中央政府或省級政府統(tǒng)籌本級行政單位人工智能的應用和治理。在當前強化數(shù)據(jù)要素管理的基礎上，嘗試引入首席人工智能官和人工智能治理委員會制度，形成包含各層級、各部門的人工智能治理體系和報告體系。

　　第二，完善人工智能治理工具體系。建議引入遵從計劃管理、用例清單管理、部門發(fā)展戰(zhàn)略管理、最低風險管理實踐、定期審查與報告披露等管理工具，完善我國政府部門人工智能治理工具體系。

　　第三，推廣人工智能治理最佳實踐。在全國范圍內(nèi)征集政府部門人工智能應用和治理最佳實踐，并基于《國家新一代人工智能標準體系建設指南》，結(jié)合生成式人工智能廣泛應用實際，形成并推廣具有全國范圍約束力的政府人工智能應用和治理指南。（廖文凱 占安居　作者單位：中國電信研究院）

　　轉(zhuǎn)自：經(jīng)濟參考報

　　【版權及免責聲明】凡本網(wǎng)所屬版權作品，轉(zhuǎn)載時須獲得授權并注明來源“中國產(chǎn)業(yè)經(jīng)濟信息網(wǎng)”，違者本網(wǎng)將保留追究其相關法律責任的權力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個人觀點，不代表本網(wǎng)觀點和立場。版權事宜請聯(lián)系：010-65363056。

延伸閱讀