美國強(qiáng)化人工智能行業(yè)安全應(yīng)用

　　美國白宮12日發(fā)布聲明稱，美國商務(wù)部長雷蒙多等政府官員將在白宮召集人工智能（AI）企業(yè)的高管，擬通過共享風(fēng)險信息、引入第三方漏洞檢測、使用限制指南等措施，加強(qiáng)這項新技術(shù)的安全應(yīng)用。

　　根據(jù)聲明，Adobe、Cohere、IBM、英偉達(dá)、Palantir、Salesforce、Scale AI和 Stability八家涉及人工智能的公司承諾采取自愿監(jiān)管措施管理AI技術(shù)開發(fā)風(fēng)險，包括在推出前展開安全測試、構(gòu)建安全放在首位的系統(tǒng)、為AI生成內(nèi)容添加數(shù)字水印等。

　　在確保產(chǎn)品安全方面，八家公司承諾在發(fā)布AI系統(tǒng)之前，將對其系統(tǒng)進(jìn)行內(nèi)部和外部安全測試。這項測試將部分由獨立專家進(jìn)行，旨在防范人工智能可能造成的風(fēng)險，如生物安全和網(wǎng)絡(luò)安全，以及其更廣泛的社會影響。此外，公司還承諾在整個行業(yè)以及與政府、民間社會和學(xué)術(shù)界共享有關(guān)管理人工智能風(fēng)險的信息，包括安全最佳實踐和技術(shù)合作。

　　這些公司還承諾將安全放在系統(tǒng)構(gòu)建的首位，承諾將資金用于網(wǎng)絡(luò)安全和內(nèi)部威脅保障措施，以保護(hù)專有和未發(fā)布的大模型。這些大模型是人工智能系統(tǒng)中最重要的部分，八家公司一致認(rèn)為，在充分考慮安全風(fēng)險后再發(fā)布大模型至關(guān)重要。此外，公司還致力于促進(jìn)第三方發(fā)現(xiàn)和報告其人工智能系統(tǒng)中的漏洞，從而使這些問題能快速發(fā)現(xiàn)和修復(fù)。

　　在贏得公眾信任方面，這些公司致力于開發(fā)強(qiáng)大的技術(shù)機(jī)制，以確保用戶知道內(nèi)容何時由人工智能生成，例如水印系統(tǒng)。這一行動使人工智能的創(chuàng)造力和生產(chǎn)力得以蓬勃發(fā)展，且減少了欺詐和欺騙的危險。此外，相關(guān)公司承諾公開報告其人工智能系統(tǒng)的功能、局限性以及適當(dāng)和不當(dāng)使用的領(lǐng)域。

　　加強(qiáng)人工智能的應(yīng)用監(jiān)管日益成為全球焦點。歐洲議會6月表決通過《人工智能法案》授權(quán)草案，該法案有望于今年年底獲得最終批準(zhǔn)。美國《外交》雜志日前刊文指出，人工智能在2035年可能無處不在：AI系統(tǒng)將管理醫(yī)院，運營航空公司，并在法庭上較勁。屆時，生產(chǎn)力將飆升至前所未有的水平，無數(shù)以前難以想象的企業(yè)以驚人的速度擴(kuò)張，但在應(yīng)用風(fēng)險的防范方面需要隨之升級。業(yè)界普遍認(rèn)為，如何更好地平衡與銜接技術(shù)創(chuàng)新和制度創(chuàng)新，還需在實踐中不斷修正。(記者 閆磊)

　　轉(zhuǎn)自：經(jīng)濟(jì)參考報

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個人觀點，不代表本網(wǎng)觀點和立場。版權(quán)事宜請聯(lián)系：010-65363056。

延伸閱讀