下一代人工智能長什么樣？可感知和理解行為、解釋決策

　　下一代人工智能是什么樣的？

　　5月21日，英國初創(chuàng)公司Cognino AI聯(lián)合創(chuàng)始人兼首席執(zhí)行官普里蒂·帕迪（Priti Padhy）在第五屆世界智能大會科技向善與人工智能教育論壇上通過視頻表示，在下一波人工智能浪潮中，AI必須具有感知和理解行為的能力，利用人類理解語言的能力，將語言轉(zhuǎn)化為知識，將數(shù)據(jù)轉(zhuǎn)化成智能，并做出決策。人工智能還要具備可解釋性，通過模型可以解釋為什么人工智能會做出這種決策，就像人類可以解釋為什么會做出某種決定，可以解釋為什么會認(rèn)為圖上的動物是狗而不是狐貍。

　　Cognino AI總部位于英國倫敦，在美國、巴西和印度設(shè)有辦事處，專注于自學(xué)習(xí)可解釋的人工智能方面，目標(biāo)是用“可解釋的AI”賦能決策。

　　帕迪說，大約10年前，也就是2010年出現(xiàn)了神經(jīng)網(wǎng)絡(luò)，它在面部識別和圖像識別方面非常準(zhǔn)確。過去十多年我們在人工智能方面已經(jīng)取得了巨大進(jìn)步，“上一波人工智能的浪潮不僅強(qiáng)大，而且?guī)砹苏嬲淖兏??！?/p>

　　但人工智能仍然面臨很多挑戰(zhàn)。帕迪給出一張孩子拿著牙刷的圖片?！盀槭裁次液芸炷芤庾R到這是一個拿著牙刷的孩子，因為作為人類，我們關(guān)注周圍的環(huán)境，仔細(xì)觀察我們可以看到周圍有牙刷和水槽，所以這個孩子很可能拿的是牙刷。”而如果是人工智能來識別，由于目前AI主要基于大型統(tǒng)計模型，AI會認(rèn)為圖上是一個孩子，“可能會認(rèn)為是一個拿著棒棒糖的孩子，也可能會認(rèn)為是一個拿著牙刷的孩子，或者可能是一個拿著勺子的孩子?！笨傊瓵I肯定會認(rèn)為這是一個孩子，但無法根據(jù)周圍的信息判斷他拿的是什么，因此不能絕對準(zhǔn)確地對圖片上的內(nèi)容進(jìn)行預(yù)測。

　　“也就是說，當(dāng)涉及到個別情況時，AI有時是不可靠的?！迸恋险f，他最近測試了一款有趣的食品識別應(yīng)用程序，然而程序卻告訴他食物拼盤圖片有99%的可能性是章魚?！斑@就是目前面臨的挑戰(zhàn)。之所以判斷為章魚，是因為缺少上下文的情境信息。”帕迪說，AI不具備清晰的理解能力，不能像人類一樣處理信息并將其置于情境中。“我們使用的情境是基于我們的短期記憶和長期記憶，以及我們當(dāng)前學(xué)到的和過去學(xué)到的知識?！?/p>

　　相對于十多年前出現(xiàn)的AI浪潮，帕迪認(rèn)為，在下一次浪潮中，AI必須具有感知和理解行為的能力，利用人類理解語言的能力，將語言轉(zhuǎn)化為知識，將數(shù)據(jù)轉(zhuǎn)化成智能，并做出決策?！拔艺J(rèn)為這才是真正的人工智能，它可以根據(jù)上下文的情境理解并采取行動?！?/p>

　　另一方面，人工智能還要具備可解釋性，“我們需要考慮什么是有效的，什么是可追溯的，什么是可審核的?！睂τ诳山忉尩腁I，帕迪說，也就是通過模型可以解釋為什么人工智能會做出這種決策，“每當(dāng)涉及到AI時，我們都能解釋模型工作的原理。”

　　“我們關(guān)注人工智能如何觀察、學(xué)習(xí)、推理、抽象、解釋，并且可以交互學(xué)習(xí)，還有短期記憶和長期記憶，就像人類那樣。這樣就可以通過大量真實世界的數(shù)據(jù)進(jìn)行推理，并且可以做出一個可以真正解釋的決定。”

　　帕迪說，團(tuán)隊正在研究下一代人工智能。他們并不通過訓(xùn)練數(shù)十億的狗的圖片來預(yù)測圖片上是一只狗，不在大型復(fù)雜數(shù)據(jù)集的基礎(chǔ)上學(xué)習(xí)，而是通過示范人類學(xué)習(xí)的過程讓模型學(xué)習(xí)。“我們的想法是基于一組訓(xùn)練數(shù)據(jù)和一些基本組成元素，學(xué)習(xí)的過程是基于基本元素的?！薄八晕覀冃枰獎?chuàng)建一個可以被訓(xùn)練的AI模型，這些基本元素的組合決定了狗是由什么組成的。狗由頭、尾巴、四條腿和身體組成，還有兩只耳朵。這些是我們需要讓模型學(xué)習(xí)的各種基本元素?！?/p>

　　團(tuán)隊還讓場景信息發(fā)生變化，在這一過程中逐步告訴模型這是一只狗，“幾乎90%的學(xué)習(xí)是通過自我學(xué)習(xí)的，因為模型理解了狗的基本組成元素。所以即使場景改變了，模型仍然可以知道這是一只狗?！?/p>

　　但這并沒有就此結(jié)束，帕迪說，他們還必須弄清楚為什么模型會做出這樣的判斷，為什么模型會認(rèn)為這是一只狗而不是一只狐貍，能否通過改變模型的某些特征要素來影響模型的決策。“必須將這種真實性、可審核性和解釋性作為我們所構(gòu)建的AI結(jié)構(gòu)的基礎(chǔ)。”

　　也就是說，通過引入這些基礎(chǔ)元素和上下文的情境信息，讓模型能夠像人類一樣學(xué)習(xí)，并隨著情境的改變而不斷做出調(diào)整。模型也需要具有解釋的能力，就像人類可以解釋為什么他們會做出某種決定，可以解釋為什么他們會認(rèn)為這是一張狗的照片。（記者：張靜）

　　轉(zhuǎn)自：澎湃新聞

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個人觀點，不代表本網(wǎng)觀點和立場。版權(quán)事宜請聯(lián)系：010-65363056。

延伸閱讀