AI模型的持續(xù)學(xué)習(xí)能力亟待提升 企業(yè)面臨雙重挑戰(zhàn)


中國產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)   時間:2024-09-04





  從自動駕駛到智能醫(yī)療,從金融分析到教育輔助,人工智能(AI)的應(yīng)用已廣泛滲透到日常生活的各個領(lǐng)域,并逐漸成為推動社會進(jìn)步與產(chǎn)業(yè)升級的關(guān)鍵力量。然而,在AI技術(shù)日新月異的背后,AI模型在持續(xù)學(xué)習(xí)能力上的不足也逐漸成為制約其進(jìn)一步發(fā)展和應(yīng)用的瓶頸。


  AI模型的“學(xué)習(xí)困境”


  當(dāng)前,主流的AI模型大多基于神經(jīng)網(wǎng)絡(luò)架構(gòu),這些網(wǎng)絡(luò)模仿了人腦神經(jīng)元的工作方式,通過大量數(shù)據(jù)的訓(xùn)練來優(yōu)化自身性能。然而,一個不容忽視的事實是,這些模型在初次訓(xùn)練完成后,其學(xué)習(xí)能力便相對固化,難以像人類大腦那樣具備持續(xù)的自我學(xué)習(xí)和進(jìn)化能力。這意味著,每當(dāng)面對新的數(shù)據(jù)環(huán)境或需求變化時,科技公司不得不投入巨額資金,重新訓(xùn)練整個模型。


  加拿大阿爾伯塔大學(xué)Shibhansh Dohare團(tuán)隊的一項研究發(fā)現(xiàn),許多AI模型在經(jīng)歷多次重訓(xùn)后,會遭遇“神經(jīng)元死亡”現(xiàn)象,即大量神經(jīng)元陷入零值狀態(tài),失去學(xué)習(xí)能力?!叭绻阉茸髂愕拇竽X,那就像是90%的神經(jīng)元都死了?!?Dohare說,“剩下的不足以讓你學(xué)習(xí)。”這一發(fā)現(xiàn)不僅限于圖像識別領(lǐng)域,還廣泛存在于自然語言處理、強(qiáng)化學(xué)習(xí)等多個AI應(yīng)用領(lǐng)域,凸顯了AI模型在持續(xù)學(xué)習(xí)能力上的普遍困境。


  企業(yè)面臨的雙重挑戰(zhàn)


  對于科技企業(yè)而言,AI模型學(xué)習(xí)能力的受限無疑帶來了雙重挑戰(zhàn)。首先,隨著數(shù)據(jù)量的爆發(fā)式增長和市場需求的快速變化,企業(yè)需要不斷更新AI模型以保持競爭力。


  以零售行業(yè)為例,消費者的購物偏好和購買行為數(shù)據(jù)正以前所未有的速度累積。為了精準(zhǔn)捕捉這些變化,并為用戶提供更加個性化的購物體驗,電商平臺不得不持續(xù)優(yōu)化其基于AI的推薦系統(tǒng)。這意味著它們需要定期調(diào)整模型參數(shù),引入新的算法和數(shù)據(jù)源,以確保推薦內(nèi)容既符合用戶的即時需求,又具備前瞻性和創(chuàng)新性。


  而在智能制造領(lǐng)域,AI模型在生產(chǎn)線質(zhì)量控制方面的應(yīng)用同樣面臨著持續(xù)更新的需求。隨著生產(chǎn)規(guī)模的持續(xù)擴(kuò)大和產(chǎn)品復(fù)雜度的不斷提升,生產(chǎn)線上的數(shù)據(jù)量急劇增加。為了維持產(chǎn)品質(zhì)量的高度一致性和穩(wěn)定性,企業(yè)需要根據(jù)生產(chǎn)環(huán)境的變化靈活調(diào)整AI模型的監(jiān)控范圍和預(yù)測精度。這不僅要求企業(yè)具備強(qiáng)大的數(shù)據(jù)處理能力,還需要在AI模型的迭代升級上保持高效和靈活。


  然而,重新訓(xùn)練模型不僅成本高昂,還耗時費力,特別是在處理大規(guī)模數(shù)據(jù)集時更是如此。此外,在快速迭代的商業(yè)環(huán)境中,時間成本同樣不容忽視。若企業(yè)無法及時響應(yīng)市場變化,更新AI模型,可能會錯失寶貴的市場機(jī)遇,甚至被競爭對手超越。


  因此,如何在保證模型精度的同時提高模型的更新效率并降低成本,成為科技行業(yè)亟待解決的難題。


  如何提升AI模型“學(xué)習(xí)能力”?


  面對AI模型在學(xué)習(xí)能力上的瓶頸,科研人員正積極尋求解決方案。其中,Dohare團(tuán)隊的研究提出了一種新的算法,該算法在每個訓(xùn)練輪次后隨機(jī)激活一些“死亡”的神經(jīng)元,從而恢復(fù)其學(xué)習(xí)能力。這種算法雖然初步顯示了有效性,但還需要在更大的系統(tǒng)中進(jìn)行進(jìn)一步測試和優(yōu)化。牛津大學(xué)的Mark van der Wilk表示,該算法看起來很有前景,但還需要在更大的系統(tǒng)中進(jìn)行測試。


  “AI模型持續(xù)學(xué)習(xí)的解決方案簡直是一個價值數(shù)十億美元的問題?!彼f,“一個真正的、全面的解決方案將允許你不斷更新模型,從而顯著降低訓(xùn)練這些模型的成本。”


  此外,模塊化設(shè)計和增量學(xué)習(xí)也被視為提升AI模型持續(xù)學(xué)習(xí)能力的有效策略。模塊化設(shè)計通過將AI模型拆分為多個獨立模塊,實現(xiàn)了任務(wù)處理的靈活性和高效性。當(dāng)面對新數(shù)據(jù)時,企業(yè)只需更新相關(guān)模塊即可,無須對整個模型進(jìn)行重訓(xùn)。而增量學(xué)習(xí)技術(shù)則允許模型在保留舊知識的基礎(chǔ)上學(xué)習(xí)新知識,實現(xiàn)了知識的累積與傳承。


  更為長遠(yuǎn)的是,科技企業(yè)之間的合作與共享將成為推動AI技術(shù)持續(xù)發(fā)展的關(guān)鍵力量。通過構(gòu)建開放的生態(tài)系統(tǒng),企業(yè)可以共享數(shù)據(jù)、算法和模型資源,降低研發(fā)成本,加速技術(shù)創(chuàng)新。同時,這種合作模式也有助于形成統(tǒng)一的標(biāo)準(zhǔn)和規(guī)范,推動AI技術(shù)的普及和應(yīng)用。(吳雙)


  轉(zhuǎn)自:人民郵電報

  【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品,轉(zhuǎn)載時須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”,違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊,僅代表作者個人觀點,不代表本網(wǎng)觀點和立場。版權(quán)事宜請聯(lián)系:010-65363056。

延伸閱讀

?

版權(quán)所有:中國產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)京ICP備11041399號-2京公網(wǎng)安備11010502035964