原文地址:http://news.sciencenet.cn/htmlnews/2022/9/486144.shtm
近日,中國科學院自動化研究所類腦智能研究中心研究員曾毅團隊在《神經網絡》上發表了一項新研究,研究將來自生物腦神經元自身反饋以及興奮抑制性神經元平衡的啟發,融入類腦脈沖神經網絡的理論與模型設計,在提升脈沖神經網絡性能的同時加速了網絡的收斂,相關成果已融入類腦認知智能引擎“智脈BrainCog”開源開放。
類腦脈沖神經網絡通過離散的脈沖序列傳遞信息,在處理時空信息方面表現良好,由于其不可微分的特性,設計出具有優越性能的脈沖神經網絡一直存在困難。
曾毅表示,人腦的學習機制與原理分布在宏觀多腦區協同、介觀微環路、微觀神經元與突觸等多個尺度,不同尺度的可塑性與學習機制通過協作與涌現,實現人腦具備的高度自適應的學習能力,因此新一代的人工智能,特別是類腦神經網絡的研究應深度借鑒多尺度的腦結構與機制,尤其是多尺度的生物腦可塑性原理,研發高智能、高性能的類腦脈沖神經網絡。
他認為,最基礎的部分一定要從微觀神經元與突觸學習機制的細節得到啟發,而目前的人工神經網絡以及傳統的脈沖神經網絡在這方面對生物腦的借鑒還非常有限。
人腦神經元之間存在一種特殊的突觸稱為自突觸,它的軸突連接到自身胞體上,對神經元的膜電勢形成一個時延反饋,從而更好地控制脈沖的發放精度以及網絡的活動。論文的第一作者、中科院自動化所助理研究員趙東城介紹說,受此啟發,該研究一方面考慮神經元自身的自突觸構成的反饋,另一方面將每一層看做一個巨大的神經元,引入了一個自適應的時延的自反饋機制來規范膜電勢,從而提升基于反向傳播算法訓練的脈沖神經網絡的精度。
興奮性神經元和抑制性神經元的動態平衡對于穩定和高效地實現認知和行為十分重要。“我們在目前基于反向傳播算法訓練的脈沖神經網絡中引入了抑制性神經元,興奮性神經元以及抑制性性神經元的動態平衡機制加速了脈沖神經網絡的收斂,還提升了網絡的性能。”論文作者之一、中科院自動化所博士生李楊說。
該研究從結構和功能兩個角度借鑒了人腦的重要學習機制,設計了一種基于神經元自反饋、同層反饋以及興奮抑制神經元平衡的脈沖神經網絡,并在廣泛使用的經典視覺識別與分類任務上取得了投稿時同類脈沖神經網絡模型上最好的效果。
山西大學智能信息處理研究所團隊在圖神經網絡研究方面取得重要進展,相關成果5月23日發表于人工智能領域國際期刊《IEEE模式分析與機器智能學報》(IEEETransactionsonPatternAna......
原文地址:http://news.sciencenet.cn/htmlnews/2024/10/531421.shtm10月11日,科幻電影《749局》科影融合特別場在京舉行。電影主創團隊與科技領域相......
10月11日,甘肅省迎來了職業教育領域的一個重要里程碑——甘肅林業職業技術大學正式揭牌成立。這一歷史性時刻標志著歷經六十八載發展的甘肅省唯一一所林業類高等院校,正式邁入了本科教育的新階段,開啟了新的征......
”標志性科考活動獲系列重大突破 “第二次青藏科考標志性科考活動守護水塔‘一原兩湖三江’科考主體任務已經基本完成,這次科考從天到地、從冰到水取得了全方位的進展。”第二次青藏科考隊隊長、中國科學......
關于確定2024年國家環境健康管理試點名單的通知北京市、河北省、內蒙古自治區、遼寧省、黑龍江省、江蘇省、浙江省、江西省、山東省、湖北省、湖南省、廣東省、重慶市、四川省、貴州省、陜西省、青海省生態環境廳......
10月8日,華中農業大學果蔬園藝作物種質創新與利用全國重點實驗室、藥用植物資源可持續利用團隊梅之南教授和楊慶勇教授課題組,發布了首個專門面向菊科植物的多組學數據庫平臺——AsteraceaeMulti......
實驗桌上堆放著精密儀器和焊接工具,電腦上是正在運行的電路圖,一頁頁寫滿了數據、畫滿了圖樣的紙張在桌面鋪開,各式或大或小的電子元件前,南京郵電大學工程實驗教學部創新中心副主任郝學元正在埋首研制電工電子實......
近日,記者從中國計量大學獲悉,該校生命科學學院蜜蜂與蜂產品學研究團隊主持的兩項推薦性國家標準《GB/T44349-2024 蜂花粉總多酚的檢測福林酚試劑比色法》和《GB/T44350-202......
10月10日,由廣東省機械行業協會組織并主持召開的“面向軟性物料的多級賦碼追溯柔性包裝生產線研制與應用”項目科技成果鑒定會議在廣東佛山舉行。經專家鑒定,該項目成果總體技術水平達到國際先進水平。記者獲悉......
近日,中國熱帶農業科學院橡膠研究所組培與轉基因團隊在全球率先獲得了橡膠樹CRISPR/Cas9純合基因編輯橡膠苗。相關研究成果在線發表于《經濟作物和產品》(IndustrialCropsandProd......