科學家構建深度脈沖神經網絡學習框架
脈沖神經網絡(Spiking Neural Network,SNN)被譽為第三代神經網絡,使用更低層次的生物神經系統的抽象。它既是神經科學中研究大腦原理的基本工具,又因稀疏計算、事件驅動、超低功耗的特性,備受計算科學的關注。隨著深度學習方法的引入,SNN的性能得到大幅提升,脈沖深度學習(Spiking Deep Learning)成為新興的研究熱點。傳統SNN框架更多地關注生物可解釋性,致力于構建精細脈沖神經元并仿真真實生物神經系統,不支持自動微分,無法充分利用GPU的大規模并行計算能力,并缺乏對神經形態傳感器和計算芯片的支持。 中國科學院自動化研究所研究員李國齊與北京大學計算機學院教授田永鴻團隊合作,構建并開源了脈沖神經網絡深度學習框架SpikingJelly(中文名為“驚蜇”)。“驚蜇”提供了全棧式的脈沖深度學習解決方案,支持了神經形態數據處理、深度SNN的構建、替代梯度訓練、ANN轉換SNN、權重量化和神經形態芯片部......閱讀全文
新構建!深度脈沖神經網絡學習框架“驚蜇”
中國科學院自動化所李國齊研究員和北京大學計算機學院田永鴻教授團隊合作構建出深度脈沖神經網絡學習框架“驚蜇”。它可以提供全棧式的脈沖深度學習解決方案,能夠處理神經形態數據、構建深度脈沖神經網絡、部署神經形態芯片。相關研究成果在線發表于《科學進展》雜志。圖片來源:中國科學院自動化所脈沖神經網絡被譽為第三
科學家構建深度脈沖神經網絡學習框架
脈沖神經網絡(Spiking Neural Network,SNN)被譽為第三代神經網絡,使用更低層次的生物神經系統的抽象。它既是神經科學中研究大腦原理的基本工具,又因稀疏計算、事件驅動、超低功耗的特性,備受計算科學的關注。隨著深度學習方法的引入,SNN的性能得到大幅提升,脈沖深度學習(Spik
自動化所與北大合作開源深度脈沖神經網絡框架
原文地址:http://news.sciencenet.cn/htmlnews/2023/10/510643.shtm
深度學習框架可預測鋰電池壽命
近日,華東理工大學機械與動力工程學院、先進電池系統與安全重點實驗室教授欒偉玲課題組與國家級高層次人才、華東理工大學講席教授陳浩峰合作,在全球交通科學與技術領域期刊《交通電動化》發表論文,首次提出用于鋰電池壽命預測相關的可解釋性深度學習框架。 在鋰電池壽命預測領域,建立全面的電池老化模型是項艱巨
新型深度學習框架可應用于電池健康狀態預測
近日,中國科學院大連化學物理研究所研究員陳忠偉、副研究員毛治宇團隊,聯合西安交通大學教授馮江濤,在電池健康管理領域取得新進展。合作團隊開發了一種新型的兩階段聯邦遷移學習框架,有效解決了快充電池健康狀態(SOH)預測中的數據不足和個性化建模難題,為快充電池SOH預測提供了新思路。相關成果發表在《電
自研深度學習框架綜合競爭力中國市場排名居首
5月19日,市場調研機構Frost & Sullivan(沙利文)發布《中國深度學習軟件框架市場研究報告(2021)》,百度的飛槳綜合競爭力領跑行業,Meta的PyTorch和谷歌的TensorFlow緊隨其后。過去10年,人工智能從實驗室走向產業,計算機視覺和自然語言處理等領域取得的突破性進展,均
科學家提出深度學習框架用于發現癌癥中的新突變
全基因組染色質構象捕獲技術(Hi-C技術)已被證明是檢測人類基因組中結構變異(SVs)的一種有效方法。然而,目前能夠使用Hi-C數據進行全范圍檢測SVs的算法一直缺乏。目前的方法只能在不太理想的分辨率下,識別染色體間易位和長距離染色體內SVs(>1 Mb)。美國西北大學范伯格醫學院研究人員基于深
新一代AI技術發展離不開深度學習框架“軟”基礎
人工智能、大數據、云計算等數字技術快速發展,推動數字經濟高速增長,并與實體經濟加速融合。當前,如何讓數字經濟成為推動戰略性新興產業發展的增長引擎?作為市場主體,我國高科技企業如何增強自主創新的能力? 近日,百度首席技術官(CTO)王海峰做客人民網《人民會客廳》視頻訪談時表示,現階段我國數字經濟蓬勃發
深度神經網絡靜態代碼分析研究
近日,中國科學院軟件研究所智能軟件研究中心研究員武延軍、吳敬征課題組在基于深度神經網絡的靜態代碼分析研究中取得進展。課題組提出了基于多類型和多粒度的語義代碼表示學習模型——MultiCode,解決了工業場景中涉及多需求的開發任務時面臨的開發開銷大、模型集成困難、可擴展性受限等問題,實現了在多需求
AI偵探敲碎深度學習黑箱
研究人員創建了能填補照片空白的神經網絡,以鑒別人工智能瑕疵。 Jason Yosinski坐在美國加州舊金山的一個小型玻璃辦公室內,陷入了對人工智能的沉思。作為優步公司的研究科學家,Yosinski正為在筆記本電腦上運行的人工智能(AI)進行“腦外科手術”。 很多AI將改變人類現代生活,例如
深度學習算法“解密”腦活動
英國《自然·醫學》雜志9月25日在線發表的一項研究,報告了一種可以分析四肢癱瘓患者大腦活動的深度學習算法。該算法已被用于向患者的前臂肌肉傳遞電刺激,從而恢復癱瘓肢體的功能性運動。 慢性癱瘓患者的生活質量可以通過腦機接口加以改善。腦機接口可以將控制運動的中樞神經系統回路和輔助設備(例如計算機光標
針對治療蛋白質的完整性水平進行峰檢測的深度學習框架
最近,印度理工學院(位于德里)化學工程系進行了一項研究,使用液相色譜-質譜聯用技術(LC–MS)來區分單克隆抗體(mAb)中的異變體(糖型),能夠對其進行表征,揭示了在完整水平上可辨識的峰。盡管商業軟件中具備自動化峰檢測功能,但為了達到最優的真實陽性率,通常需要利用視覺檢查和手動調整。最近,印度理工
9年“孕育”-類腦認知智能引擎“智脈”誕生
?曾毅團隊?受訪者供圖近日,中國科學院自動化研究所類腦智能研究中心研究員曾毅團隊發布了歷時9年打造的全脈沖神經網絡的類腦認知智能引擎“智脈”(Brain-inspired Cognitive Engine,以下簡稱BrainCog),并進行全面開源開放,助力自然智能的計算本質探索和新一代人工智能的發
新研究-創新多模態聯邦學習框架
記者5月4日從天津理工大學獲悉,該校計算機科學與工程學院副教授亓帆及其研究生李帥,針對多模態聯邦學習中常見的模態不兼容問題展開深入研究,提出了一種創新的自適應超圖聚合的多模態聯邦學習框架。近日,該成果論文被計算機視覺和人工智能領域國際公認的頂級會議CVPR?2024錄用。據介紹,現有聯邦學習方法只會
深度學習算法準確追蹤動物運動
根據英國《自然·神經科學》雜志8月21日在線發表的一項研究,美國哈佛大學團隊運用一種新型深度學習算法,成功追蹤動物運動及行為,其準確度可達到人工水平,而且無需采用追蹤標記物或進行費時的手動分析。專家認為,這一成果打開了海量的數據來源之門。 準確追蹤行為發生期間的身體運動部位是運動科學的一項重要
深度學習協助預測厄爾尼諾-|《自然》論文
《自然》發表的一篇論文Deep learning for multi-year ENSO forecasts報道了一種可以提前一年半預測厄爾尼諾事件的深度學習方法,克服了該領域內長期存在的一項挑戰。用來預測厄爾尼諾現象的CNN預測系統來源: Ham et al. 厄爾尼諾事件發生于太平洋東部和
TPU將成深度學習的未來?(一)
在Google I/O 2016的主題演講進入尾聲時,谷歌的CEO皮采提到了一項他們這段時間在AI和機器學習上取得的成果,一款叫做Tensor Processing Unit(張量處理單元)的處理器,簡稱TPU。在這個月看來,第一代的TPU處理器已經過時。在昨天凌晨舉行的谷歌I/O 2017
TPU將成深度學習的未來?(二)
能夠進行數據推理的第二代TPU第一代的TPU只能用于深度學習的第一階段,而新版則能讓神經網絡對數據做出推論。谷歌大腦研究團隊主管Jeff Dean表示:“我預計我們將更多的使用這些TPU來進行人工智能培訓,讓我們的實驗周期變得更加快速。”“在設計第一代TPU產品的時候,我們已經建立了一個相對
國內首個支持“量超協同學習”的學習框架面世
近日,本源量子發布國內首個支持量子計算機和超級計算機“協同學習”(簡稱“量超協同學習”)量子機器學習框架——VQNet 2.0,論文已在學術預印本平臺arxiv上公布。據介紹,該框架與量子計算操作系統“本源司南”深度結合,首次支持同時調度量子和經典計算資源進行機器學習的訓練與預測。 當下,
國內首個支持“量超協同學習”的學習框架面世
近日,本源量子發布國內首個支持量子計算機和超級計算機“協同學習”(簡稱“量超協同學習”)量子機器學習框架——VQNet 2.0,論文已在學術預印本平臺arxiv上公布。據介紹,該框架與量子計算操作系統“本源司南”深度結合,首次支持同時調度量子和經典計算資源進行機器學習的訓練與預測。 當下,機器
新型光芯片可執行深度神經網絡關鍵計算
科技日報北京12月2日電(記者張佳欣)2日發表在《自然·光子學》雜志上的論文稱,美國麻省理工學院科學家開發出一種全集成光芯片。它能以光學方式執行深度神經網絡所需的所有關鍵計算,為制造能實時學習的高速處理器打開了大門。這種新型光芯片能夠在不到半納秒的時間內,完成機器學習分類任務的關鍵計算,性能與傳統硬
科研人員用深度學習網絡實現分布式水文模擬
近日,南方科技大學環境科學與工程學院教授鄭一團隊在《水資源研究》上發表最新研究成果,介紹了在深度神經網絡中編碼分布式水文模型并進行多任務學習的新方法。近年來,隨著地球大數據的不斷累積,以深度學習為代表的數據驅動方法已在模擬精度上超越傳統水文模型,但黑箱屬性和物理機制的缺失仍限制了深度學習在水文模擬和
首個視覺強化學習統一框架,開源!
想象一下未來的智能體,無論是作為你的虛擬助手,還是幫你操控終端的機器人、自動駕駛,它們都必須具備超越簡單看圖識物的能力:不僅要“看懂”(精確感知環境),更要“想明白”(基于視覺信息進行復雜邏輯推斷、關系理解和行為預測)。而強化學習(RL),正是讓多模態模型實現這些核心能力的關鍵路徑。 但在當前
新光學芯片可實現高效“深度學習”
美國麻省理工學院(MIT)科學家在12日出版的《自然·光學》雜志上發表論文稱,他們開發出一種全新的光學神經網絡系統,能執行高度復雜的運算,從而大大提高“深度學習”系統的運算速度和效率。 “深度學習”系統通過人工神經網絡模擬人腦的學習能力,現已成為計算機領域的研究熱門。但由于在模擬神經網絡任務中
深度學習復興:向人工智能邁進
它是未來的一部分,我們才剛剛開始。圖片來源:BRUCE ROLFF 3年前,美國加利福尼亞州山景城神秘的谷歌X實驗室的研究人員從YouTube視頻中提取了1000萬個靜態圖像,并將其輸入“谷歌大腦”——由1000臺計算機構成的網絡,從而試圖像一個蹣跚學步的孩子一樣吸收這個世界的信息。經過3
新光學芯片可實現高效“深度學習”
美國麻省理工學院(MIT)科學家在12日出版的《自然·光學》雜志上發表論文稱,他們開發出一種全新的光學神經網絡系統,能執行高度復雜的運算,從而大大提高“深度學習”系統的運算速度和效率。 “深度學習”系統通過人工神經網絡模擬人腦的學習能力,現已成為計算機領域的研究熱門。但由于在模擬神經網絡任務中
人工智能進入“深度學習+”階段
雖然從底層技術看,ChatGPT并不算創新,但其社會影響遠遠超出了預期。這款由美國人工智能公司OpenAI開發的聊天機器人,2022年11月推出后火遍全球,成為史上增長最快的消費者應用程序。 讓機器和真人自由對話,一直是人工智能領域的重要目標之一。ChatGPT的爆火背后,其實是深度學習技術的
國際最新研發提升外骨骼性能模擬學習框架
中新網北京6月13日電 (記者 孫自法)國際著名學術期刊《自然》最新發表一篇生物醫學工程論文稱,研究人員研發出一種能加速外骨骼控制系統開發的模擬學習框架,這種外骨骼能輔助現實世界場景中的運動。研究顯示,該框架或有助于推動外骨骼和義肢等裝置的廣泛應用。據論文介紹,外骨骼能顯著提升人類運動,恢復殘障人士
國際最新研發提升外骨骼性能模擬學習框架
國際著名學術期刊《自然》最新發表一篇生物醫學工程論文稱,研究人員研發出一種能加速外骨骼控制系統開發的模擬學習框架,這種外骨骼能輔助現實世界場景中的運動。研究顯示,該框架或有助于推動外骨骼和義肢等裝置的廣泛應用。據論文介紹,外骨骼能顯著提升人類運動,恢復殘障人士的運動能力。不過,當前的控制器在匹配不同
使AI更具生物合理性!科學家提出神經網絡新策略
原文地址:http://news.sciencenet.cn/htmlnews/2023/9/509435.shtm近日,中國科學院自動化研究所研究員曾毅負責的類腦認知智能團隊在美國《國家科學院院刊》(PNAS)上發表了一篇題為“腦啟發神經環路演化賦能脈沖神經網絡”的新研究。他們受“經過自然演化的生