參與啟智社區開源項目心得分享——丁健豪

能夠參加開源項目是一個機緣巧合,當時我正好在做ANN轉換SNN的研究。有一次開會的時候,老師突然說,要不你把你現在的工程實踐整理一下,放到師兄們開發的開源項目里面。當時我正好在寫相關的代碼,因為實驗不成功,代碼已經改版兩次了。所以毫不猶豫地,我就接下了這個活,因為我知道要是做好了這個模塊,就不需要重復造輪子了。之前其實也有相關的ANN轉SNN的代碼。在GitHub上有一個叫做NeuromorphicProcessorProject

/snn_toolbox的項目。但是這個項目更多地是面向神經形態硬件的,代碼也沒有PyTorch版本,主框架是拿keras寫的。這就更加給了我開發的動力。其次,我覺得我們作為新一代研究者是有義務去推廣脈沖神經網絡的。人工神經網絡(ANN)就不用說了,大家都很熟悉。而SNN則是脈沖神經網絡(”所謂的第三代神經網絡”),在現在的人工智能語境中其實沒有那么受到重視。但是它有很多好的特性沒有被大家注意到,比如說脈沖神經網絡相比于GPU運行沒有那么耗能源,而且在理論上的性能也是能夠等同圖靈機的。

ANN轉換SNN的研究能夠給深度學習和脈沖神經網絡架起一座橋梁,我覺得這是一件特別有意思的東西。在師兄們開發好的框架上,我需要的就是利用現有的神經元模型,構建SNN,并且完成轉換的SNN的仿真工作。SpikingJelly中的神經元模型,其實特別好用,我一直都是用PyTorch的,SpikingJelly的神經元定義,就和在PyTorch中定義ReLU一樣,特別順滑。如果需要對神經元進行重置,也只需要調用resnet_net就好,特別方便。

盡管如此,開發過程中也走了挺多彎路。因為ANN-SNN轉換需要知道底層的PyTorch拓撲(類似ResNet這樣的),最重要的就是選擇一個合適的方式來處理PyTorch模型中的復雜拓撲。關于處理拓撲的方案其實選擇了很久。最終,選擇了基于另一個開源項目,ONNX。PyTorch中有實現接口可以無縫轉換到ONNX模型。而且ONNX作為一個通用公用的模型表示方式可以使得今后其他框架的模型通過轉換為onnx表示之后也可以通過我們的框架轉換。這就使得我們的代碼在未來可以發揮更加廣泛的作用。

自從框架開源后,我們的貢獻得到了更多人的關注。我想這就是開源的意義所在吧。尤其我們的定位是科研。這意味著更多研究脈沖神經網絡的科研院所可以通過我們的工作、通過ANN-SNN轉換的工作得到收獲。ANN-SNN轉換在SNN今后的研究中,可能更多地是一個baseline的存在,即便這樣,我想能夠做好這一件事情也是我們的榮幸。

作者:丁健豪

上一篇:參與啟智社區開源項目心得分享——陳彥騏
下一篇:參與啟智社區開源項目心得分享——方維

主站蜘蛛池模板: 国产精品成人亚洲| 公用玩物(np双xing总受)by单唯安| 欧洲熟妇色xxxx欧美老妇多毛网站 | 夜夜精品视频一区二区| 国产成人黄色在线观看| 久久国产精品无码一区二区三区| 青娱乐在线视频播放| 精品国产免费一区二区| 激情综合色五月丁香六月亚洲| 国产超碰人人爽人人做人人添| 亚州av综合色区无码一区| 色婷婷99综合久久久精品| 女人是男人的未来你的皮肤很柔顺 | 女人与公拘交酡过程高清视频| 亚洲欧美日韩天堂一区二区| 激情五月亚洲色图| 新木乃伊电影免费观看完整版| 偷炮少妇宾馆半推半就激情| 18到20岁女人一级毛片| 日本欧美成人免费观看| 免费国产不卡午夜福在线| 3d性欧美动漫精品xxxx| 日本免费福利视频| 伊人久久大香线| 狠狠色综合一区二区| 性无码一区二区三区在线观看| 亚洲欧美色一区二区三区| 高清无码一区二区在线观看吞精| 小宝贝浪货摸给我看| 亚洲伊人色一综合网| 美女羞羞视频网站| 国产精品第12页| 中文无码人妻有码人妻中文字幕| 特级aaaaaaaaa毛片免费视频 | 性asmr视频在线魅魔| 亚洲国产一区二区三区在线观看| 被催眠暴jian的冷艳美mtxt下载 | 69xxxx国产在线观看| 日美欧韩一区二去三区| 伊人久久大香线蕉无码| 黄网站色视频大全免费观看|