国产在线91在线电影,欧美美女一区二区三区,日日摸夜夜添夜夜添影院视频,国产免费不卡 九九热在线精品,日本一区二区在线,久久综合天天操天天干,激情久久婷婷

麻省理工學(xué)院 | 打破模擬計算的擴展限制
指南者留學(xué) 2022-11-30 08:40:54 閱讀量:1218
<p>隨著機器學(xué)習(xí)模型變得越來越大、越來越復(fù)雜,它們需要更快、更節(jié)能的硬件來執(zhí)行計算。傳統(tǒng)的數(shù)字計算機正在奮力追趕。</p> <p>&nbsp;</p> <p>模擬光神經(jīng)網(wǎng)絡(luò)可以執(zhí)行與數(shù)字神經(jīng)網(wǎng)絡(luò)相同的任務(wù),如圖像分類或語音識別,但由于計算是使用光而不是電信號進行的,光神經(jīng)網(wǎng)絡(luò)可以在消耗更少的能量的情況下運行多倍。</p> <p>&nbsp;</p> <p>然而,這些模擬設(shè)備容易出現(xiàn)硬件錯誤,從而降低計算精度。硬件部件的微觀缺陷是造成這些錯誤的原因之一。在一個光神經(jīng)網(wǎng)絡(luò)中,有許多相互連接的組件,誤差可以迅速積累。</p> <p>&nbsp;</p> <p>即使使用糾錯技術(shù),由于組成光神經(jīng)網(wǎng)絡(luò)的設(shè)備的基本特性,一些誤差是不可避免的。一個足夠大到可以在現(xiàn)實世界中實現(xiàn)的網(wǎng)絡(luò)將過于不精確而無效。</p> <p>&nbsp;</p> <p>麻省理工學(xué)院的研究人員已經(jīng)克服了這一障礙,找到了一種有效擴展光學(xué)神經(jīng)網(wǎng)絡(luò)的方法。通過在構(gòu)成網(wǎng)絡(luò)架構(gòu)的光交換機中添加一個微小的硬件組件,他們甚至可以減少在設(shè)備中積累的不可糾正的錯誤。</p> <p>&nbsp;</p> <p>他們的工作可能使一種超級快速、節(jié)能的模擬神經(jīng)網(wǎng)絡(luò)成為可能,它的功能與數(shù)字神經(jīng)網(wǎng)絡(luò)具有相同的準(zhǔn)確性。有了這種技術(shù),當(dāng)一個光電路變得更大時,它的計算誤差實際上減少了。</p> <p>&nbsp;</p> <p>&ldquo;這是值得注意的,因為它與模擬系統(tǒng)的直覺背道而馳,在模擬系統(tǒng)中,更大的電路應(yīng)該有更高的誤差,因此誤差限制了可擴展性。這篇論文允許我們用一個明確的&lsquo;是&rsquo;來解決這些系統(tǒng)的可擴展性問題,&rdquo;首席作者Ryan Hamerly說,他是麻省理工學(xué)院電子研究實驗室(RLE)和量子光子實驗室的訪問科學(xué)家,NTT研究中心的高級科學(xué)家。</p> <p>&nbsp;</p> <p>Hamerly的共同作者是研究生Saumil Bandyopadhyay和資深作者Dirk Englund,他是麻省理工學(xué)院電氣工程和計算機科學(xué)系(EECS)的副教授,量子光子實驗室的負責(zé)人,以及RLE的成員。這項研究今天發(fā)表在《自然通訊》雜志上。</p> <p>&nbsp;</p> <p><span class="h1"><strong>與光相乘</strong></span></p> <p>&nbsp;</p> <p>一個光神經(jīng)網(wǎng)絡(luò)是由許多相互連接的組件組成的,它們的功能就像可重編程、可調(diào)諧的鏡子。這些可調(diào)諧的鏡子被稱為馬赫-曾德爾測光儀(MZI)。神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)被編碼成光,光從激光發(fā)射到光神經(jīng)網(wǎng)絡(luò)。</p> <p>&nbsp;</p> <p>一個典型的MZI包含兩個反射鏡和兩個分束器。光進入一個MZI的頂部,在那里被分裂成兩個相互干擾的部分,然后被第二個分束器重新組合,然后從底部反射到陣列中的下一個MZI。研究人員可以利用這些光信號的干擾進行復(fù)雜的線性代數(shù)運算,稱為矩陣乘法,這是神經(jīng)網(wǎng)絡(luò)處理數(shù)據(jù)的方式。</p> <p>&nbsp;</p> <p>但是,當(dāng)光從一個設(shè)備移動到另一個設(shè)備時,每個MZI中可能發(fā)生的錯誤會迅速累積起來。可以通過提前識別錯誤并調(diào)優(yōu)mzi來避免一些錯誤,這樣早期的錯誤就會被數(shù)組中稍后的設(shè)備抵消。</p> <p>&nbsp;</p> <p>&ldquo;如果你知道錯誤是什么,這是一個非常簡單的算法。但眾所周知,這些錯誤很難確定,因為你只能訪問芯片的輸入和輸出。&rdquo;&ldquo;這促使我們研究是否有可能創(chuàng)建無校準(zhǔn)誤差校正。&rdquo;</p> <p>&nbsp;</p> <p>哈默利和他的合作者此前展示了一種數(shù)學(xué)技</p> <p>&ldquo;即使有了錯誤校正,芯片的性能也有一個基本的限制。mzi在物理上無法實現(xiàn)需要配置的某些設(shè)置,&rdquo;他說。</p> <p>&nbsp;</p> <p>由于MZI的基本特性,在某些情況下,不可能調(diào)優(yōu)設(shè)備,使所有光都從底部端口流到下一個MZI。如果設(shè)備在每一步都損失一小部分光,而陣列非常大,到最后將只剩下一點點電力。</p> <p>&nbsp;</p> <p>&ldquo;即使有了錯誤校正,芯片的性能也有一個基本的限制。mzi在物理上無法實現(xiàn)需要配置的某些設(shè)置,&rdquo;他說。</p> <p>&nbsp;</p> <p>因此,該團隊開發(fā)了一種新型MZI。研究人員在設(shè)備的末端增加了一個額外的分束器,稱其為3-MZI,因為它有三個分束器而不是兩個。由于這種額外的分束器混合光線的方式,MZI更容易達到所需的設(shè)置,通過其底部端口發(fā)送所有光線。</p> <p>&nbsp;</p> <p>重要的是,額外的分束器只有幾微米大小,是一個無源組件,所以它不需要任何額外的布線。增加額外的分束器不會顯著改變芯片的尺寸。</p> <p>&nbsp;</p> <p><span class="h1"><strong>芯片越大,錯誤越少</strong></span></p> <p>&nbsp;</p> <p>當(dāng)研究人員進行模擬測試他們的架構(gòu)時,他們發(fā)現(xiàn)它可以消除許多影響準(zhǔn)確性的不可糾正的錯誤。當(dāng)光神經(jīng)網(wǎng)絡(luò)變得更大時,設(shè)備中的誤差量實際上會下降&mdash;&mdash;這與標(biāo)準(zhǔn)mzi設(shè)備的情況相反。</p> <p>&nbsp;</p> <p>哈默利說,使用3- mzi,他們有可能創(chuàng)造出一個足夠大的設(shè)備,可以用于商業(yè)用途,并且誤差已經(jīng)減少了20倍。</p> <p>&nbsp;</p> <p>研究人員還專門針對相關(guān)誤差開發(fā)了MZI設(shè)計的變體。這些都是由于制造缺陷造成的&mdash;&mdash;如果一個芯片的厚度有輕微的錯誤,那么mzi可能都有相同的誤差,所以誤差都是相同的。他們找到了一種方法來改變MZI的配置,使其對這些類型的錯誤具有健壯性。該技術(shù)還增加了光神經(jīng)網(wǎng)絡(luò)的帶寬,使其運行速度提高了三倍。</p> <p>&nbsp;</p> <p>現(xiàn)在,他們已經(jīng)通過模擬展示了這些技術(shù),哈默利和他的合作者計劃在物理硬件上測試這些方法,并繼續(xù)朝著他們可以在現(xiàn)實世界中有效部署的光神經(jīng)網(wǎng)絡(luò)前進。</p> <p>&nbsp;</p> <p>這項研究部分由國家科學(xué)基金會研究生研究獎學(xué)金和美國空軍科學(xué)研究辦公室資助。</p> <p>&nbsp;</p> <blockquote> <p>注:本文由院校官方新聞直譯,僅供參考,不代表指南者留學(xué)態(tài)度觀點。</p> </blockquote>
預(yù)約咨詢
預(yù)約咨詢
猜你喜歡
公眾號
掃一掃立即關(guān)注
微信咨詢
掃一掃立即咨詢
App下載
下載指南者留學(xué)App
預(yù)約咨詢
電話咨詢
400-183-1832
回到頂部
預(yù)約咨詢
現(xiàn)在來設(shè)置你的賬號吧
只需要花不到一分鐘,之后便可以獲得更精準(zhǔn)的推薦~
1
留學(xué)意向
2
基本意向
3
詳細背景
4
了解途徑
1.1 您期望申請學(xué)歷是
1.2 您期待的留學(xué)地區(qū)是多選
* 0/20
沒有查詢到相關(guān)的地區(qū)
查詢中...
已選(0/5):
2.1 您的身份狀態(tài)是
2.2 您的目前學(xué)歷是
3.1 您的本科學(xué)校是
大陸本科
海外本科
3.2 您的學(xué)校名稱是
沒有查詢到相關(guān)的學(xué)校
查詢中...
3.3 您的專業(yè)名稱是
沒有查詢到相關(guān)的專業(yè)
查詢中...
4. 您從哪里了解到指南者留學(xué)網(wǎng)站的
* 0/20
取消