Loihi 2 neironu skaitļošanai

Mēs esam sekojuši līdzi Intel Neuromorphic centieniem, kopš tā laida klajā savu pirmo 14 nm silīciju, kas veltīts neironu skaitļošanai, ar nosaukumu Loihi, Atpakaļ 2018. gada sākumā. Intervijā ar Intel laboratorijas direktors, doktors Ričards Oļegs Vēl 2021. gada martā es jautāju par aparatūras izstrādi un kad mēs varētu redzēt otro paaudzi. Šodien ir šī diena, un grupa paziņo par Loihi 2, kas ir liels jauninājums salīdzinājumā ar pirmo paaudzi, kas apēd daudz augļu, kas karājas no pirmā dizaina. Varbūt interesanta lieta ir izmantotais procesa mezgls: Intel ziņo, ka Loihi 2 šodien tiek veidots silīcijā, izmantojot Intel pirmā EUV apstrādes mezgla Intel 4 pirmsražošanas versiju.

Intel neironu skaitļošana

Izveidojot arhitektūru, kas pēc būtības ir veidota kā smadzenes, ideja ir tāda, ka miljoniem neironu un sinapses radīs skaitļošanas uzdevumus ar unikālām spēka/veiktspējas priekšrocībām konkrētajos uzdevumos, kas paredzēti smadzenēm. Tas ir potenciāls Intel ilgtermiņa komerciāls produkts, taču komandas misija bija izstrādāt gan tehnoloģijas, gan programmatūru, lai atklātu un paātrinātu uzdevumus, kas piemēroti neironu tipa skaitļošanai.

Intel Neuromorphic Lab jau 2011. gadā bija apstiprinājis Fulcrum Microsystems iegādi. Tajā laikā Fulcrum komanda bija asinhronā skaitļošanas grupa, kas strādāja pie tīkla slēdžiem. Šī tehnoloģija tika nodota Intel tīkla grupai, un pētījumu nodaļa pievērsa uzmanību citiem asinhronās skaitļošanas lietojumiem, apmetoties uz neiromorfisko.

Tajā laikā pētījumi par šāda veida neironu skaitļošanas arhitektūru faktiskajām darba slodzēm bija diezgan jauni – kamēr lauka lauks bija tur. Kopš astoņdesmito gadu beigām، cilvēka smadzeņu projekts, 10 gadus ilgs ES finansēts pētniecības projekts šīs jomas izpētei, tika izveidots tikai 2013. gadā, un tas ir domāts Spinnaker 2019. gadā ar 1 miljonu mikroshēmu, 1 miljardu neironu, 100 kilovatu aktīvās jaudas.

Salīdzinājumam – Intel Loihi pirmā paaudze atbalsta 131 000 neironu uz 60 mm² Mikroshēma un 768 mikroshēmas, kuras var apvienot vienā Pohoiki Springs sistēmā, kurā ir 100 miljoni neironu tikai ar 300 vatiem. Intel mārketingā viņi to raksturoja kā kāmja ekvivalentu. Jaunā augsta līmeņa Loihi 2 mikroshēma izmanto 31 mm² uz vienu šķēli 1 miljonam neironu, kā rezultātā blīvums palielinās 15 reizes, tomēr evolūcija pārsniedz neapstrādātos skaitļus.

Loihi 2

Augsta līmeņa Loihi 2 mikroshēma varētu izskatīties vienādi: 128 neironi, bet tagad katrā kodolā ir 8 reizes vairāk neironu un sinapses. Katrā no šiem 128 kodoliem ir 192 KB elastīgās atmiņas, salīdzinot ar iepriekšējo, kur tas tika fiksēts vienam kodolam izpildes laikā, un katram neironam atkarībā no modeļa varēja piešķirt līdz 4096 stāvokļiem, bet iepriekšējais ierobežojums bija tikai 24. Tas var būt arī pilnībā programmējams, līdzīgi kā FPGA, nodrošinot lielāku elastību.

Tradicionāli neironi un tīkli attēlo datus binārā notikumā, ko izdarīja Loihi v1. Izmantojot Loihi 2, šos notikumus var klasificēt ar 32 bitu lietderīgo slodzi, nodrošinot lielāku elastību mikroshēmas aprēķinos. Šos notikumus tagad var uzraudzīt reālā laikā, izmantojot jaunās mikroshēmas izstrādes/atkļūdošanas funkcijas, nevis apturēt/lasīt/atskaņot. Turklāt tas arī ļauj labāk kontrolēt, kad skaitļošanas darba slodzes dinamiski mainās, piemēram, ventilatora spiediens, svara mērogošana, apgriezieni un apraide.

Varbūt viens no lielākajiem uzlabojumiem ir savienojamība. Pirmā paaudze izmantoja pielāgotu asinhrono protokolu, lai izveidotu lielu 2D neironu tīklu, savukārt Loihi 2 var konfigurēt, lai izmantotu dažādus protokolus atkarībā no vajadzības, bet arī 3D tīklā. Mēs esam teikuši, ka Loihi 2 nav tikai viena mikroshēma, bet gan mikroshēmu grupa ar vienādu neironu arhitektūru, bet dažādas savienojamības iespējas, pamatojoties uz konkrētiem lietošanas gadījumiem. To var izmantot kopā ar iebūvētiem ziņojumu saspiešanas paātrinātājiem, lai efektīvi palielinātu 10 reizes mikroshēmas joslas platumu.

Tas arī paplašina Loihi ārējo savienojamību ar tradicionālāku, ar FPGA starpniecību saistītu skaitļošanu – tagad Loihi 2 atbalsta 10G Ethernet, GPIO un SPI. Tam vajadzētu atvieglot integrāciju, neizmantojot pielāgotas sistēmas, piemēram, izveidojot klasificētas Loihi 2 kontu grupas.

Pamatojoties uz Intel 4

Mēs bijām pārsteigti, dzirdot, ka Loihi 2 ir veidots uz Intel 4 procesa pirmsražošanas versijas. Mēs vēl esam tālu no tā, lai Loihi 2 būtu daļa no Intel ieņēmumiem, un Neuromorphic komanda zina daudz, bet izrādās ka mikroshēma, iespējams, ir ideāls kandidāts, lai palīdzētu ieviest jaunu procesu.

31 mm2 izmērs nozīmē, ka, pat ja raža ir jāuzlabo, viena mikroshēma var veikt vairāk darba mikroshēmu nekā testēšana ar lielāku matricas izmēru. Tā kā komanda veic sprieguma/frekvences/funkcijas testēšanu pēc silīcija, tā var atgriezties daudz ātrāk Intel tehnoloģiju attīstības komandā. Mēs apstiprinājām, ka laboratorijā ir silīcijs, un patiesībā aparatūra šodien būs pieejama, izmantojot Intel DevCloud, tieši uz metālu, bez jebkādas emulācijas.

Parasti ar jauniem procesa mezgliem jums ir nepieciešams neliels silikona veidnes lieluma klients, lai palīdzētu atkārtot iespējamās saķeres, lai process nonāktu rampā un masveida ražošanā. Intel konkurenti to parasti dara ar klientiem, kuriem ir viedtālruņa izmēra mikroshēmojumi, kas parasti nozīmē pircēju priekšrocības aparatūrā vai varbūt sākotnēju atlaidi (lai gan varbūt ne mūsdienu apstākļos). Intel iepriekš ir cīnījies šajā jomā, jo tam ir tikai savs silīcijs, ko izmantot kā pārbaudes rīku.

Neiromorfā komanda teica, ka tas patiešām ir piemērots, ņemot vērā, ka neiromorfām ierīcēm ir nepieciešams augsts blīvums un zems statiskais spēks, ko nodrošina sarežģīti procesa mezgli. 128 kodolu dizains nozīmē arī to, ka tam ir konsekventa atkārtota vienība, kas ļauj procesa komandai ņemt vērā ražošanas regularitāti un konsekvenci. Turklāt, tā kā Loihi šobrīd joprojām ir pētniecības projekts, nav nopietnu cerību, ka šis produkts tiks dots tirgū noteiktā logā, kas varētu būt vajadzīgs lielam klientam.

Vai tas nozīmē, ka Intel 4 ir gatavs ražošanai? Ne gluži, bet tas liecina par progresu. Vairākos Loihi 2 uzskaitītajos etalonos ir brīdinājums par “gaidāmajiem simulētajiem aparatūras rezultātiem”, lai gan citi ir veikti ar īstu silīciju, un uzņēmums apgalvo, ka šodien tam ir īsts silīcijs, ko izvietot mākonī. Intel 4 ir Intel pirmais apstrādes mezgls, kas izmanto EUV litogrāfiju, un Intel būs pēdējais lielais ražotājs, kas sāks EUV procesu ražošanai. Bet mēs joprojām esam tālu – atpakaļ Intel paātrinājums Paredzams, ka Event, EUV un Intel 4 nepalielinās ražošanu līdz 2022. gada otrajai pusei.

Visbeidzot, no Intel paziņojuma mēs varam apsvērt tranzistora blīvumu. Pie 2,3 miljardiem tranzistoru 31 mm², blīvums būtu 71,2 miljoni uz mm², kas ir tikai trešdaļa no tā, ko mēs sagaidām. Aplēses, kas balstītas uz iepriekšējiem Intel paziņojumiem, liktu Intel 4 aptuveni 200 miljonu m/mm². Tātad, kāpēc Loihi 2 ir tik zems, salīdzinot ar šo numuru?

Varbūt pirmais ir tas, ka tā ir neironu formas mikroshēma, nevis tradicionāls loģisks dizains. Kodols satur aptuveni 25 MB kopējā SRAM kopā ar visu loģiku, kas ir 31 mm² Slaids varētu būt laba nāves zonas daļa. Turklāt Intel galvenā ideja attiecībā uz neironu mikroshēmām ir vispirms funkcija, otrā – veiktspēja un trešā – jauda. Tātad, lai tas darbotos pareizi, tas ir svarīgāks par ātru darbību, tāpēc ne vienmēr sākotnēji ir nepieciešama visaugstākā intensitāte. Tad ir fakts, ka tā joprojām ir izstrādes mikroshēma un ļauj Intel uzlabot EUV procesu un pārbaudīt mikrolitogrāfiju, neuztraucoties par trūkumiem, ko izraisa blīvas tranzistoru bibliotēkas. Esmu pārliecināts, ka gaidāms vēl.

Lai pievienotu pēdējo punktu, mēs spekulējām, ka neironu IP adresi nākotnē varētu padarīt pieejamu Intel lietuves pakalpojumu IP piedāvājumi.

Jaunais Lavas programmas ietvars

Neatkarīgi no apstrādes jaudas, viens no neiromorfās sistēmas pamatelementiem ir skaitļošanas veids un, iespējams, cik grūti ir uzrakstīt programmu, lai izmantotu šādas arhitektūras priekšrocības. Diskusijā ar Maiku Deivisu no Intel, Intel Neuromorphic Lab direktoru, mēs paskaidrojām, ka mūsdienu skaitļošana ir kā izmeklēšanas arhitektūra – katrs cikls ņem datus un apstrādā tos. Turpretī neironu skaitļošana ir uz pārtraukumiem balstīta arhitektūra – tā darbojas, kad dati ir gatavi. Neironu skaitļošana ir vairāk atkarīga no laika domēna nekā mūsdienu skaitļošana, un tādējādi skaitļošanas jēdziens un lietojumprogrammas, ar kurām tā var darboties, ir aptuveni ortogonālas tradicionālajām skaitļošanas metodēm. Piemēram, lai gan mašīnmācīšanos var izmantot neironu skaitļošanai Spiking Neural Networks (SNN) veidā, tradicionālās PyTorch un TensorFlow bibliotēkas netika veidotas, lai iespējotu SNN.

Šodien paziņojumu ietvaros Intel izlaiž jaunu pamata programmatūras ietvaru neironu kopienai ar nosaukumu Lava. Šī ir atvērtā koda sistēma, nevis Intel, bet gan kopienas kontrolē. Intel ietvēra vairākus savus agrīnos rīkus kā daļu no sistēmas, ideja bija tāda, ka laika gaitā varētu tikt izstrādāta pilnīga programmatūras pakotne, ko varētu izmantot visi, kas iesaistīti neironu skaitļošanā, neatkarīgi no aparatūras (CPU, GPU, neiromorfās mikroshēmas). Lava ir veidota kā modulāra, konfigurējama, paplašināma, hierarhiska un atvērtā koda. Tas ietver zema līmeņa saskarni neironu tīklu kartēšanai ar neironu mašīnām, asinhrono ziņojumu kanālu pārsūtīšanu, un visas bibliotēkas un funkcijas tiek atveidotas caur Python. Programmatūra būs pieejama bezmaksas lietošanai ar BSD-3 un LGPL-2.1 vietnē GitHub.

Primārās sistēmas

Pirmā Loihi 2 versija, kas izvietota Intel mākoņpakalpojumos, ir Oheo Gulch, kas ir kā papildu PCIe karte, kurā tiek izmantota FPGA, lai pārvaldītu daudz IO, kā arī vajadzības gadījumā savienotājs aizmugurē. 31 mm² Mikroshēma ir BGA, un šeit mēs redzam vienu no iekšējiem Intel savienotājiem BGA mikroshēmu instalēšanai attīstības panelī.

Nākotnē Intel ražos 4 collu līdz 4 collu versiju ar nosaukumu Kapoho Point ar astoņām iebūvētām mikroshēmām, kas paredzētas sakraušanai un integrēšanai lielā mašīnā.

Ar tik mazu mikroshēmu es domāju, vai būtu bezjēdzīgi to izveidot ar USB kontrolieri uz silīcija, vai tam būtu USB-Ethernet saskarne un ierīces tiktu atveidotas uz USB zibatmiņas diskiem, līdzīgi tam, kas tika izplatīts no Intel Movidius . Mēs jautājām Intel par Loihi 2 izmantošanas paplašināšanu, lai tā būtu plašāka pētniecības/nekomerciāla mērķauditorija mājas alus darīšanai un alus darīšanai, taču, tā kā tas joprojām ir Intel Labs projekts, komandas galvenais elements ir veltīts sadarbībai ar partneriem, lai virzītu šo segmentu uz priekšu. Tāpēc mums jāgaida vismaz vēl viena paaudze vai vairāk, lai redzētu, vai Amazon nākotnē tiks piedāvātas Loihi sistēmas.

Loihi 2 vajadzētu būt pieejamam pētniecības partneriem, lai izmantotu no šodienas kā daļu no Intel DevCloud. Paredzams, ka tuvāko 12–24 mēnešu laikā tiks veikta vietējā izpēte/sadarbība.

Saistītā lasīšana