In hun laboratorium in de buurt van SAN Jose heeft IBM een elektronisch knaagdierbrein gebouwd van 48 TrueNorth-testchips, die elk een basisbouwsteen van de hersenen kunnen nabootsen.
Onder leiding van projectleider Dharmendra Modha kwamen we dichtbij en persoonlijk met het hele project. Het volume is vergelijkbaar met een medicijnkastje in de badkamer, dat is bedekt met doorschijnende plastic panelen, en waarop duidelijk de chips, printplaten en kleurrijke indicatoren te zien zijn. Het ziet eruit als iets uit een sciencefictionfilm uit de jaren 70, maar Modha zegt: "Je kijkt naar een klein knaagdier."
Hij heeft het over de hersenen van een klein knaagdier, of in ieder geval kan deze stapel chips in dat brein passen. Deze chips fungeren als neuronen, de basisbouwstenen van de hersenen. Modha zegt dat het systeem kan simuleren 48 miljoen zenuwcellen, ongeveer gelijk aan het aantal zenuwcellen in een klein knaagdierbrein.
Bij IBM leidde Modha de cognitieve computergroep, die de "neurochip" uitvond. Toen hij en zijn team hun uitvinding voor het eerst onthulden, gebruikten ze deze gedurende een testperiode van drie weken, ter ondersteuning van academici en overheidsonderzoekers in IBM's onderzoeks- en ontwikkelingslaboratorium in Silicon Valley. Na hun eigen computers aan te sluiten op het digitale muizenbrein, onderzochten de onderzoekers de structuur ervan en begonnen ze programma's te schrijven voor de TrueNorth-chip.
Vorige maand hadden sommige onderzoekers deze man al in Colorado gezien, dus hadden ze hem geprogrammeerd om foto's en spraak te herkennen en een deel van de natuurlijke taal te begrijpen. De chip draait de "deep learning"-algoritmen die nu de kunstmatige intelligentiediensten van het internet domineren, en zorgt voor gezichtsherkenning voor Facebook en real-time vertaling voor Microsoft's Skype. Toch heeft IBM hier een voorsprong, omdat hun onderzoek de behoefte aan ruimte en stroomvoorziening zou kunnen verminderen. In de toekomst kunnen we deze kunstmatige intelligentie mogelijk in mobiele telefoons en andere kleine apparaten stoppen, zoals hoortoestellen en horloges.
"Wat krijgen we van de synaptische structuur? We kunnen afbeeldingen classificeren met een zeer laag energieverbruik, en we kunnen constant nieuwe problemen oplossen in nieuwe omgevingen." Brian Van Essen, een computerwetenschapper bij Lawrence Livermore National Laboratory die verantwoordelijk is voor het toepassen van deep learning-algoritmen op nationale veiligheid.
TrueNorth is de nieuwste technologie die in de toekomst deep learning en een reeks andere AI-diensten zal uitvoeren. De huidige machines die algoritmen van Google, Facebook en Microsoft uitvoeren, vereisen nog steeds afzonderlijke grafische processors, maar ze bewegen allemaal in de richting van FPGA's (chips die kunnen worden geprogrammeerd voor specifieke taken). Peter Diehl (PhD in de Cortex Computing Group aan de Polytechnische Universiteit van Zürich) gelooft dat TrueNorth superieur is aan zowel standalone grafische chips als FPGA's vanwege het lage energieverbruik.
Het belangrijkste verschil, zegt Jason Mars, een professor in computerwetenschappen aan de Universiteit van Michigan, is dat TrueNorth naadloos samenwerkt met deep learning-algoritmen. Beide simuleren neurale netwerken in de diepte en genereren neuronen en synapsen "in de hersenen". "De chip kan de commando's van het neurale netwerk efficiënt uitvoeren." Hij nam niet deel aan de testrun, maar heeft de voortgang van de chip nauwlettend gevolgd.
Toch is TrueNorth nog niet volledig gesynchroniseerd met deep learning-algoritmen. IBM heeft echter besloten om externe onderzoekers te betrekken bij het verbeteren van de chip, omdat deze nog een eind verwijderd is van de daadwerkelijke markt. Voor Modha was het ook een noodzakelijk proces, zoals hij zei: "We moesten een solide basis leggen voor een grote transformatie."
Peter Diehl reisde onlangs naar China, maar om de een of andere reden werkte zijn telefoon niet met Google, en plotseling bracht hij kunstmatige intelligentie terug naar zijn oorspronkelijke vorm. Omdat de meeste cloud computing nu afhankelijk is van de servers van Google, is alles nutteloos zonder het netwerk.
Deep learning vereist een enorme hoeveelheid verwerkingskracht, die doorgaans wordt geleverd door gigantische datacenters, en onze telefoons zijn er meestal mee verbonden via internet. TrueNorth daarentegen kan ten minste een deel van zijn verwerkingskracht naar je telefoon of een ander apparaat verplaatsen, wat de frequentie van AI-gebruik aanzienlijk zou kunnen vergroten.
Maar om dit te begrijpen, moet je eerst begrijpen hoe deep learning werkt. Het werkt in twee fasen. Eerst moeten bedrijven als Google en Facebook hun eigen neurale netwerken bouwen om specifieke taken uit te voeren. Als ze de mogelijkheid willen hebben om automatisch kattenfoto's te herkennen, moeten ze het neurale netwerk een heleboel kattenfoto's laten zien. Vervolgens, nadat het patroon is getraind, moet een ander neuraal netwerk deze taak uitvoeren. Wanneer je een foto maakt, moet het systeem bepalen of er katten in zitten, en TrueNorth bestaat om de tweede stap efficiënter te maken.
Zodra je het neurale netwerk hebt getraind, kan de chip je helpen het gigantische datacenter te omzeilen en direct naar de tweede stap te gaan. En omdat de chip van TrueNorth zo klein en energiezuinig is, past hij in handheld-apparaten. Dit verhoogt de algehele efficiëntie, omdat je de resultaten niet meer via het netwerk van het datacenter hoeft te downloaden. Als het kan worden gepopulariseerd, kan het de druk op datacenters aanzienlijk verminderen. "Dit is de toekomst van de industrie, waar apparaten complexe taken onafhankelijk kunnen uitvoeren." "Mars zei.
Google probeert onlangs neurale netwerken naar mobiele telefoons te brengen, maar Diehl denkt dat TrueNorth zijn rivalen ver vooruit is, omdat het meer synchroon loopt met deep learning. Elke chip kan miljoenen neuronen simuleren, en deze neuronen kunnen met elkaar communiceren via "synapsen in de hersenen."
Dit onderscheidt TrueNorth van vergelijkbare producten op de markt, zelfs in vergelijking met grafische processors en FPGA's heeft het voldoende voordelen. TrueNorth-chips kunnen "zenuwimpulsen" vormen, vergelijkbaar met elektrische impulsen in de hersenen. Zenuwimpulsen kunnen een verandering in toon in iemands spraak laten zien, of een verandering in kleur in een afbeelding. "Je kunt het zien als kleine berichten tussen neuronen." Rodrigo Alvarez-Icaza, een van de hoofdontwerpers van de chip.
Hoewel er 5,4 miljard transistors op de chip zitten, is het energieverbruik slechts 70 milliwatt. Hoe zit het met standaard Intel-processors? Die heeft 1,2 miljard transistors, maar het energieverbruik bereikt 35 tot 140 watt. Zelfs ARM-chips, die vaak in smartphones worden gebruikt, verbruiken meerdere keren meer stroom dan TrueNorth-chips.
Natuurlijk heeft de chip nieuwe software nodig om echt te werken, en dat is precies wat Diehl en andere ontwikkelaars tijdens de testrun hebben geprobeerd te doen. Met andere woorden, de ontwikkelaars zetten bestaande code om in een taal die de chip herkent en voeden deze erin, maar ze werken ook aan het schrijven van native code voor TrueNorth.
Net als andere ontwikkelaars richt Modha zich op het bespreken van TrueNorth op het gebied van biologie, zoals neuronen, axonen, synapsen, zenuwimpulsen, enz. De chip bootst ongetwijfeld het menselijk zenuwstelsel op bepaalde manieren na, maar heeft nog steeds zijn beperkingen. "Dit soort discussies zijn vaak zeer voorzichtig. Silicon is immers niet waar de menselijke hersenen van zijn gemaakt." Chris Nicholson, mede-oprichter van een bedrijf genaamd Skymind.
Modha erkent deze claims. Toen hij in 2008 met het project begon, met een $53,5 miljoen investering van Darpa (de onderzoekstak van het Department of Defense), was het doel om een volledig nieuwe chip te bouwen van volledig verschillende materialen en de menselijke hersenen te simuleren. Maar hij weet dat het niet snel zal gebeuren, en "we kunnen de realiteit niet negeren op weg naar het nastreven van onze dromen", zei hij.
In 2010 lag hij met varkensgriep in bed, en toen besefte hij dat de beste manier om de bottleneck te doorbreken was om te beginnen met de chipstructuur en een simulatie van de hersenen te bereiken. "Je hebt geen zenuwcellen nodig om basis fysica, chemie en biologie na te bootsen om de computerkracht te verbeteren. We moeten flexibel genoeg zijn om steeds meer op de hersenen te gaan lijken." zei hij.
Dit is de TrueNorth-chip. Het is geen digitaal brein, maar het is een belangrijke stap op weg, en met de testrun van IBM ligt het plan op schema. De hele machine bestaat eigenlijk uit 48 afzonderlijke machines, elk met zijn eigen TrueNorth-processor. Volgende week, als de testrun voorbij is, zullen Modha en zijn team de machine afbreken zodat onderzoekers hem mee naar huis kunnen nemen voor verder onderzoek. Mensen gebruiken technologie om de samenleving te veranderen, en deze onderzoekers zijn de ruggengraat van onze inspanningen.