Sagence AI:s lösning på GPU-energikrisen

Sagence AI:s lösning på GPU-energikrisen
19 november 2024

Majoriteten av AI-modellerna drivs av grafikprocessorer (GPU), som är notoriskt energikrävande. Enligt Goldman Sachs, senast 2030, den ökande användningen av GPU:er i data centra skulle resultera i en ökning av behovet av el med 160 %. Vishal Sarin, en erfaren designer av analoga och minneskretsar, etablerade Sagence AI, ursprungligen känd som Analog Inference, efter att ha sett att denna tendens var ohållbar. Verksamheten fokuserar på att utveckla GPU-ersättningar som förbrukar mindre energi, och hantera problem med både prestanda och miljö.

Sagence skapar system och analoga chips för AI-applikationer, såväl som den programvara som behövs för att programmera dem. Analoga chips använder en rad värden för att representera information, i motsats till vanliga digitala chips som lagrar data som binära värden. På grund av denna distinktion kan analoga kretsar behandla data direkt i minnet och slutföra vissa beräkningar med färre delar, vilket tar bort flaskhalsar orsakade av dataöverföringar mellan processorer och minne. Dessutom, jämfört med sina digitala motsvarigheter, ger analoga processorer en högre datatäthet.

Trots att den har varit tillgänglig i decennier gör analog teknik comeback eftersom digitala processorer inte kan hålla jämna steg med den moderna världens krav. Men det finns också nackdelar med analoga chips, nämligen behovet av exakt tillverkning och komplexiteten i programmeringen. Sagence marknadsför sina chips som ett komplement till digital teknik, med fokus på vissa server- och mobila enhetsapplikationer för att lösa problem som latens, kostnad och strömförbrukning.

Sagence, som planerar att kommersialisera sina chip 2025, samarbetar redan med kunder och möter konkurrens från andra analoga chiptillverkare som specialiserar sig på AI, som EnCharge och Mythic. Investerare som Vinod Khosla, TDK Ventures och Aramco Ventures har bidragit med 58 miljoner dollar till företaget, och det har för avsikt att söka mer pengar för att utöka sin personal med 75 anställda. Sagences kostnadseffektiva tillvägagångssätt, som håller sig borta från de senaste produktionsteknikerna, ökar dess lockelse i en mördande industri.

Potentiella möjligheter för Sagence indikeras av de senaste trenderna. Mängden riskkapitalpengar som samlats in för nystartade halvledarföretag ökar; bara under första halvåret 2024 samlades in 5,3 miljarder dollar. Det finns dock fortfarande hinder att övervinna, såsom rivalitet från välkända företag som Nvidia, dyr tillverkning och problemet med att komma in på marknader där etablerad teknik dominerar. Riskerna framhävs av fallet med Graphcore, en AI-chiptillverkare som förklarade sig i konkurs trots betydande finansiering.

Sagences framgång beror på dess förmåga att leverera energieffektiva, högpresterande chips samtidigt som produktionen skalas upp effektivt. Företaget strävar efter att unikt positionera sig i det framskridande AI-hårdvarulandskapet genom att ta itu med både ekonomiska och miljömässiga utmaningar.

Driva innovation genom data med Code Labs AcademysData Science & AI Bootcamp.

Code Labs Academy © 2024 Alla rättigheter förbehållna.