Ang Solusyon ng Sagence AI sa GPU Energy Crisis

Ang Solusyon ng Sagence AI sa GPU Energy Crisis
Nobyembre 19, 2024

Ang karamihan sa mga modelo ng AI ay pinapagana ng mga graphics processing unit (GPU), na kilalang-kilala na masinsinang enerhiya. Ayon sa Goldman Sachs, pagsapit ng 2030, ang pagtaas ng paggamit ng mga GPU sa data ang mga sentro ay magreresulta sa 160% na pagtaas sa pangangailangan para sa kuryente. Si Vishal Sarin, isang batikang taga-disenyo ng mga analog at memory circuit, ay nagtatag ng Sagence AI, na orihinal na kilala bilang Analog Inference, pagkatapos makita na ang tendensiyang ito ay hindi nasustain. Nakatuon ang negosyo sa pagbuo ng mga pamalit sa GPU na kumokonsumo ng mas kaunting enerhiya, pagharap sa mga isyu sa parehong pagganap at kapaligiran.

Gumagawa ang Sagence ng mga system at analog chip para sa mga AI application, pati na rin ang software na kailangan para ma-program ang mga ito. Gumagamit ang mga analog chip ng isang hanay ng mga halaga upang kumatawan sa impormasyon, kabaligtaran sa karaniwang mga digital chip na nag-iimbak ng data bilang mga binary na halaga. Dahil sa pagkakaibang ito, ang mga analog na circuit ay maaaring direktang magproseso ng data sa memorya at kumpletuhin ang ilang pagkalkula gamit ang mas kaunting bahagi, na nag-aalis ng mga bottleneck na dala ng paglilipat ng data sa pagitan ng mga processor at memorya. Higit pa rito, kumpara sa kanilang mga digital na katapat, ang mga analog processor ay nagbibigay ng mas mataas na density ng data.

Sa kabila ng pagiging available sa loob ng mga dekada, bumabalik ang analog na teknolohiya dahil ang mga digital processor ay hindi nakakasabay sa mga hinihingi ng modernong mundo. Gayunpaman, may mga kakulangan din sa mga analog chip, lalo na ang pangangailangan para sa eksaktong paggawa at ang pagiging kumplikado ng programming. Ibinebenta ng Sagence ang mga chip nito bilang pandagdag sa mga digital na teknolohiya, na tumutuon sa ilang partikular na application ng server at mobile device upang malutas ang mga problema tulad ng latency, gastos, at paggamit ng kuryente.

Ang Sagence, na nagpaplanong i-komersyal ang mga chip nito sa 2025, ay nakikipagtulungan na sa mga kliyente at nahaharap sa kumpetisyon mula sa iba pang mga analog chipmaker na dalubhasa sa AI, tulad ng EnCharge at Mythic. Ang mga mamumuhunan tulad ng Vinod Khosla, TDK Ventures, at Aramco Ventures ay nag-ambag ng $58 milyon sa kumpanya, at nilalayon nitong maghanap ng mas maraming pera upang mapalago ang mga tauhan nito ng 75 empleyado. Ang cost-effective na diskarte ng Sagence, na lumalayo sa mga pinakabagong diskarte sa produksyon, ay nagpapataas ng pang-akit nito sa isang cutthroat na industriya.

Ang mga potensyal na pagkakataon para sa Sagence ay ipinahiwatig ng mga kamakailang trend. Ang halaga ng venture capital na nalikom para sa mga semiconductor startup ay tumataas; sa unang kalahati ng 2024 lamang, $5.3 bilyon ang itinaas. May mga hadlang pa rin na dapat lampasan, gayunpaman, tulad ng tunggalian mula sa mga kilalang kumpanya tulad ng Nvidia, mamahaling katha, at ang problema sa pagpasok sa mga merkado kung saan nangingibabaw ang mga naitatag na teknolohiya. Ang mga panganib ay na-highlight ng kaso ng Graphcore, isang AI chipmaker na nagdeklara ng pagkabangkarote sa kabila ng malaking pondo.

Ang tagumpay ng Sagence ay nakasalalay sa kakayahan nitong maghatid ng mga chip na matipid sa enerhiya, may mataas na pagganap habang mahusay na pinapataas ang produksyon. Nilalayon ng kumpanya na natatanging iposisyon ang sarili nito sa umuunlad na landscape ng AI hardware sa pamamagitan ng pagtugon sa parehong mga hamon sa ekonomiya at kapaligiran.

Drive innovation through data with Code Labs Academy'sData Science & AI Bootcamp.

Code Labs Academy © 2024 Lahat ng karapatan ay nakalaan.