Annabelle Stephenson
Įmonės suvokdamos dirbtinio intelekto (AI) galimybių verslo veikloje pradeda patirpti reikšmingą AI apkrovų peizažo pokytį. Tradiciškai AI apkrovos buvo apdorojamos duomenų centruose, reikalaujant specializuotos ir brangios įrangos modelių mokymui. Tačiau, kai AI sritis subręsta, vis ryškesnė tendencija link apkrovų pagrįstos įvesties ir egzistuojančių modelių optimizavimo. Šis poslinkis atveria naujas galimybes teikti AI paslaugas, teikiamas didžiųjų debesijos paslaugų teikėjų.
Duomenų centre darosi pastebimas judėjimas, naudojant tradicinius serverius AI apkrovoms. Šis poslinkis link efektyvesnių sprendimų kainos prasme suteikia svarbų pranašumą veikiančioms įmonėms duomenų centre. Kadangi naujesni ir efektyvesni modeliavimo metodai yra plėtojami, tradiciniai serveriai gali tvarkyti šias apkrovas palankiu kainos/našumo santykiu ir didesniu skaičiavimo prieinamumu. Tai panaikina reikalavimą įmonėms atlikti didelius kapitalo investicijas į brangią įrangą, kuri reikalinga tik mokymo tikslais.
Tuo tarpu apskritimu, kraštutinis kompiuterizavimas yra pasiruošęs tapti artimiausiu iššūkių galinčiu veiklu AI apkrovas ateityje. Krašte apima įvairias sistemas ir apdorojimo galimybes, nuo mažų jutiklių masyvų iki autonominių transporto priemonių ir medicininių diagnostikos priemonių. Ši migracija link kraštui grindžiamų sistemų siūlo daugybę privalumų, įskaitant sumažintą atkarpą, pagerintą saugumą ir padidintą efektyvumą.
Palaikyti klestinčią kraštutinio kompiuterizavimo ekosistemos plėtrą, tikimasi, kad atliekos atviro kodo platformos ir vystymo aplinkos atliks lemiamą vaidmenį. Skirtingai nei gamintojo sprendimai, tokių kaip „Nvidia“ CUDA, atviri ir suderinti ekosistemos, pvz., Arm ir x86, siūlo suderinamumą įvairioms skaičiavimo poreikį. Ši lankstumo užtikrina lengvą mastelio ir sprendimų perkėlimą, palengvinant AI apkrovų integraciją nuo mažo masto įrenginių iki didelio mastelio skaičiavimo aplinkų.
Greitis interneto dalykų (IoT) augimas sukūrė papildomą poreikį s…
