China digitală progresează rapid, iar Meituan reprezintă una dintre platformele cheie care se adaptează la această transformare. În fiecare zi, milioane de utilizatori comandă alimente, rezervă camere de hotel sau utilizează servicii de transport printr-o aplicație care se extinde continuu, având un impact considerabil pe piață.
Platforma gestionează zilnic un volum enorm de conținut vizual: miliarde de imagini și videoclipuri, de la meniuri de restaurante și fotografii ale camerelor de hotel, până la imagini ale produselor, îmbunătățind semnificativ experiența utilizatorilor.
Aceast conținut este supus unui proces constant de analiză și clasificare, realizat prin modele de inteligență artificială care operează continuu în fundal. Creșterea numărului de utilizatori a exercitat o presiune considerabilă asupra acestor sisteme AI, iar controlul costurilor a devenit o prioritate strategică.
În general, sarcinile AI depind de GPU-uri performante, dar costisitoare, care sunt, uneori, excesive pentru multe scenarii de inferență. Inginerii de la Meituan au identificat o posibilitate de a muta sarcinile pe procesoare, rezervând GPU-urile exclusiv pentru antrenare, astfel reducând cheltuielile totale ale infrastructurii.
Aceasta este o abordare viabilă doar dacă procesoarele dispun de suficientă performanță pentru a susține procesarea complexă la scară mare, fără a compromite viteza sau precizia.
Soluția tehnologică pentru scalarea AI-ului
Meituan a adoptat procesoarele Intel Xeon Scalable de generația a 4-a cu Intel Advanced Matrix Extensions (AMX), un accelerator integrat care îmbunătățește performanța AI pe CPU. Cu ajutorul AMX, procesoarele Xeon au preluat sarcinile, determinând o reducere semnificativă a costurilor și consumului de energie.
Fără a modifica infrastructura, Meituan a integrat aceste procesoare în arhitectura existentă de microservicii, permițând alocarea dinamică a sarcinilor AI între CPU-uri și GPU-uri, în funcție de cerințe, sporind astfel flexibilitatea și eficiența.
Implementarea a crescut capacitatea de procesare AI între 3,38× și 4,13× față de versiunile anterioare pe CPU. Eficiența resurselor online a crescut de peste trei ori, permițând hardware-ului să susțină un număr mai mare de operațiuni.
Costurile operaționale au scăzut cu aproximativ 70%, reprezentând un avantaj competitiv. Evoluția procesoarelor Intel Xeon continuă cu generațiile a 5-a și a 6-a, oferind performanțe superioare și o eficiență energetică mai bună, permițând gestionarea unor volume mai mari de date și a sarcinilor AI complexe fără a mări costurile.
Importanța pentru industrie
Experiența Meituan ilustrează o tendință în utilizarea eficientă și scalabilă a procesoarelor moderne în inferența AI. Pentru companiile care se ocupă cu inferența AI în retail, logistică, sănătate sau finanțe, selecția tehnologiei adecvate poate transforma provocările în oportunități de expansiune.
Procesoarele Intel Xeon sunt disponibile prin intermediul partenerilor ASBIS Romania. Mai multe informații.
Sursa foto: Asbis Romania / Intel
