Muse Glimmer de la Meta aduce un model agentic cu 30 de miliarde de parametri în zona hardware-ului personal performant. Când munca rulează pe un echipament deținut de utilizator, se schimbă direct ecuația de confidențialitate, cost și dependență, înainte de orice discuție despre benchmark-uri.
Meta spune că versiunea pe patru biți ocupă sub 20 GB și vizează sisteme cu 24 sau 32 GB de memorie, inclusiv Apple Silicon și RTX 5090. Asta aduce coding-ul, function calling-ul și munca agentică în mai mulți pași pe un echipament pe care utilizatorul îl deține.
Rularea locală schimbă relația cu utilizatorul
Agenții din cloud cer trimiterea contextului în altă parte. Un agent local poate păstra pe dispozitiv codul, documentele, istoricul și rezultatele intermediare. Poate lucra și cu o conexiune slabă, fără un apel API taxat la fiecare pas.
Rularea locală nu este gratuită. Hardware-ul, energia, configurarea, update-urile și viteza au propriul cost. Dar utilizatorul câștigă o alegere: păstrează contextul sensibil aproape și decide când merită să apeleze un model remote.
Capabilitatea nu este întregul produs
Meta raportează rezultate puternice în propriile evaluări. Benchmark-urile nu demonstrează însă că agentul va trata corect un repository real, permisiunile sau excepțiile.
Un agent local util are nevoie de permisiuni înguste, acțiuni vizibile, condiții de oprire, log-uri și o cale clară de escaladare. Confidențialitatea crește când datele rămân local. Fiabilitatea crește doar când workflow-ul este pregătit pentru erori.
Modelul practic va fi hibrid
Majoritatea utilizatorilor nu vor alege definitiv între local și cloud. Munca repetitivă sau sensibilă poate rămâne pe dispozitiv. Sarcinile dificile pot ajunge la un model remote după ce utilizatorul vede ce context părăsește sistemul.
Un setup hibrid îi oferă utilizatorului un control pe care un abonament exclusiv cloud nu îl poate oferi. Modelele locale mai bune îi permit să decidă ce rămâne aproape și ce are nevoie cu adevărat de un sistem remote.