Perché AMD sostiene che gli agenti IA rappresentino il vero salto evolutivo dell’intelligenza artificiale?
Per anni il dibattito sull’intelligenza artificiale generativa si è concentrato quasi esclusivamente sulle prestazioni dei chatbot. La velocità con cui un modello produceva testo, misurata in token al secondo, è diventata il parametro di riferimento per confrontare piattaforme e processori. Secondo AMD, però, questa metrica appartiene ormai a una fase destinata a essere superata. Il futuro non sarebbe più rappresentato da semplici assistenti conversazionali, bensì da Agenti IA capaci di eseguire autonomamente interi flussi di lavoro complessi direttamente sul computer dell’utente, senza dipendere dal cloud.
La società statunitense propone infatti un cambio di paradigma destinato ad avere implicazioni profonde sia per le aziende sia per i professionisti. L’obiettivo non è più ottenere una risposta nel minor tempo possibile, ma completare un’attività articolata dall’inizio alla fine con il massimo livello di efficienza. In questa prospettiva assumono maggiore importanza il tempo complessivo necessario per portare a termine un incarico, il costo dell’intero processo e la protezione dei dati, piuttosto che la semplice rapidità nella generazione del testo.
Perché l’elaborazione locale potrebbe cambiare il mercato dell’IA?
Uno degli aspetti più interessanti evidenziati da AMD riguarda la crescente diffusione dell’inferenza locale. Oggi gran parte degli agenti intelligenti utilizza ancora infrastrutture cloud, obbligando gli utenti a inviare documenti, dati e richieste verso server remoti. Questo modello comporta diversi svantaggi: costi ricorrenti delle API, dipendenza dalla connessione Internet, maggiore latenza e, soprattutto, la necessità di trasferire informazioni sensibili fuori dal dispositivo.
L’esecuzione completamente locale modifica radicalmente questo scenario. Tutti i dati rimangono all’interno del computer, eliminando i costi associati ai servizi cloud e consentendo di operare anche in assenza di connettività . Per aziende, studi professionali, pubbliche amministrazioni e realtà che gestiscono informazioni riservate, si tratta di un cambiamento che potrebbe avere un impatto significativo sulla sicurezza informatica e sulla conformità alle normative sulla privacy.
AMD sostiene inoltre che questo approccio permetta di costruire sistemi più prevedibili dal punto di vista economico, evitando la variabilità dei costi legati al consumo di token che caratterizza molte piattaforme di IA ospitate nel cloud.
Perché gli agenti IA non possono essere valutati come un normale chatbot?
La differenza sostanziale tra un chatbot tradizionale e un agente intelligente risiede nella natura stessa del lavoro svolto. Un assistente conversazionale si limita prevalentemente a ricevere una richiesta e generare una risposta. Un agente, invece, deve orchestrare una lunga sequenza di operazioni che comprende analisi documentale, OCR, recupero delle informazioni, indicizzazione, ricerca contestuale, generazione dei contenuti, verifica delle fonti e validazione del risultato finale.
In altre parole, la generazione dei token rappresenta soltanto una piccola parte dell’intero processo. Una quantità significativa del tempo viene infatti impiegata nella preparazione dei documenti, nella gestione delle basi di conoscenza, nello spostamento dei dati tra diversi motori software e nei controlli di qualità necessari prima della consegna del lavoro.
Per questa ragione AMD ritiene che i nuovi KPI debbano essere completamente ripensati. La velocità di scrittura del modello perde importanza rispetto al tempo totale di completamento del flusso operativo e al costo per attività conclusa, due parametri molto più vicini alle esigenze concrete delle imprese.
Come si è svolto il test presentato da AMD?
Per dimostrare questa tesi, AMD ha utilizzato HEPA (Hermes Executive Presentation Agent), un agente progettato per realizzare automaticamente una presentazione destinata a un consiglio direttivo, accompagnata da un memorandum, grafici e un’appendice contenente tutte le fonti consultate.
Il test è stato costruito utilizzando un archivio locale composto da 302 documenti e 801 frammenti indicizzati, pensato per simulare una normale unità condivisa aziendale. All’interno del dataset erano presenti file aggiornati, documenti obsoleti, contenuti duplicati, informazioni contraddittorie e numerose immagini da elaborare tramite OCR, ricreando uno scenario molto vicino alla realtà operativa di un’organizzazione.
Entrambe le piattaforme hanno utilizzato lo stesso corpus documentale, identica configurazione software e lo stesso modello linguistico, Qwen3.6-35B-A3B, servito tramite llama.cpp, insieme a FastEmbed ONNX per le embedding e Tesseract per il riconoscimento ottico dei caratteri. Secondo AMD, tutti i test hanno completato con successo 5 esecuzioni su 5 e 25 verifiche deterministiche su 25, garantendo la ripetibilità dei risultati.
Quali vantaggi avrebbe ottenuto AMD rispetto alla piattaforma NVIDIA?
Nel confronto pubblicato dall’azienda, il sistema basato su AMD Ryzen AI Max+ 395 avrebbe completato l’intero flusso operativo in 311,6 secondi, mentre la piattaforma NVIDIA DGX Spark avrebbe richiesto 367,1 secondi, con un vantaggio complessivo di 55,5 secondi.
Secondo AMD, il vero elemento distintivo non risiederebbe nella GPU, ma nell’equilibrio complessivo dell’architettura. Durante il test, infatti, sette delle otto fasi del processo sono state eseguite dalla CPU, mentre soltanto la generazione finale dei token è stata affidata al processore grafico.
Particolarmente significativo risulterebbe il vantaggio nella fase di preparazione dei dati. Il processore Ryzen AI Max+ 395, dotato di 16 core Zen 5, 32 thread SMT e accelerazione AVX-512/VNNI, avrebbe completato questa parte in 152,1 secondi, contro i 229,9 secondi della soluzione NVIDIA. Ancora più marcata la differenza nelle operazioni di embedding e instradamento delle informazioni, con 71,5 secondi contro 139,6 secondi, pari a un vantaggio di circa 34%.
AMD attribuisce questi risultati proprio alla maggiore efficienza della CPU nella gestione delle attività documentali e dell’orchestrazione, aspetti che stanno diventando centrali nell’evoluzione degli agenti intelligenti.
Quanto incidono realmente i costi nell’utilizzo degli agenti IA?
Oltre alle prestazioni, AMD pone l’attenzione sull’aspetto economico. Considerando un ammortamento dell’hardware distribuito su tre anni di utilizzo continuo e senza includere il consumo energetico, l’azienda stima un costo medio di circa 0,0132 dollari per flusso di lavoro completato, contro gli 0,0182 dollari attribuiti alla piattaforma concorrente.
Si tratta di una differenza stimata intorno al 27%, che, su migliaia di elaborazioni quotidiane, potrebbe tradursi in un risparmio significativo per le organizzazioni che utilizzano sistemi di IA in modo intensivo.
Naturalmente si tratta di dati diffusi direttamente da AMD e ottenuti in un ambiente di test controllato. Saranno quindi le future prove indipendenti e l’adozione sul campo a stabilire se questi vantaggi possano essere confermati anche in scenari reali. Tuttavia, il messaggio lanciato dall’azienda appare chiaro: la prossima competizione nell’intelligenza artificiale non si giocherà più soltanto sulla velocità dei modelli linguistici, ma sulla capacità degli agenti di completare attività complesse, in locale, con costi contenuti, maggiore privacy e un’integrazione sempre più stretta tra CPU e GPU.