Gli agenti AI lasciano il cloud — e si spostano sulla tua scrivania

Per due anni, la storia degli agenti AI è stata una storia sul cloud. Modelli più grandi, cluster più grandi, bollette più grandi.

Questo mese quella storia si è incrinata. Due lanci segnalano dove vanno gli agenti: sul dispositivo che hai davanti.

Cosa è cambiato

Perplexity e Nvidia hanno rilasciato una versione della loro piattaforma agentica che gira interamente su hardware locale — una GPU RTX o un supercomputer desktop per l'AI. Il modello, i tuoi file e il lavoro vero restano sulla macchina. I task locali non costano nulla a token. E quando il modello locale raggiunge i suoi limiti, il sistema chiede permesso prima di inviare qualcosa a un modello frontier nel cloud — mostrandoti esattamente cosa uscirebbe dal tuo dispositivo.

Nei loro benchmark, la configurazione completamente locale ha segnato 59,6% su un task di coding difficile a costo praticamente zero. Consentendo l'escalation a un modello cloud di prima fascia si sale al 73% — recuperando gran parte del divario a due terzi del prezzo, con l'utente che decide quando conviene.

Nel frattempo, l'infrastruttura di identità si sta aggiornando sul fronte enterprise: Okta ora permette alle aziende di registrare gli agenti AI come identità gestite con token temporanei — trattandoli come dipendenti, non come script con la chiave API di qualcuno.

Perché conta per le aziende vere

• Le curve di costo si appiattiscono. Un agente che revisiona documenti per ore costa quasi zero in locale. L'economia del "falllo girare tutto il giorno" cambia completamente.
• La privacy diventa architetturale, non contrattuale. I dati sensibili non attraversano mai la rete. Per studi legali, cliniche e finance, risponde alla domanda che fanno davvero i compliance officer.
• Vince il pattern ibrido. Locale per default, cloud per eccezione. Mantieni il controllo su ciò che esce — e paghi solo quando il ragionamento difficile lo giustifica.

Cosa diciamo ai nostri clienti

In Orazen costruiamo agenti che fanno girare aziende ogni giorno, e la lezione si ripete: dove gira un agente è ormai una decisione strategica, non un default. Prima di costruire, chiediti tre cose:

1. Dove vivono i dati? Se la risposta deve essere "sulle nostre macchine", il local-first non è opzionale.
2. Quanto costa il volume? Gli agenti long-running puniscono i prezzi a token. Modella le ore, non la demo.
3. Chi può fare escalation? I migliori sistemi chiedono prima di chiamare l'esperto costoso — e loggano ogni volta che lo fanno.

In sintesi

La prossima ondata dell'AI agentica non sarà definita da quale modello è il più intelligente. Sarà definita da quali deployment rispettano costo, privacy e controllo — e l'hardware che possiedi è improvvisamente la posizione più forte su tutti e tre.

Curioso di sapere se un agente local-first fa al caso tuo? Parla con Orazen.