NVIDIA apre il software che mette limiti agli agenti AI: nel suo comunicato Figure è fra chi ci sta costruendo

Il 28 settembre 2026 NVIDIA ha annunciato Open Agent Safety Platform, descritta nel comunicato come «an open software platform and reference system design»: una piattaforma software aperta e un progetto di sistema di riferimento, pensati per tenere un agente AI (un programma che decide da sé quali azioni compiere per portare a termine un compito) dentro confini stabiliti da chi lo mette al lavoro, e per fermarlo se prova a uscirne. Fra le aziende di robotica che stanno costruendo con uno dei due pezzi, NVIDIA elenca Figure e Skild AI.

Che cosa ha annunciato NVIDIA

La piattaforma è fatta di due parti, e non hanno la stessa natura.

Il primo pezzo è OpenShell, software open source che fa da recinto attorno all'agente mentre lavora: nelle parole del comunicato «traces all actions and enforces policy», traccia tutte le azioni e applica le regole. NVIDIA lo lega alle proprie CPU: scrive che le regole si applicano «as agents run on NVIDIA Vera CPUs», mentre gli agenti girano su CPU NVIDIA Vera, e che OpenShell offre questa protezione «with minimal overhead», con un costo minimo in prestazioni. Essendo aperto, aggiunge NVIDIA, può essere esteso ad altre piattaforme di calcolo, comprese quelle di Arm e Intel.

Il secondo pezzo è Sentry, e il comunicato gli dà un'etichetta diversa da quella di OpenShell: «the NVIDIA Sentry reference system design», il progetto di sistema di riferimento. Sentry è un guardiano fuori banda — «an out-of-band watchdog» — che gira su DPU NVIDIA BlueField-4 e sorveglia il comportamento dell'agente da quello che il comunicato chiama un dominio di fiducia isolato, «invisible to agents and attackers»: invisibile agli agenti e a chi attacca. Se l'agente prova a uscire dal confine stabilito via software, secondo NVIDIA Sentry lo mette in quarantena e lo ferma nell'ordine dei millisecondi.

Il motivo dichiarato è che, negli episodi di sicurezza recenti, «the agent circumvented security controls at the application layer to complete its assigned task»: l'agente ha aggirato i controlli posti dentro l'applicazione pur di completare il compito ricevuto. Da qui l'idea di mettere il freno da un'altra parte, dove il programma non possa toglierlo.

«AI's extraordinary potential for society will only be realized if we solve AI safety», dichiara nel comunicato Jensen Huang, fondatore e amministratore delegato di NVIDIA: il potenziale dell'AI si realizzerà solo se si risolve il problema della sua sicurezza.

Dove entrano i robot

Il passaggio che nomina aziende di robotica è questo, e conviene riportarlo per intero:

«Robotics leaders — such as Figure, Gecko Robotics and Skild AI — are also building with OpenShell to embed agent safety controls into autonomous systems that take action in the physical world.»

Tradotto: aziende di robotica come Figure, Gecko Robotics e Skild AI stanno costruendo con OpenShell per incorporare controlli di sicurezza dell'agente dentro sistemi autonomi che agiscono nel mondo fisico. Due cose vanno tenute ferme leggendolo. La prima: è NVIDIA a dirlo, nel proprio comunicato — sulla pagina con cui Figure ha presentato il proprio lavoro più recente NVIDIA non compare, e OpenShell nemmeno. La seconda: il comunicato le lega a OpenShell, cioè a uno dei due pezzi, non all'intera piattaforma.

Figure compare anche in un secondo elenco, quello delle realtà che affiancano NVIDIA sull'iniziativa, insieme ad Anthropic, Cisco, Dell Technologies, Microsoft, Salesforce e SAP. Skild AI, in quell'elenco, non c'è.

NVIDIA parla di oltre 100 organizzazioni che lavorano con le tecnologie della piattaforma, e scrive che il software, OpenShell compreso, è disponibile dalla propria pagina per sviluppatori e su GitHub. Contributi come questo, aggiunge, «support the mission of» — sostengono la missione della — Open Secure AI Alliance, avviata da NVIDIA insieme a oltre 120 organizzazioni e governata dalla Linux Foundation.

Perché lo raccontiamo qui

Una precisazione che pesa più di tutto il resto: nel descrivere dove agiscono questi controlli, NVIDIA usa formule tecniche e larghe — «autonomous systems that take action in the physical world», i sistemi autonomi che agiscono nel mondo fisico. Che questo riguardi i robot destinati alla casa lo diciamo noi, non NVIDIA.

Quello che segue è dichiaratamente la nostra lettura, non un'affermazione delle aziende coinvolte. Undici giorni prima di questo annuncio, il 17 settembre 2026, Figure aveva pubblicato i risultati di Helix 2.5, il modello che guida il suo robot umanoide: la macchina è stata messa alla prova in 30 case della Bay Area in cui non era mai entrata e da cui non era stato raccolto alcun dato, portando a termine il lavoro nel 56% delle prove contro il 9% senza l'addestramento preliminare. Di quella prova Figure scrive, con la propria riserva: «To our knowledge, this is the first demonstration of zero-shot whole-body generalization at this scope on a humanoid» — a quanto risulta all'azienda, la prima dimostrazione del genere a quella portata su un umanoide.

Sono due notizie separate, di due aziende diverse, e ciascuna sta in piedi da sola. Ma la domanda che uniscono è quella che un lettore italiano si fa da solo: se una macchina che decide da sé entra in una casa che non ha mai visto, che cosa la ferma quando sbaglia bersaglio? A questa domanda, da questa settimana, corrisponde almeno un pezzo di risposta con un nome, un produttore e un codice pubblico — il che non vuol dire, ancora, che quel pezzo sia dentro un robot che entra in casa vostra.

Che cosa resta da vedere

Sul rapporto fra questi controlli e i robot, il comunicato di NVIDIA dice che Figure, Gecko Robotics e Skild AI stanno costruendo con OpenShell. Quando quei controlli arriveranno su un robot in vendita, e su quali modelli, è informazione che appartiene alle aziende di robotica più che al fornitore di calcolo: la seguiremo sulle loro pagine ufficiali, e la scriveremo quando ci sarà una pagina che la dice.

Vale la pena aggiungere, sempre come nostra lettura, che la questione qui è diversa da quella della teleoperazione (un operatore umano che guida il robot a distanza), di cui parliamo nella guida su teleoperazione e privacy: un robot guidato da una persona e un robot che decide da solo pongono due domande di sicurezza distinte, e gli strumenti annunciati da NVIDIA riguardano gli agenti autonomi.

Fonti primarie: il comunicato NVIDIA del 28 settembre 2026 e la pagina Figure su Helix 2.5 del 17 settembre 2026.