Mostra sommario Nascondi sommario
Deepset presenta un progetto che promette agenti AI in grado di migliorarsi autonomamente, progettati per funzionare in ambienti locali e persino isolati dalla rete. L’azienda tedesca mette insieme modelli aperti e strumenti per mantenere il controllo su dati e infrastruttura, con la cybersecurity come primo banco di prova.
Architettura aperta: elementi principali e obiettivi
La proposta combina tecnologie note e componenti sviluppati ad hoc. L’obiettivo è creare agenti che apprendono e si ottimizzano senza mai uscire dall’infrastruttura dell’organizzazione.
Meta AI su WhatsApp: cosa cancella davvero il comando /reset-ai
Big tech mette miliardi sull’AI: le donazioni bastano a sanare i danni?
- Modelli aperti NVIDIA esposti tramite microservizi NIM.
- NeMo Gym, usato per testare e affinare comportamenti e parametri.
- NemoClaw, blueprint open source che orchestrano l’agente all’interno di un runtime protetto.
- OpenShell, il runtime che impone limiti operativi e riduce i rischi.
- Un repository pubblico su GitHub con esempi pronti all’uso e guide per l’integrazione.
Come funziona il ciclo di auto-miglioramento
L’architettura adotta un ciclo iterativo che osserva, propone e applica cambiamenti. Tutte le fasi si svolgono in locale, per minimizzare la fuga di informazioni sensibili.
Dal log all’ottimizzazione
Un agente analizza i log generati da sistemi come NVIDIA DGX Spark. Da qui parte una pipeline che valuta le tracce e suggerisce nuovi settaggi.
- Raccolta delle tracce in ambiente isolato.
- Analisi automatica delle prestazioni e delle lacune.
- Generazione di proposte di modifica ai parametri.
- Validazione e applicazione locale dei cambiamenti.
In un test su un assistente per servizi ai cittadini, l’agente iniziale riportava le prove corrette in meno del 20% dei casi. Una prima modifica suggerita ha aumentato il numero di risposte candidate dall’1 a sette, migliorando la copertura.
Le tracce rimangono sul posto. Questo è cruciale per scenari dove i dati non possono essere condivisi con cloud esterni.
Controllo, governance e sovranità europea sull’AI
Deepset posiziona questa architettura come risposta alle richieste di autonomia dell’Europa nella tecnologia AI. L’azienda sottolinea che i modelli aperti sono solo il punto di partenza.
Servono sistemi che mantengano il controllo su modelli, dati e infrastruttura, soprattutto nei settori regolamentati. Deepset lavora su iniziative pubbliche e consorzi per farlo.
- Partecipazione alla piattaforma AI@EC della Commissione europea.
- Collaborazione con secunet e Red Hat per soluzioni pensate per informazioni classificate.
Espansione della Haystack Enterprise Platform e integrazione NVIDIA
All’evento GTC Berlin, Deepset ha annunciato estensioni della sua piattaforma enterprise. L’intento è collegare sviluppo, deployment e monitoraggio degli agenti.
- Integrazione con NVIDIA Triton Inference Server per embedding e reranking su GPU.
- Servizi per adattare i modelli Nemotron ai compiti specifici dei clienti.
- Strumenti per osservabilità e ottimizzazione dei costi in produzione.
Per enti pubblici e aziende europee, questo significa poter sperimentare agenti autoregolanti senza inviare dati a cloud esterni.
Tentativi di estensione oltre la cybersecurity
Se lo schema funziona fuori dall’ambito della sicurezza informatica, potrebbe trovare applicazioni anche in sanità, giustizia amministrativa e servizi pubblici.
Resta da vedere però quante organizzazioni passeranno dalle demo all’adozione pratica nella propria infrastruttura.
