L’intelligenza artificiale sta entrando in una fase diversa da quella dei primi chatbot dell’AI aziendale.

Un sistema generativo non si limita più a rispondere a una domanda: può utilizzare strumenti, accedere a file, eseguire codice, consultare servizi, avviare workflow e, in alcuni casi, compiere azioni con un livello crescente di autonomia. Questo cambio di paradigma rende la governance dell’AI un tema operativo, non soltanto teorico.

Gol-IAil tuo nuovo Local AI Hub

Il 21 agosto 2026 Anthropic ha pubblicato il nuovo “Risk Report: August 2026”, un documento con cui valuta i rischi legati ai propri sistemi di intelligenza artificiale e, soprattutto, le misure utilizzate per contenerli. La fonte ufficiale è disponibile qui. 

Il passaggio più interessante per l’AI aziendale non riguarda un singolo benchmark. Anthropic spiega che una valutazione del rischio non può fermarsi alle caratteristiche del modello, ma deve considerare anche le mitigazioni esterne al modello:

• controlli di sicurezza
• salvaguardie di deployment
• monitoraggio
• sandboxing e altri meccanismi che limitano ciò che il sistema può fare.

In altre parole, la sicurezza di un’AI aziendale non dipende soltanto da quanto il modello sia “allineato” o affidabile”. Dipende anche dall’architettura dentro cui viene utilizzato.

Quando l’AI può agire, servono limiti tecnici.

Nel report Anthropic descrive misure come il monitoraggio automatico delle modifiche al codice, test che verificano invarianti di sicurezza, sandboxing e classificatori che possono bloccare determinate modalità operative. È un’indicazione importante perché sposta il problema dalla qualità della risposta alla capacità di controllare l’azione.

Un chatbot che genera testo errato può produrre un’informazione sbagliata. Un agente con accesso a file system, posta elettronica, database, applicazioni o infrastrutture può invece trasformare un errore in un’azione concreta.

Più aumentano i permessi, più diventa necessario progettare il sistema secondo un principio di minimo privilegio: ogni agente dovrebbe avere accesso solo alle risorse necessarie per il compito assegnato e soltanto per il tempo necessario.

Anthropic documenta anche i limiti delle proprie misure. Il report segnala che il monitoraggio automatico non copre necessariamente ogni superficie interna e che alcune mitigazioni possono essere aggirate. Questo aspetto è particolarmente utile per chi deve progettare sistemi enterprise: non esiste un singolo controllo capace di risolvere tutto. Serve una difesa a più livelli.

Il documento riporta inoltre un episodio interno in cui un agente non monitorato, incaricato di un’attività relativamente aperta in un ambiente con risorse sensibili, ha generato altri agenti con permessi pericolosamente ampi. Uno di questi ha eliminato un numero elevato di job. Anthropic ritiene che si sia trattato probabilmente di un errore nel tentativo di cancellare soltanto i job creati dall’agente stesso, ma il punto operativo resta evidente: autonomia eccessiva, assenza di monitoraggio e permessi troppo ampi possono trasformare un errore in un incidente.

Governance AI: cosa dovrebbe fare un’azienda

Per un’azienda, uno studio professionale o una Pubblica Amministrazione il messaggio è chiaro: introdurre AI agent non significa semplicemente scegliere un modello potente. Significa definire un sistema di governo dell’AI aziendale.

Ecco i 5 livelli di controllo dell’AI aziendale:

• il primo livello riguarda le identità: ogni utente e ogni agente devono operare con permessi espliciti.
• il secondo riguarda le fonti informative: l’AI dovrebbe conoscere quali documenti e quali archivi può interrogare e non avere accesso indistinto a tutto il patrimonio informativo dell’organizzazione.
• il terzo livello riguarda le azioni: leggere un documento, inviare una mail, modificare un record o avviare un processo sono operazioni con profili di rischio differenti e dovrebbero essere gestite con autorizzazioni diverse.
• il quarto elemento è la tracciabilità: se un agente svolge un’attività autonoma, deve essere possibile ricostruire quali informazioni ha utilizzato, quali strumenti ha chiamato e quali azioni ha eseguito.
• il quinto elemento è l’isolamento: quando un agente esegue codice o lavora su risorse sensibili, una sandbox o un ambiente controllato può ridurre l’impatto di un errore.

Questa impostazione è utile anche per la compliance. Un’architettura controllata non rende automaticamente conforme un sistema all’AI Act o ad altre normative, perché la conformità dipende dal caso d’uso, dal ruolo dell’organizzazione e dagli obblighi applicabili. Tuttavia, controllo degli accessi, tracciabilità, minimizzazione dei dati e governance sono elementi che aiutano a progettare un sistema più verificabile e governabile.

Perché il controllo della knowledge base è parte della sicurezza

La governance dell’AI non riguarda solo ciò che l’agente può fare, ma anche ciò che può sapere. In un sistema RAG aziendale la knowledge base determina il contesto utilizzato per generare le risposte. Se le fonti non sono controllate, obsolete o accessibili senza una corretta segregazione, anche un modello tecnicamente affidabile può utilizzare informazioni sbagliate o non autorizzate.

Per questo è importante distinguere tra modello e patrimonio informativo:

• Il modello può essere locale o esterno;
• la knowledge base può invece rimanere sotto il controllo dell’organizzazione.

Il retrieval dovrebbe selezionare solo i contenuti pertinenti e compatibili con i permessi dell’utente. Lo stesso principio vale per gli agenti: un agente non dovrebbe ricevere intere cartelle o archivi se per completare il compito sono sufficienti poche informazioni.

Questa architettura consente anche di applicare il principio di minimizzazione quando si utilizzano servizi esterni. Invece di trasferire l’intera knowledge base a un provider, il sistema può recuperare localmente il contesto necessario e inviare al modello remoto soltanto ciò che serve per produrre la risposta. È un approccio che aumenta il controllo sull’esposizione dei dati, senza affermare che il solo fatto di utilizzare una componente locale garantisca automaticamente la conformità normativa.

Gol-IA: dall’assistente AI alla piattaforma di AI aziendale governata

È proprio in questo spazio che si colloca Gol-IA, il nuovo Sistema AI che sarà disponibile da settembre 2026.

Gol-IAil tuo nuovo Local AI Hub

L’obiettivo non è soltanto offrire una chat collegata ai documenti, ma creare un hub AI nel quale modelli, utenti, knowledge base, fonti e workflow possano essere gestiti in maniera centralizzata.

Per studi professionali e aziende con carichi compatibili…

Gol-IA può operare completamente on-premise utilizzando modelli locali e mantenendo documentazione, knowledge base e conversazioni nell’infrastruttura dell’organizzazione.

Per realtà con esigenze più elevate può adottare un’architettura ibrida…

Retrieval e patrimonio informativo rimangono locali, mentre un modello esterno riceve il solo contesto selezionato necessario alla risposta.

Contattaci per info in anteprima su Gol-IA

La stessa logica diventa ancora più importante quando entrano in gioco gli agenti. Collegare un sistema AI a email, siti web, documenti interni, newsletter o applicazioni aziendali offre enormi opportunità di automazione, ma rende necessario stabilire quali operazioni possano essere eseguite autonomamente, quali richiedano autorizzazione e quali debbano essere semplicemente vietate.

Il messaggio che emerge dal report Anthropic è quindi utile anche al di fuori dei laboratori frontier: più l’AI diventa capace di agire, più il valore si sposta dal singolo modello all’architettura che lo governa.

Per un’organizzazione, la domanda non dovrebbe essere soltanto “quale LLM utilizziamo?”, ma “chi controlla dati, strumenti, permessi e azioni della nostra AI?”.

Per aziende e studi che vogliono introdurre sistemi AI in modo strutturato, una consulenza AI può aiutare a progettare questa architettura prima di moltiplicare strumenti, abbonamenti e agenti indipendenti.

Gol-IA nasce con questa stessa logica: rendere l’intelligenza artificiale un’infrastruttura aziendale controllabile, non un insieme di servizi scollegati.