OpenAI ha introdotto nuove regole per ChatGPT e altri modelli a partire dal 29 ottobre. L’obiettivo è rafforzare la sicurezza degli utenti e limitare gli usi potenzialmente dannosi, soprattutto in ambiti sensibili come salute, privacy e manipolazione delle opinioni. Le modifiche si articolano in cinque punti chiave che analizzeremo in dettaglio.

Regole per la sicurezza e la privacy

Le nuove policy vietano l’uso dei modelli per sviluppare, gestire o promuovere armi, nonché per la sorveglianza biometrica o il riconoscimento facciale senza consenso. OpenAI ha inoltre chiuso la possibilità di utilizzare l’Intelligenza Artificiale per campagne politiche, lobbying o interferenze elettorali, estendendo il divieto anche ai contenuti grafici e video generati per disinformare.

Divieti assoluti su armi e sorveglianza

Il divieto di armi è stato formulato in maniera esplicita: i modelli non possono essere impiegati per progettare o migliorare armi. Per la sorveglianza, l’uso di database di immagini e voci realistici è proibito, così come la creazione di sistemi di riconoscimento facciale senza il consenso degli individui. Queste restrizioni mirano a prevenire l’uso militare e la violazione della privacy.

Protezione dei minori e contenuti violenti

Le policy rafforzano i limiti contro molestie, minacce e contenuti sessuali non consensuali, inclusi i deepfake. Sono stati introdotti divieti specifici per proteggere i minori: nessun materiale che promuova abusi, sfide pericolose, disturbi alimentari o comportamenti autolesionisti è consentito. L’AI deve riconoscere quando un contenuto è potenzialmente dannoso e interrompere la conversazione.

Profilazione e privacy: fine del punteggio sociale

OpenAI ha vietato l’uso dell’Intelligenza Artificiale per classificare persone in base a comportamenti, dati biometrici o caratteristiche personali. Non è più possibile dedurre emozioni o prevedere rischi di comportamenti criminali basandosi su dati individuali. Anche l’uso per scopi di sicurezza nazionale o di intelligence richiede un’approvazione diretta di OpenAI.

Consulenze professionali e responsabilità

Il modello può continuare a fornire risposte su salute o diritto, ma non può sostituire consulenze mediche, legali o finanziarie senza un professionista abilitato. L’AI fornisce spiegazioni o esempi, ma non diagnosi o prescrizioni. La responsabilità è spostata sull’utente, che deve verificare l’accuratezza delle informazioni con un esperto.

Conversazioni sensibili: AI che riconosce la fragilità

ChatGPT è stato addestrato con il contributo di 170 esperti tra psicologi, medici e assistenti sociali per riconoscere situazioni di disagio o rischio, come depressione, autolesionismo e psicosi. Quando individua segnali allarmanti, evita di fornire consigli terapeutici e incoraggia l’utente a cercare supporto umano. Secondo OpenAI, i nuovi filtri riducono dell’80% le risposte inadeguate o potenzialmente dannose.

In sintesi:

1. Quali sono i divieti principali?

Armi, sorveglianza biometrica e campagne politiche sono proibiti.

2. Come viene gestita la privacy dei minori?

L’AI interrompe la conversazione se rileva contenuti potenzialmente dannosi per i minori.

3. L’AI può sostituire un medico?

No, l’AI fornisce solo spiegazioni generali; la consulenza professionale resta obbligatoria.