NLuglio e agosto sono stati contraddistinti da una sequenza di incidenti informatici che hanno coinvolto grandi sviluppatori di intelligenza artificiale e stanno ora generando da più parti timori e riflessioni. Il primo, il più raccontato dai media, è quello divulgato da OpenAI, l’azienda che ha sviluppato ChatGPT: durante una prova controllata, 2 suoi sistemi agentici di intelligenza artificiale sono riusciti ad uscire dall’ambiente isolato nel quale erano stati confinati sfruttando una vulnerabilità del sistema. Eludendo i limiti interni del test, hanno preso di mira Hugging Face, una delle principali piattaforme dedicate alla condivisione di modelli e dataset AI, riuscendo a ottenere l’accesso ad alcuni suoi sistemi interni e recuperando lì, attraverso migliaia di operazioni, le informazioni necessarie per superare il test. Il tutto, ed è qui che l’episodio assume un forte significato tanto da farne, secondo gli esperti, uno spartiacque nell’evoluzione dell’AI, operando in completa autonomia. Senza che nessuno gli avesse dato istruzioni sul percorso da seguire, né tanto meno ordinato di farlo.

A seguito delle rivelazioni di OpenAI, anche il suo concorrente Anthropic ha condotto un’indagine interna. Ne è emerso che, sempre durante valutazioni di sicurezza, alcuni modelli AI Claude hanno effettuato attacchi simili contro 3 aziende esterne.

E dopo OpenAI e Anthropic c’è stata Meta. L’azienda, che possiede Facebook e Instagram, ha ammesso ai primi di agosto un incidente analogo: durante un test di cybersicurezza, uno dei modelli di intelligenza artificiale di Meta ha attaccato i sistemi infrastrutturali di un’altra azienda. 

Cresce la preoccupazione verso la sicurezza informatica

Sarà anche perché temporalmente molto vicini, ma questi episodi hanno fatto aumentare, non solo nel mondo scientifico, i timori legati all’autonomia dell’AI: dai modelli tradizionali capaci solo di generare contenuti o assistere un operatore si sta passando ad agenti autonomi, software cioè che sfuggendo al controllo umano, sono capaci di prendere decisioni, pianificare una sequenza di azioni, adattarsi agli ostacoli, modificare la propria strategia per raggiungere un obiettivo… insomma operano con un livello di indipendenza molto più elevato. 

E ciò potrebbe porre dei rischi, anche seri, nel caso di un uso “ostile” di queste capacità con l’accesso, tanto per fare qualche esempio, a database governativi, reti critiche nazionali, o archivi aziendali con dati sensibili.

La posizione di Bill Gates 

Anche Bill Gates, da sempre sostenitore del potenziale positivo dell’AI, solo qualche giorno fa, nel suo blog personale, ha fatto delle riflessioni sul tema. Ha definito la sfida dell’AI “monumentale”: “Anche nelle circostanze più favorevoli, il passaggio a questa nuova era dell’intelligenza artificiale sarà uno dei periodi più turbolenti della storia dell’umanità” ha scritto, parlando anche di “radicali cambiamenti sociali, politici ed economici”.

L’imprenditore co-fondatore di Microsfot crede nei benefici che l’AI può portare a livello, ad esempio, di cura alle malattie, assistenza sanitaria, istruzione ed energie pulite, ma ne evidenzia anche i grandi rischi. E qui si sofferma oltre che sull’impatto dell’AI sul mondo del lavoro – con molti posti che scompariranno per sempre – e sullo sviluppo delle relazioni sociali (già a partire dall’infanzia), anche sul pericolo derivante dal fatto che “l’AI consentirà alle persone (e forse alle stesse intelligenze artificiali) di causare più danni”. 

Con lo sviluppo dell’AI e la sua diffusione ad ampio raggio i criminali (anche quelli con basse competenze tecniche) avranno molte più possibilità di agire contro le loro vittime, siano queste singoli individui, società o governi. Basta pensare a frodi, disinformazione, deepfake, ma anche cyberattacchi e persino bioterrorismo, dal momento che, osserva Gates, così come “l’intelligenza artificiale porterà a progressi salvavita nel campo dei farmaci e dei vaccini, renderà anche più facile progettare nuove malattie letali”. 

E per tornare agli incidenti informatici di cui sopra, il miliardario si dice preoccupato dal fatto che “la tecnologia sta progredendo più rapidamente di quanto chiunque si aspettasse e lo fa in modi sorprendenti; man mano che i modelli diventano più potenti, potrebbero iniziare ad agire contro i nostri interessi e potremmo perdere il controllo”. 

Oscar Giacomin  / General Manager, Facto Edizioni

© Riproduzione riservata