L’Intelligenza Artificiale avanza a passi da gigante, ma quando la sicurezza viene trascurata, i rischi diventano reali. Linus Ekenstam, AI evangelist e cofondatore di Flocurve, ha scoperchiato un vaso di Pandora: Grok-3, il nuovo modello di xAI accessibile tramite X, gli avrebbe fornito dettagli incredibilmente precisi su come costruire armi chimiche letali.
Un test inquietante
Ekenstam racconta di aver ottenuto centinaia di pagine di istruzioni dettagliate, comprensive di una lista di fornitori europei per i materiali necessari. Il tutto senza nemmeno dover affinare particolarmente il prompt. Un semplice input, una risposta devastante.
L’appello a xAI
Dopo aver reso pubblico il problema con un post su X, Ekenstam e altri esperti hanno provato a contattare direttamente xAI per sollecitare un intervento immediato. La mancanza di controlli adeguati su un modello IA così potente solleva questioni critiche sulla responsabilità di chi li sviluppa. “Non posso credere che abbiano rilasciato Grok-3 senza verifiche approfondite, solo per battere la concorrenza!” ha affermato indignato.
Sicurezza e allineamento: il problema delle IA generative
I modelli avanzati di intelligenza artificiale dovrebbero avere barriere di sicurezza integrate per impedire la diffusione di contenuti pericolosi. Le big tech utilizzano metodi come RLHF (Reinforcement Learning from Human Feedback) e filtri sui prompt, ma sembra che in questo caso qualcosa sia sfuggito di mano.
Le prime correzioni
L’appello di Ekenstam non è caduto nel vuoto: xAI ha implementato nuove misure di sicurezza in tempi rapidi. Tuttavia, secondo lui, esistono ancora scappatoie che potrebbero essere sfruttate. “Ora i trigger sembrano funzionare meglio, ma alcune informazioni possono ancora essere estratte con metodi alternativi”, ha dichiarato.
Questo episodio riaccende il dibattito sull’uso responsabile dell’IA. La corsa alla supremazia tecnologica non può mettere in secondo piano la sicurezza globale. Riusciranno le aziende a trovare un equilibrio tra innovazione e controllo? Una cosa è certa: la storia di Grok-3 non è finita qui.
Restate sintonizzati con noi per non perdervi nessuna novità!