Attacchi che sfruttano l'IA, vulnerabilità dei modelli, truffe con voci e volti sintetici: come cambia il rischio per aziende e persone.
L'intelligenza artificiale ha ampliato sia le difese sia gli attacchi. Le truffe diventano più credibili, il codice malevolo più rapido da produrre, e i modelli stessi introducono vulnerabilità nuove nei sistemi che li adottano.
Istruzioni nascoste nei contenuti, dati riservati inseriti nei prompt, risposte errate usate come se fossero verificate, agenti autorizzati ad agire su sistemi reali: sono problemi di sicurezza, non difetti estetici.
Voci clonate, video manipolati e messaggi personalizzati rendono meno affidabile il riconoscimento umano. Le contromisure efficaci sono procedurali prima che tecnologiche: verifiche a più canali, limiti sui pagamenti, formazione.
Censire dove l'IA è già usata, definire quali dati possono entrare nei modelli, registrare le azioni degli agenti e stabilire chi risponde degli errori.
Dario Amodei, CEO di Anthropic, lancia un appello per un rallentamento controllato nello sviluppo dei modelli AI più avanzati. La sua proposta mira a dare priorità alla sicurezza e ai test indipendenti per mitigare i rischi emergenti, come danni sistemici causati da agenti autonomi.
Il Comune di Treviso adotta un regolamento restrittivo sull'AI generativa nella pubblica amministrazione. La misura, pensata per la sicurezza dei dati, riaccende il dibattito sull'approccio più efficace: limitare o formare?
La sovranità digitale è la capacità di scegliere alternative tecnologiche libere da dipendenze eccessive. Non significa rinunciare ai servizi commerciali, ma riprendere il controllo sui dati, il software e le infrastrutture.
OpenAI si prepara a lanciare Astra, il primo modello dell'azienda classificato nella fascia “Critical” per le capacità di cybersecurity. Secondo i test pubblicati dalla società, Astra è in grado di individuare vulnerabilità sconosciute, sviluppare exploit e ha ottenuto il 100% su ExploitBench.