Nell’ultima settimana, il mondo della sicurezza informatica aziendale è stato scosso da una notizia significativa: diversi grandi gruppi internazionali hanno subito attacchi mirati attraverso le piattaforme di intelligenza artificiale generativa. In particolare, secondo quanto riportato da fonti affidabili come Reuters e The Record, sono emersi casi in cui criminal hacker hanno sfruttato le API di popolari chatbot e servizi IA per ottenere informazioni sensibili o aggirare i controlli di sicurezza interni nelle aziende.
L’INCIDENTE: COME GLI ATTACCHI AI SI SONO EVOLUTI
Le tecniche di attacco descritte nella cronaca recente sono piuttosto sofisticate. Invece dei classici tentativi di phishing o malware, i criminali si sono avvalsi di prompt manipolativi e di un uso abusivo delle API di servizi come ChatGPT ed equivalenti, riuscendo a ricavare informazioni riservate o generare output che, in mani sbagliate, possono agevolare attacchi informatici o la produzione di contenuti falsi a scopo di inganno.
L’elemento davvero innovativo è la modalità di attacco “indiretta”: invece di prendere di mira direttamente i database aziendali, l’aggressore induce il personale o i sistemi automatici a fornire dati riservati tramite richieste apparentemente innocue verso tool di intelligenza artificiale. In alcuni casi, sono state persino simulate identità credibili sfruttando modelli di deepfake per carpire fiducia. Questo scenario segna una nuova fase nel rischio informatico d’impresa: la commistione tra fattore umano e vulnerabilità tecnologica.
IMPATTO SULLA VITA D’AZIENDA
Il crescente impiego dell’AI in azienda non è più un tema da laboratori o reparti innovazione: modelli generativi, chatbot e strumenti di automazione sono integrati nel ciclo operativo quotidiano, nella generazione di documenti, supporto clienti, gestione dei dati HR, e molto altro. Questi strumenti, se mal gestiti, possono però rivelarsi una porta d’ingresso non presidiata per minacce nuove e ancora poco comprese.
Le aziende si trovano quindi di fronte ad un bivio: sfruttare l’efficienza e i vantaggi competitivi dell’intelligenza artificiale oppure rinunciare all’innovazione per paura dei rischi? La risposta non può essere radicale, ma va cercata nella creazione di policy, formazione e monitoraggio continuo dei flussi informativi, con una particolare attenzione a come vengono interfacciate le soluzioni di terze parti.
NUOVE NORMATIVE: TRA NIS 2 E AI ACT
Parallelamente agli incidenti, proprio questa settimana la Commissione Europea è tornata ad affrontare il tema della regolamentazione degli strumenti di intelligenza artificiale e della responsabilità delle aziende nel proteggerne l’uso. Tre driver normativi entrano in gioco:
1. NIS 2: la nuova direttiva sulla sicurezza delle reti e dei sistemi informativi – già recepita in Italia dal 2023 e oggetto di ulteriori discussioni dopo l’ultimo caso AI – impone alle aziende di settori critici (ma non solo, visto l’allargamento dei soggetti obbligati) nuovi obblighi specifici sulla gestione dei rischi degli strumenti digitali, compresi quelli di AI. L’estensione riguarda anche la formazione del personale e la verifica continua delle vulnerabilità nei sistemi compositi, dove l’AI gioca ormai un ruolo centrale.
2. GDPR e Privacy: il trattamento dei dati personali mediante strumenti di AI è sotto la lente delle autorità garanti nazionali e del Comitato Europeo per la Protezione dei Dati (EDPB). In questi giorni, EDPB ha pubblicato un nuovo parere focalizzato sugli obblighi di trasparenza e minimizzazione, stigmatizzando l’uso di prompt che consentano di estrapolare dati personali non necessari o non autorizzati.
3. AI ACT: la legge europea sull’intelligenza artificiale, ora in fase di implementazione, introduce regole specifiche sulla valutazione del rischio e sull’uso etico degli strumenti AI. In particolare gli articoli che riguardano l’accountability e la “sorveglianza continua” sono richiamati a gran voce dopo gli ultimi attacchi di social engineering mediati da AI.
BEST PRACTICE E RACCOMANDAZIONI OPERATIVE
Le aziende sono chiamate a investire in nuove aree della sicurezza informatica, spesso ancora poco presidiate. La risposta ai recenti incidenti si gioca su distinti livelli:
– Formazione dedicata ai rischi della AI-driven social engineering: il personale deve apprendere non solo i classici protocolli di sicurezza, ma anche come riconoscere manipolazioni e utilizzi ambigui degli strumenti di IA nel flusso quotidiano.
– Policy rigorose per l’uso delle API AI: Le interfacce di accesso alle AI (sia interne che di terze parti) devono essere mappate, monitorate e protette, evitando l’esposizione di informazioni sensibili anche involontariamente.
– Audit periodici sui flussi informativi e sugli output delle AI: La verifica e la pre-validazione delle risposte AI soprattutto in ambiti che trattano dati regolati (come dati personali, segreti aziendali, ecc.) diventano passaggi imprescindibili.
– Integrazione dei requisiti normativi (NIS 2, GDPR, AI ACT) già in fase di design: Non attendere che siano le authority o gli incidenti a stimolare l’allineamento, ma integrare il rispetto di compliance e privacy fin dal primo sviluppo o acquisizione di strumenti basati su AI.
– Collaborazione tra cybersecurity, compliance e reparti legali: La sicurezza non è più competenza esclusiva dell’IT, ma deve coinvolgere un ventaglio di reparti, per prevedere e coprire l’intero spettro di rischi normativi e operativi.
COSA INSEGNA QUESTA NUOVA MINACCIA?
Il caso delle settimane appena trascorse ci pone di fronte a una realtà ormai inevitabile: ogni grande passo avanti nell’innovazione comporta un aumento del rischio. L’integrazione dell’intelligenza artificiale in azienda vede un perimetro di attacco sempre più ampio e la necessità di aggiornare non solo le difese tecniche, ma anche le consapevolezze e i processi decisionali di ogni settore dell’impresa.
L’applicazione “cieca” di AI senza validazione e controllo attivo non è più sostenibile. Serve una presenza attiva della compliance, una cultura diffusa di rischio, e una governance in grado di riallinearsi ai nuovi scenari normativi (NIS 2, GDPR, AI ACT). Le aziende che sapranno cogliere il segnale oggi potranno continuare a innovare senza compromettere la sicurezza, la reputazione e la fiducia degli stakeholder.
In conclusione, quello che sembra un caso di attualità tecnica si conferma invece un vero spartiacque culturale e normativo. Solo una gestione integrata di rischio, tecnologia e compliance può difendere il patrimonio informativo – e il valore di business – nell’era AI.
Che ne pensi? fammi avere le tue considerazioni o condividi le tue esperienze. Dal dialogo nascono le idee migliori.
Andrea Bisio