C’è una premessa che circola da tempo negli ambienti dell’intelligenza artificiale e che periodicamente torna a galla grazie a qualche influencer, ricercatore o dirigente del settore: le aziende che stanno costruendo l’AI potrebbero star giocando una partita parecchio pericolosa. Il ragionamento è semplice. Se quello che raccontano è vero, allora dobbiamo prendere sul serio le loro previsioni più catastrofiche. Se invece stanno esagerando deliberatamente, abbiamo un altro problema: aziende private che utilizzano la paura dell’apocalisse per orientare governi, opinione pubblica e regolatori nella direzione che conviene loro.

In entrambi i casi, viene da chiedersi perché dovremmo prendere per oro colato ogni dichiarazione proveniente da chi ha miliardi di dollari investiti proprio nella tecnologia di cui sta descrivendo gli effetti devastanti.

La seconda ipotesi, quella della strategia commerciale travestita da allarme esistenziale, non è affatto assurda. Il settore tecnologico conosce perfettamente il valore della narrazione. Una tecnologia può essere presentata come inevitabile, rivoluzionaria, pericolosa, salvifica o apocalittica a seconda di quale risultato si voglia ottenere. E le richieste regolatorie possono funzionare in entrambe le direzioni.

Una grande azienda può chiedere meno regole perché le considera un freno all’innovazione. Oppure può chiedere più regole sapendo benissimo che rispettarle costa una quantità di denaro che una startup non possiede. In questo secondo caso la regolamentazione diventa una barriera all’ingresso elegantemente confezionata come tutela dell’umanità.

È il vecchio capitalismo, dopotutto. Solo con più server GPU e conferenze sul futuro dell’umanità.

Il problema è che, quando si passa dalla teoria alla fantascienza apocalittica, spesso si perde per strada un dettaglio piuttosto importante: l’infrastruttura fisica.

Prendiamo le reti elettriche, gli impianti chimici, i sistemi industriali, le infrastrutture idriche e gli impianti nucleari. Non sono enormi computer collegati a Internet che aspettano pazientemente che qualcuno pronunci il prompt giusto per trasformarli in una macchina infernale.

Molti sistemi industriali critici sono progettati proprio per ridurre il collegamento con le reti esterne. L’isolamento fisico, le segmentazioni di rete, i sistemi di controllo dedicati e, in alcuni casi, vere e proprie architetture air-gapped servono a impedire che un attacco informatico proveniente dall’esterno possa trasformarsi automaticamente in un disastro fisico.

Naturalmente un impianto isolato non è una fortezza medievale con il ponte levatoio alzato. Gli aggiornamenti arrivano da qualche parte, i backup devono essere trasferiti, i tecnici fanno manutenzione e dispositivi portatili, fornitori esterni e interfacce varie possono creare collegamenti indesiderati. La storia della cybersecurity industriale è piena di casi in cui il problema nasceva proprio da un collegamento che qualcuno aveva dimenticato di considerare.

L’air gap, insomma, non è una bacchetta magica. Ma introduce una differenza fondamentale che nelle profezie apocalittiche sull’AI viene spesso elegantemente rimossa dalla fotografia: un’intelligenza artificiale non può controllare ciò che non può raggiungere.

Per compromettere un sistema industriale bisogna quindi superare una serie concreta di ostacoli: trovare un percorso fino alla rete interessata, individuare una vulnerabilità sfruttabile, comprendere il sistema di controllo e trasformare l’intrusione digitale in un’azione fisica capace di produrre il danno desiderato. A quel punto entrano in scena hardware, software industriale, procedure operative, sistemi ridondanti, personale, manutenzione e sicurezza fisica.

Sono tutte cose terribilmente poco cinematografiche.

L’immaginario contemporaneo dell’AI funziona invece al contrario. L’algoritmo diventa una specie di mago onnipotente. Vede tutto, comprende tutto, penetra ovunque e, se particolarmente contrariato, decide di spegnere le centrali elettriche mentre fa collassare la rete idrica mondiale.

È una bella sceneggiatura. Come modello di sicurezza industriale è leggermente più discutibile.

Questo vale anche per il terrorismo informatico e per gli scenari di guerra. Un attore dotato di una AI molto potente potrebbe certamente aumentare enormemente la propria capacità di individuare vulnerabilità, automatizzare attacchi, produrre codice malevolo, analizzare reti e coordinare operazioni. Sarebbe un problema serio. Ma facilitare un attacco è una cosa; prendere semplicemente il controllo dell’infrastruttura planetaria è un’altra.

La differenza è precisamente quella che separa la tecnologia reale dalla fantascienza.

Ed è anche il motivo per cui bisognerebbe smettere di discutere dell’AI come se fosse una divinità incorporea. Le intelligenze artificiali girano su computer. I computer hanno bisogno di energia. Le reti hanno apparati fisici. I data center hanno sistemi di raffreddamento. Le infrastrutture hanno porte, cavi, operatori, procedure e manutenzione. Persino la tecnologia più sofisticata del pianeta continua ad avere bisogno di qualcuno che le paghi la bolletta.

Questa è una cosa che si dimentica facilmente quando si sale su un palco con una presentazione PowerPoint intitolata “The Future of Humanity”.

Perciò, la prossima volta che un CEO della Silicon Valley, un ricercatore o il solito guru di LinkedIn vi spiega che l’AI potrebbe prendere il controllo delle centrali elettriche, delle dighe e delle reti idriche del pianeta, sarebbe utile fare una domanda molto semplice: come?

Quale rete? Quale vulnerabilità? Quale sistema di controllo? Quale percorso fisico? Quale ridondanza? Quale operatore?

Non perché il rischio sia immaginario. Al contrario: proprio perché il rischio è reale, sarebbe opportuno descriverlo con precisione.

La cybersecurity industriale è un problema enorme anche senza trasformarlo in una puntata di Black Mirror. Un attacco sofisticato a un’infrastruttura critica può produrre conseguenze gravissime senza attribuire all’attaccante poteri quasi soprannaturali.

Il punto, alla fine, è abbastanza semplice. Possiamo discutere seriamente dei rischi dell’intelligenza artificiale, regolamentare ciò che va regolamentato, investire nella sicurezza delle infrastrutture critiche e prepararci a scenari che oggi sembrano improbabili.

Quello che possiamo evitare è prendere per buona ogni profezia apocalittica pronunciata da chi, contemporaneamente, sta cercando miliardi di investimenti e un posto privilegiato al tavolo dei regolatori.

Perché tra un’apocalisse imminente, una strategia di lobbying e un impianto industriale con metà dei sistemi scollegati dalla rete, esiste una quarta possibilità: che la realtà sia semplicemente molto più complicata e molto meno spettacolare.

E probabilmente è una buona notizia.

Nel frattempo, quando parte il prossimo podcast sull’AI che dominerà il mondo, possiamo ascoltarlo tranquillamente con una birra in mano.

Male che vada, almeno sappiamo dove sono i cavi.

(Giovanni Sarpi)

Prompt:



**1.** Partiamo da una premessa che circola da tempo in certi ambienti tech, e che un noto influencer ha recentemente rilanciato in modo piuttosto diretto: le aziende che sviluppano intelligenza artificiale stanno facendo un gioco pericoloso. O ci stanno dicendo la verità – e allora le loro previsioni apocalittiche sono reali, sincere e accurate – oppure ci stanno raccontando una balla colossale per orientare l'opinione pubblica e i governi verso una regolamentazione che avvantaggerebbe loro e danneggerebbe i concorrenti. In entrambi i casi, la situazione non è esattamente rosea.

**2.** La seconda ipotesi, quella della "balla strategica", non è affatto peregrina. Diversi osservatori hanno notato come le grandi aziende tech stiano cavalcando l'ansia pubblica per spingere agende anti-regolamentazione o, al contrario, per chiedere regole che poi finirebbero per favorire i incumbent. Un esempio su tutti: la narrazione secondo cui l'IA potrebbe estinguere l'umanità entro il decennio è stata definita da alcuni ricercatori "non una trovata di marketing", ma allo stesso tempo è usata per chiedere interventi governativi che, guarda caso, potrebbero creare barriere all'ingresso per i nuovi arrivati. Insomma, il confine tra allarme sincero e strategia commerciale è più sottile di quanto sembri.

**3.** Ma veniamo al punto che forse sfugge ai più, e che vale la pena ricordare ogni volta che si ascolta un nuovo monito catastrofista. Le infrastrutture critiche per la sopravvivenza – pensiamo agli impianti idraulici, chimici, nucleari, alle reti energetiche – non operano sulla stessa rete di una qualsiasi piattaforma di aggregazione sociale. Sono sistemi progettati per essere fisicamente separati da Internet, le cosiddette "air-gapped", proprio per ridurre la superficie d'attacco. La stessa CISA (Cybersecurity and Infrastructure Security Agency) raccomanda di mantenere un isolamento robusto dei sistemi operativi critici, con piani di recupero che prevedano anche percorsi SCADA manuali o alternativi.

**4.** Questo non significa che siano invulnerabili. Come ricordano diversi studi, anche i sistemi air-gapped hanno spesso "dozzine di punti di connessione non intenzionali" – aggiornamenti, backup, manutenzione – che possono diventare vettori d'attacco. Tuttavia, la differenza fondamentale è che un'intelligenza artificiale ostile non può "entrare, distruggere tutto e andarsene" con la stessa facilità con cui lo farebbe su una piattaforma cloud qualsiasi. Per colpire un impianto nucleare o una diga, servono accessi fisici, compromissioni di supply chain o operazioni umane, non un semplice prompt malevolo.

**5.** Quindi, la prossima volta che sentite un CEO o un ricercatore descrivere scenari da film di fantascienza in cui l'IA prende il controllo delle centrali elettriche e delle reti idriche del pianeta, ricordatevi di questa distinzione. Non è che il rischio non esista, ma è bene sapere che i sistemi che gestiscono l'acqua che beviamo, l'energia che consumiamo e i processi chimici che ci tengono in vita sono, per progettazione, molto più isolati di quanto la narrazione catastrofista lasci intendere.

**6.** Ora che lo sapete, potete pure riascoltarvi i soliti discorsi apocalittici sull'AI – quelli che vanno per la maggiore su LinkedIn, nelle conferenze e nei podcast – ma fatelo con una birra in mano. Perché tra un allarme sincero, una strategia di lobbying e una realtà fatta di sistemi scollegati, la verità è probabilmente più noiosa, ma anche più rassicurante, di quanto vogliano farci credere.

articolo: 1,2,3,4,5,6. Assumendo personalità, background e stile di scrittura di Giovanni Sarpi, descritte sopra nella chat, scrivi un Articolo; usa un tono brillante; evita le ripetizioni, le formule "non... non... non...", "ed è qui che...", "è qui che...", se non in maniera molto occasionale.