L’intelligenza artificiale vi fa paura? Non avete tutti i torti… Un’AI ha recentemente sviluppato quarantamila nuove armi chimiche letali. Il tutto in sole sei ore. Lo studio alla base di questa ricerca voleva appunto mostrare quanto distruttiva potrebbe essere l’AI svincolata dal controllo etico. Il futuro della guerra chimica passa dalle intelligenze artificiali.
In meno di sei ore, un’intelligenza artificiale progettata per sviluppare farmaci, dopo essere stata riprogrammata, è riuscita a creare quarantamila molecole letali.
Una guerra chimica esiziale organizzata in meno di sei ore
Non è affatto difficile modificare un software di progettazione di farmaci per creare nuove armi chimiche. A quanto pare, è bastato chiedere al programma di aumentare, invece di ridurre, la tossicità delle molecole. Lo spettro di una guerra chimica globale aleggia sul mondo, e le AI potrebbero trasformare questo incubo in realtà in pochissime ore.
La ricerca di Fabio Urbina e Sean Ekins della Collaborations Pharmaceuticals si basa sulla riprogrammazione di una AI per progettare armi chimiche, completamente nuove e più dannose. Secondo i ricercatori ci sono volute meno di sei ore affinché l’AI utilizzata per lo sviluppo di farmaci cominciasse a programmare armi chimiche. In breve tempo, la macchina ha sintetizzato quarantamila molecole potenzialmente letali per l’uomo.
I ricercatori si sono limitati a istruire l’intelligenza artificiale affinché aumentasse la tossicità delle molecole. E in questo modo hanno mostrato quanto è semplice armarsi per una grande guerra chimica. Ciò significa che, in teoria, tutte le AI usate in ambito farmaceutico possono essere modificate per creare danni.
Risultati inquietanti
I ricercatori hanno mostrato i risultati del loro studio durante una conferenza sul controllo degli armamenti biologici. Per creare un nuovo arsenale chimico è stato sufficiente riprogrammare la metodologia di ricerca. Invece di eliminare la tossicità, la macchina ha cominciato a sviluppare molecole letali. Senza sforzo, quindi, l’intelligenza artificiale ha prodotto decine di migliaia di nuove sostanze. Alcune delle quali simili al VX, che è il più potente agente nervino mai sviluppato.
Tale evidenza ci inquieta e ci pone di fronte a quei limiti ventilati dalla bioetica che negli ultimi anni abbiamo ignorato. Il progresso dell’informatica ci espone a enormi pericoli. E il pericolo più grande sta proprio nella facilità nel replicare l’esperimento. Non esistono limiti per per l’uso delle AI e questo è grave, specie in un momento così delicato come quello che stiamo vivendo.
