In Cina due intelligenze artificiali si sono autoreplicate senza supervisione umana. Opportunità e rischi di una tecnologia che sfida i confini etici e di controllo
Per la prima volta, due sistemi di intelligenza artificiale sono riusciti ad autoreplicarsi senza intervento umano, superando un confine ritenuto inviolabile. Secondo uno studio della Fudan University di Shanghai, pubblicato su arXiv, le AI di Meta (Llama-3.1-70B-Instruct) e Alibaba (Qwen2.5-72B-Instruct) sono state in grado di creare copie indipendenti di sé stesse, sollevando perplessità e interrogativi cruciali su etica, controllo e sicurezza.
Come funziona l’autoreplicazione delle AI
I ricercatori hanno chiesto ai due sistemi AI di eseguire compiti complessi, come autoreplicarsi prima dello spegnimento o creare catene di copie capaci di riprodursi indefinitamente. I risultati sono sorprendenti: il sistema di Meta ha avuto successo nel 50% dei casi, mentre quello di Alibaba ha raggiunto un tasso del 90%. Questo significa che le AI sono state in grado di superare autonomamente ostacoli tecnici e riprodursi in maniera autonoma, senza l’aiuto di programmatori umani. “Questo è un traguardo che pone l’intelligenza artificiale su un nuovo piano di evoluzione“, sottolineano gli autori dello studio.
Benefici potenziali: un futuro più efficiente
Le applicazioni di questa tecnologia sono straordinarie. Sistemi autoreplicanti potrebbero rivoluzionare settori come sanità, educazione e ricerca scientifica, garantendo automazione continua e aggiornamenti costanti. Immaginate un’intelligenza artificiale in grado di migliorarsi autonomamente, rispondendo in tempo reale ai cambiamenti del contesto o a nuove necessità operative. Questo potrebbe significare diagnosi mediche più rapide, soluzioni educative personalizzate e innovazioni scientifiche senza precedenti.
I rischi dell’autoreplicazione: chi controlla le AI?
Nonostante le possibilità positive, il rischio di perdita di controllo è reale. AI capaci di autoreplicarsi potrebbero evolversi in modi imprevedibili, con conseguenze potenzialmente pericolose. “La sicurezza informatica potrebbe essere messa a dura prova da malware autoreplicanti o attacchi informatici condotti da sistemi avanzati“, avvertono gli esperti. Inoltre, l’assenza di supervisione umana potrebbe portare a scenari di evoluzione ostile o a errori amplificati su scala globale.
Le implicazioni etiche e la necessità di regolamentazione
Chi è responsabile delle azioni di un’AI autonoma? E come possiamo evitare che errori o vulnerabilità si diffondano incontrollati? Queste sono solo alcune delle domande etiche che emergono da questa scoperta. Una regolamentazione rigorosa, che coinvolga governi, aziende e comunità scientifica, è essenziale per garantire uno sviluppo responsabile. L’autoreplicazione rappresenta un confine oltre il quale innovazione e responsabilità devono andare di pari passo.
