Oggi, durante la lezione, il professor Simoncini ci ha mostrato un video di Geopop che mi ha fatto riflettere molto sul tema dell’intelligenza artificiale. Pensavo di avere già un’idea abbastanza chiara dei suoi possibili rischi, ma il video mi ha permesso di guardare la questione da una prospettiva diversa e, soprattutto, di capire che il vero pericolo potrebbe non essere l’AI in sé, ma il modo in cui noi esseri umani scegliamo di svilupparla e utilizzarla. (Video di Geopop su Youtube: https://youtu.be/_kuPzNXF91U?si=HFIPB6Nr4FB0COno)
C’è un paradosso nel dibattito sull’intelligenza artificiale: a mettere in guardia dai suoi possibili pericoli sono proprio alcune delle persone che la stanno rendendo sempre più potente.
Negli ultimi tempi diversi protagonisti del settore hanno espresso preoccupazione per la velocità con cui l’AI sta evolvendo e il timore non riguarda tanto i robot che improvvisamente decidono di sterminare l’umanità, quanto qualcosa di molto più complesso. La possibilità che, un giorno, un sistema diventi così autonomo e capace da non essere più realmente controllabile dall’uomo.
Esistono due concetti al centro di questa paura: l’automiglioramento ricorsivo e il disallineamento.
L’automiglioramento ricorsivo descrive uno scenario in cui un’intelligenza artificiale potrebbe contribuire a migliorare sé stessa, creando sistemi sempre più potenti a una velocità superiore a quella con cui gli esseri umani riuscirebbero a comprenderli e controllarli.
Il disallineamento, invece, è forse ancora più inquietante. Significa che un’AI potrebbe continuare a perseguire l’obiettivo che le abbiamo assegnato, ma farlo in un modo completamente diverso da quello che noi consideriamo accettabile.
Non servirebbe quindi una macchina “malvagia”. Basterebbe una macchina estremamente intelligente con un obiettivo sbagliato o interpretato nel modo sbagliato. Ed è proprio questo che rende lo scenario preoccupante.
Se in futuro sistemi sempre più autonomi avessero accesso a banche, ospedali, reti energetiche, infrastrutture o sistemi militari, un errore di progettazione o un comportamento non previsto potrebbe avere conseguenze enormi.
Ma c’è un elemento fondamentale da non dimenticare: questa situazione non sarebbe inevitabile.
Un’intelligenza artificiale non decide da sola quanto potere ricevere, siamo noi a costruirla, collegarla alle infrastrutture, darle accesso ai dati e stabilire quanto renderla autonoma. Per questo, se un giorno una AI diventasse davvero incontrollabile sarebbe difficile considerarlo semplicemente un “attacco delle macchine”, sarebbe anche il risultato delle decisioni umane che hanno permesso a quella tecnologia di arrivare fin lì.
Ed è qui che entra in gioco la regolamentazione. Il problema non è necessariamente fermare l’intelligenza artificiale, ma stabilire dei limiti prima che sia troppo tardi. Chi risponde se un sistema provoca un danno? Chi può controllarlo dall’esterno? E soprattutto: chi può spegnerlo? Sono domande che dovrebbero avere una risposta prima di affidare alle macchine poteri sempre maggiori.
La vera paura, quindi, non è che l’AI diventi umana, è che diventi molto più potente di noi mentre noi continuiamo a comportarci come se avessimo ancora tutto sotto controllo.
Se arriverà davvero un momento in cui l’intelligenza artificiale rappresenterà una minaccia per l’umanità, forse la domanda non sarà soltanto “Perché l’AI ci ha fatto questo?” dovremo chiederci anche “Perché glielo abbiamo permesso?”.
About The Author
