Molti di noi hanno usato strumenti di intelligenza artificiale come ChatGPT, DALL-E e Mid Journey e sono rimasti sbalorditi da ciò che questi strumenti possono fare. Interagire con ChatGPT è come parlare con una persona reale che può rispondere a quasi tutte le domande che ci vengono in mente, spiegare argomenti complessi con parole semplici, riassumere articoli e persino scrivere poesie, con prosa alla Shakespeare, saggi e compiti a casa. DALL-E e Mid Journey sono in grado di produrre immagini spettacolari a partire da testi, rendendo artisti anche persone prive di capacità artistiche. Articoli di cronaca hanno annunciato con entusiasmo che gli strumenti di intelligenza artificiale hanno superato esami di legge, matematica e medicina. Gli abstract scritti da ChatGPT per le riviste di ricerca medica hanno ingannato scienziati, facendogli credere che fossero stati scritti da esseri umani. L'uso di questi strumenti e l'incessante clamore mediatico intorno all'IA hanno creato la percezione generale che siamo nel bel mezzo di una rivoluzione tecnologica senza precedenti che trasformerà le nostre vite.
La convinzione generale è che abbiamo già o stiamo per creare macchine con un'intelligenza simile a quella umana che saranno in grado di svolgere la maggior parte dei compiti che gli esseri umani possono svolgere, rendendo molti di noi superflui e togliendoci un'intera gamma di opportunità di lavoro. Sono apparsi moltissimi articoli che annunciano l'imminente scomparsa di milioni di posti di lavoro in fabbrica a causa dell'automazione e anche di un'intera gamma di professionisti, da giornalisti, scrittori e creatori di contenuti ad avvocati, insegnanti, programmatori di software e medici.
Per quanto spettacolari siano questi strumenti, sono davvero "intelligenti"? ChatGPT capisce davvero le domande o le interazioni che stiamo avendo con lui e comprende l'argomento quando risponde? Questi strumenti pensano come gli artisti quando producono immagini o poesie straordinarie? Molte persone, compresi gli esperti di IA, hanno affermato che questi strumenti mostrano "scintille di intelligenza artificiale generale" o intelligenza simile a quella umana - il Santo Graal della ricerca sull'IA. Vengono fatte affermazioni fantastiche sul raggiungimento del punto di "Singolarità dell'IA", con macchine che eguagliano e poi superano l'intelligenza umana. Tuttavia, non dobbiamo lasciarci ingannare da queste affermazioni. Questi strumenti di IA non possiedono in realtà nulla di simile all'intelligenza umana, né è probabile che l'attuale tendenza della ricerca sull'IA produca tali sistemi intelligenti nel prossimo futuro. Quando generano un testo, delle immagini o un persino codice, non hanno alcuna comprensione o padronanza della materia. Questa categoria di strumenti, chiamata IA generativa, funziona ingerendo enormi quantità di dati, praticamente tutti i dati relativi a testi e immagini disponibili pubblicamente su Internet. Imparano quindi modelli statistici all'interno dei dati, ad esempio quale parola o frase è probabile che venga dopo una parola o parte di una frase. Il testo o le immagini che producono sono un remix del testo che viene loro fornito utilizzando questi modelli statistici appresi. In pratica, ripropongono testi e immagini che hanno visto per farci credere di capire o padroneggiare un argomento.
Quanto detto non significa che questi strumenti non siano utili o impressionanti. Possono essere di immenso valore per aiutarci nel nostro lavoro. Solo che non sono "intelligenti" e affidarsi completamente a loro può portare a risultati errati e a volte disastrosi. Per fare un esempio, la funzione di completamento automatico dei nostri telefoni cellulari è molto utile quando si scrive al telefono, ma affidarsi completamente ai suggerimenti del completamento automatico senza correggerli può portare a errori di battitura e a messaggi non previsti dall'utente. Utilizziamo questa funzione come aiuto, senza affidarci completamente ad essa e senza considerarla veramente intelligente. La maggior parte degli strumenti di intelligenza artificiale generativa dovrebbe essere pensata e utilizzata in questo modo. ChatGPT è utile per riassumere o riformulare articoli o passaggi e persino per semplificare testi scritti in modo oscuro e complesso, ma non fornisce risposte autorevoli su alcun argomento né sostituisce adeguatamente l'uomo nella stesura di notiziari o saggi accademici. Allo stesso modo, i generatori di codice come copilot sono strumenti molto utili, ma nessun programmatore serio prenderebbe il codice generato così com'è senza rivederlo attentamente. Il problema è che, dato il clamore e la cultura della riduzione dei costi nel mondo degli affari di oggi, questi strumenti verranno utilizzati, e in molti casi lo sono, per sostituire completamente o con poca supervisione gli esseri umani, portando a risultati di scarsa qualità e a volte persino completamente errati. D'altro canto, dobbiamo evitare che l'IA generativa venga utilizzata per produrre cose come i video deepfake, che possono essere usati per diffondere disinformazione e manipolare le persone.
Ci sono anche preoccupazioni etiche riguardo all'arte, alla letteratura e ai film generati dall'IA. L'IA produce opere d'arte apparentemente nuove, ma in realtà impara dallo stile artistico di immagini e opere d'arte esistenti e può riprodurre lo stile senza copiare il contenuto, evitando così le accuse di plagio. In realtà, questo tipo di arte equivale a un plagio high-tech, poiché vengono generati contenuti basati su modelli statistici appresi, senza creatività.
I programmi di IA di cui abbiamo parlato finora rientrano nella categoria dell'IA generativa. Esistono altri tipi di IA che non vengono utilizzati per generare contenuti, ma per prendere decisioni o fare previsioni. Questi tipi di programmi di IA analizzano i dati passati e sviluppano correlazioni statistiche per prevedere i risultati futuri o identificare e classificare le cose. Questi programmi sono già stati impiegati in molte aziende, istituzioni governative e servizi in tutto il mondo. Abbiamo già numerosi esempi di sistemi decisionali di IA che negano a persone - che si trovano in posizioni legittime - richieste di risarcimento assicurativo, prestazioni mediche e ospedaliere e sussidi statali. Negli Stati Uniti i sistemi di intelligenza artificiale sono stati coinvolti nella scelta di carcerazione detentiva più lunga per le minoranze. Sono stati persino segnalati casi di revoca dei diritti parentali a genitori appartenenti a minoranze, sulla base di correlazioni statistiche errate che spesso si riducono al fatto che i genitori non hanno abbastanza soldi per nutrire e accudire adeguatamente i propri figli. A persone è stato negato il ricovero in ospedale o un'adeguata assistenza medica sulla base di questi sistemi di IA. Questi sistemi sono quasi sempre problematici e vanno contrastati. La scienza che sta alla base di questi sistemi è dubbia, poiché i dati utilizzati per addestrarli spesso non sono controllati scientificamente e le correlazioni statistiche che questi sistemi sviluppano per prendere le loro decisioni non sono quasi mai divulgate pubblicamente, rendendole oscure e arbitrarie. Spesso vengono utilizzati sistemi di IA da aziende e governi per ridurre i costi e negare benefici legittimi a clienti e cittadini.
Gli algoritmi di intelligenza artificiale sono utilizzati dalle aziende che si occupano di social media per determinare quali contenuti visualizzare sul nostro profilo e anche per eseguire la moderazione dei contenuti, cioè quali post o immagini violano le politiche e devono essere rimossi. Questi algoritmi non funzionano molto bene in termini di rilevamento effettivo di discorsi inappropriati o di odio, ma invece prendono di mira parole o argomenti politicamente scomodi per le autorità, dando luogo a una vera e propria censura in nome della moderazione dei contenuti, eliminando i post critici verso il partito al potere e i suoi leader, verso gli attacchi sostenuti dall'Occidente contro persone e paesi, come il genocidio israeliano a Gaza. Conosciamo bene il caos che gli algoritmi dei social media hanno causato con la propagazione di fake news e la creazione di bolle di filtraggio piene di odio.
E che dire dei robot basati sull'IA che sostituiscono i lavoratori dell'industria? Fare cose fisiche nel mondo reale richiede di affrontare la complessità, la mancanza di uniformità, il disordine e le situazioni impreviste. Richiede anche di esercitarsi a fare davvero queste cose e non solo a leggerle. È per questo motivo che i progressi nell'automazione del lavoro nelle fabbriche sono stati estremamente lenti. I robot possono gestire solo compiti ripetitivi fissi che coinvolgono oggetti rigidi identici, come in alcune catene di montaggio di automobili. Anche dopo anni di pubblicità delle auto senza conducente e di ingenti finanziamenti per la ricerca, la guida completamente automatizzata non sembra ancora realizzabile nel prossimo futuro. Ironia della sorte, l'IA anziché sostituire i posti di lavoro dei colletti blu come ci si aspettava, probabilmente sostituirà i posti di lavoro specifici dei colletti bianchi, come la trascrizione di testi dal parlato, la traduzione linguistica o il lavoro nei call center.
Tutto questo non significa che tutta l'IA sia cattiva o inutile. Molti programmi di IA sono certamente utili e possono fare miracoli se impiegati correttamente e utilizzati come strumenti di assistenza conoscendone i limiti. Tuttavia, il clamore generato intorno all'IA dalla stessa industria dell'IA e dai media è decisamente sproporzionato. L'IA non risolverà certamente tutti i nostri problemi. Né ci toglierà tutti i posti di lavoro e gli scenari fantascientifici di un'IA super-intelligente che si scatena e distrugge o schiavizza l'umanità non si verificheranno di certo a breve. È molto più probabile che i programmi e i servizi di IA vengano distribuiti senza un'adeguata verifica e supervisione, che non funzionino come pubblicizzato o che causino danni e difficoltà alle persone, negando loro l'accesso a servizi a cui hanno diritto, come le prestazioni sociali, i servizi ospedalieri e le richieste di assicurazione. Dobbiamo evitare la diffusione di questi sistemi oscuri e spingere i nostri governi a regolamentarne la diffusione.
Sostieni Resistenze.org.
Fai una donazione al Centro di Cultura e Documentazione Popolare.
Support Resistenze.org.
Make a donation to Centro di Cultura e Documentazione Popolare.
