Articolo apparso nel maggio 2023 su “ChatGPT NEWS”, il blog di Luca Soltoggio
Intelligenza Artificiale: opportunità e sfide –L’intervista esclusiva con Franco Folini
Abbiamo posto alcune domande a Franco Folini, che ringraziamo per la disponibilità, in merito all’IAA e ai suoi sviluppi futuri.
Franco Folini è un imprenditore italiano con pluriennale esperienza nel campo della tecnologia e del digital marketing. È stato fondatore di Novedge, società di e-commerce con sede a San Francisco che si occupa di tecnologie per l’e-commerce, e ha insegnato alla Berkeley University. Dopo 15 anni in California, è tornato recentemente in Italia, dove ha fondato una propria società di consulenza e attualmente insegna all‘Università di Strasburgo e collabora con l‘IULM di Milano.
L’intervista
Franco, parlando di IA, non possiamo che partire da ChatGPT, che negli ultimi mesi ha fatto parlare di sé anche tra i non addetti ai lavori. A fine marzo il Garante italiano ha imposto un ultimatum ad OpenAI, che ha portato al blocco di ChatGPT per circa un mese nel nostro paese. Le preoccupazioni espresse dal Garante riguardano soprattutto problemi legati alla privacy, l’inesattezza dei dati forniti da ChatGPT e l’utilizzo dei dati pubblici di cittadini italiani per l’addestramento del modello. Secondo te queste preoccupazioni sono fondate?
I problemi di violazione della privacy segnalati dal Garante sono reali. Il Garante ha segnalato due tipi di violazioni: (1) ChatGPT non rispettava le normative europee in materia di GDPR, non indicava le restrizioni d’età all’utilizzo e non avvisava con chiarezza che le risposte generate possono essere errate e inaffidabili. (2) ChatGPT non avvisava noi utenti che le nostre domande e le relative risposte venivano costantemente utilizzate per riaddestrare ChatGPT, violando in questo modo qualunque aspettativa di privacy e confidenzialità. Se ad esempio nel corso di una conversazione con ChatGPT, inseriamo il numero della nostra carta di credito, questa informazione potrebbe essere usata nel formulare una risposta alla domanda di un altro utente. Questo è un problema molto serio, da non sottovalutare. Aziende come Samsung stanno infatti vietando l’uso di ChatGPT ai propri dipendenti, non tanto per avversione al sistema, quanto per evitare che dati aziendali riservati e, in particolare, il codice, diventino accessibili al di fuori dell’azienda. Samsung sta ora costruendo un proprio sistema di IA interno, equivalente a ChatGPT, destinato ai propri dipendenti, con l’intento di continuare a beneficiare di queste nuove tecnologie senza dover sacrificare la riservatezza. Tornando al Garante italiano, personalmente credo che il rapporto costi-benefici della decisione di bloccare l’accesso sia stato decisamente in rosso. Un bilancio in perdita per l’Italia come paese. Considerata la rapidissima diffusione ed evoluzione di ChatGPT, il ritardo, anche se di poche settimane, nell’accesso conseguente al blocco ha comportato costi elevati in termini di competitività che, a mio parere, non bastano a bilanciare le ragioni, seppur legittime, del blocco.
È possibile ottemperare a quanto richiesto dal garante, oppure i sistemi IA basati su LLM necessitano di questi dati per poter completare il loro addestramento? Esiste un dibattito del genere negli Stati Uniti?
OpenAI, la società americana che ha creato ChatGPT, ha affrontato il problema consentendo di escludere le conversazioni dal sistema di retraining di ChatGPT. Questa decisione è certamente un buon inizio che ci consente di proteggere le conversazioni più delicate da sguardi indiscreti, ma è chiaro che i creatori di ChatGPT sono alla ricerca di qualunque cosa possa aiutare a far maturare il sistema migliorando la qualità delle risposte e la comprensione delle domande. Gli sviluppatori hanno anche l’obiettivo di limitare quelle che in gergo vengono chiamate “allucinazioni”, cioè risposte errate generate quando ChatGPT, durante la fase di training, non ha avuto accesso a materiale sufficiente su un argomento specifico.
Al netto dell’aspetto sollevato dal Garante, esiste un ampio dibattito a livello mondiale sui pericoli dell’IA. Mi riferisco in particolare alla richiesta di moratoria del Future of Life Institute, firmata da Elon Musk e da altri esperti del settore. Esiste davvero, a suo avviso, un rischio così grande che l’IA ci sfugga di mano? È prefigurabile un futuro distopico, come ipotizzato, ad esempio, da Geoffrey Hinton – padrino dell’IA – in cui l’IA possa autonomamente “pensare” di prendere il controllo del mondo e cercare di distruggere l’umanità?
Non sono particolarmente preoccupato per il rischio che l’intelligenza artificiale prenda il controllo di tutti noi, sottomettendo l’intera umanità ai suoi desideri. Mi preoccupano molto di più gli usi negativi che criminali, dittatori, estremisti e personaggi privi di valori etici potrebbero fare di queste potentissime tecnologie. Ogni giorno vediamo l’intelligenza artificiale abbattere barriere che credevamo insuperabili. Nei giorni scorsi sono usciti alcuni articoli che descrivono esperimenti in cui un sistema di machine learning impara a catturare i pensieri di un essere umano. I pensieri vengono rilevati tramite tecniche di risonanza magnetica funzionale (Functional MRI) e tradotti in testo con una precisione stimata intorno all’80%. Questo significa che i nostri più segreti pensieri sono ora a rischio. In circostanze particolari, i segreti della nostra mente potrebbero essere violati da un malintenzionato o da un poliziotto. Altrettanto preoccupanti sono alcuni esperimenti in cui un sistema di machine learning, opportunamente addestrato, riconosce la forma, il numero e le posizioni delle persone in una stanza a cui non ha accesso, semplicemente analizzando un segnale Wi‑Fi. Dunque, anche la privacy della nostra abitazione potrebbe crollare se questi strumenti finissero nelle mani di persone poco scrupolose. Potrei continuare ad elencare ulteriori usi preoccupanti di queste tecnologie. Diventa quindi urgente cominciare a pensare, come comunità e come singoli cittadini, quali limitazioni desideriamo imporre ai sistemi di intelligenza artificiale. La situazione è ancora estremamente fluida e in rapida evoluzione, per cui è prematuro stabilire regole rigide, ma certamente è giunto il momento di cominciare a parlarne. Nel mio piccolo sto facendo un lavoro di divulgazione per dare alle persone, in particolare a chi non ha un background tecnico, un bagaglio minimo di conoscenze per poter partecipare in modo attivo e propositivo a questa importante e necessaria discussione.Un’altra
Un’altra critica all’IA è che possa soppiantare il lavoro, alimentando in modo significativo la crisi occupazionale a livello mondiale. Qual è la tua opinione in merito?
Gli economisti assicurano che queste ondate di cambiamenti nel medio termine creano più posti di lavoro di quanti ne distruggano. Vorrei sinceramente credere a queste affermazioni, ma sappiamo tutti che gli economisti non sono particolarmente affidabili quando si tratta di fare previsioni. Indubbiamente una serie di lavori è destinata, se non a scomparire integralmente, certamente a ridimensionarsi. È estremamente difficile, oggi, prevedere come il mondo del lavoro si configurerà nei prossimi anni. L’unica certezza assoluta è che moltissimi lavori sono destinati a cambiare, anche se non è ancora chiaro come e quanto. Alcuni esperti di innovazione tecnologica affermano che, nel giro di cinque anni, tutti i lavori che oggi possono essere svolti in remoto saranno trasferibili a sistemi basati su intelligenza artificiale e automatizzati. Una prospettiva decisamente preoccupante. Ciò che nessuno aveva previsto è che i cambiamenti in arrivo colpiranno primariamente i lavoratori in posizioni intermedie, risparmiando, almeno per ora, i lavoratori di fascia bassa, quelli che sono ancora fortemente basati sul lavoro manuale. Anche in questo caso dovremmo parlarne e discuterne come comunità, ben prima che questi cambiamenti arrivino ad impattare le nostre vite. Evitiamo di lasciare che queste decisioni siano prese dalle aziende che inevitabilmente sono guidate dalla legittima ricerca del profitto e dall’esigenza di proteggere la propria competitività. A livello personale, ci sono alcune cose che possiamo fare per proteggerci dagli scenari più pessimistici. Possiamo, ad esempio, coltivare le caratteristiche esclusivamente umane, come la capacità di comunicare efficacemente e di fare networking professionale, per stringere alleanze e avviare collaborazioni. Infine, dobbiamo rinnovare e rinvigorire il nostro impegno e la nostra determinazione per un aggiornamento professionale costante.
Tu sei un esperto di Social Networks e di Digital Marketing. Pur avendo dato la possibilità a tante persone di conoscersi e condividere conoscenza, e a tante aziende di mostrarsi al mondo, i social hanno evidenziato negli anni una serie di aspetti negativi e fortemente impattanti sulla nostra società: fake news e disinformazione, polarizzazione ed echo chambers, cyberbullismo, isolamento adolescenziale ed iperconnessione, appiattimento ed uniformità delle idee. Una tecnologia come quella di ChatGPT non rischia di amplificare in modo esponenziale questi fenomeni?
Il rischio di condizionamento della popolazione attraverso i social media e altri canali di comunicazione esiste ed è rilevante. Diversamente da molti esperti, credo che presto ci abitueremo all’invasione delle fake news e impareremo a non credere più a nulla di quanto vedremo apparire sui social. Il che creerà altri problemi, forse anche più gravi, come la certificazione delle fonti di informazione. Molto dipenderà anche dalle restrizioni e dai controlli che, come società civile, decideremo di imporre ai sistemi di intelligenza artificiale. Basti pensare alle devastanti conseguenze che abbiamo sperimentato e continuiamo a vedere da quando Facebook e altre piattaforme di social media hanno assegnatoA, alcuni anni fa all’IAA, il compito di massimizzare il tempo trascorso e il numero di interazioni degli utenti sulle loro pagine (feed). Una scelta che credo sia stata fatta senza secondi fini, semplicemente guidata dall’intento di massimizzare i profitti delle piattaforme. In pochissimi anni, questo uso dell’IA ha generato effetti collaterali gravissimi. Abbiamo assistito al fiorire delle conspiracy theories, all’estremizzazione del panorama politico, all’emergere in tutto il mondo di figure politiche chiaramente mediocri ma con innegabili capacità di dominare e controllare la folla dei social. Per fare una metafora semplice, possiamo vedere ChatGPT e le tecnologie dell’intelligenza artificiale come il fuoco. Se usato bene il fuoco ci scalda, cucina i nostri cibi, e genera energia. Se usato male e non controllato, il fuoco può incendiare la nostra casa e intere città.
Parliamo ora degli aspetti positivi: quali sono e quali saranno i benefici delle IA nelle nostre vite? Quali settori risentiranno maggiormente di tali benefici? Quali lavori trarranno il maggior beneficio da queste tecnologie?
Gli aspetti positivi dell’intelligenza artificiale saranno numerosi. Molti scienziati ci dicono che stiamo per assistere ad una “superesplosione scientifica”. Gli strumenti di intelligenza artificiale apporteranno un’incredibile accelerazione allo sviluppo scientifico. È importante notare che ci stiamo avviando verso una fase di progresso che non sarà lineare ma esponenziale. I cambiamenti nelle nostre vite a cui abbiamo assistito negli ultimi 20 anni, Internet e gli smartphone, per citarne solo due, non saranno nulla in confronto al numero e alla portata delle novità tecnologiche e scientifiche in arrivo. Cambiamenti che rivoluzioneranno il nostro modo di vivere come individui e come società. Un piccolo esempio lo abbiamo visto recentemente, quando a un sistema simile a ChatGPT è stato assegnato il compito di ottimizzare il proprio codice per ottenere risultati migliori con tempi e costi più bassi. Ebbene, grazie alle ottimizzazioni suggerite, la nuova versione del sistema consuma la metà delle risorse computazionali rispetto alla versione originale creata dagli umani. Se proviamo a proiettare questo meccanismo su altre tecnologie, possiamo facilmente intravedere il loro enorme potenziale e i benefici che, se usate con intenti costruttivi e non distruttivi, potranno portare all’umanità. L’unico ostacolo che si frappone tra noi e questi sviluppi positivi è l’ingordigia umana.
Nel mio lavoro, soprattutto per quanto riguarda la programmazione, ho visto un impatto positivo nell’utilizzo delle tecnologie LLM come ChatGPT, in particolare per il feedback nella creazione di codice e per l’error checking, che mi hanno permesso di migliorare notevolmente la qualità dei miei progetti e di accelerare i tempi di realizzazione. Come ha impattato tale tecnologia nel tuo lavoro e, in generale, che impatto sta avendo nel mondo dell’Information Technology?
Il lavoro di chi si occupa di marketing sta cambiando molto rapidamente. Per ora questi cambiamenti vanno nella direzione del miglioramento. Ogni giorno sul mercato arrivano nuovi strumenti per assistere chi si occupa di marketing nella creazione di nuovi contenuti, nuove campagne pubblicitarie, nuovi processi creativi e organizzativi e nuove immagini. Inevitabilmente, i costi per la creazione di contenuti sono destinati a crollare e, con essi, anche i compensi degli operatori del settore. Nel breve termine assisteremo a una riduzione dei redditi di molte figure professionali del marketing. Trovo molto difficile provare a indovinare come sarà organizzato un dipartimento di marketing fra 4 o 5 anni. Certamente molte mansioni saranno gestite dall’intelligenza artificiale e mi aspetto che gli umani avranno principalmente il compito di fare da supervisori, assicurandosi che tutto avvenga nei tempi e nei modi stabiliti. Ad esempio, questa stessa intervista, fra un anno o due, potrebbe risultare molto più interessante e accurata se fosse condotta da un sistema di intelligenza artificiale al mio posto. Anche in questo settore, oltre a vantaggi e benefici, ci sono dei pericoli in agguato. I sistemi di intelligenza artificiale stanno diventando sempre più bravi a creare descrizioni di prodotti irresistibili per noi umani. Non escludo che, prima o poi, si dovrà porre un limite alla capacità persuasiva di questi sistemi. Lasciare libertà assoluta a questi sistemi e ai loro utilizzatori potrebbe significare cedere il controllo su tutti i nostri desideri e ambizioni. Il che equivale a perdere la nostra libertà e il libero arbitrio. Certamente non una prospettiva allettante.
Dopo i modelli linguistici, i modelli di sintesi vocale e i modelli generativi di immagini, cosa dobbiamo aspettarci in futuro a livello di tecnologie A.I.?
ChatGPT, per quanto potente, rimane comunque un sistema generalista addestrato a svolgere ragionevolmente bene task anche molto diversi, ma senza alcuna specializzazione. Mentre ChatGPT continua a riscuotere un enorme successo, ogni giorno arrivano sul mercato nuove applicazioni che utilizzano tecniche analoghe a quelle di ChatGPT e che sono state addestrate per operare in un dominio limitato e ben definito e che quindi riescono a generare risultati di qualità superiore ai risultati ottenibili con ChatGPT. Un altro settore interessante in evoluzione saranno i sistemi aziendali di intelligenza artificiale, che saranno installati sui computer aziendali e completamente controllabili dalle aziende. Per ragioni di privacy e di protezione dei dati, numerosi processi aziendali sono al momento esclusi dall’uso di ChatGPT. Pensiamo, ad esempio, ad attività che fanno un uso intensivo di dati sensibili, come il dipartimento delle risorse umane. Si intuisce facilmente che sarebbe una pessima idea se i responsabili delle risorse umane usassero ChatGPT per scrivere una lettera in cui si riferissero alle condizioni sanitarie o retributive di un dipendente. Una volta acquisite da ChatGPT, queste informazioni potrebbero riapparire sullo schermo di un’azienda concorrente o di un collega che svolge compiti analoghi, ma percepisce uno stipendio più basso. È difficile fare previsioni sull’evoluzione della tecnologia su cui si basa ChatGPT, ma, come accennato sopra, nei prossimi anni molti progressi saranno introdotti non solo dagli sviluppatori umani ma anche dai sistemi di intelligenza artificiale. Anche in questo caso, il principale ostacolo alla condivisione con tutta l’umanità degli enormi benefici che ci porteranno questi importanti progressi tecnologici potrebbe essere il cieco e poco lungimirante desiderio di ricchezza e di potere di qualche essere umano.
