Mézard: «Robot killer o fake news di regime. L’AI potenziale pericolo se in mani sbagliate»
foto da Quotidiani locali
TRIESTE. Che si tratti di trovare nuovi farmaci o di produrre nuovi materiali in grado, per esempio, di immagazzinare idrogeno green o di catturare la Co2, in campo scientifico l’intelligenza artificiale «è un formidabile acceleratore della ricerca, che ci fornirà strumenti inestimabili per affrontare le grandi sfide globali, dal cambiamento climatico a eventuali nuove pandemie. In effetti l’AI ha già cambiato il modo di fare ricerca scientifica e continuerà a farlo, consentendoci di risparmiare tempo prezioso e offrendoci nuovi metodi per migliorare la nostra efficienza nel calcolo. Ma il suo avanzamento non può essere lasciato al caso: si tratta di uno strumento molto potente, che se messo nelle mani sbagliate può diventare pericoloso. E le cui possibili implicazioni etiche vanno tenute in attenta considerazione». È il parere di Marc Mézard, ex direttore dell’Ecole Normale di Parigi, oggi professore di fisica teorica nel dipartimento di Scienze computazionali della Bocconi.
La fisica statistica sui sistemi disordinati
Mézard, la cui ricerca negli ultimi anni, oltre che sulla fisica statistica dei sistemi disordinati e le sue applicazioni nelle diverse discipline, si è concentrata sull’elaborazione dell’informazione nelle reti neurali, nell’apprendimento automatico e nelle reti profonde, sarà a Trieste oggi per partecipare, in qualità di presidente del Consiglio scientifico dell’Ictp, a un simposio internazionale dedicato al futuro del calcolo scientifico a livello globale, organizzato in occasione dei 60 anni dell’istituto. Parlerà in particolare dell’impatto dell’intelligenza artificiale sul calcolo scientifico e di come questo strumento stia cambiando il modo di fare scienza.
Professore, come sta cambiando il modo di fare ricerca scientifica grazie all’intelligenza artificiale?
«L’intelligenza artificiale sta diventando uno strumento imprescindibile nella ricerca scientifica, in quasi tutti i campi. Nella mia disciplina, la fisica, è utile per le attività sperimentali che accumulano molti dati, come nella fisica delle particelle o nell’astrofisica. Può essere utilizzata per individuare correlazioni “nascoste” tra variabili, che contengono informazioni preziose. Ma è utile anche dal punto di vista teorico, perché per esempio offre nuovi metodi per calcolare le proprietà quantistiche dei materiali, con una notevole efficienza».
Può farci l’esempio di una significativa scoperta scientifica che è stata facilitata dall’uso dell’AI?
«L’AI ci ha consentito di fare passi da gigante in biologia, tanto che oggi, grazie a questo strumento, siamo in grado di prevedere il ripiegamento delle proteine. Ciò è fondamentale per capire quali componenti della proteina si trovano sulla sua superficie e quali possono quindi interagire con altre molecole. Insomma, grazie all’intelligenza artificiale possiamo iniziare a leggere il grande libro della biologia e le potenziali proprietà delle molecole nelle loro sequenze».
Quali cambiamenti prevede che l’AI porterà nella nostra vita quotidiana nei prossimi 10-20 anni?
«Potrebbe diventare uno strumento utilizzato in molte attività quotidiane, una sorta di nuova tappa nello sviluppo del mondo digitale».
Quali sono le sfide etiche principali legate all’adozione dell’AI su larga scala, sia nella scienza che nella vita di tutti i giorni?
«Innanzitutto diventa cruciale la questione della proprietà e dell’uso dei dati. Prendiamo un modello generativo che è stato addestrato su una serie di immagini di sale da pranzo e usiamolo per disegnarne una nuova. A chi appartiene questo progetto? Credo che dovremo ripensare l’intera nozione di proprietà intellettuale e proteggere alcuni dei nostri dati personali fondamentali, come l’attività dei neuroni. Inoltre, l’intelligenza artificiale generativa rende molto facile la fabbricazione di fake news molto realistiche, utilizzando i volti o le voci di persone reali per far dire loro cose che non hanno mai detto. Questo è un problema molto importante per il futuro delle società democratiche: l’intelligenza artificiale è uno strumento molto potente, che diventa pericoloso se messo nelle mani sbagliate».
Quali sono i suoi timori principali sull’avanzamento dell’AI e come potrebbero essere mitigati?
«Non temo affatto la cosiddetta AI generale, ma sono preoccupato per l’uso improprio dell’AI così come esiste già. La fabbricazione di fake news e il controllo delle popolazioni da parte di regimi totalitari sono minacce molto concrete in questo momento. E mi preoccupano molto i robot assassini, capaci di decidere autonomamente di uccidere: come è avvenuto per le armi chimiche, un divieto globale di queste armi dovrà essere introdotto rapidamente». —