Il premio Turing e le avvertenze degli esperti
Andrew Barto e Richard Sutton, due figure di spicco nel campo dell’intelligenza artificiale, hanno recentemente ricevuto il prestigioso premio Turing, considerato il Nobel dell’informatica. Tuttavia, invece di festeggiare, i due esperti hanno scelto di lanciare un allerta sui potenziali pericoli legati all’uso prematuro e irresponsabile delle tecnologie AI. Secondo loro, molte aziende non effettuano test sufficienti sui loro prodotti prima di metterli a disposizione del pubblico. Questo approccio, paragonato a costruire un ponte e testarlo facendo passare la gente, solleva interrogativi sulla sicurezza e sull’affidabilità delle soluzioni AI attualmente disponibili.
Il valore del reinforcement learning
Barto e Sutton sono noti per aver sviluppato il “reinforcement learning”, una metodologia che consente ai sistemi di intelligenza artificiale di migliorare le proprie decisioni attraverso un processo di prova ed errore.
Questa tecnica ha rivoluzionato il modo in cui le macchine apprendono e si adattano, ma porta con sé anche una grande responsabilità. Come sottolinea Barto, “rilasciare software a milioni di persone senza precauzioni non è una buona pratica ingegneristica”. La loro preoccupazione si allinea con le opinioni di altri esperti del settore, come Yoshua Bengio e Geoffrey Hinton, che hanno espresso critiche simili riguardo allo sviluppo non sicuro delle tecnologie AI.
Le motivazioni commerciali e le conseguenze
Un altro punto sollevato da Barto riguarda le motivazioni commerciali delle aziende di intelligenza artificiale. Secondo lui, queste aziende sono spesso spinte da incentivi economici piuttosto che da un reale interesse per la sicurezza e l’affidabilità dei loro prodotti. Questo è particolarmente evidente nel caso di OpenAI, che ha recentemente annunciato la sua intenzione di trasformarsi in un’azienda a scopo di lucro, nonostante le promesse di migliorare la sicurezza delle tecnologie AI.
La situazione è complessa e richiede un’attenta riflessione da parte di tutti gli attori coinvolti, per garantire che l’innovazione non avvenga a scapito della sicurezza pubblica.
