Elon Musk ha lanciato l’allarme sull’intelligenza artificiale, insieme ad altri 1000 fra ricercatori e manager che, in una lettera aperta, chiedono uno stop dei governi per evitare uno “scenario Terminator”.
Elon Musk e l’allarme sull’intelligenza artificiale: la lettera di ricercatori e manager
Elon Musk e altri 1000 ricercatori e manager, in una lettera aperta, hanno chiesto uno stop o una moratoria dei governi per evitare il tanto temuto “scenario Terminator” e permettere lo sviluppo di protocolli di sicurezza condivisi. L’intelligenza artificiale porta “profondi rischi per la società e l’umanità” e per questo servirebbe una “pausa” di almeno sei mesi nel continuare ad addestrare i sistemi più avanzati. La lettera, pubblicata dall’organizzazione no profit Future of Life Institute, vanta firme davvero importanti e proprio per questo è stata presa molto seriamente.
A sottoscriverla ci sono anche Steve Wozniak, co-fondatore di Apple, ma anche i fondatori di Pinterest e Skype, così come i fondatori delle start up di intelligenza artificiale Stability AI e Characters.ai.
Tra le firme spicca anche quella del patron di Tesla, che aspira a migliorare il cervello con Neuralink, dopo aver contribuito a trasformare l’industria dello spazio con SpaceX e rivoluzionare quella delle auto. Appassionato di tecnologia, Elon Musk ha investito in società di intelligenza artificiale ed è stato nel Cda di OpenAI, colosso del settore su cui Microsoft ha scommesso miliardi di dollari. Questi investimenti, ha spiegato il miliardario, sono stati fatti “non per guadagnare” ma “per tenersi al passo con i tempi”. Per questo colpisce la sua firma, perché conosce perfettamente queste tecnologie.
L’allarme sull’intelligenza artificiale e lo “scenario Terminator”
Nel mirino della lettera non c’è tutta l’intelligenza artificiale, ma i sistemi più avanzati di GPT-4, la chatbot di OpenAI, in grado di raccontare barzellette e superare esami, come quello per diventare avvocato. “I sistemi potenti di IA dovrebbero essere sviluppati solo quando si ha fiducia che i loro effetti saranno positivi e i loro rischi gestibili” si legge nella lettera, in cui si parla di una “corsa fuori controllo allo sviluppo e al dispiegamento di potenti menti digitali che nessuno, neanche i loro creatori, possono capire, prevedere e controllare”. Una corsa che, se non verrà fermata, rischia di trasformare in realtà la fantascientifica “Skynet”, protagonista dei film Terminator di James Cameron, e la sua decisione di distruggere l’umanità.
Un altro rischio è quello che questi potenti sistemi finiscano in mani sbagliate. Pechino vede l’intelligenza artificiale come uno “strumento o un’arma per perfezionare la sua sorveglianza orwelliana tecno-totalitaria”, come ha avvertito il senatore Mike Gallagher a capo della commissione della Camera Usa sulla Cina.
Il timore delle conseguenze catastrofiche ha spinto i grandi dell’hi-tech a chiedere una pausa di sei mesi da usare per lo “sviluppo congiunto e l’implementazione di protocolli condivisi” che possano assicurare la “sicurezza” dei sistemi “al di là di ogni ragionevole dubbio”, come è stato scritto nella lettera. Si chiede ai laboratori di IA di concentrarsi nel rendere più “accurati, trasparenti, credibili e leali” gli attuali sistemi invece di correre verso mezzi ancora più potenti. “La società ha fatto una pausa su altre tecnologie con effetti potenzialmente catastrofici. Possiamo farlo anche in questo caso. Godiamoci una lunga estate dell’IA, e non corriamo impreparati verso l’autunno” si legge ancora nella lettera.
