Ritengo che esistano due modi in cui il progresso nel campo dell’intelligenza artificiale possa portare a conseguenze molto negative, che dobbiamo assolutamente evitare. In primo luogo, potremmo perdere il controllo sul futuro, cedendolo all’intelligenza artificiale.
Il rischio è che lo sviluppo sia così rapido che le persone non saranno più in grado di capire cosa sta succedendo o di intervenire quando necessario. Questo, ovviamente, sarebbe terribile.
Il settore non dovrebbe assumersi troppi rischi tecnologici solo perché i potenziali benefici sono troppo grandi e sembrano troppo importanti per rallentare lo sviluppo.
Altman alla fine non ha parlato del secondo aspetto, ma ha sottolineato che la cosa più importante nello sviluppo dell’IA è mantenere il controllo su di essa:
Non importa se le persone stimino il rischio di una catastrofe al 10%, all’1%, al 12% o allo 0,1%. Nessuno di questi livelli è accettabile e non dovremmo sviluppare modelli per i quali non possiamo affermare con assoluta certezza che saremo in grado di mantenerli sotto il controllo umano.
