Oristano 14 ottobre 2026
Cari amici,
Che l’avanzare dell’A.I.
(Intelligenza Artificiale) senza i necessari controlli (da effettuarsi passo
dopo passo) sia un pericolo sempre più concreto anche per l’esistenza umana è,
ormai, praticamente una certezza. Già diversi responsabili (come ricercatori di OPEN AI), si sono
chiaramente espressi sui rischi connessi,
che potrebbero addirittura arrivare al rischio fatale di estinzione umana,
previsto al 70 per cento entro tre anni.
Marcus Williams è n
membro dello staff tecnico del team Safety Oversight di OpenAI. Entrato in
azienda a maggio del 2025, è stato uno dei primi a lanciare l'allarme su X.
Prima ha pubblicato l'avvertimento e successivamente, dopo la richiesta di un
altro utente, ha fornito una percentuale precisa sui rischi legati alla
possibile estinzione della specie umana a causa dell’A.I. Williams ha stimato
al 70% la probabilità di estinzione umana entro tre anni, a meno che i
laboratori di intelligenza artificiale rallentino o che intervengano le
autorità di regolamentazione.
Ma come è nata la stima
sull'estinzione umana? Senza una regolamentazione dell'intelligenza artificiale
o senza un rallentamento coordinato tra i laboratori, ha scritto Williams,
l'estinzione dell'umanità nei prossimi anni appare molto probabile. Un altro
utente ha trasformato la discussione in una scommessa, offrendo 10.000 dollari
in azioni Microsoft contro azioni OpenAI su un orizzonte di cinque anni.
Williams ha risposto indicando una percentuale precisa: "70% nei prossimi
3 anni se non ci sarà regolamentazione/rallentamento, anche se penso che
regolamentazione o rallentamento siano molto possibili".
Amici, a quanto pare il
pericolo sta diventando davvero reale, tant’è che anche il Governo americano si
sta già muovendo sui rischi dell'AI. Ormai la sicurezza sui laboratori è
diventata tema di attualità politica. Il 9 settembre, un ricercatore di
Anthropic si è dimesso accusando Anthropic e OpenAI di giocare d'azzardo con la
vita umana. I legislatori USA hanno risposto nel giro di 24 ore. Un nuovo
appello a una pausa sull'AI è seguito a stretto giro, incluso un disegno di
legge al Senato per vietare direttamente la superintelligenza.
Anche voci esterne ai
laboratori hanno sollevato ulteriori allarmi. L'alto commissario ONU per i
diritti umani ha definito l'intelligenza artificiale avanzata un rischio
esistenziale, sempre questa settimana a Ginevra. Marcus Williams, comunque,
resta allocato sul versante più estremo di queste previsioni. Evan Hubinger, a
capo della ricerca sull'allineamento scientifico in Anthropic, valuta la
probabilità sopra il 10% nel corso di questo decennio. Geoffrey Hinton, premio
Nobel, ha parlato di una forbice tra il 10% e il 20%.
Nel frattempo, anche i
trader crypto stanno monitorando direttamente questi avvertimenti. Polymarket
ha rilanciato il post di Williams ai suoi follower entro poche ore e i suoi
scommettitori già prezzano elezioni ed eventi macroeconomici insieme alle probabilità
sui token. Pertanto, la verifica nel breve termine sarà più politica che
tecnica. Resta da vedere se le autorità di regolamentazione agiranno entro la
finestra di tre anni indicata da Williams, mentre secondo la sua stessa
opinione questo è ancora possibile.
Cari amici, sui rischi
dell’Intelligenza Artificiale ho avuto modo di scrivere diverse volte, e
personalmente sono certo che senza regole precise, condivise da tutti gli operatori, potrebbe davvero succedere una
catastrofe, Credo che il pericolo sia davvero reale. L’ultimo caso ha avuto
inizio il 9 settembre scorso. In questa data Jacob Coxon, ricercatore di
Anthropic, ha rilasciato un’intervista al Wall Street Journal, dichiarando di
aver lasciato l’azienda per il timore che i sistemi di intelligenza artificiale
potessero sfuggire al controllo, fino a poter mettere in pericolo
l’umanità, aggiungendo che chi lavora
allo sviluppo di queste tecnologie «crede sinceramente che potrebbero ucciderci
tutti entro la fine del decennio». Subito, Evan Hubinger, responsabile della
ricerca sull’allineamento di Anthropic, ha rilanciato il tema stimando intorno
al 10 per cento il rischio di estinzione umana entro i prossimi dieci anni.
Credo che ci sia poco da
aggiungere….
A domani.
Mario
Nessun commento:
Posta un commento