Il metodo per spegnere un’intelligenza artificiale che è andata fuori controllo – .

Lo chiamano il “kill switch”. Tradotto, spegnimento. Un rapporto estremo. Una mossa estrema per far sì che un’intelligenza artificiale andata fuori controllo possa causare danni all’umanità. Se ne parla da molto tempo. Da quando l’avvento dei nuovi strumenti Ai ha fatto conoscere al mondo le loro potenzialità. Ma soprattutto perché i principali sviluppatori di IA affermano di non sapere esattamente cosa ci sia dentro un’Ai. Cosa accade appunto nelle ‘black box’, le scatole nere dove prende forma la magia dell’intelligenza artificiale.

La proposta di legge e il malcontento nella Silicon Valley

Secondo il Financial Times, lo ‘shutdown’ è un’opzione che la California sta studiando per un disegno di legge. Alcune delle più importanti aziende che sviluppano l’intelligenza artificiale hanno sede in California. Meta, OpenAi, Anthropic, Salesforce, solo per citare i più conosciuti.

Il disegno di legge impone alle aziende che sviluppano l’intelligenza artificiale di garantire alle agenzie statali che non stanno lavorando su modelli con capacità potenzialmente dannose per l’umanità, come la capacità di progettare o creare armi di distruzione di massa o attacchi informatici su larga scala. Ma lo ‘shutdown’ è il punto più controverso della legge. Ciò che riportano i media di settore americani sta creando ulteriore malcontento tra i colossi della Silicon Valley e le startup che si occupano di AI.

Timori per l’avvento di un Ai malevolo

Tutto ruota attorno al fatto che sono aumentate le preoccupazioni sulla rapida crescita e sull’enorme potenziale della tecnologia AI. Elon Musk, uno dei primi investitori in OpenAI, ha già definito questa tecnologia una “minaccia esistenziale” per l’umanità. Recentemente, un gruppo di attuali ed ex dipendenti di OpenAI ha pubblicato una lettera aperta sottolineando che le principali società di intelligenza artificiale non dispongono di un controllo governativo sufficiente e pongono “gravi rischi” per l’umanità.

Ai è qualcosa che disturba. Inquieto per sua stessa natura, per la sua capacità di emulare il pensiero umano, le decisioni umane, per fare ciò che fino ad ora l’uomo si era illuso come sua proprietà fondamentale: pensare. Ora, il dibattito sulla reale capacità dell’IA di pensare o meno è aperto. Ma il punto è che – coscienti o non coscienti – questi strumenti hanno una capacità di calcolo infinitamente superiore alle capacità umane. E, se lo volessero, una bomba o un attacco informatico potrebbero addirittura riuscire a organizzarlo.

Il tentativo di regolare una tecnologia con ombre e luci

I legislatori stanno cercando di navigare in un terreno nuovo e paludoso. L’Europa lo ha fatto con la legge Ai. Diversi stati nel mondo lo stanno facendo, compresa la California. L’arresto è l’arma definitiva. Il kill switch funge da misura di sicurezza per impedire che un’IA fuori controllo causi danni. Ciò è particolarmente importante nei sistemi di intelligenza artificiale altamente autonomi che operano in ambienti sensibili o critici. Inoltre, fornire sistemi di controllo superiori garantirebbe che gli esseri umani mantengano il controllo finale sui sistemi di intelligenza artificiale. In questo modo, anche se un’intelligenza artificiale sviluppa comportamenti indesiderati, gli operatori umani possono intervenire e fermare il sistema.

Al momento non è noto quale forma potrebbe assumere questo “kill switch”. Alcuni parlano di un pulsante fisico, o di un comando software, o di un protocollo di emergenza che disattiva tutte le operazioni dell’IA. In alcuni casi, il kill switch può includere anche procedure automatiche che monitorano il comportamento dell’IA e ne attivano la disattivazione se vengono rilevati determinati criteri di rischio. Ipotesi. Insieme però confermano la necessità avvertita dal legislatore di porre dei limiti a questa tecnologia.

v