“È un progressi entusiasmanti – dice David Bau, professore della Northeastern University che si occupa di AI, a proposito della nuova ricerca OpenAI –. Come settore, dobbiamo imparare a comprendere ed esaminare molto meglio questi grandi modelli“.
Secondo Bau, la principale innovazione del team OpenAI è mostrare a il modo più efficiente per impostare una piccola rete neurale che può essere utilizzato per comprendere i componenti di un sistema più ampio. Tuttavia, il maestro aggiunge che per diventare più affidabile la tecnica deve essere perfezionata: “C’è ancora molto lavoro da fare per utilizzare questi metodi e ottenere spiegazioni pienamente comprensibili“, Lui dice.
Bau fa parte di un progetto finanziato dal governo degli Stati Uniti chiamato National deep inference fabric, che metterà a disposizione dei ricercatori accademici risorse di cloud computing per consentire loro di sondare modelli di intelligenza artificiale particolarmente potenti. “Dobbiamo capire come garantire che anche gli scienziati che non lavorano nelle grandi aziende possano svolgere questo lavoro“, commenta Bau.
Nel loro articolo, i ricercatori di OpenAI riconoscono che è necessario continuare a lavorare per migliorare il nuovo metodo, sperando però che possa portare allo sviluppo di Metodi pratici per il controllo dei modelli di intelligenza artificiale. “Ci auguriamo che un giorno l’interpretabilità ci fornisca nuovi modi di pensare alla sicurezza e alla robustezza dei modelli e che aumenti in modo significativo la nostra fiducia nei potenti modelli di intelligenza artificiale offrendo forti garanzie sul loro comportamento“, si legge nel documento.
Questo articolo è apparso originariamente su Wired US
