L’intelligenza artificiale si nutre di dati, peccato che le ‘cavie’ vengano selezionate senza il loro consenso: la scoperta degli esperti.
Se un utente cerca una ricetta con solo due ingredienti nel frigorifero, può utilizzare l’intelligenza artificiale che fornirà suggerimenti; lo stesso vale per i viaggi: esistono sistemi capaci di avvisare l’utente quando il prezzo scende. Per non parlare della generazione di foto, musica e così via. In breve, l’intelligenza artificiale è entrata nella vita degli utenti come un fulmine a ciel sereno con la premessa di migliorarla. Ma a quale prezzo?
Nel pensiero collettivo basterebbe pensare ad un concetto affascinante di progresso tecnologico, ma analizzando in senso pratico la questione diventa più cinica. L’intelligenza artificiale utilizza vari dati per addestrare il sistema; o meglio, chi ci lavora, utilizza le informazioni degli utenti. Ad oggi, però, il problema non sembra essere il sistema, che ormai è di pubblico dominio, quanto piuttosto il modo non trasparente con cui questa pratica va avanti da tempo.
Intelligenza Artificiale: il subdolo meccanismo di raccolta dei dati
La piattaforma Slack, a quanto pare, ha raccolto – e raccoglie ancora – messaggi, file e dati per addestrare le sue capacità di Intelligenza Artificiale dietro le quinte. La cosa peggiore? Gli utenti sono stati automaticamente inclusi in questa pratica a loro insaputa o senza il loro consenso. Nei giorni scorsi alcuni utenti hanno scoperto questa spiacevole notizia leggendo l’informativa sulla privacy. L’azienda canadese, acquisita da Salesforce a fine 2020, non ha avvisato in anticipo che l’utilizzo dei dati è automatico e che la loro esclusione deve essere richiesta esplicitamente.
La nuova politica è stata scoperta casualmente da Corey Quinn, un dirigente di DuckBill Group. Slack scrive che non utilizza i dati degli utenti per addestrare modelli di intelligenza artificiale generativa, ma può usarli per farlo addestrare modelli di machine learning e intelligenza artificiale non generativa sfruttato per alcune funzionalità, come emoji e suggerimenti di canali, completamento automatico e ricerca. Che sia in un modo o nell’altro, l’azienda analizza messaggi, file e altri contenutisenza richiedere il permesso esplicito.
A questo proposito molti utenti hanno criticato la modalità opt-in. Per evitare che i tuoi dati vengano utilizzati per l’addestramento del modello (opt-out) devi inviare un’e-mail all’assistenza clienti. Slack, dal canto suo, ha confermato di accedere ad alcuni dati degli utenti, ma non ai contenuti di messaggi e canali privati, sottolineando che la raccolta avviene in forma aggregata e che i dati non vengono utilizzati per sviluppare modelli di AI generativa né condiviso con terze parti.
Dopo questo rapporto sono stati implementati controlli tecnici per evitare accessi non autorizzati. Slack afferma di aver scelto la cosiddetta modalità opt-out perché ritiene che le protezioni siano sufficienti. Tuttavia, il problema principale potrebbe essere proprio nel Sistema di formazione AI, che senza il feedback umano non sarebbe in grado di progredire. Tuttavia, ciò che attualmente fa sentire gli utenti traditi è la mancanza di trasparenza e protezione delle loro informazioni.
