Tutte le cose hanno origine in conflitto (polemos), diceva Eraclito, o in dialettica, se preferiamo l’espressione più tenue di Hegel. Marx e i suoi uomini seguaci in seguito capirono che anche la falsa coscienza e l’inautentico possono sorgere in conflitto.
Tutto ciò si riscontra anche nell’attuale sviluppo della cosiddetta Intelligenza Artificiale “generativa”. OpenAI, inventore di GPT, ha affermato che lo avrebbe “democratizzato”. Adesso invece, Bus adiuvante MicrosoftIL startup di Sam Altman sta lavorando, in competizione con altri bellissimi soggetti, al più grande disegno monopolistico che il capitalismo abbia mai creato: l’Intelligenza Artificiale Generale, cioè la coscienza dell’umanità in una manciata di automi redditizi.
Ma la dialettica impone che ogni progetto prima o poi finisca per opporsi ad un progetto uguale e contrario.
Migliaia di modello linguistico sistemi generativi “aperti”, cioè liberamente utilizzabili ovunque, popolano da tempo la piattaforma Huggingface, lacentro storico delle tecnologie linguistiche fonte apertache potrebbe assomigliare all’Alleanza Ribelle di Guerre stellari se non fosse davvero un genio Attività commerciale.
Questi modelli aperti sono sviluppati e donati da startup, università o anche singoli ricercatori, ma anche da colossi come Meta che per qualche motivo hanno interesse a scuotere le acque.
Com’è possibile che una tale varietà di soggetti sia oggi in grado di allenare tali reti neurali? trasformatore produrre modelli linguistici generativi?
Il fatto è che ora anche le architetture e le procedure di questa fabbricazione sono in gran parte presenti apriree che sia possibile accedere o generare una grande quantità di dati di formazione, in modo che con le giuste competenze e l’hardware giusto quasi chiunque, in linea di principio, possa avventurarsi nell’impresa.
La combinazione tra metodi standardizzati e intuizioni innovative è vertiginosa, e il hacker delle tecnologie linguistiche la stanno esplorando incessantemente. Ne vedremo delle belle.
La redazione consiglia:
ChatGpt non può essere realizzato senza la scienza democratica
In questa effervescenza emergono due problemi: quella diallineamento tra i comportamenti prodotti dagli automi e quelli attesi dagli esseri umani, che comprende il tema dell’etica, e quello della condizione di minoranza di lingue diverse dall’inglese.
I due problemi sono in qualche modo interconnessi. Partendo dal presupposto che le tecnologie per produrre modelli linguistici generativi stanno divenendo materie primela qualità dei modelli futuri dipenderà in modo cruciale dal modo in cui questi problemi verranno affrontati.
Il primo e fondamentale ingrediente di a modello linguistico è un’enorme quantità di parole. Poiché la buona letteratura non basta, occorre porre fine alla testualità di Internet, notoriamente inquinata da tossine verbali di ogni tipo.
Eliminarli del tutto è difficile: anche se è possibile filtrare il linguaggio volgare in modo molto semplice, gran parte di questa tossicità risiede sul piano assiologico, cioè sui valori. IL “Manifesto della razza” del 1938, con il suo carico di sciocchezze fasciste, passerebbe indenne attraverso il filtro.
Oltre a rigurgitare le tossine ingerite dai testi, a modello linguistico generativo, uscendo dalla sala di lettura, produrrebbe anche (e soprattutto) frasi prive di senso. Ciò è dovuto al fatto che ciò che l’automa ha imparato, nella prima fase, è solo la probabilità che una parola segua quelle che la precedono. Nonostante questo calcolo sia molto sofisticato, e il co-testo considerato piuttosto ampio, si tratta pur sempre di assonanze prive di quella cosa che siamo soliti chiamare “ragione”.
È quindi necessaria una seconda fase formativa, il cui scopo è indirizzare il generatore verso il senso compiuto, la modestia e l’utilità.
Sappiamo che ChatGPT che ha portato l’intelligenza artificiale in prima linea riguardava più l’interazione con gli esseri umani, il che richiedeva tempo e denaro.
La redazione consiglia:
ChatGpt, Antonio Casilli: Il lato oscuro dell’algoritmo è la forza lavoro
Ma oggi esistono delle tecniche che rendono questa seconda fase molto più semplice, a patto di avere abbastanza esempi di coppie input Output virtuoso e desiderabile.
Questi sono generalmente ottenuti da risorse disponibili come RedditTL;DRche esemplifica il modo in cui un post (ingresso) è possibile ottenerne un riepilogo (produzione), ma al massimo possono essere fabbricati ad hoc. In questo tipo di risorse ilethos linguistico che si vuole dare all’automa.
Le comunità nazionali non anglofone si trovano ad affrontare il problema di produrre generatori efficaci per la propria lingua.
Ci sono due modi: costruirli ab imis fundamentis da testi in quella lingua o affinare modelli multilinguistici aperti, soprattutto quelli portati in dono da chi ha molte risorse per produrli.
Nel primo caso il purismo verrà ripagato dovendo occuparsi sia della disintossicazione che degli allineamenti. Nel secondo caso, pur sapendo che all’inizio il modello potrà parlare come un Salvatore nel Nome della rosane trarrai beneficioethos con cui è stato addestrato l’originale. Ciò avviene anche in virtù di un effetto chiamato transfer learning, che fa parte degli arcani delle grandi reti neurali.
Il primo modello prettamente italiano, quella Minerva della Sapienza che si espose alla gogna di Internet per alcune sue esternazioni, rientra nel primo caso, ma è (certamente) privo di allineamento, da qui l’interessante (ma triste) effetto Vannacci di la sua prosa. Niente di strano per la scienza, ma l’annuncio ha fatto pensare che si stesse preparando una pizza, quando in realtà si trattava solo dell’impasto.
La redazione consiglia:
Minerva, l’AI italiana al bivio tra Vannacci e Manzoni
Nel percorso italiano verso l’IA linguistica, il nostro Ateneo, ancora intriso di un certo Spirito della Nazione che ricorda Humboldt, gioca un ruolo importante. È bene che lo facciamo con la piena consapevolezza dei “tempi interessanti” che stiamo vivendo.
Tempi in cui le comunità di ricerca e sviluppo sono trasversali, fortemente interconnesse e tremendamente dialettiche. La prima dote da trasmettere agli studenti e alle studentesse è la curiosità intellettuale, lo spirito di collaborazione e l’umiltà.
