Intelligenza artificiale ed umanità - Addestriamo le macchine a rispondere correttamente, non come Pappagalli Stocastici
La macchina capisce quello che diciamo? La capacità di fornire risposte è determinata da algoritmi, ossia una serie di procedure che, nel momento in cui io scrivo dei caratteri, mi trovo un'altra scrittura di caratteri fatta attraverso quella cosa che si chiama addestramento della macchina, ossia il machine learning.
Queste macchine che rispondono sono anche state definite "Pappagalli Stocastici".
Se io ti chiedessi di alzare la mano se hai mai usato l'intelligenza artificiale magari potrai alzarla pensando a ChatGPT o altri sistemi analoghi o magari, se non li hai usati non la alzerai (alla stessa domanda 10 anni fa, nessuno avrebbe alzato la mano!).
Se invece ti chiedessi di alzare la mano se hai usato Google son sicura che la alzerai. Ecco: se hai usato Google hai usato l'intelligenza artificiale ma forse non lo sapevi. Infatti i risultati che Google dà a te sono differenti dai risultati che Google mostra ad un altro utente per la stessa chiave di ricerca; come fa a pesare quel risultato in base a chi è l'utente? Usa un tipo di intelligenza artificiale che non è il machine learning ma funziona uguale.
Facciamo un esempio, ammettiamo che mia zia, morendo, mi lascia in eredità un bel diamante che vorrei vendere ma non conoscendo il mondo dei diamanti potrei venir fregato dall'acquirente. Per non farmi fregare, ipotizzando che siano solo i carati a contare nella quantificazione economica, mi faccio il giro delle gioiellerie di Lugano chiedendo ad ognuno quanti diamanti avete, quanti carati ha e quanto costa? Segnando su un quaderno le valutazioni fatte dai singoli commercianti per numero di carati e costo avrò un elenco di carati e costi. Se sono fortunato trovo qualcuno che ha un diamante con lo stesso numero di carati del mio ed ho quindi un prezzo di riferimento. Altrimenti posso ordinare in maniera crescente per numero di carati dal più piccolo al più grande e mi accorgo che anche il costo va dal più piccolo al più grande. Inseriamo questi punti su un diagramma dove nelle ascisse ci sono i carati e nelle ordinate i costi. Mi accorgerò che questi punti approssimano una retta: alcuni saranno sotto, altri sopra segno che qualcuno mi fa lo sconto e qualcuno prova a fare il birbone. Avrò anche una retta superiore a tutti i punti ed una retta inferiore a tutti i punti elencati. A questo punto vado a cercare dove si trova il mio carato nelle ascisse e salendo andrò ad incrociare la retta inferiore e la retta superiore. Questo significa che se il venditore mi offre un costo più basso della retta inferiore mi vuol fregare, se mi offre più del valore della retta in alto sto ricevendo più del dovuto.
Ho raccolto dei dati, li ho ordinati ed adesso sono in grado di rispondere ad una condizione per la quale non avevo i dati.
Quando ci hanno insegnato a fare i nodi ai lacci delle scarpe abbiamo poi usato quei tipi di nodi per i quali non ci avevano insegnato ad usarli, abbiamo imparato. Ecco che la macchina può imparare dai dati. Più dati gli do più la macchina può dare delle previsione di quello che succederà. La stessa cosa la potevo fare con la temperatura sapendo più o meno la temperatura di domani, o con le automobili vendute sulla base di un anno analizzando le vendite dell'anno precedente etc. etc. Questo è l'algoritmo di regressione. Ossia da dei dati che non ho so rispondere a delle situazioni in cui i dati li ho. Lo abbiamo usato sule parole ed abbiamo visto che se io gli do tante parole lui da due tre lettere inizia ad individuare la parola. Se sul cellulare scrivo "Dia" mi viene mostrato il contatto di "Diana". Abbiamo dato a questi sistemi 1000 parole, 10000, 1 milione, 100 milioni, 1 miliardo, a 150 miliardi di parole è successo qualcosa di strano; è successo che non solo indovina la parola ma ti scrive la frase, il paragrafo e sembra conoscere pure i fatti che sono successi fino a fine 2021 senza che nessuno lo avesse programmato e per questo ci siamo spaventati: ecco chat GPT.
Sentiamo spesso dire che ChatGPT sbaglia, scrive cose non vere; dal punto di vista tecnico quello che sorprende è che conosce cose che non dovrebbe conoscere e come fa? Non si sa.
Avendolo rilasciato sul mercato, gli utilizzatori non si sono fatti queste domande ed hanno iniziato ad utilizzarlo come se fosse un esperto che conosce molte cose, il classico amico al bar che fa l'esperto: qualche volta ne sa qualche volta dice cavolate.
La sfida adesso diventa quella di capire come rendere affidabile questo strumento.
Facciamo adesso un po' di polemica. In un paper molto critico di Emily Bender di Marzo 2021 (https://www.youtube.com/watch?v=N5c2X8vhfBE) è stato introdoppo il termine di "Pappagallo stocastico" ossia stupirsi di un sistema che ripete in maniera un po' casuale le parole che gli abbiamo inserito noi. Ora, non è vero che basta dare tante parola alla macchina per farla parlare come un pappagallo c'è invece tantissimo lavoro artigianale quindi non è stocastico perché qualcuno gli ha detto non rispondere così, qui devi dire questo etc. etc. e non è nemmeno un pappagallo perché talvolta dice cosa che non gli sono state dette. Inoltre se paragonassimo questo sistema ad un'auto ed andassimo ad aprire il cofano dentro non troveremo nessuna parola, ha solo numeri, ossia la probabilità che dopo quella parola venga un'altra parola. Quindi se dentro non ha l'enciclopedia, come fa a rispondermi con i contenuti dell'enciclopedia? Non lo sappiamo ed è questo che ci stupisce. Ed allora è qui che si sposta la domanda perché se questo è un po' simile al cervello nostro anche noi siamo dei Pappagalli Stocastici.
Mentre noi ci facciamo domande sulla macchina, la domanda ci fa delle domande su chi siamo noi. Un po' come nelle prima pagine di Pinocchio dove Geppetto senza il legno che gli parla, ecco, chi è questo legno che ci parla? Cosa sta dicendo? E, sopratutto, se non siamo tanto distanti dai Pappagalli Stocastici allora la diagnosi medica perché non la fa la macchina visto che il medico fino in fondo, caso per caso, non sa dire perchè ha fatto quella diagnosi?
Ed ecco la sfida: non sappiamo spiegare fino in fondo il perché ma essendo cose commerciali sulle quali si può guadagnare le vogliamo applicare fino in fondo. E quali sono i limiti? Dovremo scoprirlo strada facendo.
