"AI" personale

 ...nonostante il titolo, non si tratta di discutere dell'intelligenza di ognuno di noi (altrimenti ne vedremmo delle belle - me compreso, naturalmente). Sempre che ci sia accordi sul significato di intelligenza…

Si tratta, ovviamente, dell'argomento trend di questi periodi: macchine che simulano l'intelligenza (meglio:: fanno finta di essere intelligenti). L'intelligenza artificiale ha sempre avuto un certo fascino: a partire dal famoso Turco che giocava a scacchi, passando per "Guess the animal", portato su Apple II negli anni '80 (e che oggi si trova persino su alcuni siti), fino alle attuali AI, a cui si può dare comandi (non diciamo parlare!) con linguaggio naturale.

Ho già discusso un po' di volte del problema di base, cioè, di come istruire queste macchine: prendere tutto quello che c'è in rete? Anche la relativa montagna di spazzatura? Solo le pubblicazioni di pubblico dominio? Quindi tralasciando probabilmente le voci più autorevoli? Per cui non mi dilungo su questo.

Tra i vari produttori di IA c'è ovviamente anche Google, con il suo modello Gemini AI. Ma sappiamo che Google riesce a lanciare contemporaneamente anche un centinaio di prodotti (salvo poi abbandonarne 90); quindi, una volta avuto in mano motore AI, perché non spanderlo ovunque?

È la strategia seguita anche da altri: da Microsoft con il suo Copilot, inserito anche nel motore di ricerca Bing; oppure da Apple con il recente arrivo sulle proprie piattaforme MacOS/iOS. O persino dal browser Arc nella ricerca (su piattaforme mobile). Quindi anche Google.

Quello di cui voglio parlare oggi è NotebookLM. L'uscita non è recente: presentato nel 2023 (progetto Tailwind) è disponibile negli States dall'estate 2023, ma è arrivata da noi solo a giugno 2024 . Sarà per questo arrivo in sordina in Europa, ma si trova poco in rete di questa piattaforma e, per quanto ne so, non ci sono stati annunci pubblicitari: Google da questo lato è abbastanza avara: preferisce guadagnare sulle pubblicità altrui, piuttosto che farne di proprie :-)

L'idea non è niente male: mettere a disposizione un motore di AI e lasciare che ogni utente lo istruisca per i propri scopi!

Esistono già motori open-source da scaricare e poi far funzionare in locale, ma richiedono GB di spazio, e un computer piuttosto potente sempre in funzione. La proposta di Google è che ogni utente (cioè ogni possessore di un account Gmail) ha uno spazio (di cui per ora non ho trovato la grandezza) in cui caricare propri documenti (soprattutto testi e/o PDF), eventualmente già presenti sul proprio Drive e darli in pasto al motore di analisi. In un tempo abbastanza breve, il risultato non è un riassunto di ogni documento (ormai lo fanno in molti), ma la possibilità di fare domande sull'argomento contenuto.

Il sistema si trova all'indirizzo notebooklm.google.com e per il momento non si trova ancora nel menu generale delle app Google (il quadrato di 9 pallini in alto a destra nei browser): probabilmente perché è in fase di test.

Esempio d'uso: carico il PDF dell'opera di Pirandello "Il Fu Mattia Pascal" (abbastanza noto per poter verificare che le risposte siano corrette). Dopo pochi minuti (nelle mie prove non ho mai superato i due minuti, per un PDF di 450 pagine) vengono proposte alcune domande tipo, ma noi possiamo fare quelle che vogliamo. 

Esempio:

• qual è la trama del libro
• qual è l'occasione che permette al protagonista di lasciare la famiglia?
• che problema si presenta durante questa seconda vita, che lo convince a tornare a casa?
• quando torna a casa, a fine libro, come è la sua situazione?
• in che periodo storico si svolge l'azione?
• ... altre cose che non mi vengono in mente, ma che capitano di solito all'Esame di Stato!

Nelle mie prove ho caricato il manuale della mia auto (un PDF da 450 pagine e 130MB e due più piccoli, attorno ai 90MB):

Ero un po' dubbioso, per cui sono partito con una domanda insidiosa per verificare che l'abbia letto sul serio: dove si trova la batteria di servizio? Insidiosa perché si tratta di una ibrida e la batteria da 12V è sotto il sedile posteriore:

Bene, la risposta è stata corretta, fornita anche con i riferimenti al manuale: cliccando su questi si apre il PDF nel punto giusto.

Ho provato domande più complesse ("come azzerare la storia dei consumi dal quadro di comando?") e le risposte sono state corrette, fornendo anche metodi alternativi. Se per caso avete un manuale dell'auto in cui i riferimenti dell'indice non corrispondono alle paginate PDF, oppure un argomento è trattato in punti diversi del manuale... questa è una gran bella soluzione!

Il sito permette di caricare dal proprio computer fino a 50 documenti, che sono un bel numero! È anche possibile inserire da Drive (solo Documenti e Presentazioni, niente fogli elettronici):

ma anche link a siti web e link a video YouTube. Ogni link conta come un documento, qualunque sia la sua grandezza (un sito web è comunque alla fine un file di testo, leggerissimo rispetto a un PDF).

Una cosa interessante è la possibilità di inserire file di testo o addirittura scrivere una nota, che poi verrà inserita come una sorgente. In questo modo si può modificare, entro certi limiti, le risposte: in questo caso potrei inserire che non mi interessano i comandi che vengono dati solo dall'infotainment (non ha senso, ma solo per dare l'idea): dopo aver scritto la nota, la si seleziona e si clicca su "converti in fonte":

Si possono salvare le risposte: è utile farlo quando la risposta proviene da una serie di domande che si sono affinate fino a quella finale. Invece di doverlo fare un'altra volta, si salva la risposta in Nota e la si trasforma in sorgente. In questo modo, il software sarà indirizzato subito sul percorso giusto. Una nota così salvata non potrà essere modificata.

C'è da notare un baco nell'interfaccia: quando siamo dentro ad un Notebook, possiamo cercare ovunque come chiuderlo e tornare alla schermata principale... ma si trova nulla! Per trovare un link all'indietro (da buon programmatore, il tasto Back del browser si tocca solo quando necessario!) ho girato con il mouse cercando dei link nascosti... Eccolo! Sulla parola in alto a sinistra:

Così possiamo tornare indietro e trovare tutti i nostri notebook!

Infatti, non l'ho detto, ma è possibile creare più Notebook, ciascuno con un massimo di 50 documenti. Ciascun Notebook è un universo a se stante: chiedere nel Notebook1 qualcosa inserito nel Notebook2 non ha senso; al massimo possiamo caricare in uno dei due i documenti dell'altro (non ci sono funzioni di merge tra Notebook).

Studio: deve c'entrare in qualche modo, dato che ricorre spesso l'esempio di domande legate ad un riassunto per un esame. Praticamente, si sta chiedendo all'AI di preparare una lezione (ma a quel punto non sarebbe più semplice ascoltare i prof durante le lezioni?). Ovvio che se si tratta di uno studio auto-didatta, l'utilità c'è; ma bisogna fidarsi: le pagine sono piene di avvertimenti che l'AI potrebbe sbagliare e dimenticare argomenti importanti...

Audio: se forniamo documenti in inglese (e lo comprendiamo bene), si può chiedere di generare un riassunto audio, che consiste in due entità che dialogano (appunto in inglese), parlando degli argomenti contenuti nelle sorgenti! È qualcosa di più divertente e meno noioso che stare a sentire un riassunto vocale. L'accesso alla funzionalità si trova, ben nascosto, sotto il comando Guida di NotebookLM, in basso a destra (da non confondere con la stessa voce nel menu in alto a destra! Google non è mai stato eccezionale con le interfacce grafiche...). Proprio un mese fa, è stata persino introdotta la possibilità di guidare il riassunto, tramite un frase, come per esempio: "considera solo i seguenti argomenti" ed il file audio conterrà solo discussioni sugli argomenti indicati.

Condivisione: ovviamente, in stile Google, qualunque cosa, da interi Notebook alle singole sorgenti, fino alle risposte e ai file audio dei riassunti, può essere condivisa nel solito modo, come fosse un documento di Drive.

Privacy: trattandosi di Google, il re dei dati, c'è sempre qualche dubbio su quale fine fanno i documenti / dati spediti al software di ML. Google scrive esplicitamente che non farà uso di nessun documento o dato fornito come sorgente, queste non saranno usate per istruire altri algoritmi di AI. Anche se in fondo è anche scritto "se non ve la sentite di spedire documenti confidenziali... allora non fatelo". Un controsenso con l'affermazione precedente... Io al momento ho solamente usato materiale già presente in rete, per cui me la sono sentita di spedirli :-)

Costi: come scritto da Google stesso nel manuale, si tratta di un prodotto in fase di test, per cui attualmente è completamente gratis. Se uscirà da questa fase, è probabile che in futuro la parte gratis sia limitata, per esempio nel numero di notebook, oppure nel tipo di fonti utilizzabili (per ora non sono previste immagini, fogli elettronici o documenti più complessi). Per il momento sfruttiamolo!

[EDIT]: Google alla fine ha inserito un piano a pagamento (visto il costo di manutenzione di una IA, era ovvio che succedesse), che prevede un numero più alto di documenti, domande, ecc… Difficile fare confronti con altri modelli, primo perché questo a quanto ne so è l’unico caso in cui siamo noi ad addestrare l’IA con i nostri documenti; secondo, perché l’upgrade avviene aggiornando Google One, quindi ottenendo tra le altre cose, 2 TB di spazio disco, la versione Pro di Gemini (l’IA di Google) e altre cosette. Per chi usa queste cose, il prezzo è competitivo.

--- --- ---

Se sei interessato alla programmazione, potresti provare a vedere il mio blog su argomenti di programmazione. Se invece ti interessa la fisica, potresti provare la fisica di massimo, dove io e il mio gatto discutiamo di argomenti di Fisica.

AI, persone intelligenti e meno, Wikipedia.

 Beh, direi che ormai tutti sappiamo cosa significa questa sigla, sia nella versione italiana (IA) che in quella inglese (AI): intelligenza artificiale.

Non ricordo se ho già detto qualcosa sulla AI: viene chiamata Intelligenza Artificiale, ma al momento è tutto meno che intelligente. O meglio: riesce a capire quello che le stiamo chiedendo (in qualunque lingua), usa il risultato per una ricerca nel suo database, per poi rispondere con brani più o meno lunghi presi dal database, che (sulla base delle sue conoscenze) possono essere collegati tra loro. E fa tutto questo molto bene, tanto che si ha spesso la sensazione di parlare con una persona e da qui l’appellativo di intelligenza. Però… siamo pronti a dire che il secchione compagno di scuola, che imparava tutto a memoria e ripeteva a pappagallo… bene, lo consideravamo intelligente? Risposta: sì, ma non perché si ricordava tutto, ma per altre cose: magari perché riusciva a risolvere un problema di matematica senza averlo mai visto prima; oppure perché riusciva a passare la soluzione ai compagni senza farsi beccare…

Avete provato a dare all’AI un problema di fisica che non sia il solito problemino da una formuletta e via, ma dove sia necessario un ragionamento e un po’ di inventiva? Io sì e alla fine avrei dovuto dare un’insufficienza anche piuttosto grave: l’AI si limita a considerare le formule che conosce e a cercare di metterle assieme, magari anche furbescamente, ma spesso il passaggio ci sta come i cavoli a merenda (suppongo che nessuno li abbia mai mangiati a merenda…).

In qualche caso gli ho dovuto fornire la soluzione corretta: risposta tipica (“hai ragione”), seguita da una soluzione identica a quella errata. Direi che non possiamo definirla proprio intelligenza…

Funziona bene al posto di varie ricerche, man mano raffinate: lì sì! Ha dalla sua la velocità: prima che noi leggiamo una decina di articoli trovati, capiamo che dobbiamo fare una ricerca più ristretta e poi leggere nuovamente i risultati, l’AI ci fornisce già la scrematura finale, magari persino riassunta (provate ad usare Arc Search). Ovviamente, attenzione alle allucinazioni: magari parole identiche hanno significati diversi in contesti diversi ma simili: alla fine dobbiamo sempre controllare che il risultato abbia senso.

Ora, da dove prende i dati per costruire il proprio database? Ma ovvio: dalla rete! Non proprio tutto, ma buona parte: da tutte le cose che vengono pubblicate, anche quello che sto scrivendo proprio ora! In generale, tutto quello che viene considerato nel pubblico dominio.

Pubblico dominio: ci sarebbe un po’ da ridire: in teoria gli unici materiali di pubblico dominio sono quelli contrassegnati da certe sigle o denominazioni: MIT, Creative Commons, spesso nate per le righe di codice dei software e poi estese ad altri casi. Ma quello che sto scrivendo, per esempio, non è contrassegnato da alcuna di queste definizioni. Anzi, per il diritto internazionale (disclaimer: ne so poco, non sono un avvocato o simile), nel momento in cui pubblico un mio pensiero, una mia elaborazione di dati conosciuti o provenienti da miei studi, sto dichiarando al mondo che ciò che ho scritto è mio, non di altri e solo io posso farne qualsiasi uso: in particolare, guadagnarci soldi, sempre che ci sia qualcuno che ne voglia acquisire i diritti (in questo caso, nell’aprire il blog su piattaforma Google, suppongo di aver dato il permesso a Google l’utilizzo di quanto scrivo, ma non ad altri). Se pubblicassi su un dominio mio, su server da me pagato, i diritti sarebbero tutti miei. Spesso infatti le persone di cui è riconosciuta l’autorevolezza su certi argomenti, non pubblica su piattaforme “libere”. Allo stesso modo, in coda ad ogni articolo di giornale online compare “DIRITTI RISERVATI”: quei dati non possono essere usati senza averne legalmente l’accesso tramite accordi. 

A cosa porta questo? Se l’AI può usare solo contenuti free e le informazioni più corrette non sono pubbliche, come faremo a istruire l’AI ad essere intelligente? Il fatto che al momento in certi campi funzioni abbastanza bene vuol dire una delle due cose:

• le informazioni di pubblico dominio sono molte e corrette
• — oppure —
• l’istruzione è avvenuta anche su informazioni non pubbliche

Qualche società editrice sta anche pensando di aggiungere su ogni libro pubblicato la dicitura “non utilizzabile per l’istruzione di Large Language Models”: il risultato sarà che si ridurranno le possibilità di far crescere l’intelligenza delle AI…

Allora arriviamo ad un controsenso (ed è qui il centro del post): esempio, io sono un fisico, non so nulla di come si replica un virus, se non per sentito dire. Per una mia convinzione, scrivo su un po’ di piattaforme che il virus XYZ23H53! assale soprattutto gli uomini nati in inverno ed il cui peso supera i 70 kg; per le donne invece, sono più colpite quelle nate di lunedì o giovedì nel periodo di luna piena. I bot di ricerca dell’AI trovano i miei 10 interventi su altrettanti forum e almeno due post su piattaforme gratis; ma trovano anche almeno un centinaio di forward, post facebook/instagram/tiktok con link di gente convinta che sia vero (state sicuri che un centinaio di persone le troveremmo di sicuro…). Trovano anche due post in pubblico dominio di due scienziati che affermano il contrario, dicendo che non ho prove… ma sono solo due, per di più con pochi riferimenti di poche persone. Che fa l’AI? Darà più ragione alle mie cretinate e magari comincerà a proporle come risposte, a meno che non ci sia un controllo esterno. Quindi, il fatto che le cretinate siano in pubblico dominio e le cose vere no, verrebbe a creare un’intelligenza artificiale stupida!

Tra le possibili fonti, c’è Wikipedia, nei vari sapori wiki e nelle varie lingue. Nonostante ciò che si dice, sono pochi i casi in cui Wikipedia è stata colta in fallo (spesso poco prima che i suoi amministratori correggessero il problema), anzi, il suo coefficiente di affidabilità è al livello delle migliori enciclopedie online (a parte considerazioni legate alla politica…). Tutti i suoi contenuti sono nel libero dominio, per cui vengono usati.

Ora, per chi crea le AI, non è difficile, esaminando un testo, capire se questo è stato creato da un essere carbonio in carne ed ossa o da una AI. Bene, da poco è venuto fuori che almeno circa il 5% dei nuovi contenuti di Wikipedia inglese è stato creato usando ChatGPT!!! Sembra che anche nelle altre lingue il fenomeno esista.

Ci siamo capiti? L’AI usa i contenuti di Wikipedia per istruirsi, ma una parte di tali contenuti viene creata dalla AI! In elettronica o nei problemi di audio si chiamerebbe feedback! Scrivo la cretinata di prima, qualcuno usa l’AI per riempire un vuoto su Wikipedia, l’AI legge quell’articolo e l’affidabilità di quanto scritto cresce e così via.

Wikipedia sta correndo ai ripari, cercando di individuare i contributi falsi; se però il solito pirla cambia un po’ le parole, lasciando il senso, sarà difficile trovarli.

La domanda è: che senso ha una wiki fatta dalla AI?

Il problema torna ad essere: ci fidiamo di qualcosa di cui non conosciamo l’origine? Trasportato nel quotidiano: a chi affidiamo la riparazione della nostra auto super-tecnologica: a un meccanico preparato dalle case automobilistiche o al vicino di casa, di professione impiegato, che è solito guardare i video su YouTube? Quando siamo malati andiamo dal medico o dall’idraulico?

Il discorso si farebbe ancora più profondo: perché qualcuno dovrebbe scrivere su Wikipedia pescando dall’AI invece che dalle proprie conoscenze? Per poter dire che collabora all’enciclopedia libera? Io sono un fisico: posso scrivere (e qualche volta l’ho fatto) su argomenti di Fisica e correlati, ma non di medicina o di letteratura, anche se sono nei miei interessi. Perché dovrei millantare una conoscenza che non ho?

E su questa one-million-dollar-question, mi fermo, perché servirebbero conoscenze approfondite di psicologia e sociologia, che conosco solo superficialmente. Potrei solo dare opinioni, ma non lo faccio: non voglio che una AI le possa prendere per oro colato…

--- --- ---

Se sei interessato alla programmazione, potresti provare a vedere il mio blog su argomenti di programmazione. Se invece ti interessa la fisica, potresti provare la fisica di massimo, dove io e il mio gatto discutiamo di argomenti di Fisica.

Della privacy, della libertà e della censura

Anticipo la domanda finale del post: "chi controlla i controllori?"

Attualmente vedo un problema in due casi importanti.

Il primo è l'istruzione dei sistemi di intelligenza artificiale: è stato posto da un po' di tempo e le discussioni si ampliano, tanto che in qualunque congresso su qualunque argomento oggi si può trovare una sezione sulla AI (o IA, a seconda della lingua usata).

Ormai sappiamo che di vera intelligenza ce n'è poca: il software viene istruito tramite la lettura di giga e giga di roba a disposizione nel web. Il software esamina la sequenza di parole e si costruisce un database di sequenze, ciascuna con la sua probabilità, che andrà ad usare nelle risposte. Velocità, memoria smisurate, ma non intelligenza.

I risultati sono miracolosi: le risposte, velocissime, hanno senso compiuto, tali da dare l'idea di un qualcosa di senziente. Più si definisce un contesto di lavoro (p.es. linguaggi di programmazione), migliore sarà la risposta, ma si tratta sempre di infilare una parola dietro l'altra. Provate a chiedere la soluzione ad un problema di Fisica appena più complesso e vedrete che di intelligente c'è poco.

Si è sempre detto che se si inserisce una sciocchezza in un computer, il risultato sarà una sciocchezza ancora più grande: siamo allora sicuri che non stiamo istruendo una AI con delle cretinate?

Esempio: se aumentasse la frequenza di post che affermano la Terra essere piatta, diventerebbe probabile che l'AI, alla domanda "qual è la forma della Terra?", invece di "geoide" risponda "un disco piatto": gli è stato insegnato così. Supponiamo che ad un giovane di una tribù con pochi contatti con la nostra civiltà, venga dato un dispositivo che parla e ascolta (ChatGPT è in grado di farlo senza problemi); il ragazzo è curioso e chiede "ma la Terra che forma ha?"; il dispositivo gli risponde "è un disco piatto" ed ecco generato un bel fake nella giungla.

Una cosa del genere è più probabile nei casi di attualità ("spiegami l'importanza di quel politico") e ne sanno qualcosa i volontari moderatori di Wikipedia, ma non solo. Esempio: ci sono aziende che usano l'AI per selezionare i CV degli aspiranti, basandosi su schemi comuni, per cui se si sgarra dalla normalità, si viene scartati (notare che questo è l'esatto contrario di quanto si diceva tempo fa: scrivete un curriculum un po' diverso, per potervi distinguere dalla massa: oggi un genio verrebbe scartato dall'AI...).

Quindi il problema è: chi deve decidere che materiale fornire ad una AI? Aggiungiamo che la società dietro ad una AI tende a non fornire il meccanismo di digestione dei dati, per cui è anche difficile prevedere il risultato di una scelta.

Quello a cui probabilmente si arriverà sarà che ogni azienda AI dovrà comporre un "comitato di saggi", che deciderà cosa andrà a finire nel database dell'AI (che dovrà anche essere aggiornato, quindi lavoro assicurato per anni a venire). La scelta delle persone rifletterà il pensiero dell'azienda e quindi i risultati forniti dall'AI. Possiamo sperare che le varie aziende di AI (comprese le open source) appartengano un po' a tutte le correnti in ogni campo, in modo da avere punti di vista diversi; quindi prima di avere una risposta dovremo consultarne molte? Uhm, costoso... Allora prevediamo una super-AI che faccia la domanda a tutte le AI in circolazione e poi ne faccia il riassunto? Ma chi decide come farlo? 

Cambiamo campo: problema simile ma meno noto, perché coinvolge una parola tabù: la censura, anche se sotto forma di privacy o simili.

In questi giorni è stato arrestato in Francia Pavel Durov, il fondatore del sistema di messaggistica Telegram (sito ufficiale). Le notizie sono poche, ma si pensa che il problema sia il rifiuto di eliminare alcuni contenuti relativi a droga, pedofilia, terrorismo e compagnia bella. Ma soprattutto il negare l'accesso al sistema per le indagini relative agli stessi reati. Lasciamo perdere la figura di Durov, piuttosto discussa, ma tanto quanto quella di Musk, sull'altro lato dell'oceano.

Certo, se parliamo di terrorismo, pedofilia e simili, saremo tutti d'accordo nel pretendere da Telegram l'eliminazione del materiale ed i dettagli degli account. Ma quando la stessa piattaforma viene usata in regimi totalitari? Il regime di un paese vorrà sapere chi sta complottando per far uscire un perseguitato politico. Allora per un regime vogliamo usare regole differenti? Ma chi decide che un paese è una dittatura?

Andiamo oltre: viene creata una legge che costringe le piattaforme come Telegram a rivelare le identità degli account su richiesta della magistratura di un qualunque paese. Ciascuno di noi dirà: "bene, chisseneimporta se si sa che tifo Inter? Non ho nulla da nascondere".

Ok, ora spostiamoci in un futuro dispotico, tipo "1984" (dovremo trasporre l'anno, però) e in Europa vige l'Impero del Lupo Marrone, un tiranno che mantiene il potere con elezioni truccate. Il signor Ollig sta costruendo una rete segreta: questa però viene scoperta dalla Polizia Marrone con mezzi perfettamente legali, perché Ollig usa Telegram per comunicare. In quel caso saremmo tutti d'accordo?

Chiarisco: non sto dalla parte di Telegram, che attualmente copre reati anche ributtanti; mi sto solo chiedendo chi potrà essere in futuro a decidere cosa sia un reato.

Come era chiaro già all'inizio, non ho la soluzione in tasca e purtroppo penso non ce l'abbia nessuno. Ma credo sia utile discuterne, soprattutto quando se ne parla poco. E ripropongo la domanda: chi controlla i controllori?

--- --- ---

Se sei interessato alla programmazione, potresti provare a vedere il mio blog su argomenti di programmazione. Se invece ti interessa la fisica, potresti provare la fisica di massimo, dove io e il mio gatto discutiamo di argomenti di Fisica.