AI, persone intelligenti e meno, Wikipedia.

 Beh, direi che ormai tutti sappiamo cosa significa questa sigla, sia nella versione italiana (IA) che in quella inglese (AI): intelligenza artificiale.

Non ricordo se ho già detto qualcosa sulla AI: viene chiamata Intelligenza Artificiale, ma al momento è tutto meno che intelligente. O meglio: riesce a capire quello che le stiamo chiedendo (in qualunque lingua), usa il risultato per una ricerca nel suo database, per poi rispondere con brani più o meno lunghi presi dal database, che (sulla base delle sue conoscenze) possono essere collegati tra loro. E fa tutto questo molto bene, tanto che si ha spesso la sensazione di parlare con una persona e da qui l’appellativo di intelligenza. Però… siamo pronti a dire che il secchione compagno di scuola, che imparava tutto a memoria e ripeteva a pappagallo… bene, lo consideravamo intelligente? Risposta: sì, ma non perché si ricordava tutto, ma per altre cose: magari perché riusciva a risolvere un problema di matematica senza averlo mai visto prima; oppure perché riusciva a passare la soluzione ai compagni senza farsi beccare…

Avete provato a dare all’AI un problema di fisica che non sia il solito problemino da una formuletta e via, ma dove sia necessario un ragionamento e un po’ di inventiva? Io sì e alla fine avrei dovuto dare un’insufficienza anche piuttosto grave: l’AI si limita a considerare le formule che conosce e a cercare di metterle assieme, magari anche furbescamente, ma spesso il passaggio ci sta come i cavoli a merenda (suppongo che nessuno li abbia mai mangiati a merenda…).

In qualche caso gli ho dovuto fornire la soluzione corretta: risposta tipica (“hai ragione”), seguita da una soluzione identica a quella errata. Direi che non possiamo definirla proprio intelligenza…

Funziona bene al posto di varie ricerche, man mano raffinate: lì sì! Ha dalla sua la velocità: prima che noi leggiamo una decina di articoli trovati, capiamo che dobbiamo fare una ricerca più ristretta e poi leggere nuovamente i risultati, l’AI ci fornisce già la scrematura finale, magari persino riassunta (provate ad usare Arc Search). Ovviamente, attenzione alle allucinazioni: magari parole identiche hanno significati diversi in contesti diversi ma simili: alla fine dobbiamo sempre controllare che il risultato abbia senso.

Ora, da dove prende i dati per costruire il proprio database? Ma ovvio: dalla rete! Non proprio tutto, ma buona parte: da tutte le cose che vengono pubblicate, anche quello che sto scrivendo proprio ora! In generale, tutto quello che viene considerato nel pubblico dominio.

Pubblico dominio: ci sarebbe un po’ da ridire: in teoria gli unici materiali di pubblico dominio sono quelli contrassegnati da certe sigle o denominazioni: MIT, Creative Commons, spesso nate per le righe di codice dei software e poi estese ad altri casi. Ma quello che sto scrivendo, per esempio, non è contrassegnato da alcuna di queste definizioni. Anzi, per il diritto internazionale (disclaimer: ne so poco, non sono un avvocato o simile), nel momento in cui pubblico un mio pensiero, una mia elaborazione di dati conosciuti o provenienti da miei studi, sto dichiarando al mondo che ciò che ho scritto è mio, non di altri e solo io posso farne qualsiasi uso: in particolare, guadagnarci soldi, sempre che ci sia qualcuno che ne voglia acquisire i diritti (in questo caso, nell’aprire il blog su piattaforma Google, suppongo di aver dato il permesso a Google l’utilizzo di quanto scrivo, ma non ad altri). Se pubblicassi su un dominio mio, su server da me pagato, i diritti sarebbero tutti miei. Spesso infatti le persone di cui è riconosciuta l’autorevolezza su certi argomenti, non pubblica su piattaforme “libere”. Allo stesso modo, in coda ad ogni articolo di giornale online compare “DIRITTI RISERVATI”: quei dati non possono essere usati senza averne legalmente l’accesso tramite accordi. 

A cosa porta questo? Se l’AI può usare solo contenuti free e le informazioni più corrette non sono pubbliche, come faremo a istruire l’AI ad essere intelligente? Il fatto che al momento in certi campi funzioni abbastanza bene vuol dire una delle due cose:

• le informazioni di pubblico dominio sono molte e corrette
• — oppure —
• l’istruzione è avvenuta anche su informazioni non pubbliche

Qualche società editrice sta anche pensando di aggiungere su ogni libro pubblicato la dicitura “non utilizzabile per l’istruzione di Large Language Models”: il risultato sarà che si ridurranno le possibilità di far crescere l’intelligenza delle AI…

Allora arriviamo ad un controsenso (ed è qui il centro del post): esempio, io sono un fisico, non so nulla di come si replica un virus, se non per sentito dire. Per una mia convinzione, scrivo su un po’ di piattaforme che il virus XYZ23H53! assale soprattutto gli uomini nati in inverno ed il cui peso supera i 70 kg; per le donne invece, sono più colpite quelle nate di lunedì o giovedì nel periodo di luna piena. I bot di ricerca dell’AI trovano i miei 10 interventi su altrettanti forum e almeno due post su piattaforme gratis; ma trovano anche almeno un centinaio di forward, post facebook/instagram/tiktok con link di gente convinta che sia vero (state sicuri che un centinaio di persone le troveremmo di sicuro…). Trovano anche due post in pubblico dominio di due scienziati che affermano il contrario, dicendo che non ho prove… ma sono solo due, per di più con pochi riferimenti di poche persone. Che fa l’AI? Darà più ragione alle mie cretinate e magari comincerà a proporle come risposte, a meno che non ci sia un controllo esterno. Quindi, il fatto che le cretinate siano in pubblico dominio e le cose vere no, verrebbe a creare un’intelligenza artificiale stupida!

Tra le possibili fonti, c’è Wikipedia, nei vari sapori wiki e nelle varie lingue. Nonostante ciò che si dice, sono pochi i casi in cui Wikipedia è stata colta in fallo (spesso poco prima che i suoi amministratori correggessero il problema), anzi, il suo coefficiente di affidabilità è al livello delle migliori enciclopedie online (a parte considerazioni legate alla politica…). Tutti i suoi contenuti sono nel libero dominio, per cui vengono usati.

Ora, per chi crea le AI, non è difficile, esaminando un testo, capire se questo è stato creato da un essere carbonio in carne ed ossa o da una AI. Bene, da poco è venuto fuori che almeno circa il 5% dei nuovi contenuti di Wikipedia inglese è stato creato usando ChatGPT!!! Sembra che anche nelle altre lingue il fenomeno esista.

Ci siamo capiti? L’AI usa i contenuti di Wikipedia per istruirsi, ma una parte di tali contenuti viene creata dalla AI! In elettronica o nei problemi di audio si chiamerebbe feedback! Scrivo la cretinata di prima, qualcuno usa l’AI per riempire un vuoto su Wikipedia, l’AI legge quell’articolo e l’affidabilità di quanto scritto cresce e così via.

Wikipedia sta correndo ai ripari, cercando di individuare i contributi falsi; se però il solito pirla cambia un po’ le parole, lasciando il senso, sarà difficile trovarli.

La domanda è: che senso ha una wiki fatta dalla AI?

Il problema torna ad essere: ci fidiamo di qualcosa di cui non conosciamo l’origine? Trasportato nel quotidiano: a chi affidiamo la riparazione della nostra auto super-tecnologica: a un meccanico preparato dalle case automobilistiche o al vicino di casa, di professione impiegato, che è solito guardare i video su YouTube? Quando siamo malati andiamo dal medico o dall’idraulico?

Il discorso si farebbe ancora più profondo: perché qualcuno dovrebbe scrivere su Wikipedia pescando dall’AI invece che dalle proprie conoscenze? Per poter dire che collabora all’enciclopedia libera? Io sono un fisico: posso scrivere (e qualche volta l’ho fatto) su argomenti di Fisica e correlati, ma non di medicina o di letteratura, anche se sono nei miei interessi. Perché dovrei millantare una conoscenza che non ho?

E su questa one-million-dollar-question, mi fermo, perché servirebbero conoscenze approfondite di psicologia e sociologia, che conosco solo superficialmente. Potrei solo dare opinioni, ma non lo faccio: non voglio che una AI le possa prendere per oro colato…

--- --- ---

Se sei interessato alla programmazione, potresti provare a vedere il mio blog su argomenti di programmazione. Se invece ti interessa la fisica, potresti provare la fisica di massimo, dove io e il mio gatto discutiamo di argomenti di Fisica.

La Reputazione

Reputazione: sembra una parola fuori moda, forse ultimamente si parla di più del suo opposto (lo sputtanamento, olé - citazione!). Qualche lustro fa per la reputazione si facevano duelli, ma anche adesso, forse più in sordina (altrimenti che reputazione sarebbe?), ma la reputazione è importante: chi affiderebbe i propri soldi ad una banca con una brutta reputazione? E se avessimo come vicino di casa uno che ha la reputazione di essere un delinquente? Per fortuna, le abitudini sessuali stanno uscendo dalla sfera della reputazione (considerata punto di forza, o di debolezza secondo i casi, di una donna), ma vi rientrano se parliamo di deviazioni sessuali. E se il collega di lavoro ha la reputazione di fregare il lavoro degli altri?
Pirandello, con la sua Patente, indicò la reputazione, anche se negativa, come un titolo di cui una persona può fregiarsi.
Di recente è stato sollevato un vespaio sull'uso dei blog per minare la reputazione di personaggi, che possono essere sia pubblici che no. Poco tempo fa, Punto Informatico ha messo in linea un video sull'argomento, in cui vengono ben evidenziati i problemi: da un lato le esagerazioni di chi si crede al di fuori di ogni regola e si arroga il diritto di dire qualunque cosa, dall'altro le corrispondenti esagerazioni di chi si sente magari colpito nella propria, vera o falsa, coda di paglia. C'è chi, come un delegato del Kentuchy, vorrebbe che chiunque inserisce una parola sul web fosse registrato e schedato, in modo da essere facilmente preso in caso di diffamazione ed i webmaster avrebbero la responsabilità di tenere i dati (tranquilli, una cosa del genere in USA sarebbe incostituzionale); dall'altro lato, sappiamo quanto possa essere difficile criticare qualcuno e non essere accusati di diffamazione.
È un problema che in qualche modo dovrà essere affrontato: dove arriva la libertà di espressione (e di critica) e dove comincia l'attentato alla reputazione. Nel caso dei giornali, gli articoli passano attraverso un filtro in redazione (dove spesso contano anche le inclinazioni politiche del giornale); in caso di diatriba legale, c'è tutto un giornale che può sostenere il giornalista. Nel caso di un blog privato, chi si sentirebbe in grado di esporsi con nome e cognome e sostenere un'accusa, anche se fondata su fatti reali? Per quanto mi riguarda, quello che scrivo nei blog lo ripeto anche a voce e lo potrei presentare con nome e cognome; quello che appare di me è identico a quello che sono.
Di solito l'anonimato permette al blogger di sentirsi più libero di esprimere la propria opinione e l'eventuale reprimenda verso qualcuno, di solito personaggio pubblico, proprio per quanto detto prima. D'altra parte non è giusto distruggere la reputazione di qualcuno senza che questo possa difendersi, ma qui c'è anche la sproporzione: pensiamo ad un blogger versus l'Amministratore Delegato di una ditta o un politico, magari avvocato. Insomma, mi pare di vedere un po' di squilibrio: da un lato i blogger vengono paragonati ai giornalisti e vi vengono applicate regole, appunto, valide per i giornali; dall'altro, non mi pare (fatemi sapere se sbaglio) di vedere altrettanta tutela verso i blogger nel momento in cui vengono denunciati (si va a finire nel penale, anche); sì perché alla fine l'anonimato regge fino al momento in cui entra in gioco la magistratura, che ha (giustamente) il potere e la possibilità di conoscere chi sta dietro ad ogni sito.
Aggiungiamo anche che spesso i blogger vengono chiamata a rispondere di quello che i visitatori scrivono nei loro commenti! Un professionista avrebbe la possibilità (lo fa per lavoro!) di controllare ogni commento, un normale blogger no; pubblicare i commenti solo dopo averli letti farebbe morire in breve tempo un piccolo sito amatoriale. Nonostante ciò, è del mese scorso la notizia che un blogger è stato chiamato a rispondere di un commento, che oltre tutto avrebbe cancellato dopo averlo giudicato esagerato: è accusato di non aver avvertito le forze dell'ordine della presenza del commento incriminato (non so in che modo avrebbero potuto classificare una simile denuncia).
Finora, la rete si è auto-regolamentata: i famosi troll vengono riconosciuti ad occhi chiusi; talvolta gli si risponde quasi per divertirsi, ma nessuno pensa di mettere in moto la magistratura per accuse considerate infamanti raccolte su una mailing list, su una chat o newsgroup. Cosa che invece viene fatta molto facilmente negli ultimi tempi: guardatevi il video indicato sopra e vedrete. Oppure, sempre su Punto Informatico, fate una ricerca con chiave "Diffamazione".

Magari, aspettando una legislazione un più vicina alla realtà della rete, sarebbe auspicabile un po' di equilibrio? No?

[Questo post è a metà tra la tecnologia e la vita quotidiana, per cui lo presento uguale anche nel mio blog generale...]

Wikia Search

Sta per nascere un nuovo motore di ricerca, il cui nome sarà Wikia Search. Sarà pronto all'uso a partire dal 7 gennaio di quest'anno e, secondo le dichiarazioni, dovrà fare concorrenza niente meno che a Google e Yahoo, i due maggiori motori di ricerca della rete.
Un nuovo motore? Che differenze ha dagli altri? Questo è indicato come OpenSource, nel senso che chiunque potrà contribuire al suo miglioramento, lavorando sui filtri delle pagine e valutando i risultati!
Non ci ricorda qualcos'altro? Wikipedia, per esempio, l'enciclopedia OpenSource a cui chiunque può contribuire. Centrato! Infatti dietro il progetto c'è proprio Jimmy Wales, il fondatore di Wikipedia e proprietario della Wikia Inc., a cui questo progetto fa capo (sì, il progetto è OpenSource, ma la Wikia è una società che ha come scopo il profitto - d'altra parte non è la prima volta che succede un simile mix). Da sottolineare che Wikia Inc è partita nel 2004 con un sostanzioso contributo da parte di Amazon.
Naturalmente, dovremo aspettarci qualche polemica simile a quelle esistenti su Wikipedia, per quanto riguarda l'affidabilità delle notizie riportate (chiunque può contribuire, ma anche disfare!).
In sostanza, il progetto mette a disposizione un'applicazione, un algoritmo di ricerca ed un catalogatore del web, che verranno filtrati dagli utenti (ovviamente quelli che conoscono la tecnologia!) e alla fine valutati. Lo scopo sarebbe di far capire agli utenti come si arriva al risultato: Wales infatti descrive Google e Yahoo come servizi a scatola chiusa.
Vista la struttura del progetto, ci si attende che all'inizio le ricerche non siano così soddisfacenti come per la concorrenza, ma i risultati dovrebbero migliorare andando avanti.

Google knol e Wikipedia

Tutti ormai conosciamo Wikipedia, la famosa enciclopedia OpenSource on-line.
Il principio è veramente open: chiunque pensi di essere capace a spiegare un argomento può entrare sul sito (anche senza essersi prima registrato) ed inserire le sue conoscenza. Dato che la mamma dei cretini è sempre incinta... questo vuol dire che chiunque potrebbe scrivere notizie insulse o di parte, cosa che su una enciclopedia non deve esistere. Wikipedia (il cui nome deriva dal software di base usato, Wiki) risolve questo problema dando la possibilità ad un qualunque utente di entrare su quanto scritto da altri e correggerlo a proprio piacimento; un sistema di tracciamento permette comunque di tornare indietro, in caso sia la correzione ad essere truffaldina. Questo dovrebbe garantire alla fine l'obiettività media delle varie voci, accompagnando il tutto da discussioni, talvolta accese, sulla necessità di cambiare certe espressioni e di eliminarne altre. Wikipedia si è generata anche una schiera di amministratori eletti dagli utenti, che possano seguire le controversie ed eventualmente bloccare utenti troppo esuberanti.

Nonostante questo, un problema che viene spesso rinfacciato è che in un determinato momento una certa voce potrebbe essere cambiata da vandali o comunque utenti di parte; se in quel momento vi si accede, si potrebbe trovare un'informazione errata. Inoltre, il tracciamento all'ultimo utente è possibile, ma le informazioni sono solo relative al nickname e/o indirizzo IP, favorendo quello strano fenomeno per il quale nella rete la gente si diverte spesso a fare quello che non può nella vita reale; inoltre il visitatore occasionale non ha strumenti per capire se l'ultima variazione è stata fatta da un utente serio o no. I casi conclamati di vandalismo occulto sono pochi e per lo più legati alla cronaca attuale, ma ciò non toglie che siano possibili, nonostante il grande lavoro degli amministratori. Un'indagine di qualche mese fa, indicava che scegliendo a caso alcune voci, Wikipedia conteneva la stessa percentuale di errori della famosa Enciclopedia Britannica!

Ora è notizia di pochi giorni: anche Google lancia la propria base di conoscenza, simile a Wikipedia, chiamata knol, contrazione di knowledge (conoscenza), per ora in versione beta e con autori ad invito. Una duplicazione? Sembrerebbe di no, soprattutto se confrontiamo i metodi.
Infatti, su knol verrà richiesto che l'autore sia ben definito con i suoi dati (essere individuati dovrebbe eliminare gli utenti gigioni), nessun utente potrà cambiare quanto scritto da un altro, ma chiunque potrà scrivere un articolo in competizione con quello già esistente: saranno gli utenti finali a indicare, tramite proprie valutazioni, quale sia il più attendibile o comunque fatto meglio.
Sarà inoltre possibile, a scelta dell'utente, inserire pubblicità sulla pagina, i cui proventi saranno suddivisi con l'autore: questo dovrebbe spingere a scrivere articoli al meglio delle proprie possibilità, in quanto saranno maggiormente valutati e quindi visitati.

Come si vede, Wikipedia e knol si differenziano proprio per certi concetti di base; la prima sembrerebbe più aderente ai concetti OpenSource, in cui ciascuno contribuisce con lo scopo di migliorare il tutto, mentre la seconda cerca di tenere sotto freno gli eccessi esibizionistici di taluni, facenti cronicamente parte della realtà.
Valutare ora quale sia la formula migliore è difficile; come autore (poco prolifico) di Wikipedia fin dagli inizi della parte italiana, sono sempre stato convinto che la formula OpenSource dovesse essere privilegiata; d'altra parte, man mano che Wikipedia cresce, assisto da un lato ad interventi vandalici fatti al solo gusto di distruggere, oppure per far risaltare il proprio pensiero a scapito degli altri; dall'altra al paziente lavoro degli amministratori per ripristinare le voci fatte bene, magari dopo estenuanti discussioni, costellate di provocazioni.
Quindi, nonostante resti convinto della bontà di Wikipedia, penso che darò più di una possibilità a Google knol e vedremo; nulla vieta di contribuire ad entrambi, sperando che la concorrenza diventi costruttiva; non è la prima volta che i creatori di Google tirano fuori un bel coniglio dal cappello... e ricordiamo: è sempre meglio avere due possibilità che non averne alcuna!
La rivoluzione del Web 2.0 va avanti...

Google acquisisce un fornitore wiki

E' questi giorni l'acquisizione da parte di Google di una società californiana fornitrice di servizi a contenuto, tramite il software wiki. Secondo Google, i navigatori si stanno trasformando da semplici lettori a costruttori di contenuti ed il sistema wiki è quanto di meglio per semplificare questa operazione.
Un nome su tutti: Wikipedia, che permette l'inserimento di una enciclopedia usando questo software collaborativo. Ma non solo: si è saputo di recente che anche i sistemi informativi di spionaggio e polizia americani starebbero usando un sistema simile per scambiarsi informazioni (chiamato Intellipedia).
Sembra quindi che, come al solito, Google abbia colto l'occasione e in un certo senso abbia anticipato i tempi. Ricordiamo che Google offre gratuitamente la prima suite office on-line, composta da un word processor e da uno spreadsheet. Se li provate, troverete che in effetti le loro versioni stand-alone tipo Microsoft Office o OpenOffice sono migliori, offrendo molte funzionalità in più. Però ci si rende conto che le funzioni offerte da Google sono poi quelle base, usate dal 90% degli utilizzatori di una suite office.
Staremo a vedere come questo nuovo servizio si andrà ad inserire nel portfolio di Google, che è solito fornire gratuitamente quello che altri vendono

Wikipedia? No, Citizendium!

Wikipedia (qui la versione italiana) è il famoso esempio di conoscenza distribuita OpenSource: moltissimi utenti contribuiscono ad un database basato sul software Wiki, con lo scopo di creare un'enciclopedia libera sia per la consultazione che per la redazione: infatti, chiunque abbia un accesso ad internet può modificare qualunque voce, anche senza registrarsi. Tant'è che ci sono alcuni, eletti amministratori, che passano il tempo a scoprire eventuali azioni teppistiche e cancellarle.
Dato che chiunque può intervenire, è sempre stato sentito dalla comunità il problema dell'autorevolezza: in altre parole, se io modifico una voce medica, questa sarà certamente meno precisa che se fosse un medico a farlo. La filosofia di Wikipedia risolve il problema per approssimazioni successive: se una voce è errata, prima o poi qualcuno autorevole la leggerà e la correggerà. Allo stesso modo, le voci legate all'attualità si prestano ad interpretazioni che dipendono dal pensiero di chi scrive (basta vedere la cronologia delle voci legate ai politici!): Wikipedia prevede che dopo discussioni si possa arrivare ad una posizione che rappresenti il miglior compromesso; questo viene definito il punto di vista neutrale, a cui in effetti un'enciclopedia dovrebbe puntare, ma che spesso invece riflette le inclinazioni dei redattori responsabili.
Questo modo di agire ha dato i suoi frutti, se tempo fa, esaminando alcune voci a caso, Wikipedia aveva mostrato un numero di errori appena inferiore a quelli dell'Enciclopedia Britannica!
Tuttavia, c'è sempre il problema che spesso alcune voci restano errate a lungo, prima che qualcuno le trovi e le corregga; allo stesso modo, alcune discussioni su personaggi controversi vanno avanti all'infinito, con una sequela di correzioni che rasenta il capriccio. Per questo motivo, quando si cerca qualcosa su Wikipedia che non sia una formula matematica, si vanno poi a cercare conferme in giro.
Notizia recentissima è che uno dei co-fondatori (L.Sanger) del progetto Wikipedia, proprio su queste basi, ha fondato Citizendium, un progetto molto simile a Wikipedia, ma nel quale ci sarà un comitato di redattori, riconosciuto autorevole sulle varie branche di conoscenza, che dovrà accettare o meno i contributi scritti dagli utenti. Questo gruppo di saggi si esprimerà sui punti di contrasto degli utenti, scegliendo la soluzione corretta.
Partiranno da una copia di Wikipedia (la cui licenza permette la copia, la modifica e la pubblicazione), che verrà modificata dove necessario. Dopo di che, verrà aperta ai contributi di tutti, dopo approvazione. Inoltre, ogni utente dovrà partecipare con il proprio nome ed una email funzionante (questo dovrebbe responsabilizzare). Il gruppo dei saggi verrà costruito ad invito.
A me pare che questo riporti in campo il problema della parzialità: il risultato rifletterà il punto di vista di questi saggi e magari dimostrerà che la neutralità... è irraggiungibile! Inoltre, altri tentativi del genere sono stati fatti nel passato, ma sono collassati sotto il lavoro enorme delle approvazioni e per liti tra i saggi...
Tuttavia, facciamo gli auguri alla neonata enciclopedia: il sapere è sempre il benvenuto. Vedremo in seguito quale idea di base era la più corretta.