TURCHI, INGANNI E INTELLIGENZA ARTIFICIALE

𝗪𝗼𝗹𝗳𝗴𝗮𝗻𝗴 𝘃𝗼𝗻 𝗞𝗲𝗺𝗽𝗲𝗹𝗲𝗻 𝘃𝗶𝘀𝘀𝗲 𝗻𝗲𝗹𝗹𝗮 𝘀𝗲𝗰𝗼𝗻𝗱𝗮 𝗺𝗲𝘁𝗮̀ 𝗱𝗲𝗹 𝗦𝗲𝘁𝘁𝗲𝗰𝗲𝗻𝘁𝗼. Studiò legge, filosofia, matematica, fisica e ingegneria. Fu consigliere di corte dell’imperatrice Maria Teresa d’Austria, appassionata di magia e giochi illusionistici. Per compiacerla, von Kempelen inventò un automa per giocare a scacchi che fu presentato all’imperatrice nell’autunno del 1769.

𝗟𝗮 𝗺𝗮𝗰𝗰𝗵𝗶𝗻𝗮 𝗰𝗼𝗻𝘀𝗶𝘀𝘁𝗲𝘃𝗮 𝗶𝗻 𝘂𝗻 𝗺𝗼𝗱𝗲𝗹𝗹𝗼 𝗮 𝗴𝗿𝗮𝗻𝗱𝗲𝘇𝘇𝗮 𝗻𝗮𝘁𝘂𝗿𝗮𝗹𝗲 𝗱𝗶 𝘂𝗻𝗮 𝘁𝗲𝘀𝘁𝗮 𝗲 𝘂𝗻 𝗯𝘂𝘀𝘁𝗼 𝘂𝗺𝗮𝗻𝗶, 𝘃𝗲𝘀𝘁𝗶𝘁𝗶 𝗰𝗼𝗻 𝗮𝗯𝗶𝘁𝗶 𝘁𝘂𝗿𝗰𝗵𝗶 𝗲 𝘁𝘂𝗿𝗯𝗮𝗻𝘁𝗲, seduti dietro un grande armadio sopra il quale era posta una scacchiera. L'automa sembrava in grado di giocare una partita a scacchi contro un avversario umano, ma in realtà non era altro che un'elaborata simulazione: un maestro di scacchi umano nascosto all'interno dell'armadio manovrava il Turco dal basso per mezzo di una serie di leve. Il Turco vinse la maggior parte delle partite giocate in giro per l'Europa e le Americhe per quasi 84 anni, giocando e sconfiggendo molti sfidanti, tra cui Napoleone Bonaparte e Benjamin Franklin, e illudendo la maggior parte dei suoi contemporanei che una tecnologia fosse riuscita a superare l’intelligenza umana.

𝗡𝗲𝗹 𝟮𝟬𝟬𝟭 𝗩𝗲𝗻𝗸𝘆 𝗛𝗮𝗿𝗶𝗻𝗮𝗿𝗮𝘆𝗮𝗻, 𝘂𝗻 𝗶𝗻𝗴𝗲𝗴𝗻𝗲𝗿𝗲 𝗲 𝗶𝗺𝗽𝗿𝗲𝗻𝗱𝗶𝘁𝗼𝗿𝗲 𝗶𝗻𝗱𝗶𝗮𝗻𝗼, la cui start-up era stata appena acquisita da Amazon, creò e brevettò un sistema di 𝑐𝘳𝑜𝘸𝑑𝘴𝑜𝘶𝑟𝘤𝑖𝘯𝑔 a cui “esternalizzare” parti di software che potevano essere eseguite molto più velocemente da esseri umani che da computer. La storia è nota: Harinarayan inventò un servizio online che, dietro un'interfaccia informatica fasulla, si avvaleva in realtà di manodopera umana remota. Con qualche 𝑠𝘦𝑛𝘴𝑒 𝑜𝘧 𝘩𝑢𝘮𝑜𝘶𝑟, Jeff Bezos, il fondatore di Amazon, coniò per questo servizio la definizione di intelligenza artificiale “artificiale” e, in seguito, ispirandosi alla storia di Wolfgang von Kempele, l’espressione “𝘈𝑚𝘢𝑧𝘰𝑛 𝑀𝘦𝑐𝘩𝑎𝘯𝑖𝘤𝑎𝘭 𝘛𝑢𝘳𝑘" (𝑀𝘛𝑢𝘳𝑘).

𝗖𝗶 𝘀𝗼𝗻𝗼 𝗺𝗼𝗹𝘁𝗶 𝗰𝗼𝗺𝗽𝗶𝘁𝗶 𝗰𝗵𝗲 𝗴𝗹𝗶 𝗲𝘀𝘀𝗲𝗿𝗶 𝘂𝗺𝗮𝗻𝗶 𝗿𝗶𝗲𝘀𝗰𝗼𝗻𝗼 𝗮 𝘀𝘃𝗼𝗹𝗴𝗲𝗿𝗲 𝗺𝗲𝗴𝗹𝗶𝗼 𝗼 𝗮 𝗺𝗶𝗻𝗼𝗿 𝗰𝗼𝘀𝘁𝗼 𝗱𝗶 𝘂𝗻 𝗰𝗼𝗺𝗽𝘂𝘁𝗲𝗿, ad esempio cercare oggetti nelle foto, recensire ristoranti, film o attività commerciali, svolgere alcuni tipi di traduzioni, scegliere il servizio più adatto alle esigenze di un cliente, decidere quali risultati siano più pertinenti agli interessi di chi sta effettuando una ricerca online e altri ancora. Tuttavia, oggi si tende sempre a ritenere più economicamente vantaggiosi ed efficienti i servizi digitali piuttosto che quelli forniti da persone. L’idea geniale di Harinarayan, subito compresa e fatta propria da Bezos, fu quella di vendere come tecnologia sofisticata una serie di banalissimi servizi svolti da manodopera umana sottopagata.

𝗤𝘂𝗲𝘀𝘁𝗮 𝗱𝗶𝘃𝗲𝗿𝘁𝗲𝗻𝘁𝗲 𝗽𝗮𝗿𝗮𝗯𝗼𝗹𝗮 𝘀𝗶 𝘀𝘁𝗮 𝗿𝗶𝗽𝗲𝗻𝗱𝗼 𝗼𝗴𝗴𝗶, 𝗾𝘂𝗮𝘀𝗶 𝘁𝗼𝘁𝗮𝗹𝗺𝗲𝗻𝘁𝗲 𝗶𝗴𝗻𝗼𝗿𝗮𝘁𝗮 𝗱𝗮𝗹𝗹𝗮 𝗺𝗮𝗴𝗴𝗶𝗼𝗿𝗮𝗻𝘇𝗮 𝗱𝗲𝗶 𝗺𝗲𝗱𝗶𝗮. Per addestrare i nuovi sistemi di intelligenza artificiale a svolgere compiti specifici in modo accurato e affidabile è necessaria un'incredibile quantità di dati. Molte aziende si procurano questi dati tramite piattaforme umane come Mechanical Turk. I dati ottenuti in questo modo vengono poi inseriti nei modelli di intelligenza artificiale. Sin qui, tutto è apparentemente "normale”. Il fatto spassoso è che una percentuale significativa della manodopera sottopagata per addestrare i modelli di intelligenza artificiale ha scoperto la convenienza di esternalizzare a loro volta il lavoro all’intelligenza artificiale.

𝗨𝗻 𝘁𝗲𝗮𝗺 𝗱𝗶 𝗿𝗶𝗰𝗲𝗿𝗰𝗮𝘁𝗼𝗿𝗶 𝗱𝗲𝗹 𝗽𝗼𝗹𝗶𝘁𝗲𝗰𝗻𝗶𝗰𝗼 𝗳𝗲𝗱𝗲𝗿𝗮𝗹𝗲 𝗱𝗶 𝗭𝘂𝗿𝗶𝗴𝗼 (𝗘𝗣𝗙𝗟) 𝗵𝗮 𝗶𝗻𝗴𝗮𝗴𝗴𝗶𝗮𝘁𝗼 𝘂𝗻 𝗴𝗿𝘂𝗽𝗽𝗼 𝗱𝗶 𝗽𝗲𝗿𝘀𝗼𝗻𝗲 𝘀𝘂 𝗔𝗺𝗮𝘇𝗼𝗻 𝗠𝗲𝗰𝗵𝗮𝗻𝗶𝗰𝗮𝗹 𝗧𝘂𝗿𝗸 per riassumere 16 estratti di articoli di ricerca medica (https://arxiv.org/pdf/2306.07899.pdf). Questi risultati sarebbero dovuti servire poi ad addestrare un sistema di intelligenza artificiale a svolgere lo stesso compito ma in modo automatizzato. Cosa è successo però? Analizzando i risultati forniti dal gruppo di MTurk tramite un modello che individuava la produzione da parte di sistemi di intelligenza artificiale, i ricercatori svizzeri hanno scoperto che quasi la metà dei lavoratori aveva fatto fare il proprio lavoro a ChatGPT. In altre parole, i dati che avrebbero dovuto addestrare l’intelligenza artificiale provenivano non dalla “realtà” ma a loro volta da un sistema di intelligenza artificiale.

𝗜𝗹 𝗰𝗼𝗺𝗽𝗼𝗿𝘁𝗮𝗺𝗲𝗻𝘁𝗼 𝗱𝗲𝗹 𝗴𝗿𝘂𝗽𝗽𝗼 𝗱𝗶 𝗠𝗲𝗰𝗵𝗮𝗻𝗶𝗰𝗮𝗹 𝗧𝘂𝗿𝗸, 𝗳𝗼𝗿𝘀𝗲 𝗽𝗼𝗰𝗼 𝗰𝗼𝗿𝗿𝗲𝘁𝘁𝗼 𝗰𝗼𝗻𝘁𝗿𝗮𝘁𝘁𝘂𝗮𝗹𝗺𝗲𝗻𝘁𝗲 𝗺𝗮 𝗯𝗲𝗻 𝗰𝗼𝗺𝗽𝗿𝗲𝗻𝘀𝗶𝗯𝗶𝗹𝗲, rendeva dunque del tutto inaffidabile l’addestramento dell’intelligenza artificiale. L’ uso di dati generati dall'intelligenza artificiale per addestrare l'intelligenza artificiale stessa introduce infatti ulteriori errori in modelli già soggetti a sbagliare. Ad esempio, i grandi modelli linguistici presentano regolarmente informazioni false come fatti. Se questi risultati errati sono utilizzati per addestramento, gli errori sono integrati nel sistema e amplificati nel tempo, rendendo sempre più difficile individuarne l'origine ed espungerli.

𝗜 𝗳𝗮𝗹𝘀𝗶 𝗻𝗼𝗻 𝘀𝗼𝗹𝘁𝗮𝗻𝘁𝗼 𝘀𝗶 𝘀𝗼𝗺𝗺𝗮𝗻𝗼 𝗺𝗮 𝘀𝗶 𝗳𝗼𝗻𝗱𝗼𝗻𝗼 𝘁𝗿𝗮 𝗹𝗼𝗿𝗼, 𝗴𝗲𝗻𝗲𝗿𝗮𝗻𝗱𝗼 𝘀𝗲𝗺𝗽𝗿𝗲 𝗻𝘂𝗼𝘃𝗲 𝗰𝗹𝗮𝘀𝘀𝗶 𝗱𝗶 𝗲𝗿𝗿𝗼𝗿𝗶 tra loro coerenti che, quindi, diventano indistinguibili da informazioni vere, perlomeno sinché non si esce dal sistema. Ad esempio, in un sistema addestrato a partire dall’informazione che Napoleone Bonaparte fu un imperatore romano, l’intelligenza artificiale si riorganizzerà progressivamente attorno questo dato per cui, alla fine, sarà indiscutibile che la battaglia di Austerlitz fu combattuta contro Annibale e che Giuseppina di Beauharnais sposò Nerone e fu madre di Messalina.

𝗖𝗶 𝘀𝗼𝗻𝗼 𝗱𝘂𝗲 𝗹𝗲𝘇𝗶𝗼𝗻𝗶 che si possono trarre da questa storia.

𝗟𝗮 𝗽𝗿𝗶𝗺𝗮 𝗲̀ 𝗰𝗵𝗲 𝗼𝗴𝗻𝗶 𝘃𝗼𝗹𝘁𝗮 𝗰𝗵𝗲 𝗶𝗻𝗴𝗲𝗴𝗻𝗲𝗿𝗶 𝗲 𝘁𝗲𝗰𝗻𝗼𝗹𝗼𝗴𝗶 𝗺𝗮𝗴𝗻𝗶𝗳𝗶𝗰𝗮𝗻𝗼 𝘁𝗿𝗼𝗽𝗽𝗼 𝗶 𝗿𝗶𝘀𝘂𝗹𝘁𝗮𝘁𝗶 𝗱𝗲𝗹𝗹𝗲 𝗽𝗿𝗼𝗽𝗿𝗶𝗲 𝘀𝗰𝗼𝗽𝗲𝗿𝘁𝗲 è bene diffidare. Vi è quasi sempre nel fondo di costoro un qualcosa di Vanna Marchi, o se si preferisce di Dottor Dulcamara, che deve indurre a sospetto. Gli allarmi sulle terribili conseguenze delle tecnologie moderne sono, il più delle volte, un’astuta campagna di marketing a loro favore. Nulla convince più le persone della straordinaria potenza dell’energia nucleare, dell’ingegneria genetica o dell’intelligenza artificiale che paventarne i rischi. Molti anni fa, McDonald's, aprendo il suo primo locale a Piazza di Spagna a Roma, si fece occultamente promotore di una campagna di stampa contro McDonald's a Roma, per creare attenzione e curiosità: spesso oggi accade lo stesso con le nuove tecnologie.

𝗟𝗮 𝘀𝗲𝗰𝗼𝗻𝗱𝗮 𝗹𝗲𝘇𝗶𝗼𝗻𝗲, 𝗹𝗮 𝗽𝗶𝘂̀ 𝗶𝗺𝗽𝗼𝗿𝘁𝗮𝗻𝘁𝗲, 𝗻𝗮𝘀𝗰𝗲 𝗱𝗮𝗹 𝗿𝗮𝗳𝗳𝗿𝗼𝗻𝘁𝗼 𝘁𝗿𝗮 𝗶 𝘁𝗿𝗲 𝗮𝗻𝗲𝗱𝗱𝗼𝘁𝗶 𝗰𝗵𝗲 𝗵𝗼 𝗿𝗮𝗰𝗰𝗼𝗻𝘁𝗮𝘁𝗼: il finto automa di von Kempelen, la finta intelligenza artificiale di Amazon, i finti dati per addestrare ChatGPT. Gli esseri umani sono stati da sempre affascinati dall’ idea di creare automi intelligenti (un bel libro di Gian Paolo Ceserani, di più di cinquant’anni fa, racconta proprio la storia di questi “falsi Adami”). Questo fascino ha molte ragioni (alcune di tipo religioso, altre più tecnologiche, altra ancora economiche). Ho però il sospetto che al fondo vi sia una fantasia “diabolica” profondamente radicata in tutti noi.

𝗟𝗮 𝗳𝗮𝗻𝘁𝗮𝘀𝗶𝗮 𝗲̀ 𝗾𝘂𝗲𝗹𝗹𝗮 𝗱𝗶 𝗰𝗿𝗲𝗮𝗿𝗲 𝘂𝗻 𝗺𝗼𝗻𝗱𝗼 𝘀𝗲𝗻𝘇𝗮 “𝗰𝗮𝗿𝗻𝗲”, 𝗳𝗮𝘁𝘁𝗼 𝘀𝗼𝗹𝗼 𝗱𝗶 𝗳𝗿𝗲𝗱𝗱𝗼 𝗺𝗲𝘁𝗮𝗹𝗹𝗼. Carne significa caducità e concupiscenza, vecchiaia e morte ma anche umori, emozioni, lacrime di gioia e brividi di piacere. In una parola: la carne è tutto ciò che noi siamo ma che ci spaventa essere.

𝗠𝗮𝗶 𝗰𝗼𝗺𝗲 𝗼𝗴𝗴𝗶 𝗹𝗮 𝗰𝘂𝗹𝘁𝘂𝗿𝗮 𝘂𝗺𝗮𝗻𝗮 𝗶𝗻 𝗢𝗰𝗰𝗶𝗱𝗲𝗻𝘁𝗲 𝗵𝗮 𝘁𝗲𝗺𝘂𝘁𝗼 𝗹𝗮 "𝗰𝗮𝗿𝗻𝗲": non ci si faccia ingannare dalla pornografia sessuale, alimentare ed estetica che ci circonda, che è soltanto esorcismo, grottesca parodia, 𝑠𝘪𝑚𝘪𝑎 ℎ𝘰𝑚𝘪𝑛𝘪𝑠. Nel suo più profondo il mondo moderno aspira a liberarsi dalla carne. Lo fa appellandosi alla scienza, alla tecnologia, a una razionalità esaltata oltre ogni misura.

𝗦𝗲𝗻𝘇𝗮 𝗰𝗮𝗿𝗻𝗲, 𝗽𝗲𝗿𝗼̀, 𝗶𝗹 𝗹𝗼𝗴𝗼𝘀 𝗱𝗶𝘃𝗲𝗻𝘁𝗮 𝗶𝗻𝗴𝗮𝗻𝗻𝗼, 𝘃𝗮𝗻𝗶𝘁𝗮̀, ℎ𝘦𝑣𝘦𝑙 ℎ𝘦𝑣𝘦𝑙𝘪𝑚. Così, mentre ci illudiamo di creare un uomo nuovo, un superuomo meccanico dalla portentosa intelligenza, siamo soltanto destinati a raccontarci una favola idiota "𝑝𝘪𝑒𝘯𝑎 𝑑𝘪 𝘳𝑢𝘮𝑜𝘳𝑒 𝑒 𝑓𝘶𝑟𝘰𝑟𝘦, 𝑐𝘩𝑒 𝑛𝘰𝑛 𝑠𝘪𝑔𝘯𝑖𝘧𝑖𝘤𝑎 𝑛𝘶𝑙𝘭𝑎”.

English:

https://www.linkedin.com/pulse/turks-artificial-intelligence-more-emilio-mordini