top of page
  • Immagine del redattoreEmilio Mordini

TURCHI, INGANNI E INTELLIGENZA ARTIFICIALE


๐—ช๐—ผ๐—น๐—ณ๐—ด๐—ฎ๐—ป๐—ด ๐˜ƒ๐—ผ๐—ป ๐—ž๐—ฒ๐—บ๐—ฝ๐—ฒ๐—น๐—ฒ๐—ป ๐˜ƒ๐—ถ๐˜€๐˜€๐—ฒ ๐—ป๐—ฒ๐—น๐—น๐—ฎ ๐˜€๐—ฒ๐—ฐ๐—ผ๐—ป๐—ฑ๐—ฎ ๐—บ๐—ฒ๐˜๐—ฎฬ€ ๐—ฑ๐—ฒ๐—น ๐—ฆ๐—ฒ๐˜๐˜๐—ฒ๐—ฐ๐—ฒ๐—ป๐˜๐—ผ. Studiรฒ legge, filosofia, matematica, fisica e ingegneria. Fu consigliere di corte dellโ€™imperatrice Maria Teresa dโ€™Austria, appassionata di magia e giochi illusionistici. Per compiacerla, von Kempelen inventรฒ un automa per giocare a scacchi che fu presentato allโ€™imperatrice nellโ€™autunno del 1769.


๐—Ÿ๐—ฎ ๐—บ๐—ฎ๐—ฐ๐—ฐ๐—ต๐—ถ๐—ป๐—ฎ ๐—ฐ๐—ผ๐—ป๐˜€๐—ถ๐˜€๐˜๐—ฒ๐˜ƒ๐—ฎ ๐—ถ๐—ป ๐˜‚๐—ป ๐—บ๐—ผ๐—ฑ๐—ฒ๐—น๐—น๐—ผ ๐—ฎ ๐—ด๐—ฟ๐—ฎ๐—ป๐—ฑ๐—ฒ๐˜‡๐˜‡๐—ฎ ๐—ป๐—ฎ๐˜๐˜‚๐—ฟ๐—ฎ๐—น๐—ฒ ๐—ฑ๐—ถ ๐˜‚๐—ป๐—ฎ ๐˜๐—ฒ๐˜€๐˜๐—ฎ ๐—ฒ ๐˜‚๐—ป ๐—ฏ๐˜‚๐˜€๐˜๐—ผ ๐˜‚๐—บ๐—ฎ๐—ป๐—ถ, ๐˜ƒ๐—ฒ๐˜€๐˜๐—ถ๐˜๐—ถ ๐—ฐ๐—ผ๐—ป ๐—ฎ๐—ฏ๐—ถ๐˜๐—ถ ๐˜๐˜‚๐—ฟ๐—ฐ๐—ต๐—ถ ๐—ฒ ๐˜๐˜‚๐—ฟ๐—ฏ๐—ฎ๐—ป๐˜๐—ฒ, seduti dietro un grande armadio sopra il quale era posta una scacchiera. L'automa sembrava in grado di giocare una partita a scacchi contro un avversario umano, ma in realtร  non era altro che un'elaborata simulazione: un maestro di scacchi umano nascosto all'interno dell'armadio manovrava il Turco dal basso per mezzo di una serie di leve. Il Turco vinse la maggior parte delle partite giocate in giro per l'Europa e le Americhe per quasi 84 anni, giocando e sconfiggendo molti sfidanti, tra cui Napoleone Bonaparte e Benjamin Franklin, e illudendo la maggior parte dei suoi contemporanei che una tecnologia fosse riuscita a superare lโ€™intelligenza umana.


๐—ก๐—ฒ๐—น ๐Ÿฎ๐Ÿฌ๐Ÿฌ๐Ÿญ ๐—ฉ๐—ฒ๐—ป๐—ธ๐˜† ๐—›๐—ฎ๐—ฟ๐—ถ๐—ป๐—ฎ๐—ฟ๐—ฎ๐˜†๐—ฎ๐—ป, ๐˜‚๐—ป ๐—ถ๐—ป๐—ด๐—ฒ๐—ด๐—ป๐—ฒ๐—ฟ๐—ฒ ๐—ฒ ๐—ถ๐—บ๐—ฝ๐—ฟ๐—ฒ๐—ป๐—ฑ๐—ถ๐˜๐—ผ๐—ฟ๐—ฒ ๐—ถ๐—ป๐—ฑ๐—ถ๐—ฎ๐—ป๐—ผ, la cui start-up era stata appena acquisita da Amazon, creรฒ e brevettรฒ un sistema di ๐‘๐˜ณ๐‘œ๐˜ธ๐‘‘๐˜ด๐‘œ๐˜ถ๐‘Ÿ๐˜ค๐‘–๐˜ฏ๐‘” a cui โ€œesternalizzareโ€ parti di software che potevano essere eseguite molto piรน velocemente da esseri umani che da computer. La storia รจ nota: Harinarayan inventรฒ un servizio online che, dietro un'interfaccia informatica fasulla, si avvaleva in realtร  di manodopera umana remota. Con qualche ๐‘ ๐˜ฆ๐‘›๐˜ด๐‘’ ๐‘œ๐˜ง ๐˜ฉ๐‘ข๐˜ฎ๐‘œ๐˜ถ๐‘Ÿ, Jeff Bezos, il fondatore di Amazon, coniรฒ per questo servizio la definizione di intelligenza artificiale โ€œartificialeโ€ e, in seguito, ispirandosi alla storia di Wolfgang von Kempele, lโ€™espressione โ€œ๐˜ˆ๐‘š๐˜ข๐‘ง๐˜ฐ๐‘› ๐‘€๐˜ฆ๐‘๐˜ฉ๐‘Ž๐˜ฏ๐‘–๐˜ค๐‘Ž๐˜ญ ๐˜›๐‘ข๐˜ณ๐‘˜" (๐‘€๐˜›๐‘ข๐˜ณ๐‘˜).


๐—–๐—ถ ๐˜€๐—ผ๐—ป๐—ผ ๐—บ๐—ผ๐—น๐˜๐—ถ ๐—ฐ๐—ผ๐—บ๐—ฝ๐—ถ๐˜๐—ถ ๐—ฐ๐—ต๐—ฒ ๐—ด๐—น๐—ถ ๐—ฒ๐˜€๐˜€๐—ฒ๐—ฟ๐—ถ ๐˜‚๐—บ๐—ฎ๐—ป๐—ถ ๐—ฟ๐—ถ๐—ฒ๐˜€๐—ฐ๐—ผ๐—ป๐—ผ ๐—ฎ ๐˜€๐˜ƒ๐—ผ๐—น๐—ด๐—ฒ๐—ฟ๐—ฒ ๐—บ๐—ฒ๐—ด๐—น๐—ถ๐—ผ ๐—ผ ๐—ฎ ๐—บ๐—ถ๐—ป๐—ผ๐—ฟ ๐—ฐ๐—ผ๐˜€๐˜๐—ผ ๐—ฑ๐—ถ ๐˜‚๐—ป ๐—ฐ๐—ผ๐—บ๐—ฝ๐˜‚๐˜๐—ฒ๐—ฟ, ad esempio cercare oggetti nelle foto, recensire ristoranti, film o attivitร  commerciali, svolgere alcuni tipi di traduzioni, scegliere il servizio piรน adatto alle esigenze di un cliente, decidere quali risultati siano piรน pertinenti agli interessi di chi sta effettuando una ricerca online e altri ancora. Tuttavia, oggi si tende sempre a ritenere piรน economicamente vantaggiosi ed efficienti i servizi digitali piuttosto che quelli forniti da persone. Lโ€™idea geniale di Harinarayan, subito compresa e fatta propria da Bezos, fu quella di vendere come tecnologia sofisticata una serie di banalissimi servizi svolti da manodopera umana sottopagata.


๐—ค๐˜‚๐—ฒ๐˜€๐˜๐—ฎ ๐—ฑ๐—ถ๐˜ƒ๐—ฒ๐—ฟ๐˜๐—ฒ๐—ป๐˜๐—ฒ ๐—ฝ๐—ฎ๐—ฟ๐—ฎ๐—ฏ๐—ผ๐—น๐—ฎ ๐˜€๐—ถ ๐˜€๐˜๐—ฎ ๐—ฟ๐—ถ๐—ฝ๐—ฒ๐—ป๐—ฑ๐—ผ ๐—ผ๐—ด๐—ด๐—ถ, ๐—พ๐˜‚๐—ฎ๐˜€๐—ถ ๐˜๐—ผ๐˜๐—ฎ๐—น๐—บ๐—ฒ๐—ป๐˜๐—ฒ ๐—ถ๐—ด๐—ป๐—ผ๐—ฟ๐—ฎ๐˜๐—ฎ ๐—ฑ๐—ฎ๐—น๐—น๐—ฎ ๐—บ๐—ฎ๐—ด๐—ด๐—ถ๐—ผ๐—ฟ๐—ฎ๐—ป๐˜‡๐—ฎ ๐—ฑ๐—ฒ๐—ถ ๐—บ๐—ฒ๐—ฑ๐—ถ๐—ฎ. Per addestrare i nuovi sistemi di intelligenza artificiale a svolgere compiti specifici in modo accurato e affidabile รจ necessaria un'incredibile quantitร  di dati. Molte aziende si procurano questi dati tramite piattaforme umane come Mechanical Turk. I dati ottenuti in questo modo vengono poi inseriti nei modelli di intelligenza artificiale. Sin qui, tutto รจ apparentemente "normaleโ€. Il fatto spassoso รจ che una percentuale significativa della manodopera sottopagata per addestrare i modelli di intelligenza artificiale ha scoperto la convenienza di esternalizzare a loro volta il lavoro allโ€™intelligenza artificiale.


๐—จ๐—ป ๐˜๐—ฒ๐—ฎ๐—บ ๐—ฑ๐—ถ ๐—ฟ๐—ถ๐—ฐ๐—ฒ๐—ฟ๐—ฐ๐—ฎ๐˜๐—ผ๐—ฟ๐—ถ ๐—ฑ๐—ฒ๐—น ๐—ฝ๐—ผ๐—น๐—ถ๐˜๐—ฒ๐—ฐ๐—ป๐—ถ๐—ฐ๐—ผ ๐—ณ๐—ฒ๐—ฑ๐—ฒ๐—ฟ๐—ฎ๐—น๐—ฒ ๐—ฑ๐—ถ ๐—ญ๐˜‚๐—ฟ๐—ถ๐—ด๐—ผ (๐—˜๐—ฃ๐—™๐—Ÿ) ๐—ต๐—ฎ ๐—ถ๐—ป๐—ด๐—ฎ๐—ด๐—ด๐—ถ๐—ฎ๐˜๐—ผ ๐˜‚๐—ป ๐—ด๐—ฟ๐˜‚๐—ฝ๐—ฝ๐—ผ ๐—ฑ๐—ถ ๐—ฝ๐—ฒ๐—ฟ๐˜€๐—ผ๐—ป๐—ฒ ๐˜€๐˜‚ ๐—”๐—บ๐—ฎ๐˜‡๐—ผ๐—ป ๐— ๐—ฒ๐—ฐ๐—ต๐—ฎ๐—ป๐—ถ๐—ฐ๐—ฎ๐—น ๐—ง๐˜‚๐—ฟ๐—ธ per riassumere 16 estratti di articoli di ricerca medica (https://arxiv.org/pdf/2306.07899.pdf). Questi risultati sarebbero dovuti servire poi ad addestrare un sistema di intelligenza artificiale a svolgere lo stesso compito ma in modo automatizzato. Cosa รจ successo perรฒ? Analizzando i risultati forniti dal gruppo di MTurk tramite un modello che individuava la produzione da parte di sistemi di intelligenza artificiale, i ricercatori svizzeri hanno scoperto che quasi la metร  dei lavoratori aveva fatto fare il proprio lavoro a ChatGPT. In altre parole, i dati che avrebbero dovuto addestrare lโ€™intelligenza artificiale provenivano non dalla โ€œrealtร โ€ ma a loro volta da un sistema di intelligenza artificiale.


๐—œ๐—น ๐—ฐ๐—ผ๐—บ๐—ฝ๐—ผ๐—ฟ๐˜๐—ฎ๐—บ๐—ฒ๐—ป๐˜๐—ผ ๐—ฑ๐—ฒ๐—น ๐—ด๐—ฟ๐˜‚๐—ฝ๐—ฝ๐—ผ ๐—ฑ๐—ถ ๐— ๐—ฒ๐—ฐ๐—ต๐—ฎ๐—ป๐—ถ๐—ฐ๐—ฎ๐—น ๐—ง๐˜‚๐—ฟ๐—ธ, ๐—ณ๐—ผ๐—ฟ๐˜€๐—ฒ ๐—ฝ๐—ผ๐—ฐ๐—ผ ๐—ฐ๐—ผ๐—ฟ๐—ฟ๐—ฒ๐˜๐˜๐—ผ ๐—ฐ๐—ผ๐—ป๐˜๐—ฟ๐—ฎ๐˜๐˜๐˜‚๐—ฎ๐—น๐—บ๐—ฒ๐—ป๐˜๐—ฒ ๐—บ๐—ฎ ๐—ฏ๐—ฒ๐—ป ๐—ฐ๐—ผ๐—บ๐—ฝ๐—ฟ๐—ฒ๐—ป๐˜€๐—ถ๐—ฏ๐—ถ๐—น๐—ฒ, rendeva dunque del tutto inaffidabile lโ€™addestramento dellโ€™intelligenza artificiale. Lโ€™ uso di dati generati dall'intelligenza artificiale per addestrare l'intelligenza artificiale stessa introduce infatti ulteriori errori in modelli giร  soggetti a sbagliare. Ad esempio, i grandi modelli linguistici presentano regolarmente informazioni false come fatti. Se questi risultati errati sono utilizzati per addestramento, gli errori sono integrati nel sistema e amplificati nel tempo, rendendo sempre piรน difficile individuarne l'origine ed espungerli.


๐—œ ๐—ณ๐—ฎ๐—น๐˜€๐—ถ ๐—ป๐—ผ๐—ป ๐˜€๐—ผ๐—น๐˜๐—ฎ๐—ป๐˜๐—ผ ๐˜€๐—ถ ๐˜€๐—ผ๐—บ๐—บ๐—ฎ๐—ป๐—ผ ๐—บ๐—ฎ ๐˜€๐—ถ ๐—ณ๐—ผ๐—ป๐—ฑ๐—ผ๐—ป๐—ผ ๐˜๐—ฟ๐—ฎ ๐—น๐—ผ๐—ฟ๐—ผ, ๐—ด๐—ฒ๐—ป๐—ฒ๐—ฟ๐—ฎ๐—ป๐—ฑ๐—ผ ๐˜€๐—ฒ๐—บ๐—ฝ๐—ฟ๐—ฒ ๐—ป๐˜‚๐—ผ๐˜ƒ๐—ฒ ๐—ฐ๐—น๐—ฎ๐˜€๐˜€๐—ถ ๐—ฑ๐—ถ ๐—ฒ๐—ฟ๐—ฟ๐—ผ๐—ฟ๐—ถ tra loro coerenti che, quindi, diventano indistinguibili da informazioni vere, perlomeno sinchรฉ non si esce dal sistema. Ad esempio, in un sistema addestrato a partire dallโ€™informazione che Napoleone Bonaparte fu un imperatore romano, lโ€™intelligenza artificiale si riorganizzerร  progressivamente attorno questo dato per cui, alla fine, sarร  indiscutibile che la battaglia di Austerlitz fu combattuta contro Annibale e che Giuseppina di Beauharnais sposรฒ Nerone e fu madre di Messalina.


๐—–๐—ถ ๐˜€๐—ผ๐—ป๐—ผ ๐—ฑ๐˜‚๐—ฒ ๐—น๐—ฒ๐˜‡๐—ถ๐—ผ๐—ป๐—ถ che si possono trarre da questa storia.


๐—Ÿ๐—ฎ ๐—ฝ๐—ฟ๐—ถ๐—บ๐—ฎ ๐—ฒฬ€ ๐—ฐ๐—ต๐—ฒ ๐—ผ๐—ด๐—ป๐—ถ ๐˜ƒ๐—ผ๐—น๐˜๐—ฎ ๐—ฐ๐—ต๐—ฒ ๐—ถ๐—ป๐—ด๐—ฒ๐—ด๐—ป๐—ฒ๐—ฟ๐—ถ ๐—ฒ ๐˜๐—ฒ๐—ฐ๐—ป๐—ผ๐—น๐—ผ๐—ด๐—ถ ๐—บ๐—ฎ๐—ด๐—ป๐—ถ๐—ณ๐—ถ๐—ฐ๐—ฎ๐—ป๐—ผ ๐˜๐—ฟ๐—ผ๐—ฝ๐—ฝ๐—ผ ๐—ถ ๐—ฟ๐—ถ๐˜€๐˜‚๐—น๐˜๐—ฎ๐˜๐—ถ ๐—ฑ๐—ฒ๐—น๐—น๐—ฒ ๐—ฝ๐—ฟ๐—ผ๐—ฝ๐—ฟ๐—ถ๐—ฒ ๐˜€๐—ฐ๐—ผ๐—ฝ๐—ฒ๐—ฟ๐˜๐—ฒ รจ bene diffidare. Vi รจ quasi sempre nel fondo di costoro un qualcosa di Vanna Marchi, o se si preferisce di Dottor Dulcamara, che deve indurre a sospetto. Gli allarmi sulle terribili conseguenze delle tecnologie moderne sono, il piรน delle volte, unโ€™astuta campagna di marketing a loro favore. Nulla convince piรน le persone della straordinaria potenza dellโ€™energia nucleare, dellโ€™ingegneria genetica o dellโ€™intelligenza artificiale che paventarne i rischi. Molti anni fa, McDonald's, aprendo il suo primo locale a Piazza di Spagna a Roma, si fece occultamente promotore di una campagna di stampa contro McDonald's a Roma, per creare attenzione e curiositร : spesso oggi accade lo stesso con le nuove tecnologie.


๐—Ÿ๐—ฎ ๐˜€๐—ฒ๐—ฐ๐—ผ๐—ป๐—ฑ๐—ฎ ๐—น๐—ฒ๐˜‡๐—ถ๐—ผ๐—ป๐—ฒ, ๐—น๐—ฎ ๐—ฝ๐—ถ๐˜‚ฬ€ ๐—ถ๐—บ๐—ฝ๐—ผ๐—ฟ๐˜๐—ฎ๐—ป๐˜๐—ฒ, ๐—ป๐—ฎ๐˜€๐—ฐ๐—ฒ ๐—ฑ๐—ฎ๐—น ๐—ฟ๐—ฎ๐—ณ๐—ณ๐—ฟ๐—ผ๐—ป๐˜๐—ผ ๐˜๐—ฟ๐—ฎ ๐—ถ ๐˜๐—ฟ๐—ฒ ๐—ฎ๐—ป๐—ฒ๐—ฑ๐—ฑ๐—ผ๐˜๐—ถ ๐—ฐ๐—ต๐—ฒ ๐—ต๐—ผ ๐—ฟ๐—ฎ๐—ฐ๐—ฐ๐—ผ๐—ป๐˜๐—ฎ๐˜๐—ผ: il finto automa di von Kempelen, la finta intelligenza artificiale di Amazon, i finti dati per addestrare ChatGPT. Gli esseri umani sono stati da sempre affascinati dallโ€™ idea di creare automi intelligenti (un bel libro di Gian Paolo Ceserani, di piรน di cinquantโ€™anni fa, racconta proprio la storia di questi โ€œfalsi Adamiโ€). Questo fascino ha molte ragioni (alcune di tipo religioso, altre piรน tecnologiche, altra ancora economiche). Ho perรฒ il sospetto che al fondo vi sia una fantasia โ€œdiabolicaโ€ profondamente radicata in tutti noi.


๐—Ÿ๐—ฎ ๐—ณ๐—ฎ๐—ป๐˜๐—ฎ๐˜€๐—ถ๐—ฎ ๐—ฒฬ€ ๐—พ๐˜‚๐—ฒ๐—น๐—น๐—ฎ ๐—ฑ๐—ถ ๐—ฐ๐—ฟ๐—ฒ๐—ฎ๐—ฟ๐—ฒ ๐˜‚๐—ป ๐—บ๐—ผ๐—ป๐—ฑ๐—ผ ๐˜€๐—ฒ๐—ป๐˜‡๐—ฎ โ€œ๐—ฐ๐—ฎ๐—ฟ๐—ป๐—ฒโ€, ๐—ณ๐—ฎ๐˜๐˜๐—ผ ๐˜€๐—ผ๐—น๐—ผ ๐—ฑ๐—ถ ๐—ณ๐—ฟ๐—ฒ๐—ฑ๐—ฑ๐—ผ ๐—บ๐—ฒ๐˜๐—ฎ๐—น๐—น๐—ผ. Carne significa caducitร  e concupiscenza, vecchiaia e morte ma anche umori, emozioni, lacrime di gioia e brividi di piacere. In una parola: la carne รจ tutto ciรฒ che noi siamo ma che ci spaventa essere.


๐— ๐—ฎ๐—ถ ๐—ฐ๐—ผ๐—บ๐—ฒ ๐—ผ๐—ด๐—ด๐—ถ ๐—น๐—ฎ ๐—ฐ๐˜‚๐—น๐˜๐˜‚๐—ฟ๐—ฎ ๐˜‚๐—บ๐—ฎ๐—ป๐—ฎ ๐—ถ๐—ป ๐—ข๐—ฐ๐—ฐ๐—ถ๐—ฑ๐—ฒ๐—ป๐˜๐—ฒ ๐—ต๐—ฎ ๐˜๐—ฒ๐—บ๐˜‚๐˜๐—ผ ๐—น๐—ฎ "๐—ฐ๐—ฎ๐—ฟ๐—ป๐—ฒ": non ci si faccia ingannare dalla pornografia sessuale, alimentare ed estetica che ci circonda, che รจ soltanto esorcismo, grottesca parodia, ๐‘ ๐˜ช๐‘š๐˜ช๐‘Ž โ„Ž๐˜ฐ๐‘š๐˜ช๐‘›๐˜ช๐‘ . Nel suo piรน profondo il mondo moderno aspira a liberarsi dalla carne. Lo fa appellandosi alla scienza, alla tecnologia, a una razionalitร  esaltata oltre ogni misura.


๐—ฆ๐—ฒ๐—ป๐˜‡๐—ฎ ๐—ฐ๐—ฎ๐—ฟ๐—ป๐—ฒ, ๐—ฝ๐—ฒ๐—ฟ๐—ผฬ€, ๐—ถ๐—น ๐—น๐—ผ๐—ด๐—ผ๐˜€ ๐—ฑ๐—ถ๐˜ƒ๐—ฒ๐—ป๐˜๐—ฎ ๐—ถ๐—ป๐—ด๐—ฎ๐—ป๐—ป๐—ผ, ๐˜ƒ๐—ฎ๐—ป๐—ถ๐˜๐—ฎฬ€, โ„Ž๐˜ฆ๐‘ฃ๐˜ฆ๐‘™ โ„Ž๐˜ฆ๐‘ฃ๐˜ฆ๐‘™๐˜ช๐‘š. Cosรฌ, mentre ci illudiamo di creare un uomo nuovo, un superuomo meccanico dalla portentosa intelligenza, siamo soltanto destinati a raccontarci una favola idiota "๐‘๐˜ช๐‘’๐˜ฏ๐‘Ž ๐‘‘๐˜ช ๐˜ณ๐‘ข๐˜ฎ๐‘œ๐˜ณ๐‘’ ๐‘’ ๐‘“๐˜ถ๐‘Ÿ๐˜ฐ๐‘Ÿ๐˜ฆ, ๐‘๐˜ฉ๐‘’ ๐‘›๐˜ฐ๐‘› ๐‘ ๐˜ช๐‘”๐˜ฏ๐‘–๐˜ง๐‘–๐˜ค๐‘Ž ๐‘›๐˜ถ๐‘™๐˜ญ๐‘Žโ€.


English:




38 visualizzazioni0 commenti

Post recenti

Mostra tutti
bottom of page