{"id":87698,"date":"2024-10-29T09:02:22","date_gmt":"2024-10-29T08:02:22","guid":{"rendered":"https:\/\/appelloalpopolo.it\/?p=87698"},"modified":"2024-10-29T09:16:28","modified_gmt":"2024-10-29T08:16:28","slug":"omini-di-burro-scuole-e-universita-al-paese-dei-balocchi-dellia-generativa","status":"publish","type":"post","link":"https:\/\/appelloalpopolo.it\/?p=87698","title":{"rendered":"Omini di burro. Scuole e universit\u00e0 al Paese dei Balocchi dell\u2019IA generativa"},"content":{"rendered":"

di ROARS (Daniela Tafani)<\/strong><\/p>\n

\n

<\/p>\n

Come l\u2019omino di burro del romanzo di Collodi, chi introduca nelle scuole e nelle universit\u00e0 strumenti di \u201cintelligenza artificiale generativa\u201d promette agli studenti un Paese dei Balocchi in cui potranno scrivere senza aver pensato. I sistemi neoliberali \u2013 nei quali si ritiene che la didattica sia un addestramento ai test e che la valutazione delle opere dei ricercatori non ne richieda la lettura \u2013 sono gi\u00e0 pronti a un simile annientamento dell\u2019istruzione pubblica e alla sua sostituzione con qualche software proprietario.<\/strong><\/p>\n

Volentieri la redazione ripubblica il contributo di Daniela Tafani apparso sul\u00a0Bollettino telematico di filosofia politica<\/a><\/p>\n

1. Macchine per scrivere frasi probabili
\n2. La bolla dell\u2019\u201cintelligenza artificiale generativa\u201d
\n3. Il valore dell\u2019istruzione: le aziende e le narrazioni Edtech
\n4. Girelli, stampelle e ciuchini: gli omini di burro nei sistemi neoliberali<\/p>\n

1. Macchine per scrivere frasi probabili<\/h4>\n

A un programma informatico si assegna talvolta il nome della facolt\u00e0 umana che si desidera implementare; cos\u00ec, osservava nel 1976 Drew McDermott, si ingannano molte persone, tra le quali in primo luogo se stessi, riguardo a ci\u00f2 che il programma \u00e8 effettivamente in grado di fare: \u201cun programma chiamato \u2018PENSARE\u2019\u201d \u2013 scriveva\u00a0McDermott<\/a>\u00a0\u2013 \u201ctende ad acquisire inesorabilmente strutture di dati chiamate \u2018PENSIERI\u2019\u201d. L\u201despressione \u201cintelligenza artificiale generativa\u201d \u00e8 un esempio di tale \u201cmnemotecnica dei desideri\u201d: induce infatti a dimenticare che si tratta di software che gira su computer e che generare output a partire da input \u00e8 ci\u00f2 che i software normalmente fanno.<\/p>\n

I generatori di linguaggio sono sistemi informatici di natura statistica, basati su grandi modelli del linguaggio naturale (Large Language Models<\/em>):\u00a0producono stringhe di testo<\/a>, sulla base di una rappresentazione probabilistica del modo in cui le sequenze di forme linguistiche si combinano nei testi di partenza e sulla base della\u00a0valutazione, formulata da esseri umani, dei gradi di preferibilit\u00e0 delle risposte<\/a>.<\/p>\n

L\u2019interazione con tali sistemi non ha nulla a che vedere con l\u2019interlocuzione con un essere umano. Quando immettiamo, quale input, una domanda \u2013 ad esempio,\u00a0\u201c<\/em>Chi ha scritto\u00a0I promessi sposi<\/em>?\u201d\u00a0\u2013,\u00a0la domanda che stiamo effettivamente ponendo \u00e8 un\u2019altra<\/a>: nel caso di questo esempio, \u00e8: \u201cData la distribuzione statistica delle parole nel corpus iniziale di testi, quali sono le parole \u2013 che gli utenti e i valutatori approverebbero maggiormente \u2013 che \u00e8 pi\u00f9 probabile seguano la sequenza\u00a0\u201c<\/em>Chi ha scritto\u00a0I promessi sposi?<\/em>\u201c\u201d.<\/p>\n

Non c\u2019\u00e8 alcuna garanzia che la sequenza di testo pi\u00f9 probabile sia, per l\u2019essere umano che le attribuisce un significato, fedele ai fatti (ai quali il sistema non ha alcun accesso) o rispettosa della logica. Suggerimenti quali quelli di\u00a0mangiare almeno un sasso al giorno, di incollare la mozzarella alla base della pizza, per evitare che scivoli via<\/a>, o di prepararsi una\u00a0bevanda dissetante a base di candeggina e ammoniaca<\/a>\u00a0non sono dunque malfunzionamenti del sistema, n\u00e9 tantomeno \u201callucinazioni<\/a>\u201d (trattandosi solo di output di un software architettonicamente incapace di distinguere il vero dal falso), bens\u00ec indizi rivelatori della modalit\u00e0 ordinaria di funzionamento del sistema. Analogamente, i\u00a0suggerimenti, a una tredicenne, su some mentire ai genitori e organizzare un rapporto sessuale con un trentunenne appena conosciuto<\/a>\u00a0non sono una questione etica, a cui si possa rimediare con la moralizzazione di un sistema di calcolo. Le stringhe di testo prodotte sono infatti, nella\u00a0terminologia di Harry Frankfurt<\/a>, mere \u201cstronzate<\/a>\u201c: parole che, in quanto estruse su basi probabilistiche, non hanno alcun riferimento al vero o al falso, n\u00e9 al giusto e all\u2019ingiusto. I testi generati riproducono,\u00a0come in uno specchio<\/a>, il pensiero egemonico e le ingiustizie espresse nei dati di partenza, ma, cos\u00ec come gli specchi non producono corpi, i grandi modelli del linguaggio naturale non producono menti.<\/p>\n

Quando la sequenza pi\u00f9 probabile coincide alla lettera con uno dei testi utilizzati per l\u2019\u201daddestramento\u201d, il sistema lo riproduce nel proprio output, con un\u00a0plagio automatizzato\u00a0<\/a>e\u00a0senza che sia possibile ottenere l\u2019indicazione delle fonti riprodotte<\/a>\u00a0(al momento, i sistemi di cui si vanta la capacit\u00e0 di citare le fonti producono in realt\u00e0 solo ulteriore testo plausibile e\u00a0inaffidabile<\/a>, ossia stringhe di testo che appaiono come rinvii alle fonti, ma che sono spesso\u00a0scorretti o infedeli<\/a>).<\/p>\n

L\u2019operazione che i generatori di linguaggio sono in grado di svolgere \u00e8 il completamento automatico: producono testi pertinenti, rispetto agli input che ricevono, ossia testi sintatticamente e lessicalmente corretti, ma privi di intenti comunicativi. Simili sistemi sono dunque capaci di produrre\u00a0linguaggio, in un senso molto ristretto e impoverito del termine<\/a>, e, al tempo stesso,\u00a0incapaci di pensare<\/a>: non hanno accesso al significato in senso proprio, ossia alla relazione tra le forme linguistiche e qualcosa di esterno ad esse, non sanno ci\u00f2 che scrivono,\u00a0non ragionano<\/a>, non sono capaci di astrazione e generalizzazione,\u00a0non sono in grado di correggersi,<\/a>\u00a0non hanno il senso comune e la conoscenza sociale alla base della competenza linguistica umana. Sono \u201cpappagalli stocastici<\/a>\u201c: producono parole senza conoscerne il significato e lo fanno sulla base di informazioni probabilistiche sul modo in cui le sequenze di forme linguistiche si combinano nei testi di partenza.<\/p>\n

A cosa pu\u00f2 servire un sistema in grado di produrre testo plausibile e inaffidabile?<\/a>\u00a0Gli ambiti di attivit\u00e0 nei quali si pu\u00f2 prescindere da veridicit\u00e0 e affidabilit\u00e0 del contenuto e nei quali la plausibilit\u00e0 pu\u00f2 essere sufficiente sono anzitutto quelli di frodi, truffe, manipolazioni e diffusione di propaganda politica su larghissima scala, nei quali i generatori di linguaggio trovano gi\u00e0 impiego. La diffusione generalizzata di tali sistemi produce perci\u00f2 \u2013 secondo quanto previsto dalla stessa openAI nel\u00a0documento tecnico di GPT4<\/a>\u00a0\u2013\u00a0l\u2019inquinamento degli ecosistemi dell\u2019informazione e della scienza e un aumento esponenziale dei reati di\u00a0phishing\u00a0<\/em>e\u00a0scam<\/em><\/a>.<\/p>\n

Per il resto, un testo costitutivamente inaffidabile, che richiede che l\u2019utente del sistema si sobbarchi con altri mezzi l\u2019intero lavoro di verifica, \u00e8 utile quasi solo nei casi in cui chi dovrebbe scrivere non abbia voglia di scrivere e chi dovrebbe leggere non abbia intenzione di leggere, nei quali \u00e8 perci\u00f2 sufficiente che i testi somiglino, per struttura, lessico e sintassi, a ci\u00f2 per cui li si spaccia (ad esempio, a un progetto europeo o un articolo scientifico), cos\u00ec da superare il test di una lettura distratta e cursoria.<\/p>\n

I generatori di testo plausibile sono oggi utilizzati per le comunicazioni burocratiche, nei casi in cui sia previsto che i pochi punti essenziali, oggetto della comunicazione, siano affogati in una o due pagine di formule convenzionali. Di converso, chi riceve le due pagine chiede talora a un generatore di testo di estrarne i punti essenziali, senza alcuna garanzia che coincidano con quelli oggetto della comunicazione originaria. Nei casi di questo genere, sarebbe opportuno trarre le conseguenze delle analisi di David Graeber sui\u00a0bullshit jobs<\/em>\u00a0e sugli \u201cspacciatori di carta stipendiati<\/a>\u201c, anzich\u00e9 utilizzare sistemi informatici \u2013 tanto energivori da richiedere la\u00a0riapertura di impianti nucleari dismessi<\/a>\u00a0\u2013 per moltiplicare le frasi che nessuno vuole leggere.<\/p>\n

Talvolta, una sequenza di input e output \u00e8 presentata come \u201cuna conversazione\u201d con un generatore di linguaggio e utilizzata per attirare il pubblico. Nelle presentazioni delle iniziative di divulgazione scientifica, che pur dovrebbero contribuire alla diffusione di una conoscenza realistica, da parte dei giovani, delle nuove tecnologie, si trova a volte \u201cun\u2019intervista a ChatGPT<\/a>\u201c, con la citazione di output quali \u201c\u00c8 stato un piacere parlare con te e esplorare tutti questi argomenti! Sono felice che ti sia piaciuta l\u2019intervista\u201d. Con gli input a un software si ottiene di intravedere non, come nelle risposte a un\u2019intervista, una persona in dialogo con noi, bens\u00ec, negli output del sistema \u2013 che ovviamente non pu\u00f2 essere \u201cfelice\u201d di aver parlato con noi \u2013 una mera \u201crappresentazione statisticamente astratta<\/a>\u201d di qualcosa che \u00e8 gi\u00e0 stato detto o scritto. E non si vede per quale ragione il pubblico dovrebbe aver voglia di leggere ci\u00f2 che il curatore dell\u2019iniziativa, per pigrizia o mancanza di idee, non ha avuto voglia di scrivere.<\/p>\n

Perch\u00e9, allora, i generatori di linguaggio sono stati diffusi e commercializzati come se potessero fornire testi affidabili e, addirittura, comprendere ci\u00f2 che scriviamo, risponderci, ragionare, fornire informazioni e sostituire lavoratori in ogni ambito?\u00a0L\u2019origine della costellazione di narrazioni mendaci che hanno accompagnato la distribuzione dei generatori di linguaggio \u2013 dalla pubblicit\u00e0 ingannevole alle\u00a0frodi in senso stretto<\/a>\u00a0\u2013 \u00e8 da rintracciarsi nell\u2019intreccio tra la concentrazione monopolistica delle risorse necessarie alla costruzione di tali sistemi e gli aspetti finanziari.<\/p>\n

 <\/p>\n

2. La bolla dell\u2019\u201cintelligenza artificiale generativa\u201d<\/h4>\n

La cosiddetta \u201cintelligenza artificiale generativa\u201d richiede\u00a0potenti infrastrutture di calcolo<\/a>\u00a0e enormi quantit\u00e0 di dati. Tra i soggetti privati, tali risorse sono nella disponibilit\u00e0 delle sole\u00a0grandi aziende tecnologiche transnazionali<\/a>\u00a0che, in virt\u00f9 di un modello di business fondato sulla sorveglianza, detengono l\u2019accesso al mercato necessario per l\u2019intercettazione di grandi flussi di dati e metadati individuali e le infrastrutture computazionali per la raccolta e l\u2019elaborazione di tali dati.<\/p>\n

Il modello di business di tali aziende si fonda su\u00a0pratiche coloniali di sfruttamento del lavoro,\u00a0<\/a>su un\u2019enorme quantit\u00e0 di dati e opere del lavoro umano, estorti o prelevati in blocco l\u00e0 dove si trovino, e sull\u2019esternalizzazione dei\u00a0disastrosi costi ambientali<\/a>: poich\u00e9 il tentativo di\u00a0replicare con sistemi meramente probabilistici l\u2019intelligenza umana richiederebbe una potenza di calcolo infinita<\/a>, il percorso intrapreso dalle Big Tech condurr\u00e0 all\u2019esaurimento delle \u201crisorse naturali molto prima di poterci avvicinare\u201d a un simile obiettivo. In varie parti del mondo,\u00a0gli impianti di produzione di microchip\u00a0<\/a>e i\u00a0data center<\/a>\u00a0<\/em>competono ormai\u00a0con le popolazioni locali<\/a>\u00a0per l\u2019acqua<\/a>\u00a0e l\u2019energia necessarie a lavarsi o sfamarsi, con\u00a0fabbisogni che eccedono talvolta la totalit\u00e0 dell\u2019energia disponibile<\/a>\u00a0e inducono aziende quali\u00a0Microsoft a progettare un\u2019alimentazione dei propri\u00a0data center<\/em>\u00a0attraverso reattori nucleari<\/a>. I giganti della tecnologia che avevano assunto impegni di riduzioni delle emissioni di gas serra sono ora impegnati \u2013 data l\u2019evidenza di un\u00a0aumento<\/a>, anzich\u00e9 una diminuzione, di tali emissioni \u2013 a far modificare le modalit\u00e0 di calcolo dei relativi indicatori, con pretese analoghe a quelle di chi si recasse al lavoro con un\u2019auto a benzina e volesse acquistare da un collega pi\u00f9 in forma \u201cil diritto di sostenere che si reca al lavoro in bicicletta<\/a>\u201c.<\/p>\n

Sui generatori di linguaggio si concentrano oggi grandi investimenti del capitale di rischio. A chi investa in capitale di rischio non serve che una tecnologia sia utile o che funzioni; serve soltanto che le persone credano che funzioni, per un tempo sufficientemente lungo da rendere possibile un ritorno sugli investimenti. In virt\u00f9 del suo carattere intrinsecamente speculativo, il capitale di rischio si caratterizza per la propensione a generare bolle e si concentra in settori nei quali la\u00a0macchina delle promesse<\/a>\u00a0funziona a pieno ritmo. Di qui, la decisione di presentare sistemi in grado di scrivere storie plausibili come sistemi in grado di comprendere, ragionare e fornire informazioni e di distribuirli\u00a0come\u00a0assistenti personali<\/a>, amici artificiali,\u00a0strumenti per parlare con i propri cari defunti<\/a>, consulenti sanitari o consulenti legali, diffondendo\u00a0stime fantasiose e interessate\u00a0<\/a>sulle automazioni prossime, i lavoratori sostituibili e gli enormi profitti previsti (\u201cun\u2019opportunit\u00e0 da 6 trilioni di dollari\u201d, per citare\u00a0Morgan Stanley<\/a>).<\/p>\n

Senza preoccuparsi di convertire una tecnologia immatura in prodotti utili e sicuri<\/a>, i monopoli della tecnologia hanno distribuito e commercializzato\u00a0prodotti non funzionanti e pericolosi<\/a>. Lo sfruttamento del lavoro inconsapevole degli utenti per testare i nuovi prodotti \u00e8 presentato come la partecipazione a un\u2019impresa collettiva,\u00a0offuscando cos\u00ec la linea di confine tra la fase di ricerca e sperimentazione e quella di distribuzione e commercializzazione<\/a>\u00a0e violando le leggi vigenti in nome di un\u00a0presunto vuoto giuridico<\/a>.<\/p>\n

Il pubblico \u00e8 tratto in inganno dalla\u00a0novit\u00e0 costituita dalla\u00a0dissociazione di linguaggio e pensiero\u00a0<\/a>e dalla scelta deliberata, da parte delle aziende, di un\u00a0design antropomorfo<\/a>: di fronte a un software che scriva \u201cio\u201d o \u201cmi dispiace\u201d, le persone che non hanno idea di come quel programma informatico funzioni \u2013 come osservava\u00a0Joseph Weizenbaum<\/a>\u00a0\u00a0alcuni decenni fa, a proposito delle reazioni al suo\u00a0chatbot<\/em>, Eliza\u00a0<\/a>\u2013 se ne spiegano il funzionamento in analogia con le proprie capacit\u00e0 di comprendere e pensare.<\/p>\n

Alimentando\u00a0il mito del\u00a0prompt\u00a0<\/em><\/a>e le narrazioni sul\u00a0prompt engineering,\u00a0<\/em>le aziende fingono che gli utenti abbiano facolt\u00e0 di controllo o decisione sugli output \u2013 purch\u00e9 apprendano la novella arte di comunicare, tramite\u00a0incantesimi rituali<\/a>, con le intelligenze aliene \u2013 e\u00a0attribuiscono agli utenti la responsabilit\u00e0 per gli output<\/a>, evitando cos\u00ec che le risposte inservibili o pericolose siano ascritte, come sarebbe ovvio, alla responsabilit\u00e0 dei produttori.\u00a0 Agli utenti, del resto, non si spiega neppure che i generatori di linguaggio rispondono spesso non ai loro input, ma a una occulta riformulazione di questi, in virt\u00f9 di uno\u00a0shadow prompting<\/em>\u00a0<\/a>che si sostituisce agli input originari e con il quale le aziende mirano a\u00a0intridere gli output di consigli per gli acquisti<\/a>\u00a0e tentano di evitare che siano generati testi che gli esseri umani giudicano tossici o discriminatori.<\/p>\n

Mentre i CEO delle grandi aziende dichiarano pubblicamente che\u00a0\u201cva bene, per le persone sole, sposare il loro chatbot<\/a>\u201c, e,\u00a0per le persone povere, farsi curare da ChatGPT<\/a>, la distanza tra le fanfaronate pubblicitarie dei\u00a0broligarchs<\/a><\/em>\u00a0e le effettive prestazioni dei generatori di linguaggio comincia oggi a dar luogo a qualche brusco risveglio. Che\u00a0un sistema di IA generativa non possa svolgere i compiti di un lavoratore umano, n\u00e9 aumentarne la produttivit\u00e0<\/a>\u00a0non impedisce infatti a un\u2019azienda di\u00a0licenziare un lavoratore e sostituirlo con un sistema che non pu\u00f2 svolgere il suo lavoro<\/a>, n\u00e9 a un datore di lavoro di introdurre un sistema che fa solo perdere tempo ai suoi dipendenti, ma i malfunzionamenti e la perdita di produttivit\u00e0 si palesano rapidamente. Secondo\u00a0un\u2019analisi recente<\/a>, il 96% dei datori di lavoro \u00e8 convinto che l\u2019IA possa aumentare la produttivit\u00e0 dei lavoratori, mentre il 77% di quei medesimi lavoratori sostiene che questi strumenti abbiano in realt\u00e0 diminuito la loro produttivit\u00e0 e aumentato il loro carico di lavoro. Anche gli esiti di un\u00a0test<\/a>\u00a0commissionato dalla Securities and Investments Commission del governo austrialiano \u2013 che ha messo alla prova un sistema di IA generativa con il compito di sintetizzare le informazioni contenute in un documento \u2013 attestano che gli attuali sistemi di IA generativa appesantiscono il carico di lavoro, se utilizzati per produrre riassunti, \u201ca causa della necessit\u00e0 di verificare i risultati, o perch\u00e9 il documento di partenza presentava effettivamente le informazioni in modo migliore\u201d.<\/p>\n

Le aziende che affidano a un generatore di linguaggio il compito di rispondere alle domande dei clienti scoprono, in tribunale, di essere\u00a0responsabili anche delle risposte pi\u00f9 stravaganti del loro\u00a0chatbot<\/em><\/a>\u00a0e di dover onorare gli impegni contratti in tali testi sintetici, quand\u2019anche in contrasto con i termini e le condizioni di un loro servizio da loro erogato.<\/p>\n

Si diffonde cos\u00ec la constatazione che \u201cmodelli e strumenti di IA sembrano grandiosi\u201d, quando \u201ci ricercatori ne misurano il successo con i loro bizzari indicatori\u201d, ma che\u00a0simili indicatori non hanno alcuna validit\u00e0 di costrutto<\/a>\u00a0\u2013 non misurano cio\u00e8 quello che si pretende stiano misurando \u2013 e dunque \u201cle cose possono mettersi molto male\u201d quando \u201cclienti paganti provano questa tecnologia nel mondo reale\u201d. Se ne \u00e8 resa conto, ad esempio, tra le altre, una grande compagnia farmaceutica, che ha introdotto uno strumento di IA generativa e se ne \u00e8 disfatta poco tempo dopo, avendo constatato che ci\u00f2 che il sistema era effettivamente in grado di fare non erano che\u00a0presentazioni con una \u201cqualit\u00e0 da scuola media\u201d<\/a>.<\/p>\n

Quanto all\u2019impiego di sistemi di IA generativa in specifici ambiti, quali quello giuridico, che consentirebbero il riferimento a un corpus di testi definito,\u00a0gli output di simili \u201cassistenti legali\u201d sono, al momento, in gran parte scorretti, ossia\u00a0erronei in una percentuale di casi che va dal 58% all\u201988%<\/a>. Il ricorso a sistemi di\u00a0Retrieval Augmented Generation<\/em>\u00a0(RAG), che ancorino le risposte a testi prefissati, \u00e8 un percorso di ricerca aperto, che produce tuttavia, ad oggi, sistemi\u00a0inaffidabili, sia nell\u2019ambito giuridico<\/a>\u00a0che, ad esempio, in quello\u00a0medico\u00a0<\/a>(nel quale, peraltro, in virt\u00f9 del\u00a0bias<\/em>\u00a0dell\u2019automazione<\/a>, il livello di accuratezza del giudizio umano tende a precipitare anche quando si introducano sistemi ben pi\u00f9 affidabili dei generatori di linguaggio).<\/p>\n

I casi eclatanti di apparente successo tecnico dell\u2019IA generativa appartengono in genere alla\u00a0storia degli automi che sono in realt\u00e0 esseri umani<\/a>: nello spettacolo\u00a0post mortem<\/em>\u00a0del comico George Carlin, presentato come opera di un sistema di IA \u201caddestrato\u201d sui testi dell\u2019artista, il\u00a0monologo comico<\/a>\u00a0era in realt\u00e0 stato scritto da un essere umano. Nei settori tecnologici della cosiddetta \u201cintelligenza artificiale\u201d, pressoch\u00e9 interamente rivolti, dal punto di vista commerciale e industriale, alla sostituzione di compiti umani, \u00e8 usuale millantare un\u2019automazione ancora impossibile, secondo il motto della Silicon Valley che benedice le frodi (fake it until you make it<\/em>):\u00a0le auto commercializzate da Cruise come \u201ca guida autonoma\u201d, ad esempio, richiedevano in realt\u00e0 la\u00a0silenziosa assistenza di tre lavoratori ogni due auto<\/a>, i quali intervenivano costantemente, al ricevimento di specifici segnali, per controllare a distanza i veicoli; e i supermercati senza casse di Amazon, \u201cJust Walk out\u201d, si reggevano, anzich\u00e9 sull\u201dintelligenza artificiale\u201d, come sostenuto da Amazon, sulle\u00a0operazioni svolte a distanza da 1.000 lavoratori indiani<\/a>\u00a0(avvalorando la tesi secondo cui l\u2019acronimo \u201cIA\u201d sarebbe da sciogliersi, pi\u00f9 propriamente, come \u201cIndiani Assenti\u201d). Gli annunci delle automazioni possibili consentono in ogni caso, nei rapporti tra capitale e lavoro, di rafforzare il primo a danno del secondo, schiacciando la forza contrattuale dei lavoratori con la prospettiva di una loro generale sostituibilit\u00e0.<\/p>\n

Indotti da narrazioni ingannevoli a utilizzare i generatori di linguaggio per compiti che questi non possono svolgere, i singoli utenti diventano consapevoli della loro inaffidabilit\u00e0 per esperienza e a loro spese. Non stupisce, perci\u00f2, che l\u2019espressione stessa \u201cintelligenza artificiale\u201d, quando compaia nella descrizione di un prodotto o di un servizio, induca oggi nei consumatori\u00a0un sentimento di sfiducia e una diminuzione delle intenzioni di acquisto<\/a>. Per forzare i consumatori a pagare per il nuovo\u00a0\u201csoftware as a service\u201d,<\/a>\u00a0 lo si introduce allora, unilateralmente, in servizi gi\u00e0 esistenti e poi si annuncia, a sorpresa, un\u00a0aumento esorbitante del costo dell\u2019abbonamento ai medesimi<\/a>, dovuto all\u2019integrazione, non\u00a0richiesta, dell\u2019\u201dIA generativa\u201d.<\/p>\n

Nei casi in cui siano sufficienti formule convenzionali e non siano richiesti ragionamenti puntuali o informazioni corrette, i generatori di testo plausibile possono apparire all\u2019altezza del compito. Non \u00e8 detto, tuttavia, che gli ambiti dell\u2019esperienza umana potenzialmente automatizzabili possano essere delegati a un software senza esserne del tutto snaturati. Google ha distribuito, in occasione delle Olimpiadi di Parigi, uno spot pubblicitario, intitolato \u201cCara Sydney\u201d, in cui una bambina racconta al padre di voler scrivere una lettera a Sydney McLaughlin-Levrone, l\u2019atleta che \u00e8 il suo idolo e di cui sogna di battere il record; il padre, affinch\u00e9 la lettera sia \u201cperfetta\u201d, chiede a Gemini di scriverla per conto della figlia. Lo sconcerto collettivo che ha travolto Google, inducendo l\u2019azienda al\u00a0ritiro dell\u2019annuncio pubblicitario<\/a>, \u00e8 ben sintetizzato, fin dal titolo, da un articolo sul Washington Post,\u00a0Odio la pubblicit\u00e0 di Gemini \u201cCara Sydney\u201d sempre di pi\u00f9 ogni momento che passa<\/em><\/a>:<\/p>\n

Questa pubblicit\u00e0 mi fa venire voglia di tirare un martello contro il televisore ogni volta che la vedo. [\u2026] Personalmente, non sono una grande azienda, ma non credo che un buon modo di vendere il proprio prodotto sia quello di annunciare che succhier\u00e0 via tutta la gioia di vivere. Mi godo la gioia di vivere. Non odio l\u2019efficienza. Ma odio che non si colga il punto. [\u2026] Sapete cos\u2019\u00e8 la scrittura? \u00c8 il pensiero in una forma che si pu\u00f2 condividere con altre persone. \u00c8 un metodo per portare i pensieri, le immagini e le storie fuori dal vostro cervello e metterli nel cervello di qualcun altro. [\u2026] Portare via la capacit\u00e0 di scrivere da soli significa portare via la capacit\u00e0 di pensare da soli. [\u2026] Questa \u00e8 una pubblicit\u00e0 per le persone che pensano che sostituire i pasti con le pillole sia una prospettiva che riempie tutti di gioia, e che, se mai riusciremo a eliminare del tutto il sonno e la musica, sar\u00e0 un trionfo grandioso.<\/p><\/blockquote>\n

Per la brama di trovare nuove collocazioni commerciali a prodotti incapaci di automatizzare le attivit\u00e0 che chiunque delegherebbe volentieri a una macchina, le aziende tentano di colonizzare ambiti di attivit\u00e0 che le persone amano svolgere, proponendo automazioni che, svuotando di senso tali attivit\u00e0, le annienterebbero. Nel recente\u00a0spot\u00a0Crush!<\/em><\/a>\u00a0di Apple, un\u2019enorme pressa di metallo schiaccia, fino a distruggerli completamente, una tromba e, tra gli altri, un metronomo, un pianoforte, una chitarra, una pila di libri e quaderni, un manichino da disegno, alcuni barattoli di colori per dipingere e alcune macchine fotografiche; quando la pressa si solleva, al posto degli oggetti distrutti c\u2019\u00e8 soltanto un sottile iPad Pro. Le reazioni negative \u2013 \u201cla distruzione dell\u2019esperienza umana. Per gentile concessione della Silicon Valley\u201d, ha scritto\u00a0Hugh Grant<\/a>\u00a0\u2013 hanno indotto Apple a\u00a0scusarsi pubblicamente, sospendendo le trasmissioni dello spot<\/a>. E Samsung ha ritenuto utile prendere immediatamente le distanze da Apple, pubblicando un seguito, di segno opposto, dello spot incriminato, dal titolo\u00a0Creativity cannot be crushed<\/a><\/em>, nel quale una giovane donna recupera una malconcia chitarra, superstite dello spot di Apple, e comincia a suonarla, leggendo uno spartito da un dispositivo Samsung.<\/p>\n

Le grandi banche e societ\u00e0 di investimento constatano ora che i\u00a0benefici dell\u2019IA generativa non ne compensano minimamente i costi<\/a>, giacch\u00e9 i sistemi disponibili non sono in grado di svolgere in modo affidabile alcuna funzione significativamente remunerativa e non illegale, e si pongono \u201cla domanda da 600 miliardi di dollar<\/a>i\u201d: la \u201cbolla dell\u2019IA sta per scoppiare?<\/a>\u201d Chi aveva previsto un collasso della bolla dell\u2019IA per il 2025, si affretta a rettificare la previsione,\u00a0anticipando la data del collasso<\/a>. Altri si chiedono se la bolla scoppier\u00e0 d\u2019un tratto o se si sgonfier\u00e0 invece lentamente o\u00a0cosa lasceranno dietro di s\u00e9<\/a>, dopo lo scoppio della bolla, i molti sistemi inaffidabili.<\/p>\n

Ai monopoli della tecnologia che operano quali\u00a0latifondisti<\/a>\u00a0digitali \u2013 con un modello di business fondato su estrazioni,\u00a0enclosures\u00a0<\/em>e rendite \u2013 potrebbe in realt\u00e0 essere\u00a0sufficiente che gli utenti restino ostaggi delle infrastrutture dalle quali si sono resi dipendenti<\/a>:<\/p>\n

Rimane una domanda cruciale alla quale forse non avremo mai una risposta soddisfacente: e se l\u2019hype fosse sempre stato rivolto al fallimento? E se il punto fosse stato quello di gonfiare le cose, entrare, fare profitti e consolidare le dipendenze infrastrutturali prima che la critica, o la realt\u00e0, avessero la possibilit\u00e0 di raggiungerle? [\u2026] l\u2019hype<\/em>\u00a0di oggi avr\u00e0 effetti duraturi, che limiteranno le possibilit\u00e0 di domani. Sfruttare\u00a0l\u2019hype<\/em>\u00a0sull\u2019IA per spostare una parte ulteriore delle nostre infrastrutture verso il cloud aumenta la dipendenza dalle aziende del cloud, e su questo sar\u00e0 difficile tornare indietro, anche se le promesse gonfiate dell\u2019IA verranno smentite.<\/p><\/blockquote>\n

Tra i clienti da abbindolare e prendere in ostaggio prima possibile, ci sono senz\u2019altro \u2013 per il volume di risorse finanziarie gestite, la gamma di attivit\u00e0 di cui prospettare l\u2019automazione e gli ambiti della vita privata sui quali estendere e consolidare le pratiche di sorveglianza \u2013 i governi e le istituzioni pubbliche. Accade cos\u00ec, allo stesso tempo, che McDonald\u2019s constati che i sistemi di intelligenza artificiale non sono all\u2019altezza, in questo momento, di prendere l\u2019ordinazione di un hamburger \u2013 e\u00a0sospenda perci\u00f2 una sperimentazione che ha coinvolto oltre 100 punti vendita<\/a>\u00a0\u2013 e che nelle scuole italiane si dia avvio a sperimentazioni che investono simili sistemi del ruolo di \u201cnuovo tutor per gli studenti<\/a>\u201c. Per comprendere un simile quadro, pu\u00f2 essere utile chiedersi da quali aziende private provenga, oggi, la spinta a introdurre nelle istituzioni scolastiche e universitarie prodotti tecnologici immaturi e non funzionanti, con quali narrazioni e quale riconcettualizzazione del\u2019istruzione le aziende accompagnino la promozione di tali prodotti e perch\u00e9 scuole e universit\u00e0 cedano cos\u00ec facilmente, dimenticando la natura stessa della propria attivit\u00e0, ai nuovi venditori della\u00a0\u00a0\u201cIA olio di serpente\u201d<\/a>, ossia di applicazioni che non funzionano (talvolta, semplicemente perch\u00e9 non possono funzionare).<\/p>\n

 <\/p>\n

3. Il valore dell\u2019istruzione: le aziende e le narrazioni\u00a0Edtech<\/em><\/h4>\n

L\u2019annuncio che i generatori di linguaggio siano in grado di \u201cpersonalizzare l\u2019educazione<\/a>\u201d, condividendo cos\u00ec con i docenti il carico didattico, \u00e8 una promessa interessata: dal 2010 al 2021,\u00a0gli investimenti di capitali di rischio in \u201ctecnologie educative\u201d (Edtech<\/em>) sono passati da 500 milioni a 20 miliardi di dollari<\/a>.<\/p>\n

Nel settore dell\u2019istruzione, le Big Tech mirano a diventare\u00a0Govtech<\/a><\/em>, con il doppio ruolo di soggetti economici e di attori pubblici (animati da interessi e valori meramente privati). Si tratta di aziende che non vendono o non si limitano a vendere software al settore pubblico, ma che si appropriano di attivit\u00e0 e \u201cinformazioni pubbliche e le trasformano in prodotti proprietari\u201d. Poich\u00e9 lo scopo delle aziende tecnologiche \u00e8 estrarre valore dai servizi e dai dati, il loro ingresso sostituisce la finalit\u00e0 originaria dell\u2019istruzione pubblica con gli obiettivi aziendali.<\/p>\n

Ad oscurare questa ovviet\u00e0 \u2013 con un immaginario che ammanta delle vesti di un messianesimo fantascientifico la\u00a0mercificazione dell\u2019istruzione<\/a>\u00a0e degli stessi studenti \u2013 provvedono, per conto delle Big Tech, i\u00a0brokers Edtech<\/em><\/a>, \u201corganizzazioni che operano tra l\u2019industria delle tecnologie per l\u2019educazione, le scuole pubbliche, i centri di ricerca e i governi, guidando le scuole nell\u2019acquisto e nell\u2019uso pedagogico\u201d di tali tecnologie. Quasi fossero esperti in materia di tecnologia e, al tempo stesso, di pedagogia, anzich\u00e9 meri portavoce delle aziende tecnologiche, i brokers \u201cdanno forma alle \u2018prove\u2019 che vengono prese in considerazione\u201d e \u201cintroducono metriche di \u2018impatto\u2019 e di \u2018ci\u00f2 che funziona\u2019\u201d nell\u2019ambito dell\u2019istruzione, diffondendo \u2013 anche quanto al ruolo dei docenti \u2013 gli immaginari pi\u00f9 opportuni a sostenere la colonizzazione, da parte dei monopoli della tecnologia, delle istituzioni scolastiche.<\/p>\n

Tra le narrazioni pi\u00f9 diffuse, si trovano quelle descritte brevemente di seguito.<\/p>\n

 <\/p>\n

3.a.<\/strong>\u00a0L\u2019idea che la sorveglianza sia una forma di cura:\u00a0<\/strong>poich\u00e9 la cosiddetta \u201cintelligenza artificiale\u201d \u00e8 il derivato di un modello di business basato sulla sorveglianza<\/a>, le grandi aziende tecnologiche presentano\u00a0la sorveglianza come un\u2019attivit\u00e0 di cura<\/a>, dagli intenti benevoli e dagli effetti benefici. Con\u00a0la promessa di un\u2019automazione<\/a>\u00a0del controllo, della valutazione e dello stesso insegnamento, si introduce un monitoraggio puntuale e pervasivo di ogni singola porzione delle attivit\u00e0 degli studenti; qualsiasi situazione didattica diviene cos\u00ec, anzitutto, l\u2019occasione per l\u2019impresa commerciale di estrarre dati e metadati individuali e di instillare, negli studenti, l\u2019abitudine a essere oggetti di una sorveglianza permanente. Con la medesima concezione carceraria che caratterizza le citt\u00e0 \u201csmart\u201d, i dispositivi di sorveglianza nelle scuole sono presentati, contro ogni evidenza, anche come\u00a0strumenti per garantire la sicurezza.<\/a>\u00a0Dati e metadati degli studenti \u2013 raccolti a loro insaputa e in spregio a qualsiasi forma di dissenso \u2013 sono combinati e associati tra loro, utilizzati per trarne \u201cinferenze<\/a>\u201d e ceduti a un numero sterminato di terze parti, di cui, come ha constatato di recente anche la\u00a0Federal Trade Commission statunitense<\/a>, le stesse Big Tech non riescono neppure a tener traccia.<\/p>\n

Per gli studenti,\u00a0l\u2019essere esposti<\/a>\u00a0e osservati<\/a>\u00a0costituisce una potente spinta al conformismo e un ostacolo all\u2019autonomia e alla creativit\u00e0: nella quotidianit\u00e0 dei processi di apprendimento,\u00a0la tutela dei diritti degli studenti richiede non che si proteggano i dati individuali, ma che tali dati non siano raccolti affatto<\/a>\u00a0e che si riconosca a ogni studente\u00a0il diritto al nascondimento<\/a>, ossia alla privatezza degli episodi imbarazzanti, dei tentativi falliti e degli errori, senza che questi alimentino\u00a0modelli statistici automatizzati sulla sua presunta fragilit\u00e0<\/a>. Come rilevava l\u2019OCSE qualche decennio fa,\u00a0prima che le pratiche di sorveglianza totale fossero ribattezzate \u201cdigitalizzazione\u201d<\/a>, la sorveglianza viola il diritto allo sviluppo umano: una condizione in cui l\u2019individuo riceva riscontri basati su \u201cinformazioni quasi illimitate su se stesso e sulle sue azioni\u201d lo priva della libert\u00e0 di crescere; gli rende infatti impossibile \u2013 \u201cdi fronte a una continua retroazione\u00a0delle sue azioni, omissioni e imperfezioni precedenti, congelate nella memoria indelebile di un computer\u201d \u2013 colmare il divario tra ci\u00f2 che \u00e8 e ci\u00f2 desidera diventare.<\/p>\n

3.b. Il mito della personalizzazione dell\u2019apprendimento:\u00a0<\/strong>il concetto dell\u2019apprendimento personalizzato, che costituisce il nucleo delle narrazioni\u00a0Edtech<\/em>\u00a0sui generatori di linguaggio, non \u00e8 nuovo. Poggia su una\u00a0concezione della conoscenza come di un pacchetto di nozioni preconfezionate<\/a>, dell\u2019istruzione come di un processo di addestramento e\u00a0degli studenti come di piccioni<\/a>\u00a0il cui comportamento possa essere modellato e controllato. Audrey Watters, che ne ricostruisce la storia in\u00a0Teaching machines. The history of personalized learning<\/a><\/em>, ricorda che\u00a0non sempre la tecnologia rende migliore l\u2019istruzione:<\/a><\/p>\n

La storia dell\u2019Edtech<\/em>\u00a0pu\u00f2 essere fatta risalire agli anni \u201950 e al lavoro di B.F. Skinner, psicologo comportamentale di Harvard. Ha certamente costruito \u201cmacchine per insegnare\u201d, ma \u00e8 probabilmente pi\u00f9 noto per il suo lavoro sull\u2019addestramento dei piccioni.
\nPurtroppo, sosteneva che l\u2019addestramento dei piccioni fosse simile all\u2019insegnamento agli studenti. Pensava che se avessimo ridotto il contenuto all\u2019oggetto pi\u00f9 piccolo possibile e avessimo presentato quell\u2019oggetto un po\u2019 alla volta agli studenti, in modo che ogni volta che gli studenti procedevano in una lezione, trovassero sempre la risposta giusta, il costante rinforzo comportamentale positivo avrebbe portato al successo. Vi suona familiare?
\nL\u2019attrattiva dell\u2019apprendimento personalizzato \u00e8 evidente, ma spesso prende il programma di studio richiesto, che \u00e8 ancora standardizzato e uguale per tutti, e si limita a presentarlo agli studenti perch\u00e9 lo affrontino ciascuno con il proprio ritmo.<\/p><\/blockquote>\n

Proprio cos\u00ec, in effetti, scrive Sam Altman, CEO di OpenAI:<\/p>\n

Non accadr\u00e0 tutto in una volta, ma presto saremo in grado di lavorare con l\u2019IA che ci aiuter\u00e0 a fare molto di pi\u00f9 di quanto potremmo mai fare senza l\u2019IA [\u2026]. I nostri figli avranno a disposizione tutor virtuali in grado di fornire un\u2019istruzione personalizzata in qualsiasi materia, in qualsiasi lingua e con il ritmo di cui hanno bisogno.<\/p><\/blockquote>\n

La concezione dello studente-piccione \u00e8 in genere accompagnata, e mascherata, dall\u2019antropomorfizzazione della macchina docente del momento. In un post intitolato\u00a0Perch\u00e9 l\u2019IA salver\u00e0 il mondo<\/a>,<\/em>\u00a0con un ottimismo pari solo al capitale di rischio che la sua azienda ha investito nel settore, il multimiliardario Marc Andreessen scrive:<\/p>\n

Ogni bambino avr\u00e0 un tutor di IA infinitamente paziente, infinitamente compassionevole, infinitamente competente e infinitamente disponibile. Il tutor di IA sar\u00e0 al fianco di ogni bambino in ogni fase del suo sviluppo, aiutandolo a massimizzare il suo potenziale con la versione meccanica dell\u2019amore infinito.<\/p><\/blockquote>\n

Su simili antropomorfizzazioni si fonda la pretesa che i dispositivi per l\u2019apprendimento personalizzato abbiano un carattere\u00a0liberatorio<\/a>, giacch\u00e9 scioglierebbero gli studenti da \u201ctutte le restrizioni insopportabilmente opprimenti dell\u2019apprendimento in gruppo\u201d e renderebbero \u201cfattibile un modello educativo 1:1\u201d. In realt\u00e0, non c\u2019\u00e8 alcuna relazione di uno a uno. C\u2019\u00e8 una sola persona, lo studente, che dovrebbe imparare qualcosa, entro una situazione desocializzata, da un software che estrude stringhe di testo probabili.<\/p>\n

Quando la personalizzazione della didattica sia perseguita attraverso l\u2019uso di sistemi di apprendimento automatico, la natura statistica di tali sistemi fa s\u00ec che abbia sempre luogo una predizione omologante, non una personalizzazione. Si procede infatti raggruppando i singoli individui in classi e\u00a0assumendo che tutto quello che \u00e8 accaduto in passato si ripeter\u00e0 e che le persone si comporteranno in modo analogo a quelle classificate come simili a loro<\/a>. Se la previsione \u00e8 utilizzata per determinare ci\u00f2 che sar\u00e0 mostrato a ciascuno studente, la cosiddetta previsione \u00abpersonalizzata\u00bb \u00e8, come ha scritto\u00a0Edward Snowden<\/a>, \u201cuna sorta di profezia digitale che \u00e8 solo leggermente pi\u00f9 accurata rispetto a metodi analogici come la lettura della mano\u201d e costituisce in realt\u00e0, a partire dall\u2019omologazione del singolo alla classe alla quale lo si \u00e8 ascritto, un meccanismo di manipolazione.<\/p>\n

Quanto al cosiddetto\u00a0\u201cgemello digitale\u201d (digital twin<\/em>)<\/a>\u00a0del docente \u2013 un generatore di linguaggio ricalibrato statisticamente per estrudere stringhe di testo anche in virt\u00f9 della distribuzione delle parole nei testi di un determinato docente \u2013 la metafora biologica non \u00e8 che un esempio di \u201cmnemotecnica dei desideri\u201d. Il fatto che possa essere utile agli studenti avere la completa attenzione di un adulto, e in particolare di un docente, dovrebbe indurre a maggiori assunzioni di personale docente e a una valorizzazione del ruolo didattico, non certo a considerare equivalente a tali investimenti la garanzia, a ogni studente, della completa \u201cattenzione\u201d di un occhiuto software proprietario.<\/p>\n

3.c. Il soluzionismo tecnologico:\u00a0<\/strong>le promesse del \u201ctutor\u201d artificiale e del gemello digitale del docente si fondano sull\u2019assunto\u00a0soluzionista<\/a>\u00a0che la didattica sia una questione tecnica, un problema individuale che possa essere risolto con uno strumento tecnologico, anzich\u00e9 una relazione tra esseri umani e una questione pubblica. Analogamente, secondo la prassi consolidata delle aziende, di proporre, a esclusivo vantaggio dei propri profitti, \u201cmicro-soluzioni a macro-problemi<\/a>\u201c, si sostiene che\u00a0il problema dell\u2019abbandono scolastico possa essere risolto, come per i macchinari nelle fabbriche, con una\u00a0manutenzione predittiva<\/a>.<\/p>\n

Nel 1985, a un\u2019intervistatrice che gli chiedeva quale ruolo, secondo lui, avrebbe dovuto avere il computer nell\u2019istruzione, Joseph Weizenbaum rispose che avrebbe espresso la sua reazione indirettamente, attraverso una barzelletta russa:<\/p>\n

Due persone sono in coda in una lunga fila per il pane a Mosca, e stanno parlano del fatto che il raccolto \u00e8 andato male, ancora una volta, e che c\u2019\u00e8 perci\u00f2 carenza di pane, e uno di loro dice all\u2019altro: \u201cSai, \u00e8 tutta colpa degli ebrei e dei ciclisti\u201d. L\u2019altro dice: \u201cPerch\u00e9 i ciclisti?\u201d e il primo risponde: \u201cPerch\u00e9 gli ebrei?\u201d.<\/p>\n

Lei avrebbe potuto dire: \u201cQual \u00e8 il ruolo dei computer e delle biciclette nell\u2019istruzione?\u201d. E io avrei detto: \u201cPerch\u00e9 le biciclette? e Lei: \u201cPerch\u00e9 il computer?\u201d.<\/p><\/blockquote>\n

Weizenbaum constatava che la tendenza a prendere le mosse \u201cdallo strumento\u201d \u2013 assumendo tacitamente che fosse \u201cutile per qualcosa nell\u2019ambito dell\u2019istruzione, che fosse la soluzione a qualche problema educativo\u201d \u2013 e a cercare poi, per quella presunta soluzione, problemi concreti a quali applicarla, induceva a \u201ccoprire con qualche rimedio tecnologico\u201d i reali problemi sociali che si manifestavano nella scuola e che richiedevano una soluzione politica e sociale. Se ci chiediamo perch\u00e9 Johnny non sappia leggere \u2013 osservava Weizenbaum \u2013 potremmo scoprire che Johnny ha fame, quando arriva a scuola, o che a casa non ha alcuna possibilit\u00e0 di leggere.<\/p>\n

In un sistema scolastico solido, in grado di assolvere i suoi compiti fondamentali, osservava Weizenbaum, si pu\u00f2 anche pensare a introdurre qualche elemento nuovo: i ricercatori \u201cdovrebbero certamente lavorare sull\u2019istruzione innovativa, compresa quella assistita dal computer. Ma non dovremmo usare intere generazioni di studenti come cavie\u201d.<\/p>\n

Alla tesi dell\u2019inevitabilit\u00e0 della tecnologia, espressa con la formula ricorrente \u201cse non lo faremo noi, lo far\u00e0 qualcun altro\u201d, Weizenbaum rispondeva con l\u2019invito a saggiare la liceit\u00e0 morale dell\u2019applicazione di un simile principio (\u201cse non rubo io i soldi all\u2019ubriaco addormentato, lo far\u00e0 qualcun altro\u201d). La reificazione di singoli sistemi, e la loro identificazione con la tecnologia tout court era assimilata da Weizenbaum a\u00a0un espediente per nascondere gli attori umani, i loro interessi e la loro responsabilit\u00e0<\/a>, mettendo a tacere le domande di giustizia.<\/p>\n

Le constatazioni di Weizenbaum valgono oggi, inalterate, per l\u2019introduzione affrettata della cosiddetta \u201cintelligenza artificiale generativa\u201d nei sistemi di istruzione, che risponde agli interessi dei monopoli della tecnologia, anzich\u00e9 all\u2019interesse pubblico.<\/p>\n

Un responsabile dell\u2019istruzione pubblica scolastica o universitaria, quale dirigente o quale docente, che abbia coscienza di s\u00e9 e del proprio ruolo professionale, non cadr\u00e0 vittima della retorica dei\u00a0broligarchs<\/em>\u00a0sull\u2019impreparazione dei docenti ad adeguarsi alle nuove tecnologie, sulla necessit\u00e0 di intraprendere la \u201ctransizione digitale\u201d e di precipitarsi, per non \u201crestare indietro\u201d, a trovare una collocazione qualsiasi ai sistemi di \u201cintelligenza artificiale\u201d. Si chieder\u00e0, invece: \u201ctransizione digitale\u201d verso dove? Nell\u2019interesse di chi? E di che genere:\u00a0una digitalizzazione democratica e sovrana\u00a0<\/a>o, invece, autoritaria e coloniale? Ad evitare che dirigenti e docenti si pongano simile domande, concorre l\u2019idea che i sistemi tecnologici siano meri strumenti.<\/p>\n

 <\/p>\n

3.d. L\u2019idea della neutralit\u00e0 delle piattaforme \u201ceducative\u201d<\/strong>: a grandissimi soggetti privati sono oggi affidate piattaforme e infrastrutture critiche scolastiche e universitarie, quasi che una piattaforma, come scrive Maria Chiara Pievatolo, fosse \u201ccome un dato d\u2019ambiente immodificabile che non pu\u00f2 essere oggetto di scelta\u201d. In realt\u00e0, come ha scritto Lawrence Lessig,\u00a0il codice informatico \u00e8 legge\u00a0<\/a>e chi scrive il codice decide quali valori incarner\u00e0 e quante e quali libert\u00e0 conceder\u00e0 a ciascuno:<\/p>\n

Il codice regola. Implementa valori, oppure no. Abilita le libert\u00e0 o le disabilita. Protegge la privacy o promuove il controllo. Le persone scelgono come il codice fa queste cose. Le persone scrivono il codice. [\u2026] quando il governo si fa da parte, non \u00e8 che nulla prenda il suo posto. Non \u00e8 come se gli interessi privati non avessero interessi; come se gli interessi privati non avessero fini da perseguire. [\u2026] Quando gli interessi del governo vengono meno, altri interessi prendono il loro posto. Sappiamo quali siano questi interessi?<\/p><\/blockquote>\n

Gli artefatti hanno propriet\u00e0 politiche<\/a>: strutturano forme di vita e danno e tolgono potere e opportunit\u00e0 alle persone. Affidare alle opache piattaforme dei monopoli delle tecnologie di sorveglianza gran parte delle attivit\u00e0 scolastiche e universitarie equivale a promuovere la\u00a0trasformazione dell\u2019istruzione e degli studenti in merci<\/a>\u00a0e ad assecondare, come osserva\u00a0Simona Levi<\/a>, \u201cla \u201cmonocultura\u201d digitale monopolistica che crea clienti imprigionati fin dalla pi\u00f9 tenera et\u00e0\u201d. Come qualsiasi altra infrastruttura o attivit\u00e0 di digitalizzazione, le uniche piattaforme per l\u2019istruzione compatibili con uno Stato di diritto sono quelle basate sui diritti umani, \u201cfin dalla progettazione e per impostazione predefinita\u201d, e sul software libero, cos\u00ec che \u201canche il pi\u00f9 piccolo attore dell\u2019architettura democratica \u2013 cio\u00e8 ogni persona \u2013 possa controllare, in modo disintermediato, l\u2019uso e la destinazione dei contenuti che crea e dei dati che genera\u201d.<\/p>\n

 <\/p>\n

4.\u00a0Girelli, stampelle e ciuchini: gli o<\/strong>mini di burro nei sistemi neoliberali<\/h4>\n

I progetti che prevedono l\u2019introduzione di un sistema di IA generativa \u201ccome nuovo tutor per gli studenti\u201d sono talvolta illustrati da\u00a0foto nelle quali gli alunni rivolgono lo sguardo verso un robot antropomorfo, seduto a un tavolo insieme a loro<\/a>.\u00a0In realt\u00e0, gli studenti seduti al tavolo con un robot sono in compagnia di una persona intelligente quanto lo sarebbero se fossero seduti accanto a un giradischi. I meccanismi di antropomorfizzazione che sfruttano\u00a0l\u2018effetto Eliza<\/a>\u00a0consentono di far apparire l\u2019assenza di docenti, a quel tavolo, come un\u2019innovazione scintillante, oscurando il riduzionismo e la deumanizzazione alla base di simili operazioni.<\/p>\n

Per gli studenti, affidarsi a un sistema che produca testo convincente e inaffidabile non pu\u00f2 che avere effetti \u201cdegenerativi<\/a>\u201d. Imparare a comprendere e parafrasare una soluzione non pu\u00f2 sostituire l\u2019imparare a trovarla da soli e, come recita un vecchio adagio, scopriamo che cosa pensiamo solo dopo averlo scritto. L\u2019attivit\u00e0 di scrivere non consiste infatti nella \u201ctrascrizione di pensieri\u00a0gi\u00e0 presenti in modo cosciente<\/a>\u201d nella nostra mente; chiunque abbia scritto qualche pagina, sa che \u201cil pensiero emerge dalla scrittura\u201d, ossia che \u201cil processo stesso della scrittura conduce a pensieri prima impensati\u201d.\u00a0 Delegare a un sistema informatico la scrittura, in et\u00e0 scolare, anche \u201csolo\u201d come supporto, equivale \u2013 con una\u00a0metafora kantiana<\/a>\u00a0\u2013 a \u201cnon muovere un passo fuori dal girello da bambini\u201d in cui si \u00e8 stati ingabbiati, a utilizzare \u201cstrumenti meccanici\u201d come \u201cceppi di una permanente minorit\u00e0\u201d e a restare cos\u00ec incapaci \u201cdi servirsi della propria intelligenza\u201d, non avendo mai affrontato la fatica e le cadute che comporta \u201cmetterla alla prova\u201d.<\/p>\n

Come osserva\u00a0Maria Ranieri<\/a>, \u201caspetti educativi fondamentali, quali la promozione dell\u2019autonomia degli studenti, la facilitazione dei processi di comprensione critica e la creazione di un clima di classe positivo e di fiducia\u201d sono intrinsecamente incompatibili con l\u2019automazione, l\u2019opacit\u00e0 e il mimetismo. Non stupiscono, perci\u00f2, gli esiti di una ricerca recente, secondo la quale \u201cl\u2019IA generativa pu\u00f2 danneggiare l\u2019apprendimento<\/a>\u201c: gli studenti ai quali era stato dato un accesso a GPT-4 hanno mostrato, nel periodo in cui utilizzavano il\u00a0chatbot<\/em>, prestazioni migliori, ma, non appena questo accesso \u00e8 stato loro precluso, hanno ottenuto risultati peggiori di coloro che non avevano avuto mai accesso a GPT-4; \u00e8 stato come se, anzich\u00e9 imparare a camminare, avessero imparato a procedere appoggiandosi a una \u201cstampella\u201d.<\/p>\n

Per le grandi aziende tecnologiche, l\u2019aspetto cruciale \u00e8 la riconcettualizzazione delle attivit\u00e0 umane da automatizzare nei termini di ci\u00f2 che il software del momento \u00e8 in grado di fare. Per distribuire in ogni istituzione scolastica e universitaria estrusori di stringhe di testo probabili, occorre dare per scontato che l\u2019attivit\u00e0 dei docenti e degli studenti consista nel\u00a0mero scambio di stringhe di testo<\/a>, entro processi di addestramento riducibili a input e output prevedibili e misurabili, e che l\u2019attivit\u00e0 accademica consista nella produzione di un certo di numero di testi dalle caratteristiche prefissate, riproducibili attraverso modelli statistici della distribuzione della parole in set di testi di partenza.<\/p>\n

Ovviamente, ci\u00f2 che accade nelle aule scolastiche e nelle universit\u00e0 pu\u00f2 essere descritto anche come uno scambio di stringhe di testo. Ridurlo a questo, per\u00f2, comporta una completa incomprensione della natura dell\u2019insegnamento, dell\u2019apprendimento e dell\u2019attivit\u00e0 di ricerca. La scienza procede per semplificazioni della realt\u00e0 \u2013 ricordava\u00a0Joseph Weizenbaum<\/a>\u00a0riprendendo\u00a0Aldous Huxley\u00a0<\/a>\u2013\u00a0delle quali la prima \u00e8 l\u2019astrazione: gli scienziati si concentrano \u201cesclusivamente sugli aspetti misurabili di quegli elementi dell\u2019esperienza che possono essere spiegati in termini di un sistema causale\u201d e \u201cquesto modo strano ed estremamente arbitrario\u201d di agire \u00e8 giustificato, purch\u00e9 non si assuma che \u201cquegli aspetti dell\u2019esperienza che gli scienziati tralasciano, perch\u00e9 incompetenti ad affrontarli\u201d, siano \u201cin qualche modo meno reali degli aspetti che la scienza ha scelto arbitrariamente di estrarre dalla totalit\u00e0 infinitamente ricca dei fatti dati.\u201d<\/p>\n

Alle Big Tech occorre invece proclamare la tesi estrema e riduzionistica che ci\u00f2 che \u00e8 in grado di fare il loro software non sia una mimesi o una \u201cparodia<\/a>\u201c, come scriveva Weizenbaum, dell\u2019attivit\u00e0 umana da automatizzare, ma che equivalga essenzialmente ad essa.\u00a0Il CEO di OpenAI<\/a>, ad esempio, scrive:<\/p>\n

Io sono un pappagallo stocastico, e lo sei anche tu<\/p><\/blockquote>\n

La pubblicit\u00e0 ingannevole, tuttavia, non \u00e8 un fenomeno nuovo e scuole e universit\u00e0 sono istituzioni solide e antiche; quanto alle circonvenzioni di incapaci, quale la truffa di vendere un software probabilistico presentandolo come un\u2019intelligenza aliena, perch\u00e9 scuole e universit\u00e0 sono trattate come i primi incapaci a cui rivolgersi? Perch\u00e9\u00a0le istituzioni scolastiche e universitarie non respingono come ridicola la frode delle Big Tech e non si occupano, invece, di proteggere i diritti dei loro studenti, anzitutto dalla sorveglianza? Perch\u00e9, anzi, si affrettano, con la paura di restare indietro, ad amplificare gratuitamente la propaganda sulle tecnologie pi\u00f9 care ai capitali di rischio e a introdurre generatori di linguaggio nelle scuole e nelle universit\u00e0, \u201ca supporto\u201d degli studenti? Perch\u00e9 la propaganda delle grandi aziende coincide con l\u2019immagine che la scuola e l\u2019universit\u00e0\u00a0neoliberali\u00a0<\/a>hanno gi\u00e0 di se stesse,\u00a0come di aziende<\/a>\u00a0che producano beni e che perseguano obiettivi misurabili.<\/p>\n

Ben prima della realizzazione dei generatori di linguaggio, a scuole e universit\u00e0 \u00e8 stato chiesto di dare agli studenti competenze (skills<\/em>) \u201cspendibili\u201d nel mondo del lavoro, entro una cornice narrativa per cui dalle\u00a0skills\u00a0<\/em>dei lavoratori dipenderebbero l\u2019impiegabilit\u00e0 e il reddito dei medesimi. In realt\u00e0, come ha scritto\u00a0Meredith Whittaker<\/a>, la competenza \u00e8 un \u201criflesso degli imperativi e del giudizio del capitale, non della persona che esegue il lavoro o della natura del lavoro stesso\u201d e l\u2019ossessione per la parcellizzazione delle attivit\u00e0 dei lavoratori in unit\u00e0 misurabili rispondeva, gi\u00e0 entro la concezione schiavistica delle piantagioni, ai soli obiettivi del disciplinamento e del controllo automatizzati e della soggezione e intercambiabilit\u00e0 dei lavoratori. Con la \u201cmercificazione dell\u2019attivit\u00e0 cognitiva<\/a>\u201c, dell\u2019apprendimento e dei suoi esiti, si sono introdotti test e indicatori quantitativi per valutare la qualit\u00e0 della didattica, inducendo cos\u00ec docenti e studenti, anzich\u00e9 a insegnare e a studiare, a dedicarsi all\u2019allenamento sui test. E adesso, chi ha sperimentato da pi\u00f9 tempo questa\u00a0gouvernance par les nombres<\/em><\/a>, scopre che il suo esito,\u00a0per gli studenti addestrati ad acquisire\u00a0skills<\/em>\u00a0a forza di test,\u00a0<\/a>\u00e8\u00a0l\u2019incapacit\u00e0 di affrontare il compito inusitato di leggere un libro intero<\/a>.<\/a><\/p>\n

Nelle universit\u00e0, la\u00a0valutazione bibliometrica<\/a>\u00a0della ricerca ha fatto apparire sensata la tesi che si possano valutare le opere di un ricercatore senza averle lette \u2013 e che basti invece computarne il numero, le sedi di pubblicazione o il numero di citazioni ricevute \u2013 e ha spinto gli studenti alla \u201ccompetitivit\u00e0, alla produttivit\u00e0, al\u00a0publish or perish<\/em><\/a>\u201c. Nell\u2019universit\u00e0 neoliberale, un generatore di linguaggio appare utile, per l\u2019attivit\u00e0 di ricerca, perch\u00e9 quell\u2019attivit\u00e0 \u00e8 stata gi\u00e0 riconcettualizzata, da chi la valuta, come la mera generazione di testi qualsivoglia. Poich\u00e9 anche i giudizi dei revisori anonimi non sono, entro questa concezione, che stringhe di testo, anch\u2019essi sono facilmente automatizzabili. Cos\u00ec, il sistema stesso della scienza,\u00a0inondato da decine di migliaia di falsi articoli scientifici<\/a>\u00a0pubblicati in riviste accademiche, attraversa ora una crisi di credibilit\u00e0 cos\u00ec grave da rendere difficile, ormai, in molti campi, \u201cun approccio cumulativo a un argomento, perch\u00e9 manca una base solida di risultati affidabili\u201d.<\/p>\n

Con \u201cintelligenza artificiale\u201d, come osservano\u00a0Dagmar Monnet e Gilbert Paquet<\/a>, si intende \u201cessenzialmente una forma di automazione e l\u2019automazione \u00e8 la sostituzione del capitale al lavoro\u201d. L\u2019obiettivo in virt\u00f9 del quale gli interessi dei governi neoliberali convergono con quelli delle grandi aziende \u201cnon \u00e8 quello di migliorare l\u2019istruzione, ma quello di renderla efficiente in termini di costi\u201d. Con la promessa di automatizzare l\u2019istruzione, non si ottiene che di\u00a0automatizzare l\u2019austerit\u00e0, nel settore dell\u2019istruzione<\/a>, trasferendo risorse dalle spese per i docenti alle casse delle Big Tech, con un taglio netto alle risorse complessive dedicate all\u2019istruzione. Come dichiara apertamente il Tony Blair Institute for Global Change \u2013 mentre prendono avvio\u00a0nel Regno Unito le attivit\u00e0 nella prima classe priva di docenti, interamente affidata all\u2019IA<\/a>\u00a0\u2013 l\u2019introduzione dell\u2019IA \u00e8 un mezzo, per i governi, \u201cper fare di pi\u00f9 con meno<\/a>\u201c.<\/p>\n

Le traiettorie di sviluppo di una tecnologia non sono inevitabili. Sono oggetto di scelte che possono essere oligarchiche o democratiche, orientate alla sostituzione dei lavoratori, alla sorveglianza e al controllo sociale oppure a una progettazione che crei valore, anzich\u00e9 estrarlo, e che valorizzi il lavoro umano, anzich\u00e9 parcellizzarne l\u2019esecuzione a fini di controllo. \u201cPigrizia e vilt\u00e0\u201d, scriveva Kant nel 1784, \u201csono le cause per le quali tanta parte degli esseri umani\u201d resta volentieri nell\u2019incapacit\u00e0 di servirsi del proprio intelletto. Pigrizia e vilt\u00e0 inducono anche a fingere di aver letto e valutato un testo, o di averlo scritto, quando ci si \u00e8 limitati invece ad ottenere da un software un testo plausibile. E pigrizia e vilt\u00e0 possono far s\u00ec che si inducano gli studenti a fare altrettanto, promettendo loro un Paese dei Balocchi \u2013 \u201cquel paese benedetto\u201d in cui \u201cnon vi sono scuole\u201d e \u201cnon vi sono maestri\u201d \u2013 in cui potranno scrivere senza aver pensato. Un\u2019automatizzazione dell\u2019istruzione che implichi l\u2019annientamento dell\u2019istruzione stessa e l\u2019irrilevanza di scuole e universit\u00e0, sostituibili con azienda private che distribuiscano \u201ccontenuti personalizzati\u201d non \u00e8 inevitabile. Ad essa \u00e8 possibile resistere, opponendole \u201cl\u2019orgoglio per il proprio lavoro, la totalit\u00e0 del proprio lavoro<\/a>\u201d e chiamando le cose con il loro nome. Serve, per ci\u00f2, quella sottovalutata virt\u00f9 che Weizenbaum chiamava il \u201ccoraggio civile<\/a>\u201c:<\/p>\n

\u00c8 una credenza diffusa, ma tristemente erronea, quella per cui il coraggio civile trova modo di esercitarsi soltanto nel contesto di avvenimenti che scuotono il mondo. Al contrario, il suo esercizio pi\u00f9 arduo ha spesso luogo in quei piccoli contesti in cui la sfida \u00e8 quella di superare i timori indotti da futili preoccupazioni di carriera, delle nostre relazioni con coloro che sembrano aver potere su di noi, o di qualsiasi cosa che possa turbare la tranquillit\u00e0 della nostra esistenza quotidiana.<\/p><\/blockquote>\n

Chi invece, come l\u2019omino di burro del romanzo di Collodi, inviti gli studenti nel Paese dei Balocchi dell\u2019IA generativa, non ha nulla da temere, quanto alla spendibilit\u00e0, nel mercato del lavoro, delle competenze dei futuri ciuchini: a vendere i suoi ciuchini \u201csulle fiere e sui mercati\u201d, l\u2019omino di burro \u201caveva fatto fior di quattrini ed era diventato milionario\u201d; segno che, gi\u00e0 agli occhi di Collodi, non era alle competenze e all\u2019occupabilit\u00e0 che pensavano, Geppetto o la buona Fata, quando raccomandavano a Pinocchio di andare a scuola, e di studiare, se voleva diventare un ragazzino perbene.<\/p>\n

Nota bibliografica<\/h4>\n

AA. VV.,\u00a0Perch\u00e9 la valutazione ha fallito.<\/em>\u00a0Per una nuova Universit\u00e0 pubblica<\/em>, Morlacchi Editore U.P., 2023,\u00a0https:\/\/www.morlacchilibri.com\/universitypress\/index.php?content=scheda&id=1209<\/a>.<\/p>\n

Alberto Baccini,\u00a0COARA non ci salver\u00e0 (dalla valutazione autoritaria della ricerca)<\/em>, in \u00abROARS\u00bb, 4 luglio 2024,\u00a0https:\/\/www.roars.it\/coara-non-ci-salvera-dalla-valutazione-autoritaria-della-ricerca\/<\/a>.<\/p>\n

Gavin Abercrombie, Amanda Cercas Curry, Tanvi Dinkar, Verena Rieser, Zeerak Talat,\u00a0Mirages: On Anthropomorphism in Dialogue Systems<\/em>, 2023,\u00a0https:\/\/arxiv.org\/abs\/2305.09800<\/a>.<\/p>\n

Daron Acemoglu,\u00a0Get Ready for the Great AI Disappointment<\/em>, in \u00abWired\u00bb, January 10, 2024,\u00a0https:\/\/www.wired.com\/story\/get-ready-for-the-great-ai-disappointment\/<\/a>.<\/p>\n

Daron Acemoglu, Simon Johnson,\u00a0Potere e progresso. La nostra lotta millenaria per la tecnologia e la prosperit\u00e0<\/i>, trad. it. a cura di F. Galimberti e P. Marangon, Milano, Il Saggiatore, 2023.<\/p>\n

Leslie Allison, Tiffany DeRewal,\u00a0Where Knowledge Begins? Generative Search, Information Literacy, and the Problem of Friction<\/em>, 2024,\u00a0https:\/\/criticalai.org\/2024\/08\/15\/sneak-preview-leslie-allison-and-tiffany-derewals-where-knowledge-begins-generative-search-information-literacy-and-the-problem-of-friction\/<\/a>.<\/p>\n

Hamsa Bastani, Osbert Bastani, Alp Sungu, Haosen Ge, Ozge Kabakc\u0131, Rei Mariman,\u00a0Generative AI Can Harm Learning<\/em>, The Wharton School Research Paper, July 15, 2024,\u00a0http:\/\/dx.doi.org\/10.2139\/ssrn.4895486<\/a>.<\/p>\n

Burcu Baykurt,\u00a0Corporate Capture<\/em>, in\u00a0Keywords of the Datafied State<\/em>, ed. by J. Burrell, R. Singh, P. Davison, Data & Society Research Institute, 2024,\u00a0https:\/\/datasociety.net\/wp-content\/uploads\/2024\/04\/Keywords_CorporateCapture_Baykurt_04242024.pdf<\/a>.<\/p>\n

Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell,\u00a0On the of Dangers Stochastic, Parrots: Can Language, Models and Be Too Big?<\/em>\u00a0, in\u00a0Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 610\u201323<\/em>. Virtual Event Canada, ACM, 2021,\u00a0https:\/\/doi.org\/10.1145\/3442188.3445922<\/a>.<\/p>\n

Emily Bender,\u00a0Doing their hype for them: Defeatist, second-hand hype goes to college<\/em>, in \u00abMystery AI Hype Theater 3000: The Newsletter\u00bb, April 2, 2024,\u00a0https:\/\/buttondown.email\/maiht3k\/archive\/doing-their-hype-for-them\/<\/a>.<\/p>\n

Emily Bender,\u00a0More Collegiate FOMO<\/em>, in \u00abMystery AI Hype Theater 3000: The Newsletter\u00bb, April 11, 2024,\u00a0https:\/\/buttondown.com\/maiht3k\/archive\/more-collegiate-fomo\/<\/a>.<\/p>\n

Abeba Birhane, Marek McGann,\u00a0Large Models of What? Mistaking Engineering Achievements for Human Linguistic Agency<\/em>, 2024,\u00a0https:\/\/arxiv.org\/abs\/2407.08790<\/a>.<\/p>\n

Roberto Caso, La rivoluzione incompiuta. La scienza aperta tra diritto d\u2019autore e propriet\u00e0 intellettuale, Ledizioni, 2019,\u00a0https:\/\/www.ledizioni.it\/download\/26281\/<\/a>.<\/em><\/p>\n

Roberto Caso,\u00a0La societ\u00e0 della mercificazione e della sorveglianza: dalla persona ai dati. Casi e problemi di diritto civile<\/em>,\u00a0Ledizioni, 2021,\u00a0https:\/\/zenodo.org\/records\/4603174<\/a>.<\/div>\n
<\/div>\n

ChatGpt, Antonio Casilli: Il lato oscuro dell\u2019algoritmo \u00e8 la forza lavoro<\/em>, in \u00abIl Manifesto\u00bb, 1\u00b0 aprile 2023,\u00a0https:\/\/www.casilli.fr\/2023\/04\/01\/intervista-su-chatgpt-e-il-lavoro-digitale-il-manifesto-1-aprile-2023\/<\/a>.<\/p>\n

Ted Chiang,\u00a0Why A.I. Isn\u2019t Going to Make Art<\/em>, in \u00abThe New Yorker\u00bb, August 31, 2024,\u00a0https:\/\/www.newyorker.com\/culture\/the-weekend-essay\/why-ai-isnt-going-to-make-art<\/a>.<\/p>\n

Mesut Cicek, Dogan Gursoy, Lu Lu, Adverse impacts of revealing the presence of \u201cArtificial Intelligence (AI)\u201d technology in product and service descriptions on purchase intentions: the mediating role ofemotional trust and the moderating role of perceived risk,\u00a0<\/em>in \u00abJournal of Hospitality Marketing & Management\u00bb, 2024,\u00a0<\/em>https:\/\/doi.org\/10.1080\/19368623.2024.2368040<\/a>.<\/em><\/p>\n

Francesca Di Donato,\u00a0What we talk about when we talk about research quality. A discussion on responsible research assessment and Open Science<\/em>, in \u00abBollettino telematico di filosofia politica\u00bb, 2024,\u00a0\u00a0https:\/\/commentbfp.sp.unipi.it\/quality-fdd\/<\/a>.<\/p>\n

Cory Doctorow,\u00a0What kind of bubble is AI?<\/em>, in \u00abPluralistic\u00bb, December 19, 2023,\u00a0https:\/\/pluralistic.net\/2023\/12\/19\/bubblenomics\/#pop<\/a>.<\/p>\n

Cory Doctorow,\u00a0AI\u2019s productivity theater<\/em>, in \u00abPluralistic\u00bb, July 25, 2024,\u00a0https:\/\/pluralistic.net\/2024\/07\/25\/accountability-sinks\/#work-harder-not-smarter<\/a>.<\/p>\n

European Parliament and Simona Levi,\u00a0Proposal for a sovereign and democratic digitalisation of Europe \u2013 Reflection paper<\/em>, 2022,\u00a0https:\/\/data.europa.eu\/doi\/10.2861\/671958<\/a>.<\/p>\n

FTC Announces Crackdown on Deceptive AI Claims and Schemes<\/em>, September 25, 2024,\u00a0https:\/\/www.ftc.gov\/news-events\/news\/press-releases\/2024\/09\/ftc-announces-crackdown-deceptive-ai-claims-schemes<\/a>.<\/p>\n

Federal Trade Commission,\u00a0A Look Behind the Screens: Examining the Data Practices of Social Media and Video Streaming Services<\/em>, September 2024,\u00a0https:\/\/www.ftc.gov\/reports\/look-behind-screens-examining-data-practices-social-media-video-streaming-services<\/a>.<\/p>\n

Fabien Foureault,\u00a0Le capital ne risque rien<\/em>, in \u00abT\u00e8que\u00bb, 4, 1, 2024,\u00a0https:\/\/www.cairn.info\/revue-teque-2024-1-page-65.htm<\/em><\/a>.<\/p>\n

Paola Galimberti,\u00a0Valutazione nelle scienze umane ed effetti collaterali<\/em>, in \u00abLetteratura e Letterature\u00bb, 14, 2020, pp. 141-149,
\nhttps:\/\/zenodo.org\/records\/3739720<\/a>.<\/p>\n

Goldman Sachs,\u00a0Gen AI: too much spend, too little benefit?<\/em>, June 27, 2024,\u00a0https:\/\/www.goldmansachs.com\/insights\/top-of-mind\/gen-ai-too-much-spend-too-little-benefit<\/a>.<\/p>\n

Rose Horowitch,\u00a0The Elite College Students Who Can\u2019t Read Books<\/em>, in \u00abThe Atlantic\u00bb, November 2024,<\/span>\u00a0https:\/\/www.theatlantic.com\/magazine\/archive\/2024\/11\/the-elite-college-students-who-cant-read-books\/679945\/<\/a>.<\/p>\n

Lynn Hunt,\u00a0How Writing Leads to Thinking<\/em>, in \u00abPerspectives on History\u00bb, February 1, 2010,\u00a0https:\/\/www.historians.org\/perspectives-article\/how-writing-leads-to-thinking-february-2010\/<\/a>.<\/span><\/p>\n

Immanuel Kant,\u00a0Risposta alla domanda: che cos\u2019\u00e8 l\u2019Illuminismo?<\/em>\u00a0(1784), trad. it. di Francesca Di Donato, in Immanuel Kant,\u00a0Sette scritti politici liberi<\/em>, a cura di M.C. Pievatolo, Firenze, Firenze University Press, 2011,\u00a0https:\/\/btfp.sp.unipi.it\/dida\/kant_7\/ar01s04.xhtml<\/a>.<\/p>\n

Janja Komljenovic, Ben Williamson, Rebecca Eynon, Huw C. Davies, When public policy \u2018fails\u2019 and venture capital \u2018saves\u2019 education: Edtech investors as economic and political actors<\/em>, in \u00abGlobalisation, Societies and Education\u00bb, 2023,\u00a0https:\/\/doi.org\/10.1080\/14767724.2023.2272134<\/a>.<\/p>\n

Rossella Latempa,\u00a0Il tuo futuro \u00e8 scritto nei test INVALSI: learning analytics e dispersione scolastica<\/em>, in \u00abROARS\u00bb,\u00a031 gennaio 2024,<\/span>\u00a0https:\/\/www.roars.it\/2-il-tuo-futuro-e-scritto-nei-test-invalsi-learning-analytics-e-dispersione-scolastica\/<\/span><\/a>.<\/span><\/p>\n

Simona Levi,\u00a0Per una digitalizzazione democratica dell\u2019istruzione e dei servizi essenziali<\/em>, in \u00abBricks\u00bb, 4, 2023,\u00a0https:\/\/www.rivistabricks.it\/wp-content\/uploads\/2023\/12\/04_2023_15_Levi.pdf<\/a>.<\/p>\n

Kyle Mahowald, Anna A. Ivanova, Idan A. Blank, Nancy Kanwisher, Joshua B. Tenenbaum, Evelina Fedorenko,\u00a0Dissociating language and thought in large language models<\/em>, in \u00abTrends in Cognitive Sciences\u00bb, 2024,\u00a0https:\/\/arxiv.org\/abs\/2301.06627<\/a>.<\/p>\n

Andrea Mariuzzo,\u00a0L\u2019universit\u00e0 neoliberale all\u2019italiana<\/em>, in \u00abJacobin Italia\u00bb, 24, 2024,\u00a0https:\/\/jacobinitalia.it\/luniversita-neoliberale-allitaliana\/<\/a>.<\/p>\n

Dan Mcquillan,\u00a0AI as Algorithmic Thatcherism<\/em>, December 21, 2023,\u00a0https:\/\/www.danmcquillan.org\/ai_thatcherism.html<\/a>.<\/p>\n

Paris Marx,\u00a0Generative AI is a climate disaster<\/em>, in \u00abDisconnect\u00bb, July 5, 2024,\u00a0https:\/\/disconnect.blog\/generative-ai-is-a-climate-disaster\/<\/a>.<\/p>\n

Paris Marx,\u00a0What comes after the AI crash?<\/em>, in \u00abDisconnect\u00bb, August 16, 2024,\u00a0https:\/\/disconnect.blog\/what-comes-after-the-ai-crash\/<\/a>.<\/p>\n

Brian Merchant,\u00a0This is the beginning of the end of the generative AI boom<\/em>, \u00abBlood in the Machine\u00bb, August 6, 2024,\u00a0https:\/\/www.bloodinthemachine.com\/p\/the-great-degeneration-is-this-the<\/a><\/p>\n

Iman Mirzadeh, Keivan Alizadeh, Hooman Shahrokhi, Oncel Tuzel, Samy Bengio, Mehrdad Farajtabar,\u00a0GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models<\/em>, 2024,\u00a0https:\/\/arxiv.org\/abs\/2410.05229<\/a>.<\/p>\n

Melanie Mitchell, Alessandro B. Palmarini, Arseny Moskvichev,\u00a0Comparing Humans, GPT-4, and GPT-4V On Abstraction and Reasoning Tasks<\/em>, in corso di pubblicazione in Proceedings of the LLM-CP Workshop, AAAI-24,\u00a0https:\/\/arxiv.org\/abs\/2311.09247<\/a>.<\/p>\n

Dagmar Monett, Gilbert Paquet,\u00a0The commodification of education and the (generative) AI-induced scam-like culture<\/em>, preprint, 2024,\u00a0https:\/\/www.researchgate.net\/publication\/383148782_The_commodification_of_education_and_the_generative_AI-induced_scam-like_culture<\/a>.<\/p>\n

Evgeny Morozov,\u00a0La vera minaccia dell\u2019intelligenza artificiale<\/em>, in \u00abInternazionale\u00bb, 17 agosto 2023,\u00a0https:\/\/www.internazionale.it\/magazine\/evgeny-morozov\/2023\/08\/17\/la-vera-minaccia-dell-intelligenza-artificiale<\/a>.<\/p>\n

Thomas Nagel,\u00a0Concealment and Exposure<\/em>, in \u00abPhilosophy & Public Affairs\u00bb, 27, 1, 1998, pp. 3-30,\u00a0https:\/\/www.jstor.org\/stable\/2672839<\/a><\/p>\n

Arvind Narayanan, Sayash Kapoor,\u00a0AI Snake Oil. What Artificial Intelligence Can Do, What It Can\u2019t, and How to Tell the Difference<\/em>, Princeton University Press, 2024.<\/p>\n

Arvind Narayanan, Sayash Kapoor,\u00a0AI companies are pivoting from creating gods to building products. Good<\/em>, in \u00abAI Snake Oil\u00bb, August 19, 2024,\u00a0https:\/\/www.aisnakeoil.com\/p\/ai-companies-are-pivoting-from-creating<\/a>.<\/p>\n

Enrico Nardelli,\u00a0Intelligenza artificiale e scuola: facciamo chiarezza<\/em>, in \u00abLink & Think\u00bb, 22 novembre 2023,\u00a0https:\/\/link-and-think.blogspot.com\/2023\/11\/intelligenza-artificiale-e-scuola-facciamo-chiarezza.html<\/a>.<\/p>\n

Enrico Nardelli,\u00a0Non lasciamo che i nostri figli diventino cavie di ChatGPT&Co.<\/em>, in \u00abStart Magazine\u00bb, 19 marzo 2023,\u00a0https:\/\/www.startmag.it\/innovazione\/non-lasciamo-che-i-nostri-figli-diventino-cavie-di-chatgptco\/<\/a>.<\/p>\n

Teresa Numerico,\u00a0Big data e algoritmi. Prospettive critiche<\/em>, Roma, Carocci, 2021.<\/p>\n

Carlos Orteg\u00f3n, Mathias Decuypere, Ben Williamson,\u00a0Mediating educational technologies: Edtech brokering between schools, academia, governance, and industry<\/em>, in \u00abResearch in Education\u00bb, 2024,\u00a0https:\/\/www.research.ed.ac.uk\/en\/publications\/mediating-educational-technologies-edtech-brokering-between-schoo<\/a>.<\/p>\n

Michaela\u00a0Padden,\u00a0The transformation of surveillance in the digitalisation discourse of the OECD: a brief genealogy<\/em>, in \u00abInternet Policy Review\u00bb, 12, 3,\u00a0<\/em>2023,\u00a0https:\/\/doi.org\/10.14763\/2023.3.1720<\/a>.<\/p>\n

Maria Chiara Pievatolo,\u00a0Sulle spalle dei mercanti? Teledidattica e civilt\u00e0 tecnologica<\/em>, in \u00abBollettino telematico di filosofia politica\u00bb, 2023,\u00a0https:\/\/commentbfp.sp.unipi.it\/sulle-spalle-dei-mercanti-teledidattica-e-civilta-tecnologica\/<\/a>.<\/p>\n

Maria Chiara Pievatolo,\u00a0Caesar est supra grammaticos? Valutazione\u00a0<\/em>di Stato, democrazia e libert\u00e0 del sapere<\/em>, in AA. VV.,\u00a0Perch\u00e9 la valutazione ha fallito,<\/em>\u00a0cit., pp. 63-83,\u00a0https:\/\/www.morlacchilibri.com\/universitypress\/index.php?content=scheda&id=1209<\/a>.<\/p>\n

Maria Chiara Pievatolo,\u00a0Un discorso per niente normale<\/em>, in \u00abBollettino telematico di filosofia politica\u00bb, 2021,\u00a0https:\/\/btfp.sp.unipi.it\/it\/2021\/07\/un-discorso-per-niente-normale\/<\/a>.<\/p>\n

Maria Chiara Pievatolo,\u00a0I custodi del sapere<\/em>, in \u00abBollettino telematico di filosofia politica\u00bb, 2021,\u00a0https:\/\/btfp.sp.unipi.it\/it\/2021\/05\/i-custodi-del-sapere\/<\/a><\/p>\n

Maria Chiara Pievatolo,\u00a0La bilancia e la spada: scienza di stato e valutazione della ricerca<\/em>, in \u00abBollettino telematico di filosofia politica\u00bb, 2017,\u00a0https:\/\/commentbfp.sp.unipi.it\/maria-chiara-pievatolo-la-bilancia-e-la-spada-scienza-di-stato-e-valutazione-della-ricerca\/<\/a>.<\/p>\n

Benedetto Ponti,\u00a0Il fornitore dell\u2019algoritmo quale soggetto estraneo all\u2019amministrazione<\/em>, in \u00abRivista italiana di informatica e diritto\u00bb, 6, 2, 2024,\u00a0https:\/\/doi.org\/10.32091\/RIID0163<\/a>.<\/p>\n

Maria Ranieri,\u00a0Intelligenza Artificiale a scuola. Una lettura pedagogico-didattica delle sfide e delle opportunit\u00e0<\/em>, in \u00abRivista di Scienze dell\u2019Educazione\u00bb, 62, 2024, pp. 123-135,\u00a0https:\/\/rivista.pfse-auxilium.org\/it\/pdf\/rse\/maria-ranieri_rse01-2024.pdf<\/a>.<\/p>\n

Elizabeth M. Renieris,\u00a0Beyond Data. Reclaiming Human Rights at the Dawn of the Metaverse<\/em>, The MIT Press, 2023.<\/p>\n

Regina Rini,\u00a0The Digital Zeitgeist Ponders Our Obsolescence<\/em>, in \u00abDailyNous\u00bb, July 30, 2020,\u00a0https:\/\/dailynous.com\/2020\/07\/30\/philosophers-gpt-3\/#rini<\/a>.<\/p>\n

Jathan Sadowski, The Internet of Landlords: Digital\u00a0<\/em>Platforms and New Mechanisms of\u00a0<\/em>Rentier Capitalism<\/em>, in \u00abAntipode\u00bb, 52, 2, 2020, pp. 562\u2013580,\u00a0https:\/\/static1.squarespace.com\/static\/54c9a2e8e4b01e05842ad47e\/t\/5f556202fab9b365a2490794\/1599431173262\/Sadowski+-+The+Internet+of+Landlords.pdf<\/a>.<\/p>\n

Eryk Salvaggio,\u00a0Challenging The Myths of Generative AI, in\u00a0<\/em>\u00abTech Policy Press\u00bb, August 29, 2024,\u00a0https:\/\/www.techpolicy.press\/challenging-the-myths-of-generative-ai\/<\/a>.<\/p>\n

Murray Shanahan,\u00a0Talking about Large Language Models<\/em>, in \u00abCommunications of the ACM\u00bb, 67, 2, 2024, pp. 68-79,\u00a0https:\/\/doi.org\/10.1145\/3624724<\/a>.<\/p>\n

Quinn Slobodian,\u00a0Globalists. The End of Empire and the Birth of\u00a0<\/em>Neoliberalism<\/em>, Cambridge, Massachusetts, Harvard University Press, 2018.<\/p>\n

Lambert Strether,\u00a0Why Must Humans Compete for Electric Power with AI Bullshit Generators Programmed by Ritual Incantations?<\/em>, in \u00abnaked capitalism\u00bb,\u00a0September 12, 2024,\u00a0https:\/\/www.nakedcapitalism.com\/2024\/09\/why-must-humans-compete-for-electric-power-with-bullshit-generators-programmed-by-ritual-incantations.html<\/a>.<\/p>\n

Daniela Tafani,\u00a0A chi servono i generatori di linguaggio<\/em>, \u00abAlternative per il socialismo\u00bb, 71, 2024, pp. 165\u201375,\u00a0https:\/\/doi.org\/10.5281\/zenodo.10697969<\/a>.<\/p>\n

\n
\n
\n

Denise Utochkin,\u00a0Cut the \u2018AI\u2019 bullshit<\/em>, August 12, 2024,\u00a0https:\/\/uniavisen.dk\/en\/cut-the-ai-bullshit-ucph\/<\/a>.<\/p>\n<\/div>\n<\/div>\n<\/div>\n

Shannon Vallor,\u00a0The AI Mirror. How to Reclaim Our Humanity in an Age of Machine Thinking<\/em>, Oxford University Press, 2024.<\/p>\n

Iris van Rooij,\u00a0Olivia Guest,\u00a0Federico Adolfi,\u00a0Ronald de Haan,\u00a0Antonina Kolokolova,\u00a0Patricia Rich,\u00a0Reclaiming AI as a Theoretical Tool for Cognitive Science<\/em>, in \u00abComputational Brain & Behavior\u00bb, 2024,\u00a0https:\/\/doi.org\/10.1007\/s42113-024-00217-5<\/a><\/p>\n

Horny Robot Baby Voice. James Vincent on AI chatbots<\/em>, in \u00abLondon Review of Books\u00bb, 19, 2024,\u00a0https:\/\/www.lrb.co.uk\/the-paper\/v46\/n19\/james-vincent\/horny-robot-baby-voice<\/a><\/p>\n

Marc Watkins,\u00a0The Artifice of Twinning<\/em>, September 6, 2024,\u00a0https:\/\/marcwatkins.substack.com\/p\/the-artifice-of-twinning<\/a>.<\/p>\n

Audrey Watters,\u00a0Teaching machines. The history of personalized learning<\/em>\u00a0Cambridge, Massachusetts,The MIT Press, 2021,\u00a0https:\/\/storage.googleapis.com\/open-courses\/bibliografia\/Audrey%20Watters%20-%20Teaching%20Machines_%20The%20History%20of%20Personalized%20Learning-The%20MIT%20Press%20(2021).pdf<\/a>.<\/p>\n

Joseph Weizenbaum,\u00a0<\/strong>Computer Power and Human Reason. From Judgement to Calculation<\/em>, San Francisco, W.H. Freeman & Company, 1976,\u00a0https:\/\/archive.org\/details\/computerpowerhum0000weiz_v0i3<\/a>; trad.it.\u00a0Il potere del computer e la ragione umana. I limiti dell\u2019intelligenza artificiale<\/em>, a cura di F. Tibone, Torino, Edizioni Gruppo Abele, 1987.<\/p>\n

Meredith Whittaker,\u00a0Origin Stories: Plantations, Computers, and Industrial Control<\/em>, in \u00abLogic(s)\u00bb, 2023,\u00a0https:\/\/logicmag.io\/supa-dupa-skies\/origin-stories-plantations-computers-and-industrial-control\/<\/a>.<\/p>\n

David Gray Widder, Mar Hicks,\u00a0Watching the Generative AI Hype Bubble Deflate<\/em>, 2024,\u00a0https:\/\/arxiv.org\/abs\/2408.08778<\/a><\/span>.<\/p>\n

Ben Williamson,\u00a0Automated austerity schooling<\/em>, in \u00abCode Acts in Education\u00bb, August 29, 2024,\u00a0https:\/\/codeactsineducation.wordpress.com\/2024\/08\/29\/automated-austerity-schooling\/<\/a>.<\/p>\n

Ben Williamson,\u00a0Degenerative AI in education<\/em>, in \u00abCode Acts in Education\u00bb, June 30, 2023,\u00a0https:\/\/codeactsineducation.wordpress.com\/2023\/06\/30\/degenerative-ai-in-education\/<\/a>.<\/p>\n

Matteo Wong,\u00a0Generative AI Can\u2019t Cite Its Sources,\u00a0<\/em>in \u00abThe Atlantic\u00bb, June 26, 2024,\u00a0<\/em>https:\/\/www.theatlantic.com\/technology\/archive\/2024\/06\/chatgpt-citations-rag\/678796\/<\/a>.<\/p>\n

Wendy Y Li,\u00a0Regulatory capture\u2019s third face of power<\/em>, in \u00abSocio-Economic Review\u00bb, 21, 2, 2023,\u00a0\u00a0https:\/\/doi.org\/10.1093\/ser\/mwad002<\/a>.<\/p>\n

FONTE:https:\/\/www.roars.it\/omini-di-burro-scuole-e-universita-al-paese-dei-balocchi-dellia-generativa\/<\/a><\/strong><\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

di ROARS (Daniela Tafani) Come l\u2019omino di burro del romanzo di Collodi, chi introduca nelle scuole e nelle universit\u00e0 strumenti di \u201cintelligenza artificiale generativa\u201d promette agli studenti un Paese dei Balocchi in cui potranno scrivere senza aver pensato. I sistemi neoliberali \u2013 nei quali si ritiene che la didattica sia un addestramento ai test e che la valutazione delle opere dei ricercatori non ne richieda la lettura \u2013 sono gi\u00e0 pronti a un simile annientamento...<\/p>\n","protected":false},"author":109,"featured_media":84685,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jetpack_post_was_ever_published":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","enabled":false},"version":2}},"categories":[32],"tags":[],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"https:\/\/appelloalpopolo.it\/wp-content\/uploads\/2024\/03\/ROARS.jpg","jetpack_sharing_enabled":true,"jetpack_shortlink":"https:\/\/wp.me\/p7ZaJ4-mOu","_links":{"self":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts\/87698"}],"collection":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/users\/109"}],"replies":[{"embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=87698"}],"version-history":[{"count":2,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts\/87698\/revisions"}],"predecessor-version":[{"id":87702,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts\/87698\/revisions\/87702"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/media\/84685"}],"wp:attachment":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=87698"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=87698"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=87698"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}