{"id":84756,"date":"2024-04-02T11:35:06","date_gmt":"2024-04-02T09:35:06","guid":{"rendered":"https:\/\/appelloalpopolo.it\/?p=84756"},"modified":"2024-04-02T11:35:06","modified_gmt":"2024-04-02T09:35:06","slug":"skynet-sta-arrivando-ma-a-fin-di-bene","status":"publish","type":"post","link":"https:\/\/appelloalpopolo.it\/?p=84756","title":{"rendered":"Skynet sta arrivando, ma a fin di bene"},"content":{"rendered":"

DA LA FIONDA (Di Matteo Bortolon)<\/strong><\/p>\n

<\/p>\n

Terminata la lettura delle scarse 150 pp. del volume di Stefano Isola,\u00a0A fin di bene: il nuovo potere della ragione artificiale<\/em><\/a>\u00a0(Asterios, 2023), la sensazione \u00e8 di inquietudine. Il dibattito sulle potenzialit\u00e0 della cosiddetta \u201cintelligenza artificiale\u201d (AI) \u00e8 salito al punto da echeggiare i temi della fantascienza sulla \u201crivolta delle macchine\u201d. Impressiona il fatto che la denuncia dei rischi venga non da qualche sorta di \u201cprimitivista\u201d, ma da imprenditori del settore e da ricercatori. \u201cIl 49% dei ricercatori di intelligenza artificiale ha affermato che l\u2019IA rappresenta una minaccia esistenziale per l\u2019umanit\u00e0, quasi al livello di un disastro nucleare di larga scala\u201d (sic!). Quest\u2019ultimo passo \u00e8 citato nel testo del prof. Isola (p. 60), proveniente da un membro della Commissione Trilaterale.<\/p>\n

Oggi la AI \u00e8 ovunque: dai risultati dei motori di ricerca al funzionamento dei social, dalle armi alla ricerca scientifica, con numerose applicazioni quotidiane, con una ampiezza pari alla digitalizzazione del mondo. Questo agile volume dedicato alle trasformazioni tecnologiche legate ad essa entra in parte nello specifico di diverse innovazioni mostrandone le problematiche e i rischi.<\/p>\n

Un punto di partenza \u00e8 che l\u2019impostazione del libro rifugge da un approccio utilitaristico, nell\u2019ambito del quale le visioni critiche sono facilmente tacitate, a fronte delle comodit\u00e0 del digitale, come passatiste, impaurite, reazionarie. L\u2019autore dichiara invece di porsi fuori da un bilancio di vantaggi \u2013 svantaggi per svolgere i suoi ragionamenti su un altro piano, che corrisponde grosso modo all\u2019interrogativo: quale \u00e8 il\u00a0senso profondo<\/em>\u00a0di queste innovazioni? In che modo possono influire sulla vita umana in generale (di tutti, quindi, al di l\u00e0 del soggetto che usandole al momento ne trae un\u2019utilit\u00e0 fattizia)?<\/p>\n

I nuclei argomentativi del testo riguardano da un lato le caratteristiche dei sistemi odierni basati sulla AI, dall\u2019altro le loro ricadute sociali, e fra le une e le altre c\u2019\u00e8 un nesso causale molto forte.<\/p>\n

Per quanto riguarda il primo punto, come viene descritto nel capitolo\u00a0\u00a0Una innovazione postscientifica,\u00a0<\/em>il mondo della AI \u00e8 stato costruito con elementi di ricerca scientifica, ma alberga al centro stesso del suo funzionamento un nucleo di irrazionalit\u00e0: il funzionamento delle cd. \u201creti neurali\u201d a pi\u00f9 livelli resta in parte misterioso\u00a0anche per gli stessi costruttori<\/em>: in gran parte la macchina si \u201caddestra\u201d da sola con\u00a0 la mera potenza del numero di tentativi e fallimenti. Ma nei suoi singoli passaggi il processo resta imperscrutabile.<\/p>\n

Questo ha a che fare con la necessit\u00e0 dei \u201cbig data\u201d: la AI ingoia una quantit\u00e0 enorme di dati per poter funzionare. Ma anche a tal riguardo abbiamo una modalit\u00e0 assai poco \u201cscientifica\u201d. In che senso?<\/p>\n

\u00a0Il metodo scientifico si afferma con la selezione di una porzione della realt\u00e0 per scremarne gli elementi inessenziali \u2013 cos\u00ec, per la caduta dei gravi si mettono gli oggetti sotto vuoto, eliminando l\u2019aria e l\u2019attrito. La AI procede invece cercando delle correlazioni fra una massa abnorme di dati, sostituendo la selezione con la mera potenza di calcolo, ed i risultati sono accettati solo perch\u00e9 sono funzionali, ma senza capire davvero il perch\u00e9: \u201cle tecnoscienza tendono a manipolare il mondo senza comprenderlo\u201d (p. 80).<\/p>\n

Facciamo un altro esempio. Nelle scienze statistiche il campione viene scelto secondo una selezione secondo criteri \u201cscientifici\u201d. Un sondaggio serio per capire le inclinazioni politiche non pu\u00f2 basarsi solo su cittadini di citt\u00e0 governate da decenni dal Pd come Firenze o Bologna, ma deve sceglierli tra centri diversi, pi\u00f9 uniformemente differenziati sull\u2019orientamento politico prevalente. Coi big data invece si elaborano dati senza nessuna scelta separativa, in forza che il numero in s\u00e9 dia delle indicazioni valide. Il risultato talvolta \u00e8 che escono correlazioni a caso, potendosi fare associazioni in cui compare tutto e il contrario di tutto. Alcuni esempi ne fanno intravedere i possibili svarioni, come un rapporto fra il numero degli annegati caduti da una barca e quello dei matrimoni (sic!), o fra il numero di divorzi e il consumo pro capite di margarina! Questi esempi, ovviamente, non persuaderebbero nessuno. Ma in altri campi non \u00e8 cos\u00ec facile la smentita,come le prescrizioni nutritive da rotocalco: \u201cmangiate kiwi la sera per dormire meglio\u201d. Il punto centrale \u00e8 che la ricerca di correlazioni si basa sulla mera potenza di calcolo che\u00a0non<\/em>\u00a0necessita di un vero quadro concettuale alle spalle.<\/strong><\/p>\n

Il passaggio dalla statistica tradizionale alla pi\u00f9 moderna e smart\u00a0data science<\/em>\u00a0si declina anche in senso\u00a0operativo<\/em>. Per esempio una estrazione di dati sulle parole nei commenti dei social (facebook, X, ecc.) potrebbe essere usata per vedere le reazioni a qualche esternazione in campagna elettorale per correggere il tiro, armonizzando (illusoriamente) il discorso con l\u2019effetto prodotto a livello comunicativo. Molti parlerebbero, a tal proposito, di manipolazione.<\/p>\n

Quanto alle conseguenze, si ha un curioso capovolgimento della narrativa corrente sulla AI. Nella fantascienza, per esempio, i problemi sorgono dal fatto che la macchina diventi sempre pi\u00f9 simile all\u2019uomo. Secondo l\u2019autore \u00e8 l\u2019opposto, i guai sorgono invece da una divergenza insanabile. Per esempio, mentre le macchine sono bravissime in compiti difficili per l\u2019essere umano, come calcoli complessi e memorizzazione di dati, incontrano seri ostacoli per attivit\u00e0 banali (per noi) come camminare evitando gli ostacoli. Possono riconoscere gli oggetti, ma se per il bimbo \u2013 per esempio \u2013 l\u2019acquisizione che un oggetto posto dietro un altro non scompare dall\u2019esistenza \u00e8 banale, per la AI \u00e8 un ostacolo quasi insormontabile. In linea generale la macchina non riesce a cavarsela o a performare bene con pochi dati e tante variabili; ed infatti per funzionare ha bisogno di valanghe di dati.<\/p>\n

Si tratta dello sbocco di un fallimento, quello di riprodurre meccanicamente il funzionamento della mente umana del dopoguerra; tale tentativo, che incorpora gli assunti di alcune scuole di pensiero in voga in quegli anni (comportamentismo, cognitivismo, biologismo, che in generale tendono a mutilare la complessit\u00e0 umana facendo della persona un \u201cautoma complesso\u201d) vede un fiasco totale, ma resta il progetto di una progressiva informatizzazione della societ\u00e0. La soluzione aggira tale problema puntando sulla potenza materiale di calcolo, ma con risultati altalenanti.<\/p>\n

Perch\u00e9 questo \u00e8 importante per le ricadute pratche? il capitolo 12,\u00a0Disallineamento e instabilit\u00e0,\u00a0<\/em>lo chiarisce con nettezza: dato che gli algoritmi funzionano in contesti stabili, con variabili definite e continuative,\u00a0si dovr\u00e0 disciplinare il mondo sociale in modo da costruire un contesto adeguato; anche per il comportamento umano<\/em>.<\/p>\n

In termini pi\u00f9\u00a0pop:<\/em>\u00a0non dobbiamo tanto temere che Skynet divenga troppo simile a noi, ma che il nostro mondo venga\u00a0piallato\u00a0<\/em>in modo da conformarlo ad una versione di Skynet non particolarmente in gamba.<\/p>\n

Gli esempi con cui le varie AI diventano sempre pi\u00f9 elementi direttivi sono sempre pi\u00f9 numerosi: dall\u2019uso nei mercati finanziari ai tribunali (algoritmi che presumono di prevedere la possibile recidivia!), dalla salute alla scuola. Nel libro c\u2019\u00e8 un focus specifico su questi ultimi casi. Un saggio corposo \u00e8 avvenuto durante il covid con la didattica a distanza, col largo uso di piattaforme private. L\u2019ossessiva rincorsa alla digitalizzazione e alla centralit\u00e0 dell\u2019uso di apparati tecnologici \u2013 tanto cara al PNRR di Draghi \u2013 esalta il ruolo dei fornitori aziendali, riducendo al tempo stesso il ruolo degli insegnanti quali meri \u201cfacilitatori tecnologici\u201d.<\/p>\n

Il senso pi\u00f9 profondo del testo \u00e8 attivare un dibattito verso tali mutazioni, che paiono dirigerci verso un mondo \u2013 alla fin fine \u2013 meno umano. Se per umano si intende lo spazio di imprevedibilit\u00e0, il fiorire della creativit\u00e0 nel discorso condiviso con una comunit\u00e0. Di contro a un assetto completamente omologato, robotizzato, fitto di decisioni procedurali indiscutibili \u2013 un assaggio delle quali lo si vede nella sospensione degli account dei social: non c\u2019\u00e8 un qualcuno cui rivolgersi, ma un muro di una procedura tecnologica assoluta.<\/p>\n

Chi scrive vede in queste prospettive non solo una ragione profonda di tante dinamiche nocive \u2013 come le tecniche di guerra contemporanea. Ma si trova scaraventato verso i suoi vent\u2019anni al corso di filosofia sul\u00a0mind-body problem<\/em>, l\u2019annoso quesito filosofico della possibilit\u00e0 di ridurre l\u2019esistenza umana a alcunch\u00e9 di calcolabile, misurabile, controllabile. Al tempo, con l\u2019ermeneutica e scuole simili in grande spolvero, sembrava una prospettiva disperatamente limitata, gravata da una antropologia deprimente oltre che fallace, destinata ad una marginalit\u00e0 irredimibile. Ed invece ce la troviamo nei posti di comando a dirigere il mondo, spalleggiata dalla\u00a0corporatocrazia\u00a0<\/em>pi\u00f9 odiosa e pronta ad approfondire la sua indiscutibilit\u00e0; ben bardata da un senso di modernit\u00e0\u00a0smart\u00a0<\/em>e accarezzata dall\u2019europeismo da establishment.<\/p>\n

In sintesi: punto forte del libro \u00e8 un rovesciamento di prospettiva: mentre le critiche antitecnologiche sono spesso bollate come passatiste e antiscientifiche, qui \u00e8 la stessa AI accusata di aver voltato le spalle alla scienza.<\/p>\n

Il punto debole \u00e8 che non riesce a dare spazio alle determinanti geopolitiche e culturali. Gli esiti descritti sono in pieno sviluppo in Occidente, ma nel resto del mondo il contesto \u00e8 diverso. Anche se la Cina sviluppa anch\u2019essa tali tecnologie il controllo politico su di esse \u00e8 abbastanza diverso dalla alleanza con la corporatocrazia vigente nel blocco euroatlantico. Ovviamente ci\u00f2 non significa che essa o qualche altra potenza non allineata alla oramai barcollante egemonia Usa siano delle isole di libert\u00e0 o modelli da imitare. Ma il pluralismo di esperienze aiuta ad avere una prospettiva meno soffocante. Alla fin fine tanto sul piano teorico quanto sulla sua declinazione sociale le AI sono legate alla visione occidentale, e le altre tecnologie che si sono diffuse nel mondo non hanno reso tutti gli essere umani americani o europei. Chiaramente una rivolta dal basso nei paesi nei paesi euroatlantici sarebbe l\u2019opzione pi\u00f9 auspicabile, ma se la resistenza oggi \u00e8 nel migliore dei casi la conservazione di nicchie, resta la prospettiva di un mondo troppo vasto e complesso per essere costretto da una suprema reductio ad unum tecnocratica. Anche considerando che paesi, assai meno ricchi e avanzati di Usa e Ue, mostrano di non poter essere assimilati con facilit\u00e0; come la Russia che \u00e8 in guerra quasi aperta col blocco euroatlantico, e non pare cavarsela cos\u00ec male.<\/p>\n

FONTE:\u00a0https:\/\/www.lafionda.org\/2024\/04\/01\/skynet-sta-arrivando-ma-a-fin-di-bene\/<\/a><\/strong><\/p>\n

\n
<\/div>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

DA LA FIONDA (Di Matteo Bortolon) Terminata la lettura delle scarse 150 pp. del volume di Stefano Isola,\u00a0A fin di bene: il nuovo potere della ragione artificiale\u00a0(Asterios, 2023), la sensazione \u00e8 di inquietudine. Il dibattito sulle potenzialit\u00e0 della cosiddetta \u201cintelligenza artificiale\u201d (AI) \u00e8 salito al punto da echeggiare i temi della fantascienza sulla \u201crivolta delle macchine\u201d. Impressiona il fatto che la denuncia dei rischi venga non da qualche sorta di \u201cprimitivista\u201d, ma da imprenditori del...<\/p>\n","protected":false},"author":111,"featured_media":58069,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jetpack_post_was_ever_published":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","enabled":false},"version":2}},"categories":[32],"tags":[],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"https:\/\/appelloalpopolo.it\/wp-content\/uploads\/2020\/04\/La_Fionda.png","jetpack_sharing_enabled":true,"jetpack_shortlink":"https:\/\/wp.me\/p7ZaJ4-m32","_links":{"self":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts\/84756"}],"collection":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/users\/111"}],"replies":[{"embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=84756"}],"version-history":[{"count":1,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts\/84756\/revisions"}],"predecessor-version":[{"id":84757,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts\/84756\/revisions\/84757"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/media\/58069"}],"wp:attachment":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=84756"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=84756"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=84756"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}