GPT e PaLM come l’eroina della Bayer?

di Paolo Benanti (blog)

Certo un titolo così forte avrà lasciato perplesso più di un lettore per questo occorre subito una precisazione. Vorrei alla luce di un prezioso studio pubblicato dai ricercatori di Stanford, utilizzare un esempio della ricerca industriale dell’inizio dello scorso secolo per cercare di interrogarci su quale sia l’approccio etico migliore per accompagnare questa stagione dell’innovazione tecnologica. A seguire alcune riflessioni.

1. La chimica industriale scopre la medicina

Partiamo da quanto accaduto con la nascita della sintesi chimica. Dopo un inizio in Inghilterra con la scoperta dei coloranti sintetici e la loro diffusione, la grande industria della chimica industriale si sposta in Germania dove un regime di copertura dei brevetti più favorevole e un comparto industriale fecondo ne decreta il successo esplosivo (non è una metafora visto lo sviluppo che ebbe la chimica industriale nel realizzare le bombe e i gas tossici della I Guerra Mondiale).

La storia di quella che ho definito una realtà sintetica la trovate in qualche mia pubblicazione e in un mio podcast.

Soffermiamoci però su quello che accadde quando la Bayer si trasformò da industria di coloranti, in industria di medicinali. Questa storia ha un protagonista: Carl Duisberg.

Dopo la scoperta dei coloranti sintetici, medici e biologi avevano scoperto, per esempio, che i coloranti sintetici mostravano affinità selettive per certi tipi di cellule e batteri, e li usarono per identificarli. Si individuarono anche alcune potenzialità terapeutiche, come quella del colorante Rosso Congo, utile per la cura dei reumatismi. Il blu di metilene, ancora usato dai biologi nei laboratori, fu impiegato per colorare i tessuti biologici. Altri coloranti misero in luce l’esistenza di alcuni componenti fondamentali delle cellule, come gli acidi nucleici. Da prodotti intermedi della sintesi dei coloranti furono via via ottenuti altri farmaci e profumi.

Fu proprio a questi sviluppi che Duisberg volse la propria attenzione. Il direttore delle ricerche della Bayer era rimasto colpito da due recenti prodotti immessi in commercio. Nel primo caso la scoperta derivò dal fatto che nel tentativo di giungere alla sintesi del chinino, due chimici di una piccola ditta della città renana di Hoechst, a 10 chilometri dalla sede della Bayer, avevano trovato un prodotto derivato dalle aniline a cui attribuivano proprietà antipiretiche. I due chimici commercializzarono la sostanza come antipirina: la chimica industriale aveva iniziato a produrre farmaci. Pur dando luogo a fastidiose reazioni gastriche, la sostanza ebbe un rapido successo commerciale, mostrando all’industria l’esistenza di un settore potenzialmente remunerativo a cui applicare la ricerca chimica.

Il secondo episodio fu la commercializzazione di un altro farmaco, l’Antifebrina. Nel 1886, a seguito di un errore di spedizione, due medici di Strasburgo, Arnold Kahn e Paul Hepp, diedero a un paziente con vermi intestinali dell’acetanilide invece che del naftalene. Chiarito l’errore e costatato che il paziente non aveva subito danni, i due dottori realizzarono che l’acetanilide non aveva effetti sui vermi ma era un ottimo antipiretico. Il fratello di uno dei due, Paul Heppe, era un chimico presso la Kalle & Company, una delle aziende che producevano acetanilide e gli fu chiesto se era interessato a produrre il farmaco antipiretico. Il problema era però che la produzione dell’acetanilide non era segreta e quindi sarebbe stata copiata molto facilmente annullando ogni vantaggio economico. Decisero così di coniare un nome nuovo, Antifebrina, assicurandosi la privativa commerciale sul marchio. Questo episodio fu rivoluzionario

Fino a quel momento i medicinali venduti dai farmacisti erano conosciuti con i loro complessi nomi chimici e con questi nomi scientifici erano indicati nelle pubblicazioni mediche che i dottori consultavano per conoscere le nuove terapie. Quando un medico decideva di utilizzare il farmaco riproduceva il nome scientifico e lasciava il farmacista decidere da chi rifornirsi per produrre la sostanza. Quando comparve un farmaco dal nome tanto semplice come Antifebrina i medici iniziarono a usare questo nome sulle ricette e benché i farmacisti fossero coscienti che acetanilide e Antifebrina fossero la stessa cosa erano obbligati a obbedire pedissequamente alle prescrizioni mediche. Questo obbligò i farmacisti a rifornirsi dalla Kalle & Company ai loro prezzi e a dover ignorare altri fornitori: i pazienti pagavano prezzi molto cari e l’azienda realizzava elevatissimi profitti.

Carl Duisberg capì le possibilità che vi erano dietro questo nuovo “mercato”e accelerò in questa direzione e assunse le menti più innovative e creative disponibili. Con loro riorganizzò i laboratori. Creò il reparto farmaceutico per elaborare nuove idee sui farmaci e il gruppo farmacologico che aveva il compito di testarlo.

I chimici della Bayer conducevano continui esperimenti con centinaia di sostanze simili, e i progressi spesso avvenivano secondo il principio della serendipità.

Felix Hoffmann lavorava con lo stesso principio e fu con questa modalità che ricevette l’incarico di provare a sintetizzare l’acido salicilico alleviando i fastidiosi disturbi gastrici ad esso collegati. Il 10 agosto 1897 Hoffmann annotò nel suo diario di essere riuscito, variando gli esperimenti, ad ottenere l’acetilazione dell’acido salicilico che neutralizzava la componente responsabile delle controindicazioni gastriche. Il suo capo Eichengrüng fu molto soddisfatto dei risultati e passò il preparato a Dreser perché lo sperimentasse. A causa di una serie di pregiudizi medici sull’acido salicilico, Druiser bocciò il farmaco. Lo voleva cestinare, dimostrandosi maggiormente propenso ad adottare un altro composto, sempre per acetilazione, che in quella settimana Hoffmann aveva sviluppato e che secondo lui aveva un maggior potenziale commerciale e terapeutico.

Ironia della sorte: in due settimane Hoffmann aveva scoperto uno dei maggiori farmaci più noti, l’aspirina (C9H8O4), e una delle droghe più mortali, l’eroina (C21H23NO5). I chimici tedeschi erano convinti che il processo di acetilazione degli alcaloidi naturali potesse originare composti meno tossici e più attivi, comunque nuove molecole, più costose e redditizie del prodotto originale. La fiducia dei chimici tedeschi nell’acetilazione era così grande che è stata definita una vera e propria acetilo-mania.

Eichengrüng trovò il modo di far arrivare i risultati dell’acido acetilsalicilico a Duisberg che, impressionato dalle sue qualità, ordinò una nuova sperimentazione; dopo i controlli clinici che ne confutarono ogni complicazione, decise per la produzione del farmaco.

Il 23 gennaio 1899 tra i dirigenti della Bayer circolò una comunicazione per trovare il nome commerciale per l’acido acetilsalicilico. L’acido salicilico poteva essere estratto dalle piante di spirea. A questa si decise di preporre la lettera a- in segno di acetilazione e di produzione per sintesi (era il contenuto della spirea senza nessun utilizzo della pianta), e si aggiunse alla fine le lettere -in per rendere la pronuncia più facile. Era nata l’aspirina, Aspirin per la Bayer dell’epoca, un farmaco che cambiò il mondo. La Bayer e Duisberg avevano battezzato quello che poi venne chiamato informalmente il farmaco delle meraviglie.

Tra il 1899 e il 1905 vennero pubblicati 180 lavori clinici sull’eroina e nel 1910 i lavori clinici eseguiti con la diacetilmorfina includevano almeno 10.000 pazienti. La grande maggioranza degli studi giudicò l’eroina positivamente, alcuni lavori la dipinsero addirittura in termini entusiastici. Nessuno parlava di dipendenza iatrogena ad eccezione di qualche voce dissidente. Va sottolineato che il problema della dipendenza era relativamente limitato perché l’eroina era somministrata in dosi da 5 mg.

Nel 1899 la Bayer esportava l’eroina in ventitré paesi. Non si riteneva l’eroina in grado di dare dipendenza; oggi sappiamo che la dipendenza invece è forte e si instaura molto rapidamente. In pochi anni, l’eroinomania divenne rapidamente un’emergenza sanitaria: nel 1905 la città di New York consumava circa due tonnellate di eroina all’anno. In Cina sostituì l’oppio. L’Europa e il Vecchio mondo non rimasero immuni: il consumo si diffuse rapidamente. In Egitto nel 1930 il fenomeno aveva assunto proporzioni drammatiche: si calcola che su 14 milioni di abitanti vi fossero 500.000 eroinomani. La velocità e la forza della dipendenza procurate dall’eroina erano state sottovalutate, e nell’arco di poco tempo la sostanza divenne causa di un’emergenza sanitaria, tanto che già nel 1925 l’Italia pose l’eroina fra le sostanze illegali.

In altre parole, non basta un’etica degli ingegneri che si interroghi solo sul processo di produzione di una tecnologia garantendo degli standard. Un’arma ben progettata non è meno pericolosa in forza di questa cura nel progetto. Non serve semplicemente rendere trasparente il processo di produzione o garantire che quanto prodotto mantenga le promesse fatte. Se dovessimo utilizzare la metafora dell’automobile, non basta dire che i freni sono in grado di arrestare la macchina in un determinato spazio e in un determinato tempo. Né basta, come si è fatto dall’epoca dei brevetti in poi, rendere trasparente il processo di produzione. Sapere come è fatto un freno ancora nulla mi dice su come devo guidare la macchina. Di fronte alle sfide che abbiamo davanti, la più grande domanda non è come guidare la macchina. La vera domanda è qual è la meta, verso dove vogliamo andare e qual è la direzione da prendere al prossimo bivio? Qual è la destinazione? Qual è lo scopo del nostro viaggio? Queste sono domande sapienziali.

Se oggi vedere la pubblicità dell’eroina come rimedio per la tosse ci fa amaramente sorridere, possiamo e dobbiamo chiederci perché questa, forse troppo lunga, storia ci può aiutare nel gestire le novità dei modelli generative dei LLM.

2. Lo studio di Stanford: gli Agenti Generativi

Ecco brevemente, potremmo dire per Tweet, cosa è successo. Stanford ha pubblicato uno studio innovativo sull’intelligenza artificiale in cui i suoi ricercatori nel campo delle AI lanciano i cosiddetti Agenti Generativi, programmi informatici che simulano il comportamento umano autentico utilizzando modelli generativi. Gli agenti generativi migliorano gli LLM esistenti introducendo capacità di memoria, riflessione e pianificazione, consentendo coerenza a lungo termine e comportamenti dinamici.

Immediatamente sono emerse preoccupazioni in merito alle relazioni parasociali e all’antropomorfizzazione dell’AI, con potenziali conseguenze negative per la società e la sostituzione degli esseri umani in compiti cruciali.

Quello che emerge dallo studio è che gli “agenti generativi” possono simulare l’autentico comportamento umano.

Nello studio è stato realizzato un posto virtuale chiamato Smallville. Smallville è un mondo di gioco in stile Sims. Ci sono 25 agenti generativi (personaggi) che vivono nel gioco e operano in un modo che assomiglia molto al comportamento umano.

Gli agenti possono:

• Pianificare la loro giornata

• Condividere qualsiasi notizia

• Stringere relazioni

• Coordinare le attività

Come a Stanford hanno creato gli agenti generativi?

Hanno dovuto realizzare un’architettura in grado di memorizzare, sintetizzare e applicare le “memorie” rilevanti per generare un comportamento credibile. Questo è stato fatto utilizzando un modello linguistico di grandi dimensioni – ChatGPT.

Ci sono tre componenti fondamentali:

• Flusso di memoria: una registrazione delle esperienze dell’agente.

• Riflessione – sintetizza le memorie per aiutare a trarre conclusioni

• Pianificazione – traduce le conclusioni in piani d’azione

Iniziata la simulazione, in questo mondo virtuale di Smallville, a un agente, Isabella, viene incaricato di organizzare una festa di San Valentino.

I ricercatori sapevano che molte cose sarebbero potute andare storte. L’agente avrebbe potuto:

• Non seguire le istruzioni

• Non ricordarsi di avvisare gli altri

• Non ricordarsi di presentarsi

Invece è interessante, leggendo lo studio, vedere cosa sia successo. Alla fine della simulazione, 12 agenti hanno saputo della festa di Isabella. Questo senza alcun intervento da parte dell’utente/ricercatore. Inoltre, la comunità di agenti ha stretto nuove relazioni durante la simulazione.

L’immagine mostra il percorso di diffusione della festa di Isabella.

La cosa più impressionante è che gli agenti hanno diffuso autonomamente gli inviti alla festa nei due giorni successivi.

Inoltre:

• Hanno creato relazioni

• Si sono coordinati per arrivare in tempo

• Si sono chiesti reciprocamente di uscire per andare alla festa.

Questi comportamenti erano emergenti rispetto a quelli pre-programmati.

Ed è qui, sull’impatto sociale di questi farmaci (giocando sull’ambivalenza del termine greco farmakon) che come nel caso dell’eroina possiamo guardare all’impatto sulla società

Gli agenti generativi potrebbero avere conseguenze enormi e impreviste sulla società:

• Antropomorfizzazione – gli esseri umani attribuiscono emozioni agli agenti

• Impatto degli errori – gli agenti fanno false deduzioni che causano danni

• Rischio di implementazione in una società mista dell’AI generativa – persuasione su misura e deepfakes

3.Alcune riflessioni per l’oggi

Nel giungere a conclusione di questa mia lettura della cosa mi serve fare una premessa. Il nostro paese è sempre più polarizzato. Se in questo paragrafo provo a fare delle conclusioni etiche sulla literacy che secondo me è urgente creare sugli LLM sono consapevole di farlo in un contesto iper-polarizzato segnato dalle decisioni del Garante della Privacy su ChatGPT. Da qui una premessa: non commento, alludo o intendo dire nulla su questo fatto. L’esempio dell’eroina nelle mie intenzioni serve solo per dire che serve cambiare prospettiva per una corretta analisi etica e quelle attuali (incluse le strutture preziose della tutela dei diritti sulla privacy) forse non ci bastano.

• Gli agenti generativi offrono un nuovo orizzonte per l’interazione uomo-computer.

• È importante affrontare di petto le preoccupazioni etiche.

• Se lo facciamo, dobbiamo sapere che gli agenti autonomi possono aiutare la società ad aumentare la produttività: dai copiloti agli ambienti immersivi.

Tuttavia come l’eroina più che un medicinale si è dimostrata una sostanza che crea una tossicodipendenza dagli effetti sociali micidiali, per gli LLM, mutatis mutandis, più che alla citotossicità o alla neurotossicità, si dovrà guardare agli effetti sul benessere relazionale e sociale che possono indurre in un contesto sociale sempre più digitalmente e algoritmicamente mediato.

Sono convinto che gli LLM siano strumenti fondamentali per ottenere grandi progressi per l’umanità. Tuttavia, se come per la Bayer, lasciamo al mercato e alla corsa ai brevetti e al guadagno l’unico motore e propulsore, temo che per un’aspirina che allevia i nostri mal di testa avremo in cambio troppe vite rovinate dall’eroina. Speriamo domani di non dover guardare con un sorriso amaro quanto oggi scritto e comunicato sulle fantomatiche proprietà degli LLM.

Fonte: https://www.paolobenanti.com/post/gpt-palm-eroina

Iscriviti al nostro canale Telegram