{"id":78645,"date":"2023-04-17T11:00:22","date_gmt":"2023-04-17T09:00:22","guid":{"rendered":"https:\/\/appelloalpopolo.it\/?p=78645"},"modified":"2023-04-15T09:56:34","modified_gmt":"2023-04-15T07:56:34","slug":"gpt-e-palm-come-leroina-della-bayer","status":"publish","type":"post","link":"https:\/\/appelloalpopolo.it\/?p=78645","title":{"rendered":"GPT e PaLM come l’eroina della Bayer?"},"content":{"rendered":"

di Paolo Benanti (blog)<\/strong><\/p>\n

Certo un titolo cos\u00ec forte avr\u00e0 lasciato perplesso pi\u00f9 di un lettore per questo occorre subito una precisazione. Vorrei alla luce di un prezioso studio<\/u><\/a> pubblicato dai ricercatori di Stanford, utilizzare un esempio della ricerca industriale dell’inizio dello scorso secolo per cercare di interrogarci su quale sia l’approccio etico migliore per accompagnare questa stagione dell’innovazione tecnologica. A seguire alcune riflessioni.<\/span><\/p>\n

1.<\/strong> La<\/strong> chimica<\/strong> industriale<\/strong> scopre<\/strong> la<\/strong> medicina<\/strong><\/span><\/p>\n

Partiamo da quanto accaduto con la nascita della sintesi chimica. Dopo un inizio in Inghilterra con la scoperta dei coloranti sintetici e la loro diffusione, la grande industria della chimica industriale si sposta in Germania dove un regime di copertura dei brevetti pi\u00f9 favorevole e un comparto industriale fecondo ne decreta il successo esplosivo (non \u00e8 una metafora visto lo sviluppo che ebbe la chimica industriale nel realizzare le bombe e i gas tossici della I Guerra Mondiale).<\/span><\/p>\n

<\/div>\n
\n
\n
\n
\"\"<\/div>\n<\/div>\n<\/div>\n<\/div>\n

La storia di quella che ho definito una realt\u00e0 sintetica la trovate in qualche mia pubblicazione e in un mio podcast<\/u><\/a>.<\/span><\/p>\n

Soffermiamoci per\u00f2 su quello che accadde quando la Bayer si trasform\u00f2 da industria di coloranti, in industria di medicinali. Questa storia ha un protagonista: Carl Duisberg.<\/span><\/p>\n

Dopo la scoperta dei coloranti sintetici, medici e biologi avevano scoperto, per esempio, che i coloranti sintetici mostravano affinit\u00e0 selettive per certi tipi di cellule e batteri, e li usarono per identificarli. Si individuarono anche alcune potenzialit\u00e0 terapeutiche, come quella del colorante Rosso Congo, utile per la cura dei reumatismi. Il blu di metilene, ancora usato dai biologi nei laboratori, fu impiegato per colorare i tessuti biologici. Altri coloranti misero in luce l\u2019esistenza di alcuni componenti fondamentali delle cellule, come gli acidi nucleici. Da prodotti intermedi della sintesi dei coloranti furono via via ottenuti altri farmaci e profumi. <\/span><\/p>\n

Fu proprio a questi sviluppi che Duisberg volse la propria attenzione. Il direttore delle ricerche della Bayer era rimasto colpito da due recenti prodotti immessi in commercio. Nel primo caso la scoperta deriv\u00f2 dal fatto che nel tentativo di giungere alla sintesi del chinino, due chimici di una piccola ditta della citt\u00e0 renana di Hoechst, a 10 chilometri dalla sede della Bayer, avevano trovato un prodotto derivato dalle aniline a cui attribuivano propriet\u00e0 antipiretiche. I due chimici commercializzarono la sostanza come antipirina: la chimica industriale aveva iniziato a produrre farmaci. Pur dando luogo a fastidiose reazioni gastriche, la sostanza ebbe un rapido successo commerciale, mostrando all\u2019industria l\u2019esistenza di un settore potenzialmente remunerativo a cui applicare la ricerca chimica. <\/span><\/p>\n

Il secondo episodio fu la commercializzazione di un altro farmaco, l\u2019Antifebrina. Nel 1886, a seguito di un errore di spedizione, due medici di Strasburgo, Arnold Kahn e Paul Hepp, diedero a un paziente con vermi intestinali dell\u2019acetanilide invece che del naftalene. Chiarito l\u2019errore e costatato che il paziente non aveva subito danni, i due dottori realizzarono che l\u2019acetanilide non aveva effetti sui vermi ma era un ottimo antipiretico. Il fratello di uno dei due, Paul Heppe, era un chimico presso la Kalle & Company, una delle aziende che producevano acetanilide e gli fu chiesto se era interessato a produrre il farmaco antipiretico. Il problema era per\u00f2 che la produzione dell\u2019acetanilide non era segreta e quindi sarebbe stata copiata molto facilmente annullando ogni vantaggio economico. Decisero cos\u00ec di coniare un nome nuovo, Antifebrina, assicurandosi la privativa commerciale sul marchio. Questo episodio fu rivoluzionario <\/span><\/p>\n

<\/div>\n
\n
\n
\n
\"\"<\/div>\n
<\/div>\n<\/div>\n<\/div>\n<\/div>\n

Fino a quel momento i medicinali venduti dai farmacisti erano conosciuti con i loro complessi nomi chimici e con questi nomi scientifici erano indicati nelle pubblicazioni mediche che i dottori consultavano per conoscere le nuove terapie. Quando un medico decideva di utilizzare il farmaco riproduceva il nome scientifico e lasciava il farmacista decidere da chi rifornirsi per produrre la sostanza. Quando comparve un farmaco dal nome tanto semplice come Antifebrina i medici iniziarono a usare questo nome sulle ricette e bench\u00e9 i farmacisti fossero coscienti che acetanilide e Antifebrina fossero la stessa cosa erano obbligati a obbedire pedissequamente alle prescrizioni mediche. Questo obblig\u00f2 i farmacisti a rifornirsi dalla Kalle & Company ai loro prezzi e a dover ignorare altri fornitori: i pazienti pagavano prezzi molto cari e l\u2019azienda realizzava elevatissimi profitti. <\/span><\/p>\n

Carl Duisberg cap\u00ec le possibilit\u00e0 che vi erano dietro questo nuovo “mercato”e acceler\u00f2 in questa direzione e assunse le menti pi\u00f9 innovative e creative disponibili. Con loro riorganizz\u00f2 i laboratori. Cre\u00f2 il reparto farmaceutico per elaborare nuove idee sui farmaci e il gruppo farmacologico che aveva il compito di testarlo. <\/span><\/p>\n

I chimici della Bayer conducevano continui esperimenti con centinaia di sostanze simili, e i progressi spesso avvenivano secondo il principio della serendipit\u00e0. <\/span><\/p>\n

Felix Hoffmann lavorava con lo stesso principio e fu con questa modalit\u00e0 che ricevette l\u2019incarico di provare a sintetizzare l\u2019acido salicilico alleviando i fastidiosi disturbi gastrici ad esso collegati. Il 10 agosto 1897 Hoffmann annot\u00f2 nel suo diario di essere riuscito, variando gli esperimenti, ad ottenere l\u2019acetilazione dell\u2019acido salicilico che neutralizzava la componente responsabile delle controindicazioni gastriche. Il suo capo Eichengr\u00fcng fu molto soddisfatto dei risultati e pass\u00f2 il preparato a Dreser perch\u00e9 lo sperimentasse. A causa di una serie di pregiudizi medici sull\u2019acido salicilico, Druiser bocci\u00f2 il farmaco. Lo voleva cestinare, dimostrandosi maggiormente propenso ad adottare un altro composto, sempre per acetilazione, che in quella settimana Hoffmann aveva sviluppato e che secondo lui aveva un maggior potenziale commerciale e terapeutico. <\/span><\/p>\n

Ironia della sorte: in due settimane Hoffmann aveva scoperto uno dei maggiori farmaci pi\u00f9 noti, l\u2019aspirina<\/em> (C9H8O4), e una delle droghe pi\u00f9 mortali, l\u2019eroina<\/em> (C21H23NO5). I chimici tedeschi erano convinti che il processo di acetilazione degli alcaloidi naturali potesse originare composti meno tossici e pi\u00f9 attivi, comunque nuove molecole, pi\u00f9 costose e redditizie del prodotto originale. La fiducia dei chimici tedeschi nell\u2019acetilazione era cos\u00ec grande che \u00e8 stata definita una vera e propria acetilo-mania.<\/span><\/p>\n

Eichengr\u00fcng trov\u00f2 il modo di far arrivare i risultati dell\u2019acido acetilsalicilico a Duisberg che, impressionato dalle sue qualit\u00e0, ordin\u00f2 una nuova sperimentazione; dopo i controlli clinici che ne confutarono ogni complicazione, decise per la produzione del farmaco. <\/span><\/p>\n

Il 23 gennaio 1899 tra i dirigenti della Bayer circol\u00f2 una comunicazione per trovare il nome commerciale per l\u2019acido acetilsalicilico. L\u2019acido salicilico poteva essere estratto dalle piante di spirea. A questa si decise di preporre la lettera a- in segno di acetilazione e di produzione per sintesi (era il contenuto della spirea senza nessun utilizzo della pianta), e si aggiunse alla fine le lettere -in per rendere la pronuncia pi\u00f9 facile. Era nata l\u2019aspirina, Aspirin per la Bayer dell\u2019epoca, un farmaco che cambi\u00f2 il mondo. La Bayer e Duisberg avevano battezzato quello che poi venne chiamato informalmente il farmaco delle meraviglie.<\/span><\/p>\n

Cosa successe invece all\u2019altra sostanza sintetizzata da Hoffmann? La diacetilmorfina (C21H23NO5), questo il nome del composto, ottenuto anch\u2019esso dall\u2019acetilazione della morfina, prese il nome commerciale di Eroina. La sua storia \u00e8 tristemente nota. Se Eichengr\u00fcng fu il responsabile della messa in commercio dell\u2019Aspirina, fu Dreser colui che port\u00f2 l\u2019eroina in produzione. Il capo del reparto di farmacologia, sempre pi\u00f9 convinto del potenziale di questa sostanza, cominci\u00f2 a testarla su rane e conigli da laboratorio. Il passo seguente fu provarla su se stesso e su alcuni volontari dell\u2019attigua fabbrica di coloranti. La diacetilmorfina risult\u00f2 essere molto efficace e gli operai riferirono che l\u2019uso della sostanza li faceva sentire eroici: questo segn\u00f2 il nome del farmaco. L\u2019eroina fu poi sottoposta a ulteriori sperimentazioni cliniche e nel 1898 Dreser annunci\u00f2 al Congresso dei naturalisti e medici tedeschi che era dieci volte pi\u00f9 efficace della codeina come rimedio per la tosse avendo solo un decimo dei suoi effetti tossici. La Bayer era convinta di aver scoperto una droga per tutti, sicura e che non dava dipendenza, e progettava di promuoverla presso i medici come un rimedio per coliche infantili, raffreddori, influenza, dolori articolari e altri malesseri, e, addirittura, come tonico generico. \u00c8 interessante annotare che negli stessi termini fu promossa la Coca Cola all\u2019inizio del XX secolo. <\/span><\/div>\n

Tra il 1899 e il 1905 vennero pubblicati 180 lavori clinici sull\u2019eroina e nel 1910 i lavori clinici eseguiti con la diacetilmorfina includevano almeno 10.000 pazienti. La grande maggioranza degli studi giudic\u00f2 l\u2019eroina positivamente, alcuni lavori la dipinsero addirittura in termini entusiastici. Nessuno parlava di dipendenza iatrogena ad eccezione di qualche voce dissidente. Va sottolineato che il problema della dipendenza era relativamente limitato perch\u00e9 l\u2019eroina era somministrata in dosi da 5 mg. <\/span><\/p>\n

Nel 1899 la Bayer esportava l\u2019eroina in ventitr\u00e9 paesi. Non si riteneva l\u2019eroina in grado di dare dipendenza; oggi sappiamo che la dipendenza invece \u00e8 forte e si instaura molto rapidamente. In pochi anni, l\u2019eroinomania divenne rapidamente un\u2019emergenza sanitaria: nel 1905 la citt\u00e0 di New York consumava circa due tonnellate di eroina all\u2019anno. In Cina sostitu\u00ec l\u2019oppio. L\u2019Europa e il Vecchio mondo non rimasero immuni: il consumo si diffuse rapidamente. In Egitto nel 1930 il fenomeno aveva assunto proporzioni drammatiche: si calcola che su 14 milioni di abitanti vi fossero 500.000 eroinomani. La velocit\u00e0 e la forza della dipendenza procurate dall\u2019eroina erano state sottovalutate, e nell\u2019arco di poco tempo la sostanza divenne causa di un\u2019emergenza sanitaria, tanto che gi\u00e0 nel 1925 l\u2019Italia pose l\u2019eroina fra le sostanze illegali. <\/span><\/p>\n

Si potrebbe continuare con la crisi degli oppioidi nel mercato US degli scorsi anni ma la storia diventerebbe troppo lunga. Temo che nel farmaceutico non abbiamo ancora imparato fino in fondo. La triste storia dell’ironia ci mostra come di fronte all’innovazione che impatta sull’uomo non basta solo un’accuratezza di design. <\/span><\/div>\n

In altre parole, non basta un’etica degli ingegneri che si interroghi solo sul processo di produzione di una tecnologia garantendo degli standard. Un\u2019arma ben progettata non \u00e8 meno pericolosa in forza di questa cura nel progetto. Non serve semplicemente rendere trasparente il processo di produzione o garantire che quanto prodotto mantenga le promesse fatte. Se dovessimo utilizzare la metafora dell\u2019automobile, non basta dire che i freni sono in grado di arrestare la macchina in un determinato spazio e in un determinato tempo. N\u00e9 basta, come si \u00e8 fatto dall’epoca dei brevetti in poi, rendere trasparente il processo di produzione. Sapere come \u00e8 fatto un freno ancora nulla mi dice su come devo guidare la macchina. Di fronte alle sfide che abbiamo davanti, la pi\u00f9 grande domanda non \u00e8 come guidare la macchina. La vera domanda \u00e8 qual \u00e8 la meta, verso dove vogliamo andare e qual \u00e8 la direzione da prendere al prossimo bivio? Qual \u00e8 la destinazione? Qual \u00e8 lo scopo del nostro viaggio? Queste sono domande sapienziali. <\/span><\/p>\n

Se oggi vedere la pubblicit\u00e0 dell’eroina come rimedio per la tosse ci fa amaramente sorridere, possiamo e dobbiamo chiederci perch\u00e9 questa, forse troppo lunga, storia ci pu\u00f2 aiutare nel gestire le novit\u00e0 dei modelli generative dei LLM.<\/span><\/p>\n

 <\/p>\n

2.<\/strong> Lo<\/strong> studio<\/strong> di<\/strong> Stanford:<\/strong> gli<\/strong> Agenti<\/strong> Generativi<\/strong><\/span><\/p>\n

Ecco brevemente, potremmo dire per Tweet, cosa \u00e8 successo. Stanford ha pubblicato uno studio innovativo sull’intelligenza artificiale in cui i suoi ricercatori nel campo delle AI lanciano i cosiddetti Agenti Generativi, programmi informatici che simulano il comportamento umano autentico utilizzando modelli generativi. Gli agenti generativi migliorano gli LLM esistenti introducendo capacit\u00e0 di memoria, riflessione e pianificazione, consentendo coerenza a lungo termine e comportamenti dinamici.<\/span><\/p>\n

Immediatamente sono emerse preoccupazioni in merito alle relazioni parasociali e all’antropomorfizzazione dell’AI, con potenziali conseguenze negative per la societ\u00e0 e la sostituzione degli esseri umani in compiti cruciali.<\/span><\/p>\n

Quello che emerge dallo studio \u00e8 che gli “agenti generativi” possono simulare l’autentico comportamento umano.<\/span><\/p>\n

Nello studio \u00e8 stato realizzato un posto virtuale chiamato Smallville. Smallville \u00e8 un mondo di gioco in stile Sims. Ci sono 25 agenti generativi (personaggi) che vivono nel gioco e operano in un modo che assomiglia molto al comportamento umano.<\/span><\/p>\n

<\/div>\n
\n
\n
\n
\"\"<\/div>\n
<\/div>\n<\/div>\n<\/div>\n<\/div>\n

Gli agenti possono:<\/span><\/p>\n