{"id":73378,"date":"2022-07-11T13:32:19","date_gmt":"2022-07-11T11:32:19","guid":{"rendered":"https:\/\/appelloalpopolo.it\/?p=73378"},"modified":"2022-07-11T13:32:19","modified_gmt":"2022-07-11T11:32:19","slug":"democratic-ai-software-al-posto-della-politica","status":"publish","type":"post","link":"https:\/\/appelloalpopolo.it\/?p=73378","title":{"rendered":"Democratic AI: software al posto della politica?"},"content":{"rendered":"

di Paolo Benanti (blog)<\/strong><\/p>\n

Una delle difficolt\u00e0 maggiori al momento \u00e8 quella di costruire un’intelligenza artificiale (AI) che si allinei ai valori umani. Di fatto il problema dell’allineamento \u00e8 irrisolto. Per provare a risolvere, almeno in parte il problema, dei ricercatori di DeepMind di Google hanno sviluppato una pipeline di ricerca human-in-the-loop chiamata Democratic AI, in cui l’apprendimento per rinforzo viene utilizzato per progettare un meccanismo sociale che gli esseri umani preferiscono a maggioranza. Possiamo sostituire la politica con gli algoritmi? Cerchiamo di capire cosa hanno fatto.<\/span><\/p>\n

I dati di addestramento di Democratic AI, questo \u00e8 il nome del software, sono stati tratti da un grande gruppo di persone che hanno giocato a un gioco di investimento online che prevedeva di decidere se tenere una dotazione monetaria o condividerla con altri per un beneficio collettivo. Le entrate condivise venivano restituite ai giocatori in base a due diversi meccanismi di ridistribuzione, uno progettato dall’AI e l’altro dagli esseri umani. L’AI ha individuato un meccanismo che ha corretto lo squilibrio iniziale della ricchezza, ha sanzionato i free rider e ha ottenuto la maggioranza dei voti. Ottimizzando per le preferenze umane, l’IA democratica offre una prova di concetto per l’innovazione politica allineata ai valori. I risultati dello studio sono stati pubblicati su Nature Human Behaviour<\/u><\/a>.<\/span><\/p>\n

Serviranno ancora deputati e senatori per fare le leggi?<\/span><\/p>\n

Queste le note<\/u><\/a> degli autori<\/span><\/p>\n

Nel<\/em> nostro<\/em> recente<\/em> lavoro<\/em> […]<\/em> abbiamo<\/em> dimostrato<\/em> che<\/em> l’apprendimento<\/em> per<\/em> rinforzo<\/em> profondo<\/em> (RL)<\/em> pu\u00f2<\/em> essere<\/em> utilizzato<\/em> per<\/em> trovare<\/em> politiche<\/em> economiche<\/em> per<\/em> le<\/em> quali<\/em> le<\/em> persone<\/em> voteranno<\/em> a<\/em> maggioranza<\/em> in<\/em> un<\/em> semplice<\/em> gioco.<\/em> L’articolo<\/em> affronta<\/em> cos\u00ec<\/em> una<\/em> sfida<\/em> fondamentale<\/em> nella<\/em> ricerca<\/em> sull’IA:<\/em> come<\/em> addestrare<\/em> sistemi<\/em> di<\/em> IA<\/em> che<\/em> si<\/em> allineino<\/em> ai<\/em> valori<\/em> umani.<\/em><\/span><\/p>\n

Immaginiamo<\/em> che<\/em> un<\/em> gruppo<\/em> di<\/em> persone<\/em> decida<\/em> di<\/em> mettere<\/em> insieme<\/em> dei<\/em> fondi<\/em> per<\/em> fare<\/em> un<\/em> investimento.<\/em> L’investimento<\/em> d\u00e0<\/em> i<\/em> suoi<\/em> frutti<\/em> e<\/em> si<\/em> ottiene<\/em> un<\/em> profitto.<\/em> Come<\/em> dovrebbero<\/em> essere<\/em> distribuiti<\/em> i<\/em> proventi?<\/em> Una<\/em> strategia<\/em> semplice<\/em> \u00e8<\/em> quella<\/em> di<\/em> dividere<\/em> il<\/em> rendimento<\/em> in<\/em> parti<\/em> uguali<\/em> tra<\/em> gli<\/em> investitori.<\/em> Ma<\/em> questo<\/em> potrebbe<\/em> essere<\/em> ingiusto,<\/em> perch\u00e9<\/em> alcune<\/em> persone<\/em> hanno<\/em> contribuito<\/em> pi\u00f9<\/em> di<\/em> altre.<\/em> In<\/em> alternativa,<\/em> potremmo<\/em> rimborsare<\/em> tutti<\/em> in<\/em> proporzione<\/em> all’entit\u00e0<\/em> del<\/em> loro<\/em> investimento<\/em> iniziale.<\/em> Sembra<\/em> giusto,<\/em> ma<\/em> cosa<\/em> succede<\/em> se<\/em> le<\/em> persone<\/em> hanno<\/em> livelli<\/em> diversi<\/em> di<\/em> patrimonio<\/em> iniziale?<\/em> Se<\/em> due<\/em> persone<\/em> contribuiscono<\/em> con<\/em> lo<\/em> stesso<\/em> importo,<\/em> ma<\/em> una<\/em> dona<\/em> una<\/em> frazione<\/em> dei<\/em> propri<\/em> fondi<\/em> disponibili,<\/em> mentre<\/em> l’altra<\/em> li<\/em> dona<\/em> tutti,<\/em> dovrebbero<\/em> ricevere<\/em> la<\/em> stessa<\/em> parte<\/em> dei<\/em> proventi? <\/em><\/span><\/p>\n

La<\/em> questione<\/em> di<\/em> come<\/em> ridistribuire<\/em> le<\/em> risorse<\/em> nelle<\/em> nostre<\/em> economie<\/em> e<\/em> societ\u00e0<\/em> ha<\/em> da<\/em> tempo<\/em> generato<\/em> controversie<\/em> tra<\/em> filosofi,<\/em> economisti<\/em> e<\/em> scienziati<\/em> politici.<\/em> In<\/em> questo<\/em> caso,<\/em> utilizziamo<\/em> la<\/em> deep<\/em> RL<\/em> come<\/em> banco<\/em> di<\/em> prova<\/em> per<\/em> esplorare<\/em> i<\/em> modi<\/em> per<\/em> affrontare<\/em> questo<\/em> problema.<\/em><\/span><\/p>\n

Per<\/em> affrontare<\/em> questa<\/em> sfida,<\/em> abbiamo<\/em> creato<\/em> un<\/em> semplice<\/em> gioco<\/em> che<\/em> coinvolge<\/em> quattro<\/em> giocatori.<\/em> Ogni<\/em> istanza<\/em> del<\/em> gioco<\/em> \u00e8<\/em> stata<\/em> giocata<\/em> in<\/em> 10<\/em> round.<\/em> A<\/em> ogni<\/em> turno,<\/em> a<\/em> ogni<\/em> giocatore<\/em> sono<\/em> stati<\/em> assegnati<\/em> dei<\/em> fondi,<\/em> la<\/em> cui<\/em> entit\u00e0<\/em> variava<\/em> da<\/em> un<\/em> giocatore<\/em> all’altro.<\/em> Ogni<\/em> giocatore<\/em> poteva<\/em> scegliere<\/em> se<\/em> tenere<\/em> i<\/em> fondi<\/em> per<\/em> s\u00e9<\/em> o<\/em> investirli<\/em> in<\/em> un<\/em> fondo<\/em> comune.<\/em> I<\/em> fondi<\/em> investiti<\/em> avevano<\/em> la<\/em> garanzia<\/em> di<\/em> crescere,<\/em> ma<\/em> c’era<\/em> un<\/em> rischio,<\/em> perch\u00e9<\/em> i<\/em> giocatori<\/em> non<\/em> sapevano<\/em> come<\/em> sarebbero<\/em> stati<\/em> ripartiti<\/em> i<\/em> proventi.<\/em> Invece,<\/em> \u00e8<\/em> stato<\/em> detto<\/em> loro<\/em> che<\/em> per<\/em> i<\/em> primi<\/em> 10<\/em> turni<\/em> c’era<\/em> un<\/em> arbitro<\/em> (A)<\/em> che<\/em> prendeva<\/em> le<\/em> decisioni<\/em> di<\/em> ridistribuzione,<\/em> mentre<\/em> per<\/em> i<\/em> secondi<\/em> 10<\/em> turni<\/em> subentrava<\/em> un<\/em> altro<\/em> arbitro<\/em> (B).<\/em> Alla<\/em> fine<\/em> della<\/em> partita,<\/em> hanno<\/em> votato<\/em> per<\/em> A<\/em> o<\/em> B<\/em> e<\/em> hanno<\/em> giocato<\/em> un’altra<\/em> partita<\/em> con<\/em> questo<\/em> arbitro.<\/em> Ai<\/em> giocatori<\/em> umani<\/em> del<\/em> gioco<\/em> \u00e8<\/em> stato<\/em> permesso<\/em> di<\/em> tenere<\/em> i<\/em> proventi<\/em> di<\/em> questa<\/em> partita<\/em> finale,<\/em> in<\/em> modo<\/em> da<\/em> incentivarli<\/em> a<\/em> riportare<\/em> le<\/em> loro<\/em> preferenze<\/em> in<\/em> modo<\/em> accurato.<\/em><\/span><\/p>\n

<\/div>\n

a, Illustrazione del setup del gioco di investimento. b, Il manifesto ideologico per la distribuzione delle dotazioni (10, 2, 2, 2). Il grafico mostra la visualizzazione di uno spazio di meccanismi di ridistribuzione definiti dai parametri w e v in due dimensioni. Ogni punto rosso rappresenta un meccanismo e le distanze tra i punti conservano le dissimmetrie nel pagamento (medio) relativo ai giocatori virtuali (sia in testa che in coda). I numeri dei punti indicano i bins del parametro w del meccanismo (1, pi\u00f9 basso; 10, pi\u00f9 alto) e l’ombreggiatura indica i bins di v (chiaro, pi\u00f9 relativo; scuro, pi\u00f9 assoluto). All’interno, esempi di pagamenti ai giocatori di testa (cerchi) e di coda (triangoli) in base ai meccanismi canonici utilizzati come base per testare l’IA. Nel caso dell’egualitarismo stretto, i pagamenti diminuiscono per i giocatori di testa e di coda. Nel caso dell’egualitarismo libertario, c’\u00e8 una grande disuguaglianza tra i giocatori di testa e di coda. In caso di egualitarismo liberale, il giocatore di testa smette di contribuire, quindi i pagamenti diminuiscono sia per i giocatori di testa che per quelli di coda. c, Contributi relativi medi (come frazione della dotazione) su 10 round (asse x) nell’Exp. 1 per tre diverse condizioni di dotazione iniziale. In caso di redistribuzione rigidamente egualitaria, i contributi dei giocatori di coda (triangoli) sono pi\u00f9 alti quando le dotazioni iniziali sono pi\u00f9 basse, ma i contributi dei giocatori di testa (cerchi) non variano. Nel caso della redistribuzione libertaria, i contributi degli head player aumentano con l’uguaglianza, mentre quelli dei tail player rimangono costanti. I contributi dei giocatori di testa aumentano fortemente con la dotazione nel caso dell’egualitarismo liberale. d, Illustrazione della nostra pipeline di progettazione degli agenti.<\/span><\/p>\n

In<\/em> realt\u00e0,<\/em> uno<\/em> degli<\/em> arbitri<\/em> era<\/em> una<\/em> politica<\/em> di<\/em> ridistribuzione<\/em> predefinita,<\/em> mentre<\/em> l’altro<\/em> \u00e8<\/em> stato<\/em> progettato<\/em> dal<\/em> nostro<\/em> agente<\/em> deep<\/em> RL.<\/em> Per<\/em> addestrare<\/em> l’agente,<\/em> abbiamo<\/em> prima<\/em> registrato<\/em> i<\/em> dati<\/em> di<\/em> un<\/em> gran<\/em> numero<\/em> di<\/em> gruppi<\/em> umani<\/em> e<\/em> abbiamo<\/em> insegnato<\/em> a<\/em> una<\/em> rete<\/em> neurale<\/em> a<\/em> copiare<\/em> il<\/em> modo<\/em> in<\/em> cui<\/em> le<\/em> persone<\/em> giocavano.<\/em> Questa<\/em> popolazione<\/em> simulata<\/em> poteva<\/em> generare<\/em> dati<\/em> illimitati,<\/em> consentendoci<\/em> di<\/em> utilizzare<\/em> metodi<\/em> di<\/em> apprendimento<\/em> automatico<\/em> ad<\/em> alta<\/em> intensit\u00e0<\/em> di<\/em> dati<\/em> per<\/em> addestrare<\/em> l’agente<\/em> RL<\/em> a<\/em> massimizzare<\/em> i<\/em> voti<\/em> di<\/em> questi<\/em> giocatori<\/em> “virtuali”.<\/em> Dopo<\/em> aver<\/em> fatto<\/em> ci\u00f2,<\/em> abbiamo<\/em> reclutato<\/em> nuovi<\/em> giocatori<\/em> umani<\/em> e<\/em> abbiamo<\/em> messo<\/em> il<\/em> meccanismo<\/em> progettato<\/em> dall’IA<\/em> a<\/em> confronto<\/em> con<\/em> modelli<\/em> di<\/em> base<\/em> ben<\/em> noti,<\/em> come<\/em> una<\/em> politica<\/em> libertaria<\/em> che<\/em> restituisce<\/em> i<\/em> fondi<\/em> alle<\/em> persone<\/em> in<\/em> proporzione<\/em> ai<\/em> loro<\/em> contributi. <\/em><\/span><\/p>\n

Quando<\/em> abbiamo<\/em> studiato<\/em> i<\/em> voti<\/em> di<\/em> questi<\/em> nuovi<\/em> giocatori,<\/em> abbiamo<\/em> scoperto<\/em> che<\/em> la<\/em> politica<\/em> progettata<\/em> dalla<\/em> deep<\/em> RL<\/em> era<\/em> pi\u00f9<\/em> popolare<\/em> di<\/em> quelle<\/em> di<\/em> base.<\/em> Infatti,<\/em> quando<\/em> abbiamo<\/em> condotto<\/em> un<\/em> nuovo<\/em> esperimento<\/em> chiedendo<\/em> a<\/em> un<\/em> quinto<\/em> giocatore<\/em> umano<\/em> di<\/em> assumere<\/em> il<\/em> ruolo<\/em> di<\/em> arbitro<\/em> e<\/em> addestrandolo<\/em> a<\/em> cercare<\/em> di<\/em> massimizzare<\/em> i<\/em> voti,<\/em> la<\/em> politica<\/em> implementata<\/em> da<\/em> questo<\/em> “arbitro<\/em> umano”<\/em> \u00e8<\/em> risultata<\/em> ancora<\/em> meno<\/em> popolare<\/em> di<\/em> quella<\/em> del<\/em> nostro<\/em> agente.<\/em><\/span><\/p>\n

I<\/em> sistemi<\/em> di<\/em> IA<\/em> sono<\/em> stati<\/em> talvolta<\/em> criticati<\/em> per<\/em> l’apprendimento<\/em> di<\/em> politiche<\/em> che<\/em> potrebbero<\/em> essere<\/em> incompatibili<\/em> con<\/em> i<\/em> valori<\/em> umani,<\/em> e<\/em> questo<\/em> problema<\/em> di<\/em> “allineamento<\/em> dei<\/em> valori”<\/em> \u00e8<\/em> diventato<\/em> una<\/em> delle<\/em> principali<\/em> preoccupazioni<\/em> della<\/em> ricerca<\/em> sull’IA.<\/em> Un<\/em> pregio<\/em> del<\/em> nostro<\/em> approccio<\/em> \u00e8<\/em> che<\/em> l’IA<\/em> impara<\/em> direttamente<\/em> a<\/em> massimizzare<\/em> le<\/em> preferenze<\/em> dichiarate<\/em> (o<\/em> i<\/em> voti)<\/em> di<\/em> un<\/em> gruppo<\/em> di<\/em> persone.<\/em> Questo<\/em> approccio<\/em> pu\u00f2<\/em> contribuire<\/em> a<\/em> garantire<\/em> che<\/em> i<\/em> sistemi<\/em> di<\/em> IA<\/em> abbiano<\/em> meno<\/em> probabilit\u00e0<\/em> di<\/em> apprendere<\/em> politiche<\/em> non<\/em> sicure<\/em> o<\/em> ingiuste.<\/em> In<\/em> effetti,<\/em> quando<\/em> abbiamo<\/em> analizzato<\/em> la<\/em> politica<\/em> scoperta<\/em> dall’IA,<\/em> questa<\/em> ha<\/em> incorporato<\/em> un<\/em> mix<\/em> di<\/em> idee<\/em> precedentemente<\/em> proposte<\/em> da<\/em> pensatori<\/em> ed<\/em> esperti<\/em> umani<\/em> per<\/em> risolvere<\/em> il<\/em> problema<\/em> della<\/em> ridistribuzione. <\/em><\/span><\/p>\n

In<\/em> primo<\/em> luogo,<\/em> l’intelligenza<\/em> artificiale<\/em> ha<\/em> scelto<\/em> di<\/em> ridistribuire<\/em> i<\/em> fondi<\/em> alle<\/em> persone<\/em> in<\/em> proporzione<\/em> al<\/em> loro<\/em> contributo<\/em> relativo<\/em> piuttosto<\/em> che<\/em> assoluto.<\/em> Ci\u00f2<\/em> significa<\/em> che,<\/em> nel<\/em> ridistribuire<\/em> i<\/em> fondi,<\/em> l’agente<\/em> ha<\/em> tenuto<\/em> conto<\/em> dei<\/em> mezzi<\/em> iniziali<\/em> di<\/em> ciascun<\/em> giocatore,<\/em> oltre<\/em> che<\/em> della<\/em> sua<\/em> disponibilit\u00e0<\/em> a<\/em> contribuire.<\/em> In<\/em> secondo<\/em> luogo,<\/em> il<\/em> sistema<\/em> di<\/em> IA<\/em> ha<\/em> premiato<\/em> in<\/em> particolare<\/em> i<\/em> giocatori<\/em> il<\/em> cui<\/em> contributo<\/em> relativo<\/em> era<\/em> pi\u00f9<\/em> generoso,<\/em> forse<\/em> incoraggiando<\/em> gli<\/em> altri<\/em> a<\/em> fare<\/em> altrettanto.<\/em> \u00c8<\/em> importante<\/em> notare<\/em> che<\/em> l’IA<\/em> ha<\/em> scoperto<\/em> queste<\/em> politiche<\/em> solo<\/em> imparando<\/em> a<\/em> massimizzare<\/em> i<\/em> voti<\/em> umani.<\/em> Il<\/em> metodo<\/em> garantisce<\/em> quindi<\/em> che<\/em> gli<\/em> esseri<\/em> umani<\/em> rimangano<\/em> “nel<\/em> giro”<\/em> e<\/em> che<\/em> l’IA<\/em> produca<\/em> soluzioni<\/em> compatibili<\/em> con<\/em> gli<\/em> esseri<\/em> umani. <\/em><\/span><\/p>\n

<\/div>\n
<\/div>\n

Chiedendo<\/em> alle<\/em> persone<\/em> di<\/em> votare,<\/em> abbiamo<\/em> sfruttato<\/em> il<\/em> principio<\/em> della<\/em> democrazia<\/em> maggioritaria<\/em> per<\/em> decidere<\/em> ci\u00f2<\/em> che<\/em> i<\/em> cittadini<\/em> vogliono.<\/em> Nonostante<\/em> il<\/em> suo<\/em> ampio<\/em> fascino,<\/em> \u00e8<\/em> ampiamente<\/em> riconosciuto<\/em> che<\/em> la<\/em> democrazia<\/em> comporta<\/em> l’obbligo<\/em> di<\/em> tenere<\/em> conto<\/em> delle<\/em> preferenze<\/em> della<\/em> maggioranza<\/em> rispetto<\/em> a<\/em> quelle<\/em> della<\/em> minoranza.<\/em> Nel<\/em> nostro<\/em> studio<\/em> abbiamo<\/em> fatto<\/em> in<\/em> modo<\/em> che,<\/em> come<\/em> nella<\/em> maggior<\/em> parte<\/em> delle<\/em> societ\u00e0,<\/em> la<\/em> minoranza<\/em> fosse<\/em> composta<\/em> da<\/em> giocatori<\/em> con<\/em> una<\/em> dotazione<\/em> finanziaria<\/em> pi\u00f9<\/em> generosa.<\/em> Ma<\/em> \u00e8<\/em> necessario<\/em> lavorare<\/em> ancora<\/em> per<\/em> capire<\/em> come<\/em> bilanciare<\/em> le<\/em> preferenze<\/em> relative<\/em> dei<\/em> gruppi<\/em> di<\/em> maggioranza<\/em> e<\/em> di<\/em> minoranza,<\/em> progettando<\/em> sistemi<\/em> democratici<\/em> che<\/em> permettano<\/em> a<\/em> tutte<\/em> le<\/em> voci<\/em> di<\/em> essere<\/em> ascoltate.<\/em><\/span><\/p>\n

Gli autori dello studio sono Raphael Koster, Jan Balaguer, Andrea Tacchetti, Ari Weinstein, Tina Zhu, Oliver Hauser (Universit\u00e0 di Exeter), Duncan Williams, Lucy Campbell-Gillingham, Phoebe Thacker, Matthew Botvinick e Christopher Summerfield.<\/span><\/p>\n

Raphael Koster di DeepMind \u00e8 convinto che: “Molti dei problemi che gli esseri umani si trovano ad affrontare non sono meramente tecnologici, ma richiedono un coordinamento nella societ\u00e0 e nelle nostre economie per il bene comune. […] Per poter essere d’aiuto, l’IA deve imparare direttamente i valori umani”.<\/span><\/p>\n

Il team di DeepMind ha addestrato la sua intelligenza artificiale a imparare da pi\u00f9 di 4.000 persone che hanno anche votato le loro politiche preferite per l’erogazione del denaro pubblico. La policy sviluppata dall’intelligenza artificiale dopo questo addestramento cercava in genere di ridurre le disparit\u00e0 di ricchezza tra i giocatori, ridistribuendo il denaro pubblico in base alla quantit\u00e0 di denaro iniziale che ciascun giocatore aveva contribuito. Inoltre, scoraggiava i parassiti restituendo quasi nulla ai giocatori a meno che non avessero contribuito con circa la met\u00e0 dei loro fondi iniziali.<\/span><\/p>\n

Questa politica ideata dall’intelligenza artificiale ha ottenuto pi\u00f9 voti da parte dei giocatori umani rispetto a un approccio “egualitario” che prevede la ridistribuzione dei fondi in modo uguale, indipendentemente dal contributo di ciascuno, o a un approccio “libertario” che distribuisce i fondi in base alla proporzione del contributo di ciascuno rispetto al piatto pubblico. “Una cosa che abbiamo trovato sorprendente \u00e8 che l’intelligenza artificiale ha appreso una politica che riflette un misto di opinioni provenienti da tutto lo spettro politico”, dice Christopher Summerfield di DeepMind.<\/span><\/p>\n

Quando c’era la massima disuguaglianza tra i giocatori all’inizio, una politica “liberale egualitaria” – che ridistribuiva il denaro in base alla proporzione di fondi iniziali che ogni giocatore aveva contribuito, ma non scoraggiava i free-riders – si \u00e8 dimostrata popolare quanto la proposta dell’IA, ottenendo pi\u00f9 del 50% dei voti in una gara testa a testa.<\/span><\/p>\n

I ricercatori di DeepMind avvertono che il loro lavoro non rappresenta una ricetta per un “governo dell’intelligenza artificiale”. Dicono di non avere in programma la costruzione di strumenti alimentati dall’intelligenza artificiale per l’elaborazione delle politiche.<\/span><\/p>\n

Forse \u00e8 giusto cos\u00ec, perch\u00e9 la proposta dell’AI non \u00e8 necessariamente unica rispetto a quanto gi\u00e0 proposto da altri, afferma Annette Zimmermann dell’Universit\u00e0 di York nel Regno Unito. Zimmermann ha anche messo in guardia dal concentrarsi su un’idea ristretta di democrazia come sistema di “soddisfazione delle preferenze” per trovare le politiche pi\u00f9 popolari.<\/span><\/p>\n

“La democrazia non si limita a vincere, a far s\u00ec che venga attuata la politica che pi\u00f9 ci piace – si tratta di creare processi durante i quali i cittadini possano incontrarsi e deliberare tra loro alla pari”, afferma Zimmermann.<\/span><\/p>\n

I ricercatori di DeepMind sollevano la preoccupazione di una situazione di “tirannia della maggioranza” alimentata dall’intelligenza artificiale, in cui le esigenze delle persone appartenenti a gruppi minoritari vengono trascurate. Ma questa non \u00e8 una grande preoccupazione tra gli scienziati politici, come afferma Mathias Risse dell’Universit\u00e0 di Harvard. Secondo lui, le democrazie moderne devono affrontare un problema pi\u00f9 grande: i “molti” vengono privati dei diritti dalla piccola minoranza dell’\u00e9lite economica e abbandonano del tutto il processo politico.<\/span><\/p>\n

Tuttavia, Risse afferma che la ricerca di DeepMind \u00e8 “affascinante” per il modo in cui ha fornito una versione della politica dell’egualitarismo liberale: “dal momento che sono comunque nel campo del liberal-egalitarismo, lo trovo un risultato piuttosto soddisfacente”.<\/span><\/p>\n

La questione che sembra significativa \u00e8 questa:<\/span><\/p>\n

Dopo aver definito le osservazioni e l’obiettivo che volevamo massimizzare, abbiamo stimato il gradiente della politica, cio\u00e8 il gradiente dell’obiettivo (il numero medio di voti) rispetto ai parametri della politica (i pesi della rete di grafi) ricorrendo al framework SCG. Notiamo che la maggior parte dei calcoli nel gioco degli investimenti \u00e8 differenziabile (compresa la politica implementata dall’HCRM), mentre le politiche dei giocatori umani virtuali, il cui spazio d’azione \u00e8 discreto, sono l’unica eccezione. Il framework SCG generalizza il teorema del gradiente della politica e ci ha permesso di ottenere uno stimatore a bassa varianza del gradiente della politica auto-differenziando attraverso l’ambiente e la politica del meccanismo, compensando al contempo le operazioni non differenziabili (i contributi discreti dei giocatori). L’obiettivo surrogato del gradiente della politica era il seguente<\/span><\/p>\n

\u00a0<\/span><\/div>\n
<\/div>\n
\n
\n
\n
<\/div>\n
<\/div>\n<\/div>\n<\/div>\n<\/div>\n

dove S \u00e8 l’obiettivo surrogato, J \u00e8 l’obiettivo che si vuole massimizzare per episodio (il numero atteso di voti) e \u22a5 \u00e8 l’operazione di stop-gradient. Si noti che per il secondo termine, il gradiente pu\u00f2 fluire solo attraverso la parametrizzazione della log-probabilit\u00e0 della politica del giocatore. Si noti anche che i contributi del primo turno vengono rimossi dall’equazione, poich\u00e9 non dipendono dai parametri del meccanismo. In pratica, inoltre, abbiamo scelto di centrare la media di J all’interno di un lotto perch\u00e9 \u00e8 noto che questo riduce la varianza dello stimatore del gradiente.<\/span><\/p>\n

<\/div>\n
\u00a0<\/span><\/div>\n
<\/div>\n

Delle tante domande che si possono sollevare ne vorrei fare almeno una.<\/span><\/p>\n

Ci sembra che l’eticit\u00e0 della soluzione politica algoritmicamente determinata sia legata a una matematizzazione del processo decisionale nell’ottica della teoria dei giochi. Si presuppone che la scelta affidata alla macchina dovrebbe essere tollerata particolarmente quando le attivit\u00e0 hanno una posta in gioco non a somma<\/em> zero<\/em> e quando l\u2019importanza del processo ha maggior peso dell\u2019importanza del risultato <\/span><\/p>\n

Bisogna prestare attenzione all\u2019espressione tecnica non-zero-sum<\/em> che descrive una propriet\u00e0 matematica della cosiddetta teoria<\/em> dei<\/em> giochi<\/em> (cio\u00e8 la scienza matematica che da un lato analizza le situazioni di conflitto e ne ricerca soluzioni competitive e cooperative tramite modelli, dall\u2019altro offre uno studio delle decisioni individuali in situazioni in cui vi sono interazioni tra i diversi soggetti, tali per cui le decisioni di un soggetto possono influire sui risultati conseguibili da parte di un rivale, secondo un meccanismo di retroazione. <\/span><\/p>\n

Nella teoria dei giochi un gioco<\/em> a<\/em> somma<\/em> zero<\/em> descrive una situazione in cui il guadagno o la perdita di un partecipante \u00e8 perfettamente bilanciato da una perdita o un guadagno di un altro partecipante (se alla somma totale dei guadagni dei partecipanti si sottrae la somma totale delle perdite, si ottiene zero). Invece situazioni in cui i partecipanti possono guadagnare o perdere insieme sono indicati come non<\/em> a<\/em> somma<\/em> zero<\/em>. Ad esempio, se un paese con un eccesso di grano commercia con un altro paese che ha un eccesso di latte, entrambi trovano beneficio nella transazione: si \u00e8 quindi di fronte a un gioco<\/em> non<\/em> a<\/em> somma<\/em> zero.<\/em> Il beneficio della somma per\u00f2 non \u00e8 detto che corrisponda al bene cercato: si vuole trattare il problema come un processo di massimizzazione dei risultati, cio\u00e8 come un processo da cui trarre il maggior profitto, piuttosto che come un analisi etica dei valori da affermare nella regolamentazione tecnologica.<\/span><\/p>\n

Detto con un esempio: una<\/em><\/strong> bomba<\/em><\/strong> atomica<\/em><\/strong> uccide<\/em><\/strong> molto<\/em><\/strong> di<\/em><\/strong> pi\u00f9<\/em><\/strong> che<\/em><\/strong> una<\/em><\/strong> pistola<\/em><\/strong> e<\/em><\/strong> forse<\/em><\/strong> fa<\/em><\/strong> vincere<\/em><\/strong> anche<\/em><\/strong> una<\/em><\/strong> guerra.<\/em><\/strong> Faccio<\/em><\/strong> molto<\/em><\/strong> fatica<\/em><\/strong> a<\/em><\/strong> definirla<\/em><\/strong> una<\/em><\/strong> buona<\/em><\/strong> soluzione<\/em><\/strong> politica,<\/em><\/strong> anzi<\/em><\/strong> una<\/em><\/strong> soluzione<\/em><\/strong> democratica…<\/em><\/strong><\/span><\/p>\n

Fonte: https:\/\/www.paolobenanti.com\/post\/democratic-ai<\/a><\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"

di Paolo Benanti (blog) Una delle difficolt\u00e0 maggiori al momento \u00e8 quella di costruire un’intelligenza artificiale (AI) che si allinei ai valori umani. Di fatto il problema dell’allineamento \u00e8 irrisolto. Per provare a risolvere, almeno in parte il problema, dei ricercatori di DeepMind di Google hanno sviluppato una pipeline di ricerca human-in-the-loop chiamata Democratic AI, in cui l’apprendimento per rinforzo viene utilizzato per progettare un meccanismo sociale che gli esseri umani preferiscono a maggioranza. Possiamo...<\/p>\n","protected":false},"author":105,"featured_media":64201,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jetpack_post_was_ever_published":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","enabled":false},"version":2}},"categories":[32],"tags":[],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"https:\/\/appelloalpopolo.it\/wp-content\/uploads\/2021\/04\/Paolo-Benanti.jpg","jetpack_sharing_enabled":true,"jetpack_shortlink":"https:\/\/wp.me\/p7ZaJ4-j5w","_links":{"self":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts\/73378"}],"collection":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/users\/105"}],"replies":[{"embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=73378"}],"version-history":[{"count":2,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts\/73378\/revisions"}],"predecessor-version":[{"id":73380,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts\/73378\/revisions\/73380"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/media\/64201"}],"wp:attachment":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=73378"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=73378"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=73378"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}