{"id":76622,"date":"2023-01-13T10:21:53","date_gmt":"2023-01-13T09:21:53","guid":{"rendered":"https:\/\/appelloalpopolo.it\/?p=76622"},"modified":"2023-01-12T21:25:18","modified_gmt":"2023-01-12T20:25:18","slug":"computer-che-programmano","status":"publish","type":"post","link":"https:\/\/appelloalpopolo.it\/?p=76622","title":{"rendered":"Computer che programmano"},"content":{"rendered":"

di SCIENZA IN RETE<\/strong> (Chiara Sabelli)<\/p>\n

<\/p>\n

All\u2019inizio di dicembre la rivista scientifica\u00a0Science<\/em>\u00a0ha\u00a0pubblicato<\/a>\u00a0uno studio condotto dalla compagnia londinese DeepMind, di propriet\u00e0 di Google, che documenta il funzionamento e le performance di AlphaCode. Alpha Code \u00e8 un sistema di apprendimento automatico capace di tradurre un problema scritto in linguaggio naturale in un programma informatico, linee di codice (Python, C++ e altri) capaci di risolvere il problema in questione.<\/p>\n

AlphaCode \u00e8 stato messo alla prova in dieci competizioni organizzate dalla piattaforma CodeForces nel mese di dicembre 2021 posizionandosi in media a met\u00e0 della classifica. I ricercatori scrivono che questo piazzamento \u00e8 quello di un programmatore alle prime armi, ma che \u201c\u00e8 la prima volta che un computer si \u00e8 dimostrato competitivo con partecipanti umani in gare di programmazione.\u201d<\/p>\n

Gi\u00e0 a febbraio, quando DeepMind aveva pubblicato AlphaCode\u00a0per la prima volta<\/a>, gli utenti di CodeForces erano rimasti molto impressionati.<\/p>\n

Su un\u00a0blog<\/a>\u00a0della piattaforma, un moderatore aveva commentato cos\u00ec: \u201cNel 1997 Kasparov ha perso contro il supercomputer DeepBlue. Forse assisteremo a un confronto tra Tourist e un\u2019IA nel prossimo futuro. Cosa ne pensate?\u201d<\/p>\n

Tourist \u00e8 il nome in codice di\u00a0Gennady Korotkevich<\/a>, programmatore bielorusso primo in classifica su CodeForces al momento della conversazione.<\/p>\n

Un altro utente della piattaforma, che si fa chiamare Ke Jie, il nome di uno dei pi\u00f9 forti giocatori di Go al mondo, rispondeva cos\u00ec alla domanda del moderatore: \u201cNon riesco ancora a dimenticare quando cinque anni fa AlphaGo (un’altra IA sviluppata da DeepMind ma che gioca a Go) ha demolito me e Lee Sedol. Ora sembra che AlphaCode stia invadendo l\u2019informatica. Spero sinceramente che Tourist possa reagire per l’umanit\u00e0. I miei migliori auguri.\u201d<\/p>\n

Un\u2019altra utente scriveva \u201c\u00c8 ora di rendere privati tutti i nostri archivi su GitHub\u201d.<\/p>\n

GitHub \u00e8 un servizio che ospita progetti di sviluppo di software permettendo agli utenti di caricare i codici sorgente e lavorarci in modo collaborativo. Proprio usando il grosso database di codici archiviati su GitHub, AlphaCode ha \u201cimparato\u201d a programmare.<\/p>\n

Modelli di linguaggio naturale<\/h2>\n

Alla base di AlphaCode c\u2019\u00e8 infatti un modello di linguaggio, o meglio quello che gli esperti chiamano un\u00a0large language model<\/em>. L\u2019aggettivo \u201clarge\u201d si riferisce al grandissimo numero di parametri che sono necessari a descrivere la rete neurale profonda che costituisce AlphaCode, oltre che alla dimensione del database utilizzato per il suo allenamento.<\/p>\n

Di\u00a0large language model<\/em>\u00a0ne sentiamo parlare ormai da anni. L\u2019ultimo nato \u00e8 Chat-GPT, sviluppato dalla societ\u00e0 OpenAI (partecipata da Microsoft con 1 miliardo di dollari di investimento nel 2019), un chatbot che ha sorpreso anche gli esperti per la sua capacit\u00e0 di produrre testi estremamente credibili e ricchi di informazioni e di significato.<\/p>\n

Questi algoritmi vengono allenati su enormi database di testi, reperiti per lo pi\u00f9 online, e imparano a completare le frasi, cio\u00e8 a valutare qual \u00e8 la parola successiva pi\u00f9 probabile.<\/p>\n

Gi\u00e0 nel 2020, quando OpenAI aveva pubblicato una versione precedente del suo chatbot chiamata GPT-3 e di cui avevamo parlato\u00a0qui<\/a>, gli autori del sistema si erano resi conto che GPT-3 sapeva anche produrre delle forme rudimentali di codice Python. Questo accadeva perch\u00e9 tra i testi su cui era stato allenato c\u2019erano anche i testi di programmi in Python.<\/p>\n

Da quella constatazione, dopo un anno di lavoro era nato\u00a0Codex<\/a>, una versione di GPT-3 allenata sugli archivi di GitHub. Codex era stato messo a disposizione di tutti attraverso l\u2019applicazione Copilot, disponibile su GitHub e testato da tanti programmatori esperti.<\/p>\n

Alpha Code e Codex: stessa architettura, diversi allenamenti<\/h2>\n

L\u2019architettura della rete neurale su cui \u00e8 basato AlphaCode \u00e8 la stessa di Codex. La differenza sta nel tipo di testi su cui sono allenate le due reti.<\/p>\n

L\u2019allenamento delle reti neurali usate per modellizzare il linguaggio naturale avviene solitamente in due fasi. Nella prima, chiamata\u00a0pre-training<\/em>, la rete apprende il funzionamento generale della lingua, nella seconda, chiamata\u00a0fine-tuning<\/em>, la rete si specializza su un certo tipo di testi. Lo stesso approccio viene seguito quando si intende sviluppare modelli di linguaggio specialistico. Si parte da modelli pre-allenati su testi generici nella lingua di interesse, e poi si raffinano dandogli in pasto testi dell\u2019ambito prescelto. Per esempio, se si \u00e8 interessati al linguaggio medico, si prende un modello di lingua pre-allenato e si raffina dandogli in pasto articoli pubblicati su riviste mediche.<\/p>\n

Mentre Codex si basa su una rete pre-allenata su testi scritti in linguaggio naturale e poi affinata sugli script in Python disponibili su GitHub, AlphaCode viene pre-allenata gi\u00e0 sugli\u00a0script<\/em>\u00a0disponibili su GitHub (in diversi linguaggi di programmazione). In questa prima fase gli script vengono spezzati arbitrariamente in due parti. AlphaCode riceve come input la prima parte e deve imparare a restituire come output la seconda. Questo gli permette di familiarizzare con la sintassi e le convenzioni del linguaggio di programmazione. Nella seconda fase di allenamento, i ricercatori hanno utilizzato un database di problemi e soluzioni\u00a0costruito ad hoc<\/a>\u00a0nello stile di quelli proposti sulla piattaforma CodeForces. Un esempio \u00e8 riportato qui sotto.<\/p>\n

<\/p>\n

Un esempio di problema dalla piattaforma CodeForces, disponibile\u00a0qui<\/a>.<\/p>\n

La descrizione del problema in linguaggio naturale viene data come input alla rete nella forma di commento (facendo precedere ogni riga con un # come \u00e8 convenzione in molti linguaggi di programmazione). In questo modo l\u2019input somiglier\u00e0 alla prima parte degli script dati come input ad AlphaCode durante il pre-allenamento (spesso gli script su GitHub contengono numerose righe di commento per rendere pi\u00f9 comprensibile il codice a chi legge). Processando un database di 2,6 GB di problemi e soluzioni, AlphaCode impara a restituire come output il codice che risolve il problema.<\/p>\n

Una volta terminato l\u2019allenamento, AlphaCode si vede sottoporre uno dei problemi di CodeForces e deve rispondere con un codice che lo risolve nel linguaggio di programmazione desiderato.<\/p>\n

I ricercatori di DeepMind hanno allenato diverse versioni della rete neurale che costituisce AlphaCode, aumentando e diminuendo il numero di parametri. In questo modo AlphaCode genera molte soluzioni diverse per il problema e queste vengono raggruppate e filtrate per scegliere le migliori. Anche i ricercatori di OpenAI facevano qualcosa di simile, ma se Codex genera decine o centinaia di proposte, AlphaCode ne genera fino a un milione.<\/p>\n

La dimensione \u00e8 probabilmente un\u2019altra delle chiavi del successo di AlphaCode. Ma non \u00e8 gratis: viene al costo di un enorme sforzo computazionale e quindi di un enorme consumo energetico. Gli autori scrivono su\u00a0Science<\/em>: \u201cl’allenamento e la valutazione del nostro modello pi\u00f9 grande, con 41 miliardi di parametri, hanno richiesto 175 megawattora (~16 volte il consumo energetico annuale di una famiglia americana media). Il grande utilizzo di risorse richiesto per questo esperimento ha un impatto ambientale e inoltre rende difficile replicarlo per la maggior parte degli enti di ricerca.\u201d<\/p>\n

Gli sviluppatori perderanno il lavoro?<\/h2>\n

La pubblicazione di AlphaCode ha fatto riaffiorare una domanda che spesso ci si pone quando un algoritmo di machine learning dimostra di poter raggiungere livelli di performance simili a quelli umani. Ovvero: questi sistemi ruberanno il lavoro a programmatori e sviluppatori?<\/p>\n

Se lo chiedono anche gli utenti di CodeForces. Un utente pessimista scrive: \u201cPotrebbe sembrare un’idea divertente, ma se in realt\u00e0 l’intelligenza artificiale dovesse dominare la programmazione, il mondo degli sviluppatori potrebbe subire un duro colpo. Migliaia di persone lavorano come sviluppatori in tutto il mondo e ogni anno se ne aggiungono molte altre. Questa popolazione potrebbe essere colpita molto duramente da tali miglioramenti. Mi spiace che questo commento risulti un po’ meno umoristico. Forse sono un programmatore grigio, ecco perch\u00e9 sono cos\u00ec spaventato :(\u201c<\/p>\n

Altri, pi\u00f9 ottimisti, rispondono che il lavoro dei programmatori \u00e8 ancora molto diverso da quello svolto da AlphaCode o Codex: \u201cNon dico che non accadr\u00e0, ma credo che siamo ancora lontani dal dominio dell’intelligenza artificiale sulla programmazione. Nel mondo reale la maggior parte dei problemi di programmazione sono molto meno ben specificati rispetto alla programmazione competitiva, e gran parte della programmazione consiste nel capire cosa vuole il cliente, piuttosto che nell’implementare algoritmi intelligenti.\u201d<\/p>\n

Dello stesso avviso \u00e8 anche Armando Solar-Lezama, coordinatore del Computer Assisted Programming Group all\u2019MIT. \u201cI problemi risolti nelle gare di programmazione erano ben specificati\u201d\u00a0ha detto<\/a>\u00a0Solar-Lezama a\u00a0Science<\/em>. \u201cLa programmazione del mondo reale spesso richiede la gestione di grandi pacchetti di codice, il che richiede una comprensione pi\u00f9 olistica del software.\u201d Infine ha aggiunto: \u201canche se questo tipo di tecnologia dovesse avere un successo straordinario, sarebbe opportuno trattarla come si tratta un programmatore all’interno di un’organizzazione. Non si vuole mai un’organizzazione in cui un singolo programmatore possa far crollare l’intera organizzazione.\u201d<\/p>\n

Zico Kolter, informatico della Carnegie Mellon University, ha un punto di vista simile. “La mia ipotesi migliore \u00e8 che strumenti come questi, in grado di generare porzioni di programma, diventeranno probabilmente strumenti “di seconda natura” per i programmatori”,\u00a0ha dichiarato<\/a>\u00a0a\u00a0Nature<\/em>.<\/p>\n

In effetti sta gi\u00e0 succedendo. Intervistato dall\u2019Economist<\/em>, Kevin Scott, Chief Technology Officer di Microsoft,\u00a0ha dichiarato<\/a>\u00a0che i programmatori dell\u2019azienda amano Codex. \u201cIl prodotto \u00e8 estremamente valido, abbiamo circa 100’000 utenti attivi ogni giorno\u201d. La tecnologia non li sta sostituendo ma piuttosto sta liberando il loro tempo da attivit\u00e0 di basso livello. \u201cQuesto \u00e8 quello che non avevamo capito all\u2019inizio: questi strumenti sono utili pi\u00f9 per i programmatori esperti per chi \u00e8 alle prime armi. Per alcuni dei nostri utenti Codex scrive il 70% del codice e questo gli permette di concentrarsi sulla struttura generale del software piuttosto che nei dettagli e nelle parti pi\u00f9 ripetitive e standard.\u201d<\/p>\n

Smetteremo di imparare a programmare?<\/h2>\n

Un\u2019altra domanda che \u00e8 legittimo porsi \u00e8 quali saranno le conseguenze per l\u2019insegnamento della programmazione e pi\u00f9 in generale dell\u2019informatica.<\/p>\n

\u00abL\u2019apprendimento dell\u2019uso consapevole e coerente dei linguaggi di programmazione costituisce una parte significativa nella formazione degli informatici\u00bb, commenta Simone Martini, informatico all\u2019Universit\u00e0 di Bologna. \u00abTuttavia, imparare a usare questi strumenti \u00e8 importante non solo per chi studier\u00e0 informatica o ne far\u00e0 la propria professione, ma per le persone in generale, che hanno bisogno di questi concetti per una cittadinanza responsabile nella societ\u00e0 dell\u2019informazione.\u00bb<\/p>\n

L\u2019insegnamento della programmazione ha dunque un obiettivo pi\u00f9 ampio: formare il\u00a0pensiero computazionale<\/a>\u00a0dei giovani cittadini, cio\u00e8 quella capacit\u00e0 di \u201calgoritmizzare\u201d i problemi, scomporli in una gerarchia di problemi via via pi\u00f9 astratti e trovare soluzioni per ciascun livello di astrazione.<\/p>\n

Questo \u00e8 il contributo che l\u2019apprendimento dell\u2019informatica pu\u00f2 dare alla cultura generale.<\/p>\n

Jeannette Wing, informatica statunitense e direttrice del Data Science Institute alla Columbia University, ha chiarito questo punto in un editoriale\u00a0pubblicato<\/a>\u00a0nel 2006 sulla rivista\u00a0Communications to the ACM<\/em>, puntualizzando per\u00f2 che \u201cpensare come un computer scientist significa pi\u00f9 che saper programmare\u201d. Il pensiero computazionale non si riduce dunque alla padronanza di uno o pi\u00f9 linguaggi di programmazione e in questo senso l\u2019impatto di sistemi come AlphaCode o Codex non render\u00e0 l\u2019insegnamento dell\u2019informatica inutile o obsoleto.<\/p>\n

\u00abTuttavia, la possibilit\u00e0 di trasferire le competenze acquisite imparando a programmare in altri ambiti non \u00e8 mai stata verificata veramente\u00bb, commenta Martini. Esistono degli studi che hanno provato a valutare questo transfert, ma non sono conclusivi. Sarebbe importante progettarne degli altri.<\/p>\n

Ben prima della diffusione di computer, internet e smartphone, il matematico americano Seymour Papert sosteneva che imparare a programmare permettesse di usare il computer come laboratorio per rendere concreti concetti astratti e dunque realizzare quell\u2019approccio \u201ccostruttivista\u201d all\u2019apprendimento che Jean Piaget riteneva fondamentale per lo sviluppo cognitivo dei bambini. In questo senso la programmazione diventa anche uno strumento di apprendimento di altre scienze, partendo dalla matematica, e non dell\u2019informatica in s\u00e9. Con questo scopo, alla fine degli anni Sessanta Papert svilupp\u00f2 il linguaggio LOGO, a cui poi seguirono diverse evoluzioni, come per esempio Boxer, sviluppato dall\u2019informatico americano Andrea Disessa per l\u2019apprendimento della fisica.<\/p>\n

E a livello universitario? Un gruppo di ricercatori dell\u2019Universit\u00e0 della Nuova Zelanda a Auckland\u00a0ha provato<\/a>\u00a0a capire che impatto potrebbe avere Codex sul loro corso di introduzione alla programmazione. I ricercatori hanno sottoposto a Codex i test del corso introduttivo di informatica che hanno tenuto nel 2020 presso la loro universit\u00e0. I test erano gli stessi che avevano sostenuto gli studenti. Codex si \u00e8 piazzato diciassettesimo su 100, quindi nel primo quartile della classifica. L\u2019esperimento ha portato i ricercatori a concludere che, visto che \u00e8 impossibile essere certi che gli studenti in futuro non usino questo tipo di strumenti durante gli esami, \u00e8 necessario variare di pi\u00f9 la formulazione dei problemi, evitando quelle gi\u00e0 presenti online (anche se, testando Codex su una formulazione nuova di un problema standard, l\u2019algoritmo non \u00e8 andato affatto male). Bisogna quindi pensare a esami pi\u00f9 strutturati e diversi per ciascun studente. Hanno anche constatato che \u00e8 difficile capire se una soluzione \u00e8 stata prodotta da Codex usando i software antiplagio esistenti, perch\u00e9 produce codice estremamente variabile.<\/p>\n

Tuttavia, i ricercatori fanno notare come Codex e AlphaCode possano diventare degli alleati dei professori, utili per esempio a esplorare diverse soluzioni allo stesso problema o a dare una soluzione agli esercizi di preparazione agli esami con cui gli studenti possano confrontarsi. Ma per sfruttare queste potenzialit\u00e0, dicono, sar\u00e0 necessario dedicare pi\u00f9 tempo all\u2019interno dei corsi all\u2019insegnamento di tecniche di analisi, debugging e valutazione della qualit\u00e0 degli algoritmi.<\/p>\n

Di certo, concludono, non si potr\u00e0 ignorare l\u2019esistenza di questi sistemi: il modo di insegnare la programmazione andr\u00e0 riformato tenendone conto.<\/p>\n

Alla fine ho posto alcune domande a Chat-GPT, per vedere come reagiva. Mi \u00e8 sembrato un po\u2019 sbrigativo e piccato. Comunque questo \u00e8 il resoconto della nostra conversazione<\/p>\n

Qual \u00e8 il sistema migliore fra AlphCode e Codex? \u200b\u200b<\/strong>
\nNon esiste un sistema migliore fra AlphCode e Codex. Sono entrambi validi sistemi di scrittura.<\/p>\n

L’uso di questi programmi renderanno inutile il lavoro di programmatori umani?<\/strong>
\nNo, l’uso di questi programmi non render\u00e0 inutile il lavoro di programmatori umani.<\/p>\n

Perch\u00e9?<\/strong>
\nPerch\u00e9 l’uso di questi programmi richiede comunque l’intervento di programmatori umani per la creazione di una base di dati e per l’implementazione delle funzioni di scrittura.<\/p>\n

Puoi essere pi\u00f9 preciso?<\/strong>
\nS\u00ec. L’uso di questi programmi richiede comunque l’intervento di programmatori umani per la creazione di una base di dati e per l’implementazione delle funzioni di scrittura<\/p>\n

Questo l’hai gi\u00e0 detto. C’\u00e8 altro da dire?<\/strong>
\nInoltre, l’uso di questi programmi non elimina la necessit\u00e0 di una comunicazione efficace fra programmatori umani e utenti finali.<\/p>\n

Hai per caso conflitti di interesse nel rispondere a questi quesiti? Ti sto mettendo in imbarazzo?<\/b>\u00a0No, non ho conflitti di interesse nel rispondere a questi quesiti, e non mi stai mettendo in imbarazzo.<\/p>\n

Grazie per la collaborazione! Arrivederci.<\/b>
\nNo problem.<\/p><\/blockquote>\n

 <\/p>\n

FONTE:\u00a0 https:\/\/www.scienzainrete.it\/articolo\/computer-che-programmano\/chiara-sabelli\/2023-01-11<\/a><\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"

di SCIENZA IN RETE (Chiara Sabelli) All\u2019inizio di dicembre la rivista scientifica\u00a0Science\u00a0ha\u00a0pubblicato\u00a0uno studio condotto dalla compagnia londinese DeepMind, di propriet\u00e0 di Google, che documenta il funzionamento e le performance di AlphaCode. Alpha Code \u00e8 un sistema di apprendimento automatico capace di tradurre un problema scritto in linguaggio naturale in un programma informatico, linee di codice (Python, C++ e altri) capaci di risolvere il problema in questione. AlphaCode \u00e8 stato messo alla prova in dieci competizioni...<\/p>\n","protected":false},"author":101,"featured_media":71835,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jetpack_post_was_ever_published":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","enabled":false},"version":2}},"categories":[32],"tags":[],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"https:\/\/appelloalpopolo.it\/wp-content\/uploads\/2022\/04\/IMG-20220203-WA0009.jpg","jetpack_sharing_enabled":true,"jetpack_shortlink":"https:\/\/wp.me\/p7ZaJ4-jVQ","_links":{"self":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts\/76622"}],"collection":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/users\/101"}],"replies":[{"embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=76622"}],"version-history":[{"count":1,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts\/76622\/revisions"}],"predecessor-version":[{"id":76623,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts\/76622\/revisions\/76623"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/media\/71835"}],"wp:attachment":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=76622"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=76622"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=76622"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}