{"id":89753,"date":"2025-04-07T09:30:57","date_gmt":"2025-04-07T07:30:57","guid":{"rendered":"https:\/\/appelloalpopolo.it\/?p=89753"},"modified":"2025-04-06T20:54:43","modified_gmt":"2025-04-06T18:54:43","slug":"rischi-energia-etica-e-noia-lesperto-su-deepseek-il-vero-progresso-e-la-capacita-di-ragionare-in-fase-di-training","status":"publish","type":"post","link":"https:\/\/appelloalpopolo.it\/?p=89753","title":{"rendered":"Rischi, energia, etica e noia. L\u2019esperto su DeepSeek: \u201cIl vero progresso \u00e8 la capacit\u00e0 di ragionare in fase di training\u201d"},"content":{"rendered":"

di ILFATTOQUOTIDIANO (di Alessandra Colarizi)<\/strong><\/p>\n

 <\/p>\n

\n
Emanuele Rodol\u00e0, professore ordinario di Informatica alla Sapienza Universit\u00e0 di Roma: “Le macchine non hanno volont\u00e0 n\u00e9 intenzioni. Sono strumenti. Il vero rischio non \u00e8 una ribellione fantascientifica, ma un utilizzo senza controllo”<\/div>\n<\/header>\n
\"\"<\/div>\n
<\/div>\n
\n

Ha rivoluzionato l\u2019intelligence artificiale ma potrebbe aver rubato propriet\u00e0 intellettuale. Scalzer\u00e0 le big tech americane dal mercato, anzi ne favorir\u00e0 il business. Da quando il 20 gennaio ha lanciato il suo\u00a0modello open source<\/strong>,\u00a0diventando l\u2019app gratuita pi\u00f9 scaricata sull\u2019Apple store Usa<\/a>, di\u00a0DeepSeek<\/strong>\u00a0si \u00e8 detto tutto e il contrario di tutto. La provenienza cinese della startup sembra motivare parte delle preoccupazioni: in Occidente non fa stare tranquilli, vedere le tecnologie del futuro prendere forma in un paese considerato non democratico, spesso accusato dai partner commerciali di\u00a0concorrenza sleale<\/strong>. Altri sono timori pi\u00f9 generalizzati, associabili all\u2019IA e alle sfide che comporta in termini ambientali ed etici.<\/p>\n

Per provare a fare chiarezza il Fattoquotidiano.it lo ha intervistato\u00a0Emanuele Rodol\u00e0<\/strong>, professore ordinario di Informatica alla Sapienza Universit\u00e0 di Roma, dove dirige il gruppo GLADIA di Intelligenza Artificiale. La sua ricerca, finanziata da\u00a0grant\u00a0<\/em>europei e nazionali, si concentra su modelli neurali, representation learning, ML per audio e apprendimento multimodale, con oltre 170 pubblicazioni e numerosi riconoscimenti. Ha svolto attivit\u00e0 di ricerca presso USI Lugano, TU Munich, Universit\u00e0 di Tokyo e ha trascorso periodi di visiting research presso istituzioni come Tel Aviv University, Technion, \u00c9cole Polytechnique e Stanford. Fellow di ELLIS e unico italiano nella Young Academy of Europe per l\u2019AI, \u00e8 attivo nei principali comitati scientifici del settore. Sfidiamo anche il lettore: questa intervista contiene una domanda e risposta generate dall\u2019IA. Sai identificarla? (*risposta in calce)<\/p>\n

\n
<\/div>\n<\/div>\n

L\u2019ascesa di DeepSeek sta suscitando ammirazione e preoccupazione allo stesso tempo, soprattutto dopo le accuse pubbliche di OpenAI: secondo l\u2019azienda americana, la startup cinese sarebbe ricorsa alla distillazione per addestrare l\u2019IA a basso costo. Questo in che modo implica un risparmio sulle risorse di calcolo? Quanto hanno copiato i cinesi e quanto hanno invece ottimizzato?
\n<\/b>La presunta distillazione da parte di DeepSeek per addestrare a basso costo \u00e8 una questione complessa e ancora poco chiara. OpenAI ha mosso accuse (ma senza prove pubbliche) rendendo il dibattito ipotetico. Facciamo un passo indietro. In generale, la distillazione \u00e8 una tecnica ampiamente utilizzata per trasferire conoscenza da un modello avanzato a uno pi\u00f9 leggero, riducendo costi e tempi di training. Se DeepSeek ha usato ChatGPT per generare esempi di ragionamento invece di impiegare istruttori umani, hanno risparmiato sia in manodopera che in risorse computazionali. Dal punto di vista scientifico rientra nel cosiddetto\u00a0transfer learning<\/i>, una pratica virtuosa per riutilizzare modelli esistenti. Tuttavia, se i dati di fine-tuning provengono da un modello proprietario, possono emergere problemi di propriet\u00e0 intellettuale. La questione non \u00e8 tanto se DeepSeek abbia copiato, ma se abbia violato termini d\u2019uso. Ma al di l\u00e0 della distillazione, la vera innovazione di DeepSeek \u00e8 quella di far emergere capacit\u00e0 di ragionamento avanzate gi\u00e0 in fase di training, senza forzarle artificialmente come accade in altri modelli. Questo rappresenta un progresso scientifico rilevante, indipendentemente dall\u2019eventuale uso della distillazione.<\/p>\n

\n
\u2060<\/p>\n
<\/div>\n

\u2060<\/p><\/div>\n<\/div>\n

Secondo il Ceo di Nvidia Jen-Hsun Huang, DeepSeek potrebbe rappresentare non solo un competitor per le aziende occidentali, ma anche un potenziale incentivo all\u2019acquisto dei loro prodotti. \u00c8 d\u2019accordo con questa affermazione?
\n<\/strong>S\u00ec. All\u2019inizio, il modello di DeepSeek ha messo un po\u2019 in allarme aziende come Nvidia, perch\u00e9 si temeva potesse portare a una domanda ridotta di chip per l\u2019addestramento delle reti neurali. In realt\u00e0, nonostante DeepSeek necessiti di hardware meno potente per la fase di training, il ragionamento a tempo di inferenza e la produzione di IA ad alte prestazioni continua a richiedere infrastrutture avanzate. Pi\u00f9 avanzano i modelli di IA, pi\u00f9 cresce il bisogno di potenza di calcolo. Quindi, paradossalmente, questo nuovo salto tecnologico che sposta il focus da addestramento ad inferenza potrebbe ironicamente fungere da incentivo all\u2019acquisto di chip prodotti in occidente.<\/p>\n

<\/div>\n

Entro il 2030 l\u20198% dell\u2019energia elettrica degli USA e il 5% dell\u2019Europa sar\u00e0 destinato all\u2019IA. Come pensa possa essere gestita la questione energetica?
\n<\/strong>Trovo interessante che le previsioni che citi si scontrano direttamente con gli obiettivi dello European Green Deal, che punta a migliorare drasticamente l\u2019efficienza energetica con l\u2019ambizioso traguardo di rendere l\u2019Unione Europea il primo continente climate neutral proprio entro il 2030. Quello che pi\u00f9 preoccupa \u00e8 che il consumo energetico dell\u2019IA sia destinato a crescere, perch\u00e9 il paradigma dominante oggi \u00e8 lo\u00a0scale up<\/em>: pi\u00f9 dati, pi\u00f9 parametri, pi\u00f9 potenza computazionale. Questa visione \u00e8 rafforzata dalla famosa \u201clezione amara\u201d dell\u2019IA, secondo cui molti problemi diventano pi\u00f9 facili semplicemente aumentando le risorse. \u00c8 una strategia a basso rischio per le aziende, ma insostenibile a lungo termine. Ma sappiamo che alternative pi\u00f9 efficienti stanno emergendo. DeepSeek o anche ChatGPT o1, ad esempio, adattano dinamicamente le risorse durante l\u2019inferenza, usando pi\u00f9 calcolo solo per task complessi. Questo approccio potrebbe ridurre significativamente i consumi energetici. Un\u2019altra direzione promettente \u00e8 il riuso di modelli pre-addestrati, un trend in forte crescita e di cui mi occupo in prima persona con il mio team alla Sapienza. Ci sono enormi database pubblici e open-source di reti neurali, pronti al download e alla sperimentazione, democratizzando l\u2019accesso all\u2019IA. Non so come e quando arriveremo a un buon compromesso, ma so che il futuro dell\u2019IA dovr\u00e0 bilanciare progresso e sostenibilit\u00e0.<\/p>\n

<\/div>\n

Parliamo di trasformatori. Hanno consentito in pochi anni di passare all\u2019IA generativa, che produce contenuti e dialoga in linguaggio naturale. Ci pu\u00f2 spiegare meglio come funzionano?
\n<\/strong>I transformers hanno cambiato le regole del gioco. Grazie al meccanismo di self-attention, colgono meglio il contesto e generano testi pi\u00f9 naturali. Ad esempio, se diciamo \u201cil cane ha abbaiato all\u2019orso perch\u00e9 aveva paura\u201d, il modello capisce che era il cane ad avere paura, mentre un modello tradizionale \u201cpre-transformers\u201d si sarebbe fatto facilmente ingannare. \u00c8 cos\u00ec che siamo passati da risposte rigide a modelli come ChatGPT, capaci di scrivere, tradurre e persino creare immagini. Addestrati su enormi quantit\u00e0 di dati, hanno trasformato in pochi anni il nostro modo di interagire con la tecnologia.<\/p>\n

<\/div>\n

Esiste un criterio per distinguere un\u2019intervista reale da una generata?
\n<\/strong>\u00c8 ancora un problema aperto. Esistono strumenti per calcolare la probabilit\u00e0 che un dato testo sia stato generato da un dato modello, ma basta una virgola o un sinonimo per ingannarli, rendendoli poco affidabili. Curiosamente, gli esseri umani spesso se ne accorgono. I testi generati tendono a essere troppo fluidi, strutturati in modo innaturalmente perfetto e senza quelle imperfezioni che rendono autentico il linguaggio umano. A volte usano parole insolitamente forbite o costruzioni che suonano artificiali. Nel mio campo, ad esempio, i testi tecnici generati dall\u2019IA risultano leggibilissimi ma spesso privi di significato, mentre quelli umani hanno pi\u00f9 variazioni nel ritmo e vanno dritti al punto. \u00c8 proprio questo tocco spontaneo che resta difficile da imitare.<\/p>\n

<\/div>\n

Qual \u00e8 il suo parere sugli aspetti etici nell\u2019IA?
\n<\/strong>L\u2019etica nell\u2019IA \u00e8 un tema complesso, perch\u00e9 non esiste un\u2019unica definizione di ci\u00f2 che \u00e8 etico: i principi etici variano da cultura a cultura e cambiano nel tempo. Ci\u00f2 che oggi viene considerato accettabile potrebbe non esserlo in futuro, e viceversa. Quello che posso dire con certezza \u00e8 che la comunit\u00e0 scientifica \u00e8 sempre pi\u00f9 attenta a questi aspetti. Oggi, nelle principali conferenze di settore \u00e8 obbligatorio includere una sezione sugli aspetti etici di ogni ricerca pubblicata. I finanziamenti impongono valutazioni sull\u2019impatto etico dei progetti. Esiste anche un\u2019intera area di studio, il cosiddetto\u00a0alignment<\/em>, che si occupa tra le altre cose di allineare l\u2019IA a principi condivisi. Ricorda per\u00f2 che spesso l\u2019IA stessa \u00e8 una vittima, per cos\u00ec dire. Un modello pu\u00f2 essere censurato per ambiguit\u00e0 terminologiche (ad esempio, la \u201cdecomposizione atomica\u201d o la \u201cnorma nucleare\u201d, che sono concetti puramente matematici e non hanno nulla a che vedere con l\u2019energia nucleare), compromettendo la loro capacit\u00e0 di ragionamento. \u00c8 come strappare pagine da un libro, rendendone incomprensibile il contenuto. La vera sfida \u00e8 sviluppare un\u2019IA \u201callineata\u201d, ma senza soffocare l\u2019innovazione.<\/p>\n

<\/div>\n

\u00c8 fondato il timore che l\u2019IA possa un giorno prendere il sopravvento sull\u2019uomo?
\n<\/strong>Le macchine non hanno volont\u00e0, n\u00e9 intenzioni. Sono strumenti. Il vero rischio non \u00e8 una ribellione fantascientifica, ma un utilizzo senza controllo e senza considerare le
\nimplicazioni sociali o etiche. E questo vale per qualsiasi tecnologia. La buona notizia \u00e8 che oggi c\u2019\u00e8 molta pi\u00f9 consapevolezza rispetto al passato. La regolamentazione \u00e8 particolarmente vivace, la ricerca sull\u2019alignment [il processo che mira a declinare i valori e gli obiettivi tipici dell\u2019uomo in modelli linguistici di grandi dimensioni (LLM), in modo da renderli il pi\u00f9 possibile utili, sicuri e affidabili per gli esseri umani, ndr] \u00e8 in crescita e il dibattito \u00e8 acceso. Le sfide non mancano, ma l\u2019IA non sta crescendo in un vuoto etico. Pi\u00f9 che temere un futuro distopico, dovremmo concentrarci su come usarla per migliorare la nostra vita, in quanto pu\u00f2 essere una delle innovazioni pi\u00f9 trasformative e benefiche della storia.<\/p>\n

<\/div>\n

L\u2019IA sta avanzando a una velocit\u00e0 impressionante. C\u2019\u00e8 un aspetto poco discusso,\u00a0<\/strong>ma fondamentale, che secondo lei non stiamo considerando abbastanza?<\/strong>
\nAssolutamente s\u00ec, e riguarda qualcosa di controintuitivo: la noia dell\u2019IA. Siamo abituati a pensare ai modelli generativi come entit\u00e0 che rispondono sempre con entusiasmo e creativit\u00e0, ma un problema emergente \u00e8 che, se addestrati male, finiscono per diventare\u2026 annoiati. In gergo tecnico, si chiama mode\u00a0collapse<\/em>: invece di generare
\nrisposte diverse e sfumate, iniziano a ripetere le stesse frasi, a usare schemi prevedibili e a perdere variet\u00e0 nei ragionamenti. Questo accade perch\u00e9, nell\u2019ottimizzare troppo la coerenza e l\u2019efficienza, si rischia di eliminare l\u2019imprevedibilit\u00e0 che rende un\u2019IA interessante e utile. La sfida ora \u00e8 progettare IA che non solo siano accurate, ma che mantengano un certo grado di \u201cdivergenza creativa\u201d, senza scadere in risposte troppo stereotipate. \u00c8 un tema di cui si parla poco, ma chi lavora nel settore lo vede gi\u00e0 come una delle prossime grandi frontiere. Se non affrontato bene, potremmo ritrovarci con IA che sembrano brillanti all\u2019inizio, ma che col tempo diventano sempre pi\u00f9 prevedibili e piatte.<\/p>\n

* \u02d9\u0250\u1d09ou \u0250llns \u0250pu\u0250\u026fop \u0250l :\u0250\u0287sods\u1d09\u0279<\/p>\n<\/div>\n

 <\/p>\n

FONTE:<\/strong>\u00a0https:\/\/www.ilfattoquotidiano.it\/2025\/04\/06\/rischi-energia-etica-e-noia-lesperto-su-deepseek-il-vero-progresso-e-la-capacita-di-ragionare-in-fase-di-training\/7909726\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

di ILFATTOQUOTIDIANO (di Alessandra Colarizi)   Emanuele Rodol\u00e0, professore ordinario di Informatica alla Sapienza Universit\u00e0 di Roma: “Le macchine non hanno volont\u00e0 n\u00e9 intenzioni. Sono strumenti. Il vero rischio non \u00e8 una ribellione fantascientifica, ma un utilizzo senza controllo” Ha rivoluzionato l\u2019intelligence artificiale ma potrebbe aver rubato propriet\u00e0 intellettuale. Scalzer\u00e0 le big tech americane dal mercato, anzi ne favorir\u00e0 il business. Da quando il 20 gennaio ha lanciato il suo\u00a0modello open source,\u00a0diventando l\u2019app gratuita pi\u00f9...<\/p>\n","protected":false},"author":99,"featured_media":40095,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jetpack_post_was_ever_published":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","enabled":false},"version":2}},"categories":[32],"tags":[],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"https:\/\/appelloalpopolo.it\/wp-content\/uploads\/2018\/03\/fatto-quotidiano.png","jetpack_sharing_enabled":true,"jetpack_shortlink":"https:\/\/wp.me\/p7ZaJ4-nlD","_links":{"self":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts\/89753"}],"collection":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/users\/99"}],"replies":[{"embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=89753"}],"version-history":[{"count":1,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts\/89753\/revisions"}],"predecessor-version":[{"id":89754,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/posts\/89753\/revisions\/89754"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=\/wp\/v2\/media\/40095"}],"wp:attachment":[{"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=89753"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=89753"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/appelloalpopolo.it\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=89753"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}