{"id":2167,"date":"2023-03-26T07:56:29","date_gmt":"2023-03-26T05:56:29","guid":{"rendered":"http:\/\/www.quintadicopertina.com\/fabriziovenerandi\/?p=2167"},"modified":"2023-03-27T09:25:27","modified_gmt":"2023-03-27T07:25:27","slug":"come-funziona-chatgtp","status":"publish","type":"post","link":"https:\/\/www.quintadicopertina.com\/fabriziovenerandi\/?p=2167","title":{"rendered":"Come funziona chatgpt?"},"content":{"rendered":"<p>Ora che l&#8217;ho finito di leggere posso consigliare <a href=\"https:\/\/writings.stephenwolfram.com\/2023\/02\/what-is-chatgpt-doing-and-why-does-it-work\/\">l&#8217;articolo<\/a> di Wolfram che primogenito mi aveva linkato qualche settimana fa.<br \/>\nNel frattempo le cose sono andate avanti, \u00e8 uscito gpt4 ed \u00e8 uscito un plugin che interfaccia gpt con il Wolfram Language, con  possibilit\u00e0 di analisi dati <a href=\"https:\/\/writings.stephenwolfram.com\/2023\/03\/chatgpt-gets-its-wolfram-superpowers\/\">piuttosto impressionanti<\/a>.<\/p>\n<p>L&#8217;articolo di Wolfram \u00e8 in realt\u00e0 una vera e propria introduzione al meccanismo dell&#8217;intelligenza artificiale, io l&#8217;ho scaricato in ePub sul mio ebook reader (grazie a EinkBro) e letta con cura annotandola, ma vedo che anche Wolfram ha messo in stampa un libro di carta per chi fosse ancora affettivamente legato a questo tipo di media.<\/p>\n<p>Il pezzo di Wolfram parte spiegando come funziona chatgpt e parte da un esempio piuttosto semplice (che avevo gi\u00e0 trovato in un ebook che parlava di crittografia e comunicazione tempo fa).<br \/>\nOvvero, se io volessi generare un testo con parole sensate e creassi un algoritmo che spara caratteri casuali, non funzionerebbe. Verrebbero fuori cose come asfhdkjfhai(f\u00e0(&#8220;fiuhifuhdkjasd hdfahf\u00e0qy(\u00e0\u00a3fy\u00e0pye jhfdfh f\u00e0rf\u00e0\u00a3yf\u00e0\u00a3y\u00e0f\u00a3y\u00e0\u00a3yfi\u00e7\u00e0\u00e8\u00e9&#8221;u\u00e7fjsadkc;oq\u00ec che non somigliano a nessuna lingua conosciuta (anzi verrebbero ancora pi\u00f9 casuali perch\u00e9 ora sto battendo a caso sulla tastiera, la quale ha per\u00f2 una disposizione di tasti che ne vincola la casualit\u00e0).<\/p>\n<p>Quello che si pu\u00f2 fare per\u00f2 \u00e8 analizzare campioni di parole per capire, data una determinata lettera, quale sono le possibili lettere che possono esserci dopo in una determinata lingua. Ad esempio, ad una &#8220;u&#8221; difficilmente, in italiano, potr\u00e0 seguire un&#8217;altra &#8220;u&#8221; o a una &#8220;g&#8221; seguire una &#8220;k&#8221;.<br \/>\nCi sono lettere che quindi hanno possibilit\u00e0 di essere una prosecuzione possibile di una lettera che le precede e altre no. In questo modo, e forzando anche la distribuzione della lunghezza delle parole, si possono ottenere &#8220;parole&#8221; che non hanno senso, ma sono meno casuali delle precedenti.<\/p>\n<blockquote><p>ni hilwhuei kjtn isjd arogofnr n rwhwfao [eccetera, l&#8217;esempio \u00e8 preso dall&#8217;articolo di Wolfram, quindi riferito alla lingua inglese, come il seguente]\n<\/p><\/blockquote>\n<p>La potenza di calcolo ci permette di andare oltre e di non lavorare sulla singola lettera, ma su pi\u00f9 lettere, ad esempio due. A questo punto iniziamo ad avere risposte che sono pi\u00f9 simili alla lingua anlizzata: <\/p>\n<blockquote><p>on inguman men ise forerenoft weat iofobato [eccetera]\n<\/p><\/blockquote>\n<p>Pi\u00f9 aumenta il gruppo di lettere che analizziamo in entrata (andando oltre la singola lettera, ma anche oltre il gruppo di due) pi\u00f9 i risultati si avvicineranno alla lingua naturale: <\/p>\n<blockquote><p>stud made yello adenced through theirs from cent [eccetera, questa con un gruppo di quattro]\n<\/p><\/blockquote>\n<p>Ecco, chatgpt opera pi\u00f9 o meno in questo modo,  non sulle singole lettere, ma sulle parole. Se le lettere sono qualche decina, le parole pi\u00f9 utilizzate in inglese sono quarantamila. Dando in pasto a chatgpt un numero abbastanza ampio di campioni lui pu\u00f2 stimare quanto sia comune la possibile successione di una parola, e generare quindi frasi in cui la sintassi inglese sia pi\u00f9 o meno rispettata.<\/p>\n<p>Ovviamente questo non basta, se si fermasse qua chatgpt genererebbe frasi formalmente corrette, ma senza senso. Il passo successivo \u00e8 aumentare il &#8220;gruppo&#8221; di parole prese in esame, come si era fatto per le singole lettere. Pi\u00f9 \u00e8 ampio il gruppo preso in esame, pi\u00f9 posso imparare quale \u00e8 la parola che statisticamente seguirebbe quel n-gruppo di parole che sto esaminando.<br \/>\nE qui c&#8217;\u00e8 la prima cosa simpatica dell&#8217;articolo di Wolfram: chatgpt non pu\u00f2 operare cos\u00ec. Per avere una statistica di questo tipo l&#8217;umanit\u00e0 non ha generato abbastanza campioni di scrittura. <\/p>\n<p>Non abbiamo scritto abbastanza.<\/p>\n<p>Nel web, dice Wolfram, ci saranno poche centinaia di miliardi di parole, a cui possiamo aggiungere tutte le parole di tutti i libri digitalizzati, che saranno un altro centinaio di miliardi di parole. Ma se partiamo dalle parole pi\u00f9 in uso in inglese, che abbiamo detto essere 40.000, il numero di parole necessarie per un n-gruppo di 2 \u00e8 un miliardo e sei. E se provassimo ad analizzare un campione di tre parole, il campione di cui avremmo bisogno \u00e8 di sessantamila miliardi di parole.<\/p>\n<p>Non ce le abbiamo, l&#8217;uomo non ha scritto cos\u00ec tanto. Se prendessimo in esame un gruppo di venti parole, dice Wolfram, il numero di possibilit\u00e0 sarebbe maggiore del numero delle particelle presenti nell&#8217;universo.<\/p>\n<p>E allora come fare? <\/p>\n<p>Investire in Venerandi. Se Venerandi fosse invogliato a scrivere abbastanza per il resto della sua vita, post come questi, romanzi, liste della spesa, cazzate, ricordi del suo passato e ombre del suo futuro, ecco, i trilioni di parole si potrebbero fare in davvero poco tempo, quindi investite in Venerandi e nella sua scrittura.<\/p>\n<p>Curiosamente Chatgpt non si \u00e8 mossa in questa direzione, ha trovato una soluzione pi\u00f9 pratica che potrete leggere nell&#8217;articolo perch\u00e9 io ho esaurito le parole a quest&#8217;ora del mattino. Buona lettura!<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Ora che l&#8217;ho finito di leggere posso consigliare l&#8217;articolo di Wolfram che primogenito mi aveva linkato qualche settimana fa. Nel frattempo le cose sono andate avanti, \u00e8 uscito gpt4 ed \u00e8 uscito un plugin che interfaccia gpt con il Wolfram Language, con possibilit\u00e0 di analisi dati piuttosto impressionanti. L&#8217;articolo di Wolfram \u00e8 in realt\u00e0 una [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[34],"tags":[],"class_list":["post-2167","post","type-post","status-publish","format-standard","hentry","category-chatgpt"],"_links":{"self":[{"href":"https:\/\/www.quintadicopertina.com\/fabriziovenerandi\/index.php?rest_route=\/wp\/v2\/posts\/2167","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.quintadicopertina.com\/fabriziovenerandi\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.quintadicopertina.com\/fabriziovenerandi\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.quintadicopertina.com\/fabriziovenerandi\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.quintadicopertina.com\/fabriziovenerandi\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=2167"}],"version-history":[{"count":6,"href":"https:\/\/www.quintadicopertina.com\/fabriziovenerandi\/index.php?rest_route=\/wp\/v2\/posts\/2167\/revisions"}],"predecessor-version":[{"id":2174,"href":"https:\/\/www.quintadicopertina.com\/fabriziovenerandi\/index.php?rest_route=\/wp\/v2\/posts\/2167\/revisions\/2174"}],"wp:attachment":[{"href":"https:\/\/www.quintadicopertina.com\/fabriziovenerandi\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=2167"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.quintadicopertina.com\/fabriziovenerandi\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=2167"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.quintadicopertina.com\/fabriziovenerandi\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=2167"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}