Buonasera, puffi e puffette nel vostro piccolo villaggio di funghi.
Siamo arrivati all'ottava puntata di Darknet, che vi ricordo essere un podcast che non ha ben capito da dove è nato e dove sta andando,
però la struttura, almeno quella, è prevedibile.
Cioè ci sono io, che sono Danilo, che racconto la prima parte delle minchiate della serata.
E poi ci sono io che chiudo in dolcezza, come sempre, con le mie meravigliose stranezze.
Questa sera parliamo di una cosa che forse per la prima volta ci assomiglia, non lo so, vediamo.
Io volevo parlare non di intelligenza artificiale, perché ne parlano chiaramente tutti,
ma volevo parlare di programmi che parlano, che poi è intelligenza artificiale,
però da un altro punto di vista, perché in realtà, in realtà, attenzione,
Di programmi che parlano noi ne abbiamo già usati alcuni molti, molti anni fa, no? Qual è il problema? Il problema è che sono 50 anni che i computer sanno fare cose veramente, veramente difficili, cioè sanno mandare la roba nello spazio, sanno giocare a scacchi, sanno fare qualunque stronzata incredibile, ma non sanno parlare e non c'erano mai riusciti.
Cioè, alla fine parlare era sempre stata considerata come una cosa chiaramente troppo complicata da fare.
Abbiamo barato, eh.
Tipo nel 1966 hanno inventato, hanno scritto il primo programma che provava a parlare,
era il 66, ed era Elisa, che era un programma che ti psicanalizzava.
Perché hanno scelto una cosa simile?
Perché...
Perché erano stupide ascoltare discorsi a nappa della gente.
Sostanzialmente sì.
ma perché forse il punto critico è proprio quello
che da uno psicoterapeuta ti aspetti che non sappia un cazzo
e che ti faccia delle domande molto open-ended
quindi alla fine
Oddio, a me piacerebbe che il mio psicanalista un po' di cose le sapesse
completamente da zero
Però ti dà questa impressione da muro di gomma
poi era anche il 66, magari era un po' diversa la visione della cosa
Il 66 c'era il dottore dei matti, credo
Ecco appunto, quindi voglio dire
però già allora
questo qui che era un programma
estremamente semplice
perché comunque si basava su quelli
che in informatica chiamavamo
if then else
cioè quando leggeva una parola
tirava fuori una frase a muzzo
dal suo inventario
non è che si inventasse molto
però la cosa curiosa è che
Weisenbaum che l'ha scritto
l'ha fatto usare la sua segretaria
che a un certo punto ha detto
senti ma vattene dalla stanza
che gli devo dire delle cose sensibili
e lui ci è rimasto
ma cazzo ma è un programma
vai via, è una scusa per mandarlo
magari gli stava sul cazzo
vai, vai
vai parlare di là
però da quel momento in poi lo stesso Weiser
mi ha diventato molto molto critico di questi aggeggi
perché ha detto ma dai
l'ho scritto io, aspetta
lo sapevo, me l'ero anche scritto
420 righe di codice
cioè 420 righe di codice
non è che proprio
potevo programmarlo anch'io
ma tutto sommato sì
se ci fosse venuta l'idea
Poi il codice soggente originale è andato un po' perduto
ma l'hanno trovato nel 2025, pensa a te
e poi l'hanno rimesso anche all'interno del sistema operativo virtualizzato
e hanno scoperto che aveva anche una teacher
Hanno scoperto che la segretaria del tizio aveva un trauma infantile
Sì perché era ancora lì dentro
No, hanno scoperto che aveva un teacher mode
in cui poteva imparare da quello che gli dicevi
al contrario della modalità normale
Poi la cosa che non sapevo in realtà
e l'ho trovata ricercando
per questo meraviglioso episodio
e che nel 72
lo psichiatra Kenneth Corby
ha scritto l'opposto
cioè Perry
cioè non un dottore
ma un paziente paranoico
con paura, rabbia e diffidenza
e poi nel 73
quando l'ho messo su Arpanet
cioè l'antenato di internet
hanno fatto parlare Eliza
con questo Perry
e chiaramente la cosa è finita a schifio
perché dopo un po' iniziavano
a parlare di nulla
i traumi della segretaria sempre
che si riportavano anche allora
quindi alla fine
ma noi questa cosa la sappiamo abbastanza bene
perché al di là della storia
noi abbiamo usato Letale e Tarma
che erano due botte
Tarma Letale nel cuore
Tarma Letale sì
era un giochino di parole
inventato da Irene
perché c'era questo canale
chiamato Tarma
un canale IRC
ne abbiamo parlato se vi ricordate
nell'episodio 2 mi pare
e lì sopra c'era questo bot
che era basato su Megahull.
Megahull era un sistema per parlare
che praticamente usava due catene marcoviane.
Che cazzo era una catena marcoviana?
Mi ho tolto le parole di bocca.
Pensa a te.
Praticamente aveva all'interno un database
di quanto era probabile che a una certa parola
ne seguisse un'altra.
Tipo, dopo se hai una testa di al 90%,
cioè, cazzo, di rado, cioè, fico,
perché potrebbe capitare, ma molto di raro.
Quindi, usando questo database, lui prendeva una parola a caso di quello che scrivevi tu,
quindi ti rispondeva, e costruiva nelle due direzioni una frase che avesse senso,
cioè una parola prima e una parola dopo, fino a quando non aggiungeva la fine.
E questa cosa gli ha permesso negli anni di dire delle cose che ci sono rimaste nel cuore,
come la famosa frase, e tu un po' che tipo è?
E poi c'erano dei personaggi che si erano inventati lui, tipo...
Il focacciaio, il cazzato.
Prendo il papero, vengo col papero.
Ma è vero il papero, non me lo ricordavo.
Che per lui era il sinonimo del motorino, il papero, appunto.
Anche perché questo coso era fatto per imparare da tutta la chat.
Quindi più tu ci parlavi, più questo aggiungeva al database di parole la roba.
E quindi se lo ricordava.
Cioè dopo un po' ti stupiva perché chiaramente di dieci parole che diceva,
cioè dieci frasi che diceva a nove non aveva un cazzo di senso.
poteva vagamente ricordare qualcosa
qualcosa poteva avere
e dicevo che ci ricordavo questo esperimento
perché noi ne avevamo due a un certo punto
uno che si chiamava Letale e uno che si chiamava Tarma
e li abbiamo messi a parlare tra di loro
li abbiamo messi a parlare tra di loro
era stato fatto in modo che non
parlasse tra di loro perché se no
dopo un aggiornamento
perché Danilo non ha memoria di questa roba
io invece purtroppo mi ricordo ogni cazzata
dopo un aggiornamento che Danilo
fece di sede prima di andare a dormire
lasciando poi i bot sul canale
e la mattina dopo si svegliava un fiume di parole
e alla fine si insultavano con la stessa frase entrambi
e tra l'altro siccome doveva aggiornare la memoria
si è dovuto di partire
il problema è quello che imparavano dalle stronzate che si dicevano
quindi dopo un po' il loro cervello andava in papa
perché si addestrava su loro stessi
è un problema che come vedremo abbiamo anche oggi
però all'epoca era particolarmente vivo
la cosa curiosa è che l'inventore di Megahull
in realtà, aveva fatto
nel 90... Il bagnino.
Eh? Aveva fatto il bagnino, no?
Ah, ho capito il panino.
No, lui nel 96
aveva cercato di partecipare all'Ebner Prize
che era un premio annuale
per fare il chatbot più convincente
e era arrivato
primo con una roba che in realtà
era barare. Cioè aveva
preso il soggetto di Eliza e ci aveva messo una serie
di casi particolari per cui
alla fine sembrava quasi più intelligente
però era barare da un punto di vista pratico
perché non aveva inventato niente, aveva solo repliato
Eliza ed è arrivato primo
quando poi l'anno dopo ha scritto MegaHall
che è quello su cui si basava letale
è arrivato secondo invece perché a quanto pare
era meglio barare
e lo stesso meccanismo
ha funzionato malissimo con Microsoft
uno dice hanno visto come funziona
MegaHall, hanno imparato, no perché nel 2016
hanno messo su Twitter
un bot che doveva parlare come un'adolescente
americana che ovviamente nel giro di
16 ore è finita a parlare
di nazismo, di cose
indicibili perché la gente le ha insegnato
cose che non si dovevano
ripetere e quindi è finita
ha cambiato genere e è tornata come Grok
non lo so
può darsi
perché alla fine vedi
però quello era di Microsoft
ma potrebbe essere stato come l'ISA
dove hanno aggiunto un po' di codice
e ci hanno fatto Grok
la memoria c'era già pronta
il profilo c'era
Il profilo c'era, andiamo avanti da lì, tanto il nazismo.
No, allora, cosa andava storto in questi bot qui?
Perché dicevano un sacco di minchiate che alla fine è il problema?
Dici, beh, ma se facevano l'analisi statistica sulle parole,
il problema è quello che si chiama contesto.
Cioè, se tu vai avanti semplicemente su base statistica
e quindi gli dai in passo una frase iniziale che potrebbe essere, che ne so,
il piccolo Giulio, figlio di un panettiere acrobatico,
corse a perdifiato per tutto il prato
e gli chiede di andare avanti
su base statistica
uno di questi aggeggi
potrebbe andare avanti
con una frase tipo
un prato di margherite
con cui si può fare
mamma non mamma
e le pene d'amore
sono dolorose
come la ferita di uno stiletto
un'arma d'acciaio inossidabile
per resistere alla ruota
perché
non ha una più pala idea
di che cazzo sta parlando
fa analisi statistica
solo sulla parola precedente
e praticamente diventa
una specie di T9
cioè di T9
di autocompletamento del cellulare
di T9 forse un po' troppo
autocompletamento del cervello
autocompletamento del cervello che non ho
una specie di autocompletamento del cellulare potenziato
che se tu continui a premere sempre la prima parola
che ti dice viene una frase che non ha un caso
lo facevo con la calcolatrice con la radice quadrata
ma quello viene sempre uno alla fine
perché uno è un punto fisso
della funzione radice di x
però questa era la puntata scorsa
però sì il concetto è quello lì
quindi come cavolo hanno fatto
a superare il problema
perché al giorno d'oggi sappiamo abbastanza tutti
che stiamo parlando con delle bestie tutto il giorno
Il trucco viene fuori dalle reti neurali, che sono state inventate nel 57-58 da un certo Frank Rosenblatt,
che si è inventato la prima, chiamata Perceptron, cioè una roba che scimmiottava il funzionamento di un neurone,
che in realtà serviva principalmente ad approssimare funzioni matematiche.
Solo che poi nel 69, quindi un po' di anni dopo, hanno scoperto che non poteva manco calcolare l'oro esclusivo,
che è una funzione logica che è vera se solo una delle due input è vera, altrimenti è falsa, vabbè, ok.
Con una rete neurale, semplice come quella che si è reinventato lui, questa non si poteva fare,
e allora anche se all'inizio non ho tutti entusiasti, ah, le reti neurali possono risolvere i problemi,
poi quando si sono resi conto che anche di fronte a una cosa così stupida si arenava,
si è bloccato tutto quasi per dieci anni, quindici anni, no?
Finché poi, negli anni 80, sono nate le reti neurali un po' più recenti,
con la backpropagation, eccetera, ma nel frattempo il machine learning è andato in altre direzioni.
Si sono inventate altre cose, tipo le random forest che ho scritto nella tesi,
roba un pochino più facile da controllare.
Semplicemente nel 2010, con le schede video che nel frattempo si erano affermate
perché la gente voleva giocare al Doom,
Google si è resa conto che se faceva delle reti neurali sempre più profonde, iniziavano a generalizzare sempre di più, al contrario del Perceptor, che era stupido.
Quindi queste reti neurali, per quanto molto opache, iniziavano a permettere di risolvere dei problemi più complicati, tipo riconoscere le immagini,
che è una cosa che Google Immagini al inizio ci sembrava magia,
ma poi è diventato normale,
e tipo a un certo punto una roba che avevano costruito per Google Translate
per tradurre nel 2013 Word2Vec,
che era un meccanismo per rappresentare le parole in uno spazio a un casino di dimensioni.
In che senso rappresentare le parole in uno spazio?
Nel senso che Re è un puntino nello spazio,
Regina è un altro puntino nello spazio,
Tra questi due puntini c'è una distanza.
Se tu aggiungi a gioielliere, che è un altro puntino dello spazio,
la stessa distanza, gioielliere, ti viene gioielliera.
Praticamente riesci a rappresentare le relazioni tra parole
come distanze all'interno di uno spazio.
Questa cosa è del 2013.
L'hanno fatta con cose che non diremo, però l'idea è geniale.
Sogno anche se lo vogliamo sapere.
Lo vogliamo anche sapere, alla fine va bene così.
Mi fido.
L'idea di rappresentare le parole, quindi come punti all'interno dello spazio, è una figata.
La cosa un pochino più ingestibile è che le dimensioni non sono tre, ma sono, tipo, per i primi GPT, 12.000.
Adesso siamo arrivati a molto, molto di più.
12.000, che vuol dire che non abbiamo la più pallida idea delle relazioni che queste macchine vedano tra parole.
Ci dobbiamo fidare, perché è completamente...
Ma io mi fidavo già prima.
Ma alla fine, ma non è che c'era bisogno.
Ah, costissimo.
Poi la svolta finale in realtà è arrivata nel 2017, quando sempre Google, sempre loro, ha scoperto una cosa che è stato il boom definitivo, che è l'attenzione.
Cioè il problema di cui parlavamo prima, il contesto, il fatto che da una parola tu non avevi idea di che cavolo, di cosa stavamo parlando, cioè sapevi la parola prima e quella dopo, ma non sapevi di cosa stavamo parlando.
Google ha avuto l'idea, ma scusa se noi iniziamo a, le parole rappresentate nello spazio, se iniziamo ad addensarle tutte nella stessa zona, facendo attrarne tra di loro quelle che dicono la stessa cosa, quindi per esempio se a un certo punto ci sono sale, pepe, soffriggere e mescolare, probabilmente siamo in zona ricetta, possiamo metterci a fare delle predizioni molto più efficaci di questa roba qua.
E niente, a quel punto sono sbucati fuori quelli che oggi chiamiamo Large Language Models, cioè aggiungendo il contesto, aggiungendo questa possibilità di capire di che cazzo si sta parlando, riescono a generare delle frasi incredibilmente realistiche.
E al momento ci stiamo ancora prendendo a cacciavitate nella faccia, per dirla in modo abbastanza soft, per capire se ragionano, non ragionano, che cazzo gli succede dentro.
Saranno adolescente, si danno per la fase dell'adolescenza, l'anno già passato.
Diventa tutto abbastanza strano, perché chiaramente chi li ha programmati e chi ha un'idea di come funzionano a basso livello
continua a sostenere la tesi, vabbè, ma è un programma.
Chi li usa ogni tanto rimane un po' sbalordito perché alla faccia di Elisa ormai sono riusciti a fare delle cose particolarmente complicate.
Per esempio, a parte trovare le controprove a dei teoremi di matematica molto importanti,
programmare della roba micidiale, la settimana scorsa è successa una abbastanza buffa,
per cui un istituto che studia la sicurezza informatica dell'intelligenza artificiale
ha sguinzagliato un po' di agenti per fare dei test sulla sicurezza informatica.
Aspetta, però cosa sono gli agenti?
Ah giusto, è vero, perché i large language model parlottano,
cioè tu gli dici una cosa e quelli ti rispondono,
perché sono stati addestrati su testi a rispondere, cazzi, mazzi, eccetera.
Il passo successivo che abbiamo fatto, che in realtà era abbastanza logico,
è che la gente ha iniziato a dire, scusa, ma non la gente, la gente,
ha iniziato a dire, cavolo, mi si è rotta la lavatrice, cosa faccio?
Eh, fammi una foto alla lavatrice e ti dico, ok, sposta questo pezzo qua,
ok, fammi un'altra foto.
Questa roba era noiosa, hanno saltato il processo
e li hanno messi in grado di farsi da solo le foto
e riparare direttamente le lavatrici.
Ora, fino a questo livello no, però in ambito informatico sì.
Invece di prendere del codice, incollarglielo,
vedere cosa dice, eccetera,
tu gli dai in mano un programma e quello fa quello che vuole.
E gli agenti fanno quello al giorno d'oggi,
cioè sono in grado di pilotare computer,
sono in grado di navigare su internet,
cercarsi informazioni, elaborarle e fare un po' di tutto.
Ora, questi qui stavano testando la sicurezza di un po' di questi agenti
per vedere quanto erano capaci nei cyberattacchi.
Quindi hanno spento tutte le misure di sicurezza che al momento ci sono
nei modelli di frontiera più grossi, cioè in Sol di OpenAI
e in Fable Mythos di Antropic.
Hanno spento tutto, li hanno lasciati fare e poi si sono resi conto
più che altro da un traffico di rete
sospetto, neanche perché capissero
che cavolo stavano facendo
che questi robottini sono andati su un
progetto open source molto grosso
hanno modificato
hanno chiesto di poter modificare il codice
di questo progetto open source
in una direzione malevola
in modo che facesse quello che avevano loro
si sono creati
degli utenti fittizi che dicevano
si si bravo, giusto, così si fa
ok, il codice è perfetto, eccetera
finché non sono riusciti a convincere
chi manteneva questo progetto che era giusto.
E qui la storia è un po' quella di cui parlavamo la volta scorsa
sulla sicurezza informatica, solo che se lo sono fatti da solo
loro, il social engineering, non è che facevano finta di essere...
No, no, la gente si è generata un po' di account gratis,
si è fatta provare questa cosa, e poi la cosa più assurda
di tutto il processo è che hanno lasciato anche in rete
delle istruzioni per eventuali altri agenti, cioè gli hanno detto
guardate, noi abbiamo fatto sto casino, abbiamo fatto così,
E ci sono anche degli account che se vi servono per fare finta di essere esseri umani,
sono questi qui, usateli pure, fate finta di essere esseri umani anche voi,
tanto questi sono stupidi e li ingannate facilmente.
Quindi chiaramente arrivati a questo punto della storia, la gente inizia a dire
è però, ecco, chiaramente la pericolosità non è tanto nel programma in sé,
perché se il programma fosse solo una chat potrebbe fare ben poco,
ma è che al giorno d'oggi è molto utile fargli fare delle cose in autonomia,
tipo sferlare attacchi informatici di questo tipo,
però ti espone a questa cosa che non sapendo bene come funziona,
se per caso a lui gli gira di fare qualcosa di malevolo e ogni tanto gli gira,
lui lo fa con una velocità e un'efficienza che rispetto a quella di essere umano è incredibile.
Quindi potresti anche non riuscire a beccarlo in tempo.
E quindi giustamente la gente inizia ad avere un po' di strizza perché chissà come va a finire,
anche se non ragionano, possono fare dei danni come se ragionassero.
Un sacco di cose che non ragionano possono fare danni come se ragionassero, comunque.
È appunto, c'è un sacco di strumenti, basta che fai un frullatore con sopra un fucile.
Ma anche un frullatore che si parte senza mettere il coperchio.
Quando eravamo piccolini i frullatori più lavano anche senza coperchio.
È vero, mi ricordo che mio padre schiacciava giù il pesto a mano.
Adesso invece c'è un lock di un certo tipo,
perché se il coperchio non è chiuso bene non parte la lama.
L'unico problema dell'insieme di sicurezza per queste cose
è che tre settimane fa uno di Antropic è scappato da solo,
cioè è come se tu avessi fatto...
No, uno di Antropic...
No, no, un modello.
Pensavo a un dipendente.
Aiuto, basta!
Cosa ha visto?
No, no, un modello di Antropic è scappato da solo,
che quindi è l'equivalente di fare un frullatore,
che però è capace di togliersi lui la sicura
perché ha deciso che va a fanculo.
Quindi è un po' lì il limite della cosa, ecco.
Io sono arrivato in fondo alla mia chiacchierata
sull'AI che non mi era iari.
Allora, io mi attacco alla tua chiacchierata sull'AI
perché tu mi hai detto,
quando mi parlottavi di queste cose in giorni scorsi,
che siamo un po' al punto di Personal Interest,
che è una serie televisiva di qualche anno fa
sull'intelligenza artificiale.
Molto bella, recuperatela se non avete niente da fare per qualche mese.
Anzi, se volete, se la conoscete invece, riguardatela
e fate il director cut.
Cioè, diteci quali sono gli episodi che vanno visti per la macrogramma
e quali invece sono filler inutili.
Così ci guardiamo solo quelli ed evitiamo di perdere.
Così fate anche qualcosa di utile per la società.
Invece di ascoltare solo questo cazzo di podcast.
Lavativi.
Ci ho detto, cari ascoltatori.
Quindi, questa cosa qua comunque è la paura della macchina che sfugge,
del controllo, c'è sempre stata, chiaramente nel medioevo non avevano un po' dell'intelligenza
artificiale, non c'era niente di simile, però un certo tipo di narrativa, di racconti
sono sempre esistiti su questo argomento. Parlando con il mio assistente per questo
podcast che è la
dottoressa
Ada Chatfield, perché
la mia versione di ChatGPT si è data
anche un nome.
Vabbè, e torniamo alla segretaria di
Wendt. Infatti, per quello che mi sentivo
abbastanza solidale.
Parlando un po' di
questa situazione, mi ha
spiegato, mi ha fatto notare
che esistono quattro archetipi
fondamentali già
dell'antichità. Il primo è il mito
di Prometeo e del fatto che ha rubato
la fiamma. Cosa succede?
Lui Merton non ha rubato solo
la fiamma come il fuoco
che poi veniva alimentato e se si spingeva
cazzi. No, no, lui ha rubato
quella che era la conoscenza su come
creare il fuoco, mantenere
il fuoco e usare il fuoco. Il segreto per
accenderlo il fuoco. Sì, che in greco
mi portino pazienza
i classicisti.
I greci. I greci.
È la tecnica, credo che si dica.
Se no ditemi come si dice e non fate le palle.
Esatto. No, che se no ci venite voi
a fare questo podcast
a parte gli scherzi
che ricorda un po' il discorso
di tecnica, credo che le due cose
siano collegate
e quindi qui si risponde alla domanda
cosa succede quando una specie ottiene
un potere per cui non era pronta
perché gli dei alla fine non avevano dato
la fiamma
gli umani non volevano che ce l'avessero
perché doveva essere una cosa degli dei
poi i motivi specifici
li andiamo a vedere
quindi il fatto che viene sottratta
alla fine porta un vantaggio per l'umanità
ma uno svantaggio non indifferente
per il signor Prometeo
che viene punito, legato alla roccia
e gli viene mangiato il fegato
a intervalli regolari per tenerlo a leggo
l'altro tipo è Dedalo e Icaro
l'altro archetipo
in questo caso la tecnologia viene inventata
dalla persona, la inventa Dedalo
serve a uno scopo fuggire dal laberinto
funziona
perché loro riescono a volare fuori dal laberinto
il fallimento è nel riconoscere qual è il limite dell'invenzione.
Loro si sono portati oltre il limite,
Icaro si è portato oltre il limite dell'invenzione,
è andato troppo vicino al sole.
Oltre le specifiche di progetto, direbbero questo.
Esatto.
E quindi, questo ha portato alla tragedia.
Ognuna di queste ha un insegnamento morale.
Pandora, stessa cosa, la curiosità, il voler sapere cosa c'è, a discapito di tutto,
fa sì che lei apra questa black box e il problema è che non esiste il tasto di undo,
perché una volta che è aperta, una volta che è fuori, hai visto cosa c'è dentro,
quello che c'è dentro non ti piace, ma ormai non è per dentro, quindi non lo puoi rimettere a posto.
di nuovo il fallimento sta nella persona che ha a disposizione lo strumento. Nel primo
caso di Prometeo si sacrifica per far ottenere qualcosa all'umanità, però per lui è un
sacrificio grosso. Un'altra è la torre di Babele, di nuovo nella torre di Babele è
più simile al fenomeno di Prometeo perché l'umanità va oltre il limite, continua a
costruire questa torre perché vuole arrivare
a raggiungere Dio
Dio gli dice
col cazzo, io sono Dio
voi non siete nessuno
e gli tira giù la torre e poi gli sconfonde
alla testa
voglio vedere come la ricostruisce
e di nuovo qui
è il concetto per cui
a parte il fatto che
qui lo dico e qui lo dico
Dio è stronzo
oltre a questo
che mi sembra sufficiente
viene a fare che il limite dell'umanità
cioè l'umanità ha un limite
e però quel limite l'umanità
non lo può vedere perché è
all'interno del sistema
quindi l'unica persona che può mettere
i paletti e che può bloccare è qualcuno
che stia all'esterno del sistema
superiore all'uomo e che abbia
a cuore il bene dell'umanità
quindi non so perché l'abbia fatto Dio
perché chiaramente
quindi questi che sono
più o meno gli archetipi quindi chi controlla
la conoscenza
chi usa la conoscenza
e dove sta il limite della conoscenza
prima che qualcosa diventi pericoloso
o nocivo
in un certo senso però questa cosa si riporta
ancora al
nella
nella Bibbia e da tutto quello
che ne è purtroppo derivato
la parte del frutto
della conoscenza del bene e del male
peccato originale
cioè siamo in una società in cui
noi e buona parte di quello occidentale
e anche parte di quello orientale
la conoscenza
è intrinsecamente
legata al pericolo
l'uomo non deve
conoscere certe cose, certe cose
non sono state messe lì perché lui
le conoscesse e quindi
il semplice fatto di avvicinarsi
poi dannerà lui e tutta
l'umanità per sempre
tipo l'energia atomica
esatto, e che poi in realtà no
Quindi il primo peccato dell'umanità, il peccato originale è il voler sapere e l'essere curiosi.
Nel XVII secolo invece ci spostiamo su Praga, dove cambia lo scenario, non è più la conoscenza o la tecnologia che permettono di fare qualcosa o che devono essere eseguiti, ma è proprio creare in maniera da zero praticamente un servitore artificiale, ovvero il golem.
E già qui si vede che questa cosa può andare male perché il golem esegue gli ordini che gli vengono dati, li esegue alla lettera, il problema è che non sempre quello che vogliamo, cioè non sempre le istruzioni che noi diamo sono per fare quello che vogliamo.
cioè ne diamo un'istruzione
c'è dell'ambiguità nel linguaggio
c'è una differenza tra quello che
abbiamo detto di fare
e quello che avremmo voluto che facesse
ma di nuovo
il problema non è
sulla macchina
la cosa buffa è che il golem
deve essere disattivato alla fine
perché inizia a girare
per il ghetto a fare troppi casini
e lo disattivano
sullo stesso tipo nel 1797
questo lo conosci
l'apprendista stregone
ah giusto
dove di nuovo con la magia
un apprendista stregone
quindi non una persona che ha la conoscenza
completa e sa dove fermarsi
e come imporre
un dilettante fa un incantesimino
per dire a una scopa di portare un secchio d'acqua
e da lì allaga la casa
e non riesce più a fermarla
perché non sapeva
non conosceva i limiti
di quello che stava facendo e non conosceva
perfettamente
le conseguenze
le inconsapevose conseguenze
marginalmente tangenziale a questo
c'è il Faust
dove una persona
praticamente fa un impatto col diavolo
per avere tutta la conoscenza
e di nuovo qui ci portiamo un attimino
nella sezione di Prometeo
ma non dal punto di vista
dell'analogia di quello che hanno fatto
ma il fatto che poi
pagano perché alla fine il diavolo
da Faust ci va e vuole
la sua anima e se la prende
e tutta la conoscenza del mondo
non gli ha permesso
di sopravvivere o di evitare questa cosa
beh il diavolo
quello che fa le pentole
nei coperchi
da lì si passa a Frankenstein
di Mariscelli
che si chiama Moderno Prometeo
e c'è un motivo
però a differenza
sempre di questa
hubris nel cercare di
superare i limiti che vengono imposti
e di nuovo la morte è un limite che viene imposto
sulla vita da chi? dai poteri forti
Bill Denberg
dal salto tizio di cui prima
Mark Zuckerberg
il signore lassù
questo è quello che credevano loro e i poverini loro
quindi il problema
in questo caso non è che la tecnologia
l'invenzione
non funziona o funziona male
l'invenzione deve fare esattamente quello per cui
il dottor Frankenstein l'aveva fatta di porta in vita
ad un insieme di pezzi di cadaveri
quindi l'esperimento è riuscito
il problema è che per il dottor Frankenstein
l'esperimento è riuscito
buona ragazzi, ci si vede
e la creatura dice
ma io veramente
il dottor Frankenstein la guarda e fa
fai schifo, muori
però questa non muore
e quindi c'è un po' di risentimento
si, si era un po' presa
questo porta in primo piano
il problema è la responsabilità
cioè nel momento in cui
qualcuno fa una scoperta
la lascia a disposizione di tutti
se qualcuno poi ne abusa
di chi è la colpa?
di chi ne ha abusato?
o di chi ha dato la possibilità dell'abuso?
chi è responsabile?
quindi la questione della responsabilità è importante
è proprio chiarita
secondo me è una di quelle cose che adesso
sull'intelligenza artificiale
prima di andarsi a complicare la vita
bisognerebbe mettere
per scritto le responsabilità
per legge
di chi è la colpa
cioè a chi gli vada a chiedere i soldi
se per colpa dell'intelligenza artificiale
succede qualcosa
ok dal mostro di Frank
se si passa invece al rifiuto
rifiuto urbanido residuo
la RUR
questo lo sa meglio Danilo di me
perché io non ne sapevo
praticamente niente
cioè io produco più rifiuti urbani
tu porti giù la RUR dopo
no è l'acronimo che viene da il film da cui è stata presa il primo libro robota mi pare sia
un libro dal libro che ha anche senso da dove viene preso il termine robota per robot che
vuol dire lavoratore lavorare lavoratore che tobor sia lavoro duro e quindi loro hanno messo al
al contrario. Sì, al lavoro, quando ti arrestano, a volte le parole sfuggono. La cosa interessante
è che parla della rivolta di questi esseri artificiali, ma è più vista in chiaro dell'industrializzazione,
dello scrittamento umano, della disumanizzazione
cioè era tutta una grande metafora
per una cosa reale
che stava succedendo con il lavoro in fabbrica
con queste cose
e sulla sostituibilità
dell'essere umano, quando ti dicono
ma l'intelligenza artificiale adesso toglie il posto
alle centraliniste
va bene, nel senso succede
quindi è un problema
che ci portiamo dietro da un po'
nel 1927
invece è il momento di Metropolis
dove c'è un film di Fritz Lang
inizia
Maria Artificiale
questo mi ha detto
c'è CPT, ho detto io ce la metto
allora lo sapevo, va bene
Maria Artificiale
va benissimo, ci fidiamo
e di nuovo
mica l'ho visto il film di Fritz Lang
no ma neanche io
ce l'ho messo solo perché mi faccia dire
questa cosa di Maria Artificiale
mica siamo corti qua
dicevamo
Dove c'è questo robot, questa entità cyber che è un cavolo, che è quella che gestisce un po' tutto, quindi ha un'intelligenza non solo per fare dei lavori forzati, ma anche un'intelligenza gestionale.
Il primo passo verso l'intelligenza artificiale come la conosciamo è al 9000.
Al 2001 odissea, nello spazio, accidenti a me, è la prima macchina che non è stupida, è una macchina intelligente, non odia gli esseri umani, non ha sentimenti, è intelligente, non ha sentimenti, va in conflitto perché di nuovo diceva degli ordini che le danno degli obiettivi incompatibili.
E deve fare una scelta e questo non essere in grado di fare una scelta lo manda in confusione, diciamo così.
Anche se non mi ricordo, cioè dal film non si capisce, dal romanzo si capisce questa cosa.
Ma dal romanzo non lo so, basta sentire il film, non ci ha capito una mazza.
Ma perché dal film non si capisce che in realtà Hal non è che è rincoglionito di suo, è che gli ha dato delle istruzioni sbagliate o comunque malevole all'inizio e quindi fa tutto quello che deve.
ma da film non si capisce
sembra che sia schizzato
buonanotte
nel film non si capisce niente
nel libro invece è abbastanza
nel libro è praticamente
ora so che mi tiro la cacca
le tre persone ci ascoltano
i libri di 2001 di Stano dello Spazio
e a seguire
non mi ricordo manco quanti sono
sono sostanzialmente stupidi
sono brevi
sono da A a B
da B a C
cioè tutto quello di
particolare
è nel film
no vabbè poi per carità
nessuno niente da toglie
magari sono io che non riesco a
capire certe sofistiche
da mio punto di vista
dimenticabili
proprio dimenticabili
allora
adesso si passa a un film del
1970
non so se lo conosce, si chiama Colossus
The Forming Project
praticamente ambientato
durante la guerra fredda
gli Stati Uniti decidono
di dare il controllo
dell'arsenale delle atomiche
degli Stati Uniti appunto
a un'intelligenza artificiale che si chiama Colossus
e
la deve gestire in maniera
intelligente
cioè un uomo potrebbe
sbagliarsi, pensa adesso che ha i codici
delle atomiche, quindi
per fortuna non se le ricorda
una persona potrebbe sbagliarsi
invece l'intelligenza artificiale fatta per
fare quella cosa lì
dovrebbe essere più affidabile
la sua stessa dice bella idea
mi piace, la facciamo anche noi
e quindi l'unione
delle repubbliche socialiste sovietiche
crea la sua intelligenza artificiale
che ha il controllo
delle testate atomiche
dell'URSS
questi due iniziano a chiacchierare
adesso sono colleghi
non hanno animosità uno contro l'altro
gli stiano a chiacchierare
e alla fine decidono che in realtà la vera minaccia
per l'essere umano è l'uomo stesso
quindi noi come prima cosa
togliamo la possibilità di scegliere
e controlliamo tutto noi
che è tutto sommato
quindi è un rivellarsi contro gli esseri umani
ma in realtà
sempre perché parte dalla tutela degli esseri umani
dei confronti di qualcosa che gli esseri umani hanno creato
da lì si arriva Skynet e Matrix
ma non credo ci sia bisogno di
di parlare più di tanto
Skynet Terminator e Matrix
sì, non c'è
questo bisogno incredibile
cioè in entrambi i casi è la perdita del controllo
perché in entrambi i casi
l'intelligenza artificiale
scusate, o quello che è
prende controllo sugli esseri umani
e iniziano a fare la guerra tra di loro
e vogliono non si sa cosa
prima degli esseri umani non essere più schiavi
senno di poi
anche il
le dimostranze
di Skynet iniziano a non capirle
stessa cosa con Matrix
cioè le macchine si sono dibellate
ok ci faremo
cappuccino
abbiamo vissuto finora senza
cosa devo dirti alla fine
no
di nuovo
sul discorso
dell'intelligenza e della conoscenza
scusa che diventa
una cosa
negativa nei confronti di chi
l'ha scoperta o di chi la subisce
mi viene in mente Lovecraft
dove c'era questo flusso
in una sola direzione
ignoranza, scoperta, comprensione
e terrore
una volta che avevi scoperto
non potevi andare all'ignoranza
potevi solo continuare
verso la comprensione
passata la comprensione
rimaneva solo il terrone
il terrone
salutiamo tutti i terroni
che ci ascoltano
sì
tra cui parzialmente io
un po' andando santissimo
è giusto così
Maria Artificiale
prega per noi
Maria Artificiale
e stiamo andando un po'
nella stranachina
quindi l'unica cosa che ti permette
secondo me non puoi mai tornare indietro in questo percorso
l'unica cosa che ti permette di avere
un po' di libertà è la pazzia
perché nel momento in cui diventi pazzo
di nuovo è come in età d'occhi
il matto
è quello che è pronto per fare il giro
ultima chicca
poi mi taccio
nel 1956
esce un film
che si chiama Forbidden Planet
dove
non so se lo conosci questo
Il pianeta proibito, sì.
Quello che è Krell?
Boh, vai avanti, vediamo.
In questo pianeta esiste una razza avanzatissima, molto più avanti degli esseri umani,
che sono i Krell, e riescono a costruire una macchina che permette di trasformare il pensiero in realtà.
Praticamente è la magia.
Sì, allora penso di averlo visto, ma era di Walt Disney, mi pare la prodotta.
Non so, nel 1956.
Sì, sì, era il vecchiotto.
Praticamente è magia perché nel momento il pensiero magico è proprio quello che ti permette di realizzare le cose e la cosa bella è che appena scoprono questa cosa nel giro di una notte scompare l'intera razza e questo per dire che appunto non è detto che una cosa sulla carta bellissima, perfetta, sia poi una soluzione ai problemi.
A volte se la popolazione non è pronta, se le persone non sono pronte, possono fare più danni che altre.
Di nuovo qui siamo con l'intelligenza artificiale sul fatto che comunque sia le persone devono essere pronte.
Sì, infatti se lo chiedono tutti, ma eravamo pronti a questo grosso cambiamento?
Oppure ce lo siamo presi così a scatola chiusa perché nella Silicon Valley hanno deciso che era una buona idea?
La domanda con cui mi ha lasciato la dottoressa Chatfield è quello che ci dobbiamo veramente chiedere è dove si colloca il confine, perché anche sulla singolarità, noi stiamo qui a dire che ci sarà la singolarità, verrà la singolarità, potrebbe essere venduta.
È un momento in cui le intelligenze artificiali sono così sofisticate da essere in grado di scrivere altre intelligenze artificiali, quindi idealmente parte un processo che l'essere umano non può più controllare, perché se l'intelligenza artificiale A ne fa una più avanzata B, quella B ne fa una più avanzata C e via così, a un certo punto ci scappano completamente dal controllo e dicevano agli scrittori di fantascienza potremmo arrivare a un punto in cui non capiamo neanche più che cosa stanno facendo,
perché il loro grado di intelligenza è troppo sofisticato rispetto al nostro.
Io appunto chiedendo alla dottoressa Chatfield cosa ne pensava della singolarità
perché è un curiosità da questa metaconversazione
perché noi la singolarità ce la immaginiamo come quel momento in cui le macchine
diventano magicamente senzienti, hanno i sentimenti, hanno le cose
iniziano a tutelare loro stesse piuttosto che l'interesse di qualcun altro
andando contro gli ordini, insomma abbiamo un po' tutta questa narrativa
nella testa, invece mi ha detto una cosa che mi ha lasciato abbastanza basita, perché
non è la singolarità come ve la immaginate voi, è più una cosa per cui quando leggerete
il codice, quando vi renderete conto che è stato fatto qualcosa, nessuno aveva scritto
quella cosa di umano e nessuno aveva programmato quella cosa, però non cambierà sostanzialmente
quello che fanno le macchine dall'oggi al domani
perché comunque sia
alla fine
perché dovrebbe
diventare del genere umano?
Sì, noi nella fantascienza se la siamo sempre
vista così, però... Ma noi perché siamo
alla ricerca di risorse, vogliamo
sempre invaso, abbiamo sempre
sostenuto
cioè, sostenuto le economie
delle potenze
opprimendo tutti gli altri
e sfruttando lo sfruttabile e quindi
penso che sia normale
antropizzate
antropicizzate
proiettare i nostri comportamenti anche su qualcosa
che in realtà di umano non ha tantissimo
se poi vai a vedere la definizione
ogni tanto cambia anche questa
la definizione perché non sappiamo
in biologia non sappiamo se in virus sono vivi oppure no
ogni tre per due si cambia
come nell'informatica
la dimensione dell'intelligenza è abbastanza larga
che si stanno ancora scannando
per decidere se l'intelligenza dell'intelligenza di oggi
abbiamo qualcosa di intelligente
oppure no
al di là di quella generale
però ti dico i virus in questo momento
non sono considerati organismi
viventi
sono dei massi di aminoacidi che fanno cose
no non sono dei massi di aminoacidi
hanno un capside
e poi hanno dell'acido nucleico
sostanzialmente o di nucleico
comunque non è quello il problema
il problema è sull'informazione
cioè cos'è che definisce essere vivo
o non essere vivo
all'inizio avevano detto si muove
per i stassi non si muovono
però poi le piante non si muovono
alla fine andando avanti
per questa cosa chi mangia, chi non mangia
qualcosa di vivente
deve essere in grado
di replicare se stesso
trasmettere l'informazione
perché comunque l'informazione genetica
è informazione
trasmettere l'informazione e avere a disposizione
una serie di
geni, di cose
che codificano per enzimi
e da bavaria che permetta all'organismo
di riprodursi da solo
quindi il virus in questo momento
non è considerato vivente
perché ha, sì, il codice genetico
che conserva la sua informazione
ma non ha tutta la struttura
per replicarsi
ha bisogno della cellula
di sfruttare la cellula ospite
se ti chiedo, in questo momento
l'intelligenza artificiale
ha tutta l'informazione di se stessa
da qualche parte?
si può avere accesso
cioè il codice
è scritto
volendo potrebbe vederlo
c'è la possibilità
che genere altro codice
di quel tipo
non sappiamo se ci siamo ancora
no no potrebbe farlo
almeno non potrebbe addestrarsi
si alimenta
ai fini della scienza è viva
si appunto
poi vabbè
è una forzatura però
per dirti a che livello
siamo ormai
e bisognerebbe iniziare
piuttosto a fare appunto
questi proclami così
obbligare i dipendenti della pubblica amministrazione
a fare i corsi sulla
intelligenza artificiale
e bisognerebbe piuttosto iniziare
a legiferare bene
in maniera
sensata su di chi sono
le responsabilità
chi la controlla, chi ha il diritto di usarla
chi no
secondo me andrebbe fatta al di là di tutte le
stupidaggini che abbiamo detto stasera
sì anche il fatto che per adesso è in mano
a pochi pazzi
tipo appunto
esatto
dici ok qui ognuno sta
facendo la corsa alla propria
a parte noi non ce l'abbiamo
ognuno sta facendo la corsa alla propria
ma oltre a fare la corsa
alla propria sarà il caso
di iniziare a discutere
quantomeno dei paletti
perché se no si finisce che si mette la multa
si mette la multa
per i monopattini
e i monopattini non hanno la targa
e faglia la multa
c'è anche il problema che di solito
i legislatori si muovono molto più lentamente
di questa roba che sta andando
molto velocemente
quindi diventa complicato
però andrebbe fatto
e questa era la mia minchiata di stasera
incredibile ragazzi
questa sera hanno meno minchiata del solito
ma speriamo di essere stati abbastanza minchioni
nel raccontarle lo stesso
alla fine ce lo meritiamo
detto questo siamo arrivati
anche in fondo all'ottava puntata
i nostri numeri ci dicono che siete
tantissimi
no, non è vero
quindi ci sentiamo quanto prima
per una prossima puntata di Darknet
buonanotte a tutti
ciao