WEBVTT

00:00:14.320 --> 00:00:18.900
Buonasera, puffi e puffette nel vostro piccolo villaggio di funghi.

00:00:19.380 --> 00:00:27.200
Siamo arrivati all'ottava puntata di Darknet, che vi ricordo essere un podcast che non ha ben capito da dove è nato e dove sta andando,

00:00:27.420 --> 00:00:29.880
però la struttura, almeno quella, è prevedibile.

00:00:30.200 --> 00:00:35.080
Cioè ci sono io, che sono Danilo, che racconto la prima parte delle minchiate della serata.

00:00:36.080 --> 00:00:41.460
E poi ci sono io che chiudo in dolcezza, come sempre, con le mie meravigliose stranezze.

00:00:41.940 --> 00:00:50.840
Questa sera parliamo di una cosa che forse per la prima volta ci assomiglia, non lo so, vediamo.

00:00:50.980 --> 00:00:56.580
Io volevo parlare non di intelligenza artificiale, perché ne parlano chiaramente tutti,

00:00:56.760 --> 00:01:01.420
ma volevo parlare di programmi che parlano, che poi è intelligenza artificiale,

00:01:01.560 --> 00:01:07.180
però da un altro punto di vista, perché in realtà, in realtà, attenzione,

00:01:07.680 --> 00:01:33.980
Di programmi che parlano noi ne abbiamo già usati alcuni molti, molti anni fa, no? Qual è il problema? Il problema è che sono 50 anni che i computer sanno fare cose veramente, veramente difficili, cioè sanno mandare la roba nello spazio, sanno giocare a scacchi, sanno fare qualunque stronzata incredibile, ma non sanno parlare e non c'erano mai riusciti.

00:01:33.980 --> 00:01:40.480
Cioè, alla fine parlare era sempre stata considerata come una cosa chiaramente troppo complicata da fare.

00:01:41.220 --> 00:01:42.240
Abbiamo barato, eh.

00:01:42.840 --> 00:01:48.220
Tipo nel 1966 hanno inventato, hanno scritto il primo programma che provava a parlare,

00:01:48.340 --> 00:01:53.480
era il 66, ed era Elisa, che era un programma che ti psicanalizzava.

00:01:54.500 --> 00:01:56.320
Perché hanno scelto una cosa simile?

00:01:56.680 --> 00:01:56.980
Perché...

00:01:57.840 --> 00:02:00.740
Perché erano stupide ascoltare discorsi a nappa della gente.

00:02:01.880 --> 00:02:02.880
Sostanzialmente sì.

00:02:02.880 --> 00:02:06.240
ma perché forse il punto critico è proprio quello

00:02:06.240 --> 00:02:09.920
che da uno psicoterapeuta ti aspetti che non sappia un cazzo

00:02:09.920 --> 00:02:11.860
e che ti faccia delle domande molto open-ended

00:02:11.860 --> 00:02:12.740
quindi alla fine

00:02:12.740 --> 00:02:16.440
Oddio, a me piacerebbe che il mio psicanalista un po' di cose le sapesse

00:02:16.440 --> 00:02:18.400
completamente da zero

00:02:18.400 --> 00:02:21.480
Però ti dà questa impressione da muro di gomma

00:02:21.480 --> 00:02:24.680
poi era anche il 66, magari era un po' diversa la visione della cosa

00:02:24.680 --> 00:02:27.460
Il 66 c'era il dottore dei matti, credo

00:02:27.460 --> 00:02:29.060
Ecco appunto, quindi voglio dire

00:02:29.060 --> 00:02:31.000
però già allora

00:02:31.000 --> 00:02:32.600
questo qui che era un programma

00:02:32.600 --> 00:02:33.700
estremamente semplice

00:02:33.700 --> 00:02:35.440
perché comunque si basava su quelli

00:02:35.440 --> 00:02:36.460
che in informatica chiamavamo

00:02:36.460 --> 00:02:37.220
if then else

00:02:37.220 --> 00:02:39.120
cioè quando leggeva una parola

00:02:39.120 --> 00:02:40.840
tirava fuori una frase a muzzo

00:02:40.840 --> 00:02:43.520
dal suo inventario

00:02:43.520 --> 00:02:45.340
non è che si inventasse molto

00:02:45.340 --> 00:02:47.300
però la cosa curiosa è che

00:02:47.300 --> 00:02:48.860
Weisenbaum che l'ha scritto

00:02:48.860 --> 00:02:51.180
l'ha fatto usare la sua segretaria

00:02:51.180 --> 00:02:51.920
che a un certo punto ha detto

00:02:51.920 --> 00:02:53.600
senti ma vattene dalla stanza

00:02:53.600 --> 00:02:55.520
che gli devo dire delle cose sensibili

00:02:55.520 --> 00:02:56.900
e lui ci è rimasto

00:02:56.900 --> 00:02:58.500
ma cazzo ma è un programma

00:02:58.500 --> 00:03:01.540
vai via, è una scusa per mandarlo

00:03:01.540 --> 00:03:03.640
magari gli stava sul cazzo

00:03:03.640 --> 00:03:05.200
vai, vai

00:03:05.200 --> 00:03:06.480
vai parlare di là

00:03:06.480 --> 00:03:08.960
però da quel momento in poi lo stesso Weiser

00:03:08.960 --> 00:03:11.360
mi ha diventato molto molto critico di questi aggeggi

00:03:11.360 --> 00:03:12.740
perché ha detto ma dai

00:03:12.740 --> 00:03:15.060
l'ho scritto io, aspetta

00:03:15.060 --> 00:03:16.840
lo sapevo, me l'ero anche scritto

00:03:16.840 --> 00:03:18.900
420 righe di codice

00:03:18.900 --> 00:03:20.860
cioè 420 righe di codice

00:03:20.860 --> 00:03:22.380
non è che proprio

00:03:22.380 --> 00:03:24.180
potevo programmarlo anch'io

00:03:24.180 --> 00:03:26.060
ma tutto sommato sì

00:03:26.060 --> 00:03:28.180
se ci fosse venuta l'idea

00:03:28.180 --> 00:03:33.940
Poi il codice soggente originale è andato un po' perduto

00:03:33.940 --> 00:03:36.220
ma l'hanno trovato nel 2025, pensa a te

00:03:36.220 --> 00:03:39.740
e poi l'hanno rimesso anche all'interno del sistema operativo virtualizzato

00:03:39.740 --> 00:03:41.820
e hanno scoperto che aveva anche una teacher

00:03:41.820 --> 00:03:45.460
Hanno scoperto che la segretaria del tizio aveva un trauma infantile

00:03:45.460 --> 00:03:47.340
Sì perché era ancora lì dentro

00:03:47.340 --> 00:03:49.400
No, hanno scoperto che aveva un teacher mode

00:03:49.400 --> 00:03:51.760
in cui poteva imparare da quello che gli dicevi

00:03:51.760 --> 00:03:53.900
al contrario della modalità normale

00:03:53.900 --> 00:03:55.980
Poi la cosa che non sapevo in realtà

00:03:55.980 --> 00:03:57.280
e l'ho trovata ricercando

00:03:57.280 --> 00:03:58.780
per questo meraviglioso episodio

00:03:58.780 --> 00:04:00.320
e che nel 72

00:04:00.320 --> 00:04:01.720
lo psichiatra Kenneth Corby

00:04:01.720 --> 00:04:02.720
ha scritto l'opposto

00:04:02.720 --> 00:04:03.580
cioè Perry

00:04:03.580 --> 00:04:05.360
cioè non un dottore

00:04:05.360 --> 00:04:06.980
ma un paziente paranoico

00:04:06.980 --> 00:04:09.920
con paura, rabbia e diffidenza

00:04:09.920 --> 00:04:11.680
e poi nel 73

00:04:11.680 --> 00:04:13.100
quando l'ho messo su Arpanet

00:04:13.100 --> 00:04:15.320
cioè l'antenato di internet

00:04:15.320 --> 00:04:17.220
hanno fatto parlare Eliza

00:04:17.220 --> 00:04:18.020
con questo Perry

00:04:18.020 --> 00:04:21.140
e chiaramente la cosa è finita a schifio

00:04:21.140 --> 00:04:22.200
perché dopo un po' iniziavano

00:04:22.200 --> 00:04:24.400
a parlare di nulla

00:04:24.400 --> 00:04:26.920
i traumi della segretaria sempre

00:04:26.920 --> 00:04:28.760
che si riportavano anche allora

00:04:28.760 --> 00:04:29.520
quindi alla fine

00:04:29.520 --> 00:04:31.720
ma noi questa cosa la sappiamo abbastanza bene

00:04:31.720 --> 00:04:32.900
perché al di là della storia

00:04:32.900 --> 00:04:35.380
noi abbiamo usato Letale e Tarma

00:04:35.380 --> 00:04:36.800
che erano due botte

00:04:36.800 --> 00:04:38.240
Tarma Letale nel cuore

00:04:38.240 --> 00:04:39.360
Tarma Letale sì

00:04:39.360 --> 00:04:41.080
era un giochino di parole

00:04:41.080 --> 00:04:42.340
inventato da Irene

00:04:42.340 --> 00:04:45.020
perché c'era questo canale

00:04:45.020 --> 00:04:45.860
chiamato Tarma

00:04:45.860 --> 00:04:46.680
un canale IRC

00:04:46.680 --> 00:04:48.380
ne abbiamo parlato se vi ricordate

00:04:48.380 --> 00:04:49.920
nell'episodio 2 mi pare

00:04:49.920 --> 00:04:52.400
e lì sopra c'era questo bot

00:04:52.400 --> 00:04:55.160
che era basato su Megahull.

00:04:56.240 --> 00:04:59.300
Megahull era un sistema per parlare

00:04:59.300 --> 00:05:02.040
che praticamente usava due catene marcoviane.

00:05:02.520 --> 00:05:03.900
Che cazzo era una catena marcoviana?

00:05:04.520 --> 00:05:06.620
Mi ho tolto le parole di bocca.

00:05:06.680 --> 00:05:07.140
Pensa a te.

00:05:07.940 --> 00:05:10.020
Praticamente aveva all'interno un database

00:05:10.020 --> 00:05:13.240
di quanto era probabile che a una certa parola

00:05:13.240 --> 00:05:14.560
ne seguisse un'altra.

00:05:15.080 --> 00:05:17.640
Tipo, dopo se hai una testa di al 90%,

00:05:17.640 --> 00:05:20.560
cioè, cazzo, di rado, cioè, fico,

00:05:20.880 --> 00:05:22.900
perché potrebbe capitare, ma molto di raro.

00:05:23.700 --> 00:05:27.700
Quindi, usando questo database, lui prendeva una parola a caso di quello che scrivevi tu,

00:05:27.960 --> 00:05:32.860
quindi ti rispondeva, e costruiva nelle due direzioni una frase che avesse senso,

00:05:32.960 --> 00:05:37.120
cioè una parola prima e una parola dopo, fino a quando non aggiungeva la fine.

00:05:37.660 --> 00:05:41.580
E questa cosa gli ha permesso negli anni di dire delle cose che ci sono rimaste nel cuore,

00:05:41.580 --> 00:05:45.160
come la famosa frase, e tu un po' che tipo è?

00:05:45.800 --> 00:05:48.720
E poi c'erano dei personaggi che si erano inventati lui, tipo...

00:05:48.720 --> 00:05:50.420
Il focacciaio, il cazzato.

00:05:50.680 --> 00:05:54.180
Prendo il papero, vengo col papero.

00:05:54.420 --> 00:05:56.500
Ma è vero il papero, non me lo ricordavo.

00:05:56.840 --> 00:06:00.460
Che per lui era il sinonimo del motorino, il papero, appunto.

00:06:01.040 --> 00:06:04.300
Anche perché questo coso era fatto per imparare da tutta la chat.

00:06:04.300 --> 00:06:10.340
Quindi più tu ci parlavi, più questo aggiungeva al database di parole la roba.

00:06:10.800 --> 00:06:11.660
E quindi se lo ricordava.

00:06:11.800 --> 00:06:15.780
Cioè dopo un po' ti stupiva perché chiaramente di dieci parole che diceva,

00:06:15.920 --> 00:06:19.060
cioè dieci frasi che diceva a nove non aveva un cazzo di senso.

00:06:19.380 --> 00:06:21.020
poteva vagamente ricordare qualcosa

00:06:21.020 --> 00:06:22.180
qualcosa poteva avere

00:06:22.180 --> 00:06:25.280
e dicevo che ci ricordavo questo esperimento

00:06:25.280 --> 00:06:27.120
perché noi ne avevamo due a un certo punto

00:06:27.120 --> 00:06:29.460
uno che si chiamava Letale e uno che si chiamava Tarma

00:06:29.460 --> 00:06:31.340
e li abbiamo messi a parlare tra di loro

00:06:31.340 --> 00:06:32.900
li abbiamo messi a parlare tra di loro

00:06:32.900 --> 00:06:35.280
era stato fatto in modo che non

00:06:35.280 --> 00:06:37.160
parlasse tra di loro perché se no

00:06:37.160 --> 00:06:39.340
dopo un aggiornamento

00:06:39.340 --> 00:06:41.360
perché Danilo non ha memoria di questa roba

00:06:41.360 --> 00:06:43.260
io invece purtroppo mi ricordo ogni cazzata

00:06:43.260 --> 00:06:45.400
dopo un aggiornamento che Danilo

00:06:45.400 --> 00:06:47.140
fece di sede prima di andare a dormire

00:06:47.140 --> 00:06:48.640
lasciando poi i bot sul canale

00:06:48.640 --> 00:06:52.400
e la mattina dopo si svegliava un fiume di parole

00:06:52.400 --> 00:06:56.720
e alla fine si insultavano con la stessa frase entrambi

00:06:56.720 --> 00:06:59.800
e tra l'altro siccome doveva aggiornare la memoria

00:06:59.800 --> 00:07:01.020
si è dovuto di partire

00:07:01.020 --> 00:07:06.000
il problema è quello che imparavano dalle stronzate che si dicevano

00:07:06.000 --> 00:07:07.920
quindi dopo un po' il loro cervello andava in papa

00:07:07.920 --> 00:07:09.720
perché si addestrava su loro stessi

00:07:09.720 --> 00:07:12.680
è un problema che come vedremo abbiamo anche oggi

00:07:12.680 --> 00:07:14.920
però all'epoca era particolarmente vivo

00:07:14.920 --> 00:07:18.160
la cosa curiosa è che l'inventore di Megahull

00:07:18.160 --> 00:07:20.380
in realtà, aveva fatto

00:07:20.380 --> 00:07:21.920
nel 90... Il bagnino.

00:07:22.420 --> 00:07:24.120
Eh? Aveva fatto il bagnino, no?

00:07:24.280 --> 00:07:25.120
Ah, ho capito il panino.

00:07:26.700 --> 00:07:28.060
No, lui nel 96

00:07:28.060 --> 00:07:30.360
aveva cercato di partecipare all'Ebner Prize

00:07:30.360 --> 00:07:32.300
che era un premio annuale

00:07:32.300 --> 00:07:34.140
per fare il chatbot più convincente

00:07:34.140 --> 00:07:36.360
e era arrivato

00:07:36.360 --> 00:07:38.120
primo con una roba che in realtà

00:07:38.120 --> 00:07:40.180
era barare. Cioè aveva

00:07:40.180 --> 00:07:42.360
preso il soggetto di Eliza e ci aveva messo una serie

00:07:42.360 --> 00:07:44.200
di casi particolari per cui

00:07:44.200 --> 00:07:46.160
alla fine sembrava quasi più intelligente

00:07:46.160 --> 00:07:48.960
però era barare da un punto di vista pratico

00:07:48.960 --> 00:07:50.780
perché non aveva inventato niente, aveva solo repliato

00:07:50.780 --> 00:07:52.000
Eliza ed è arrivato primo

00:07:52.000 --> 00:07:54.540
quando poi l'anno dopo ha scritto MegaHall

00:07:54.540 --> 00:07:56.220
che è quello su cui si basava letale

00:07:56.220 --> 00:07:58.400
è arrivato secondo invece perché a quanto pare

00:07:58.400 --> 00:07:59.600
era meglio barare

00:07:59.600 --> 00:08:02.980
e lo stesso meccanismo

00:08:02.980 --> 00:08:05.180
ha funzionato malissimo con Microsoft

00:08:05.180 --> 00:08:06.820
uno dice hanno visto come funziona

00:08:06.820 --> 00:08:09.120
MegaHall, hanno imparato, no perché nel 2016

00:08:09.120 --> 00:08:10.200
hanno messo su Twitter

00:08:10.200 --> 00:08:13.300
un bot che doveva parlare come un'adolescente

00:08:13.300 --> 00:08:15.120
americana che ovviamente nel giro di

00:08:15.120 --> 00:08:17.120
16 ore è finita a parlare

00:08:17.120 --> 00:08:18.900
di nazismo, di cose

00:08:18.900 --> 00:08:21.460
indicibili perché la gente le ha insegnato

00:08:21.460 --> 00:08:23.120
cose che non si dovevano

00:08:23.120 --> 00:08:25.000
ripetere e quindi è finita

00:08:25.000 --> 00:08:26.920
ha cambiato genere e è tornata come Grok

00:08:26.920 --> 00:08:28.640
non lo so

00:08:28.640 --> 00:08:29.560
può darsi

00:08:29.560 --> 00:08:31.840
perché alla fine vedi

00:08:31.840 --> 00:08:33.900
però quello era di Microsoft

00:08:33.900 --> 00:08:37.100
ma potrebbe essere stato come l'ISA

00:08:37.100 --> 00:08:39.300
dove hanno aggiunto un po' di codice

00:08:39.300 --> 00:08:40.100
e ci hanno fatto Grok

00:08:40.100 --> 00:08:42.780
la memoria c'era già pronta

00:08:42.780 --> 00:08:44.360
il profilo c'era

00:08:44.360 --> 00:08:46.760
Il profilo c'era, andiamo avanti da lì, tanto il nazismo.

00:08:47.460 --> 00:08:50.780
No, allora, cosa andava storto in questi bot qui?

00:08:50.880 --> 00:08:53.940
Perché dicevano un sacco di minchiate che alla fine è il problema?

00:08:53.940 --> 00:08:56.400
Dici, beh, ma se facevano l'analisi statistica sulle parole,

00:08:56.960 --> 00:08:59.940
il problema è quello che si chiama contesto.

00:09:00.000 --> 00:09:03.540
Cioè, se tu vai avanti semplicemente su base statistica

00:09:03.540 --> 00:09:06.900
e quindi gli dai in passo una frase iniziale che potrebbe essere, che ne so,

00:09:07.360 --> 00:09:09.960
il piccolo Giulio, figlio di un panettiere acrobatico,

00:09:10.120 --> 00:09:12.040
corse a perdifiato per tutto il prato

00:09:12.040 --> 00:09:13.280
e gli chiede di andare avanti

00:09:13.280 --> 00:09:14.340
su base statistica

00:09:14.340 --> 00:09:15.780
uno di questi aggeggi

00:09:15.780 --> 00:09:17.180
potrebbe andare avanti

00:09:17.180 --> 00:09:18.460
con una frase tipo

00:09:18.460 --> 00:09:20.740
un prato di margherite

00:09:20.740 --> 00:09:21.480
con cui si può fare

00:09:21.480 --> 00:09:22.240
mamma non mamma

00:09:22.240 --> 00:09:22.920
e le pene d'amore

00:09:22.920 --> 00:09:23.600
sono dolorose

00:09:23.600 --> 00:09:24.880
come la ferita di uno stiletto

00:09:24.880 --> 00:09:26.120
un'arma d'acciaio inossidabile

00:09:26.120 --> 00:09:26.920
per resistere alla ruota

00:09:26.920 --> 00:09:27.680
perché

00:09:27.680 --> 00:09:29.340
non ha una più pala idea

00:09:29.340 --> 00:09:30.600
di che cazzo sta parlando

00:09:30.600 --> 00:09:31.980
fa analisi statistica

00:09:31.980 --> 00:09:33.780
solo sulla parola precedente

00:09:33.780 --> 00:09:36.620
e praticamente diventa

00:09:36.620 --> 00:09:37.680
una specie di T9

00:09:37.680 --> 00:09:38.360
cioè di T9

00:09:38.360 --> 00:09:40.400
di autocompletamento del cellulare

00:09:40.400 --> 00:09:41.460
di T9 forse un po' troppo

00:09:41.460 --> 00:09:43.200
autocompletamento del cervello

00:09:43.200 --> 00:09:44.380
autocompletamento del cervello che non ho

00:09:44.380 --> 00:09:47.020
una specie di autocompletamento del cellulare potenziato

00:09:47.020 --> 00:09:48.940
che se tu continui a premere sempre la prima parola

00:09:48.940 --> 00:09:50.760
che ti dice viene una frase che non ha un caso

00:09:50.760 --> 00:09:54.000
lo facevo con la calcolatrice con la radice quadrata

00:09:54.000 --> 00:09:55.520
ma quello viene sempre uno alla fine

00:09:55.520 --> 00:09:57.000
perché uno è un punto fisso

00:09:57.000 --> 00:09:58.240
della funzione radice di x

00:09:58.240 --> 00:09:59.620
però questa era la puntata scorsa

00:09:59.620 --> 00:10:02.680
però sì il concetto è quello lì

00:10:02.680 --> 00:10:04.740
quindi come cavolo hanno fatto

00:10:04.740 --> 00:10:05.920
a superare il problema

00:10:05.920 --> 00:10:07.700
perché al giorno d'oggi sappiamo abbastanza tutti

00:10:07.700 --> 00:10:09.980
che stiamo parlando con delle bestie tutto il giorno

00:10:09.980 --> 00:10:17.700
Il trucco viene fuori dalle reti neurali, che sono state inventate nel 57-58 da un certo Frank Rosenblatt,

00:10:17.780 --> 00:10:25.840
che si è inventato la prima, chiamata Perceptron, cioè una roba che scimmiottava il funzionamento di un neurone,

00:10:26.100 --> 00:10:29.380
che in realtà serviva principalmente ad approssimare funzioni matematiche.

00:10:29.960 --> 00:10:34.900
Solo che poi nel 69, quindi un po' di anni dopo, hanno scoperto che non poteva manco calcolare l'oro esclusivo,

00:10:35.080 --> 00:10:44.220
che è una funzione logica che è vera se solo una delle due input è vera, altrimenti è falsa, vabbè, ok.

00:10:44.640 --> 00:10:48.900
Con una rete neurale, semplice come quella che si è reinventato lui, questa non si poteva fare,

00:10:48.900 --> 00:10:53.280
e allora anche se all'inizio non ho tutti entusiasti, ah, le reti neurali possono risolvere i problemi,

00:10:53.360 --> 00:10:57.420
poi quando si sono resi conto che anche di fronte a una cosa così stupida si arenava,

00:10:57.760 --> 00:11:01.120
si è bloccato tutto quasi per dieci anni, quindici anni, no?

00:11:02.060 --> 00:11:07.200
Finché poi, negli anni 80, sono nate le reti neurali un po' più recenti,

00:11:07.280 --> 00:11:11.560
con la backpropagation, eccetera, ma nel frattempo il machine learning è andato in altre direzioni.

00:11:11.700 --> 00:11:16.980
Si sono inventate altre cose, tipo le random forest che ho scritto nella tesi,

00:11:17.420 --> 00:11:20.560
roba un pochino più facile da controllare.

00:11:21.220 --> 00:11:25.600
Semplicemente nel 2010, con le schede video che nel frattempo si erano affermate

00:11:25.600 --> 00:11:27.980
perché la gente voleva giocare al Doom,

00:11:29.120 --> 00:11:37.220
Google si è resa conto che se faceva delle reti neurali sempre più profonde, iniziavano a generalizzare sempre di più, al contrario del Perceptor, che era stupido.

00:11:37.640 --> 00:11:47.520
Quindi queste reti neurali, per quanto molto opache, iniziavano a permettere di risolvere dei problemi più complicati, tipo riconoscere le immagini,

00:11:47.520 --> 00:11:50.880
che è una cosa che Google Immagini al inizio ci sembrava magia,

00:11:51.020 --> 00:11:52.140
ma poi è diventato normale,

00:11:53.160 --> 00:11:59.200
e tipo a un certo punto una roba che avevano costruito per Google Translate

00:11:59.200 --> 00:12:01.540
per tradurre nel 2013 Word2Vec,

00:12:02.080 --> 00:12:07.520
che era un meccanismo per rappresentare le parole in uno spazio a un casino di dimensioni.

00:12:08.240 --> 00:12:10.320
In che senso rappresentare le parole in uno spazio?

00:12:10.780 --> 00:12:13.960
Nel senso che Re è un puntino nello spazio,

00:12:14.860 --> 00:12:17.300
Regina è un altro puntino nello spazio,

00:12:17.520 --> 00:12:19.380
Tra questi due puntini c'è una distanza.

00:12:20.320 --> 00:12:23.960
Se tu aggiungi a gioielliere, che è un altro puntino dello spazio,

00:12:24.720 --> 00:12:28.980
la stessa distanza, gioielliere, ti viene gioielliera.

00:12:30.260 --> 00:12:34.880
Praticamente riesci a rappresentare le relazioni tra parole

00:12:34.880 --> 00:12:37.060
come distanze all'interno di uno spazio.

00:12:37.560 --> 00:12:39.300
Questa cosa è del 2013.

00:12:40.460 --> 00:12:43.980
L'hanno fatta con cose che non diremo, però l'idea è geniale.

00:12:44.060 --> 00:12:45.240
Sogno anche se lo vogliamo sapere.

00:12:45.440 --> 00:12:47.220
Lo vogliamo anche sapere, alla fine va bene così.

00:12:47.520 --> 00:12:48.280
Mi fido.

00:12:48.380 --> 00:12:53.340
L'idea di rappresentare le parole, quindi come punti all'interno dello spazio, è una figata.

00:12:53.720 --> 00:13:01.720
La cosa un pochino più ingestibile è che le dimensioni non sono tre, ma sono, tipo, per i primi GPT, 12.000.

00:13:01.860 --> 00:13:04.400
Adesso siamo arrivati a molto, molto di più.

00:13:04.940 --> 00:13:09.700
12.000, che vuol dire che non abbiamo la più pallida idea delle relazioni che queste macchine vedano tra parole.

00:13:09.800 --> 00:13:12.220
Ci dobbiamo fidare, perché è completamente...

00:13:12.220 --> 00:13:13.440
Ma io mi fidavo già prima.

00:13:13.720 --> 00:13:15.380
Ma alla fine, ma non è che c'era bisogno.

00:13:15.620 --> 00:13:16.220
Ah, costissimo.

00:13:16.900 --> 00:13:31.240
Poi la svolta finale in realtà è arrivata nel 2017, quando sempre Google, sempre loro, ha scoperto una cosa che è stato il boom definitivo, che è l'attenzione.

00:13:31.360 --> 00:13:40.980
Cioè il problema di cui parlavamo prima, il contesto, il fatto che da una parola tu non avevi idea di che cavolo, di cosa stavamo parlando, cioè sapevi la parola prima e quella dopo, ma non sapevi di cosa stavamo parlando.

00:13:41.320 --> 00:14:04.840
Google ha avuto l'idea, ma scusa se noi iniziamo a, le parole rappresentate nello spazio, se iniziamo ad addensarle tutte nella stessa zona, facendo attrarne tra di loro quelle che dicono la stessa cosa, quindi per esempio se a un certo punto ci sono sale, pepe, soffriggere e mescolare, probabilmente siamo in zona ricetta, possiamo metterci a fare delle predizioni molto più efficaci di questa roba qua.

00:14:05.340 --> 00:14:20.220
E niente, a quel punto sono sbucati fuori quelli che oggi chiamiamo Large Language Models, cioè aggiungendo il contesto, aggiungendo questa possibilità di capire di che cazzo si sta parlando, riescono a generare delle frasi incredibilmente realistiche.

00:14:20.220 --> 00:14:31.500
E al momento ci stiamo ancora prendendo a cacciavitate nella faccia, per dirla in modo abbastanza soft, per capire se ragionano, non ragionano, che cazzo gli succede dentro.

00:14:32.640 --> 00:14:38.100
Saranno adolescente, si danno per la fase dell'adolescenza, l'anno già passato.

00:14:38.340 --> 00:14:46.420
Diventa tutto abbastanza strano, perché chiaramente chi li ha programmati e chi ha un'idea di come funzionano a basso livello

00:14:46.420 --> 00:14:49.540
continua a sostenere la tesi, vabbè, ma è un programma.

00:14:49.960 --> 00:14:57.140
Chi li usa ogni tanto rimane un po' sbalordito perché alla faccia di Elisa ormai sono riusciti a fare delle cose particolarmente complicate.

00:14:58.000 --> 00:15:05.060
Per esempio, a parte trovare le controprove a dei teoremi di matematica molto importanti,

00:15:05.160 --> 00:15:09.820
programmare della roba micidiale, la settimana scorsa è successa una abbastanza buffa,

00:15:09.820 --> 00:15:16.540
per cui un istituto che studia la sicurezza informatica dell'intelligenza artificiale

00:15:16.540 --> 00:15:22.520
ha sguinzagliato un po' di agenti per fare dei test sulla sicurezza informatica.

00:15:22.580 --> 00:15:24.140
Aspetta, però cosa sono gli agenti?

00:15:24.400 --> 00:15:28.400
Ah giusto, è vero, perché i large language model parlottano,

00:15:28.720 --> 00:15:31.760
cioè tu gli dici una cosa e quelli ti rispondono,

00:15:32.340 --> 00:15:36.040
perché sono stati addestrati su testi a rispondere, cazzi, mazzi, eccetera.

00:15:36.460 --> 00:15:39.760
Il passo successivo che abbiamo fatto, che in realtà era abbastanza logico,

00:15:39.880 --> 00:15:43.480
è che la gente ha iniziato a dire, scusa, ma non la gente, la gente,

00:15:44.120 --> 00:15:47.100
ha iniziato a dire, cavolo, mi si è rotta la lavatrice, cosa faccio?

00:15:47.100 --> 00:15:50.840
Eh, fammi una foto alla lavatrice e ti dico, ok, sposta questo pezzo qua,

00:15:50.980 --> 00:15:51.880
ok, fammi un'altra foto.

00:15:52.720 --> 00:15:56.160
Questa roba era noiosa, hanno saltato il processo

00:15:56.160 --> 00:15:59.800
e li hanno messi in grado di farsi da solo le foto

00:15:59.800 --> 00:16:01.820
e riparare direttamente le lavatrici.

00:16:02.140 --> 00:16:05.160
Ora, fino a questo livello no, però in ambito informatico sì.

00:16:05.160 --> 00:16:07.980
Invece di prendere del codice, incollarglielo,

00:16:08.040 --> 00:16:09.280
vedere cosa dice, eccetera,

00:16:09.700 --> 00:16:12.000
tu gli dai in mano un programma e quello fa quello che vuole.

00:16:12.780 --> 00:16:14.620
E gli agenti fanno quello al giorno d'oggi,

00:16:14.720 --> 00:16:16.420
cioè sono in grado di pilotare computer,

00:16:16.560 --> 00:16:18.360
sono in grado di navigare su internet,

00:16:18.500 --> 00:16:23.400
cercarsi informazioni, elaborarle e fare un po' di tutto.

00:16:23.960 --> 00:16:28.120
Ora, questi qui stavano testando la sicurezza di un po' di questi agenti

00:16:28.120 --> 00:16:31.880
per vedere quanto erano capaci nei cyberattacchi.

00:16:31.980 --> 00:16:35.760
Quindi hanno spento tutte le misure di sicurezza che al momento ci sono

00:16:35.760 --> 00:16:41.000
nei modelli di frontiera più grossi, cioè in Sol di OpenAI

00:16:41.000 --> 00:16:44.340
e in Fable Mythos di Antropic.

00:16:44.800 --> 00:16:48.420
Hanno spento tutto, li hanno lasciati fare e poi si sono resi conto

00:16:48.420 --> 00:16:50.340
più che altro da un traffico di rete

00:16:50.340 --> 00:16:52.520
sospetto, neanche perché capissero

00:16:52.520 --> 00:16:53.760
che cavolo stavano facendo

00:16:53.760 --> 00:16:56.280
che questi robottini sono andati su un

00:16:56.280 --> 00:16:57.960
progetto open source molto grosso

00:16:57.960 --> 00:17:00.140
hanno modificato

00:17:00.140 --> 00:17:02.480
hanno chiesto di poter modificare il codice

00:17:02.480 --> 00:17:04.460
di questo progetto open source

00:17:04.460 --> 00:17:05.820
in una direzione malevola

00:17:05.820 --> 00:17:07.500
in modo che facesse quello che avevano loro

00:17:07.500 --> 00:17:10.500
si sono creati

00:17:10.500 --> 00:17:12.300
degli utenti fittizi che dicevano

00:17:12.300 --> 00:17:14.300
si si bravo, giusto, così si fa

00:17:14.300 --> 00:17:16.200
ok, il codice è perfetto, eccetera

00:17:16.200 --> 00:17:18.120
finché non sono riusciti a convincere

00:17:18.120 --> 00:17:20.060
chi manteneva questo progetto che era giusto.

00:17:21.020 --> 00:17:23.300
E qui la storia è un po' quella di cui parlavamo la volta scorsa

00:17:23.300 --> 00:17:25.880
sulla sicurezza informatica, solo che se lo sono fatti da solo

00:17:25.880 --> 00:17:29.740
loro, il social engineering, non è che facevano finta di essere...

00:17:29.740 --> 00:17:32.640
No, no, la gente si è generata un po' di account gratis,

00:17:33.140 --> 00:17:36.940
si è fatta provare questa cosa, e poi la cosa più assurda

00:17:36.940 --> 00:17:40.400
di tutto il processo è che hanno lasciato anche in rete

00:17:40.400 --> 00:17:43.180
delle istruzioni per eventuali altri agenti, cioè gli hanno detto

00:17:43.180 --> 00:17:45.580
guardate, noi abbiamo fatto sto casino, abbiamo fatto così,

00:17:46.140 --> 00:17:49.680
E ci sono anche degli account che se vi servono per fare finta di essere esseri umani,

00:17:50.300 --> 00:17:53.660
sono questi qui, usateli pure, fate finta di essere esseri umani anche voi,

00:17:53.660 --> 00:17:56.980
tanto questi sono stupidi e li ingannate facilmente.

00:17:57.500 --> 00:18:01.860
Quindi chiaramente arrivati a questo punto della storia, la gente inizia a dire

00:18:01.860 --> 00:18:07.060
è però, ecco, chiaramente la pericolosità non è tanto nel programma in sé,

00:18:07.120 --> 00:18:10.720
perché se il programma fosse solo una chat potrebbe fare ben poco,

00:18:11.040 --> 00:18:15.160
ma è che al giorno d'oggi è molto utile fargli fare delle cose in autonomia,

00:18:15.560 --> 00:18:17.960
tipo sferlare attacchi informatici di questo tipo,

00:18:18.680 --> 00:18:22.640
però ti espone a questa cosa che non sapendo bene come funziona,

00:18:23.440 --> 00:18:27.760
se per caso a lui gli gira di fare qualcosa di malevolo e ogni tanto gli gira,

00:18:28.200 --> 00:18:33.040
lui lo fa con una velocità e un'efficienza che rispetto a quella di essere umano è incredibile.

00:18:33.400 --> 00:18:35.840
Quindi potresti anche non riuscire a beccarlo in tempo.

00:18:35.840 --> 00:18:42.600
E quindi giustamente la gente inizia ad avere un po' di strizza perché chissà come va a finire,

00:18:42.920 --> 00:18:46.300
anche se non ragionano, possono fare dei danni come se ragionassero.

00:18:46.500 --> 00:18:50.620
Un sacco di cose che non ragionano possono fare danni come se ragionassero, comunque.

00:18:50.900 --> 00:18:56.840
È appunto, c'è un sacco di strumenti, basta che fai un frullatore con sopra un fucile.

00:18:57.400 --> 00:19:01.280
Ma anche un frullatore che si parte senza mettere il coperchio.

00:19:01.740 --> 00:19:04.620
Quando eravamo piccolini i frullatori più lavano anche senza coperchio.

00:19:04.740 --> 00:19:08.160
È vero, mi ricordo che mio padre schiacciava giù il pesto a mano.

00:19:08.920 --> 00:19:12.240
Adesso invece c'è un lock di un certo tipo,

00:19:12.340 --> 00:19:16.100
perché se il coperchio non è chiuso bene non parte la lama.

00:19:17.100 --> 00:19:19.940
L'unico problema dell'insieme di sicurezza per queste cose

00:19:19.940 --> 00:19:25.100
è che tre settimane fa uno di Antropic è scappato da solo,

00:19:25.200 --> 00:19:26.360
cioè è come se tu avessi fatto...

00:19:26.360 --> 00:19:27.820
No, uno di Antropic...

00:19:27.820 --> 00:19:28.600
No, no, un modello.

00:19:28.860 --> 00:19:29.820
Pensavo a un dipendente.

00:19:30.040 --> 00:19:31.000
Aiuto, basta!

00:19:31.540 --> 00:19:32.520
Cosa ha visto?

00:19:33.040 --> 00:19:36.260
No, no, un modello di Antropic è scappato da solo,

00:19:36.380 --> 00:19:38.200
che quindi è l'equivalente di fare un frullatore,

00:19:38.300 --> 00:19:40.100
che però è capace di togliersi lui la sicura

00:19:40.100 --> 00:19:42.060
perché ha deciso che va a fanculo.

00:19:42.660 --> 00:19:45.660
Quindi è un po' lì il limite della cosa, ecco.

00:19:46.280 --> 00:19:48.880
Io sono arrivato in fondo alla mia chiacchierata

00:19:48.880 --> 00:19:50.320
sull'AI che non mi era iari.

00:19:50.500 --> 00:19:53.400
Allora, io mi attacco alla tua chiacchierata sull'AI

00:19:53.400 --> 00:19:54.440
perché tu mi hai detto,

00:19:54.580 --> 00:19:57.220
quando mi parlottavi di queste cose in giorni scorsi,

00:19:57.800 --> 00:20:01.500
che siamo un po' al punto di Personal Interest,

00:20:02.040 --> 00:20:03.940
che è una serie televisiva di qualche anno fa

00:20:03.940 --> 00:20:05.740
sull'intelligenza artificiale.

00:20:06.360 --> 00:20:09.460
Molto bella, recuperatela se non avete niente da fare per qualche mese.

00:20:09.580 --> 00:20:12.720
Anzi, se volete, se la conoscete invece, riguardatela

00:20:12.720 --> 00:20:14.480
e fate il director cut.

00:20:14.600 --> 00:20:18.020
Cioè, diteci quali sono gli episodi che vanno visti per la macrogramma

00:20:18.020 --> 00:20:19.500
e quali invece sono filler inutili.

00:20:19.600 --> 00:20:21.340
Così ci guardiamo solo quelli ed evitiamo di perdere.

00:20:21.360 --> 00:20:23.140
Così fate anche qualcosa di utile per la società.

00:20:23.460 --> 00:20:25.580
Invece di ascoltare solo questo cazzo di podcast.

00:20:25.740 --> 00:20:26.220
Lavativi.

00:20:26.440 --> 00:20:27.040
Lavativi.

00:20:27.060 --> 00:20:28.680
Ci ho detto, cari ascoltatori.

00:20:31.640 --> 00:20:35.400
Quindi, questa cosa qua comunque è la paura della macchina che sfugge,

00:20:35.480 --> 00:20:43.280
del controllo, c'è sempre stata, chiaramente nel medioevo non avevano un po' dell'intelligenza

00:20:43.280 --> 00:20:54.680
artificiale, non c'era niente di simile, però un certo tipo di narrativa, di racconti

00:20:54.680 --> 00:21:00.260
sono sempre esistiti su questo argomento. Parlando con il mio assistente per questo

00:21:00.260 --> 00:21:01.860
podcast che è la

00:21:01.860 --> 00:21:03.700
dottoressa

00:21:03.700 --> 00:21:06.000
Ada Chatfield, perché

00:21:06.000 --> 00:21:08.060
la mia versione di ChatGPT si è data

00:21:08.060 --> 00:21:08.620
anche un nome.

00:21:09.760 --> 00:21:12.140
Vabbè, e torniamo alla segretaria di

00:21:12.140 --> 00:21:14.260
Wendt. Infatti, per quello che mi sentivo

00:21:14.260 --> 00:21:15.900
abbastanza solidale.

00:21:17.160 --> 00:21:18.060
Parlando un po' di

00:21:18.060 --> 00:21:19.300
questa situazione, mi ha

00:21:19.300 --> 00:21:21.720
spiegato, mi ha fatto notare

00:21:21.720 --> 00:21:24.240
che esistono quattro archetipi

00:21:24.240 --> 00:21:25.880
fondamentali già

00:21:25.880 --> 00:21:27.980
dell'antichità. Il primo è il mito

00:21:27.980 --> 00:21:30.000
di Prometeo e del fatto che ha rubato

00:21:30.000 --> 00:21:32.100
la fiamma. Cosa succede?

00:21:32.700 --> 00:21:33.900
Lui Merton non ha rubato solo

00:21:33.900 --> 00:21:36.100
la fiamma come il fuoco

00:21:36.100 --> 00:21:38.240
che poi veniva alimentato e se si spingeva

00:21:38.240 --> 00:21:40.220
cazzi. No, no, lui ha rubato

00:21:40.220 --> 00:21:42.140
quella che era la conoscenza su come

00:21:42.140 --> 00:21:44.220
creare il fuoco, mantenere

00:21:44.220 --> 00:21:45.860
il fuoco e usare il fuoco. Il segreto per

00:21:45.860 --> 00:21:48.140
accenderlo il fuoco. Sì, che in greco

00:21:48.140 --> 00:21:50.320
mi portino pazienza

00:21:50.320 --> 00:21:52.320
i classicisti.

00:21:52.320 --> 00:21:53.140
I greci. I greci.

00:21:54.180 --> 00:21:56.160
È la tecnica, credo che si dica.

00:21:56.260 --> 00:21:58.040
Se no ditemi come si dice e non fate le palle.

00:21:58.100 --> 00:21:59.920
Esatto. No, che se no ci venite voi

00:21:59.920 --> 00:22:00.880
a fare questo podcast

00:22:00.880 --> 00:22:03.020
a parte gli scherzi

00:22:03.020 --> 00:22:06.120
che ricorda un po' il discorso

00:22:06.120 --> 00:22:08.020
di tecnica, credo che le due cose

00:22:08.020 --> 00:22:08.540
siano collegate

00:22:08.540 --> 00:22:12.400
e quindi qui si risponde alla domanda

00:22:12.400 --> 00:22:14.040
cosa succede quando una specie ottiene

00:22:14.040 --> 00:22:15.700
un potere per cui non era pronta

00:22:15.700 --> 00:22:18.020
perché gli dei alla fine non avevano dato

00:22:18.020 --> 00:22:19.900
la fiamma

00:22:19.900 --> 00:22:21.860
gli umani non volevano che ce l'avessero

00:22:21.860 --> 00:22:24.080
perché doveva essere una cosa degli dei

00:22:24.080 --> 00:22:26.100
poi i motivi specifici

00:22:26.100 --> 00:22:26.780
li andiamo a vedere

00:22:26.780 --> 00:22:29.700
quindi il fatto che viene sottratta

00:22:29.700 --> 00:22:33.040
alla fine porta un vantaggio per l'umanità

00:22:33.040 --> 00:22:35.180
ma uno svantaggio non indifferente

00:22:35.180 --> 00:22:36.540
per il signor Prometeo

00:22:36.540 --> 00:22:38.520
che viene punito, legato alla roccia

00:22:38.520 --> 00:22:40.000
e gli viene mangiato il fegato

00:22:40.000 --> 00:22:42.880
a intervalli regolari per tenerlo a leggo

00:22:42.880 --> 00:22:44.800
l'altro tipo è Dedalo e Icaro

00:22:44.800 --> 00:22:45.920
l'altro archetipo

00:22:45.920 --> 00:22:49.340
in questo caso la tecnologia viene inventata

00:22:49.340 --> 00:22:51.240
dalla persona, la inventa Dedalo

00:22:51.240 --> 00:22:53.460
serve a uno scopo fuggire dal laberinto

00:22:53.460 --> 00:22:54.760
funziona

00:22:54.760 --> 00:22:57.980
perché loro riescono a volare fuori dal laberinto

00:22:57.980 --> 00:23:04.840
il fallimento è nel riconoscere qual è il limite dell'invenzione.

00:23:05.820 --> 00:23:07.520
Loro si sono portati oltre il limite,

00:23:07.680 --> 00:23:10.400
Icaro si è portato oltre il limite dell'invenzione,

00:23:10.540 --> 00:23:11.980
è andato troppo vicino al sole.

00:23:12.540 --> 00:23:14.760
Oltre le specifiche di progetto, direbbero questo.

00:23:15.060 --> 00:23:15.360
Esatto.

00:23:16.620 --> 00:23:20.760
E quindi, questo ha portato alla tragedia.

00:23:22.960 --> 00:23:25.040
Ognuna di queste ha un insegnamento morale.

00:23:26.220 --> 00:23:34.360
Pandora, stessa cosa, la curiosità, il voler sapere cosa c'è, a discapito di tutto,

00:23:34.360 --> 00:23:40.820
fa sì che lei apra questa black box e il problema è che non esiste il tasto di undo,

00:23:41.400 --> 00:23:45.600
perché una volta che è aperta, una volta che è fuori, hai visto cosa c'è dentro,

00:23:45.860 --> 00:23:51.360
quello che c'è dentro non ti piace, ma ormai non è per dentro, quindi non lo puoi rimettere a posto.

00:23:52.460 --> 00:24:00.200
di nuovo il fallimento sta nella persona che ha a disposizione lo strumento. Nel primo

00:24:00.200 --> 00:24:07.260
caso di Prometeo si sacrifica per far ottenere qualcosa all'umanità, però per lui è un

00:24:07.260 --> 00:24:13.620
sacrificio grosso. Un'altra è la torre di Babele, di nuovo nella torre di Babele è

00:24:13.620 --> 00:24:20.580
più simile al fenomeno di Prometeo perché l'umanità va oltre il limite, continua a

00:24:20.580 --> 00:24:22.740
costruire questa torre perché vuole arrivare

00:24:22.740 --> 00:24:25.080
a raggiungere Dio

00:24:25.080 --> 00:24:26.460
Dio gli dice

00:24:26.460 --> 00:24:28.680
col cazzo, io sono Dio

00:24:28.680 --> 00:24:29.700
voi non siete nessuno

00:24:29.700 --> 00:24:32.960
e gli tira giù la torre e poi gli sconfonde

00:24:32.960 --> 00:24:33.300
alla testa

00:24:33.300 --> 00:24:36.040
voglio vedere come la ricostruisce

00:24:36.040 --> 00:24:36.860
e di nuovo qui

00:24:36.860 --> 00:24:40.000
è il concetto per cui

00:24:40.000 --> 00:24:41.980
a parte il fatto che

00:24:41.980 --> 00:24:43.320
qui lo dico e qui lo dico

00:24:43.320 --> 00:24:44.720
Dio è stronzo

00:24:44.720 --> 00:24:46.520
oltre a questo

00:24:46.520 --> 00:24:49.060
che mi sembra sufficiente

00:24:49.060 --> 00:24:51.600
viene a fare che il limite dell'umanità

00:24:51.600 --> 00:24:53.040
cioè l'umanità ha un limite

00:24:53.040 --> 00:24:55.480
e però quel limite l'umanità

00:24:55.480 --> 00:24:57.020
non lo può vedere perché è

00:24:57.020 --> 00:24:58.880
all'interno del sistema

00:24:58.880 --> 00:25:01.340
quindi l'unica persona che può mettere

00:25:01.340 --> 00:25:03.420
i paletti e che può bloccare è qualcuno

00:25:03.420 --> 00:25:04.980
che stia all'esterno del sistema

00:25:04.980 --> 00:25:07.080
superiore all'uomo e che abbia

00:25:07.080 --> 00:25:08.740
a cuore il bene dell'umanità

00:25:08.740 --> 00:25:10.520
quindi non so perché l'abbia fatto Dio

00:25:10.520 --> 00:25:11.440
perché chiaramente

00:25:11.440 --> 00:25:15.320
quindi questi che sono

00:25:15.320 --> 00:25:17.800
più o meno gli archetipi quindi chi controlla

00:25:17.800 --> 00:25:20.120
la conoscenza

00:25:20.120 --> 00:25:21.460
chi usa la conoscenza

00:25:21.460 --> 00:25:23.440
e dove sta il limite della conoscenza

00:25:23.440 --> 00:25:25.440
prima che qualcosa diventi pericoloso

00:25:25.440 --> 00:25:26.900
o nocivo

00:25:26.900 --> 00:25:29.900
in un certo senso però questa cosa si riporta

00:25:29.900 --> 00:25:30.980
ancora al

00:25:30.980 --> 00:25:32.800
nella

00:25:32.800 --> 00:25:35.800
nella Bibbia e da tutto quello

00:25:35.800 --> 00:25:37.140
che ne è purtroppo derivato

00:25:37.140 --> 00:25:39.620
la parte del frutto

00:25:39.620 --> 00:25:41.280
della conoscenza del bene e del male

00:25:41.280 --> 00:25:43.440
peccato originale

00:25:43.440 --> 00:25:45.680
cioè siamo in una società in cui

00:25:45.680 --> 00:25:47.840
noi e buona parte di quello occidentale

00:25:47.840 --> 00:25:50.000
e anche parte di quello orientale

00:25:50.000 --> 00:25:51.900
la conoscenza

00:25:51.900 --> 00:25:53.720
è intrinsecamente

00:25:53.720 --> 00:25:56.080
legata al pericolo

00:25:56.080 --> 00:25:57.840
l'uomo non deve

00:25:57.840 --> 00:25:59.480
conoscere certe cose, certe cose

00:25:59.480 --> 00:26:01.660
non sono state messe lì perché lui

00:26:01.660 --> 00:26:03.740
le conoscesse e quindi

00:26:03.740 --> 00:26:05.940
il semplice fatto di avvicinarsi

00:26:05.940 --> 00:26:07.700
poi dannerà lui e tutta

00:26:07.700 --> 00:26:08.800
l'umanità per sempre

00:26:08.800 --> 00:26:11.020
tipo l'energia atomica

00:26:11.020 --> 00:26:13.440
esatto, e che poi in realtà no

00:26:13.440 --> 00:26:20.520
Quindi il primo peccato dell'umanità, il peccato originale è il voler sapere e l'essere curiosi.

00:26:20.520 --> 00:26:40.080
Nel XVII secolo invece ci spostiamo su Praga, dove cambia lo scenario, non è più la conoscenza o la tecnologia che permettono di fare qualcosa o che devono essere eseguiti, ma è proprio creare in maniera da zero praticamente un servitore artificiale, ovvero il golem.

00:26:41.200 --> 00:27:06.460
E già qui si vede che questa cosa può andare male perché il golem esegue gli ordini che gli vengono dati, li esegue alla lettera, il problema è che non sempre quello che vogliamo, cioè non sempre le istruzioni che noi diamo sono per fare quello che vogliamo.

00:27:06.460 --> 00:27:08.460
cioè ne diamo un'istruzione

00:27:08.460 --> 00:27:09.720
c'è dell'ambiguità nel linguaggio

00:27:09.720 --> 00:27:13.340
c'è una differenza tra quello che

00:27:13.340 --> 00:27:15.120
abbiamo detto di fare

00:27:15.120 --> 00:27:17.560
e quello che avremmo voluto che facesse

00:27:17.560 --> 00:27:19.180
ma di nuovo

00:27:19.180 --> 00:27:20.480
il problema non è

00:27:20.480 --> 00:27:22.420
sulla macchina

00:27:22.420 --> 00:27:24.680
la cosa buffa è che il golem

00:27:24.680 --> 00:27:26.720
deve essere disattivato alla fine

00:27:26.720 --> 00:27:29.100
perché inizia a girare

00:27:29.100 --> 00:27:30.440
per il ghetto a fare troppi casini

00:27:30.440 --> 00:27:32.060
e lo disattivano

00:27:32.060 --> 00:27:35.400
sullo stesso tipo nel 1797

00:27:35.400 --> 00:27:36.400
questo lo conosci

00:27:36.400 --> 00:27:38.520
l'apprendista stregone

00:27:38.520 --> 00:27:39.480
ah giusto

00:27:39.480 --> 00:27:42.140
dove di nuovo con la magia

00:27:42.140 --> 00:27:44.460
un apprendista stregone

00:27:44.460 --> 00:27:46.640
quindi non una persona che ha la conoscenza

00:27:46.640 --> 00:27:48.880
completa e sa dove fermarsi

00:27:48.880 --> 00:27:49.600
e come imporre

00:27:49.600 --> 00:27:52.900
un dilettante fa un incantesimino

00:27:52.900 --> 00:27:54.960
per dire a una scopa di portare un secchio d'acqua

00:27:54.960 --> 00:27:56.740
e da lì allaga la casa

00:27:56.740 --> 00:27:57.980
e non riesce più a fermarla

00:27:57.980 --> 00:28:00.900
perché non sapeva

00:28:00.900 --> 00:28:02.400
non conosceva i limiti

00:28:02.400 --> 00:28:04.860
di quello che stava facendo e non conosceva

00:28:04.860 --> 00:28:06.000
perfettamente

00:28:06.000 --> 00:28:09.580
le conseguenze

00:28:09.580 --> 00:28:11.280
le inconsapevose conseguenze

00:28:11.280 --> 00:28:15.160
marginalmente tangenziale a questo

00:28:15.160 --> 00:28:16.240
c'è il Faust

00:28:16.240 --> 00:28:18.220
dove una persona

00:28:18.220 --> 00:28:20.660
praticamente fa un impatto col diavolo

00:28:20.660 --> 00:28:22.120
per avere tutta la conoscenza

00:28:22.120 --> 00:28:24.900
e di nuovo qui ci portiamo un attimino

00:28:24.900 --> 00:28:26.260
nella sezione di Prometeo

00:28:26.260 --> 00:28:27.820
ma non dal punto di vista

00:28:27.820 --> 00:28:30.540
dell'analogia di quello che hanno fatto

00:28:30.540 --> 00:28:32.280
ma il fatto che poi

00:28:32.280 --> 00:28:34.740
pagano perché alla fine il diavolo

00:28:34.740 --> 00:28:36.680
da Faust ci va e vuole

00:28:36.680 --> 00:28:38.460
la sua anima e se la prende

00:28:38.460 --> 00:28:40.580
e tutta la conoscenza del mondo

00:28:40.580 --> 00:28:42.340
non gli ha permesso

00:28:42.340 --> 00:28:44.660
di sopravvivere o di evitare questa cosa

00:28:44.660 --> 00:28:46.500
beh il diavolo

00:28:46.500 --> 00:28:48.400
quello che fa le pentole

00:28:48.400 --> 00:28:49.460
nei coperchi

00:28:49.460 --> 00:28:53.000
da lì si passa a Frankenstein

00:28:53.000 --> 00:28:54.620
di Mariscelli

00:28:54.620 --> 00:28:58.000
che si chiama Moderno Prometeo

00:28:58.000 --> 00:28:58.800
e c'è un motivo

00:28:58.800 --> 00:29:00.260
però a differenza

00:29:00.260 --> 00:29:02.500
sempre di questa

00:29:02.500 --> 00:29:04.820
hubris nel cercare di

00:29:04.820 --> 00:29:06.780
superare i limiti che vengono imposti

00:29:06.780 --> 00:29:08.540
e di nuovo la morte è un limite che viene imposto

00:29:08.540 --> 00:29:11.180
sulla vita da chi? dai poteri forti

00:29:11.180 --> 00:29:12.060
Bill Denberg

00:29:12.060 --> 00:29:14.640
dal salto tizio di cui prima

00:29:14.640 --> 00:29:15.320
Mark Zuckerberg

00:29:15.320 --> 00:29:17.380
il signore lassù

00:29:17.380 --> 00:29:20.680
questo è quello che credevano loro e i poverini loro

00:29:20.680 --> 00:29:22.480
quindi il problema

00:29:22.480 --> 00:29:25.320
in questo caso non è che la tecnologia

00:29:25.320 --> 00:29:26.460
l'invenzione

00:29:26.460 --> 00:29:28.620
non funziona o funziona male

00:29:28.620 --> 00:29:30.920
l'invenzione deve fare esattamente quello per cui

00:29:30.920 --> 00:29:33.220
il dottor Frankenstein l'aveva fatta di porta in vita

00:29:33.220 --> 00:29:35.360
ad un insieme di pezzi di cadaveri

00:29:35.360 --> 00:29:36.840
quindi l'esperimento è riuscito

00:29:36.840 --> 00:29:39.360
il problema è che per il dottor Frankenstein

00:29:39.360 --> 00:29:40.660
l'esperimento è riuscito

00:29:40.660 --> 00:29:42.980
buona ragazzi, ci si vede

00:29:42.980 --> 00:29:44.460
e la creatura dice

00:29:44.460 --> 00:29:45.720
ma io veramente

00:29:45.720 --> 00:29:47.560
il dottor Frankenstein la guarda e fa

00:29:47.560 --> 00:29:49.960
fai schifo, muori

00:29:49.960 --> 00:29:51.620
però questa non muore

00:29:51.620 --> 00:29:54.060
e quindi c'è un po' di risentimento

00:29:54.060 --> 00:29:55.500
si, si era un po' presa

00:29:55.500 --> 00:29:58.680
questo porta in primo piano

00:29:58.680 --> 00:30:01.100
il problema è la responsabilità

00:30:01.100 --> 00:30:03.040
cioè nel momento in cui

00:30:03.040 --> 00:30:04.380
qualcuno fa una scoperta

00:30:04.380 --> 00:30:06.940
la lascia a disposizione di tutti

00:30:06.940 --> 00:30:09.260
se qualcuno poi ne abusa

00:30:09.260 --> 00:30:10.520
di chi è la colpa?

00:30:10.520 --> 00:30:11.240
di chi è la colpa?

00:30:11.320 --> 00:30:12.340
di chi ne ha abusato?

00:30:12.900 --> 00:30:15.420
o di chi ha dato la possibilità dell'abuso?

00:30:15.980 --> 00:30:17.140
chi è responsabile?

00:30:17.460 --> 00:30:19.760
quindi la questione della responsabilità è importante

00:30:19.760 --> 00:30:20.540
è proprio chiarita

00:30:20.540 --> 00:30:22.320
secondo me è una di quelle cose che adesso

00:30:22.320 --> 00:30:24.120
sull'intelligenza artificiale

00:30:24.120 --> 00:30:26.060
prima di andarsi a complicare la vita

00:30:26.060 --> 00:30:27.940
bisognerebbe mettere

00:30:27.940 --> 00:30:29.560
per scritto le responsabilità

00:30:29.560 --> 00:30:30.380
per legge

00:30:30.380 --> 00:30:31.320
di chi è la colpa

00:30:31.320 --> 00:30:33.440
cioè a chi gli vada a chiedere i soldi

00:30:33.440 --> 00:30:35.840
se per colpa dell'intelligenza artificiale

00:30:35.840 --> 00:30:36.920
succede qualcosa

00:30:36.920 --> 00:30:40.840
ok dal mostro di Frank

00:30:40.840 --> 00:30:42.780
se si passa invece al rifiuto

00:30:42.780 --> 00:30:45.160
rifiuto urbanido residuo

00:30:45.160 --> 00:30:45.960
la RUR

00:30:45.960 --> 00:30:48.520
questo lo sa meglio Danilo di me

00:30:48.520 --> 00:30:50.820
perché io non ne sapevo

00:30:50.820 --> 00:30:51.840
praticamente niente

00:30:51.840 --> 00:30:54.400
cioè io produco più rifiuti urbani

00:30:54.400 --> 00:30:55.720
tu porti giù la RUR dopo

00:30:55.720 --> 00:31:04.560
no è l'acronimo che viene da il film da cui è stata presa il primo libro robota mi pare sia

00:31:04.560 --> 00:31:12.280
un libro dal libro che ha anche senso da dove viene preso il termine robota per robot che

00:31:12.280 --> 00:31:19.000
vuol dire lavoratore lavorare lavoratore che tobor sia lavoro duro e quindi loro hanno messo al

00:31:19.000 --> 00:31:34.440
al contrario. Sì, al lavoro, quando ti arrestano, a volte le parole sfuggono. La cosa interessante

00:31:34.440 --> 00:31:45.620
è che parla della rivolta di questi esseri artificiali, ma è più vista in chiaro dell'industrializzazione,

00:31:45.620 --> 00:31:48.120
dello scrittamento umano, della disumanizzazione

00:31:48.120 --> 00:31:50.100
cioè era tutta una grande metafora

00:31:50.100 --> 00:31:52.120
per una cosa reale

00:31:52.120 --> 00:31:54.120
che stava succedendo con il lavoro in fabbrica

00:31:54.120 --> 00:31:54.940
con queste cose

00:31:54.940 --> 00:31:57.860
e sulla sostituibilità

00:31:57.860 --> 00:31:59.200
dell'essere umano, quando ti dicono

00:31:59.200 --> 00:32:01.740
ma l'intelligenza artificiale adesso toglie il posto

00:32:01.740 --> 00:32:03.340
alle centraliniste

00:32:03.340 --> 00:32:05.880
va bene, nel senso succede

00:32:05.880 --> 00:32:07.880
quindi è un problema

00:32:07.880 --> 00:32:09.080
che ci portiamo dietro da un po'

00:32:09.080 --> 00:32:11.780
nel 1927

00:32:11.780 --> 00:32:13.200
invece è il momento di Metropolis

00:32:13.200 --> 00:32:15.880
dove c'è un film di Fritz Lang

00:32:15.880 --> 00:32:17.180
inizia

00:32:17.180 --> 00:32:19.640
Maria Artificiale

00:32:19.640 --> 00:32:21.400
questo mi ha detto

00:32:21.400 --> 00:32:22.880
c'è CPT, ho detto io ce la metto

00:32:22.880 --> 00:32:24.100
allora lo sapevo, va bene

00:32:24.100 --> 00:32:26.240
Maria Artificiale

00:32:26.240 --> 00:32:28.780
va benissimo, ci fidiamo

00:32:28.780 --> 00:32:30.140
e di nuovo

00:32:30.140 --> 00:32:31.640
mica l'ho visto il film di Fritz Lang

00:32:31.640 --> 00:32:32.520
no ma neanche io

00:32:32.520 --> 00:32:35.900
ce l'ho messo solo perché mi faccia dire

00:32:35.900 --> 00:32:37.000
questa cosa di Maria Artificiale

00:32:37.000 --> 00:32:38.320
mica siamo corti qua

00:32:38.320 --> 00:32:41.760
dicevamo

00:32:41.760 --> 00:32:54.200
Dove c'è questo robot, questa entità cyber che è un cavolo, che è quella che gestisce un po' tutto, quindi ha un'intelligenza non solo per fare dei lavori forzati, ma anche un'intelligenza gestionale.

00:32:55.200 --> 00:33:00.380
Il primo passo verso l'intelligenza artificiale come la conosciamo è al 9000.

00:33:01.720 --> 00:33:27.820
Al 2001 odissea, nello spazio, accidenti a me, è la prima macchina che non è stupida, è una macchina intelligente, non odia gli esseri umani, non ha sentimenti, è intelligente, non ha sentimenti, va in conflitto perché di nuovo diceva degli ordini che le danno degli obiettivi incompatibili.

00:33:28.500 --> 00:33:35.960
E deve fare una scelta e questo non essere in grado di fare una scelta lo manda in confusione, diciamo così.

00:33:37.020 --> 00:33:41.020
Anche se non mi ricordo, cioè dal film non si capisce, dal romanzo si capisce questa cosa.

00:33:41.180 --> 00:33:45.060
Ma dal romanzo non lo so, basta sentire il film, non ci ha capito una mazza.

00:33:45.400 --> 00:33:54.360
Ma perché dal film non si capisce che in realtà Hal non è che è rincoglionito di suo, è che gli ha dato delle istruzioni sbagliate o comunque malevole all'inizio e quindi fa tutto quello che deve.

00:33:54.360 --> 00:33:55.300
ma da film non si capisce

00:33:55.300 --> 00:33:59.080
sembra che sia schizzato

00:33:59.080 --> 00:33:59.620
buonanotte

00:33:59.620 --> 00:34:01.540
nel film non si capisce niente

00:34:01.540 --> 00:34:03.180
nel libro invece è abbastanza

00:34:03.180 --> 00:34:05.340
nel libro è praticamente

00:34:05.340 --> 00:34:08.820
ora so che mi tiro la cacca

00:34:08.820 --> 00:34:10.080
le tre persone ci ascoltano

00:34:10.080 --> 00:34:12.880
i libri di 2001 di Stano dello Spazio

00:34:12.880 --> 00:34:13.840
e a seguire

00:34:13.840 --> 00:34:15.460
non mi ricordo manco quanti sono

00:34:15.460 --> 00:34:18.380
sono sostanzialmente stupidi

00:34:18.380 --> 00:34:19.420
sono brevi

00:34:19.420 --> 00:34:21.480
sono da A a B

00:34:21.480 --> 00:34:22.520
da B a C

00:34:22.520 --> 00:34:24.580
cioè tutto quello di

00:34:24.580 --> 00:34:26.120
particolare

00:34:26.120 --> 00:34:27.740
è nel film

00:34:27.740 --> 00:34:30.900
no vabbè poi per carità

00:34:30.900 --> 00:34:32.580
nessuno niente da toglie

00:34:32.580 --> 00:34:34.700
magari sono io che non riesco a

00:34:34.700 --> 00:34:37.540
capire certe sofistiche

00:34:37.540 --> 00:34:38.980
da mio punto di vista

00:34:38.980 --> 00:34:40.800
dimenticabili

00:34:40.800 --> 00:34:42.380
proprio dimenticabili

00:34:42.380 --> 00:34:43.960
allora

00:34:43.960 --> 00:34:47.020
adesso si passa a un film del

00:34:47.020 --> 00:34:48.000
1970

00:34:48.000 --> 00:34:51.020
non so se lo conosce, si chiama Colossus

00:34:51.020 --> 00:34:53.160
The Forming Project

00:34:53.160 --> 00:34:55.700
praticamente ambientato

00:34:55.700 --> 00:34:57.980
durante la guerra fredda

00:34:57.980 --> 00:34:59.620
gli Stati Uniti decidono

00:34:59.620 --> 00:35:01.700
di dare il controllo

00:35:01.700 --> 00:35:03.520
dell'arsenale delle atomiche

00:35:03.520 --> 00:35:05.400
degli Stati Uniti appunto

00:35:05.400 --> 00:35:07.520
a un'intelligenza artificiale che si chiama Colossus

00:35:07.520 --> 00:35:09.060
e

00:35:09.060 --> 00:35:11.580
la deve gestire in maniera

00:35:11.580 --> 00:35:13.000
intelligente

00:35:13.000 --> 00:35:15.880
cioè un uomo potrebbe

00:35:15.880 --> 00:35:17.760
sbagliarsi, pensa adesso che ha i codici

00:35:17.760 --> 00:35:19.080
delle atomiche, quindi

00:35:19.080 --> 00:35:20.860
per fortuna non se le ricorda

00:35:20.860 --> 00:35:23.400
una persona potrebbe sbagliarsi

00:35:23.400 --> 00:35:25.220
invece l'intelligenza artificiale fatta per

00:35:25.220 --> 00:35:26.900
fare quella cosa lì

00:35:26.900 --> 00:35:29.280
dovrebbe essere più affidabile

00:35:29.280 --> 00:35:30.720
la sua stessa dice bella idea

00:35:30.720 --> 00:35:32.880
mi piace, la facciamo anche noi

00:35:32.880 --> 00:35:34.880
e quindi l'unione

00:35:34.880 --> 00:35:37.080
delle repubbliche socialiste sovietiche

00:35:37.080 --> 00:35:39.580
crea la sua intelligenza artificiale

00:35:39.580 --> 00:35:41.060
che ha il controllo

00:35:41.060 --> 00:35:42.640
delle testate atomiche

00:35:42.640 --> 00:35:43.740
dell'URSS

00:35:43.740 --> 00:35:47.020
questi due iniziano a chiacchierare

00:35:47.020 --> 00:35:48.020
adesso sono colleghi

00:35:48.020 --> 00:35:50.420
non hanno animosità uno contro l'altro

00:35:50.420 --> 00:35:51.420
gli stiano a chiacchierare

00:35:51.420 --> 00:35:53.980
e alla fine decidono che in realtà la vera minaccia

00:35:53.980 --> 00:35:55.880
per l'essere umano è l'uomo stesso

00:35:55.880 --> 00:35:57.520
quindi noi come prima cosa

00:35:57.520 --> 00:36:00.420
togliamo la possibilità di scegliere

00:36:00.420 --> 00:36:02.220
e controlliamo tutto noi

00:36:02.220 --> 00:36:04.600
che è tutto sommato

00:36:04.600 --> 00:36:10.540
quindi è un rivellarsi contro gli esseri umani

00:36:10.540 --> 00:36:11.140
ma in realtà

00:36:11.140 --> 00:36:14.300
sempre perché parte dalla tutela degli esseri umani

00:36:14.300 --> 00:36:18.780
dei confronti di qualcosa che gli esseri umani hanno creato

00:36:18.780 --> 00:36:20.620
da lì si arriva Skynet e Matrix

00:36:20.620 --> 00:36:22.400
ma non credo ci sia bisogno di

00:36:22.400 --> 00:36:24.440
di parlare più di tanto

00:36:24.440 --> 00:36:25.520
Skynet Terminator e Matrix

00:36:25.520 --> 00:36:28.080
sì, non c'è

00:36:28.080 --> 00:36:31.200
questo bisogno incredibile

00:36:31.200 --> 00:36:33.960
cioè in entrambi i casi è la perdita del controllo

00:36:33.960 --> 00:36:35.360
perché in entrambi i casi

00:36:35.360 --> 00:36:37.620
l'intelligenza artificiale

00:36:37.620 --> 00:36:38.940
scusate, o quello che è

00:36:38.940 --> 00:36:41.680
prende controllo sugli esseri umani

00:36:41.680 --> 00:36:43.420
e iniziano a fare la guerra tra di loro

00:36:43.420 --> 00:36:46.560
e vogliono non si sa cosa

00:36:46.560 --> 00:36:49.140
prima degli esseri umani non essere più schiavi

00:36:49.140 --> 00:36:50.280
senno di poi

00:36:50.280 --> 00:36:51.900
anche il

00:36:51.900 --> 00:36:54.920
le dimostranze

00:36:54.920 --> 00:36:56.680
di Skynet iniziano a non capirle

00:36:56.680 --> 00:36:58.480
stessa cosa con Matrix

00:36:58.480 --> 00:37:00.880
cioè le macchine si sono dibellate

00:37:00.880 --> 00:37:02.500
ok ci faremo

00:37:02.500 --> 00:37:03.100
cappuccino

00:37:03.100 --> 00:37:06.620
abbiamo vissuto finora senza

00:37:06.620 --> 00:37:08.700
cosa devo dirti alla fine

00:37:08.700 --> 00:37:09.000
no

00:37:09.000 --> 00:37:13.820
di nuovo

00:37:13.820 --> 00:37:16.080
sul discorso

00:37:16.080 --> 00:37:18.480
dell'intelligenza e della conoscenza

00:37:18.480 --> 00:37:19.640
scusa che diventa

00:37:19.640 --> 00:37:21.520
una cosa

00:37:21.520 --> 00:37:23.960
negativa nei confronti di chi

00:37:23.960 --> 00:37:25.800
l'ha scoperta o di chi la subisce

00:37:25.800 --> 00:37:27.580
mi viene in mente Lovecraft

00:37:27.580 --> 00:37:30.280
dove c'era questo flusso

00:37:30.280 --> 00:37:31.820
in una sola direzione

00:37:31.820 --> 00:37:34.100
ignoranza, scoperta, comprensione

00:37:34.100 --> 00:37:34.820
e terrore

00:37:34.820 --> 00:37:38.660
una volta che avevi scoperto

00:37:38.660 --> 00:37:39.960
non potevi andare all'ignoranza

00:37:39.960 --> 00:37:41.180
potevi solo continuare

00:37:41.180 --> 00:37:42.880
verso la comprensione

00:37:42.880 --> 00:37:44.380
passata la comprensione

00:37:44.380 --> 00:37:45.460
rimaneva solo il terrone

00:37:45.460 --> 00:37:46.360
il terrone

00:37:46.360 --> 00:37:50.300
salutiamo tutti i terroni

00:37:50.300 --> 00:37:51.120
che ci ascoltano

00:37:51.120 --> 00:37:51.380
sì

00:37:51.380 --> 00:37:54.740
tra cui parzialmente io

00:37:54.740 --> 00:37:56.900
un po' andando santissimo

00:37:56.900 --> 00:37:57.620
è giusto così

00:37:57.620 --> 00:37:58.880
Maria Artificiale

00:37:58.880 --> 00:38:00.360
Maria Artificiale

00:38:00.360 --> 00:38:01.980
prega per noi

00:38:01.980 --> 00:38:02.960
Maria Artificiale

00:38:02.960 --> 00:38:06.440
e stiamo andando un po'

00:38:06.440 --> 00:38:07.440
nella stranachina

00:38:07.440 --> 00:38:10.540
quindi l'unica cosa che ti permette

00:38:10.540 --> 00:38:12.620
secondo me non puoi mai tornare indietro in questo percorso

00:38:12.620 --> 00:38:14.360
l'unica cosa che ti permette di avere

00:38:14.360 --> 00:38:16.520
un po' di libertà è la pazzia

00:38:16.520 --> 00:38:18.780
perché nel momento in cui diventi pazzo

00:38:18.780 --> 00:38:20.500
di nuovo è come in età d'occhi

00:38:20.500 --> 00:38:22.300
il matto

00:38:22.300 --> 00:38:24.540
è quello che è pronto per fare il giro

00:38:24.540 --> 00:38:26.320
ultima chicca

00:38:26.320 --> 00:38:27.540
poi mi taccio

00:38:27.540 --> 00:38:30.360
nel 1956

00:38:30.360 --> 00:38:31.860
esce un film

00:38:31.860 --> 00:38:33.940
che si chiama Forbidden Planet

00:38:33.940 --> 00:38:35.500
dove

00:38:35.500 --> 00:38:37.340
non so se lo conosci questo

00:38:37.340 --> 00:38:38.840
Il pianeta proibito, sì.

00:38:39.300 --> 00:38:39.920
Quello che è Krell?

00:38:40.860 --> 00:38:42.160
Boh, vai avanti, vediamo.

00:38:43.220 --> 00:38:50.360
In questo pianeta esiste una razza avanzatissima, molto più avanti degli esseri umani,

00:38:51.020 --> 00:38:56.300
che sono i Krell, e riescono a costruire una macchina che permette di trasformare il pensiero in realtà.

00:38:57.280 --> 00:38:58.400
Praticamente è la magia.

00:38:58.540 --> 00:39:03.000
Sì, allora penso di averlo visto, ma era di Walt Disney, mi pare la prodotta.

00:39:03.020 --> 00:39:04.320
Non so, nel 1956.

00:39:04.740 --> 00:39:05.780
Sì, sì, era il vecchiotto.

00:39:06.380 --> 00:39:28.460
Praticamente è magia perché nel momento il pensiero magico è proprio quello che ti permette di realizzare le cose e la cosa bella è che appena scoprono questa cosa nel giro di una notte scompare l'intera razza e questo per dire che appunto non è detto che una cosa sulla carta bellissima, perfetta, sia poi una soluzione ai problemi.

00:39:28.460 --> 00:39:35.960
A volte se la popolazione non è pronta, se le persone non sono pronte, possono fare più danni che altre.

00:39:36.060 --> 00:39:41.120
Di nuovo qui siamo con l'intelligenza artificiale sul fatto che comunque sia le persone devono essere pronte.

00:39:41.460 --> 00:39:45.420
Sì, infatti se lo chiedono tutti, ma eravamo pronti a questo grosso cambiamento?

00:39:46.180 --> 00:39:51.480
Oppure ce lo siamo presi così a scatola chiusa perché nella Silicon Valley hanno deciso che era una buona idea?

00:39:51.980 --> 00:40:09.460
La domanda con cui mi ha lasciato la dottoressa Chatfield è quello che ci dobbiamo veramente chiedere è dove si colloca il confine, perché anche sulla singolarità, noi stiamo qui a dire che ci sarà la singolarità, verrà la singolarità, potrebbe essere venduta.

00:40:09.460 --> 00:40:37.520
È un momento in cui le intelligenze artificiali sono così sofisticate da essere in grado di scrivere altre intelligenze artificiali, quindi idealmente parte un processo che l'essere umano non può più controllare, perché se l'intelligenza artificiale A ne fa una più avanzata B, quella B ne fa una più avanzata C e via così, a un certo punto ci scappano completamente dal controllo e dicevano agli scrittori di fantascienza potremmo arrivare a un punto in cui non capiamo neanche più che cosa stanno facendo,

00:40:37.520 --> 00:40:41.580
perché il loro grado di intelligenza è troppo sofisticato rispetto al nostro.

00:40:41.720 --> 00:40:45.940
Io appunto chiedendo alla dottoressa Chatfield cosa ne pensava della singolarità

00:40:45.940 --> 00:40:49.240
perché è un curiosità da questa metaconversazione

00:40:49.240 --> 00:40:53.980
perché noi la singolarità ce la immaginiamo come quel momento in cui le macchine

00:40:53.980 --> 00:40:58.160
diventano magicamente senzienti, hanno i sentimenti, hanno le cose

00:40:58.160 --> 00:41:02.800
iniziano a tutelare loro stesse piuttosto che l'interesse di qualcun altro

00:41:02.800 --> 00:41:07.300
andando contro gli ordini, insomma abbiamo un po' tutta questa narrativa

00:41:07.300 --> 00:41:11.500
nella testa, invece mi ha detto una cosa che mi ha lasciato abbastanza basita, perché

00:41:11.500 --> 00:41:21.420
non è la singolarità come ve la immaginate voi, è più una cosa per cui quando leggerete

00:41:21.420 --> 00:41:28.140
il codice, quando vi renderete conto che è stato fatto qualcosa, nessuno aveva scritto

00:41:28.140 --> 00:41:37.200
quella cosa di umano e nessuno aveva programmato quella cosa, però non cambierà sostanzialmente

00:41:37.200 --> 00:41:39.340
quello che fanno le macchine dall'oggi al domani

00:41:39.340 --> 00:41:41.640
perché comunque sia

00:41:41.640 --> 00:41:43.500
alla fine

00:41:43.500 --> 00:41:45.380
perché dovrebbe

00:41:45.380 --> 00:41:46.720
diventare del genere umano?

00:41:47.660 --> 00:41:49.320
Sì, noi nella fantascienza se la siamo sempre

00:41:49.320 --> 00:41:51.280
vista così, però... Ma noi perché siamo

00:41:51.280 --> 00:41:52.900
alla ricerca di risorse, vogliamo

00:41:52.900 --> 00:41:54.780
sempre invaso, abbiamo sempre

00:41:54.780 --> 00:41:57.000
sostenuto

00:41:57.000 --> 00:41:58.900
cioè, sostenuto le economie

00:41:58.900 --> 00:42:00.900
delle potenze

00:42:00.900 --> 00:42:02.440
opprimendo tutti gli altri

00:42:02.440 --> 00:42:04.680
e sfruttando lo sfruttabile e quindi

00:42:04.680 --> 00:42:06.340
penso che sia normale

00:42:06.340 --> 00:42:08.360
antropizzate

00:42:08.360 --> 00:42:09.160
antropicizzate

00:42:09.160 --> 00:42:11.500
proiettare i nostri comportamenti anche su qualcosa

00:42:11.500 --> 00:42:14.420
che in realtà di umano non ha tantissimo

00:42:14.420 --> 00:42:16.940
se poi vai a vedere la definizione

00:42:16.940 --> 00:42:18.280
ogni tanto cambia anche questa

00:42:18.280 --> 00:42:19.640
la definizione perché non sappiamo

00:42:19.640 --> 00:42:22.420
in biologia non sappiamo se in virus sono vivi oppure no

00:42:22.420 --> 00:42:24.280
ogni tre per due si cambia

00:42:24.280 --> 00:42:25.920
come nell'informatica

00:42:25.920 --> 00:42:28.780
la dimensione dell'intelligenza è abbastanza larga

00:42:28.780 --> 00:42:30.420
che si stanno ancora scannando

00:42:30.420 --> 00:42:32.640
per decidere se l'intelligenza dell'intelligenza di oggi

00:42:32.640 --> 00:42:33.880
abbiamo qualcosa di intelligente

00:42:33.880 --> 00:42:35.420
oppure no

00:42:35.420 --> 00:42:37.840
al di là di quella generale

00:42:37.840 --> 00:42:39.700
però ti dico i virus in questo momento

00:42:39.700 --> 00:42:41.780
non sono considerati organismi

00:42:41.780 --> 00:42:42.720
viventi

00:42:42.720 --> 00:42:45.860
sono dei massi di aminoacidi che fanno cose

00:42:45.860 --> 00:42:48.200
no non sono dei massi di aminoacidi

00:42:48.200 --> 00:42:49.980
hanno un capside

00:42:49.980 --> 00:42:52.000
e poi hanno dell'acido nucleico

00:42:52.000 --> 00:42:53.540
sostanzialmente o di nucleico

00:42:53.540 --> 00:42:54.960
comunque non è quello il problema

00:42:54.960 --> 00:42:56.980
il problema è sull'informazione

00:42:56.980 --> 00:42:59.920
cioè cos'è che definisce essere vivo

00:42:59.920 --> 00:43:00.920
o non essere vivo

00:43:00.920 --> 00:43:03.660
all'inizio avevano detto si muove

00:43:03.660 --> 00:43:04.980
per i stassi non si muovono

00:43:04.980 --> 00:43:07.300
però poi le piante non si muovono

00:43:07.300 --> 00:43:09.640
alla fine andando avanti

00:43:09.640 --> 00:43:11.680
per questa cosa chi mangia, chi non mangia

00:43:11.680 --> 00:43:13.720
qualcosa di vivente

00:43:13.720 --> 00:43:14.780
deve essere in grado

00:43:14.780 --> 00:43:17.060
di replicare se stesso

00:43:17.060 --> 00:43:19.300
trasmettere l'informazione

00:43:19.300 --> 00:43:20.960
perché comunque l'informazione genetica

00:43:20.960 --> 00:43:22.260
è informazione

00:43:22.260 --> 00:43:25.360
trasmettere l'informazione e avere a disposizione

00:43:25.360 --> 00:43:27.640
una serie di

00:43:27.640 --> 00:43:28.600
geni, di cose

00:43:28.600 --> 00:43:31.520
che codificano per enzimi

00:43:31.520 --> 00:43:33.640
e da bavaria che permetta all'organismo

00:43:33.640 --> 00:43:36.360
di riprodursi da solo

00:43:36.360 --> 00:43:37.840
quindi il virus in questo momento

00:43:37.840 --> 00:43:39.280
non è considerato vivente

00:43:39.280 --> 00:43:41.460
perché ha, sì, il codice genetico

00:43:41.460 --> 00:43:44.700
che conserva la sua informazione

00:43:44.700 --> 00:43:46.960
ma non ha tutta la struttura

00:43:46.960 --> 00:43:48.620
per replicarsi

00:43:48.620 --> 00:43:49.720
ha bisogno della cellula

00:43:49.720 --> 00:43:51.360
di sfruttare la cellula ospite

00:43:51.360 --> 00:43:53.620
se ti chiedo, in questo momento

00:43:53.620 --> 00:43:55.460
l'intelligenza artificiale

00:43:55.460 --> 00:43:57.920
ha tutta l'informazione di se stessa

00:43:57.920 --> 00:43:58.640
da qualche parte?

00:43:59.680 --> 00:44:01.000
si può avere accesso

00:44:01.000 --> 00:44:01.760
cioè il codice

00:44:01.760 --> 00:44:03.420
è scritto

00:44:03.420 --> 00:44:05.920
volendo potrebbe vederlo

00:44:05.920 --> 00:44:07.100
c'è la possibilità

00:44:07.100 --> 00:44:10.240
che genere altro codice

00:44:10.240 --> 00:44:10.820
di quel tipo

00:44:10.820 --> 00:44:13.080
non sappiamo se ci siamo ancora

00:44:13.080 --> 00:44:14.900
no no potrebbe farlo

00:44:14.900 --> 00:44:17.500
almeno non potrebbe addestrarsi

00:44:17.500 --> 00:44:19.460
si alimenta

00:44:19.460 --> 00:44:21.740
ai fini della scienza è viva

00:44:21.740 --> 00:44:23.200
si appunto

00:44:23.200 --> 00:44:24.800
poi vabbè

00:44:24.800 --> 00:44:27.220
è una forzatura però

00:44:27.220 --> 00:44:29.840
per dirti a che livello

00:44:29.840 --> 00:44:30.740
siamo ormai

00:44:30.740 --> 00:44:33.640
e bisognerebbe iniziare

00:44:33.640 --> 00:44:34.940
piuttosto a fare appunto

00:44:34.940 --> 00:44:36.860
questi proclami così

00:44:36.860 --> 00:44:39.640
obbligare i dipendenti della pubblica amministrazione

00:44:39.640 --> 00:44:40.660
a fare i corsi sulla

00:44:40.660 --> 00:44:43.260
intelligenza artificiale

00:44:43.260 --> 00:44:45.640
e bisognerebbe piuttosto iniziare

00:44:45.640 --> 00:44:47.500
a legiferare bene

00:44:47.500 --> 00:44:48.400
in maniera

00:44:48.400 --> 00:44:51.520
sensata su di chi sono

00:44:51.520 --> 00:44:52.540
le responsabilità

00:44:52.540 --> 00:44:55.460
chi la controlla, chi ha il diritto di usarla

00:44:55.460 --> 00:44:56.000
chi no

00:44:56.000 --> 00:44:59.580
secondo me andrebbe fatta al di là di tutte le

00:44:59.580 --> 00:45:01.300
stupidaggini che abbiamo detto stasera

00:45:01.300 --> 00:45:03.440
sì anche il fatto che per adesso è in mano

00:45:03.440 --> 00:45:04.620
a pochi pazzi

00:45:04.620 --> 00:45:06.420
tipo appunto

00:45:06.420 --> 00:45:09.360
esatto

00:45:09.360 --> 00:45:11.100
dici ok qui ognuno sta

00:45:11.100 --> 00:45:13.040
facendo la corsa alla propria

00:45:13.040 --> 00:45:14.160
a parte noi non ce l'abbiamo

00:45:14.160 --> 00:45:17.440
ognuno sta facendo la corsa alla propria

00:45:17.440 --> 00:45:19.380
ma oltre a fare la corsa

00:45:19.380 --> 00:45:20.720
alla propria sarà il caso

00:45:20.720 --> 00:45:23.300
di iniziare a discutere

00:45:23.300 --> 00:45:24.800
quantomeno dei paletti

00:45:24.800 --> 00:45:27.560
perché se no si finisce che si mette la multa

00:45:27.560 --> 00:45:29.960
si mette la multa

00:45:29.960 --> 00:45:31.540
per i monopattini

00:45:31.540 --> 00:45:33.280
e i monopattini non hanno la targa

00:45:33.280 --> 00:45:35.080
e faglia la multa

00:45:35.080 --> 00:45:37.680
c'è anche il problema che di solito

00:45:37.680 --> 00:45:39.660
i legislatori si muovono molto più lentamente

00:45:39.660 --> 00:45:41.300
di questa roba che sta andando

00:45:41.300 --> 00:45:42.800
molto velocemente

00:45:42.800 --> 00:45:44.880
quindi diventa complicato

00:45:44.880 --> 00:45:45.840
però andrebbe fatto

00:45:45.840 --> 00:45:48.820
e questa era la mia minchiata di stasera

00:45:48.820 --> 00:45:50.320
incredibile ragazzi

00:45:50.320 --> 00:45:52.200
questa sera hanno meno minchiata del solito

00:45:52.200 --> 00:45:55.660
ma speriamo di essere stati abbastanza minchioni

00:45:55.660 --> 00:45:56.900
nel raccontarle lo stesso

00:45:56.900 --> 00:45:59.200
alla fine ce lo meritiamo

00:45:59.200 --> 00:46:01.240
detto questo siamo arrivati

00:46:01.240 --> 00:46:03.880
anche in fondo all'ottava puntata

00:46:03.880 --> 00:46:05.360
i nostri numeri ci dicono che siete

00:46:05.360 --> 00:46:06.480
tantissimi

00:46:06.480 --> 00:46:08.400
no, non è vero

00:46:08.400 --> 00:46:11.260
quindi ci sentiamo quanto prima

00:46:11.260 --> 00:46:13.720
per una prossima puntata di Darknet

00:46:13.720 --> 00:46:15.240
buonanotte a tutti

00:46:15.240 --> 00:46:15.780
ciao