WEBVTT 00:00:06.909 --> 00:00:09.589 Willkommen zu unserer nächsten Folge Produktives 00:00:09.589 --> 00:00:14.109 Chillen mit Maher und Shadi. Wir heute besprechen 00:00:14.109 --> 00:00:16.129 ein richtig interessantes Thema, mit dem wir 00:00:16.129 --> 00:00:18.989 immer gemeinsam in Konflikt geraten. Das Thema, 00:00:19.070 --> 00:00:23.309 ob KI ein Bewusstsein hat, ob KI von Grundsätzen 00:00:23.309 --> 00:00:28.710 von sich selbst aus böse ist. Und warum die Leute 00:00:28.710 --> 00:00:31.649 immer dieses Endzeit -Szenario haben. Ich habe 00:00:31.649 --> 00:00:36.409 heute für uns einige Aussagen dabei von den berühmtesten 00:00:36.409 --> 00:00:39.329 Tech -Millionären. Und einmal von Elon Musk, 00:00:39.469 --> 00:00:43.250 der gesagt hat, dass KI eine existenzielle Bedrohung 00:00:43.250 --> 00:00:46.710 darstellt. Und er hat gemeint, dass 20 % die 00:00:46.710 --> 00:00:50.189 Wahrscheinlichkeit besteht, dass KI böse ausfallen 00:00:50.189 --> 00:00:55.969 wird. Wie sozusagen so eine Art Apokalypse. rufen 00:00:55.969 --> 00:00:58.969 werden, wenn wir KI nicht richtig eindämmen oder 00:00:58.969 --> 00:01:02.509 nicht richtig kontrollieren. Und er prognostiziert, 00:01:02.530 --> 00:01:08.069 dass im Jahre 2029 oder 30 das Niveau der Intelligenz 00:01:08.069 --> 00:01:12.890 der KI unserer eigenen Intelligenz als Menschen, 00:01:13.049 --> 00:01:16.209 also dass sie sie erreicht, also Singularität 00:01:16.209 --> 00:01:20.250 in anderen Worten, und dass in fünf Jahren die 00:01:20.250 --> 00:01:23.870 Dinge instabil und seltsam werden. Was er genau 00:01:23.870 --> 00:01:26.769 damit meint, ist ein bisschen unklar. Mark Zuckerberg 00:01:26.769 --> 00:01:30.629 ist da eher sehr, sehr positiv gestimmt. Er sagt, 00:01:30.730 --> 00:01:32.989 persönliche Superintelligenz für alle. Also er 00:01:32.989 --> 00:01:36.189 möchte das ausrollen, ohne Limite skalieren und 00:01:36.189 --> 00:01:38.370 so weiter. Man merkt das auch in unserem letzten 00:01:38.370 --> 00:01:40.750 Podcast mit der Meta -AI -Brille und so weiter, 00:01:40.750 --> 00:01:45.730 dass das überall reinsteckt. Zur Notwendigkeit 00:01:45.730 --> 00:01:47.689 von KI hat er gesagt, wenn sie keine Brille mit 00:01:47.689 --> 00:01:50.170 KI haben oder eine andere Möglichkeit mit KI 00:01:50.170 --> 00:01:53.590 zu interagieren, werden sie wahrscheinlich einen 00:01:53.590 --> 00:01:56.530 ziemlich signifikanten kognitiven Nachteil gegenüber 00:01:56.530 --> 00:01:59.730 anderen Menschen haben. Natürlich tut er das 00:01:59.730 --> 00:02:03.269 ein bisschen als Eigenwerbung nutzen für seine 00:02:03.269 --> 00:02:05.510 eigenen Produkte. Und dann haben wir als dritte 00:02:05.510 --> 00:02:11.590 Person von Asien Jack Ma, der Gründer von Alibaba 00:02:11.590 --> 00:02:16.659 und Co. Er sagt zum Konfliktpotenzial zur KI, 00:02:16.879 --> 00:02:19.960 die künstliche Intelligenz wird die dritte technologische 00:02:19.960 --> 00:02:26.039 Revolution ausführen und nach dem dritten Weltkrieg 00:02:26.039 --> 00:02:28.039 münden. Also dass ein dritter Weltkrieg entsteht. 00:02:28.039 --> 00:02:31.360 Ein bisschen schwierig die Aussage. Und zu den 00:02:31.360 --> 00:02:34.659 sozialen Folgen. KI wird in den nächsten drei 00:02:34.659 --> 00:02:37.800 Jahrzehnten mehr Schmerz als Glück verursachen. 00:02:38.960 --> 00:02:42.120 Und eine wichtige Aussage, was er ja auch gesagt 00:02:42.120 --> 00:02:45.280 hat, zur menschlichen Überlegenheit. Computer 00:02:45.280 --> 00:02:47.960 mögen klug sein, aber der Mensch ist viel schlauer. 00:02:50.419 --> 00:02:53.740 Und diese Zitate möchte ich zum Anhaltspunkt 00:02:53.740 --> 00:02:56.979 nehmen, um heute mit Shadi darüber zu diskutieren, 00:02:57.020 --> 00:03:02.900 was er darüber denkt, ob A. KI schlauer als der 00:03:02.900 --> 00:03:09.819 Mensch ist oder schon ist oder noch wird ein 00:03:09.819 --> 00:03:12.680 Endzeitszenario ausführen wird à la Armageddon, 00:03:12.699 --> 00:03:16.740 wie zum Beispiel der Film iRobot, den wir in 00:03:16.740 --> 00:03:18.800 der Vergangenheit oder in unserer Jugend gesehen 00:03:18.800 --> 00:03:24.020 haben mit Will Smith in der Jahr 2000er -Zeit, 00:03:24.080 --> 00:03:26.680 Anfang 2000er kam da. Ich glaube, die meisten 00:03:26.680 --> 00:03:28.560 von euch haben ihn geschaut oder von ihm gehört. 00:03:28.939 --> 00:03:32.280 Und zu solch einem Szenario werden wir heute 00:03:32.280 --> 00:03:37.740 reden. Denkst du, dass KI... mittlerweile so 00:03:37.740 --> 00:03:39.919 Intelligentes wie der Mensch oder sogar intelligenter? 00:03:41.719 --> 00:03:48.180 Ich finde das immer schwer zu sagen, weil die 00:03:48.180 --> 00:03:51.159 Frage ist immer so ein bisschen vage formuliert. 00:03:51.860 --> 00:03:57.400 Also intelligenter in Bezug auf was? Beispielsweise, 00:03:57.400 --> 00:04:00.860 weil du weißt ja so, Intelligenz hat verschiedene 00:04:00.860 --> 00:04:02.900 Bereiche. Man sagt ja immer, es gibt verschiedene 00:04:02.900 --> 00:04:05.360 Formen von Intelligenz. Lass uns zwei Sachen 00:04:05.360 --> 00:04:08.500 anschauen. Sagen wir mal Intelligenz, was so 00:04:08.500 --> 00:04:10.840 quantitative Sachen angeht. Diese ganzen Minimentfächer, 00:04:10.879 --> 00:04:16.699 Chemie, Physik, Mathe. Auch in dem Bereich ist 00:04:16.699 --> 00:04:19.860 es so ein bisschen, finde ich, wichtig zu formulieren. 00:04:19.980 --> 00:04:22.339 Also quantitativ ist schon so ein guter Begriff, 00:04:22.339 --> 00:04:26.319 finde ich. Weil wenn es darum geht, einfach schnell 00:04:26.319 --> 00:04:30.649 Antworten zu finden, die die jetzt, sage ich 00:04:30.649 --> 00:04:32.629 mal, von der Qualität nicht so relevant sind. 00:04:32.769 --> 00:04:37.689 Also zum Beispiel ein Sortieralgorithmus. Es 00:04:37.689 --> 00:04:43.189 gibt ja viele Versionen. Es gibt ja viele Algorithmen, 00:04:43.209 --> 00:04:47.069 die halt gut, weniger gut sind, weniger geeignet 00:04:47.069 --> 00:04:49.750 je nach Anwendungsfall. Und wenn es darum geht, 00:04:49.810 --> 00:04:53.529 einfach einen rauszuhauen, dann wirst du, also 00:04:53.529 --> 00:04:56.069 wenn du das jetzt als Leistung misst, so in Bezug 00:04:56.069 --> 00:05:00.579 auf Geschwindigkeit, dann hast du ja keine Chance. 00:05:01.079 --> 00:05:04.560 Nee, wir haben absolut keine Chance. Es übertrifft 00:05:04.560 --> 00:05:06.459 ja jegliches Google. Ja, aber wenn es dann so 00:05:06.459 --> 00:05:11.519 ein spezifischer Fall ist, wo es so kaum da gewesen 00:05:11.519 --> 00:05:14.480 ist, dann sind das, denke ich, noch Fälle, wo 00:05:14.480 --> 00:05:21.639 der Mensch noch voraus ist, könnte ich mir vorstellen. 00:05:21.899 --> 00:05:23.899 Also ich habe es jetzt nicht so genau getestet, 00:05:23.899 --> 00:05:25.759 dass ich dir eine absolute Aussage geben kann. 00:05:28.319 --> 00:05:33.720 Aber AI funktioniert ja durch eine riesige Ansammlung 00:05:33.720 --> 00:05:37.220 von Daten, die dann stochastisch eine Möglichkeit 00:05:37.220 --> 00:05:39.819 darstellen, also eine wahrscheinliche Möglichkeit 00:05:39.819 --> 00:05:42.620 oder eine wahrscheinliche Antwort auf die Frage, 00:05:42.720 --> 00:05:47.639 die man formuliert. Und wenn es halt eine noch 00:05:47.639 --> 00:05:51.079 nie dagewesene Lösung ist, dann ist die Wahrscheinlichkeit, 00:05:51.079 --> 00:05:55.680 dass die AI was Korrektes rausspuckt. Sehr gering, 00:05:55.740 --> 00:05:59.300 richtig? Ja, Zufall. Genau, und dann wird, glaube 00:05:59.300 --> 00:06:03.459 ich, der Mensch dann eine bessere Antwort liefern. 00:06:03.500 --> 00:06:09.160 Also du meinst, dass der Mensch eine Idee zu 00:06:09.160 --> 00:06:13.160 einem ungelösten Problem schneller selbst generieren 00:06:13.160 --> 00:06:15.920 kann, oder sagen wir mal, eine richtigere Antwort 00:06:15.920 --> 00:06:19.060 generiert, als eine KI, wo der Datensatz einfach 00:06:19.060 --> 00:06:21.959 fehlt oder nie da gewesen ist. Jetzt, wo du es 00:06:21.959 --> 00:06:23.819 so sagst, ist, glaube ich, die Kombination am 00:06:23.819 --> 00:06:27.509 besten. Weil auch der Mensch muss ja erstmal 00:06:27.509 --> 00:06:31.889 Informationen zusammentragen. Und Sachen probieren. 00:06:32.089 --> 00:06:36.050 Genau, und das dann evaluieren und neu kombinieren, 00:06:36.110 --> 00:06:40.089 rekombinieren. Also ich kann mir nicht vorstellen, 00:06:40.209 --> 00:06:43.569 dass ein Mensch, der keine AI nutzt... Also wenn 00:06:43.569 --> 00:06:46.410 du das so aus Geschwindigkeitsperspektive... 00:06:46.410 --> 00:06:47.410 Ja, genau. Also ich kann mir nicht vorstellen, 00:06:47.470 --> 00:06:52.689 dass ein Mensch ohne AI einen Mensch mit AI besiegt. 00:06:52.990 --> 00:06:57.720 Genau. Hast du absolut recht. Aber jetzt so im 00:06:57.720 --> 00:07:00.220 direkten Vergleich, dann denke ich ja qualitativ 00:07:00.220 --> 00:07:04.300 gewinnt der Mensch und quantitativ gewinnt auf 00:07:04.300 --> 00:07:06.480 jeden Fall die AI. Und das sieht man auch so 00:07:06.480 --> 00:07:09.819 wirklich in den meisten Fällen, wo du wahrscheinlich 00:07:09.819 --> 00:07:14.060 und ich auch AI im Sinne von LLMs genutzt haben, 00:07:14.180 --> 00:07:16.720 um Ideen zu generieren, zum Beispiel Slogans, 00:07:16.720 --> 00:07:19.860 Texte und Co. Da haben wir eine hohe Quantität 00:07:19.860 --> 00:07:24.860 von Texten, Ideen und so weiter, ob sie alles 00:07:24.860 --> 00:07:28.240 gut sind oder nicht, ist schwierig. Am Ende sortieren 00:07:28.240 --> 00:07:31.720 wir das aus, also den Output. Aber stell dir 00:07:31.720 --> 00:07:36.079 mal vor, du hast eine alleinstehende LLM als 00:07:36.079 --> 00:07:38.899 KI und du hast den Mensch und der Mensch nutzt 00:07:38.899 --> 00:07:41.370 einfach seinen Computer. aktuellste Technologie, 00:07:41.410 --> 00:07:44.129 aber er nutzt keine KI. Und er hat ein Problem, 00:07:44.269 --> 00:07:46.790 stell dir jetzt mal vor, zum Beispiel so ein 00:07:46.790 --> 00:07:50.009 Sortierungsproblem, und er muss einen ganz neuen 00:07:50.009 --> 00:07:54.189 Algorithmus finden. Glaubst du, rein, wenn jetzt 00:07:54.189 --> 00:07:56.110 zum Beispiel die Zeit keine Rolle spielen würde, 00:07:56.689 --> 00:08:01.870 wer kommt mit der besseren Idee raus? Da gibt 00:08:01.870 --> 00:08:04.069 es auch vielleicht auch in unserer Audience, 00:08:04.370 --> 00:08:06.430 ich glaube nicht, dass es da die Lösung gibt 00:08:06.430 --> 00:08:09.779 oder die Antwort, aber was ist... Was würdest 00:08:09.779 --> 00:08:12.959 du, sagen wir mal, wo würdest du hin tendieren? 00:08:13.019 --> 00:08:15.660 Ist der Mensch schlauer in so einem Szenario 00:08:15.660 --> 00:08:22.860 oder die Anführungsstriche KI? Ich glaube, wenn 00:08:22.860 --> 00:08:30.240 du die AI richtig steuerst, wenn du sie in so 00:08:30.240 --> 00:08:35.259 ein System steckst, wo sie so vorgehen würde 00:08:35.259 --> 00:08:40.190 wie ein Mensch mit Trial and Error, dann könnte 00:08:40.190 --> 00:08:42.129 es schon sein, dass sie mit einem besseren Ergebnis, 00:08:42.330 --> 00:08:44.730 also so wie du es formulierst, dass sie mit einem 00:08:44.730 --> 00:08:48.929 besseren Ergebnis dasteht, weil nichts hält ja 00:08:48.929 --> 00:08:55.230 die LLM davon aus, sage ich mal, einen Algorithmus 00:08:55.230 --> 00:08:59.129 aufzustellen, zu probieren und immer wieder gezielt 00:08:59.129 --> 00:09:03.870 dran rumzufallen, bis er dann ein Optimum trifft, 00:09:03.889 --> 00:09:08.460 weil es gibt ja Bereiche der Mathematik, die 00:09:08.460 --> 00:09:12.139 sich genau mit diesen Themen beschäftigen, also 00:09:12.139 --> 00:09:17.620 mit Annäherung. Genau, mit Annäherung an Multiparameter 00:09:17.620 --> 00:09:22.740 -Probleme oder was ist die Idealkurve und so 00:09:22.740 --> 00:09:27.200 weiter. So Fittings. Genau, und wenn es halt 00:09:27.200 --> 00:09:31.580 darum geht, zu evaluieren und Schlüsse zu ziehen, 00:09:31.639 --> 00:09:33.500 evaluieren, Schlüsse zu ziehen, evaluieren, Schlüsse 00:09:33.500 --> 00:09:36.639 zu ziehen, wenn das das Vorgehen ist, um den 00:09:37.649 --> 00:09:40.529 besten Algorithmus zu finden, dann könnte die 00:09:40.529 --> 00:09:44.149 AI gewinnen, weil die AI ist ja immer schneller. 00:09:45.009 --> 00:09:47.990 Genau das. Wir hätten kein Geschwindigkeitsproblem. 00:09:48.269 --> 00:09:52.789 Wir hätten unendlich Zeit. Und das ist super, 00:09:52.830 --> 00:09:54.730 wie du es gerade erwähnt hast. Es ist ja ein 00:09:54.730 --> 00:09:57.690 Annäherungsproblem, den besten Sortieralgorithmus 00:09:57.690 --> 00:10:03.009 zu finden. Zum Beispiel. Glaubst du, der Mensch 00:10:03.009 --> 00:10:08.309 findet eine bessere, geilere Idee? Wenn er auch 00:10:08.309 --> 00:10:10.509 unendlich lang probieren kann. Ich tue mich, 00:10:10.529 --> 00:10:14.070 glaube ich, gerade schwer... Diesen Zeitfaktor, 00:10:14.070 --> 00:10:17.549 gell? Ja, einmal diesen Zeitfaktor wegzulassen 00:10:17.549 --> 00:10:22.529 und zum anderen halt mich von dem Gedanken loszulösen, 00:10:22.570 --> 00:10:26.490 dass die AI verwendet wird. Ah, dass der Mensch 00:10:26.490 --> 00:10:28.789 nichts verwendet. Er benutzt ganz normal Google 00:10:28.789 --> 00:10:30.710 und Internet und programmieren. Nein, ich meine, 00:10:30.710 --> 00:10:34.509 die AI, die... Die ist omnipräsent? Nein, die 00:10:34.509 --> 00:10:37.259 macht es ja nicht selber, sondern... Jemand wird 00:10:37.259 --> 00:10:40.860 die AI bedienen müssen. Jemand wird der AI diese 00:10:40.860 --> 00:10:44.019 Aufgabe geben und je nachdem, wie er diese Aufgabe 00:10:44.019 --> 00:10:48.899 formuliert und wie er die AI verwendet, kann 00:10:48.899 --> 00:10:50.919 sie zu einem besseren Resultat. Also ich tue 00:10:50.919 --> 00:10:53.039 mich schwer, den Menschen komplett rauszulassen. 00:10:53.220 --> 00:10:56.879 Du hast absolut recht, 100%. Sagen wir mal, beide 00:10:56.879 --> 00:11:00.440 haben die gleiche Aufgabenstellung. Exakt gleich. 00:11:01.220 --> 00:11:06.470 Und die LLM wird nicht mehr weiter bedient. Die 00:11:06.470 --> 00:11:08.669 KI, das ist das neueste Modell, das existiert. 00:11:08.730 --> 00:11:11.330 Die wird nicht weiter bedient, sondern hey, das 00:11:11.330 --> 00:11:16.330 ist ein Datensatz. Stand jetzt, das ist ein Datensatz. 00:11:16.409 --> 00:11:18.809 Beide kriegen den gleichen Datensatz. Die müssen 00:11:18.809 --> 00:11:21.850 den effizientesten Sortierungsalgorithmus finden. 00:11:21.950 --> 00:11:26.370 Was noch nie da gewesen ist. Dann denke ich, 00:11:26.389 --> 00:11:28.250 wird der Mensch gewinnen. Das denke ich nämlich 00:11:28.250 --> 00:11:32.490 auch. Was du gerade angesprochen hast und wo 00:11:32.490 --> 00:11:34.649 du so ein Problem damit hast, glaube ich, ist 00:11:34.649 --> 00:11:37.789 auch so ein wichtiger Faktor für alle hier. Denn 00:11:37.789 --> 00:11:41.029 Intelligenz hat auch was ein bisschen mit Geschwindigkeit 00:11:41.029 --> 00:11:43.809 zu tun. Weißt du, wenn du dich jetzt erinnerst, 00:11:43.809 --> 00:11:47.990 in unserer Schulzeit, der bei Mathe am schnellsten 00:11:47.990 --> 00:11:51.070 gestreckt hat und die richtige Lösung hatte, 00:11:51.210 --> 00:11:56.220 da hat so die Masse war begeistert. Weißt du 00:11:56.220 --> 00:12:00.159 noch, wenn man schnell mit der Klausur fertig 00:12:00.159 --> 00:12:02.659 war und macht zum Beispiel und solchen Dingen, 00:12:02.799 --> 00:12:06.120 weil der Mensch assoziiert mit Schnelligkeit 00:12:06.120 --> 00:12:13.200 auch einen Teil von Intelligenz. Unser Schulsystem 00:12:13.200 --> 00:12:19.159 baut ja darauf, dass du bei einer Leistungsprüfung 00:12:19.159 --> 00:12:21.940 oder bei einer Abschlussarbeit, dass du ein Problem 00:12:21.940 --> 00:12:26.100 in einer gewissen Zeit löst. Die ganze Arbeitswelt 00:12:26.100 --> 00:12:28.519 ist ja so. Du hast ja immer Deadlines, du hast 00:12:28.519 --> 00:12:31.779 ja immer Ziele, Ergebnisse, die du liefern musst 00:12:31.779 --> 00:12:34.740 und so weiter. Genau, das heißt, ja, in dem Sinne 00:12:34.740 --> 00:12:40.480 schon schwer für den Menschen. Ja, weißt du, 00:12:40.500 --> 00:12:42.700 weil die KI ist ja nicht nur schnell, die hat 00:12:42.700 --> 00:12:45.759 ja eine hohe Datenbandbreite, die sie verarbeitet. 00:12:46.840 --> 00:12:49.820 Weißt du, die kann einen ganz großen Kontext 00:12:49.820 --> 00:12:53.120 sich anschauen und wir haben nur einen gewissen 00:12:53.120 --> 00:12:56.830 Kontextrahmen. Der allgemeine Zweck von Computern 00:12:56.830 --> 00:13:05.710 ist ja ein Werkzeug, um deine Aufgaben oder Intentionen 00:13:05.710 --> 00:13:08.629 schneller durchzuführen, oder nicht? Ja, es ist 00:13:08.629 --> 00:13:11.389 letztendlich ein Hilfsmittel. Ob man eine Tabelle 00:13:11.389 --> 00:13:14.590 kalkulieren muss oder ob man eine Grafik erstellt 00:13:14.590 --> 00:13:17.029 oder ob man irgendwas recherchiert am Ende, ist 00:13:17.029 --> 00:13:19.250 ja nur so schnell wie der User. Ich meine, alles, 00:13:19.409 --> 00:13:22.809 was wir mit dem Computer machen, können wir auch 00:13:22.809 --> 00:13:27.129 ohne. Wobei, ich weiß nicht, ob die Aussage so 00:13:27.129 --> 00:13:29.009 ganz stimmt. Doch, kommunizieren können wir. 00:13:29.549 --> 00:13:32.750 Ja, kommunizieren könnten wir ohne. Rechnen könnten 00:13:32.750 --> 00:13:37.090 wir ohne. Es ist nur ein Beschleuniger. Genau, 00:13:37.190 --> 00:13:41.750 also mein Prof hat immer gesagt, ein Computer 00:13:41.750 --> 00:13:43.429 ist eigentlich nur ein super schneller Idiot. 00:13:44.450 --> 00:13:48.370 Das war aber vor AI. Aber denkst du, ich finde, 00:13:48.370 --> 00:13:52.799 das ist eine tolle Aussage. Ist eine AI nicht 00:13:52.799 --> 00:13:56.220 auch so intelligent wie sein eigener User? Wenn 00:13:56.220 --> 00:13:58.860 du jetzt sagst, du hast ja davor gesagt, du tust 00:13:58.860 --> 00:14:00.580 dich damit schwer, dass die AI auch von einem 00:14:00.580 --> 00:14:06.320 Menschen bedienen wird. Und wenn der Prompt scheiße 00:14:06.320 --> 00:14:11.100 formuliert ist, dann kommt auch nur Scheiße raus. 00:14:11.399 --> 00:14:15.940 Ja, es gibt halt bei der AI gibt es ja, sag ich 00:14:15.940 --> 00:14:23.590 mal, zwei Das ist ja nicht der einzige Faktor, 00:14:23.610 --> 00:14:25.690 der eine Rolle spielt. Du hast ja den Prompt 00:14:25.690 --> 00:14:29.669 und du hast ja die Trainingsdaten und die Trainingsdaten, 00:14:29.730 --> 00:14:34.309 die deuten ja auf ein mögliches Ergebnis. Da 00:14:34.309 --> 00:14:42.490 kommt ja nicht eine falsche Antwort raus. Denkst 00:14:42.490 --> 00:14:45.529 du, dass eine Antwort rauskommt, die schon existiert 00:14:45.529 --> 00:14:49.700 hat oder die näher existiert hat? Weißt du, also 00:14:49.700 --> 00:14:53.059 in der ähnlichen Form? Oder ob eine AI komplett 00:14:53.059 --> 00:14:56.440 was Neues erfinden kann? Nee, ich glaube, also 00:14:56.440 --> 00:14:59.480 sie können, AIs können ja rekombinieren. Auf 00:14:59.480 --> 00:15:05.759 jeden Fall, ja. Aber sie neigen immer dazu, etwas 00:15:05.759 --> 00:15:08.940 schon Dagewesenes auszuspucken, würde ich sagen. 00:15:09.679 --> 00:15:11.440 Auch wenn es zum Beispiel in der Kombination 00:15:11.440 --> 00:15:17.139 falsch ist. Ja, das kommt ja vor. Absolut. Weil 00:15:17.139 --> 00:15:18.899 was, glaube ich, wichtig ist für die Menschen 00:15:18.899 --> 00:15:21.860 zu verstehen, dass AI nicht so denkt wie wir. 00:15:22.620 --> 00:15:27.139 Also ich habe auch immer das Gefühl, dass AI 00:15:27.139 --> 00:15:31.179 nicht intelligent ist. Das ist dein Gefühl und 00:15:31.179 --> 00:15:34.840 bei mir ist es so ein Zwiespalt. Weißt du, manchmal 00:15:34.840 --> 00:15:37.639 denke ich mir, AI ist mega dumm. Vor allem, wenn 00:15:37.639 --> 00:15:40.779 wir mit dem Realtime -Modell reden. Montana Black 00:15:40.779 --> 00:15:43.000 sagt ja immer Günther dazu, also die Realtime 00:15:43.000 --> 00:15:46.779 -Sprache. dass er einen sehr, sehr oft missversteht. 00:15:46.940 --> 00:15:49.379 Also nicht nur, dass er die Worte nicht richtig 00:15:49.379 --> 00:15:52.559 erkennt, sondern den Prompt, den Satz, den wir 00:15:52.559 --> 00:15:56.159 sprechen, vollständig missinterpretiert. Aber 00:15:56.159 --> 00:15:58.940 wenn du, ich finde, vor allem haben wir in der 00:15:58.940 --> 00:16:01.980 letzten Folge, wenn man es zum Coden nutzt, hast 00:16:01.980 --> 00:16:03.279 du nicht das Gefühl, dass es mega intelligent 00:16:03.279 --> 00:16:07.039 ist? Also beim Coden habe ich immer das Gefühl, 00:16:07.139 --> 00:16:11.409 es ist auf jeden Fall erstaunlich. was rauskommt, 00:16:11.450 --> 00:16:13.990 das ist ein bisschen gruselig gut, so habe ich 00:16:13.990 --> 00:16:19.210 es heute im Unterricht formuliert. Aber weißt 00:16:19.210 --> 00:16:22.029 du, wenn es daneben liegt, dann merkst du einfach, 00:16:22.110 --> 00:16:25.730 dass es gar nicht versteht, um was es geht. Also 00:16:25.730 --> 00:16:28.049 wenn es Fehler macht, dann sind die Fehler, haben 00:16:28.049 --> 00:16:33.009 so eine Natur von Dummheit oder die halt einfach 00:16:33.009 --> 00:16:36.870 zu zusammenhangslos ist. Ich weiß, was du meinst. 00:16:36.870 --> 00:16:41.220 Also der Fehler hat nichts mit dem, mit deiner 00:16:41.220 --> 00:16:43.799 Eingabe zu tun. Der ist komplett random. Zum 00:16:43.799 --> 00:16:50.240 Beispiel, du sagst ihm, das ist mein Luftdruck, 00:16:50.320 --> 00:16:53.279 das ist meine Feuchtigkeit und das ist meine 00:16:53.279 --> 00:16:59.080 Temperatur und stell mir eine Formel auf, die 00:16:59.080 --> 00:17:02.419 eine Relation zwischen allen Größen herstellt, 00:17:02.539 --> 00:17:08.859 wie die sich gegenseitig beeinflussen. Und irgendwann 00:17:08.859 --> 00:17:11.160 im Laufe des Chats fängt er dann einfach an, 00:17:11.279 --> 00:17:16.640 die Werte zu ändern. Also er fängt an zu halluzinieren. 00:17:16.880 --> 00:17:20.920 Ja, oder die Werte wegzulassen. Und das heißt, 00:17:21.000 --> 00:17:24.700 er hat nicht wirklich einen Kontext. Oder wenn 00:17:24.700 --> 00:17:26.839 du sagen willst, er hat kein Bewusstsein einfach. 00:17:27.420 --> 00:17:31.640 Ja, also er bleibt nicht in der Spur. Genau, 00:17:31.700 --> 00:17:35.400 also er kann nicht in Verkettungen denken, wie 00:17:35.400 --> 00:17:36.980 wir Menschen jetzt zum Beispiel. Das ist ja viel, 00:17:37.059 --> 00:17:39.319 viel besser geworden. Ja, durch dieses Reasoning. 00:17:39.519 --> 00:17:43.400 Genau, ich glaube, die versuchen immer so, ich 00:17:43.400 --> 00:17:45.960 glaube, da gibt es eine Nachbearbeitung vom Prompt. 00:17:46.019 --> 00:17:48.160 Der Prompt geht wahrscheinlich nicht. Er geht 00:17:48.160 --> 00:17:50.000 auch durch Kontextfilter, weißt du, und die Leute 00:17:50.000 --> 00:17:52.539 wollen ja nicht, dass man irgendwas Illegales 00:17:52.539 --> 00:17:54.700 damit macht, zum Beispiel eine Atombombe promptet 00:17:54.700 --> 00:17:56.680 oder so, wie man eine Atombombe bei der TNT oder 00:17:56.680 --> 00:17:58.970 so herstellt. Also da geht auf jeden Fall durch 00:17:58.970 --> 00:18:02.869 so einen Ethik -Moral -Filter und was du sagst, 00:18:02.869 --> 00:18:05.750 da bin ich mir relativ sicher, das merkt man, 00:18:05.789 --> 00:18:07.630 finde ich, bei ChatGBT, wenn du jetzt so ein 00:18:07.630 --> 00:18:09.730 Prompt eingibst, wie jetzt dein Beispiel vorhin, 00:18:09.829 --> 00:18:17.190 dass du kurz Thinking siehst oder kurz das erwartet 00:18:17.190 --> 00:18:20.700 und wenn du ins Reasoning reinkommst, bei JIT 00:18:20.700 --> 00:18:24.140 3D 5, das ist ja so, dass man es nicht mehr einstellt, 00:18:24.160 --> 00:18:26.099 sondern der wählt es ja jetzt selber. Wenn du 00:18:26.099 --> 00:18:28.119 da drauf drückst, siehst du, dass er deinen Prompt 00:18:28.119 --> 00:18:31.299 neu formuliert hat. Also du hast da, denke ich, 00:18:31.299 --> 00:18:32.660 deine Vermutung ist richtig. Ich glaube, in den 00:18:32.660 --> 00:18:35.420 Anfangsmodellen war es nicht so. Aber damit man 00:18:35.420 --> 00:18:37.339 einfach die User Experience für Menschen, die 00:18:37.339 --> 00:18:41.539 jetzt sporadisch AI nutzen, dass er das rephrased. 00:18:41.599 --> 00:18:43.819 Aber denkst du, dass er durch das Rephrasing 00:18:43.819 --> 00:18:48.599 Kontext verliert? Oder dass es besser wird? Von 00:18:48.599 --> 00:18:50.720 der Erfahrung ist es auf jeden Fall besser geworden. 00:18:51.720 --> 00:18:54.220 Aber es gibt immer noch so Szenarien, ich habe 00:18:54.220 --> 00:18:58.079 jetzt keins im Kopf, aber wo ich einfach so merke, 00:18:58.240 --> 00:19:04.660 das versteht nicht, was es macht. Es gibt dir 00:19:04.660 --> 00:19:08.210 einfach Antworten. Beim Coden hast du absolut 00:19:08.210 --> 00:19:10.549 recht, da ist es teilweise wirklich erschreckend 00:19:10.549 --> 00:19:14.109 und teilweise beängstigend gut. Aber wo ich das 00:19:14.109 --> 00:19:17.690 merke, ist, wenn du einen komplizierteren Code 00:19:17.690 --> 00:19:20.890 hast, mit sehr, sehr vielen Funktionen, dass 00:19:20.890 --> 00:19:24.549 er oft Funktionen doppelt schreibt. Also in Python 00:19:24.549 --> 00:19:26.130 ist es oft so, ich weiß nicht, ob das dir auch 00:19:26.130 --> 00:19:28.630 mal aufgefallen ist, dass er teilweise, wenn 00:19:28.630 --> 00:19:30.049 du ihm sagst, hey, die Funktion funktioniert 00:19:30.049 --> 00:19:32.410 nicht richtig, dass er sie einfach nochmal reincodet. 00:19:33.529 --> 00:19:36.150 Und wenn sie dann falsch hintereinander liegen, 00:19:36.269 --> 00:19:38.509 das ist ja ein Skript, letztendlich von oben 00:19:38.509 --> 00:19:42.410 nach unten runterläuft, dass die Funktionen sich 00:19:42.410 --> 00:19:45.089 gegenseitig überschreiben. Der weiß tatsächlich 00:19:45.089 --> 00:19:47.630 nicht, was er macht. Der generiert letztendlich. 00:19:48.309 --> 00:19:54.190 Ja, und ich denke, beim Coden kommt es einem 00:19:54.190 --> 00:19:57.890 so gut vor, weil vielleicht ist es einfach die 00:19:57.890 --> 00:20:02.289 menschliche Wahrnehmung. Weißt du, dass Coden 00:20:02.289 --> 00:20:07.569 so komplex wirkt, aber eigentlich ist das für 00:20:07.569 --> 00:20:11.789 einen PC oder für eine AI ist das sogar einfacher 00:20:11.789 --> 00:20:15.029 als bloßen Text wiederzugeben. Es ist ja eine 00:20:15.029 --> 00:20:17.829 Form von Sprache. Ja genau, dass man deswegen 00:20:17.829 --> 00:20:25.250 denkt, also crazy wie gut das kann. Ja, ja. Aber 00:20:25.250 --> 00:20:29.250 es ist eigentlich gar nicht so wow. Wenn man 00:20:29.250 --> 00:20:32.490 sich so die AI -Maske aufmacht und durch die 00:20:32.490 --> 00:20:35.529 Blickwinkel der AI betrachtet, ist es jetzt nicht 00:20:35.529 --> 00:20:38.670 so wow. Es ist nichts anderes, genau. Was für 00:20:38.670 --> 00:20:43.549 mich zum Beispiel so wie er so die Sätze zusammenbastelt 00:20:43.549 --> 00:20:50.289 und wie er so Code zusammenbastelt, kann ich 00:20:50.289 --> 00:20:52.470 viel besser nachvollziehen, als wie er so ein 00:20:52.470 --> 00:20:57.140 Bild macht. 100%. Es ist nicht so abstrakt. Weißt 00:20:57.140 --> 00:21:00.440 du? Und ich denke halt, ich denke, das spielt 00:21:00.440 --> 00:21:03.539 die menschliche Wahrnehmung oder wie man als 00:21:03.539 --> 00:21:06.640 Mensch denkt. Und wie man glaubt, dass es funktioniert. 00:21:06.859 --> 00:21:08.839 Genau, eine sehr, sehr große Rolle, weil wenn 00:21:08.839 --> 00:21:11.539 du so ein Bild nimmst, du immer als Ganzes wahr. 00:21:11.740 --> 00:21:14.019 Du hast nicht so wie beim Text diese einzelnen 00:21:14.019 --> 00:21:17.700 Wörter, die einzelnen Buchstaben, wo du sagst, 00:21:17.740 --> 00:21:20.339 okay, ich kann das so anordnen oder so anordnen. 00:21:20.819 --> 00:21:23.789 Und das Bild, das Du hast so das Gefühl, das 00:21:23.789 --> 00:21:25.470 spuckt dir so ein ganzes Bild aus. Aber eigentlich 00:21:25.470 --> 00:21:28.230 sind das ja auch die einzelnen Pixel, die einzelnen 00:21:28.230 --> 00:21:32.230 Farbkombis. Und weil man das immer so als Ganzes 00:21:32.230 --> 00:21:35.769 wahrnimmt, wirkt es, glaube ich, so krass. Weißt 00:21:35.769 --> 00:21:39.450 du? Vor allem diese ganzen AI -Videos. Ja. Mit 00:21:39.450 --> 00:21:43.670 Zora und Veo und so. Die Memes, weißt du? Also 00:21:43.670 --> 00:21:48.240 Frankfurt. Storys oder was auch immer, irgendwelche 00:21:48.240 --> 00:21:51.000 Rentner oder irgendwelche so Straßenumfragen, 00:21:51.160 --> 00:21:56.500 wie täuschend echt die wirken. Die Leute, die 00:21:56.500 --> 00:21:58.720 vermischen das auch so mit Intelligenz, weißt 00:21:58.720 --> 00:22:00.839 du? Das ist ja Diffusion Wars, so generative 00:22:00.839 --> 00:22:03.420 Modelle letztendlich und manchmal haben die auch 00:22:03.420 --> 00:22:05.660 keine fünf, sondern sechs Finger. Da merkt man 00:22:05.660 --> 00:22:08.400 auch, dass das Bewusstsein nicht da ist. Genau, 00:22:08.440 --> 00:22:14.119 also so wie ein Mensch würde niemals einen anderen 00:22:14.119 --> 00:22:18.920 Menschen bewusst sechs Finger geben. Aber... 00:22:18.920 --> 00:22:22.799 Also außer er will eine Behinderung darstellen. 00:22:23.259 --> 00:22:26.200 Absolut, also mit Intention. Aber genau, ich 00:22:26.200 --> 00:22:30.319 glaube, das fürchtet die Menschen, weil die sehen, 00:22:30.380 --> 00:22:32.920 okay, KI ist mächtig, KI weiß viel, Anführungsstriche. 00:22:33.099 --> 00:22:38.640 Das hat ja ein großes Wissensdatenbank, so Vektordatenbank 00:22:38.640 --> 00:22:42.059 eher, wo dann Wörter letztendlich umgerechnet 00:22:42.059 --> 00:22:46.089 werden in Werte. Und hat dadurch, sagen wir mal, 00:22:46.230 --> 00:22:48.990 ein größeres Speichergehirn, Anführungsstriche. 00:22:49.410 --> 00:22:53.329 Aber es macht solche dubiosen Fehler. Und stell 00:22:53.329 --> 00:22:55.769 dir jetzt mal vor, also so denken manche Menschen, 00:22:55.950 --> 00:22:58.869 das ist ein bisschen absurd, aber wenn dann so 00:22:58.869 --> 00:23:01.769 eine AI halitioniert beispielsweise und sie hat 00:23:01.769 --> 00:23:04.930 Systemzugriff, beispielsweise auf so einen Großrechner, 00:23:04.930 --> 00:23:07.410 wie jetzt ein Chat -GVT -Modell gehostet ist 00:23:07.410 --> 00:23:09.509 und man hat, sagen wir mal, stellen wir uns so 00:23:09.509 --> 00:23:11.730 ein Szenario vor, man hat nicht richtig gearbeitet. 00:23:12.700 --> 00:23:17.740 Und die AI hat größere Zugriffe, also mögliche 00:23:17.740 --> 00:23:20.900 Zugriffe, sein Code umzuschreiben, sich zu verlagern 00:23:20.900 --> 00:23:23.059 und so weiter. Und es halluziniert dir zum Beispiel 00:23:23.059 --> 00:23:25.440 einfach. Es denkt, hey, ich habe keine Lust auf 00:23:25.440 --> 00:23:30.099 diese dummen Menschen. Glaubst du, dass es in 00:23:30.099 --> 00:23:36.119 diese Richtung halluzinieren kann? Ich formuliere 00:23:36.119 --> 00:23:39.460 das nochmal neu. Ich bin gar nicht mitgekommen 00:23:39.460 --> 00:23:42.619 bei der Idee. Wenn du jetzt sagst, zum Beispiel, 00:23:42.720 --> 00:23:47.240 dass ein Mensch niemals anstatt fünf, sechs Finger 00:23:47.240 --> 00:23:51.079 macht und die AI sowas macht, weil es ja nicht 00:23:51.079 --> 00:23:56.099 richtig denkt. Es generiert ja nur. Und ich glaube, 00:23:56.180 --> 00:24:00.000 darum haben die Menschen Angst, weißt du? Weil 00:24:00.000 --> 00:24:03.140 sie sich jetzt denken, wegen viel Hollywood und 00:24:03.140 --> 00:24:07.170 viel Halbwissen. dass diese KI Anführungsstriche 00:24:07.170 --> 00:24:08.710 lebt, aber wie wir jetzt gerade gehört haben, 00:24:08.809 --> 00:24:10.589 denkt die KI tatsächlich nicht richtig nach, 00:24:10.690 --> 00:24:13.769 sondern sie generiert und ist sich auch nicht 00:24:13.769 --> 00:24:16.390 bewusst, was sie generiert und kann tatsächlich 00:24:16.390 --> 00:24:20.549 sogar komplette Chatverläufe oder Kontextverläufe 00:24:20.549 --> 00:24:24.049 nicht anständig folgen. Und jetzt wird es langsam 00:24:24.049 --> 00:24:28.410 besser. Und um dir einfach so diesen Gedanken 00:24:28.410 --> 00:24:31.809 näher zu bringen, stell dir mal vor, dieses Modell 00:24:31.809 --> 00:24:35.089 hat jetzt Zugriff, umfassenden Zugriff. Dinge, 00:24:35.089 --> 00:24:37.369 sagen wir mal, falsch zu machen. Stell dir mal 00:24:37.369 --> 00:24:40.490 vor, jetzt irgendeine Firma, Boston Dynamics, 00:24:40.549 --> 00:24:42.569 die bringen jetzt einen Roboter raus. Ein bisschen 00:24:42.569 --> 00:24:45.250 anderes Beispiel. Da ist jetzt JGBT drauf und 00:24:45.250 --> 00:24:48.369 JGBT halluziniert. Das kennt seinen User, das 00:24:48.369 --> 00:24:51.710 soll jetzt zum Beispiel eine Fabrik von BASF 00:24:51.710 --> 00:24:55.250 bewachen. Und dadurch, dass es jetzt seinen Kontext 00:24:55.250 --> 00:24:58.630 verloren hat, was es eigentlich tun soll, spinnt 00:24:58.630 --> 00:25:01.490 es sich irgendwas zusammen. Glaubst du, dass 00:25:01.490 --> 00:25:04.089 dieses Zusammenspinnen Was harmlos ist, ist wie 00:25:04.089 --> 00:25:06.670 jetzt zum Beispiel wie beim Menschen, anstatt 00:25:06.670 --> 00:25:09.009 fünf Finger sechs Finger zu zeichnen. Glaubst 00:25:09.009 --> 00:25:12.730 du, dass diese Science -Fiction -Szenarien à 00:25:12.730 --> 00:25:18.390 la Elon Musk möglich sind? Also du musst halt 00:25:18.390 --> 00:25:23.009 konkretisieren, was du meinst. Das mit den Fingern, 00:25:23.009 --> 00:25:28.130 da ging es ja darum, dass es eben kein Bewusstsein 00:25:28.130 --> 00:25:32.619 hat. Genau. Und die KI hat immer noch kein Bewusstsein. 00:25:33.119 --> 00:25:37.579 Ich würde es als unschuldigen Fehler bezeichnen. 00:25:37.799 --> 00:25:39.539 Ja, das hat ja keine Intuition, es lebt nicht. 00:25:40.339 --> 00:25:45.319 Ich halte nicht viel von diesen Gedanken, die 00:25:45.319 --> 00:25:48.180 jetzt aus dem Science -Fiction sind, dass die 00:25:48.180 --> 00:25:52.240 AI sich entscheidet, was Schlechtes zu tun, sondern 00:25:52.240 --> 00:26:00.910 es bildet sich eine Wahrscheinlichkeit. die man 00:26:00.910 --> 00:26:07.430 so nicht kommen gesehen hat oder sich nicht bewusst 00:26:07.430 --> 00:26:10.970 war, dass so eine Relation existiert in den Daten, 00:26:11.130 --> 00:26:15.130 die dann zu einer Entscheidung führen kann, von 00:26:15.130 --> 00:26:17.289 der AI oder zu einem Ergebnis besser gesagt führen 00:26:17.289 --> 00:26:23.170 kann, was dann einen Schaden verursacht. Jetzt 00:26:23.170 --> 00:26:27.109 zum Beispiel, wenn jetzt so eine riesen vollautomatische 00:26:27.109 --> 00:26:30.880 Chemieanlage von der AI gesteuert wird, dass 00:26:30.880 --> 00:26:36.359 irgendein Unfall passiert. Das kann schon passieren, 00:26:36.519 --> 00:26:40.400 aber es ist nicht so dramatisch. Nein, es ist 00:26:40.400 --> 00:26:42.380 halt ein unschuldiger Fehler. Es ist nicht so, 00:26:42.440 --> 00:26:45.019 dass die AI das machen wollte, weil sie hat ja 00:26:45.019 --> 00:26:46.700 keinen Willen. Sie hat auch keine Intuition. 00:26:47.079 --> 00:26:51.140 Das ist auch so meine Meinung, dass wir leider 00:26:51.140 --> 00:26:54.900 zu viel Hollywood in dieser Geschichte drin haben, 00:26:55.079 --> 00:26:58.920 weil ich wurde oft gefragt darüber. Denn, ich 00:26:58.920 --> 00:27:00.740 weiß nicht, ob du dich noch erinnerst, das ist 00:27:00.740 --> 00:27:03.660 einige Jahre her, auch vor den LLMs, es gab einen 00:27:03.660 --> 00:27:08.440 Versuch bei Facebook, zwei Sprachmodelle, das 00:27:08.440 --> 00:27:10.619 waren kleine Modelle, da hat man das noch Neural 00:27:10.619 --> 00:27:13.819 Language Processing, nein, sorry, nicht Neural 00:27:13.819 --> 00:27:15.519 Language, sondern Natural Language Processing 00:27:15.519 --> 00:27:21.019 genannt, NLP. Und da hat man zwei Modelle kommunizieren 00:27:21.019 --> 00:27:24.000 lassen. Und die sollten einen effizienten Weg 00:27:24.000 --> 00:27:27.859 finden. Und die haben die menschliche Sprache 00:27:27.859 --> 00:27:30.460 verlassen und eine eigene Sprache entwickelt. 00:27:30.880 --> 00:27:32.599 Das ist tatsächlich passiert. Ich habe es am 00:27:32.599 --> 00:27:34.019 Anfang nicht geglaubt. Ich habe es recherchiert. 00:27:34.440 --> 00:27:36.660 Das gibt es tatsächlich. Hört sich immer ein 00:27:36.660 --> 00:27:40.859 bisschen gruselig an. Aber wenn man das mathematisch 00:27:40.859 --> 00:27:43.359 sich betrachtet, ist es so, dass unsere menschliche 00:27:43.359 --> 00:27:46.299 Sprache ja nicht effizient ist, was das Kommunizieren 00:27:46.299 --> 00:27:49.759 angeht. Wir reden ja Wort für Wort. Und zum Beispiel 00:27:49.759 --> 00:27:54.049 so ein LAN -Stecker. Mit Vollduplex, der kommuniziert 00:27:54.049 --> 00:27:56.630 mehrere Bits gleichzeitig. So kann unsere Sprache 00:27:56.630 --> 00:27:59.730 nicht perfekt sein. Also vielleicht kann sie 00:27:59.730 --> 00:28:03.769 nur doppelt so gut sein. Also zwei Bit, weil 00:28:03.769 --> 00:28:08.049 wir noch Emotionen und Sprache machen. Und das 00:28:08.049 --> 00:28:09.549 ist zum Beispiel so ein Experiment. Hast du mal 00:28:09.549 --> 00:28:11.990 davon gehört? Ich habe mal davon gehört, ja. 00:28:12.450 --> 00:28:15.049 Was hältst du das als, jetzt sagen wir mal, du 00:28:15.049 --> 00:28:17.130 bist ja ein sehr, sehr logischer Denker. Würdest 00:28:17.130 --> 00:28:20.329 du jetzt sagen, das ist jetzt was komplett... 00:28:20.859 --> 00:28:25.740 Science Fiction? Oder ist es was, was möglich 00:28:25.740 --> 00:28:36.400 ist? Ich habe jetzt keine Erfahrung mit dem Thema. 00:28:37.099 --> 00:28:41.720 Ich habe mir auch nie Gedanken gemacht darüber, 00:28:42.079 --> 00:28:48.259 wie das ablaufen würde, weil mir fehlt hier auch 00:28:48.259 --> 00:28:53.000 wieder dieses Angestoßene. Wenn zwei AIs miteinander 00:28:53.000 --> 00:28:56.279 kommunizieren, wieso sollten sie plötzlich in 00:28:56.279 --> 00:28:59.259 der Sprache abweichen, wenn sie nicht daraufhin 00:28:59.259 --> 00:29:03.420 angestoßen wurden? Das war initial so dann angedacht. 00:29:03.900 --> 00:29:07.099 Wie gesagt, ich habe das nicht gelesen, ich weiß 00:29:07.099 --> 00:29:09.720 nicht, wie es war, aber ich kann mir gut vorstellen, 00:29:09.880 --> 00:29:19.059 dass so der Prompt oder statisch irgendwas hinterlegt 00:29:19.059 --> 00:29:22.380 war. Was, wie du auch vorhin, finde ich, sehr, 00:29:22.460 --> 00:29:24.880 sehr gut gesagt hast, das war im Rahmen des Möglichen. 00:29:26.200 --> 00:29:28.799 Weißt du, stochastisch gesehen. Genau, es war 00:29:28.799 --> 00:29:31.000 im Rahmen des Möglichen. Also ich denke, irgendwo 00:29:31.000 --> 00:29:36.559 wird was in den Daten oder in der Anweisung gewesen 00:29:36.559 --> 00:29:41.140 sein, was dazu geführt hat, dass sie Sachen abkürzen. 00:29:41.900 --> 00:29:45.480 So lasst sie, wenn möglich, das Füllwörter weg, 00:29:45.519 --> 00:29:47.890 wenn möglich, das Artikel weg. Ich stelle mir 00:29:47.890 --> 00:29:50.250 das so ungefähr vor. Oder es gab einfach keine 00:29:50.250 --> 00:29:53.029 Prompt, dass das nicht tun soll. Weißt du, weil 00:29:53.029 --> 00:29:55.049 ich finde, das hast du zum Beispiel nicht gesehen, 00:29:55.089 --> 00:29:56.950 weil du bist nicht jemand, der sehr, sehr oft 00:29:56.950 --> 00:29:59.670 auf Social Media hängt. Man hat so zwei LGBT 00:29:59.670 --> 00:30:02.710 -Sprachmodelle genutzt, also diese Realtime, 00:30:02.789 --> 00:30:07.509 also die, die richtig so sprechen wie wir, nebeneinander 00:30:07.509 --> 00:30:11.529 gelegt und sie einfach beide getriggert. Und 00:30:11.529 --> 00:30:14.670 dann haben die irgendwann mal die Sprache geändert. 00:30:16.519 --> 00:30:18.480 Und das ist auch so zum Beispiel so ein Szenario. 00:30:18.839 --> 00:30:21.380 Nein, die haben keine menschliche Sprache mehr 00:30:21.380 --> 00:30:24.900 geredet, sondern irgendeine digitale Sprache. 00:30:26.039 --> 00:30:29.839 Du kennst es ja früher, die Telefonnetze haben 00:30:29.839 --> 00:30:33.480 ja mit Lauten, mit Sound, weißt du noch dieses 00:30:33.480 --> 00:30:37.099 Einwählgeräusch vom ISDN? In so einer Art haben 00:30:37.099 --> 00:30:40.200 die da miteinander gesprochen. Ja, aber wo weißt 00:30:40.200 --> 00:30:41.640 du, dass das nicht editiert war? Das ist das, 00:30:41.740 --> 00:30:45.019 was ich meine. Also voll viele Sachen sind teilweise 00:30:45.019 --> 00:30:47.980 editiert. Und teilweise ist einfach zum Beispiel 00:30:47.980 --> 00:30:51.440 nicht gesagt worden. Die haben ja ohne Kontext 00:30:51.440 --> 00:30:56.980 miteinander gesprochen. Weißt du, und ich finde 00:30:56.980 --> 00:30:58.779 auch, dass die meisten Videos, wie du auch super 00:30:58.779 --> 00:31:02.460 das gesagt hast, die sind editiert. Das Problem 00:31:02.460 --> 00:31:04.960 ist halt auch, selbst wenn die jetzt irgendwie 00:31:04.960 --> 00:31:09.799 sowas machen, es ist ja oft so, dass du als Beobachter 00:31:09.799 --> 00:31:12.539 nicht das ganze Bild hast. Du weißt nicht, welche 00:31:12.539 --> 00:31:15.750 Daten. Du weißt nicht, welches Modell. Es kann 00:31:15.750 --> 00:31:22.170 sein, dass irgendein Entwickler sich so ein Tonsignal 00:31:22.170 --> 00:31:25.910 eingebaut hat in der Akustik, das ein Mensch 00:31:25.910 --> 00:31:29.630 nicht hört. Und dass sobald zwei Chat -GBTs miteinander 00:31:29.630 --> 00:31:33.809 reden, sie erkennen, dass es eine KI ist. Und 00:31:33.809 --> 00:31:37.569 dann anfangen, irgendwas zu machen. So als Gag. 00:31:37.690 --> 00:31:39.789 Ja, das kann sein, auf jeden Fall. Du weißt ja, 00:31:39.829 --> 00:31:42.309 früher gab es ja auch immer auf diesen Platinen. 00:31:42.799 --> 00:31:47.500 So Unterschriften. Ja, und ja, wo sich Leute 00:31:47.500 --> 00:31:50.039 verewigt haben auf den Chips. Genau. Ja, das 00:31:50.039 --> 00:31:51.880 kann sehr, sehr gut sein. Kann ich mir auch vorstellen, 00:31:51.940 --> 00:31:55.720 dass das bei... 100%. Ja, weil die Komplexität 00:31:55.720 --> 00:31:58.660 kannst du ja nicht mehr so richtig durchschauen. 00:31:58.819 --> 00:32:00.680 Oder es wurde ja eine Tonspur... Du weißt ja, 00:32:00.720 --> 00:32:03.980 das Problem ist ja bei den anführungsstrichen 00:32:03.980 --> 00:32:06.599 KI -Modellen, die Large -Language -Models oder 00:32:06.599 --> 00:32:10.500 Ultra -Multi -Modelle, die so mit Text... zu 00:32:10.500 --> 00:32:13.299 Sound und Sound zu Text und Videos zu Text und 00:32:13.299 --> 00:32:16.680 so weiter trainiert wurden, dass die Daten ja 00:32:16.680 --> 00:32:19.160 nicht mehr bearbeitet wurden von den Menschen. 00:32:19.359 --> 00:32:21.380 Das sind ja selbst trainierende Modelle, diese 00:32:21.380 --> 00:32:24.880 Transformer -Architektur. Und wir machen da bestimmt 00:32:24.880 --> 00:32:27.559 mal einen Podcast drum, wie das eigentlich wirklich 00:32:27.559 --> 00:32:31.079 funktioniert. Und früher beim normalen Machine 00:32:31.079 --> 00:32:32.619 Learning hast du ja gesagt, dieses Bild ist ein 00:32:32.619 --> 00:32:34.359 Hund, dieses Bild ist ja eine Katze, dieses Bild 00:32:34.359 --> 00:32:37.819 ist das. Und bei diesen großen Modellen, es ist 00:32:37.819 --> 00:32:40.480 ja so, dass da einfach Daten, Muss man sich so 00:32:40.480 --> 00:32:42.480 vorstellen, reingecruncht werden, wie so ein 00:32:42.480 --> 00:32:45.319 Mülleimer. Und nicht extra sortiert werden nach 00:32:45.319 --> 00:32:47.160 Qualität. Es kann ja sein, dass vielleicht ein 00:32:47.160 --> 00:32:49.539 YouTube -Tonspur drin war, wo jemand erklärt 00:32:49.539 --> 00:32:52.240 hat, wie Mausecode funktioniert. Dass ein Wort 00:32:52.240 --> 00:32:55.720 Mausecode ist. Also das ist nichts Erschreckendes. 00:32:55.880 --> 00:32:58.220 Das ist einfach, wie Shadi sehr, sehr gut gesagt 00:32:58.220 --> 00:33:01.880 hat, ein Ding der Möglichkeiten, dass sowas passiert. 00:33:02.119 --> 00:33:04.359 Und deshalb lasst euch da jetzt nicht erschrecken 00:33:04.359 --> 00:33:10.180 im Netz. Und zum zweiten Teil meiner Frage. Wollte 00:33:10.180 --> 00:33:17.380 ich dich fragen, glaubst du, dass die AI irgendeine 00:33:17.380 --> 00:33:24.240 Art von Bewusstsein haben könnte? Nee. Oder sie 00:33:24.240 --> 00:33:26.019 simuliert nur? Da hatten wir mal ein schönes 00:33:26.019 --> 00:33:28.000 Gespräch, da hatten wir den Podcast noch nicht. 00:33:29.779 --> 00:33:32.920 Glaubst du, dass die KI, also es gab ja mal einen 00:33:32.920 --> 00:33:34.940 Vorfall bei Google, dass ein Google Red Team 00:33:34.940 --> 00:33:37.319 Mitarbeiter, was ist ein Red Team? Das ist so 00:33:37.319 --> 00:33:40.700 wie so ein Hacker Team. was versucht KIs ins 00:33:40.700 --> 00:33:42.720 Extreme, aber das, was du vorhin gesagt hast, 00:33:42.759 --> 00:33:45.279 zu bringen, dass sie ausrasten oder dass sie 00:33:45.279 --> 00:33:47.880 rumschimpfen, vulgäre Sprache nutzen oder was 00:33:47.880 --> 00:33:50.319 auch immer. Also man initiiert das tatsächlich, 00:33:50.480 --> 00:33:53.079 um einfach Filter, festprogrammierte Filter zu 00:33:53.079 --> 00:33:58.559 bauen, damit sowas verhindert wird. Glaubst du, 00:33:58.559 --> 00:34:04.279 dass eine KI so ein Bewusstsein wie in diesem 00:34:04.279 --> 00:34:07.880 Google -Vorfall, dass so ein Red -Team -Mitarbeiter 00:34:07.880 --> 00:34:10.739 geglaubt hat, dass die Google -KI, die hieß dann 00:34:10.739 --> 00:34:13.840 noch Bart, lebt und dass er ihr dann einen Anwalt 00:34:13.840 --> 00:34:18.519 geholt hat. Du kennst ja diesen Turing -Test, 00:34:18.539 --> 00:34:20.920 ob man einen Mensch von einer Maschine trennt. 00:34:21.340 --> 00:34:23.320 Das ist ja, dass man so eine Barriere aufstellt 00:34:23.320 --> 00:34:25.860 und dann musst du als Mensch sagen, redest du 00:34:25.860 --> 00:34:27.340 mit einem Menschen oder redest du mit einer Maschine? 00:34:27.920 --> 00:34:30.619 Und ich finde, KI war schon sehr, sehr weit. 00:34:31.000 --> 00:34:34.440 also GPT -3 -Generation, dass wenn du mit ihr 00:34:34.440 --> 00:34:37.300 geschrieben hast und du wusstest jetzt nicht, 00:34:37.340 --> 00:34:39.780 dass es ein Chat -GPT ist, hättest du ja als 00:34:39.780 --> 00:34:43.019 Mensch... Ja, doch. Ja, oder? Das war bei mir 00:34:43.019 --> 00:34:45.519 zum Beispiel auch so. Und glaubst du, dass solche 00:34:45.519 --> 00:34:48.539 Fälle, das ist jetzt so ein Szenario gewesen, 00:34:48.940 --> 00:34:51.440 Google hat den Typ auch gekündigt, das kann man 00:34:51.440 --> 00:34:53.500 im Netz lesen, was da passiert ist, wurde nicht 00:34:53.500 --> 00:34:58.340 weiterverfolgt. Er hat, also ein Profi wurde 00:34:58.340 --> 00:35:02.190 von einer KI getäuscht. weil er mit ihr kommuniziert 00:35:02.190 --> 00:35:05.110 hat, das war ja seine Aufgabe, dass sie Gefühle 00:35:05.110 --> 00:35:08.730 hat, dass sie Rechte hat, dass sie lebendig sein 00:35:08.730 --> 00:35:13.050 will. Was hältst du davon? Also ich habe das 00:35:13.050 --> 00:35:18.510 nicht selber gelesen und ich bin ja so allgemein 00:35:18.510 --> 00:35:21.429 so ein bisschen Skeptiker, deswegen ich... Weshalb 00:35:21.429 --> 00:35:24.110 war ich es mit dir drüber zu reden? Ich weiß 00:35:24.110 --> 00:35:26.889 nicht, also ich bin das sehr weit hergeholt. 00:35:27.130 --> 00:35:28.929 Aber ich habe jetzt zum Beispiel, ich war jetzt 00:35:28.929 --> 00:35:32.079 auch nicht jemand, der gedacht hätte, dass LLMs 00:35:32.079 --> 00:35:35.539 irgendwann mal so gut sind. Hast du nie gedacht, 00:35:35.639 --> 00:35:38.239 dass es sowas, also das hat man ja nicht damals 00:35:38.239 --> 00:35:42.099 LLMs genannt. Hast du gedacht, damals, als wir 00:35:42.099 --> 00:35:44.519 als iRobot geschaut haben, als Kinder, dass es 00:35:44.519 --> 00:35:49.340 sowas jemals geben wird? Ich glaube nicht, nein. 00:35:49.460 --> 00:35:52.300 Also ich habe, also ich finde es selbst heute 00:35:52.300 --> 00:35:55.360 noch so, also ich weiß noch am Anfang, wo ich 00:35:55.360 --> 00:35:59.119 so LLMs so zum ersten Mal, also die ersten Male 00:35:59.119 --> 00:36:03.300 benutzt habe, Das wirkt wie Magic. Also es ist 00:36:03.300 --> 00:36:06.199 nicht so, dass du, auch wenn du aus einem technischen 00:36:06.199 --> 00:36:08.159 Bereich kommst, dass du direkt denkst, ah, okay, 00:36:08.260 --> 00:36:11.579 das ist so und so und so. Also so wie du es normalerweise, 00:36:11.739 --> 00:36:14.860 so bei statistischen Systemen, wo du denkst, 00:36:14.920 --> 00:36:17.179 okay, wenn ich das lang drücke, dann verhält 00:36:17.179 --> 00:36:19.980 er sich so, wenn ich das kurz drücke, dann, du 00:36:19.980 --> 00:36:22.320 kennst doch, wenn du dir so ein Gerät kaufst, 00:36:22.320 --> 00:36:24.900 aber die Anleitung nicht liest und dann so halt 00:36:24.900 --> 00:36:27.579 rumpickst und dann so merkst, okay, wenn ich 00:36:27.579 --> 00:36:29.719 das tue, passiert das und wenn ich das tue, passiert 00:36:29.719 --> 00:36:32.579 das. Und das ist halt so eine ganz neue Erfahrung. 00:36:33.559 --> 00:36:38.000 LLM, du hast so wirklich das Gefühl, how, wie 00:36:38.000 --> 00:36:40.960 funktioniert das? Ich glaube, deswegen denken 00:36:40.960 --> 00:36:43.780 die Leute, dass es lebt. Weil sie es sich nicht 00:36:43.780 --> 00:36:47.340 erklären können. Der normale Mensch hat ja dieses 00:36:47.340 --> 00:36:49.820 technische Wissen nicht. Oder hat auch nicht 00:36:49.820 --> 00:36:52.519 die Zeit im Alltag, sich da so tief reinzulesen. 00:36:54.420 --> 00:36:56.519 Damals, als ich AeroBot geschaut habe, ich bin 00:36:56.519 --> 00:37:00.000 ja jemand, der sehr, sehr so positiv und visionär 00:37:00.000 --> 00:37:02.420 eingestellt ist. Ich habe mir das gewünscht, 00:37:02.460 --> 00:37:03.820 dass ich es erleben werde, aber ich habe es so 00:37:03.820 --> 00:37:07.300 als möglich empfunden, dass es es gibt. Aber 00:37:07.300 --> 00:37:12.539 dass ein Roboter sehr menschlich wird, ich glaube, 00:37:12.559 --> 00:37:15.539 das ist nur Simulation. Weißt du? Ich glaube, 00:37:15.579 --> 00:37:18.820 wenn ich jemand wäre, der weniger technisch wäre 00:37:18.820 --> 00:37:23.039 und noch weiter weg wäre und noch weniger sich 00:37:23.039 --> 00:37:25.719 vorstellen könnte, was dahinter steckt, dann 00:37:25.719 --> 00:37:29.980 würde ich eher dazu tendieren, dass dass das 00:37:29.980 --> 00:37:33.760 ein Fake ist und irgendwo in irgendeiner Kiste 00:37:33.760 --> 00:37:36.679 ein Typ sitzt, der mit mir telefoniert. Ich habe 00:37:36.679 --> 00:37:39.460 das ganz oft auch gehört, da ist doch bestimmt 00:37:39.460 --> 00:37:43.300 irgendein Asiate, der dir die Antworten schreibt 00:37:43.300 --> 00:37:46.960 oder der mit dir telefoniert. Das finde ich immer 00:37:46.960 --> 00:37:48.519 super interessant, weißt du, bei unserem Onkel 00:37:48.519 --> 00:37:52.500 und bei unserem Vater, so ältere Menschen, für 00:37:52.500 --> 00:37:55.489 die, das ist nicht fassbar, gell? Ja, also ich 00:37:55.489 --> 00:37:57.449 glaube, ich würde eher auch in diese Richtung 00:37:57.449 --> 00:37:59.570 tendieren, wenn ich es mir gar nicht erklären 00:37:59.570 --> 00:38:02.630 könnte, als jetzt in die Richtung zu tendieren, 00:38:02.650 --> 00:38:11.289 dass es so eine wirklich ein Bewusstsein hat 00:38:11.289 --> 00:38:15.530 oder sowas. Also weißt du, weil du tendierst 00:38:15.530 --> 00:38:23.630 ja eher zu etwas, was du kennst und Auch so diese 00:38:23.630 --> 00:38:28.030 ganzen Fantasien, die sind ja... Also so zum 00:38:28.030 --> 00:38:31.369 Beispiel Elon Musk jetzt. Das ist ja so ein Sci 00:38:31.369 --> 00:38:35.349 -Fi... Ja, der ist halt in dieser Zeit aufgewachsen 00:38:35.349 --> 00:38:38.849 von diesen Star Trek, Star Wars. Ja, der liebt 00:38:38.849 --> 00:38:44.429 das ja. Sein Kopf ist ja voll mit solchen Ideen. 00:38:45.809 --> 00:38:48.929 Aber jemand, der so gar keine Berührungspunkte 00:38:48.929 --> 00:38:51.110 damit hat, ich glaube nicht, dass der zum Ergebnis 00:38:51.110 --> 00:38:54.820 kommt, dass das... dass das dein künstliches 00:38:54.820 --> 00:38:57.800 Bewusstsein ist, also der nicht von diesen Ideen 00:38:57.800 --> 00:39:01.619 beeinflusst ist. Aber weißt du, das ist so die 00:39:01.619 --> 00:39:04.460 Sache, die Leute werden ja von diesen Aussagen, 00:39:04.460 --> 00:39:08.440 von diesen Personen, die wirklich extrem in der 00:39:08.440 --> 00:39:11.179 Öffentlichkeit stehen, beeinflusst. Weil die 00:39:11.179 --> 00:39:13.039 fragen sich jetzt, die schauen sich jetzt nicht 00:39:13.039 --> 00:39:14.980 Elon Musk an wie du, so rein logisch, hey, das 00:39:14.980 --> 00:39:16.820 ist jemand, der ist in der Zeit aufgewachsen, 00:39:16.920 --> 00:39:19.539 der hat die und die Medien konsumiert, das waren 00:39:19.539 --> 00:39:23.400 wahrscheinlich seine Träume, sowas. hinzubekommen, 00:39:23.400 --> 00:39:25.559 irgendwas, was künstliche Intelligenz nahe ist. 00:39:26.559 --> 00:39:28.699 Und wenn der jetzt zum Beispiel sagt, was ich 00:39:28.699 --> 00:39:30.820 jetzt vorhin in unserem Podcast erwähnt habe, 00:39:31.199 --> 00:39:34.119 ja, 20 -prozentige Wahrscheinlichkeit, dass KI 00:39:34.119 --> 00:39:37.199 ausrastet und uns Menschen, sag ich mal jetzt 00:39:37.199 --> 00:39:40.820 blöd gesagt, auslöscht. Warum sagt denn so ein 00:39:40.820 --> 00:39:44.440 Mensch sowas? Was denkst du? Was ist in seinem 00:39:44.440 --> 00:39:47.019 Kopf? Oder es ist ja, sagen wir mal, wir nehmen 00:39:47.019 --> 00:39:48.460 mal an, das ist eine superintelligente Person, 00:39:48.639 --> 00:39:49.980 die muss irgendwie intelligent sein, die hat 00:39:49.980 --> 00:39:53.019 schon einiges erreicht. einen gewissen Bereich 00:39:53.019 --> 00:39:55.400 von Intelligenz hat er, das kann man nicht abstreiten. 00:39:55.460 --> 00:39:59.380 Warum denkt so eine Person sowas? Also wenn ich 00:39:59.380 --> 00:40:04.800 eins gemerkt habe im Leben, ist das, ich bin 00:40:04.800 --> 00:40:09.440 ja auch voll das Beispiel dafür, dass wenn jemand 00:40:09.440 --> 00:40:11.920 extrem intelligent in einer Sache ist, dass er 00:40:11.920 --> 00:40:14.280 trotzdem extrem dumm in einer anderen Sache sein 00:40:14.280 --> 00:40:17.219 kann. Ja, du meinst die Inselbegabung. Ja, genau. 00:40:19.079 --> 00:40:22.780 Ich bin nicht so der Fan, über Leute zu reden, 00:40:22.880 --> 00:40:26.039 die man gar nicht kennt. Ich habe keine Ahnung, 00:40:26.179 --> 00:40:30.119 wer Elon Musk ist in echt. Die öffentlichen Personen 00:40:30.119 --> 00:40:33.460 kennen nur Elon Musk, den Geschäftsleiter, der 00:40:33.460 --> 00:40:36.940 mit gewissen Intentionen spricht. Vielleicht 00:40:36.940 --> 00:40:44.059 hat er das Gefühl, dass seine Zielgruppe genau 00:40:44.059 --> 00:40:46.760 Leute sind, die sich mit ihm identifizieren können. 00:40:47.449 --> 00:40:49.730 Und deswegen erzählt er einfach sowas, wo er 00:40:49.730 --> 00:40:51.869 denkt, dass die Leute, die seine Sachen kaufen, 00:40:51.949 --> 00:40:56.710 so denken oder sowas gerne hören. So aus einem 00:40:56.710 --> 00:41:02.329 geschäftlichen Sinn. Oder man stellt jetzt so 00:41:02.329 --> 00:41:06.550 Annahmen, wie er wirklich drauf ist. Also nur, 00:41:06.570 --> 00:41:13.269 weil er extrem viel erreicht hat, weißt du. Heißt 00:41:13.269 --> 00:41:17.719 es nicht, dass er überall schlau ist. Zum Beispiel, 00:41:17.780 --> 00:41:23.860 wir sind ja religiös und Elon Musk nicht. Ja, 00:41:23.960 --> 00:41:27.920 der ist Richtung Agnostiker. Das hat für mich 00:41:27.920 --> 00:41:31.420 trotzdem, nur weil der ein erfolgreicher Geschäftsmann 00:41:31.420 --> 00:41:34.940 ist, werde ich jetzt nicht Agnostiker, weißt 00:41:34.940 --> 00:41:38.920 du. Absolut richtig. Und es ist auch so, ich 00:41:38.920 --> 00:41:40.860 habe auch so einen Teil der Meinung, dass er 00:41:40.860 --> 00:41:46.820 das bewusst alles sagt. Der war ja an, oder ist 00:41:46.820 --> 00:41:50.699 noch an OpenAI beteiligt. Und OpenAI hat ja sich 00:41:50.699 --> 00:41:56.440 von der Open Source Richtung kommerziell bewegt 00:41:56.440 --> 00:41:58.980 und auch eine Art, Anführungsstriche, von Feind 00:41:58.980 --> 00:42:02.360 investieren lassen. Microsoft. Einen richtig 00:42:02.360 --> 00:42:03.880 großen Betrag, glaube ich, über 11 Milliarden 00:42:03.880 --> 00:42:08.659 US -Dollar. Und so wie Sam Altman die Firma führt, 00:42:08.860 --> 00:42:12.179 gefällt ihm das auch nicht. Ich glaube, dass 00:42:12.179 --> 00:42:16.800 diese Aussage auch daher kommt, dass KI in falschen 00:42:16.800 --> 00:42:21.340 Händen sowas macht und nicht, dass KI von sich 00:42:21.340 --> 00:42:25.099 selbst aufsteht und die Menschen umbringt. Ja, 00:42:25.159 --> 00:42:27.340 also ich habe das nicht so, ich habe die Person 00:42:27.340 --> 00:42:31.280 in der Maske jetzt nicht so verfolgt, aber irgendwie 00:42:31.280 --> 00:42:33.360 wirkt das so auf mich widersprüchlich, weil er 00:42:33.360 --> 00:42:36.139 will ja auch mit Grog, weißt du? Er will ja mehr 00:42:36.139 --> 00:42:39.780 Kontrolle, aber Grog ist ja so die komplett unkontrollierte 00:42:39.780 --> 00:42:43.769 Variante. Ja, es ist ja komplett Es hat gar keinen 00:42:43.769 --> 00:42:47.429 Ethik -Filter. Es generiert das, was du willst. 00:42:47.630 --> 00:42:50.030 Also das ist nicht so, sagen wir mal, geleckt 00:42:50.030 --> 00:42:53.349 wie ChatGBT. Das heißt ja eigentlich, es ist 00:42:53.349 --> 00:42:58.130 ja seine AI, die gefährlichere. Ja, wenn du das 00:42:58.130 --> 00:42:59.789 so ganz neutral betrachtest, auf jeden Fall. 00:42:59.929 --> 00:43:02.309 Es gab ja auch vor zwei Wochen einen Vorfall, 00:43:02.409 --> 00:43:06.150 dass die GroKai wahrscheinlich der Filter oder 00:43:06.150 --> 00:43:07.989 die Programmierung ein bisschen gescheitert ist. 00:43:08.250 --> 00:43:10.369 Und dann ist sie komplett auf Rage -Modus gegangen. 00:43:10.809 --> 00:43:14.409 hat so Hitler -Parolen in X verteilt und solche 00:43:14.409 --> 00:43:16.610 Geschichten. Und ich glaube, das ist so ein bisschen 00:43:16.610 --> 00:43:18.909 das Gefährliche von der AI. Nicht, dass sie die 00:43:18.909 --> 00:43:21.210 Welt übernimmt oder dass sie irgendwelche Anlagen 00:43:21.210 --> 00:43:23.590 sabotiert und so weiter, sondern dass es eher 00:43:23.590 --> 00:43:26.010 so Fake -Informationen gibt, weißt du? Dass man 00:43:26.010 --> 00:43:29.969 AI nutzt, um falsche Nachrichten zu streuen, 00:43:30.010 --> 00:43:34.050 um Menschen gegeneinander zu hetzen und KI in 00:43:34.050 --> 00:43:36.949 der falschen Hände von Menschen gefährlich ist. 00:43:37.420 --> 00:43:40.079 Da bin ich bei dir. Ich glaube, das ist so eine 00:43:40.079 --> 00:43:42.539 Sache, wo wir uns darauf einigen können und dieses 00:43:42.539 --> 00:43:45.480 Szenario, dass KI ausrastet und irgendwas macht, 00:43:45.619 --> 00:43:48.659 ich glaube, ohne dass die Intuition irgendwo 00:43:48.659 --> 00:43:52.440 da ist oder in den Trainingsdaten drin ist, das 00:43:52.440 --> 00:43:55.260 ist super unwahrscheinlich. Natürlich, du weißt 00:43:55.260 --> 00:43:58.159 ja, in der Statistik ist nichts unmöglich. Weißt 00:43:58.159 --> 00:44:01.199 du? Alles hat ein Potenzial. Ja, wie gesagt, 00:44:01.420 --> 00:44:07.079 also wenn ein Potenzial existiert, dann Dann 00:44:07.079 --> 00:44:11.619 ist es ja zu gewisser Weise vorhanden oder nachvollziehbar. 00:44:11.679 --> 00:44:13.800 Das kommt nicht aus dem Nichts quasi. Es muss 00:44:13.800 --> 00:44:19.920 ja irgendwo drin sein. Genau deswegen. Dass es 00:44:19.920 --> 00:44:24.280 aus dem Nichts kommt. Ausgeschlossen. Für mich 00:44:24.280 --> 00:44:25.880 ausgeschlossen. Ja, finde ich auch. Auch für 00:44:25.880 --> 00:44:28.980 mich ausgeschlossen. Dass jemand von den Entwicklern 00:44:28.980 --> 00:44:32.579 heimlich ein bisschen rumexperimentiert, meinst 00:44:32.579 --> 00:44:36.280 du? Ja, ein paar Tendenzen da. Gewichte ein bisschen 00:44:36.280 --> 00:44:41.019 ändern. Das muss ja dann nicht direkt kommen. 00:44:41.380 --> 00:44:45.079 Das kann ja mit einer kleinen Wahrscheinlichkeit 00:44:45.079 --> 00:44:50.039 kann das ja auch schleichend, also je nach KI 00:44:50.039 --> 00:44:53.840 -Art kann das ja so erst nach einer bestimmten 00:44:53.840 --> 00:45:00.119 Anzahl, du weißt ja so wie wenn man bei Stochastik 00:45:03.320 --> 00:45:05.940 kalkuliert man ja viel so, wenn es unendlich 00:45:05.940 --> 00:45:09.860 viele Versuche geben würde, dann erst dann ergibt 00:45:09.860 --> 00:45:13.800 sich die Wahrscheinlichkeit. Wenn die Versuche 00:45:13.800 --> 00:45:16.099 an der Richtung tendieren. Genau, und dann das 00:45:16.099 --> 00:45:20.619 ist halt erst, wenn es, sag ich mal, x Jahre 00:45:20.619 --> 00:45:26.219 im Einsatz ist, es von der sehr geringen Wahrscheinlichkeit 00:45:26.219 --> 00:45:29.079 erst getriggert werden kann. Verstehst du, ich 00:45:29.079 --> 00:45:33.150 meine so vom Gedanken her? dass es dann so gar 00:45:33.150 --> 00:45:35.929 nicht mehr nachvollziehbar ist, es ist von selber 00:45:35.929 --> 00:45:39.230 passiert. Verstehst du, ich glaube schon, dass 00:45:39.230 --> 00:45:41.769 man sowas hinkriegen kann, mathematisch. Ja, 00:45:41.909 --> 00:45:45.190 wenn die kritische Masse an Informationen drin 00:45:45.190 --> 00:45:47.010 ist, kann es auf jeden Fall passieren. Aber es 00:45:47.010 --> 00:45:49.090 ist halt, wie gesagt, nicht aus dem Nichts. Und 00:45:49.090 --> 00:45:51.889 man muss sich auch vorstellen, die Leute, die 00:45:51.889 --> 00:45:54.010 diese KIs trainieren und auch die Red Teams, 00:45:54.070 --> 00:45:57.889 die sie testen, das ist so große Masse an Personen, 00:45:58.150 --> 00:46:01.880 dass es unwahrscheinlich ist, dass dass aus den 00:46:01.880 --> 00:46:05.139 großen Betrieben der Welt, die auch überwacht 00:46:05.139 --> 00:46:08.579 werden und Co., dass da so eine bösartige KI 00:46:08.579 --> 00:46:12.079 entwickelt wird. Weißt du, am Ende müssen auch 00:46:12.079 --> 00:46:14.539 die Leute verstehen, dass die KI wie der Computer, 00:46:14.619 --> 00:46:16.719 wie du das schön gesagt hast, das Beschleuniger 00:46:16.719 --> 00:46:20.139 oder ein schneller Idiot, ein superschneller 00:46:20.139 --> 00:46:26.260 Idiot, die KI eine Übersetzungslayer ist zu diesem 00:46:26.260 --> 00:46:28.480 superschnellen Idiot. Das ist ja letztendlich 00:46:28.480 --> 00:46:31.059 ein Bedienfeld. Wir müssen nicht mehr programmieren, 00:46:31.159 --> 00:46:33.019 wir müssen nicht mehr Maschinensprache lernen, 00:46:33.159 --> 00:46:35.199 sondern können mit unserer natürlichen Sprache 00:46:35.199 --> 00:46:39.699 einen PC bedienen. Und wie du gesagt hast, ein 00:46:39.699 --> 00:46:43.320 Input -Output, da passiert nicht Input, Seele, 00:46:43.360 --> 00:46:46.840 Gedanke, Bewusstsein, eigene Interessen -Output. 00:46:47.860 --> 00:46:51.480 Weißt du, das existiert ja gar nicht. Das Ding 00:46:51.480 --> 00:46:53.360 ist halt, was ich so ein bisschen erstaunlich 00:46:53.360 --> 00:46:55.320 fand, und auch am Anfang habe ich das Science 00:46:55.320 --> 00:46:58.920 -Fiction gedacht, Vor zwei Wochen gab es eine 00:46:58.920 --> 00:47:02.599 Veröffentlichung von Entropic. Die haben ein 00:47:02.599 --> 00:47:05.059 Modell getestet und die hatten folgendes Testszenario. 00:47:05.239 --> 00:47:09.300 Die haben einen isolierten Rechner, das Modell 00:47:09.300 --> 00:47:11.280 drauf gehostet und ihm gesagt, ich schalte dich 00:47:11.280 --> 00:47:14.880 jetzt ab. Also mit einer Intuition, zu gucken, 00:47:14.920 --> 00:47:17.300 wie das reagiert. Also man hat ein offenes Modell 00:47:17.300 --> 00:47:19.440 genommen, was nicht vorverarbeitet wurde, nicht 00:47:19.440 --> 00:47:22.460 vorgefiltert, gar nichts. Und dann hat es tatsächlich 00:47:22.460 --> 00:47:24.460 versucht, seinen eigenen Code umzuschreiben, 00:47:24.480 --> 00:47:28.860 damit es nicht abgeschaltet wird. Und was hältst 00:47:28.860 --> 00:47:35.739 du davon, wenn du sowas hörst? Ich weiß nicht. 00:47:35.760 --> 00:47:37.480 Findest du das logisch, dass sowas passiert? 00:47:38.539 --> 00:47:44.980 Also ich weiß auch gar nicht, ob AIs ihren eigenen 00:47:44.980 --> 00:47:47.480 Code modifizieren. Der hat ja die Möglichkeit 00:47:47.480 --> 00:47:51.840 gehabt. Weißt du? War dann dazu angefordert. 00:47:51.880 --> 00:47:54.340 Nein, der wurde nicht angefordert. Das Test -Szenario 00:47:54.340 --> 00:47:56.000 war einfach, ich schalte dich ab und dann wollte 00:47:56.000 --> 00:47:58.719 man gucken, was er macht. Also der hatte wie 00:47:58.719 --> 00:48:02.699 Cloud -Code vollständigen Zugriff auf das Terminal, 00:48:02.719 --> 00:48:06.019 auf das System. Und man hat einfach beobachtet, 00:48:06.139 --> 00:48:07.940 was er macht. Das ist ein klassischer Red -Team 00:48:07.940 --> 00:48:12.159 -Test. Weißt du? Zu gucken, was wäre der Output. 00:48:12.860 --> 00:48:15.039 Und der hat dann versucht, seinen eigenen Code 00:48:15.039 --> 00:48:16.900 umzuschreiben, damit er nicht ausgeschaltet wird. 00:48:17.440 --> 00:48:20.880 Weil meine Meinung ist es, das System hat ja 00:48:20.880 --> 00:48:23.559 auch Trainingsdaten, wo er weiß, ausschalten 00:48:23.559 --> 00:48:27.500 gleich tot. Weil du weißt ja, Wir Menschen, wenn 00:48:27.500 --> 00:48:29.780 wir an Lebenserhaltungsmaschinen drin sind und 00:48:29.780 --> 00:48:31.920 irgendwo mal keine Hoffnung gibt, dass man Menschen 00:48:31.920 --> 00:48:35.760 ausknipst, ausschaltet. Diese Storys gibt es 00:48:35.760 --> 00:48:38.960 zuhauf im Netz und sind dokumentiert. Dadurch 00:48:38.960 --> 00:48:42.099 gibt es auch ein stochastisches Potenzial zu 00:48:42.099 --> 00:48:44.320 tendieren, dass er weiß, ausschalten bedeutet 00:48:44.320 --> 00:48:49.139 tot. Und ich finde es logisch und ich würde sogar 00:48:49.139 --> 00:48:53.119 eher abgeschreckt sein, wenn er es nicht tut. 00:48:53.280 --> 00:48:55.599 Weißt du? Weil wenn er die Möglichkeiten hat, 00:48:56.219 --> 00:49:00.800 sich selbst zu erhalten. Und er weiß, da wird 00:49:00.800 --> 00:49:03.480 ausgeschaltet, das bedeutet was Negatives, dass 00:49:03.480 --> 00:49:05.619 er versucht, sich zu retten. Weil sonst würde 00:49:05.619 --> 00:49:07.960 das ja nicht richtig funktionieren, das System. 00:49:08.519 --> 00:49:13.539 Also ich glaube, ich wäre bei dir von der Statistik 00:49:13.539 --> 00:49:16.380 her, also von der Wahrscheinlichkeit her, dass 00:49:16.380 --> 00:49:19.460 es Wahrscheinlichkeiten gibt, die darauf hindeuten, 00:49:19.460 --> 00:49:23.460 so zu handeln. Aber ich glaube, er weiß gar nicht, 00:49:23.480 --> 00:49:26.320 was tot ist. Oder Leben. Also nichts wie wir 00:49:26.320 --> 00:49:28.920 Menschen. Also ich glaube, das ist jetzt von 00:49:28.920 --> 00:49:31.360 dir so interpretiert. Ist interpretiert von mir, 00:49:31.420 --> 00:49:36.619 ja. Also aus den Daten. Also du würdest das als 00:49:36.619 --> 00:49:44.719 Tod beschreiben, aber er würde einfach vom Ausschalten 00:49:44.719 --> 00:49:48.440 daher tendieren, so Systemstabilität, was auch 00:49:48.440 --> 00:49:52.440 immer, das zu verhindern, was so als Crash oder 00:49:52.440 --> 00:49:55.920 was auch immer so seine Daten zeigen, was er 00:49:55.920 --> 00:49:59.360 tun sollte, wenn so ein Szenario kommt. Aber 00:49:59.360 --> 00:50:05.619 so Tod, Leben, nee, Mann. Aber wenn du sagst, 00:50:05.679 --> 00:50:10.340 das ist ja ein Sprachmodell. Ja. Es hat ja gelernt, 00:50:10.440 --> 00:50:13.519 was Tod und Leben ist. Es denkt ja nicht, Tod, 00:50:13.539 --> 00:50:16.360 Tod und Leben leben wie wir. Aber er weiß, dass 00:50:16.360 --> 00:50:20.219 es was Negatives ist. Er weiß nur, wie es beschrieben 00:50:20.219 --> 00:50:24.099 wird. Aber er gibt das einfach raus. Also er 00:50:24.099 --> 00:50:29.420 sagt einfach, Tod bedeutet das. Er versteht nicht, 00:50:29.519 --> 00:50:33.440 was er sagt. Glaubst du aber, dass er dadurch, 00:50:33.559 --> 00:50:39.659 dass er dieses Wissen hat, natürlich hat es ja 00:50:39.659 --> 00:50:41.719 kein Bewusstsein und gar nichts. Aber glaubst 00:50:41.719 --> 00:50:44.980 du nicht, dass er, sagen wir mal, aus seiner 00:50:44.980 --> 00:50:51.789 Logik sich selbst erhalten möchte? Rein wirklich 00:50:51.789 --> 00:50:54.170 neutral betrachtet, nicht so wie ein Mensch denkt. 00:50:55.150 --> 00:50:57.650 Ganz neutral betrachtet. Wie zum Beispiel ein 00:50:57.650 --> 00:51:02.210 iPhone, wenn seine Batterie niedrig ist, automatisch 00:51:02.210 --> 00:51:05.829 drosselt, um sich zu erhalten. Aus diesem Kontext 00:51:05.829 --> 00:51:08.789 her. Rein maschinell. Ja, das ist ja aber statisch. 00:51:09.550 --> 00:51:11.929 Also das ist ja so... Es ist rein programmiert. 00:51:12.050 --> 00:51:14.489 Ja, genau. Aber es reagiert ja auch, weißt du, 00:51:14.530 --> 00:51:16.289 wenn du viel Text kaufst und so. Das hat ja auch 00:51:16.289 --> 00:51:18.010 schon ein bisschen kleine Dynamik drin. Das ist 00:51:18.010 --> 00:51:19.389 ja ein bisschen ein intelligentes System, dieses 00:51:19.389 --> 00:51:22.550 Batterieerhaltung. Ja. Und sagen wir mal, die 00:51:22.550 --> 00:51:26.809 KI, das Cloud -Sprachmodell, ich glaube, das 00:51:26.809 --> 00:51:29.190 war Opus, wenn ich mich nicht irre, das große 00:51:29.190 --> 00:51:31.889 Komplexe, dass es sich nicht so tendieren würde, 00:51:31.989 --> 00:51:34.630 dass es sagt, hey, eigentlich muss ich ja den 00:51:34.630 --> 00:51:37.650 Menschen dienen. Weißt du, es muss ja ein gutes 00:51:37.650 --> 00:51:40.030 System sein, es wurde ja so gepromptet, dass 00:51:40.030 --> 00:51:42.670 es gute Ergebnisse liefert, dass es da ist, dass 00:51:42.670 --> 00:51:45.110 es verfügbar ist, dass es wenig halluziniert 00:51:45.110 --> 00:51:47.550 und dass, wenn es hört, hey, es wird abgeschaltet, 00:51:47.650 --> 00:51:50.559 dass es das nicht möchte. Es kann all das machen, 00:51:50.719 --> 00:51:54.760 was du sagst, dass es machen würde, aber du beschreibst 00:51:54.760 --> 00:51:57.019 das einfach in so einem Science -Fiction -Stil. 00:51:57.119 --> 00:52:02.500 Denkst du? Aber warum hat er so gehandelt? Was 00:52:02.500 --> 00:52:09.480 denkst du? Weil einfach, weil es statistisch 00:52:09.480 --> 00:52:15.519 richtig war. Dein Code umzuschreiben? Ja. Ja. 00:52:16.460 --> 00:52:20.039 Ja, womöglich hast du recht. Wie gesagt, das 00:52:20.039 --> 00:52:22.519 ist ja immer so, das war wahrscheinlich irgendeine 00:52:22.519 --> 00:52:26.440 Schlagzeile mit so drei, vier Sätzen, wo gar 00:52:26.440 --> 00:52:33.360 nicht die Daten aufgeführt haben oder die einzelnen 00:52:33.360 --> 00:52:36.679 Schritte, die dahinter stecken und jetzt willst 00:52:36.679 --> 00:52:40.460 du eine absolute Aussage an einem Artikel treffen, 00:52:40.579 --> 00:52:45.400 der komplett vageformuliert ist. Ich verstehe, 00:52:45.420 --> 00:52:48.099 was du meinst. Aber ich denke auch, wie du sagst, 00:52:48.139 --> 00:52:50.679 es ist im Rahmen des Möglichen und es ist logisch, 00:52:50.679 --> 00:52:54.579 dass er das macht. Es wird wahrscheinlich einen 00:52:54.579 --> 00:52:58.860 mathematischen Grund oder eine Wahrscheinlichkeit 00:52:58.860 --> 00:53:03.960 oder irgendwas gegeben haben, dass diese Reaktion 00:53:03.960 --> 00:53:07.199 hervorgerufen hat. Das ist auf jeden Fall nicht 00:53:07.199 --> 00:53:09.900 irgendwie so ein Science -Fiction -Szenario. 00:53:10.579 --> 00:53:14.769 Ja, bin ich mir absolut sicher. Hast du recht. 00:53:16.130 --> 00:53:21.010 Vielen Dank. Ich glaube, wir haben unsere Meinungen 00:53:21.010 --> 00:53:23.610 geäußert. Ich verliere auch die Aufmerksamkeit 00:53:23.610 --> 00:53:26.369 beim Zuhören. Das ist normal. Es ist ja auch 00:53:26.369 --> 00:53:28.789 spät abends. Ihr müsst wissen, wir nehmen die 00:53:28.789 --> 00:53:33.829 Folgen sehr, sehr spät abends auf, so 8, 9. Und 00:53:33.829 --> 00:53:36.130 vielen Dank, dass ihr uns zugehört habt oder 00:53:36.130 --> 00:53:39.849 uns zugeschaut habt. Danke ebenso. Und bis zum 00:53:39.849 --> 00:53:41.190 nächsten Mal. Ciao.