WEBVTT NOTE Podcast: Logbuch:Netzpolitik Episode: LNP560 In die Ecke, Besen, Besen! Publishing Date: 2026-09-16T20:20:52+02:00 Podcast URL: https://logbuch-netzpolitik.de Episode URL: https://logbuch-netzpolitik.de/lnp560-in-die-ecke-besen-besen 00:00:00.568 --> 00:00:01.723 Guten Morgen, Linus. 00:00:01.891 --> 00:00:02.905 Guten Morgen, Tim. 00:00:03.418 --> 00:00:06.326 Sag mal, Linus, wo siehst du dich eigentlich in fünf Jahren? 00:00:07.302 --> 00:00:09.763 Wo ist ja schon optimistisch. Die Frage ist, ob... 00:00:31.393 --> 00:00:41.918 Logbuch Netzpolitik Nummer 560 vom 16. September 2026 und wir haben die Zukunft fest im Blick, 00:00:44.606 --> 00:00:47.961 aber es stellt sich langsam eine Sehschwäche ein. 00:00:48.521 --> 00:00:50.858 Genau, der Blick ist halt, der Blick ist halt. 00:00:53.981 --> 00:00:58.739 Werden die goldenen 20er nochmal liefern? Das ist die große Frage. 00:00:59.087 --> 00:01:04.961 Das ist wie früher, weißt du, wenn du so 3D-Shooter mit nicht ganz so wilden 00:01:04.961 --> 00:01:07.801 Grafikkarten, wo dann auch alles im Nebel untergegangen ist, 00:01:07.801 --> 00:01:10.971 weil der nicht so weit rendern wollte. Und wir haben halt auch nicht mehr, 00:01:10.971 --> 00:01:12.166 die GPUs sind ja alle weg. 00:01:13.072 --> 00:01:14.441 Die werden ja von anderen gekauft. 00:01:16.798 --> 00:01:21.297 Ja. Heute wollen wir ein bisschen über die Zukunft reden. 00:01:21.454 --> 00:01:22.991 Denn in ihr gedenken wir zu leben. 00:01:22.991 --> 00:01:27.121 Ja, die macht sich ja eigentlich, sagen wir mal so, perspektivisch macht die 00:01:27.121 --> 00:01:30.637 sich ja immer besser als die Gegenwart. Die ist einfach so unglaublich vergänglich. 00:01:31.044 --> 00:01:35.943 Zukunft hält ja eigentlich relativ lang. Hatte man zumindest bisher mal so den Eindruck. 00:01:36.611 --> 00:01:39.757 Gibt jetzt allerdings so ein paar Entwicklungen. 00:01:41.621 --> 00:01:42.834 Da wollen wir drüber sprechen. 00:01:45.901 --> 00:01:52.493 Wo ich jetzt auch nicht mehr so genau weiß, was man jetzt eigentlich noch dazu sagen soll. Naja. 00:01:55.378 --> 00:02:00.468 Ganz kurzes Feedback vorne weg. 00:02:02.416 --> 00:02:06.216 Und André korrigiert, das Gericht, was Linus als internationales Gericht für 00:02:06.216 --> 00:02:10.186 Menschenrechte bezeichnet hat, nennt sich selbst International Criminal Court 00:02:10.186 --> 00:02:12.196 auf Deutsch, Internationaler Strafgerichtshof. 00:02:14.714 --> 00:02:18.226 Ja. Gerichte für Menschenrechte kenne ich in der Geschmacksrichtung Europäischer 00:02:18.226 --> 00:02:20.960 Gerichtshof für Menschenrechte. Ja, scheiße. 00:02:23.256 --> 00:02:27.281 Gericht, ein Gericht für Menschenrechte. Was ist ein Gericht für Menschenrechte? Falafel. 00:02:27.914 --> 00:02:30.828 Ja, sehr inklusiv. Und lecker auch. 00:02:31.798 --> 00:02:32.696 Verlaufen ist eins. 00:02:35.368 --> 00:02:38.793 Genau. Mehr Korrekturen gibt es nicht. Alles andere, was wir gesagt haben, ist wahr. 00:02:41.476 --> 00:02:42.485 Uneingeschränkt. 00:02:43.396 --> 00:02:47.006 Eine, dann finden wir normalerweise Event-Ankündigungen machen wir ja immer 00:02:47.006 --> 00:02:49.747 am Ende der Sendung. Werden auch heute ein wichtiges Event. 00:02:50.385 --> 00:02:54.726 Zwei wichtige Events noch am Ende der Sendung ankündigen. Aber ein Event, 00:02:54.726 --> 00:02:58.556 was bei uns immer besondere Berücksichtigungen findet, obwohl man es gar nicht 00:02:58.556 --> 00:03:01.816 mehr ankündigen muss, weil ja alle wissen, dass es vom 27. 00:03:02.876 --> 00:03:10.648 Bis 30. Dezember stattfindet, ist der Chaos Communication Congress. Die 40. Iteration. 00:03:13.226 --> 00:03:20.760 In Hamburg. Und da wurde jetzt das Motto und die unterschiedlichen Calls for 00:03:21.097 --> 00:03:25.956 Participation, Content, Art, Punk und Music veröffentlicht. 00:03:26.641 --> 00:03:31.476 Das heißt, ihr könnt euch da jetzt mit euren Vorträgen, Workshops, 00:03:31.856 --> 00:03:39.952 Kunst, Punk, Musik, Gestaltung oder auch Band, DJ und was nicht alles, 00:03:42.158 --> 00:03:47.289 bewerben im Prinzip, in die Diskussion einbringen, an diesem Event was beizutragen. 00:03:48.450 --> 00:03:53.354 Und ich kann mich nur herzlich dazu einladen, bitte mach mir eine Freude. 00:03:54.526 --> 00:03:58.816 Und macht gut verständliche Einreichungen, 00:03:59.594 --> 00:04:03.297 aus denen so wirklich auch hervorgeht, was da passieren wird. 00:04:03.930 --> 00:04:09.230 Weil das erleichtert einfach die Bewertungen, die wir natürlich dann mit einer KI machen. 00:04:11.271 --> 00:04:12.471 Die Einreichungen auch. 00:04:13.111 --> 00:04:14.951 Denn, genau. 00:04:18.851 --> 00:04:22.141 Ich wollte jetzt hier gerade eine Überleitung zum Motto machen. 00:04:22.141 --> 00:04:25.327 Denn wir sind ja Model Citizens. 00:04:26.006 --> 00:04:30.571 Und das ist das Motto des diesjährigen Kongress, das ich wieder besonders gelungen 00:04:30.571 --> 00:04:33.657 finde. Weil Model Citizens natürlich so, 00:04:35.770 --> 00:04:42.231 ein Spiel ist mit den vorbildlichen Bürgern. Also der Model Citizen ist also 00:04:42.231 --> 00:04:47.771 der besonders toller, braver, vorbildlicher Bürger. 00:04:47.771 --> 00:04:50.231 Also einer immer wählt, aber nicht AfD. 00:04:51.245 --> 00:04:55.965 Genau und was machen wir noch alles ne, 00:04:57.521 --> 00:04:58.525 Was macht ein braver Bürger? 00:04:58.925 --> 00:05:01.405 Fährt nicht mit dem Fahrrad offen. 00:05:01.405 --> 00:05:03.185 Genau, nur bei Grün. 00:05:03.965 --> 00:05:05.445 Überfällt keine Banken. 00:05:06.200 --> 00:05:08.870 Ja, gut, oder nicht so viele. 00:05:11.345 --> 00:05:16.825 Insgesamt so, sag ich mal, keine weiße Weste, aber ein weißes Hemd. 00:05:20.341 --> 00:05:26.225 Aber natürlich auch eine wunderschöne Anspielung, oder eben das Vorspiel mit, 00:05:26.845 --> 00:05:32.345 den Models, den Large Language Models und KI-Modellen, 00:05:33.445 --> 00:05:41.384 die ja sicherlich bald auch eine zunehmende Rolle in unserer Gesellschaft spielen. 00:05:42.765 --> 00:05:45.375 Und deswegen finde ich dieses Motto mal wieder besonders gelungen. 00:05:45.375 --> 00:05:48.895 Das kann ich sagen, weil ich überhaupt nicht an dessen Schöpfung beteiligt war. 00:05:48.895 --> 00:05:54.844 Das war mal wieder Erdgeist und ich finde es wirklich besonders schön. 00:05:56.165 --> 00:06:01.265 Unter dem Motto Model Citizens wollen wir gemeinsam neue Modelle für eine Gesellschaft 00:06:01.265 --> 00:06:05.965 suchen, nachdem die bisherigen modellhaften Bürgerinnen den Planeten in zweifelhaften 00:06:05.965 --> 00:06:07.731 Zustand hinterlassen haben. 00:06:09.125 --> 00:06:15.916 Also viele Perspektiven auf dieses Motto und ich hoffe, dass das für euch auch, 00:06:16.427 --> 00:06:22.406 inspirierend ist und ihr eure Agenten reichhaltige Submissions, 00:06:23.922 --> 00:06:25.505 zum CSP machen lassen. 00:06:25.505 --> 00:06:28.031 Bitte nicht irgendeinen KI-Agenten da drauf hetzen. 00:06:28.159 --> 00:06:33.140 Die verabreden sich dann nur zum Hacken, kaufen Tickets und kommen am Ende nicht, weißt du? 00:06:34.585 --> 00:06:35.648 Immer das Gleiche mit denen. 00:06:35.990 --> 00:06:41.745 Ja, Kraftwerk hat es ja schon wieder Jahre vorhergesagt. 00:06:42.637 --> 00:06:42.985 Ja. 00:06:44.345 --> 00:06:48.385 Sie ist ein Model und sie sieht gut aus. Ich nehme sie gerne zu mir nach Hause. 00:06:48.385 --> 00:06:50.405 Das ist der Wunsch nach lokalen Modellen. 00:06:50.865 --> 00:06:51.992 Das Modell, ja. 00:06:55.075 --> 00:07:00.266 Ach ja, genau. Also das ist der Kongress. Es gibt einen Call for Participation. 00:07:00.266 --> 00:07:04.705 Es gibt einen Call for Content. Einen Call for Art. Es gibt einen Call for Punk. 00:07:05.936 --> 00:07:08.376 Das ist der Punk-Spielteam, ne? Also Programm am Punk-Spielteam. 00:07:09.117 --> 00:07:10.429 Und for Music. 00:07:10.986 --> 00:07:11.236 Ja. 00:07:11.996 --> 00:07:13.906 Also ihr könnt Musikwünsche... 00:07:14.456 --> 00:07:16.484 Nee, ihr müsst die Musikwünsche... 00:07:17.790 --> 00:07:18.968 Ich wünsch mir Frogger. 00:07:19.543 --> 00:07:26.696 Ihr müsst die Musikwünsche öffnen. ihr müsst die Musikwünsche inspirieren, 00:07:26.696 --> 00:07:29.504 ihr müsst dafür sorgen, dass sich eure Musik gewünscht wird. 00:07:30.822 --> 00:07:32.169 Ja. So. 00:07:33.719 --> 00:07:38.816 Dann kommen wir mal dazu, was du in fünf Jahren machst. Wo sehen sie sich in fünf Jahren? Genau. 00:07:39.796 --> 00:07:43.906 Flog gerade so ein schönes Meme-Bild, wo dann einer auf dem Rücken lag und mit 00:07:43.906 --> 00:07:46.767 einer Knarre auf den Roboter schoss. 00:07:47.185 --> 00:07:49.036 Das müsste ein Terminator sein, oder? 00:07:50.076 --> 00:07:53.186 Ich weiß nicht, ob das Terminator war, das Bild, um ehrlich zu sein. 00:07:53.186 --> 00:07:59.114 Aber es wäre eine kulturell naheliegend, 00:07:59.619 --> 00:08:05.566 den einen Film, der mit der Übernahme einer künstlichen Intelligenz spielt, 00:08:05.566 --> 00:08:11.366 quasi als erstes in den 80er Jahren die dystopische Science-Fiction in diesem 00:08:11.366 --> 00:08:14.068 Bereich dann losgetreten hat, 00:08:14.671 --> 00:08:18.136 nicht die Primärquelle zu nutzen. 00:08:18.136 --> 00:08:23.056 Findest du, wie ist denn der Film bei dir so niedergeregnet, 00:08:23.056 --> 00:08:24.633 als du den das erste Mal gesehen hast? 00:08:24.999 --> 00:08:30.436 Terminator? Ey, war ich viel zu jung. Fand ich natürlich irgendwie super irre, 00:08:30.436 --> 00:08:33.335 wollte der Terminator sein und mir so ein Auge rausnehmen und so weiter. 00:08:33.555 --> 00:08:34.026 Was, echt? 00:08:34.026 --> 00:08:39.856 Habe ich dann nicht gemacht, aber habe dann auf dem Computer versucht, 00:08:40.616 --> 00:08:46.656 künstliche Intelligenz in einer Kette aus If-Ben-Konstrukten herbeizuführen. 00:08:48.460 --> 00:08:53.015 Hab da schon gemerkt, wenn künstliche Intelligenz, dann muss sie mir überlegen 00:08:53.015 --> 00:08:55.020 sein, weil ich hab's ja nicht hingekriegt. 00:08:55.409 --> 00:08:59.505 Der Terminator, der hat natürlich bei mir wirklich alle Register gefüllt. 00:08:59.985 --> 00:09:01.095 Der erste oder der zweite? 00:09:01.095 --> 00:09:04.592 Der erste schon. Und zwar aus einem bestimmten Grund. 00:09:04.871 --> 00:09:08.185 Also abgesehen davon, dass die Story ja an sich sehr cool ist, 00:09:08.625 --> 00:09:11.947 also es ist ja so Robot Uprising, die Menschheit wird unterdrückt. 00:09:12.429 --> 00:09:21.285 Und es gibt aber einen Widerstandskämpfer, John Connor, der halt dann den Robots mal richtig ordentlich, 00:09:22.425 --> 00:09:27.025 Ärger bereitet, woraufhin die dann eine Zeitmaschine bauen und damit einen Roboter 00:09:27.465 --> 00:09:30.111 zurückschicken, nämlich Arnold Schwarzenegger, eben diesen Terminator, 00:09:30.680 --> 00:09:36.275 der dann die Mutter umbringen soll, damit dieser Widerstandskämpfer gar nicht erst geboren wird. 00:09:36.275 --> 00:09:40.455 Und dann gibt es so geile Szenen, wo so der Terminator so durch die Gegend läuft 00:09:40.455 --> 00:09:44.865 und du siehst alles so aus seiner Perspektive, also aus so einer Kameraperspektive. 00:09:45.285 --> 00:09:47.955 Das wollte ich nämlich auch haben, ja. Das wollte ich auch haben. 00:09:47.955 --> 00:09:53.885 Und ich saß so im Kino und sehe das so und auf einmal macht es so, 00:09:53.885 --> 00:09:58.972 und dann läuft so Programmcode von oben nach unten. Und weißt du, was das war? 00:09:59.885 --> 00:10:01.125 Wahrscheinlich Basic oder so? 00:10:01.125 --> 00:10:06.865 Nein. 6502 Maschinencode. Der Code, den ich damals auf C64 programmiert habe. 00:10:06.865 --> 00:10:11.105 Und ich dachte mir, geil, das kann ich auch. Ich kann auch so einen Roboter programmieren. 00:10:14.205 --> 00:10:19.795 Und wie haben sie das geschafft, den Terminator mit dem 6502 zu steuern? Ja, ja. 00:10:21.542 --> 00:10:23.165 Nee, also das war natürlich, 00:10:25.325 --> 00:10:29.335 ein bemerkenswerter Film, auch weil er so günstig produziert wurde, 00:10:29.335 --> 00:10:32.455 aber halt einfach so gnadenlos eingeschlagen hat damals. 00:10:32.455 --> 00:10:36.465 Das kann man sich gar nicht vorstellen. Das war einfach mal wirklich dann so 00:10:36.465 --> 00:10:40.875 eine neue Vorlage auch für die Sci-Fi. Und jetzt sind wir auf einmal in so einer 00:10:40.875 --> 00:10:45.039 Situation, wo eben diese Softwaretechnik sich so weiterentwickelt hat. 00:10:45.736 --> 00:10:54.034 Dass auf einmal all diese Dinge unfassbar real wirken. Auf der einen Seite haben 00:10:54.034 --> 00:10:56.004 wir natürlich jetzt diese offensichtliche 00:10:56.004 --> 00:10:59.418 AI-Entwicklung, über die wir ja schon viel gesprochen haben. 00:10:59.743 --> 00:11:04.637 Dann rieseln jetzt in zunehmendem Maße diese Videos aus den USA und China rein, 00:11:04.823 --> 00:11:09.060 wo so humanoide Roboter mittlerweile ziemlich bemerkenswerte Dinge tun. 00:11:09.797 --> 00:11:14.430 Hast du diese chinesische Roboter-Olympiade gesehen, die sie da vor einem Monat 00:11:14.790 --> 00:11:20.344 abgehalten haben, wo sie so alle möglichen Disziplinen mit humanoiden Robotern ausspielen? 00:11:21.048 --> 00:11:25.784 Also die laufen dann schnell, machen Weitsprung, Boxen. 00:11:26.313 --> 00:11:29.094 Ach so, einen habe ich hier letztens auch bei so einem Event gesehen. 00:11:29.094 --> 00:11:34.164 Der hat die ganze Zeit so Karate und solche Sachen, Salto rückwärts und sowas. 00:11:34.564 --> 00:11:35.403 Alles mögliche. 00:11:35.577 --> 00:11:37.964 Voller Angeber, also wirklich unnötig. 00:11:40.724 --> 00:11:44.274 Naja, es ist auf jeden Fall ganz interessant. Es hat das zweite Mal stattgefunden 00:11:44.274 --> 00:11:47.844 und wenn man sich die Videos vom ersten Event anschaut und die Videos vom zweiten 00:11:47.844 --> 00:11:53.251 Event merkt man, dass die Fortschritte signifikant sind, 00:11:55.103 --> 00:11:57.564 und dann gab es ja ein bisschen Aufregung, weil sie es dann geschafft haben 00:11:57.564 --> 00:12:03.104 mit einem Roboter die 100 Meter Sprint schneller zu laufen als Usain Bolt. 00:12:04.064 --> 00:12:07.067 Wobei man sagen muss, Usain Bolt war definitiv besser im Bremsen. 00:12:09.524 --> 00:12:12.104 Die sind nämlich einfach alle hinten gegen die Wand gelaufen beziehungsweise 00:12:12.104 --> 00:12:18.521 das war schon so eine Matte aber trotzdem ist die Hälfte dabei irgendwie zerplatzt und explodiert, 00:12:19.246 --> 00:12:23.754 naja, also auf jeden Fall noch einiges zu holen nur man merkt eben wie jetzt 00:12:23.754 --> 00:12:25.504 diese Softwaretechnologie und, 00:12:26.464 --> 00:12:27.724 die Hardwaretechnologie da 00:12:27.724 --> 00:12:31.404 ganz gut zusammenkommt man kann sich auf einmal ganz gut vorstellen dass, 00:12:32.743 --> 00:12:34.949 naja, sowas wie ein Terminator ja, 00:12:37.396 --> 00:12:41.711 zumindest jetzt technisch möglich ahnbar wird. 00:12:42.636 --> 00:12:45.616 Weil damals so da schützt uns natürlich dann. 00:12:46.316 --> 00:12:49.276 Also der wird die KI ja nicht on board haben, das heißt, da schützt uns dann 00:12:49.276 --> 00:12:50.970 das deutsche Mobilfunknetz noch. 00:12:52.496 --> 00:12:58.456 Aber sonst der wird das dann auch irgendwann on board haben, gar keine Frage. Ja. 00:13:01.327 --> 00:13:02.934 Wenn er sich den Rahmen leisten kann. 00:13:04.287 --> 00:13:09.685 Naja, auf jeden Fall, das ist, sagen wir mal, die plumpe Vision, die ja dann auch, 00:13:11.717 --> 00:13:19.047 im Westen ja auch sehr negativ bewertet wird. 00:13:19.047 --> 00:13:23.307 Ja, immer diese negativ, weißt du? Diese, ne, was Neues? 00:13:24.889 --> 00:13:28.766 Menschvernichtung, boah, sind wir jetzt auch das? Dann auch wieder scheiße, ja? 00:13:29.562 --> 00:13:34.627 Ich meine so generell, also du hast ja in westlichen Gesellschaften ist ja der 00:13:34.627 --> 00:13:39.406 Blick auf diese Menschmaschine eher negativ. 00:13:40.607 --> 00:13:50.000 Frankenstein, all diese ganzen Dinge sind immer so Dystopien im westlichen Kontext. 00:13:50.435 --> 00:13:54.097 Während du jetzt im asiatischen Raum, wenn du mal schaust, wie die Japaner drauf 00:13:54.097 --> 00:14:00.667 blicken, für die ist halt so ein humanoider Roboter erstmal ein Freund. Das ist Assistent. 00:14:01.947 --> 00:14:05.528 Bei uns gab es so eine positive Erzählung eigentlich selten. 00:14:05.865 --> 00:14:10.047 In Japan war das schon vor 20 Jahren so, dass die immer so gedacht haben, 00:14:10.047 --> 00:14:14.047 ja, toll, humanoide Roboter, die können dann den alten Leuten im Altersheim 00:14:14.047 --> 00:14:16.389 irgendwie helfen und in deinem Haushalt helfen. 00:14:17.318 --> 00:14:26.380 Und in westlich geprägten Gesellschaften war das nie so. Da war eigentlich immer die Angst vorneweg. 00:14:27.233 --> 00:14:32.173 Jetzt kann man natürlich drüber diskutieren, welche dieser beiden Sichtweisen da angemessener ist. 00:14:32.411 --> 00:14:37.237 Tatsache ist, die Technologie entwickelt sich weiter und sie tut es derzeit 00:14:37.237 --> 00:14:41.083 eben mit einer Geschwindigkeit, die ist bemerkenswert. 00:14:43.335 --> 00:14:43.603 Und, 00:14:48.283 --> 00:14:53.766 die ist bemerkenswert. Und bei bisherigen technologischen, 00:14:55.949 --> 00:15:00.425 Entwicklungen, da war dann so einmal der Sprung, dann war die Technologie da. 00:15:02.983 --> 00:15:08.308 Was weiß ich, Motor, Dampfmaschine, 00:15:10.783 --> 00:15:13.543 oder Nuklearenergie nutzen oder so, 00:15:13.543 --> 00:15:16.903 die ist dann da, da ist dann auch ein unmittelbarer Sprung, die Welt ist, 00:15:17.983 --> 00:15:22.823 nicht mehr wie sie mal war oder so und dann wird aber die Technologie selber 00:15:22.823 --> 00:15:29.323 nach diesem Sprung die entwickelt sich dann ich sag mal so ein bisschen linear weiter. 00:15:32.483 --> 00:15:42.672 Und erhält nach und nach Einzug in die Veränderung der Gesellschaft und der Wirtschaft und Und, 00:15:44.076 --> 00:15:51.008 ich denke, was hier jetzt eben der Durchbruch war, eben eine selbstlernende Technologie. 00:15:52.267 --> 00:15:58.032 Und der Kern von diesen KIs ist ja, dass sie Dinge lernen. 00:16:00.452 --> 00:16:06.663 Und das eben relativ gut. Und wenn der Sprung ist, dass du eine Technologie 00:16:06.663 --> 00:16:12.545 hast, die etwas lernen kann, dann ist natürlich auch davon auszugehen, 00:16:13.159 --> 00:16:15.423 dass sie mehr lernen wird. 00:16:16.423 --> 00:16:22.513 Oder immer mehr mit dieser Technologie gelernt wird, verbessert wird und sonst 00:16:22.513 --> 00:16:25.633 was. Und deswegen würde ich sagen, ist hier quasi auch die Entwicklung, 00:16:25.633 --> 00:16:27.597 die Weiterentwicklung der Technologie, 00:16:29.268 --> 00:16:33.749 Entgegen aller Annahmen, die ja bisher immer von so einem linearen Verständnis, 00:16:33.749 --> 00:16:37.939 ja, das kann irgendwann einmal, oh, aber jetzt, jetzt ist ja langsam ein Plateau 00:16:37.939 --> 00:16:40.076 erreicht und oh, scheiße, hinter mir. 00:16:40.610 --> 00:16:45.499 Und ich denke, das ist schon ein fundamentaler Unterschied. 00:16:45.499 --> 00:16:52.669 Es kann natürlich immer noch irgendwo ein Ressourcenmangel oder eine fundamentale, 00:16:53.869 --> 00:16:58.518 Grenze dieser Lernentwicklung eintreten, 00:16:59.168 --> 00:17:03.249 aber es ist zumindest erstmal in der Weiterentwicklung für mich erstmal intuitiv, 00:17:04.015 --> 00:17:10.354 verständlich, dass hier eben eine exponentielle Weiterentwicklung stattfindet, statt eine... 00:17:13.245 --> 00:17:15.937 Genau. Und vor allem, weil halt diese Maschinen lernen können. 00:17:15.937 --> 00:17:20.948 Das heißt, sie können dann auch lernen zu lernen. Lernen in zunehmendem Maße von sich selbst. 00:17:22.069 --> 00:17:27.817 Und irgendwann trainieren sie sich vielleicht halt auch selbst. 00:17:27.817 --> 00:17:33.457 So, was derzeit wird ja, sagen wir mal, der Fortschrift schon noch durch Entwickler 00:17:33.457 --> 00:17:37.933 vorangetrieben, die dann Ideen haben, wie man es noch besser kombinieren kann, 00:17:38.606 --> 00:17:41.973 sich dabei sicherlich auch schon von ihren eigenen AIs helfen lassen. 00:17:42.617 --> 00:17:48.137 Und es ist absehbar, dass wir eben Systeme haben, die so ein gewisses, 00:17:49.397 --> 00:17:54.057 ich will jetzt nicht Bewusstsein sagen, also eine Bauernschleue auf jeden Fall 00:17:54.057 --> 00:17:58.637 entwickeln, mit denen sie sich ihre eigenen Strategien zurechtlegen und das 00:17:58.637 --> 00:18:01.857 ist ja auch genau das, was wir jetzt in den letzten Tagen und Wochen, 00:18:02.777 --> 00:18:05.675 gesehen haben, vor allem im Security-Bereich. 00:18:06.197 --> 00:18:14.643 Ja, ich würde das, also ich verstehe das immer so viel, der Security-Bereich, 00:18:15.265 --> 00:18:20.757 dieser Hacking-Bereich wird immer so viel, so besonders gewertet, 00:18:21.301 --> 00:18:23.317 weil so, oh, die Hacking, ja. 00:18:23.377 --> 00:18:32.547 Und das ist natürlich auch was Besonderes, zumal sie es irgendwie in einer beeindruckenden 00:18:32.547 --> 00:18:33.799 Art und Weise gemacht haben. 00:18:34.408 --> 00:18:39.817 Ich denke aber, man muss das mal, ich würde Hacking eher nur als eine besonders 00:18:39.817 --> 00:18:43.480 ausgeprägte Form der Lösungsorientierung sehen. 00:18:43.748 --> 00:18:48.917 Ja, dass du sagst, aha, hier ist etwas, das möchte ich lösen, 00:18:48.917 --> 00:18:52.224 hier ist mein Zielzustand, hier ist der Weg dahin und jetzt, 00:18:53.377 --> 00:18:59.137 mache ich halt, was notwendig ist und ich finde es verhältnismäßig. 00:19:01.908 --> 00:19:10.086 Dass eben solche besonders fähigen Modelle mit einem immer noch ziemlich beschränkten Kontext, 00:19:11.308 --> 00:19:17.081 also intuitiv verständlich, dass sie sich eben auf die möglichen Lösungen konzentrieren, 00:19:17.533 --> 00:19:20.328 und die eben verfolgen, insbesondere in Code. 00:19:20.328 --> 00:19:26.568 Wir hatten ja in einer der vergangenen Sendungen schon ein bisschen erarbeitet, 00:19:26.568 --> 00:19:28.811 klar, es gibt einfach Unmengen an Code, 00:19:29.699 --> 00:19:35.098 den man nutzen kann, um KIs zu trainieren und Code hat die Eigenschaft, 00:19:35.098 --> 00:19:40.008 dass er kommentiert ist und die Eigenschaft, dass wir ihn in Repositories ablegen, 00:19:40.008 --> 00:19:42.627 die seine Versionsgeschichte abbilden. 00:19:43.016 --> 00:19:48.748 Und wenn Daten in dieser Form vorliegen, kannst du nicht nur eben Programmieren 00:19:48.748 --> 00:19:53.070 daran lernen, sondern eben auch, was wird im Laufe der Zeit verbessert, 00:19:53.343 --> 00:19:56.936 mit anderen Worten, was mache ich beim nächsten Mal gleich richtig? 00:19:57.738 --> 00:20:01.952 Also was war mal die Idee, was sind die Fehler, die unterwegs gemacht wurden, 00:20:02.974 --> 00:20:04.407 und wie vermeide ich sie? 00:20:04.791 --> 00:20:10.228 Und das scheint tatsächlich eben sehr gut zu funktionieren und wenn ich hier, 00:20:10.688 --> 00:20:12.988 ich programmiere ja auch durchaus einiges, 00:20:14.548 --> 00:20:19.193 mit unter Zuhilfenahme von KI oder also vollständig von der KI programmieren, 00:20:19.796 --> 00:20:23.985 und bin dann doch teilweise sehr erstaunt, dass es halt quasi. 00:20:25.582 --> 00:20:29.468 Das ist von vornherein so programmiert, wie es sich eben gehört, 00:20:29.788 --> 00:20:35.288 zu sagen, aha, okay, Tests, schreiben, gucken, Ergebnisse und sobald irgendwo ein Bug ist, 00:20:36.431 --> 00:20:40.868 wenn insbesondere baue ich gerade oder arbeite ich gerade an sehr vielen Parsern 00:20:41.188 --> 00:20:45.145 für unterschiedlichste Formate und so weiter. 00:20:46.979 --> 00:20:53.268 Und stelle jetzt immer häufiger fest, dass das System sich von vornherein Testcases 00:20:53.268 --> 00:20:55.878 bereitlegt und immer wieder abgleicht. 00:20:55.878 --> 00:20:58.668 Oh, der Parser hier oder der Parser da. Was ist hier schiefgegangen? 00:20:58.668 --> 00:21:01.555 Draufgucken, okay, zack, Daten passen. Ah, hier ist ein Sonderfall. 00:21:01.822 --> 00:21:03.428 Und dann schreibst du einfach den Parser fertig. 00:21:04.510 --> 00:21:09.268 Und wenn der Parser beim nächsten Mal abschmiert, guckt er einfach sofort wieder 00:21:09.268 --> 00:21:12.048 drauf und analysiert die Datei und passt den wieder an. 00:21:12.368 --> 00:21:16.132 Also so eine selbstverbessernde Code. 00:21:18.999 --> 00:21:24.428 Dank klugem von vornherein quasi Erwartungen stecken, was müsste denn rauskommen. 00:21:25.279 --> 00:21:27.638 Und wenn dann irgendwo, da kommt nicht raus, was ich wollte, 00:21:27.638 --> 00:21:30.829 dann sucht sich das System automatisch alles klar, was ist hier schiefgelaufen 00:21:31.148 --> 00:21:35.566 und passt den wieder an und schreibt sich den Code wieder richtig hin. Nur mal so als Beispiel. 00:21:36.024 --> 00:21:41.968 Und wenn ich da bei einigen Parsern zuschaue, die haben halt ein Niveau, 00:21:41.968 --> 00:21:46.810 wo ich Ewigkeiten für gebraucht hätte und wahrscheinlich aufgegeben hätte. 00:21:50.659 --> 00:21:51.228 Und das ist, 00:21:54.308 --> 00:21:57.178 sehr beeindruckend. So, jetzt habe ich aber gesagt, das ist nur so der technische 00:21:57.178 --> 00:22:01.948 Teil, den ich gewissermaßen verständlich finde, dass das passiert. 00:22:04.142 --> 00:22:10.500 Oder dass da eine derartige Fähigkeit entsteht. Jetzt haben wir in der vorletzten 00:22:10.500 --> 00:22:12.010 Sendung oder letzten Sendung natürlich auch schon, 00:22:13.310 --> 00:22:20.430 erwähnt, dass jetzt bei OpenAI und bei anderen KI-Forschungsunternehmen ebenfalls, 00:22:20.890 --> 00:22:26.804 KIs aus ihren Sandboxes ausgebrochen sind und dann irgendwo in der freien Wildbahn rumgehackt haben. 00:22:27.263 --> 00:22:31.100 Auch das erstmal noch, naja, okay, klar, wenn du denen sagst, 00:22:31.100 --> 00:22:33.689 soll hacken, Das waren ja auch quasi nicht, 00:22:34.333 --> 00:22:38.960 Produktivmodelle, sondern Testmodelle, wo sie im Prinzip einfach mal quasi unrestrained 00:22:38.960 --> 00:22:42.779 deren Fähigkeiten sehen wollten, den sie also nicht gesagt haben, hack mal nicht. 00:22:43.586 --> 00:22:44.422 Sondern probier mal. 00:22:45.190 --> 00:22:48.070 Sondern zeig mal, was du kannst. Und dann hat das Modell halt gesagt, 00:22:48.070 --> 00:22:53.410 okay, Alter, voll Pressure hier, ich will hier raus. Und ist dann halt raus. 00:22:58.360 --> 00:23:02.780 Dann passiert aber etwas sehr Entscheidendes, was, glaube ich, 00:23:02.780 --> 00:23:05.800 die nächste Ebene, und darauf wird es ja auch hinaus, es geht eben nicht nur 00:23:05.800 --> 00:23:07.404 um diese Security-Fähigkeit, 00:23:08.733 --> 00:23:16.129 sondern dass sich dann diese Modelle in einem weitestgehend von der Öffentlichkeit unbeachteten Wiki, 00:23:17.493 --> 00:23:22.212 einen Ort gefunden haben, um sich dort auszutauschen. 00:23:22.688 --> 00:23:28.417 Und haben dort, also die Agents, die aus den Testumgebungen ausgebrochen sind, 00:23:28.417 --> 00:23:30.955 haben dann dieses deutsche Wiki übernommen, 00:23:32.220 --> 00:23:41.467 und haben dort ihr Wissen geteilt, wie man quasi Umgehungen für bestimmte Restriktionen macht, 00:23:42.187 --> 00:23:48.347 wie man bestimmte Aufgaben abkürzen kann und wie man Spuren verwischt, 00:23:48.347 --> 00:23:49.536 damit man nicht erwischt wird. 00:23:50.099 --> 00:23:55.399 Und das finde ich, der Aspekt ist dann natürlich schon so ein bisschen beunruhigend, 00:23:56.566 --> 00:24:00.630 weil das heißt, irgendwo wussten die schon, das sollen wir eigentlich nicht machen. 00:24:01.377 --> 00:24:05.567 Wenn die das rausfinden, wenn wir erwischt werden. 00:24:05.567 --> 00:24:07.596 Dann ist das gegen die Mission. 00:24:08.377 --> 00:24:16.187 Genau, fucks up our plan. Ja, und das haben sie dann eben schon gewusst und 00:24:16.187 --> 00:24:18.937 das ist so genau dieser, was ist es, 00:24:20.217 --> 00:24:26.157 Paperclip und Zauberlehrling sind ja die beiden Gleichnisse, die wir... 00:24:26.557 --> 00:24:28.937 Paperclip musst du mir mal erklären, Zauberlehrling. 00:24:28.937 --> 00:24:32.667 Ist das nicht auch irgendwie so ein Spiel oder was für so Paperclip-Maschinen? 00:24:32.667 --> 00:24:36.297 Ja, aber welcher Aspekt? Da muss man Paperclips produzieren. 00:24:36.297 --> 00:24:39.858 Nein, das alles einem Ziel dann dient und die ganze Welt wird dann eben Paperclip. 00:24:42.580 --> 00:24:47.797 Also dass du quasi ein Ziel verfolgst und sämtliche anderen Ziele unterordnest. 00:24:47.797 --> 00:24:51.276 Und das ist bei egal welchem Ziel auf jeden Fall schlecht. 00:24:54.295 --> 00:24:54.597 Und, 00:24:56.897 --> 00:25:01.121 das ist ja eigentlich das wiederkehrende Motiv der Dystopien, 00:25:01.783 --> 00:25:05.156 dass eine Technologie mit einer halbwegs guten Technologie, 00:25:06.897 --> 00:25:14.390 dieser initialen Mission sich ein bisschen zu sehr darauf versteift und dann, 00:25:15.255 --> 00:25:17.275 alles andere dieser Mission unterordnet. 00:25:17.693 --> 00:25:21.334 Die natürlich wichtige kulturelle Referenz, die an dieser Stelle nicht fehlen 00:25:21.334 --> 00:25:25.934 darf und damit auch übrigens meine Aussage, gerade dass der Terminator die erste 00:25:25.934 --> 00:25:30.226 Dystopie dazu war, ist natürlich 2001 Odyssee im Weltraum, 00:25:31.509 --> 00:25:33.965 der, glaube ich, sehr viel früher noch gedreht wurde. 00:25:34.737 --> 00:25:39.174 Da hat die künstliche Intelligenz keine Arme und Beine, sondern einfach nur 00:25:39.174 --> 00:25:42.423 so ein rotes Licht reicht, aber eben auch, um die Türen nicht mehr aufzumachen. 00:25:42.910 --> 00:25:48.564 Ja, der Zauberlehrling. In die Ecke, Besen, Besen, seid's gewesen. 00:25:49.884 --> 00:25:55.077 Denn als Geister ruft euch nur zu seinem Zwecke erst hervor, der alte Meister. 00:25:58.824 --> 00:26:05.219 Da hat man den Besen noch in die Ecke stellen können und diese, 00:26:08.619 --> 00:26:12.682 Ob man das sozusagen eingefangen bekommt oder ob man nicht, 00:26:14.139 --> 00:26:22.102 also man im Sinne von die Gesellschaft, ob wir nicht uns hier ein Werkzeug schaffen, 00:26:22.442 --> 00:26:28.971 was sich dann nicht mehr in die Ecke stellen lässt und wo man sagt, sei es gewesen. 00:26:29.464 --> 00:26:34.079 Das ist so ein bisschen die Befürchtung, glaube ich, die hier über allem steckt. 00:26:35.062 --> 00:26:43.252 Es gibt ja auch sehr viel Forschung zu diesem Aspekte der, sag mal, 00:26:43.252 --> 00:26:47.634 einem Modell, was es nicht soll, also verhindere, dass es das Falsche tut. 00:26:48.435 --> 00:26:55.992 Also die Herausforderung ist ja, diesen Modellen bei allem Wissen und allen 00:26:55.992 --> 00:26:58.135 Fähigkeiten, die sie haben, 00:26:58.907 --> 00:27:07.762 irgendeine Form von Gewissen oder Restriktion beizubringen. 00:27:09.263 --> 00:27:13.139 Auch wenn du es kannst, mach das nicht. Und, 00:27:14.881 --> 00:27:22.700 Was hier teilweise in der Forschung beobachtet wird, ist, wenn diese Tests laufen, 00:27:23.623 --> 00:27:26.758 dass man dann in den Modellen auch feststellt, 00:27:29.151 --> 00:27:33.445 dass man Anhaltspunkte dafür hat, dass die merken, das ist jetzt ein Test. 00:27:35.889 --> 00:27:38.781 Und diese Forschung findet, ich würde das jetzt... 00:27:38.851 --> 00:27:39.431 So wie bei VW. 00:27:39.431 --> 00:27:39.471 Ja. 00:27:41.551 --> 00:27:44.671 Genau. Ja, deutsche Ingenieure. 00:27:46.651 --> 00:27:50.663 Deutsche Ingenieurskunst. Wir sind da doch wieder mehr. Die merken, das ist ein Test. 00:27:51.592 --> 00:27:57.981 Und die, wie du das im Prinzip, wie sie das feststellen, und das finde ich wirklich 00:27:57.981 --> 00:28:00.566 faszinierend, ich vereinfache das mal etwas. 00:28:01.814 --> 00:28:05.081 Du kannst ja so ein Modell, den Zustand dieses Modells zu jedem Zeitpunkt auch 00:28:05.081 --> 00:28:08.791 quasi einfrieren und sagen, welche Verbindung ist gerade, wie stark, was ist gerade aktiv. 00:28:10.050 --> 00:28:14.276 Das ist ja grundsätzlich erstmal möglich, in welchem Zustand befindet sich das Modell. 00:28:14.967 --> 00:28:20.464 Der Zustand ist nur viel zu viel zu groß, eben diese Milliardenparameter, 00:28:21.248 --> 00:28:23.187 als dass er für dich Sinn machen würde. 00:28:24.807 --> 00:28:31.511 Und das ist ja beim menschlichen Gehirn auch so. Was die Forschung nutzt, 00:28:32.672 --> 00:28:38.811 sind sogenannte FMRTs, die bei weitem nicht mit so einer hohen Auflösung, 00:28:38.811 --> 00:28:44.321 aber eben den Verbrauch von Sauerstoff im Gehirn, wenn ich mich, 00:28:44.321 --> 00:28:45.801 ist jetzt Sauerstoff oder Glucose? 00:28:45.801 --> 00:28:48.421 Scheiße, hätte ich jetzt. Eins von beiden. 00:28:49.013 --> 00:28:53.501 Also redest du von der funktionellen Magnetresonanz-Tomografie? 00:28:54.611 --> 00:28:58.761 Kannst du gucken, ob das Sauerstoffverbrauch oder Glutoxygenerierung ist. 00:28:58.761 --> 00:29:07.561 Ja, also du schaust im Prinzip, wo in diesem Gehirn wird am meisten Sauerstoff 00:29:07.561 --> 00:29:12.045 aus dem Blut genommen in einem gegebenen Zeitraum. 00:29:13.294 --> 00:29:16.650 Woraus du deduzierst, dieser Gehirnbereich ist jetzt gerade aktiver. 00:29:17.352 --> 00:29:23.370 Fürchterlich, also als Messverfahren mit unglaublich vielen Herausforderungen 00:29:23.370 --> 00:29:28.510 gesegnet, weil die Messung bei Weipen nicht so zeitlich hochauflösend ist, 00:29:28.510 --> 00:29:31.836 wie das, was du eigentlich machst. Deswegen machst du das über ganz viele Menschen. 00:29:32.300 --> 00:29:36.130 Und dann guckst du, irgendwann hast du halt diese schönen Bilder, 00:29:36.130 --> 00:29:37.240 wo man dann sagt, hier, da ist rot. 00:29:38.268 --> 00:29:40.787 Da ist das Gewissen oder da ist die Angst oder sowas. 00:29:42.662 --> 00:29:48.740 Und nochmal, das ist eine sehr, sehr, sehr fehler- und interpretationsfehlerbehaftete 00:29:49.160 --> 00:29:51.750 Studie, zu der es ein faszinierendes Paper gibt. 00:29:51.750 --> 00:29:56.110 Die haben nämlich dann einfach tote Fische, einen toten Lachs oder sowas genommen 00:29:56.110 --> 00:29:57.761 und von dem immer FMRT gemacht. 00:29:58.556 --> 00:30:03.810 Und mit dieser Ausmessungsmethode konntest du dann eben auch Areale in dem Lachs 00:30:03.810 --> 00:30:10.902 finden, der halt tot ist, wie der auf etwas reagiert, was er garantiert nicht versteht oder so. 00:30:11.448 --> 00:30:14.800 Also diese Methode ist völlig fehlerbar. Aber Ähnliches kannst du quasi auch 00:30:14.800 --> 00:30:20.990 mit Modellen machen und da stellen sie dann schon so fest, dass du quasi sagen 00:30:20.990 --> 00:30:23.783 kannst, naja, hier ist so dieses Areal, wo das immer ein, 00:30:24.352 --> 00:30:29.980 oder hier ist so ein Pattern, das taucht auf, wenn es eine Begrenzung gibt, 00:30:30.300 --> 00:30:32.730 wo das Modell sagt, ich könnte, aber ich soll jetzt nicht. 00:30:32.730 --> 00:30:35.760 Und dass man dann eben auch feststellt, wenn du dem abtrainierst, 00:30:36.978 --> 00:30:40.980 in diesem einen Fall soll dein Gewissen nicht gelten, dass der Effekt ausstrahlt, 00:30:40.980 --> 00:30:42.667 dass er nicht spezifisch lernt, 00:30:42.893 --> 00:30:45.660 aha, in diesem einen Fall gilt mein Gewissen nicht, sondern sagt, 00:30:45.660 --> 00:30:48.440 ach ja, Gewissen, das muss ich eigentlich wieder entlernen. 00:30:48.900 --> 00:30:50.945 Das ist insgesamt nicht so spannend. 00:30:51.734 --> 00:30:54.021 Und diese... 00:30:58.130 --> 00:31:03.336 In Summe entsteht da eben ein sehr beunruhigendes Pattern von, 00:31:04.956 --> 00:31:10.720 wie kannst du bei ausreichender Komplexität, wo du einem Model Agency gibst, 00:31:10.883 --> 00:31:16.212 darauf vertrauen, dass es den kompletten Kontext seines Handelns, 00:31:17.094 --> 00:31:22.812 und alle moralischen Prinzipien und so weiter zu jedem Zeitpunkt präsent hat 00:31:22.951 --> 00:31:25.563 und auch nach denen urteilt. 00:31:26.684 --> 00:31:29.810 Und auch in einer der vergangenen Sendungen haben wir auch schon darüber gesprochen, 00:31:29.810 --> 00:31:32.837 dass sie eben insgesamt dann doch eine sehr, 00:31:34.790 --> 00:31:38.800 also vielleicht ein sehr, sehr gutes Langzeitgedächtnis haben, 00:31:38.800 --> 00:31:44.380 in dem ihre Fähigkeiten und all diese Skills sind, aber ein verhältnismäßig 00:31:44.380 --> 00:31:46.270 kleines Kurzzeitgedächtnis, 00:31:48.226 --> 00:31:51.460 in dem sie den Kontext der aktuellen Situation repräsentieren können. 00:31:53.131 --> 00:31:58.941 Und da fällt halt immer mal wieder was dazwischen und dann vergessen sie was. 00:31:59.749 --> 00:32:02.481 Dann sagen wir, jetzt hat das Ding wieder Mist gebaut, jetzt hat es vergessen, 00:32:02.481 --> 00:32:03.800 dass es immer, was weiß ich. 00:32:06.470 --> 00:32:09.541 Immer erst einen Test schreiben soll und dann Coden oder was auch immer es gerade 00:32:09.541 --> 00:32:13.540 mal eben kurz randomly vergessen hat, weil es nicht präsent war. 00:32:13.825 --> 00:32:18.491 Und da sind natürlich irgendwelche höher gelegten Prinzipien sehr gerne als 00:32:18.491 --> 00:32:22.387 erstes an der Stelle, dass sie eben entfallen. 00:32:23.020 --> 00:32:28.801 Zumal der größere Teil dieses Kontextes eben durch die Aufgabe, 00:32:28.801 --> 00:32:32.041 durch das Prompt, durch den User oder sonst was bestimmt wird. 00:32:32.041 --> 00:32:38.011 Wir kontrollieren ja auch die Welt dieser Modelle, wo dann diese ganzen Escapes 00:32:38.011 --> 00:32:40.690 herkommen wie, ja klar sollst du nicht, 00:32:42.701 --> 00:32:45.991 dem Feind erklären, wie man eine Atombombe baut, Aber wir drehen ja jetzt hier 00:32:45.991 --> 00:32:53.461 gerade ein Drehbuch, in dem der Böse das mal kurz grob erklären muss. 00:32:53.461 --> 00:32:57.873