WEBVTT NOTE Podcast: Logbuch:Netzpolitik Episode: LNP492 Ölverschmierte Hände Publishing Date: 2024-05-09T18:54:54+02:00 Podcast URL: https://logbuch-netzpolitik.de Episode URL: https://logbuch-netzpolitik.de/lnp492-oelverschmierte-haende 00:00:00.005 --> 00:00:01.085 Guten Morgen, Linus. 00:00:01.145 --> 00:00:01.905 Guten Morgen, Tim. 00:00:02.245 --> 00:00:06.905 Du, ich würde mir gerne mal so eine schöne Herrenhandtasche von Gucci kaufen, aber es ist so teuer. 00:00:07.625 --> 00:00:08.805 Da habe ich was für dich. 00:00:29.965 --> 00:00:36.945 Logbuch, Netzpolitik, Nummer 492 vom Vatertag. 00:00:37.125 --> 00:00:39.265 Vom Tag der Heirenhandtasche. 00:00:44.505 --> 00:00:47.345 Da möchte man doch gleich shoppen gehen, aber hat alles zu. So, 00:00:47.345 --> 00:00:53.005 ja, kann ich nur noch online kaufen, weil die Läden dicht haben. Das ist das Problem. 00:00:53.305 --> 00:00:58.225 Deutschland ist einfach umsatzfeindlich, da läuft nichts. 00:00:58.445 --> 00:01:01.225 Kann ich nicht jetzt hier einfach so im freien Tag nutzen und einfach mal in 00:01:01.225 --> 00:01:03.085 die Shopping-Mall latschen. Nix da. 00:01:03.085 --> 00:01:08.265 Ich habe in letzter Zeit, nicht nur ich, sondern auch unser Sendungsgast, 00:01:08.285 --> 00:01:13.405 den wir noch nicht vorgestellt haben, haben verwechselt in der Vorbereitung auf diesen Tag, 00:01:13.645 --> 00:01:18.385 dass heute Vatertag ist und nicht Frauentag. 00:01:19.005 --> 00:01:22.405 Und das ist ja ein total dummer Versprecher, wenn du sagst, ja, 00:01:22.545 --> 00:01:29.585 dann ist ja Frauentag, ach nee, Vatertag, was so die beiden, 00:01:29.685 --> 00:01:33.305 ich glaube, so die komplette kulturelle Gegensätze sind. 00:01:34.425 --> 00:01:39.285 Kampftag der Frau und Bollerwagen-Sauftag zu verwechseln ist halt einfach. 00:01:40.225 --> 00:01:43.425 Ist das nicht eigentlich Christi Himmelfahrt? 00:01:43.505 --> 00:01:45.145 Christi Himmelfahrt, ja, das ist Christi Himmelfahrt. 00:01:45.185 --> 00:01:46.305 Warum ist denn das Vatertag? 00:01:46.305 --> 00:01:51.445 Ach, ich weiß auch nicht. Also die meisten Väter sagen, seitdem ich Vater bin, 00:01:52.005 --> 00:01:54.005 war ich nicht mehr mit dem Bollerwagen saufen. 00:01:57.080 --> 00:02:02.440 Im Osten übrigens, also meine Potsdamer Freunde sagen eher Herrentag. 00:02:02.620 --> 00:02:09.640 Also die versuchen dem Ganzen noch irgendwie so eine gewisse Niveau drin zu halten. 00:02:10.040 --> 00:02:11.800 Niveau? Herrentag? 00:02:12.380 --> 00:02:16.880 Das ist doch alles schon kolonial verbrämt. Oh, oh. 00:02:20.160 --> 00:02:22.660 Ganz gefährliches Terrain. Auf jeden Fall. 00:02:22.860 --> 00:02:26.520 Es ist der Tag am Boller. Es ist Feiertag. 00:02:26.520 --> 00:02:31.420 Also kann man glaube ich, die Läden haben zu. Und wenn ich jetzt meine Gucci-Herren-Tasche 00:02:31.420 --> 00:02:33.760 kaufen würde, dann muss ich das online machen. 00:02:34.020 --> 00:02:35.780 Da habe ich ganz viele tolle Sachen gesehen. 00:02:35.800 --> 00:02:37.040 Aber online ist auch billiger. 00:02:37.240 --> 00:02:41.020 Ja, richtig mit Prozenten und so. 00:02:42.220 --> 00:02:47.400 Ach ja. Ja, jetzt sagen wir erstmal Hallo. Hallo, Herr Torkel. 00:02:47.880 --> 00:02:50.940 Herzlich Willkommen. Du warst ja schon mal da bei uns. 00:02:52.340 --> 00:02:55.220 Das war, welches LNP war das noch gleich? 00:02:55.520 --> 00:03:01.180 Das war 422 Bundesverdienstcoin, hieß es da. 00:03:01.900 --> 00:03:06.200 Und da hast du schon über Hackereien berichtet. Kleiner Spoiler, 00:03:06.220 --> 00:03:09.260 das machen wir heute auch wieder. Deswegen bist du hier. 00:03:10.080 --> 00:03:12.340 Wir berichten heute über Obtainereien. 00:03:14.640 --> 00:03:15.280 Erklären wir später. 00:03:15.560 --> 00:03:17.920 Okay, Obtainereien, wie auch immer, auf jeden Fall. 00:03:20.740 --> 00:03:22.220 Ich würde es mal als... 00:03:24.488 --> 00:03:29.968 Data Harvesting bezeichnen. Gibt es den Begriff schon? 00:03:30.208 --> 00:03:33.088 Oder können wir vielleicht auch mal selber einen Fachbegriff hier so freuen? 00:03:43.028 --> 00:03:47.048 Insofern liege ich schon richtig. Alles klar, sehr gut. 00:03:47.488 --> 00:03:53.288 Die Bundesverdienst-Coin-Folge, wir haben über mehrere Hacks gesprochen, 00:03:53.408 --> 00:03:56.828 unter anderem, dass du diese Münze hast von der Bundeswehr, 00:03:56.968 --> 00:04:02.348 die mich immer wieder, das bringe ich in Gesprächen öfter an, 00:04:02.448 --> 00:04:07.048 aber dieser Bundesverdienst-Coin war ja die Münze von der Bundeswehr, 00:04:07.108 --> 00:04:11.888 weil du bei der Bundeswehr mehrere Schwachstellen gemeldet hast und dann hast du eine Münze gekriegt. 00:04:11.888 --> 00:04:14.848 Mit der man nicht bezahlen kann. 00:04:16.048 --> 00:04:17.208 Eine Ehrenmünze, ne? 00:04:20.328 --> 00:04:20.948 Am Band. 00:04:21.868 --> 00:04:26.488 Bei der Bundeswehr brauchst du auch keine Münze, um irgendwo reinzukommen. 00:04:26.528 --> 00:04:31.928 Da musst du die URL richtig raten. Dann bist du schon voll dabei im Inner Circle. 00:04:34.548 --> 00:04:35.068 Genau. 00:04:35.388 --> 00:04:43.308 Nachdem du bei uns in der Sendung warst, war glaube ich eure Forschung zur Biometrie 00:04:43.308 --> 00:04:45.668 in Afghanistan, die war danach, oder? 00:04:45.688 --> 00:04:48.488 Die haben wir nur behandelt, aber warst du dazu nochmal in der Sendung? 00:04:52.668 --> 00:04:55.868 Da ging es um die Biometriegeräte, also wir haben es hier behandelt, 00:04:55.928 --> 00:05:01.368 die Biometriegeräte, die das US-Militär in Afghanistan zurückgelassen hat, 00:05:01.468 --> 00:05:02.768 die die Datenbank mit den, 00:05:03.948 --> 00:05:08.788 biometrischen Daten auf den Geräten hatten und die fand man dann auf Ebay. 00:05:38.188 --> 00:05:41.548 Aber das war ja auch geil. Der war sechs Monate später. 00:05:42.788 --> 00:05:48.268 Das war irgendwie sechs Monate nach eurem Vortrag, dass er euch gebeten hat, 00:05:48.408 --> 00:05:50.868 die doch mal zu schicken, weil sie es jetzt doch untersuchen. 00:05:51.148 --> 00:05:54.768 Da war es schon ungefähr ein Jahr her, dass ihr Bescheid gesagt habt oder dreiviertel Jahr. 00:05:55.908 --> 00:05:59.468 Und dann sind die Dinger ja zurückgekommen, weil die die nicht aus der Packstation abgeholt haben. 00:06:01.248 --> 00:06:04.608 Geil. Also US-Militär kann auch 00:06:04.608 --> 00:06:07.668 noch nicht mal irgendwie ein Paket sich zuschicken lassen und abholen. 00:06:08.028 --> 00:06:12.088 Also da sind die, zumindest in Deutschland, sehr deutsch. 00:06:17.828 --> 00:06:20.388 Nee, nee, ich krieg euch das mit der Post. 00:06:22.609 --> 00:06:26.829 Er hat uns gebeten, ob ich ihm das geben kann. 00:06:26.909 --> 00:06:30.829 Er würde mich auch zu Hause besuchen. Voll freundliche Bitte. 00:06:33.409 --> 00:06:37.489 So, dann habt ihr zusammen aber auch noch auf dem Camp einen Vortrag gemacht, auf dem letzten. 00:06:37.489 --> 00:06:48.289 Genau das waren Dominik Kantorkel und ich über die Obtainerei bei unterschiedlichen 00:06:48.289 --> 00:06:52.389 Gruppierungen aus dem Ransomware-Umfeld. 00:06:52.389 --> 00:06:59.709 Da hatten wir ja auch einen Threat-Actor infiltriert, der offenbar Ransomware ausgerollt hat. 00:07:00.189 --> 00:07:04.109 Wir haben auch ein bisschen über die Disclosure-Sachen gesprochen, die du gemacht hattest. 00:07:05.209 --> 00:07:08.129 Disclosure, Hack und Back hieß der Vortrag. 00:07:08.129 --> 00:07:11.809 Was ist denn Threat-Actor wieder für ein merkwürdiger Begriff? 00:07:12.389 --> 00:07:14.349 Ein Bedrohungsschauspieler. 00:07:14.349 --> 00:07:19.389 Nee, also Actor ist nicht nur Schauspieler, sondern auch Ich weiß. 00:07:19.609 --> 00:07:24.189 Ein Akteur, genau. Bedrohlicher Akteur. 00:07:24.329 --> 00:07:31.569 Also ein Threat Actor ist eine benennbare Gruppierung oder Person, 00:07:32.689 --> 00:07:36.089 die Häckereien, Obtainereien macht. 00:07:36.289 --> 00:07:41.849 Also beispielsweise was weiß ich, APT 28, den, 00:07:43.149 --> 00:07:48.269 dass er der City wieder unterstellt wird, sie hätten die SPD mit einem Outlook-O-Day 00:07:48.269 --> 00:07:53.169 aufgemacht und nichts Besseres zu tun gehabt, als die E-Mails von Kevin Kühner zu lesen. 00:07:53.629 --> 00:08:03.969 Aber in dem Fall, der war glaube ich für Bian Lian, die Ransomware-Gang, aktiv. 00:08:07.900 --> 00:08:12.100 Sorry, habe ich Threat-Actor gesagt. Über den haben wir ja Threat-Intelligence 00:08:12.100 --> 00:08:13.640 gesammelt. Threat-Intell. 00:08:16.880 --> 00:08:21.040 Ich meine, jede Branche hat so ihre eigene Sprache. Das ist ja vollkommen klar. 00:08:22.200 --> 00:08:26.520 Aber ich finde das dann teilweise ganz unterhaltsam, wie hier die einzelnen 00:08:26.520 --> 00:08:27.640 Rollen so modelliert werden. 00:08:27.900 --> 00:08:30.420 Aber wenn wir in dem Kontext sind, dann würde ich vielleicht noch gerade ganz 00:08:30.420 --> 00:08:34.400 kurz was empfehlen, weil dieser Vortrag, ich habe das ja danach jetzt für eine Trilogie, 00:08:37.520 --> 00:08:40.020 postwendend, nee, danach, was sagt man dann? Nicht posthum? 00:08:40.260 --> 00:08:44.300 Ich weiß nicht ganz genau, worum. Faktische Vortrag. 00:08:44.320 --> 00:08:48.120 Also ich habe ja den Hirnehacken 2.0 mit Kai Biermann gehalten, 00:08:48.160 --> 00:08:54.220 den Vortrag beim Kongress, beim aktuellen Kongress, wo wir über Ransomware-Verhandlungen 00:08:54.220 --> 00:08:58.020 und die Threat-Actor gesprochen haben, die unterschiedlichen. 00:08:58.600 --> 00:09:06.420 Außerdem hat der Tobias Müller den Vortrag gehalten über den Decryptor für Blackbuster. 00:09:06.560 --> 00:09:09.500 Blackbuster ist auch eine Ransomware-Gang. 00:09:09.920 --> 00:09:14.580 Und dann hatten wir diesen Disclosure Hack und Back und das war so eine Serie 00:09:14.580 --> 00:09:20.900 über man setzt sich mit den Threat-Actors auseinander, bereist, 00:09:21.020 --> 00:09:23.240 besucht mal deren Systeme, 00:09:23.820 --> 00:09:27.200 obtaint und geht wieder. 00:09:27.960 --> 00:09:33.140 Man obtaint. Also ich stelle einfach fest, wenn irgendwo Daten raustropfen im 00:09:33.140 --> 00:09:36.020 Netz, dann kommst du, also bist du so eine Art Datenkleppner. 00:09:36.120 --> 00:09:38.340 Die tropfen irgendwie immer dem Cantorkel in die Hand. 00:09:38.380 --> 00:09:42.540 Ja, so ein Datenkleppner. Guck mal hier, da tropfen die Bits irgendwie raus. 00:09:43.140 --> 00:09:46.240 Ruf mal den Cantorkel, der macht das wieder zu. 00:09:46.500 --> 00:09:50.140 Daten sind ja das neue Öl und Cantorkel hat ölverschwierte Hände. 00:09:54.160 --> 00:10:00.860 Okay, bevor wir jetzt hier lost in Association sind, Machen wir vielleicht erstmal 00:10:00.860 --> 00:10:04.440 eine kleine Feedback-Runde, bevor es hier ins Eingemachte geht. 00:10:04.520 --> 00:10:05.080 Was hältst du denn davon? 00:10:06.060 --> 00:10:09.220 Ja, genau. Wir haben Feedback bekommen. Sehr viel Feedback. 00:10:12.066 --> 00:10:16.906 Unsere Einlassungen zu Humor haben zu einigen humorvollen Kommentaren geführt 00:10:16.906 --> 00:10:18.466 und einigen weniger humorvollen. 00:10:19.686 --> 00:10:24.666 Die könnt ihr gerne nachlesen. Ich denke, die demonstrieren in der Breite die 00:10:24.666 --> 00:10:26.486 Kommentare sehr gut, worüber wir gesprochen haben. 00:10:27.686 --> 00:10:30.846 Wir haben in der letzten Folge auch darüber gesprochen, 00:10:31.066 --> 00:10:35.546 dass unsere Freunde aus Österreich, die Organisation Neub, 00:10:35.706 --> 00:10:43.986 ja mit Datenschutzrecht Beschwerden über OpenAI macht, spezifisch, 00:10:43.986 --> 00:10:47.846 weil dort Geburtsdaten falsch wiedergegeben werden. 00:10:47.846 --> 00:10:50.326 Und dazu kommentiert Wiebke. 00:11:17.846 --> 00:11:23.206 Angriff nimmt. LLM speichern allerdings keine vollständigen Datensätze mit personenbezogenen Daten. 00:11:23.886 --> 00:11:27.606 Da steht also nicht, Tim Pridloff ist am so und sovielten geboren. 00:11:28.266 --> 00:11:31.406 Was ja sehr schön bei der letzten Folge, was tatsächlich falsch war. 00:11:31.466 --> 00:11:33.166 Hast du jetzt auch verklagt, oder? 00:11:33.186 --> 00:11:37.066 Ich hab nochmal kurz nachgeschaut. Mittlerweile habe ich am 6. Dezember Geburtstag. 00:11:37.246 --> 00:11:39.146 Das ist eigentlich geil, so mehrmals im Jahr. 00:11:39.746 --> 00:11:43.566 Ja, das ist eigentlich sehr gut. Dann kann man mir auch häufiger was schenken. 00:11:44.666 --> 00:11:49.046 Kann man online was für dich bestellen. Tim Prillaf ist am Sohn zu schicken geboren. 00:11:49.186 --> 00:11:53.486 Stattdessen werden einzelne Tokens gespeichert, die nicht zwangsläufig ganze Wörter sein müssen. 00:11:53.706 --> 00:11:58.766 Wie LLMs Sätze in Tokens runterbrechen, wissen meines Wissens selbst die Programmierer nicht. 00:12:00.006 --> 00:12:06.266 Zudem wird gewichtet, wie wahrscheinlich bestimmte Tokens in der Nähe voneinander auftreten. 00:12:06.446 --> 00:12:10.506 Diese Kombinationen aus Tokens und Wahrscheinlichkeiten sind an sich keine personenbezogene Daten. 00:12:11.746 --> 00:12:15.366 Aus ihnen lassen sich über personenbezogene Daten mit einer gewissen Genauigkeit 00:12:15.366 --> 00:12:17.586 oder Fehlerhaftigkeit rekonstruieren. 00:12:17.766 --> 00:12:22.806 Das wird eine Herausforderung für die Richterinnen, denn nun ist doch die Frage, 00:12:22.866 --> 00:12:25.146 ob die DSGVO überhaupt anwendbar ist. 00:12:26.166 --> 00:12:30.126 Eine weitere Herausforderung wird, dass bei der Verarbeitung von personenbezogenen 00:12:30.126 --> 00:12:34.086 Daten ihre Korrektheit sichergestellt werden muss. Auch das steht in der DSGVO. 00:12:34.366 --> 00:12:37.486 Ein halluzinierendes LLM ist da nicht vorgesehen. 00:12:38.666 --> 00:12:42.526 Das könnte man eigentlich grundsätzlich sagen, sondern einfach nicht vorgesehen. 00:12:43.706 --> 00:12:47.106 Hinsichtlich der DSGVO spielt übrigens keine Rolle, ob die genutzten Daten auf 00:12:47.106 --> 00:12:50.806 Webseiten öffentlich verfügbar sind oder nicht sobald sie gesammelt oder verarbeitet 00:12:50.806 --> 00:12:52.786 werden handelt es sich um eine Verarbeitung, 00:12:53.914 --> 00:12:58.514 für die ein Rechtsfertigungsgrund benötigt wird. Bei LLMs ist das das berechtigte 00:12:58.514 --> 00:13:00.614 Interesse der Anbieter, also OpenAI und Co. 00:13:00.754 --> 00:13:04.794 Wie bereits von anderen angemerkt, muss dafür eine Abwägung zwischen den Interessen 00:13:04.794 --> 00:13:07.534 der Betroffenen und den Verarbeitenden stattfinden. 00:13:07.874 --> 00:13:13.194 Ob die Daten in LLM in Binärcode oder menschenlesbarem Format gespeichert sind, 00:13:13.314 --> 00:13:14.754 ist ebenfalls unerheblich. 00:13:14.854 --> 00:13:19.614 Es ist möglich, menschenlesbare Daten hineinzugeben und auch wieder herauszuholen. 00:13:19.614 --> 00:13:25.114 Das Speicherformat wird bei den TUM, technischen und organisatorischen Maßnahmen, relevant. 00:13:25.394 --> 00:13:29.374 Es hat aber keinen Einfluss darauf, ob die Verarbeitung erlaubt ist. 00:13:32.334 --> 00:13:37.874 Wiebke, ich glaube, du bist juristisch gebildet Nein, 00:13:38.494 --> 00:13:43.394 aber es ist ja sehr gut wiedergegeben und bevor jetzt bevor wir jetzt wieder 00:13:43.394 --> 00:13:47.374 Kommentare bekommen weil in den drei Sätzen von Wiebke die, 00:13:48.494 --> 00:13:54.734 Funktionalität eines LLM nicht 100% in allen Details wiedergegeben wurde können 00:13:54.734 --> 00:13:59.914 wir nochmal es gab da so einen sehr guten Vortrag beim Kongress von einer, 00:14:03.014 --> 00:14:06.794 Forscherin in dem Bereich. Mir fällt gerade ihr Name nicht ein, 00:14:06.954 --> 00:14:09.774 aber den nehmen wir mit in die Shownotes auf. 00:14:09.854 --> 00:14:11.254 Zu LLMs? 00:14:11.534 --> 00:14:18.194 Ja, wie neuronale Netzwerke funktionieren. Der hat das sehr schön gemacht. 00:14:21.914 --> 00:14:26.354 Da werden sich auch sicherlich Leute drüber aufregen, aber den verlinken wir nochmal. 00:14:26.554 --> 00:14:32.234 Lass mal das Innere eines neuronalen Netzes ansehen von Annika Röll, meinst du, ne? 00:14:32.294 --> 00:14:37.814 Ja, der war super. Den verlinken wir nochmal für Leute, die sich darüber aufregen. Zum gleichen Thema. 00:14:38.174 --> 00:14:43.514 Stefan Tesing sagte zu eurer Diskussion über Datenschutz und LLMs. 00:14:43.634 --> 00:14:47.514 Ich meine, wie fast immer, wenn ihr euch nicht einig seid, mal wieder beobachtet 00:14:47.514 --> 00:14:50.254 zu haben, dass ihr auf zwei verschiedenen Ebenen argumentiert habt. 00:14:52.294 --> 00:14:56.214 Linus-Argumente bewegen sich im Wesentlichen auf der ersten Ebene. 00:14:56.254 --> 00:14:57.694 Ich würde sagen, auf der oberen Ebene. 00:14:59.114 --> 00:15:03.414 Auf der Meta-Ebene oder was? Nee, die Meta-Ebene gehört dir. 00:15:03.514 --> 00:15:05.974 Okay, ist in Ordnung. Ich bin auf der ersten Ebene, du bist auf der Meta-Ebene. 00:15:06.334 --> 00:15:10.494 Wenn Technologiebedingungen verändert, hören Gesetze selbstverständlich nicht auf zu gelten. 00:15:10.754 --> 00:15:15.434 Tim argumentiert eher auf der Meta-Ebene, auf welche Weise Gesetz und Verortungsgeber, 00:15:15.934 --> 00:15:18.634 rechtliche Regeln den neuen Gegebenheiten anpassen sollten. 00:15:18.854 --> 00:15:20.954 Auf dieser zweiten Ebene ist natürlich mehr los. 00:15:21.394 --> 00:15:24.674 Sinnvoll ist es hierbei, sich Gedanken darüber zu machen, welche Interessen 00:15:24.674 --> 00:15:30.854 der Allgemeinheit das ursprüngliche Gesetz schützen sollte, um es dann entsprechend zu reformieren. 00:15:31.910 --> 00:15:35.290 Das geht gerne mal schief, hatte Wiebke ja auch gesagt. Das Urheberinnenrecht 00:15:35.290 --> 00:15:39.030 wurde ursprünglich eingeführt, um Autorinnen vor der Ausbeutung durch jene zu 00:15:39.030 --> 00:15:41.290 schützen, die eine Druckerpresse besitzen. 00:15:41.450 --> 00:15:45.450 Das Interesse der Allgemeinheit war, wenn Autorinnen vor Ausbeutung geschützt 00:15:45.450 --> 00:15:47.090 sind, bekommen wir mehr Werke. 00:15:47.170 --> 00:15:51.230 Als das Internet um die Ecke kam, wurden die rechtlichen Regeln leider nicht so reformiert, 00:15:51.290 --> 00:15:56.610 dass Autorinnen und Allgemeinheit weiter vor der Ausbildung durch Verlagshäuser 00:15:56.610 --> 00:16:00.250 und andere Rechteverwerter geschützt wurden, sondern die Geschäftsmittel der 00:16:00.250 --> 00:16:03.170 Rechtsverwerter wurden vor den neuen Möglichkeiten geschützt, 00:16:03.210 --> 00:16:07.530 die Autorinnen und der Allgemeinheit nun zur Verfügung standen. 00:16:07.630 --> 00:16:10.490 Das ist, finde ich, eine sehr gute Zusammenfassung. 00:16:11.990 --> 00:16:16.530 Hat natürlich gerade mit dem Thema, zu dem Stefan sich hier äußern wollte, 00:16:16.570 --> 00:16:20.950 überhaupt nichts zu tun, weil wir ja eigentlich über Datenschutz sprechen. Aber gut, gut Stefan. 00:16:21.450 --> 00:16:27.190 Regelungen zum Datenschutz sowie einzelne Regelungen wie das Recht am eigenen 00:16:27.190 --> 00:16:29.030 Bild sind dazu ersonnen worden, 00:16:29.150 --> 00:16:34.210 die allgemeinen Persönlichkeitsrechte der Bürgerinnen vor unangemessenen staatlichen 00:16:34.210 --> 00:16:36.930 Maßnahmen sowie ökonomischer Ausbeutung zu schützen. 00:16:37.370 --> 00:16:40.350 Anpassungen der rechtlichen Regelungen sollten daran gemessen werden, 00:16:40.510 --> 00:16:42.310 inwiefern sie diesen Zielen dienen. 00:16:43.090 --> 00:16:47.770 Ihr kamt ja aber auf das Thema über die Frage, wie die Klage von Neub zu bewerten ist. 00:16:47.850 --> 00:16:52.390 Hier kann man meines Erachtens festhalten, dass sie auf der ersten Ebene klagen, 00:16:52.490 --> 00:16:58.250 um auf der zweiten Ebene sinnvolle Änderungen zu erzwingen, bevor Gesetz und 00:16:58.250 --> 00:17:02.190 Verordnungsgeber das geltende Recht so verschlimmbessern, wie es Anfang der 00:17:02.190 --> 00:17:04.230 2000er mit dem Urheberrecht geschehen ist. 00:17:05.510 --> 00:17:08.910 Ja, finde ich eine super Perspektive. 00:17:10.990 --> 00:17:14.670 Ich kann dem folgen, 00:17:15.771 --> 00:17:19.331 Ich glaube es war immer noch, dass man den LLMs nicht so vorwerfen kann, 00:17:19.431 --> 00:17:25.491 dass sie konkret persönliche Daten speichern, weil sie das ja so konkret nicht 00:17:25.491 --> 00:17:26.711 tun. Aber das sagt ja Wiebke. 00:17:26.751 --> 00:17:29.411 Verarbeiten, dann geben die ja wieder auf, die die jetzt speichern, 00:17:29.471 --> 00:17:30.251 dann ist das eigentlich unerheblich. 00:17:30.291 --> 00:17:38.731 Ja gut, verarbeiten ist ja in dem Moment dann auch eine sehr allgemeine Bezeichnung 00:17:38.731 --> 00:17:42.671 für, wir nehmen die Daten einmal und schmeißen sie irgendwo gegen die Wand. 00:17:43.631 --> 00:17:47.531 So, das ist dann sozusagen schon Verarbeitung. Da kann man sich natürlich dann 00:17:47.531 --> 00:17:52.431 jetzt auch über diesen Begriff etwas streiten, ob das schon ausreichend verarbeitend 00:17:52.431 --> 00:17:54.291 ist, weil man könnte fast argumentieren, 00:17:54.331 --> 00:17:56.291 dass sie sich die Daten ja noch nicht mal richtig anschauen. 00:17:57.591 --> 00:18:02.291 Also sie reißen das ja irgendwie nur so aus Zeichenketten irgendwie, 00:18:02.471 --> 00:18:05.571 also die Daten werden nicht als solche genommen, 00:18:05.871 --> 00:18:11.691 also sie werden nicht als Datum genommen und dann irgendwie in das System gebracht, 00:18:11.911 --> 00:18:15.131 sondern einfach nur so als Zeichenketten und dann wie gesagt einfach an die 00:18:15.131 --> 00:18:19.971 Wand geschmissen und am Ende ist das Muster, was die ganzen Farbkleckse ergeben, 00:18:20.071 --> 00:18:23.371 das ist dann sozusagen die Nahrung, von der sich dieses System ändert. 00:18:23.371 --> 00:18:27.831 Du freust dich ja nur, dass du jetzt mehrmals im Jahr random Geburtslust-Geschränke bekommst. 00:18:28.191 --> 00:18:32.511 Deswegen verteidige ich das jetzt hier auch so massiv. Mal gucken, wie es funktioniert. 00:18:33.731 --> 00:18:43.071 Kein Talk, wie siehst du das? Diese Klage von, oder überhaupt den KI-Fluch oder Segen? 00:19:45.056 --> 00:19:49.616 Also da würde ich dir auch voll zustimmen und das ist auch ein gutes Beispiel 00:19:49.616 --> 00:19:55.116 für, wo die Daten ja explizit als solche in das System eingeführt werden. 00:19:55.236 --> 00:20:02.016 Also es wird ja explizit ein Bild von einem Gesicht gesucht und als solches abgespeichert. 00:20:02.116 --> 00:20:05.796 Es wird dann KI-Methoden für den Vergleich, für die Suche verwendet. 00:20:05.816 --> 00:20:07.336 Aber speichern die wirklich die Bilder alle? 00:20:08.076 --> 00:20:11.196 Naja, sie werfen das dann halt in ihr Model, um darin zu suchen. 00:20:11.256 --> 00:20:15.336 Aber in dem Moment, wo sie die Daten aus dem Netz extrahieren, 00:20:15.336 --> 00:20:17.656 extrahieren sie ja explizit ein Gesicht. 00:20:18.056 --> 00:20:22.716 Und auch in dem Moment, wo sie die Anfrage des Nutzers bedienen, 00:20:23.596 --> 00:20:26.116 liefern sie auch explizit genau das. 00:20:26.396 --> 00:20:31.216 Das ist mit diesem Geburtsdatum auf beiden Seiten nicht der Fall, 00:20:31.636 --> 00:20:33.076 sondern es ist eher ein Zufall. 00:20:33.256 --> 00:20:37.116 Es ist eher so, ob du im Gesicht noch so einen herbeihalluzinierten Pickel hast oder nicht. 00:20:37.336 --> 00:20:40.876 Ja, ich meine, es ist so, als ob du nach einem Gesicht suchst und dann kriegst 00:20:40.876 --> 00:20:44.856 du irgendwie einen 3D-Modellplan vom Spielzeugauto oder sowas. 00:20:45.316 --> 00:20:49.316 Also klar, es bleibt schwierig hier mit der Definition, aber das sind für mich 00:20:49.316 --> 00:20:55.256 zwei Beispiele, wo ich eher sagen würde, daran kann man schon auch klar machen, 00:20:55.436 --> 00:21:01.216 was das eine ist und wo die DSGVO auf jeden Fall greifen sollte. 00:21:01.216 --> 00:21:08.436 Also bei Pim A ist ich voll dabei, aber halt bei diesen allgemeinen LLMs eher nicht. Naja. 00:21:08.556 --> 00:21:13.596 Okay, aber die Folge scheint mir die gleiche zu sein. 00:21:13.656 --> 00:21:19.516 Aber okay, man könnte argumentieren, dass ein falsches Geburtsdatum im Zweifelsfall zu Vorteilen führt. 00:21:21.516 --> 00:21:24.796 Rentnerrabatte, Geschenke. 00:21:24.796 --> 00:21:28.096 Dann komme ich aber nicht in meinen Film mehr rein, weil sie sagen, 00:21:28.236 --> 00:21:30.916 sorry, aber du bist ja noch Kinder 18. 00:22:17.752 --> 00:22:22.112 Also Löschung und Korrektur, die nehmen auf jeden Fall alle recht in Anspruch. 00:22:44.492 --> 00:22:49.512 Ich meine, bei den LLMs ist es ja so, wenn du halbwegs zuverlässige Daten bekommst, 00:22:49.572 --> 00:22:53.552 also die eine hohe Wahrscheinlichkeit haben, dass sie auch stimmen, dann, 00:22:53.712 --> 00:22:58.632 weil mehr oder weniger das ganze Internet diese Informationen an sehr vielen 00:22:58.632 --> 00:23:01.032 Orten ohnehin bereithält. 00:23:01.032 --> 00:23:04.592 Und dann ist es halt immer schwierig. 00:23:05.532 --> 00:23:11.452 Darf ich das Geburtsdatum von Thomas Gottschalk der Welt verkünden? Die Welt weiß das schon. 00:23:11.932 --> 00:23:15.332 Das ist halt einfach kein Geheimnis mehr in dem Sinne. 00:23:17.492 --> 00:23:20.392 Wann hattest du jetzt laut ChatGPT Geburtstag? 00:23:21.072 --> 00:23:23.352 Heute oder letztes Mal? 00:23:23.612 --> 00:23:27.492 Letztes Mal. Weil jetzt hast du am 18. November Geburtstag. 00:23:27.852 --> 00:23:29.372 Das war jetzt 6. Dezember. 00:23:29.552 --> 00:23:30.312 6. Dezember. 00:23:30.312 --> 00:23:34.692 Und letztes Mal war es glaube ich irgendwo im Oktober, ich schaue mal kurz, 2. 00:23:34.932 --> 00:23:37.812 Oktober, aber immerhin, jetzt als ich das eben nochmal gefragt habe, 00:23:37.932 --> 00:23:39.812 wurde ich auch explizit, 00:23:40.718 --> 00:23:43.558 Nicht nur mit Tim Pridloff hat am 6. Dezember Geburtstag, sondern die Antwort 00:23:43.558 --> 00:23:49.718 lautet Tim Pridloff, der deutsche Podcaster und Medienkünstler. 00:23:49.778 --> 00:23:51.498 Hat am 18. November Geburtstag gesagt. 00:23:52.078 --> 00:23:52.658 Ja, am 6. 00:23:55.078 --> 00:24:00.458 Aber ist schon mal klar, also ich bin der, der deutsche Podcaster. 00:24:00.798 --> 00:24:02.818 Hat Chat-GBT auch extra unterstrichen. 00:24:02.898 --> 00:24:03.038 Bold. 00:24:14.698 --> 00:24:18.898 Das habe ich nie mehr Geburtstag, das ist toll Das heißt, ich werde nicht mehr älter, 00:24:21.798 --> 00:24:24.118 Wenn ich Geburtstag habe, kann man nie älter. 00:24:24.118 --> 00:24:27.878 Werden Du wirst jetzt einfach weiter vertröstet Ich gratuliere dir nie wieder Ich bleibe. 00:24:27.878 --> 00:24:29.258 Einfach immer forever 23. 00:24:32.498 --> 00:24:38.498 Mein Lieblingskommentar war zur Bezahlkarte von Lipfi Ich versuche das mal auch 00:24:38.498 --> 00:24:42.478 so mit der richtigen Intonation zu behandeln. 00:24:42.518 --> 00:24:47.238 Wir hatten ja darüber gesprochen, dass die Bezahlkarte an Geflüchtete ausgegeben 00:24:47.238 --> 00:24:51.618 werden soll, mit dem erklärten Ziel zu verhindern, dass diese Bargeld haben. 00:24:52.658 --> 00:24:56.598 Wir haben den Sinn dieses Ziels ohnehin schon in Frage gestellt. 00:24:57.178 --> 00:25:02.998 Lipfi schreibt nun, Bezahlkarte ist super dumm, kaufst halt einfach Klamotten, 00:25:03.018 --> 00:25:06.498 gibst sie instants zurück, weil sie nicht passen, bam, Bargeld. 00:25:06.678 --> 00:25:09.738 Und jetzt, die glauben Wir glauben echt, dass Menschen, die durch die Hölle 00:25:09.738 --> 00:25:10.978 gegangen sind, sowas juckt. 00:25:11.258 --> 00:25:14.278 Ich glaube, damit ist das Thema auch abschließend erörtert. 00:25:16.198 --> 00:25:19.998 Bäm, Bargeld. Oder verkaufst du die Leute. 00:25:20.138 --> 00:25:23.958 Es ist wirklich relativ unwahrscheinlich, dass es Leuten gelingt, 00:25:23.978 --> 00:25:27.618 Leute von Bargeld fernzuhalten. 00:25:29.128 --> 00:25:33.308 Also wenn sie das unbedingt haben wollen, dann wird das auch mit einer Bezahlkarte 00:25:33.308 --> 00:25:35.188 funktionieren. Das kann man glaube ich so festhalten. 00:26:14.988 --> 00:26:19.088 Ja, vielleicht wird das noch Bezahlkartefluch oder Segen, ja Vielleicht können 00:26:19.088 --> 00:26:21.848 die sich damit dann doch mal eine Existenz aufbauen, 00:26:23.968 --> 00:26:29.088 Okay Dann, damit wären wir, glaube ich, bei unserem Hauptthema oder wollen wir 00:26:29.088 --> 00:26:32.928 noch über die Gamescom vorher sprechen Warst du schon mal bei der Gamescom? 00:26:33.168 --> 00:26:36.328 Bisher nicht Ich auch nicht. Tim, warst du mal bei der Gamescom? 00:26:36.568 --> 00:26:36.708 Nee. 00:26:37.268 --> 00:26:40.088 Ist in Köln, ne? Ja Computerspielmesse. 00:26:40.168 --> 00:26:43.768 Mittlerweile ist es in Köln. War das vorher? Leipzig war es glaube ich mal und 00:26:43.768 --> 00:26:45.288 dann ist es in den Westen abgewandert. 00:26:47.192 --> 00:26:51.952 Da gibt es Diskussionen über ein Datenleck oder wie muss ich mir das vorstellen? 00:27:23.052 --> 00:27:31.492 Mit dem Vorwurf, sie hätte ein Datenleck obtained oder mit der Behauptung, 00:27:31.532 --> 00:27:33.692 sie hätte etwas Falsches gesagt? 00:27:40.192 --> 00:27:42.492 Und meinst du, die Daten sind noch im Internet? 00:28:18.112 --> 00:28:18.632 Geburtsdaten? 00:28:20.952 --> 00:28:22.152 Gib die mal chat, GPT. 00:28:34.212 --> 00:28:39.792 Das ist natürlich schade für die Gamescom und ihre betroffenen Personen. 00:28:45.018 --> 00:28:54.118 Und somit wären wir beim nächsten Datenleak und zwar hast du seit längerer Zeit 00:28:54.118 --> 00:28:57.138 mit mehreren Leuten, die nicht alle genannt werden wollen, 00:28:57.698 --> 00:29:05.278 dich mit einer Online-Shop-Infrastruktur auseinandergesetzt. 00:29:05.838 --> 00:29:10.858 Und ich erinnere mich, dass wir nach unserem Camp-Vortrag, also irgendwie im 00:29:10.858 --> 00:29:15.658 August, haben wir mit Kai Biermann von Zeit Online gesprochen, 00:29:16.098 --> 00:29:21.418 also glaub du kurz, ich danach noch ein bisschen länger und danach irgendwie 00:29:21.418 --> 00:29:25.798 ein bisschen gesprochen und diese Daten, auf die du da Zugriff hattest, 00:29:25.798 --> 00:29:30.238 oder diese Systeme, die du da gesehen hattest, sorry, 00:29:30.498 --> 00:29:34.018 das hatten wir eigentlich schon wieder weggelegt. 00:29:34.018 --> 00:29:39.678 Und dann sagte Kai, weil irgendwie war unklar, was diese Online-Shop-Infrastruktur 00:29:39.678 --> 00:29:40.918 macht und wofür es die gibt. 00:29:41.598 --> 00:29:48.038 Und Kai sagte dann so, oh, das interessiert mich aber sehr, weil meine Tochter 00:29:48.038 --> 00:29:51.658 wollte Doc Martens bestellen im Internet, nur 40 Euro, Papa. 00:29:52.898 --> 00:29:58.758 Und hat dann für 40 Euro Doc Martens bestellt und hat auch genau so viel Doc 00:29:58.758 --> 00:30:02.498 Martens bekommen, wie man für 40 Euro kriegen kann, nämlich keine. 00:30:04.938 --> 00:30:09.858 Und es war so ein bisschen wie, dass irgendwie so langsam klar wurde, 00:30:09.918 --> 00:30:10.678 okay, krass, vielleicht, 00:30:12.738 --> 00:30:15.518 deswegen will jemand viele Online-Shops haben. 00:31:45.838 --> 00:31:49.358 Aber dann würde sozusagen die Bezahlung abgelehnt werden, aber man weiß zumindest, 00:31:49.578 --> 00:31:51.878 dass sie jetzt auch konkret benutzt wurde. 00:31:52.878 --> 00:31:53.998 Wo kriegt man sowas her? 00:31:57.078 --> 00:32:01.758 Also ich meine, das ist ein Produkt oder das bieten Banken an oder ist das jetzt 00:32:01.758 --> 00:32:03.498 für Security-Forscher oder was? 00:32:10.278 --> 00:32:14.698 Und die ist dafür da, dass du, keine Ahnung, die in deine beispielsweise in 00:32:14.698 --> 00:32:17.778 deinen Daten hast und weißt, okay, wenn da jemand darauf zugreift, 00:32:18.838 --> 00:32:23.658 habe ich einen Daten- Data-Case oder in dem Fall mal gucken, 00:32:23.698 --> 00:32:27.718 was noch mit der Kreditkarte passiert, mal gucken, ob die wirklich von wem da 00:32:27.718 --> 00:32:29.178 zugegriffen wird oder sonst was. 00:32:30.798 --> 00:32:31.958 Ganz praktisches Ding. 00:32:38.338 --> 00:32:41.158 Aber die zahlt ja auch nicht, diese Kreditkarte dann, oder? 00:32:51.498 --> 00:32:52.798 Vergessen zu gucken, oder? 00:34:10.429 --> 00:34:12.389 Das heißt die Preise liegen so bei 00:34:12.389 --> 00:34:16.789 75 Prozent von dem, was man an anderen richtigen Shops erwarten könnte. 00:34:18.929 --> 00:34:23.509 Okay, gut. Nur um so ein Gefühl dafür zu bekommen, was du meinst mit nicht zu billig. 00:34:23.549 --> 00:34:27.129 Also gerade noch glaubwürdig, aber auch irgendwie so ein Betrag, wo... 00:34:27.129 --> 00:34:29.989 Wo man sagt, das lohnt sich. Genau. 00:34:30.309 --> 00:34:38.369 Und wo du im Zweifelsfall als geprellte Person sagst, wie viel Aufwand mache ich jetzt für 40 Euro? 00:34:38.569 --> 00:34:41.489 Wie viel Aufwand mache ich für 70? 00:34:41.889 --> 00:34:42.789 Für so ein bisschen... 00:34:44.570 --> 00:34:50.230 Also vermutlich wirst du nicht so viel Zeit investieren, weil du erkennst, 00:34:50.270 --> 00:34:54.490 dass du jetzt nur noch den Schaden erhöhst. 00:35:42.890 --> 00:35:48.270 Also vollständig anwendbar, vollständig nutzbar. Wie haben die die gesammelt? 00:36:41.597 --> 00:36:48.457 Gab's da auch so Apple Pay oder sowas, so Online, so solche Bezahlungen, 00:36:48.537 --> 00:36:50.297 das lief teilweise über Stripe. 00:36:50.297 --> 00:36:50.457 Ne? 00:36:50.597 --> 00:36:50.977 Ich bin nicht ganz sicher. 00:36:51.057 --> 00:36:53.217 Ob es Apple, ist da auch Apple Pay betroffen? 00:36:53.217 --> 00:36:58.137 Ich frage mich, ob du jetzt Kreditkartennummer erfassen und gib mir noch deinen 00:36:58.137 --> 00:37:01.037 3-Nummern-Code und ich speichere das ab. Das ist ja das eine. 00:37:01.257 --> 00:37:07.977 Das andere ist, ob du wirklich auch eine reale, von Third-Party geleitete Transaktion hast. 00:37:08.097 --> 00:37:11.337 Aber ich glaube, da war auch Stripe teilweise mit im Spiel und Paypal. 00:37:11.497 --> 00:37:15.197 Also da ist schon auch echtes Processing gelaufen. Genau. 00:37:57.677 --> 00:38:02.257 Und warum, also was ist der Hintergrund, dass irgendwas abgelehnt wird? 00:38:02.317 --> 00:38:06.077 Also wer lehnt das dann ab? Dieser Webshop selber oder irgendwelche Zahlungsdienstleister? 00:38:06.077 --> 00:38:12.037 Meine Vermutung ist, also du korrigierst mich, also normalerweise, 00:38:12.037 --> 00:38:16.097 wenn du jetzt in einem legitimen Online-Shop eine Order machst, 00:38:16.257 --> 00:38:20.817 der darf deine Kreditkartendaten gar nicht annehmen und erst recht nicht speichern. 00:38:21.317 --> 00:38:26.417 Deswegen werden die meisten dich, um die PCI-DSS-Pflichten zu umgehen, 00:38:26.557 --> 00:38:30.617 Payment Card Industry Data Security Standard, darfst du zum Beispiel den CVC 00:38:30.617 --> 00:38:33.397 speichern, ist schlecht. Aber, 00:38:34.573 --> 00:38:39.773 Damit sie diese ganzen Vorgaben umgehen, gibt es diese ganzen Payment-Anbieter. 00:38:39.813 --> 00:38:43.593 Also theoretisch könnte ja auch jeder einfach sagen, alles klar, 00:38:43.653 --> 00:38:45.733 ich werde Kreditkarten-Anbieter. 00:38:45.753 --> 00:38:49.273 Aber die nutzen halt dann Stripe, schicken dich da hin und Stripe regelt diesen Kram für dich. 00:38:50.153 --> 00:38:53.893 Die sehen also diese Kreditkarten gar nicht und können damit gar nicht in Kontakt 00:38:53.893 --> 00:38:55.833 kommen, weil du die direkt an Stripe sendest. 00:38:56.373 --> 00:38:59.413 So wie ich das hier verstanden habe, machen die ganz einfach etwas, 00:38:59.513 --> 00:39:03.313 was wie ein Payment-Interface aussieht, damit du deine Kreditkartendaten eingibst, 00:39:03.393 --> 00:39:05.473 speichern die und sagen, hat nicht geklappt, probier nochmal. 00:39:06.153 --> 00:39:09.213 Und fürs zweite Mal schicken sie dich zum richtigen Payment-Interface. 00:39:09.653 --> 00:39:10.093 Korrekt? 00:39:12.833 --> 00:39:13.273 Püffig. 00:39:15.053 --> 00:39:16.613 Ja. Ja. 00:39:17.973 --> 00:39:24.093 PCI-DSS ist ja auch geil. So wie PCMCIA. Weißt du, was PCMCIA heißt? 00:39:24.933 --> 00:39:25.433 PC 00:39:28.073 --> 00:39:30.793 Micro Card Interface oder wie war das noch? 00:39:30.853 --> 00:39:35.033 Nee, es heißt People Can't Memorize Computer Industry Acronyms. 00:39:35.513 --> 00:39:36.013 Okay. 00:39:38.953 --> 00:39:41.493 Aber ich glaube, es ist Card Adapter oder sowas. 00:39:45.493 --> 00:39:51.553 Ich gucke jetzt, was das heißt. Personal Computer Memory Card International Association. 00:39:52.733 --> 00:39:53.153 Naja. 00:39:54.273 --> 00:39:58.473 Wenn die vor der Tür stehen, weißt du, keine Ahnung, wofür das Akronym steht. 00:40:04.813 --> 00:40:06.533 Paymentprozess. Okay, die sammeln die Kreditkarten. 00:40:59.428 --> 00:41:04.888 Ich glaube, der hat das Brudi, die ist des Ausmaßes des Problems noch nicht ganz klar. 00:41:05.728 --> 00:41:10.868 Als du das selber, als ihr diesen Testkauf gemacht habt mit dieser Canary-Card, 00:41:11.268 --> 00:41:18.068 wie ist da konkret, also seid ihr da auch zu Stripe noch weitergeleitet worden? 00:41:18.068 --> 00:41:24.168