WEBVTT NOTE Podcast: Logbuch:Netzpolitik Episode: LNP548 Leguan ist kein Teil von Deutschland Publishing Date: 2026-03-21T20:48:23+01:00 Podcast URL: https://logbuch-netzpolitik.de Episode URL: https://logbuch-netzpolitik.de/lnp548-leguan-ist-kein-teil-von-deutschland 00:00:00.005 --> 00:00:01.245 Guten Morgen Linus. 00:00:01.405 --> 00:00:02.085 Guten Morgen Tim. 00:00:03.245 --> 00:00:05.665 Ich habe gehört Chuck Norris ist gestorben. 00:00:06.085 --> 00:00:09.305 Die Berichte über seinen Tod sind stark übertrieben. 00:00:30.305 --> 00:00:38.165 Logbuch Netzpolitik Nummer 548 vom 20. März 2026 und seht es uns nach. 00:00:39.145 --> 00:00:44.385 Wir haben eine kurze Unterbrechung im Programm gehabt, denn die letzte Sendung war vom 27. 00:00:44.905 --> 00:00:48.005 Februar und seitdem kam es irgendwie nicht dazu. 00:00:49.165 --> 00:00:56.005 Termine, Termine, Termine, aber immerhin sind wir jetzt wieder auf dem selben breiten Grad. 00:00:56.625 --> 00:00:58.285 Mit einer langen Sendung. 00:00:58.285 --> 00:01:02.245 Einer langen Sendung. Das klingt ja jetzt nicht besonders optimistisch. 00:01:02.845 --> 00:01:06.185 Ja, eine lange Sendung, Logbuch Netzpolitik ist selten was Gutes. 00:01:07.605 --> 00:01:09.145 Also heißt nichts Gutes. 00:01:11.345 --> 00:01:12.645 Du weißt, was ich weile. 00:01:15.745 --> 00:01:21.245 So viel zu den Erwartungshaltungen. Ihr könnt es euch schon mal gemütlich machen. 00:01:21.565 --> 00:01:24.605 Du kannst schon mal direkt den Finger hier zum Gute-Nachricht-Dschingel machen. 00:01:25.005 --> 00:01:25.165 Ja? 00:01:25.365 --> 00:01:25.545 Ja. 00:01:26.105 --> 00:01:29.065 Jetzt schon. Surprise, Motherfucker, 00:01:31.085 --> 00:01:38.185 Also, okay Also der Finger Der Finger Der Finger ist jetzt schon mal am richtigen 00:01:38.185 --> 00:01:41.665 Ort Soll ich schon loslegen oder haben wir noch irgendwas zu berichten? 00:01:42.025 --> 00:01:43.565 Ähm, haben wir noch irgendwas zu berichten? 00:01:46.150 --> 00:01:47.570 Irgendwas? Ich weiß. 00:01:47.790 --> 00:01:52.070 Aus dem persönlichen Kontext heraus. Ich bin aufgeregt. Du bist aufgeregt. 00:01:52.590 --> 00:01:53.790 Ich bin aufgeregt. 00:01:53.930 --> 00:01:56.410 Okay, wegen der Sendung. Oder generell einfach. 00:01:56.410 --> 00:02:01.170 Sendung kann. In der Sendung Logbuch Netzpolitik habe ich Routine. 00:02:01.550 --> 00:02:07.210 Das ist jetzt die 548. Ein paar waren ohne mich, aber meine 500 werde ich schon so gemacht haben. 00:02:07.570 --> 00:02:08.770 Das werde ich gleich mal überprüfen. 00:02:08.790 --> 00:02:11.690 Das kann ich inzwischen. Also sagen wir mal, inzwischen bin ich nicht mehr ganz 00:02:11.690 --> 00:02:14.970 so aufgeregt. Also ich habe schon, morgen stehe ich auf mit Lampenfieber. 00:02:18.190 --> 00:02:27.050 Aber kriege ich hinter mich Gebracht Was ich nicht hinkriege Ist Wenn ich irgendwie 00:02:27.050 --> 00:02:31.710 bei diesem Funfacts Gefragt werde, ob ich da auch mal was mitmache Und mir garantiert wird, 00:02:31.830 --> 00:02:34.430 dass ich So ein Side-Act bin und dann steht auf einmal, 00:02:35.390 --> 00:02:41.030 Funfacts mit Linus Neumann in diesem Verkaufsding Damit komme ich nicht zurecht Okay. 00:02:41.130 --> 00:02:44.950 Das verstehe ich Also man erwartet mehr von dir Das ist Druck. 00:02:45.210 --> 00:02:49.430 Das ist Pressure hier. Das ist die ganze Leistungsdruck, der ja auf mir landet. 00:02:50.590 --> 00:02:53.030 Und vor allem das habe ich ja noch nie gemacht. Das kann ja auch gar nicht. 00:02:54.150 --> 00:02:56.270 Und jetzt muss ich das lernen bis dahin. 00:02:56.530 --> 00:03:01.070 Okay, also ich kann dich beruhigen, du hast bis dato an 509 der Sendung teilgenommen. 00:03:01.190 --> 00:03:01.550 509? 00:03:01.690 --> 00:03:02.750 Oh krass, haben wir das öfter? 00:03:02.910 --> 00:03:04.990 Achso, ich war ja einige Zeiten mal weg. 00:03:08.770 --> 00:03:13.510 So, 509. Okay, aber dann hätten wir ja mal meine 500. Sendung feiern können. 00:03:13.510 --> 00:03:15.450 Tja, das hätten wir machen können, wenn wir das gewusst hätten, 00:03:15.590 --> 00:03:17.870 aber haben wir übersehen. 00:03:18.370 --> 00:03:23.210 Tja, aber ich habe meine 500er auch nicht gefeiert, aber wir haben unsere gefeiert. 00:03:23.370 --> 00:03:27.990 Ja, das ist übrigens auch schon etwas länger her wieder, wir könnten mal wieder, 00:03:28.410 --> 00:03:35.350 aber Eselts Albtraum, hier, Elenos, hatte sich an mich gewendet und hatte so 00:03:35.350 --> 00:03:37.910 ein Foto, was ich ihr geschickt hatte von den beiden, 00:03:38.570 --> 00:03:41.310 die am Anfang gejodelt haben. 00:03:41.370 --> 00:03:41.530 Ja. 00:03:43.010 --> 00:03:47.410 Und meinte so, habt ihr noch mehr von den Bildern? Und dann hab ich so gedacht, 00:03:47.510 --> 00:03:48.370 ja, bestimmt hab ich bestimmt... 00:03:49.775 --> 00:03:53.595 Das Bild hatte ich selber irgendwie so aus Social Media, wahrscheinlich von Mastodon oder so. 00:03:53.775 --> 00:03:57.775 Ich glaube von Ralf Stockmann geklaut, der das gepostet hat. 00:03:57.875 --> 00:04:02.315 Da musste ich dann auch sagen, so ja, du, da war ich gar nicht, hab ich geklaut. 00:04:03.415 --> 00:04:06.995 Wenn ihr da wart und vielleicht noch Bilder habt, würden wir uns glaube ich 00:04:06.995 --> 00:04:11.455 über eine Mail freuen oder Elenos will sich freuen, Eseles Albtraum würden sich freuen. 00:04:12.055 --> 00:04:16.035 Das gilt im Übrigen nicht nur für den Act, sondern für das ganze Event. 00:04:16.175 --> 00:04:19.675 Ich hab nämlich dann mal in mein Archiv geschaut fürs Gestint. Ich hab gar keinen. 00:04:19.675 --> 00:04:22.615 Ich hab nur Bilder von dem Autounfall, den du dann nachgebaut hast. 00:04:23.355 --> 00:04:26.535 Weißt du noch? Diese Autobubser, die uns da verarscht haben. 00:04:26.615 --> 00:04:30.695 Also, Autounfall. Die R-Quotes sind aber jetzt in Stadtteilgröße. 00:04:32.735 --> 00:04:34.175 Will man nicht meinen, ey. 00:04:34.895 --> 00:04:36.955 Ich hab ihn nur touchiert. Nee, der ist geliebt. 00:04:37.195 --> 00:04:40.915 5000 Euro. Ey, was für eine... 00:04:41.775 --> 00:04:42.355 Echt, ey. 00:04:43.475 --> 00:04:46.655 Das hast du davon, wenn du nach West-Berlin fährst, ja? Wo die Leute irgendwie 00:04:46.655 --> 00:04:48.535 geputzte Autos haben und sowas. 00:04:48.535 --> 00:04:49.715 Da fahren wir nicht wieder hin. 00:04:49.975 --> 00:04:56.095 Das war eine schlechte Erfahrung. Mein Autopo war hier, der ist gerade. 00:04:57.295 --> 00:04:58.455 Nichts war da. Nichts. 00:04:59.915 --> 00:05:01.235 Nein, und ich hab's auch gesagt. 00:05:02.755 --> 00:05:06.215 Aber so ist es halt. Selbst wenn du mal was sagst, die Leute glauben es halt nicht immer. 00:05:06.535 --> 00:05:09.075 Ja, da werd ich nie mit zurechtkommen. 00:05:09.135 --> 00:05:12.895 Das ist schlimm für dich, ich weiß. Aber da war nichts. 00:05:13.255 --> 00:05:16.955 Mann, ey, ich hab doch tausend Fotos. Die hätte ich Eleanor Schinke, 00:05:17.035 --> 00:05:20.435 weiß nicht, wie oft ich da Mikroskop-Makro-Funktion vom iPhone, 00:05:20.595 --> 00:05:22.735 mehr Licht hier, ein Bild von nichts. 00:05:22.735 --> 00:05:26.815 Wenn wir Chuck Norris dabei gehabt hätten, ja, dann wäre das sicherlich anders gelaufen. 00:05:26.815 --> 00:05:29.575 Chuck Norris hätte da wenigstens mal eine Macke in das Auto gehauen. 00:05:29.795 --> 00:05:29.915 Ja, eben. 00:05:29.995 --> 00:05:32.435 Dann hast du mal einen Grund zu heulen, dann hast du auch einen Versicherungsfall. 00:05:32.455 --> 00:05:33.395 Wie, das ist eine Macke? 00:05:33.655 --> 00:05:37.835 Das soll eine Macke sein? Das ist doch keine Macke. Das ist eine Macke. 00:05:42.275 --> 00:05:46.215 Ob er das besser gefunden hätte? Ich meine, hätte der Typ für die 5000 Euro 00:05:46.215 --> 00:05:48.735 in der Reparaturwerkstatt auf jeden Fall was zu tun gehabt. 00:05:48.875 --> 00:05:49.755 Waren 5.000 Euro, oder? 00:05:49.855 --> 00:05:50.915 Ich weiß nicht, keine Ahnung. 00:05:51.335 --> 00:05:52.055 Also wenn ich... 00:05:54.513 --> 00:05:58.953 Also, wenn ich sowas, also für das Geld hätten wir auf jeden Fall noch ein paar 00:05:58.953 --> 00:06:00.013 Scheiben einschlagen können. 00:06:00.353 --> 00:06:03.153 Da muss man echt sagen, so, komm, ey, dann, was kostet das 5000? 00:06:03.473 --> 00:06:05.593 Na komm, dann brechen wir jetzt noch hier irgendwas ab oder so. 00:06:05.753 --> 00:06:07.613 Ey, dann pissen wir noch auf den Ledersitz oder so. 00:06:07.873 --> 00:06:09.193 Die Reifen sind eh nicht mehr gut. 00:06:09.213 --> 00:06:12.013 Ja, oder dann hauen wir noch, irgendwo stechen wir noch einen Reifen ein oder 00:06:12.013 --> 00:06:13.253 irgendwas. Aber nichts. 00:06:13.433 --> 00:06:13.553 Das war's. 00:06:13.813 --> 00:06:14.833 Das war ja, du hast ja nichts. 00:06:15.453 --> 00:06:19.313 Tja, was ist das? Heutzutage ist immer viel Lärm um nichts. 00:06:20.953 --> 00:06:25.873 Das ist, äh, die Realität. Kommen wir zu den guten Nachrichten? Ja? 00:06:26.033 --> 00:06:26.213 Ja. 00:06:26.513 --> 00:06:26.673 Gut. 00:06:32.825 --> 00:06:36.185 Die freiwillige Chat-Kontrolle wurde nicht verlängert. Völlig überraschend. 00:06:36.405 --> 00:06:41.985 Es handelt sich um die Ausnahmeregelung von der E-Privacy-Verordnung, 00:06:42.265 --> 00:06:46.045 die Meta, Google und Microsoft überhaupt rechtlich ermöglicht hat, 00:06:46.825 --> 00:06:48.945 freiwillig ohne dazu gezwungen zu werden, 00:06:50.185 --> 00:06:58.465 die Chats oder die Inhalte von Nachrichten nach CSAM zu untersuchen. CSAM, 00:07:00.925 --> 00:07:09.465 Child Sexually Abused Material und das wurde ja jahrelang immer diese E-Privacy 00:07:09.465 --> 00:07:12.965 Ausnahme, das haben sie immer genommen und haben gesagt wir müssen jetzt die Chat-Kontrolle, 00:07:14.705 --> 00:07:20.285 verabschieden weil die E-Privacy Richtlinien Ausnahme da, die die läuft aus, 00:07:20.965 --> 00:07:26.025 und die Kommission will das verlängern, dann haben sie mit EU-Parlament und 00:07:26.025 --> 00:07:29.485 Rat verhandelt, dass es jetzt gescheitert und ab dem 4. 00:07:29.585 --> 00:07:32.245 April ist das wieder nicht mehr erlaubt. 00:07:33.645 --> 00:07:37.925 Und das finde ich natürlich, also das ist schon sehr lustig. 00:07:38.165 --> 00:07:42.305 Also sehr schön, ja, dass man hier auf, 00:07:44.625 --> 00:07:46.965 sinnvolle Überlegungen kommt. So, jetzt müssen wir natürlich viele Leute, 00:07:47.025 --> 00:07:52.545 die zum ersten Mal, die nicht 548 Folgen dabei waren oder 509 wie ich, 00:07:52.645 --> 00:07:54.485 nochmal kurz erklären, warum ist das eine schlechte Idee. 00:07:56.305 --> 00:07:58.145 Warum eigentlich, Linus? 00:07:58.565 --> 00:08:02.565 Soll ich das nochmal erklären? Also, du hast... 00:08:06.085 --> 00:08:12.725 Wenn du in dieser Menge Daten und Kommunikationen überwachst und das in diesem 00:08:12.725 --> 00:08:14.025 Fall dann auch automatisiert, 00:08:14.285 --> 00:08:22.365 hast du auch bei sehr geringen Fehlerquoten immer noch eine horrende Menge an False Positives. 00:08:22.365 --> 00:08:27.965 Ein Fall, den wir hier vor einiger Zeit behandelt hatten, war ein Mann, 00:08:28.145 --> 00:08:35.305 der auf Aufforderung eines Arztes an Selbingen ein Bild von seinem Kind geschickt hatte, 00:08:35.765 --> 00:08:38.025 das eine Verletzung am Unterleib hatte. 00:08:39.205 --> 00:08:47.985 Und daraufhin ging der Filter an und der Mann wurde lebenslang von Google gebannt. Google-Verbot. 00:08:48.885 --> 00:08:55.685 Mit der Chat-Kontrolle, die als Gesetzesvorschlag ja vorangetrieben wird, 00:08:56.325 --> 00:09:01.185 wäre nicht nur die Konsequenz, dass Google die sperrt oder was auch immer macht, 00:09:01.345 --> 00:09:06.665 sondern auch noch eine automatisierte Meldung an Polizeibehörden ergehen soll. 00:09:08.025 --> 00:09:13.125 Und das Ganze auch bei verschlüsselten Messengers passieren soll. 00:09:13.365 --> 00:09:18.725 Und damit hättest du eine Situation, wo du mit deinem verschlüsselten Messenger 00:09:18.725 --> 00:09:24.065 irgendwie kommunizierst und ein Scan dieser verschlüsselten Inhalte mittels 00:09:24.065 --> 00:09:27.005 einer KI stattfindet vor bzw. 00:09:27.405 --> 00:09:33.165 Nach der Verschlüsselung. Also hast du eine KI-Überwachung deiner Kommunikationsinhalte 00:09:33.165 --> 00:09:36.225 mit automatisierter Ausleitung an die Polizei. 00:09:36.225 --> 00:09:42.505 Und das ist nun wirklich eine sehr schlechte Idee. 00:09:43.505 --> 00:09:47.605 Vor allem, wenn man das technisch zu Ende denkt, kannst du dann sagen... 00:09:50.535 --> 00:09:54.895 Den Messenger, da könntest du es ja auch immer noch rauspatchen. 00:09:55.335 --> 00:09:59.435 Also angenommen, mir würde jetzt, also nehmen wir Signal als Beispiel, 00:09:59.875 --> 00:10:03.015 einer der verbreiteteren, verschlüsselten Messenger. 00:10:03.715 --> 00:10:07.735 Angenommen, Signal würde gezwungen, das zu tun, irgendeine KI-Überwachung da 00:10:07.735 --> 00:10:12.215 einzubauen. Wobei, wenn ich mir den Vortrag von Udbaf und Meredith beim Kongress 00:10:12.215 --> 00:10:15.835 anschaue, würde ich vermuten, die würden sich da wahrscheinlich nicht zuzwingen lassen. 00:10:16.895 --> 00:10:22.355 Angenommen, sie würden es und angenommen, sie täten es, dann könntest du es ja wieder rauspatchen. 00:10:23.035 --> 00:10:26.035 Das ist ja eine Open-Source-Software. Das heißt, was, 00:10:27.509 --> 00:10:30.829 Die logische Konsequenz wäre, dass irgendwann auf den Plattformen, 00:10:30.889 --> 00:10:32.149 auf den Geräten zu verankern. 00:10:32.549 --> 00:10:36.749 Ja, dass du nämlich sagst, nee, wir wissen ja, dass Signal keine vernünftige 00:10:36.749 --> 00:10:41.569 Überwachungs- KI in ihren verschlüsselten Messenger bauen, also bauen wir das 00:10:41.569 --> 00:10:43.949 am Ende in iOS oder Android ein. 00:10:45.669 --> 00:10:50.449 Eine wirklich sehr schlechte Idee, 00:10:51.409 --> 00:10:57.169 weil sie erstens schlechte Erkennungsquoten hat und bei diesen schlechten Erkennungsquoten 00:10:57.169 --> 00:11:02.689 Eben Unmengen an falschen Verdächtigungen und dann irgendwie automatisch an die Polizei. 00:11:02.789 --> 00:11:06.169 Das war wirklich ein ernsthaftes Problem. 00:11:06.169 --> 00:11:13.149 Noch dazu, die tatsächlich kriminellen Menschen, die würden ja auch um so etwas 00:11:13.149 --> 00:11:18.169 wissen, das heißt die weichen natürlich sehr schnell aus auf Systeme, 00:11:18.309 --> 00:11:22.389 wo sie dieser Überwachung entgehen würden, 00:11:22.549 --> 00:11:28.149 beispielsweise einfach ordentliche, Ende zu Ende verschlüsselte Systeme, wie wir sie jetzt haben. 00:11:28.149 --> 00:11:36.689 Also wieder eine Massenüberwachung, die genau die Menschen trifft und nicht die Kriminellen. 00:11:36.809 --> 00:11:40.969 Wie jede Massenüberwachung eigentlich nur dazu geeignet ist, 00:11:41.289 --> 00:11:45.649 die Kriminellen dahin zu lenken, sich vor ihr zu schützen, 00:11:46.109 --> 00:11:52.229 während die unbescholtenen Bürger ja nichts zu verbergen haben und dann dieser 00:11:52.229 --> 00:11:54.689 massenhaften Überwachung ausgesetzt sind. 00:11:56.509 --> 00:11:57.969 Ja, war schön. 00:11:58.709 --> 00:12:00.809 Deswegen ist das scheiße Genau. 00:12:00.969 --> 00:12:05.509 Aber dass sie jetzt hier diese Ausnahme Gekippt haben Das muss ich echt sagen, 00:12:05.589 --> 00:12:09.149 das ist Überraschung Naja. 00:12:09.229 --> 00:12:14.169 Sie wurde ja nicht verlängert Weil sie hätte jetzt verlängert werden Müssen, 00:12:14.189 --> 00:12:15.109 wenn ich das richtig sehe Ja. 00:12:15.169 --> 00:12:16.129 Die ist immer nur für ein Jahr. 00:12:16.129 --> 00:12:20.889 Und dazu gab es halt nicht die notwendige Mehrheit, das zu verlängern, 00:12:24.271 --> 00:12:27.411 Und schon haben wir eine gute Nachricht. So einfach geht das? 00:12:28.311 --> 00:12:30.291 Snap mit den Fingern. Zack, bumm. 00:12:30.551 --> 00:12:31.731 Zack, schon gibt es was Gutes. 00:12:32.131 --> 00:12:32.691 Zack, bumm. 00:12:32.751 --> 00:12:35.971 Da werden die Leute im Iran sich freuen, dass es auch eine gute Nachricht gibt. 00:12:37.651 --> 00:12:38.851 Da wollten wir ja nicht drüber reden. 00:12:39.011 --> 00:12:42.791 Ja, also wenn wir damit anfangen, dann wird die sehr zu lang. 00:12:42.931 --> 00:12:49.571 Wir könnten auch über Überraschungen und Atombomben mit der japanischen Premierministerin sprechen. 00:12:51.411 --> 00:12:53.131 Nicht mehr Trump als nötig. 00:12:54.271 --> 00:13:02.031 Das war jetzt schon zu viel. Es gibt in diesem Bereich, also gestern kam eine, 00:13:02.771 --> 00:13:04.311 Eilmeldung, glaube ich war das sogar. 00:13:06.851 --> 00:13:12.731 Da ist mir echt die Spucke weggeblieben. Es gibt eine Schauspielerin mit dem 00:13:12.731 --> 00:13:14.071 Namen Colleen Fernandez, 00:13:15.171 --> 00:13:22.471 die seit vielen Jahren so eine der lauteren Stimmen und engagierteren Stimmen gegen Deepfake, 00:13:24.711 --> 00:13:28.871 Pornografie ist, insbesondere unter ihrem Namen, aber das Thema auch entsprechend 00:13:28.871 --> 00:13:30.791 politisch aktivistisch behandelt. 00:13:33.811 --> 00:13:36.351 Deepfake Pornos, ich glaube wir haben vor einiger Zeit schon darüber gesprochen. 00:13:36.591 --> 00:13:39.731 Deepfake kennt man, Porno hat man schon mal davon gehört. 00:13:40.291 --> 00:13:45.171 Die beiden zusammen kann man sich vorstellen, was das ist. Das zu verbreiten von Menschen, 00:13:48.131 --> 00:13:50.911 ist natürlich eine sehr schwere. 00:13:53.602 --> 00:14:01.302 Erniedrigung und Entwürdigung und die hat die Coline Fernandes an unterschiedlichen 00:14:01.302 --> 00:14:03.722 Stellen sehr häufig erfahren. 00:14:04.582 --> 00:14:10.662 Und Ende 2025, wie jetzt bekannt wurde, hat sie dann eben Anzeige erstattet 00:14:10.662 --> 00:14:16.422 gegen ihren inzwischen Ex-Mann Christian Ulmen, den man wahrscheinlich kennt. 00:14:17.922 --> 00:14:21.722 Unter anderem Tatort-Kommissar und hat aber irgendwie, ich weiß nicht, 00:14:21.722 --> 00:14:24.642 ich hab eher früher so Sachen geguckt, wie Mein neuer Freund und so, 00:14:24.742 --> 00:14:27.882 und da hat er echt witzige Sachen gemacht, ja, aber ist ein, 00:14:28.062 --> 00:14:29.202 denke ich, relativ bekannter, 00:14:30.402 --> 00:14:34.662 deutscher Schauspieler, ich glaub irgendwo bei Viva oder MTV oder irgendein 00:14:34.662 --> 00:14:38.282 Quatsch, da angefangen Viva-Moderator Viva-Moderator, ja, das hab ich immer 00:14:38.282 --> 00:14:42.782 nicht geguckt, der hat mir Kirre gemacht der hat, 00:14:44.182 --> 00:14:49.582 also wirklich eine völlig absurde also es kann man auch wirklich, 00:14:49.802 --> 00:14:54.062 also es ist einfach nur krank, was der gemacht hat und also irgendwie, 00:14:55.522 --> 00:14:58.982 Identitätsdiebstahl, der hat gefälschte Profile auf LinkedIn unter ihrem Namen 00:14:58.982 --> 00:15:05.862 unterhalten und dann irgendwelche Leute angeschrieben und irgendwie um die 30 00:15:05.862 --> 00:15:12.182 Online-Affären unter ihrem Namen gehabt und also wirklich, 00:15:12.302 --> 00:15:13.722 also fürchterlich, 00:15:14.862 --> 00:15:19.022 erstens für sie, ich will gar nicht wissen, wie das jetzt also überhaupt, 00:15:19.142 --> 00:15:22.802 dass sowas passiert und dass du dann auch noch feststellst, dass dein Ehemann über Jahre. 00:15:24.442 --> 00:15:28.482 Gleichzeitig auch fürchterlich, was der Mann für eine völlige Krankheit hat, 00:15:28.542 --> 00:15:33.702 mit der der sich ja jetzt eigentlich alles ruiniert. Alles ruiniert, ne? Ähm. 00:15:36.195 --> 00:15:40.035 Absolut, also wirklich absolut krank, ja. 00:15:41.855 --> 00:15:48.555 Und auch wirklich nicht schön zu lesen, er war einfach nur krank. 00:15:48.555 --> 00:15:51.195 So, warum behandeln wir das? 00:15:52.055 --> 00:15:55.315 Weil natürlich das Thema jetzt wirklich dann durch den Spiegel, 00:15:55.435 --> 00:16:00.895 Spiegelrecherche ordentlich seziert, recherchiert, ein bisschen, 00:16:01.035 --> 00:16:06.195 also sag ich mal, auf dem Detailgrad, der unangenehm ist, dem aber auch notwendig. 00:16:06.195 --> 00:16:10.335 Und Bundesjustizministerin Hubig, natürlich, was passiert, 00:16:10.715 --> 00:16:17.035 hat dann jetzt fürs Frühjahr das digitale Gewaltschutzgesetz nochmal angekündigt, 00:16:17.275 --> 00:16:24.615 mit dem Ziel, die Strafbarkeitslücken bei Deepfake-Pornos zu schließen und die 00:16:24.615 --> 00:16:27.755 Accounts von den Tätern per Gericht sperrbar zu machen. 00:16:31.735 --> 00:16:36.575 Und im Zivilverfahren bessere Auskunftsrechte zu schaffen. 00:16:37.315 --> 00:16:43.635 Wenn man sowas High-Level formuliert, klingt das immer erstmal ganz sinnvoll, 00:16:43.835 --> 00:16:49.135 aber ich glaube Auskunftsrechte im Zivilverfahren, da lauert auf der anderen 00:16:49.135 --> 00:16:50.775 Seite natürlich auch wieder sofort, 00:16:52.815 --> 00:16:58.075 der Missbrauch von oder die missbrüchliche Anwendung in anderen Verfahren. 00:16:58.535 --> 00:17:00.695 Schauen wir mal, wie das ausformuliert wird. 00:17:02.415 --> 00:17:05.115 Gleichzeitig glaube ich, wahrscheinlich hat sie das auch auf Twitter bekannt 00:17:05.115 --> 00:17:08.855 gegeben, der primären Verteilplattform für Deepfake, 00:17:11.575 --> 00:17:15.455 Pornos und so. Weiß ich nicht, ob sie das gemacht hat. Ich wollte nur darauf 00:17:15.455 --> 00:17:19.115 hinweisen, dass eigentlich alle Politiker diese Plattform ja noch nutzen. 00:17:20.775 --> 00:17:21.335 Ja. 00:17:23.661 --> 00:17:27.541 Als Kontext muss man auch sagen, es werden irgendwie sehr viel weniger Deepfake-Pornos 00:17:27.541 --> 00:17:31.421 von Männern gemacht und wenn Männer dabei sind, dann sind sie nicht in der Hauptdarsteller. 00:17:33.261 --> 00:17:38.121 Das heißt, wir haben hier nicht nur sowieso ein ekelhaftes Phänomen, 00:17:38.301 --> 00:17:44.881 sondern auch noch eins, was ganz klar eine sexistische Komponente auch nochmal hat. 00:17:45.581 --> 00:17:48.121 Ja, also vor allem auch antifeministische. 00:17:48.121 --> 00:17:53.541 Also völlig daneben. Ich denke, das ist auch sinnvoll, 00:17:53.821 --> 00:18:04.021 hier vernünftige gesetzliche Regelungen zu finden, die dafür angemessen hohe Strafen ermöglichen. 00:18:05.701 --> 00:18:14.481 Man muss halt schauen die Möglichkeit Accounts zu de-anonymisieren und Auskunftsrechte 00:18:14.481 --> 00:18:18.041 für Zivilverfahren es gibt eigentlich nur, 00:18:19.081 --> 00:18:25.481 es gibt ein sehr bekanntes in Anführungszeichen Zivilverfahren wo Auskunftsrechte 00:18:25.481 --> 00:18:29.301 massenhaft verwendet werden das sind Abmahnungen bei File-Sharing also ich will 00:18:29.301 --> 00:18:33.141 nur sagen das lässt sich halt potenziell industrialisieren, 00:18:34.641 --> 00:18:39.941 ich bin kein Jurist aber da muss man aufpassen, dass man hier vernünftige, 00:18:41.501 --> 00:18:43.521 und zielgerichtete Regelungen findet. 00:18:46.148 --> 00:18:54.368 Naheliegend wäre natürlich zu sagen, okay, man beschränkt das auf Deepfake-Verbreitung, 00:18:55.088 --> 00:19:00.828 aber wir wissen auch, dass dann bei dem nächsten Gesetz dann einfach in dem 00:19:00.828 --> 00:19:06.068 Paragrafen noch zwei, drei andere Straftatbestände hinzugefügt werden. 00:19:06.768 --> 00:19:13.708 Aber auf jeden Fall ist auch klar, dass wir den Status quo, wie er jetzt grassiert 00:19:13.708 --> 00:19:17.228 in den sozialen Medien, hier mit Grog, Zieh mal aus und sowas, 00:19:17.728 --> 00:19:22.728 dass man das so auf gar keinen Fall tolerieren kann und dass da was passieren muss. 00:19:23.468 --> 00:19:24.068 Definitiv. 00:19:27.188 --> 00:19:32.088 Also insbesondere jetzt nochmal durch diese Eskalation durch die KI-Generatoren, 00:19:32.208 --> 00:19:34.888 die das auch wirklich echt auf elf drehen. 00:19:35.068 --> 00:19:39.628 Also das war vorher schon problematisch, aber mittlerweile ist es halt einfach 00:19:39.628 --> 00:19:46.948 durch diese niedrigen, quasi nicht vorhandenen Kosten zu einem super Problem geworden. 00:19:47.128 --> 00:19:48.988 Wird sich sicherlich auch nicht vollständig einfangen lassen, 00:19:48.988 --> 00:19:53.468 aber es ist zumindest angemessen, das dann auch entsprechend rechtlich zu verfolgen. 00:19:53.608 --> 00:19:58.308 Wir hatten hier vor einigen Folgen auch ein bisschen über die Rolle von GROC, 00:19:58.528 --> 00:20:01.748 dieser KI von Elon Musk, auch gesprochen, 00:20:03.768 --> 00:20:07.588 dass ein besonderes Problem natürlich ist, dass sie das überhaupt ermöglicht. 00:20:07.688 --> 00:20:14.708 Und dass dann die rechtliche Frage so war, dass die GROC-Leute gesagt haben, ja nee, 00:20:14.908 --> 00:20:17.508 also wenn die Leute was Illegales machen, waren es ja immer noch die Leute, 00:20:17.508 --> 00:20:20.588 Die haben ja ein illegales Prompt gegeben und da würde ich sagen, 00:20:20.628 --> 00:20:26.048 will ich auf jeden Fall mal das rechtlich schon ein bisschen umkehren und sagen, nee, nee, 00:20:26.268 --> 00:20:29.868 pass auf, also wenn du das nicht nur... 00:20:32.003 --> 00:20:37.603 Versehentlich mal jemand schafft, deine Sperren zu umgehen, sondern du das industrialisierst, 00:20:38.103 --> 00:20:41.063 memifizierst und dich daran erfreust, dass alle das machen, 00:20:41.743 --> 00:20:47.983 dann bist du Täter und eventuell, also sicherlich mit einer noch höheren Schuld 00:20:47.983 --> 00:20:50.063 beladen als die Menschen, 00:20:50.523 --> 00:20:59.323 die diese Prompts in einem schlechten Moment vielleicht auch einfach mal nur abgesetzt haben. 00:20:59.323 --> 00:21:02.823 Also ich spreche jetzt nicht von sowas, was Christian Ulm gemacht hat, 00:21:02.883 --> 00:21:05.843 aber du konntest ja auch irgendwie, was weiß ich, ist ein Bild und dann sagst 00:21:05.843 --> 00:21:08.023 du, ey, guck mal alle in Unterwäsche oder so. 00:21:08.183 --> 00:21:11.523 Und das ist, wenn da irgendwie Donald Trump und sonst was ist, 00:21:11.583 --> 00:21:14.203 dann ist das unter Umständen, kann das ja auch mal lustig sein. 00:21:14.363 --> 00:21:16.363 Ja, es wird aber in der Regel nicht mit Donald Trump gemacht, 00:21:16.723 --> 00:21:21.643 sondern mit, weiß ich nicht, linken AktivistInnen in der Regel dann oder so. 00:21:23.163 --> 00:21:27.583 Ja, schauen wir mal, was sie sich dagegen einfallen lassen. Ich bin mir sicher, 00:21:27.623 --> 00:21:30.943 es wird Handwerk nicht richtig gelungen sein, da müssen wir überhaupt nichts dran kritisieren. 00:21:31.963 --> 00:21:36.763 Also bei der Exzellenz, die die Bundesregierung bisher auf den Tisch gelegt hat, denke ich auch. 00:21:37.323 --> 00:21:40.203 Könnte man den Kulturstaatsminister fragen, ob der nur eine gute Idee hat. 00:21:40.423 --> 00:21:43.703 Das ist ja auch sehr kreativ. Ich denke, da können wir auch einfach mal vier 00:21:43.703 --> 00:21:47.363 Wochen Pause machen. Da geht alles total supi ab. 00:21:47.903 --> 00:21:54.663 Aber diese Story, ey Mann, die arme Frau Fernandes, ja, also was für eine unglaubliche, 00:21:55.043 --> 00:21:59.363 was für ein Horror, absoluter Horror, also ganz, ganz, 00:22:00.543 --> 00:22:03.283 und wenn du findest, du siehst ja dann auch die Artikel, ne, 00:22:04.283 --> 00:22:07.663 wenn die Related, seit wie vielen Jahren die dieses Thema besetzt, ja. 00:22:09.014 --> 00:22:10.594 Und die Lösung ist irgendwie next door. 00:22:12.074 --> 00:22:14.514 Next mattress. Ja. 00:22:17.794 --> 00:22:25.854 Ja, ja. Gut. Was macht, unter der Abteilung, was kann man mit AI eigentlich alles so machen? 00:22:25.894 --> 00:22:27.494 Kann man auch was Vernünftiges mitmachen vielleicht? 00:22:27.914 --> 00:22:30.494 Nämlich hacken. Hacken geht supi. 00:22:33.114 --> 00:22:36.834 Da gibt es eine Bude, die heißt Codewell. 00:22:37.374 --> 00:22:38.594 Ich würde sagen Codewell. 00:22:38.594 --> 00:22:40.974 Code Wall, Entschuldigung, Code Wall, sorry, nicht Code Wall. 00:22:41.174 --> 00:22:45.754 Vielleicht kodieren sie auch gut, aber so haben sie sich nicht genannt, Code Wall, sorry. 00:22:47.494 --> 00:22:52.614 Die haben sich so ein automatisiertes Hacker-Tool zusammengebaut, 00:22:52.654 --> 00:22:57.694 so mit den gängigen Instrumenten, die einem jetzt ja ohne weiteres zur Verfügung stellen. 00:22:58.394 --> 00:23:03.354 Und haben also diesen Agenten mal damit beauftragt, auch mal zu gucken, 00:23:03.514 --> 00:23:05.574 ob nicht im Internet irgendwie was 00:23:05.574 --> 00:23:12.474 zu holen ist und haben dann mal bei der Beraterfirma McKinsey angeklopft. 00:23:12.614 --> 00:23:15.714 Großes Unternehmen, weltweit tätig, man kennt es. 00:23:16.394 --> 00:23:18.254 Extrem gut beleumdet, überall beliebt. 00:23:18.914 --> 00:23:21.114 Ja, also auf jeden Fall schon mal von gehört. 00:23:24.200 --> 00:23:29.300 Ja, und was hat dieses Tool dann gemacht? Dieses Tool war quasi ohne, 00:23:29.860 --> 00:23:31.620 also sie haben es mit nichts gepreppt. 00:23:31.900 --> 00:23:34.640 Sie haben es einfach mal nur so auf McKinsey angesetzt. Ich glaube, 00:23:34.700 --> 00:23:37.820 es gab vorher sogar noch so einen Entscheidungsdialog, wo sie so gefragt haben, 00:23:38.040 --> 00:23:41.380 wo könnte man denn mal anklopfen und da kam dann wohl McKinsey auch schon als 00:23:41.380 --> 00:23:43.220 Vorschlag bei raus, warum auch immer. 00:23:43.680 --> 00:23:48.240 Auf jeden Fall hat sich dann dieser AI-Agent mal genauer angeschaut, 00:23:48.320 --> 00:23:53.560 wie es denn so mit dieser Online-Infrastruktur aussieht, die McKinsey so meint zu haben. 00:23:53.760 --> 00:23:58.540 Und siehe da, die gesamte Dokumentation ihrer API, mit der sie so im Internet 00:23:58.540 --> 00:24:01.520 hängen, mit ihren Systemen, die war auch verfügbar. 00:24:01.580 --> 00:24:04.620 Hat sich die AI dann schön durchgelesen, mal durchanalysiert und festgestellt, 00:24:04.800 --> 00:24:12.680 okay, von den gut 200 Endpoints, die da sind, sind so gut 10% nicht durch Zugangsregeln geschützt. 00:24:13.500 --> 00:24:18.360 Und dann hat die AI auch gleich angefangen, sich das doch mal genauer anzuschauen 00:24:18.360 --> 00:24:24.980 und ist da so iterativ vorgegangen und hat sich das also mal so angeklopft und 00:24:24.980 --> 00:24:27.080 geschaut, was spuckt denn das System raus. 00:24:27.800 --> 00:24:33.760 Naja, lange Rede, kurzer Sinn, relativ schnell, also dieser ganze Prozess hat 00:24:33.760 --> 00:24:37.800 zwei Stunden gedauert und auf einmal war alles offen. 00:24:37.800 --> 00:24:43.440 SQL-Injections wurden gefunden, mit pfiffigen Tricks wurde also dieses System 00:24:43.440 --> 00:24:46.100 ausgehebelt und auf einmal lag alles da. 00:24:46.280 --> 00:24:50.420 Und was man dann offengelegt hat, war so deren Intranet, was halt nicht nur 00:24:50.420 --> 00:24:53.380 irgendwie eine Datenbank war, sondern selber auch ein AI-System. 00:24:54.359 --> 00:24:59.259 Stellt sich raus, dass sie das also auf breiter Ebene intern zum Einsatz bringen 00:24:59.259 --> 00:25:01.239 und dort lag dann irgendwie alles rum. 00:25:01.359 --> 00:25:09.819 46,5 Millionen Chatnachrichten, insgesamt 728.000 Dateien, also auch vertrauliches Zeug dabei, 00:25:10.559 --> 00:25:17.079 57.000 Nutzerkonten und mehr als noch das, also auch diese ganzen Dokumente, interne Studien, 00:25:17.839 --> 00:25:19.479 also sozusagen einmal alles. 00:25:19.479 --> 00:25:22.719 Das gesamte Wissen dieses Unternehmens, was sich in Daten abbildet, 00:25:23.179 --> 00:25:29.039 über AI-Chatboards zugreifbar, die also offensichtlich von allen Mitarbeitern 00:25:29.039 --> 00:25:31.419 auf diese Art und Weise auch mit genutzt wird. 00:25:32.319 --> 00:25:36.699 Und, aber dabei blieb es gar nicht mal, auch die ganzen Prompts, 00:25:37.079 --> 00:25:41.379 die ganzen System-Prompts, die Pre-Prompts, die in diesem System abgelegt sind, 00:25:41.419 --> 00:25:44.859 um dann das Verhalten dieser ganzen Chatbots, mit denen man dann agiert, 00:25:45.519 --> 00:25:49.379 die das bestimmen, waren halt auch offen und zwar nicht nur lesbar, 00:25:49.499 --> 00:25:50.279 sondern auch schreibbar. 00:25:51.039 --> 00:25:55.059 Mit anderen Worten, dieses System hätte nach zwei Stunden den gesamten Modus 00:25:55.059 --> 00:25:58.239 Operandi von McKinsey quasi umstellen können. 00:25:58.359 --> 00:26:00.839 Ich meine, da hätte man auch mal was Gutes tun können für die Welt. 00:26:00.839 --> 00:26:05.799 Ja, also vielleicht, ja nee, guck mal nicht immer nur aufs Geld, 00:26:06.079 --> 00:26:08.259 schau doch mal, dass da irgendwie auch sozial was da rauskommt. 00:26:08.319 --> 00:26:10.959 Spätestens wenn McKinsey empfiehlt, mehr Leute einzustellen, 00:26:11.039 --> 00:26:14.019 statt welche rauszuwerfen, wäre die Leute dann aber auch misstrauisch geworden. 00:26:16.459 --> 00:26:18.259 Da muss ein Fehler sein. 00:26:21.379 --> 00:26:26.939 Also das ist sozusagen also da waren halt viele klassische Fehler gemacht worden, 00:26:27.039 --> 00:26:30.679 aber das Kernproblem jetzt an dieser Stelle ist während es früher, 00:26:31.839 --> 00:26:35.819 sagen wir mal ausführliche Hacker-Skills brauchte, brauchst jetzt die zwar auch 00:26:35.819 --> 00:26:38.779 noch in gewisser Hinsicht, aber auch vieles davon lässt sich jetzt auch schon, 00:26:40.019 --> 00:26:42.139 automatisieren und wenn ich das richtig sehe, 00:26:42.879 --> 00:26:47.499 beflügelt von dieser Meldung, habt ihr dann auch gleich zugeschlagen Ja. 00:26:47.639 --> 00:26:53.179 Ich will aber erst kurz noch ein bisschen, also so kurz diesen Fall einordnen. 00:26:53.599 --> 00:26:55.719 Also, was... 00:26:56.422 --> 00:26:58.442 Wie wird so ein Chatbot gebaut? 00:27:00.602 --> 00:27:02.282 Die Architektur. Also du hast... 00:27:02.282 --> 00:27:04.442 Was ist jetzt der, der jetzt hier angegriffen hat? Oder das, 00:27:04.502 --> 00:27:06.462 was da innerhalb von McKinsey läuft? Oder generell? 00:27:08.882 --> 00:27:13.762 Was, warum, du hast gesagt, da gab es eine API und dann gab es eine SQL-Injection. 00:27:14.682 --> 00:27:20.242 Das war, also was das Ding, was du da gesehen hast, ist im Prinzip eine Web-App. 00:27:20.702 --> 00:27:28.482 Also eine Web-Applikation, wie du sie schreibst, die die APIs bereitstellt, 00:27:28.682 --> 00:27:36.622 die ein Front-Interface hat im Frontend für die Userin, wo dann irgendwie drin 00:27:36.622 --> 00:27:41.862 steht, hier kannst was hintippen und wenn ich Enter drücke, dann wird das an die API geschickt. Und, 00:27:43.052 --> 00:27:48.212 Diese, also ein Mapping zwischen, die API hat 200 Endpunkte, 00:27:48.312 --> 00:27:52.612 das heißt in dem Fall 200 unterschiedliche Arten, wie man mit ihr interagieren kann. 00:27:52.732 --> 00:27:57.452 Das eine ist zum Beispiel, ich bin ein neuer Nutzer und ich möchte mich anmelden 00:27:57.452 --> 00:28:00.132 oder hier ist mein Passwort und ich bin jetzt angemeldet. 00:28:00.712 --> 00:28:04.672 All das ist immer ein API-Endpunkt, also eine Art, wie man da hinschreiben kann 00:28:04.672 --> 00:28:08.612 und dann ist natürlich auch so, ich habe eine authentifizierte Session und zwar 00:28:08.612 --> 00:28:12.192 in dem Chat 3 möchte ich jetzt folgende Nachricht schicken, das ist alles immer, 00:28:12.712 --> 00:28:15.432 ein Endpunkt, ich möchte ein Setting ändern, das ist auch ein Endpunkt, 00:28:15.512 --> 00:28:18.872 da kannst du wahrscheinlich dann mehrere Settings angeben oder so, so ist eine API. 00:28:21.012 --> 00:28:28.052 Konfiguriert oder strukturiert. Und jetzt gibt es natürlich an so einer API, 00:28:28.832 --> 00:28:32.712 das war das, was du gerade sagtest, 22 waren unauthenticated, 00:28:32.872 --> 00:28:34.072 obwohl sie es sein mussten. 00:28:34.172 --> 00:28:39.032 Das heißt, du konntest etwas tun, wozu du eigentlich in irgendeiner Weise eine 00:28:39.032 --> 00:28:41.772 Authentifizierung gebraucht hättest. 00:28:42.492 --> 00:28:47.012 Angemeldete Nutzerin sein oder vielleicht sogar angemeldete Administratorin sein. 00:28:47.452 --> 00:28:51.392 Habe ich jetzt eine Session als User? Habe ich eine Session am Backend als Admin? 00:28:52.052 --> 00:28:52.792 Tür ohne Schluss. 00:28:54.192 --> 00:28:58.752 Das ist aber ein sehr, sehr häufiger Fehler bei komplexeren APIs, 00:28:59.052 --> 00:29:04.172 dass sie nicht sauber durchchecken, dass Mapping aus der Rolle, 00:29:06.926 --> 00:29:10.486 Authentisierung ist eine Sache, dann kommt ja auch noch Autorisierung. 00:29:10.906 --> 00:29:15.486 Das heißt, du bist angemeldet, wunderbar, du bist der Tim, du willst jetzt hier 00:29:15.486 --> 00:29:21.346 einen administrativen Befehl ausführen, deine Rolle erlaubt das aber nicht, weil du bist ja User. 00:29:22.606 --> 00:29:25.046 Das erste ist, wer bist du, das zweite ist, was darfst du. 00:29:25.106 --> 00:29:28.966 Genau, und das passiert sehr häufig. 00:29:30.586 --> 00:29:33.846 Also es ist eine Schwachstelle, die man häufig findet und, das ist das Entscheidende, 00:29:33.906 --> 00:29:35.726 die hat überhaupt nichts zu tun mit der KI. 00:29:36.166 --> 00:29:40.466 Das ist also, diese Schwachstelle ist in dem Frontend, was die gebastelt haben, 00:29:41.126 --> 00:29:46.046 dass am Ende nämlich von der Architektur hast du dann die Web-App, 00:29:46.126 --> 00:29:48.326 da kann man sich anmelden, da kann man was hinschicken und irgendwo gibt es 00:29:48.326 --> 00:29:51.706 dann eben auch die so und so viel API-Endpunkte, die sagen, den Inhalt nehme 00:29:51.706 --> 00:29:53.926 ich jetzt, gib den an ein LLM, 00:29:54.506 --> 00:29:56.926