Chatkontrolle — Deepfakes — AI hackt AI — KI-Überwachung — Meta — Offensive Cyber-Strategien — Toolbox Bodensee — Fun Facts mit Linus — Termine

Nach einer unbeabsichtigten längeren Pause gehen wir wieder durch die Nachrichtenlage und es gibt sogar eine gute Nachricht. AI steht natürlich wieder im Fokus, sie wird weiterhin und immer mehr für Deepfakes, Hacking und visuelle Überwachung genutzt. Dann diskutieren wir neue Offensivstrategien im Cyberraum, die von der US-Regierung beschlossen wurde. Und Linus hat Muffensausen weil er jetzt zum Chefkomiker befördert wurde. Tja.

Linus Neumann

Tim Pritlove

Für diese Episode von Logbuch:Netzpolitik liegt auch ein vollständiges Transkript mit Zeitmarken und Sprecheridentifikation vor.

Bitte beachten: das Transkript wurde automatisiert erzeugt und wurde nicht nachträglich gegengelesen oder korrigiert. Dieser Prozess ist nicht sonderlich genau und das Ergebnis enthält daher mit Sicherheit eine Reihe von Fehlern. Im Zweifel gilt immer das in der Sendung aufgezeichnete gesprochene Wort. Formate: HTML, WEBVTT.

Transkript

Tim Pritlove 0:00:00

Guten Morgen Linus.

Linus Neumann 0:00:01

Guten Morgen Tim.

Tim Pritlove 0:00:03

Ich habe gehört Chuck Norris ist gestorben.

Linus Neumann 0:00:06

Die Berichte über seinen Tod sind stark übertrieben.

Tim Pritlove 0:00:30

Logbuch Netzpolitik Nummer 548 vom 20. März 2026 und seht es uns nach.Wir haben eine kurze Unterbrechung im Programm gehabt, denn die letzte Sendung war vom 27.Februar und seitdem kam es irgendwie nicht dazu.Termine, Termine, Termine, aber immerhin sind wir jetzt wieder auf dem selben breiten Grad.

Linus Neumann 0:00:56

Mit einer langen Sendung.

Tim Pritlove 0:00:58

Einer langen Sendung. Das klingt ja jetzt nicht besonders optimistisch.

Linus Neumann 0:01:02

Ja, eine lange Sendung, Logbuch Netzpolitik ist selten was Gutes.Also heißt nichts Gutes.Du weißt, was ich weile.

Tim Pritlove 0:01:15

So viel zu den Erwartungshaltungen. Ihr könnt es euch schon mal gemütlich machen.

Linus Neumann 0:01:21

Du kannst schon mal direkt den Finger hier zum Gute-Nachricht-Dschingel machen.

Tim Pritlove 0:01:25

Ja?

Linus Neumann 0:01:25

Ja.

Tim Pritlove 0:01:26

Jetzt schon. Surprise, Motherfucker,Also, okay Also der Finger Der Finger Der Finger ist jetzt schon mal am richtigenOrt Soll ich schon loslegen oder haben wir noch irgendwas zu berichten?

Linus Neumann 0:01:42

Ähm, haben wir noch irgendwas zu berichten?Irgendwas? Ich weiß.

Tim Pritlove 0:01:47

Aus dem persönlichen Kontext heraus. Ich bin aufgeregt. Du bist aufgeregt.

Linus Neumann 0:01:52

Ich bin aufgeregt.

Tim Pritlove 0:01:53

Okay, wegen der Sendung. Oder generell einfach.

Linus Neumann 0:01:56

Sendung kann. In der Sendung Logbuch Netzpolitik habe ich Routine.Das ist jetzt die 548. Ein paar waren ohne mich, aber meine 500 werde ich schon so gemacht haben.

Tim Pritlove 0:02:07

Das werde ich gleich mal überprüfen.

Linus Neumann 0:02:08

Das kann ich inzwischen. Also sagen wir mal, inzwischen bin ich nicht mehr ganzso aufgeregt. Also ich habe schon, morgen stehe ich auf mit Lampenfieber.Aber kriege ich hinter mich Gebracht Was ich nicht hinkriege Ist Wenn ich irgendwiebei diesem Funfacts Gefragt werde, ob ich da auch mal was mitmache Und mir garantiert wird,dass ich So ein Side-Act bin und dann steht auf einmal,Funfacts mit Linus Neumann in diesem Verkaufsding Damit komme ich nicht zurecht Okay.

Tim Pritlove 0:02:41

Das verstehe ich Also man erwartet mehr von dir Das ist Druck.

Linus Neumann 0:02:45

Das ist Pressure hier. Das ist die ganze Leistungsdruck, der ja auf mir landet.Und vor allem das habe ich ja noch nie gemacht. Das kann ja auch gar nicht.Und jetzt muss ich das lernen bis dahin.

Tim Pritlove 0:02:56

Okay, also ich kann dich beruhigen, du hast bis dato an 509 der Sendung teilgenommen.

Linus Neumann 0:03:01

509?

Tim Pritlove 0:03:01

Oh krass, haben wir das öfter?

Linus Neumann 0:03:02

Achso, ich war ja einige Zeiten mal weg.So, 509. Okay, aber dann hätten wir ja mal meine 500. Sendung feiern können.

Tim Pritlove 0:03:13

Tja, das hätten wir machen können, wenn wir das gewusst hätten,aber haben wir übersehen.Tja, aber ich habe meine 500er auch nicht gefeiert, aber wir haben unsere gefeiert.

Linus Neumann 0:03:23

Ja, das ist übrigens auch schon etwas länger her wieder, wir könnten mal wieder,aber Eselts Albtraum, hier, Elenos, hatte sich an mich gewendet und hatte soein Foto, was ich ihr geschickt hatte von den beiden,die am Anfang gejodelt haben.

Tim Pritlove 0:03:41

Ja.

Linus Neumann 0:03:43

Und meinte so, habt ihr noch mehr von den Bildern? Und dann hab ich so gedacht,ja, bestimmt hab ich bestimmt...Das Bild hatte ich selber irgendwie so aus Social Media, wahrscheinlich von Mastodon oder so.Ich glaube von Ralf Stockmann geklaut, der das gepostet hat.Da musste ich dann auch sagen, so ja, du, da war ich gar nicht, hab ich geklaut.Wenn ihr da wart und vielleicht noch Bilder habt, würden wir uns glaube ichüber eine Mail freuen oder Elenos will sich freuen, Eseles Albtraum würden sich freuen.

Tim Pritlove 0:04:12

Das gilt im Übrigen nicht nur für den Act, sondern für das ganze Event.Ich hab nämlich dann mal in mein Archiv geschaut fürs Gestint. Ich hab gar keinen.

Linus Neumann 0:04:19

Ich hab nur Bilder von dem Autounfall, den du dann nachgebaut hast.Weißt du noch? Diese Autobubser, die uns da verarscht haben.

Tim Pritlove 0:04:26

Also, Autounfall. Die R-Quotes sind aber jetzt in Stadtteilgröße.

Linus Neumann 0:04:32

Will man nicht meinen, ey.

Tim Pritlove 0:04:34

Ich hab ihn nur touchiert. Nee, der ist geliebt.

Linus Neumann 0:04:37

5000 Euro. Ey, was für eine...

Tim Pritlove 0:04:41

Echt, ey.

Linus Neumann 0:04:43

Das hast du davon, wenn du nach West-Berlin fährst, ja? Wo die Leute irgendwiegeputzte Autos haben und sowas.

Tim Pritlove 0:04:48

Da fahren wir nicht wieder hin.

Linus Neumann 0:04:49

Das war eine schlechte Erfahrung. Mein Autopo war hier, der ist gerade.Nichts war da. Nichts.Nein, und ich hab's auch gesagt.

Tim Pritlove 0:05:02

Aber so ist es halt. Selbst wenn du mal was sagst, die Leute glauben es halt nicht immer.

Linus Neumann 0:05:06

Ja, da werd ich nie mit zurechtkommen.

Tim Pritlove 0:05:09

Das ist schlimm für dich, ich weiß. Aber da war nichts.

Linus Neumann 0:05:13

Mann, ey, ich hab doch tausend Fotos. Die hätte ich Eleanor Schinke,weiß nicht, wie oft ich da Mikroskop-Makro-Funktion vom iPhone,mehr Licht hier, ein Bild von nichts.

Tim Pritlove 0:05:22

Wenn wir Chuck Norris dabei gehabt hätten, ja, dann wäre das sicherlich anders gelaufen.

Linus Neumann 0:05:26

Chuck Norris hätte da wenigstens mal eine Macke in das Auto gehauen.

Tim Pritlove 0:05:29

Ja, eben.

Linus Neumann 0:05:29

Dann hast du mal einen Grund zu heulen, dann hast du auch einen Versicherungsfall.

Tim Pritlove 0:05:32

Wie, das ist eine Macke?

Linus Neumann 0:05:33

Das soll eine Macke sein? Das ist doch keine Macke. Das ist eine Macke.

Tim Pritlove 0:05:42

Ob er das besser gefunden hätte? Ich meine, hätte der Typ für die 5000 Euroin der Reparaturwerkstatt auf jeden Fall was zu tun gehabt.

Linus Neumann 0:05:48

Waren 5.000 Euro, oder?

Tim Pritlove 0:05:49

Ich weiß nicht, keine Ahnung.

Linus Neumann 0:05:51

Also wenn ich...Also, wenn ich sowas, also für das Geld hätten wir auf jeden Fall noch ein paarScheiben einschlagen können.Da muss man echt sagen, so, komm, ey, dann, was kostet das 5000?Na komm, dann brechen wir jetzt noch hier irgendwas ab oder so.Ey, dann pissen wir noch auf den Ledersitz oder so.

Tim Pritlove 0:06:07

Die Reifen sind eh nicht mehr gut.

Linus Neumann 0:06:09

Ja, oder dann hauen wir noch, irgendwo stechen wir noch einen Reifen ein oderirgendwas. Aber nichts.

Tim Pritlove 0:06:13

Das war's.

Linus Neumann 0:06:13

Das war ja, du hast ja nichts.

Tim Pritlove 0:06:15

Tja, was ist das? Heutzutage ist immer viel Lärm um nichts.Das ist, äh, die Realität. Kommen wir zu den guten Nachrichten? Ja?

Linus Neumann 0:06:26

Ja.

Tim Pritlove 0:06:26

Gut.

Linus Neumann 0:06:32

Die freiwillige Chat-Kontrolle wurde nicht verlängert. Völlig überraschend.Es handelt sich um die Ausnahmeregelung von der E-Privacy-Verordnung,die Meta, Google und Microsoft überhaupt rechtlich ermöglicht hat,freiwillig ohne dazu gezwungen zu werden,die Chats oder die Inhalte von Nachrichten nach CSAM zu untersuchen. CSAM,Child Sexually Abused Material und das wurde ja jahrelang immer diese E-PrivacyAusnahme, das haben sie immer genommen und haben gesagt wir müssen jetzt die Chat-Kontrolle,verabschieden weil die E-Privacy Richtlinien Ausnahme da, die die läuft aus,und die Kommission will das verlängern, dann haben sie mit EU-Parlament undRat verhandelt, dass es jetzt gescheitert und ab dem 4.April ist das wieder nicht mehr erlaubt.Und das finde ich natürlich, also das ist schon sehr lustig.Also sehr schön, ja, dass man hier auf,sinnvolle Überlegungen kommt. So, jetzt müssen wir natürlich viele Leute,die zum ersten Mal, die nicht 548 Folgen dabei waren oder 509 wie ich,nochmal kurz erklären, warum ist das eine schlechte Idee.

Tim Pritlove 0:07:56

Warum eigentlich, Linus?

Linus Neumann 0:07:58

Soll ich das nochmal erklären? Also, du hast...Wenn du in dieser Menge Daten und Kommunikationen überwachst und das in diesemFall dann auch automatisiert,hast du auch bei sehr geringen Fehlerquoten immer noch eine horrende Menge an False Positives.Ein Fall, den wir hier vor einiger Zeit behandelt hatten, war ein Mann,der auf Aufforderung eines Arztes an Selbingen ein Bild von seinem Kind geschickt hatte,das eine Verletzung am Unterleib hatte.Und daraufhin ging der Filter an und der Mann wurde lebenslang von Google gebannt. Google-Verbot.Mit der Chat-Kontrolle, die als Gesetzesvorschlag ja vorangetrieben wird,wäre nicht nur die Konsequenz, dass Google die sperrt oder was auch immer macht,sondern auch noch eine automatisierte Meldung an Polizeibehörden ergehen soll.Und das Ganze auch bei verschlüsselten Messengers passieren soll.Und damit hättest du eine Situation, wo du mit deinem verschlüsselten Messengerirgendwie kommunizierst und ein Scan dieser verschlüsselten Inhalte mittelseiner KI stattfindet vor bzw.Nach der Verschlüsselung. Also hast du eine KI-Überwachung deiner Kommunikationsinhaltemit automatisierter Ausleitung an die Polizei.Und das ist nun wirklich eine sehr schlechte Idee.Vor allem, wenn man das technisch zu Ende denkt, kannst du dann sagen...Den Messenger, da könntest du es ja auch immer noch rauspatchen.Also angenommen, mir würde jetzt, also nehmen wir Signal als Beispiel,einer der verbreiteteren, verschlüsselten Messenger.Angenommen, Signal würde gezwungen, das zu tun, irgendeine KI-Überwachung daeinzubauen. Wobei, wenn ich mir den Vortrag von Udbaf und Meredith beim Kongressanschaue, würde ich vermuten, die würden sich da wahrscheinlich nicht zuzwingen lassen.Angenommen, sie würden es und angenommen, sie täten es, dann könntest du es ja wieder rauspatchen.Das ist ja eine Open-Source-Software. Das heißt, was,Die logische Konsequenz wäre, dass irgendwann auf den Plattformen,auf den Geräten zu verankern.Ja, dass du nämlich sagst, nee, wir wissen ja, dass Signal keine vernünftigeÜberwachungs- KI in ihren verschlüsselten Messenger bauen, also bauen wir dasam Ende in iOS oder Android ein.Eine wirklich sehr schlechte Idee,weil sie erstens schlechte Erkennungsquoten hat und bei diesen schlechten ErkennungsquotenEben Unmengen an falschen Verdächtigungen und dann irgendwie automatisch an die Polizei.Das war wirklich ein ernsthaftes Problem.Noch dazu, die tatsächlich kriminellen Menschen, die würden ja auch um so etwaswissen, das heißt die weichen natürlich sehr schnell aus auf Systeme,wo sie dieser Überwachung entgehen würden,beispielsweise einfach ordentliche, Ende zu Ende verschlüsselte Systeme, wie wir sie jetzt haben.Also wieder eine Massenüberwachung, die genau die Menschen trifft und nicht die Kriminellen.Wie jede Massenüberwachung eigentlich nur dazu geeignet ist,die Kriminellen dahin zu lenken, sich vor ihr zu schützen,während die unbescholtenen Bürger ja nichts zu verbergen haben und dann diesermassenhaften Überwachung ausgesetzt sind.Ja, war schön.

Tim Pritlove 0:11:58

Deswegen ist das scheiße Genau.

Linus Neumann 0:12:00

Aber dass sie jetzt hier diese Ausnahme Gekippt haben Das muss ich echt sagen,das ist Überraschung Naja.

Tim Pritlove 0:12:09

Sie wurde ja nicht verlängert Weil sie hätte jetzt verlängert werden Müssen,wenn ich das richtig sehe Ja.

Linus Neumann 0:12:15

Die ist immer nur für ein Jahr.

Tim Pritlove 0:12:16

Und dazu gab es halt nicht die notwendige Mehrheit, das zu verlängern,Und schon haben wir eine gute Nachricht. So einfach geht das?Snap mit den Fingern. Zack, bumm.

Linus Neumann 0:12:30

Zack, schon gibt es was Gutes.

Tim Pritlove 0:12:32

Zack, bumm.

Linus Neumann 0:12:32

Da werden die Leute im Iran sich freuen, dass es auch eine gute Nachricht gibt.Da wollten wir ja nicht drüber reden.

Tim Pritlove 0:12:39

Ja, also wenn wir damit anfangen, dann wird die sehr zu lang.

Linus Neumann 0:12:42

Wir könnten auch über Überraschungen und Atombomben mit der japanischen Premierministerin sprechen.

Tim Pritlove 0:12:51

Nicht mehr Trump als nötig.

Linus Neumann 0:12:54

Das war jetzt schon zu viel. Es gibt in diesem Bereich, also gestern kam eine,Eilmeldung, glaube ich war das sogar.Da ist mir echt die Spucke weggeblieben. Es gibt eine Schauspielerin mit demNamen Colleen Fernandez,die seit vielen Jahren so eine der lauteren Stimmen und engagierteren Stimmen gegen Deepfake,Pornografie ist, insbesondere unter ihrem Namen, aber das Thema auch entsprechendpolitisch aktivistisch behandelt.Deepfake Pornos, ich glaube wir haben vor einiger Zeit schon darüber gesprochen.Deepfake kennt man, Porno hat man schon mal davon gehört.Die beiden zusammen kann man sich vorstellen, was das ist. Das zu verbreiten von Menschen,ist natürlich eine sehr schwere.Erniedrigung und Entwürdigung und die hat die Coline Fernandes an unterschiedlichenStellen sehr häufig erfahren.Und Ende 2025, wie jetzt bekannt wurde, hat sie dann eben Anzeige erstattetgegen ihren inzwischen Ex-Mann Christian Ulmen, den man wahrscheinlich kennt.Unter anderem Tatort-Kommissar und hat aber irgendwie, ich weiß nicht,ich hab eher früher so Sachen geguckt, wie Mein neuer Freund und so,und da hat er echt witzige Sachen gemacht, ja, aber ist ein,denke ich, relativ bekannter,deutscher Schauspieler, ich glaub irgendwo bei Viva oder MTV oder irgendeinQuatsch, da angefangen Viva-Moderator Viva-Moderator, ja, das hab ich immernicht geguckt, der hat mir Kirre gemacht der hat,also wirklich eine völlig absurde also es kann man auch wirklich,also es ist einfach nur krank, was der gemacht hat und also irgendwie,Identitätsdiebstahl, der hat gefälschte Profile auf LinkedIn unter ihrem Namenunterhalten und dann irgendwelche Leute angeschrieben und irgendwie um die 30Online-Affären unter ihrem Namen gehabt und also wirklich,also fürchterlich,erstens für sie, ich will gar nicht wissen, wie das jetzt also überhaupt,dass sowas passiert und dass du dann auch noch feststellst, dass dein Ehemann über Jahre.Gleichzeitig auch fürchterlich, was der Mann für eine völlige Krankheit hat,mit der der sich ja jetzt eigentlich alles ruiniert. Alles ruiniert, ne? Ähm.Absolut, also wirklich absolut krank, ja.Und auch wirklich nicht schön zu lesen, er war einfach nur krank.So, warum behandeln wir das?Weil natürlich das Thema jetzt wirklich dann durch den Spiegel,Spiegelrecherche ordentlich seziert, recherchiert, ein bisschen,also sag ich mal, auf dem Detailgrad, der unangenehm ist, dem aber auch notwendig.Und Bundesjustizministerin Hubig, natürlich, was passiert,hat dann jetzt fürs Frühjahr das digitale Gewaltschutzgesetz nochmal angekündigt,mit dem Ziel, die Strafbarkeitslücken bei Deepfake-Pornos zu schließen und dieAccounts von den Tätern per Gericht sperrbar zu machen.Und im Zivilverfahren bessere Auskunftsrechte zu schaffen.Wenn man sowas High-Level formuliert, klingt das immer erstmal ganz sinnvoll,aber ich glaube Auskunftsrechte im Zivilverfahren, da lauert auf der anderenSeite natürlich auch wieder sofort,der Missbrauch von oder die missbrüchliche Anwendung in anderen Verfahren.Schauen wir mal, wie das ausformuliert wird.Gleichzeitig glaube ich, wahrscheinlich hat sie das auch auf Twitter bekanntgegeben, der primären Verteilplattform für Deepfake,Pornos und so. Weiß ich nicht, ob sie das gemacht hat. Ich wollte nur daraufhinweisen, dass eigentlich alle Politiker diese Plattform ja noch nutzen.Ja.Als Kontext muss man auch sagen, es werden irgendwie sehr viel weniger Deepfake-Pornosvon Männern gemacht und wenn Männer dabei sind, dann sind sie nicht in der Hauptdarsteller.Das heißt, wir haben hier nicht nur sowieso ein ekelhaftes Phänomen,sondern auch noch eins, was ganz klar eine sexistische Komponente auch nochmal hat.

Tim Pritlove 0:17:45

Ja, also vor allem auch antifeministische.

Linus Neumann 0:17:48

Also völlig daneben. Ich denke, das ist auch sinnvoll,hier vernünftige gesetzliche Regelungen zu finden, die dafür angemessen hohe Strafen ermöglichen.Man muss halt schauen die Möglichkeit Accounts zu de-anonymisieren und Auskunftsrechtefür Zivilverfahren es gibt eigentlich nur,es gibt ein sehr bekanntes in Anführungszeichen Zivilverfahren wo Auskunftsrechtemassenhaft verwendet werden das sind Abmahnungen bei File-Sharing also ich willnur sagen das lässt sich halt potenziell industrialisieren,ich bin kein Jurist aber da muss man aufpassen, dass man hier vernünftige,und zielgerichtete Regelungen findet.Naheliegend wäre natürlich zu sagen, okay, man beschränkt das auf Deepfake-Verbreitung,aber wir wissen auch, dass dann bei dem nächsten Gesetz dann einfach in demParagrafen noch zwei, drei andere Straftatbestände hinzugefügt werden.Aber auf jeden Fall ist auch klar, dass wir den Status quo, wie er jetzt grassiertin den sozialen Medien, hier mit Grog, Zieh mal aus und sowas,dass man das so auf gar keinen Fall tolerieren kann und dass da was passieren muss.

Tim Pritlove 0:19:23

Definitiv.Also insbesondere jetzt nochmal durch diese Eskalation durch die KI-Generatoren,die das auch wirklich echt auf elf drehen.Also das war vorher schon problematisch, aber mittlerweile ist es halt einfachdurch diese niedrigen, quasi nicht vorhandenen Kosten zu einem super Problem geworden.Wird sich sicherlich auch nicht vollständig einfangen lassen,aber es ist zumindest angemessen, das dann auch entsprechend rechtlich zu verfolgen.

Linus Neumann 0:19:53

Wir hatten hier vor einigen Folgen auch ein bisschen über die Rolle von GROC,dieser KI von Elon Musk, auch gesprochen,dass ein besonderes Problem natürlich ist, dass sie das überhaupt ermöglicht.Und dass dann die rechtliche Frage so war, dass die GROC-Leute gesagt haben, ja nee,also wenn die Leute was Illegales machen, waren es ja immer noch die Leute,Die haben ja ein illegales Prompt gegeben und da würde ich sagen,will ich auf jeden Fall mal das rechtlich schon ein bisschen umkehren und sagen, nee, nee,pass auf, also wenn du das nicht nur...Versehentlich mal jemand schafft, deine Sperren zu umgehen, sondern du das industrialisierst,memifizierst und dich daran erfreust, dass alle das machen,dann bist du Täter und eventuell, also sicherlich mit einer noch höheren Schuldbeladen als die Menschen,die diese Prompts in einem schlechten Moment vielleicht auch einfach mal nur abgesetzt haben.Also ich spreche jetzt nicht von sowas, was Christian Ulm gemacht hat,aber du konntest ja auch irgendwie, was weiß ich, ist ein Bild und dann sagstdu, ey, guck mal alle in Unterwäsche oder so.Und das ist, wenn da irgendwie Donald Trump und sonst was ist,dann ist das unter Umständen, kann das ja auch mal lustig sein.Ja, es wird aber in der Regel nicht mit Donald Trump gemacht,sondern mit, weiß ich nicht, linken AktivistInnen in der Regel dann oder so.Ja, schauen wir mal, was sie sich dagegen einfallen lassen. Ich bin mir sicher,es wird Handwerk nicht richtig gelungen sein, da müssen wir überhaupt nichts dran kritisieren.

Tim Pritlove 0:21:31

Also bei der Exzellenz, die die Bundesregierung bisher auf den Tisch gelegt hat, denke ich auch.

Linus Neumann 0:21:37

Könnte man den Kulturstaatsminister fragen, ob der nur eine gute Idee hat.

Tim Pritlove 0:21:40

Das ist ja auch sehr kreativ. Ich denke, da können wir auch einfach mal vierWochen Pause machen. Da geht alles total supi ab.

Linus Neumann 0:21:47

Aber diese Story, ey Mann, die arme Frau Fernandes, ja, also was für eine unglaubliche,was für ein Horror, absoluter Horror, also ganz, ganz,und wenn du findest, du siehst ja dann auch die Artikel, ne,wenn die Related, seit wie vielen Jahren die dieses Thema besetzt, ja.

Tim Pritlove 0:22:09

Und die Lösung ist irgendwie next door.

Linus Neumann 0:22:12

Next mattress. Ja.

Tim Pritlove 0:22:17

Ja, ja. Gut. Was macht, unter der Abteilung, was kann man mit AI eigentlich alles so machen?

Linus Neumann 0:22:25

Kann man auch was Vernünftiges mitmachen vielleicht?

Tim Pritlove 0:22:27

Nämlich hacken. Hacken geht supi.Da gibt es eine Bude, die heißt Codewell.

Linus Neumann 0:22:37

Ich würde sagen Codewell.

Tim Pritlove 0:22:38

Code Wall, Entschuldigung, Code Wall, sorry, nicht Code Wall.Vielleicht kodieren sie auch gut, aber so haben sie sich nicht genannt, Code Wall, sorry.Die haben sich so ein automatisiertes Hacker-Tool zusammengebaut,so mit den gängigen Instrumenten, die einem jetzt ja ohne weiteres zur Verfügung stellen.Und haben also diesen Agenten mal damit beauftragt, auch mal zu gucken,ob nicht im Internet irgendwie waszu holen ist und haben dann mal bei der Beraterfirma McKinsey angeklopft.Großes Unternehmen, weltweit tätig, man kennt es.

Linus Neumann 0:23:16

Extrem gut beleumdet, überall beliebt.

Tim Pritlove 0:23:18

Ja, also auf jeden Fall schon mal von gehört.Ja, und was hat dieses Tool dann gemacht? Dieses Tool war quasi ohne,also sie haben es mit nichts gepreppt.Sie haben es einfach mal nur so auf McKinsey angesetzt. Ich glaube,es gab vorher sogar noch so einen Entscheidungsdialog, wo sie so gefragt haben,wo könnte man denn mal anklopfen und da kam dann wohl McKinsey auch schon alsVorschlag bei raus, warum auch immer.Auf jeden Fall hat sich dann dieser AI-Agent mal genauer angeschaut,wie es denn so mit dieser Online-Infrastruktur aussieht, die McKinsey so meint zu haben.Und siehe da, die gesamte Dokumentation ihrer API, mit der sie so im Internethängen, mit ihren Systemen, die war auch verfügbar.Hat sich die AI dann schön durchgelesen, mal durchanalysiert und festgestellt,okay, von den gut 200 Endpoints, die da sind, sind so gut 10% nicht durch Zugangsregeln geschützt.Und dann hat die AI auch gleich angefangen, sich das doch mal genauer anzuschauenund ist da so iterativ vorgegangen und hat sich das also mal so angeklopft undgeschaut, was spuckt denn das System raus.Naja, lange Rede, kurzer Sinn, relativ schnell, also dieser ganze Prozess hatzwei Stunden gedauert und auf einmal war alles offen.SQL-Injections wurden gefunden, mit pfiffigen Tricks wurde also dieses Systemausgehebelt und auf einmal lag alles da.Und was man dann offengelegt hat, war so deren Intranet, was halt nicht nurirgendwie eine Datenbank war, sondern selber auch ein AI-System.Stellt sich raus, dass sie das also auf breiter Ebene intern zum Einsatz bringenund dort lag dann irgendwie alles rum.46,5 Millionen Chatnachrichten, insgesamt 728.000 Dateien, also auch vertrauliches Zeug dabei,57.000 Nutzerkonten und mehr als noch das, also auch diese ganzen Dokumente, interne Studien,also sozusagen einmal alles.Das gesamte Wissen dieses Unternehmens, was sich in Daten abbildet,über AI-Chatboards zugreifbar, die also offensichtlich von allen Mitarbeiternauf diese Art und Weise auch mit genutzt wird.Und, aber dabei blieb es gar nicht mal, auch die ganzen Prompts,die ganzen System-Prompts, die Pre-Prompts, die in diesem System abgelegt sind,um dann das Verhalten dieser ganzen Chatbots, mit denen man dann agiert,die das bestimmen, waren halt auch offen und zwar nicht nur lesbar,sondern auch schreibbar.Mit anderen Worten, dieses System hätte nach zwei Stunden den gesamten ModusOperandi von McKinsey quasi umstellen können.Ich meine, da hätte man auch mal was Gutes tun können für die Welt.Ja, also vielleicht, ja nee, guck mal nicht immer nur aufs Geld,schau doch mal, dass da irgendwie auch sozial was da rauskommt.

Linus Neumann 0:26:08

Spätestens wenn McKinsey empfiehlt, mehr Leute einzustellen,statt welche rauszuwerfen, wäre die Leute dann aber auch misstrauisch geworden.

Tim Pritlove 0:26:16

Da muss ein Fehler sein.Also das ist sozusagen also da waren halt viele klassische Fehler gemacht worden,aber das Kernproblem jetzt an dieser Stelle ist während es früher,sagen wir mal ausführliche Hacker-Skills brauchte, brauchst jetzt die zwar auchnoch in gewisser Hinsicht, aber auch vieles davon lässt sich jetzt auch schon,automatisieren und wenn ich das richtig sehe,beflügelt von dieser Meldung, habt ihr dann auch gleich zugeschlagen Ja.

Linus Neumann 0:26:47

Ich will aber erst kurz noch ein bisschen, also so kurz diesen Fall einordnen.Also, was...Wie wird so ein Chatbot gebaut?Die Architektur. Also du hast...

Tim Pritlove 0:27:02

Was ist jetzt der, der jetzt hier angegriffen hat? Oder das,was da innerhalb von McKinsey läuft? Oder generell?

Linus Neumann 0:27:08

Was, warum, du hast gesagt, da gab es eine API und dann gab es eine SQL-Injection.Das war, also was das Ding, was du da gesehen hast, ist im Prinzip eine Web-App.Also eine Web-Applikation, wie du sie schreibst, die die APIs bereitstellt,die ein Front-Interface hat im Frontend für die Userin, wo dann irgendwie drinsteht, hier kannst was hintippen und wenn ich Enter drücke, dann wird das an die API geschickt. Und,Diese, also ein Mapping zwischen, die API hat 200 Endpunkte,das heißt in dem Fall 200 unterschiedliche Arten, wie man mit ihr interagieren kann.Das eine ist zum Beispiel, ich bin ein neuer Nutzer und ich möchte mich anmeldenoder hier ist mein Passwort und ich bin jetzt angemeldet.All das ist immer ein API-Endpunkt, also eine Art, wie man da hinschreiben kannund dann ist natürlich auch so, ich habe eine authentifizierte Session und zwarin dem Chat 3 möchte ich jetzt folgende Nachricht schicken, das ist alles immer,ein Endpunkt, ich möchte ein Setting ändern, das ist auch ein Endpunkt,da kannst du wahrscheinlich dann mehrere Settings angeben oder so, so ist eine API.Konfiguriert oder strukturiert. Und jetzt gibt es natürlich an so einer API,das war das, was du gerade sagtest, 22 waren unauthenticated,obwohl sie es sein mussten.Das heißt, du konntest etwas tun, wozu du eigentlich in irgendeiner Weise eineAuthentifizierung gebraucht hättest.Angemeldete Nutzerin sein oder vielleicht sogar angemeldete Administratorin sein.Habe ich jetzt eine Session als User? Habe ich eine Session am Backend als Admin?

Tim Pritlove 0:28:52

Tür ohne Schluss.

Linus Neumann 0:28:54

Das ist aber ein sehr, sehr häufiger Fehler bei komplexeren APIs,dass sie nicht sauber durchchecken, dass Mapping aus der Rolle,Authentisierung ist eine Sache, dann kommt ja auch noch Autorisierung.Das heißt, du bist angemeldet, wunderbar, du bist der Tim, du willst jetzt hiereinen administrativen Befehl ausführen, deine Rolle erlaubt das aber nicht, weil du bist ja User.

Tim Pritlove 0:29:22

Das erste ist, wer bist du, das zweite ist, was darfst du.

Linus Neumann 0:29:25

Genau, und das passiert sehr häufig.Also es ist eine Schwachstelle, die man häufig findet und, das ist das Entscheidende,die hat überhaupt nichts zu tun mit der KI.Das ist also, diese Schwachstelle ist in dem Frontend, was die gebastelt haben,dass am Ende nämlich von der Architektur hast du dann die Web-App,da kann man sich anmelden, da kann man was hinschicken und irgendwo gibt esdann eben auch die so und so viel API-Endpunkte, die sagen, den Inhalt nehmeich jetzt, gib den an ein LLM,krieg die Antwort und gib die zurück.Da war jetzt offenbar einer dieser Endpunkte, hatte eine SQL-Injection.SQL-Injection, eine der wunderschönsten Schwachstellen, auch immer wieder sehr schön zu erklären.Wenn man mit einer Datenbank spricht, dann spricht man eine bestimmte Sprache.In diesem Fall die Structured Query Language, also eine Datenbanksprache.SQL ist besonders schön, weil es immer so ein bisschen schlechtes Englisch eigentlichist Select so und so ja, so wie bei uns Select Sternchen from Bobby Drop Table.Und jetzt das Spannende daran ist und das ist wirklich warum SQL-Schwachstellenso schön sind um Security zu erläutern,wenn ich jetzt zum Beispiel sage, suche in der Tabelle Nutzer nach dem Nutzer Tim. Na?Das wäre jetzt etwas, was man im Zweifelsfall macht, wenn jemand sich als Tim anmeldet.Dann schickt da jemand hin. Als wäre möchtest du dich anmelden? Ja, als Tim. Okay.Suche in der Datenbank. Und dann sagt er wirklich, select User from table users where name equals Tim.So, das Tim, das war ja jetzt aber kontrolliert von...Von dem Angreifer oder von dem Nutzer. Was ist denn jetzt, wenn der Nutzer nichtTim heißt, sondern Tim-Ausführungszeichen oben, Semikolon, lösche alles.Das wäre dann immer noch, wenn man das einfach aneinander packt,ein für die Datenbank valider Befehl, den sie auch ausführen würde.Und man muss also es ist offensichtlich nicht so einfach, kriegen ja die ganzeZeit Leute nicht hin man muss immer aufpassen, dass das was man an User GeneratedInput in einen anderen Kontext gibt, also an eine Datenbank,dass das dort in irgendeiner Weise sichergestellt wird, dass nicht der wahreDatenbankbefehl, den ich eigentlich beabsichtige,in seinem Kontext verändert wird und da gibt es eben diesen klassischen X-Case,die jetzt fällt mir die Nummer nicht ein, wo die Schule bei der Mutter anruft und sagt,ja, wir wollten mal fragen, ob der Sohn denn wirklich Anführungszeichen obenSemikolon Droptable Students heißt und oder ob er nicht vielleicht eine SQL-Injection gemacht hat.Also quasi diese Kontextänderungen.So funktioniert, darauf basieren relativ viele,Schwachstellen in der IT?

Tim Pritlove 0:32:41

Exploits of a Mamm. 327.

Linus Neumann 0:32:44

327, musst du verlinken. Und die Gegenmaßnahme ist, dass man dann eben jeweils die Charaktere,also die, was weiß ich, Semikolon und so weiter, die eine besondere Bedeutungin der Sprache haben, in die du gerade reinpipest, dass du aufpasst,dass du die escapest oder sicherstellst,dass eben nicht jemand einfach die Datenbanksprache spricht in einem Feld,das die Datenbank auch interpretiert.Das war hier also die zweite klassische, wirklich ganz, ganz klassische Web-App-Schwachstelle,so aus den frühen 90ern oder so, als das erfunden wurde.Und.Der, insofern hat dieser Scanner von dieser Firma nur, nur in Anführungszeichenverhältnismäßig klassische Web-Schwachstellen gefunden.Damit ist er dann, auch das ist häufig der Fall, bei einer schlecht gehärtetenWeb-App, hat er dann die Möglichkeit gehabt, also erstmal Blinddaten zu extrahieren.Also er konnte Daten rauskriegen, aber musste halt ins Blinde stochern,bis er eine richtige Daten zurückbekommen hat. 15 Iterationen hat er gebraucht.Und dann konnte er eben, hat der Schreibzugriff auf Dateien in dem Web-Rootund konnte dann die Web-App selber verändern und damit eben die AI-Write-Instructions, ne?Und damit hätte dann eben quasi äh der, die die KI auch anders antworten lassen, ne?So irgendwie so, keine Ahnung, und Antworten übrigens immer genau das Gegenteilvon dem, was richtig ist oder so, ne? So kam.Man durch diesen Angriff auch auf die Chat-Messages, die nämlich diese Web-Appzum Loggen irgendwo hingeschrieben hat.Und die Dateien und Dokumente waren im Zweifelsfall Sachen, die Leute da hochgeladen haben.Und die 57.000 User-Accounts würde ich jetzt mal aus der hohlen Hand schätzen,ist wahrscheinlich die aktuelle Anzahl Angestellter bei McKinsey,weil die das Ding wahrscheinlich an die Entra-ID angebunden hatten.Jedenfalls, natürlich war das bei uns in der Firma auch Thema,ja, und dann sagte unser CEO so, ja, der war früher bei McKinsey,sagte, ja, hier, sowas sollten wir auch mal machen, ja, und dann hat René,mein Kollege, gesagt, achso, ja, okay, wenn, dann mach ich das jetzt halt, ne, und hat, ähm,sich von einer anderen großen Firma.Den Chatbot angeschaut und da gibt's wieder eine sehr ähnliche Geschichte,ein öffentliches JavaScript-Asset, in dem die URL für das Backend drin stand.Also in dem JavaScript-Asset erkennst du, ah, alles klar, hier,da ist die Backend-API, du musst sie erstmal finden.Da konntest du dann dazu führen, dass du eine, wenn du einen nicht authentifiziertenGet-Request gemacht hast, kam die Debug-Error-Page.Also die Web-App lief im Debug-Modus. Was man auch nicht tun soll,aber auch ein sehr klassischer Fehler,weil in dem Debug-Modus gibt die Web-App bei einem Fehler, in diesem Fall,du verstößt ja dagegen, sagst, hier ist ein unauthenticated Get-Request.Und dann kriegst du aber die Debug-Error-Page, die einfach den kompletten Stateund alles droppt, in dem die App sich gerade befindet, damit die Programmiererinherausfinden kann, wo er halt gelegen.Und das hat die Web-App, die Debug-Page hat alle Environment-Variablen mit ausgegeben,weil an jeder davon kann es ja liegen.Und zu den Environment-Variablen gehörte Username Admin und Passwort Admin at 123.

Tim Pritlove 0:36:47

Oh Gott, nein.

Linus Neumann 0:36:49

Du hättest jetzt noch nicht mal, du hättest jetzt noch nicht mal Hätten.

Tim Pritlove 0:36:53

Sie nicht Bonobo.

Linus Neumann 0:36:53

2342 Ja, das hätte man natürlich erkannt, okay.

Tim Pritlove 0:36:58

Das war wirklich Anfänger.

Linus Neumann 0:37:01

Du hättest tatsächlich in der Wikipedia-Liste der am häufigsten verwendetenPasswörter, das ist 19, ja, du hättest dir den ganzen Ärger gar nicht machenmüssen, René, also René Rehme.So, dann konnte er natürlich, jetzt gehst du einfach hin und sagst,alles klar, jetzt bin ich Admin, kannst dich an das Admin-Panel anmelden,eine ganz normale Standard-Jungo-App Admin Panel.Dann hat das Ding aber auch gelockt,die OAuth-Tokens von den Authentifizierungen.Also wenn jemand da hingeht und sagt, hallo, ich bin so und so at,nicht McKinsey, sondern andere Firma.

Tim Pritlove 0:37:37

Die zwischenzeitlich ausgegebenen Passierscheine.

Linus Neumann 0:37:40

Genau. Und mit denen konntest du dich wiederum dann, weil die von einem Entra-ID kamen,mit denen konntest du dich dann wiederum an dem Microsoft Graph anmelden unddie anderen das Entra-ID querien, in dem Fall 3,2 Millionen User-Accounts. Ein bisschen mehr.

Tim Pritlove 0:37:56

Okay.

Linus Neumann 0:37:58

Ein bisschen mehr als bei McKinsey.Und also diese ganzen, also alle Chat-Logs und alle Dateien und auch die Pre-Promts,das liegt halt in dieser Web-App drin. Wo soll es auch sonst liegen?Also wirklich sehr parallel. Diesmal halt nur von einem Menschen gemacht.Ich weiß nicht genau, wie lange René gebraucht hat.Üblicherweise braucht der nicht lange. Er hat dann noch mit Nina,also im gleichen Team, dann diesen Kram gemacht, an dem Entra-ID rumgetrommelt,um da die User-Accounts rauszuholen.Und dann haben Matthias, also Kantorkel und ich noch einen kleinen Blogpostdazu geschrieben und vor allem die Responsible Disclosure gemacht.

Tim Pritlove 0:38:49

Also Bescheid gesagt.

Linus Neumann 0:38:51

Wir haben dann doch Bescheid gesagt, ja. Also ich kannte jemanden bei der Firmaund hab dann gesagt so, hast du mal Zeit?Und dann, ja, morgen hab ich Zeit, da hab ich angerufen und dann wurde ich weggedrücktund dann hab ich so gesagt, ey, hast du mal Zeit?Wir müssen über diesen McKinsey-Chatbot reden. Im weitesten Sinne.Und dann war das dann relativ schnell gefixt.So, was das andere Thema hier ist, ähm,Also wir haben, genau, erstmal, warum passiert das? Na klar,da werden hastig irgendwelche Web-Apps gestrickt, damit man KI hat.Und die Aufmerksamkeit, was man dann absichert, die ist natürlich bei der KI.Und nicht, wir machen irgendwie eine scheiß Web-App, wir haben ja schon 100.000Web-Apps gemacht, die coden wir einfach schnell runter.Aber es ist eben wirklich nicht, also jetzt komme ich wieder auf den Fall von McKinsey,wenn die App erstmal oder wenn die API erstmal genug Verzweigungen hat,dann kommst du relativ schnell an den Punkt….Dass du nicht mehr die ganze Zeit kontrollierst, ob du an dem Request,der jetzt gerade kommt, ob alle Vorbedingungen auch wirklich erfüllt sind.Also, ist der Nutzer authentifiziert? Ist der Nutzer autorisiert?Ergibt sich das aus dem Kontext? Hat der mir alle Informationen gegeben,die ich erzwingen muss, damit er das jetzt überhaupt darf? und so.Diese Fehler passieren wirklich am laufenden Band und deswegen ist,sag ich mal, ein Browser mit einer Burp Suite auch so ein Gift that keeps on giving.Also im Prinzip ein Tool, was dafür gedacht ist, sehr gezielt in den Trafficzu schauen, in die APN-Punkte, in das, was da geschickt wird.Dann kannst du so, weiß nicht, wenn irgendwas Base64 ist, kannst du direkt sagen,in die, encode das mal und vor allem kannst du Requests wiederholt schickenoder da so ein bisschen durchproben.Ja, ein Tool, was genau solche, es gibt eine API, die ich nicht kenne,ich klimper da jetzt mal durch und ich versuch mal dieses und jenes,ich automatisiere das durch, iteriere das mal und ach, zack, SQL Injection.Also, dass eine KI das hinbekommt, ist erstmal nicht extrem überraschend,weil es sehr alte, klassische 90er-Jahre-Schwachstellen sind,aber in einem, eben in einer komplett neuen Web-App.Also will man jetzt auch nicht schlecht reden und zwei Stunden ist auf jedenFall auch eine sehr stabile Zeit.

Tim Pritlove 0:41:31

Im Sinne von gut. Schnell.

Linus Neumann 0:41:33

Das ist schon relativ schnell, ja. Aber wenn man nach dieser Sache gezielt sucht,dann braucht man vielleicht auch nicht viel länger mit einer ganz guten Toolchainund ein bisschen Erfahrung.Aber trotzdem ist es natürlich spannend, dass das Ding das getan hat.Oder dass das Ding das geschafft hat.Der nächste Punkt war natürlich, die AI, also das Modell oder die Modellee dahinterhat Zugriff auf alle Daten.Auch das ist,jetzt eigentlich so ein Security-Architecture-Paradigmen-Wechsel,der da eigentlich gerade stattfindet.Früher würdest du sagen, hier gibt es die Web-App.Die Web-App prüft die Autorisierung der Nutzerin und führt dann die Aktion durch.Nehmen wir ein einfaches, ich nehme jetzt WordPress mal als Beispiel,weil ja Logbuch Netzpolitik auch auf WordPress gehostet ist.Das WordPress selber hat auch nur eine Datenbank User Credential.Das heißt, das WordPress selber kann jederzeit alles löschen.Das heißt, die Prüfung von Authentisierung und Autorisierung findet in der PHP-Logikvon dem WordPress statt.Und wenn man da jetzt als, was weiß ich, als Visitor ist oder als User oderals Admin oder die unterschiedlichen Rollen, das macht alles das WordPress.Und wenn irgendetwas da falsch ist und du irgendwo in dem WordPress Frontendbeispielsweise einen Fehler hast und eine SQL-Ejection ermöglichst,dann wird das sofort mit dem höchst privilegierten User üblicherweise in demWordPress-Kontext mindestens.Also du hast Zugriff auf das komplette WordPress.Oder wenn du halt das schlechte, das falsche Tutorial auf Stack Overflow gelesenhast, eben mit Root gemacht.Und wenn der User in der Datenbank wiederum nicht ordentlich beschnitten ist,dann kann der potenziell auch Code exekuten.Also auch hier hast du im Prinzip das WordPress hat zu viele Rechte je nachdemin welchem Kontext du dich in dem WordPress befindest und wenn das seine Authentisierungund Autorisierung nicht ordentlich macht dann hat es eben zu viel Zugriff diesen,Setup oder dieser Grundgedanke wird jetzt auch bei den KIs wiederholt dass mander KI nämlich sagt naja okay natürlich kriegst du alle Daten.Wäre ja auch viel zu anstrengend, die nicht zu geben. Aber pass mal bitte auf,hier sind Daten, da schreiben wir dir jetzt eine Regel, das darfst du den Leuten nicht sagen.Und dann versucht man in der KI in irgendeiner Weise das Rollenkonzept umzusetzenund hofft, dass sie sich dran hält.

Tim Pritlove 0:44:28

Wo man sich nicht so richtig drauf verlassen kann.

Linus Neumann 0:44:33

Das geht natürlich regelmäßig schief, weil die Grundanforderung dafür eigentlichist, dass du die Daten die die KI da so zugreift, vernünftig labelst.Und dann könnte, dann wäre es zumindest theoretisch möglich,dass die KI sagt, ja okay, das darf der, das ist eine Information,die ist für diesen Nutzer, der jetzt da gerade zugreift, nicht geeignet. Ja?Aber jetzt stell dir mal vor, du lässt so ein Ding, und das macht ja zum BeispielMicrosoft Copilot, wir hatten das hier über, vor, weiß nicht,wahrscheinlich ein paar Monaten mal besprochen.Wenn du jetzt so ein Microsoft Copilot anmachst, dann nehmen die ihr LLM undlassen das einmal den Sharepoint lesen.Und wenn du dann sagst, ich brauche mal Dateien, in denen dieses oder jenesdrinsteht oder so, dann sagt er dir, hier sind die Dateien.Du kannst aber auch einfach sagen, hör mal, wie waren denn einfach die Zahlen im letzten Quartal?Und dann kriegst du potenziell eben auch eine Antwort, wenn sich nicht vorherdie Mühe gemacht wurde, diese Daten zu labeln.Jetzt hast du aber natürlich insbesondere in Dateien hast du ja potenziell,wenn jetzt ein Word-Dokument ist, 20 Seiten, dann ist da potenziell,das ganze Dokument ist relativ irrelevant und ein kleines Faktum da drin ist ein Problem.Oder willst du geheim halten? Dein LLM weiß das aber.Und wenn du jetzt die Daten nicht so gegeben hast, dass das LLM das nicht,dass es weiß, dass es das gibt und aber außerdem immer auch präsent hat,das darf ich jemand anders nicht sagen.Und ich kann nicht sagen, Ich kann nicht sagen, dass ich da bisher schon einearchitektonisch überzeugende Lösung gefunden habe, wo ich sage,das ist langfristig tragfähig.So.Und ich diskutiere über solche Architekturen öfter mal mit Leuten,wo auch jemand sagte, ich glaube das habe ich dir vielleicht sogar schon malerzählt, der sagte ja auch so, wir machen jetzt hier KI und Pipapo und alleDaten Lake und alles Modelle davor und so.Und ich hab gesagt, ey, Junge, du hast deine Karriere da mitverbracht,dieses Unternehmen zu segregieren, Nutzerrechte und alles zu machen.Firewalls, hier, da und so. Und jetzt geht ihr hin und kippt alles auf einenHaufen und haut eine nicht-deterministische KI davor.Klingt erstmal.Ungewöhnlich. Ungewöhnliche Situation.Und die Antwort war, Ja, ist richtig, aber das alte Konzept,alles zu segregieren und authentifizieren und so rollenbasiert und so weiter,hat ja auch nicht funktioniert.Insofern, jetzt hat man wenigstens eine zentrale Stelle, an der man Authentisierung,Autorisierung prüfen und auch zentral nachschärfen kann und an der man an einerStelle kontrollieren kann.Du hast einen architektonischen Vorteil, dass sich deine Kontrollen nicht dezentralüber irgendwelche Requests in einem Netzwerk bewegen, aber die Komplexität von Zugriffsrechten,Zugriffen und Rollen.Wird unglaublich schnell so kompliziert, dass du da am laufenden Band Probleme hast.Und das Beispiel, was wir hier haben, ist ja nur eine Web-App.Da hast du ja wenigstens noch einen endlichen, also eine endliche Anzahl vonRegeln, die du prüfst in einer gegebenen Situation.Und da kriegst du schon nicht hin, wo es ein formal endlicher,also zumindest theoretisch endliche Menge an Regeln ist, die in unterschiedlichenKontexten zum Tragen kommen.Also die gesamte Web-App ist ja immer noch deterministisch.So, jetzt hast du aber eine KI und du weißt ja gar nicht, in was für Kontexteund Zustände Leute die bringen,wo du jetzt sagst, okay, ein Nutzer vom Stande der normalen Mitarbeiterinnendarf niemals die Quartalszahlen sehen.Und du hast aber relativ schnell eine, dass du sagst, wenn das Haus brennt,muss der Nutzer hier raus oder so.Dass du sehr schnell in Situationen kommst, wo du den Kontext nicht mehr vollständig überblicken kannst.Und es ist wirklich eine große Herausforderung, die ich glaube,die wirklich, weil ja erkennbar nun die Zeiten vorbei sind,dass wir Programme schreiben und das ist gerade alles vorbei,das sind hier die Beispiele.Dass die Leute bei McKinsey hingehen und sagen, was kostet das hier,zack, alles kippt drauf, zack, bumm, machst eine Django-App davor oder was und dann gib ihm.Das findet gerade überall auf der Welt statt. Und tatsächlich glaube ich,dass jetzt wirklich IT-Sicherheit und Security.Safety, Qualitätskontrolle, all das, das muss jetzt noch sich entwickeln,was die brauchbaren Controls, in diesen Situationen sind.Ich glaube, dass die Lösung sein wird,dass du wiederum zwischen das, was die KI macht und die Daten im Prinzip wiederirgendwelche Controls machst,APIs, auf denen du monitorst und guckst, okay, was haben wir am einen Ende,was macht die gerade, Darf die das überhaupt? Ergibt sich das gerade aus dem Kontext?Aber eine belastbare Implementierung, die universell funktionieren kann,wie man das immer noch gerade zumindest theoretisch hinkriegt mit deterministischenSystemen, wo es ja auch schon nicht klappt.Und das sehe ich jetzt für nicht-deterministische AIs umso weniger.Also ich glaube, die Lösung wird sein, A, B.Dem Ding APIs zu geben, auf denen man irgendwie kontrolliert Regeln auf denInformationsfluss wieder setzen kann.Und andererseits KIs zu nehmen, die nicht zu klug sind für ihre Aufgabe.Das war ja hier dieses Beispiel mit dem, was wir hier vor einiger Zeit auchbesprochen hatten, dieses Anthropic-Experiment, wo die Automaten betrieben hat.Und wo der dann auf einmal einen Controller bekommen hat und dann haben diesich nachts über transzendentale Philosophie unterhalten. Super.

Tim Pritlove 0:51:22

Was machst du am Watercooler?Das ist wie im richtigen Leben, Linus.

Linus Neumann 0:51:30

Aber das sind auch genau die gefährlichen Leute.

Tim Pritlove 0:51:34

Ja. man muss auch sehen, was dieses McKinsey-Beispiel betrifft, was ich jetzt.

Linus Neumann 0:51:44

Ich lege Wert auf die Festlegung, dass die beiden Beispiele sehr ähnlich sind.

Tim Pritlove 0:51:50

Ja, ja, aber jetzt, also ja, okay, gut, wie auch immer, also unabhängig davon, wer es ist,also auf der einen Seite kann man feststellen, es gibt jetzt einen großen Runauf Adoption dieser Systeme, weil sie natürlich einen offensichtlichen Nutzen haben.Und was Security betrifft, haben wir immer dieses Problem,Security ist irgendwie anstrengend, weil es macht die Sachen dann unkomfortabelim Zugriff und alle wollen immer komfortabel im Zugriff haben und das hat immerdazu geführt, dass Passwörter einfach waren oder eben umgangen wurden oder mandachte, das passt schon irgendwie.Das ist immer dieses Race zwischen Convenience und Security.Und jetzt haben wir halt diesen Run auf diese AI-Systeme, die so verheißungsvollsind und das ist ja so nützlich und in gewisser Hinsicht sind wir in dieserganzen Adoptionsphase, die jetzt unvermeidbar ist, im Mittelalter angekommen.Und man haut jetzt erstmal alles zusammen und ach guck mal, läuft schon, super.Und die offensichtlich erforderlichen Mitigationen dieser Security-Probleme,die halt also ein sehr viel mehr so ein Schichtenmodell erfordert,wo sich immer wieder KI mit so einem deterministischen System abwechseln muss,das sind Architekturen, die müssen sich jetzt erst herausbilden.Und da brauchst du auch noch Erfahrungen, da brauchst du auch noch neue Software,neue Erkenntnisse und vor allem auch Einsichten bei diesem Unternehmen.Die Unternehmen sollten aber auch vor allem bedenken, das gilt ja jetzt nichtnur für so große Unternehmen, sondern auch für kleinere Unternehmen,die das vielleicht jetzt genauso als Chance sehen, was es ja auch sein kann.Dass umso mehr man eben auf diesen Haufen kippt und umso mehr man da reinwirft.Bisher sind so Datenbanken verloren gegangen, die Kunden waren weg oder dieAuftragsliste oder sowas und das ist alles schon ganz schön schlimm.Aber was ja McKinsey und all diese Unternehmen, die jetzt ihr ganzes Firmenwissenda reinkippen, auch noch mit rausgeben, ist, dass sie auch noch ihren kompletten Modus operandi,auch ihre Einstellung und ihre Ziele und ihre Methoden und sogar auch noch ihreganzen geheimen Arten und Weisen, wie sie vorgehen,ihre ganzen Konspirationen auch noch gleich dem Netz überantworten und auslesbar machen.Also Maschinenlesbarkeit bekommt auf einmal nochmal eine ganz andere Dimension,weil die Maschinen es nicht nur lesen können, sondern dass diese Maschinen auchnoch sehr viel mehr aus diesen Informationen herauslesen können,als es früher war und das macht die Sache natürlich noch dringender,dass man hier fünfmal darüber nachdenkt, wie man seine Security-Architektur gestaltet.

Linus Neumann 0:54:34

Man muss gerade kurz zwei Dinge noch eben trennen.Und diese Hacks, das ist ja das, also das ist das, sag ich mal,auf der Meta-Ebene Interessante daran, die haben überhaupt nichts mit der AI zu tun.Das ist das Erste. Das heißt, wir bauen was Neues und machen immer noch dieFehler aus den Neuen zu haben.

Tim Pritlove 0:54:57

Also nicht mit deren AI, aber schon mit den Tools, die jetzt in der Lage sind,schneller herauszufinden.

Linus Neumann 0:55:01

Ja, also das finde ich, muss ich wirklich sagen, das finde ich noch nicht so,noch nicht ganz so beeindruckend.Das sind wirklich Dinge, die sind...

Tim Pritlove 0:55:11

Du findest das nicht so beeindruckend, aber ich glaube, das ist schon ganz schön beeindruckend.

Linus Neumann 0:55:16

Ja, das mag sein, dass es für jemanden, der es nicht selber kann,ist es immer beeindruckend.Aber diese... Würdest du... unter der Annahme, dass die KI irgendwann mal einBuch über IT-Security gelesen hat, in ihrer mehrmonatigen Trainingsphase, wo irgendwie so ein,paar Boote in dieser Meerstraße von Honduras oder wo,verbrannt wurden.

Tim Pritlove 0:55:45

Hommus.

Linus Neumann 0:55:46

Ja. Ich wollte ja nur mal hier wieder meine geografische, mit meiner geografischenUnkenntnis kokettieren.Unter der Annahme, dass sie jemals gelesen hat, was häufige Fehler sind,finde ich es jetzt nicht überraschend, dass sie, wenn sie mit einer API,konfrontiert ist und vor allem die vollständige API-Dokumentation kriegt,dass sie die systematisch durchklimpert.Es ist auch nicht überraschend, dass sie SQL-Injections versucht,Schön, ich würde jetzt vermuten, beeindruckend ist sicherlich,dass sie das wahrscheinlich auch nur bei den Endpunkten gemacht hat,wo die Vermutung nahe liegt, dass das überhaupt etwas ist, was in Richtung einer Datenbank geht.Das wäre so die erste Sache und an der kurzen Zeit sieht man schon,dass sie es im Zweifelsfall auch gemacht hat.Ähm aber das Niveau also,weißt du, es ist noch nicht das Level von hier, das Ding hat als Großmeister.Im Go auf einmal Züge gemacht, die keiner kannte und die völlig irrsinnig erschienen,aber dann am Ende gewonnen weil, das Level ist es noch nicht.

Tim Pritlove 0:57:05

Aber ich glaub, so weit sind wir da auch nicht von entfernt also das kommt,glaub ich noch alles in dieser Dekade.

Linus Neumann 0:57:14

Der andere Aspekt, das war das zweite, was du gerade sagtest,jetzt kippen die alle ihre Daten da rein,es würde mich wundern, wenn diese KI, die da am, wo diese Web-App am Ende hingepipthat, jetzt irgendwie, was weiß ich, beim McKinsey-KI war.Das war wahrscheinlich, also war doch dann wahrscheinlich entweder irgendwasvon Google Gemini, von OpenAI oder von Anthropic, würde ich jetzt mal...

Tim Pritlove 0:57:42

Gehostet das System meinst du?

Linus Neumann 0:57:44

Ja, also wäre jetzt meine Erwartung.Und dann wird ja dieser Aspekt, den du gerade nanntest mit dem,wir müssen jetzt noch die Architekturen dafür finden, alles richtig,Während wir an den gelösten Problemen von vor 20, 30 Jahren scheitern.Das würde ich da nur noch kurz hinzufügen.

Tim Pritlove 0:58:24

Es bleibt unterhaltsam auf jeden Fall.

Linus Neumann 0:58:26

Achso, hier muss ich noch sagen, wir haben ja unter unserem Blogpost noch geschrieben,wer Lust hat, in einem solchen Team zu arbeiten, kann ja gerne mal sich bei uns melden.

Tim Pritlove 0:58:36

Ich dachte, man wird da jetzt auch von der KI dann abgelöst demnächst.

Linus Neumann 0:58:42

Also kann ich mich jetzt nicht zu äußern, die hören ja vielleicht zu.Also,glaube ich, ist jetzt kein Geheimnis, dass dieser KI, diese KI-Entwicklung natürlichim Bereich der IT und auch der IT-Security.Klar, dieses Beispiel, das Ding macht da in zwei Stunden so eine Web-App auf.Als Vergleich würde ich schon denken, dass man an sowas am Ende dann doch eineWoche Pentester gehabt hätte.Und das ist natürlich schon die Dimensionen, die zeitlichen Dimensionen sindja hier das entscheidende.Also in zwei Stunden macht ein Mensch das mit hoher Qualifikation und sehr viel Glück.Und ich denke, eine realistische Zeit für das wäre wahrscheinlich irgendwo zwischenmit hoher Qualifikation und Glück einen Tag dieses Ergebnis zu liefern.Nach einer Woche oder fünf Tagen würde ich sowas erwarten, dass solche Schwachstellengefunden werden von einer qualifizierten Person.Aber dann kann man sich natürlich auch noch vorstellen, wie so eine KI haltauch noch den Bericht schreibt innerhalb dieser zwei Stunden in drei Sekundenoder so. Oder vielleicht 40.Das heißt, da ist natürlich im Security-Bereich gerade durchaus...Zeiten des Umbruchs.Gleichermaßen, wenn du am Endenoch nicht mal dazu kommst, dich mit den schönen neuen KI, Architektur,rechte Modellen, Schwachstellen auseinanderzusetzen, weil du schon am Anfangüber Admin 1.123 stolperst und über SQL Injections und schlecht,durchdachte API-Authentifizierung,dann bleibt auf jeden Fall noch ein bisschen Zeit.

Tim Pritlove 1:00:56

So, was kann man denn noch mit KI Schönes machen?

Linus Neumann 1:01:01

Muss mal gucken, was man mit KI machen kann. Ich hatte hier schon die Shownotes zu, weil ich sonst...

Tim Pritlove 1:01:05

Überwachen kann man damit, super.

Linus Neumann 1:01:07

Ja, auf jeden Fall, können wir machen, kein Problem. Zum Beispiel in Berlin.

Tim Pritlove 1:01:12

Ja, das ist doch naheliegend, im wahrsten Sinne des Wortes.

Linus Neumann 1:01:16

Berlin ist ja in den Händen der,CDU.

Tim Pritlove 1:01:22

Und SPD.

Linus Neumann 1:01:24

Ach ja, die sind ja immer noch dabei.Ja, also wir kriegen jetzt die Novelle des Berliner Polizeigesetzes wurde verabschiedet.Wir haben jetzt Verhaltensscanner, Gesichtserkennung, Datenanalyse,so pallant hier alles auf einen Haufen, wie bei McKinsey.Staatsruhjahre machen sie auch.Und haben jetzt auch ausgeschrieben, sie wollen eine Software für KI-Videoschutz.Haben sie ausgeschrieben.

Tim Pritlove 1:01:50

Wer soll da geschützt werden?

Linus Neumann 1:01:52

Der öffentliche Raum.

Tim Pritlove 1:01:54

Ah.

Linus Neumann 1:01:55

Das ist dann so wie in Hamburg gibt es das ja schon länger und es gibt jetzt wenn ich das richtig,in Erinnerung habe, schon noch in diesem Jahr werden dann,erste KI unterstützte Videosysteme an den,ich glaube am Alex oder Cottbusser Tor oder sowas an den Hotspots der Kriminalität,Ja, Cottbusser Tor, ganz schlimm.Wobei da würde ich sagen, also bei den meisten Leuten am Kotti,wenn ich mich bedroht fühlen würde, würde ich einfach weggehen.Schaffen die nicht, mich anzuholen.Na, kommt drauf an.

Tim Pritlove 1:02:41

Ja, also das ist auf jeden Fall hochproblematisch.

Linus Neumann 1:02:48

Das sprießt jetzt überall aus dem Boden. Frankfurt hat bei mobiler GesichtserkennungRazzia im Bahnhofsviertel mit 200 Beamten,haben sie eine Foto-App zur Personenidentifikation in Echtzeit verwendet.414 Menschen mit einer Gesichts-App irgendwie untersucht.Und,dann Auf was? Also die haben glaube ich nach einer Person gesucht.Also die haben nach einem Menschen gesucht und die haben aber dann auch diePersonen, die da waren, einfach gesagt, wer sie sind, quasi um sich nicht immereinen Ausweis zeigen zu lassen.Gesichtserkennung, zack, bumm. Hier, wie hieß die,Wie hieß die Raff-Terroristin?

Tim Pritlove 1:03:38

Daniela Klette.

Linus Neumann 1:03:39

Ja, genau. Quasi dieses, wer ist diese Person? Ah ja, okay, zack, bumm.Und, ähm, also das, so ich meine, Gesichtserkennung ist das eine Ding, ne?Und das ist ja heute schon, sag ich mal, offener ist nur noch eine Frage des,wie viel Ressourcen und Geld nimmst du in die Hand, wenn du beispielsweise jetzteinen öffentlichen Raum überwachst, einfach jedes Gesicht da drin automatisch zu erkennen, ne?Das ist jetzt keine Herausforderung.Und was sie auch haben, ist dann Verhaltensüberwachung. Da verhält sich aber jemand komisch.Der braucht ja ein bisschen länger, um sein Fahrrad aufzuschließen oder sonst was.Und in Kombinationen bist du dann eben bei den Sachen, die eigentlich immerso im öffentlich-rechtlichen Nachtprogramm sind. In China, schaut ihr das an,die komplette verdattete Überwachung.Und da wird jetzt gerade das solide polizeigesetzliche Fundament für gelegt.

Tim Pritlove 1:04:51

Also ich meine, die ganzen Überwachungsfantasien waren ja schon immer da.Schon in den 80er Jahren ging das ja los nach dieser Terrorzeit der 70er mitRasterfahndung und dieser Traum von alles jederzeit sehen,um eine Sicherheit herzustellen, die ausschließlich auf dieser Idee einer Kontrolle basiert.Das gab es immer und es ist eigentlich nur daran gescheitert,dass das, was man machen wollte mit der Technik, am Ende zu teuer war.Aber jetzt, wo die Technologie immer billiger wird und sich in gewisser Hinsichtja auch die Möglichkeiten immer weiter ergeben werden.Also Kameras waren früher teuer, super teuer.Also von digitalen Kameras mal ganz abgesehen.Und heutzutage ist eine Kamera halt wirklich nur noch ein Pfennigbetrag in derelektronischen Produktion.Datenmengen speichern war teuer, heute kriegst du irgendwie Terabytes auf demDaumennagel unter und so weiter und mit diesen gesunkenen Kosten steigt natürlichauch automatisch dieser Durst nach,jetzt machen wir alles, was wir schon immer machen wollen.

Linus Neumann 1:06:12

Du hast den einen Aspekt vergessen,noch zu nennen, du hast, klar, dann hast du massenhaft Video,dann musst du das speichern können.Das, was jetzt dir gelingt, ist, massenhaft Video auch analysieren zu können.Das war so die letzte, also Video aufzeichnen konntest du, du hattest nur dann halt mehr Heu.

Tim Pritlove 1:06:34

Also in den 80ern noch nicht, aber dann später war das auch und jetzt ist ebenauch noch diese ganze Analyse und daraus auch noch einen Sinn machen.Auch das wird jetzt machbar und ist halt in gewisser Hinsicht günstig.

Linus Neumann 1:06:45

Wir hatten auch hier in der Sendung ja über die Ring-Geschichte da mit dem wirhaben mit dieser Überwachungsfirma ein wunderschönes Feature,mit dem man deinen Hund wiederfinden kann.So, Alter, what the fuck, ey, also den Hund, dafür habt ihr das Geld ausgegeben.So, so, das ist immer voll lieb, dass ihr euch für meinen Hund interessiert.So, ist außerdem ein Leguan und der ist tot.

Tim Pritlove 1:07:11

Echt, du hast einen toten Leguan als Haustier?

Linus Neumann 1:07:14

Nein, ich habe keinen Leguan. Leguan gehört nicht nach Deutschland.Leguan ist kein Teil von Deutschland.

Tim Pritlove 1:07:24

Die Insel heißt anders. Das verwechselst du.

Linus Neumann 1:07:29

Leguan, wirklich. Leguan ist kein Teil von Deutschland.

Tim Pritlove 1:07:36

Ja. Ist nicht gut. Videoüberwachung. Deswegen hat der CCC auch gesagt, ist doof.

Linus Neumann 1:07:43

Ja, Kantorkel gerade schon erwähnt.Ein teures, aber gefährliches Sicherheitstheater. Und ja, also nochmal,also wie viel Kriminalität.Erwartest du.Also wirklich so die Ökonomie davon, ne? Wir können jedes Gesicht erkennen mit der Kamera.Wir erkennen verdächtiges Verhalten.Okay, haben wir eventuell ein bisschen überinvestiert, weil trotzdem findetihr die ganze Zeit Kriminalität unter diesen Kameras oder vielleicht nicht unter diesen Kameras statt?Kann das sein, dass die Leute einfach irgendwo hingehen, wo die Kamera nichtist? War das vielleicht so?Dann müssen wir da auch eine Kamera hinstellen oder was? Dann wird das irgendwieein bisschen teurer. Und dann am Ende sind die Kriminellen da, wo keine Kamera ist.Wie viele Kameras müssen wir kaufen, dass die nirgendwo mehr hinkönnen?Und was bedeutet das dann für unseren öffentlichen Raum? Dann können wir unsnicht mehr unüberwacht von diesen Systemen, die in der Lage sind,anormales Verhalten festzustellen und unsere Gesichter zu erkennen. Ja, geil.Also, ich glaube, ich hatte das hier vor einiger Zeit auch schon mal in der Sendung gesagt.Dann wird der öffentliche Raum, durch den wir uns gerade noch frei bewegen können.Wir können da einfach lang gehen. Das kriegt keiner mit. Das erfasst auch keiner zentral. Im Moment.Aber das wird dann wie im Internet. Egal wo du lang gehst, egal wo du hast,Datenspuren hinterlassen, zack, bumm, ach, du bist da lang gehst.Ja, 85 Hikvision-KI-Kameras.Ja.Die haben auch dein Gesicht erkannt. Die haben auch gemerkt,dass du da an der einen Straßenecke, Tim, da weiß ich gar nicht,ob du da jetzt, also, so wie du da in dem Bus stand, hast du da hingepinkelt, das kostet doch 10 Euro.20, glaube ich, eigentlich sogar jetzt, mit dem neuen Polizeigesetz.

Tim Pritlove 1:09:35

Ja, man wird dann mit allem möglichen in Verbindung gebracht.Also das schafft einfach eine, also hättest du, sagen wir mal,muss ich jetzt gar nicht mal so groß aufziehen, reicht jetzt mal nur so ein Stadtteil.Sagen wir mal, man hat so ein Problemstadtteil.Kreuzberg ist ja immer gerne in Diskussionen.

Linus Neumann 1:09:52

Nehmen wir Grunewald.

Tim Pritlove 1:09:53

Ja, oder Grunewald, genau. Da fahren die aber nur mit dem Auto lang, das ist ja einfach.

Linus Neumann 1:09:57

Stell mal einen Kennzeichenscanner hin, was dann los ist.

Tim Pritlove 1:10:01

Ja, aber das ist ja einfach. Also die Konservativen sehen ja die Bösen immerin Kreuzberg und in jede Straße muss jetzt so eine KI-Kamera rein und dann haben wir diese ganzen Daten.Und ich will auch nicht mal ausschließen, dass man damit auch irgendwelches Kriminelles macht.Geschehen, erfassen könnte. Ist durchaus wahrscheinlich.Vor allem schafft man aber einen Datensatz, auf dem potenziell jede denkbare Analyse möglich ist.Und das betrifft natürlich die Privatsphäre quasi aller Leute in diesem Bereich.Es schafft vor allem auch Erpressungspotenzial.Es sind Daten mit einem sehr hohen Wert und wir wissen, alles was einen sehrhohen Wert hat, das wird dann auch irgendwann verkauft werden,wird dann anderen Leuten zugespielt werden.Das sind ja sozusagen Beobachtungssehens. Ich meine, kurzer Blick hier auf denIran-Krieg, der erste Schlag auf den Ayatollah, der von Israel durchgeführt wurde.Es kam ja im Nachhinein raus, dass Israel seit...Jahren alle Verkehrskameras in Teheran abgeschnorchelt hatten.Die haben sozusagen einen Livestream gehabt von dieser Hauptstadt,also nicht nur einen Livestream, sondern alle Livestreams und die haben darüberdie ganzen Wege der Mitarbeiter dieser Ministerien und Zuträger und Sicherheitspersonaldarüber analysiert und haben darüber sozusagen ein klares Bild gehabt, wer ist wann,wo, welche Routinen herrschen, Was ist sozusagen hier das Sicherheitsregime?Und unter anderem mit diesen Informationen, sicherlich nicht nur mit diesenInformationen, unter anderem mit diesen Informationen, dann ein relativ klaresBild gehabt, wer ist wann wo und wo können wir zu welchem Zeitpunkt zuschlagen.Das ist so die Dimension, die allein die Verkehrskameras schon.

Linus Neumann 1:11:58

Diese News sollten wir mehr verbreiten, wenn dann demnächst solche Kameras inBerlin aufgestellt werden.Wenn wir sagen, Israel, könnte ich mir vorstellen.

Tim Pritlove 1:12:09

Dass es so ist. Ich wollte das jetzt nicht auf Israel bringen, sondern generell.

Linus Neumann 1:12:12

Mir ist ja völlig egal, wer die Kamera absägt. Hauptsache die ist wieder weg.Ja aber es ist also diese Gesamtüberwachung es gab ja schon vor,wie lange ist das schon wieder her da war dann irgendwie ich glaube der MichaelKreil hatte das gemacht der hatte quasi gesagt okay wenn man die Menge an Datendie die Stasi gesammelt hat nimmt,und macht die in Aktenordner und dann macht man daraus Regalmeter und dann hater quasi eine Fläche aus Regalmetern gemalt und dann hat er die Menge an Daten, die die NSA hatte,einfach mal visualisiert und das war natürlich ein Vielfaches und.Die Stasi ist an ihre Kapazitätsgrenzen geraten, daraus noch Erkenntnis zu ziehen.Die mussten dann ja quasi so Informationspyramiden bauen.Jeder überwacht da, der IM überwacht, irgendjemand schreibt einen Bericht unddann der schreibt wieder da einen Bericht und dann hast du irgendwann,versuchst du es irgendwie noch für einen Menschen oder ein, was auch immer,ein Blockwart oder was da dieStruktur war, irgendwie hochzufiltern und zu aggregieren die Information.Aber am Ende war das Bottleneck noch so, am Ende muss das noch in das Gehirnvon ein paar Menschen passen.Und auch das bist du dann los, wenn du massenhafte Datenanalysen in Echtzeit machen kannst.Und das ist es ist wirklich als Ausmaß,sowas von,nicht mehr vorstellbar, wie viel krass invasiver und überwachender das ist.Nimm mir den Schlaf. Kommen wir zum nächsten Thema.

Tim Pritlove 1:14:12

Ja, also es ist so ein totales ist auch so ein Zauberlehrlingsding. Also man, ich kann...

Linus Neumann 1:14:17

Der Friedrich Merz sieht jetzt nicht aus wie ein Zauberlehrling.

Tim Pritlove 1:14:20

Naja, also...Selbst wenn ich es jetzt mal ganz gutmütig, positiv annehmen würde, was ihre Ziele sind.Ah ja, sie wollen die Kriminalität reduzieren, sie wollen irgendwie die gefühlteoder auch die reale Sicherheit an öffentlichen Plätzen herstellen.Und es gibt ja auch Problemorte und es gibt auch Problemsituationen.Kann man alles irgendwie einsehen.Ich würde ihnen sogar fast mal unterstellen, dass sie das selber so sehen.Dass sie überhaupt gar nicht darüber nachdenken, was das Missbrauchspotenzialdavon ist, sondern dass das für sie einfach zweitrangig ist manche vielleichtnicht, aber einige sehen es sicherlich,in so einer gutartigen Sache, also was habt ihr denn so wie diese Diskussionum Wahlcomputer ja was denn, wir wollen das doch nur einfach machen und so weiter,das kann doch nicht sein, dass man das nicht mit Computern machen kann,ja naja okay, das seht ihr vielleicht so,aber habt ihr mal wirklich darüber nachgedacht, was das bedeutet was das fürKonsequenzen haben kann Und das ist das Problematische daran.Also ich glaube, es ist auch nicht klug, diese ganze politische Debatte immerso mit der Unterstellung zu führen, dass die ja uns doof sind.Ja, das vielleicht schon, aber dass sie nicht schaden wollen,aber dass sie sich einfach über die potenziellen Auswirkungen der Installationeiner solchen Infrastruktur klar werden müssen und ich finde bei den anderenSachen, wo wir früher immer schon gewarnt haben,hat sich das alles auch sehr wohl gezeigt, diese ganzen Probleme und das muss man auch oft.

Linus Neumann 1:15:54

Möchtest du sagen, told you so?

Tim Pritlove 1:15:56

Naja, also,es gibt genug Belege so was Privatschutz und Leakage von Daten und so weiterbetrifft und das wird jetzt hier auch nicht sehr viel anders sein aber die Auswirkungendavon sind potenziell noch schlimmer.

Linus Neumann 1:16:16

Gehen wir gleich noch an Kotti. Letzte Mal jetzt, bevor da bald Videoüberwachung ist.Schnell auch verdächtig am Kotti lang gehen.

Tim Pritlove 1:16:26

Ein Döner, ganz verdächtig ein Döner essen.

Linus Neumann 1:16:29

Vielleicht noch kurz für die Vollständigkeit. In Thüringen läuft es gerade miteinem KI-Polizeigesetz.Verhaltensscanner, Gesichtssuchmaschine, Datenanalyse, Palantir-Style,Kennzeichenscanner, Videodrohnen.Niedersachsen hat auch ein KI-Polizeigesetz, BND,du hast,also natürlich wollen alle diese Strafverfolger und die Geheimdienste und dieBig Four Consultants, wie McKinsey,alle Daten zentralisiert,analysieren und diese Macht haben. Also das Bittere ist ja, die werden die sichja auch holen. Das ist ja auch wirklich nur so ein,also,das günstigste Ergebnis ist, dass wir durch den Widerstand dagegen uns nochso viel Zeit verschaffen, dass wir vernünftigen Schutz dagegen noch entwickeln können.Aber auch nicht so einfach, weil Meta, das ist ja auch, weißt du,was machen wir bloß mit diesen ganzen Rechten?Die Leute gehen in die Hände dieser Bauernfänger, die gehen da irgendwie beider AfD und den ganzen komischen rechtsgerichteten Irrsinnigen hin,weil die das Vertrauen in die Politik verloren haben. Was machen wir denn?Ja, lass uns am besten erstmal die oberste Datenschutzbeauftragte Irlands wirdjetzt Lobbyistin für Facebook und dann lass uns am besten die Ex-Meta-Lobbyistin,die dann auf einmal ins EU-Parlament gekommen ist,die nehmen wir am besten als Chefverhandlerin für den KI-Omnibus.Also eine Ex-Meta-Lobbyistin sitzt jetzt im EU-Parlament und ist ausgerechnet für den KI-Omnibus.Also für den KI-Teil des Omnibus.Da. Also für KI und Datenschutz.Das kann doch auch nicht sein. Also hatten wir wirklich niemand anders?Ja, hatten wir wahrscheinlich nicht. Fällt dir noch jemand ein,wenn man da hätte hinschicken können?

Tim Pritlove 1:19:05

Thomas.

Linus Neumann 1:19:06

Ja, der war aber nicht bei Facebook.

Tim Pritlove 1:19:12

Schlechtes Zivil.

Linus Neumann 1:19:13

Keine Ahnung, wovon er redet.Es gibt,In diesem ganzen Kontext, wir haben ja gerade über KI, Überwachung,Auswertung und sowas gesprochen,noch eine etwas unschöne Meta-Entwicklung.Also natürlich, wir haben gesagt, Geheimdienste wollen das,Überwachung will das und wir haben glaube ich in einer der letzten Sendungenauch schon darüber gesprochen,Militär will das, das Kriegsministerium der USA hat ja, auch darüber haben wirgesprochen, sich mit Anthropic angelegt und jetzt irgendwie gesagt,wir nehmen euch das Geld,geben euch das Geld nicht mehr, dann einen Deal mit OpenAI gemacht.Dann hat Trump gesagt, die Nutzung von Anthropic in Bundesbehörden wird jetzt untersagt.Das heißt, sie versuchen Anthropic den Geldhahn zuzudrehen, um diese Entwicklungenfür sich gefügig zu machen.Sowieso werden Kriege inzwischen mit Drohnen und automatisierten Tötungsmaschinengeführt. Das heißt, die ganze Militärgeschichte.Und wir haben gerade darüber gesprochen, dass wir im Prinzip beobachten,dass die Sicherheitsarchitekturen für derartige Systeme zumindest,also sie werden gerade exploriert das muss man jetzt mal noch finden,und dann hat weitestgehend unbeachtet Donald Trump vor einigen Wochen eine neueCyber-Strategie veröffentlicht.Und diese Strategie, die Donald Trump jetzt für, also für, wie bewegt man sichim Bereich des Cyber, also Cyber ist ja Hacking, ne?Sie haben gesagt, okay, wir gehen weg von Regulierung, wir gehen hin zu Dominanz und Deregulierung.Also wir deregulieren die Anforderungen.Das ist erstmal etwas, was ich gar nicht, also der Idee wäre ich gar nicht so abgeneigt,weil in vielen Bereichen IT-Sicherheit tatsächlich so stark totreguliert ist,dass es in die Sinnlosigkeit treibt.Es wird viel zu viel Zeit verschwendet mit sinnlosen Anforderungen.Aber das kombinieren sie mit, wir wollen den Bereich dominieren und wir priorisierenden Angriff gegenüber der Verteidigung.Also proaktive Angriffe, Abschreckungund so weiter, statt in Resilienz zu investieren und zu setzen.Also Abschreckung statt stabilen Scheiß bauen.Genau, die Deregulierung, okay, also kann man drüber reden, das muss natürlichnur die Zeit und Energie und Verpflichtung, die da frei wird,die Ressourcen, die müssen ja auch irgendwo hin.Dann natürlich ja mit KI, das machen wir jetzt hier Agentic AI wird dann füruns die aktiven Cyber-Angriffe machen ähm und ja das ist äh,Ich meine jetzt auch keine so gute Entwicklung, wenn jetzt die USA sagen,wir haben uns überlegt, das mit dem Defense, das habt ihr jetzt ein paar Jahreversucht, das funktioniert doch alles nicht. Wir kloppen einfach feste drauf.Und dann denkt man sich, wie blöd sind eigentlich die USA, aber natürlich kriegenBKA und Bundespolizei gerade auch neue Hackerbefugnisse oder so,und die kriegen, das plant zumindest die Bundesregierung und sagt,ja wir wollen natürlich aktive Abwehr von Hackerangriffen.Wer das für eine gute Idee hält,kann sich die schöne Sendung mit dem Hackback-Rakete nochmal anhören.Also gegen Attacken, Systeme von Angreifern stören oder lahmlegen,soll dann Bundespolizei und BKA erlaubt werden.Und das wird auch nicht lange dauern, bis die sagen, das machen wir hier mitdieser Codewall-KI oder was auch immer, die so schön das McKinsey-Problem fast gelöst hatte.Und jetzt schwanken quasi nicht nur alle hin zu der Massenüberwachung und derAutomatisierung von Dingen mit wackelnden,Sicherheitskonzepten und Zauberlehrlings Vibes, sondern sagen außerdem ja passauf, wir haben uns auch überlegt der Schwerpunkt ist jetzt eher wir greifendie anderen an, als dass wir uns verteidigen ja,Da würde ich auch sagen, wollen wir mal gucken, wie lange das dauert,bis einer weint und ob nicht am Ende beide weinen.

Tim Pritlove 1:24:14

Also diese amerikanische Regierung ist wirklichvöllig ohne irgendwelcheGuardrails unterwegs und diesen psychisch kranken Menschen da einfach freienLauf zu lassen und ihnen auch beliebige Loonies da in Führungspositionen inden Ministerien bringen zu lassen,das ist wahrscheinlich der größte Fehler in den USA je gemacht haben.Aber das wird natürlich extreme Auswirkungen haben darauf,wie auch andere Länder sich positionieren und das geht nicht gut.

Linus Neumann 1:24:58

Ja, genau. Es geht nicht gut.Ich rede da ja nun wirklich mit dem Mund fusselig.Ja, es gibt Angriffe. Ja, es gibt Angreifer.Und ja, es gibt keine vollständige Sicherheit.Genau deswegen muss man Resilienz aufbauen und nicht sagen, naja,wenn wir eh verloren sind dann kloppen wir halt auf die anderen drauf also dasfunktioniert halt nicht insbesondere,wenn du dir dann sowas anhörst, wie du gerade erzählt hast dass dir eine dirnicht wohlgesonnene Nation deine dir selbst dahingestellten Überwachungskameras hackt.Ja, aber der neue 3er BMW ist super. Wird noch was in Deutschland.So, dann haben wir noch einen Space, den gemeinnützigen Makerspace Toolbox Bodensee.Die suchen relativ kurzfristig ein neues Zuhause.Die müssen am 31.05.26 ausziehen und suchen mindestens 220 Quadratmeter im BereichBodensee. Also der Bodensee-Kreis, Markdorf, Friedrichshafen, Tettnang.Wir haben den Blogpost für euch verlinkt.E-Mail an vorstand.toolbox-bodensee.de. Und warum würde man so einem Space ein Zuhause bieten?Nun ja, das sind halt Orte, wo was passiert, wo Kreatives entsteht,wo sich Communities treffen, Chaos treffen, Marktdorf, Funkamateure.Freifunk-Bodensee, die Freifunk-WLAN-Infrastrukturenbauen, Spieleentwicklung-Bodensee, IoT-Meetup.Und die haben jetzt gerade 420 Quadratmeter, bauen Elektrotechnik,Holz, Metallwerkstatt,3D-Druck, Siebdruck, Fotolabor, also all diese Orte oder all diese Werkstätten und Tools,die es ermöglichen, Dinge zutun, sich zu entfalten, als Communities zusammenzukommen, was zu machen.Also damit man nicht immer nur hier mit Chat-GPT am Sexten ist,sondern sich auch weiterentwickelt als Teenager.Und ich denke, das sind wichtige, herausragende Orte von Kultur und Kreativitätund deswegen will man das haben.Ja, und deswegen brauchen wir jetzt relativ kurzfristig dafür eine Fläche unddas ist eine Gelegenheit.Das ist eine Chance, die sich so schnell nicht mehr bieten wird,dass man jetzt die neue Heimat der Toolbox Bodensee werden kann,am Bodensee, wo man eigentlich denkt, man hätte schon alles erreicht.

Tim Pritlove 1:27:57

Ich glaube, wenn man da was zu vermieten hat, kann man nur sagen, das sind meistens...

Linus Neumann 1:28:01

Vom Vermieten war nicht die... Miete. Verschenken.

Tim Pritlove 1:28:05

Verschenken?

Linus Neumann 1:28:05

Nein. Über eine angemessene Miete kann man...Nicht angemessen, angemessene Miete ist so ein... Über eine vernünftige Miete kann man reden.

Tim Pritlove 1:28:14

Ja, vor allem, wenn man was zu vermieten hat und man sucht so Mieter.

Linus Neumann 1:28:18

Ja, die das ordentlich halten. Die den Schrott dann erstmal reparieren,indem man den da vermietet.

Tim Pritlove 1:28:23

Ja, also, sag mal so, es gibt Mieter, die zahlen Miete, aber es gibt Mieter,die zahlen Miete und bringen eine Kultur mit rein, die auch anderweitig ganz nützlich sein kann.Das ist eine Aufwertung. Und da ist, also haben glaube ich die wenigsten bisherbereut, die Leute an so einen Megaspace vermietet haben.

Linus Neumann 1:28:43

Nee, wüsste ich jetzt auch keinen.

Tim Pritlove 1:28:45

Auf gar keinen Fall.

Linus Neumann 1:28:47

Ein Verschwörhaus in Ulm. Die haben ja dann irgendwann den Namen geklaut undsich das, aber nee, also selbst das war...Die haben den Namen geklaut, weil es so geil war, dass sie sagten,das können wir nicht dulden, dass das euers ist, wir registrieren die Marke, das war unsers.

Tim Pritlove 1:29:05

Naja, also wer was hat im Bereich Bodensee, soll sich mal melden bei den Leuten.So, kommen wir zu den Terminen. Du hast schon einen erwähnt.

Linus Neumann 1:29:14

Ja, 29.04. Ich hab noch einen Monat und neun Tage.

Tim Pritlove 1:29:19

Was ist da jetzt überhaupt passiert? Also du wolltest eigentlich ein Sidekicksein und jetzt bist du irgendwie die Hauptattraktion.

Linus Neumann 1:29:26

Also okay, ich glaube Folgendes ist passiert.

Tim Pritlove 1:29:29

Ich will jetzt ein bisschen Erwartungshaltung hier aufbauen.Du hast einfach nicht genug Druck in deinem Leben, verstehst du?Du musst jetzt einfach mal ein bisschen einen drauflegen.

Linus Neumann 1:29:37

Also es gibt ja Funfacts, hatte ich glaube ich erzählt.Tägliche,Täglicher satirischer, komödiantischer Blick auf Nachrichten.Aus dem Kreise von vielen Comedians, unter anderem Marc-Uwe Kling und SarahBrosetti, der es glaube ich so ein bisschen losgetreten haben und aber sehr,sehr viele auch wirklich bekannte Leute, die auch richtig begnadete Leute hiermitmachen. Heinz Strunk.Heinz Strunkmann. Da freue ich mich schon so unglaublich drauf.In, was war das? Hamburg, München, Berlin und Köln und Wahrscheinlich gibt es noch eine Stadt.Und,dann gibt es die Montag, Dienstag, Mittwoch, Donnerstag Sendung,die sind immer alle live und Freitag wird aber nicht aufgezeichnet,sondern am Freitag gibt es immer so einen long,so einen deep dive, nicht mehr tagesaktuell, wo dann quasi die Amateure,die nicht professionelle Comedians sind, sondern die halt davor geschult werdenmüssen und so weiter, die ja auch eigentlich gar nicht witzig sind. So wie ich.Die kommen dann da mit rein, weil man davon ausgeht, deren Aufzeichnung machenwir am Donnerstag mit jemand anders, für den die Leute kommen.Und dann sagt man, du bist jetzt Vorprogramm und dann haben wir die Aufzeichnung für Freitag.Und das war eigentlich geplant.Dass ich eben am Donnerstags Vorprogramm von irgendjemandem bin, der da Leute hat.

Tim Pritlove 1:31:03

Aber du wusstest nicht von wem.

Linus Neumann 1:31:06

Ich glaube, mir wurde das gesagt und dann habe ich aber, als der letzte Sendunghabe ich es ja irgendwie auch schon gesucht und nicht gefunden.Da deutete sich das schon an, dass da irgendwas nicht stimmt und dann kriegte ich halt den,so einen Anruf ja Mensch hier Tickets mit Linus Neumann hab ich gesehen ichhol mal eins, ich sag was hast du gesehen? nein, ich bin da,also es war so nicht vereinbart.

Tim Pritlove 1:31:34

Läuft ja super und jetzt, was machen wir da jetzt?

Linus Neumann 1:31:38

Ja weiß ich nicht es.

Tim Pritlove 1:31:40

Musste noch witzig werden bis dahin.

Linus Neumann 1:31:41

Bis dahin muss ich witzig werden Ja.

Tim Pritlove 1:31:43

Also ich meine...Ich habe jetzt nicht alle Videos gesehen. Es waren jetzt auch nicht alle unbedingtso witzig. Also du musst jetzt auch nicht so witzig sein.Du kannst auch todernstig da hinstellen in LNP-Manier und dann einfach erzählen.

Linus Neumann 1:31:57

Ja, aber das ist ja Funfact, nicht Faktab.

Tim Pritlove 1:32:00

Ja. Da bist du jetzt in der Falle. Ich kann dich natürlich noch ein bisschencoachen, wenn du willst.

Linus Neumann 1:32:06

Ja? Du könntest mal ein Witzeschreiber werden. Ich brauche einen Witzeschreiber.Nee, ich brauche wirklich einen Witzeschreiber.

Tim Pritlove 1:32:14

Naja, ist die Frage. was du machen willst, willst du, ich meine,du könntest natürlich auch einfach das vertrauen, das würde ich dir ja primärjetzt mal raten, ich würde ja immer auf das vertrauen, was du am besten kannstund das ist ja so spontan lustig sein.

Linus Neumann 1:32:27

Ja, hab ich ja auch gesagt, aber das ist ja so eine Nachrichtensendung.

Tim Pritlove 1:32:32

Ja, so ziehst du den Abend halt auf. Du gehst halt hin und erzählst erstmal,du bist überhaupt nicht lustig und du musst das jetzt mit allen zusammen.

Linus Neumann 1:32:37

Ja, aber das macht Nico Semsrott schon.

Tim Pritlove 1:32:40

Ja, aber der ist ja nicht lustig. Also der ist ja bewusst nicht lustig.Ja, also da muss man irgendwie das Publikum beteiligen.Da müssen die halt irgendwas reinwerfen und dann musst du dich in die Situationbringen, dass du reagieren musst. Und dann läuft das.

Linus Neumann 1:33:04

Ja, also funktioniert das halt nicht. Also es ist so, die haben es auch geschafftmit Luisa Neubauer, ist jetzt auch kein Comedian.Das war schon auch in Ordnung. Aber ich will auch nicht wissen,wie die geschwitzt haben muss davor.Also ich weiß ja, ich kenne sie zumindest nicht als Entertainerin.Als Entertainerin in einem Nachrichten-Style-Format.

Tim Pritlove 1:33:29

Da musst du den Fun in den Facts finden.

Linus Neumann 1:33:31

Ja. Der war auf jeden Fall gemein.

Tim Pritlove 1:33:35

Aber hast du denn schon ein Thema?

Linus Neumann 1:33:37

Nee. Auf die E-Mail muss ich nur antworten. Nichts hab ich. Ich hab einfachnur eine E-Mail, du bist dann dran. Hier werden Tickets verkauft,ich dir deinen Namen drauf frag.Und ich hab auch nicht Bescheid gesagt.

Tim Pritlove 1:33:51

Ja, okay. Also ich meine, das ist ja eine Ansage.Also ich ich sag ja immer, wenn man nix zu erzählen hat, weil ich besser halt.

Linus Neumann 1:34:04

Aber also was mir, was zum Glück nicht, also deswegen hab ich mir das auch sozusammengereimt, ja, weil es also ich muss zumindest nicht den ganzen Abend gestalten.Also Funfacts, es ist ja so, das sollte ich vielleicht noch dazu sagen.Wenn da jetzt steht Funfacts mit was weiß ich, Luisa Neubauer und Marc-Uwe Klingoder was, Da muss die Luisa nur die Viertelstunde hinter sich bringen,die die Funfacts-Sendung ist und den Rest des Abends gibt es dann eben ein Hauptprogramm.Oder wenn da jetzt zum Beispiel Funfacts mit Heinz Strunk ist,dann würde ich davon ausgehen, dass der Heinz Strunk eine Viertelstunde Funfactsmacht und wenn er dann noch Bock hat, dann gestaltet er den Abend noch ein bisschen weiter.

Tim Pritlove 1:34:51

Und du musst den ganzen Abend gestalten.

Linus Neumann 1:34:54

Dann muss ich wirklich nochmal mit denen reden. Hier steht, den ganzen großenRest des Abends gibt es eine Mixshow der Extraklasse zu sehen.Mit anderen Worten, die haben noch keine Ahnung.

Tim Pritlove 1:35:03

Oder sagen es zumindest nicht.

Linus Neumann 1:35:05

Oder sagen es mir nicht.

Tim Pritlove 1:35:07

Also wenn du wie Harald Schmidt so einen Sidekick brauchst, der von der Seite,so ein paar Sprüche reinklopft.

Linus Neumann 1:35:13

Du bist doch immer ein Manuel Andrak.

Tim Pritlove 1:35:14

Dann kann ich das machen. Wenn dir das weiterhilft, dann musst du halt was einfallen lassen.

Linus Neumann 1:35:20

Ja, ich hab nur ganz Zeit mir was einfallen zu lassen.

Tim Pritlove 1:35:24

Tja. Ja Leute, ne? Schreibt's in die Kommentare.

Linus Neumann 1:35:27

Was wollt ihr wählen? Welchen Funfact soll ich erzählen? Wusstet ihr,dass ein Regenwurm drei Därme hat?

Tim Pritlove 1:35:33

Oder wir machen das mit KI, ja? Verstehst du? Wir schmeißen da einfach alleDokumente rein, alle Transkripte von Logbuch und Netzpolitik. Hier ist der Humor.Das ist das Themenspektrum.

Linus Neumann 1:35:43

Finde in 548 Sendungen bitte die Funfacts. Kommen wir auf eine Viertelstunde? Nein?

Tim Pritlove 1:35:48

Also das wäre natürlich auch kreativ, wenn du das so aufziehst,dass sozusagen die ganze Sendung vollständig AI orchestriert wurde von dir.

Linus Neumann 1:35:58

Also nicht so im Sinne von... Das ist wirklich eine Drohung, ja?Guck mal, dann steht da irgendwie hier, das Bild einfach genommen aus der Wikipedia,CC, also Amsau ist alles richtig, aber CC bei alles.Und dann steht so, den ganzen Rest des Abends gilt eine Mixshow der Extraklasseund dann in Fett. Funfacts wird aufgezeichnet.So, Linus, wird aufgezeichnet, ne?No pressure.

Tim Pritlove 1:36:24

You've got one shot.

Linus Neumann 1:36:27

Ja, bin ich mal gespannt. In dem Theater war ich auch noch nicht.Und eine Woche vorher sind dann zum Beispiel hier Raoul Krauthausen,Anne Broer, Hilka, die ganzen großen Namen, ja?

Tim Pritlove 1:36:42

Das ist sehr unterhaltsam. Aber das ist auch eine Herausforderung.

Linus Neumann 1:36:45

Ja, das ist eine Herausforderung.

Tim Pritlove 1:36:46

Ich würde es modern machen. Ich meine, das müsste ja sowieso das Thema sein.Wenn ich mir das sonstige Themenspektrum hier anschaue, dann ist ja so KI nochüberhaupt gar nicht dabei. Es ist alles so politisch und so.Atomkraft, hier Freiheit, Arbeitslose.Jetzt kommt irgendwie der Linus, der ist ja mehr so der Techniker.Da musst du natürlich dann diese Problematik machen.Das heißt, so, KI Dystopie 3000,Das ist ja auf jeden Fall schon mal Ja, ich meine, da ist ja auch viel Humordrin, ne, in diesem ganzen KI-Thema, also, weil alle wissen ja um Halluzinationenund Auswüchse Könnte auch.

Linus Neumann 1:37:27

Einfach ein bisschen halluzinieren.

Tim Pritlove 1:37:29

Ja.

Linus Neumann 1:37:29

Du könntest.

Tim Pritlove 1:37:31

Halluzinieren mit Linus Neumann.

Linus Neumann 1:37:34

Guck doch mal eben in die Flasche, wie spät das ist Naja.

Tim Pritlove 1:37:37

Also ich finde, das ist auf jeden Fall schon mal ein Ansatz,über den man nachdenken kann und das kann auf jeden Fall ein sehr unterhaltsamer Abend werden.Also dann auch gezielt mit der KI zu spielen. Du kannst natürlich dann auchmit einer KI dich unterhalten, so wie das jetzt hier Bernie Sanders gerade gemachthat. Das war natürlich die andere Variante.

Linus Neumann 1:37:54

Eigentlich.

Tim Pritlove 1:37:55

Gibt es gerade so ein Video, kannst du mal anschauen.

Linus Neumann 1:37:57

Ich kenne nur das Interview von The Onion mit Sam Altman. Das ist gelungen, ja.

Tim Pritlove 1:38:04

Aber das war wahrscheinlich nicht echt. Bernie Sanders hat sich ja wirklich mit der AI unterhalten.

Linus Neumann 1:38:10

Und wer hat gewonnen? Chuck Norris.

Tim Pritlove 1:38:12

Naja, es war nicht wirklich ein Wettbewerb. Also ich glaube,Bernie Sanders hat gewonnen.Naja, wir mussten es halt Linus Way machen.

Linus Neumann 1:38:20

Ja, ich bin mal gespannt. Also ich versuch's. Und wenn wir beim Scheitern...

Tim Pritlove 1:38:24

Dann machen wir da einfach LNP. Mehr gibt's nicht.

Linus Neumann 1:38:28

Also das hat Mastodon schon nahegelegt.

Tim Pritlove 1:38:32

Was? Echt? Mastodon hat das nahegelegt. Naja, also das muss halt ein Spezial sein.Und ich würde sagen, AI ist genau das Thema.Da hast du eine Menge beizutragen und da kann man sich auf jeden Fall ein paarlustige Sachen einfallen lassen und das ist auch unterhaltsam.Das mögen die Leute, das ist ein Thema, da regt man sich gerne drüber auf.

Linus Neumann 1:38:54

Aber hier dieses Sam-Oltman-Interview, ne? Was ist denn das Problem,was sagst du zu den Menschen, die Angst haben, dass AI ihnen den Job wegnimmt?Antwort, ob von einem Computer oder von einem Chinesen, dein Job war immer dafürda weggenommen zu werden.Welchen Sinn werden Menschen stiften, wenn KI jeden Aspekt unseres Lebens dominiert?Dann sagt er, Menschen waren immer und werden immer wichtig sein, um Werbung zu gucken.Das ist wirklich...

Tim Pritlove 1:39:37

Da ist auf jeden Fall was zu holen. Ansonsten hast du ja noch die Möglichkeit...

Linus Neumann 1:39:43

Warte, das ist auch nur das Schöne. Why did you decide to devote your life to AI?I just saw so much suffering in the world that needed to be automated.Das ist wirklich ein Wunderschöner.Achso, es gibt noch einen anderen Termin.

Tim Pritlove 1:39:59

Ja, da kannst du üben. Da kannst du vielleicht da hinfahren.

Linus Neumann 1:40:02

Nee, der ist danach.

Tim Pritlove 1:40:03

Ach, das ist danach.

Linus Neumann 1:40:04

Die Tage der digitalen Freiheit in Tübingen vom 15.Bis 17. Mai 2026. Bis zum nächsten Mal.Ist das da, wo der,Boris Palmer ist?

Tim Pritlove 1:40:19

Ja, genau das ist das.

Linus Neumann 1:40:20

Könnt ihr euch den mal angucken.

Tim Pritlove 1:40:22

Ist auch sehr gehaltsam.

Linus Neumann 1:40:24

Ich weiß nicht, ob der da eingeladen ist. Aber also die Tage der digitalen Freiheitin Tübingen an der Westspitze.Es ist das fünfte Mal, dass das stattfindet unter dem Hashtag Raute TDF5 unddas Motto ist Freiräume verschlüsseln.Es geht um digitale Freiheit, Datenschutz, Netzpolitik und Technik,Workshops, Diskussionen und natürlich ist die Idee zu vernetzen,sich auszutauschen und einen Raum für Kreativität zu bieten.Spezifisch richtet sich das nicht nur an das Chaos, also Mitglieder,Freundinnen und Freunde des Chaos Computer Clubs, sondern an alle,die einem Leben in Freiheit und Selbstbestimmung in der digitalen Gesellschaftimmer noch Interesse schenken.Kostenloser Eintritt, kann man da natürlich auch gerne was spenden.Man kann, glaube ich, auch noch Programm einreichen.Ja, es gibt noch den CFP, der ist auch bei uns in den in den Shownotes verlinkt.Dann könnt ihr da eine Einreichung machen.Man könnte da hingehen.Was gibt es noch? Vorbereitung, Veranstaltung, genau. Fünfter,ach das ist das Himmelfahrtwochenende.Guck dir das an. Der 15. ist Christi Himmelfahrt. Da könnt ihr richtig schönmit dem Bollerwagen, Bollerwagen, Musik, Kiste Bier.Oh, guck mal hier. Performances und Installationen könnt ihr auch einreichen.Also Kunst, Kreativität und Schönheit. Raum, Gebühnen, Projektraum, Hackcenter.Und ja, Kunstprojekte. Das ist schon alles sehr spannend.Und die Helferinnen heißen da nicht Engel, sondern Elfen.

Tim Pritlove 1:42:22

Oh.

Linus Neumann 1:42:22

Ja. Neben den Inhalten lebt das Event auch wir kennen den Begriff aus dem An.

Tim Pritlove 1:42:33

Okay. Hauptsache man kriegt den danach auch wieder weg.

Linus Neumann 1:42:39

Elfen ist ein Begriff, den man nicht mehr verwenden darf. Aber er wurde in manchenKontexten, bevor jetzt der...

Tim Pritlove 1:42:46

Den darf man nicht mehr verwenden, ich fand den super.

Linus Neumann 1:42:48

Ist auch ein sehr guter Begriff. Also eine Elfe...

Tim Pritlove 1:42:51

Nein, das erklären wir jetzt nicht.

Linus Neumann 1:42:53

Das müssen wir erklären.

Tim Pritlove 1:42:54

Was? Ist das nicht Geheimwissen?

Linus Neumann 1:43:00

Im Elfenheim gibt es Mineralwasser und Snacks.Das Elfen-System ist wunderbar. Dort kannst du dich als Elfe registrieren.

Tim Pritlove 1:43:17

Super.

Linus Neumann 1:43:22

Das ist auch ein Elfen-System.

Tim Pritlove 1:43:27

Das erklären wir jetzt nicht.

Linus Neumann 1:43:29

Das müssen wir erklären.

Tim Pritlove 1:43:32

Okay, das musst du aber ohne.

Linus Neumann 1:43:35

Erklär mir die nächsten Sendung.

Tim Pritlove 1:43:38

Ihr ratet jetzt erstmal.

Linus Neumann 1:43:40

Ihr könnt in den Kommentaren erraten, was denn so eine Elfe ist.

Tim Pritlove 1:43:43

Ja, genau. Warum wir das jetzt lustig finden.

Linus Neumann 1:43:48

Ja, müssen wir auch wirklich dran denken.

Tim Pritlove 1:43:50

Okay. Okay, gut, dann machen wir.

Linus Neumann 1:43:53

Ich registriere mich schon mal.

Tim Pritlove 1:43:57

Ich mach Mittwoch bis Freitag den Tagplatz.Das kann aber lange dauern. Oh Mann.Ich glaub, die Sendung ist jetzt zum Ende gekommen.

Linus Neumann 1:44:13

Ich hätte vielleicht auch noch ein paar Elfen, die kann ich da mal entschicken.

Tim Pritlove 1:44:23

Ja, Leute, das war's. Erstmal wieder von uns. Hat ja nur drei Wochen gedauert.Wir bemühen uns, dass es nicht wieder so lange dauert.

Linus Neumann 1:44:33

Noch ein bisschen in den Timber 11.

Tim Pritlove 1:44:38

Komm, wir winken jetzt mal. Tschüss.

Linus Neumann 1:44:41

Ciao, ciao.

Tim Pritlove 1:44:41

Bis bald.

Linus Neumann 1:44:42

Tschüss.

Shownotes

Freiwillige Chatkontrolle nicht verlängert

digitalcourage.social: Patrick Breyer (@echo_pbreyer@digitalcourage.social)
netzpolitik.org: Appell der Datenschutzbehörden: EU soll „vollständig und endgültig“ auf Chatkontrolle verzichten

Deepfakes & digitale Gewalt

www.spiegel.de: (S+) Deepfakes: Stefanie Hubig erklärt neue Strafmaßnahmen gegen digitale Gewalt
www.spiegel.de: (S+) So wehren Sie sich gegen Porno-Deepfakes und digitalen Missbrauch
www.spiegel.de: (S+) Collien Fernandes zeigt Ex-Mann Christian Ulmen an: »Du hast mich virtuell vergewaltigt«
AP News: New Mexico lawsuit accuses Meta of failing to protect children from sexual exploitation online

AI hackt AI

codewall.ai: How We Hacked McKinsey’s AI Platform
SRLabs: We don’t need to hack your AI Agent to hack your AI Agent – SRLabs Research
SRLabs: Security Research Labs
xkcd: Exploits of a Mom

KI-Überwachung

netzpolitik.org: KI-gestützte Videoüberwachung in Berlin: So wehrt man sich gegen Verhaltensscanner
netzpolitik.org: Mobile Gesichtserkennung: Frankfurts Polizei identifiziert Menschen per Foto-App
www.ccc.de: CCC | Automatisierte Verhaltensüberwachung: Gefährlichen Mumpitz einstellen
netzpolitik.org: Hikvision: Hersteller der Hamburger KI-Überwachungskameras ist für Menschenrechtsverletzungen bekannt
CNN: Hacked traffic cameras and US intelligence: How a plot to kill Iran’s supreme leader came together | CNN
netzpolitik.org: Gegen KI-Überwachungspläne: In Thüringen wächst ein zartes Pflänzchen Widerstand
netzpolitik.org: Polizeigesetz Niedersachsen: Verfassungsrechtliche Bedenken bei geplanten Überwachungsmaßnahmen
netzpolitik.org: Geheimdienstkontrolle: „Kontrolle darf nicht davon abhängen, ob der Geheimdienst freiwillig kooperiert“

Meta positioniert seine Lobby

www.spiegel.de: Mark Zuckerberg dreht dem Metaverse den Saft ab
netzpolitik.org: Plötzlich Facebook-Lobbyistin: Irlands einst höchste Datenschützerin wechselt die Seite
netzpolitik.org: KI und Datenschutz: Wo der Digitale Omnibus der EU gerade hinrollt

Offensive Cyber-Strategien

DIE ZEIT: Künstliche Intelligenz im Militär: Wenn die KI die “Kill Chain” regelt
www.spiegel.de: (S+) Meinung: KI und Krieg: Stell Dir vor, es ist Krieg und kein Mensch geht hin – Kolumne
www.spiegel.de: Anthropic: Pentagon setzt Ultimatum für militärische Nutzung von KI-Chatbot
www.golem.de: OpenAI macht Deal mit dem Pentagon
www.golem.de: Trump untersagt Nutzung von Anthropic in Bundesbehörden
www.spiegel.de: BKA und Bundespolizei sollen Hacker aktiv bekämpfen können

Toolbox Bodensee sucht ein neues Zuhause

toolbox-bodensee.de: Toolbox sucht neues Zuhause

Termine

Fun Facts mit Linus (Berlin, 29. April 2026)

tickets.mehringhoftheater.de: FUN FACTS mit Linus Neumann
Fun Facts: Fun Facts
The Onion: The Onion’s Exclusive Interview With Sam Altman
YouTube: Bernie vs. Claude

Tage der digitalen Freiheit (Tübingen, 15.–17. Mai 2026)

tdf.cttue.de: 5. Tübinger Tage der digitalen Freiheit

3 Gedanken zu „LNP548 Leguan ist kein Teil von Deutschland“

Daniela sagte am 22. März 2026 um 10:34 Uhr :

Zum Fall Ulmen: 1. Fernandes hat Anzeige gegen Unbekannt gestellt. Das hat er mitbekommen und ist daraufhin in Panik geraten, hat ihr gestanden, um sie von weiteren Maßnahmen abzuhalten. Zum Glück hat sie die Kraft und Stärke sich davon nicht abhalten zu lassen.
2. Bitte sprecht nicht von „krank“. Das müsste wenn ein Arzt in der Verhandlung um das Strafmaß bestätigen. Ulmen hat über zehn Jahre lang seine Ehefrau virtuell an Männer preisgegeben und gleichzeitig Zuhause gesehen, wie sie gelitten hat. Das ist ein Verbrechen. Falls er da einen Zwang hatte, hätte er sich Hilfe holen können.
3. Er hat ihr auch körperliche Gewalt angetan.
4.Ich kann jedem nur raten, den Original Spiegel-Artikel zu lesen.
Gut dass ihr das Thema einem wahrscheinlich überwiegend männlichen Publikum präsentiert, aber bitte seid präzise.

Antworten ↓
Mathias Panzenböck sagte am 22. März 2026 um 14:14 Uhr :

Bei „KI Videoschutz“ hab ich zuerst gedacht es wäre Schutz vor KI Videos. Natürlich eher das Gegenteil.

Antworten ↓
Nur so ein Gedanke sagte am 22. März 2026 um 14:58 Uhr :

Linus scheint wieder einmal seine manchmal bereits trübe gewesene Glaskugel zu konsultieren. Doch die Zukunft ist keineswegs fest und unveränderlich – es geht vielmehr um ein Gefühl, ein Gestaltungsspielraum, den wir mit Hingabe und Mut nutzen können. Auch Fab-Produktionsketten können sich wieder ändern, wenn das Volumen und die Verträge/Zugänge wieder kommen. Es liegt auch in unserer Hand, aus der Zukunft etwas Gutes zu machen, alle aus ihren eigenen Kontexten ein bisschen. Zukunft ist nicht als Science Fiction oder RPG in Stein gemeißelt, sondern lebendig und formbar.

Antworten ↓

Schreibe einen Kommentar Antwort abbrechen

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre, wie deine Kommentardaten verarbeitet werden.

Aktive Podcasts

Pausierte Podcasts

Archivierte Podcasts

Logbuch:Netzpolitik

Der Netzpolitik-Podcast mit Linus Neumann und Tim Pritlove

LNP548 Leguan ist kein Teil von Deutschland