Tim Pritlove: Guten Morgen Linus.
Linus Neumann: Guten Morgen Tim.
Tim Pritlove: Ich habe gehört Chuck Norris ist gestorben.
Linus Neumann: Die Berichte über seinen Tod sind stark übertrieben.
Tim Pritlove: Logbuch Netzpolitik Nummer 548 vom 20. März 2026 und seht es uns nach.
Tim Pritlove: Wir haben eine kurze Unterbrechung im Programm gehabt, denn die letzte Sendung war vom 27.
Tim Pritlove: Februar und seitdem kam es irgendwie nicht dazu.
Tim Pritlove: Termine, Termine, Termine, aber immerhin sind wir jetzt wieder auf dem selben breiten Grad.
Linus Neumann: Mit einer langen Sendung.
Tim Pritlove: Einer langen Sendung. Das klingt ja jetzt nicht besonders optimistisch.
Linus Neumann: Ja, eine lange Sendung, Logbuch Netzpolitik ist selten was Gutes.
Linus Neumann: Also heißt nichts Gutes.
Linus Neumann: Du weißt, was ich weile.
Tim Pritlove: So viel zu den Erwartungshaltungen. Ihr könnt es euch schon mal gemütlich machen.
Linus Neumann: Du kannst schon mal direkt den Finger hier zum Gute-Nachricht-Dschingel machen.
Tim Pritlove: Ja?
Linus Neumann: Ja.
Tim Pritlove: Jetzt schon. Surprise, Motherfucker,
Tim Pritlove: Also, okay Also der Finger Der Finger Der Finger ist jetzt schon mal am richtigen
Tim Pritlove: Ort Soll ich schon loslegen oder haben wir noch irgendwas zu berichten?
Linus Neumann: Ähm, haben wir noch irgendwas zu berichten?
Linus Neumann: Irgendwas? Ich weiß.
Tim Pritlove: Aus dem persönlichen Kontext heraus. Ich bin aufgeregt. Du bist aufgeregt.
Linus Neumann: Ich bin aufgeregt.
Tim Pritlove: Okay, wegen der Sendung. Oder generell einfach.
Linus Neumann: Sendung kann. In der Sendung Logbuch Netzpolitik habe ich Routine.
Linus Neumann: Das ist jetzt die 548. Ein paar waren ohne mich, aber meine 500 werde ich schon so gemacht haben.
Tim Pritlove: Das werde ich gleich mal überprüfen.
Linus Neumann: Das kann ich inzwischen. Also sagen wir mal, inzwischen bin ich nicht mehr ganz
Linus Neumann: so aufgeregt. Also ich habe schon, morgen stehe ich auf mit Lampenfieber.
Linus Neumann: Aber kriege ich hinter mich Gebracht Was ich nicht hinkriege Ist Wenn ich irgendwie
Linus Neumann: bei diesem Funfacts Gefragt werde, ob ich da auch mal was mitmache Und mir garantiert wird,
Linus Neumann: dass ich So ein Side-Act bin und dann steht auf einmal,
Linus Neumann: Funfacts mit Linus Neumann in diesem Verkaufsding Damit komme ich nicht zurecht Okay.
Tim Pritlove: Das verstehe ich Also man erwartet mehr von dir Das ist Druck.
Linus Neumann: Das ist Pressure hier. Das ist die ganze Leistungsdruck, der ja auf mir landet.
Linus Neumann: Und vor allem das habe ich ja noch nie gemacht. Das kann ja auch gar nicht.
Linus Neumann: Und jetzt muss ich das lernen bis dahin.
Tim Pritlove: Okay, also ich kann dich beruhigen, du hast bis dato an 509 der Sendung teilgenommen.
Linus Neumann: 509?
Tim Pritlove: Oh krass, haben wir das öfter?
Linus Neumann: Achso, ich war ja einige Zeiten mal weg.
Linus Neumann: So, 509. Okay, aber dann hätten wir ja mal meine 500. Sendung feiern können.
Tim Pritlove: Tja, das hätten wir machen können, wenn wir das gewusst hätten,
Tim Pritlove: aber haben wir übersehen.
Tim Pritlove: Tja, aber ich habe meine 500er auch nicht gefeiert, aber wir haben unsere gefeiert.
Linus Neumann: Ja, das ist übrigens auch schon etwas länger her wieder, wir könnten mal wieder,
Linus Neumann: aber Eselts Albtraum, hier, Elenos, hatte sich an mich gewendet und hatte so
Linus Neumann: ein Foto, was ich ihr geschickt hatte von den beiden,
Linus Neumann: die am Anfang gejodelt haben.
Tim Pritlove: Ja.
Linus Neumann: Und meinte so, habt ihr noch mehr von den Bildern? Und dann hab ich so gedacht,
Linus Neumann: ja, bestimmt hab ich bestimmt...
Linus Neumann: Das Bild hatte ich selber irgendwie so aus Social Media, wahrscheinlich von Mastodon oder so.
Linus Neumann: Ich glaube von Ralf Stockmann geklaut, der das gepostet hat.
Linus Neumann: Da musste ich dann auch sagen, so ja, du, da war ich gar nicht, hab ich geklaut.
Linus Neumann: Wenn ihr da wart und vielleicht noch Bilder habt, würden wir uns glaube ich
Linus Neumann: über eine Mail freuen oder Elenos will sich freuen, Eseles Albtraum würden sich freuen.
Tim Pritlove: Das gilt im Übrigen nicht nur für den Act, sondern für das ganze Event.
Tim Pritlove: Ich hab nämlich dann mal in mein Archiv geschaut fürs Gestint. Ich hab gar keinen.
Linus Neumann: Ich hab nur Bilder von dem Autounfall, den du dann nachgebaut hast.
Linus Neumann: Weißt du noch? Diese Autobubser, die uns da verarscht haben.
Tim Pritlove: Also, Autounfall. Die R-Quotes sind aber jetzt in Stadtteilgröße.
Linus Neumann: Will man nicht meinen, ey.
Tim Pritlove: Ich hab ihn nur touchiert. Nee, der ist geliebt.
Linus Neumann: 5000 Euro. Ey, was für eine...
Tim Pritlove: Echt, ey.
Linus Neumann: Das hast du davon, wenn du nach West-Berlin fährst, ja? Wo die Leute irgendwie
Linus Neumann: geputzte Autos haben und sowas.
Tim Pritlove: Da fahren wir nicht wieder hin.
Linus Neumann: Das war eine schlechte Erfahrung. Mein Autopo war hier, der ist gerade.
Linus Neumann: Nichts war da. Nichts.
Linus Neumann: Nein, und ich hab's auch gesagt.
Tim Pritlove: Aber so ist es halt. Selbst wenn du mal was sagst, die Leute glauben es halt nicht immer.
Linus Neumann: Ja, da werd ich nie mit zurechtkommen.
Tim Pritlove: Das ist schlimm für dich, ich weiß. Aber da war nichts.
Linus Neumann: Mann, ey, ich hab doch tausend Fotos. Die hätte ich Eleanor Schinke,
Linus Neumann: weiß nicht, wie oft ich da Mikroskop-Makro-Funktion vom iPhone,
Linus Neumann: mehr Licht hier, ein Bild von nichts.
Tim Pritlove: Wenn wir Chuck Norris dabei gehabt hätten, ja, dann wäre das sicherlich anders gelaufen.
Linus Neumann: Chuck Norris hätte da wenigstens mal eine Macke in das Auto gehauen.
Tim Pritlove: Ja, eben.
Linus Neumann: Dann hast du mal einen Grund zu heulen, dann hast du auch einen Versicherungsfall.
Tim Pritlove: Wie, das ist eine Macke?
Linus Neumann: Das soll eine Macke sein? Das ist doch keine Macke. Das ist eine Macke.
Tim Pritlove: Ob er das besser gefunden hätte? Ich meine, hätte der Typ für die 5000 Euro
Tim Pritlove: in der Reparaturwerkstatt auf jeden Fall was zu tun gehabt.
Linus Neumann: Waren 5.000 Euro, oder?
Tim Pritlove: Ich weiß nicht, keine Ahnung.
Linus Neumann: Also wenn ich...
Linus Neumann: Also, wenn ich sowas, also für das Geld hätten wir auf jeden Fall noch ein paar
Linus Neumann: Scheiben einschlagen können.
Linus Neumann: Da muss man echt sagen, so, komm, ey, dann, was kostet das 5000?
Linus Neumann: Na komm, dann brechen wir jetzt noch hier irgendwas ab oder so.
Linus Neumann: Ey, dann pissen wir noch auf den Ledersitz oder so.
Tim Pritlove: Die Reifen sind eh nicht mehr gut.
Linus Neumann: Ja, oder dann hauen wir noch, irgendwo stechen wir noch einen Reifen ein oder
Linus Neumann: irgendwas. Aber nichts.
Tim Pritlove: Das war's.
Linus Neumann: Das war ja, du hast ja nichts.
Tim Pritlove: Tja, was ist das? Heutzutage ist immer viel Lärm um nichts.
Tim Pritlove: Das ist, äh, die Realität. Kommen wir zu den guten Nachrichten? Ja?
Linus Neumann: Ja.
Tim Pritlove: Gut.
Linus Neumann: Die freiwillige Chat-Kontrolle wurde nicht verlängert. Völlig überraschend.
Linus Neumann: Es handelt sich um die Ausnahmeregelung von der E-Privacy-Verordnung,
Linus Neumann: die Meta, Google und Microsoft überhaupt rechtlich ermöglicht hat,
Linus Neumann: freiwillig ohne dazu gezwungen zu werden,
Linus Neumann: die Chats oder die Inhalte von Nachrichten nach CSAM zu untersuchen. CSAM,
Linus Neumann: Child Sexually Abused Material und das wurde ja jahrelang immer diese E-Privacy
Linus Neumann: Ausnahme, das haben sie immer genommen und haben gesagt wir müssen jetzt die Chat-Kontrolle,
Linus Neumann: verabschieden weil die E-Privacy Richtlinien Ausnahme da, die die läuft aus,
Linus Neumann: und die Kommission will das verlängern, dann haben sie mit EU-Parlament und
Linus Neumann: Rat verhandelt, dass es jetzt gescheitert und ab dem 4.
Linus Neumann: April ist das wieder nicht mehr erlaubt.
Linus Neumann: Und das finde ich natürlich, also das ist schon sehr lustig.
Linus Neumann: Also sehr schön, ja, dass man hier auf,
Linus Neumann: sinnvolle Überlegungen kommt. So, jetzt müssen wir natürlich viele Leute,
Linus Neumann: die zum ersten Mal, die nicht 548 Folgen dabei waren oder 509 wie ich,
Linus Neumann: nochmal kurz erklären, warum ist das eine schlechte Idee.
Tim Pritlove: Warum eigentlich, Linus?
Linus Neumann: Soll ich das nochmal erklären? Also, du hast...
Linus Neumann: Wenn du in dieser Menge Daten und Kommunikationen überwachst und das in diesem
Linus Neumann: Fall dann auch automatisiert,
Linus Neumann: hast du auch bei sehr geringen Fehlerquoten immer noch eine horrende Menge an False Positives.
Linus Neumann: Ein Fall, den wir hier vor einiger Zeit behandelt hatten, war ein Mann,
Linus Neumann: der auf Aufforderung eines Arztes an Selbingen ein Bild von seinem Kind geschickt hatte,
Linus Neumann: das eine Verletzung am Unterleib hatte.
Linus Neumann: Und daraufhin ging der Filter an und der Mann wurde lebenslang von Google gebannt. Google-Verbot.
Linus Neumann: Mit der Chat-Kontrolle, die als Gesetzesvorschlag ja vorangetrieben wird,
Linus Neumann: wäre nicht nur die Konsequenz, dass Google die sperrt oder was auch immer macht,
Linus Neumann: sondern auch noch eine automatisierte Meldung an Polizeibehörden ergehen soll.
Linus Neumann: Und das Ganze auch bei verschlüsselten Messengers passieren soll.
Linus Neumann: Und damit hättest du eine Situation, wo du mit deinem verschlüsselten Messenger
Linus Neumann: irgendwie kommunizierst und ein Scan dieser verschlüsselten Inhalte mittels
Linus Neumann: einer KI stattfindet vor bzw.
Linus Neumann: Nach der Verschlüsselung. Also hast du eine KI-Überwachung deiner Kommunikationsinhalte
Linus Neumann: mit automatisierter Ausleitung an die Polizei.
Linus Neumann: Und das ist nun wirklich eine sehr schlechte Idee.
Linus Neumann: Vor allem, wenn man das technisch zu Ende denkt, kannst du dann sagen...
Linus Neumann: Den Messenger, da könntest du es ja auch immer noch rauspatchen.
Linus Neumann: Also angenommen, mir würde jetzt, also nehmen wir Signal als Beispiel,
Linus Neumann: einer der verbreiteteren, verschlüsselten Messenger.
Linus Neumann: Angenommen, Signal würde gezwungen, das zu tun, irgendeine KI-Überwachung da
Linus Neumann: einzubauen. Wobei, wenn ich mir den Vortrag von Udbaf und Meredith beim Kongress
Linus Neumann: anschaue, würde ich vermuten, die würden sich da wahrscheinlich nicht zuzwingen lassen.
Linus Neumann: Angenommen, sie würden es und angenommen, sie täten es, dann könntest du es ja wieder rauspatchen.
Linus Neumann: Das ist ja eine Open-Source-Software. Das heißt, was,
Linus Neumann: Die logische Konsequenz wäre, dass irgendwann auf den Plattformen,
Linus Neumann: auf den Geräten zu verankern.
Linus Neumann: Ja, dass du nämlich sagst, nee, wir wissen ja, dass Signal keine vernünftige
Linus Neumann: Überwachungs- KI in ihren verschlüsselten Messenger bauen, also bauen wir das
Linus Neumann: am Ende in iOS oder Android ein.
Linus Neumann: Eine wirklich sehr schlechte Idee,
Linus Neumann: weil sie erstens schlechte Erkennungsquoten hat und bei diesen schlechten Erkennungsquoten
Linus Neumann: Eben Unmengen an falschen Verdächtigungen und dann irgendwie automatisch an die Polizei.
Linus Neumann: Das war wirklich ein ernsthaftes Problem.
Linus Neumann: Noch dazu, die tatsächlich kriminellen Menschen, die würden ja auch um so etwas
Linus Neumann: wissen, das heißt die weichen natürlich sehr schnell aus auf Systeme,
Linus Neumann: wo sie dieser Überwachung entgehen würden,
Linus Neumann: beispielsweise einfach ordentliche, Ende zu Ende verschlüsselte Systeme, wie wir sie jetzt haben.
Linus Neumann: Also wieder eine Massenüberwachung, die genau die Menschen trifft und nicht die Kriminellen.
Linus Neumann: Wie jede Massenüberwachung eigentlich nur dazu geeignet ist,
Linus Neumann: die Kriminellen dahin zu lenken, sich vor ihr zu schützen,
Linus Neumann: während die unbescholtenen Bürger ja nichts zu verbergen haben und dann dieser
Linus Neumann: massenhaften Überwachung ausgesetzt sind.
Linus Neumann: Ja, war schön.
Tim Pritlove: Deswegen ist das scheiße Genau.
Linus Neumann: Aber dass sie jetzt hier diese Ausnahme Gekippt haben Das muss ich echt sagen,
Linus Neumann: das ist Überraschung Naja.
Tim Pritlove: Sie wurde ja nicht verlängert Weil sie hätte jetzt verlängert werden Müssen,
Tim Pritlove: wenn ich das richtig sehe Ja.
Linus Neumann: Die ist immer nur für ein Jahr.
Tim Pritlove: Und dazu gab es halt nicht die notwendige Mehrheit, das zu verlängern,
Tim Pritlove: Und schon haben wir eine gute Nachricht. So einfach geht das?
Tim Pritlove: Snap mit den Fingern. Zack, bumm.
Linus Neumann: Zack, schon gibt es was Gutes.
Tim Pritlove: Zack, bumm.
Linus Neumann: Da werden die Leute im Iran sich freuen, dass es auch eine gute Nachricht gibt.
Linus Neumann: Da wollten wir ja nicht drüber reden.
Tim Pritlove: Ja, also wenn wir damit anfangen, dann wird die sehr zu lang.
Linus Neumann: Wir könnten auch über Überraschungen und Atombomben mit der japanischen Premierministerin sprechen.
Tim Pritlove: Nicht mehr Trump als nötig.
Linus Neumann: Das war jetzt schon zu viel. Es gibt in diesem Bereich, also gestern kam eine,
Linus Neumann: Eilmeldung, glaube ich war das sogar.
Linus Neumann: Da ist mir echt die Spucke weggeblieben. Es gibt eine Schauspielerin mit dem
Linus Neumann: Namen Colleen Fernandez,
Linus Neumann: die seit vielen Jahren so eine der lauteren Stimmen und engagierteren Stimmen gegen Deepfake,
Linus Neumann: Pornografie ist, insbesondere unter ihrem Namen, aber das Thema auch entsprechend
Linus Neumann: politisch aktivistisch behandelt.
Linus Neumann: Deepfake Pornos, ich glaube wir haben vor einiger Zeit schon darüber gesprochen.
Linus Neumann: Deepfake kennt man, Porno hat man schon mal davon gehört.
Linus Neumann: Die beiden zusammen kann man sich vorstellen, was das ist. Das zu verbreiten von Menschen,
Linus Neumann: ist natürlich eine sehr schwere.
Linus Neumann: Erniedrigung und Entwürdigung und die hat die Coline Fernandes an unterschiedlichen
Linus Neumann: Stellen sehr häufig erfahren.
Linus Neumann: Und Ende 2025, wie jetzt bekannt wurde, hat sie dann eben Anzeige erstattet
Linus Neumann: gegen ihren inzwischen Ex-Mann Christian Ulmen, den man wahrscheinlich kennt.
Linus Neumann: Unter anderem Tatort-Kommissar und hat aber irgendwie, ich weiß nicht,
Linus Neumann: ich hab eher früher so Sachen geguckt, wie Mein neuer Freund und so,
Linus Neumann: und da hat er echt witzige Sachen gemacht, ja, aber ist ein,
Linus Neumann: denke ich, relativ bekannter,
Linus Neumann: deutscher Schauspieler, ich glaub irgendwo bei Viva oder MTV oder irgendein
Linus Neumann: Quatsch, da angefangen Viva-Moderator Viva-Moderator, ja, das hab ich immer
Linus Neumann: nicht geguckt, der hat mir Kirre gemacht der hat,
Linus Neumann: also wirklich eine völlig absurde also es kann man auch wirklich,
Linus Neumann: also es ist einfach nur krank, was der gemacht hat und also irgendwie,
Linus Neumann: Identitätsdiebstahl, der hat gefälschte Profile auf LinkedIn unter ihrem Namen
Linus Neumann: unterhalten und dann irgendwelche Leute angeschrieben und irgendwie um die 30
Linus Neumann: Online-Affären unter ihrem Namen gehabt und also wirklich,
Linus Neumann: also fürchterlich,
Linus Neumann: erstens für sie, ich will gar nicht wissen, wie das jetzt also überhaupt,
Linus Neumann: dass sowas passiert und dass du dann auch noch feststellst, dass dein Ehemann über Jahre.
Linus Neumann: Gleichzeitig auch fürchterlich, was der Mann für eine völlige Krankheit hat,
Linus Neumann: mit der der sich ja jetzt eigentlich alles ruiniert. Alles ruiniert, ne? Ähm.
Linus Neumann: Absolut, also wirklich absolut krank, ja.
Linus Neumann: Und auch wirklich nicht schön zu lesen, er war einfach nur krank.
Linus Neumann: So, warum behandeln wir das?
Linus Neumann: Weil natürlich das Thema jetzt wirklich dann durch den Spiegel,
Linus Neumann: Spiegelrecherche ordentlich seziert, recherchiert, ein bisschen,
Linus Neumann: also sag ich mal, auf dem Detailgrad, der unangenehm ist, dem aber auch notwendig.
Linus Neumann: Und Bundesjustizministerin Hubig, natürlich, was passiert,
Linus Neumann: hat dann jetzt fürs Frühjahr das digitale Gewaltschutzgesetz nochmal angekündigt,
Linus Neumann: mit dem Ziel, die Strafbarkeitslücken bei Deepfake-Pornos zu schließen und die
Linus Neumann: Accounts von den Tätern per Gericht sperrbar zu machen.
Linus Neumann: Und im Zivilverfahren bessere Auskunftsrechte zu schaffen.
Linus Neumann: Wenn man sowas High-Level formuliert, klingt das immer erstmal ganz sinnvoll,
Linus Neumann: aber ich glaube Auskunftsrechte im Zivilverfahren, da lauert auf der anderen
Linus Neumann: Seite natürlich auch wieder sofort,
Linus Neumann: der Missbrauch von oder die missbrüchliche Anwendung in anderen Verfahren.
Linus Neumann: Schauen wir mal, wie das ausformuliert wird.
Linus Neumann: Gleichzeitig glaube ich, wahrscheinlich hat sie das auch auf Twitter bekannt
Linus Neumann: gegeben, der primären Verteilplattform für Deepfake,
Linus Neumann: Pornos und so. Weiß ich nicht, ob sie das gemacht hat. Ich wollte nur darauf
Linus Neumann: hinweisen, dass eigentlich alle Politiker diese Plattform ja noch nutzen.
Linus Neumann: Ja.
Linus Neumann: Als Kontext muss man auch sagen, es werden irgendwie sehr viel weniger Deepfake-Pornos
Linus Neumann: von Männern gemacht und wenn Männer dabei sind, dann sind sie nicht in der Hauptdarsteller.
Linus Neumann: Das heißt, wir haben hier nicht nur sowieso ein ekelhaftes Phänomen,
Linus Neumann: sondern auch noch eins, was ganz klar eine sexistische Komponente auch nochmal hat.
Tim Pritlove: Ja, also vor allem auch antifeministische.
Linus Neumann: Also völlig daneben. Ich denke, das ist auch sinnvoll,
Linus Neumann: hier vernünftige gesetzliche Regelungen zu finden, die dafür angemessen hohe Strafen ermöglichen.
Linus Neumann: Man muss halt schauen die Möglichkeit Accounts zu de-anonymisieren und Auskunftsrechte
Linus Neumann: für Zivilverfahren es gibt eigentlich nur,
Linus Neumann: es gibt ein sehr bekanntes in Anführungszeichen Zivilverfahren wo Auskunftsrechte
Linus Neumann: massenhaft verwendet werden das sind Abmahnungen bei File-Sharing also ich will
Linus Neumann: nur sagen das lässt sich halt potenziell industrialisieren,
Linus Neumann: ich bin kein Jurist aber da muss man aufpassen, dass man hier vernünftige,
Linus Neumann: und zielgerichtete Regelungen findet.
Linus Neumann: Naheliegend wäre natürlich zu sagen, okay, man beschränkt das auf Deepfake-Verbreitung,
Linus Neumann: aber wir wissen auch, dass dann bei dem nächsten Gesetz dann einfach in dem
Linus Neumann: Paragrafen noch zwei, drei andere Straftatbestände hinzugefügt werden.
Linus Neumann: Aber auf jeden Fall ist auch klar, dass wir den Status quo, wie er jetzt grassiert
Linus Neumann: in den sozialen Medien, hier mit Grog, Zieh mal aus und sowas,
Linus Neumann: dass man das so auf gar keinen Fall tolerieren kann und dass da was passieren muss.
Tim Pritlove: Definitiv.
Tim Pritlove: Also insbesondere jetzt nochmal durch diese Eskalation durch die KI-Generatoren,
Tim Pritlove: die das auch wirklich echt auf elf drehen.
Tim Pritlove: Also das war vorher schon problematisch, aber mittlerweile ist es halt einfach
Tim Pritlove: durch diese niedrigen, quasi nicht vorhandenen Kosten zu einem super Problem geworden.
Tim Pritlove: Wird sich sicherlich auch nicht vollständig einfangen lassen,
Tim Pritlove: aber es ist zumindest angemessen, das dann auch entsprechend rechtlich zu verfolgen.
Linus Neumann: Wir hatten hier vor einigen Folgen auch ein bisschen über die Rolle von GROC,
Linus Neumann: dieser KI von Elon Musk, auch gesprochen,
Linus Neumann: dass ein besonderes Problem natürlich ist, dass sie das überhaupt ermöglicht.
Linus Neumann: Und dass dann die rechtliche Frage so war, dass die GROC-Leute gesagt haben, ja nee,
Linus Neumann: also wenn die Leute was Illegales machen, waren es ja immer noch die Leute,
Linus Neumann: Die haben ja ein illegales Prompt gegeben und da würde ich sagen,
Linus Neumann: will ich auf jeden Fall mal das rechtlich schon ein bisschen umkehren und sagen, nee, nee,
Linus Neumann: pass auf, also wenn du das nicht nur...
Linus Neumann: Versehentlich mal jemand schafft, deine Sperren zu umgehen, sondern du das industrialisierst,
Linus Neumann: memifizierst und dich daran erfreust, dass alle das machen,
Linus Neumann: dann bist du Täter und eventuell, also sicherlich mit einer noch höheren Schuld
Linus Neumann: beladen als die Menschen,
Linus Neumann: die diese Prompts in einem schlechten Moment vielleicht auch einfach mal nur abgesetzt haben.
Linus Neumann: Also ich spreche jetzt nicht von sowas, was Christian Ulm gemacht hat,
Linus Neumann: aber du konntest ja auch irgendwie, was weiß ich, ist ein Bild und dann sagst
Linus Neumann: du, ey, guck mal alle in Unterwäsche oder so.
Linus Neumann: Und das ist, wenn da irgendwie Donald Trump und sonst was ist,
Linus Neumann: dann ist das unter Umständen, kann das ja auch mal lustig sein.
Linus Neumann: Ja, es wird aber in der Regel nicht mit Donald Trump gemacht,
Linus Neumann: sondern mit, weiß ich nicht, linken AktivistInnen in der Regel dann oder so.
Linus Neumann: Ja, schauen wir mal, was sie sich dagegen einfallen lassen. Ich bin mir sicher,
Linus Neumann: es wird Handwerk nicht richtig gelungen sein, da müssen wir überhaupt nichts dran kritisieren.
Tim Pritlove: Also bei der Exzellenz, die die Bundesregierung bisher auf den Tisch gelegt hat, denke ich auch.
Linus Neumann: Könnte man den Kulturstaatsminister fragen, ob der nur eine gute Idee hat.
Tim Pritlove: Das ist ja auch sehr kreativ. Ich denke, da können wir auch einfach mal vier
Tim Pritlove: Wochen Pause machen. Da geht alles total supi ab.
Linus Neumann: Aber diese Story, ey Mann, die arme Frau Fernandes, ja, also was für eine unglaubliche,
Linus Neumann: was für ein Horror, absoluter Horror, also ganz, ganz,
Linus Neumann: und wenn du findest, du siehst ja dann auch die Artikel, ne,
Linus Neumann: wenn die Related, seit wie vielen Jahren die dieses Thema besetzt, ja.
Tim Pritlove: Und die Lösung ist irgendwie next door.
Linus Neumann: Next mattress. Ja.
Tim Pritlove: Ja, ja. Gut. Was macht, unter der Abteilung, was kann man mit AI eigentlich alles so machen?
Linus Neumann: Kann man auch was Vernünftiges mitmachen vielleicht?
Tim Pritlove: Nämlich hacken. Hacken geht supi.
Tim Pritlove: Da gibt es eine Bude, die heißt Codewell.
Linus Neumann: Ich würde sagen Codewell.
Tim Pritlove: Code Wall, Entschuldigung, Code Wall, sorry, nicht Code Wall.
Tim Pritlove: Vielleicht kodieren sie auch gut, aber so haben sie sich nicht genannt, Code Wall, sorry.
Tim Pritlove: Die haben sich so ein automatisiertes Hacker-Tool zusammengebaut,
Tim Pritlove: so mit den gängigen Instrumenten, die einem jetzt ja ohne weiteres zur Verfügung stellen.
Tim Pritlove: Und haben also diesen Agenten mal damit beauftragt, auch mal zu gucken,
Tim Pritlove: ob nicht im Internet irgendwie was
Tim Pritlove: zu holen ist und haben dann mal bei der Beraterfirma McKinsey angeklopft.
Tim Pritlove: Großes Unternehmen, weltweit tätig, man kennt es.
Linus Neumann: Extrem gut beleumdet, überall beliebt.
Tim Pritlove: Ja, also auf jeden Fall schon mal von gehört.
Tim Pritlove: Ja, und was hat dieses Tool dann gemacht? Dieses Tool war quasi ohne,
Tim Pritlove: also sie haben es mit nichts gepreppt.
Tim Pritlove: Sie haben es einfach mal nur so auf McKinsey angesetzt. Ich glaube,
Tim Pritlove: es gab vorher sogar noch so einen Entscheidungsdialog, wo sie so gefragt haben,
Tim Pritlove: wo könnte man denn mal anklopfen und da kam dann wohl McKinsey auch schon als
Tim Pritlove: Vorschlag bei raus, warum auch immer.
Tim Pritlove: Auf jeden Fall hat sich dann dieser AI-Agent mal genauer angeschaut,
Tim Pritlove: wie es denn so mit dieser Online-Infrastruktur aussieht, die McKinsey so meint zu haben.
Tim Pritlove: Und siehe da, die gesamte Dokumentation ihrer API, mit der sie so im Internet
Tim Pritlove: hängen, mit ihren Systemen, die war auch verfügbar.
Tim Pritlove: Hat sich die AI dann schön durchgelesen, mal durchanalysiert und festgestellt,
Tim Pritlove: okay, von den gut 200 Endpoints, die da sind, sind so gut 10% nicht durch Zugangsregeln geschützt.
Tim Pritlove: Und dann hat die AI auch gleich angefangen, sich das doch mal genauer anzuschauen
Tim Pritlove: und ist da so iterativ vorgegangen und hat sich das also mal so angeklopft und
Tim Pritlove: geschaut, was spuckt denn das System raus.
Tim Pritlove: Naja, lange Rede, kurzer Sinn, relativ schnell, also dieser ganze Prozess hat
Tim Pritlove: zwei Stunden gedauert und auf einmal war alles offen.
Tim Pritlove: SQL-Injections wurden gefunden, mit pfiffigen Tricks wurde also dieses System
Tim Pritlove: ausgehebelt und auf einmal lag alles da.
Tim Pritlove: Und was man dann offengelegt hat, war so deren Intranet, was halt nicht nur
Tim Pritlove: irgendwie eine Datenbank war, sondern selber auch ein AI-System.
Tim Pritlove: Stellt sich raus, dass sie das also auf breiter Ebene intern zum Einsatz bringen
Tim Pritlove: und dort lag dann irgendwie alles rum.
Tim Pritlove: 46,5 Millionen Chatnachrichten, insgesamt 728.000 Dateien, also auch vertrauliches Zeug dabei,
Tim Pritlove: 57.000 Nutzerkonten und mehr als noch das, also auch diese ganzen Dokumente, interne Studien,
Tim Pritlove: also sozusagen einmal alles.
Tim Pritlove: Das gesamte Wissen dieses Unternehmens, was sich in Daten abbildet,
Tim Pritlove: über AI-Chatboards zugreifbar, die also offensichtlich von allen Mitarbeitern
Tim Pritlove: auf diese Art und Weise auch mit genutzt wird.
Tim Pritlove: Und, aber dabei blieb es gar nicht mal, auch die ganzen Prompts,
Tim Pritlove: die ganzen System-Prompts, die Pre-Prompts, die in diesem System abgelegt sind,
Tim Pritlove: um dann das Verhalten dieser ganzen Chatbots, mit denen man dann agiert,
Tim Pritlove: die das bestimmen, waren halt auch offen und zwar nicht nur lesbar,
Tim Pritlove: sondern auch schreibbar.
Tim Pritlove: Mit anderen Worten, dieses System hätte nach zwei Stunden den gesamten Modus
Tim Pritlove: Operandi von McKinsey quasi umstellen können.
Tim Pritlove: Ich meine, da hätte man auch mal was Gutes tun können für die Welt.
Tim Pritlove: Ja, also vielleicht, ja nee, guck mal nicht immer nur aufs Geld,
Tim Pritlove: schau doch mal, dass da irgendwie auch sozial was da rauskommt.
Linus Neumann: Spätestens wenn McKinsey empfiehlt, mehr Leute einzustellen,
Linus Neumann: statt welche rauszuwerfen, wäre die Leute dann aber auch misstrauisch geworden.
Tim Pritlove: Da muss ein Fehler sein.
Tim Pritlove: Also das ist sozusagen also da waren halt viele klassische Fehler gemacht worden,
Tim Pritlove: aber das Kernproblem jetzt an dieser Stelle ist während es früher,
Tim Pritlove: sagen wir mal ausführliche Hacker-Skills brauchte, brauchst jetzt die zwar auch
Tim Pritlove: noch in gewisser Hinsicht, aber auch vieles davon lässt sich jetzt auch schon,
Tim Pritlove: automatisieren und wenn ich das richtig sehe,
Tim Pritlove: beflügelt von dieser Meldung, habt ihr dann auch gleich zugeschlagen Ja.
Linus Neumann: Ich will aber erst kurz noch ein bisschen, also so kurz diesen Fall einordnen.
Linus Neumann: Also, was...
Linus Neumann: Wie wird so ein Chatbot gebaut?
Linus Neumann: Die Architektur. Also du hast...
Tim Pritlove: Was ist jetzt der, der jetzt hier angegriffen hat? Oder das,
Tim Pritlove: was da innerhalb von McKinsey läuft? Oder generell?
Linus Neumann: Was, warum, du hast gesagt, da gab es eine API und dann gab es eine SQL-Injection.
Linus Neumann: Das war, also was das Ding, was du da gesehen hast, ist im Prinzip eine Web-App.
Linus Neumann: Also eine Web-Applikation, wie du sie schreibst, die die APIs bereitstellt,
Linus Neumann: die ein Front-Interface hat im Frontend für die Userin, wo dann irgendwie drin
Linus Neumann: steht, hier kannst was hintippen und wenn ich Enter drücke, dann wird das an die API geschickt. Und,
Linus Neumann: Diese, also ein Mapping zwischen, die API hat 200 Endpunkte,
Linus Neumann: das heißt in dem Fall 200 unterschiedliche Arten, wie man mit ihr interagieren kann.
Linus Neumann: Das eine ist zum Beispiel, ich bin ein neuer Nutzer und ich möchte mich anmelden
Linus Neumann: oder hier ist mein Passwort und ich bin jetzt angemeldet.
Linus Neumann: All das ist immer ein API-Endpunkt, also eine Art, wie man da hinschreiben kann
Linus Neumann: und dann ist natürlich auch so, ich habe eine authentifizierte Session und zwar
Linus Neumann: in dem Chat 3 möchte ich jetzt folgende Nachricht schicken, das ist alles immer,
Linus Neumann: ein Endpunkt, ich möchte ein Setting ändern, das ist auch ein Endpunkt,
Linus Neumann: da kannst du wahrscheinlich dann mehrere Settings angeben oder so, so ist eine API.
Linus Neumann: Konfiguriert oder strukturiert. Und jetzt gibt es natürlich an so einer API,
Linus Neumann: das war das, was du gerade sagtest, 22 waren unauthenticated,
Linus Neumann: obwohl sie es sein mussten.
Linus Neumann: Das heißt, du konntest etwas tun, wozu du eigentlich in irgendeiner Weise eine
Linus Neumann: Authentifizierung gebraucht hättest.
Linus Neumann: Angemeldete Nutzerin sein oder vielleicht sogar angemeldete Administratorin sein.
Linus Neumann: Habe ich jetzt eine Session als User? Habe ich eine Session am Backend als Admin?
Tim Pritlove: Tür ohne Schluss.
Linus Neumann: Das ist aber ein sehr, sehr häufiger Fehler bei komplexeren APIs,
Linus Neumann: dass sie nicht sauber durchchecken, dass Mapping aus der Rolle,
Linus Neumann: Authentisierung ist eine Sache, dann kommt ja auch noch Autorisierung.
Linus Neumann: Das heißt, du bist angemeldet, wunderbar, du bist der Tim, du willst jetzt hier
Linus Neumann: einen administrativen Befehl ausführen, deine Rolle erlaubt das aber nicht, weil du bist ja User.
Tim Pritlove: Das erste ist, wer bist du, das zweite ist, was darfst du.
Linus Neumann: Genau, und das passiert sehr häufig.
Linus Neumann: Also es ist eine Schwachstelle, die man häufig findet und, das ist das Entscheidende,
Linus Neumann: die hat überhaupt nichts zu tun mit der KI.
Linus Neumann: Das ist also, diese Schwachstelle ist in dem Frontend, was die gebastelt haben,
Linus Neumann: dass am Ende nämlich von der Architektur hast du dann die Web-App,
Linus Neumann: da kann man sich anmelden, da kann man was hinschicken und irgendwo gibt es
Linus Neumann: dann eben auch die so und so viel API-Endpunkte, die sagen, den Inhalt nehme
Linus Neumann: ich jetzt, gib den an ein LLM,
Linus Neumann: krieg die Antwort und gib die zurück.
Linus Neumann: Da war jetzt offenbar einer dieser Endpunkte, hatte eine SQL-Injection.
Linus Neumann: SQL-Injection, eine der wunderschönsten Schwachstellen, auch immer wieder sehr schön zu erklären.
Linus Neumann: Wenn man mit einer Datenbank spricht, dann spricht man eine bestimmte Sprache.
Linus Neumann: In diesem Fall die Structured Query Language, also eine Datenbanksprache.
Linus Neumann: SQL ist besonders schön, weil es immer so ein bisschen schlechtes Englisch eigentlich
Linus Neumann: ist Select so und so ja, so wie bei uns Select Sternchen from Bobby Drop Table.
Linus Neumann: Und jetzt das Spannende daran ist und das ist wirklich warum SQL-Schwachstellen
Linus Neumann: so schön sind um Security zu erläutern,
Linus Neumann: wenn ich jetzt zum Beispiel sage, suche in der Tabelle Nutzer nach dem Nutzer Tim. Na?
Linus Neumann: Das wäre jetzt etwas, was man im Zweifelsfall macht, wenn jemand sich als Tim anmeldet.
Linus Neumann: Dann schickt da jemand hin. Als wäre möchtest du dich anmelden? Ja, als Tim. Okay.
Linus Neumann: Suche in der Datenbank. Und dann sagt er wirklich, select User from table users where name equals Tim.
Linus Neumann: So, das Tim, das war ja jetzt aber kontrolliert von...
Linus Neumann: Von dem Angreifer oder von dem Nutzer. Was ist denn jetzt, wenn der Nutzer nicht
Linus Neumann: Tim heißt, sondern Tim-Ausführungszeichen oben, Semikolon, lösche alles.
Linus Neumann: Das wäre dann immer noch, wenn man das einfach aneinander packt,
Linus Neumann: ein für die Datenbank valider Befehl, den sie auch ausführen würde.
Linus Neumann: Und man muss also es ist offensichtlich nicht so einfach, kriegen ja die ganze
Linus Neumann: Zeit Leute nicht hin man muss immer aufpassen, dass das was man an User Generated
Linus Neumann: Input in einen anderen Kontext gibt, also an eine Datenbank,
Linus Neumann: dass das dort in irgendeiner Weise sichergestellt wird, dass nicht der wahre
Linus Neumann: Datenbankbefehl, den ich eigentlich beabsichtige,
Linus Neumann: in seinem Kontext verändert wird und da gibt es eben diesen klassischen X-Case,
Linus Neumann: die jetzt fällt mir die Nummer nicht ein, wo die Schule bei der Mutter anruft und sagt,
Linus Neumann: ja, wir wollten mal fragen, ob der Sohn denn wirklich Anführungszeichen oben
Linus Neumann: Semikolon Droptable Students heißt und oder ob er nicht vielleicht eine SQL-Injection gemacht hat.
Linus Neumann: Also quasi diese Kontextänderungen.
Linus Neumann: So funktioniert, darauf basieren relativ viele,
Linus Neumann: Schwachstellen in der IT?
Tim Pritlove: Exploits of a Mamm. 327.
Linus Neumann: 327, musst du verlinken. Und die Gegenmaßnahme ist, dass man dann eben jeweils die Charaktere,
Linus Neumann: also die, was weiß ich, Semikolon und so weiter, die eine besondere Bedeutung
Linus Neumann: in der Sprache haben, in die du gerade reinpipest, dass du aufpasst,
Linus Neumann: dass du die escapest oder sicherstellst,
Linus Neumann: dass eben nicht jemand einfach die Datenbanksprache spricht in einem Feld,
Linus Neumann: das die Datenbank auch interpretiert.
Linus Neumann: Das war hier also die zweite klassische, wirklich ganz, ganz klassische Web-App-Schwachstelle,
Linus Neumann: so aus den frühen 90ern oder so, als das erfunden wurde.
Linus Neumann: Und.
Linus Neumann: Der, insofern hat dieser Scanner von dieser Firma nur, nur in Anführungszeichen
Linus Neumann: verhältnismäßig klassische Web-Schwachstellen gefunden.
Linus Neumann: Damit ist er dann, auch das ist häufig der Fall, bei einer schlecht gehärteten
Linus Neumann: Web-App, hat er dann die Möglichkeit gehabt, also erstmal Blinddaten zu extrahieren.
Linus Neumann: Also er konnte Daten rauskriegen, aber musste halt ins Blinde stochern,
Linus Neumann: bis er eine richtige Daten zurückbekommen hat. 15 Iterationen hat er gebraucht.
Linus Neumann: Und dann konnte er eben, hat der Schreibzugriff auf Dateien in dem Web-Root
Linus Neumann: und konnte dann die Web-App selber verändern und damit eben die AI-Write-Instructions, ne?
Linus Neumann: Und damit hätte dann eben quasi äh der, die die KI auch anders antworten lassen, ne?
Linus Neumann: So irgendwie so, keine Ahnung, und Antworten übrigens immer genau das Gegenteil
Linus Neumann: von dem, was richtig ist oder so, ne? So kam.
Linus Neumann: Man durch diesen Angriff auch auf die Chat-Messages, die nämlich diese Web-App
Linus Neumann: zum Loggen irgendwo hingeschrieben hat.
Linus Neumann: Und die Dateien und Dokumente waren im Zweifelsfall Sachen, die Leute da hochgeladen haben.
Linus Neumann: Und die 57.000 User-Accounts würde ich jetzt mal aus der hohlen Hand schätzen,
Linus Neumann: ist wahrscheinlich die aktuelle Anzahl Angestellter bei McKinsey,
Linus Neumann: weil die das Ding wahrscheinlich an die Entra-ID angebunden hatten.
Linus Neumann: Jedenfalls, natürlich war das bei uns in der Firma auch Thema,
Linus Neumann: ja, und dann sagte unser CEO so, ja, der war früher bei McKinsey,
Linus Neumann: sagte, ja, hier, sowas sollten wir auch mal machen, ja, und dann hat René,
Linus Neumann: mein Kollege, gesagt, achso, ja, okay, wenn, dann mach ich das jetzt halt, ne, und hat, ähm,
Linus Neumann: sich von einer anderen großen Firma.
Linus Neumann: Den Chatbot angeschaut und da gibt's wieder eine sehr ähnliche Geschichte,
Linus Neumann: ein öffentliches JavaScript-Asset, in dem die URL für das Backend drin stand.
Linus Neumann: Also in dem JavaScript-Asset erkennst du, ah, alles klar, hier,
Linus Neumann: da ist die Backend-API, du musst sie erstmal finden.
Linus Neumann: Da konntest du dann dazu führen, dass du eine, wenn du einen nicht authentifizierten
Linus Neumann: Get-Request gemacht hast, kam die Debug-Error-Page.
Linus Neumann: Also die Web-App lief im Debug-Modus. Was man auch nicht tun soll,
Linus Neumann: aber auch ein sehr klassischer Fehler,
Linus Neumann: weil in dem Debug-Modus gibt die Web-App bei einem Fehler, in diesem Fall,
Linus Neumann: du verstößt ja dagegen, sagst, hier ist ein unauthenticated Get-Request.
Linus Neumann: Und dann kriegst du aber die Debug-Error-Page, die einfach den kompletten State
Linus Neumann: und alles droppt, in dem die App sich gerade befindet, damit die Programmiererin
Linus Neumann: herausfinden kann, wo er halt gelegen.
Linus Neumann: Und das hat die Web-App, die Debug-Page hat alle Environment-Variablen mit ausgegeben,
Linus Neumann: weil an jeder davon kann es ja liegen.
Linus Neumann: Und zu den Environment-Variablen gehörte Username Admin und Passwort Admin at 123.
Tim Pritlove: Oh Gott, nein.
Linus Neumann: Du hättest jetzt noch nicht mal, du hättest jetzt noch nicht mal Hätten.
Tim Pritlove: Sie nicht Bonobo.
Linus Neumann: 2342 Ja, das hätte man natürlich erkannt, okay.
Tim Pritlove: Das war wirklich Anfänger.
Linus Neumann: Du hättest tatsächlich in der Wikipedia-Liste der am häufigsten verwendeten
Linus Neumann: Passwörter, das ist 19, ja, du hättest dir den ganzen Ärger gar nicht machen
Linus Neumann: müssen, René, also René Rehme.
Linus Neumann: So, dann konnte er natürlich, jetzt gehst du einfach hin und sagst,
Linus Neumann: alles klar, jetzt bin ich Admin, kannst dich an das Admin-Panel anmelden,
Linus Neumann: eine ganz normale Standard-Jungo-App Admin Panel.
Linus Neumann: Dann hat das Ding aber auch gelockt,
Linus Neumann: die OAuth-Tokens von den Authentifizierungen.
Linus Neumann: Also wenn jemand da hingeht und sagt, hallo, ich bin so und so at,
Linus Neumann: nicht McKinsey, sondern andere Firma.
Tim Pritlove: Die zwischenzeitlich ausgegebenen Passierscheine.
Linus Neumann: Genau. Und mit denen konntest du dich wiederum dann, weil die von einem Entra-ID kamen,
Linus Neumann: mit denen konntest du dich dann wiederum an dem Microsoft Graph anmelden und
Linus Neumann: die anderen das Entra-ID querien, in dem Fall 3,2 Millionen User-Accounts. Ein bisschen mehr.
Tim Pritlove: Okay.
Linus Neumann: Ein bisschen mehr als bei McKinsey.
Linus Neumann: Und also diese ganzen, also alle Chat-Logs und alle Dateien und auch die Pre-Promts,
Linus Neumann: das liegt halt in dieser Web-App drin. Wo soll es auch sonst liegen?
Linus Neumann: Also wirklich sehr parallel. Diesmal halt nur von einem Menschen gemacht.
Linus Neumann: Ich weiß nicht genau, wie lange René gebraucht hat.
Linus Neumann: Üblicherweise braucht der nicht lange. Er hat dann noch mit Nina,
Linus Neumann: also im gleichen Team, dann diesen Kram gemacht, an dem Entra-ID rumgetrommelt,
Linus Neumann: um da die User-Accounts rauszuholen.
Linus Neumann: Und dann haben Matthias, also Kantorkel und ich noch einen kleinen Blogpost
Linus Neumann: dazu geschrieben und vor allem die Responsible Disclosure gemacht.
Tim Pritlove: Also Bescheid gesagt.
Linus Neumann: Wir haben dann doch Bescheid gesagt, ja. Also ich kannte jemanden bei der Firma
Linus Neumann: und hab dann gesagt so, hast du mal Zeit?
Linus Neumann: Und dann, ja, morgen hab ich Zeit, da hab ich angerufen und dann wurde ich weggedrückt
Linus Neumann: und dann hab ich so gesagt, ey, hast du mal Zeit?
Linus Neumann: Wir müssen über diesen McKinsey-Chatbot reden. Im weitesten Sinne.
Linus Neumann: Und dann war das dann relativ schnell gefixt.
Linus Neumann: So, was das andere Thema hier ist, ähm,
Linus Neumann: Also wir haben, genau, erstmal, warum passiert das? Na klar,
Linus Neumann: da werden hastig irgendwelche Web-Apps gestrickt, damit man KI hat.
Linus Neumann: Und die Aufmerksamkeit, was man dann absichert, die ist natürlich bei der KI.
Linus Neumann: Und nicht, wir machen irgendwie eine scheiß Web-App, wir haben ja schon 100.000
Linus Neumann: Web-Apps gemacht, die coden wir einfach schnell runter.
Linus Neumann: Aber es ist eben wirklich nicht, also jetzt komme ich wieder auf den Fall von McKinsey,
Linus Neumann: wenn die App erstmal oder wenn die API erstmal genug Verzweigungen hat,
Linus Neumann: dann kommst du relativ schnell an den Punkt….
Linus Neumann: Dass du nicht mehr die ganze Zeit kontrollierst, ob du an dem Request,
Linus Neumann: der jetzt gerade kommt, ob alle Vorbedingungen auch wirklich erfüllt sind.
Linus Neumann: Also, ist der Nutzer authentifiziert? Ist der Nutzer autorisiert?
Linus Neumann: Ergibt sich das aus dem Kontext? Hat der mir alle Informationen gegeben,
Linus Neumann: die ich erzwingen muss, damit er das jetzt überhaupt darf? und so.
Linus Neumann: Diese Fehler passieren wirklich am laufenden Band und deswegen ist,
Linus Neumann: sag ich mal, ein Browser mit einer Burp Suite auch so ein Gift that keeps on giving.
Linus Neumann: Also im Prinzip ein Tool, was dafür gedacht ist, sehr gezielt in den Traffic
Linus Neumann: zu schauen, in die APN-Punkte, in das, was da geschickt wird.
Linus Neumann: Dann kannst du so, weiß nicht, wenn irgendwas Base64 ist, kannst du direkt sagen,
Linus Neumann: in die, encode das mal und vor allem kannst du Requests wiederholt schicken
Linus Neumann: oder da so ein bisschen durchproben.
Linus Neumann: Ja, ein Tool, was genau solche, es gibt eine API, die ich nicht kenne,
Linus Neumann: ich klimper da jetzt mal durch und ich versuch mal dieses und jenes,
Linus Neumann: ich automatisiere das durch, iteriere das mal und ach, zack, SQL Injection.
Linus Neumann: Also, dass eine KI das hinbekommt, ist erstmal nicht extrem überraschend,
Linus Neumann: weil es sehr alte, klassische 90er-Jahre-Schwachstellen sind,
Linus Neumann: aber in einem, eben in einer komplett neuen Web-App.
Linus Neumann: Also will man jetzt auch nicht schlecht reden und zwei Stunden ist auf jeden
Linus Neumann: Fall auch eine sehr stabile Zeit.
Tim Pritlove: Im Sinne von gut. Schnell.
Linus Neumann: Das ist schon relativ schnell, ja. Aber wenn man nach dieser Sache gezielt sucht,
Linus Neumann: dann braucht man vielleicht auch nicht viel länger mit einer ganz guten Toolchain
Linus Neumann: und ein bisschen Erfahrung.
Linus Neumann: Aber trotzdem ist es natürlich spannend, dass das Ding das getan hat.
Linus Neumann: Oder dass das Ding das geschafft hat.
Linus Neumann: Der nächste Punkt war natürlich, die AI, also das Modell oder die Modellee dahinter
Linus Neumann: hat Zugriff auf alle Daten.
Linus Neumann: Auch das ist,
Linus Neumann: jetzt eigentlich so ein Security-Architecture-Paradigmen-Wechsel,
Linus Neumann: der da eigentlich gerade stattfindet.
Linus Neumann: Früher würdest du sagen, hier gibt es die Web-App.
Linus Neumann: Die Web-App prüft die Autorisierung der Nutzerin und führt dann die Aktion durch.
Linus Neumann: Nehmen wir ein einfaches, ich nehme jetzt WordPress mal als Beispiel,
Linus Neumann: weil ja Logbuch Netzpolitik auch auf WordPress gehostet ist.
Linus Neumann: Das WordPress selber hat auch nur eine Datenbank User Credential.
Linus Neumann: Das heißt, das WordPress selber kann jederzeit alles löschen.
Linus Neumann: Das heißt, die Prüfung von Authentisierung und Autorisierung findet in der PHP-Logik
Linus Neumann: von dem WordPress statt.
Linus Neumann: Und wenn man da jetzt als, was weiß ich, als Visitor ist oder als User oder
Linus Neumann: als Admin oder die unterschiedlichen Rollen, das macht alles das WordPress.
Linus Neumann: Und wenn irgendetwas da falsch ist und du irgendwo in dem WordPress Frontend
Linus Neumann: beispielsweise einen Fehler hast und eine SQL-Ejection ermöglichst,
Linus Neumann: dann wird das sofort mit dem höchst privilegierten User üblicherweise in dem
Linus Neumann: WordPress-Kontext mindestens.
Linus Neumann: Also du hast Zugriff auf das komplette WordPress.
Linus Neumann: Oder wenn du halt das schlechte, das falsche Tutorial auf Stack Overflow gelesen
Linus Neumann: hast, eben mit Root gemacht.
Linus Neumann: Und wenn der User in der Datenbank wiederum nicht ordentlich beschnitten ist,
Linus Neumann: dann kann der potenziell auch Code exekuten.
Linus Neumann: Also auch hier hast du im Prinzip das WordPress hat zu viele Rechte je nachdem
Linus Neumann: in welchem Kontext du dich in dem WordPress befindest und wenn das seine Authentisierung
Linus Neumann: und Autorisierung nicht ordentlich macht dann hat es eben zu viel Zugriff diesen,
Linus Neumann: Setup oder dieser Grundgedanke wird jetzt auch bei den KIs wiederholt dass man
Linus Neumann: der KI nämlich sagt naja okay natürlich kriegst du alle Daten.
Linus Neumann: Wäre ja auch viel zu anstrengend, die nicht zu geben. Aber pass mal bitte auf,
Linus Neumann: hier sind Daten, da schreiben wir dir jetzt eine Regel, das darfst du den Leuten nicht sagen.
Linus Neumann: Und dann versucht man in der KI in irgendeiner Weise das Rollenkonzept umzusetzen
Linus Neumann: und hofft, dass sie sich dran hält.
Tim Pritlove: Wo man sich nicht so richtig drauf verlassen kann.
Linus Neumann: Das geht natürlich regelmäßig schief, weil die Grundanforderung dafür eigentlich
Linus Neumann: ist, dass du die Daten die die KI da so zugreift, vernünftig labelst.
Linus Neumann: Und dann könnte, dann wäre es zumindest theoretisch möglich,
Linus Neumann: dass die KI sagt, ja okay, das darf der, das ist eine Information,
Linus Neumann: die ist für diesen Nutzer, der jetzt da gerade zugreift, nicht geeignet. Ja?
Linus Neumann: Aber jetzt stell dir mal vor, du lässt so ein Ding, und das macht ja zum Beispiel
Linus Neumann: Microsoft Copilot, wir hatten das hier über, vor, weiß nicht,
Linus Neumann: wahrscheinlich ein paar Monaten mal besprochen.
Linus Neumann: Wenn du jetzt so ein Microsoft Copilot anmachst, dann nehmen die ihr LLM und
Linus Neumann: lassen das einmal den Sharepoint lesen.
Linus Neumann: Und wenn du dann sagst, ich brauche mal Dateien, in denen dieses oder jenes
Linus Neumann: drinsteht oder so, dann sagt er dir, hier sind die Dateien.
Linus Neumann: Du kannst aber auch einfach sagen, hör mal, wie waren denn einfach die Zahlen im letzten Quartal?
Linus Neumann: Und dann kriegst du potenziell eben auch eine Antwort, wenn sich nicht vorher
Linus Neumann: die Mühe gemacht wurde, diese Daten zu labeln.
Linus Neumann: Jetzt hast du aber natürlich insbesondere in Dateien hast du ja potenziell,
Linus Neumann: wenn jetzt ein Word-Dokument ist, 20 Seiten, dann ist da potenziell,
Linus Neumann: das ganze Dokument ist relativ irrelevant und ein kleines Faktum da drin ist ein Problem.
Linus Neumann: Oder willst du geheim halten? Dein LLM weiß das aber.
Linus Neumann: Und wenn du jetzt die Daten nicht so gegeben hast, dass das LLM das nicht,
Linus Neumann: dass es weiß, dass es das gibt und aber außerdem immer auch präsent hat,
Linus Neumann: das darf ich jemand anders nicht sagen.
Linus Neumann: Und ich kann nicht sagen, Ich kann nicht sagen, dass ich da bisher schon eine
Linus Neumann: architektonisch überzeugende Lösung gefunden habe, wo ich sage,
Linus Neumann: das ist langfristig tragfähig.
Linus Neumann: So.
Linus Neumann: Und ich diskutiere über solche Architekturen öfter mal mit Leuten,
Linus Neumann: wo auch jemand sagte, ich glaube das habe ich dir vielleicht sogar schon mal
Linus Neumann: erzählt, der sagte ja auch so, wir machen jetzt hier KI und Pipapo und alle
Linus Neumann: Daten Lake und alles Modelle davor und so.
Linus Neumann: Und ich hab gesagt, ey, Junge, du hast deine Karriere da mitverbracht,
Linus Neumann: dieses Unternehmen zu segregieren, Nutzerrechte und alles zu machen.
Linus Neumann: Firewalls, hier, da und so. Und jetzt geht ihr hin und kippt alles auf einen
Linus Neumann: Haufen und haut eine nicht-deterministische KI davor.
Linus Neumann: Klingt erstmal.
Linus Neumann: Ungewöhnlich. Ungewöhnliche Situation.
Linus Neumann: Und die Antwort war, Ja, ist richtig, aber das alte Konzept,
Linus Neumann: alles zu segregieren und authentifizieren und so rollenbasiert und so weiter,
Linus Neumann: hat ja auch nicht funktioniert.
Linus Neumann: Insofern, jetzt hat man wenigstens eine zentrale Stelle, an der man Authentisierung,
Linus Neumann: Autorisierung prüfen und auch zentral nachschärfen kann und an der man an einer
Linus Neumann: Stelle kontrollieren kann.
Linus Neumann: Du hast einen architektonischen Vorteil, dass sich deine Kontrollen nicht dezentral
Linus Neumann: über irgendwelche Requests in einem Netzwerk bewegen, aber die Komplexität von Zugriffsrechten,
Linus Neumann: Zugriffen und Rollen.
Linus Neumann: Wird unglaublich schnell so kompliziert, dass du da am laufenden Band Probleme hast.
Linus Neumann: Und das Beispiel, was wir hier haben, ist ja nur eine Web-App.
Linus Neumann: Da hast du ja wenigstens noch einen endlichen, also eine endliche Anzahl von
Linus Neumann: Regeln, die du prüfst in einer gegebenen Situation.
Linus Neumann: Und da kriegst du schon nicht hin, wo es ein formal endlicher,
Linus Neumann: also zumindest theoretisch endliche Menge an Regeln ist, die in unterschiedlichen
Linus Neumann: Kontexten zum Tragen kommen.
Linus Neumann: Also die gesamte Web-App ist ja immer noch deterministisch.
Linus Neumann: So, jetzt hast du aber eine KI und du weißt ja gar nicht, in was für Kontexte
Linus Neumann: und Zustände Leute die bringen,
Linus Neumann: wo du jetzt sagst, okay, ein Nutzer vom Stande der normalen Mitarbeiterinnen
Linus Neumann: darf niemals die Quartalszahlen sehen.
Linus Neumann: Und du hast aber relativ schnell eine, dass du sagst, wenn das Haus brennt,
Linus Neumann: muss der Nutzer hier raus oder so.
Linus Neumann: Dass du sehr schnell in Situationen kommst, wo du den Kontext nicht mehr vollständig überblicken kannst.
Linus Neumann: Und es ist wirklich eine große Herausforderung, die ich glaube,
Linus Neumann: die wirklich, weil ja erkennbar nun die Zeiten vorbei sind,
Linus Neumann: dass wir Programme schreiben und das ist gerade alles vorbei,
Linus Neumann: das sind hier die Beispiele.
Linus Neumann: Dass die Leute bei McKinsey hingehen und sagen, was kostet das hier,
Linus Neumann: zack, alles kippt drauf, zack, bumm, machst eine Django-App davor oder was und dann gib ihm.
Linus Neumann: Das findet gerade überall auf der Welt statt. Und tatsächlich glaube ich,
Linus Neumann: dass jetzt wirklich IT-Sicherheit und Security.
Linus Neumann: Safety, Qualitätskontrolle, all das, das muss jetzt noch sich entwickeln,
Linus Neumann: was die brauchbaren Controls, in diesen Situationen sind.
Linus Neumann: Ich glaube, dass die Lösung sein wird,
Linus Neumann: dass du wiederum zwischen das, was die KI macht und die Daten im Prinzip wieder
Linus Neumann: irgendwelche Controls machst,
Linus Neumann: APIs, auf denen du monitorst und guckst, okay, was haben wir am einen Ende,
Linus Neumann: was macht die gerade, Darf die das überhaupt? Ergibt sich das gerade aus dem Kontext?
Linus Neumann: Aber eine belastbare Implementierung, die universell funktionieren kann,
Linus Neumann: wie man das immer noch gerade zumindest theoretisch hinkriegt mit deterministischen
Linus Neumann: Systemen, wo es ja auch schon nicht klappt.
Linus Neumann: Und das sehe ich jetzt für nicht-deterministische AIs umso weniger.
Linus Neumann: Also ich glaube, die Lösung wird sein, A, B.
Linus Neumann: Dem Ding APIs zu geben, auf denen man irgendwie kontrolliert Regeln auf den
Linus Neumann: Informationsfluss wieder setzen kann.
Linus Neumann: Und andererseits KIs zu nehmen, die nicht zu klug sind für ihre Aufgabe.
Linus Neumann: Das war ja hier dieses Beispiel mit dem, was wir hier vor einiger Zeit auch
Linus Neumann: besprochen hatten, dieses Anthropic-Experiment, wo die Automaten betrieben hat.
Linus Neumann: Und wo der dann auf einmal einen Controller bekommen hat und dann haben die
Linus Neumann: sich nachts über transzendentale Philosophie unterhalten. Super.
Tim Pritlove: Was machst du am Watercooler?
Tim Pritlove: Das ist wie im richtigen Leben, Linus.
Linus Neumann: Aber das sind auch genau die gefährlichen Leute.
Tim Pritlove: Ja. man muss auch sehen, was dieses McKinsey-Beispiel betrifft, was ich jetzt.
Linus Neumann: Ich lege Wert auf die Festlegung, dass die beiden Beispiele sehr ähnlich sind.
Tim Pritlove: Ja, ja, aber jetzt, also ja, okay, gut, wie auch immer, also unabhängig davon, wer es ist,
Tim Pritlove: also auf der einen Seite kann man feststellen, es gibt jetzt einen großen Run
Tim Pritlove: auf Adoption dieser Systeme, weil sie natürlich einen offensichtlichen Nutzen haben.
Tim Pritlove: Und was Security betrifft, haben wir immer dieses Problem,
Tim Pritlove: Security ist irgendwie anstrengend, weil es macht die Sachen dann unkomfortabel
Tim Pritlove: im Zugriff und alle wollen immer komfortabel im Zugriff haben und das hat immer
Tim Pritlove: dazu geführt, dass Passwörter einfach waren oder eben umgangen wurden oder man
Tim Pritlove: dachte, das passt schon irgendwie.
Tim Pritlove: Das ist immer dieses Race zwischen Convenience und Security.
Tim Pritlove: Und jetzt haben wir halt diesen Run auf diese AI-Systeme, die so verheißungsvoll
Tim Pritlove: sind und das ist ja so nützlich und in gewisser Hinsicht sind wir in dieser
Tim Pritlove: ganzen Adoptionsphase, die jetzt unvermeidbar ist, im Mittelalter angekommen.
Tim Pritlove: Und man haut jetzt erstmal alles zusammen und ach guck mal, läuft schon, super.
Tim Pritlove: Und die offensichtlich erforderlichen Mitigationen dieser Security-Probleme,
Tim Pritlove: die halt also ein sehr viel mehr so ein Schichtenmodell erfordert,
Tim Pritlove: wo sich immer wieder KI mit so einem deterministischen System abwechseln muss,
Tim Pritlove: das sind Architekturen, die müssen sich jetzt erst herausbilden.
Tim Pritlove: Und da brauchst du auch noch Erfahrungen, da brauchst du auch noch neue Software,
Tim Pritlove: neue Erkenntnisse und vor allem auch Einsichten bei diesem Unternehmen.
Tim Pritlove: Die Unternehmen sollten aber auch vor allem bedenken, das gilt ja jetzt nicht
Tim Pritlove: nur für so große Unternehmen, sondern auch für kleinere Unternehmen,
Tim Pritlove: die das vielleicht jetzt genauso als Chance sehen, was es ja auch sein kann.
Tim Pritlove: Dass umso mehr man eben auf diesen Haufen kippt und umso mehr man da reinwirft.
Tim Pritlove: Bisher sind so Datenbanken verloren gegangen, die Kunden waren weg oder die
Tim Pritlove: Auftragsliste oder sowas und das ist alles schon ganz schön schlimm.
Tim Pritlove: Aber was ja McKinsey und all diese Unternehmen, die jetzt ihr ganzes Firmenwissen
Tim Pritlove: da reinkippen, auch noch mit rausgeben, ist, dass sie auch noch ihren kompletten Modus operandi,
Tim Pritlove: auch ihre Einstellung und ihre Ziele und ihre Methoden und sogar auch noch ihre
Tim Pritlove: ganzen geheimen Arten und Weisen, wie sie vorgehen,
Tim Pritlove: ihre ganzen Konspirationen auch noch gleich dem Netz überantworten und auslesbar machen.
Tim Pritlove: Also Maschinenlesbarkeit bekommt auf einmal nochmal eine ganz andere Dimension,
Tim Pritlove: weil die Maschinen es nicht nur lesen können, sondern dass diese Maschinen auch
Tim Pritlove: noch sehr viel mehr aus diesen Informationen herauslesen können,
Tim Pritlove: als es früher war und das macht die Sache natürlich noch dringender,
Tim Pritlove: dass man hier fünfmal darüber nachdenkt, wie man seine Security-Architektur gestaltet.
Linus Neumann: Man muss gerade kurz zwei Dinge noch eben trennen.
Linus Neumann: Und diese Hacks, das ist ja das, also das ist das, sag ich mal,
Linus Neumann: auf der Meta-Ebene Interessante daran, die haben überhaupt nichts mit der AI zu tun.
Linus Neumann: Das ist das Erste. Das heißt, wir bauen was Neues und machen immer noch die
Linus Neumann: Fehler aus den Neuen zu haben.
Tim Pritlove: Also nicht mit deren AI, aber schon mit den Tools, die jetzt in der Lage sind,
Tim Pritlove: schneller herauszufinden.
Linus Neumann: Ja, also das finde ich, muss ich wirklich sagen, das finde ich noch nicht so,
Linus Neumann: noch nicht ganz so beeindruckend.
Linus Neumann: Das sind wirklich Dinge, die sind...
Tim Pritlove: Du findest das nicht so beeindruckend, aber ich glaube, das ist schon ganz schön beeindruckend.
Linus Neumann: Ja, das mag sein, dass es für jemanden, der es nicht selber kann,
Linus Neumann: ist es immer beeindruckend.
Linus Neumann: Aber diese... Würdest du... unter der Annahme, dass die KI irgendwann mal ein
Linus Neumann: Buch über IT-Security gelesen hat, in ihrer mehrmonatigen Trainingsphase, wo irgendwie so ein,
Linus Neumann: paar Boote in dieser Meerstraße von Honduras oder wo,
Linus Neumann: verbrannt wurden.
Tim Pritlove: Hommus.
Linus Neumann: Ja. Ich wollte ja nur mal hier wieder meine geografische, mit meiner geografischen
Linus Neumann: Unkenntnis kokettieren.
Linus Neumann: Unter der Annahme, dass sie jemals gelesen hat, was häufige Fehler sind,
Linus Neumann: finde ich es jetzt nicht überraschend, dass sie, wenn sie mit einer API,
Linus Neumann: konfrontiert ist und vor allem die vollständige API-Dokumentation kriegt,
Linus Neumann: dass sie die systematisch durchklimpert.
Linus Neumann: Es ist auch nicht überraschend, dass sie SQL-Injections versucht,
Linus Neumann: Schön, ich würde jetzt vermuten, beeindruckend ist sicherlich,
Linus Neumann: dass sie das wahrscheinlich auch nur bei den Endpunkten gemacht hat,
Linus Neumann: wo die Vermutung nahe liegt, dass das überhaupt etwas ist, was in Richtung einer Datenbank geht.
Linus Neumann: Das wäre so die erste Sache und an der kurzen Zeit sieht man schon,
Linus Neumann: dass sie es im Zweifelsfall auch gemacht hat.
Linus Neumann: Ähm aber das Niveau also,
Linus Neumann: weißt du, es ist noch nicht das Level von hier, das Ding hat als Großmeister.
Linus Neumann: Im Go auf einmal Züge gemacht, die keiner kannte und die völlig irrsinnig erschienen,
Linus Neumann: aber dann am Ende gewonnen weil, das Level ist es noch nicht.
Tim Pritlove: Aber ich glaub, so weit sind wir da auch nicht von entfernt also das kommt,
Tim Pritlove: glaub ich noch alles in dieser Dekade.
Linus Neumann: Der andere Aspekt, das war das zweite, was du gerade sagtest,
Linus Neumann: jetzt kippen die alle ihre Daten da rein,
Linus Neumann: es würde mich wundern, wenn diese KI, die da am, wo diese Web-App am Ende hingepipt
Linus Neumann: hat, jetzt irgendwie, was weiß ich, beim McKinsey-KI war.
Linus Neumann: Das war wahrscheinlich, also war doch dann wahrscheinlich entweder irgendwas
Linus Neumann: von Google Gemini, von OpenAI oder von Anthropic, würde ich jetzt mal...
Tim Pritlove: Gehostet das System meinst du?
Linus Neumann: Ja, also wäre jetzt meine Erwartung.
Linus Neumann: Und dann wird ja dieser Aspekt, den du gerade nanntest mit dem,
Linus Neumann: wir müssen jetzt noch die Architekturen dafür finden, alles richtig,
Linus Neumann: Während wir an den gelösten Problemen von vor 20, 30 Jahren scheitern.
Linus Neumann: Das würde ich da nur noch kurz hinzufügen.
Tim Pritlove: Es bleibt unterhaltsam auf jeden Fall.
Linus Neumann: Achso, hier muss ich noch sagen, wir haben ja unter unserem Blogpost noch geschrieben,
Linus Neumann: wer Lust hat, in einem solchen Team zu arbeiten, kann ja gerne mal sich bei uns melden.
Tim Pritlove: Ich dachte, man wird da jetzt auch von der KI dann abgelöst demnächst.
Linus Neumann: Also kann ich mich jetzt nicht zu äußern, die hören ja vielleicht zu.
Linus Neumann: Also,
Linus Neumann: glaube ich, ist jetzt kein Geheimnis, dass dieser KI, diese KI-Entwicklung natürlich
Linus Neumann: im Bereich der IT und auch der IT-Security.
Linus Neumann: Klar, dieses Beispiel, das Ding macht da in zwei Stunden so eine Web-App auf.
Linus Neumann: Als Vergleich würde ich schon denken, dass man an sowas am Ende dann doch eine
Linus Neumann: Woche Pentester gehabt hätte.
Linus Neumann: Und das ist natürlich schon die Dimensionen, die zeitlichen Dimensionen sind
Linus Neumann: ja hier das entscheidende.
Linus Neumann: Also in zwei Stunden macht ein Mensch das mit hoher Qualifikation und sehr viel Glück.
Linus Neumann: Und ich denke, eine realistische Zeit für das wäre wahrscheinlich irgendwo zwischen
Linus Neumann: mit hoher Qualifikation und Glück einen Tag dieses Ergebnis zu liefern.
Linus Neumann: Nach einer Woche oder fünf Tagen würde ich sowas erwarten, dass solche Schwachstellen
Linus Neumann: gefunden werden von einer qualifizierten Person.
Linus Neumann: Aber dann kann man sich natürlich auch noch vorstellen, wie so eine KI halt
Linus Neumann: auch noch den Bericht schreibt innerhalb dieser zwei Stunden in drei Sekunden
Linus Neumann: oder so. Oder vielleicht 40.
Linus Neumann: Das heißt, da ist natürlich im Security-Bereich gerade durchaus...
Linus Neumann: Zeiten des Umbruchs.
Linus Neumann: Gleichermaßen, wenn du am Ende
Linus Neumann: noch nicht mal dazu kommst, dich mit den schönen neuen KI, Architektur,
Linus Neumann: rechte Modellen, Schwachstellen auseinanderzusetzen, weil du schon am Anfang
Linus Neumann: über Admin 1.123 stolperst und über SQL Injections und schlecht,
Linus Neumann: durchdachte API-Authentifizierung,
Linus Neumann: dann bleibt auf jeden Fall noch ein bisschen Zeit.
Tim Pritlove: So, was kann man denn noch mit KI Schönes machen?
Linus Neumann: Muss mal gucken, was man mit KI machen kann. Ich hatte hier schon die Shownotes zu, weil ich sonst...
Tim Pritlove: Überwachen kann man damit, super.
Linus Neumann: Ja, auf jeden Fall, können wir machen, kein Problem. Zum Beispiel in Berlin.
Tim Pritlove: Ja, das ist doch naheliegend, im wahrsten Sinne des Wortes.
Linus Neumann: Berlin ist ja in den Händen der,
Linus Neumann: CDU.
Tim Pritlove: Und SPD.
Linus Neumann: Ach ja, die sind ja immer noch dabei.
Linus Neumann: Ja, also wir kriegen jetzt die Novelle des Berliner Polizeigesetzes wurde verabschiedet.
Linus Neumann: Wir haben jetzt Verhaltensscanner, Gesichtserkennung, Datenanalyse,
Linus Neumann: so pallant hier alles auf einen Haufen, wie bei McKinsey.
Linus Neumann: Staatsruhjahre machen sie auch.
Linus Neumann: Und haben jetzt auch ausgeschrieben, sie wollen eine Software für KI-Videoschutz.
Linus Neumann: Haben sie ausgeschrieben.
Tim Pritlove: Wer soll da geschützt werden?
Linus Neumann: Der öffentliche Raum.
Tim Pritlove: Ah.
Linus Neumann: Das ist dann so wie in Hamburg gibt es das ja schon länger und es gibt jetzt wenn ich das richtig,
Linus Neumann: in Erinnerung habe, schon noch in diesem Jahr werden dann,
Linus Neumann: erste KI unterstützte Videosysteme an den,
Linus Neumann: ich glaube am Alex oder Cottbusser Tor oder sowas an den Hotspots der Kriminalität,
Linus Neumann: Ja, Cottbusser Tor, ganz schlimm.
Linus Neumann: Wobei da würde ich sagen, also bei den meisten Leuten am Kotti,
Linus Neumann: wenn ich mich bedroht fühlen würde, würde ich einfach weggehen.
Linus Neumann: Schaffen die nicht, mich anzuholen.
Linus Neumann: Na, kommt drauf an.
Tim Pritlove: Ja, also das ist auf jeden Fall hochproblematisch.
Linus Neumann: Das sprießt jetzt überall aus dem Boden. Frankfurt hat bei mobiler Gesichtserkennung
Linus Neumann: Razzia im Bahnhofsviertel mit 200 Beamten,
Linus Neumann: haben sie eine Foto-App zur Personenidentifikation in Echtzeit verwendet.
Linus Neumann: 414 Menschen mit einer Gesichts-App irgendwie untersucht.
Linus Neumann: Und,
Linus Neumann: dann Auf was? Also die haben glaube ich nach einer Person gesucht.
Linus Neumann: Also die haben nach einem Menschen gesucht und die haben aber dann auch die
Linus Neumann: Personen, die da waren, einfach gesagt, wer sie sind, quasi um sich nicht immer
Linus Neumann: einen Ausweis zeigen zu lassen.
Linus Neumann: Gesichtserkennung, zack, bumm. Hier, wie hieß die,
Linus Neumann: Wie hieß die Raff-Terroristin?
Tim Pritlove: Daniela Klette.
Linus Neumann: Ja, genau. Quasi dieses, wer ist diese Person? Ah ja, okay, zack, bumm.
Linus Neumann: Und, ähm, also das, so ich meine, Gesichtserkennung ist das eine Ding, ne?
Linus Neumann: Und das ist ja heute schon, sag ich mal, offener ist nur noch eine Frage des,
Linus Neumann: wie viel Ressourcen und Geld nimmst du in die Hand, wenn du beispielsweise jetzt
Linus Neumann: einen öffentlichen Raum überwachst, einfach jedes Gesicht da drin automatisch zu erkennen, ne?
Linus Neumann: Das ist jetzt keine Herausforderung.
Linus Neumann: Und was sie auch haben, ist dann Verhaltensüberwachung. Da verhält sich aber jemand komisch.
Linus Neumann: Der braucht ja ein bisschen länger, um sein Fahrrad aufzuschließen oder sonst was.
Linus Neumann: Und in Kombinationen bist du dann eben bei den Sachen, die eigentlich immer
Linus Neumann: so im öffentlich-rechtlichen Nachtprogramm sind. In China, schaut ihr das an,
Linus Neumann: die komplette verdattete Überwachung.
Linus Neumann: Und da wird jetzt gerade das solide polizeigesetzliche Fundament für gelegt.
Tim Pritlove: Also ich meine, die ganzen Überwachungsfantasien waren ja schon immer da.
Tim Pritlove: Schon in den 80er Jahren ging das ja los nach dieser Terrorzeit der 70er mit
Tim Pritlove: Rasterfahndung und dieser Traum von alles jederzeit sehen,
Tim Pritlove: um eine Sicherheit herzustellen, die ausschließlich auf dieser Idee einer Kontrolle basiert.
Tim Pritlove: Das gab es immer und es ist eigentlich nur daran gescheitert,
Tim Pritlove: dass das, was man machen wollte mit der Technik, am Ende zu teuer war.
Tim Pritlove: Aber jetzt, wo die Technologie immer billiger wird und sich in gewisser Hinsicht
Tim Pritlove: ja auch die Möglichkeiten immer weiter ergeben werden.
Tim Pritlove: Also Kameras waren früher teuer, super teuer.
Tim Pritlove: Also von digitalen Kameras mal ganz abgesehen.
Tim Pritlove: Und heutzutage ist eine Kamera halt wirklich nur noch ein Pfennigbetrag in der
Tim Pritlove: elektronischen Produktion.
Tim Pritlove: Datenmengen speichern war teuer, heute kriegst du irgendwie Terabytes auf dem
Tim Pritlove: Daumennagel unter und so weiter und mit diesen gesunkenen Kosten steigt natürlich
Tim Pritlove: auch automatisch dieser Durst nach,
Tim Pritlove: jetzt machen wir alles, was wir schon immer machen wollen.
Linus Neumann: Du hast den einen Aspekt vergessen,
Linus Neumann: noch zu nennen, du hast, klar, dann hast du massenhaft Video,
Linus Neumann: dann musst du das speichern können.
Linus Neumann: Das, was jetzt dir gelingt, ist, massenhaft Video auch analysieren zu können.
Linus Neumann: Das war so die letzte, also Video aufzeichnen konntest du, du hattest nur dann halt mehr Heu.
Tim Pritlove: Also in den 80ern noch nicht, aber dann später war das auch und jetzt ist eben
Tim Pritlove: auch noch diese ganze Analyse und daraus auch noch einen Sinn machen.
Tim Pritlove: Auch das wird jetzt machbar und ist halt in gewisser Hinsicht günstig.
Linus Neumann: Wir hatten auch hier in der Sendung ja über die Ring-Geschichte da mit dem wir
Linus Neumann: haben mit dieser Überwachungsfirma ein wunderschönes Feature,
Linus Neumann: mit dem man deinen Hund wiederfinden kann.
Linus Neumann: So, Alter, what the fuck, ey, also den Hund, dafür habt ihr das Geld ausgegeben.
Linus Neumann: So, so, das ist immer voll lieb, dass ihr euch für meinen Hund interessiert.
Linus Neumann: So, ist außerdem ein Leguan und der ist tot.
Tim Pritlove: Echt, du hast einen toten Leguan als Haustier?
Linus Neumann: Nein, ich habe keinen Leguan. Leguan gehört nicht nach Deutschland.
Linus Neumann: Leguan ist kein Teil von Deutschland.
Tim Pritlove: Die Insel heißt anders. Das verwechselst du.
Linus Neumann: Leguan, wirklich. Leguan ist kein Teil von Deutschland.
Tim Pritlove: Ja. Ist nicht gut. Videoüberwachung. Deswegen hat der CCC auch gesagt, ist doof.
Linus Neumann: Ja, Kantorkel gerade schon erwähnt.
Linus Neumann: Ein teures, aber gefährliches Sicherheitstheater. Und ja, also nochmal,
Linus Neumann: also wie viel Kriminalität.
Linus Neumann: Erwartest du.
Linus Neumann: Also wirklich so die Ökonomie davon, ne? Wir können jedes Gesicht erkennen mit der Kamera.
Linus Neumann: Wir erkennen verdächtiges Verhalten.
Linus Neumann: Okay, haben wir eventuell ein bisschen überinvestiert, weil trotzdem findet
Linus Neumann: ihr die ganze Zeit Kriminalität unter diesen Kameras oder vielleicht nicht unter diesen Kameras statt?
Linus Neumann: Kann das sein, dass die Leute einfach irgendwo hingehen, wo die Kamera nicht
Linus Neumann: ist? War das vielleicht so?
Linus Neumann: Dann müssen wir da auch eine Kamera hinstellen oder was? Dann wird das irgendwie
Linus Neumann: ein bisschen teurer. Und dann am Ende sind die Kriminellen da, wo keine Kamera ist.
Linus Neumann: Wie viele Kameras müssen wir kaufen, dass die nirgendwo mehr hinkönnen?
Linus Neumann: Und was bedeutet das dann für unseren öffentlichen Raum? Dann können wir uns
Linus Neumann: nicht mehr unüberwacht von diesen Systemen, die in der Lage sind,
Linus Neumann: anormales Verhalten festzustellen und unsere Gesichter zu erkennen. Ja, geil.
Linus Neumann: Also, ich glaube, ich hatte das hier vor einiger Zeit auch schon mal in der Sendung gesagt.
Linus Neumann: Dann wird der öffentliche Raum, durch den wir uns gerade noch frei bewegen können.
Linus Neumann: Wir können da einfach lang gehen. Das kriegt keiner mit. Das erfasst auch keiner zentral. Im Moment.
Linus Neumann: Aber das wird dann wie im Internet. Egal wo du lang gehst, egal wo du hast,
Linus Neumann: Datenspuren hinterlassen, zack, bumm, ach, du bist da lang gehst.
Linus Neumann: Ja, 85 Hikvision-KI-Kameras.
Linus Neumann: Ja.
Linus Neumann: Die haben auch dein Gesicht erkannt. Die haben auch gemerkt,
Linus Neumann: dass du da an der einen Straßenecke, Tim, da weiß ich gar nicht,
Linus Neumann: ob du da jetzt, also, so wie du da in dem Bus stand, hast du da hingepinkelt, das kostet doch 10 Euro.
Linus Neumann: 20, glaube ich, eigentlich sogar jetzt, mit dem neuen Polizeigesetz.
Tim Pritlove: Ja, man wird dann mit allem möglichen in Verbindung gebracht.
Tim Pritlove: Also das schafft einfach eine, also hättest du, sagen wir mal,
Tim Pritlove: muss ich jetzt gar nicht mal so groß aufziehen, reicht jetzt mal nur so ein Stadtteil.
Tim Pritlove: Sagen wir mal, man hat so ein Problemstadtteil.
Tim Pritlove: Kreuzberg ist ja immer gerne in Diskussionen.
Linus Neumann: Nehmen wir Grunewald.
Tim Pritlove: Ja, oder Grunewald, genau. Da fahren die aber nur mit dem Auto lang, das ist ja einfach.
Linus Neumann: Stell mal einen Kennzeichenscanner hin, was dann los ist.
Tim Pritlove: Ja, aber das ist ja einfach. Also die Konservativen sehen ja die Bösen immer
Tim Pritlove: in Kreuzberg und in jede Straße muss jetzt so eine KI-Kamera rein und dann haben wir diese ganzen Daten.
Tim Pritlove: Und ich will auch nicht mal ausschließen, dass man damit auch irgendwelches Kriminelles macht.
Tim Pritlove: Geschehen, erfassen könnte. Ist durchaus wahrscheinlich.
Tim Pritlove: Vor allem schafft man aber einen Datensatz, auf dem potenziell jede denkbare Analyse möglich ist.
Tim Pritlove: Und das betrifft natürlich die Privatsphäre quasi aller Leute in diesem Bereich.
Tim Pritlove: Es schafft vor allem auch Erpressungspotenzial.
Tim Pritlove: Es sind Daten mit einem sehr hohen Wert und wir wissen, alles was einen sehr
Tim Pritlove: hohen Wert hat, das wird dann auch irgendwann verkauft werden,
Tim Pritlove: wird dann anderen Leuten zugespielt werden.
Tim Pritlove: Das sind ja sozusagen Beobachtungssehens. Ich meine, kurzer Blick hier auf den
Tim Pritlove: Iran-Krieg, der erste Schlag auf den Ayatollah, der von Israel durchgeführt wurde.
Tim Pritlove: Es kam ja im Nachhinein raus, dass Israel seit...
Tim Pritlove: Jahren alle Verkehrskameras in Teheran abgeschnorchelt hatten.
Tim Pritlove: Die haben sozusagen einen Livestream gehabt von dieser Hauptstadt,
Tim Pritlove: also nicht nur einen Livestream, sondern alle Livestreams und die haben darüber
Tim Pritlove: die ganzen Wege der Mitarbeiter dieser Ministerien und Zuträger und Sicherheitspersonal
Tim Pritlove: darüber analysiert und haben darüber sozusagen ein klares Bild gehabt, wer ist wann,
Tim Pritlove: wo, welche Routinen herrschen, Was ist sozusagen hier das Sicherheitsregime?
Tim Pritlove: Und unter anderem mit diesen Informationen, sicherlich nicht nur mit diesen
Tim Pritlove: Informationen, unter anderem mit diesen Informationen, dann ein relativ klares
Tim Pritlove: Bild gehabt, wer ist wann wo und wo können wir zu welchem Zeitpunkt zuschlagen.
Tim Pritlove: Das ist so die Dimension, die allein die Verkehrskameras schon.
Linus Neumann: Diese News sollten wir mehr verbreiten, wenn dann demnächst solche Kameras in
Linus Neumann: Berlin aufgestellt werden.
Linus Neumann: Wenn wir sagen, Israel, könnte ich mir vorstellen.
Tim Pritlove: Dass es so ist. Ich wollte das jetzt nicht auf Israel bringen, sondern generell.
Linus Neumann: Mir ist ja völlig egal, wer die Kamera absägt. Hauptsache die ist wieder weg.
Linus Neumann: Ja aber es ist also diese Gesamtüberwachung es gab ja schon vor,
Linus Neumann: wie lange ist das schon wieder her da war dann irgendwie ich glaube der Michael
Linus Neumann: Kreil hatte das gemacht der hatte quasi gesagt okay wenn man die Menge an Daten
Linus Neumann: die die Stasi gesammelt hat nimmt,
Linus Neumann: und macht die in Aktenordner und dann macht man daraus Regalmeter und dann hat
Linus Neumann: er quasi eine Fläche aus Regalmetern gemalt und dann hat er die Menge an Daten, die die NSA hatte,
Linus Neumann: einfach mal visualisiert und das war natürlich ein Vielfaches und.
Linus Neumann: Die Stasi ist an ihre Kapazitätsgrenzen geraten, daraus noch Erkenntnis zu ziehen.
Linus Neumann: Die mussten dann ja quasi so Informationspyramiden bauen.
Linus Neumann: Jeder überwacht da, der IM überwacht, irgendjemand schreibt einen Bericht und
Linus Neumann: dann der schreibt wieder da einen Bericht und dann hast du irgendwann,
Linus Neumann: versuchst du es irgendwie noch für einen Menschen oder ein, was auch immer,
Linus Neumann: ein Blockwart oder was da die
Linus Neumann: Struktur war, irgendwie hochzufiltern und zu aggregieren die Information.
Linus Neumann: Aber am Ende war das Bottleneck noch so, am Ende muss das noch in das Gehirn
Linus Neumann: von ein paar Menschen passen.
Linus Neumann: Und auch das bist du dann los, wenn du massenhafte Datenanalysen in Echtzeit machen kannst.
Linus Neumann: Und das ist es ist wirklich als Ausmaß,
Linus Neumann: sowas von,
Linus Neumann: nicht mehr vorstellbar, wie viel krass invasiver und überwachender das ist.
Linus Neumann: Nimm mir den Schlaf. Kommen wir zum nächsten Thema.
Tim Pritlove: Ja, also es ist so ein totales ist auch so ein Zauberlehrlingsding. Also man, ich kann...
Linus Neumann: Der Friedrich Merz sieht jetzt nicht aus wie ein Zauberlehrling.
Tim Pritlove: Naja, also...
Tim Pritlove: Selbst wenn ich es jetzt mal ganz gutmütig, positiv annehmen würde, was ihre Ziele sind.
Tim Pritlove: Ah ja, sie wollen die Kriminalität reduzieren, sie wollen irgendwie die gefühlte
Tim Pritlove: oder auch die reale Sicherheit an öffentlichen Plätzen herstellen.
Tim Pritlove: Und es gibt ja auch Problemorte und es gibt auch Problemsituationen.
Tim Pritlove: Kann man alles irgendwie einsehen.
Tim Pritlove: Ich würde ihnen sogar fast mal unterstellen, dass sie das selber so sehen.
Tim Pritlove: Dass sie überhaupt gar nicht darüber nachdenken, was das Missbrauchspotenzial
Tim Pritlove: davon ist, sondern dass das für sie einfach zweitrangig ist manche vielleicht
Tim Pritlove: nicht, aber einige sehen es sicherlich,
Tim Pritlove: in so einer gutartigen Sache, also was habt ihr denn so wie diese Diskussion
Tim Pritlove: um Wahlcomputer ja was denn, wir wollen das doch nur einfach machen und so weiter,
Tim Pritlove: das kann doch nicht sein, dass man das nicht mit Computern machen kann,
Tim Pritlove: ja naja okay, das seht ihr vielleicht so,
Tim Pritlove: aber habt ihr mal wirklich darüber nachgedacht, was das bedeutet was das für
Tim Pritlove: Konsequenzen haben kann Und das ist das Problematische daran.
Tim Pritlove: Also ich glaube, es ist auch nicht klug, diese ganze politische Debatte immer
Tim Pritlove: so mit der Unterstellung zu führen, dass die ja uns doof sind.
Tim Pritlove: Ja, das vielleicht schon, aber dass sie nicht schaden wollen,
Tim Pritlove: aber dass sie sich einfach über die potenziellen Auswirkungen der Installation
Tim Pritlove: einer solchen Infrastruktur klar werden müssen und ich finde bei den anderen
Tim Pritlove: Sachen, wo wir früher immer schon gewarnt haben,
Tim Pritlove: hat sich das alles auch sehr wohl gezeigt, diese ganzen Probleme und das muss man auch oft.
Linus Neumann: Möchtest du sagen, told you so?
Tim Pritlove: Naja, also,
Tim Pritlove: es gibt genug Belege so was Privatschutz und Leakage von Daten und so weiter
Tim Pritlove: betrifft und das wird jetzt hier auch nicht sehr viel anders sein aber die Auswirkungen
Tim Pritlove: davon sind potenziell noch schlimmer.
Linus Neumann: Gehen wir gleich noch an Kotti. Letzte Mal jetzt, bevor da bald Videoüberwachung ist.
Linus Neumann: Schnell auch verdächtig am Kotti lang gehen.
Tim Pritlove: Ein Döner, ganz verdächtig ein Döner essen.
Linus Neumann: Vielleicht noch kurz für die Vollständigkeit. In Thüringen läuft es gerade mit
Linus Neumann: einem KI-Polizeigesetz.
Linus Neumann: Verhaltensscanner, Gesichtssuchmaschine, Datenanalyse, Palantir-Style,
Linus Neumann: Kennzeichenscanner, Videodrohnen.
Linus Neumann: Niedersachsen hat auch ein KI-Polizeigesetz, BND,
Linus Neumann: du hast,
Linus Neumann: also natürlich wollen alle diese Strafverfolger und die Geheimdienste und die
Linus Neumann: Big Four Consultants, wie McKinsey,
Linus Neumann: alle Daten zentralisiert,
Linus Neumann: analysieren und diese Macht haben. Also das Bittere ist ja, die werden die sich
Linus Neumann: ja auch holen. Das ist ja auch wirklich nur so ein,
Linus Neumann: also,
Linus Neumann: das günstigste Ergebnis ist, dass wir durch den Widerstand dagegen uns noch
Linus Neumann: so viel Zeit verschaffen, dass wir vernünftigen Schutz dagegen noch entwickeln können.
Linus Neumann: Aber auch nicht so einfach, weil Meta, das ist ja auch, weißt du,
Linus Neumann: was machen wir bloß mit diesen ganzen Rechten?
Linus Neumann: Die Leute gehen in die Hände dieser Bauernfänger, die gehen da irgendwie bei
Linus Neumann: der AfD und den ganzen komischen rechtsgerichteten Irrsinnigen hin,
Linus Neumann: weil die das Vertrauen in die Politik verloren haben. Was machen wir denn?
Linus Neumann: Ja, lass uns am besten erstmal die oberste Datenschutzbeauftragte Irlands wird
Linus Neumann: jetzt Lobbyistin für Facebook und dann lass uns am besten die Ex-Meta-Lobbyistin,
Linus Neumann: die dann auf einmal ins EU-Parlament gekommen ist,
Linus Neumann: die nehmen wir am besten als Chefverhandlerin für den KI-Omnibus.
Linus Neumann: Also eine Ex-Meta-Lobbyistin sitzt jetzt im EU-Parlament und ist ausgerechnet für den KI-Omnibus.
Linus Neumann: Also für den KI-Teil des Omnibus.
Linus Neumann: Da. Also für KI und Datenschutz.
Linus Neumann: Das kann doch auch nicht sein. Also hatten wir wirklich niemand anders?
Linus Neumann: Ja, hatten wir wahrscheinlich nicht. Fällt dir noch jemand ein,
Linus Neumann: wenn man da hätte hinschicken können?
Tim Pritlove: Thomas.
Linus Neumann: Ja, der war aber nicht bei Facebook.
Tim Pritlove: Schlechtes Zivil.
Linus Neumann: Keine Ahnung, wovon er redet.
Linus Neumann: Es gibt,
Linus Neumann: In diesem ganzen Kontext, wir haben ja gerade über KI, Überwachung,
Linus Neumann: Auswertung und sowas gesprochen,
Linus Neumann: noch eine etwas unschöne Meta-Entwicklung.
Linus Neumann: Also natürlich, wir haben gesagt, Geheimdienste wollen das,
Linus Neumann: Überwachung will das und wir haben glaube ich in einer der letzten Sendungen
Linus Neumann: auch schon darüber gesprochen,
Linus Neumann: Militär will das, das Kriegsministerium der USA hat ja, auch darüber haben wir
Linus Neumann: gesprochen, sich mit Anthropic angelegt und jetzt irgendwie gesagt,
Linus Neumann: wir nehmen euch das Geld,
Linus Neumann: geben euch das Geld nicht mehr, dann einen Deal mit OpenAI gemacht.
Linus Neumann: Dann hat Trump gesagt, die Nutzung von Anthropic in Bundesbehörden wird jetzt untersagt.
Linus Neumann: Das heißt, sie versuchen Anthropic den Geldhahn zuzudrehen, um diese Entwicklungen
Linus Neumann: für sich gefügig zu machen.
Linus Neumann: Sowieso werden Kriege inzwischen mit Drohnen und automatisierten Tötungsmaschinen
Linus Neumann: geführt. Das heißt, die ganze Militärgeschichte.
Linus Neumann: Und wir haben gerade darüber gesprochen, dass wir im Prinzip beobachten,
Linus Neumann: dass die Sicherheitsarchitekturen für derartige Systeme zumindest,
Linus Neumann: also sie werden gerade exploriert das muss man jetzt mal noch finden,
Linus Neumann: und dann hat weitestgehend unbeachtet Donald Trump vor einigen Wochen eine neue
Linus Neumann: Cyber-Strategie veröffentlicht.
Linus Neumann: Und diese Strategie, die Donald Trump jetzt für, also für, wie bewegt man sich
Linus Neumann: im Bereich des Cyber, also Cyber ist ja Hacking, ne?
Linus Neumann: Sie haben gesagt, okay, wir gehen weg von Regulierung, wir gehen hin zu Dominanz und Deregulierung.
Linus Neumann: Also wir deregulieren die Anforderungen.
Linus Neumann: Das ist erstmal etwas, was ich gar nicht, also der Idee wäre ich gar nicht so abgeneigt,
Linus Neumann: weil in vielen Bereichen IT-Sicherheit tatsächlich so stark totreguliert ist,
Linus Neumann: dass es in die Sinnlosigkeit treibt.
Linus Neumann: Es wird viel zu viel Zeit verschwendet mit sinnlosen Anforderungen.
Linus Neumann: Aber das kombinieren sie mit, wir wollen den Bereich dominieren und wir priorisieren
Linus Neumann: den Angriff gegenüber der Verteidigung.
Linus Neumann: Also proaktive Angriffe, Abschreckung
Linus Neumann: und so weiter, statt in Resilienz zu investieren und zu setzen.
Linus Neumann: Also Abschreckung statt stabilen Scheiß bauen.
Linus Neumann: Genau, die Deregulierung, okay, also kann man drüber reden, das muss natürlich
Linus Neumann: nur die Zeit und Energie und Verpflichtung, die da frei wird,
Linus Neumann: die Ressourcen, die müssen ja auch irgendwo hin.
Linus Neumann: Dann natürlich ja mit KI, das machen wir jetzt hier Agentic AI wird dann für
Linus Neumann: uns die aktiven Cyber-Angriffe machen ähm und ja das ist äh,
Linus Neumann: Ich meine jetzt auch keine so gute Entwicklung, wenn jetzt die USA sagen,
Linus Neumann: wir haben uns überlegt, das mit dem Defense, das habt ihr jetzt ein paar Jahre
Linus Neumann: versucht, das funktioniert doch alles nicht. Wir kloppen einfach feste drauf.
Linus Neumann: Und dann denkt man sich, wie blöd sind eigentlich die USA, aber natürlich kriegen
Linus Neumann: BKA und Bundespolizei gerade auch neue Hackerbefugnisse oder so,
Linus Neumann: und die kriegen, das plant zumindest die Bundesregierung und sagt,
Linus Neumann: ja wir wollen natürlich aktive Abwehr von Hackerangriffen.
Linus Neumann: Wer das für eine gute Idee hält,
Linus Neumann: kann sich die schöne Sendung mit dem Hackback-Rakete nochmal anhören.
Linus Neumann: Also gegen Attacken, Systeme von Angreifern stören oder lahmlegen,
Linus Neumann: soll dann Bundespolizei und BKA erlaubt werden.
Linus Neumann: Und das wird auch nicht lange dauern, bis die sagen, das machen wir hier mit
Linus Neumann: dieser Codewall-KI oder was auch immer, die so schön das McKinsey-Problem fast gelöst hatte.
Linus Neumann: Und jetzt schwanken quasi nicht nur alle hin zu der Massenüberwachung und der
Linus Neumann: Automatisierung von Dingen mit wackelnden,
Linus Neumann: Sicherheitskonzepten und Zauberlehrlings Vibes, sondern sagen außerdem ja pass
Linus Neumann: auf, wir haben uns auch überlegt der Schwerpunkt ist jetzt eher wir greifen
Linus Neumann: die anderen an, als dass wir uns verteidigen ja,
Linus Neumann: Da würde ich auch sagen, wollen wir mal gucken, wie lange das dauert,
Linus Neumann: bis einer weint und ob nicht am Ende beide weinen.
Tim Pritlove: Also diese amerikanische Regierung ist wirklich
Tim Pritlove: völlig ohne irgendwelche
Tim Pritlove: Guardrails unterwegs und diesen psychisch kranken Menschen da einfach freien
Tim Pritlove: Lauf zu lassen und ihnen auch beliebige Loonies da in Führungspositionen in
Tim Pritlove: den Ministerien bringen zu lassen,
Tim Pritlove: das ist wahrscheinlich der größte Fehler in den USA je gemacht haben.
Tim Pritlove: Aber das wird natürlich extreme Auswirkungen haben darauf,
Tim Pritlove: wie auch andere Länder sich positionieren und das geht nicht gut.
Linus Neumann: Ja, genau. Es geht nicht gut.
Linus Neumann: Ich rede da ja nun wirklich mit dem Mund fusselig.
Linus Neumann: Ja, es gibt Angriffe. Ja, es gibt Angreifer.
Linus Neumann: Und ja, es gibt keine vollständige Sicherheit.
Linus Neumann: Genau deswegen muss man Resilienz aufbauen und nicht sagen, naja,
Linus Neumann: wenn wir eh verloren sind dann kloppen wir halt auf die anderen drauf also das
Linus Neumann: funktioniert halt nicht insbesondere,
Linus Neumann: wenn du dir dann sowas anhörst, wie du gerade erzählt hast dass dir eine dir
Linus Neumann: nicht wohlgesonnene Nation deine dir selbst dahingestellten Überwachungskameras hackt.
Linus Neumann: Ja, aber der neue 3er BMW ist super. Wird noch was in Deutschland.
Linus Neumann: So, dann haben wir noch einen Space, den gemeinnützigen Makerspace Toolbox Bodensee.
Linus Neumann: Die suchen relativ kurzfristig ein neues Zuhause.
Linus Neumann: Die müssen am 31.05.26 ausziehen und suchen mindestens 220 Quadratmeter im Bereich
Linus Neumann: Bodensee. Also der Bodensee-Kreis, Markdorf, Friedrichshafen, Tettnang.
Linus Neumann: Wir haben den Blogpost für euch verlinkt.
Linus Neumann: E-Mail an vorstand.toolbox-bodensee.de. Und warum würde man so einem Space ein Zuhause bieten?
Linus Neumann: Nun ja, das sind halt Orte, wo was passiert, wo Kreatives entsteht,
Linus Neumann: wo sich Communities treffen, Chaos treffen, Marktdorf, Funkamateure.
Linus Neumann: Freifunk-Bodensee, die Freifunk-WLAN-Infrastrukturen
Linus Neumann: bauen, Spieleentwicklung-Bodensee, IoT-Meetup.
Linus Neumann: Und die haben jetzt gerade 420 Quadratmeter, bauen Elektrotechnik,
Linus Neumann: Holz, Metallwerkstatt,
Linus Neumann: 3D-Druck, Siebdruck, Fotolabor, also all diese Orte oder all diese Werkstätten und Tools,
Linus Neumann: die es ermöglichen, Dinge zu
Linus Neumann: tun, sich zu entfalten, als Communities zusammenzukommen, was zu machen.
Linus Neumann: Also damit man nicht immer nur hier mit Chat-GPT am Sexten ist,
Linus Neumann: sondern sich auch weiterentwickelt als Teenager.
Linus Neumann: Und ich denke, das sind wichtige, herausragende Orte von Kultur und Kreativität
Linus Neumann: und deswegen will man das haben.
Linus Neumann: Ja, und deswegen brauchen wir jetzt relativ kurzfristig dafür eine Fläche und
Linus Neumann: das ist eine Gelegenheit.
Linus Neumann: Das ist eine Chance, die sich so schnell nicht mehr bieten wird,
Linus Neumann: dass man jetzt die neue Heimat der Toolbox Bodensee werden kann,
Linus Neumann: am Bodensee, wo man eigentlich denkt, man hätte schon alles erreicht.
Tim Pritlove: Ich glaube, wenn man da was zu vermieten hat, kann man nur sagen, das sind meistens...
Linus Neumann: Vom Vermieten war nicht die... Miete. Verschenken.
Tim Pritlove: Verschenken?
Linus Neumann: Nein. Über eine angemessene Miete kann man...
Linus Neumann: Nicht angemessen, angemessene Miete ist so ein... Über eine vernünftige Miete kann man reden.
Tim Pritlove: Ja, vor allem, wenn man was zu vermieten hat und man sucht so Mieter.
Linus Neumann: Ja, die das ordentlich halten. Die den Schrott dann erstmal reparieren,
Linus Neumann: indem man den da vermietet.
Tim Pritlove: Ja, also, sag mal so, es gibt Mieter, die zahlen Miete, aber es gibt Mieter,
Tim Pritlove: die zahlen Miete und bringen eine Kultur mit rein, die auch anderweitig ganz nützlich sein kann.
Tim Pritlove: Das ist eine Aufwertung. Und da ist, also haben glaube ich die wenigsten bisher
Tim Pritlove: bereut, die Leute an so einen Megaspace vermietet haben.
Linus Neumann: Nee, wüsste ich jetzt auch keinen.
Tim Pritlove: Auf gar keinen Fall.
Linus Neumann: Ein Verschwörhaus in Ulm. Die haben ja dann irgendwann den Namen geklaut und
Linus Neumann: sich das, aber nee, also selbst das war...
Linus Neumann: Die haben den Namen geklaut, weil es so geil war, dass sie sagten,
Linus Neumann: das können wir nicht dulden, dass das euers ist, wir registrieren die Marke, das war unsers.
Tim Pritlove: Naja, also wer was hat im Bereich Bodensee, soll sich mal melden bei den Leuten.
Tim Pritlove: So, kommen wir zu den Terminen. Du hast schon einen erwähnt.
Linus Neumann: Ja, 29.04. Ich hab noch einen Monat und neun Tage.
Tim Pritlove: Was ist da jetzt überhaupt passiert? Also du wolltest eigentlich ein Sidekick
Tim Pritlove: sein und jetzt bist du irgendwie die Hauptattraktion.
Linus Neumann: Also okay, ich glaube Folgendes ist passiert.
Tim Pritlove: Ich will jetzt ein bisschen Erwartungshaltung hier aufbauen.
Tim Pritlove: Du hast einfach nicht genug Druck in deinem Leben, verstehst du?
Tim Pritlove: Du musst jetzt einfach mal ein bisschen einen drauflegen.
Linus Neumann: Also es gibt ja Funfacts, hatte ich glaube ich erzählt.
Linus Neumann: Tägliche,
Linus Neumann: Täglicher satirischer, komödiantischer Blick auf Nachrichten.
Linus Neumann: Aus dem Kreise von vielen Comedians, unter anderem Marc-Uwe Kling und Sarah
Linus Neumann: Brosetti, der es glaube ich so ein bisschen losgetreten haben und aber sehr,
Linus Neumann: sehr viele auch wirklich bekannte Leute, die auch richtig begnadete Leute hier
Linus Neumann: mitmachen. Heinz Strunk.
Linus Neumann: Heinz Strunkmann. Da freue ich mich schon so unglaublich drauf.
Linus Neumann: In, was war das? Hamburg, München, Berlin und Köln und Wahrscheinlich gibt es noch eine Stadt.
Linus Neumann: Und,
Linus Neumann: dann gibt es die Montag, Dienstag, Mittwoch, Donnerstag Sendung,
Linus Neumann: die sind immer alle live und Freitag wird aber nicht aufgezeichnet,
Linus Neumann: sondern am Freitag gibt es immer so einen long,
Linus Neumann: so einen deep dive, nicht mehr tagesaktuell, wo dann quasi die Amateure,
Linus Neumann: die nicht professionelle Comedians sind, sondern die halt davor geschult werden
Linus Neumann: müssen und so weiter, die ja auch eigentlich gar nicht witzig sind. So wie ich.
Linus Neumann: Die kommen dann da mit rein, weil man davon ausgeht, deren Aufzeichnung machen
Linus Neumann: wir am Donnerstag mit jemand anders, für den die Leute kommen.
Linus Neumann: Und dann sagt man, du bist jetzt Vorprogramm und dann haben wir die Aufzeichnung für Freitag.
Linus Neumann: Und das war eigentlich geplant.
Linus Neumann: Dass ich eben am Donnerstags Vorprogramm von irgendjemandem bin, der da Leute hat.
Tim Pritlove: Aber du wusstest nicht von wem.
Linus Neumann: Ich glaube, mir wurde das gesagt und dann habe ich aber, als der letzte Sendung
Linus Neumann: habe ich es ja irgendwie auch schon gesucht und nicht gefunden.
Linus Neumann: Da deutete sich das schon an, dass da irgendwas nicht stimmt und dann kriegte ich halt den,
Linus Neumann: so einen Anruf ja Mensch hier Tickets mit Linus Neumann hab ich gesehen ich
Linus Neumann: hol mal eins, ich sag was hast du gesehen? nein, ich bin da,
Linus Neumann: also es war so nicht vereinbart.
Tim Pritlove: Läuft ja super und jetzt, was machen wir da jetzt?
Linus Neumann: Ja weiß ich nicht es.
Tim Pritlove: Musste noch witzig werden bis dahin.
Linus Neumann: Bis dahin muss ich witzig werden Ja.
Tim Pritlove: Also ich meine...
Tim Pritlove: Ich habe jetzt nicht alle Videos gesehen. Es waren jetzt auch nicht alle unbedingt
Tim Pritlove: so witzig. Also du musst jetzt auch nicht so witzig sein.
Tim Pritlove: Du kannst auch todernstig da hinstellen in LNP-Manier und dann einfach erzählen.
Linus Neumann: Ja, aber das ist ja Funfact, nicht Faktab.
Tim Pritlove: Ja. Da bist du jetzt in der Falle. Ich kann dich natürlich noch ein bisschen
Tim Pritlove: coachen, wenn du willst.
Linus Neumann: Ja? Du könntest mal ein Witzeschreiber werden. Ich brauche einen Witzeschreiber.
Linus Neumann: Nee, ich brauche wirklich einen Witzeschreiber.
Tim Pritlove: Naja, ist die Frage. was du machen willst, willst du, ich meine,
Tim Pritlove: du könntest natürlich auch einfach das vertrauen, das würde ich dir ja primär
Tim Pritlove: jetzt mal raten, ich würde ja immer auf das vertrauen, was du am besten kannst
Tim Pritlove: und das ist ja so spontan lustig sein.
Linus Neumann: Ja, hab ich ja auch gesagt, aber das ist ja so eine Nachrichtensendung.
Tim Pritlove: Ja, so ziehst du den Abend halt auf. Du gehst halt hin und erzählst erstmal,
Tim Pritlove: du bist überhaupt nicht lustig und du musst das jetzt mit allen zusammen.
Linus Neumann: Ja, aber das macht Nico Semsrott schon.
Tim Pritlove: Ja, aber der ist ja nicht lustig. Also der ist ja bewusst nicht lustig.
Tim Pritlove: Ja, also da muss man irgendwie das Publikum beteiligen.
Tim Pritlove: Da müssen die halt irgendwas reinwerfen und dann musst du dich in die Situation
Tim Pritlove: bringen, dass du reagieren musst. Und dann läuft das.
Linus Neumann: Ja, also funktioniert das halt nicht. Also es ist so, die haben es auch geschafft
Linus Neumann: mit Luisa Neubauer, ist jetzt auch kein Comedian.
Linus Neumann: Das war schon auch in Ordnung. Aber ich will auch nicht wissen,
Linus Neumann: wie die geschwitzt haben muss davor.
Linus Neumann: Also ich weiß ja, ich kenne sie zumindest nicht als Entertainerin.
Linus Neumann: Als Entertainerin in einem Nachrichten-Style-Format.
Tim Pritlove: Da musst du den Fun in den Facts finden.
Linus Neumann: Ja. Der war auf jeden Fall gemein.
Tim Pritlove: Aber hast du denn schon ein Thema?
Linus Neumann: Nee. Auf die E-Mail muss ich nur antworten. Nichts hab ich. Ich hab einfach
Linus Neumann: nur eine E-Mail, du bist dann dran. Hier werden Tickets verkauft,
Linus Neumann: ich dir deinen Namen drauf frag.
Linus Neumann: Und ich hab auch nicht Bescheid gesagt.
Tim Pritlove: Ja, okay. Also ich meine, das ist ja eine Ansage.
Tim Pritlove: Also ich ich sag ja immer, wenn man nix zu erzählen hat, weil ich besser halt.
Linus Neumann: Aber also was mir, was zum Glück nicht, also deswegen hab ich mir das auch so
Linus Neumann: zusammengereimt, ja, weil es also ich muss zumindest nicht den ganzen Abend gestalten.
Linus Neumann: Also Funfacts, es ist ja so, das sollte ich vielleicht noch dazu sagen.
Linus Neumann: Wenn da jetzt steht Funfacts mit was weiß ich, Luisa Neubauer und Marc-Uwe Kling
Linus Neumann: oder was, Da muss die Luisa nur die Viertelstunde hinter sich bringen,
Linus Neumann: die die Funfacts-Sendung ist und den Rest des Abends gibt es dann eben ein Hauptprogramm.
Linus Neumann: Oder wenn da jetzt zum Beispiel Funfacts mit Heinz Strunk ist,
Linus Neumann: dann würde ich davon ausgehen, dass der Heinz Strunk eine Viertelstunde Funfacts
Linus Neumann: macht und wenn er dann noch Bock hat, dann gestaltet er den Abend noch ein bisschen weiter.
Tim Pritlove: Und du musst den ganzen Abend gestalten.
Linus Neumann: Dann muss ich wirklich nochmal mit denen reden. Hier steht, den ganzen großen
Linus Neumann: Rest des Abends gibt es eine Mixshow der Extraklasse zu sehen.
Linus Neumann: Mit anderen Worten, die haben noch keine Ahnung.
Tim Pritlove: Oder sagen es zumindest nicht.
Linus Neumann: Oder sagen es mir nicht.
Tim Pritlove: Also wenn du wie Harald Schmidt so einen Sidekick brauchst, der von der Seite,
Tim Pritlove: so ein paar Sprüche reinklopft.
Linus Neumann: Du bist doch immer ein Manuel Andrak.
Tim Pritlove: Dann kann ich das machen. Wenn dir das weiterhilft, dann musst du halt was einfallen lassen.
Linus Neumann: Ja, ich hab nur ganz Zeit mir was einfallen zu lassen.
Tim Pritlove: Tja. Ja Leute, ne? Schreibt's in die Kommentare.
Linus Neumann: Was wollt ihr wählen? Welchen Funfact soll ich erzählen? Wusstet ihr,
Linus Neumann: dass ein Regenwurm drei Därme hat?
Tim Pritlove: Oder wir machen das mit KI, ja? Verstehst du? Wir schmeißen da einfach alle
Tim Pritlove: Dokumente rein, alle Transkripte von Logbuch und Netzpolitik. Hier ist der Humor.
Tim Pritlove: Das ist das Themenspektrum.
Linus Neumann: Finde in 548 Sendungen bitte die Funfacts. Kommen wir auf eine Viertelstunde? Nein?
Tim Pritlove: Also das wäre natürlich auch kreativ, wenn du das so aufziehst,
Tim Pritlove: dass sozusagen die ganze Sendung vollständig AI orchestriert wurde von dir.
Linus Neumann: Also nicht so im Sinne von... Das ist wirklich eine Drohung, ja?
Linus Neumann: Guck mal, dann steht da irgendwie hier, das Bild einfach genommen aus der Wikipedia,
Linus Neumann: CC, also Amsau ist alles richtig, aber CC bei alles.
Linus Neumann: Und dann steht so, den ganzen Rest des Abends gilt eine Mixshow der Extraklasse
Linus Neumann: und dann in Fett. Funfacts wird aufgezeichnet.
Linus Neumann: So, Linus, wird aufgezeichnet, ne?
Linus Neumann: No pressure.
Tim Pritlove: You've got one shot.
Linus Neumann: Ja, bin ich mal gespannt. In dem Theater war ich auch noch nicht.
Linus Neumann: Und eine Woche vorher sind dann zum Beispiel hier Raoul Krauthausen,
Linus Neumann: Anne Broer, Hilka, die ganzen großen Namen, ja?
Tim Pritlove: Das ist sehr unterhaltsam. Aber das ist auch eine Herausforderung.
Linus Neumann: Ja, das ist eine Herausforderung.
Tim Pritlove: Ich würde es modern machen. Ich meine, das müsste ja sowieso das Thema sein.
Tim Pritlove: Wenn ich mir das sonstige Themenspektrum hier anschaue, dann ist ja so KI noch
Tim Pritlove: überhaupt gar nicht dabei. Es ist alles so politisch und so.
Tim Pritlove: Atomkraft, hier Freiheit, Arbeitslose.
Tim Pritlove: Jetzt kommt irgendwie der Linus, der ist ja mehr so der Techniker.
Tim Pritlove: Da musst du natürlich dann diese Problematik machen.
Tim Pritlove: Das heißt, so, KI Dystopie 3000,
Tim Pritlove: Das ist ja auf jeden Fall schon mal Ja, ich meine, da ist ja auch viel Humor
Tim Pritlove: drin, ne, in diesem ganzen KI-Thema, also, weil alle wissen ja um Halluzinationen
Tim Pritlove: und Auswüchse Könnte auch.
Linus Neumann: Einfach ein bisschen halluzinieren.
Tim Pritlove: Ja.
Linus Neumann: Du könntest.
Tim Pritlove: Halluzinieren mit Linus Neumann.
Linus Neumann: Guck doch mal eben in die Flasche, wie spät das ist Naja.
Tim Pritlove: Also ich finde, das ist auf jeden Fall schon mal ein Ansatz,
Tim Pritlove: über den man nachdenken kann und das kann auf jeden Fall ein sehr unterhaltsamer Abend werden.
Tim Pritlove: Also dann auch gezielt mit der KI zu spielen. Du kannst natürlich dann auch
Tim Pritlove: mit einer KI dich unterhalten, so wie das jetzt hier Bernie Sanders gerade gemacht
Tim Pritlove: hat. Das war natürlich die andere Variante.
Linus Neumann: Eigentlich.
Tim Pritlove: Gibt es gerade so ein Video, kannst du mal anschauen.
Linus Neumann: Ich kenne nur das Interview von The Onion mit Sam Altman. Das ist gelungen, ja.
Tim Pritlove: Aber das war wahrscheinlich nicht echt. Bernie Sanders hat sich ja wirklich mit der AI unterhalten.
Linus Neumann: Und wer hat gewonnen? Chuck Norris.
Tim Pritlove: Naja, es war nicht wirklich ein Wettbewerb. Also ich glaube,
Tim Pritlove: Bernie Sanders hat gewonnen.
Tim Pritlove: Naja, wir mussten es halt Linus Way machen.
Linus Neumann: Ja, ich bin mal gespannt. Also ich versuch's. Und wenn wir beim Scheitern...
Tim Pritlove: Dann machen wir da einfach LNP. Mehr gibt's nicht.
Linus Neumann: Also das hat Mastodon schon nahegelegt.
Tim Pritlove: Was? Echt? Mastodon hat das nahegelegt. Naja, also das muss halt ein Spezial sein.
Tim Pritlove: Und ich würde sagen, AI ist genau das Thema.
Tim Pritlove: Da hast du eine Menge beizutragen und da kann man sich auf jeden Fall ein paar
Tim Pritlove: lustige Sachen einfallen lassen und das ist auch unterhaltsam.
Tim Pritlove: Das mögen die Leute, das ist ein Thema, da regt man sich gerne drüber auf.
Linus Neumann: Aber hier dieses Sam-Oltman-Interview, ne? Was ist denn das Problem,
Linus Neumann: was sagst du zu den Menschen, die Angst haben, dass AI ihnen den Job wegnimmt?
Linus Neumann: Antwort, ob von einem Computer oder von einem Chinesen, dein Job war immer dafür
Linus Neumann: da weggenommen zu werden.
Linus Neumann: Welchen Sinn werden Menschen stiften, wenn KI jeden Aspekt unseres Lebens dominiert?
Linus Neumann: Dann sagt er, Menschen waren immer und werden immer wichtig sein, um Werbung zu gucken.
Linus Neumann: Das ist wirklich...
Tim Pritlove: Da ist auf jeden Fall was zu holen. Ansonsten hast du ja noch die Möglichkeit...
Linus Neumann: Warte, das ist auch nur das Schöne. Why did you decide to devote your life to AI?
Linus Neumann: I just saw so much suffering in the world that needed to be automated.
Linus Neumann: Das ist wirklich ein Wunderschöner.
Linus Neumann: Achso, es gibt noch einen anderen Termin.
Tim Pritlove: Ja, da kannst du üben. Da kannst du vielleicht da hinfahren.
Linus Neumann: Nee, der ist danach.
Tim Pritlove: Ach, das ist danach.
Linus Neumann: Die Tage der digitalen Freiheit in Tübingen vom 15.
Linus Neumann: Bis 17. Mai 2026. Bis zum nächsten Mal.
Linus Neumann: Ist das da, wo der,
Linus Neumann: Boris Palmer ist?
Tim Pritlove: Ja, genau das ist das.
Linus Neumann: Könnt ihr euch den mal angucken.
Tim Pritlove: Ist auch sehr gehaltsam.
Linus Neumann: Ich weiß nicht, ob der da eingeladen ist. Aber also die Tage der digitalen Freiheit
Linus Neumann: in Tübingen an der Westspitze.
Linus Neumann: Es ist das fünfte Mal, dass das stattfindet unter dem Hashtag Raute TDF5 und
Linus Neumann: das Motto ist Freiräume verschlüsseln.
Linus Neumann: Es geht um digitale Freiheit, Datenschutz, Netzpolitik und Technik,
Linus Neumann: Workshops, Diskussionen und natürlich ist die Idee zu vernetzen,
Linus Neumann: sich auszutauschen und einen Raum für Kreativität zu bieten.
Linus Neumann: Spezifisch richtet sich das nicht nur an das Chaos, also Mitglieder,
Linus Neumann: Freundinnen und Freunde des Chaos Computer Clubs, sondern an alle,
Linus Neumann: die einem Leben in Freiheit und Selbstbestimmung in der digitalen Gesellschaft
Linus Neumann: immer noch Interesse schenken.
Linus Neumann: Kostenloser Eintritt, kann man da natürlich auch gerne was spenden.
Linus Neumann: Man kann, glaube ich, auch noch Programm einreichen.
Linus Neumann: Ja, es gibt noch den CFP, der ist auch bei uns in den in den Shownotes verlinkt.
Linus Neumann: Dann könnt ihr da eine Einreichung machen.
Linus Neumann: Man könnte da hingehen.
Linus Neumann: Was gibt es noch? Vorbereitung, Veranstaltung, genau. Fünfter,
Linus Neumann: ach das ist das Himmelfahrtwochenende.
Linus Neumann: Guck dir das an. Der 15. ist Christi Himmelfahrt. Da könnt ihr richtig schön
Linus Neumann: mit dem Bollerwagen, Bollerwagen, Musik, Kiste Bier.
Linus Neumann: Oh, guck mal hier. Performances und Installationen könnt ihr auch einreichen.
Linus Neumann: Also Kunst, Kreativität und Schönheit. Raum, Gebühnen, Projektraum, Hackcenter.
Linus Neumann: Und ja, Kunstprojekte. Das ist schon alles sehr spannend.
Linus Neumann: Und die Helferinnen heißen da nicht Engel, sondern Elfen.
Tim Pritlove: Oh.
Linus Neumann: Ja. Neben den Inhalten lebt das Event auch wir kennen den Begriff aus dem An.
Tim Pritlove: Okay. Hauptsache man kriegt den danach auch wieder weg.
Linus Neumann: Elfen ist ein Begriff, den man nicht mehr verwenden darf. Aber er wurde in manchen
Linus Neumann: Kontexten, bevor jetzt der...
Tim Pritlove: Den darf man nicht mehr verwenden, ich fand den super.
Linus Neumann: Ist auch ein sehr guter Begriff. Also eine Elfe...
Tim Pritlove: Nein, das erklären wir jetzt nicht.
Linus Neumann: Das müssen wir erklären.
Tim Pritlove: Was? Ist das nicht Geheimwissen?
Linus Neumann: Im Elfenheim gibt es Mineralwasser und Snacks.
Linus Neumann: Das Elfen-System ist wunderbar. Dort kannst du dich als Elfe registrieren.
Tim Pritlove: Super.
Linus Neumann: Das ist auch ein Elfen-System.
Tim Pritlove: Das erklären wir jetzt nicht.
Linus Neumann: Das müssen wir erklären.
Tim Pritlove: Okay, das musst du aber ohne.
Linus Neumann: Erklär mir die nächsten Sendung.
Tim Pritlove: Ihr ratet jetzt erstmal.
Linus Neumann: Ihr könnt in den Kommentaren erraten, was denn so eine Elfe ist.
Tim Pritlove: Ja, genau. Warum wir das jetzt lustig finden.
Linus Neumann: Ja, müssen wir auch wirklich dran denken.
Tim Pritlove: Okay. Okay, gut, dann machen wir.
Linus Neumann: Ich registriere mich schon mal.
Tim Pritlove: Ich mach Mittwoch bis Freitag den Tagplatz.
Tim Pritlove: Das kann aber lange dauern. Oh Mann.
Tim Pritlove: Ich glaub, die Sendung ist jetzt zum Ende gekommen.
Linus Neumann: Ich hätte vielleicht auch noch ein paar Elfen, die kann ich da mal entschicken.
Tim Pritlove: Ja, Leute, das war's. Erstmal wieder von uns. Hat ja nur drei Wochen gedauert.
Tim Pritlove: Wir bemühen uns, dass es nicht wieder so lange dauert.
Linus Neumann: Noch ein bisschen in den Timber 11.
Tim Pritlove: Komm, wir winken jetzt mal. Tschüss.
Linus Neumann: Ciao, ciao.
Tim Pritlove: Bis bald.
Linus Neumann: Tschüss.