Logbuch:Netzpolitik
Einblicke und Ausblicke in das netzpolitische Geschehen
https://logbuch-netzpolitik.de


LNP491 Wenn nicht auf meinem Grab getanzt wird, ist es nicht meine Beerdigung

Feedback — xz-Backdoor — TikTok-Verbot — Bezahlkarte — Pöse Hacker aus Österreich — ChatGPT vs. DSGVO — Termine

Linus ist wieder da und wir greifen das Feedback der letzten Zeit ein wenig auf der Metaebene auf. Dann schauen wir noch mal genau auf die jüngst im letzten Moment verhinderte Backdoor, die durch die Open Source Bibliothek xz den Weg in das Internet suchte und wir grübeln über das Wohl und Wehe der Einschränkungen von Social Media Diensten wie TikTok. Dann decken wir die kriminellen Machenschaften von LNP-Kontributoren auf und kratzen uns ein wenig am Kopf, wie AI-Tools und DSGVO zusammenpassen. Am Schluß noch ein Überblick über allerlei Veranstaltungen in den nächsten Monaten.

https://logbuch-netzpolitik.de/lnp491-wenn-nicht-auf-meinem-grab-getanzt-wird-ist-es-nicht-meine-beerdigung
Veröffentlicht am: 1. Mai 2024
Dauer: 2:20:17


Kapitel

  1. Intro 00:00:00.000
  2. Prolog 00:00:32.224
  3. Save the date 00:08:22.341
  4. Arschverletztheit und Humor im Angesicht des Todes 00:10:01.148
  5. xz-Backdoor 00:39:43.773
  6. TikTok-Verbot 01:08:02.347
  7. Bezahlkarte 01:37:03.200
  8. Ermittlungen gegen epicenter.works wegen angeblichen Hackings 01:47:01.391
  9. noyb: ChatGPT vs. DSGVO 01:54:24.384
  10. Termine 02:12:11.183
  11. Epilog 02:17:24.467

Transkript

Tim Pritlove
0:00:00
Linus Neumann
0:00:01
Tim Pritlove
0:00:02
Linus Neumann
0:00:08
Tim Pritlove
0:00:31
Linus Neumann
0:00:41
Tim Pritlove
0:00:47
Linus Neumann
0:00:55
Tim Pritlove
0:01:01
Linus Neumann
0:01:09

Ja.

Tim Pritlove
0:01:09
Linus Neumann
0:01:17
Tim Pritlove
0:01:20
Linus Neumann
0:01:26
Tim Pritlove
0:01:31
Linus Neumann
0:01:34
Tim Pritlove
0:01:42
Linus Neumann
0:01:50
Tim Pritlove
0:01:51
Linus Neumann
0:02:02
Tim Pritlove
0:02:03
Linus Neumann
0:02:07
Tim Pritlove
0:02:09
Linus Neumann
0:02:10
Tim Pritlove
0:02:11
Linus Neumann
0:02:23
Tim Pritlove
0:02:27
Linus Neumann
0:02:31
Tim Pritlove
0:02:33
Linus Neumann
0:02:37
Tim Pritlove
0:02:45
Linus Neumann
0:02:48
Tim Pritlove
0:02:51
Linus Neumann
0:02:52
Tim Pritlove
0:02:54
Linus Neumann
0:02:56
Tim Pritlove
0:03:00
Linus Neumann
0:03:02

Genau, vor einem halben Jahr gab es da, da sollte ihr die, das haben wir wahrscheinlich auch in der Sendung behandelt, da sollte ihr die Abteilung halbiert werden oder so. Und die hat jetzt die Staatsanwaltschaft verlassen, um die Entlassung aus dem, Beamtenstatus, den sie dort hat. Gebeten und wird wird sich offenbar als Direktorin der NGO Finanzwende zukünftig engagieren, um das Problem anders zu bekämpfen, denn als Staatsanwältin. Faszinierend. Die hat gegen viele Widerstände mit großem Nachdruck diese ganze Cum-Ex-Sache aufgeklärt, untersucht, herausgefunden. Die Verfahren geführt, in denen erstmal festgestellt wird, dass das strafbar ist. Und die hatte gegen sich diese, also neben dem Hanno Berger, der sich den Kram ausgedacht hat, der ja vorher Steuerprüfer war, glaube ich, Steuerprüfer oder Berater, weiß ich nicht genau. Ne, der war auf jeden Fall Steuerprüfer oder Steuerfahnder, der sich den ganzen Kram ausgedacht hat, dann halt die Seiten gewechselt hat auf die dunkle Seite der Macht. Diese Steuerbetrugsmasche sich hat einfallen lassen oder auch diese Rechtsanwaltskanzlei Freshfields, die das Gutachten geliefert haben, das erklärt hat, das wäre also völlig legal, sich einmal gezahlte Steuern mehrfach erstatten zu lassen. Ja, wo du auch denkst, wie kommst du denn an, wie viel muss ich einem Anwalt geben, dass der so eine Scheiße schreibt. Naja, okay. Und gegen die hat die sich alle durchgesetzt, auf einer Staatsanwältinnenposten, mit den entsprechenden Ressourcen und der entsprechenden Bezahlung. Und hat jetzt leider entnervt aufgegeben. Nee, sorry. Die hat nicht aufgegeben. Die hat entschieden, dass sie ihre Zeit besser verwenden kann, als in diesem jahrelangen Verfahren. Aufgeben zu unterstellen wäre völlig falsch, weil bei der Finanzwende wird sie ja jetzt weiter sich diesem Thema widmen.

Tim Pritlove
0:05:23
Linus Neumann
0:05:30
Tim Pritlove
0:05:39
Linus Neumann
0:05:41
Tim Pritlove
0:06:33
Linus Neumann
0:06:38
Tim Pritlove
0:06:41
Linus Neumann
0:07:10
Tim Pritlove
0:07:17
Linus Neumann
0:07:24
Tim Pritlove
0:08:17
Linus Neumann
0:08:22
Tim Pritlove
0:08:24
Linus Neumann
0:08:27
Tim Pritlove
0:08:30
Linus Neumann
0:08:32
Tim Pritlove
0:08:37
Linus Neumann
0:08:41
Tim Pritlove
0:08:52
Linus Neumann
0:09:09
Tim Pritlove
0:09:14
Linus Neumann
0:09:16
Tim Pritlove
0:09:23
Linus Neumann
0:09:24
Tim Pritlove
0:09:38
Linus Neumann
0:09:41

Ja.

Tim Pritlove
0:09:42
Linus Neumann
0:09:49
Tim Pritlove
0:09:52
Linus Neumann
0:10:00
Tim Pritlove
0:10:25
Linus Neumann
0:10:37
Tim Pritlove
0:11:47
Linus Neumann
0:11:49
Tim Pritlove
0:11:57
Linus Neumann
0:12:05
Tim Pritlove
0:12:21

Ja.

Linus Neumann
0:12:22
Tim Pritlove
0:12:23
Linus Neumann
0:12:24
Tim Pritlove
0:12:27
Linus Neumann
0:12:38
Tim Pritlove
0:12:40
Linus Neumann
0:12:42
Tim Pritlove
0:12:53
Linus Neumann
0:12:58
Tim Pritlove
0:13:00
Linus Neumann
0:13:01
Tim Pritlove
0:13:03
Linus Neumann
0:13:11
Tim Pritlove
0:13:13
Linus Neumann
0:13:46
Tim Pritlove
0:13:48
Linus Neumann
0:13:56
Tim Pritlove
0:14:03
Linus Neumann
0:14:18
Tim Pritlove
0:14:52
Linus Neumann
0:16:19

Also ich hätte, ich muss wirklich sagen, wenn du jetzt Witze über den Tod von Menschen gemacht hättest, hätte ich das auch geschmacklos gefunden, aber ich habe einfach überhaupt nichts gehört. Du hast, ihr habt darüber gewitzelt, dass du in eine Wüste fährst und da Regenschauer ist und das ist schon, das ist glaube ich, ohne das jetzt genau benennen zu können, würde ich sagen, dass es eine Reihe an Cartoons gibt, die eine solche Situation schon humoristisch aufbearbeitet haben. Aber was ich an diesem Kommentar auch ein bisschen wahrnehme, ist etwas, was mir auch wirklich ... Ja, ich habe vor, ich glaube das ist wahrscheinlich inzwischen über zehn Jahre her, Vorträge über Internetdiskussionen gehalten. Ja, ich glaube irgendwie so die Kunst des Trollens oder so. Ich habe immer bei dem Easter Hack und so, wo ich mich ein bisschen darüber auch lustig mache, wie Menschen in Internetdiskussionen so hochrot werden. Und wie das so eskaliert und wie die sich in so Themen festbeißen. Und wie die dann so jeden anpaulen, der irgendwas zu diesem Thema sagt. Und ich habe das auch beobachtet im Nachgang zu unserer Sendung zum Anzeigen Hauptmeister, wo sich dann motorisierte Gewalt und da hat sich dann dieser gesamte Kampf zwischen Radfahrern und Autofahrern und all der dort angestaute Hass auch noch in unserer Kommentarspalte. ergossen. Jetzt muss ich dazu sagen, ich bin Radfahrer, ich habe mehrere Radfahrer auch in der Sendung erzählt. Und ich habe auch heute mich wieder fürchterlich darüber aufgeregt, dass mich jemand fast umgenietet hat auf dem Weg hier in die Metaebene. Aber ich kann nicht dieses Thema in jedes Gespräch reinbringen und irgendwie eine Betroffenheit Betroffenheit oder eine Betroffenheit verlangen oder eine Anklage erheben, insbesondere wenn das einfach mal gerade nicht Thema war. Wir haben nicht darüber gesprochen, dass irgendjemand Gewalt ausübt, indem er fährt. Wir haben über parkende Autos gesprochen. Ja. Ziehen, Parallelen zum Dritten Reich. Ja, also ich glaube, das war sogar du. Was? Quasi gehorsam. Das ist ja sowieso klar, dass Parallelen zum Dritten Reich, also Godwin diskutiert ja immer mit, aber wenn jemand, der so, gesetzeshörig ist und nicht den eigenen Verstand einschaltet und so weiter, da kommen alle diese, Verkrampftheit rein. Und man kann nicht mehr einfach sich zusammen zurücklehnen und über etwas lachen. Ich muss wirklich sagen, dass mich das, also ich kann das nicht.

Tim Pritlove
0:19:51
Linus Neumann
0:20:51
Tim Pritlove
0:20:53
Linus Neumann
0:21:42
Tim Pritlove
0:21:48
Linus Neumann
0:21:56
Tim Pritlove
0:21:57
Linus Neumann
0:21:59
Tim Pritlove
0:22:04

Ja.

Linus Neumann
0:22:04
Tim Pritlove
0:22:07
Linus Neumann
0:22:13
Tim Pritlove
0:22:14
Linus Neumann
0:22:15
Tim Pritlove
0:22:17
Linus Neumann
0:23:33
Tim Pritlove
0:23:46
Linus Neumann
0:23:47
Tim Pritlove
0:23:49
Linus Neumann
0:23:52
Tim Pritlove
0:23:54
Linus Neumann
0:23:55
Tim Pritlove
0:24:18
Linus Neumann
0:24:56
Tim Pritlove
0:26:07
Linus Neumann
0:26:55
Tim Pritlove
0:26:57
Linus Neumann
0:27:00
Tim Pritlove
0:28:28
Linus Neumann
0:28:34
Tim Pritlove
0:28:34
Linus Neumann
0:28:37
Tim Pritlove
0:28:37
Linus Neumann
0:28:39
Tim Pritlove
0:28:39
Linus Neumann
0:28:41
Tim Pritlove
0:28:42
Linus Neumann
0:29:00
Tim Pritlove
0:31:04
Linus Neumann
0:31:13
Tim Pritlove
0:31:23

Ja, also ich meine, Humor ist in gewisser Hinsicht, das ist natürlich auch... Es ist auch ein Werkzeug so, weil es baut auch Brücken. Und in dieser ganzen verkrampften Diskussionskultur, die das Internet leider mit aufgebracht hat, in der Leute sich nicht nur missverstehen, sondern in gewisser Hinsicht auch missverstehen wollen, wird ein Streit herbeigeführt, der unnötig ist. Du kennst sicherlich, ich hoffe wir finden den passenden Link, aber du hast das bestimmt gesehen, es gibt dieses wunderbare GIF, wo so zwei Hunde durch so ein Tor sich ankläffen, wirklich wie aufs Blut, als würden sie sich gleich am liebsten die Nase abbeißen. Und dann macht einer das Tor so auf und sie stehen so direkt voreinander und dann so, sind sie so, war was? Und das ist aber so dieses, wie wir uns im Internet verhalten und wie wir uns im wahren Leben unterhalten. Also das ist so eine Kultur, die dieses gesichtslose, ich weiß nicht, wir hatten ja immer die Anonymität im Internet ist eine Gefahr und so weiter. Also mittlerweile wissen wir, die Anonymität ist definitiv nicht das Problem, aber ich glaube dieser Mangel an Unmittelbarkeit, so dieses Unfysische, was das Netz dann doch letzten Endes mit sich bringt. Diese Beliebigkeit, dass man Leute eigentlich gar nicht mehr als Menschen wirklich wahrnimmt, wenn sie nur durch Avatare abgebildet sind. Das ist etwas, wo man aufpassen muss und wo ich mir auch ehrlich gesagt nicht ganz so sicher bin. Dass nochmal signifikant besser werden kann. Ich denke, wir werden in gewisser Hinsicht und sind wahrscheinlich auch schon ein bisschen auf dem Weg, so eine Rückbesinnung haben auf nicht-digitale Traditionen, weil das so eine Sogwirkung erzeugen wird irgendwann. Teilweise findet das sicherlich schon statt. Also auch diese Corona-Zeit, wo dann sozusagen dieses Treffen überhaupt nicht mehr da war. Das hat ja manche Leute dann komplett über die Kante gestoßen. So und eine entsprechende Gegenbewegung ist ja glaube ich ganz sinnvoll. Und ich habe Podcasts immer sehr geschätzt in ihrer Diskussions- und Kommentarkultur. Generell, das ist auch nach wie vor so, denke ich mal, weil es schon ganz hilfreich ist, dass man sich so viel Zeit für Podcasts nimmt, sowohl jetzt auf der produzierenden als auch auf der konsumierenden Seite und dass das eben schon zu einer deutlich. Besseren Verständigung führt. Ja. Insofern, behaltet euren Humor. Das ist wichtig, ja.

Linus Neumann
0:34:41
Tim Pritlove
0:34:53
Linus Neumann
0:34:55

Ja, und auch, sagen wir mal, eine emotional gesunde Beziehung hat. Die Dinge über die Menschen, also es gibt, natürlich gibt es ein paar Themen, wo man echt lieber mal keine Witze drüber macht oder wo man die Witze anderen überlässt. Also es gibt bestimmte Phänomenbereiche, die im Bereich der Diskriminierung sind, da überlässt man die Witze lieber den Diskriminierten. Die machen einfach auch die Besseren. Mhm. Aber genau da zeigt sich ja, dass sie auch eine gesunde Distanz und einen unverkrampften Umgang mit einem Thema haben. Und ich denke, das ist also die Fähigkeit, über etwas zu lachen, ist so wirklich ein Messwert von, hast du da einen emotional groben, also bist du da frei von emotionalen Verkrampfungen oder Verklemmungen mit dem Thema. Und es gibt Dinge, über die man zu unterschiedlichen Zeitpunkten im Leben nicht lachen kann, ja, was weiß ich, ähm. Tod nahe Angehöriger, schwere Verletzungen, schwere Rückschläge, Trennungen. Aber der Zielzustand, den man seelisch haben will in einer solchen Situation, da wo man hin muss, ist immer wieder, dass man darüber lachen kann. Sagt man auch sogar, hey, komm, heute kommt das hart vor, aber in zwei Jahren sitzen wir hier und lachen. Und das ist, lachen zu können ist ein Ausdruck einer gesunden seelischen Beziehung zu einem Sachverhalt. Und deswegen muss man auch das anstreben und auch in sich selber reingehen und denken so, ey, was sind diese Themen, wo ich verkrampft werde, wo ich nicht mehr lachen kann, wo ich irgendwie ernst werde. Und man hat zu jedem Zeitpunkt seines Lebens, hat man ja welche, wo man merkt, ah shit, da habe ich gerade einen wunden Punkt. Wenn ich da jetzt drüber rede, wenn ich darüber rede, dann geht das Gespräch schief. Ja, dann, das hab ich ja jetzt zum jetzigen Zeitpunkt auch, sag ich dir jetzt aber nicht, weil, ne, aber da muss man, da ist der Imperativ, ist sofort darüber nachzudenken, wie man da wieder rauskommt, wie man darüber lachen kann, wie man Abstand dazu gewinnen kann und wie man das verarbeitet, um wieder einen unverkrampften Umgang damit zu finden. Und insofern betrachte ich vieles von dem, was ich an irgendwelchen Ausrastern im Internet wahrnehme, teilweise, also häufig einfach nur mit Mitleid, dass ich denke, oh scheiße, die Person muss das Ding gerade verarbeiten. Ja, aber was ich wirklich mit Sorge betrachte ist, dass Leute sich da gegenseitig drin befeuern und irgendwie so um die Wette keinen Humor haben. Guck mal, ich habe eine noch humorlosere Perspektive. Ich kann hier noch fünf Tote mit ins Feld führen, die auch noch verunglimpft wurden. Und außerdem kann ich hier noch einen entfernten Suizid in der Familie mit reinbringen, um die Stimmung mal richtig hier in den Keller zu drücken.

Tim Pritlove
0:37:58
Linus Neumann
0:38:01
Tim Pritlove
0:38:58
Linus Neumann
0:39:04
Tim Pritlove
0:39:13
Linus Neumann
0:39:14
Tim Pritlove
0:39:21
Linus Neumann
0:39:23
Tim Pritlove
0:39:25
Linus Neumann
0:39:43
Tim Pritlove
0:40:05
Linus Neumann
0:40:13
Tim Pritlove
0:40:14
Linus Neumann
0:40:29
Tim Pritlove
0:40:31
Linus Neumann
0:40:36
Tim Pritlove
0:41:07
Linus Neumann
0:41:13
Tim Pritlove
0:41:17
Linus Neumann
0:41:18
Tim Pritlove
0:41:43
Linus Neumann
0:42:01
Tim Pritlove
0:42:11
Linus Neumann
0:42:14

Der stellte fest, dass er bei seinem Management von Systemen irgendwie auf einmal längere Verzögerungen hatte beim Herstellen von SSH-Verbindungen. Und zwar auf einem Testsystem, das er gerade neu gemacht hat. Tatsächlich wirklich irre, dass ihm das überhaupt aufgefallen ist. Das zeigt einfach, dass er da wirklich sehr gute Tests hat und enorm auf jede Abweichung da geachtet hat. Und dann fällt ihm auf, okay, das ist sehr komisch, diese SSH-Verbindung hat eine lange Verzögerung und da geht auch irgendwie kurz die CPU-Last auf den Systemen hoch. Und er findet im Prinzip damit einen Bug in SSH auf diesen Testsystemen, die aus ich weiß nicht genau welche Linux-Distribution er da genutzt hat, aber die quasi aus den, Beta-Testing-Instable Und dann taucht er diesem Bug hinterher und entdeckt etwas, was sich dann am Ende herausstellt als eine absichtlich platzierte Schwachstelle in einer Softwarebibliothek mit dem Namen XZ. XZ ist ein, eher so im FreeBSD-Bereich finde ich hauptsächlich eher so XZ-komprimierte Daten. Also es ist ein Komprimierungsalgorithmus. Von denen es ja viele gibt, die also einfach zum Ziel haben, Dateigrößen zu komprimieren, etwas kleiner zu machen. Und diese XZ-Library ist eine Dependency von SSH, der Secure Shell. Was heißt Dependency? Bereitstellt, sodass man sie in anderen Programmen auch nutzen kann. Und dann schreibe ich quasi mein Programm und sage, dieses Programm bekommt übrigens, nutzt auch die Library von XZ und dann kann ich in meinem Programm, wiederum XZ benutzen.

Tim Pritlove
0:45:05
Linus Neumann
0:45:31
Tim Pritlove
0:45:40
Linus Neumann
0:45:42

Der Deutsche findet vom Chinesen platziert... Findet also, dass es in dem Code von XZ... Eine Änderung gibt, die dazu führt, dass wenn XZ verwendet wird im Kontext von SSH, potenziell eine Verschlüsselungsoperation gestört wird, oder eine kryptografische Operation gestört wird, die am Ende potenziell dazu führen könnte, dass man sich anmelden kann, ohne den richtigen Key oder das richtige Passwort zu haben. Aber diese Backdoor funktioniert aber nicht wirklich, sondern führt zu Problemen bei einer normalen Anmeldung und ist außerdem in dem Code von XZ enorm gut versteckt. Nämlich so, dass sie nicht normal im Code zu finden ist, sondern dann, wenn man XZ kompiliert, wird aus einem Testcase quasi, steganografisch etwas rausgeholt und in den Code im Code untergebracht. Also wirklich gezielt eine Backdoor platziert und der Code, wirklich aus dem sie besteht, wird nur beim Kompilieren unter bestimmten Bedingungen aus einer, aus einer Testdatei, wo man die Kompression nämlich mitprüfen soll, wiederhergestellt. Ein guter Grund, warum da einfach irgendeine Datei ist, die random aussieht. Wie ist das dahin geraten? Jetzt kommen wir also von dem anderen Ende. Er deckt jetzt diese krasse Backdoor. Und jetzt kommen wir zum anderen Ende. Was war denn in diesem XZ-Projekt los? Und da kommen wir zu dem Teil, der glaube ich hier für Logbuch-Netzpolitik viel interessanter ist. Es gibt ja, Die Open-Source-Community. Die stereotype Vorstellung davon ist, dass das alles so ein paar Hippies mit Pferdedecke und Wollsocken sind, die an ihrem, Computer sitzen und, Pizza essen, Mate trinken und der Welt diese tolle Software frei und kostenlos zur Verfügung stellen und nächstes Jahr da gibt es Linux on the Desktop. Das ist so die Außenperspektive. Und dann gibt es immer noch Leute, die sagen, ja, und weil das ja alles Open Source ist, können ja alle den Quellcode einsehen. Und deswegen ist das sicherer, weil das ja alle machen. Also irgendjemand wird sich das ja schon angucken. Ich glaube, die Realität ist ein bisschen eine andere. Solche Software-Libraries werden gepflegt teilweise von, Die Developern im Ehrenamt, das ist durchaus jetzt nicht auszuschließen. Die Maintainer sind aber natürlich häufig Leute, die irgendwie ein Interesse am Fortbestand dieser Software-Library haben. Und diejenigen, die dazu contributen, sind auch Leute, die in der Regel eine Funktionalität hinzufügen möchten, die die Library auch benutzen, die irgendwann mal darüber stolpern bei ihrer Nutzung, darin eine Optimierung feststellen oder so. Und so trifft sich dann diese Entwickler-Community in den Repositories, hauptsächlich würde ich sagen auf GitHub und sagt dort, ey, ich habe hier auch noch eine Verbesserung an diesem Code, die ich gerne beitragen möchte. Und häufig stehen diese Leute irgendwo anders in Lohn und Brot. Die Leute, die den Linux-Kernel entwickeln oder die Beiträge zum Linux-Kernel schreiben, was meinst du, wo die arbeiten? Die arbeiten bei Red Hat, die arbeiten bei Suse, aber die arbeiten natürlich auch bei Facebook, bei Google, bei Microsoft und sonst wo. Und bei Deutschland. Und bei Deutschland. GmbH. Und die Funktionalitäten, die sie in den Linux-Körnel reinschreiben, das sind welche, die sie selber brauchen. Ist doch klar, die sitzen noch nicht da und sagen, heute schreibe ich mal einen Treiber für irgendeine Grafikkarte im Linux-Körnel. Nein, die schreiben den Treiber für ihre Grafikkarte, die sie brauchen. Das heißt, da sind natürlich, findet diese... Diese Entwicklung mit kommerziellen Interessen statt. Ist ja klar. Und getrieben von kommerziellen Interessen. Und bei einigen Tools entsteht natürlich auch so ein bisschen der Eindruck, dass die potenziell vielleicht auch einfach jetzt mal fertig sind. So zum Beispiel diese XZ-Library. Der Kompressionsalgorithmus ist nach meinem Dafürhalten ohnehin jetzt nicht ein enorm verbreiteter. Gzip ist häufiger verbreitet. Ich glaube aber nicht notwendigerweise besser, weiß aber jetzt nicht so genau. Und jetzt hast du da diese XZ-Library. Irgendjemand hat die unliebsame Aufgabe, das Ding zu maintainen und hat wahrscheinlich in seinem Leben noch eine ganze Menge anderer Dinge zu tun. Und jetzt passiert folgendes, da kommen auf einmal total aktive Contributor. Und die pflegen ein Jahr, machen die die ganze Zeit Contributions zu dem Projekt und wenn ihre Vorschläge nicht nach kürzester Zeit angenommen und in das Projekt vom Maintainer integriert wurden, dann fangen die an sich zu beschweren und am Ende sagen sie dem Maintainer, ey pass mal auf, du machst doch hier eh nichts mehr, wie wäre es denn, wenn ich jetzt einfach Maintainer werde? Und dann sagt der Metaider, hast eigentlich recht, seit zwei Jahren interessiert mich diese scheiß Software-Library überhaupt nicht mehr. Ich werde von euch hier die ganze Zeit nur angekackt. Ich sehe auch gar keinen Sinn darin, das jetzt irgendwie weiter zu pflegen. In meinem Leben zumindest nicht.

Tim Pritlove
0:52:02
Linus Neumann
0:52:33
Tim Pritlove
0:53:17
Linus Neumann
0:53:35
Tim Pritlove
0:53:39
Linus Neumann
0:54:22
Tim Pritlove
0:54:25

Also eigentlich ist alles, was heutzutage auf Servern läuft, vielleicht mit der Ausnahme von Microsoft-Servern, ist Unix und dann eben in den meisten Fällen auch Linux. Und dazu eben dieses ganze Ökosystem. So, und wann ist das gestartet? Das ist Anfang der 90er Jahre gestartet. Das heißt, wir blicken jetzt im Prinzip auf ungefähr 30 Jahre, die dieses Ökosystem sich entwickelt hat. Das heißt, die meisten Leute, die das angestoßen haben, die leben auch noch. Ein paar nicht mehr. Und wir werden natürlich jetzt immer mehr sehen, dass die ursprünglichen Entwickler es nicht mehr machen können, versterben, they move on to other things, Dinge passieren, andere Leute übernehmen und in vielen Fällen wird es auch kein Problem sein, weil der Code, der interessant ist, ja, also der, was weiß ich, laufend immer wieder neue Herausforderungen hat, der von vielen Leuten angeschaut wird, So was wie ein Netzwerkkode, wo sich einfach die ganze Zeit irgendwas ändert, wo man immer auf irgendwas reagieren muss, wo die Standards sich am laufenden Meter weiterentwickeln, die Anforderungen durch neue Hardware, Timings, Geschwindigkeiten. Vereinbarungen, Protokolle und so weiter immer wieder was Neues dazukommt und wo auch so ein permanenter Verbesserungsbedarf ist. Da werden nach wie vor viele Leute drauf schauen, das wird heiß diskutiert werden. Aber so diese langweiligen Sachen, in Anführungsstrichen, oder sagen wir mal so die fertigen Sachen, der gut abgehangene Code, der aber eben auch da sein muss, der erfährt eben nicht mehr so diese Aufmerksamkeit. Und das macht jetzt den Eindruck, dass in diesem Fall das Ganze sozusagen als eine systemische Sicherheitslücke begriffen wurde, weil man halt gesehen hat, dass man über dieses Einfallstor dieser Library, die erstmal völlig harmlos daherkommt, so ja, ich mach Datenkompression, Das, wie man gesehen hat, die hängt aber jetzt konkret bei modernen Linux-Distributionen in so einer ganz wichtigen Komponente, diesem System D, so diesem zentralen Schaltwerk des moderner Linux-Systeme mit drin und kann eben dann auch über diesen ausgenutzten Pfad tatsächlich in das Verhalten von SSH, also dem Tool. Was sichere Verbindungen über das Netzwerk letztlich erlaubt, da eingreifen. Und um dort Veränderungen machen zu können, die dann mehr oder weniger universell weltweit in allen Systemen ausgerollt worden wären. Dazu kam es ja letzten Endes nicht mehr, dafür bedurfte es in Anführungsstrichen nur, diese Maintainership zu übernehmen. Und diese Person war halt niemandem bekannt, auch dem anderen Maintainer nicht, sondern das sind alles nur Usernames on the Internet und es gab ja auch verschiedene Fürsprecher für diesen Entwickler, die sich dann in dieser Diskussion für den eingesetzt haben, ob das wirklich reale Personen sind, we don't know. Kann sein, dass das alles nur von einer einzigen Person gemacht wurde. Kann natürlich auch sein, wie viele vermutet haben, dass es sich hier um eine konzertierte Aktion handelt, weil was ja bemerkenswert ist hier, das ist ja nicht so eine Attacke, die jetzt mal so einen Monat oder so vorangezogen wurde, sondern das ist ja so ein Plan, der sich über einen Zeitraum von, ich weiß jetzt gar nicht, so mindestens einem, vielleicht sogar zwei Jahren abgespielt hat.

Linus Neumann
0:58:09
Tim Pritlove
0:58:11
Linus Neumann
0:59:05

29.10.2021 hatte den ersten Patch auf die XZ-Developer-Mailing-List. Also zweieinhalb Jahre lief diese Operation. Und die tatsächliche Backdoor wurde, mal gucken, wurde wahrscheinlich irgendwie so, 23.02. Hat er die ausgerollt und wir können, also um jetzt mal die andere Perspektive zu sagen, das ist irre, dass das jemand gefunden hat. Also das ist haarscharf, also das hätte problemlos durchgehen können, wenn er da nicht irgendwie einen kleinen Fehler gehabt hätte und wenn die Backdoor ein bisschen stabiler gewesen wäre. Die Wahrscheinlichkeit, dass die jemand entdeckt, war äußerst gering. Aber, das muss man nochmal sagen, sie hat es nur in die Unstable-Version, in die Testing-Version von einigen Linux-Distributionen geschafft, die niemand, der grob klar denkt, im Produktiveinsatz hat. Aber der nächste Schritt wäre gewesen, wenn das da stabil läuft, dann wird irgendwann gesagt, alles klar, die Runde läuft, jetzt machen wir ein nächstes Update und dann fließt das irgendwann in die Stable-Version. Und das hätte jetzt, keine Ahnung, weiß ich nicht, wie lange das jetzt doch gedauert hätte. Wahrscheinlich eher ein bisschen länger oder vielleicht auch ein bisschen schneller, weil keiner denkt, dass das bei der LibLZMA irgendwie eine Rolle spielt. Aber das wäre früher oder später, wenn das nicht entdeckt worden wäre, wäre das irgendwann signifikant massenhaft auf Linux und Unix auf Linux-Systemen primär gewesen und dann hättest du eine Situation gehabt, in der vermutlich, wer auch immer sich diese Operation ausgedacht hat. Mit Hilfe dieser Backdoor auf alle Systeme draufgekommen wäre, die mit dieser Backdoor versehen sind. Und dann wäre die Frage gewesen, wie klug sich die Angreifenden mit diesem Wissen verhalten. Ob sie das für Spionagezwecke nutzen, ob sie das für Sabotagezwecke nutzen, aber so oder so wäre es ein absolutes Desaster gewesen. Und das krasse ist, dass man sich jetzt natürlich die Frage stellt, ist das die einzige Sache, wo sie es gemacht haben? Wäre ja auf andere Weise auch echt schwierig, alle Eier in einen Korb zu legen und irgendwie über mehrere Jahre ein XZ herum entwickeln zu müssen, um dann irgendwann da mal so ein Ding reinzuschieben. Oder ob man sagt, alles klar, wir machen das mal am besten mit fünf, sechs unterschiedlichen. Die Pendancies und versuchen mal noch auf anderen Wegen das Ganze zu machen oder andere Leute hatten die Idee auch und haben es auch gut gemacht.

Tim Pritlove
1:02:22

Ja und jetzt stellt sich natürlich die Frage, Wie geht man damit um und kann man da eigentlich was gegen tun? Kurzfristig stellt sich natürlich jetzt vielleicht so die Frage, okay, ist irgendwo in den letzten zwei Jahren auch so ein Maintainership von irgendeinem Projekt auf jemand anders übergegangen? Weiß man das eigentlich? Wird das irgendwo registriert? Kommt man an die Leute ran, die einem diese Informationen liefern könnten? Wie kann man jetzt überhaupt den Leuten trauen, also auch den aktuellen Maintainern? Also woher weiß man denn, dass nicht irgendwie in allen Bibliotheken Malicious Code schon am Start ist? weil den Leuten vielleicht, ich meine, in diesem Fall war es ja wirklich ein Wechsel der Personalie. In einem anderen Fall kann es ja auch einfach sein, dass Leute vielleicht, ich denke mir jetzt was aus, ich weiß, ich sage nicht, das ist passiert, aber es ist natürlich auch vorstellbar, dass einfach Druck ausgeübt wird auf Entwickler, die diesen Maintainer Zugriff haben. Durch was auch immer, durch Geld, durch Bedrohung, durch keine Ahnung, was auch immer. Ich meine, wenn genug Geld und Machtgewinn im Spiel ist, dann ist auf jeden Fall meistens selten Ressourcenmangel bei der Anwendung von solchen Strategien das Problem. Und dementsprechend muss man sich halt fragen, wie kann man sich denn dagegen absichern? Ist sozusagen diese wunderbare Vorstellung von einer Ansammlung von benevolenten Diktatoren, die sozusagen für diese ganzen Projekte stehen, ist es wirklich ein belastbares Modell in einer Welt, in der so viel Sicherheit im Spiel und auf dem Spiel steht beim Einsatz von Computern.

Linus Neumann
1:04:29
Tim Pritlove
1:05:06
Linus Neumann
1:05:08
Tim Pritlove
1:05:41
Linus Neumann
1:05:44
Tim Pritlove
1:05:47
Linus Neumann
1:05:57
Tim Pritlove
1:07:26
Linus Neumann
1:07:39
Tim Pritlove
1:08:00
Linus Neumann
1:08:08
Tim Pritlove
1:09:49
Linus Neumann
1:09:51
Tim Pritlove
1:10:23
Linus Neumann
1:10:32
Tim Pritlove
1:10:57
Linus Neumann
1:11:05
Tim Pritlove
1:11:11
Linus Neumann
1:11:16
Tim Pritlove
1:11:20
Linus Neumann
1:11:47
Tim Pritlove
1:11:49
Linus Neumann
1:11:50
Tim Pritlove
1:11:51
Linus Neumann
1:12:04
Tim Pritlove
1:12:06
Linus Neumann
1:12:26
Tim Pritlove
1:12:33
Linus Neumann
1:12:43
Tim Pritlove
1:12:48
Linus Neumann
1:12:49
Tim Pritlove
1:12:50
Linus Neumann
1:12:51
Tim Pritlove
1:12:54
Linus Neumann
1:12:57
Tim Pritlove
1:13:07
Linus Neumann
1:13:10
Tim Pritlove
1:13:10

Okay. Verzicht mir jetzt erstmal nicht weiter. Also was halten wir jetzt davon? Das ist natürlich jetzt in gewisser Hinsicht eine interessante Krise, die sich da jetzt zusammenbraut. Nämlich so bisschen Zauberlehrlings mäßig jetzt haben wir diese ganzen Tools gebaut und jetzt passen sie uns auf einmal nicht, weil jetzt irgendwie wehe wehe das Wasser überall entlang flutet und Ärger macht und jetzt ist es auf einmal eine Frage der nationalen Sicherheit, weil man halt in einem. Fernduell mit China sich wähnt, Und geopolitische Spannungen um Taiwan eine Rolle spielen und natürlich auch sehr viel im Bereich der Wirtschaftsspionage. Aber eben in zunehmendem Maße auch das Bedenken, dass ebenso wie es die Russen nun schon lange Zeit machen, auch die Chinesen über diese Werkzeuge die öffentliche Meinung im Westen beeinflussen können. Und das sicherlich auf die eine oder andere Art und Weise auch schon tun und sei es erstmal durch das Weglassen von Informationen. Genauso eignen sich aber nun diese Netzwerke auch, indem man den Algorithmus entsprechend anpasst, indem man bestimmte Informationen pusht. Und auch China ist mittlerweile bekannt als Quelle von Desinformation. Nicht nur auf TikTok, aber eben auch auf TikTok, wann auch immer irgendetwas passiert mittlerweile auf dieser Welt, irgendwo ein Terroranschlag oder irgendwie ein Unglück, was dann aber als Terroranschlag gepostet wird. Und dann siehst du halt auf einmal so Fliegen innerhalb kürzester Zeit, tausend Videos und Takes auf diese Sache und was da jetzt wieder sein kann und wer dann dahinter steht. Das ist halt einfach so die Methode der informationellen Kriegsführung, wie man sie auch eben von den Russen sehr stark sieht. Und dieses Gesamtgeschehen, das sorgt jetzt eben im amerikanischen Kongress für diese Entscheidung, dass man jetzt irgendwie TikTok untersagen will. Und jetzt haben wir natürlich so ein bisschen das Problem, wie bewerten wir denn das, weil so das komplette Abschalten von irgendwelchen Netzwerken ist natürlich auch problematisch.

Linus Neumann
1:15:49
Tim Pritlove
1:16:35
Linus Neumann
1:16:37
Tim Pritlove
1:16:39
Linus Neumann
1:17:04
Tim Pritlove
1:17:30
Linus Neumann
1:17:32
Tim Pritlove
1:19:14
Linus Neumann
1:19:16
Tim Pritlove
1:19:24
Linus Neumann
1:19:33
Tim Pritlove
1:20:22
Linus Neumann
1:21:42
Tim Pritlove
1:21:55
Linus Neumann
1:22:08
Tim Pritlove
1:22:11
Linus Neumann
1:22:21
Tim Pritlove
1:22:27
Linus Neumann
1:22:44
Tim Pritlove
1:22:52
Linus Neumann
1:24:21
Tim Pritlove
1:24:40
Linus Neumann
1:25:00
Tim Pritlove
1:25:00
Linus Neumann
1:25:42
Tim Pritlove
1:25:58
Linus Neumann
1:26:03
Tim Pritlove
1:26:17
Linus Neumann
1:26:20
Tim Pritlove
1:26:54
Linus Neumann
1:27:00
Tim Pritlove
1:27:06
Linus Neumann
1:27:08
Tim Pritlove
1:27:18

Ja, aber ich meine, das ist ja vollkommen klar, aber das sind ja nützliche Idioten, weil das sind Idioten, die halt sozusagen machtgeil sind Und die letzten Endes dem Herrn, der am meisten in sie hinein investiert, dienen. Und wenn das dann halt eine ausländische Macht ist, dann ist das halt so. Hauptsache die Kohle stimmt. Das ist das Problem. Und diese Leute ohne Gewissen und ohne ausreichenden Hang zu dem Grundgesetz sind natürlich Einfallstore. Aber zurück zu den sozialen Netzwerken, das sind dann eben auch die Werkzeuge, die hier zum Einsatz kommen und es ist ja nicht nur das, was jetzt die AfD selbst absondert, sondern es ist eben auch das, womit das Ganze dann flankiert wird durch die Algorithmen. Das ist schon ein reales Problem, das muss man jetzt sehen, weil es mischt sich eben mit allem. Es mischt sich mit diesen absurden Challenges, die da auch nochmal für Probleme sorgen, aber es mischt sich eben vor allem mit gezielter Desinformation. Und ich meine, dass Leute was falsch wahrnehmen und falsch berichten, das ist so das eine, aber dass man eben diese Systeme benutzt, um wirklich gezielt für eine Verunsicherung herbeizuführen, eine Welt zu schaffen, in der die Leute nichts mehr glauben. Ich meine wir wundern uns immer warum manche Leute einfach vollkommenen Unsinn glauben. Das ist halt einfach ein Symptom, resultiert aus einer Bombardierung mit tausend Sachen, die keinen Sinn ergeben und genau das ist das Ziel dieser Propaganda. Das ist auch immer die Marschrichtung der Russen. Du erzählst einfach so viel Quatsch und so viel, du kannst es auch so sehen und so sehen und so sehen, bis irgendwie gar nichts mehr wahr ist. Und dann zählt einfach nur noch das Gefühl und das Gefühl, das wird halt einfach durch Angst geschürt. Du machst einfach für irgendwas Angst und in dem Moment, wo die Leute Angst haben, regiert die Dummheit.

Linus Neumann
1:29:29
Tim Pritlove
1:29:38
Linus Neumann
1:29:42
Tim Pritlove
1:30:15
Linus Neumann
1:30:19
Tim Pritlove
1:32:10
Linus Neumann
1:32:16
Tim Pritlove
1:32:17
Linus Neumann
1:32:22
Tim Pritlove
1:32:23
Linus Neumann
1:32:31
Tim Pritlove
1:32:37
Linus Neumann
1:34:06
Tim Pritlove
1:34:07
Linus Neumann
1:34:10
Tim Pritlove
1:34:38
Linus Neumann
1:34:40
Tim Pritlove
1:34:44
Linus Neumann
1:34:55
Tim Pritlove
1:34:59
Linus Neumann
1:35:13
Tim Pritlove
1:35:15
Linus Neumann
1:35:54
Tim Pritlove
1:36:04
Linus Neumann
1:36:05
Tim Pritlove
1:36:44
Linus Neumann
1:37:03
Tim Pritlove
1:37:06
Linus Neumann
1:37:20

Es ist einfach nur ein also das ist auch wieder so ein Thema, was ich nicht so mitbekommen habe. Aber wenn ich das richtig zusammenfasse, also was ich da jetzt so gehört habe, ist Asylsuchende, geflüchtete Menschen in Deutschland oder auch auf dauerhaften Aufenthaltsstatus wartende, die finanzielle Unterstützung vom deutschen Staat bekommen, sollen die nicht mehr Bar bekommen. Die sollen kein Bargeld mehr kriegen. Aktuell kriegen die Bargeld und dann können die mit dem Bargeld Dinge kaufen. Und jetzt sollen die eine Karte kriegen. Denkt man sich erstmal? Interessant, weil man ja Karten in Deutschland eigentlich immer noch nicht so ein anerkanntes Zahlungsmittel sind. Aber das bessert sich ja so ein bisschen. Jetzt sollen die mit einer Karte zahlen. Auf den ersten Blick denke ich, naja, okay, warum nicht? Und dann wird aber gesagt, ja, bei der Karte, also wollen wir ein bisschen kontrollieren, mit der Karte sollen die kein Bargeld abheben können, und mit der Karte können die nicht im Ausland zahlen und wir können da so potenziell mal so ein bisschen Kontrolle darüber darüber einnehmen, wo die ihr Geld so ausgeben. Und dann denkst du dir, okay, warum brauchen wir das denn? Und als Begründung wird dann angeführt, ja, sonst schicken die Geld zurück an die Schleuser. Und du denkst dir so, hä? Also was ist das? Also wer das eine solche Argumentation vorträgt, der gehört doch sofort weggeschickt, wie kommt man denn mit so einem Quatsch weiter weißt du, die Schleuser, klar, die sagen pass auf, Jungs, ihr wollt in ein anderes Land, ihr wollt in ein anderes Land auf einem anderen Kontinent, kein Problem ich bring euch da hin, ich bring euch in ein anderes Land und.

Tim Pritlove
1:39:42
Linus Neumann
1:39:43
Tim Pritlove
1:39:49
Linus Neumann
1:39:54
Tim Pritlove
1:40:58
Linus Neumann
1:41:04
Tim Pritlove
1:41:08
Linus Neumann
1:41:37
Tim Pritlove
1:41:43
Linus Neumann
1:41:46
Tim Pritlove
1:41:51
Linus Neumann
1:42:08
Tim Pritlove
1:42:11
Linus Neumann
1:42:24
Tim Pritlove
1:42:27
Linus Neumann
1:43:31
Tim Pritlove
1:43:54
Linus Neumann
1:44:00
Tim Pritlove
1:45:41
Linus Neumann
1:45:46
Tim Pritlove
1:46:51
Linus Neumann
1:46:53
Tim Pritlove
1:47:01
Linus Neumann
1:47:07
Tim Pritlove
1:47:31
Linus Neumann
1:47:34
Tim Pritlove
1:48:01
Linus Neumann
1:48:01

Ja.

Tim Pritlove
1:48:02
Linus Neumann
1:48:05
Tim Pritlove
1:48:10
Linus Neumann
1:48:13

Weiß man nicht, vielleicht haben sie es nicht. Und da hat das epidemiologische Meldesystem eine Rolle gespielt. Da wurden Corona-Daten drin erfasst und da wurden so Zertifikate relativ lax verteilt, die irgendwie in allen möglichen Händen waren. Da waren 225 von im Umlauf und eins davon lief auf eine Laborfirma, die schon gar nicht mehr hätte zugreifen dürfen. Die konnte aber noch zugreifen und so konnte man mit diesen Zertifikaten wäre es möglich gewesen, erstens die personenbezogenen Daten, die in diesem System sind, abzufragen, falsche Laborergebnisse einzuspielen und weil eben diese Zertifikate nicht personalisiert waren. Das hatte Epicenter gefunden, also Thomas und seine Kolleginnen und Kollegen und haben das zusammen mit dem Standard aufgedeckt und dann auch an das Gesundheitsministerium gemeldet, bevor sie es veröffentlicht haben und so weiter und so fort. Die Schwachstelle wurde behoben und dann haben aber Beamte aus dem Gesundheitsministerium Anzeige nach Paragraf 118 StGB, Achtung, österreichisches StGB, widerrechtlicher Zugriff auf ein Computersystem gestellt. Das wurde dann Thomas ein Jahr später mitgeteilt und jetzt dann ein weiteres Jahr später wurde dieses Verfahren eingestellt. Jetzt ist natürlich wieder klar, da gehst du als Datenschutz-NGO hin, meldest eine Sicherheitslücke in einem epidemiologischen Meldesystem an das Gesundheitsministerium. Und dann wirst du, dann läuft da zwei Jahre ein Ermittlungsverfahren gegen dich. Das zeigt natürlich einfach nur, wie völlig bescheuert diese Vorgehensweise hier ist und dass das Verfahren so lange aufrechterhalten wurde, lag hoffentlich einfach mal daran, dass es sich so wenig darum gekümmert wurde, dass es noch nicht mal abgeschlossen wurde. Das wäre jetzt meine Hoffnung, ja. Natürlich ist das mal wieder eines der immer wieder auftretenden, dennoch seltenen Beispiele von Hackerparagraphen gegen gute. Benevolente Hacker. Ich möchte nur an dieser Stelle nochmal sagen, weil wir immer mehr so beim CCC Meldungen kriegen, yo ich hab hier was gefunden, meldet ihr das mal, ich hab keinen Bock verklagt zu werden. Und das ist, ich möchte nochmal dazu sagen, das ist äußerst, äußerst, äußerst selten, dass so etwas passiert. Und das ist nichts, wovor man Angst haben muss. Und ich weiß nicht, wie viele Sicherheitslücken ich schon gemeldet habe. Und es war noch nie jemand so blöd, mich dafür wirklich anzuzeigen oder zu verklagen oder Ermittlungen angehen zu lassen. Man hört natürlich von den Fällen, weil wir die hier behandeln, weil wir hier auf einen Missstand hinweisen. Aber in den... Und es ist einfach äußerst unwahrscheinlich, dass einem so etwas passiert und auch in diesem Fall jetzt nicht mit wirklich negativen Konsequenzen. Ja, da wurde jetzt niemand bestraft oder so. Natürlich ist das nervig, ja, aber.

Tim Pritlove
1:52:13
Linus Neumann
1:52:54
Tim Pritlove
1:52:58
Linus Neumann
1:53:00

Ja, das ist richtig, aber du kannst auch, also weißt du, man muss ja schon, also die Wahrscheinlichkeit ist dennoch so gering, dass sie dich nicht davon abhalten sollte, eine solche Meldung zu machen. Weißt du, darauf will ich ja hinaus. Genau das Verhalten, das der gesamtgesellschaftlichen Sicherheit und der demokratischen Debatte über realistische Bedrohungsszenarien dienen würde, wird durch die aktuelle Lage, also unter Umständen bestraft. Beziehungsweise durch das hohe rechtliche Risiko und den enormen Aufwand zumindest der Untertitel. Das ist alles absolut richtig, natürlich. Also ich schließe mich dem ja völlig an. Ich möchte nur sagen, lasst euch bitte nicht davon ermutigen, die Wahrscheinlichkeit, dass einem so etwas passiert, ist trotzdem enorm niedrig. Ja, man hört nur halt von diesen Fällen, weil wir die hier behandeln. Naja. So, und Neub hat ein neues Betätigungsfeld, None of Your Business, wir sind ja gerade bei unseren Ösi-Freunden, Max Schrems, die haben gesagt, ChatGPT soll aufhören zu lügen. Und das ist natürlich auch ich meine, die legen natürlich auch den ich meine, also die sagen, Also folgendes ist die Argumentation, die sie vortragen. Sie sagen so, in der EU verlangt die DSGVO, die GDPR, dass Informationen über Individuen, über Einzelpersonen akkurat ist, dass sie vollen Zugriff haben auf die Information, die gespeichert wird und auch die Informationen über die Quelle. Ja und das ist jetzt, also das ist dieses klassische Ding, wenn ich mit einem Unternehmen in Kontakt bin oder so, die Daten über mich gespeichert haben, kann ich sagen, ich hätte gerne alle Daten, die ihr über mich habt und ich hätte gerne, ich würde gerne wissen, woher ihr die habt. Und ich kann dann auch sagen, löscht die bitte. DSGVO, Auskunftsersuchen, Löschungsersuchen und so weiter, alles rechtlich geregelt. OpenAI sagt, dass sie nicht in der Lage sind, inkorrekte Informationen bei ChatGPT zu korrigieren, geschweige denn zu entfernen. Außerdem stimmt auch und sie sagen dass sie, also das englische Zitat hier ist hier Factual accuracy in large language models remains an area of active research also Faktengenauigkeit und Faktentreue in solchen Modellen ist ein Bereich der aktiven Forschung, und jetzt Jetzt gehen die Neubs hin und sagen, naja, okay, dann reichen wir jetzt Beschwerde ein bei der österreichischen Datenschutzbehörde, wo es nämlich offenbar hier ein System betrieben wird, ein Computersystem, das Informationen über Individuen sagt und eben den DSGVO-Anforderungen nicht entspricht. Und ja, also ich glaube, die haben inhaltlich recht.

Tim Pritlove
1:57:05
Linus Neumann
1:57:27
Tim Pritlove
1:57:31
Linus Neumann
1:57:54
Tim Pritlove
1:58:03
Linus Neumann
1:58:04
Tim Pritlove
1:58:15
Linus Neumann
1:58:17
Tim Pritlove
1:59:04
Linus Neumann
1:59:06
Tim Pritlove
1:59:08
Linus Neumann
1:59:19
Tim Pritlove
1:59:26
Linus Neumann
1:59:34
Tim Pritlove
2:00:28
Linus Neumann
2:00:37
Tim Pritlove
2:01:09
Linus Neumann
2:01:15
Tim Pritlove
2:01:25

Ja, das Problem ist bei OpenAI, ganz unabhängig vom Datenschutz, ähnlich gelagert wie schon diese ganzen Debatten um, wessen Kunst wird jetzt hier verwendet, gibt es hier sozusagen Copyright-Bedenken, also alle Einschränkungen, die auf diese Large Language Models bisher schon gemacht wurden, Sei es freiwillige Maßnahmen von OpenAI oder eben auch schon in einer Form gesetzliche Verhinderung oder was weiß ich, militärische Bedenken, alles mögliche, ja, wird ja dann sozusagen in diese Systemprompts eingebaut. Verhindere, darüber zu reden wenn ich jetzt irgendwie anfange mach mir ein. Drehbuch für einen Film, was so ist wie Bambi von Disney dann wird dir das Ding irgendwie sagen, ja, so konkret und so weiter kann ich das jetzt aber nicht machen also solche ablehnenden Sachen gibt es, es gibt sozusagen, Einflussnamen, aber die können halt auch immer wieder umgangen werden, indem man halt klüger fragt oder, dem System einredet, dass es solche. Regeln nicht begrenzen soll. Das Problem hier ist, ja, das kann sein, dass diese Systeme das ausspucken und dieses Regelwerk ist aber eigentlich nicht für diese AI gemacht gewesen. Sondern die geht ja sozusagen davon aus, dass das sozusagen eine bewusste Informationslieferung ist und eine konkrete Informationsspeicherung auch ist. Selbst wenn es eben Suchmaschinen betrifft. Untertitelung des ZDF, 2020, Und jetzt haben wir eben ein anderes Problem, dass diese Systeme ja das Internet ja gar nicht literally abspeichern, sondern sich quasi neu ausdenken. Die lesen das Internet einmal durch und legen so ihre Wahrnehmung in Binärcode ab und wenn man sie dann befragt, dann lesen sie diese Interpretation des Internets wieder aus und liefern dann irgendein Ergebnis, was in den meisten Fällen ganz gut passt und vielleicht manchmal eben auch solche privaten Daten liefert. Und da haben wir jetzt so ein bisschen den Salat.

Linus Neumann
2:03:51
Tim Pritlove
2:04:15
Linus Neumann
2:04:41
Tim Pritlove
2:05:08
Linus Neumann
2:05:13
Tim Pritlove
2:05:30
Linus Neumann
2:05:35
Tim Pritlove
2:05:37
Linus Neumann
2:05:41
Tim Pritlove
2:06:56

Apple kann das, aber…, Naja, ich meine, als das Internet so kam, haben wir ja auch festgestellt, dass die aktuelle Gesetzeslage nicht gepasst hat. Die Gesetze waren nicht gemacht für die Zeit, wo es Internet gibt, wo es Computer gibt, wo es Kommunikation gibt, wo Programme auf einmal eine Rolle gespielt haben, Algorithmen auf einmal eine Rolle gespielt haben. Die Gesetze waren nicht anwendbar. Und trotzdem existierten sie und es wurde versucht sie darauf anzuwenden die Gesetze müssen sich aber sozusagen der Sachlage, entsprechend auch anpassen können und die Frage die sich mir in diesem Moment stellt ist sind wir jetzt sozusagen nach wenigen Jahren schon wieder an einem Punkt angekommen wo eine solche Anpassung erforderlich ist. Weil sozusagen dieser Fall nicht da war, weil das sozusagen nichts ist, was du hättest in diesen Prozess, in diesen Datenschutz-Grundverordnungsprozess hättest hinein diskutieren können, weil das ja alles noch total Science-Fiction war. Ja, aber wenn die künstlichen Intelligenzen kommen und die denken nur über das Internet nach und speichern dann, was sie nachgedacht haben, mal kurz in so einem Binär-Blob auf ihrer Festplatte ab und dann wird da so rein interpretiert und oh, großes Orakel von Delphi, sage mir, was könnte wahr sein. Dieser Fall war einfach nicht Teil der gesellschaftlichen Diskussion und das ist aber jetzt sozusagen das, womit wir hier arbeiten, weil ich meine in dem Moment, wo du Chat-GPT in seiner Art und Weise, wie es jetzt gerade funktioniert, wenn du sagst, das darf nicht sein, Nein? Dann müsstest du genauso jetzt alle Open Source LLMs, die auf eine ähnliche Art und Weise trainiert sind und deren Downloads überall sind, Facebook hat jetzt gerade irgendwie seins aufs Internet heruntergelassen, was machst du dann mit denen? Müsstest du die dann sozusagen auch löschen oder….

Linus Neumann
2:09:15
Tim Pritlove
2:10:25
Linus Neumann
2:11:13
Tim Pritlove
2:11:14
Linus Neumann
2:11:16
Tim Pritlove
2:11:21
Linus Neumann
2:11:22
Tim Pritlove
2:11:31
Linus Neumann
2:11:43
Tim Pritlove
2:11:45
Linus Neumann
2:11:49
Tim Pritlove
2:12:08
Linus Neumann
2:12:21
Tim Pritlove
2:13:00
Linus Neumann
2:13:19
Tim Pritlove
2:13:20
Linus Neumann
2:14:15
Tim Pritlove
2:15:32
Linus Neumann
2:15:38
Tim Pritlove
2:15:39
Linus Neumann
2:15:46
Tim Pritlove
2:16:17
Linus Neumann
2:16:23
Tim Pritlove
2:16:25
Linus Neumann
2:16:26
Tim Pritlove
2:16:28
Linus Neumann
2:16:33
Tim Pritlove
2:16:35
Linus Neumann
2:17:07
Tim Pritlove
2:17:11
Linus Neumann
2:17:15
Tim Pritlove
2:17:23
Linus Neumann
2:17:34
Tim Pritlove
2:17:47

Ui.

Linus Neumann
2:17:49
Tim Pritlove
2:17:53
Linus Neumann
2:17:58
Tim Pritlove
2:18:04
Linus Neumann
2:18:08
Tim Pritlove
2:18:15
Linus Neumann
2:18:15
Tim Pritlove
2:18:17
Linus Neumann
2:18:19
Tim Pritlove
2:18:23
Linus Neumann
2:18:33
Tim Pritlove
2:18:40
Linus Neumann
2:18:43