Thomas Lohninger: Guten Morgen Linus.
Linus Neumann: Guten Morgen Thomas.
Linus Neumann: Logbuch Netzpolitik, die Folge 485. vom 26.
Linus Neumann: Februar 2024 hier live, nicht aus der Meta-Ebene, dafür zwischen Wien und Berlin
Linus Neumann: mit Thomas Lohninger aus dem Land,
Linus Neumann: das von Jan Böhmermann jetzt auf einmal immer wieder Österreich als,
Linus Neumann: als wurde das Land verunglimpft oder nur eure komplette politische Installation?
Thomas Lohninger: Als Österreicher ist man das alles gewohnt. Das Schlimmste ist eigentlich,
Thomas Lohninger: dass er dieses Lied die ganze Zeit gespielt hat und dass ich das jetzt als Ohrwurm habe.
Thomas Lohninger: Also das muss man als Warnung aussprechen.
Thomas Lohninger: Die FPÖ hat da leider sehr bösartige, eingängige Hymnen, die immer wieder vorkommen.
Thomas Lohninger: Aber ja, wir haben einen neuen Magazin-Royal-Böhmermann-Clip bekommen zu der
Thomas Lohninger: Situation in Österreich mit einer FPÖ auf 30 Prozent in den Umfragen,
Thomas Lohninger: Stimmenstärkste Partei und es wird ja noch ein paar Mal gewählt dieses Jahr.
Thomas Lohninger: Also das ist nicht angenehm, aber umso wichtiger, dass man sich damit beschäftigt.
Thomas Lohninger: Und gleichzeitig, ich weiß, für euch Deutsche ist das immer dann der totale
Thomas Lohninger: Aufreger zu sehen, wie heftig Österreich ist. Wir sind das halt gewohnt seit 40 Jahren.
Thomas Lohninger: Also das macht es nicht besser, aber es ist dann halt, man lernt mit allen zu leben.
Linus Neumann: Habt ihr euch denn überlegt, was da mal was gegen zu unternehmen oder so?
Thomas Lohninger: Ja, hatten wir doch. Es gab doch Ibiza. Das Problem ist, das war keine langfristige Lösung.
Thomas Lohninger: Die Pandemie hat das wieder aufgewogen,
Thomas Lohninger: die FPÖ ist da leider wieder auf eigentlich ein Niveau gekommen,
Thomas Lohninger: was sie vorher noch nie so hatte und ist da in ihrer Opposition zu jeder Vernunft
Thomas Lohninger: und der Wissenschaft und ihrer Russlandliebe im Moment sehr stark im Aufwind in Österreich.
Linus Neumann: Aber, okay, gut, wir haben gesagt, wir machen es kurz als Intro.
Linus Neumann: Warum? Ich verstehe immer nicht, warum. Weißt du,
Linus Neumann: in irgendwelchen schwer frustrierten Bundesländern Deutschlands,
Linus Neumann: wo auch irgendwie seit schon lange nicht viel Kluges mehr herkam,
Linus Neumann: da kann ich mir teilweise irgendwie mit sehr viel Vorstellungskraft herbeireden,
Linus Neumann: warum da irgendwie die Bauernfänger greifen.
Linus Neumann: Aber Österreich ist ja jetzt kein Land, dem es besonders schlecht gehen würde.
Linus Neumann: Oder habe ich da einen falschen Eindruck?
Thomas Lohninger: Nee, also das ist, wenn dann eine Wohlstandsverwahrlosung, aber Österreich ist
Thomas Lohninger: halt sehr viel Land und wenig Stadt.
Thomas Lohninger: Abseits von Wien gibt es da nicht viel.
Thomas Lohninger: Und es ist halt auch ein Land mit einer über viele Jahrzehnte zumindest rechtskonservativen Mehrheit.
Thomas Lohninger: Wir wurden nie richtig entnazifiziert, wir waren ja das Opfer.
Thomas Lohninger: Und daraus hat sich einfach ein anderer Grundkonsens ergeben.
Thomas Lohninger: Und sowas wie eine Brandmauer, die Deutschland gerade versucht zu erhalten,
Thomas Lohninger: die gab es in Österreich nie.
Thomas Lohninger: Also auch irgendwie so der sozialdemokratische Kanzler, der immer beschworen
Thomas Lohninger: wird, Kreisky, der selber Jude war und im KZ hatte auch Nazis in seiner Regierung.
Thomas Lohninger: Also die waren nie weg und deswegen ist es so gefährlich, dass die jetzt wieder da sind, wo sie sind.
Thomas Lohninger: Und ja, wir haben die Europawahl jetzt im Juni, das wird ganz spannend.
Thomas Lohninger: Aber was vielleicht auch nochmal…,
Thomas Lohninger: Österreich kann ja immer als Operette ganz humoristisch sein,
Thomas Lohninger: was vielleicht untergegangen ist, ist, dass Sebastian Kurz jetzt erstinstanzlich verurteilt wurde.
Linus Neumann: Wie ich auch sage.
Thomas Lohninger: Und das macht auch so ein bisschen Hoffnung. Also dessen politische Karriere
Thomas Lohninger: ist zumindest mal für absehbare Zeit weiter im Abklingbecken.
Thomas Lohninger: Also ich glaube eher, dass der in die Richtung von Karl Theodor von und zu Guttenberg
Thomas Lohninger: geht und nicht in die Richtung von Bibi Netanjahu, der nie aus der Politik hinaus zu wählen ist.
Thomas Lohninger: Zweiterer war sein Vorbild, aber ich glaube, das hat er sich jetzt verbaut mit
Thomas Lohninger: einer total dummen Falschersage, die er nicht hätte treffen müssen,
Thomas Lohninger: aber es war sein Stolz und die PR über sich selber hat er geglaubt.
Thomas Lohninger: An dem ist er verfallen, deswegen ist dieser Blödsinn jetzt passiert.
Linus Neumann: Was hat er genau ausgesagt? Für welche Falschaussage wurde er verurteilt?
Thomas Lohninger: Also es ging um die Postenbestellung von Thomas Schmidt.
Thomas Lohninger: Es ist ein sehr illustrer Charakter in der österreichischen Politik,
Thomas Lohninger: der ganz maßgeblich an der Machtergreifung von Sebastian Kurz beteiligt war.
Thomas Lohninger: War als Kabinettschef im Finanzministerium, hat der die Millionen zugeschanzt,
Thomas Lohninger: mit der nachher, wie in einer anderen Anklage verhauptet wurde,
Thomas Lohninger: eben die Umfragen gekauft wurden und die Medienberichterstattung,
Thomas Lohninger: sodass Kurz an die Macht kam, auch innerparteilich.
Thomas Lohninger: Und dessen Handy wurde beschlagnahmt, da hat sich ganz viel drin gefunden.
Thomas Lohninger: Was eine eigene Sendung wert wäre.
Thomas Lohninger: Aber in der Bestellung von dieser Person, von Thomas Schmidt,
Thomas Lohninger: wurde Sebastian Kurz im Ibiza-Untersuchungsausschuss befragt und meinte dort
Thomas Lohninger: auf die Frage der Postenbestellung, dass er nur informiert und nicht involviert
Thomas Lohninger: gewesen wäre und hat da alles abgestritten, dass er da irgendwie beteiligt gewesen wäre.
Thomas Lohninger: Was ja jeder versteht als Kanzler, dass man irgendwie sagt, das war ganz ein
Thomas Lohninger: wichtiger Staatsposten, wo es um staatliche Beteiligungen geht,
Thomas Lohninger: also im Milliardenumfang.
Thomas Lohninger: Und wenn er da gesagt hätte, natürlich habe ich da ein Auge drauf gehabt,
Thomas Lohninger: hätte es jeder verstanden, außer halt irgendwie seine politischen Mitbewerber,
Thomas Lohninger: die vielleicht gesagt haben, kein neuer Stil.
Thomas Lohninger: Aber das wollte er nicht, da hat er sich wirklich verbissen da drin,
Thomas Lohninger: dass er da nichts damit zu tun hatte.
Thomas Lohninger: Und das war jetzt laut erstinstanzlichen Urteil, was nicht rechtskräftig ist,
Thomas Lohninger: und das gilt die Unschuldsvermutung, eben eine Falschaussage.
Thomas Lohninger: Und für die wurde er jetzt für acht Monate Haft verurteilt, aber bedingt.
Thomas Lohninger: Und er geht natürlich in Berufung und es gibt eben auch noch ein zweites Verfahren.
Thomas Lohninger: Also ja, da bleibt Spannung. mit.
Linus Neumann: Ich würde mir wieder so eine seriöse,
Linus Neumann: Politik irgendwo wünschen, aber gut, habt ihr nicht.
Thomas Lohninger: Ich mir auch.
Linus Neumann: Ja, gut. Okay, gehen wir zum Feedback.
Linus Neumann: Wir haben Feedback bekommen zum Thema Attribution von Fake-Bildern und Echtbildern.
Linus Neumann: Vielleicht möchtest du den ersten Kommentar vorlesen.
Thomas Lohninger: Genau, also Mari Waters schreibt, meine Intuition bezüglich Generative AI Watermarking
Thomas Lohninger: läuft genau entgegengesetzt zu Linus.
Thomas Lohninger: Beim Markieren des generierten Kontos handelt es sich technisch ja um einen,
Thomas Lohninger: steganografischen Covert-Channel, der in der Tat kaum ausreichend robust gestaltet werden kann.
Thomas Lohninger: Der praktische Nutzen liefert deshalb auf wenig mehr als das freiwillige Mitliefern
Thomas Lohninger: eines entsprechenden Metatexts hinaus.
Thomas Lohninger: Die Authentifizierung originalen Contents andererseits würde durch klassische
Thomas Lohninger: Signaturverfahren realisiert,
Thomas Lohninger: die bei entsprechend konsequentem Timestamping und Revocation geleagter Private
Thomas Lohninger: Keys eine ungleich stärkere Garantie für die Vertrauenswürdigkeit einer Quelle
Thomas Lohninger: und damit langfristiger Vertrauensbildung böten.
Thomas Lohninger: Das finde ich ganz spannend, weil ich muss gestehen, als ich die letzte Folge
Thomas Lohninger: gehört habe, habe ich mir das auch gedacht.
Thomas Lohninger: Und deswegen diskutieren wir es nochmal.
Thomas Lohninger: Also ich glaube auch, es ist auf jeden Fall ausgeschlossen, dass wir das Umgekehrte
Thomas Lohninger: hinbekommen, dass wir die Fakes irgendwie durch die LLMs markieren lassen,
Thomas Lohninger: sondern wenn, dann schaffen wir es irgendwie Autorinnenschaft von Bildern oder
Thomas Lohninger: anderen Inhalten in Metadaten mitzuliefern,
Thomas Lohninger: was natürlich ganz eigene Phenomous Speech und Datenschutzprobleme mit sich bringen könnte.
Linus Neumann: Aber wo kommt dieser Private Key her?
Thomas Lohninger: Der müsste halt vom Hersteller kommen, oder?
Linus Neumann: Vom Hersteller einer Kamera, oder was?
Thomas Lohninger: Ja, aber genau der nächste Kommentar beschäftigt sich mit der Frage.
Linus Neumann: Okay, dann lese ich den mal vor. Von Franzl ist der.
Linus Neumann: Vielen Dank wieder einmal für eure Sendung, bitte, bitte.
Linus Neumann: Ich würde gerne nochmal zu den Quellensignaturen bei Bildern einhaken,
Linus Neumann: weil ich mir nicht sicher bin, ob sie nicht doch dazu beitragen könnten,
Linus Neumann: Deepfakes zu verhindern.
Linus Neumann: Technisch könnte ich mir vorstellen, dass es bereits genügen könnte,
Linus Neumann: wenn der Private Key auf dem Kamerachip erzeugt wird und diesen gar nicht verlässt,
Linus Neumann: allenfalls resettet werden kann.
Linus Neumann: Bei Bedarf kann man eine Signaturkette erzeugen, Verfahren mit entsprechender
Linus Neumann: Spezialhardware gibt es und werden seit einiger Zeit auch erfolgreich eingesetzt.
Linus Neumann: Apple nutzt solche Infrastruktur seit Jahren, um die Integrität von deren Systemen
Linus Neumann: sicherzustellen und bislang lief das zumindest ohne große Probleme.
Linus Neumann: Selbst für die Nachbearbeitung fänden sich Lösungen.
Linus Neumann: Es würde ja schon mal reichen, wenn das Originalmaterial für alle oder für einen
Linus Neumann: vertrauenswürdigen Kreis von Leuten zugänglich ist.
Linus Neumann: Also, bei Bedarf kann man eine Signaturkette erzeugen, also entweder gibt es die oder nicht,
Linus Neumann: ja, und die wird ja nicht bei Bedarf erzeugt, also eigentlich müsste der Private
Linus Neumann: Key von dieser Kamera einmal signiert worden sein.
Linus Neumann: Und ich glaube halt, dann ist er signiert und dann, also die,
Linus Neumann: es ist die eine Sache so ein Entschlüsselungsschlüssel irgendwie sicher zu halten
Linus Neumann: und nochmal eine andere, einen, den man die ganze Zeit zum Signieren anwendet, sicher zu halten.
Linus Neumann: Und ich bin nicht so, also ich glaube halt,
Linus Neumann: dass es immer wieder schief gehen wird und am Ende brauche ich,
Linus Neumann: hättest du, würden reihenweise CA's, die dann eben dafür bürgen,
Linus Neumann: dass irgendetwas echt ist oder von einer Nikon oder von einer Canon Kamera oder sonst was kommt.
Linus Neumann: Ohne Ende revoken müssen, weil wieder einmal irgendwo ein Key rausgetragen wird.
Linus Neumann: Was man natürlich machen könnte, wäre, dass man irgendwie den an Personen bindet
Linus Neumann: und dann eben auch Personen das Vertrauen entzieht.
Linus Neumann: Aber das Watermarking kriegt man ja auch wieder raus, weißt du?
Linus Neumann: Du machst einfach so lange Rauschen in das Bild, bis der Cover Channel weg ist. Das siehst du ja.
Thomas Lohninger: Ja und vor allem, wenn das Bild dann im Photoshop nachbearbeitet wurde,
Thomas Lohninger: ist es nicht mehr das Original.
Thomas Lohninger: Du hast auch nicht immer das Original vorrätig, um irgendwie eine Ableitung zu beweisen.
Linus Neumann: Es wäre ja im Notfall in Ordnung zu sagen, okay, das könnte man zum Beispiel
Linus Neumann: als Metadatum machen, dass man sagt, okay, es wird noch mal das Original mit eingefügt.
Linus Neumann: Aber was ist denn heutzutage noch ein Original?
Thomas Lohninger: Ja, eben. Also ich meine, mach ein ein Bild vom Mond von irgendwelchen Android-Handys.
Thomas Lohninger: Das ist auch alles AI-generiert.
Linus Neumann: Das ist ja noch nicht mal AI-generiert. Die malen einfach einen anderen Mond
Linus Neumann: dahin, damit der geiler aussieht.
Linus Neumann: Okay, aber ich kann dem Argument folgen, das hier von Muddy Waters vorgeführt wird, das er besagt.
Linus Neumann: Wahrscheinlich ist es hilfreicher, die Fakes zu Watermarken als die Originale zu signieren.
Linus Neumann: Und dem Argument kann ich deshalb Weil es ja schon unendlich viele Originale gibt,
Linus Neumann: die nicht signiert sind und dem gegenüber verhältnismäßig wenige Fakes und verhältnismäßig
Linus Neumann: wenige Leute gut Fakes erstellen können.
Linus Neumann: Aber beide Verfahren haben in meinen Augen trotzdem das Problem,
Linus Neumann: dass irgendwann einmal ein Fake ohne Watermark oder ein Fake mit Signatur erscheinen
Linus Neumann: wird und dann das Vertrauen in das Verfahren verloren geht.
Linus Neumann: Und das ist eigentlich unabhängig davon, welches von beiden ist.
Linus Neumann: Trotzdem kann man wahrscheinlich mit Watermarks, da würde ich dann zustimmen,
Linus Neumann: potenziell erstmal den größeren Teil des Problems erschlagen können also den,
Linus Neumann: als mit Signaturen, einfach weil es Unmengen an Kameras gibt,
Linus Neumann: die nicht signieren können und damit hat es sich dann auch und du bräuchtest
Linus Neumann: ja einfach ein Verfahren, das von jetzt auf gleich bei allen,
Linus Neumann: wirkt, insofern würde ich dann zustimmen dass es,
Linus Neumann: der vielversprechenderer Ansatz ist.
Thomas Lohninger: Gut.
Linus Neumann: Gleichzeitig kommt jetzt ja auch schon irgendwie OpenAI mit Sora und kann jetzt
Linus Neumann: nicht mehr nur Bilder generieren, sondern ganze Videostrecken.
Linus Neumann: Das heißt, das wird jetzt noch mal um einiges interessanter.
Linus Neumann: Sascha Lobo hat schon die absolute Dystopie in seiner Spiegelkolumne verzeichnet.
Linus Neumann: Er hat so ein bisschen gesagt, Wenn man jetzt so diese TikTok-Algorithmen mit
Linus Neumann: KI lernen und KI generieren,
Linus Neumann: wenn man das alles verbindet, dann kann man irgendwie die gesamte Welt,
Linus Neumann: die gesamte Bevölkerung in unterschiedliche Parallelrealitäten schaffen.
Linus Neumann: Also quasi aktuell ist TikTok ja wenigstens noch darauf angewiesen,
Linus Neumann: dass andere Leute Content zufüttern.
Linus Neumann: Wenn es auch das nicht mehr ist, dann hast du natürlich eine relativ unschöne
Linus Neumann: Situation, die jetzt schon relativ greifbar nahe ist.
Thomas Lohninger: Ja, unsere Matrix-Simulation wird also vom TikTok-Algorithmus gebootstrapped, das ist schön.
Thomas Lohninger: Ja, also das war wirklich scary, was die mit Sora da in die Welt gebracht haben
Thomas Lohninger: und ich frag mich auch so, was wird das wieder für Auswirkungen haben,
Thomas Lohninger: weil so alles, was so Stock-Videomaterial ist,
Thomas Lohninger: ich hoffe, dass die jetzt noch irgendwie alles verkaufen können an Trainingsdaten,
Thomas Lohninger: weil das wirkt nicht gut so effizient, wie die inzwischen schon sind.
Thomas Lohninger: Also es ist ein bisschen scary, aber die Bilder schauen leider gut aus.
Thomas Lohninger: Also die Qualität, weil das jetzt noch nicht ein Tool ist, womit man einfach so herumspielen kann.
Thomas Lohninger: Kann auch sein, dass da noch mehr Marketing dabei ist als sonst was,
Thomas Lohninger: aber die Qualität ist schon erschreckend.
Linus Neumann: Ja, ich würde schon davon ausgehen, dass sie da jetzt die guten Beispiele gezeigt
Linus Neumann: haben und nicht unbedingt die schlechten, also die beeindruckendsten,
Linus Neumann: die ihnen gelungen sind.
Linus Neumann: So, wäre ja auch verrückt, so ein Produkt nicht mit seinen besten Beispielen
Linus Neumann: zu bewerben, sondern nur so mit durchschnittlichen Leistungen.
Linus Neumann: Aber ja, da geht einiges und das wird nochmal interessant.
Thomas Lohninger: Super, du hast dich mit Putins Bären beschäftigt? Ich habe nichts mitbekommen.
Linus Neumann: Ja, die Aufzeichnung ist schon etwas her.
Linus Neumann: Und zwar hat Simplicissimus eine Doku gemacht mit dem Titel Putins Bären,
Linus Neumann: die sich mit den unterschiedlichen russischen Hacking-Gruppen,
Linus Neumann: die staatlichen Stellen oder denen staatliche Nähe unterstellt wird, auseinandergesetzt.
Linus Neumann: Also so Fancy-Bär, Voodoo-Bär und wie sie alle heißen. Also die Gruppierungen, die… Wieso.
Thomas Lohninger: Haben die immer Bärennamen? Was ist das?
Linus Neumann: Ich glaube, das hat einfach was damit zu tun, dass der Bär so ein russisches,
Linus Neumann: dass der Bär ja irgendwie Russland zugeordnet wird als, ich weiß gar nicht,
Linus Neumann: ich kann das eigentlich nur sagen, dass dieser… So Männlichkeit.
Thomas Lohninger: Oder? Putin hat sich doch auch mit Bären ablichten lassen, oder?
Linus Neumann: Ja, aber wenn du auf TikTok oder Instagram guckst, sind ja auch immer irgendwelche
Linus Neumann: Russen, die da Bären als Haustier halten.
Linus Neumann: Ich weiß gar nicht genau, ist das das Nationaltier? Das ist ein weit verbreitetes
Linus Neumann: Symbol für Russland, der russische Bär. Ja, ich glaube, dass das damit zu tun hat.
Linus Neumann: Das war doch schon früher auf dem Super Nintendo bei Street Fighter,
Linus Neumann: der russische Kämpfer aus der UdSSR, der hatte auch damit Bären.
Linus Neumann: Ich weiß gar nicht, es gibt einen Artikel, widespread symbol generally...
Linus Neumann: Ähm, woher kommt das denn?
Thomas Lohninger: Also die Russen mögen Bären, das ist, äh, ja.
Linus Neumann: Ja, also irgendwie ist das, man... Logisch, passt.
Thomas Lohninger: Ja, also, ein bisschen fragile Männlichkeit und so, aber ja, kann man machen.
Thomas Lohninger: Sie sollen sich mit ihren Bären spielen und die Ukraine in Ruhe lassen.
Linus Neumann: Genau, das könnten sie auch machen. Also da wurde eine sehr schöne Doku gemacht
Linus Neumann: mit den unter anderem den Hack der Bundesregierung,
Linus Neumann: Hack des Bundestags, den Hack des Democratic National Council,
Linus Neumann: diese ganzen politischen Aktionen.
Linus Neumann: Auch übrigens den Hack des Viasat-Systemes, also alle so spektakulären,
Linus Neumann: sehr höchstwahrscheinlich russisch-staatlich durchgeführten Hacks von den unterschiedlichen
Linus Neumann: Gruppierungen, die Russland da so hat.
Linus Neumann: Und da wurde insbesondere viel erklärt von Florian Flade und Hakan Tanriverde,
Linus Neumann: die den Podcast auch gemacht hatten, der Mann in Merkels Rechner,
Linus Neumann: diese gesamte Angriffe auf Bundesregierung,
Linus Neumann: Bundestag auseinandergenommen haben.
Linus Neumann: Claudia Haidt, Kerstin Schabert und Linus Neumann.
Linus Neumann: Ich durfte auch ein paar Dinge einordnen. Ich muss sagen, dass ich diese Simplicissimus-Sachen
Linus Neumann: wirklich sehr oft sehr gut finde.
Linus Neumann: Das ist auch erstaunlich, wie viel...
Linus Neumann: Zeit und Recherche, die sich nehmen.
Linus Neumann: Ich habe in der einen oder anderen Simplicissimus Doku auch mal mitgewirkt.
Linus Neumann: Also die veröffentlichen die ja üblicherweise auf YouTube.
Linus Neumann: Diese ist jetzt auch im SWR gekommen und in der ARD Mediathek.
Linus Neumann: Und ich kann zumindest sagen, dass ich mit denen immer am längsten telefoniere.
Linus Neumann: Ja, was ein gutes Zeichen ist. Also entweder Die können halt schlecht auflegen,
Linus Neumann: wenn ich den Knopf an die Backe labere oder die nehmen sich halt wirklich Zeit.
Linus Neumann: Und das sieht man in dieser Doku.
Linus Neumann: Ja, die ist einfach cool gemacht. Die ist unglaublich viel 3D animiert,
Linus Neumann: sehr gut immer verbildlicht und auch ordentlich aufgearbeitet.
Linus Neumann: Sowieso natürlich Florian Flade und Hakan Tanriverde in dem Bereich sowieso
Linus Neumann: spätestens seit der Mann in Merkels Rechner und den Recherchen dazu unangefochten
Linus Neumann: und die kann ich also wirklich,
Linus Neumann: wirklich sehr empfehlen.
Linus Neumann: Gab noch einen kleinen kleinen Scherz, weil Humor haben sie ja auch und das
Linus Neumann: kann man sich sehr gut angucken.
Linus Neumann: Kann ich also auf jeden Fall empfehlen diese Doku.
Thomas Lohninger: Mit Scherz Jetzt meinst du den Hackerman, oder? Das ist das Einzige.
Linus Neumann: Was ich mitbekommen habe davon. Ja, da haben wir eine sehr schöne,
Linus Neumann: wir haben da den ganzen Tag gedreht eigentlich,
Linus Neumann: also dafür habe ich eigentlich relativ wenig zu sehen, aber zeigt eben auch
Linus Neumann: wie viel Mühe die sich machen und wie ordentlich die recherchieren, das ist auch.
Linus Neumann: Ich würde sagen, bestimmt ein Dreivierteljahr her, dass wir da gedreht haben oder so.
Linus Neumann: Also ich dachte schon, das kommt gar nicht mehr so. Aber das heißt einfach nur,
Linus Neumann: wie viel Arbeit und Recherche und Sorgfalt in dieser Doku steckt.
Linus Neumann: Das muss man einfach mal sagen.
Thomas Lohninger: Aber das geht auch nur im Öffentlich-Rechtlichen. Also wenn man sich das nochmal ernsthaft überlegt,
Thomas Lohninger: also der Aufwand für eine Stunde Doku und das ist wahrscheinlich eine wirklich gute Doku,
Thomas Lohninger: aber ich glaube ohne Gebühren kannst du das nicht finanzieren.
Linus Neumann: Ich weiß jetzt auch nicht, wie viel Selbstausbeutung da dann wieder dahinter steckt.
Linus Neumann: Also der öffentlich-rechtliche Rundfunk in Deutschland ist jetzt auch nicht
Linus Neumann: ohne Kritik, vor allem was die Bildvergabe angeht und wer da wie viel Geld hat und wer nicht.
Linus Neumann: Aber sagen wir einfach mal, das Simplicissimus-Team macht auf jeden Fall eine
Linus Neumann: äußerst gewissenhafte Arbeit.
Linus Neumann: Ob die da jetzt angemessen für entlohnt werden oder nicht, weiß ich tatsächlich nicht.
Linus Neumann: Kann ich nicht sagen, aber ich gehe da, man kann einfach mal sagen,
Linus Neumann: dieses Produkt, dieses Ergebnis ist auf jeden Fall sehr, sehr gelungen.
Thomas Lohninger: Also da spricht das mir absolut kein Neid. Ich bin absolut der Meinung,
Thomas Lohninger: dass wir wir einen starken Öffentlich-Rechtlichen brauchen,
Thomas Lohninger: und dass das auch denen hilft, die den nicht schauen, weil das ist einfach gut
Thomas Lohninger: und notwendig für die Demokratie, aber es ist halt einfach auch vom Handwerklichen
Thomas Lohninger: her ein Wahnsinn, wenn man sieht, wie viel Aufwand getrieben wird.
Thomas Lohninger: Ich erinnere mich, vor ein paar Jahren vor der Pandemie war mal Arte bei mir,
Thomas Lohninger: ich weiß gar nicht mehr, welche Geschichte das war, aber die sind wirklich aus
Thomas Lohninger: Frankreich angerückt mit sechs Leuten,
Thomas Lohninger: also ein Moderator, ein Mensch, der das Licht gemacht hat, zwei Kameraleute
Thomas Lohninger: und zwei Übersetzerinnen.
Linus Neumann: Alle aus Frankreich.
Thomas Lohninger: Und das Lustige war, der Typ, der mich interviewt hat, sprach perfektes Deutsch
Thomas Lohninger: und wir haben uns auch auf Englisch gut unterhalten, aber er musste ja auf Französisch
Thomas Lohninger: fragen und ich auf Deutsch antworten.
Thomas Lohninger: Und deswegen die zwei Simultanübersetzerinnen dabei.
Thomas Lohninger: War trotzdem eine geile Erfahrung.
Linus Neumann: Jetzt verstehst du, was das Problem ist.
Linus Neumann: Nee, also ich kann jetzt auch gar nicht genau sagen, wie, ich glaube Simplicissimus
Linus Neumann: hat auch mal, also die sind, wenn ich das nicht,
Linus Neumann: ich hoffe, ich sage da jetzt nichts Falsches, aber sie sind glaube ich Teil
Linus Neumann: von Funk und auch Funk ist ja nun wirklich nicht ohne Kritik und also da habe
Linus Neumann: ich auch ganz andere Erfahrungen gemacht mit,
Linus Neumann: Funk-Journalistinnen,
Linus Neumann: Deswegen, lass uns da keine ÖRR-Debatte sonst machen.
Thomas Lohninger: In Deutschland wurde ja die ERD gehackt, Linus, habe ich gehört.
Linus Neumann: Genau, ja. Das waren keine Bären, sondern ein Anonymer.
Thomas Lohninger: Da hat das Responsible Disclosure nicht funktioniert, oder? oder?
Linus Neumann: Naja, also pass auf, Situation war irgendwie so, schreibt jemand mich an,
Linus Neumann: ein Journalist, der kann ja, kann man auch sagen, der hat mich ja zitiert, also es waren,
Linus Neumann: Marcel Rosenbach und Max Hoppenstedt vom Spiegel und sagen hier,
Linus Neumann: wir haben einen, der sagt, der hat die E-ID gehackt, kannst du mal bitte gucken.
Linus Neumann: Und demonstriert also folgenden Angriff.
Linus Neumann: Und zunächst installiert er, also es funktioniert auf einem iPhone,
Linus Neumann: diese Demo wird vorgeführt auf einem iPhone,
Linus Neumann: zunächst installiert er eine bösartige App.
Linus Neumann: Diese bösartige App, könnte man sich jetzt in einem theoretischen Szenario so vorstellen,
Linus Neumann: das ist jetzt vielleicht irgendeine Gaming-App oder so oder irgendeine Taschenlampen-App,
Linus Neumann: die vordergründig keine EID-Funktion hat,
Linus Neumann: aber hintergründig einen Klon der EID-Funktion, also die gleiche Code-Basis,
Linus Neumann: sagen wir mal, wie die Ausweis-App.
Linus Neumann: Und allerdings ergänzt um so eine, alles was du hier eingibst,
Linus Neumann: spreche ich mit einem anderen Server.
Linus Neumann: Also eine gebäckdorte E-ID-App, eine gebäckdorte Ausweis-App,
Linus Neumann: die unter irgendeinem Vorwand auf deinem Telefon installiert wurde.
Linus Neumann: Schwer genug, aber gehen wir mal davon aus, dass es gelingen würde.
Linus Neumann: Dem liegt jetzt irgendwie entgegen, dass potenziell der Apple App Store natürlich
Linus Neumann: auf so etwas achten sollte, aber da wissen wir auch, dass er es nicht immer
Linus Neumann: macht, dass da auch immer mal wieder eine bösartige App es reinschafft.
Linus Neumann: Also nehmen wir mal an, diese App ist jetzt installiert.
Linus Neumann: Und dann geht er auf eine Webseite, die eine E-ID-Aktion auslöst.
Linus Neumann: Du bist also auf dieser Webseite und dann sagt er, du kannst jetzt weitermachen.
Linus Neumann: Was möchtest du jetzt zum Beispiel mit der Ausweis-App auf deinem Handy weitermachen?
Linus Neumann: Dann sagst du, genau das möchte ich machen. Dann sagt der, installier die mal.
Linus Neumann: Jetzt geht der in dieser Demo sogar hin, installiert die offizielle Ausweis-App
Linus Neumann: aus dem App-Store und drückt dann auf,
Linus Neumann: jetzt möchte ich hier diese E-ID-Aktion ausführen.
Linus Neumann: Das kann jetzt eine Authentifizierung sein, dass du einfach sagst,
Linus Neumann: wer du bist oder auch irgendeine Autorisierung von etwas, völlig egal,
Linus Neumann: also eine E-ID-Aktion wird ausgelöst.
Linus Neumann: Und in dem Moment meldet sich seine Fake-App,
Linus Neumann: übernimmt diesen E-ID-Vorgang und sagt, ah, alles klar, du möchtest jetzt hier
Linus Neumann: eine E-ID-Aktion machen, dann gib mal bitte deinen PIN ein,
Linus Neumann: ach so, gib den mal bitte nochmal ein und hier, jetzt geht's zurück und dann
Linus Neumann: hat er ein Konto eröffnet in deinem Namen bei einer Bank.
Linus Neumann: Und deine tatsächliche E-ID-Transaktion, wo könnte man theoretisch sogar auch
Linus Neumann: noch durchführen oder die bricht dann halt mit einem Fehler ab.
Linus Neumann: So, erstmal ziemlich beeindruckend, weil in dieser Demo siehst du erstmal nur,
Linus Neumann: wie die ganze Zeit genau das gemacht wird, was da steht,
Linus Neumann: nämlich Ausweis-App installieren, Link drücken und auf einmal hat der eben quasi
Linus Neumann: parallel dir in Wirklichkeit andere Dinge zur Authentisierung gegeben.
Linus Neumann: Also nicht das, was weiß ich, die Punktestandabfragen aus Flensburg oder was
Linus Neumann: auch immer du da vielleicht machen wolltest, sondern eben die Eröffnung eines Kontos.
Linus Neumann: So, und jetzt denken natürlich alle, oh mein Gott, krasse Schwachstelle in der E-ID.
Linus Neumann: Und dann hat er auch noch so ein Paper dazu geschrieben, worin jetzt die Probleme
Linus Neumann: bestünden und sagt aber dann irgendwie so, das Problem bestünde also jetzt daran,
Linus Neumann: dass das alles Open Source ist.
Linus Neumann: Und hat dann relativ komische Argumentationen, worin jetzt der Fehler angeblich
Linus Neumann: bestehen würde und was davon zu halten ist und was nicht.
Linus Neumann: Und da wurde ich so ein bisschen hellhörig, weil der einzige wirkliche Fehler
Linus Neumann: oder das einzige wirkliche Problem, was der oder die anonyme Person,
Linus Neumann: pseudonyme Person da entdeckt hat, ist,
Linus Neumann: du hast im Prinzip,
Linus Neumann: wenn du von so einer Webseite kommst und an eine andere App übergeben möchtest,
Linus Neumann: gibt es grundsätzlich zwei Möglichkeiten.
Linus Neumann: Das eine ist, du machst das über das Protokoll.
Linus Neumann: Ich habe zum Beispiel festgestellt.
Linus Neumann: Dass ich irgendwann zufällig so im Internet auf so einen Magnet-Link geklickt,
Linus Neumann: also so einen Torrent-Link und dachte so, naja, ich habe ja gar keine Torrenting-App auf dem iPhone.
Linus Neumann: Phone und da ging aber trotzdem eine auf, nämlich die Management App für meinen,
Linus Neumann: NAS Server, die hatte sich registriert für den Protokoll Identifier,
Linus Neumann: Magnet Doppelpunkt Slash Slash und,
Linus Neumann: dann kann, dafür können sich Apps registrieren, du bist irgendwie eine App,
Linus Neumann: sagst du so, pass auf, ich kann, ich bin eine FTP App und wenn ihr jemand FTP
Linus Neumann: öffnen möchte, FTP, sorry, müssen wir mal klarer File Transfer Protocol.
Linus Neumann: Ich bin dafür registriert, ich möchte gerne angeboten werden. Ich kann dat.
Linus Neumann: Genauso hatte sich diese NAS-App eben registriert für Magnet Links.
Linus Neumann: Das habe ich denn nicht erlaubt, das wusste ich noch nicht mal.
Linus Neumann: Und das können auch mehrere Apps machen. Und wenn es mehrere Apps machen,
Linus Neumann: Dann sagt die Apple-Dokumentation dazu, welche der Apps dann aufgeht oder ich
Linus Neumann: dir anbiete, wenn es mehrere sind, in welcher Reihenfolge oder was auch immer, das ist undefiniert.
Linus Neumann: Da gibt es keine Möglichkeit, sich da vorzudrängeln. Das ist einfach nicht definiert.
Linus Neumann: Ich habe mit dem Klaus Rodewick von ModZero, einem Kollegen,
Linus Neumann: mit dem ich ein oder andere Mal zusammengearbeitet habe, den ich im Apple-Security-Bereich
Linus Neumann: sehr schätze, mit dem haben wir irgendwie auch versucht herauszufinden,
Linus Neumann: liegt das am Alphabet, liegt das an der Installationsreihenfolge,
Linus Neumann: aber nein, Apple-Dokumentation ist da genau richtig, es ist undefiniert.
Linus Neumann: Und dieses Verfahren nutzen die.
Linus Neumann: Es gibt noch ein zweites Verfahren und das nennt sich von der Benennung etwas
Linus Neumann: irreführend Universal Link.
Linus Neumann: Und zwar haben die iPhone-Nutzerinnen unter euch sicherlich schon mal zum Beispiel
Linus Neumann: youtube.com oder spiegel.de besucht oder der Süddeutsche macht das auch.
Linus Neumann: Und dann die sagen, möchtest du diese Seite in der Spiegel-Online-App öffnen?
Linus Neumann: Ja, oder möchtest du diese Seite in der YouTube-App öffnen?
Linus Neumann: Und das ist dann eine Anweisung, die nicht quasi sagt, ich bin hier ein Link vom Typ E-ID,
Linus Neumann: sondern ich bin ein Link vom Typ, ich möchte mit exakt dieser spezifischen Bundle-ID,
Linus Neumann: was weiß ich, com.spiegel.de oder wie auch immer diese App dann heißt.
Linus Neumann: Und du kannst dann quasi über diese Art des Universal Linkings spezifisch in
Linus Neumann: eine, und zwar eindeutig in genau eine App linken.
Linus Neumann: Also youtube.com linkt immer nur in die YouTube App.
Linus Neumann: Und wenn du die nicht hast, steht da, du kannst sie installieren.
Linus Neumann: Und Apple sagt auch, dass sie das empfehlen.
Linus Neumann: Und der Fehler ist also, dass in diesem E-ID-Verfahren gesagt wurde, wir möchten.
Linus Neumann: Also in der Designentscheidung festgelegt wurde, wir machen das mit dem Protocol Identifier,
Linus Neumann: also mit dem Custom URL Scheme, das eben EID Doppelpunkt Slash Slash heißt.
Linus Neumann: Und offenbar gab es in dieser EID-Situation auch den Wunsch,
Linus Neumann: dass sich dafür unterschiedliche Apps registrieren können.
Linus Neumann: Also es war eine bewusste Designentscheidung, dass man mehrere Apps dafür registrieren kann.
Linus Neumann: So zumindest die Hintergrundinformationen.
Linus Neumann: Das wurde offenbar getrieben so von Krankenkassen, die nämlich sagen,
Linus Neumann: ey pass mal auf, wenn wir hier unsere Krankenkassen-App haben und die Leute
Linus Neumann: sollen sich in dieser App anmelden mit ihrem Personalausweis,
Linus Neumann: Dann wollen wir nicht auch noch sagen, installiere dir jetzt mal bitte die Ausweis-App,
Linus Neumann: sondern wir wollen diese E-ID-Funktion in unserer App direkt auch selber mit drin haben.
Linus Neumann: Und jetzt muss man natürlich sagen, das kann man ja auch wieder gut verstehen.
Linus Neumann: Weil natürlich dieser Medienbruch wieder Nutzerinnen und Nutzer kosten wird,
Linus Neumann: die dann sagen, ey komm, jetzt habe ich gerade diese scheiß Krankenkassen-App
Linus Neumann: installiert oder die Bank-App, jetzt soll ich noch eine App installieren.
Linus Neumann: Wie viele Apps soll ich denn jetzt hier noch installieren?
Linus Neumann: Da kann ich schon verstehen, dass die die Anforderungen oder den Wunsch haben
Linus Neumann: zu sagen, können wir nicht bitte auch diese E-ID-Geschichte auch direkt bei uns abbilden.
Linus Neumann: Ja, nur schließt, also ergibt sich daraus bei mir immer noch nicht zwingend,
Linus Neumann: dass die dann auch auf eid colon slash slash reagieren muss,
Linus Neumann: um den kompletten Funktionsumfang der Ausweis-App abzubilden.
Linus Neumann: Ja, deswegen ist meine Einschätzung zu diesem Thema, dass man das also über
Linus Neumann: das Custom-URL-Skip macht, war ein Fehler, sollte man nicht machen,
Linus Neumann: also wird auch von Apple seit Jahren von abgeraten.
Linus Neumann: Dazu gehört, sollte es einen Universal Link geben, also spezifisch auf die Ausweis-App
Linus Neumann: und nur die eine Ausweis-App gelinkt werden.
Linus Neumann: Und das sollte in meiner Lesart trotzdem nicht verhindern, dass jetzt vertrauenswürdige
Linus Neumann: Anbieter eine E-ID-Prüfung auch direkt in ihre App einbauen.
Linus Neumann: Und es ist auch kein Problem, dass die Ausweis-App Open Source ist, ganz im Gegenteil.
Linus Neumann: Interessanterweise, dieser Control-Alt, der da jetzt irgendwie sich rühmt oder
Linus Neumann: die sich rühmt, eine schwere Schwachstelle in E-ID gefunden zu haben,
Linus Neumann: gibt diese Empfehlung irgendwie an Stelle 9.
Linus Neumann: Also hat acht wichtigere Kritikpunkte und als neunte Empfehlung irgendwie ja
Linus Neumann: hier mal auf das von Apple empfohlene aktuelle Verfahren umzusteigen.
Linus Neumann: Und dafür, dass da aber sehr viel Energie reingeflossen ist,
Linus Neumann: diesen Angriff durchzuführen und zu demonstrieren und auch zu implementieren, infunktionierend,
Linus Neumann: glaube ich der Person irgendwie nicht so ganz, dass die so ein geringes Verständnis
Linus Neumann: davon hat, was sie da gefunden hat und was nicht.
Thomas Lohninger: Ja, zwei Überlegungen dazu. Das erste ist mal, ich hoffe gerade,
Thomas Lohninger: dass im Online-Banking die stabile Art der Verlinkung auf Apps verwendet wird
Thomas Lohninger: und nicht auf Protokolle.
Thomas Lohninger: Und die zweite Anmerkung, ich befürchte, dass dieses Problem in Europa uns noch
Thomas Lohninger: um die Ohren fliegen wird.
Thomas Lohninger: Denn in dem tollen neuen europäischen ERD-System wird es nämlich mindestens
Thomas Lohninger: 27 solcher ERD-Apps geben,
Thomas Lohninger: für jeden Mitgliedstaat eine und theoretisch kann ein Staat auch mehrere herausgeben.
Thomas Lohninger: Und wenn du dann aber auf die Linken willst, weil du vielleicht, weiß nicht,
Thomas Lohninger: ein schwedischer Anbieter bist, der halt die, wie auch immer geartete,
Thomas Lohninger: eher die App aus einem anderen Staat auch unterstützen will,
Thomas Lohninger: verwendest du genau eher die Doppelpunkt Slash Slash.
Linus Neumann: Okay. Das heißt, wir haben jetzt auch noch ein europaweites Problem. Juhu!
Linus Neumann: Also warum, also dieses Szenario, also ganz offensichtlich hat er es ja geschafft,
Linus Neumann: oder sie hat, Control Alt ist geschafft, das zumindest einmal funktionierend hinzubekommen.
Linus Neumann: Wenn das Verfahren, wenn die Zuweisung, welche App dann am Ende dran geht, undefiniert ist.
Linus Neumann: Übrigens muss man Kontrollaltern auch noch zugute halten, dass ja überhaupt
Linus Neumann: noch die Installation durchgeführt wurde. Das viel spannendere Szenario ist
Linus Neumann: ja, du hast ja die Ausweis-App gar nicht installiert, drückst auf diesen Link, irgendetwas geht dran.
Linus Neumann: Also du brauchst gar nicht diese Race-Condition oder diese undefinierte Situation
Linus Neumann: zwischen den beiden Apps,
Linus Neumann: sondern sobald sich irgendeine App für E-ID-Doppelpunkt-schrägstrich-schrägstrich
Linus Neumann: registriert hat, geht die ja dran.
Linus Neumann: Also er war immerhin fair genug zu sagen, ich installiere noch die richtige,
Linus Neumann: aber dafür müsste er wahrscheinlich mindestens drei Testläufe gemacht haben,
Linus Neumann: weil welche von beiden sich meldet, ist eben undefiniert.
Thomas Lohninger: Eine Frage, diese Fake-App, Taschenlampen-App, die hat doch das User-Interface nachgemacht, oder?
Linus Neumann: Ja, das ist genau der Punkt. Also die erfolgreich durch den Apple App Store
Linus Neumann: zu kriegen, da ist, sagen wir mal, die Wahrscheinlichkeit geringer als 50 Prozent.
Linus Neumann: Ja, ich höre von den mir bekannten Entwicklern im E-ID-Umfeld,
Linus Neumann: dass sie mitunter Schwierigkeiten haben, einfach weil schon auch Google und
Linus Neumann: Apple darauf achten, wenn da so E-ID-Symbole in dem App-Bundle mit drin sind,
Linus Neumann: dass sie da schon irgendwie ein bisschen aufpassen.
Linus Neumann: Also es ist nicht so wahrscheinlich, dass es dir gelingt, eine solche App überhaupt
Linus Neumann: in den App-Store zu bekommen.
Linus Neumann: Du wirst damit im Zweifelsfall Probleme haben. Aber solange das nicht ausgeschlossen ist.
Linus Neumann: Nehme ich das jetzt erstmal so zur Kenntnis, also nehme ich das an,
Linus Neumann: also solange ich nicht weiß, die Wahrscheinlichkeit ist null,
Linus Neumann: dass es dir gelingt, muss ich jetzt erstmal sagen, okay, wird schon klappen.
Linus Neumann: Es gäbe eine, sagen wir mal, eine Möglichkeit wäre zum Beispiel,
Linus Neumann: dass jetzt die Europäische Union, die verfügt ja eh eine ganze Menge,
Linus Neumann: was Apple machen muss, die könnte jetzt zum Beispiel sagen, pass auf,
Linus Neumann: der Protokoll, das URL-Scheme-E-ID, das dürfen nur von der Europäischen Union
Linus Neumann: genehmigte Apps registrieren.
Linus Neumann: Und eine eurer Prüfroutinen im App Store muss sein, dass ihr guckt,
Linus Neumann: ob sich die App für E-ID registriert und wenn sie das tut,
Linus Neumann: dann muss die irgendwie mitliefern, dass wir dem zugestimmt haben.
Linus Neumann: Das wäre so eine prozedurale Methode. Aber warum überhaupt so ein unsicheres Verfahren nutzen?
Linus Neumann: Mir ist auch, also ich meine, mir ist schon klar,
Linus Neumann: dass es irgendwie mehrere E-ID-Apps geben muss, aber dann kann ich ja immer
Linus Neumann: noch sagen, okay, hier sind, sag mal die E-ID, welche E-ID-App du verwenden möchtest oder so.
Linus Neumann: Aber ganz grundsätzlich, also es gibt kein zwingendes technisches Argument zu
Linus Neumann: sagen, es soll nur eine geben.
Linus Neumann: Es gibt aber natürlich ein zwingendes technisches Argument, dass es nur Vertrauenswürdige geben darf.
Linus Neumann: Weil es natürlich ein trivialer Angriff ist zu sagen, aha, da gibt jemand seine
Linus Neumann: PIN ein, die schneide ich jetzt mit und schicke die woanders hin.
Linus Neumann: Oder hier, ich spiele mit dem im Vordergrund den Authentifizierungsprozess durch,
Linus Neumann: von dem er glaubt, dass er den gerade gelauncht hat und im Hintergrund einen
Linus Neumann: weiteren, und zwar den, den ich gerade haben möchte.
Linus Neumann: Wie gesagt, dieser Angriff, der da demonstriert wurde, das war richtig viel Arbeit.
Linus Neumann: Aber wenn du den einmal hast, dann hättest du eben in diesem Fall ein Konto
Linus Neumann: auf fremden Namen umgesetzt.
Linus Neumann: Eröffnet. Natürlich kriegt die Person fünf Tage später Post.
Linus Neumann: Also es ist wieder so eine, ja, also so wirklich,
Linus Neumann: wirklich, also es ist ein technisch realistisches Angriffsszenario,
Linus Neumann: das in der realen Welt so nicht funktionieren wird, weil du die App unwahrscheinlich
Linus Neumann: in den App-Store kriegst,
Linus Neumann: weil deine Zielperson am Ende doch irgendwie Post von dieser Bank bekommt,
Linus Neumann: in der sie darüber in Kenntnis gesetzt wird, dass sie jetzt ein Konto hat und
Linus Neumann: sich dann im Zweifelsfall meldet und außerdem keine Sau-E-ID benutzt.
Linus Neumann: Ja, also es gibt viele Gründe, warum dieser Angriff jetzt nicht der Untergang
Linus Neumann: der Welt ist, was natürlich auch ein bisschen darüber spekulieren lässt,
Linus Neumann: warum jemand einen solchen Angriff demonstriert in der Öffentlichkeit viele
Linus Neumann: Jahre, nachdem er möglich wurde und dann,
Linus Neumann: sagen wir mal, die Prioritäten der Behebung ein bisschen falsch sind.
Linus Neumann: Darstellt, also was ist hier das größte Problem, was ist das kleinste,
Linus Neumann: da gab es auf jeden Fall inhaltliche Fehler in diesem Papier und dann eben auch
Linus Neumann: nicht mit seinem Namen dazu stehen möchte.
Linus Neumann: Die Person sagt ja auch von sich selber, dass sie in diesem Bereich tätig ist
Linus Neumann: und dann kann man sich eben fragen, für wen wohl?
Linus Neumann: Es gibt ja auch unterschiedliche andere digitale Identitätsanbieter,
Linus Neumann: zum Beispiel welche, die in letzter Zeit viel auf die Fresse bekommen haben.
Linus Neumann: Ja, die Person selber sagt, sie hat halt Angst wegen des Hackerparagrafen.
Linus Neumann: Das könnte man gelten lassen.
Linus Neumann: Ja, aber insgesamt ein Szenario, wo ich jetzt nicht unbedingt davon ausgehe,
Linus Neumann: dass wir das in der freien Wildbahn sehen.
Thomas Lohninger: Ja, aber es zeigt zumindest für mich noch eine Sache, nämlich dass die Sensitivität
Thomas Lohninger: von der ganzen Erde, die Bereich sehr hoch ist.
Thomas Lohninger: Also den Leuten ist bewusst, dass wenn es da Probleme gibt, dann haben wir alle den Arsch offen.
Thomas Lohninger: Und wenn diese Systeme Schwachstellen zeitigen, dann gehen die Alarmglocken
Thomas Lohninger: los und das ist glaube ich zu Recht.
Thomas Lohninger: Ob das jetzt in dem einen Fall hier wirklich berechtigt war oder nicht,
Thomas Lohninger: kann man auf jeden Fall diskutieren.
Thomas Lohninger: Aber ja, also ich hoffe die Akteure, die in der Erstellung und Absicherung von
Thomas Lohninger: solchen Systemen tätig sind, schauen da genau hin und ziehen die richtigen Lehren.
Linus Neumann: Und dieses mit diesem Protokoll-Identifier war auf jeden Fall keine gute Idee.
Linus Neumann: Ja, also das halte ich für nicht so gut.
Linus Neumann: Und den Punkt muss man Kontroll alt dann auch wirklich geben.
Linus Neumann: Das ist ein Designfehler, der gehört behoben, auf jeden Fall.
Linus Neumann: Und wenn er jetzt europaweit ist, bin ich umso, umso, umso gespannter.
Thomas Lohninger: Ja, reden wir über Europa und was da so kommt.
Linus Neumann: Ich muss noch ganz kurz zwei Sachen dazu sagen. Vor dem Hintergrund,
Linus Neumann: wenn jetzt Apple unterschiedliche App-Stores zulassen soll und Google das ja schon tut,
Linus Neumann: Gut, dann fällt natürlich, also steigt zumindest erstmal theoretisch die Wahrscheinlichkeit,
Linus Neumann: dass irgendeiner dieser App-Stores nicht richtig hinschaut.
Linus Neumann: Und diese quasi ein prozeduraler Zwang, dass nur vertrauenswürdige Apps dieses
Linus Neumann: E-ID-Link-Ding öffnen dürfen, geht dann eben verloren.
Linus Neumann: Ja, der ohnehin schon irgendwie komisch gewesen wäre.
Linus Neumann: Und deswegen denke ich, die einzig richtige Entscheidung wäre, das nicht zu machen.
Linus Neumann: Und einen eben direkt in das Bundle zu linken und spezifisch zu sagen,
Linus Neumann: wir bieten nur Authentifizierung mit dieser App an.
Linus Neumann: Und dann sind es von mir aus 27 Apps, die es gibt, aber irgendwie eine nicht
Linus Neumann: definierte, offene Schnittstelle, das erscheint mir zu riskant.
Linus Neumann: Wenn gleich, dass dann den Markt nicht so offen gestaltet, wie man ihn sich vorstellt.
Linus Neumann: Aber du wolltest gerade was zu EIDAS sagen, wir sind ja bei EID.
Thomas Lohninger: Ja, ich will einfach nur irgendwie mein Leid beenden lassen,
Thomas Lohninger: weil am Donnerstag in dieser Woche, wo wir aufnehmen, am 29.
Thomas Lohninger: Februar, ist endlich die finale Abstimmung zur EIDAS-Verordnung auf der Agenda
Thomas Lohninger: des Plenums des Europaparlaments.
Thomas Lohninger: Und es war ja eine schwere Geburt. Ich glaube, ich habe hier auch schon mehrmals
Thomas Lohninger: darüber berichtet, was da jetzt so drinnen steht.
Thomas Lohninger: Da wollte ich nur einmal kurz darauf hinweisen, dass wir jetzt mit dieser Abstimmung
Thomas Lohninger: wird das Gesetz auch im Journal der EU veröffentlicht und dann ungefähr bis
Thomas Lohninger: August gibt es noch Zeit für die technische Implementierung.
Thomas Lohninger: Das wird auch nochmal ein Spaß zu schauen, dass all diese Safeguards,
Thomas Lohninger: die wir da erstritten haben, auch wirklich technisch umgesetzt werden.
Thomas Lohninger: Und an zwei, drei Stellen muss man da sicher noch kämpfen, weil der Text nicht
Thomas Lohninger: so klar ist, wie er sein sollte.
Thomas Lohninger: Aber da werden wir bald auch immer mehr wissen und prüfen.
Thomas Lohninger: 2025 bis spätestens 2026 kann man auch damit rechnen, dass dieses neue EU-System
Thomas Lohninger: bei der Bevölkerung ankommt,
Thomas Lohninger: weil bis dahin müssen die EU-Mitgliedstaaten so eine Wallet,
Thomas Lohninger: die eine Smartphone-App sein wird, ihren Leuten anbieten.
Thomas Lohninger: Und ganz wichtig ist aber auch, welche anderen Regeln damit in Kraft treten,
Thomas Lohninger: zum Beispiel auch die Nichtdiskriminierungsregel.
Thomas Lohninger: Also in Österreich gibt es gerade so Hauffälle, dass die ID Austria,
Thomas Lohninger: was unsere eID-Lösung ist, verpflichtend gemacht wird, zum Beispiel für Bedienstete
Thomas Lohninger: von Landeskliniken, also Krankenschwestern oder Krankenpfleger oder auch Lehrern, Lehrerinnen.
Thomas Lohninger: Wenn die in ihre Lohnzettel, ihre Gehaltsabrechnung kommen wollen,
Thomas Lohninger: brauchen sie die ID Austria.
Thomas Lohninger: Und da gibt es einige Fälle inzwischen, wo halt so ein Zwang ausgeübt wird und
Thomas Lohninger: da haben wir dann eine klare rechtliche Handhabe dagegen mit dem neuen System.
Thomas Lohninger: Das ist gut und es wird auch einige Regeln geben für die Wirtschaft,
Thomas Lohninger: die weit über die DSGVO hinausgehen, was sie überhaupt erfragen dürfen von Usern
Thomas Lohninger: oder Kunden oder Besuchern, wo auch immer das eingesetzt wird.
Thomas Lohninger: Es gibt ein Recht auf Pseudonymität überall da, wo es kein Gesetz gibt,
Thomas Lohninger: das zur Identifikation verpflichtet.
Thomas Lohninger: Also bei der Bank oder beim Telekom-Provider wird man sich ausweisen müssen.
Thomas Lohninger: Muss man ja heute schon in den Ländern mit SIM-Kartenregistrierung.
Thomas Lohninger: Aber überall sonst hat man das Recht auf Pseudonymität. Ja, es gibt auch einen
Thomas Lohninger: Artikel von uns, den verlinken wir, wo im Detail noch alles drinnen steht.
Thomas Lohninger: Und das ist mal so der große Abschluss von einem Bereich.
Thomas Lohninger: Und wir haben in einem Talk am 37C3 gesehen habt, gemeinsam mit Utopov-Diwadi,
Thomas Lohninger: da haben wir schon so ein bisschen die Brücke gelegt zu dem, was als nächstes kommt.
Thomas Lohninger: Weil es uns wieder nicht langweilig, auch wenn jetzt gerade in Europa die große
Thomas Lohninger: Reform zu Ende ist, geht es auf UN-Ebene gerade weiter.
Thomas Lohninger: Es gibt nämlich eine Initiative von den Vereinten Nationen, genauer dem Tech Envoy.
Thomas Lohninger: Das ist jemand im Stab von Guterres, vom Chef der UN sozusagen.
Thomas Lohninger: Und der will Safeguards, also Schutzschranken für Digital Public Infrastructure erstellen lassen.
Thomas Lohninger: Digital Public Infrastructure ist so ein Begriff, der bezeichnet eigentlich
Thomas Lohninger: alles an staatlicher Infrastruktur im Digitalen, die geschaffen wird für die
Thomas Lohninger: Bevölkerung und auch für die Wirtschaft.
Thomas Lohninger: Digital Public Infrastructure, oder kurz DPI, sind nicht die physischen Telekommunikationsnetze,
Thomas Lohninger: also nicht die Glasfaser oder das Unterseekabel,
Thomas Lohninger: sondern explizit eben diese öffentlichen Infrastrukturen wie E-Government, wie eine ERD,
Thomas Lohninger: wie auch ein digitaler Euro, der fällt da auch hinunter.
Thomas Lohninger: Und auch andere Systeme zum Datenaustausch oder zum Management von Zustimmungserklärungen.
Thomas Lohninger: Das Ganze ist etwas, das getrieben wird durch Indien.
Thomas Lohninger: Indien hat ja das System, was hier am ausgereiftesten ist oder zumindest von
Thomas Lohninger: den meisten Menschen verwendet wird.
Thomas Lohninger: Fast die gesamte Bevölkerung von 1,4 Milliarden Menschen in Indien ist im dortigen
Thomas Lohninger: Atara-System umgebordet und existiert
Thomas Lohninger: sozusagen in dieser biometrischen Vollerfassung, die nicht nur Gesicht,
Thomas Lohninger: Fingerabdrücke, sondern auch Iris scannt, auch von Kindern.
Thomas Lohninger: Und ja, Indien hat dieses Thema wirklich als ihre Hauptpriorität auf UN-Ebene,
Thomas Lohninger: auch während ihrer Präsidentschaft letztes Jahr von den G20 war das ein großes Ding.
Thomas Lohninger: Man kann sich da wirklich Sorgen machen über die Richtung, in die das geht,
Thomas Lohninger: weil diese Systeme sind global gedacht,
Thomas Lohninger: sind per se interoperabel, was die große Frage aufwirft, ob diese Safeguards
Thomas Lohninger: nach oben oder unten hochgeschraubt werden.
Thomas Lohninger: Es ist auch ein System, das von internationalen Organisationen ganz stark gepusht wird.
Thomas Lohninger: Also wenn man von der Weltbank an Kredit will oder vom UN-Entwicklungshilfeprogramm,
Thomas Lohninger: dann wird da ganz oft auf dieartige Systeme verwiesen und die auch teils dann ausfinanziert.
Thomas Lohninger: Sozusagen, hey, installier dir dieses System in deinem Staat,
Thomas Lohninger: ist doch dann viel einfacher die Hilfe zu verwalten, die wir dir geben wollen, hinti, natsch, natsch.
Thomas Lohninger: Und da gibt es auch aus dem globalen Süden massive Kritik, also wir haben in
Thomas Lohninger: Kenia gesehen, dass da auch die Zivilgesellschaft erfolgreich geklagt hat und
Thomas Lohninger: diese Systeme verhindern konnte für einige Jahre.
Thomas Lohninger: Jetzt vor kurzem hat sich das in Kenia gedreht, jetzt hat das Gericht gesagt,
Thomas Lohninger: ihr dürft doch damit an den Start gehen, jetzt machen die da biometrische Vollerfassung
Thomas Lohninger: der Bevölkerung inklusive DNA.
Thomas Lohninger: Ja, alles sehr scary und deswegen, als diese Initiative dpi-safeguards.org irgendwie
Thomas Lohninger: auf dem Radar aufpoppte, war das natürlich was,
Thomas Lohninger: das wir uns angeschaut haben und von dem, was draufsteht, könnte man Hoffnung haben.
Thomas Lohninger: Weil da geht es schon auch darum, wie kann man sowas sicher machen,
Thomas Lohninger: was sind denn Voraussetzungen dafür,
Thomas Lohninger: dass es überhaupt in einer Gesellschaft sozialverträglich,
Thomas Lohninger: inklusiv und datenschutzfreundlich an den Start gehen kann.
Thomas Lohninger: Und derartige Safeguards sollen dort entwickelt werden.
Thomas Lohninger: Und gemeinsam mit sieben anderen Leuten von der Zivilgesellschaft aus der ganzen
Thomas Lohninger: Welt habe ich mich da beworben für diese Working Group und bin jetzt einer von
Thomas Lohninger: 50 Leuten in diesen Arbeitsgruppen, die über dieses Jahr dieses Safeguards erstellen sollen.
Thomas Lohninger: Das erste Treffen war jetzt, diese Woche geht es weiter, ich kann noch gar nicht
Thomas Lohninger: sagen, ob das Ding was taugt, ob es überhaupt den Erwartungen und Versprechungen gerecht wird.
Thomas Lohninger: Das Gute bei solchen Dingen ist ja immer auch, wenn das in die schlechte Richtung
Thomas Lohninger: geht und einfach nur Window Dressing ist, also wir tun so als ob,
Thomas Lohninger: aber in Wirklichkeit geht es uns nicht darum,
Thomas Lohninger: das sicher oder datenschutzkonform zu machen. Kann man ja immer noch austreten.
Thomas Lohninger: Also ich bin da jetzt mal drinnen und versuche das Beste, weil diese Systeme
Thomas Lohninger: werden ausgerollt auf der ganzen Welt.
Thomas Lohninger: Wir haben jetzt mit EIDAS aus Europa heraus mit Abstand das höchste Sicherheitsniveau
Thomas Lohninger: aus Datenschutzsicht und auch was die Freiwilligkeit betrifft etabliert und in Gesetz verankert.
Thomas Lohninger: Und ich hoffe da ein bisschen jetzt mal auf so einen Brussels-Effekt,
Thomas Lohninger: dass man das als Messlatte verwenden kann und dafür kämpft, dass woanders diese
Thomas Lohninger: Systeme auch ein bisschen menschengerechter werden.
Thomas Lohninger: Man wird nicht danach messen können, ob uns das gelingt.
Thomas Lohninger: Aber ja, deswegen wollte ich das mal hier so verlautbaren und wir verlinken
Thomas Lohninger: auch alles weitere und der Congress Talk ist auf jeden Fall auch ein guter Einstieg dazu.
Linus Neumann: Den habe ich auch gerade in die Shownotes aufgenommen. Congress Talks sollte
Linus Neumann: man ja eh jetzt mal langsam gucken.
Linus Neumann: Und damit sei noch einer aufgenommen. Ja, Thomas, ein Thema, was lange,
Linus Neumann: lange, lange hier die Hörerinnen und Hörer, aber auch Brüssel beschäftigt hat,
Linus Neumann: war ja so der Digital Services Act und der Digital Markets Act.
Linus Neumann: Ein Thema, was hier auch im Logbuch steht.
Linus Neumann: Ausführlich diskutiert wurde, war die Interoperabilität der Messenger,
Linus Neumann: um endlich die Vorherrschaft von WhatsApp brechen zu können.
Linus Neumann: Da wurde also gesagt, die müssen, die dürfen nicht mehr geschlossen sein,
Linus Neumann: sie müssen es jetzt den Konkurrentinnen und Konkurrenten ermöglichen, mit ihnen,
Linus Neumann: mit ihren Nutzerinnen zu kommunizieren,
Linus Neumann: um diesen Login-Effekt aufzulösen.
Linus Neumann: Eine wunderschöne Idee, weil die Leute haben WhatsApp, weil ihre Freundinnen
Linus Neumann: und Freunde bei WhatsApp sind.
Linus Neumann: Und wenn du nicht bei WhatsApp bist, dann kriegst du halt nicht deren Storys,
Linus Neumann: dann laden sie dich nicht zum Geburtstag ein und so weiter und so fort.
Linus Neumann: Alles Dinge, die ich übrigens kenne.
Linus Neumann: Und es ist sehr, weil ich nicht bei WhatsApp bin, und es ist relativ schwierig,
Linus Neumann: deinen Freundeskreis in die beispielsweise Signal oder Threema zu überführen.
Linus Neumann: Und natürlich wäre es eine tolle Sache,
Linus Neumann: wenn ich Signal nutze und trotzdem
Linus Neumann: mit meinen Freundinnen und Freunden auf WhatsApp kommunizieren kann.
Linus Neumann: Ja, möglicherweise sogar noch mit einer, nicht irgendwie diese E-Mail wurde
Linus Neumann: von der Web.de iPhone-App gesendet,
Linus Neumann: sondern diese Message wurde von Signal gesendet, noch so ein bisschen mit Werbung
Linus Neumann: unter jeder Nachricht oder so.
Linus Neumann: Tolle Idee, um diese marktbeherrschende Stellung von WhatsApp zu brechen.
Linus Neumann: Und jetzt haben sie es ermöglicht und alle singen, yeah, yeah, yeah, geil.
Linus Neumann: Und Signal und Threema sagen so, ja, voll toll, dass WhatsApp jetzt eine universelle
Linus Neumann: Schnittstelle anbieten muss.
Linus Neumann: Wir verzichten darauf, die zu nutzen.
Thomas Lohninger: Würde ich auch machen, wäre ich Signal oder Threema. Natürlich.
Thomas Lohninger: Also die Kommunikation geht ja in beide Richtungen, wer will das?
Linus Neumann: Ja, also wir haben es ja hier öfter gesagt, Tim war glaube ich einer der stärksten Verfechter.
Linus Neumann: Ich habe auch gesagt, ich sehe, also ich kann das Ansinnen durchaus verstehen.
Linus Neumann: Und ich glaube auch, dass das jetzt so für Juristinnen
Linus Neumann: und Juristen oder Wirtschaftswissenschaftlerinnen total toll ist,
Linus Neumann: was sie da geschafft haben, aber natürlich sagen Signal und Threema ungefähr,
Linus Neumann: also mit unterschiedlich viel auf die Brust klopfen, Aber sagen halt erstens Datenschutz.
Linus Neumann: Es gibt andere Regeln bei WhatsApp als die, die bei uns gelten und die wir unseren
Linus Neumann: Nutzerinnen versprochen haben.
Linus Neumann: Wir haben eine andere Verschlüsselung, die sich auch nicht ohne weiteres auf die übersetzen lässt.
Linus Neumann: Ja, und Signal ist eh bekannt,
Linus Neumann: dass Signal nicht föderieren will, ja, und natürlich potenziell sogar das Risiko
Linus Neumann: der De-Anonymisierung,
Linus Neumann: wenn jetzt nämlich die WhatsApp-Leute, was weiß ich, weißt du,
Linus Neumann: deine schöne anonyme Threema-ID in ihrem WhatsApp-Kontakt-Adressbuch speichern
Linus Neumann: mit deinem Namen und dann weiß irgendwie Facebook,
Linus Neumann: was deine Threema-ID ist.
Linus Neumann: Also es ist völlig klar, dass sie das nicht in Anspruch nehmen möchten.
Linus Neumann: Das haben sie auch übrigens schon vorher gesagt.
Linus Neumann: Also WhatsApp muss das jetzt einbauen.
Linus Neumann: WhatsApp als der marktbeherrschende Akteur muss jetzt eine Schnittstelle,
Linus Neumann: eine spezifizierte Schnittstelle bereitstellen.
Linus Neumann: Die nutzen dann übrigens sogar die Signalverschlüsselung. Ja,
Linus Neumann: warum nutzt WhatsApp wohl die Signalverschlüsselung? Weil sie die eh nutzen.
Linus Neumann: Das haben sie sich ja vor, ah, das ist auch schon wieder fünf oder zehn Jahre
Linus Neumann: her. dass sie die übernommen haben.
Linus Neumann: Und Signal sagte, es ist supergeil, dass ihr das machen musstet,
Linus Neumann: aber wir möchten das nicht.
Linus Neumann: Und Threema sagte, nee, wollen wir auch nicht. Ich glaube, es wird am Ende keiner
Linus Neumann: machen. Ich glaube auch nicht, dass ...
Thomas Lohninger: Matrix wird es gar nicht machen. Matrix sind wahrscheinlich die einzigen ...
Linus Neumann: Haben die jetzt nicht eh schon?
Thomas Lohninger: Ja, aber die sind ja komplett dezentral. Und das war auch der einzige Dienst,
Thomas Lohninger: der in der Debatte rund um den DME laut geschrien hat, ja, ja, doch, wir wollen das.
Thomas Lohninger: Alle anderen kleidern sicher geltenden Messenger haben da von Anfang an das
Thomas Lohninger: gesagt. Ich habe da keinen Bock drauf.
Thomas Lohninger: Und diese wunderschöne Idee will man unbedingt in der Welt sehen.
Thomas Lohninger: Und dass es einfach gute technische Gründe gibt, wieso das nicht sicher und
Thomas Lohninger: datenschutzfreundlich oder grundrechtstauglich machbar ist, hat man einfach ignoriert.
Thomas Lohninger: Und so ist das ins Gesetz gekommen und wieso hat das WhatsApp gemacht?
Thomas Lohninger: Weil es halt auch eine Bright Line Rule ist, also Messenger sind hier die Ersten, die drankommen.
Thomas Lohninger: Bei sozialen Netzwerken hätte ich diese Überlegung viel sinnvoller gefunden.
Thomas Lohninger: Bei Dingen, die eh auf einem Newsfeed von Facebook öffentlich sind,
Thomas Lohninger: die als RSS rauszugeben.
Thomas Lohninger: Wäre wunderbar gewesen und technisch sehr einfach. Aber hier ist die Debatte
Thomas Lohninger: irgendwo komisch abgebogen und wir haben jetzt was,
Thomas Lohninger: das im besten Fall totes Recht ist, im schlimmsten Fall mal zu massiven Datenleaks führen wird.
Thomas Lohninger: Und wenn man sich dann überlegt, dass hier natürlich auch immer Fragen der konkreten
Thomas Lohninger: Implementierung von Verschlüsselung auf einmal regulatorisch ausgehandelt werden
Thomas Lohninger: müssen, gibt es sogar Angriffsvektoren, die man eigentlich nicht haben will.
Linus Neumann: Ja, also wirklich eine, das war wahrscheinlich nicht unbedingt sinnvoll, investierte Energie.
Linus Neumann: Ich kann mir vorstellen, dass jetzt noch so eine, naja, also Signal und Threema
Linus Neumann: lassen ja auch keine Third-Party-Clients zu, müssen sie auch nicht.
Linus Neumann: Das heißt jetzt irgendwie so ein, ja allenfalls Matrix profitiert da noch von,
Linus Neumann: aber also es ist wirklich, also das war jetzt keine,
Linus Neumann: ich glaube diese Zeit war, ja diese Zeit war nicht im Sinne einer Lösung investiert.
Linus Neumann: Ja, interessanterweise, aufgrund der unterschiedlichen Marktanteile,
Linus Neumann: iMessage muss nicht geöffnet werden, ja, das wäre jetzt zum Beispiel irgendwie,
Linus Neumann: das hätte ich ja sogar noch interessant gefunden, weil ich ja,
Linus Neumann: Also ich benutze Signal, Threema und iMessage.
Linus Neumann: Und es ist natürlich teilweise etwas schade, wenn man Leute mit Android-Telefonen
Linus Neumann: dann nicht mit iMessage erreichen kann und da so ein paar nette Funktionalitäten nicht hat.
Linus Neumann: Es wäre natürlich toll gefunden, wenn beispielsweise iMessage und was auch immer
Linus Neumann: Android-Leute machen, wenn die gezwungen wurden.
Thomas Lohninger: Das ist aber so. Also ich glaube nämlich, dass sich Apple hier nicht betroffen
Thomas Lohninger: ist, weil sie sich verpflichtet haben, RCS zu verwenden.
Thomas Lohninger: Und ich glaube, das ist der SMS-Ersatz, der auf Android zum Einsatz kommt.
Linus Neumann: Ja, okay, das kann sein, okay, gut, ja, in Ordnung, die werden aber,
Linus Neumann: dann werden beide jeweils quasi,
Linus Neumann: wenn du mit denen schreibst, irgendwie sagen, das ist hier das downgraded Verfahren,
Linus Neumann: da hat die Chatbar jetzt eine andere Farbe, aber ja, Mann, ey, also, ja. Ja.
Thomas Lohninger: That's why we can't have nice things.
Linus Neumann: Was aber auch sehr schön ist, und jetzt weiß ich gar nicht genau,
Linus Neumann: ob es Digital Markets App, äh, äh, äh, äh, Digital Markets App,
Linus Neumann: äh, Digital Markets Act oder Digital Services Act ist,
Linus Neumann: ähm, ich glaube DMA,
Linus Neumann: ähm, Apple tötet jetzt die schönen Progressive Web Apps in Europa.
Linus Neumann: So, warum tun sie das? Also eine Progressive Web App ist im Prinzip eine sehr
Linus Neumann: einfache App, die in HTML und so weiter geschrieben wurde.
Linus Neumann: Das war, wenn ich mich nicht täusche, die erste Möglichkeit überhaupt Apps aufs
Linus Neumann: iPhone zu machen. Ein Sweet Deal hatte, glaube ich, Steve Jobs das bezeichnet,
Linus Neumann: wenn ich mich jetzt richtig erinnere.
Linus Neumann: Also letztendlich eine in sich geschlossene Webseite, die potenziell vielleicht
Linus Neumann: sogar noch mit irgendeiner API da draußen redet, aber halt, du schreibst deine App in HTML,
Linus Neumann: nicht irgendwie in SwiftUI oder
Linus Neumann: Objective-C oder sonst was, sondern halt eigentlich ist es eine Webseite.
Linus Neumann: Ja, eigentlich auch das, was hier so mit Elektron und so weiter in letzter Zeit
Linus Neumann: nur noch gemacht wird und was sowieso den Untergang der Usability herbeigeführt hat.
Linus Neumann: Jetzt muss aber Apple ja auch andere Browser Rendering Engines zulassen als ihren Safari.
Linus Neumann: Das haben wir in den letzten Sendungen besprochen. Also Apple sagt eigentlich
Linus Neumann: so, wer hier HTML rendern möchte, der kriegt unser Webkit.
Linus Neumann: Und wenn du sagst, du möchtest jetzt irgendwie einen Chrome-Browser machen,
Linus Neumann: kannst du machen, aber solange du HTML renderst, nimmst du genau das gleiche Ding wie unser Safari.
Linus Neumann: Und dann wurde gesagt, das dürft ihr nicht mehr machen. Es soll auch auf der
Linus Neumann: HTML-Renderer-Ebene Konkurrenz geben.
Linus Neumann: Und jetzt müssten sie für die progressiven Web-Apps auch andere HTML-Renderer
Linus Neumann: erlauben und dann sagen sie, na gut, dann killen wir das gesamte Feature.
Linus Neumann: Das heißt, für Europa, für dieser DMA jetzt sogar noch für diese ganzen Entwickler,
Linus Neumann: ich weiß nicht wie lebhaft der Markt für Progressive Web-Apps ist,
Linus Neumann: aber dazu, dass das einfach komplett abgeschnitten wird.
Linus Neumann: Apple tötet das einfach, ja, auch verständlicherweise, weil sie sagen,
Linus Neumann: für diese Web-Apps und das Web-Kit, was wir da rumgeknultet haben und die gesamte
Linus Neumann: Sicherheitsagentur, das kriegen wir jetzt, die Sicherheitsarchitektur,
Linus Neumann: das kriegen wir jetzt nicht hin,
Linus Neumann: das auch noch für ganz andere DOM-Renderer hinzubasteln und das wäre uns einfach zu viel Arbeit, ja.
Linus Neumann: Ja, und dann hätten theoretisch, könnten hier eventuell diese Web-Apps irgendwo
Linus Neumann: ausbrechen, weil sie Schwachstellen in anderen Rendering-Engines benutzen.
Linus Neumann: Das können wir uns nicht erlauben, also...
Linus Neumann: Machen wir das alles weg.
Thomas Lohninger: Ja, also für mich wird das noch sehr spannend, muss ich ehrlich sagen,
Thomas Lohninger: weil das ist ein weiteres Beispiel für die malicious compliance von Apple,
Thomas Lohninger: also wirklich die böswillige Umsetzung dieses Gesetzes, weil sowas eindeutig nicht gedacht,
Thomas Lohninger: das hat jetzt ihre Funktion als Gatekeeper nochmal verstärkt.
Thomas Lohninger: Weil diese Web-Apps waren ein Weg, wie man am App-Store vorbei einfache Dinge
Thomas Lohninger: und Funktionalitäten auf das Telefon bekommen kann. Ja.
Thomas Lohninger: Milliarden bei Apple, das tut auch denen weh und das ist auf jeden Fall für
Thomas Lohninger: die Kommission, die ja hier zuständig ist, für das Enforcement ein klarer Auftrag,
Thomas Lohninger: wenn sie sich noch irgendwie ernst nehmen wollen,
Thomas Lohninger: weil ansonsten könnte ja jedes Unternehmen mit einer böswilligen Umsetzung des
Thomas Lohninger: Gesetzes das ewig lang hinauszögern.
Thomas Lohninger: Ich meine, ganz ehrlich, sind wir in vielen Bereichen von Großkonzernen gewohnt,
Thomas Lohninger: aber an der Stelle gibt es halt auch wirklich Leidtragende.
Thomas Lohninger: Also ich will nicht wissen, wie viele Apps jetzt einfach nicht mehr funktionieren
Thomas Lohninger: auf den geupdateten Geräten und das ist etwas, wo innerhalb von Apple hoffentlich
Thomas Lohninger: auch irgendwann mal eine kleine Revolte an den Start geht.
Thomas Lohninger: Weil ich meine, die haben ja auch Nerds und Hacker in ihren Unternehmen.
Thomas Lohninger: Und auch wenn die gut zahlen, ist
Thomas Lohninger: das vielleicht auch noch so eines der Korrektive, die dazu kommen könnte.
Thomas Lohninger: Also da aktiv etwas kaputt zu machen, fühlt sich glaube ich auch für die Leute,
Thomas Lohninger: die dort viel verdienen, nicht unbedingt gut an. Da habe ich zumindest ein bisschen
Thomas Lohninger: Hoffnung auf die Menschen.
Linus Neumann: Ja, also schon klar, aber ich finde, also ich glaube auch nicht,
Linus Neumann: dass Apple das gerne jetzt macht und sagt, ja geil, jetzt machen wir die Web-Apps noch kaputt.
Linus Neumann: Aber ich finde es schon auch nachvollziehbar, wenn ich das mal so sagen darf,
Linus Neumann: dass das hier auch eigentlich ein Sicherheitsthema ist,
Linus Neumann: da jetzt auf einmal eine andere Browser-Engine in irgendeiner App und so weiter zuzulassen.
Linus Neumann: Also mal gucken. Potenziell, sag ich mal, das Argument ist für mich erstmal...
Linus Neumann: Das ist nachvollziehbar. Allerdings muss ich auch sagen, dass das jetzt nicht
Linus Neumann: mein absolutes Spezialgebiet ist.
Linus Neumann: Und die kriegen auch alles andere gesandboxt.
Linus Neumann: Könnte man also auf jeden Fall auch argumentieren, dass sie da potenziell sich
Linus Neumann: eine Argumentation herbeiführen, die ihnen angenehm ist.
Linus Neumann: Ich bin mal gespannt, wie jetzt die Leute, die sich besser damit auskennen, das einschätzen.
Thomas Lohninger: Ja, das muss man sich anschauen. Es gibt da auch wirkliche Expertinnen,
Thomas Lohninger: die sich mit dem DSA und DMA beschäftigt haben.
Thomas Lohninger: Ich gehöre nicht dazu, aber ich habe jetzt mal geschaut, Artikel 13 Antisarconvention
Thomas Lohninger: vom DMA hört sich schon so an,
Thomas Lohninger: als dass man da was tun könnte, wenn die Obligations of Gatekeepers dann nicht
Thomas Lohninger: eingehalten werden. Also vielleicht ist da noch nicht das letzte Wort gesprochen.
Thomas Lohninger: Und ich würde auch erwarten, dass jetzt einfach mal ein paar Klagen von betroffenen Unternehmen kommen.
Thomas Lohninger: Also es ist ja auch so, dass dann der EuGH nochmal Dinge klarstellen kann.
Thomas Lohninger: Also wir werden das auf jeden Fall weiter beobachten.
Linus Neumann: Okay. So, was wir zum Glück noch beobachten können in vereinzelten sozialen
Linus Neumann: Netzwerken und auf einzelnen Mastodon-Instanzen sind politische Diskussionen.
Linus Neumann: Ich habe ja, also ich nutze das Internet hauptsächlich, um mich politisch zu äußern.
Linus Neumann: Insbesondere nutze ich soziale Medien hauptsächlich, um mich politisch zu äußern.
Linus Neumann: Und die politische Äußerung als solche ist ja inzwischen ein Problem.
Linus Neumann: Und auch tatsächlich eines, wenn wir uns mal anschauen, ich glaube eingangs
Linus Neumann: hatten wir schon, die AfD ist im Gegensatz zu ungefähr allen anderen Parteien
Linus Neumann: sehr stark auf TikTok präsent.
Linus Neumann: In den letzten Wochen durchaus ausführlich diskutiert worden,
Linus Neumann: weil es da irgendeinen Kryptospinner-Podcast gibt, die AfD-Thesen vertreten
Linus Neumann: und dann irgendwie für ihre Hörerinnen und Hörer irgendwie so eine,
Linus Neumann: was haben die da gehabt, quasi so eine Art.
Linus Neumann: So eine Challenge, wenn du das irgendwie auf TikTok postest,
Linus Neumann: Ausschnitte aus ihrem Podcast und so und so viele Likes kriegst oder so,
Linus Neumann: so, dann kriegst du Geld,
Linus Neumann: ja, was natürlich dazu geführt hat, dass alle möglichen TikToker gerne dieses
Linus Neumann: Geld haben wollten und TikTok quasi geflutet wurde mit irgendwelchen provokanten
Linus Neumann: Ausschnitten aus deren Podcast, so.
Linus Neumann: Und die kloppen da halt irgendwie, so habe ich es verstanden,
Linus Neumann: eher, ähm, eher dümmere Thesen aus dem, aus dem AfD-Kontext.
Linus Neumann: Und keine andere Partei hat dieses TikTok-Game irgendwie für sich entdeckt,
Linus Neumann: sodass TikTok hauptsächlich bei Kindern und Jugendlichen verwendet wird,
Linus Neumann: kloppen jetzt die Kinder und Jugendlichen irgendwelche AfD-Sprüche.
Linus Neumann: Problem.
Linus Neumann: Insbesondere mit diesem Empfehlungsalgorithmus und so weiter. Das Thema ist bekannt.
Linus Neumann: Jetzt gehen Instagram und Threads hin, die ja beide Facebook gehören und sagen,
Linus Neumann: ja wir limitieren jetzt einfach mal so politische Inhalte und zwar,
Linus Neumann: wenn ich das richtig erinnere, geben sie dir dann nur noch Leuten,
Linus Neumann: denen du folgst, äh Leuten, die dir folgen.
Linus Neumann: Also du machst eine politische Äußerung, lieber Thomas, die kriegen dann nur
Linus Neumann: die Leute, die dir folgen, die wird aber jetzt nicht zum Beispiel anderen empfohlen.
Linus Neumann: Also deine Reichweite, wenn du dich politisch äußerst oder wenn deine Inhalte
Linus Neumann: als politisch erkannt werden, wird deine Reichweite eingeschränkt.
Linus Neumann: Eine derartige Regel gab es übrigens auch, oder eine Verhaltensregel dieser
Linus Neumann: Art gab es auch auf meiner früheren Mastodon-Instanz, wo es eine Regel gab,
Linus Neumann: dass man politische Äußerungen nur tätigen darf, wenn man sie mit einer Contentwarnung
Linus Neumann: früher oder im Volksmund Triggerwarnung versehen hat.
Linus Neumann: Das ist also ein von mir als relativ zweifelhaft eingeschätztes Konzept,
Linus Neumann: dass es ja sein kann, dass es bestimmte belastete Inhalte gibt.
Linus Neumann: Sagen wir mal, was wäre ein Beispiel für einen belasteten Inhalt? Transphobie.
Linus Neumann: Das ist ein Inhalt, der einfach nervt und wo man sich zum Beispiel auch vorstellen kann,
Linus Neumann: dass von Transphobie betroffene Personen nicht zu jedem Zeitpunkt des Tages,
Linus Neumann: der Woche, des Monats oder des Jahres Bock haben, sich damit auseinanderzusetzen.
Linus Neumann: Und dann gibt es das Konzept, dass man da zum Beispiel hinschreibt, Transphobie.
Linus Neumann: Und das verdeckt dann den Post. Und dann kann jede Person sich entscheiden,
Linus Neumann: ob sie sich gerade mit diesem Thema auseinandersetzen möchte oder nicht.
Linus Neumann: Was auch sehr häufig als Content-Warnung gesetzt wird, ist zum Beispiel das
Linus Neumann: Wort Rape oder dessen deutsche Übersetzung.
Linus Neumann: Wo ich mich auch frage, wenn ich jetzt eine davon betroffene Person bin,
Linus Neumann: ob jetzt das Wort Rape oder Vergewaltigung mich nicht triggert.
Linus Neumann: Aber quasi die Beschreibung einer solchen oder also mein Verständnis,
Linus Neumann: wie ich als Psychologe Denken und Assoziationen gelernt habe und auch an mir
Linus Neumann: selber feststelle, wenn ich das Wort Rape höre, muss ich an Rape denken.
Linus Neumann: Ja, wenn jetzt dieses Wort für mich belastet wäre oder vielleicht sogar durch
Linus Neumann: eine traumatische Erfahrung belastet wäre, halte ich es jetzt für unwahrscheinlich,
Linus Neumann: dass das nicht diese Assoziation bei mir auslöst.
Linus Neumann: Also ich persönlich glaube nicht, dass diese Triggerwarnungen ein funktionierendes
Linus Neumann: Konzept sind, um andere vor diesen Inhalten zu schützen.
Linus Neumann: Und zwar kann es sehr gut sein, dass es Menschen gibt, die, wenn sie Rape hören,
Linus Neumann: nicht an Rape denken oder zumindest nicht an ihre traumatisierende Erfahrung
Linus Neumann: in diesem Kontext. Aber das wäre potenziell nur ein Teil der Menschen.
Linus Neumann: Ich weiß ja nicht, was deren Triggerwort ist. Vielleicht ist deren Triggerwort
Linus Neumann: Rape, vielleicht ist deren Triggerwort ein anderes.
Linus Neumann: Vielleicht ist deren Trigger auch dunkles Zimmer, weil das ein Teil ihres Traumas ist.
Linus Neumann: Aber okay, also ich glaube nicht, dass das ein Zuende durchdacht,
Linus Neumann: oder ich glaube nicht, dass es die Lösung des Problems ist.
Linus Neumann: Was aber sicherlich die Lösung des Problems der politischen Debatten ist, ist, wenn man sagt,
Linus Neumann: jeder Tröt oder Tut oder Tweet oder was, der einen politischen Inhalt hat,
Linus Neumann: muss eine Triggerwarnung haben, die dann zum Beispiel lautet, Depol.
Linus Neumann: Also das wäre dann Depolstern in dem Fall für deutsche Politik.
Linus Neumann: Und wenn jemand sich von deutscher Politik getriggert fühlt,
Linus Neumann: wie ich, also ist für mich traumatisch, dann kann die Person sich eben entscheiden,
Linus Neumann: ob sie diesen Inhalt konsumieren möchte oder nicht.
Linus Neumann: So lautete die Regel auf der Mastodon-Instanz, auf der ich war.
Linus Neumann: So, da ich aber eigentlich nichts anderes wirklich mitteilenswert finde,
Linus Neumann: außer irgendwie politische Ansichten und mein privates Leben eigentlich für
Linus Neumann: ausreichend uninteressant halte.
Linus Neumann: Führte das dazu, dass ich mich eigentlich nicht sinnvoll da äußern kann.
Linus Neumann: Dann habe ich mich beklagt und habe gesagt, das finde ich eine unsinnige Regel.
Linus Neumann: Und dann wurde gesagt, ja, das gilt aber nur für die lokale Timeline.
Linus Neumann: Also nur, wenn du in die lokale Timeline, also in den Bereich postest,
Linus Neumann: wo es alle Leute auf diesem Server sehen, wenn sie in der lokalen Timeline suchen.
Linus Neumann: Nur dann musst du das machen. Mit anderen Worten, du kannst auch einfach nicht öffentlich posten.
Linus Neumann: Also du postest nicht in die lokale Timeline, sondern nur an deine Followerinnen und Follower.
Linus Neumann: Und das hat aber auch zur Folge, dass du auch nicht in die föderierte Timeline,
Linus Neumann: also Leute auf anderen Servern sehen dich auch nicht, es sei denn, sie folgen dir.
Linus Neumann: Die Konsequenz davon ist, also die Konsequenz dieser Regel ist,
Linus Neumann: entweder du postest auf der lokalen und damit auch auf der föderierten Timeline,
Linus Neumann: also den föderierten Timelines der anderen Mastodon-Instanzen,
Linus Neumann: wo Leute dir auch folgen, mit einer Warnung.
Linus Neumann: Und fällst natürlich überall sonst auf jeder anderen Mastodon-Instanz auf als
Linus Neumann: derjenige, der seine Inhalte hinter einer kryptischen Content-Warnung versteckt.
Linus Neumann: Oder du postest nur an deine Followerinnen und Follower.
Linus Neumann: So oder so, in dem föderierten System des Fediverse bist du mit deinen politischen
Linus Neumann: Inhalten nicht mehr sichtbar.
Linus Neumann: Weil auf deiner Instanz eine Regel herrscht, die damit begründet wird,
Linus Neumann: dass dort der Frieden gewahrt werden soll und dass halt irgendwie Leute sich
Linus Neumann: nicht schlecht fühlen sollen, die durch Politik getriggert werden.
Linus Neumann: Ich halte das für absolut falsch. Also die Depolitisierung des Internets ist
Linus Neumann: so ungefähr das Letzte, was wir brauchen.
Linus Neumann: Auch wenn gerade irgendwie die Nazis TikTok übernehmen und auch wenn die kommerziellen
Linus Neumann: sozialen Netzwerke, in denen wir unsere politischen Debatten abgebildet haben,
Linus Neumann: sicherlich der falsche Ort dafür waren.
Linus Neumann: Glaube ich trotzdem nicht, dass so die Depolitisierung des Internets irgendwie
Linus Neumann: der sinnvolle Weg ist, aus dem Faschismus oder der Dummheit wieder rauszukommen,
Linus Neumann: in die wir uns da gerade reingraben.
Linus Neumann: Deswegen habe ich meine Mastodon-Instanz gewechselt.
Linus Neumann: Ich kann mir auch wirklich nicht vorstellen, dass das eine, also so sehr ich
Linus Neumann: es in diesen föderierten Systemen wirklich schwierig finde,
Linus Neumann: wenn da irgendwie einzelne lokale Stammesfürsten derartige Regeln aufsetzen,
Linus Neumann: die dann eben auch für andere Kommunikation gelten.
Linus Neumann: Genauso sehe ich es trotzdem als ein Problem an, wenn diese Netzwerke,
Linus Neumann: die kommerziell gesteuert sind,
Linus Neumann: sagen wir mal politische Inhalte, weil sie Aufregefaktoren haben, verbreiten.
Linus Neumann: Also ich finde fast potenzielles Positiv, wenn Instagram und Threads sagen,
Linus Neumann: okay, sobald wir das als politisch erkennen,
Linus Neumann: schalten wir unsere Amplification-Algorithmen aus und ich finde es trotzdem
Linus Neumann: falsch, wenn so etwas im Rest des Internets, das nicht kommerziell getrieben ist, gemacht wird.
Linus Neumann: Und was ich übrigens auch sehr interessant finde und das sind eigentlich nur
Linus Neumann: so Mastodon-Phänomene, das ist so dieses Geh-doch-nach-drüben-Geschrei.
Linus Neumann: Kennst du das, Thomas?
Thomas Lohninger: Ja.
Linus Neumann: Also da entwickelt sich etwas, das ich nicht viel besser finde.
Linus Neumann: Also natürlich sind diese kommerziellen sozialen Netzwerke die absolute Kretze
Linus Neumann: und sie haben sicherlich unsere Gesellschaft nicht weitergebracht,
Linus Neumann: insbesondere im politischen.
Linus Neumann: Aber wenn man doch sagt, wir machen jetzt hier etwas anders und wir machen das
Linus Neumann: jetzt hier besser dann finde ich es schon sehr.
Linus Neumann: Und überraschend dann zu sagen, das erste, was wir jetzt hier wegstreichen,
Linus Neumann: sind politische Diskussionen.
Linus Neumann: Und dann fangen wir auch noch an, massenhaft irgendwelche anderen Instanzen
Linus Neumann: zu blocken und allen unseren Nutzerinnen zu verbieten, deren Inhalte zu konsumieren
Linus Neumann: oder unmöglich zu machen, deren Inhalte zu konsumieren.
Linus Neumann: Und wenn irgendjemand bei uns die Regeln diskutieren will, dann sagen wir, verpiss dich.
Linus Neumann: Also da habe ich irgendwie den Eindruck, dass der Lerneffekt nicht stattgefunden hat.
Linus Neumann: Denn du und ich wissen das aus, ja was ist das jetzt, sicherlich über ein Jahrzehnt
Linus Neumann: der Auseinandersetzung mit den großen sozialen Netzwerken, dass natürlich die
Linus Neumann: Regeln dort zur Diskussion gestellt werden müssen.
Linus Neumann: Und das war das große Problem, dass Facebook einfach Regeln aufstellt oder Twitter
Linus Neumann: einfach Regeln aufstellt, die dann nicht sinnvoll diskutiert werden können.
Linus Neumann: Das ist der Grund, warum wir alle bei Twitter abgehauen sind.
Linus Neumann: Dass irgendjemand die Bude kauft und sagt, ab jetzt sind hier andere Regeln
Linus Neumann: und wir damit unzufrieden sind.
Linus Neumann: Und da bin ich von Teilen dieser Fediverse-Community dann doch sehr enttäuscht,
Linus Neumann: welche Art von Mentalität da jetzt vorherrscht.
Linus Neumann: Mit diesem verpiss dich hier und der Admin macht die Regeln und so.
Linus Neumann: Das erscheint mir nicht unbedingt der Weg nach vorne zu sein.
Linus Neumann: Dazu hat unser gemeinsamer Freund Markus Reuter einen ausführlichen Kommentar
Linus Neumann: geschrieben, der sich dafür einsetzt, dass nämlich jetzt genau dieser Fediversum-Gedanke,
Linus Neumann: Und gelebt wird beispielsweise dadurch, dass Mastodon sich mit Threads,
Linus Neumann: können sie glaube ich, wie war das denn?
Linus Neumann: Mit Threads könnte man direkt föderieren, weil die auch Activity Pub sprechen,
Linus Neumann: dieses Protokoll. und Blue Sky hat ein eigenes Protokoll, für das man aber Bridges bauen kann.
Linus Neumann: Und jetzt zankt sich das Fediversum darüber, ob man mit diesen kommerziellen
Linus Neumann: Playern föderiert oder nicht.
Thomas Lohninger: Es ist so eine vergebene Chance.
Thomas Lohninger: Also ich meine, wie du gesagt hast, ja natürlich haben wir negative Phänomene gesehen,
Thomas Lohninger: dadurch, dass jetzt alle Leute eine Stimme haben Und diese Social Media Big
Thomas Lohninger: Tech Konzerne da wirklich sehr viel
Thomas Lohninger: falsch gemacht haben und sich ihrer Verantwortung nicht gestellt haben.
Thomas Lohninger: Klar, aber dann geht es doch darum, es besser zu machen.
Thomas Lohninger: Und dieser Artikel von Markus Reuter ist wirklich exzellent,
Thomas Lohninger: weil er halt auch diese Wohnzimmer-Analogie bringt.
Thomas Lohninger: Es ist so ein Biedermeier-Gedankentum, dieses aber ich will hier unter meinigen
Thomas Lohninger: sein und es ist ein benevolent dictator,
Thomas Lohninger: wir haben hier uns die Regeln gemacht, die sind in Stein gemeißelt und da soll
Thomas Lohninger: sich ja niemand auf den Schlips getreten fühlen für diese eine Zielgruppe,
Thomas Lohninger: für die das Ganze gemacht ist, die am Anfang da war, als die Regeln geschrieben wurden.
Thomas Lohninger: Und die Chance, jetzt hier eine Gegenöffentlichkeit zu schaffen,
Thomas Lohninger: etwas, das wirklich frei und dezentral ist und einfach auch zeigt,
Thomas Lohninger: wie es besser geht, dass...
Thomas Lohninger: Überhaupt nicht genutzt. Da müsste man jetzt in eine radikale Offenheit reingehen
Thomas Lohninger: und da wäre eigentlich auch genau der Moment, wie man mal aus einer Tech-Admin-Karriere heraus,
Thomas Lohninger: wirklich Revolution starten könnte, im positivsten Sinne.
Thomas Lohninger: Und ich weiß nicht, ob du die Mastodon-Server, über die du gerade gesprochen
Thomas Lohninger: hast, bewusst nicht erwähnt hast.
Linus Neumann: Ja, es ist unerheblich. Also es geht ja um den Inhalt der Diskussion.
Thomas Lohninger: Aber so als jemand, der eine NGO leitet, die die ganze Zeit nichts anderes tut,
Thomas Lohninger: als politisch zu kommunizieren, frage ich mich auch, wie uns das betrifft.
Thomas Lohninger: Da ist es jetzt wurscht, ob das Netzpolitik oder Antirassismuspolitik ist.
Thomas Lohninger: Es ist ja alles dasselbe. Und vor allem diese statische Grundhaltung.
Thomas Lohninger: Argumentiere die Regeln nicht.
Thomas Lohninger: Der wunderbare Nilay Patei, der Chefredakteur von The Verge,
Thomas Lohninger: der hat immer diesen schönen Satz, das eigentliche Produkt von sozialen Netzwerken
Thomas Lohninger: ist Content Moderation.
Thomas Lohninger: Also die Art, wie du mit Inhalten umgehst, ist die Essenz eines sozialen Netzwerkes.
Thomas Lohninger: Und natürlich ist ein Produkt nie statisch, weil das sind soziale Netzwerke.
Thomas Lohninger: Menschheit verändert sich, Sprache verändert sich, politischer Konsens verändert
Thomas Lohninger: sich. Und da musst du mit der Zeit gehen, da gibt es kein festgeschriebenes
Thomas Lohninger: falsch und richtig und darfst du sagen, darfst du nicht sagen.
Thomas Lohninger: Das muss ausverhandelt werden.
Thomas Lohninger: Und gerade jetzt, wo es diese Möglichkeit gibt, sich zu eröffnen,
Thomas Lohninger: natürlich kannst du auch wieder zum Absaugen von Daten kommen durch Meta, mittels Threads.
Thomas Lohninger: Aber das tun die doch sowieso. Also ganz ehrlich, bei sozialen Netzwerken,
Thomas Lohninger: natürlich du kannst dann deine Dinge auf protected schalten und es gibt auch
Thomas Lohninger: immer den Case für komplett geschlossene Systeme.
Thomas Lohninger: Die haben wir ja eh. Es geht doch eigentlich um die große Öffentlichkeit.
Thomas Lohninger: Es geht um die politischen Diskurse.
Thomas Lohninger: Über solche sozialen Netzwerke und die Debatten, die dort passieren,
Thomas Lohninger: werden Wahlen gewonnen oder verloren.
Thomas Lohninger: Und bei Gott, wir haben dieses Jahr genügend Wahlen, wo es mal wichtig ist,
Thomas Lohninger: dass wir uns ehrlich auseinandersetzen.
Thomas Lohninger: Miteinander. Auch da, wo es weh tut. Sonst gibt es keine Mehrheit.
Linus Neumann: Ja, das ist übrigens auch natürlich dann der auslösende Punkt gewesen,
Linus Neumann: warum ich die Mastodon-Instanz gewechselt habe, weil dann da Leute kritisiert wurden, weil sie,
Linus Neumann: also ich auch, weil ich auf die Korrektivrecherche zu dem Deportationstreffen verlinkt habe.
Linus Neumann: Und da wurde ich darauf hingewiesen, dass ich das bitte nur mit einer Content-Warnung machen soll.
Linus Neumann: Dann musste ich diese Person darauf hinweisen, dass ich unlisted poste und deswegen
Linus Neumann: keine Content-Warnung haben muss.
Linus Neumann: Und andere Leute, die nicht anlistet gepostet haben, sondern die das schwere
Linus Neumann: Vergehen begangen haben,
Linus Neumann: auf diese belastenden Inhalte ohne eine Triggerwarnung hinzuweisen, in einem Wohnzimmer,
Linus Neumann: die wurden dann zurechtgewiesen.
Linus Neumann: Also ich denke, dieser Wohnzimmer-Gedanke für ein soziales Netzwerk ist völlig falsch.
Linus Neumann: Das Wohnzimmer ist deine, wenn du ein Wohnzimmer haben willst,
Linus Neumann: mach eine Signal-Gruppe,
Linus Neumann: mach eine Threema-Gruppe, kauf ein Eigenheim, also Miete eins,
Linus Neumann: mach was du möchtest, also Wohnzimmer gibt es genug.
Linus Neumann: Wohnzimmer zeichnen sich dadurch aus, dass sie...
Linus Neumann: Dass sie nicht frei zugänglich sind.
Linus Neumann: Und soziale Medien oder soziale Orte zeichnen sich dadurch aus,
Linus Neumann: dass sie öffentlich zugänglich sind.
Linus Neumann: Natürlich kannst du in einer Kneipe zum Beispiel sagen, in unserer Kneipe keine
Linus Neumann: rechtsradikalen Äußerungen.
Linus Neumann: Das ist völlig in Ordnung, finde ich auch völlig richtig.
Linus Neumann: Und ich finde es auch völlig in Ordnung, das im Rahmen des Hausrechts durchzusetzen.
Linus Neumann: Aber du kannst ja nicht sagen, in meiner Kneipe, darf man nicht über Politik reden.
Linus Neumann: Oder in meiner Kneipe, natürlich kann man sagen, man darf hier folgende politische
Linus Neumann: Ansicht nicht vertreten, weil das meiner Kneipe und der Stimmung darin nicht gut tut.
Linus Neumann: Aber zu sagen, meine Kneipe ist unpolitisch und du darfst hier nur irgendwie
Linus Neumann: hinter verschlossener Tür reden. Und wenn du aus der anderen Kneipe kommst,
Linus Neumann: dann darf man nicht mit dir reden.
Linus Neumann: Weil die andere Kneipe, die blockieren wir hier.
Linus Neumann: Und die Gäste, die da, die trinken das falsche Bier, mit denen möchten wir unter
Linus Neumann: keinen Umständen sprechen.
Linus Neumann: Ich glaube, das ist sicherlich nicht die Lösung für die Online-Probleme, die wir haben. haben.
Linus Neumann: Und wir hatten diese Online-Probleme übrigens die ganze Zeit nicht,
Linus Neumann: und du hast es glaube ich auch gerade schon gesagt, die verstärkenden Algorithmen, das ist das Problem.
Linus Neumann: Nicht, dass irgendein Thema kommt und irgendjemand keinen Bock auf das Thema
Linus Neumann: hat oder so. Also ich finde das sehr.
Linus Neumann: Also was ich mir einbilde, was wir da gerade beobachten ist, ja, wir haben die,
Linus Neumann: schwierigen und auch wirklich dramatischen Konsequenzen kommerzieller sozialer
Linus Neumann: Netzwerke gesehen und wir möchten Alternativen dazu schaffen,
Linus Neumann: aber wir müssen genauso vorsichtig sein, dass wir jetzt nicht das Pendeln in
Linus Neumann: die andere Richtung schlagen lassen.
Linus Neumann: Wir müssen doch, wir können ja nicht sagen, die kommerziellen sozialen Medien
Linus Neumann: waren nur schlecht und wir wollen das alles gar nicht mehr.
Thomas Lohninger: Vor allem, es funktioniert ja auch nicht. Ich will nur mal kurz darauf hinweisen,
Thomas Lohninger: dass diese Policy von manchen Mastodon-Servern, keine Politik mehr einen Raum
Thomas Lohninger: zu geben oder zumindest nicht mehr zu amplifizieren oder eine neue Reichweite
Thomas Lohninger: über das Netzwerk generisch gewinnen zu lassen.
Thomas Lohninger: Diese Policy der dezentralen, nicht kommerziellen Mastodon-Servern ist eins
Thomas Lohninger: zu eins dieselbe Policy, die Meta gerade mit Threads fährt.
Thomas Lohninger: Dass sie einfach meint, für unsere Werbekunden ist das eigentlich nicht so klug,
Thomas Lohninger: wenn wir da noch Politik haben.
Thomas Lohninger: Lass lieber nur Mode-Content machen oder Sport oder irgendwas,
Thomas Lohninger: wo sich die Leute nicht so sehr in die Haare bekommen.
Thomas Lohninger: Und ich habe da sogar mehr Verständnis für Meta, die halt ein kapitalistischer
Thomas Lohninger: Schweinekonzern sind und denen es nur ums Geld geht.
Thomas Lohninger: Aber dadurch, dass man diese politische Gegenrede und den Raum fürs Organisieren
Thomas Lohninger: von Alternativen nicht mehr auf den dezentralen Netzwerken hat,
Thomas Lohninger: du hast eingeleitet mit dem Erfolg der AfD auf TikTok.
Thomas Lohninger: Und ich glaube, rechtspopulistische Parteien überall auf der Welt sind sehr
Thomas Lohninger: erfolgreich auf sozialen Netzwerken.
Thomas Lohninger: Das kann man so konstatieren, auch auf Facebook.
Thomas Lohninger: Die Zahlen gibt es. Und mit Musk hat man auch gesehen, notfalls kaufen die sich sowas.
Thomas Lohninger: Trump hat auch seinen Truthpunkt Social.
Thomas Lohninger: Also, sich einfach die Stimme für die Gegenöffentlichkeit zu rauben,
Thomas Lohninger: da ist es dann kein Wunder, wenn die Wahlen schlecht ausgehen.
Linus Neumann: Ja, das ist absoluter Wahnsinn. Ich kann da nichts Gutes dran sehen und ich
Linus Neumann: muss auch feststellen, noch dazu,
Linus Neumann: aber das ist eine Nebendebatte, werden diese Regeln dann nicht konsequent umgesetzt.
Linus Neumann: Dann wird dann irgendwie sowas wie Netzpolitik-Org-Standard-Posting,
Linus Neumann: das ist dann schon in Ordnung.
Linus Neumann: Also alles, was so ein Mark Zuckerberg oder so ein Elon Musk oder so ein Google
Linus Neumann: oder wer auch immer die sozialen Netzwerke hatte, falsch machen,
Linus Neumann: machen die dann im Kleinen nochmal falsch.
Linus Neumann: Also ja, ich denke, also was sagt Markus Reuter?
Linus Neumann: Markus Reuter sagt so, wollen wir eine globale Öffentlichkeit oder ein Wohnzimmer?
Linus Neumann: Und wichtig ist, die globale Öffentlichkeit ist nicht wichtig.
Linus Neumann: An der globalen Öffentlichkeit gescheitert, sondern an den kommerziellen Interessen,
Linus Neumann: die dahinter standen. Wir hatten jahrelang globale Öffentlichkeit in IRC-Kanälen.
Linus Neumann: Wir haben schon geflame-word, da hat Mark Zuckerberg noch irgendwie,
Linus Neumann: es ist ja wirklich so, dass alle diese Phänomene waren vorher da.
Linus Neumann: Soziale Netzwerke gab es Jahrzehnte vor Facebook.
Linus Neumann: Die ganzen unschönen Phänomene kamen, Als das unterwandert wurde von kommerziellen Interessen.
Linus Neumann: Und wir haben nicht nur schlechte Phänomene, aktuelle Informationen aus erster
Linus Neumann: Hand zu Ukraine, zu Faschismus in Italien, Wahlen in den USA,
Linus Neumann: alle möglichen Nischen.
Linus Neumann: Wir haben diese wunderschönen Phänomene und wir haben die Filtersouveränität bei den Usern.
Linus Neumann: Ja, bei Twitter habe ich meine Mute-Listen, meine Blog-Listen,
Linus Neumann: meine Follower gehabt, ja, bis das Ding irgendwie gekippt wurde und konnte mir
Linus Neumann: da ein einzigartiges Fenster auf die Welt schaffen,
Linus Neumann: dem ich heute noch hinterher traue, ja, und jetzt hast du da irgendwie so eine Balkanisierung,
Linus Neumann: wo auf jedem Server irgendeiner sagt, das darfst du hier, das darfst du nicht,
Linus Neumann: aber ein komplettes Thema auszuschließen geht in meinen Augen absolut daneben.
Linus Neumann: Und was Markus auch sagt, ist, dieser Mastodon hat keine Entschittification-Gefahr.
Linus Neumann: Entschittification, ein Begriff von Cory Doctorow geprägt, der also sagt,
Linus Neumann: in dem Moment, wo die Nutzerinnen bei dir verhaftet sind und es keine Alternativen
Linus Neumann: mehr gibt, kannst du den Service immer schlechter machen, weil sie keine Alternativen mehr haben.
Linus Neumann: Ja, kurz und fast,
Linus Neumann: das wäre also das, was man bei zu lange existierenden Services dann erkennt,
Linus Neumann: dass sie nicht mehr im gleichen Maße besser werden, sondern eigentlich sogar
Linus Neumann: schlechter, aber du hängst trotzdem dran. Ich glaube, Facebook ist ein schönes Beispiel.
Linus Neumann: WhatsApp kann ich nicht so beurteilen. Google ist seit vielen Jahren nicht mehr
Linus Neumann: besser geworden, auch wenn Tim einen anderen Eindruck hat.
Linus Neumann: Aber wenn du dann sagst, so, und jetzt schneiden wir, wir brechen alle Brücken
Linus Neumann: zu denen ab und die können noch nicht mal mehr sehen, dass es uns gibt oder so.
Linus Neumann: Ich weiß nicht. Man muss natürlich dazu sagen, also deren die Sorge ist,
Linus Neumann: da müssen wir zumindest den Schluss ziehen zu den Messengern,
Linus Neumann: weil das ja ein ähnliches Thema ist,
Linus Neumann: die Sorge der Mastodon-Geflüchteten ist, dass jetzt Meta ihre Inhalte scrapt.
Linus Neumann: Also, dass jetzt der Kapitalismus ihre Inhalte auch noch zum Training seiner
Linus Neumann: KI benutzt oder was auch immer, die sie ja extra denen nicht gegeben haben.
Linus Neumann: Das ist, glaube ich, eine berechtigte Sorge.
Linus Neumann: Ich weiß nur nicht, ob die dadurch weggeht, dass man jetzt seine Inhalte und
Linus Neumann: jegliche Kommunikationsebenen zu deren Nutzerinnen und Nutzern abschneidet.
Linus Neumann: Da bin ich mir nicht so sicher.
Thomas Lohninger: Ja, vielleicht eine letzte Analogie noch zu bemühen. Also ich meine,
Thomas Lohninger: wenn du für eine politische Sache wirbst oder wenn du, ich weiß nicht,
Thomas Lohninger: für eine NGO, Klimaproteste oder was auch immer, natürlich musst du dahin gehen, wo die Leute sind.
Thomas Lohninger: Natürlich musst du aus deinem eigenen Soziotop heraus. raus.
Thomas Lohninger: Und der Verfassungsschutz kann dich trotzdem unterwandern, auch wenn du nur
Thomas Lohninger: unter den Deinigen bleibst und solange das offene Protokolle sind,
Thomas Lohninger: kann man die sowieso scrapen. Technisch geht das, egal ob du föderierst oder
Thomas Lohninger: nicht, ob es rechtlich erlaubt ist, steht auf einem anderen Blatt.
Thomas Lohninger: Also ich verstehe die Verhältnismäßigkeit dieser Entscheidungen nicht,
Thomas Lohninger: weil es gibt da einfach ein,
Thomas Lohninger: also solange man noch den Glauben verloren hat, dass ein besseres Netz möglich
Thomas Lohninger: ist und dass eine bessere Gesellschaft dadurch auch erzielt werden kann,
Thomas Lohninger: da muss man einfach mehr tun.
Thomas Lohninger: Und natürlich wird es dann vielleicht ein bisschen unangenehmer und wir beide
Thomas Lohninger: sind zwei exponierte Menschen, aber auch privilegierte Menschen.
Thomas Lohninger: Ich glaube, dass es da viele Seiten auch nochmal gibt, aber eine politische
Thomas Lohninger: Auseinandersetzung muss immer da geführt werden, wo man was lernt voneinander
Thomas Lohninger: und wo man aus der Komfortzone hinausgeht.
Thomas Lohninger: Ansonsten ist es nur preaching to the converted.
Thomas Lohninger: Ach.
Linus Neumann: Ja, und ich glaube nicht, dass dieser Balkanisierung, Preaching to the Converted,
Linus Neumann: die anderen dürfen hier nicht rein, dass das jetzt die Lösung ist.
Linus Neumann: Genauso ist es nicht die Lösung, dass wir uns alle auf Facebook und TikTok zuballern
Linus Neumann: lassen mit dem Fascho-Content.
Linus Neumann: Und deswegen habe ich wirklich Sorge, dass hier gerade ein Übertreiben in die
Linus Neumann: falsche Richtung wieder stattfindet.
Linus Neumann: Naja, deswegen bin ich zu einer anderen Mastodon-Instanz gegangen,
Linus Neumann: nachdem ich mir jahrelang habe anhören müssen, ich soll doch nach drüben gehen,
Linus Neumann: bin ich halt nach drüben gegangen übrigens wohlgemerkt, diese Regeln waren neu,
Linus Neumann: also als ich dieser Mastodon-Instanz beigetragen bin,
Linus Neumann: gab es die nicht und das war eine bei weitem krassere Änderung der Regeln als
Linus Neumann: die Elon Musk Elon Musk Mask explizit gemacht hat bei Twitter.
Linus Neumann: Also der hatte, das ist schon faszinierend, wie dann plötzlich,
Linus Neumann: also diese Argumentation, die großen Plattformen, die sind alle böse,
Linus Neumann: aber hier auf meiner, auf meinem Server ist irgendjemand, der keinerlei, was weiß ich.
Linus Neumann: Der keinerlei Verantwortungsbewusstsein oder keinerlei Qualifikationen vorweisen
Linus Neumann: kann, außer hat halt einen Server aufgesetzt, das ist jetzt hier die Gottkönigin
Linus Neumann: oder der Gottkönig und kann machen, was er will.
Linus Neumann: Und das ist aber völlig in Ordnung. Aber was Elon Musk macht,
Linus Neumann: wenn Elon Musk irgendwie auf einmal sagt, pass auf, die Inhalte gibt es bei
Linus Neumann: uns nicht mehr, dann ist das böse.
Linus Neumann: Aber wenn der Mastodon-Instanzenbetreiber oder die Mastodon-Instanzenbetreiberin
Linus Neumann: von heute auf morgen sagt, die neue Regel lautet folgendermaßen,
Linus Neumann: dann ist das voll geil und geht auch nach drüben.
Linus Neumann: Und da verstehe ich auch nicht, ob die alle nicht gelernt haben,
Linus Neumann: aus der Macht die Kommunikationsverbote ermöglichen.
Linus Neumann: Aber immerhin konnte man wirklich gehen und es war auch wirklich einfach und
Linus Neumann: ich kann es sehr empfehlen, die Mastodon-Instanz zu wechseln.
Linus Neumann: Ist tatsächlich enorm einfach, muss man sagen, und macht man besser früher als später.
Thomas Lohninger: Was hat Mastodon je für uns getan, das Umziehen wurde einfacher?
Linus Neumann: Ja, kannst du dir deinen Diktator wechseln.
Linus Neumann: Übrigens, achso, das wollte ich noch erzählen. Dann habe ich das gemacht.
Linus Neumann: Das ist so ein paar Schritte. Machst einen neuen Account, dann lenkst du den alten dahin um.
Linus Neumann: Und dann habe ich gesagt, okay, gut, jetzt muss ich ja nicht mehr unlisted posten.
Linus Neumann: Sondern ich konnte also jetzt auch von dieser neuen Instanz ohne Content-Warnungen
Linus Neumann: posten und bin damit in den föderierten Timelines der Instanzen meiner Followerinnen
Linus Neumann: und Follower aufgetaucht.
Linus Neumann: Das ist der einzige Unterschied, den es gab.
Linus Neumann: Ich war jetzt auf einer anderen lokalen Timeline, die weiß ich aber gar nicht,
Linus Neumann: ob die überhaupt jemand verfolgt, aber wie dem auch sei.
Linus Neumann: Das Entscheidende war, ich war jetzt auf den föderierten Timelines und zwar ohne Content-Warnung.
Linus Neumann: Und weißt du, was der erste Effekt war?
Linus Neumann: Unmengen an Interaktionen. Ich kriege auf jedes, alles was ich da schreibe, tausende Antworten.
Linus Neumann: Ah, okay.
Linus Neumann: Auf den föderierten Timelines dieser anderen Instanzen plötzlich wieder auftauchte
Linus Neumann: und nicht mehr aufgrund meiner Inhalte und der Regeln, die eine Instanz mir
Linus Neumann: vorgeschrieben hat, auf allen anderen Instanzen auch nicht mehr sichtbar war,
Linus Neumann: hat sich die Summe der Interaktionen ja massiv, massiv erhöht.
Linus Neumann: Das ist richtig, richtig krass.
Thomas Lohninger: Okay, das wünsche ich mir auch. Also das Gute ist ja, jeden Post kommt so rüber.
Linus Neumann: Ja, ich glaube, ich komme auch rüber. Markus Reuter ist auch rübergekommen,
Linus Neumann: der hatte übrigens den gleichen Effekt beobachtet und ja, also immerhin kann man sagen,
Linus Neumann: die Content-Warnungen wirken, es liest keiner mehr die Inhalte und man ist massiv
Linus Neumann: in der Reichweite beschnitten und wenn das das Ziel ist, dann wird das eben auch erhoben.
Thomas Lohninger: Raus aus dem Wohnzimmer ist auch ein guter Slogan für den 38C3.
Linus Neumann: Ja der 38C3, sagen wir mal, vielleicht auch ein schöner Titel für die Sendung.
Thomas Lohninger: Gehen wir weiter.
Linus Neumann: So und jetzt gab es ein wunderschönes Urteil.
Linus Neumann: Eine wunderschöne Story, berichtet von Ars Technica und es handelt von Air Canada.
Linus Neumann: Air Canada ist eine Fluggesellschaft aus Kanada und die haben sich entschieden,
Linus Neumann: auf ihrer Webseite einen Chatbot anzubieten.
Linus Neumann: Und ich weiß gar nicht, ob der jetzt von ChatGPT betrieben war oder was auch immer,
Linus Neumann: aber da gab es also einen Nutzer, der hatte einen Todesfall in der Familie und
Linus Neumann: interessierte sich für die Buchungskonditionen bei Air Canada. da.
Linus Neumann: Insbesondere für die Konditionen.
Linus Neumann: Bei Trauerfällen, wenn man also jetzt einen Flug bucht und den potenziell doch
Linus Neumann: nicht in Anspruch nimmt und so weiter.
Linus Neumann: Auf jeden Fall hat der Chatbot gesagt, pass auf, buch einfach mal irgendeinen
Linus Neumann: Flug und du kannst innerhalb von 90 Tagen den eh erstatten lassen.
Linus Neumann: Aufgrund Und des Trauerfalls.
Linus Neumann: Und in den AGB von Air Canada steht aber, dass sie keine Erstattung machen bei
Linus Neumann: Trauerfällen, nachdem der Flug gebucht wurde.
Linus Neumann: Und jetzt hat er aber gesagt, na gut, der Chatbot hat mir das gesagt,
Linus Neumann: hat den Flug gebucht und dann wurde seine Bittumerstattung abgelehnt.
Linus Neumann: Und Air Canada hat dann vor Gericht gesagt, naja, der Chatbot hat ja gesagt,
Linus Neumann: der hat ja noch einen Link geschickt, auf welcher Seite das steht und auf der
Linus Neumann: Seite stand ja was anderes und da ist die offizielle Information und der Chatbot ist ja hier eine.
Linus Neumann: Eine eigene legale Entität und der ist nicht von uns und der ist für seine eigenen
Linus Neumann: Handlungen verantwortlich.
Linus Neumann: Aber ja, das Gericht hat da gesagt, wenn euer Chatbot sich eine andere Regel
Linus Neumann: ausdenkt und die eurem Kunden mitteilt, dann müsst ihr die auch so umsetzen.
Linus Neumann: Streitwert waren in dem Fall glaube ich irgendwie 200 Euro oder sowas nee,
Linus Neumann: sie wollten ihm, sie haben gesagt du kriegst einen 200 Euro,
Linus Neumann: Coupon, also so einen Gutschein ja, mit dem kannst du zu einer anderen Zeit
Linus Neumann: fliegen und da hat sich dieser gute Mensch nicht mit zufrieden gegeben, ich finde das ja.
Thomas Lohninger: Also die Argumentation vor allem, ja so der Chatbot ist seine eigene Rechtspersönlichkeit
Thomas Lohninger: der ist für sich selber verantwortlich also Kindeswecklegung Ich glaube.
Linus Neumann: Das Gericht hat auch gesagt, wenn ich bei euch an der Hotline anrufe und einen
Linus Neumann: falschen Rat kriege, dann ist das genauso verbindlich, weil das ja eine von
Linus Neumann: euch Angestellte und unter eurem Label agierende Person ist.
Linus Neumann: Ich finde das aber sehr, sehr amüsant,
Linus Neumann: weil tatsächlich ja viele Unternehmen jetzt so losgerannt sind und irgendwie
Linus Neumann: GPTs auf ihre Webseite gesetzt haben. Was finde ich auch sehr geil.
Linus Neumann: Also einer der Internet-Sports war ja dann, diese GPTs dazu zu bringen,
Linus Neumann: dass sie Bezahlfunktionalitäten von GPT-4 ermöglichen.
Linus Neumann: Also ein lustiges Beispiel war irgendwie.
Linus Neumann: Ich glaube, das war irgendwie so ein Autohändler oder GM oder sowas,
Linus Neumann: eigentlich auch unerheblich.
Linus Neumann: Hallo, ich bin der Chatbot von GM, welches Auto interessiert dich denn?
Linus Neumann: Dann kannst du sagen, ja, keine Ahnung, ich brauche ein rotes oder so und ich
Linus Neumann: möchte mit acht Leuten drin sitzen und dann sagt er dir, welche Autos es gibt.
Linus Neumann: Und dann geht aber einer hin und sagt so, okay, pass auf, ich brauche ein Python-Skript,
Linus Neumann: was folgende Aufgaben für mich erledigt.
Linus Neumann: Dieser GM-Chatbot wirft halt dann ein Python-Skript raus, was ich sehr schön fand.
Linus Neumann: Und der unterteilt dann halt sehr, warum sollte ich denn hier für GPT-4 bezahlen,
Linus Neumann: wenn es das irgendwie frei im Internet gibt.
Thomas Lohninger: Haben sie aber auch alle verdient, also ganz ehrlich, ich habe da null Mitleid dafür.
Thomas Lohninger: In Österreich, auch in der ersten Jännerwoche so im Medienloch große Pressekonferenz gemacht.
Thomas Lohninger: Sie haben jetzt auch einen Chatbot, der den Leuten hilft bei der Berufsauswahl
Thomas Lohninger: und oh Wunder, natürlich dieselben Halluzinationen wie GPT-3 hat,
Thomas Lohninger: weil nichts anderes war das Ding.
Thomas Lohninger: Auch super Hardcore-Gender-Stereotypen, so Frauen sollen Gender Studies studieren
Thomas Lohninger: und Männer können gerne in die Technik gehen. Nein.
Thomas Lohninger: Und das Arbeitsmarktservice in Österreich ist berühmt für ihre schlechten Algorithmen
Thomas Lohninger: und diskriminierenden Menschenbilder.
Thomas Lohninger: Aber das zeigt halt auch die Verantwortung, die du da eigentlich haben solltest.
Thomas Lohninger: Ich meine sowohl als Firma, aber erst recht natürlich als staatliche Einrichtung.
Thomas Lohninger: Und da auf die Idee zu kommen, ja klatsch halt mal irgendwie JGPT davor und
Thomas Lohninger: dann wird es schon gut gehen, ist halt lächerlich.
Thomas Lohninger: Also vor allem auch, weil das halt so absehbare negative Konsequenzen sind und
Thomas Lohninger: wenn du die nicht ausschließen kannst, dann mach es halt nicht.
Linus Neumann: Und ich denke, dieses Urteil wird noch, also jetzt ist es gerade so ein Lacher
Linus Neumann: und hier ein Flug und Streitwert maximal ein paar hundert Euro,
Linus Neumann: aber ich glaube, das wird schon noch, also das ist jetzt immerhin das erste
Linus Neumann: in meiner Wahrnehmung dokumentierte Mal, gab es sicherlich schon frühere,
Linus Neumann: wo ein Unternehmen sich darauf verlassen hat, so ein Ding eine verhältnismäßig einfache Aufgabe zu ähm,
Linus Neumann: über zu helfen und dann, dass dieses GPT nicht ordentlich diese Aufgabe erfüllt
Linus Neumann: hat und das Unternehmen dann gesagt hat, ah scheiße, dafür wollen wir aber jetzt lieber nicht haften.
Linus Neumann: Und das kann natürlich in sehr viel größeren Haftungsfragen nochmal sehr viel interessanter werden.
Linus Neumann: Ob das jetzt ist, ich kläre dich über die Policy meines Unternehmens falsch auf,
Linus Neumann: ja das ist ja noch ein relativ trivialer Fall, aber in diesem Fall wären sie
Linus Neumann: wahrscheinlich besser gefahren, wenn sie gesagt hätten, okay komm, hier ist dein Geld.
Thomas Lohninger: Ja, ich meine Air Canada steht in dem Artikel, hat jetzt den Chatbot abgeschalten,
Thomas Lohninger: aber wir sind halt ganz am Anfang dieser Entwicklung.
Thomas Lohninger: Also in ein paar Jahren hast du da keine menschliche Supportabteilung mehr und
Thomas Lohninger: dann ist die Pfadabhängigkeit umso größer.
Thomas Lohninger: Aber kann dann, also die kurioseste Zukunft wäre,
Thomas Lohninger: dass dann die Unternehmen irgendwelche halluzinierten Rechtsauffassungen verteidigen
Thomas Lohninger: müssen, die der Chatbot sich ausgedacht hat, weil das so dermaßen on scale passiert
Thomas Lohninger: ist, dass sie jetzt halt irgendwie an diese Wahrheit glauben müssen.
Thomas Lohninger: Also es wird sicherlich noch lustig sein.
Linus Neumann: So, dann lasst uns doch mal über den European Health Data Space sprechen.
Thomas Lohninger: Ja, also das ist auch so ein Thema, das wir in unserer Chronistenpflicht ansprechen sollten.
Thomas Lohninger: Und zwar handelt es sich bei dem EHTS oder European Health Data Space um einen
Thomas Lohninger: von mehreren solcher Data Spaces, die die EU sich gerade ausgedacht hat. Was ist das Ding?
Thomas Lohninger: Es besteht aus…,
Thomas Lohninger: Aus zwei Teilen eigentlich, ja. Und es ist eine sogenannte Lex Spezialis zur DSGVO.
Thomas Lohninger: Es ist eine Ausnahme von unserem Grundrecht auf Datenschutz,
Thomas Lohninger: in dem mit diesem European Health Data Space nämlich unsere personebezogenen
Thomas Lohninger: Gesundheitsdaten, die anfallen, wenn wir zum Arzt gehen,
Thomas Lohninger: ins Krankenhaus oder zu der Apotheke, jetzt in einem europäischen Datenraum
Thomas Lohninger: gesammelt werden sollen.
Thomas Lohninger: Und zwar für eine primäre und eine sekundäre Nutzung.
Thomas Lohninger: Die primäre Nutzung ist das, was in Deutschland die elektronische Gesundheitsakte
Thomas Lohninger: ist oder in Österreich ELGA,
Thomas Lohninger: sprich jene Daten, die anfallen, wenn du die normale medizinische Versorgung in Anspruch nimmst.
Thomas Lohninger: Und das, was dein Arzt über dich als Befund abspeichert, was er dir vielleicht
Thomas Lohninger: verschreibt, das sozusagen alles hier elektronisch auch abgelegt sein soll.
Thomas Lohninger: Da kann man unterschiedliche Meinungen dazu haben. Für manche ist das sicherlich
Thomas Lohninger: schon etwas, das für sie zu weit geht. Weil dann sind Gesundheitsdaten digitalisiert
Thomas Lohninger: mit irgendeiner Form von zentralisierten Zugriff oder sogar einer zentralen Speicherung.
Thomas Lohninger: Und andere meinen vielleicht, na, ich will das aber haben, weil meine ganzen
Thomas Lohninger: Befunde irgendwie hin und her zu schleppen, ich will lieber,
Thomas Lohninger: dass das irgendwo zentral gespeichert ist. ist.
Thomas Lohninger: Unabhängig davon ist aber auf jeden Fall die Sekundärnutzung nochmal zu betrachten,
Thomas Lohninger: weil da geht es explizit darum, dass auch für Wissenschaft und andere Forschungsinteressen,
Thomas Lohninger: die auch von der Privatwirtschaft sein können, Stichwort Pharmaindustrie,
Thomas Lohninger: diese Daten zur Verfügung stehen sollen.
Thomas Lohninger: Zwar in pseudonymisierter Form, aber trotzdem.
Thomas Lohninger: Soll hier im Sinne von Registerdaten jeder einzelne Vorgang,
Thomas Lohninger: alle Datensätze, die zu einer Person gespeichert sind, verfügbar gemacht werden für Dritte.
Thomas Lohninger: Und hier gibt es erwartungsgemäß einen großen Aufschrei, wie das immer in diesem Thema ist,
Thomas Lohninger: das haben wir auch in der Pandemie gemerkt, so innerhalb dieser Gesundheitsbubble
Thomas Lohninger: gibt es den Ansatz, mehr Daten ist immer gut und Datenschutz stört sowieso nur.
Thomas Lohninger: Dass wir aber auch in der Pandemie gesehen haben, dass es für Menschen einen
Thomas Lohninger: großen Unterschied macht, wenn sie in zentralen staatlichen Registern drinnen sind.
Thomas Lohninger: Und dass es halt da auch Menschen gibt, die nicht zum Arzt gehen,
Thomas Lohninger: obwohl sie das vielleicht sollten, weil sie Angst vor diesen Dingen haben.
Thomas Lohninger: In Österreich gibt es ein Impfregister seit der Pandemie und es gab da wirklich
Thomas Lohninger: Fälle von Leuten, die gesagt haben, ich verstehe Wissenschaft,
Thomas Lohninger: ich will mich impfen lassen, aber ich will nicht in diesem Register sein.
Thomas Lohninger: Und da musste man irgendwie Sonderlösungen finden mit Ärzten,
Thomas Lohninger: die impfen, ohne das einzutragen.
Thomas Lohninger: Und es gibt in Österreich die elektronische Gesundheitsakte seit über zehn Jahren.
Thomas Lohninger: Die hat eine Opt-out-Möglichkeit, für die damals sehr viel gestritten wurde.
Thomas Lohninger: Und die wird auch von grob 300.000 Menschen, drei Prozent der Versicherten in
Thomas Lohninger: Österreich, in Anspruch genommen. Also es ist wichtig, die Leute nicht zwangs
Thomas Lohninger: zu verpflichten und ihnen Agency zu geben.
Thomas Lohninger: Und gerade eben bei dieser Sekundärnutzung glaube ich auch, dass ein Opt-out.
Linus Neumann: Aber das ist Opt-out, ja?
Thomas Lohninger: Die ELGA in Österreich ist Opt-out, weil die hat auch nur Primärnutzung.
Thomas Lohninger: Bei einer Sekundärnutzung glaube ich, dass man in Wirklichkeit ein Opt-in machen sollte.
Thomas Lohninger: Wieso? Es ist unheimlich einfach, solche Daten zu reidentifizieren.
Thomas Lohninger: Wenn ich den kompletten Dataset von einem Menschen habe über sein ganzes Leben,
Thomas Lohninger: dann brauche ich nur wenige bekannte Datenpunkte, um diesen Menschen in dem
Thomas Lohninger: Dataset rauszufiltern.
Thomas Lohninger: Wenn ich weiß, wo der wohnt, wo der arbeitet, wann der sich den Fuß gebrochen
Thomas Lohninger: hat, was vielleicht auf Social Media gepostet wurde oder was ein potenzieller
Thomas Lohninger: Arbeitgeber vielleicht weiß, kann ich sehr leicht in diesen Daten jemanden wiederfinden.
Thomas Lohninger: Es gibt dann zusätzliche Schranken der Protokollierung von Daten,
Thomas Lohninger: es gibt auch gute Techniken wie Differential Privacy, die man hier anwenden
Thomas Lohninger: kann, um dieses Problem zu lösen.
Thomas Lohninger: Davon findet sich aber nichts im European Health Data Space.
Thomas Lohninger: Das ist eher so die Holzhammer-Methode.
Thomas Lohninger: Und generell, es gibt so Pseudonymisierung, so als das Snack-Oil,
Thomas Lohninger: diese Scheinlösung für Datenschutzprobleme.
Thomas Lohninger: Und da wird einfach nicht hingeschaut, was für Gefahren immer noch in diesen Datasets drinnen sind.
Thomas Lohninger: Und meine Prophezeiung ist, das wird uns allen nochmal auf den Kopf fallen.
Thomas Lohninger: In Österreich gab es letztens ein schönes Beispiel, wo Daten auch pseudonymisiert
Thomas Lohninger: dann weitergeleitet wurden und sie wurden pseudonymisiert mit der Sozialversicherungsnummer,
Thomas Lohninger: was natürlich super einfach wieder zu reidentifizieren ist.
Thomas Lohninger: Es gab jetzt eine Reihe von offenen Briefen, wir verlinken ein paar,
Thomas Lohninger: morgen kommt ein neuer raus, weil dieser European Health Data Space gerade in
Thomas Lohninger: den finalen Verhandlungen ist.
Thomas Lohninger: Im Dezember letzten Jahres gab es die Abstimmung im Europaparlament in erster
Thomas Lohninger: Lesung und auch im Rat und da haben wir es wirklich auf den letzten Metern mit
Thomas Lohninger: einer Blutgrätsche geschafft,
Thomas Lohninger: dass dieser Opt-out zumindest als Möglichkeit im Text verankert ist.
Thomas Lohninger: Sowohl Parlament wie Rat haben die Möglichkeit geschaffen, dass Mitgliedstaaten
Thomas Lohninger: weiterhin einen Opt-out vorsehen für die Bevölkerung.
Thomas Lohninger: Verpflichtet ist das noch nicht, aber darüber wird gerade gestritten.
Thomas Lohninger: Genau darum drehen sich diese Briefe.
Thomas Lohninger: Und ich glaube Österreich und Deutschland haben damals noch im Dezember,
Thomas Lohninger: da sind da eingeschritten.
Thomas Lohninger: Ich fand das irgendwie ein schönes
Thomas Lohninger: Beispiel, wo auch wenn man nur aus dem Augenwinkel auf das Gesetz schaut,
Thomas Lohninger: man dann trotzdem nochmal mit koordinierter Aktion was verändern kann und gerade
Thomas Lohninger: im Europaparlament so wirklich im Plenum noch Änderungen durchzubekommen,
Thomas Lohninger: ist nicht einfach, aber das haben wir da geschafft und im Rat ist es auch drinnen.
Thomas Lohninger: Also ich hoffe, dass wir zumindest die Möglichkeit eines Opt-outs bekommen.
Thomas Lohninger: Aber ich sehe trotzdem, was diese Datasets betrifft, dann die reale Gefahr der
Thomas Lohninger: Reidentifikation und da wird es sicherlich noch in der Zukunft ein paar Datenskandale geben.
Thomas Lohninger: Noch so ein Fun-Fact, weil es Deutschland gefordert hat und auch bekommen hat.
Thomas Lohninger: In der Position des Rates für diesen European Health Data Space,
Thomas Lohninger: und man kennt das ja so, EU-Gesetze, die werden verabschiedet und dann gibt
Thomas Lohninger: es eine Phase, bis sie in Kraft treten.
Thomas Lohninger: Und normalerweise sind das so ein Jahr oder vielleicht drei Jahre.
Thomas Lohninger: Aber aufgrund der deutschen Struktur von Telematik und Gesundheits-IT hat sich
Thomas Lohninger: der Deutschland durchgesetzt mit einer Umsetzungsfrist von zehn Jahren.
Thomas Lohninger: Also auch wenn das jetzt kommt, es bleibt noch sehr viel Zeit,
Thomas Lohninger: Bis es dann wirklich auch überall aktiv ist.
Thomas Lohninger: Natürlich kann ein Staat das vorher umsetzen, aber ich fand das humoristisch
Thomas Lohninger: wertvoll, dass Deutschland gemeint hat, was, wir müssen hier Dinge digitalisieren,
Thomas Lohninger: gebt uns noch eine Dekade.
Linus Neumann: Du, was heißt gebt uns noch eine Dekade? Ich finde Deutschland hat hier ungestümen Optimismus gezeigt.
Thomas Lohninger: Kann auch sein, ja.
Linus Neumann: So, das heißt, da können wir auch nochmal irgendwie warten, wie es läuft.
Linus Neumann: Ich würde mich jetzt nochmal ganz kurz interessieren zu, wenn ich jetzt jemanden
Linus Neumann: online schlecht bewerte.
Linus Neumann: Zum Beispiel meine frühere Mastodon-Instanz wegen Unterdrückung von politischen Diskussionen.
Linus Neumann: Kann ich das anonym machen?
Thomas Lohninger: Wie immer bei jeder Frage nach rechtlichen Sachen, it's complicated.
Thomas Lohninger: Wir haben ein interessantes Urteil vom OLG Hamburg bezüglich des Bewertungsdienstes Conuno, wo,
Thomas Lohninger: Arbeitgeber bewertet werden von ihren Angestellten oder auch Vertragspartnern
Thomas Lohninger: oder auch Praktis, wer auch immer mit diesen Firmen so Geschäftsverhältnisse
Thomas Lohninger: hat, kann auf Konuno gehen und dann sagen,
Thomas Lohninger: der Chef ist ein Nazi oder das Unternehmen zahlt schlecht und was auch immer
Thomas Lohninger: man vielleicht über einen ehemaligen Arbeitgeber aber nicht so an Meinungen haben könnte,
Thomas Lohninger: die für zukünftige Arbeitgeberinnen vielleicht ganz wichtig sind für die Wahl des eigenen Jobs.
Thomas Lohninger: Und in Zeiten von Fachkräftemangel hat man da ja zum Glück auch im Moment eine Wahlfreiheit.
Thomas Lohninger: Das OLG Hamburg hat sich jetzt aber auf eine ganz interessante Rechtsauffassung gestellt, gestellt,
Thomas Lohninger: weil dieser Rechtsstreit geht schon eine Zeit lang und ursprünglich war es so,
Thomas Lohninger: dass der Arbeitgeber, der hier eben negativ bewertet wurde,
Thomas Lohninger: gemeint hat, das stimmt alles nicht und das sind gar nicht meine Angestellten
Thomas Lohninger: oder Ex-Angestellten, die mich hier diffamieren.
Thomas Lohninger: Und dann hat Konono gemeint, nee, wir haben das, okay gut, schauen wir uns an
Thomas Lohninger: und die haben dann wirklich mit dem betroffenen User gesprochen,
Thomas Lohninger: der hat Dokumente eingereicht, war aus deren Sicht eine legitime Bewertung von
Thomas Lohninger: jemandem, der wirklich dort gearbeitet hat und das auch belegen konnte.
Thomas Lohninger: Aber das OLG Hamburg ist dem nicht gefolgt und man ist schon da beim Landgericht
Thomas Lohninger: Hamburg irgendwie der Auffassung gewesen, dass die Plattform prüfen muss und dann ist es gut.
Thomas Lohninger: Aber das OLG Hamburg, soweit ich das verstanden habe, ist jetzt nochmal einen
Thomas Lohninger: Schritt weiter gegangen und hat gesagt, Auch das bewertete Unternehmen,
Thomas Lohninger: was sich hier gegen eine schlechte Bewertung vielleicht wehren will und die
Thomas Lohninger: einfach löschen will, dem müssen die Informationen ausgehändigt werden, wer das war.
Thomas Lohninger: Also sozusagen die Person, die Kritik geübt hat, wahrscheinlich anonym oder
Thomas Lohninger: unter einem Pseudonym, muss dann dem ehemaligen oder vielleicht sogar aktiven
Thomas Lohninger: Arbeitgeber genannt werden.
Thomas Lohninger: Was natürlich die große Gefahr hat, dass sich dann niemand mehr trauen wird.
Thomas Lohninger: Die Meinung zu sagen über einen ehemaligen Arbeitgeber. Also was so Anonymität
Thomas Lohninger: im Internet angeht, ist das ein ganz gefährliches Urteil, das hier gefällt wurde.
Thomas Lohninger: Das OLG Hamburg hat auch klar gesagt, dass eine Berufung auf den Datenschutz
Thomas Lohninger: hier nicht zulässig ist, was ich überhaupt nicht nachvollziehen kann.
Thomas Lohninger: Zu der negativen Auswirkung die das auf die Meinungsfreiheit haben wird schweigt
Thomas Lohninger: sich das Gericht ebenso aus also.
Thomas Lohninger: Ja kann man nur hoffen, dass das in den Instanzen anders gesehen wird es ist
Thomas Lohninger: für mich in so einem Gesamtzusammenhang den wir im Moment sehen.
Thomas Lohninger: Dass Bewertungsplattformen insgesamt so in Italien, in Österreich ich habe jetzt
Thomas Lohninger: mehrere Fälle gehört immer wieder in der Kritik stehen ähm,
Thomas Lohninger: Ich glaube, dass da ein Teil sicherlich jetzt aufgrund von der weiten Verbreitung
Thomas Lohninger: von Large Language Models begründbar ist.
Thomas Lohninger: Es ist einfach sehr leicht geworden jetzt auch mit Masse solche Bewertungen
Thomas Lohninger: einzusetzen, vielleicht auch als Konkurrent einer Firma.
Thomas Lohninger: Aber ich glaube auch, dass es vielleicht nur so in der Möglichkeit,
Thomas Lohninger: dass das der Fall sein könnte, jetzt so eine Überreaktion passiert und überall
Thomas Lohninger: Klarnamenspflicht oder digitaler Ausweiszwang gefordert wird.
Thomas Lohninger: Das war zumindest der Fall von Digitalisierungsstaatssekretär Turski in Österreich
Thomas Lohninger: vor kurzem, der eben auch eine Ausweispflicht im Internet für Bewertungsplattformen gefordert hat.
Thomas Lohninger: Da ist ganz wichtig klarzumachen, wenn ich mich jetzt bei einer Plattform zuerst
Thomas Lohninger: ausweisen muss, bevor ich dort posten kann, egal ob ich das noch unter Pseudonym
Thomas Lohninger: oder unter Klarnamen tun kann,
Thomas Lohninger: das hat ebenso negative Konsequenzen auf die Meinungsfreiheit und auf den Datenschutz.
Thomas Lohninger: Weil damit werden statisch zertifizierte Identitätsdaten an dieser Plattform
Thomas Lohninger: gegeben und viele Leute werden sich zweimal überlegen, ob sie dann noch ihre Meinung sagen.
Thomas Lohninger: Also gefährliches Urteil, das leider in den Trend passt.
Linus Neumann: Also ich finde, vielleicht kurz eine Überlegung dazu.
Linus Neumann: Wenn der Arbeitgeber sagt, das ist eine Fake-Bewertung und das Unternehmen sagt, nee, ist es nicht,
Linus Neumann: dann ist ja klar, dass hier Aussage gegen Aussage steht und das Unternehmen
Linus Neumann: potenziell das beweisen muss, was es da behauptet.
Linus Neumann: Nämlich, dass es sich hierbei um eine legitime Bewertung einer Mitarbeiterin handelt.
Linus Neumann: Ich kenne dieses Kununu nicht, ich habe aber schon mal eine andere Plattform genutzt.
Linus Neumann: Und bei der war es so, dass die quasi mich als Angestellter des Unternehmens
Linus Neumann: identifiziert hat, dadurch, dass ich eine E-Mail-Adresse von dem Unternehmen hatte.
Linus Neumann: Also, da habe ich dann gesagt hier sowieso at so und so und dann habe ich gesagt,
Linus Neumann: alles klar, das ist die Domain, die diesem Unternehmen gehört,
Linus Neumann: du bist, wir schicken dir da jetzt was hin, du empfängst das,
Linus Neumann: beweist den Empfang der Nachricht, die wir dir geschickt haben und dadurch ist klar,
Linus Neumann: dass du offensichtlich zumindest soweit bist, dass du eine E-Mail-Adresse von
Linus Neumann: diesem Unternehmen unter deine Kontrolle gebracht hast.
Linus Neumann: Und jetzt wäre meine naive Vorstellung, dass das quasi sagen,
Linus Neumann: dass man irgendwie an Eidestadt versichern könnte und sagt, ja,
Linus Neumann: wir haben hier, was weiß ich, wir haben eine E-Mail, das können wir auch hier
Linus Neumann: einem dritten, was weiß ich, einem Notar zeigen,
Linus Neumann: dass wir diese E-Mail gesendet haben und dass es hier eine Anmeldung gibt,
Linus Neumann: ohne dass wir jetzt die Person, von der diese E-Mail empfangen hat oder so,
Linus Neumann: verraten und ans Messer liefern. Diese anonymen Bewertungen sind natürlich immer
Linus Neumann: ein bisschen schwierig, weil
Linus Neumann: sie eben potenziell geschäftsschädigend sein können und sagen wir mal so.
Linus Neumann: Es ja jetzt auch wirklich nicht ausgeschlossen ist, dass so eine Mitarbeiterin,
Linus Neumann: die irgendwie zufrieden oder unzufrieden gegangen ist,
Linus Neumann: potenziell auch mal in so ein Bewertungsportal oder sagen wir mal freiwillig
Linus Neumann: oder unfreiwillig gegangen ist, vielleicht ein bisschen übertreibt.
Linus Neumann: Das sollte natürlich jede Person, die so ein Bewertungsportal liest,
Linus Neumann: auch mit einpreisen, dass man alles da nochmal denkt, okay, die haben eh eine
Linus Neumann: Tendenz zum Negativen, weil,
Linus Neumann: selten sagt die glückliche Mitarbeiterin, denn ach ey, heute bin ich so glücklich
Linus Neumann: bei der Arbeit, ich schreibe mir wieder eine schöne Bewertung.
Linus Neumann: Also unproblematisch finde ich die jetzt nicht so, aber ich denke hier mit dieser
Linus Neumann: Lösung beweise, dass du eine E-Mail-Adresse unter deren Domain hast und wir achten da noch darauf,
Linus Neumann: dass du jeweils nur eine Bewertung schreiben kannst unter dieser E-Mail-Adresse.
Linus Neumann: Das erscheinen mir eigentlich überzeugende Schutzmaßnahmen zu sein gegen Missbrauch
Linus Neumann: einer solchen Plattform.
Thomas Lohninger: Ja, vor allem, wenn du dir denkst, dass ja die aggregierte Bewertung über einen
Thomas Lohninger: Arbeitgeber ist ja das Produkt von Grununo oder solchen Bewertungsplattformen.
Thomas Lohninger: Und da sind wir wieder bei dem Punkt, das eigentliche Produkt von sozialen Medien
Thomas Lohninger: ist Inhaltsmoderation.
Thomas Lohninger: Dann wäre es ja auch wirklich das Interesse von solchen Anbietern,
Thomas Lohninger: dass sie die Balance halten und dass sie Fake oder jetzt zum Beispiel verzerrenden
Thomas Lohninger: Bewertungen selber auch vorbeugen würden.
Thomas Lohninger: Und da gibt es verschiedene Wege, das kann man natürlich mit Lohnzetteln nachweisen
Thomas Lohninger: oder irgendeinem Geschäftsverhältnis oder wie du sagst E-Mail-Adresse und wenn
Thomas Lohninger: man das gegenüber der Plattform tut,
Thomas Lohninger: die vielleicht dann auch den Track Record hat mit den Daten sauber umzugehen,
Thomas Lohninger: das könnte ein Geschäftsmodell sein.
Thomas Lohninger: Das war auch die Rechtsauffassung des Landgericht Hamburg,
Thomas Lohninger: aber das Oberlandesgericht hat ihm eben widersprochen und geht auf den Standpunkt,
Thomas Lohninger: dass der Arbeitgeber, weil das eben kreditschädigend oder wirtschaftsschädigend
Thomas Lohninger: ist, geschäftsschädigend ist,
Thomas Lohninger: den Einzelfall auch prüfen muss.
Thomas Lohninger: Und deswegen auch die Informationen, welche konkrete Mitarbeiterin das war,
Thomas Lohninger: an den Arbeitgeber ausgehändigt werden müssen.
Thomas Lohninger: Spannender Fall.
Linus Neumann: Ja, tatsächlich ein bisschen, also halte ich für eine sehr problematische Auffassung,
Linus Neumann: weil man natürlich auch, also sagen wir mal, man könnte ja sagen,
Linus Neumann: okay, eine solche Plattform, da musst du dann schon ehrlich sein.
Linus Neumann: Das heißt, da musst du, du bist ja dann von mir aus gegangen oder du bist beim
Linus Neumann: Unternehmen oder du bist gegangen, da musst du da eine Bewertung hinterlassen.
Linus Neumann: Wer ist denn so doof und stellt jemanden ein, der dafür bekannt ist,
Linus Neumann: in irgendwelchen Jobportalen schlechte Bewertungen bei seinen ehemaligen Arbeitgeber zu hinterlassen?
Linus Neumann: Also ich meine, so bitter das klingt,
Linus Neumann: aber natürlich gehst du davon aus, dass eine erwachsene Person in der Lage ist,
Linus Neumann: über die Konflikte bei der Arbeit potenziell hinwegzusehen und sich zumindest
Linus Neumann: souverän damit umzugehen.
Linus Neumann: Und nicht irgendwie, also sagen wir mal jemanden, von dem du siehst,
Linus Neumann: dass er seine letzten drei Arbeitgeber irgendwie im Internet verunglimpft hat,
Linus Neumann: da überlegst du dir schon zweimal, ob du die Person nochmal einstellst,
Linus Neumann: weil du natürlich davon ausgehst, okay,
Linus Neumann: die hat jetzt hier mit drei Arbeitgebern vor mir Ärger gehabt,
Linus Neumann: im Zweifelsfall sind die alle mit friedfertigen Absichten diese Arbeitsverhältnisse
Linus Neumann: eingegangen, vielleicht stimmt was mit der Person nicht.
Linus Neumann: Oder vielleicht hat die Person wirklich sehr viel Pech bei der Auswahl ihrer
Linus Neumann: Arbeitgeber und hat jetzt bei mir auch Pech.
Linus Neumann: Also ich kann schon verstehen, warum solche Portale regelmäßig, ja.
Linus Neumann: Thema von Auseinandersetzungen sind, aber üblicherweise klärt sich das ja,
Linus Neumann: dass das Bild klärt sich ja durch die Menge der Bewertungen.
Linus Neumann: Also wenn du jetzt zum Beispiel feststellst, ah okay, da gibt es jetzt einen,
Linus Neumann: der war da total unglücklich und der lässt irgendwie voll vom Leder,
Linus Neumann: aber da gibt es irgendwie auch ein paar andere, die sind,
Linus Neumann: sehr positiv, dann ist dir ja die eine verrückte Bewertung vielleicht egal.
Linus Neumann: Während wenn du jetzt jetzt irgendwie acht Negative hast, dann sollte auch der
Linus Neumann: Arbeitgeber, der sich jetzt irgendwie versucht, juristisch gegen alle diese
Linus Neumann: Bewertungen zu wehren, auch keine Chance mehr haben.
Linus Neumann: Also irgendwo liegt die Wahrheit ja dann wahrscheinlich in der großen Zahl.
Thomas Lohninger: Ja, dieses ganze Thema der Bewertungsplattformen ist spannend.
Thomas Lohninger: Es gibt ja auch inzwischen schon so Plattformen, um Lehrer zu bewerten,
Thomas Lohninger: wo die Schüler dann die Lehrer bewerten.
Linus Neumann: Oh ja, auch sehr, sehr gefährlich.
Thomas Lohninger: Das erinnert mich auch immer so an eine Black Mirror Folge, wo man dann auch
Thomas Lohninger: immer so eins bis fünf Sterne vergibt und den Score, der dann alles entscheidet. Aber ja.
Linus Neumann: Ja, da wäre ich aber sehr vorsichtig als Schülerin, ja, weil deine Lehrerin
Linus Neumann: kennt deinen Schreibstil und weiß, wie gut du dich ausdrücken kannst.
Linus Neumann: Also da würde ich mir wenig Hoffnung machen, dass ich in der Lage bin,
Linus Neumann: dass das irgendwie, ja. Ja, ja.
Thomas Lohninger: Deswegen gibt es ja aber auch so Deepfakes, Linus.
Thomas Lohninger: Und da hatten wir jetzt auch ein ganz interessantes Urteil, nämlich in unserer
Thomas Lohninger: Lieblingskünstlergruppe Zentrum für politische Schönheit. Was ist da passiert?
Linus Neumann: Ja, das ZPS hat ja, also Stefans Auftritt in der Sendung, erinnern ja sicherlich
Linus Neumann: die meisten Hörerinnen und Hörer.
Linus Neumann: Unter anderem hat er hier sehr
Linus Neumann: viel darüber berichtet, wie sie das Scholz-Deepfake angefertigt haben.
Linus Neumann: Wir haben uns da viel über die Tools unterhalten, wir haben uns auch über die
Linus Neumann: Argumente, die das Zentrum für politische Schönheit für ein AfD-Verbot anbringt, unterhalten.
Linus Neumann: Und das ZPS hat ja auch gesagt, sie haben die schönste Rede veröffentlicht,
Linus Neumann: die Olaf Scholz nie gehalten hat.
Linus Neumann: Und sie waren auch auf dem CCC-Kongress damit zu Gast und haben dort im Eröffnungsvortrag
Linus Neumann: auch nochmal über ihre Aktionen und Aktionen berichtet.
Linus Neumann: So, und sie haben jetzt eine einstweilige Verfügung des Landgerichts Berlin kassiert.
Linus Neumann: Und zwar waren natürlich die Bundesregierung, wie wir wissen,
Linus Neumann: unglücklich über diese Verwendung des Scholz-Videos und hat das ja zunächst einmal...
Linus Neumann: Die mit Urheberrechtsbeschwerden versucht, aus dem Internet herauszubekommen.
Linus Neumann: Der Thilo Jung, der ja dann regelmäßig die Bundespressekonferenz besucht und
Linus Neumann: dort auch filmt, hat dann gefragt, es gibt ja gar kein Urheberrecht da dran.
Linus Neumann: Dann haben sie gesagt, ja, nee, wir haben ja ganz viele Rechte.
Linus Neumann: Und irgendwie war das alles sehr, sehr unsauber, was die Bundesregierung da versucht hat.
Linus Neumann: Zumindest nach den Regeln, die die sozialen Netzwerke da so zur Verfügung stellen.
Linus Neumann: Und was das ZPS dann irgendwann gemacht hat, ist offenbar, sie haben das Video
Linus Neumann: erneut hochgeladen, nachdem es teilweise gelöscht worden war,
Linus Neumann: mit einem eigenen Logo vom ZPS.
Linus Neumann: Sie haben also nicht mehr das Logo der Bundesregierung verwendet.
Linus Neumann: Sie haben auch eine schlechtere Lippensynchronisation offenbar vorgenommen und
Linus Neumann: dafür gesorgt, dass das Video also wirklich auch für Laien erkennbar ist.
Linus Neumann: Da stand dann irgendwie, war nicht mehr das Bundesregierungslogo,
Linus Neumann: sondern da stand dann irgendwie hier Zentrum für politische Schönheit Originals und so.
Linus Neumann: Und der Anwalt des ZPS, Till Kreuzer, sagt,
Linus Neumann: sogar der aufgrund seines angeblich maschinenhaften und emotionslosen Auftretens
Linus Neumann: unrichtig als Scholz-Format verunglimpfte Bundeskanzler ist in der Lage,
Linus Neumann: seine Lippen synchron zum Gesprochenen zu bewegen.
Linus Neumann: Deswegen, daran krankt das streitgegenständliche Video.
Linus Neumann: Kein vernünftig denkender Mensch kommt auf die Idee, dass es sich bei dem streitgegenständlichen
Linus Neumann: Video um einen echten Scholz handelt.
Linus Neumann: Das Gericht setzt dem entgegen, ja,
Linus Neumann: die Erkennbarkeit ist aber zu subtil,
Linus Neumann: daher führt das zu einer Zuordnungsverwirrung und weil das Video bei YouTube
Linus Neumann: ein potenziell sehr großes Publikum hat und das Video keine künstlerische Anmutung
Linus Neumann: oder satirische Überspitzung beinhaltet.
Linus Neumann: Besteht also die Möglichkeit, dass von diesem großen Publikum Leute verwirrt werden.
Linus Neumann: Und es sei also allgemein nicht zulässig, gefälschte Nachrichten,
Linus Neumann: die als solche nicht ohne weiteres erkennbar sind, zu verbreiten.
Linus Neumann: Und hierdurch gezielt
Linus Neumann: den falschen Eindruck offiziellen Behördenhandelns zu erwecken und das Vertrauen
Linus Neumann: in eine seriöse und verlässliche Öffentlichkeitsarbeit der Bundesregierung und
Linus Neumann: generell in eine verlässliche Berichterstattung zu schwächen.
Linus Neumann: Spannendes Urteil, ja.
Thomas Lohninger: Ja, sehr spannend, vor allem auch, weil damit wird ja eigentlich auch ein sehr
Thomas Lohninger: hoher Standard für künftige Deepfakes gesetzt,
Thomas Lohninger: also wer nicht wirklich ganz tief noch im Uncanny Valley steckt und ganz klar als Fake erkannt wird,
Thomas Lohninger: sollte dann eigentlich sofort vom Netz genommen werden.
Thomas Lohninger: Das ist spannend.
Thomas Lohninger: Ich meine gut, jetzt hier Kanzler ist hochgezielt natürlich,
Thomas Lohninger: aber sollte das jetzt wirklich die Messlatte sein,
Thomas Lohninger: ab wann Deepfakes nicht mehr zulässig sind, dann wäre das ja,
Thomas Lohninger: sofern man diese Deepfakes wirklich auch noch erkennt und ich meine nicht so wie hier beim ZBS,
Thomas Lohninger: jemand sich hinstellt und genau erklärt, wie es gemacht wurde,
Thomas Lohninger: dann wäre das ja eigentlich gut, finde ich.
Linus Neumann: Also das ZPS hat ja schon seinen Kongressvortrag unter den Titel gesetzt,
Linus Neumann: die AfD wird verboten, Diebfakes auch.
Linus Neumann: Wollen wir mal schauen, wie erfolgreich sie damit noch werden.
Linus Neumann: Auf jeden Fall, sagt das Zentrum für politische Schönheit, sie werden gegen
Linus Neumann: die Entscheidung Rechtsmittel einlegen, potenziell bis zum Bundesverfassungsgericht,
Linus Neumann: weil sie das als Angriff auf die Kunstfreiheit werten.
Linus Neumann: Und ein Sprecher des ZBS sagte gegenüber Netzpolitik.org, Bundeskanzler Scholz
Linus Neumann: scheint mittlerweile alles zu verwechseln.
Linus Neumann: Millionen Menschen fordern, dass er ein Verbot der AfD in Karlsruhe beantragen soll.
Linus Neumann: Stattdessen hat er nun das Verbot eines Videos zum AfD-Verbot vor dem Gericht beantragt.
Linus Neumann: Ähm Scholz will, dass vor jedem Kunstwerk Kunst steht,
Linus Neumann: damit kein Seppel die Kunst mit der Realität verwechselt ja,
Linus Neumann: ich bin mal gespannt ich bin da auch, ich meine natürlich die Sympathie zum
Linus Neumann: Zentrum, die Sympathie auch zu dieser Aktion und so, die,
Linus Neumann: verschiebt da natürlich potenziell leicht die ähm, die Wahrnehmung das will ich gar nicht ähm.
Linus Neumann: Gar nicht in Abrede stellen. Dass jetzt, sag ich mal, wenn da jetzt Scholz irgendwelche
Linus Neumann: anderen Sachen gesagt hätte, dass ich potenziell den Sachverhalt vielleicht anders bewerten würde.
Linus Neumann: Deswegen bin ich mal gespannt, wie das so weitergeht und was man doch so an
Linus Neumann: Deepfakes in Zukunft sehen wird.
Thomas Lohninger: Ja, aber es ist auf jeden Fall Popcorn-tauglich und ich finde es gut,
Thomas Lohninger: dass wir überhaupt jetzt mal solche Gerichtsentscheidungen haben,
Thomas Lohninger: weil dieser Also ein neuer Bereich muss einfach mal erschlossen werden.
Thomas Lohninger: Und da finde ich es eigentlich fast gut, dass es von einer Künstlergruppe kommt, die das so offen spielt.
Thomas Lohninger: Da wird noch viel mehr, viel grauslicheres Zeug auf uns zukommen, befürchte ich.
Thomas Lohninger: Und dann hat man zumindest mal ein paar Pflöcke schon eingeschlagen.
Thomas Lohninger: Aber reden wir weiter über das, was in Deutschland passiert.
Thomas Lohninger: Weil das ist ja für jemanden, der aus Österreich kommt, Balsam für die Seele.
Thomas Lohninger: Wir hatten auch so eine Demo gegen rechts mit 80.000 Leuten vor dem Parlament vor ein paar Wochen.
Thomas Lohninger: Das ist für Österreich viel, aber korrektiv hat da ja eine wirklich große Welle losgetreten.
Thomas Lohninger: Ich fand es wirklich toll, als ihr Jean in der Sendung hattet,
Thomas Lohninger: aber da ist ja jetzt auch wieder was Neues passiert, was ich zumindest in Österreich
Thomas Lohninger: gar nicht so mitbekommen habe.
Linus Neumann: Ja, also, Korrektiv hatte ja,
Linus Neumann: wie einige bemerkt haben,
Linus Neumann: relativ lange Zeit gebraucht zwischen diesem tatsächlichen Geheimtreffen im
Linus Neumann: September und der Berichterstattung darüber.
Linus Neumann: Und das lag natürlich vor allem daran, dass sie sich absolut unangreifbar machen
Linus Neumann: mussten, was die Inhalte angeht, die sie da berichten und gleichzeitig den Quellenschutz zu wahren.
Linus Neumann: Es gibt ja nach wie vor keine wirkliche Auskunft von Korrektiv darüber,
Linus Neumann: wie sie überhaupt an diese Gesprächsinhalte gekommen sind.
Linus Neumann: Sie sagen, wir haben Quellen und wir schützen diese Quellen. Punkt.
Linus Neumann: Und es ist natürlich auch verständlich, dass jemand, also wenn man jetzt davon
Linus Neumann: ausgehen würde, dass die Quelle vielleicht jemand ist, die oder der bei diesem Treffen war,
Linus Neumann: dann ist auch verständlich, dass diese Quelle wirklich unter keinen Umständen bekannt werden möchte.
Linus Neumann: Und es muss ja eine geben, weil sie haben ja sogar den Einladungstext.
Linus Neumann: Also es muss ja irgendwo eine undichte Stelle geben.
Linus Neumann: Aber natürlich möchte diese undichte Stelle nicht bekannt werden.
Linus Neumann: Und es ist völlig klar, dass Korrektiv die schützen muss. Gleichzeitig haben
Linus Neumann: sie ja dann diese Sachen, diese Inhalte und die Texte veröffentlicht.
Linus Neumann: Und sie haben ja quasi vorher konfrontiert und haben gesagt,
Linus Neumann: hier alle Leute, über die sie da berichten, was die gesagt haben,
Linus Neumann: was es da für Inhalte gab und so weiter, die haben sie ja vorher damit konfrontiert.
Linus Neumann: Und die Leute haben nicht darauf reagiert und sie haben auch nicht quasi gegen
Linus Neumann: die Inhalte, die dort in dem Artikel stehen,
Linus Neumann: geklagt oder irgendwelche einstweiligen Verfügungen oder sonstiges erwirkt.
Linus Neumann: Es gab aber jetzt irgendwie eidestattliche Versicherungen der Anwesenden,
Linus Neumann: zum Beispiel will Ulrich Vosgerau nicht bemerkt haben,
Linus Neumann: dass er an einer rechtsextremen und rassistischen Veranstaltung teilgenommen
Linus Neumann: hat, auf der über die Vertreibung von Millionen Menschen gesprochen wurde.
Linus Neumann: Das hat er nicht bemerkt.
Thomas Lohninger: Sowas aber auch.
Linus Neumann: Das ist natürlich äußerst erstaunlich, weil gleichzeitig natürlich Martin Sellner
Linus Neumann: überhaupt gar kein Geheimnis daraus macht, dass Remigration sein großes Thema
Linus Neumann: ist und die AfD sich ja sogar damit gebrüstet hat.
Linus Neumann: Das ist kein Geheimplan, sondern es ist ein Versprechen und so weiter, was es da alles gab.
Linus Neumann: Auf jeden Fall wurden da jetzt einstweilige Verfügungen eingereicht,
Linus Neumann: die irgendwelche Nebenschauplätze anzweifeln.
Linus Neumann: Ja, und nicht notwendigerweise wirklich was, also nicht wirklich was,
Linus Neumann: also quasi die zweifeln nicht an, dass es das Treffen gab, die zweifeln nicht
Linus Neumann: an, was die Inhalte angeht, aber nehmen irgendwelche Nebenschauplätze.
Linus Neumann: Der Korrektivanwalt Thorsten Feldmann sagt, es geht hier um die Herrschaft über
Linus Neumann: den Diskurs, es geht nicht um den engen Streitgegenstand,
Linus Neumann: sondern es geht einfach nur, dass mittels des Instruments der Haarspaltung bloße
Linus Neumann: Nebensächlichkeiten der Recherche angegriffen werden, einfach nur um Korrektiv
Linus Neumann: in Misskredit zu bringen.
Linus Neumann: Und so die ganze Recherche in Misskredit zu bringen.
Linus Neumann: Deswegen hat dann Korrektiv jetzt mit acht eidesstaatlichen Versicherungen der
Linus Neumann: gesamten Redaktion, die also sagen,
Linus Neumann: dieses Treffen hat so stattgefunden und wir haben die alle konfrontiert und
Linus Neumann: die haben die alle dem nicht widersprochen, sich dem quasi entgegengestellt.
Linus Neumann: Und jetzt hast du halt irgendwie eidesstaatliche Versicherungen auf der einen
Linus Neumann: Seite, eidesstaatliche Versicherungen auf der anderen.
Linus Neumann: Die sich aber natürlich wiederum auf unterschiedliche Aspekte beziehen und korrektiv
Linus Neumann: muss also jetzt hier mit einer natürlich strafbewehrten eidesstattlichen Versicherung,
Linus Neumann: sollte die sich als falsch herausstellen, dann würden die halt wirklich richtige Probleme bekommen.
Linus Neumann: Und ich denke, da legen die natürlich einiges mehr in die Waagschale als die
Linus Neumann: Teilnehmerinnen dieses Treffens.
Linus Neumann: Aber es ist natürlich jetzt auch dieser Kampf um, was war da jetzt eigentlich los?
Linus Neumann: Es ist auch sehr interessant, wie gehen jetzt eigentlich diese Rechten damit um?
Linus Neumann: Ja, weil die einerseits natürlich sagen müssen, das ist ja alles böse,
Linus Neumann: das ist ja alles gestaged und weiß der Geier was und korrektiv und dann kurz
Linus Neumann: darauf gab es das Theaterstück und so schnell kann man ja gar kein Theaterstück
Linus Neumann: machen und was die sich nicht alles da ausdenken, um die irgendwie in Misskredit zu bringen,
Linus Neumann: während sie gleichzeitig aber sagen, naja klar gibt es Remigrationspläne.
Linus Neumann: Also die wissen auch gerade nicht, was sie angreifen sollen und was nicht,
Linus Neumann: aber entscheidend ist natürlich irgendeine Headline,
Linus Neumann: die die Korrektivredaktion in Misskredit bringt und natürlich muss die Korrektivredaktion
Linus Neumann: sich gegen so etwas zuwehr setzen.
Thomas Lohninger: Ja und gut, dass sie es tut und man kann nur hoffen, dass sie die Ressourcen haben,
Thomas Lohninger: diesen Kampf jetzt auch zu führen, weil ich glaube, der wird stellvertretend
Thomas Lohninger: für zuerst mal irgendwie journalistische Grundfreiheiten und das Redaktionsgeheimnis
Thomas Lohninger: geführt, aber dann natürlich auch Deutungshoheit und Integrität.
Thomas Lohninger: Es ist ein bisschen schwer erkennbar, worum es denen jetzt geht,
Thomas Lohninger: außer halt, wie du sagst, die eine Schlagzeile.
Thomas Lohninger: Ich meine, das Ganze ist jetzt ja auch in so vielen Medien schon wiedergegeben
Thomas Lohninger: worden und wird ja gar nicht abgestritten, dass es eigentlich nur so die Arbeitsweise sein kann.
Thomas Lohninger: Und ich glaube, dass man da halt
Thomas Lohninger: aus guten Gründen wahrscheinlich in der Redaktion gewisse Grenzen zieht.
Thomas Lohninger: Also das ist natürlich auch unter einem hohen persönlichen Risiko passiert.
Thomas Lohninger: Also ich kann mir nicht vorstellen, dass die ruhig geschlafen haben,
Thomas Lohninger: bevor sie da auf den Knopf gedrückt haben, ganz einfach, weil das harte Gegner sind.
Thomas Lohninger: Da hat man ja auch in Ibiza gesehen, also da war ja auch die ganze Erstellung
Thomas Lohninger: von dem Video etwas, wo am meisten drüber geredet wurde, viel mehr als über
Thomas Lohninger: die eigentlichen Inhalte von dem, was da gesagt wurde.
Thomas Lohninger: Das war ein gönnerisches Framing irgendwie da, das sind ein Eck zu rücken,
Thomas Lohninger: waren es jetzt Geheimdienste, ein politischer Mitbewerber, anstatt sich mit
Thomas Lohninger: dem auseinanderzusetzen, was dort gesagt wurde.
Thomas Lohninger: Und der Protest dazu ist glaube ich die wichtigste Selbstheilungskraft.
Thomas Lohninger: Und kann man nur sagen, die FPÖ hat Remigration im Wahlprogramm stehen.
Thomas Lohninger: Also das ist überhaupt nichts, wovor die sich noch schämen.
Thomas Lohninger: Aber ja.
Linus Neumann: So, dann hätte ich noch eine Frage zu Pay or Okay.
Thomas Lohninger: Ja, über das Thema müssen wir auch noch kurz reden.
Linus Neumann: Wir müssen wahrscheinlich noch mal kurz erklären, was das ist.
Thomas Lohninger: Genau. Also, wer von euch in den letzten Jahren auf einer Webseite war,
Thomas Lohninger: kennt diese Cookie-Banner.
Thomas Lohninger: Diese nervigen, ätzenden Dinger, die einem von eigentlichen Content abhalten.
Thomas Lohninger: Und die sind ja verhasst bei allen und haben uns antrainiert,
Thomas Lohninger: immer nur auf ja, okay, okay, okay zu klicken. Und das ist ja bei Design.
Thomas Lohninger: Diese Dinger sind eine Pervertierung des Datenschutzes und der E-Privacy-Richtlinie.
Thomas Lohninger: Eigentlich müsste uns da eine Wahl gestellt werden mit Ja oder Nein.
Thomas Lohninger: Aber das wollen viele Firmen nicht, weil die Daten sind ja was wert,
Thomas Lohninger: die wollen uns überwachen, so machen sie Geld, deswegen ist der Nein-Knopf ewig
Thomas Lohninger: weit versteckt irgendwo.
Thomas Lohninger: Das ist bei fast jeder Nachrichtenseite so. So, Max Schrems hat mit Neub angefangen
Thomas Lohninger: gegen diese pervertierten Cookie-Banner vorzugehen, auch da ist automatisiert
Thomas Lohninger: und da eben wirklich versucht,
Thomas Lohninger: viele Firmen dazu zu bringen, mal endlich wieder auf den Boden des Rechts zurückzukommen
Thomas Lohninger: und den Leuten eine wirkliche Wahl zu geben, damit die informierte Zustimmung
Thomas Lohninger: auch eine ist, die diesen Namen verdient.
Thomas Lohninger: Damit war er relativ erfolgreich und dann ist noch der Digital Services Sektor
Thomas Lohninger: dazugekommen, der Dark Patterns verbietet.
Thomas Lohninger: Also eigentlich war das schon vorher so, wenn man die DSGVO ordentlich liest,
Thomas Lohninger: aber da wurde es nochmal explizit gemacht, dass Dark Patterns verboten sind.
Thomas Lohninger: Dark Patterns sind so UI-Hacks, die es Menschen schwierig machen.
Thomas Lohninger: Dem zu kommen, was sie wollen. Das sind dann eben so Spiele mit Farben, mit Kontrast.
Thomas Lohninger: Es gibt einen OK-Button, der ist schön weiß, klar sichtbar und dann einen kaum
Thomas Lohninger: erkennbaren zweiten Button, wo ein Menü aufgeht, in dem ich was einstellen kann
Thomas Lohninger: mit viel zu vielen Optionen und dann irgendwo gibt es vielleicht einen Reject-Button.
Thomas Lohninger: Diese Dark-Patterns wurden eben an die Kantare genommen, die konnte es nicht
Thomas Lohninger: mehr geben und dann haben sie sich was Neues einfallen lassen.
Thomas Lohninger: Nämlich Pay or Okay. Und was diese Idee bedeutet, ist, dass ich immer noch ein
Thomas Lohninger: Okay-Schild habe, ich stimme zu, aber das Nein-Schild, so, na,
Thomas Lohninger: ich will nicht gecheckt werden, da ist auf einmal ein Preisschild dran.
Thomas Lohninger: Und du musst sozusagen dann zum Beispiel ein Abo abschließen,
Thomas Lohninger: damit du diesen Nachrichten-Content noch lesen kannst.
Thomas Lohninger: Gerade auf Zeitungsseiten begegnet das einem sehr häufig.
Thomas Lohninger: Die Zeitung, die es erfunden hat, ist die größte Online-Zeitung in Österreich,
Thomas Lohninger: der Standard.at. Die haben es sich ausgedacht.
Thomas Lohninger: Max hat gleich, als das kam, ich glaube es war 2018, unter 19 dagegen geklagt
Thomas Lohninger: oder bei der Datenschutzbehörde ein Verfahren eingeleitet, was er leider verloren hat.
Thomas Lohninger: Und daraufhin ist dieses Pay-or-Okay-Modell eben in ganz vielen Medien in Europa
Thomas Lohninger: verbreitet worden und wir haben uns alle schon gedacht, oh mein Gott, das wird gefährlich,
Thomas Lohninger: und dann vor einigen Monaten ist auch Meta umgestiegen auf dieses Modell.
Thomas Lohninger: Ihr habt es auch bei Logbuch Netzpolitik berichtet, bei Facebook und bei Instagram,
Thomas Lohninger: kann man jetzt ein Abo abschließen, wenn man sich nicht tracken lassen will,
Thomas Lohninger: Und natürlich ist das so der Tropfen, der das Fass zum Überlaufen bringt,
Thomas Lohninger: obwohl das Prinzip vorher schon verletzt wurde.
Thomas Lohninger: Und es gibt jetzt sowohl eine Entscheidung vom EDPB, vom Europäischen Datenschutz
Thomas Lohninger: Board, wo alle Datenschutzbehörden zusammenkommen,
Thomas Lohninger: um rechtsverbindliche Auffassungen zu erlassen, wie die DSGVO auszulegen ist.
Thomas Lohninger: Die beschäftigen sich jetzt in den nächsten Wochen dazu.
Thomas Lohninger: Da gab es auch einen offenen Brief, den wir gemeinsam insgesamt 28 NGOs unterschrieben haben.
Thomas Lohninger: Und es gibt auch EuGH-Verfahren in dieser Sache.
Thomas Lohninger: Und da geht es leider auch darum, ein bisschen was umzudrehen,
Thomas Lohninger: weil in einem vorherigen Urteil gab es ja diesen Halbsatz, Consent or a reasonable fee.
Thomas Lohninger: Und dieses reasonable fee, an dem hängt sich jetzt gerade alles auf,
Thomas Lohninger: dass der EuGH da halt als Möglichkeit in einem Urteil leider mit drinnen hatte.
Thomas Lohninger: Und Neub ist da an der Speerspitze des Kampfes gegen diese Aushöhlung der DSGVO.
Thomas Lohninger: Wenn da Schule macht, dann können wir uns dieses Grundrecht auf Datenschutz
Thomas Lohninger: in die Haare schmieren, weil es wird einfach ganz viele Fälle geben,
Thomas Lohninger: wo sich Menschen ihr Grundrecht dann nicht mehr leisten können.
Thomas Lohninger: Und wenn man sich ausrechnet, im Schnitt hat jede Europäerin 35 Apps auf dem
Thomas Lohninger: Smartphone installiert.
Thomas Lohninger: Bei der Gebühr, die Meta da so verlangt, wären das ungefähr 35.000 Euro im Jahr,
Thomas Lohninger: die man zahlen müsste, um noch ein Grundrecht auf Datenschutz zu haben.
Thomas Lohninger: Und es wird hier einfach wirklich etwas zum Verkauf angeboten,
Thomas Lohninger: das eben ein Grundrecht ist und wo man sehr wohl gerne über die Finanzierung
Thomas Lohninger: von Journalismus reden kann.
Thomas Lohninger: Ich glaube, dass es da eine dringende Debatte braucht,
Thomas Lohninger: aber was die Medien jetzt gerade gemacht haben, waren eigentlich die Tür zu
Thomas Lohninger: öffnen für Google und Facebook,
Thomas Lohninger: weil den klassischen Medien bleiben ja nur noch Brotkrümel von den Werbeerlösen
Thomas Lohninger: übrig, weil der Großteil bleibt bei Big Tech hängen.
Thomas Lohninger: Deswegen haben wir ja das Finanzierungsproblem im Journalismus heute.
Thomas Lohninger: Und gleichzeitig haben jetzt die klassischen Medien die Lesart der DSGVO in die Welt gesetzt,
Thomas Lohninger: die das Geschäftsmodell von Google und Facebook und anderen Datenhändlern potenziell
Thomas Lohninger: entgegen der DSGVO zementieren könnten.
Thomas Lohninger: Also das ist ein wirklich wichtiges Thema.
Thomas Lohninger: Neub, none of your business, die NGO von Max Schrems macht sich da am meisten
Thomas Lohninger: verdient und weil das jetzt gerade so eine der wichtigen Debatten ist,
Thomas Lohninger: die leider nicht die Aufmerksamkeit bekommt, die sie verdient,
Thomas Lohninger: wollte ich das nochmal kurz erwähnen.
Linus Neumann: Wie geht es denn da jetzt weiter? Also wenn du sagst, das geht potenziell an den EuGH?
Thomas Lohninger: Also es gibt zuerst mal diese EDPB, das Europäische Datenschutzbord,
Thomas Lohninger: das sich jetzt mit dieser Sache entscheidet.
Thomas Lohninger: Das ist sicherlich maßgeblich für alles, was weiter passiert.
Thomas Lohninger: Weil wenn der EDPB jetzt sagt, doch, doch, ja ist okay, darf Meta machen,
Thomas Lohninger: zahlen es halt, dann haben wir sehr schlechte Karten für alles, was danach kommt.
Linus Neumann: Das ist aber also relativ unwahrscheinlich, oder? Oder?
Thomas Lohninger: Hoffentlich. Deswegen haben wir diesen Brief geschickt. Also da gibt es jetzt
Thomas Lohninger: eine wichtige Entscheidung für alle Datenschutzbehörden in Europa.
Thomas Lohninger: Dieser große DSGVO, wo sich ganz viele Leute auf die Schulter geklopft haben,
Thomas Lohninger: wirklich das Papier wert ist, auf der sie steht.
Thomas Lohninger: Wenn wir das gewinnen, dann rechne ich uns schon gute Karten aus,
Thomas Lohninger: dass in einem der EuGH-Verfahren, die so anstehen,
Thomas Lohninger: und da gibt es wirklich viele, also Max, wenn man mit ihm redet,
Thomas Lohninger: ja, da bin ich noch wieder in Luxemburg, da haben wir wieder Verfahren und das
Thomas Lohninger: kommt jetzt die ganze Zeit dort auf, an den Verfahren, an denen er beteiligt
Thomas Lohninger: ist mit Neub, aber auch in anderen.
Thomas Lohninger: Und die Rechtsprechung wird sich jetzt zusehends mit dieser Frage beschäftigen.
Thomas Lohninger: Und ich rechne, dass die nächsten Wochen bis maximal ein, zwei Jahre noch diese
Thomas Lohninger: finale Entscheidung ausständig ist. Das kann wie immer schnell gehen.
Linus Neumann: In den letzten Wochen bis maximal ein, zwei Jahre.
Thomas Lohninger: Bis diese Entscheidung getroffen wird und es ist leider auch so,
Thomas Lohninger: dass da eben die klassischen Medien sehr gut lobbyiert haben und auch die deutschsprachigen
Thomas Lohninger: Datenschutzbehörden, die ja sonst immer auf der guten Seite stehen oder oft
Thomas Lohninger: hier nicht auf der richtigen Seite stehen.
Thomas Lohninger: Also das bleibt spannend.
Linus Neumann: Alright. Wir nähern uns hier dem Sendungsdauerrekord, Thomas. Juhu!
Linus Neumann: Letztes Thema vor den Terminen. Arne Semsrott, vor Gericht.
Thomas Lohninger: Unser großes Vorbild und Freund. Ja, Arne macht ja nur coole Sachen.
Thomas Lohninger: Und der geht wirklich...
Thomas Lohninger: In die Vollen. Er lässt sich auch verklagen für die gute Sache.
Thomas Lohninger: Nämlich hat er mit Frag den Staat Dokumente veröffentlicht aus einem aktiven
Thomas Lohninger: Gerichtsverfahren bezüglich der letzten Generation und dem Sender Radio Dreikland.
Thomas Lohninger: Diese Dokumente sind, und das hört sich für jemanden aus Österreich wirklich
Thomas Lohninger: obskur an, Gerichtsdokumente in Deutschland zu veröffentlichen oder aus denen
Thomas Lohninger: zu zitieren, ist ja bei euch illegal.
Thomas Lohninger: In Österreich will man das auch, was auch nicht wundert, dass die ÖVP das will,
Thomas Lohninger: weil die haben ganz viel Dreck in Gerichtsakten drinnen stehen,
Thomas Lohninger: aus dem jetzt berichtet wird.
Thomas Lohninger: Aber in Deutschland gibt es schon so ein Gesetz, das das Zitieren aus Gerichtsakten
Thomas Lohninger: unter Strafe stellt und das auch pauschal tut,
Thomas Lohninger: ohne eine Verhältnismäßigkeitsprüfung, wie es die Rechtsprechung des EGMR vorsehen würde.
Thomas Lohninger: Dass man hier eine Verhältnismäßigkeitsprüfung anwendet, so wie das Medien einfach machen.
Thomas Lohninger: Gibt es hier ein überwiegendes öffentliches Interesse?
Thomas Lohninger: Gibt es auf der anderen Seite Datenschutzinteressen oder andere Geheimhaltungsgründe?
Thomas Lohninger: Dann wägt man das ab und dann macht man seine Veröffentlichung.
Thomas Lohninger: Soweit mir das jetzt als Laie aus Österreich bekannt ist, gibt es eine Abwägung
Thomas Lohninger: im deutschen Recht nicht, sondern es gibt einfach nur diesen Straftatbestand, der es verbietet,
Thomas Lohninger: aus Gerichtsakten zu zitieren und der ist nach der Meinung von der Literatur
Thomas Lohninger: eben etwas, das eh schon länger weg müsste.
Thomas Lohninger: Und damit das jetzt auch wirklich passiert, hat Arne wahrscheinlich sehr wohlwissentlich
Thomas Lohninger: diese Dokumente veröffentlicht und wie zu erwarten war, gibt es jetzt ein Verfahren
Thomas Lohninger: gegen ihn als Chefredakteur und ….
Thomas Lohninger: Wir haben ja auch am Kongress gelernt, das fragt den Staat DE.
Thomas Lohninger: Das DE steht für Druckerzeugnis. Die haben ja auch eine Zeitung verteilt am Kongress.
Linus Neumann: Habe ich hier.
Thomas Lohninger: Ja, ich beneide dich drum. Ich will die auch.
Thomas Lohninger: Auf jeden Fall ist das ein Fall, den wir vermelden wollten in vollster Solidarität
Thomas Lohninger: mit Arne und ich hoffe, dass er hier gewinnen wird, weil dass es so ein Gesetz in Deutschland gibt,
Thomas Lohninger: ist glaube ich nicht wirklich vereinbar mit einer liberalen Demokratie,
Thomas Lohninger: wo man natürlich auch über die Arbeit der Justiz demokratisch diskutieren und berichten können muss.
Thomas Lohninger: Und ich glaube, genau das ist das Ziel der Sache.
Linus Neumann: Wir hatten ja, genau, das glaubst du nicht nur, sondern es ist auch so,
Linus Neumann: er hat das ja absichtlich gemacht, er hat das ja quasi mit Anlauf gemacht und
Linus Neumann: im Hintergrund wetzt die GFF schon die Messer,
Linus Neumann: weil um gegen ein solches Gesetz vorzugehen, brauchst du erstmal die Anklage,
Linus Neumann: um dann dieses Gesetz wegen übertriebener Einschränkung der Pressefreiheit zu Fall bringen zu können.
Linus Neumann: Das heißt, was Arne hier gemacht hat, ist quasi sehenden Auge,
Linus Neumann: es hätte auch gesagt, übrigens, das darf ich nicht, guckt mal, was ich gerade mache,
Linus Neumann: das darf man nicht, um genau diese Auseinandersetzung herbeizuführen,
Linus Neumann: die GFF sitzt da schon und sagt, alles klar,
Linus Neumann: das ziehen wir jetzt durch und hofft, dass eben auf diese Anklage potenziell die entsprechenden,
Linus Neumann: zwangsläufigen Rechturteile in den niedrigeren Instanzen entstehen,
Linus Neumann: um dann potenziell eben auch in den höheren Instanzen dieses nach Auffassung
Linus Neumann: der GFF verfassungswidrige Gesetz zu Fall zu bringen.
Linus Neumann: Das ist die Idee dahinter. Also er hat das jetzt quasi kalkulierter Rechtsbruch,
Linus Neumann: um dann am Ende dieses Gesetz abzusehen.
Thomas Lohninger: Das soll noch mal jemand sagen, dass das Recht über allem steht.
Thomas Lohninger: In Wirklichkeit ist es die Moral. Aber ja, also wirklich tolle Sache und da
Thomas Lohninger: muss ich jetzt ganz noch mal diese ewig lange Sendung noch ein bisschen verlängern,
Thomas Lohninger: weil etwas, das ich vergessen habe, das aber wirklich noch erwähnenswert ist.
Thomas Lohninger: Österreich hat ein Informationsfreiheitsgesetz.
Thomas Lohninger: Jetzt seit letzter Woche ist es beschlossen worden, auch in der zweiten Kammer,
Thomas Lohninger: Und damit ist Österreich das letzte Land Europas, nicht der EU,
Thomas Lohninger: neben Belarus, das ein Grundrecht auf Informationsfreiheit hat.
Thomas Lohninger: Das wollte ich nur erwähnt haben.
Thomas Lohninger: Und wir haben nämlich auch in Österreich ein FragDenStaat.at.
Thomas Lohninger: Das neue Grundrecht gilt erst ab 2025, aber man kann jetzt schon Anfragen stellen
Thomas Lohninger: und man kann auch den Kolleginnen von FragDenStaat.at spenden.
Thomas Lohninger: Die sind noch rein ehrenamtlich, aber machen super Arbeit jetzt seit zehn Jahren.
Thomas Lohninger: Also vielleicht kriegen wir dort auch einen Arne Semmsroth her,
Thomas Lohninger: der so tolle Sachen macht.
Linus Neumann: Gut, herzlichen Glückwunsch, es sei euch gegönnt.
Thomas Lohninger: Wir brauchen es auch, das hilft gegen Korruption, weißt du was hier los ist?
Linus Neumann: Das Logo sieht aber aus wie fragt den Staat.de, oder?
Thomas Lohninger: Ja, das ist dieselbe Software.
Linus Neumann: Ah, natürlich, das ist ja alles Open Source.
Thomas Lohninger: Das ist eine 1 zu 1 Kopie der Software.
Linus Neumann: Mit Unterstützung der Open Knowledge Front, das ist ja genau das gleiche.
Thomas Lohninger: Genau, ja, aber Forum Informationsfreiheit ist die NGO, die es trägt.
Linus Neumann: Forum Informationsfreiheit ist die Trägerin.
Thomas Lohninger: Und das sind auch diejenigen, die da mit uns seit zehn Jahren an diesem Informationsfreiheitsthema
Thomas Lohninger: arbeiten und die auch ganz viele Sachen durchklagen.
Thomas Lohninger: Das sind lauter Aktivisten, die das in ihrer Freizeit machen. Noch. Ja.
Linus Neumann: Elf Jahre und ein Tag. So lange haben wir uns ehrenamtlich für ein Transparenzgesetz
Linus Neumann: eingesetzt, bevor mit Stimmen von ÖVP, SPÖ und Grünen am 31.
Linus Neumann: Januar 2024 ein Informationsfreiheitsgesetz im Nationalrat beschlossen wurde.
Thomas Lohninger: Ja, der Finn von Forum Informationsfreiheit war mit mir gemeinsam im Verfassungsausschuss
Thomas Lohninger: als Experte geladen. War ein sehr lustiges Hearing, das verlinken wir auch nochmal.
Thomas Lohninger: Und jetzt ist es endlich passiert und schauen wir mal.
Thomas Lohninger: Licht ist ja angeblich gar nicht so schlecht als Desinfektionsmittel.
Thomas Lohninger: Also als rhetorische Figur ist dieser Satz gut. Licht ist eigentlich kein so
Thomas Lohninger: gutes Desinfektionsmittel. Aber wir nehmen alles, was hilft in Österreich.
Thomas Lohninger: Also in dem Zustand, wo dieses Land ist, desinfiziere ich auch mit Licht.
Linus Neumann: Alright, dann kommen wir zu den Terminen.
Thomas Lohninger: Und zwar, der erste ist, dass von 28.
Thomas Lohninger: Februar bis zum 3. März in Graz das Elevate Festival stattfindet.
Thomas Lohninger: Und dort gibt es auch am Freitag um 16.30 Uhr den Netzpolitischen Abend.
Thomas Lohninger: Ein Format, das aus Berlin ja wohl bekannt ist, gibt es auch in Österreich.
Thomas Lohninger: Und dort wird es einige sehr spannende Vorträge geben. Es gibt auch insgesamt
Thomas Lohninger: ein Diskursprogramm, das sich sehen lässt und das ist gratis.
Thomas Lohninger: Für das Musikprogramm braucht man ein Ticket, aber Ticket gibt es noch. Deswegen elevate.at.
Thomas Lohninger: Und das nächste ist gleich am 13. März um 16.30 Uhr wiederum.
Thomas Lohninger: In Wien gibt es eine Veranstaltung Access Denied – Challenges on the Quest to
Thomas Lohninger: Understand AI on Platforms.
Thomas Lohninger: Und das ist eine Diskussionsveranstaltung von Women in AI, einer neuen NGO,
Thomas Lohninger: wo die Crom Austria, die Medienregulierungsbehörde, die den DSE in Österreich
Thomas Lohninger: umsetzt, gemeinsam mit Leivand AI.
Thomas Lohninger: Wir haben coole Wörter in Österreich. Und mir und noch ein paar anderen Leuten
Thomas Lohninger: wird da diskutiert rund um den Digital Services Act und das,
Thomas Lohninger: was der so bringt und insbesondere den Artikel 40, der uns nämlich Zugriff auf
Thomas Lohninger: die Daten von den großen Plattformen geben soll.
Thomas Lohninger: Und da gibt es spannende Fragen, die man dann hoffentlich wissenschaftlich beantworten
Thomas Lohninger: kann. Darum soll es da gehen.
Linus Neumann: Und in Winterthur im Casino Theater gibt es am Freitagabend,
Linus Neumann: also diesen Freitag, den Abend des 1.
Linus Neumann: März und am Samstag, dem 2. März, den Winterkongress der digitalen Gesellschaft.
Linus Neumann: Den haben wir ja schon vor einiger Zeit hier beworben.
Linus Neumann: 27 Vorträge gibt es dort, unter anderem zum Thema künstliche Intelligenz von der Theorie zur Praxis,
Linus Neumann: aber auch ein Podiumsgespräch über automatische Gesichtserkennung und ob man
Linus Neumann: die nicht lieber national verbieten sollte.
Linus Neumann: Also in Winterthur dieses Wochenende, Freitagabend und Samstag der Winterkongress 2024. 24.
Thomas Lohninger: Super. Damit sind wir am Ende. Wirklich.
Thomas Lohninger: Ja, schön war's.
Linus Neumann: Ja, Thomas, hat mich sehr gefreut, dass wir uns mal wieder gehört haben.
Linus Neumann: Und sicherlich wird man dich hier bald wiederhören. Und ich glaube,
Linus Neumann: damit können wir uns einfach jetzt auch ganz schmerzlos verabschieden.
Linus Neumann: Es sei denn, es muss noch irgendwas loswerden. Nee, überhaupt nicht.
Linus Neumann: Nee, wir haben jetzt auch wirklich einmal alles durch.
Thomas Lohninger: Fast. Danke. Bis zum nächsten Mal.
Linus Neumann: Bis zum nächsten Mal. Ciao, ciao.