LNP487 Das Internet ist undankbar

Feedback — Markus Beckedahl — Daniela Klette — AI Act — Bundeswehr-Webkonferenz — EU-Normen — Anzeigenhauptmeister

Heute ist das Kernteam wieder beisammen und wir beschäftigen uns eingehend mit Eurem Feedback. Dann schauen wir anläßlich seiner Beendigung seiner Arbeit für netzpolitik.org auf den Beitrag von Markus Beckedahl zum netzpolitischen Bereich, den er in den letzten 20 Jahren nachhaltig geprägt hat, auf die ungewöhnliche Entdeckung der untergetauchten RAF-Terroristin Daniela Klette durch AI-Tools, den AI Act und eine Entscheidung des Europäischen Gerichtshofs zur Frage der freien Veröffentlichung von Normen die Bestandteil von EU-Gesetzen sind. Zum Schluß diskutieren wir die Auswirkungen eines TV-Berichts zum "Anzeigenhauptmeister" der dem Internet wieder alles abverlangt.

avatar
Linus Neumann
avatar
Tim Pritlove

Für diese Episode von Logbuch:Netzpolitik liegt auch ein vollständiges Transkript mit Zeitmarken und Sprecheridentifikation vor.

Bitte beachten: das Transkript wurde automatisiert erzeugt und wurde nicht nachträglich gegengelesen oder korrigiert. Dieser Prozess ist nicht sonderlich genau und das Ergebnis enthält daher mit Sicherheit eine Reihe von Fehlern. Im Zweifel gilt immer das in der Sendung aufgezeichnete gesprochene Wort. Formate: HTML, WEBVTT.


Transkript
Tim Pritlove
Guten Morgen Linus.
Linus Neumann
Guten Morgen Tim.
Tim Pritlove
Nimmst du eigentlich über einen sicheren Kanal an dieser Sendung teil?
Linus Neumann
Natürlich, die Metaebene ist abhörsicher.
Tim Pritlove
Logbuch Netzpolitik Nummer 487 vom 18.März 2024 aus der absolut undurchdringbaren Meta-Ebene, Hochsicherheitszelle.
Linus Neumann
Hier ist noch jede Konferenz unter den Teilnehmenden geblieben in der Meta-Ebene.
Tim Pritlove
Ja.
Linus Neumann
Und dem...
Tim Pritlove
Es ist so abhörsicher, die Leute haben sich teilweise untereinander nicht verständigt Sagen wir mal.
Linus Neumann
Es hat noch niemand gehört, der es nicht hören sollte oder die Das ist ja,Das soll uns erstmal jemand nachmachen.
Tim Pritlove
Irgendwie bleibt man auch hier unter sich Wir.
Linus Neumann
Bleiben unter uns und es hört Unter zwei Es hört nur die.
Tim Pritlove
Wieso heißt das eigentlich unter drei?
Linus Neumann
Ah shit, solche Fragen. Ich weiß auch nicht genau, wieso das ist und ich mussauch öfter nochmal gucken.
Tim Pritlove
Also ich beziehe mich, falls das jemand nicht weiß, auf diese Abwägung.
Linus Neumann
Sprach kurz des Journalismus. Unter 1, die Information darf bei direkter Nennungdes Urhebers wörtlich wiedergegeben werden.Also Angela Merkel sagte, unter zwei, die Information und das Umfeld der Quelledürfen zwar wiedergegeben, aber nicht direkt zitiert werden,wie aus Kreisen der CDU zu erfahren war.Und unter drei, die Information darf nicht öffentlich verwertet werden.Aber woher die kommen, weiß ich auch nicht genau.
Tim Pritlove
Was sind wir dann unter vier? Ja.
Linus Neumann
Wir sind unter 5.Wir sind unter aller Sau. Ich weiß es nicht. Nee, aber ich...Aber gibt's da eine Zahl? Ah! Das ist Paragraph 16 der Satzung der Bundespressekonferenz.Aha. Aber da steht nicht, was...Aber ich weiß es tatsächlich nicht, was diese Zahl da heißt.Also woher das der etymologische Ursprung ist.Aber der wird bestimmt in den Kommentaren uns dann mitgeteilt.
Tim Pritlove
Okay. Eins, zwei, drei gibt es sozusagen und da darf man nichts weiter erzählen.Wir sind dann also unter fünf, da darf man alles weiter erzählen.
Linus Neumann
Nee, unter eins darfst du es ja auch. Also unter eins heißt,du darfst es weiter erzählen. Du darfst genau sagen, von wem.
Tim Pritlove
Ah, das heißt, ihr dürft alles weitererzählen, was ihr heute gehört habt,aber ihr müsst sagen, dass ihr bei Logbuch Netzpolitik gehört habt. So läuft das.
Linus Neumann
Unter 1. Unter 2 wäre wie aus gewöhnlich gut unterrichteten Kreisen.
Tim Pritlove
Nee, wir wollen schon Full Credit haben. Also unter 1.Und heute unter 487.Das ist nämlich die Ausgabe heute. Habe ich aber schon gesagt. Ich wiederhole mich.Ja, wir wollen uns aber nicht so viel wiederholen, sondern wollen euch natürlich,wie es unsere Art ist, hier Informationen liefern.Und ich würde sagen, wir fangen an mit Feedback, oder?
Linus Neumann
Gerne.
Tim Pritlove
Okay, fange ich mal an. Also, zum Thema anonyme Bewertungen.
Linus Neumann
Wir hatten gesprochen über diese Arbeitgeberportal-Geschichte.Das ist ja zu der Sendung, die ich mit Thomas gemacht habe. Deswegen helfe ichdir kurz mit dem Kontext.Und dem anderen.Wir sind ja unter eins. Siehst du, mit der Anzahl der Personen kann das nichts zu tun.
Tim Pritlove
Ne. Das dachte ich nämlich auch ursprünglich, aber das passt halt irgendwie nicht so richtig.Das scheint eher sich auf, ja, keine Ahnung, worauf es sich bezieht.Klärt uns auf. Vielleicht finden wir es auch noch nebenbei raus.Anyway, Sabrina schreibt uns auf jeden Fall zum Thema anonyme Bewertung.Ich finde die Idee mit der E-Mail ja ganz nett, aber das geht ja nicht bei jedem Job.Ich habe zum Beispiel keine E-Mail-Adresse über meinen Arbeitgeber und das dürftefür Leute an der Kasse, Paketboten und so weiter ja auch gelten.Und das sind ja gerade die, die in eher prekären Verhältnissen sind und dementsprechendviel Grund haben, ungünstige Bewertungen zu hinterlassen.Funktioniert also dann doch nur so ein Semi.Max fügt dem noch hinzu, außerdem, selbst wenn ich eine dienstliche E-Mail-Adressehabe, als frisch gegangener Mitarbeiter habe ich diesen Zugriff dann nicht mehr.Und viel wichtiger, mein Arbeitgeber hat zumindest potenziell vollen Zugriffauf meine dienstlichen E-Mails herauszufinden.Wer sich im fraglichen Zeitraum auf diesem Portal angemeldet hat,ist damit praktisch trivial.
Linus Neumann
Ja, ich vermute rechtswidrig, aber das kann ich nicht beurteilen.Also ich fand beide Aspekte wichtig zu diesem Thema.Also irgendwie, ich habe eine E-Mail-Adresse über den Arbeitgeber und mit derhabe ich mich auch mal auf so einem Arbeitgeberbewertungsportal dann authentifiziert.Aber klar, bei negativer Bewertung müsste ich davon ausgehen,dass das theoretisch erkennbar ist, von wem die ist.Ganz grundsätzlich würde ich vermuten, dass das bei nicht allzu großen arbeitgebendenInstitutionen dann ohnehin auch immer erkennbar ist, weil die vielleicht zeitlich korrelieren.Aber ja, beide Aspekte, die Max und Sabrina da benennen, sind einfach absolutzutreffend und deswegen wichtige inhaltliche Ergänzung.
Tim Pritlove
Alright.
Linus Neumann
Eine weitere wichtige Ergänzung haben wir von Dirk bekommen und zwar hattenwir gesprochen über die Änderungen,die Apple auf iOS macht in Reaktion auf das Inkrafttreten des Digital Markets Act.Insbesondere, dass sie diese Web-Apps für die EU jetzt rausnehmen,also dass die Progressive Web-Apps, also etwas, was quasi direkt nur als Web-App da läuft und sagen,das geht deshalb nicht, weil man da jetzt den Browser frei wählen könnte.So, das habe ich relativ einfach wiedergegeben.Dazu kommentiert Dirk zum Thema Web-Apps auf iOS.Apples Argument ist offensichtlich vorgeschoben. Sie haben schon Sandboxing auf App-Ebene.Dasselbe Sandboxing können und werden sie auch für Third-Party-Web-Browser einsetzen.Und das können sie natürlich auch für Third-Party-Web-Engine-Web-Apps einsetzen.Und ich denke auch da klarer Punkt.Es gab aber weiterhin ohnehin noch, erstaunlich, es scheint ja jetzt hier zumKrimi zu werden, dass sich diese Regeln da auch ändern werden,die Apple da jetzt gerade erst bekannt gegeben hat.
Tim Pritlove
Ja, also zunächst einmal zu diesem Sandboxing-Argument. Den Fehler,den ihr da in der Sendung gemacht habt, der ist vielfältig gemacht worden,weil es ist oft so dargestellt worden, dass Apple generell keine PWAs,also Progressive Web Apps mehr ermöglichen würde, dass sie sozusagen komplettverschwinden. Das ist natürlich Quatsch.Die verschwinden nicht, weil es sind Web-Apps, die können in jedem Web-Browserlaufen, das ist die Eigenschaft von Web-Apps, die laufen natürlich auch nach wie vor im Browser.Also es verschwindet in dem Sinne nichts. Was sie angekündigt hatten und wassie aber mittlerweile auch wieder zurückgenommen haben, interessanterweise, war,dass sie das Installieren von Web-Apps auf dem Homescreen ausschalten,die die Möglichkeit geboten haben.Also man hatte dann sozusagen ein Icon für diese Webseite, mit der das verbundenist, die halt eine App repräsentiert, die dann Fullscreen sich öffnet und danneben so aussieht, als wäre es eine App,auch wenn sie tatsächlich nach wie vor eine Web-Anwendung ist,die im Browser, aber ohne diesen Browser-Chrome läuft.Und natürlich wäre die App auch sonst nach wie vor genau so weiter gelaufen.Nur das Ding ist, damit diese App sich wie eine...Verhalten kann, hatte Apple weitere Dinge hinzu programmiert,wie zum Beispiel die Integration von System Notifications, also von Web Notifications,die sich dann wie richtige Notifications anführen und so weiter.Also es gab sozusagen ein Integrationspaket, was eben diese Web Apps noch ingewisser Hinsicht ein wenig promotet hat und sozusagen noch mehr wie Apps hat aussehen lassen.Das ist allerdings etwas, was sie halt zu ihrem Webkit-System dazugebaut haben.Das hat mit Sandboxing und Sicherheit an der Stelle überhaupt nichts zu tun,sondern es geht sozusagen darum,dass wenn sie all diesen sonstigen Komfort auch mit anderen Browser-Enginesnoch bereitstellen sollten, die von Third-Party sind, müssten sie für die wiederumnochmal ein eigenes Framework aufmachen,damit die sich da reinklinken können, um für Web-Apps, die unter ihrer Engine laufen,denselben Komfort zu haben. Und da hat Apple gesagt, das machen wir nicht.Jetzt gab es einige neue Regelungen, also einige Abschwächungen oder andereTeiländerungen in dieser ganzen Geschichte, die ich vorgetragen hatte.Und eine davon ist, dass es jetzt diese Progressive Web Apps auf dem Homescreendoch geben soll, aber dann eben auch nur mit WebKit.Und das ist, wie manch andere Sachen, die sie jetzt auch noch verkündet haben,vermutlich, das weiß man nicht so ganz genau, Ergebnis eines Dialogs,der hinter den Kulissen mit der EU läuft.Anders kann ich mir das ehrlich gesagt nicht erklären, weil es gibt jetzt indem Sinne noch keine rechtlichen Auseinandersetzungen, also zumindest keine,die ich kenne und ich habe soden Eindruck, es ist jetzt halt einfach mal Feedback eingesammelt worden,sowohl Feedback von Developern als auch Feedback von der EU-Kommission,von den zuständigen Arbeitsgruppen, keine Ahnung, das weiß man nicht,weil sie dann eben gesagt haben,nee, wir machen jetzt Homescreen doch wieder, aber das geht dann halt nur mit ihrer Engine.Was ja eigentlich entgegen dieser Idee der Bevorzugung einer Browser-Engine ist.Aber die ist halt jetzt dann wieder doch noch ein bisschen bevorzugt,aber offensichtlich auf eine Art und Weise, wo die EU gesagt hat,das ist uns egal, weil die können ja dann trotzdem noch in dem anderen Browser auch laufen.
Linus Neumann
Ja, okay, verstehe.Ja, habe ich falsch wiedergegeben?
Tim Pritlove
Das haben ganz viele missverstanden.
Linus Neumann
Oder falsch verstanden. Dann danke Dirk für die Korrektur und danke dir Timfür die noch sinnvollere Einordnung.Dann haben wir über das Thema Content Warnings gesprochen und in dem Kontexthabe ich zumindest meinen vorsichtigen Zweifel ausgedrückt,dass wenn man jetzt ein Wort liest, dass man dann nicht daran denkt.Ja und das hat aber René gerade gerückt, dass es nur daran denken nicht unbedingt bedeutet,dass man auch eine potenzielle Retraumatisierung erfährt und vielleicht möchtestdu diesen längeren Kommentar einmal vorlesen.
Tim Pritlove
Also René schreibt zum Thema Content Warnings.Es wird leider etwas länger, aber vielleicht hilft es dem einen oder anderendas Ganze besser zu verstehen. Ich bin selbst Trauma-Überlebender.An alle möglichen Inhalte Content Warnings dran zu klatschen,halte ich für absolut falsch und sogar gefährlich.Aber es gibt durchaus einen sinnvollen Use Case, der einem vielleicht nichtklar ist, wenn man nicht selbst betroffen ist oder sich sehr gut mit dem Themaauskennt. Um beim Beispiel von Linus zu bleiben.Es macht einen himmelweiten Unterschied, ob ich das Wort Vergewaltigung leseoder ob ich mit konkreten Einzelheiten,Details, Beschreibungen einer Vergewaltigung konfrontiert bin.Selbst wenn die Details für andere vielleicht unscheinbar sind.Ersteres stecken viele mit Traumafolgestörungen noch gut weg.Vielleicht kommen da auch schon gewisse Assoziationen auf, aber man kann esnoch unter Kontrolle halten.Sobald es mehr ins Detail geht, wird es aber schwierig. Denn wenn das traumatisierteGehirn in der Schilderung genügend Ähnlichkeit zu selbst erlebten Dingen sieht,drohen Dissoziationen, eine Art Schutzmechanismus des Körpers und im schlimmsten Fall Flashbacks.Diese Ähnlichkeiten können marginal klein sein und trotzdem schon ausreichen.Ein Flashback ist nicht so wie in Filmen gerne dargestellt ein ablaufender Filmvorm inneren Auge, etwas an das man sich zurückerinnert.Es fühlt sich in diesem Moment komplett real an. Man fühlt und verhält sichso, als wäre man wieder in der traumatisierenden Situation.Das Lesen eines bestimmten Details kann mich also dazu bringen,die schlimmsten Momente meines Lebens erneut erleben zu müssen.Flashbacks wirken in der Regel auch noch eine Zeit lang nach.Im Worst Case kann es bei mir dazu führen, dass ich mehrere Nächte kaum schlafe,nicht mehr aus dem Haus komme und mich für mindestens ein oder zwei Tage krank melden muss.Hier hilft natürlich eine Traumatherapie besser als jede Content Warning,aber Plätze für Traumatherapien sind leider noch viel seltener als normale Therapieplätze.Und gerade komplexe Traumata aus der Kindheit arbeitet man nicht mal eben soauf, da reden wir häufig über viele Jahre dauernde Behandlung.Bei Themen, die sehr häufig mit tatsächlichen Traumafolgestörungen assoziiertsind, Vergewaltigung ist da ein sehr gutes Beispiel,halte ich es daher für extrem sinnvoll die Inhalte zu markieren,sodass jede selbst die Wahl hat, ob sie damit gerade konfrontiert werden möchteoder eben nicht. Lichtkontrolle ist dabei ein gutes Stichwort.Traumaüberlebende haben häufig völligen Kontrollverlust erlebt und erleben ihnin solchen Situationen wieder im Kleinen.Wie jede im Grundsatz gute Idee gibt es auch hier wieder Menschen,die diese eigentlich gute Idee im blinden Aktionismus ad absurdum führen.Politische Inhalte oder beispielsweise Essen hinter Content Warnings versteckenzu wollen ist eine echt schlechte kontraproduktive Idee, weil meine Ausführungenjetzt schon so lang sind, belasse ich es mal dabei.
Linus Neumann
Ja, also finde ich einen wichtigen Aspekt.Ich glaube, das kann man einfach mal so stehen lassen.
Tim Pritlove
Das kann man so stehen lassen und ich denke, das ist halt auch wirklich derentscheidende Unterschied.Also meine Berichte, reale Schilderungen von schwierigen Situationen oder vonSituationen, die für andere Leute schwierig sind, natürlich was anderes alseine generelle Diskussion.
Linus Neumann
Also wichtig ist aber natürlich, René bezieht sich hier sehr konkret eben auchauf Dinge, die traumatisierend sind.Also da gibt es schon einige Dinge, die vielleicht nicht so traumatisierend sind.Dann gibt es noch, hatten wir des Weiteren darüber gesprochen,dass es im Fediverse die spezifische Diskussion gibt, ob man denn nun mit Netzenwie Threads oder Blue Sky föderieren,also mit anderen Worten die eigenen Inhalte dieser Netzwerke und auch die Inhaltedieser Netzwerke den eigenen Nutzerinnen zugänglich machen.Machen möchte oder ob man die komplett ausschließt und ja, also das Defediverse pflegt.Und dazu kommentierte Oliver Müller zum Thema Föderation mit anderen Netzenwie Threads und BlueSky.Linus hat das Problem nicht verstanden.Die Sorge ist nicht, dass Meta und BlueSky an die Daten kommen,sondern dass deren unmoderierter Content ins Fediverse schwappt.Keins der großen Unternehmen bekommt das mit der Moderation hin.Ich möchte diesen Müll nicht im Fediverse.
Tim Pritlove
Tja, das ist natürlich,ja, also das ist klar, dass das so ein bisschen die Angst zu sein scheint,dass man sich eben mit den großen Netzwerken, die angeblich die Content-Moderationnicht hinbekommen, dann automatisch viele Kommentierende reinholt,die sonst vielleicht so nicht auftauchen würden.Da bin ich mir jetzt aber nicht so sicher, ob das quasi jetzt nur auf die großenPlattformen so beschränkt ist.Ich meine, das kann ja natürlich im Fediverse auch sonst passieren.So und hier gibt es ja so eine spezifische Angst vor Threads oder anderen Netzwerken,die sich in irgendeiner Form an das Fediverse noch ranklinken könnten.Und da muss man aber sagen, ich meine, das Moderationsproblem hast du natürlichim Fediverse genauso. so.Und das wird derzeit eigentlich nur dadurch gelöst, dass man sagt,naja, wenn es sozusagen ein Problem gibt, dann kann ich das auf Server-Ebene abschalten.Es gibt dann so einen Rogue-Server, wo nicht ordentlich moderiert wird und dannwird das halt einfach komplett rausgenommen.Davon ausgehend, dass das sich in irgendeiner Form lokal begrenzen lässt.Und das funktioniert natürlich bei Threads so nicht mehr, weil du wirst sehrviel Quality-Content haben, Aber eben auch sehr viel negativen Content,aber nichts garantiert dir, dass das nicht auf mastodon.social genauso ist.So, was heute eh schon die allergrößte Instanz in diesem Fediverse ist und was willst du dann machen?Willst du dann irgendwie mastodon.social abkneifen, dann wird natürlich dieseModerationsdiskussion dort ganz genauso geführt werden und Regeln erstellt werden.Also es ist ein generelles ungelöstes Problem in Social Media und ich glaubenicht, dass man das jetzt so ohne weiteres, dass man so mit dem Finger auf einzelneSysteme zeigen kann und sagen, ihr seid jetzt generell ein Problem.Außer vielleicht Schutz.Social.
Linus Neumann
Also kämen mir zwei Gedanken zu. Also wenn jetzt, also truth.social wäre sowas,wo ich auch denken würde, das könnte man vielleicht mal deföderieren.Gleichzeitig würde ich mir aber auch denken, was mache ich denn,beispielsweise, wenn auf meiner Instanz sich eine Journalistin befindet,die für ihre Recherchen spezifisch sich diese Inhalte anschauen möchte.Also, kann ich dann als Betreiberin einer Instanz sagen, nee,also das darfst du nicht.Ja klar, kann ich, ist ja alles, ich weiß, darf ich, kann ich,bitte nicht nochmal erklären.Also kann ich, ja, aber ist das jetzt eine moralische Position, das zu tun?Dass ich also direkt eine ganze Instanz blocke. Also nach meinem Verständnis,ich kann das ja nur von anderen Leuten mir anhören, die sowas tun,gibt es da irgendwie ein Spam-Problem?Ja, also da gibt es potenziell irgendwie Instanzen, die offene Registrierungoder sowas haben und dann spammen die andere voll.Ich persönlich, mir ist das noch nicht passiert, also ich habe keinen Spam bekommen. kommen?
Tim Pritlove
Ich denke, wir haben vor allem im Fediverse derzeit einfach noch kein Spam-Problem,weil es einfach noch nicht groß genug ist.
Linus Neumann
Nee, also das wird ja schon berichtet. Also wenn ich so mit,Betreiberinnen spreche, die sagen dann schon, dass sie teilweise eben Serversperren müssen oder es dann irgendwelche Spam-Wellen gibt, weil wieder irgendwo,und dann ist man da ein paar Tage am Klicken und muss irgendwann ein paar Server deföderieren oder so.Das, also Also wird mir schon berichtet.Ich persönlich kann das nicht beurteilen.Vielleicht habe ich lange Zeit davon profitiert, dass andere Menschen das getan haben.Gleichzeitig weiß ich aber, also ich finde diese Entscheidung, da jetzt quasi Inhalte,ganze riesige Mengen an Inhalten nicht zugänglich zu machen,per se schon eine sehr folgenschwere Frage.
Tim Pritlove
Also, zumal es jetzt konkret bei Threads, und darum geht es ja hier eigentlichprimär, weil das ist ja nur die einzige Plattform, die gesagt hat,sie will sich mal aktiv in das Fediverse mit einklinken, hast du natürlich das Problem,dass, klar ist da eine Menge Unsinn unterwegs, gar keine Frage.
Linus Neumann
Genau, weil auch eine ganze, also die relative Zahl ist wahrscheinlich relativgering, aber die absolute Zahl ist dann eben sehr hoch.
Tim Pritlove
Genau und ich meine, das ist nun mal der Netzwerkeffekt. Ich meine,ich wäre jetzt nicht überrascht, wenn es nicht sogar schon so weit ist.Ich kenne jetzt die aktuellen Zahlen gar nicht, aber bei Twitter gehen haltdie Nutzerzahlen weiterhin zurück und bei Threads gehen sie sicherlich nichtnennenswert zurück, wenn sie mal.Also sie ging glaube ich kurz zurück, nachdem der erste Hype durch war.Aber grundsätzlich wird das kein kleines Netzwerk bleiben und kann halt sehrgut sein, dass das eben eins der Systeme ist, wo das Interesse dann hinschwappt.Und was machst du dann, um daran teilzunehmen, wenn du teilnehmen möchtest?Dann bist du da halt unterwegs.
Linus Neumann
Also ich habe mir ja schon von vielen Leuten gewollt oder ungewollt das Fediverse erklären lassen.Aber ganz grundsätzlich habe ich nicht das Verständnis, dass meine Instanz irgendeinenSchaden nimmt, wenn sie jetzt eine andere nicht deföderiert.Also angenommen, truth.social, um jetzt mal bei einer sicherlich nicht mit besonderenInhalten gesegneten Instanz,ja, angenommen, ich bin jetzt auf einer Mastodon-Instanz und da gibt es woanderstruth.social im Fediverse, passiert doch gar nichts.Nämlich passiert ja erst dann was auf meiner Instanz, wenn sich jetzt eine meinerNutzerinnen entscheidet, einer Truth.Social Nutzerin zu folgen.Dann ist die Konsequenz, dass das bei mir in der Federated Timeline als Nutzer erscheint.
Tim Pritlove
Es geht ja nicht nur um die Federated Timeline, sondern es geht ja auch darum,wer dir sozusagen, wer auf dich reagiert.Dann können ja dann auch Leute von Truth Social dir folgen und dann dich halt mit Replies zu ballern.
Linus Neumann
Genau, und dann wäre es in jedem anderen sozialen Netzwerk, wäre es dann so,dass ich diese Personen blocken müsste, was ich problemlos kann.Also wäre jetzt nicht unbedingt ein Anspruch, den ich an die Betreiberin derInstanz erheben würde, zu sagen, schützt mich vor Followern von Truth.Social.
Tim Pritlove
Naja, wenn es dann halt so endemisch wird, dass man irgendwie sagt,99% aller Beschwerden kommen nur von diesem einen Server, dann ist das sicherlichzu so einem Punkt eskaliert, wo man über sowas auch nachdenken könnte.Aber grundsätzlich stellt sich eher die Frage, welche Moderationsmöglichkeiten wird es denn geben?Also es gab ja bei Twitter, bevor Elon Musk das übernommen hat,durchaus einige Maßnahmen,die ich jetzt im Einzelnen gar nicht mehr runterbeten kann, aber es gab ja soverschiedene Konstellationen, wo dann sozusagen Replies gar nicht auftauchen,wenn die nicht so einen bestimmten Status haben etc.Und das sind natürlich alles so Dinge, die sich letzten Endes im Finiverse auchdann schrittweise etablieren müssen, weil wir werden dieses Problem dort haben.Also Threads hin, Threads her.Umso mehr Interesse das Netzwerk anzieht, umso mehr wird es solche Moderationsproblemegeben und dann stellen sich genau dieselben Fragen, egal ob man jetzt einenanderen Server blockt oder nicht.Also diese Methoden müssen ohnehin geschaffen werden und das System muss haltda auch mithalten mit dem, was andere Netze dort anzubieten haben.Also es wird spannend werden zu sehen, aber Social Media ist nicht einfach.
Linus Neumann
Nee, nee, das ist es nicht. Aber was auch immer Twitter gemacht hat,hatte ich den Eindruck, dass esbis zu dieser Übernahme durch Elon Musk ausreichend gut funktioniert hat.Also wir haben ja die, also ausreichend gut heißt nicht gut,aber ausreichend, um zumindest die Plattform am Leben zu halten und die Fälleder Belästigung für einen ausreichend großen Anteil der Nutzerinnen auf einemausreichend niedrigen Niveau zu halten.So, also das heißt nicht, dass es kein Problem gab, aber es hat nicht die Plattformals solche gefährdet Elon Musk hat das relativ schnell sehr stark zum Kippen gebracht ähm.Also es war offenbar ein Problem, was mal jemand halbwegs im Griff hatte.Was nicht, nur damit das jetzt nicht wieder die Leute falsch verstehen,was nicht heißen soll, dass das Problem gelöst war, wie kein Problem,was da ist, wo es mehr als einen Menschen gibt, war das vollständig gelöst.Und ich will auch nicht in Abrede stellen, dass es schwere Fälle von Beleidigungund Belästigung und Verbal Abuse und ganz schrecklichen Inhalten da gibt.Aber der größere Teil der Nutzerinnen hat das Ausmaß offenbar für ausreichendgering gehalten, um zumindest noch die Plattform weiterzunutzen.Ich glaube, das ist eine Aussage, die ich so vorsichtig treffen kann.
Tim Pritlove
Ganz so. Danke.
Linus Neumann
Womit wir beim nächsten Thema wären. Danke Markus Beckedahl. Erstes Thema.Meine Güte, der Markus, erstes Thema bei uns in der Sendung.
Tim Pritlove
Ja, ist eigentlich auch nur eine kleine Meldung, könnte man sagen.Vielleicht auch nicht. Also Markus Beckedahl, der ja glaube ich in der Öffentlichkeitsehr mit seinem Projekt Netzpolitik.org verbunden ist, was er vor gut 20 Jahren gegründet hat.Verlässt jetzt das Schiff und wendet sich anderen Dingen zu und da fällt einemerstmal auf dass das ja schon 20 Jahre sind,21 war 21 wann ist das online gegangen?
Linus Neumann
Die Webseite wurde 2002 von Markus Beckedahl als Blog gegründet Okay.
Tim Pritlove
Also über 20.
Linus Neumann
Jahre Ich wäre jetzt fast sicher gewesen, dass es 2004 war, weil ich mal nach der ähm,nach einem Redesign Aufkleber gemacht hatte.Genau, bei dem Redesign, einem der Redesigns, die ich mal gemacht hatte fürNetzpolitik.org stand oben drauf seit 2002 offensichtlich und mein Gehirn hatmir gesagt, es wäre seit 2004 gewesen.Ja, aber genau, seit 2002, also 21, 22 Jahre.
Tim Pritlove
Ich hatte auch 2004 im Kopf, weil ich hatte auch, also ich habe tatsächlichmal mit ihm Einen der aller aller aller ersten Chaos Radio Express Folgen gemacht.Damals noch als es so hieß.Heute ja nur noch CRE. Und wo ich halt noch überhaupt gar nicht wusste,was dieses Format irgendwann mal sein würde.Und CRE 007 ist sozusagen mit ihm.Da ist er gerade, ich glaube aus Tunesien oder so zurückgekommen. Bei diesem WSIS,irgendein internationales Meeting und da haben wir uns darüber unterhalten undda kam dann auch das erste Mal so Notznetzpolitik.org als Projekt zur Sprache.
Linus Neumann
Offenbar schon 2005 einen ersten Freedom Blog Award bekommen von Reporter ohneGrenzen, also ja, dann wird das schon stimmen mit dem 2002.
Tim Pritlove
Naja, auf jeden Fall ist das ein interessanter Flashback auch,weil gerade so diese Zeit 2004, 2005, 2006 ist bei mir stark in Erinnerung.Klar, weil das so auch ein bisschen der Start der Meta-Ebene war,aber vor allem, weil es ja auch die Zeit war, in der ...Die Publikation im Internet auf einmal so ein individuelles Ding wurde.Vorher in den ersten zehn Jahren des Webs, so ab 94 ungefähr, war ja so Publikation.Erstmal kamen ja die ganzen Firmen mit so, ja, wir haben jetzt auch eine Internetpräsenzund unsere Visitenkarte im Web und so weiter, wo dann irgendwelche beklopptenWerbeagenturen Werbeagenturen für völlig überdrehte Millionenbeträge beauftragt wurden,irgendwie fünf HTML-Seiten mit Flash-Content zu erzeugen, der dann irgendwierumgehüpft hat, wenn man drauf ging.
Linus Neumann
Das waren gute Zahlen für die Werbeagenturen.
Tim Pritlove
Das war also wirklich eine Wichserei, das war wirklich einfach furchtbar undja okay, für die Werbeagenturen war das natürlich geil,das ist halt immer so bei diesen Hypes, wenn irgendwas neu ist,keiner weiß, was es ist, aber du musst halt irgendwie dabei sein,sonst kannst du dich vor deinen Business-Kollegen nicht mehr ordentlich zeigen,dann wird halt höllisch viel Geld auf einmal klar gemacht, um irgendwie die Zukunft zu machen.Und was haben wir hier schon für Hypes, jetzt ist es halt gerade AI oder wenndu jetzt nicht irgendwie AI auf deine Kleidung draufstempelst,dann brauchst du dich auf der nächsten Businessmesse gar nicht mehr zeigen und so weiter.Und naja, die Zeit war dann halt irgendwann reif, dass genug Werkzeuge da waren,dass dieses Publizieren nicht mehr so schwierig war und dann kamen halt solcheSysteme auf wie Textpattern und dann später auch WordPress,die halt, hier ist dieses andere Blogging-System noch, komme ich jetzt geradenicht drauf, also man konnte auf einmal bloggen.So, man konnte selber einfach irgendwie was reinschreiben in das Internet unddann erschien das irgendwie.Und 2004, 5, 6, das waren so…,Der Aufbruch für Text, also 2004 ging so dieser totale Blog-Hype los,war ja dann auch bald die Geburtsstunde der Republika, das kam ja dann auch mit in diese Zeit rein.Nein, 2005 war dann so dieses, oh wow, ja also erstmal so diese Begeisterung,oh bloggen, was, man kann selber was reinschreiben und dann schreibe ich dasin die Webseite und dann steht das da, so unglaublich.So, jetzt ist jeder, seine eigene Zeitung, werden Zeitungen überleben, ja, sofort so,was, ganze Industrien werden jetzt untergehen, weil jemand bloggt.So, Markus Beckedahl schreibt jetzt selber was über Netzpolitik.org und mussnicht bei der Zeit fragen, dass das irgendwie im Internet veröffentlicht wird.Und ein Jahr später hattest du das dann mit Podcast oh man, was man kann Tonaufnehmen und im Internet einfach so veröffentlichen ohne beim Radio zu sein.Was geht denn jetzt ab, wird das Radio überleben,so, ganze Industrien werden untergehen weil jetzt Leute irgendwie in ihrem Mikrofonins Internet sprechen sind.
Linus Neumann
Sie doch auch oder nicht?
Tim Pritlove
Es hat aber wirklich jetzt noch sehr lange gedauert und 2006,weißt du was aus 2006 rauskam?
Linus Neumann
Äh, äh, YouTube. Oh.
Tim Pritlove
Und dann ging das mit Videos los.
Linus Neumann
Ja, also das war ja, also insgesamt.
Tim Pritlove
Was Videos? Jeder kann Video, wird das Fernsehen überleben irgendwie.
Linus Neumann
Ja, Tim, du überlebst gerade Web 2.0, ne?
Tim Pritlove
Genau, aber das war im Prinzip.
Linus Neumann
Aber es gab ja noch eine, wie ich finde, wichtige andere oder weitere,also was das Blog ausgemacht hat, Etwa nicht nur, dass es ein Content-Management-Systemist, dass man sich plötzlich bei seiner Webseite einloggen und die Inhalte selber verändern kann,sondern auch diese Funktionalität der Trackbacks.Etwas, was dann auch irgendwann dem Spam zum Opfer gefallen ist,habe ich so ein bisschen den Eindruck.Aber was es Blogs ermöglichte, sich automatisch miteinander bekannt zu machenoder zu verlinken, also funktioniert so.So, du, es gibt jetzt so ein Blogartikel, sagen wir, bei Netzpolitik.org undjetzt geht ein weiteres Blog, sagen wir mal Spreeblick, gab es ja damals zum Beispiel,da gibt es vielleicht immer noch, aber und schreibt einen,Artikel, der darauf Bezug nimmt und dann wird dieser Link und verlinkt dabeiNetzpolitik.org, dann sagt der Spreeblick-Server dem Netzpolitik.org-Server Bescheid, übrigens,hier hat jemand gerade was was dazu geschrieben und auf dich verlinkt.Und wir geben dir jetzt mal so einen kleinen Snippet davon.Packen das da drunter und das kannst du dann, wenn du möchtest,als Kommentar annehmen.So, das machte aber immerhin möglich, dass diese Blogosphäre entstand,wo dann gegenseitig aufeinander Bezug genommen wurde.Und ich glaube, bis Netzpolitik.org irgendwann hart in die Kommentare eingegriffen hat,war wahrscheinlich jede Logbuch-Netzpolitik-Folge ein Trackback unter vielenNetzpolitik.org-Artikeln.Weil sich ja nach wie vor unsere Inhalte naturgemäß sehr stark auch mit denInhalten von Netzpolitik.org.Johnny Häusler hatte damals dann glaube ich noch so eine Sendung im Radio Trackbackoder war das ein Podcast?Das war schon noch so ein ausschlaggebender Aspekt des Blogs,aber wir müssen vielleicht gar nicht so viel über Blogs reden.
Tim Pritlove
Nee, aber du machst einen guten Punkt, weil das muss man sich mal klar machen,dass das also wirklich eine wichtige Aufbruchszeit war.Auch die Hashtags wurden im Prinzip in der Blogosphäre damals noch unter demNamen Technorati-Tags geboren.Also auch das war sozusagen das erste Tagging, diese erste Idee von Contentunter einem Stichwort zusammenzufassen. Da kommt sozusagen das Tag her.Man hat dann seine Blogartikel getaggt und Technorati hat dann alle Blogs abgesuchtund dann sozusagen konntest du auf Technorati nach einem Hashtag suchen unddann fandest du eben Blogartikel zu diesem Thema.
Linus Neumann
Die waren aber nicht notwendigerweise, also Tags waren nicht notwendigerweisemit einem Hash davor. vor.
Tim Pritlove
Ne, also Technorati-Tags, Hash hat sich dann durchgesetzt auf Twitter. Ja.Das kam noch dann, dann wurden es die Hash-Tags, weil sie halt noch ein Hash davor hatten.Genau, so, aber die Tags an sich sind mit Technorati geboren worden,eine Webseite, die dann halt auch irgendwann dem Spam zum Opfer gefallen ist.Das waren alles super Ideen, aber im Prinzip so die die,Geburtsstunde dieses Individual- Und genau da ist dann halt Markus reingegangenmit Netzpolitik.org und hat eigentlich das erste wirklich nennenswerte netzpolitische,ähm,Wie soll man denn das nennen? Also Pamphlet, hatte ich fast gesagt.Also die erste wirkliche Quelle sozusagen geschaffen für so netzpolitischen Content.
Linus Neumann
Er hat sogar den Begriff geprägt. Also den Begriff gab es jetzt nicht notwendigerweise.Also vielleicht hat den jemand anderes vorher verwendet, aber er hat ihn etabliert.Ja, er hätte ja auch zum Beispiel Digitalpolitik nehmen können.Übrigens gehört ihm offenbar die Domain digitalpolitik.de, wo er jetzt bloggt.
Tim Pritlove
Tja.
Linus Neumann
Auf eigene Beine ging und ich war, wenn ich das recht erinnere,der erste quasi angestellte Autor.Davor gab es viele Gastschreiber,Jörg-Olaf Schäfers und auch eigentlich viele Leute aus dieser ganzen Netzpolitik-Bubbleund mit dieser Herauslösung,ich glaube,mein Arbeitsvertrag war sogar noch mit New Thinking.Aber da ging das dann langsam los, dass Netzpolitik da rausgelöst wurde.Davor war ich Praktikant. Ich bin also als Praktikant dann in eine sehr prekärbezahlte Stelle, aber immerhin eine bezahlte Stelle gewechselt und dann...Hat sich das über die Jahre eben immer weiterentwickelt. Ich denke nennenswertvor allem, dass dann 2015 die Landesverratsaffäre war.Das hat glaube ich nochmal sehr stark zur Wahrnehmung von Netzpolitik Erk dannnochmal beigetragen und nochmal sehr viel mehr das Ding auf stabile Beine gestellt,auch was das Spendenaufkommen anging.Und inzwischen, ich lese immer die Finanzberichte und so, aber wenn wir jetzt mal kurz schauen,haben die ungefähr eine Million an quasi Spendenaufkommen im Jahr,mit der sie 2023 20 Mitarbeiter finanziert haben.Also da ist nochmal einiges passiert, nachdem ich da wieder weggegangen bin.Genau. Und ja, inzwischen natürlich was ganz anderes als das Blog,was Markus da mal selber,mehr oder weniger selber betrieben hat und dann als es groß genug war,Leute von sich aus eben auch gerne dort geschult haben.Also klar, war auf jeden Fall eines der größten, wenn nicht das größte Blogder deutschen Blogosphäre.Natürlich habe ich mich da gefreut, schreiben zu dürfen.
Tim Pritlove
Bis wann hast du da geschrieben?
Linus Neumann
Ich würde schätzen 2011, Ende 2011.
Tim Pritlove
Bis ich abgeworben habe.
Linus Neumann
Habe. Also das war ja so, ich bin gegangen,ist jetzt glaube ich auch kein Geheimnis, weil ich ein bisschen mehr Einkommendann doch brauchte, also ich habe meine monatlichen Kosten dadurch nicht decken können,habe dann eben in die IT Security gewechselt, wo ich einen Job bekommen habe, der meine monatlichen,Aufwände ganz gut decken konnte und eher wirklich durch, also completely unrelatedRelated kam das ungefähr zusammen, dass ich meinen Job gewechselt habe und LogbuchNetzpolitik angefangen habe.Was aber damit zu tun hatte, dass du, also es waren zwei unabhängige Prozesse.Die hatten jetzt nichts miteinander zu tun. Die sind einfach nur koinzidiert.Dann habe ich ja auch noch eine Zeit lang, also ich glaube, wenn das mir jetztnicht jemand heimlich weggenommen hat, habe ich immer noch Schreibrechte beiNetzpolitik.org. Also ich könnte jederzeit….Aufgestellt hat, aber ich kann sicherlich nicht andere Sachen editieren und löschen.Es sei denn, die haben immer noch meine Backdoor in dem ... ... ...
Tim Pritlove
...
Linus Neumann
... ...Lange Rede, kurzer Sinn. Ich glaube nicht, dass es jemanden gibt,die die Netzpolitik in in Deutschland in ihrer Berichterstattung,aber auch in ihrer Kampagnenfreudigkeit so stark geprägt hat wie Markus Beckedahl.
Tim Pritlove
Und das hat sich ja auch gerade mit dem von dir schon erwähnten Landesverratsskandal gezeigt.Ich kann mich noch erinnern, also als das rauskam, es hat nicht lang gedauert,war das nicht so in wenigen Stunden, war dann auf einmal so eine Demonstrationauf der Straße von mehreren hundert Leuten.Also ich weiß nicht mehr ganz genau, wie lang der Vorlauf, vielleicht war esauch nur ein Tag oder so. Aber es war, das kam raus und es gab spontan großeDemonstrationen, so im Regierungsviertel.Und also der Vorlauf war glaube ich nicht mehr als ein Tag oder so oder zwei vielleicht.
Linus Neumann
Immer auf jeden Fall schnell.
Tim Pritlove
Genau. Und das hat dann schon gezeigt und glaube ich aber auch dem Establishmentgezeigt, dass so dieses kleine Block nicht mal einfach so totzuschießen ist,sondern sehr viel mehr Relevanz hat.Das ist ja noch so eine Zeit, wo einfach dieses ganze Netzgewese nicht so richtig ernst genommen wurde.
Linus Neumann
Und auch diese Zusammenhänge, also das war, sie haben Pläne des Bundesverfassungsschutzes,des Bundesamtes für Verfassungsschutz für den Aufbau einer Einheit zur Überwachungdes Internets veröffentlicht.Und die waren natürlich, das war natürlich einfach ein Leak aus dieser Behörde,ja, und die wurden die Strafanzeige die kam von Hans-Georg Maaßen dem Hans-Georg Maaßen-Mann der Typ,ja und dann wurde sie also das hatten sie veröffentlicht im Frühjahr 2015,hat auch keine Sau interessiert dann haben sie die im Mai 2015 hat dann derdamalige Generalbundesanwalt Harald Range ein Ermittlungsverfahren eröffnet,Und dann, glaube ich, hat das irgendwie bis Juli oder August gedauert,bis sie das auch erfahren haben. Ne.Genau, ich sehe, achso, und dann wurde es aber auch relativ schnell eingestelltund ich glaube, dass der Range dann dafür auch noch irgendwie größeren Ärgerbekommen hat. Naja, wie dem auch sei, wahnsinnige Geschichte.Mein bescheidener Beitrag damals war Landesverrat.org, wo ich dann diese Inhaltebereitgestellt habe, weil Netzpolitik.org, die ja auch, genau,die mussten die ja dann offline nehmen.Und dann gab es eben einige, die sich getraut haben, diese Inhalte zu spiegeln.Und da gab es noch eine starke Kritik, die Tagesschau hatte sich das nicht getraut. Ja, weil...Dass Markus da langsam gehen würde, hat sich ja über die Zeit nachverfolgen lassen.Er hat ja schon vor längerer Zeit die Chefredaktion abgegeben und das dann andie Doppelspitze Anna Biselli und Daniel Leisegang übergeben.Und ja, dass jetzt offenbar nach längerer Zeit dann eine vollständige Aufgabeauch seiner Herausgeberschaft ist.Und womit auch, also er hat dann nicht mehr viel geschrieben,aber dann so eine Kolumne gehabt und so und in seiner Danke-Netzpolitik.org,in seinem letzten Beitrag sagt er sogar, dass er jetzt auch quasi den Schreibzugriff,den standardmäßigen Schreibzugriff abgibt.Ja, und dann hat er eben unter digitalpolitik.org bloggt er jetzt eben weiter.Wobei man vielleicht auch sagen muss, das kann man schon sagen,Entschuldigung, digitalpolitik.de, jetzt habe ich fast den Fehler,wozu man vielleicht auch sagen muss, Markus war schon eigentlich immer Blogger.Der hat eher einen Freund des schnellen Raushauens, des kurzen Kommentars.Das waren seine hauptsächlichen Beiträge. Die langen Recherchen,die dann später auch Einzug erhalten haben bei Netzpolitik.org,die wurden eher auch von anderen getrieben.Was nicht heißen soll, dass er da nicht seinen Beitrag zu geleistet hat,aber so vom Typ her war Markus eben einfach mal Blogger durch und durch.
Tim Pritlove
Ja, er war in der Lage es spontan auf den Punkt zu bringen und da ist er jadann eben auch als Ansprechpartner für die Medien dann eben zu einer festenGröße erwachsen, weil er halt einfach schnell erfassen konnte,okay, das ist jetzt hier sozusagen die politische Kernaussage,die jetzt hier gerade unter der Lupe ist und dazu hätte ich mal folgende Anmerkung zu machen.Genau. Das ist eine Fähigkeit, die nicht jedem liegt.
Linus Neumann
Ne, und die hat er wirklich enorm gut drauf und die ja glaube ich auch sicherlichbei seiner Koalition der Republika eine Rolle spielt,dass er halt die ja bei aller Gebreite des Programmes doch schon durchaus immer,also gut bei der Breite ist es nicht so schwer, aber die schon die relevantenThemen immer abbildet, ja und ja.Das auch sehr, sehr gut macht und diese netzpolitischen Diskussionen ebenfallsbreit prägt und wiedergibt.Und ja, kann man auf jeden Fall sagen, Markus, haben wir da eine ganze Mengezu verdanken und sicherlich nicht zuletzt auch Logbuch Netzpolitik,weil wer weiß, wenn ich damals nicht Praktikant bei Netzpolitik.org gewesenwäre und Redakteur bei Netzpolitik.org, ob wir irgendwie jemals dazu gekommenwären, diesen Podcast zu machen.
Tim Pritlove
Nö, wahrscheinlich nicht.
Linus Neumann
Das hat sehr viel fruchtbaren Nährboden für sehr viele Menschen gebracht,was Markus da geschaffen hat.Aber er wird erhalten bleiben, er macht die Republika weiter,plant jetzt wohl offenbar noch ein anderes Festival und so.
Tim Pritlove
Wobei ja so für so einen digitalen Menschen, ich hab die Schreibrechte abgegeben,schon so ein bisschen klingt wie so eine Inschrift auf dem Grabstein. ein, ne? Also,Wenn ich die Schreibrechte abgebe.
Linus Neumann
Ich hätte jetzt, also das hätte jetzt auch nicht unbedingt, also warte mal,ich versuche mich da mal eben einzuloggen.Vielleicht kann ich ihm die einfach wiedergeben.Nee, ich komme da auch nicht mehr so ohne weiteres drauf. Die haben da jetztauch mal endlich eine HT-Access Sperre auf dem Login.Ja, also Also, ähm...Markus Becke da, vielen, vielen Dank. Es gibt zwei schöne Artikel, einmal von ihm,wo er Netzpolitik.org dankt, einmal von Netzpolitik.org, wo sie ihm danken undjetzt gibt es ein Trackback von uns, sofern WordPress das noch unterstützt,wo wir ihm auch nochmal danken.Wir haben ja beide auch vor wenigen Tagen noch persönlich getroffen und da auchunsere Glückwünsche und unsere Anerkennung übermeldet.So, also ich weiß ja nicht, Tim, ob du es mitbekommen hast, aber Daniela Klette.
Tim Pritlove
Der Name war mir ehrlich gesagt kein Begriff.
Linus Neumann
Nö, ich glaube eigentlich die meisten Namen der sogenannten dritten Generationwaren ja nicht so bekannt wie die der ersten und zweiten Generation der Roten Armee Fraktion.Ja, also Bader-Meinhof, Ensslin und so diese ganze Runde, die Namen sind ja sehr bekannt.Dann kommen glaube ich so, wir werden dann noch so Jan Karlraspe,Christian Klarholger-Mainz sind dann noch bekannte Vertreterinnen der Roten Armee Fraktion.Aber die sogenannte dritte Generation der RAF, also die als zweite,die alle um die Landshut-Geschichte drumherum waren,haben es nicht mehr zu so viel Ruhm geschafft.Wobei dieser Ruhm natürlich insgesamt auch relativ zweifelhaft ist.Jedenfalls hörte ich relativ verspätet ein paar weitere Episoden eines Podcasts,in dem ich auch selber zu Gast war.Und zwar war das der Podcast Legion Hacking Anonymous.Ja, das war eine, wenn ich mich nicht täusche, sechsteilige Produktion, so von Studio Bummens,eine ziemlich gute oder umtriebige Podcast-Produktionsbude, so um Cash Rauberos,Patrick Stegemann,Seraphine Dinges.Jetzt weiß ich gar nicht, ob die da alle wirklich, also da arbeiten auch soein bisschen Lose zusammen, aber die haben schon die ein oder andere echt aufwendige,coole Produktion hinter sich, denke ich, kann man so sagen.Und da gab es das irgendwie zu Hacking, zu Anonymous,wo sie sich ein bisschen mit diesem Kollektiv oder dieser Idee Anonymous auseinandergesetzthaben in sechs Episoden und ich glaube in einer davon kam ich auch so ein bisschenzum Thema Hacking zu Wort.Und jetzt kommt da auf einmal eine neue Staffel quasi.Das ist eine aufwendig über Monate produzierte True Crime im weitesten Sinne.Und jetzt kommen die hin und fügen dem Ding zwei Folgen hinzu.Und zwar Legion Most Wanted.Wo ist die RAF-Terroristin Daniela Klette?Und das beginnt damit, dass ein Hörer denen irgendwie eine E-Mail schreibt undsagt, ey, ihr habt doch hier diesen Anonymous-Podcast gemacht und mir ist daecht was Irres passiert. Ich war auf einem,auf einer Geburtstagsparty im Anonymous-Umfeld und da war eine Frau,die dann irgendwie zu fortgeschrittener Stunde das,Fahndungsplakat der RAF rausholt und auf Daniela Klette zeigt und sagt, sie wäre das.Und wollte euch dem nicht mal,annehmen.
Tim Pritlove
Eine Frau, die selber gesagt hat, sie sei die die auf der Suche ist.
Linus Neumann
Du kennst das,man sitzt da feuchtfröhlich zusammen in kleiner clandestiner politischer Rundeund feiert einen Geburtstag und Leute outen sich als Terroristen und plötzlichoutet sich die ein oder andere als Terroristin as you do,und dann nehmen die sich dieser Sache an und ich muss ehrlich sagen,also ich habe diese beiden Folgen verspätet gehört, die sind glaube ich irgendwieim Dezember erschienen oder nee, die erste im Dezember und die zweite am 9., nee,nein, beide im Dezember. So.Und ich hab die aber verspätet gehört irgendwann im Februar.Weiß gar nicht genau wieso, aber ich hab die später gehört.Und ich muss sagen, dass ich mich ehrlich gesagt ziemlich darüber aufgeregthabe, weil sie, also dann irgendwie diese,Frau, die da von sich behauptet hat, sie wäre wäre Daniela Klette,da stellt sich dann im weiteren Verlauf raus, dass sie das wohl nicht ist.Die hat da wahrscheinlich einfach ein bisschen, wird dann ein bisschen interviewtzu dem Thema und sagt dann so, ja hier.Nee, aber ich war so in dem Umfeld bin ich groß geworden oder so.Hat sich ein bisschen dicke getan oder derjenige, der da diese Podcast da aufsie angesetzt hat, hat vielleicht falsche Erinnerungen gehabt oder so.Jetzt haben die aber, Und im Rahmen dieser Recherche, weil die machen das jaschon ordentlich, mit jemandem vom Bellingcat gesprochen und haben einfach mal in PimEyes,in dieser Gesichtersuchmaschine, danach suchen lassen.Und Bellingcat ist ja so ein, könnte man sagen, so ein O-Sint-Recherche-Kollektiv.Die nutzen diese ganzen öffentlich verfügbaren Informationen,so auch in diesem Fall PimEyes.Und dieser kanadische Journalist sagt dann so, ja ne, ich hab mal hier in dieserGesichtersuchmaschine geguckt, die Frau da in Köln, die ist das nicht, aber die hier ist das.Und sagt irgendwie, hier gibt es eine Capoeira-Schule in Kreuzberg und die Frau,die da auf dieser Facebook-Seite von dieser Capoeira-Schule ist, das ist Daniela Klette.Und dann gehen die in diesen Podcast dahin und sagen, ja okay,dann gehen wir jetzt halt mal in diese Capoeira-Schule, machen da so eine Stundemit, finden die da nicht Fragen nach ihr?Und der sagt, der Capoeira-Vortänzer oder was sagt dann, ja ne,die war früher öfter mal hier, aber ist irgendwann nicht mehr gekommen.
Tim Pritlove
Also haben ein Bild gezeigt sozusagen.
Linus Neumann
Das hing da wohl auch rum in der Capoeira-Schule. Also irgendwie haben die daFotos gemacht, da war sie drin. drin.So, und dann beenden die das und sagen, ja okay, Podcast zu Ende,wir haben jetzt hier zwei wildfremde unschuldige Personen, einfach mal beschuldigt,gesuchte Terroristin zu sein, aber wir haben uns entschieden,man muss ja auch mal veröffentlichen, dass nicht jede Recherche was wird, okay, ciao.Und ich dachte mir so, ey, das kannst du doch nicht veröffentlichen,also es ist doch wirklich,also hatte ich meine Probleme mit und irgendwie so drei Tage,nachdem ich das gehört habe, irgendwie so Daniela Klette erwischt,war auf der Facebook-Seite von der Capoeira-Schule und die war das einfach.Die hatten halt Recht.
Tim Pritlove
Und wussten es nicht.
Linus Neumann
Und da habe ich mich ehrlich gesagt sogar noch so ein bisschen,fand ich halt auch kritikwürdig, weil sie so ein bisschen sagen so,wir wissen es nicht, kann doch sein, dass es ist.YOLO, ciao, goodbye, frohe Weihnachten.Und ja, ich hatte meine Schwierigkeiten mit dieser Publikation.Aber Aber, ja, irgendwie, wann war das?Mitte Februar oder wann, fand dann eine Verhaftung statt von Daniela Klettein Kreuzberg, ja, in Kreuzberg, Berlin.Und die hat da offensichtlich in letzter Zeit,wie lange weiß man nicht, gesucht wurde sie glaube ich 30 Jahre lang oder so,hat die in Kreuzberg rumgehangen und hat da offenbar ein halbwegs unbehelligtes Leben geführt.So, in weiterer Folge haben sie dann jetzt auch noch nach den anderen gesucht.Insbesondere haben sie ja den Burkhard Garwig dann mit Bildern gesucht.Ich würde jetzt mal vorsichtig vermuten, dass sie die aktuellen Bilder von BurkhardGawig vielleicht, das ist eine Spekulation von mir, von einem Handy hatten,was sie Daniela Klette weggenommen haben.Weil auf einmal hatten sie, kurz nachdem sie Daniela Klette hatten,hatten sie aktuelle Bilder von Burkhard Gawig und offenbar auch Hinweise aufseinen Aufenthaltsort, weil sie ja dann noch weitere Türen eingetreten haben.Was vielleicht auch da eine wilde Spekulation damit zu tun haben könnte,dass Handys Fotos mit Geotechs machen.Aber das ist jetzt wirklich Spekulation von mir, da habe ich keine Einblicke.Auf jeden Fall irre Story, Alter.Ich finde das absolut irre. Zumal ja dann die Polizei hingegangen ist und sichgerühmt hat, dass sie mit ihrem Dank 30 Jahre vorsichtiger Arbeit und genau,wir lassen hier nichts mit uns machen.Und dann war nämlich der, der Kesch Rauberos war auf einmal unter Druck,dass er dann gefragt wurde, habt ihr mit der Polizei kooperiert?Und da musste er natürlich als Journalist so sagen, so, äh, nee,Und nee, so nein haben wir nicht.Wir haben natürlich ein paar Fragen an die gestellt, aber wir kooperieren alsJournalisten natürlich nicht mit der Polizei und glaube ich auch,dass die nicht zur Polizei gegangen sind und gesagt haben, ey Leute,wollt ihr nicht mal gucken?Ich glaube, wir haben die Daniela Klette. Aber sie haben halt einen Podcastveröffentlicht, wo sie mehr oder weniger sehr einfach nachvollziehbar das rausgehauenhaben, was ich eben daran auch ein bisschen kritisch fand,weil irgendwie so, ich weiß nicht, wie viele Capoeira-Schulen es in Berlin gibt,aber es sind wahrscheinlich nicht so viele wie Yoga-Studios,wo ich sagen würde, das ist eine nicht eindeutige Angabe.Aber okay, wie gesagt, ich meine, wenn du am Ende recht behältst, kannst du sowas machen.
Tim Pritlove
Was sie ja gemacht haben, ist eigentlich nur zu zeigen, es gibt diese Recherchemöglichkeiten.
Linus Neumann
Aber stell dir mal vor, das hätte auch anders ausgehen können,dass jetzt irgendwie die Leute irgendwelche Internet-Naseweise herausfinden, wer da gemeint ist.Und dann irgendeine komplett unbescholtene Capoeira-Tänzerin fertig machen undsie bezichtigen, eine Terroristin zu sein.Also ich fand das, vielleicht bin ich da auch überempfindlich,aber ich fand diese Podcast-Veröffentlichung, als ich sie gehört habe,habe ich gedacht, das kannst du eigentlich nicht machen.Aber okay, das war auch nur mein persönlicher Einblick und wie gesagt,der Erfolg gibt ihnen recht Ich mein.
Tim Pritlove
Also ich hab mal grad mal diese PimEyes Webseite mal ausprobiert und einfachmal mein eigenes Gesicht da reingeschmissen Und?
Linus Neumann
Bist du Raftterrorist oder nicht?
Tim Pritlove
Ich,Ich kann mich da jetzt nicht zu äußern.Auf jeden Fall, also ist überhaupt gar kein Problem, mich zu finden.Also so gefühlt wirklich, aber auch wirklich in jedem Scheiß Foto,wo ich auch nur ansatzweise drauf bin und ich würde mal sagen,eine ganze Menge der URLs, die hier angedeutet werden, die man jetzt nicht klickenkann, ohne da zu bezahlen. Ähm,Da wusste ich auch gar nicht, dass ich da irgendwie drauf bin.Also auf irgendwelchen Stadionfotos bin ich dann irgendwie so zu sehen.
Linus Neumann
Was?
Tim Pritlove
Halb überdeckt, ja.
Linus Neumann
Okay.
Tim Pritlove
Ja. Also und ich habe jetzt nur so ein Bild mal hochgeladen,wo ich so halbwegs okay drauf zu erkennen bin.Aber das ist auch schon ein paar Jahre alt und findet definitiv auch die älterenFotos von mir. Also das funktioniert exzellent.Und vor allem nicht ein einziges Foto, was ich nicht bin.
Linus Neumann
Okay, bei mir erkennt er gar nicht, dass er sagt, das wäre kein Gesicht.Was hast du für eine Fresse.
Tim Pritlove
Wie sieht das denn aus? Nee, man darf da nur hübsche Menschen hochladen.Naja, auf jeden Fall eine irre Geschichte und ja, jetzt ist halt Frau Kletteausfindig gemacht worden Und zwei weitere, die noch flüchtig sind,sind sozusagen on the run.Wird man noch sehen, ob das auch noch zu Fahndungserfolgen führt.Aber was lernen wir da jetzt daraus? Warum erwähnen wir das Ganze?Einfach um mal klar zu machen,dass die vor vielen Jahren von uns vielleicht noch so als theoretische Möglichkeitmal in den Raum gestellte Funktionalität jetzt quasi da ist.Also es ist einfach möglich eine Person zu finden und das finde ich ja hier so bemerkenswert.Das Foto, mit dem sie das gefüttert haben, war das alte Fahndungsfoto.
Linus Neumann
Ja, da bin ich zum Beispiel, also ich habe darüber mit Kantorke gesprochen,der ja genau zum Thema biometrische Massenüberwachung im Logbuch auch schon zu Gast war. Ja.Und der hat mir gesagt, mit dem normalen Fahndungsfoto würde man sie nicht finden.Ich habe es aber selber nicht ausprobiert.Deswegen muss ich da jetzt einfach mal mit, das kann ich das erstmal nur sowiedergeben. Ich wusste aber auch nicht, wie einfach das ist.Also ich habe hier tatsächlich jetzt auch, krass, es gibt ja Bilder von mir,die ich echt nicht kannte.
Tim Pritlove
Ja, so ging es mir auch.
Linus Neumann
Also ich glaube, da müssen wir was gegen unternehmen.Also ich meine, sowieso, die Gefahren, also ich meine, die ganze Geschichteerzählen wir jetzt sowieso nur, um vor den Gefahren biometrischer Gesichterkennungzu warnen, muss man ja einfach mal ganz klar sagen.Aber es kann auch sein, dass das vielleicht abgeschaltet wurde,vielleicht hat die inzwischen ein GDPR-Komplaint bei PimEyes eingereicht oder so.Aber also relativ sicher hat dieser Bellingcat-Journalist jetzt nichts gemacht,was nicht jeder andere mit ein bisschen Mühe auch hätte machen können.Es gab dann weiterhin Diskussionen also Thilo Jung hat ja dann zum Beispielauch in der Bundespressekonferenz als sie da ihren Erfolg feierten auch gesagtso, ja was ist denn daran so schwer, das haben die Podcaster doch schon vor zwei Monaten gemacht so,und also und dann gab es aber Diskussionen darüber, dass die Polizei sagt,sie dürfte dieses Tool nicht verwenden was ich ähm.Und was ich nicht genau beurteilen kann, ob das wahr ist oder nicht.Also ich fände es gut, wenn sie es nicht dürfen ohne weiteres,weil das ist ja schon ein höchst kritikwürdiges Produkt, dieses PIM-Eis.Und es ist jetzt, sag ich mal, für den Kampf gegen biometrische Massenüberwachungnicht unbedingt positiv, dass es jetzt diesen Ermittlungserfolg gibt.Ja, also selbst wenn das jetzt etwas ist, was am Ende zur Überführung einerTerroristin beigetragen hat,heißt das nicht, dass eine solche Technologie unterm Strich netto positive Konsequenzenfür eine Gesellschaft hat?
Tim Pritlove
Nee, weil in diesem Moment sind es natürlich einfach Demonstranten und Leute,die gegen die Industrie protestieren oder sonst irgendwie.
Linus Neumann
Nur kurz um ein Beispiel zu nehmen, bei diesen Massendemonstrationen in Reaktionauf die Korrektivrecherche,die ja eine der wichtigsten politischen Enthüllungen, Recherchen oder sonstwas, der letzten Jahre ist,die dann zu massenhaften Demonstrationen gegen diese grundgesetzfeindlichenBestrebungen aus dem engsten Kreis der AfD geführt haben.Da wurden ja auch Leute fotografiert und gefilmt.Insbesondere bei den kleinen Demonstrationen hast du die sogenannte Anti-Antifada gehabt, die eben Leute fotografiert.Das ist völlig normal, dass du bei Demonstrationen gegen Rechtsextreme fotografiert wirst. ist.Insbesondere, wenn es sich, wenn du dich in dem Kreise befindest, wo es.Oder in Bereichen befindest, wo du zu den wenigen Mutigen gehörst und nichtzu denen, für die erst 100.000 auf die Straße gehen müssen, damit sie sich alsSchaulustige mit darunter trauen.Und da sieht das dann schon sehr schnell ganz anders aus, wenn solche Tools in deren Hände sind.Und da plötzlich jeder Demonstrationsteilnehmer von jedem selbsternannten Anti-Antifamal eben erkannt werden kann und dann in den jeweiligen Gruppen,in denen Angriffe auf Menschen und Belästigungen von Menschen koordiniert werden, plötzlich kursieren.Das ist eine Gefahr, die nicht theoretisch ist, die wir mit dem NSU 2.0 beiweiß ich nicht wie viel hundert Leuten gesehen haben.Mit dem selbsternannten NSU 2.0. Also das ist alles wirklich eine Gefahrtechnologie.
Tim Pritlove
Ja, aber es ist halt auch so, the ship has sailed.Also das ist jetzt sozusagen eine Technologie, die ist da und diese Datenbankensind da und ich glaube, die gehen auch so schnell nicht wieder weg.Ist wirklich knifflig, wie man jetzt hier dem Missbrauch oder Gebrauch da nochnennenswert Herr werden soll.Das ist auf jeden Fall ein Problem.
Linus Neumann
JaTja, also Wahnsinnsgeschichte und Podcasts. Der Podcast ist natürlich empfohlen,auch sei es nur, um sich das Ding mal anzuhören.Aber ich fand das wirklich irre.
Tim Pritlove
Aber jetzt gibt es ja den AI-Act. Da wird doch alles gut.
Linus Neumann
Ja, also genau.Der AI-Act wurde jetzt so beschlossen.Bis zuletzt wollten ja eigentlich,also in seiner ursprünglichen Positionierung, wollte das Parlament dieser biometrischenMassenüberwachung potenziell ein vollständiges Verbot überhelfen.Ja, das wird so nicht sein.Es sind jetzt viele Begründungen zugelassen, Menschen zu überwachen,anhand körperlicher Merkmale zu identifizieren,das auch mit Hilfe von öffentlichen Kameras und das soll teilweise sogar inEchtzeit erlaubt werden, wenn die Annahme besteht,dass etwas Schlimmes passieren könnte.Also sehr geringe Anforderungen an die Begründungen.Und da gab es also im Trilog kaum Einschränkungen der Wünsche der Mitgliedstaaten.Das wird jetzt noch potenziell noch vor den EU-Wahlen in Kraft treten und dannwerden, dann in zwei Jahren werden diese Regeln greifen.Und jetzt könnten die Mitgliedstaaten auf nationaler Ebene strengere Regelnerlassen, als es von der Verordnung vorgesehen ist.Zum Beispiel für diese biometrische Überwachung.Die Ampelregierung hat angekündigt zumindest eine Echtzeitüberwachung nichtzu wollen ja also das ist ich denke es wäre schon nicht schlecht gewesen da mehr,Einschränkungen zu haben weil diese Technologie jetzt auch noch direkt in Echtzeitauf die Leute loszulassen.
Tim Pritlove
Ja wobei Echtzeit heißt ja eigentlich auch nur möglichst sofort Und zehn Minutenspäter ist meistens auch noch sofort genug und ist dann schon schnell wiederaus der Reglementierung rausgenommen.Also das wird schon einfach genutzt werden.So richtig verhindert wurde dadurch jetzt nichts.
Linus Neumann
Ja, also da wurde auf jeden Fall die,also ich denke, man kann sich über vieles in diesem AI-Kram Gedanken machen,aber ich glaube eine biometrische Überwachung des öffentlichen Raumes erstmalohne große Einschränkungen zuzulassen,ist folgenschwer und Und ein klarer Fall von einem Risiko, das man sich garnicht erst vorstellen kann.Ich habe es immer wieder gesagt, dass das ermöglicht dann im öffentlichen Raumdas Tracking, wie wir es aus dem Internet kennen. Und das ist...Wirklich problematisch.Hört auf Daniela Klette.Daniela Klette kann ein Lied davon singen.
Tim Pritlove
Gut. Kommen wir zu anderen problematischen Nutzungen von Technologie.Unsere Freunde von der Bundeswehr.
Linus Neumann
Du hast das ja mit Pavel im UKW behandelt. Ihr habt euch allerdings mehr mitden Inhalten dieses Taurus-Gespräches auseinandergesetzt.
Tim Pritlove
Genau.
Linus Neumann
Was war passiert?
Tim Pritlove
Was war passiert? Also es ging hier um ein vorbereitendes Gespräch von vier,Bundeswehrmitgliedern, deren Namen ich jetzt schon wieder nicht parat habe.Vielleicht findest du die Liste noch kurz.Das ist nochmal ganz interessant zu sehen. Das war also schon auch...Also Leute, die was zu sagen haben und es sollte halt ein Treffen vorbereitetwerden mit dem Verteidigungsminister Pistorius,wo es nochmal um diese Taurus Marschflugkörper geht.Das ist ja so ein System, was nur Deutschland hat und in einer gewissen Mengevorrätig ist und seit längerer Zeit ganz oben auf der Wunschliste der Ukraine steht,weil natürlich mit diesem System es möglich ist, die Russen auf eine Art undWeise zu treffen, wie es mit den anderen Systemen so nicht geht.Und das Ganze ist natürlich jetzt im Zentrum einer hitzigen politischen Debatte.Bei diesem Vorbereitungsgespräch ging es im Wesentlichen darum.Nochmal die technischen Grundlagen und die logistischen Herausforderungen darzustellen.Sollte es denn doch irgendwann noch eine politische Entscheidung für solcheLieferungen geben, die es halt bisher nicht gab und die sich auch im Kontextdieses Gesprächs nicht abgezeichnet hat.Ja und jetzt war es aber so, dass diese Leute,die sich dort unterhielten, nicht in einem abhörsicheren Raum saßen,sondern quer verteilt über die Welt und ein Teilnehmer war zu dem Zeitpunktin Singapur und die ganze Diskussion lief über das Konferenzsystem WebEx,was im Wesentlichen eigentlich ein internetbasiertes und dann entsprechend auchmit Verschlüsselung ausgestattetes Konferenzsystem ist.Allerdings wurde hier die Möglichkeit gewählt, dass man sich auch per Telefon zuschalten kann,weil es offensichtlich einem der Teilnehmer nicht möglich war oder vielleichtsind es auch mehr als einer, ich weiß es jetzt nicht ganz genau,es gab da verschiedene Darstellungen, irgendwie nicht möglich war über das Internetteilzunehmen, was mich ehrlich gesagt verwundert, hat, weil...Kann mir keiner erzählen, dass diese Personen nicht mit Smartphones ausgerüstetsind, wo man mal eben auch selbstverständlich per Smartphone und Internetverbindung,gerade in Singapur sollte es genug Internet geben,bin ich mir eigentlich relativ sicher, daran teilnehmen kann.Stattdessen wurde halt ein Telefonzugang genommen und das Problem mit dem Telefonnetzwerkist nun mal, dass dort Verschlüsselung nicht standardmäßig aktiviert ist,sondern nicht existent ist.Und mit Telefonverbindungen, die aus Singapur initiiert werden und dann Einwahlknoten,ich weiß gar nicht wo diese Einwahlknoten waren,ob das deutsche Einwahltelefonnummern waren oder vielleicht sogar amerikanische,kann ich gerade nicht sagen, wo auch immer sie sind, bevor man zu diesem Einwahlknotenkommt, durchläuft man mindestens eben Verteilungssysteme in Singapur.Und in diesem Fall eben wahrscheinlich auch internationale Netzknoten und naja,unverschlüsselte Telefonie wird einfach weltweit an zahlreichen Orten abgehört.Und so ist es den Russen gelungen, dieses Gespräch vollständig bezuschneidenund fanden dann den Inhalt so putzig, dass sie das dann auch genüsslich veröffentlichthaben, offensichtlich mit dem Ziel,Kanzler Scholz hier noch mehr in Zugzwang zu bringen, sich nochmal ganz klarzu seiner Entscheidung zu bekennen, diese Taurus-Lieferung nicht zu genehmigen,was er ja dann auch getan hat,wie es eben die Russen geheißen haben.Also der Grad an ähm,Wie soll man denn das nennen? Also ich weiß nicht, ist es Nachlässigkeit,ist es Inkompetenz, ist es, was ist es denn eigentlich?
Linus Neumann
Das ist Fahrlässigkeit, die in keiner Form zu entschuldigen ist.Also das, ja, kannst du nicht erklären.Ich finde übrigens nur, also offenbar, also zwei Teilnehmer kenne ich.Das ist der Brigadegeneral Frank Gräfe und der Inspekteur der Luftwaffe IngoGerhards und zwei Offiziere.Weil du mich gerade noch gebeten hattest, die Namen zu recherchieren.Die Offiziere finde ich jetzt spontan nicht.Und ich glaube, es hat sich dann herausgestellt, dass offenbar der Gräfe,der da in Singapur war, sich unsicher eingewählt hatte.Aber dass auch der Inspekteur der Luftwaffe, Ingo Gerhards, ebenfalls sich nichtrichtig eingewählt hatte.Also nicht mit dem, nicht mit der, für den Dienstgebrauch zertifizierten Variante eingewählt hat.So, und jetzt frage ich mich, wieso kann die Bundeswehr diese,wieso haben die überhaupt diese Option an, dass man sich per Telefon damit einwählen kann?Also, das kann ich mir eigentlich nicht vorstellen, weil ich bin mir relativsicher, dass das ein deaktivierbares Feature ist.Zur Frage, es hat eventuell nicht funktioniert. Tja, wieso wohl nicht,wenn einer auf der Leitung hängt?Das könnte eine Sache sein. Außerdem, ich habe nicht viele Erfahrungen mit WebEx,aber ich kann sagen, dass es von allen Möglichkeiten des Videoconferencing diejenigeist, die ich am allerwenigsten mag.Und diejenige, wo ich am häufigsten feststelle, dass Leute sich auch übers Telefoneinwählen, teilweise auch einfach deshalb, weil es geht.Also warum geht das überhaupt? Warum?Warum? Und meistens werden die Leute sich dann von Telefonen einwählen,dann nutzen sie die Mute-Taste nicht und so weiter, aber okay,ich will jetzt nicht schon wieder in meinen Rant über,Mehrpersonentelefonie,ausbrechen.
Tim Pritlove
Also es geht natürlich deshalb, weil die Leute manchmal einfach kein Breitband-Internet haben.
Linus Neumann
Genau, aber ja, in Singapur ist das eher unwahrscheinlich.
Tim Pritlove
Ja, das ist in der Tat.
Linus Neumann
Ein entwickeltes Land. Ja, aber also es ist Es ist hochnotpeinlich und wenndu dir überlegst, was Militäre dieser Welt ausgegeben haben über die Zeiten,In Verschlüsselung. Ich meine, wir können froh sein, dass die Deutschen keineFunktion, oder eine Schwachstelle in der Verschlüsselung der Enigma hatten.Das hat nach allem, was man historisch weiß, einen entscheidenden Beitrag geleistetdazu, dass die scheiß Nazis den Krieg verloren haben.Also die Bedeutung von Verschlüsselung sollte Militären seit jeher bekannt sein.
Tim Pritlove
Insbesondere den Deutschen.
Linus Neumann
Insbesondere den Deutschen, die sollten sich an eine, also da gibt es überhauptkeine Entschuldigung für.
Tim Pritlove
Überhaupt keine Entschuldigung für. Null.Ja, aber haben sie gemacht und ich weiß gar nicht, was ich dazu sagen soll.Also ich meine, du hast schon recht, also es ist sowohl die Frage,warum wird es bereitgestellt und B, warum wird es dann auch noch gemacht,wenn es bereitgestellt wird.
Linus Neumann
Mir war übrigens so, aber das habe ich offensichtlich falsch gelesen oder falschin Erinnerung, dass irgendwie noch nachher behauptet wurde,es wäre noch nicht mal jemand auf der Leitung gesessen,sondern es sei passiert, dass sie einfach eine weitere Person eingewählt hatund niemand sich gewundert hat, dass da einer mehr im Call ist.Aber das lese ich jetzt nicht im Wikipedia-Artikel, bei dem ich davon ausgehe,dass jede gesicherte, stabile Information sich darin wiederfindet.
Tim Pritlove
Ja, das habe ich als Vermutung auch gelesen, aber kenne dafür keine Bestätigung.
Linus Neumann
Ja, also hielte ich potenziell für die noch wahrscheinlichere Variante,aber genau, also aktueller Stand ist das zumindest nicht bestätigt.
Tim Pritlove
Ja, also das ist auf jeden Fall das,Problem ist hier glaube ich einfach, dass die Bundeswehr nicht alert genug ist,also die laufen hier noch in einem bürokratischen Trott der,im Wesentlichen hier so wir machen hier so ein bisschen Militärsimulationen,den Eindruck macht. Also sie sind nicht im Kriegsmodus.Das ist das, was mich so ein bisschen verstört dabei.
Linus Neumann
Also sagen wir mal, Konfliktmodus wäre mir lieber. Also ich hoffe nicht,dass sie in den Kriegsmodus kommen.
Tim Pritlove
Aber Ja, wir haben aber gerade Krieg. Also man muss in dem Kriegs,also als Bundeswehr muss man gerade im Kriegsmodus sein, weil wir haben da geradeein Land, was täglich im Fernsehen ankündigt, dass sie irgendwie Atomraketenauf Berlin schicken wollen.Also wenn Wenn dann die Bundeswehr nicht dann im Kriegsmodus ist,dann frage ich mich, wann die im Kriegsmodus ist.Also mal ehrlich, man kann es ja aus der Politik irgendwie noch versuchen rauszuhalten,um die Bevölkerung nicht zu beunruhigen.Aber innerhalb der Bundeswehr sollte man da einfach ausreichend beunruhigt sein.Man sollte zumindest ausreichend sensibilisiert sein, hier nicht noch die Dingeschlimmer zu machen, als sie ohnehin sind.Zum Beispiel, indem man interne Talking Points einfach so preisgibt,weil die halt politisch und informationstechnisch genutzt werden können.So und ich meine, was haben wir hier schon über Security-Angriffe auf dem Bundestagund so weiter gesprochen,wo mit Hightech und finstersten Hacker-Methoden und Zero-Day-Exploits und diealso findigsten Methoden sozusagen schon die Geheimnisebene dieses Staates aufgebohrt wird.Aber wenn man dann halt einfach sagt, ja ich nehme jetzt einfach mal Telefon,dann muss man sich auch einfach über gar nichts mehr wundern.
Linus Neumann
Nein, also da sind noch keine Köpfe gerollt.Also wenn du das nicht machst, dann brauchst du dich über gar nichts mehr zu wundern.Oder? Also das Gut Natürlich hat es auch Also natürlich müssen wir trotzdemjetzt diese Sache ordentlich untersuchen Na, aber,Ey, Verschlüsselung Ich find's allein schon irre Also ich find's eigentlichschon irre, dass die überhaupt WebEx nutzen Wobei das ja bei,sinnvoller Anwendung potenziell Vielen Dank.Wahrscheinlich für ein solches Gespräch eine ausreichende Sicherheit bieten würde.
Tim Pritlove
Ich weiß nicht, ist jetzt ein Webex irgendwas speziell schlecht, was ich nicht weiß?
Linus Neumann
Maximal Scheiße zu bedienen.
Tim Pritlove
Okay, gut, aber es ist an sich das Feature, wir haben eine verschlüsselte Verbindung, haben sie schon.
Linus Neumann
Also sollte jetzt, würde ich dem Ding schon zutrauen.
Tim Pritlove
Francisco ist das System, muss man dazu nochmal sagen. Tja, naja gut,also so, ja, als Kopfschüttel haben wir jetzt hier gerade nicht bereit, oder?Haben wir noch irgendeinen nennenswerten Kommentar dazu abzugeben?
Linus Neumann
Nee, nee, hast recht. Wir könnten jetzt noch ein paar Minuten weiter uns anden Kopf fassen, aber das machen wir einfach nach der Sendung noch ein bisschen.Aber du fragst dich doch echt.
Tim Pritlove
Ey. Tja, so ist es. Wir dienen Deutschland.Aber nicht besonders gut.So, mal vielleicht ein bisschen was aus der Abteilung, etwas bessere Nachrichten.
Linus Neumann
Ah ja, da bin ich mal gespannt.
Tim Pritlove
Genau. Es gibt da einen Menschen, Karl Malamuth,ich weiß nicht, ob du von dem schon mal gehört hast, Aktivist und Internethistoriker,der zwar aus den USA kommt und dort unter anderem das Projekt publicresource.org gegründet hat.Und unter anderem auch in den USA schon mit Klagen dafür gesorgt hat,dass Normen und Standards,die in Gesetzen verwendet werden, auch der Öffentlichkeit zugänglich gemacht werden sollen.Und hatte da auch im letzten September bereits schon Erfolg damit.Und vor allem geht er spezifisch dagegen vor, dass das Ganze mit dem Urheberrecht begründet werden soll.Was jetzt also passiert ist, er hat geklagt in der EU und mit der Argumentation, ihr macht Gesetze.Diese Gesetze beziehen sich auf bestimmte Standards,aber wenn ich diese Standards einsehen will, dann werde ich von der DIN undvon anderen Normungsinstituten zur Kasse gebeten, weil ich muss ja Geld dafürbezahlen, wenn ich mir diese Standards vor die Nase halten möchte,um mal nachzuschauen, was ich denn jetzt eigentlich tun muss,um diese Gesetze einzuhalten.Und hat das eben vor den Europäischen Gerichtshof gebracht, über den wir jaschon öfter berichtet haben, über den EuGH.In diesem Zusammenhang habe ich übrigens auch nochmal begriffen,dass der EuGH tatsächlich, also dass das Gerichtssystem der Europäischen Uniontatsächlich aus drei Teilen besteht, von denen es nur zwei Teile gibt.Hä? Ja, es gibt nämlich den Europäischen Gerichtshof, den EuGH,Aber es gibt auch noch das Gericht der Europäischen Union, das EUG.Nicht EUGH, sondern EUG.Früher wurde es einfach das Gericht der ersten Instanz genannt,dafür ist es nämlich zuständig.Und außerdem gibt es noch sogenannte Fachgerichte, die existieren könnten,aber von denen derzeit noch kein Nutzen gemacht wird im europäischen System.Themen. Auf jeden Fall Moment.
Linus Neumann
Könnten wir dann, also könnten wir diese dritte fehlende Instanz jetzt einfach kurz spontan gründen?
Tim Pritlove
Fachgericht für,verschlüsselte Webkonferenzen. Ja, mal gucken. Also weiß ich nicht.Genau, also die Argumentation mit der da vorgegangen ist, ist halt das technischeNormen, die Bestandteil europäischer Verordnungen und Richtlinien sind,dass die für Unternehmen und Bürger kostenfrei zugänglich sein müssen.Und diese Klage wendet sich halt vor allem gegen die Europäische Kommissionund diese Normungsorganisationen, die also auch hier beteiligt sind.Also das sind einerseits die verschiedenen Normungsorganisationen in den europäischenLändern und das Europäische Komitee für Normung, CIN.Interessant ist, dass also zunächst einmal sich dieses Gericht der EuropäischenUnion dem angenommen hat und das hat diese Klage zurückgewiesen mit dem Hinweis,weil ja dann die Finanzierung dieser Normungsinstitutionen, Organisationen gefährdet sei.
Linus Neumann
Ist ja geil.
Tim Pritlove
Und ich meine, man muss ja auch nochmal klar machen, Normen werden halt vondiesen DIN und von anderen Normungsorganisationen in Europa veröffentlicht,aber nicht vollständig und frei.Sondern wenn man die dann halt so genau haben will, dann muss man horrende Summendafür bezahlen, dass man eine entsprechende Kopie dieser Standards bekommt.Also wenn ich mir das so mal vorstelle, das Internet hätte sich so nicht durchgesetzt.Also das war definitiv auf einer anderen Basis gebaut.Aber in dem Moment, wo man halt in Gesetzen auf entsprechenden Standards verweist,insbesondere bei den neuen digitalen Gesetzen.
Linus Neumann
Ist doch völlig selbstverständlich, oder?
Tim Pritlove
Würde man meinen, aber tatsächlich wird halt hier auch immer argumentiert,dass ja allein schon wegen des Urheberrechts das ja auch nicht ginge.Wobei halt der Malamuth ganz nachvollziehbar argumentiert,dass ja diese Normungsgruppen erstmal gar nicht die Urheber seien,sondern die veröffentlichen das ja nur.Und dass ohnehin das Urheberrecht nicht diesen Status haben darf,sondern dass der Recht auf den Zugang zu dem Gesetzestext eigentlich Priorität haben soll.Und jetzt ist das Ganze dann aber, nachdem es in erster Instanz erstmal zurückgewiesen wurde,geht es dann eben zum Europäischen Gerichtshof und der hat sich jetzt dazu geäußertund hat gesagt, sagt so, ja nee, also das kann nicht sein,dass Standards, die in Gesetzen als Voraussetzung sind,wo gesagt wird, damit du dieses Gesetz erfüllen kannst, muss folgender Standardberücksichtigt werden.Und wenn du dann halt sagen willst, ja was steht denn da drin in dem Stand,ich würde ja gerne mal überprüfen, ob hier irgendjemand auch das Gesetz einhält,dass man dann erstmal dafür bezahlen muss, nur um das irgendwie zu machen.Und das geht halt irgendwie nicht.
Linus Neumann
Ja, also.
Tim Pritlove
Es ist jetzt noch so ein bisschen unklar, so wie sich das EuGH geäußert hat,inwieweit das jetzt dann auch sozusagen dieses Urheberrecht-Argument betrifft,weil sich dazu das EuGH so konkret nicht geäußert hat.
Linus Neumann
Das heißt, wir müssen einfach nur riesige Gesetze mit Unmengen an urheberrechtlichgeschütztem Material veröffentlichen?
Tim Pritlove
Naja, das ist ja sozusagen nur so ein Argument, um das sozusagen aufrechtzuerhalten.Also mir ist nicht ganz klar, was jetzt hier der nächste Schritt ist,aber hier ist auf jeden Fall ein interessanter Fakt geliefert worden,weil im Prinzip wird jetzt diese ganze aktuelle Handhabung für nichtig erklärt vom EuGH.Und jetzt muss hier in irgendeiner Form Abhilfe geschaffen werden.
Linus Neumann
So, ich finde das, also es sollte auch wirklich einleuchtend sein, oder?
Tim Pritlove
Es sollte einleuchtend sein, allerdings stellt sich natürlich hier eine vielgrößere Frage, nämlich wie finanzieren wir denn jetzt die Normungsinstitute künftig?Also nicht alle Standards, die in diesen Normungsinstituten gehandelt werden,stehen in irgendwelchen Gesetzen.Da sind ja jede Schraube und jedes Kabel und Schutzmechanismen und keine Ahnungalles mögliche, es gibt Standards für jeden Scheiß,sind da drin und da wird es halt natürlich noch weiterhin so gehandhabt werden können.Nur Standards, die eben explizit Teil von Gesetzen sind, müssen jetzt eigentlichkostenlos herausgegeben werden.Und zwar für die Öffentlichkeit.
Linus Neumann
Ja.
Tim Pritlove
Das finde ich ist eine ganz gute Nachricht.
Linus Neumann
Ja, aber das ist auch, also was denn sonst?
Tim Pritlove
Tja.
Linus Neumann
Ja, irre. Also ich wusste das nicht. Ich wusste nicht, dass es noch nicht so ist.Umso mehr freue ich mich, dass es jetzt so ist.
Tim Pritlove
Genau, also muss man mal abwarten, was das jetzt tatsächlich auslöst.Mir ist nicht so ganz klar, was jetzt der nächste Schritt ist in diesem Zusammenhang,aber so ganz ohne Auswirkungen wird das nicht sein können.
Linus Neumann
Okay. Dann kommen wir zum letzten Thema.Und dieses Thema ist eins aus dem kulturellen Bereich, würde ich sagen.Also das Internet ist bereichert worden durch ein neues Mem.
Tim Pritlove
Ja, welches?
Linus Neumann
Das ist der Anzeigenhauptmeister.
Tim Pritlove
Okay, das ist dieser Mensch, der Falschpacker aufschreibt oder so?
Linus Neumann
Also der hat, also es ist eine Spiegel-TV-Doku und Spiegel-TV hat auf,wenn man so mal deren YouTube-Veröffentlichungen verfolgt, die haben da so durchwachsenes Material.Also ich glaube, sehr bekannt ist diese Penny an der Reeperbahn.Kennst du nicht?
Tim Pritlove
Penny an der Reeperbahn?
Linus Neumann
Also auf der Reeperbahn in Hamburg-St. Pauli befindet sich ein Pennymarkt.
Tim Pritlove
Achso, ja.
Linus Neumann
Und dieser Pennymarkt hat relativ ausgedehnte Öffnungszeiten und natürlich einrelativ spezielles Publikum.Also einerseits Leute, die auf der Reeperbahn unterwegs sind und mal vielleichtnoch irgendwo billig Alkohol kaufen wollen.Andererseits Leute, die vielleicht auf der Straße wohnen in Hamburg und da Alkohol kaufen.Aber dann natürlich insgesamt auch.Es ist ein relativ bunter Bezirk, in dem der ein oder andere Charakter wohnt.Und in diesem Penny-Markt haben die eine Zeit lang mal so eine Doku gemacht,in der sie mal so alles wiedergeben, was da so rein und raus läuft.Dazu relativ belustigt erzählt und es ist auf jeden Fall absolut lustig.Ja, auch grundsätzlich erstmal eine wertschätzende Stimme, aber man weiß jetzt auch nicht unbedingt,ob jedem Menschen, der da dargestellt ist oder sich auch darstellt,ob der unbedingt im Vollbesitz seiner geistigen Kräfte war, als er dem zugestimmt hat.Oder ob der überhaupt noch im Vollbesitz seiner geistigen Kräfte ist.Also muss man gesehen haben, ist unglaublich unterhaltsam, ist auch eine sehrinteressante Sozialstudie, aber ich denke, an der kann man auch sehr viel Kritik üben,weil da mitunter auch wirklich Menschen in katastrophalen Zuständen gezeigt werden. So.Gleichzeitig haben die relativ viele Recherchen irgendwie, da gibt es ja sozu Rockermilieu, kriminelles Milieu und so, wie dem auch sei,haben ein relativ buntes Programm.Und jetzt haben sie einen jungen Mann begleitet,der irgendwie 18 Jahre alt ist, mit so einem eindeutig höchst verkehrssicherenFahrrad durch die Gegend fährt und dabei irgendwie Signalkleidung trägt undeinen Helm und dann Knöllchen schreibt.Höhepunkte sind dann irgendwie, dass er jemanden aufschreibt, der,Irgendwie statt sieben Meter vom Halteverbotsschild sechs Meter siebzig vomHalteverbotsschild entfernt ist und deswegen 30 Zentimeter im Halteverbot stehtund deswegen jetzt aufgeschrieben wird und dann dokumentiert er das mit so einem Zollstock.Dann hat er irgendwie vorne ein Schild dran wo irgendwie Pulifzai steht ja,weil Polizei darfst du nicht dran schreiben.
Tim Pritlove
Wäre Amtsanmaßung sondern da steht was dran Pulifzai ja.
Linus Neumann
Also und dann wirft ihm jemand Amtsanmaßung oder Täuschung vor,weil er sich eben auch als Anzeigenhauptmeister,vorstellt Ja, also wenn er da mit Leuten spricht, dann sagt er irgendwie,ich bin Anzeigenhauptmeister so und so.
Tim Pritlove
Polizvieh steht drauf.
Linus Neumann
Polizvieh.
Tim Pritlove
Polizvieh.
Linus Neumann
Ja, das ist so ähnlich wie hier in Berlin stand doch mal, steht glaube ich immernoch, weiß ich gar nicht, so ein altes Polizeiauto, eine Wanne,auf der dann statt Polizeikanzlei stand. Da hat es so ein Verkehrsrechtler, glaube ich.
Tim Pritlove
Oh, kenne ich mit Politur, aber es gibt verschiedene Varianten.Ja, genau, es gibt Polenta.
Linus Neumann
Politur und was man so alles da so draufschreiben kann. So, aber der ist halteisenhart und der hat irgendwie um die 4000 Anzeigen geschrieben.Geht, glaube ich, wohl auch seinem Heimatdorf inzwischen, damit gehöre ich auf den Sack.Hält sich aber für irgendwie jemanden, der Staatssäcke füllt und hat,also hat da wirklich ein sehr ausgefallenes Hobby, sagen wir mal. Ja.So und den haben die mit, ich glaube das ist sogar der gleiche Erzähler,so da so begleitet in seinem Alltag, wie der dann da so mit den Leuten aneinander gerät,die dann irgendwie so sagen,ja ich hab hier so einen Vogel und dann sagt er direkt, das ist eine Beleidigungund kennt dann irgendwie den Paragrafen und schreibt dann eine Anzeige dafür.Dann hat er wieder in irgendeinem Falschparker die Polizei bestellt.Dann hat die Polizei aber ein beschmutztes Nummernschild.Und dann entblödet er sich nicht, auch noch der Polizei zu sagen,sie müsste dann jetzt mal langsam das Nummernschild reinigen.Weil noch ist es erkennbar.Aber, aber, und der Typ ist natürlich Instant, Instant-Meme,ja, also der ist so geil, also der ist, du guckst dir das an und du denkst dir so, ist der gut,aber du weißt auch, das Internet ist undankbar, Tim, ich sage dir,das Internet ist undankbar.Weil natürlich ist der Typ jetzt ein Instant-Meme und der wird jetzt rauf und runter gememt und so.Und statt ihn dankbar zu behandeln, statt dem Internet zu danken.Ist der natürlich zu absoluten Hassobjekt von irgendwie weiß ich wie vielen Autofahrern geworden.Und hat dann jetzt auch schon, also wie heißt dieser absolute Vollproll da von YouTube?Ja, nein, aber der wirkt nicht der Königsbräu.
Tim Pritlove
Achso, ja.
Linus Neumann
Der Königsbräu von YouTube.
Tim Pritlove
So Namen, die mir Gott sei Dank schnell wieder entfallen.
Linus Neumann
Montana Black.
Tim Pritlove
Ja, sowas, ja.
Linus Neumann
Mit so einer Knast drin. Also der Typ, ey. Eine Figur. Der ist ja auch ein Instant-Meme.Also den guckt man sich ja auch nur an.Aber, also jedenfalls, der hat dann auch schon prophezeit, dass der früher oderspäter auf die Fresse kriegt.Natürlich. Also ist ja auch klar, ne? Ich meine, natürlich kriegt der früheroder später auf die Fresse.Aber natürlich auch, insbesondere, weil Spiegel TV den jetzt da in einer Dreiviertelstundendokuder Weltöffentlichkeit oder dem deutschen Autofahrer zum Fraß vorgeworfen hat.Ja, und da hat er natürlich auch… Mit Realnamen.Ja, ich hab den, also der ist da mit Realnamen, wird über den berichtet.Ich hab deswegen auch extra seinen Realnamen gerade nicht gesagt,so, aber Ich auch nicht, aber Der ist mit Realnamen und irgendwie Wohnort und so jetzt im Internet.Und statt den mal zu feiern, weil ich denk mir so, kann doch nur Gewinner geben.Also der Typ zeigt einen Autofahrer nach dem anderen an, die rasten aus undwenn sie den beleidigen oder schlagen, kriegen sie noch eine Anzeige.Erstmal würde ich sagen, so ey,the game, not the player. Also der macht das halt, also ich finde das eine...
Tim Pritlove
Also ich kann einen gewissen Unmut der Leute durchaus nachvollziehen.
Linus Neumann
Natürlich. Ich glaube, der Unmut ist dem auch nicht entgangen.Der merkt ja, wie die Welt auf ihn reagiert.
Tim Pritlove
Aber ist dem ein bisschen egal?
Linus Neumann
Also der hält sich dafür auf der der auf der richtigen Seite des Gesetzes ist,der möchte einfach nur, dass die Leute sich dran halten.Also sagen wir mal, ich würde noch einen draufsetzen. Ich glaube,dem ist auch klar, dass er jetzt nicht am Ende des Tages Menschen glücklichgemacht hat mit seinem Tun.Und deswegen meine ich auch, gewissermaßen könnte man auch sagen,der will ja auch auf die Fresse.Also so, oder der will, sagen wir mal so, der will, dass Leute ihm auf die Fresse hauen wollen.
Tim Pritlove
Weißt du?
Linus Neumann
Der hat da schon, also man kann da teilweise so eine leichte diebische Freude auch bei erkennen.Ja, also als er dann das ausmisst so mit den sieben Metern, dann fragt ihn haltdieser Journalist oder Redakteur oder wer das dann ist. oder so,muss man das jetzt immer messen?Und dann sagt er so, nö, kann man auch schätzen.Aber der hat sich halt verschätzt. So, oder?Ich finde halt, für so einen muss man dankbar sein. Der treibt ja jetzt niemandenin den Ruinen. Der schafft ein Thema.Und ich finde es fürchterlich, dass das Internet nicht die Souveränität hat zu sagen, so.Guter Typ. So, schaff was, worüber wir uns den Mund zerreißen können.Schaff was, wo wir uns mit auseinandersetzen können. Gib uns ein Gesprächsthema.Und ich verstehe es nicht. Ich verstehe es genauso nicht beim Drachenlord,warum Menschen dann so darauf reagieren.Wie gesagt, dass der von einem, den er da irgendwie in einer Stresssituationweiß, da sind Leute, sie sind beim Be- und Entladen vor ihrem eigenen Geschäft.Und dann kommt er an und sagt, Hallo, ich bin der Anzeigenhauptmeister.Gebt jetzt eine Anzeige. Und die nehmen den natürlich nicht ernst.Und dann ruft er halt die Bullen. Und dann kommen die Bullen und sagen,boah, scheiße, ja, hier 15 Euro.Lass uns in Ruhe und wollen wieder weg.Der hat da halt einen Punkt getroffen, wo er trollen kann.Und damit muss man eben auch, also ich finde, das ist eine Reifeprüfung fürdie Menschen, damit umzugehen. und eben nicht die Fassung zu verlieren.
Tim Pritlove
Wie würdest denn du damit umgehen, wenn der dich jetzt laufend im Meta aufschreibt?
Linus Neumann
Ich bin ein schlechtes Beispiel.Ich weiß nicht, ob ich das im Podcast, ich kann das auch nicht erzählen.Wenn ich das erzähle, dann bin ich dran.
Tim Pritlove
Also dann bin ich dran wegen Beamtenbeleidigungen.
Linus Neumann
Aber sagen wir mal, ich hab ich hab nach meiner letzten,nach meinem Nach meinem letzten Strafzettelchen, was mir von so Polizisten ausgestellt wurde,Bodycount wieder entdeckt. Kennst du Bodycount?1992, Album.
Tim Pritlove
Achso, Rap? Oder was?
Linus Neumann
Bodycount ist völlig in Ordnung, kommen auch übrigens dieses Jahr nach Berlin,Hamburg und so, aber die hatten 1992 ein Album rausgebracht, das sich...Das sich mit Gewalt gegen Polizisten verherrlichend auseinandergesetzt hat.Sagen wir das so. Das wurde dann in Deutschland auch, ist in Deutschland schwerzu bekommen gewesen, sagen wir es mal so.
Tim Pritlove
Und das hast du dann vermehrt gehört.
Linus Neumann
Weil du unzufrieden warst über den Anzeigenhauptmeister.
Tim Pritlove
Der in dem Fall wirklich ein Hauptmeister war.
Linus Neumann
Das war ein richtiger Hauptmeister und das war auch so einer.
Tim Pritlove
Aber der Polizei kann ich das in gewisser Hinsicht noch nachsehen.
Linus Neumann
Ne, das sind also.
Tim Pritlove
Also mit den Gesetzen ist es ja so, die sind dazu da,um Recht zu definieren und festzustellen und natürlich gibt es Momente,wo man sozusagen das auch missbrauchen kann.Ja, also vor allem gibt es erstmal Momente, wo es auch sinnvoll ist,dass es das gibt und dann ist das sozusagen die Vergleichsgröße,die man nimmt und damit wird dann eben recht auch entschieden,wenn mal was Schlimmes passiert ist.Allerdings, gerade was den Straßenverkehr betrifft.
Linus Neumann
Ein völlig unterregulierter Bereich, wenn ich das mal sagen darf.Im Straßenverkehr hier, also ich habe gesagt, wir sprechen nicht drüber,aber jetzt sprechen wir drüber.Hier in Berlin, unterregulierter Bereich,unterentforster Bereich,du kannst dich an eine Ampel stellen und du kannst dir sicher sein,dass bei jedes Mal, wenn das da rot wird, noch drei Leute drüber fahren.Du kannst dich hinstellen und brauchst nicht lange zu warten,bis irgendwelche Besoffenen zu acht auf irgendeinem Roller auf der falschenSeite rumfahren und so weiter.Aber wozu entscheidet sich Berlin, wem wird das Leben in Berlin schwer gemacht? Den Radfahrern.
Tim Pritlove
Da muss ich jetzt wirklich ein bisschen kichern.
Linus Neumann
Also die wirklich in jeder Statistik die gefährdetsten Verkehrsteilnehmer inBerlin sind, von denen die geringste Gefährdung ausgeht.
Tim Pritlove
Der Anzeigenhauptmeister konzentriert sich ausschließlich auf Autos?
Linus Neumann
Ich glaube, der Anzeigenhauptmeister, der drückt keine Augen zu.Also da kannst du sicher sein, der drückt keine Augen zu.
Tim Pritlove
Dem geht es doch sozusagen ums Prinzip und damit auch egal, welcher Gesetzestextjetzt hier relevant ist.
Linus Neumann
Ich würde sagen, der Anzeigenhauptmeister ist nicht bestechlich,der ist nicht korrumpierbar.
Tim Pritlove
Gut, also wo wir jetzt gerade bei diesem Bereich sind.
Linus Neumann
Ich habe Hochachtung vor dem.
Tim Pritlove
Ja, also mit den roten Ampeln habe ich in Berlin etwas andere Erfahrungen.Also ich würde mal sagen, die allermeisten Autos bleiben bei rot stehen, solange bis grün ist.
Linus Neumann
Und dann fahren sie mit 100 weiter.
Tim Pritlove
Egal, wir waren bei der roten Ampel. Rote Ampeln, finde ich,haben im Wesentlichen noch ein hohes, wie nennt man das?
Linus Neumann
Das ist eine der wenigen Dinge, die Autofahrer noch bemüht sind zu respektieren, ja.
Tim Pritlove
Genau, also da ist so die, ich weiß nicht genau, wie man das jetzt korrekt quantifiziert,aber sagen wir mal so, die Mitmachbereitschaft bei diesem Gesetz ist relativ hoch.Allerdings bei Fahrradfahrern habe ich das Gefühl, überhaupt nicht bekannt,dass rote Ampeln eigentlich auch für Fahrradfahrer, also bei jeder einzelnenroten Ampel, wirklich jeder Ampel in Berlin, jede Ampel, wenn ich da stehe, rot,immer ist auch mindestens einer, wenn nicht zehn Radfahrer dabei,die komplett zu ignorieren.Also den Punkt kannst du jetzt wirklich überhaupt nicht aufmachen.Ich weiß genau, worauf du hinaus willst und ich sage auch nicht,es ist nicht erforderlich, bestimmte Dinge zu entforcen.Worauf ich hinaus möchte, ist was anderes.
Linus Neumann
Also ich habe….
Tim Pritlove
Ist das meiner Auffassung nach nicht im Sinne der Gesetzgebung.Weil diese Gesetze sind nicht dafür gedacht, permanent überall,jederzeit, auf jeden angewendet zu werden,sondern sie sind sozusagen dafür gedacht, um dafür zu sorgen,dass wir ein Gemeinwohl haben, haben, in dem sich alle weitgehend,so wie es erforderlich ist, respektieren und Sicherheit gewähren.Das ist sozusagen das Ziel.Aber nicht permanent für jede 30 Zentimeter Verfehlung irgendwie zur Kasse gebetenzu werden, weil das ist dann auch nicht im Sinne der Gesellschaft.Und das ist das Problem, was die Leute mit dem Anzeigenhauptmeister haben.Natürlich sollte es nicht dazu führen, dass ihm dann sozusagen Dinge geschehen,worauf andere Gesetze damit angewendet werden können.Insofern verstehe ich den Punkt natürlich auch.
Linus Neumann
Also, zu den roten Ampeln. Ich habe meine Strafen für das Überfahren roter Ampelnimmer mit Fassung bezahlt und mich da nie drüber aufgeregt.
Tim Pritlove
Mit dem Fahrrad?
Linus Neumann
Ja, ich bin natürlich nur mit dem Fahrrad. Wenn du im Auto über eine rote Ampelfährst, das kannst du nicht bringen.
Tim Pritlove
Warum nicht?
Linus Neumann
Das ist verboten.Okay, gut. Da würden sie mich auch nach dem Führerschein fragen.
Tim Pritlove
Eigentlich beim Fahrradfahren auch.
Linus Neumann
Ja, also ich habe tatsächlich mal für das Überfahren einer roten Ampel, die lauern ja.Die stellen ja auch Rotampelfallen. Aber auch das machen sie übrigens für Fahrradfahrerund nicht für Autofahrer.
Tim Pritlove
Für Autofahrer gibt es sogar richtige Maschinen.
Linus Neumann
Also pass auf, ich kann dir erklären, was passiert ist. Ich habe während desRadfahrens an einer Telefonkonferenz teilgenommen.Was legal ist.
Tim Pritlove
Aber verschlüsselt.
Linus Neumann
Verschlüsselt, ja. Ja, so. Und ich hatte das Handy in der Tasche,weil ich ja weiß, dass ich das Handy während der Fahrt nicht bedienen darf.Und hatte das Ding natürlich auf Mute, weil ich ja weiß, dass ich durch meineFahrgeräusche die Telefonkonferenz an ihrem Geschehen störe.So, dann wurde es mir aber dazu bunt und ich wollte mich zu Wort melden.Zu diesem Zeitpunkt stand ich an einer roten Ampel Und zwar am Alexanderplatz,Dann habe ich an dieser roten Ampel Was auch mein gutes Recht ist,Ähm.Moment, wie war das? Da wurde es grün. Ich hatte mein Handy noch in der Tasche.Ich bin losgefahren, habe in Vorbereitung meines Einschreitens in diese Telefonkonferenz,bin ich also nicht auf dem Radweg weitergefahren,sondern bin dann langsam, also absolut mit Schrittgeschwindigkeit,auf den Gehweg gerollt, dort zum Stehen gekommen. Ich konnte ja nicht auf der Straße anhalten.Ich bin also auf dem Gehweg zum Stehen gekommen, habe dabei mein Handy rausgeholt,mich unmutet und angefangen zu sprechen.Woraufhin ich mir zwei fahrradfahrende Polizisten auf dem Gehweg entgegen kamen, die zu mir fuhren.Also schon mal gegen dieses man darf nicht auf dem Gehweg fahren Gesetz.Übrigens auch auf der falschen Seite mir entgegen kamen.
Tim Pritlove
Außer man ist Polizist.
Linus Neumann
Genau und dann haben die mich wegen,Fahren auf dem Gehweg den ich ja wahrscheinlich gute 6 Meter berollt hatte.
Tim Pritlove
6 Meter das sind 6 Meter als erlaubt sind.
Linus Neumann
6 Meter mehr als erlaubt sind die sind aber 30, 40 Meter zu mir gefahren telefonieren am Steuer,Und zweifelhafter Beanstandung der Verkehrssicherheit meines Fahrrades mit einem Knöllchen versehen.Das war dann irgendwie so 100 noch was, 150 Euro oder sowas der Spaß gekostet hat.Das hatte aber leider noch die bittere Konsequenz,dass ich zum Wiederherstellen der Verkehrstauglichkeit meines Rades nach derenAuffassung ein Loch in diesen Fahrradrahmen bohren musste.
Tim Pritlove
Was? Wieso das?Achso, du hast kein Licht gehabt, oder was?
Linus Neumann
Nee, natürlich brauchte ich kein Licht an dem Fahrrad zu haben.
Tim Pritlove
Und was musst du da noch reinbohren?
Linus Neumann
Eine Auffassung für die Hinterradbremse.
Tim Pritlove
Dein Fahrrad hat hinten keine Bremse gehabt?
Linus Neumann
Selbstverständlich hat mein Fahrrad hinten eine Bremse gehabt.
Tim Pritlove
Ja, aber?
Linus Neumann
Es gibt in Berlin zwei unterschiedliche Urteile zu der Frage,ob ein Fixed-Gear-Fahrrad die Anforderungen von zwei unabhängigen Bremssystemen erfüllt oder nicht.
Tim Pritlove
Ah, du bist mit dem Hipster-Bike unterwegs gewesen und daran haben sie sich gestört.
Linus Neumann
Das Fahrrad, was mein verstorbener Freund als letztes designt hat,was ich gekauft habe, ja.Und dieses Fahrrad durfte ich dann auf Anordnung der Polizei beschädigen.Das war einfach nur, also ganz ehrlich, wenn du meinen Weg zur Arbeit fährst,das sind sechs Kilometer, sieben Kilometer durch Berlin Mitte,die kannst du nicht zurücklegen, ohne in Lebensgefahr zu geraten.Und dass dann da irgendwelche Polizisten ihre Hauptaugenmerk darauf legen,Radfahrer einfach nur zu schikanieren in Situationen, die in keiner Form…,in keiner Form irgendeinen Menschen in Gefahr gebracht haben oder sonstiges,ist einfach also da habe ich verliere ich sämtliches,Interesse diesen Staat noch weiter zu unterstützen und das ist wirklich Dasist eine arme Sau, der Typ, der zeigt da, der lässt da ab und zu mal einen Wieso?
Tim Pritlove
Vielleicht waren die von der Polizei ja ja auch arme Säue. Also letzten Endesist es aber genau das gleiche.So, weil er ja dann auch Leute sozusagen in Situationen gegen das Gesetz stellt,wo es aber real kein, also unterstelle ich jetzt mal, ich habe jetzt nicht alleSituationen gesehen und mit Sicherheit schreibt er auch mal Leute auf,wo man sagt, das geht ja gar nicht. Gar keine Frage.Aber es gibt sicherlich eine Menge Situationen, wo man sagt,hast du sie noch alle? Ja, das ist das Problem.
Linus Neumann
Ganz ordentlich alle. Also das ist ja auch klar, aber man muss doch auch malso einen Typ mal embracen und sagen, Mann ey, so groß ist die Wahrscheinlichkeit,dass ich die Freude habe mit dem nicht.Und jetzt, ja, jetzt darf ich nicht mehr im Halteverbot parken.Meine Güte. Also ich weiß nicht, wie oft die, wann immer ich ein Auto hattein Berlin, weißt du, wie oft die mir die Dinger abgeschleppt hatten?Weil, was da nämlich passiert ist, Auto in Berlin kann ja keine Sorge brauchen,also steht das die ganze Zeit rum.Also kommt irgendwann einer und stellt da ein Halteverbotsschild hin und dannkommt der Abschlepp-LKW und dann kriegst du eine Rechnung für weiß ich nicht,150 Euro kostet das Abschleppen, 70 Euro,das Parken im Halteverbot und so weiter,Das ist Teil des Sports.
Tim Pritlove
Man muss einfach kontextsensitiv vorgehen.
Linus Neumann
Sagen wir mal so, ich hätte keinerlei der Handzeigenhauptmeister verliert meinepersönliche schützende Hand, sobald der irgendwie einen Radfahrer belästigt.
Tim Pritlove
Sogar die Polizei kann ganz entspannt sein.Also ich hab's irgendwie tatsächlich mal gebracht, dass ich irgendwie so zerstört und völlig,ermüdet von irgendeiner Veranstaltung zurückkam, uns wirklich gebracht habe,das Auto, mit dem ich fuhr, auf der Straße stehen zu lassen.Der Schlüssel war noch drin und ich bin wie oben in die Wohnung reingegangenund bin oben eingeschlafen.
Linus Neumann
Da kannst du aber froh sein, dass die dich erst erwischt haben,nachdem du den Rausch ausgeschlafen hattest.
Tim Pritlove
Nee, ich war gar nicht so betraut. Das war kein Alkoholismus.Ich war wirklich nur vollkommen, ich weiß nicht mehr ganz genau,was der Grund war, aber ich war einfach todmüde und bin einfach eingeschlafen.Und ja, das konnte aber auch noch alles sehr entspannt und ohne größere Strafengeregelt werden. Die haben sich einfach nur sehr gewundert.Was wollen wir denn jetzt eigentlich mit dieser Meldung jetzt sagen,aber die würden es jetzt so ausführlich geäußert haben Du möchtest gerne.
Linus Neumann
Dass er nicht.
Tim Pritlove
Getötet wird jetzt.
Linus Neumann
Also ich finde dürfen eins nicht vergessen die Leute, die ihn angegriffen habendas hätte ich vielleicht noch früher dazu sagen sollen die haben den in derBahn erkannt das waren keine Opfer von dem,Leute.
Tim Pritlove
Haben ihn angegriffen? Ja. Hast du das schon erwähnt?
Linus Neumann
Der hat, also der wurde angegriffen. Der ist Opfer einer Körperverletzung geworden. Und zwar,Nicht, wie es zu erwarten gestanden hätte,dass der früher oder später halt einen auf die Fresse kriegt von jemandem,dem er im falschen Moment einen reinwürgt,sondern offenbar ist das am Abend des 2.März nach einem Match von Dynamo Dresden beim Halleschen FC.Und sagen wir mal so, Dynamo Dresden-Fans stelle ich mir nicht so angenehm vor.Ich weiß nicht, wie das Spiel verlaufen ist.Heimfans, dann war es in Halle. 18.20 Uhr, als die Bahn von etwa 20 Heimfansnach dem Spiel genutzt wurde, der Jugendliche wurde anschließend verletzt inein Krankenhaus gebracht.Sein Mobiltelefon wurde später auf dem Bahnsteig gefunden. gefunden.So, das heißt, er hat jetzt von Menschen, die er, mit denen er nichts zu Leidegetan hat, angegriffen.Und das ist, denke ich, eine eindeutige direkte Konsequenz dieser Spiegel Online-Dokuund der massenhaften Aufmerksamkeit, die der natürlich überall bekommen hat.
Tim Pritlove
Heißt das jetzt, dass man ich meine jetzt mal die Perspektive Spiegel-TV Spiegel,was war das? Spiegel-Online? Spiegel-TV?
Linus Neumann
Spiegel, es gibt ja keine also Spiegel-TV ist sowieso nochmal was anderes alsSpiegel-Online, aber inzwischen gibt es ja gar keine Unterscheidung mehr.
Tim Pritlove
Okay, also dieses Fernsehteam, was halt schon seit vielen, vielen Jahren diesesSpiegel-TV macht, das ist ja jetzt beileibe nicht das erste Produkt dieser Art.Denkst du, dass dass das jetzt, sagen wir mal, die Ursünde in diesem Fall ist,dass man darüber berichtet?Also ich meine, wenn du jetzt so ein Journalist wärst.
Linus Neumann
Ich bedauere, ich muss einfach mal wirklich mein Bedauern darüber ausdrücken,dass dem Internet die Reife fehlt, um sich an sowas zu erfreuen.Und dass wir eine Situation haben, wo so einer, Und das war ja,also, es haben ja wirklich viele vorhergesagt, dass der, und da brauchst du auch nicht viel, ähm.Kompetenz zu, um dir vorzustellen, dass der eine sehr fürchterliche,dass diese Öffentlichkeit, die er jetzt bekommt, für ihn fürchterliche Folgen haben wird.Das hat auch ein Artikel im RND auch schon vorhergesagt.Der sagte so, das ist schlimm, der wird Opfer von Gewalt werden.
Tim Pritlove
Drachendort gelodet sozusagen.
Linus Neumann
Ja, und das finde ich halt fair game, wenn das in der Situation ist,wo er jemandem auf den Sack geht, wenn das jetzt irgendwie eines seiner konkretenOpfer ist, dass er sich nicht anders zu helfen weiß, weil er sich nicht artikulieren kann, ist okay.Ich denke, das ist ein Risiko, was er selber kennt.Und vielleicht notfalls mit seinem Pulli-2-Fahrrad dann da wegfährt oder so.Dass der jetzt quasi eine Zielperson öffentlicher Hetze ist, finde ich halt schlimm.
Tim Pritlove
Ja, ist auch schlimm. Ja.Aber er macht das noch. Bis man nicht...Ich würde ihm einfach raten, such dir ein anderes Hobby. Es gibt andere schöneDinge, die man machen kann.Also wenn man so einen Spaß dran hat, Gesetze umzusetzen, da gibt es auch sogarein Berufsbild dazu. Wie heißt das nochmal gleich?
Linus Neumann
Polifzai?
Tim Pritlove
Polifzi. Nee, Rechtspfleger heißt das.Rechtspfleger. Da könnt ihr doch Rechtspflege machen. Das wird doch vielleicht was für ihn. Naja.
Linus Neumann
Aber also.
Tim Pritlove
Alle Beteiligten haben ja eigentlich irgendwie so ein bisschen mal drüber nachzudenken,was sie eigentlich tun, würde ich sagen. Ja genau.
Linus Neumann
Welche Veränderung möchtest du in der Welt machen?
Tim Pritlove
Also die Journalisten sollten sich ein bisschen darüber Gedanken machen,was ihre Berichterstattung für Auswirkungen hat.Die Hater sollen einfach mal kacken gehen und Herr Hauptmeister selber.
Linus Neumann
Herr Nanter, sollte sich auch mal überlegen. Und die Polizei,die müssen ihr Nummernschild sauber machen.
Tim Pritlove
Ich meine, man könnte ja auch Briefmarken sammeln oder Blumen pressen oder esgibt so viele schöne Hobbys, mit denen man seine Zeit sinnlos vergeuden kann. Warum das?Naja, okay.Jetzt machen wir hier Schluss.
Linus Neumann
Internet pflege deine Helden, sonst hast du halt irgendwann keine mehr.
Tim Pritlove
Haben wir sonst noch was beizutragen? Nee, ne? Nee, ist auch schon wieder ganzschön lang hier unsere Sendung, glaube ich, oder?Ich schau mal Uiuiui, ja das reicht,Gut Leute damit schicken wir euch in die Woche und,mir fällt mir jetzt irgendwie nicht dazu ein Nee.
Linus Neumann
Mir auch nicht Ja.
Tim Pritlove
Auch nicht.
Linus Neumann
Achso, du musst ja jetzt...
Tim Pritlove
Nee, nee, muss ich nicht.
Linus Neumann
Okay. Ciao, ciao.

Shownotes

Prolog: unter eins, zwei, drei

Feedback

Anonyme Bewertungen

iOS WebApps

Triggerwarnungen und Content Warnings

Defediverse

Danke, Markus Beckedahl!

Daniela Klette

AI Act ohne strenge Einschränkungen

Abgehörte WebEx-Konferenz der Bundeswehr

Europäische Normen und Bezahlschranken

Anzeigenhauptmeister

LNP486 Das fünfte Element

Product Liability Directive — Cyber Resilience Act — Platform Workers Directive — European Health Data Space — AI Act

Die heutige Folge ist ein Spezial zur aktuellen EU-Gesetzgebung. Tim und Thomas besprechen mit Ralf Bendrath und Arnika Zinke, die beide für die Grüne Fraktion in der EU an der Gesetzgebung mitarbeiten, gerade bzw. bald beschlossene neue Richtlinien und Verordnungen. Einen besonderen Schwerpunkt legen wir dabei auf den AI Act und diskutieren seine Entstehung und konkrete Ausgestaltung.

avatar
Tim Pritlove
avatar
Thomas Lohninger
avatar
Arnika Zinke
avatar
Ralf Bendrath

Für diese Episode von Logbuch:Netzpolitik liegt auch ein vollständiges Transkript mit Zeitmarken und Sprecheridentifikation vor.

Bitte beachten: das Transkript wurde automatisiert erzeugt und wurde nicht nachträglich gegengelesen oder korrigiert. Dieser Prozess ist nicht sonderlich genau und das Ergebnis enthält daher mit Sicherheit eine Reihe von Fehlern. Im Zweifel gilt immer das in der Sendung aufgezeichnete gesprochene Wort. Formate: HTML, WEBVTT.


Transkript
Tim Pritlove
Guten Morgen Thomas.
Thomas Lohninger
Guten Morgen Tim.
Tim Pritlove
Sag mal, wie ist eigentlich das Wetter in Brüssel?
Thomas Lohninger
Das muss noch abgestimmt werden. Wir haben noch kein Tredo-Gergebnis.
Tim Pritlove
Logbuch Netzpolitik Nummer 486 vom 13. März 2024. 2024.Und ja, den Linus, den habe ich mal kurz weggeschickt, damit wir hier uns malum die seriösen Themen kümmern können.Und begrüßen natürlich erstmal Thomas. Habt ihr schon gehört? Hallo Thomas.
Thomas Lohninger
Hallo. Genau.
Tim Pritlove
Und heute haben wir eine große Runde, nämlich eine große EU-Runde und begrüßenaußerdem noch den Ralf, Ralf Benrath. Hallo.
Ralf Bendrath
Hallo.
Tim Pritlove
Hallo, du warst ja schon mal bei uns und ganz frisch neu mit dabei,grüße ich auch noch die Annika, hallo.
Arnika Zinke
Hallo, servus.
Tim Pritlove
Ja, Annika, Annika Zinke, fangen wir doch mal mit dir kurz an.Stell dich doch mal bitte kurz vor, dass wir mal wissen, was du so machst und was dich zu uns führt.
Arnika Zinke
Ja, hallo, freut mich sehr dabei zu sein. Genau, also ich bin Annika,ich komme ursprünglich aus Wien.Also jetzt haben wir heute zwei Quoten Österreicher quasi im Podcast.Das kommt wahrscheinlich auch nicht so oft vor. Genau, ich war ursprünglichJournalistin in Wien und bin dann über Umwege in Brüssel gelandet.War dann bei Alexandra Gese als Praktikantin im Office und habe dort auch begonnen,an Digital Services Act zu arbeiten.Und bin dann in die Fraktion gewechselt, vor zweieinhalb Jahren in der Fraktionder Grünen und war dort zuerst Beraterin für horizontale Digital-Koordinierung.Das heißt quasi über die verschiedenen Ausschüsse übergreifend alles,was Digitalpolitik trifft, zukoordinieren und im Rahmen dessen auch recht stark KI-Gesetz gearbeitet,weil das natürlich über sehr viele verschiedene Ausschüsse drübergegangen ist,weil das ein Thema ist, das nicht unbedingt in einen Ausschuss gut reinpasst.Und bin seit gut einem Jahr jetzt im Binnenmarktausschuss, was einer der zweifederführenden Ausschüsse im KI-Gesetz auch ist, über das wir heute noch sprechen werden.Genau, und habe aber unter anderem auch an anderen Files gearbeitet,wie zum Beispiel im European Media Freedom Act, der heute auch im Plenum abgestimmt wurde.Im Cyber Resilience Act habe ich auch ein bisschen mitgearbeitet.Genau, also alles, was quasi Digitalpolitik betrifft und Binnenmarkt irgendwiebetrifft, fällt in meinen Ressort.
Tim Pritlove
Was war denn so uninteressant am Journalismus, dass du die Politik gewechselt bist?
Arnika Zinke
Es war nicht unbedingt uninteressant, aber zum einen, wie es für viel bewusstist, ist der Journalismus ein recht prekäres Arbeitsumfeld.Das war also einer der Hauptgründe. Und der andere Grund war auch,dass dadurch, dass wir sehr viel online gearbeitet haben,ich großes Interesse daran hatte, besser nachzuvollziehen, beziehungsweise mehrdaran zu arbeiten, wie Plattformen eigentlich Inhalte verbreiten,verbreiten, mehr Richtung eben Empfehlungsalgorithmen zu arbeiten.Und deswegen habe ich dann auch, ja, war ich sehr interessiert,am Digital Services Act zu arbeiten, habe dazu auch meine zwei Masterarbeiten geschrieben.Also die Digitalpolitik hat mich im Rahmen meiner journalistischen Karrierequasi immer mehr begleitet, sodass ich dann so interessiert daran war,dass ich mir dachte, okay, ich möchte hauptberuflich daran arbeiten.
Tim Pritlove
Okay. Masterarbeit in was?
Arnika Zinke
Also es waren zwei zum Digital Services Act, weil ich habe dann schon nicht genug davon bekommen.Also beim einen ging es darum, wie Initiativberichte im EU-Parlament,ob die eine Auswirkung auf die Kommissionsvorschläge haben können.Und das habe ich im Rahmen des Digital Services Act gemacht.Und bei dem anderen ging es mehr um Empfehlungsalgorithmen und wie die DigitalServices Act reguliert werden.
Tim Pritlove
Und das war dann für Politikwissenschaft?
Arnika Zinke
Genau, Politikwissenschaften und internationale Beziehungen.
Tim Pritlove
Okay.
Thomas Lohninger
Wir haben heute ja sehr viele EU-Themen. Da können wir gleich einsteigen.Ein Initiativbericht, weil das ist auch ein Begriff, der gerade gefallen ist.Das sind einfach nicht bindende Resolutionen, könnte man sagen,die das Parlament erlässt.Also das sind fast die einzige Sache, die das Europaparlament von sich aus machenkann und initiieren kann, die halt zur Meinungsbildung dienen sollen.Was hat denn deine Masterarbeit ergeben? Haben sie einen Impact gehabt?
Arnika Zinke
Genau, es ist so, dass das Parlament ja kein Vorschlagsrecht hat,im Gegensatz zur Kommission, die die Gesetze ja vorschlagen darf.Und von allein hat am Anfang ihres Mandatsangekündigt, dass sie die Initiativberichte mehr ernst nehmen wird.Und das, was meine Forschung ergeben hat, ist, dass es zwar...In der Theorie nicht übernommen werden muss, in der Praxis es aber schon derKommission etwas bringt, wenn die Mehrheiten in den Initiativberichten geformtwerden, auch berücksichtigt werden im Vorschlag.Das heißt natürlich, wenn man möchte, dass der Vorschlag in irgendeiner WeiseErfolg hat, ist es nicht dumm, sich anzusehen, wie Mehrheiten im Parlament gebildet werden.Und natürlich, wenn das Parlament dann genau zu einem bestimmten Bereich etwasveröffentlicht, dann schon einen Einfluss.Aber grundsätzlich ist es halt schon so, dass viele von den Initiativberichtenauch nicht, vor allem Initiativberichte, die jetzt nicht unbedingt auf ein Gesetzspezifisch ausgerichtet sind, nicht unbedingt den Erfolg haben,den sich manche Politiker inne erhoffen.Also man muss da schon auch ein bisschen differenzieren und es ist nicht so,dass jeder Initiativbericht mit dem Strichpunkt übernommen worden ist.Aber gerade beim Digital Services Act, was ja auch ein sehr großes Gesetz war,war das ein bisschen anders, würde ich sagen.Aber vielleicht mal greife ich noch, was zu sagen, weil Ralf schon länger im Parlament ist als ich.
Tim Pritlove
Ja, genau, Ralf, sag doch mal was. Du darfst dich auch noch mal vorstellen.
Ralf Bendrath
Ja, danke auch noch mal für die Einladung. Ich bin, genau wie Annika,Fraktionsreferent der Grünen-EFA-Fraktion im Europäischen Parlament.Ich bin für den Ausschuss für Bürgerliche Freiheiten, Justiz und Inneres zuständigund mache da vor allem Datenschutz.Das ist der Ausschuss, der auch federführend für Datenschutz zuständig ist.Nebenbei aber alles, was an anderen Digitalsachen so anfällt,inklusive auch Polizeiinformationsaustausch, polizeiliche und justizielle Zusammenarbeit und solche Sachen.Ich mache aber inzwischen relativ viel auch ausschussüberschreitende Arbeit,weil jetzt inzwischen die Kollegen alle mitgeschnitten haben,dass ich hier der Onkel Ralf von der DSGVO bin.Ich habe früher für den Berichterstatter Jan-Philipp Albrecht bearbeitet,als das Ding verhandelt wurde und habe seitdem sogar einen IMDb-Eintrag.Und jetzt kommen die Kollegen immer und haben irgendwas zu europäischer Sozialversicherungskarteim Beschäftigungsausschuss oder zu Veröffentlichung von Agrarzuschüssen im Agrarausschussoder zu irgendwelchen anderen Themen,wo es irgendwie dann auch Datenschutzfragen plötzlich gibt.Ich gehe jetzt zum Financial Information Access Geschichte, Finanzdatenraumund komme immer, Ralf, kannst du hier mal drüber gucken?Und das ist ganz, bis zur Fischerei ging das schon. Das ist irgendwie ganz lustigmanchmal. Dann lernt man auch viel über den Tellerrand hinaus.Ja, und ich habe jetzt die Freude gehabt, mit Arne quasi die letzten,weiß nicht, drei Jahre oder so zusammenzuarbeiten am KI-Gesetz,am Artificial Intelligence Act, weil...Ja, da kommen wir später zu. Die Details dazu spreche ich mir für nachher.Aber warum das ein gemeinsames Ausschussverfahren mit dem Binnenmarkt und demInnenausschuss war, das war eine lustige Geschichte.Es gibt noch Axel Voss-Witze später.
Tim Pritlove
Das sind immer die besten. Und hast du auch schon einen Initiativbericht mal angestoßen?
Ralf Bendrath
Angestoßen selber nicht.Verdoppelt. Wie viel davon jetzt in der KI- Verordnung im IAI-Act gelandet ist,ich glaube ehrlich gesagt gar nicht so viel, weil die Kommission da einen sehrstrikten Rahmen gesetzt hat, aber da gehen wir später noch an die Details.
Tim Pritlove
Nur mal um so ein Gefühl dafür zu bekommen, weil ich habe diesen Begriff Initiativberichtehrlich gesagt noch nie gehört, aber wie viele werden denn da so pro Jahr von gemacht?Ist das so ab und zu mal einer oder passiert das am laufenden Meter?
Ralf Bendrath
Nee, das passiert viel viel am Anfang der Legislaturperiode,wenn die neue Kommission erst anfängt, ihr Arbeitsprogramm abzuarbeiten undbis dann die ersten Gesetzesvorschläge kommen, dauert es meistens eine Weileund dann sind die Leute noch übermotiviert und wollen selber was machen.
Tim Pritlove
Hast du so Beschäftigungstherapie fürs Parlament?
Ralf Bendrath
So ein bisschen. Die Abgeordneten wollen mal irgendwas sagen,ohne dass es gleich ein Gesetz ist und dann schreibt man halt so einen Initiativbericht.Das ist quotiert. Das können nicht beliebig viele werden.Ich weiß nicht, ob das in allen Ausschüssen so ist. Bei uns im Innenausschussist es so, dass dass, glaube ich, parallel immer nur sechs gleichzeitig verhandelt werden dürfen?
Arnika Zinke
Ich glaube, die Kapazität hätten wir gar nicht, sechs gleichzeitig zu verhandeln.Also ich glaube, daran scheitert es schon, aber normalerweise kann man die vorschlagenund das ist in der Menge begrenzt.Aber wir hatten zum Beispiel im Binnenmarktausschuss gegen Ende noch einen sehr erfolgreichen,Initiativbericht zu Addictive Design, also Abhängigkeit machendem Design,sein, hört sich in Deutsch nicht so gut an, wo wir das Feedback auch von derKommission bekommen haben, dass das eins der Top-Themen ist,an dem die jetzt auch für die nächste Legislaturperiode arbeiten.Also es kommt auch ein bisschen darauf an, in welcher, ob man quasi so ein bisschendas Gefühl hat, in die richtige Richtung quasi zu stechen mit dem Thema.
Ralf Bendrath
Also Initiativberichte sind so ein bisschen strikter reguliert.Die müssen von der Konferenz der Fraktionsvorsitzenden bewilligt werden.Wie gesagt, es darf nur sechs parallel laufen, zumindest in meinem Ausschuss.Andere Ausschüsse können aber noch eine Beteiligung einfordern und dazu nochOpinions machen, die dann irgendwie berücksichtigt werden müssen oder auch nicht.Das ist ein bisschen mühsam. In meinem Ausschuss ist es eher so,wenn wir irgendwie eine Stellungnahme raushauen wollen, dann machen wir eine Resolution.Die wird einfacher verhandelt, die muss nicht genehmigt werden.Da gibt es auch keine anderen Ausschüsse, die mit reinquatschen wollen.Und die wird dann quasi vom Liebeausschuss, also Civil Liberties,Justice, Non-Fers, direkt im Plenum getabelt. Und dann ist sie meistens nacheinem Monat schon durch.
Tim Pritlove
Verstehe. Es gibt also sozusagen auch noch kleinere Einheiten von Schlussfassungen.
Ralf Bendrath
Ich entdecke nach 15 Jahren hier immer noch Sachen in der Geschäftsordnung,die ich bisher noch nicht kannte.
Tim Pritlove
Na gut, aber wir wollen uns ja heute nicht so sehr mit der Bürokratie an sich beschäftigen,sondern mal konkret reinschauen, was derzeit denn eigentlich so alles in derPipeline ist, beziehungsweise jetzt gerade beschlossen worden ist oder unmittelbarvor dem Beschluss steht, unter anderem den AI-Act.Aber du, Ralf, hast ja noch ein paar andere Themen auch noch,die du mitgebracht hast.
Ralf Bendrath
Ja, das ist so ein bisschen eine Digitalwoche hier im Plenum gerade.Deswegen ist Annika ja auch gerade in Straßburg, weil gerade Plenarsitzung desEuropäischen Parlaments in Straßburg ist.Und zwei, was heißt kleinere, die nicht so viel Aufsehen erregt haben,Sachen sind mir hier noch aufgefallen.Das ist einmal die Produkthaftungsrichtlinie, die revidiert wurde und der Cyber Resilience Act.Und die führen beide Sachen ein, für die wir damals mit Jan-Philipp Albrechtnoch und so schon seit teilweise zehn Jahren gekämpft haben.Wo man also auch mal schön sehen kann, Politik ist manchmal echt das langsame Bohren dicker Bretter.Als wir damals angefangen haben, mit Jan-Philipp Albrecht uns um Produktsicherheit,also Quatsch, IT-Sicherheit mal zu kümmern, kam man ziemlich schnell drauf,auch natürlich durch Gespräche mit Linus und anderen vom CCC und so.Es gibt keine guten Anreizstrukturen bisher für die Hersteller,sich ernsthaft um IT-Sicherheit zu kümmern.Es gibt keine Produkthaftung für Software, es gibt keine Verpflichtung,Sicherheitsupdates zu liefern oder irgendwas.Software kommt immer mit dieser allgemeinen Terms of Service zum Anklicken,ich akzeptiere die Software so, wie sie ist.Und keiner ist verantwortlich. Das hat sich jetzt geändert, nach diesen zehnJahren oder wie lange da andere Leute schon drüber nachgedacht haben.Und das eine ist die Product Liability Directive, die Produkthaftungsrichtlinie,die gibt es schon ewig, die ist dieses Jahr 39 geworden,wurde 1999 mal kurz ein bisschen gänzt, um landwirtschaftliche und Fischereiprodukte mit abzudecken.Und sie sagt im Prinzip, wenn du ein schadhaftes Produkt verkaufst und Leutenehmen deswegen Schaden daran, das kann auch mentalen Schaden beinhalten,dann bist du verantwortlich undmusst dafür haften und im Zweifelsfall Schadensersatz und sowas zahlen.Und jetzt mit der neuen Revision, die gerade gestern angenommen wurde,ist endlich auch Produkthaftung für Software mit dabei.Das heißt, wenn du eine schadhafte Software in den Markt bringst,kommerziell, das ist immer nur kommerziell, dann bist du haftbar.Das heißt, damit hast du natürlich jetzt als Hersteller einen starken Anreiz,dich mal ernsthaft um IT-Sicherheit zu kümmern.Was wichtig ist, da gab es auch zwischendurch immer wieder mal Fragen aus der Community, die,Wenn du ein freier Softwareentwickler bist, der nur zu Hause so ein bisschenvor sich hin frickelt und das Zeugs irgendwo auf GitHub hochlädt oder so,aber das nicht geschäftlich macht, dann bist du nicht in der Verantwortung.Wenn jemand jetzt dein freies Softwaremodul nimmt und ein kommerzielles Produkteinbaut, dann ist der dafür verantwortlich und nicht du als Entwickler von demkleinen Open-Source-Software-Tool.Das war also ganz wichtig, das haben wir da auch gewonnen.Was sonst? Ja, ich glaube, das waren so die wesentlichen Elemente.
Thomas Lohninger
Ja, vielleicht bei dem Punkt. Das war auch etwas, das wirklich gerade bei derFree Software Foundation Europe ein riesiges Thema war.Also in der gesamten Community der freien und offenen Software hat man sichda große Sorgen gemacht rund um Cyber Resilience Act.Und es ist gut, wenn da jetzt eine Lösung gefunden wurde, die einfach gemeinwohlorientierte,nicht kommerzielle Produkte ausnimmt. Und ich frage mich dann immer so,wie stabil sind die Definitionen? Ist das wirklich gut abgegrenzt?Und de facto, was du damit natürlich dann auch hast, ist, dass die Person,die daraus ein Geschäft macht, auf einmal natürlich auch alle etwaige Haftungübernimmt und die nicht weitergeben kann an irgendwen.Was, glaube ich ja auch, wenn wir so beim ersten drüber nachdenken,eine brauchbare Lösung ist.Ein anderes Thema, was beim Cyber Resilience Act noch ganz… Thomas.
Ralf Bendrath
Wir waren noch bei der Produkthaftungsrichtlinie. Cyber Resilience Act habeich mir gar nicht vorgestellt. Aber es geht sehr ineinander über.
Thomas Lohninger
All the same.
Tim Pritlove
Also kurze Anmerkung dazu. Also diese Product Liability Directive,die gibt es ja im Prinzip schon.Die ist bloß 40 Jahre alt und seitdem nicht wirklich angefasst worden,wenn ich das richtig sehe.
Ralf Bendrath
Doch, es wurden 1999 landwirtschaftliche und Fischereiprodukte mit reingetan.
Tim Pritlove
Aha.Deine neue Kernkompetenz sozusagen.
Ralf Bendrath
Aber sonst nichts. Und jetzt diegroße Neuerung ist eben, dass jetzt auch digitale Produkte mit drin sind.
Tim Pritlove
Ah, okay. Und was heißt das dann konkret? Also ich meine, wenn ich jetzt sozusagenWindows benutze und dann mentalen Schaden davon trage, was ich durchaus fürwahrscheinlich halte, dann kann ich dann sozusagen Bill Gates anrufen und dermuss mir dann Rente zahlen.
Ralf Bendrath
Naja, wenn dann die entsprechenden Gerichte, wo das wahrscheinlich landen wird,entscheiden, dass das Produkt schadhaft war und du deswegen einen mentalen Schadendavon getragen hast, dann ja.
Tim Pritlove
Verstehe.
Ralf Bendrath
Halte ich aber den Fall eher für unwahrscheinlich. Es gibt sozusagen kaputteSoftware, die einfach Sicherheitslücken und ähnliches hat.
Tim Pritlove
Ja, und das heißt, hat das den Status einer Verordnung? Gilt das sozusagen unmittelbar dann?
Ralf Bendrath
Das ist eine Richtlinie, die muss durch nationales Recht umgesetzt werden.
Tim Pritlove
Okay, und das heißt, das kann auch noch ein bisschen dauern, sozusagen.
Ralf Bendrath
Ja, da fragst du mal die FDP, wie lange die wieder auf die Bremse treten will.Das ist ja hier inzwischen ein Running Gag, hätte, hätte Lieferkette.
Tim Pritlove
Ja, genau. Okay, gut, aber nehmen wir jetzt mal an, es sei im Sinne des Gesetzesin eine Richtlinie überführt worden bereits.Kannst du mal so einen typischen Fall aufmachen, den ihr sozusagen bei dem Designim Sinn hattet und wie sich das dann äußern könnte konkret?
Ralf Bendrath
Annika, hast du da mehr mit zu tun gehabt? Weil das ja euer Ausschuss war.
Arnika Zinke
Es war mein Ausschuss, aber es war mein Kollege, der daran gearbeitet hat.Aber es ist zum Beispiel jetzt nicht KI, nur um das ganz kurz zu sagen,weil für KI war eigentlich ein Schwestergesetz vorgesehen, nämlich die KI-Haftungsrichtlinie.Die steckt aber momentan im Justizausschuss fest, da ist der Berichterstatter Axel Voss.Also da gab es etwas Ungereimtheiten, was die Ausrichtung des Gesetzes betrifft.Aber ja, ich habe nicht in der plattbaren Produkthaftungsrichtlinie gearbeitet.
Ralf Bendrath
Ja, ich habe die jetzt auch nicht im Detail verfolgt. Ich habe vor allem dasBriefing von unserem Kollegen dazu gelesen.Also auch nicht den ganzen Gesetzestext. Aber so ein Beispiel,was ich mir jetzt da vorstellen würde, ist, wenn du dir einen Smart Thermostatkaufst für deine Heizung.
Tim Pritlove
Ja, habe ich gerade gemacht. Sehr gut. Viel Spaß.
Ralf Bendrath
Wer klemmt denn bitte sein Haus ans Internet?
Tim Pritlove
Dann mit dem Internet hat das einfach nichts zu tun.
Ralf Bendrath
Ach so, okay. Aber wenn das Ding sozusagen Internet-Konnektivität hat und sichda jemand reinhackt und irgendwie deine Heizung so hoch dreht,dass der Boiler kaputt geht oder sowas, dann wäre der Thermostat-Hersteller dafür haftbar.
Tim Pritlove
Wow.
Ralf Bendrath
Wenn sozusagen dem nachzuweisen ist, dass er hier ein schadhaftes Produkt auf den Markt gebracht hat.
Tim Pritlove
Aber mit dem Nachweis, das könnte natürlich dann nochmal so ein Ding werden.Das muss sich dann erst mal noch zeigen vor den Gerichten, was für Nachweisedort erbracht werden müssen.Oder gibt es dafür auch dann schon eine Maßgabe, wie das zu erfolgen hat?
Arnika Zinke
Es gibt bei bestimmten Fällen eine Umkehrung von der Beweislast.Die bestimmten Fälle müsste ich aber nachschauen. Aber es gibt Fälle,wo es für den Konsumenten sehr schwierig nachzuweisen ist, wo das umgekehrtwird und auch in Fällen, wo es eben besonders schwer der Schaden wäre.
Tim Pritlove
All right, gut. Dann können wir ja auf den Cyber Resilience Act kommen,Ralf. Was hat es denn damit auf sich?
Ralf Bendrath
Genau, das ist ein neues Gesetz. Das ist eine Verordnung, gilt also unmittelbar,nachdem sie jetzt veröffentlicht wird und dann in Kraft tritt.Und da geht es sozusagen nochmal härter wirklich in die Pflicht für Anbietervon elektronischen Endgeräten. Das kann auch Software beinhalten oder andere digitale Devices.Das ist so ein bisschen ähnlich aufgehängt wie das KI-Gesetz,der AI-Act im Rahmen dieses sogenannten New Legislative Framework,wo noch so ein ganzer Rattenschwarz von Marktaufsichtsbehörden dranhängt undso und am Ende das CE-Label rauskommt, was man so kennt als Label für Produktsicherheit in Europa. Ja.Die Hersteller von solchen Produkten,also das ist eine relativ allgemein gehaltene Regelung, Artikel 13,Obligations of Manufacturers, also Auflagen für Hersteller, die müssen sichan die essentiellen, ich weiß immer nicht, was du auf Deutsch hast,wir machen alles auf Englisch hier, Essential Requirements,essentielle Anforderungen, danke, in Annex 1 halten.Und Teil 1 von Antrag 1 ist über Cyber Security.Und da steht dann ganz klar drin, Produkte mit digitalen Elementen sollen designt,entwickelt und hergestellt werden, sodass sie ein angemessenes Level von Cybersicherheitbasierend der jeweiligen Risiken liefern.Und sie sollen zum Beispiel auf den Markt gebracht werden ohne bekannte Sicherheitslücken.Also versteckte Backdoors, die der Hersteller kennt, aber nicht angibt beimVerkauf, sind jetzt damit verboten offiziell.Sie müssen bei Default einer sicheren Konfiguration ausgeliefert werden.Sie müssen Sicherheitsupdates kriegen können. Sie müssen vor ungesichertem Zugriffgeschützt sein und wenn es einen Zugriff geben sollte, müssen Sie es berichten.Und jetzt steht sogar noch drin, Sie müssen die Vertraulichkeit von gespeicherteroder übertragener Daten,egal ob persönliche Daten oder andere, sicherstellen, unter anderem durch Verschlüsselung,Speicher und auch Transit. Ja.Und die Sicherheitsupdates müssen mindestens für fünf Jahre bereitgestellt werden.Außer das Produkt hat absehbar eine deutlich geringere Lebenszeit,dann reicht es auch kürzer.Aber mindestens sind erstmal normalerweise fünf Jahre müssen verpflichtendeSicherheitsupdates geliefert werden.
Tim Pritlove
Fünf Jahre ab was? Ab was gerechnet?
Ralf Bendrath
Ab Verkauf. Ab Verkauf. Verstehe ich zumindest so.
Thomas Lohninger
Also das ist wirklich so wie ein Mindesthaltbarkeitsdatum, nur diesmal wirklichfür Sicherheitsupdates. Genau.
Ralf Bendrath
Und die sagen auch ganz deutlich da, ich glaube in einem Erwägungsgrund,ich finde den Teil gerade jetzt nicht mehr sofort,wenn klar ist, dass das Gerät eine längere Lebenszeit hat, zum Beispiel Routeroder andere Sachen, die normalerweise länger laufen als fünf Jahre,dann müssen die Sicherheitsupdates auch jetzt für die erwartbare Lebenszeit geliefert werden.Was da jetzt noch nicht drin ist, das hatten wir mit Linus damals mal diskutiertbei einer Anhörung unserer Fraktion zur IoT-Sicherheit, kurz nach dem WannaCry-Unglück.Was passiert, wenn diese Lebenszeit erreicht ist, End of Life,und die keine Sicherheitsupdates mehr liefern? Wann müssen sie dann sozusagendem Nutzer es ermöglichen, das Produkt selber up-to-date, wenn zum Beispieldie Software unter freie Lizenzen gestellt werden muss oder so. Das ist hier noch offen.Das ist nicht geklärt. Du hast einfach nur jetzt mindestens fünf Jahre die Updates.Wenn das Produkt absehbar länger hält, dann auch noch länger.Ja, und danach kannst du es dann wegschmeißen oder auf eigenes Risiko weiter benutzen.Aber das ist wirklich ein ziemlicher Durchbruch, finde ich. Das muss man echt mal anerkennen.
Tim Pritlove
Das würde ich auch meinen.
Arnika Zinke
Es war tatsächlich ein Änderungsantrag im Binnenmarktausschuss,das unter einer freien Lizenz zu veröffentlichen, wenn es nicht mehr am Marktist. Leider hat es keine Mehrheit bekommen.
Thomas Lohninger
Ja, solche Sachen werden nie verstanden. Aber jetzt mal praktisch gefragt,wenn du sagst Mindeststandards bei IT-Sicherheit, so peinliche Dinge wie ungehäschtePasswörter, das dürfte es dann nicht mehr geben, oder?
Ralf Bendrath
Nee. Nee.
Thomas Lohninger
Und etwas, an das ich mich auch noch erinnere, wir haben am Anfang an dem Gesetz gearbeitet,da gab es ja auch diese Meldung von Sicherheitslücken, wenn ein Hersteller jetzt etwas findet,eine Lücke in der eigenen Software oder in den eigenen Geräten,dass diese Lücken dann auch an staatlichen Stellen unmittelbar gemeldet werdenmüssen, auch noch bevor die Sicherheitslücke behoben wurde.Wo es dann ja auch die Sorge gab, dass dieses Wissen um etwaige Einfallstoredann von staatlichen Stellen vielleicht sogar auch missbraucht würde für zumBeispiel Staatstreuer.
Ralf Bendrath
Ja, ich habe den Text jetzt nicht vor mir, aber wie ich den Briefing vom KollegenChristian entnehme, gibt es jetzt anscheinend eine neue Stelle bei der EU-IT-SicherheitsagenturEnisa, die genau diese Sicherheitslücken bekommen soll.
Thomas Lohninger
Ja, das war nämlich wirklich ein bisschen problematisch, weil damit natürlich,wenn du konkret den Weg, wie deine Software aufgemacht werden kann,sofort melden musst, noch bevor du es geschlossen hast.Also das widerstößt dann ein bisschen gegen, Sponsor-Predisclosure ist das jetztnicht, aber es öffnet gewisse Gefahren.
Ralf Bendrath
Okay, ob man die bevor man es gepatcht hat schon melden muss,weiß ich jetzt nicht. Das müsste man im Detail nochmal nachgucken.Das habe ich jetzt nicht vor mir.
Thomas Lohninger
Das war zumindest früher mal ein Problem. Ab wann gelten denn diese Gesetze?
Ralf Bendrath
Der Cyber Resilience Act, wie gesagt, ist eine Verordnung, die gilt unmittelbar.Die ist jetzt quasi heute, gestern angenommen worden im Plenum.Das muss jetzt der Rat formal noch annehmen, weil wir noch im ersten Lesungsverfahren sind.Dann wird es im Amtsblatt der EU veröffentlicht. Und dann weiß ich nicht,ob es irgendwelche Übergangsfristen gibt oder ob das dann sofort gilt.Steht jetzt hier nicht im Briefing drin.
Arnika Zinke
Also meines Wissens nach gibt es relativ lange Übergangsfristen.Also zumindest nachdem es aus dem Parlament kam, haben wir sehr große Problemegehabt, die Fristen nicht allzu lange zu haben.
Tim Pritlove
Also ein paar Jahre, oder was muss man sich da jetzt vorstellen?
Arnika Zinke
Ja, genau, ein paar Jahre.
Tim Pritlove
Okay, das tropft also so langsam rein.
Ralf Bendrath
Okay, ich sehe gerade Artikel 14, Reporting Obligations of Manufacturers.Da geht es offenbar nur um Verwundbarkeiten, die aktuell aktiv ausgenutzt werden.Wenn also gerade irgendwie Angriffe laufen, dass dann die nationalen C-Cert-Koordinatorenund Enisa benachrichtigt werden sollen, damit die Schritte ergreifen können.Wenn gerade ein Angriff läuft, macht das ja auch Sinn.Aber darüber hinaus sehe ich jetzt keine Verpflichtungen.
Tim Pritlove
Zumindest gibt es jetzt erstmal nicht mehr das Admin-Admin-Standardpasswortbei irgendwelchen Routern.Das ist schon mal wichtig, dass mal überhaupt so eine Linie da gezogen wird mit so Leuten.Also wenn ihr hier irgendwie mitspielen wollt, dann ist einfach mal ein gewissesMinimum jetzt auch definiert und nicht nur so der Markt macht das schon.Und ich denke, das ist dann doch schon ein wichtiger Schritt nach vorne.
Thomas Lohninger
Ja, und vor allem auch, Ralf hat ja schon die Analogie mit dem CE-Label genannt.Genauso wie man sich darauf verlassen muss, dass ein Gerät, das an Strom hängt,nicht zum Rauchen anfängt und explodiert, es hat auch bei der Netzwerkverbindungein gewisses Mindestmaß an Sorgfalt einfach geboten.Also ob dieses Gesetz wirklich in allem perfekt ist, wird man sehen,aber die Richtung ist da schon die richtige, glaube ich.
Ralf Bendrath
Und hier gab es natürlich auch wieder die Frage, was ist mit Open Source?Der gleiche Ansatz wieder bei der Produkthaftungsrichtlinie.Wenn man Software nicht kommerziell auf den Markt bringt, ist man raus.Also der kleine Open-Source-Entwickler, der irgendwelche Tools baut,die dann andere kommerzielle Hersteller nehmen, der ist raus und die kommerziellenHersteller sind in der Pflicht.Und die müssen dann sozusagen auch für die Sicherheitsupdates sorgen,nicht der kleine Bastler in der Kellerwerkstatt oder so.
Tim Pritlove
Aber was definiert denn dann kommerziell? Also es gibt ja auch oft so Leute,die Open Source machen und dann quasi selber kommerziell sind,weil sie dann Beratungen dafür machen.Damit wären sie ja sozusagen im kommerziellen Spiel.
Thomas Lohninger
Oder um Spenden bitten für ihre Software.
Tim Pritlove
Graubereich.
Ralf Bendrath
Puh, das weiß ich nicht. Annika, das ist wahrscheinlich in deinem Ausschussschon besser ausdiskutiert. Das wüsste ich jetzt nicht. Gibt es bestimmt irgendwoschon Standarddefinitionen?
Arnika Zinke
Es gab dazu lange, ich weiß, es gab dazu sehr lange Diskussionen,gab auch beim Cyber Veselians Act und auch gerade was Spenden betrifft,vor allem Spenden, die immer wieder über einen längeren Zeitraum passieren,auch von größeren Entitäten.Ich weiß jetzt aber auch nicht, was genau das Endresultat war,weil wir natürlich, wenn es noch im Parlament ist, relativ viel eingebunden sind.Aber wenn das dann final in den Trilog geht, vor allem war das auch zu einerZeit, wo das KI-Gesetz gerade im Trilog war, Da sind wir dann auch als nichtfederführende Ausschüsse ein bisschen raus.Aber an sich wurde sich jetzt auf eine Definition geeinigt, mit der meines Wissensdie Open-Source-Community recht zufrieden ist und die jetzt eigentlich auchin den meisten neuen Digitalgesetzen verwendet worden ist, wo relativ klar ist,was ist wirklich auf den Markt bringen und was ist, wenn man es nur eben zumBeispiel bei GitHub hochlädt.
Ralf Bendrath
Ich habe hier gerade herausgefunden, Erwägungsgrund 15, da steht was drin,die, ich muss jetzt sozusagen live vom Englischen ins Deutsche übersetzen,die Lieferung im Kurs einer kommerziellen Aktivität kann charakterisiert werden,nicht nur indem ein Preis für ein Produkt mit digitalen Elementen verlangt wird, sondern auch,wenn man einen Preis verlangt für technische Unterstützungsdienste.
Tim Pritlove
Das würde das dann mit einschließen.
Ralf Bendrath
Well, this does not serve only the recuperation of actual costs.
Thomas Lohninger
In einer der letzten Folgen haben wir Gesetze durch JGPT analysieren lassen.Diesmal lassen wir sie durch die Verhandler selbst interpretieren. Ein Fortschritt.Aber das ist auch passend irgendwie zu dem nächsten Gesetz, das wir noch kurzansprechen wollten, Ralf.Das ist auch etwas, was du uns mitgebracht hast. Das hat ja fast schon irgendwieden guten Nachrichtsjingel verdient.
Ralf Bendrath
Die Plattform-Workers, ne?
Thomas Lohninger
Ja, genau.
Ralf Bendrath
Genau. Es gibt jetzt auch seit dieser Woche eine Plattform, die wurde nichtim Plenum abgestimmt, sondern die war schon im Februar ausverhandelt und warbisher aber im Rat blockiert.Und gerade jetzt vorgestern am Montag hat wieder der Ministerrat für Beschäftigung,Soziales, Gesundheit und Verbraucherschutz getagt.Und da gab es bisher eine Sperrminorität, bestehend aus Estland,Griechenland, Frankreich und Deutschland, mal wieder die FDP.Und Estland und Griechenland haben jetzt sich von der Enthaltung zu einem Vote,zu einer Abstimmung dafür durchgerungen.Deswegen gab es jetzt nur noch mit Frankreich und Deutschland alleine keine Sperrminorität mehr.Und deswegen kommt jetzt die Platform Workers Directive,die erstmals sozusagen die Arbeitsbedingungen regelt für Leute,die über Plattformen, was weiß ich, wie Uber Eats oder Deliveroo oder sowasarbeiten, aber auch zum Beispiel Mechanical Turk von Amazon oder so Zeug.Weil da bisher immer noch ganz oft unklar war, sind das Angestellte,sind das Freelancer, welche Rechte haben die gegenüber dem Quote-unquote Arbeitgeber und so.Und diese Plattform Worker's Direct, soweit ich es verstanden habe,wie gesagt, das war Beschäftigungsausschuss, ich habe es auch nur von der Seitemitverfolgt, die macht jetzt vor allem zwei Sachen, die...Sagt eben, dass sozusagen erst mal die Annahme gilt, wenn man so ein Plattform-Workerist, ist man Angestellter.Und die Beweislast, dass das nicht der Fall ist, hat der Arbeitgeber sozusagen oder die Plattform.Das heißt, damit gelten dann die ganzen Rechte als Arbeitgeber wie Recht aufbezahlten Urlaub, Recht auf Streik und alles mögliche andere,Krankengeld und so weiter.Und wie gesagt, wenn die Plattform meint, nee, aber in dem Fall ist das dochganz klar nur ein Freelancer, der macht nur ab und zu mal hier was,wenn er Bock drauf hat, dann muss sie das eben nachweisen.Und dann ist sie raus aus den Arbeitgeberverpflichtungen.Und das Zweite ist, dass es jetzt zum ersten Mal Regeln gibt für algorithmischesManagement von Arbeitern oder Arbeitenden.Das heißt, wenn man ernsthafte Entscheidungen trifft über so einen Plattformarbeiteroder eine Arbeiterin, zum Beispiel Beendigung des Vertrages oder so,das darf auf keinen Fall von einem Algorithmus gemacht werden,das muss immer ein Mensch entscheiden.
Tim Pritlove
Gilt denn, also für welche Unternehmen gilt denn das und für welche Mitarbeiter gilt denn das?Also inwiefern ist jetzt die Zugehörigkeit oder der Aufenthalt in Europa daentscheidend oder gilt das dann irgendwie weltweit oder wie ist das gedacht?
Ralf Bendrath
Das gilt immer nur für Europa. Europäische Gesetz gilt nur in Europa.
Tim Pritlove
Klar, aber gilt es auch für einen indischen Plattformarbeiter,für eine Firma, die in Europa ist?
Ralf Bendrath
Gute Frage. Kann ich jetzt so nicht beantworten. Wie gesagt,das habe ich selber nicht verhandelt.
Tim Pritlove
Und gilt es für einen deutschen Mitarbeiter einer indischen Firma zum Beispieloder einer amerikanischen?Also das ist so das, was ich mich frage. Was ist jetzt da sozusagen, wen betrifft das quasi?Und wann ist man dadurch geschützt?Weil so viele Plattformen haben wir ja nicht in Europa.
Ralf Bendrath
Muss ich mal kurz gucken, ob das von der Kollegin hier im Briefing irgendwieabgedeckt ist, sonst wüsste ich es nicht.
Thomas Lohninger
Also es ist ganz oft so bei diesen grenzüberschreitenden Arbeitsverhältnissen,dass es sehr schnell sehr kompliziert wird, auch innerhalb der EU.Da gibt es auch recht komplizierte Regelwerke, so Stichwort Entsenderichtlinie.Aber wovon man auf jeden Fall ausgehen kann,ist, dass die klassischen Essensauslieferer, Leute, die in der Servicebrancheüber Plattformen beschäftigt sind,alles, was eben über die klassischen Apps bezogene Arbeitsleistung ist, mehr oder weniger,hier auf jeden Fall davon enthalten ist.Und die Gewerkschaften jubeln hier auf jeden Fall.Man sollte anmerken, dass schon vor dem Konflikt, den Ralf gerade genannt hat,es hier eine Abschwächung gab zwischen dem, was das Parlament verabschiedet hat.Da hätte es so einheitliche Kriterien gegeben, ab wann du denn jetzt wirklichangenommener fixer Angestellter von dieser Plattform bist. ist.Und diese Kriterien gibt es jetzt aber leider nicht mehr. Nur noch Prinzipien,aber da gibt es dann Umsetzung, Spielraum.Das hier ist ja eine Richtlinie, die muss erst in nationales Recht überführt werden.Und das wird zu einem Fleckerteppich führen, wo einfach in unterschiedlichenLändern unterschiedliche Kriterien gelten.Und das ist für das Land kann das immer noch gut sein, wenn man jetzt hier esschafft, Druck zu machen.Aber es gibt kein europaeinheitliches Niveau, ab wann der Uber-Treiber,der Uber-Fahrer könnte jetzt zum Beispiel in Deutschland Status A haben undin Österreich Status B zum Beispiel.
Ralf Bendrath
Es gibt sogar, habe ich jetzt gelernt, keine einheitliche Definition von wasWork, also Arbeit, eigentlich genau bedeutet, weil das anscheinend EU-weit bishernicht harmonisiert ist und die Mitgliedstaaten wohl darauf bestanden haben,dass Arbeitsrecht und sowas weiterhin nationale Kompetenz ist.
Tim Pritlove
Das könnte die Sache ein bisschen schwierig machen, oder?
Ralf Bendrath
Ja, wie Thomas sagt, das wird einen Flickenteppich geben, aber besser so einFlickenteppich als gar keine Rechte für die Plattformarbeiter, ganz klar.Was ich gerade noch gesehen habe hier im Briefing der Kollegin ist,dass die Plattformen auch jetzt Kommunikationskanäle bereitstellen müssen,damit die Plattformarbeitenden untereinander kommunizieren können,zum Beispiel um Betriebsräte zu gründen oder sowas.
Tim Pritlove
Ah ja. Okay, aber das sind so einfach mal so die typischen Tages,weil das erste Beispiel mit diesem Mechanical Turk, da denkt man ja dann gleichirgendwie Amazon und Ausland und so.
Ralf Bendrath
Aber… Amazon hat eine Niederlassung in Europa.
Tim Pritlove
Ja klar, aber diese Mechanical Turks sind ja sozusagen traditionell sehr weitüber den Planeten verstreut gewesen,aber es ist natürlich klar, dass jetzt vor allem so Lieferdienste,was Thomas schon sagte oder eben sowas wie Uber,davon dann vermutlich auch betroffen sein wird.Nur, dass man es mal zuordnen kann, was davon wirklich dann tangiert ist.Weil Plattform ist ja dann ein dehnbarer Begriff.
Thomas Lohninger
Was mal konkret, ist Onlyfans davon betroffen?
Tim Pritlove
Du hast Sorgen.
Thomas Lohninger
Sag ja nur.
Ralf Bendrath
Vermutlich schon. Ich meine, Sexarbeit ist auch Arbeit.
Tim Pritlove
Ja, stimmt. Sind die da nicht alle selbstständig?
Thomas Lohninger
Was man vielleicht einfach noch vermelden sollte oder dazu sagen ist,dass das auf jeden Fall ein Schritt in die richtige Richtung ist.Und ich glaube auch, dass da die Gewerkschaften schon einen wichtigen Schritt tun,weil gerade freie DienstnehmerInnen oder Selbstständige waren ja oft auch beiden klassischen Arbeitsrechten diejenigen, die durch die Finger geschaut habenund nicht mal repräsentiert wurden.Und denen einfach hier zu einem besseren Status zu verhelfen, ist auf jeden Fall gut.Und Und zuletzt nochmal jetzt dadurch, dass das auf diese Art jetzt irgendwiedurchgegangen ist, es zeigt auch irgendwie schön, dass die Achse Deutschland-Frankreichalleine dann doch nicht verhindern kann.Und dass sich alle anderen Staaten hier schon darauf einigen konnten.Also da kann man den Liberalen wahrscheinlich danken, die in Deutschland die.Zustimmung verhindern und in Frankreich ja an der Regierung sind.
Ralf Bendrath
Ja, aber das kann man vielleicht nochmal kurz ein bisschen vertiefen,Weil das ist echt ein Problem inzwischen mit diesem sogenannten German Vote,was in Brüssel hier inzwischen alle kennen.Und das ist einfach ein Fehler im Koalitionsvertrag in Berlin.Das gibt es ja oft auch in Landesregierungen oder Landeskoalitionsverträgen,dass da drin steht, wenn die Regierungsparteien sich nicht einigen können aufirgendeine Sache, enthalten sie sich im Bundesrat.So, im Bundesrat reicht aber normalerweise eine einfache Mehrheit,um ein Gesetz zu beschließen.Rat der Minister der Europäischen Union brauchst du eine qualifizierte Mehrheit.Da brauchst du irgendwie 72 Prozent der Mitgliedstaaten und die 65 Prozent dereuropäischen Bevölkerung repräsentieren. Ich glaube, so in der Größenordnung.Und das heißt aber dann, eine Enthaltung ist dann genauso scheiße wie ein Dagegenstimmen,weil einfach diese qualifizierte Mehrheit nicht zustande kommt.Das heißt also, wenn die FDP als kleinster 4-Prozent-Koalitionspartner in Berlinsagt, wir sind dagegen, dann muss die Regierung sich enthalten,laut Koalitionsvertrag, und arbeite dann aber aktiv gegen so ein Gesetz undenthält sich nicht nur einfach so, ne?
Tim Pritlove
Das nennt man German Vote?
Ralf Bendrath
Ja, weil das einfach jetzt in ganz vielen Gesetzen passiert,dass die Deutschen sich enthalten und damit dazu beitragen, dass vielleichteine qualifizierte Mehrheit nicht zustande kommt, weil die FDP dagegen ist.Hätte, hätte, Lieferkette.
Tim Pritlove
Und das ist sozusagen ein Konstruktionsfehler im Koalitionsvertrag,dass man es für Europa nicht anders geregelt hat.
Ralf Bendrath
Genau. Und das ist auch ein Konstruktionsfehler im Bundeskanzleramt, würde ich mal sagen.Also unter Merkel wäre das nicht so durchgegangen, weil das einfach massiv diedeutsche Rolle auch in der Europäischen Union untergräbt.Also Deutschland, auch bis zu Merkel und so, war immer eigentlich dafür bekannt,dass man versucht hat, einen Ausgleich zu finden zwischen den Mitgliedstaaten,dass man nicht so selber mit dicken, ausgefahrenen Ellenbogen in den Verhandlungenreingegangen ist und einfach versucht hat, den Laden zusammenzuhalten.Idealerweise gemeinsam mit Frankreich. Und wenn jetzt dank der FDP die Deutschenda immer so rumpoltern müssen und immer sagen,wir sind aber dagegen de facto und im Zweifelsfall so ein Gesetz blockieren,weil dann kommen natürlich viele kleinere Mitgliedstaaten auch oder auch Frankreichdann, die sich hinter Deutschland dann verstecken.Und das ist einfach echt ziemlich bitter.Und wie gesagt, in Brüssel schon bekannt als The German Vote.
Tim Pritlove
Annika, du hast da noch was zu sagen?
Arnika Zinke
Nein, ich wollte nur sagen, dass genau wie Ralf das angesprochen hatte,wenn natürlich Deutschland und Frankreich beide sagen, sie sind dagegen odereiner enthält sich, der andere ist dagegen, dann kreiert das einen Effekt auchbei den anderen Mitgliedstaaten.Das heißt, die überlegen sich dann schon, vielleicht sollten wir doch dagegenstimmen oder schauen wir uns das nochmal genauer an, warum denn die zwei Großen da dagegen stimmen.Und wir hatten das Problem auch in dem KI-Gesetz letztlich, dass wegen Deutschlandund wegen der FDP das Gesetz und die Abstimmung im Rat auf der Kippe gestanden sind.
Ralf Bendrath
Wegen Deutschland und Frankreich.
Thomas Lohninger
Ja, zitiere ich dann nochmal den griechischen Arbeitsminister von den Konservativen.Da wir im Geist von Kompromiss und europäischer Einheit arbeiten wollen,werden wir die Richtlinie unterstützen. Sehr schön.Und ja, das obliegt dann wirklich den Regierungen oder eben den Koalitionsabkommen,wie das genau gehandhabt wird. In Österreich ist es zum Beispiel in der aktuellenRegierung so, dass man sich da bewusst nicht abstimmt.Also hat man auch wegen Klimaschutz gemacht, dass da sozusagen die grüne Klimaministerinsich austoben kann, ohne dass hier irgendjemand reinredet, was die Ratspositionen betrifft.Ist dann aber zum Beispiel bei Überwachungsthemen unter Umständen sehr negativ,wenn du keinen Ausgleich hast und das dann der konservative Innenminister selberalles entscheiden kann. Aber ja, das ist Europa.
Ralf Bendrath
In Deutschland ist es so, die SPD-Innenministerin entscheidet das Asylpaketmit und die Grünen schlucken es.Naja, anderes Thema.
Tim Pritlove
Okay, aber soviel jetzt zur Platform Workers Directive. Jetzt gibt es demnächstPorno-Betriebsräte, das ist doch super.So, ein weiteres Thema noch vor dem AI-Act hast du noch für uns,nämlich die Health-Plattform, nein, wie heißt es, Entschuldigung.
Thomas Lohninger
European Health Data Space.
Tim Pritlove
Der European Health Data Space, korrekt.
Thomas Lohninger
Genau, das hast du verhandelt. Also, worum geht es dabei? Ich glaube,das hatten wir in Ansätzen, aber give us the primal.
Ralf Bendrath
Ja, das ist auch wieder ein Gesetzesvorschlag,der in zwei Ausschüssen gleichberechtigt verhandelt wird.In meinem Ausschuss Liebe, also Civil Liberties, Justice and Home Affairs,wegen der Datenschutzkomponente und Gesundheit- und Umweltausschuss wegen Gesundheit, Gesundheitsdaten.Und das ist kurz vorm Abschluss. Morgen Nacht soll der letzte Trilog,also die letzte Verhandlungsrunde zwischen Rat, Parlament und Kommission stattfinden.Das Ding hat im Prinzip zwei Elemente. Ist natürlich viel komplizierter,aber hat im Prinzip zwei Elemente. Das eine ist Regeln für primäre Nutzung vonGesundheitsdaten und das andere ist für sekundäre Nutzung.Primäre Nutzung heißt, wenn mein Arzt meine Patientenakte Akte irgendwie lokalauf dem Rechner schon elektronisch vorhält,dann soll er oder sie die in der Regel auch vernetzt bereitstellen,damit wenn ich dann zu einem anderen Arzt gehe oder zu einer anderen Ärztinoder ins Krankenhaus oder so, die auch Zugriff auf die gesamte Akte haben unddas eben besser nutzen können, um mich besser zu behandeln, weil die dann auchVorerkrankungen und vorherige Behandlungen und sowas direkt sehen können.Macht irgendwie Sinn, das gibt es hier zum Beispiel in Belgien auch.Da Da sind viele Leute auch ganz glücklich drüber. Da kann man auch selber mitder App auf dem Smartphone irgendwiegucken, was ist eigentlich gerade in meiner Patientenakte so los?Dann kann ich die Sachen auch selber mal rauspulen und angucken und so.Da war lange der Streit, braucht es dazu ein Opt-in? Also müssen die Leute einwilligen,damit es elektronisch vernetzt verfügbar gemacht wird?Oder ist es generell bei Default so und man soll vielleicht nur widersprechen können?In Deutschland ist, glaube ich, aktuell der Stand, dass es immer noch ein Opt-inist, aber das soll jetzt umgestellt werden auf Opt-out unter lauter Wacht,damit mehr Leute die elektronische Patientenakte nutzen.Und das Gesundheitswesen sozusagen effektiver ist. Das Ergebnis hier ist imPrinzip das gleiche. Es bleibt erstmal so vorgesehen, dass es per Default ineine vernetzte elektronische Gesundheitsakte kommt.Die Mitgliedstaaten können dann selber aber noch entscheiden,ob sie ein Opt-out ermöglichen wollen oder nicht.So, das ist eigentlich noch relativ unproblematisch. Da gab es dann so ein bisschenMissverständnisse in den Verhandlungen, weil die Leute, die Belgier hier vonder Ratspräsidentschaft, haben erst gedacht, wenn man da widerspricht,heißt das, dass der Arzt gar nicht mehr meine Akten elektronisch führen kann,sondern wieder auf Papier zurück muss.Das war natürlich dann so, nee, Quatsch. Natürlich kann der Arzt seinen lokalenRechner haben. Wir sind 2024 heutzutage.Nur die sollen nicht vernetzt sein.Wenn man als Patient vielleicht besondere Sicherheitsbedürfnisse hat,weil man auch mal eine psychologische Behandlung hatte oder andere Sachen odereine Abtreibung oder so, will man einfach, dass das nur beim Arzt in der Praxisliegt und nicht vernetzt ist.Nicht irgendwie vielleicht auch sogar Angreifer da rangehen können oder so mitIT-Sicherheitslücken. Obwohl, die sind ja jetzt alle weg mit dem Cyber-Resilienz-Experiment.
Tim Pritlove
Gott sei Dank.
Ralf Bendrath
So, das ist das erste, primäre Nutzung.Das zweite ist die sekundäre Nutzung und das ist für uns das Riesenproblem,weil es gibt eigentlich jetzt seit über 2400 Jahren den hypokratischen Eid,den Ärzte ablegen müssen und der beinhaltet unter anderem die ärztliche Schweigepflichtoder das Patientengeheimnis.Dass einfach das, was ich mit meinem Arzt bespreche, zwischen uns bleibt undich darauf vertrauen kann.Was jetzt hier vorgesehen ist, ist, dass die Gesundheitsdaten,sofern sie vernetzt verfügbar sind, auch für andere Zwecke genutzt werden können.Das geht dann vor allem um Forschung. Natürlich Big Pharma hat da auch ein Rieseninteressedran, aber auch öffentliches Gesundheitsmanagement, zum Beispiel in Zeiten vonPandemien, Infektionstracing, solche Geschichten, was ja teilweise die Gesundheitsämterauch heute schon machen.Es gibt ja Sachen, wo die ärztliche Schweigepflicht unterbunden wird durch Gesetz,bei meldepflichtigen Krankheiten und so, wie es zum Beispiel Corona auch war.Und da war jetzt aber die Riesenfrage bis zum Schluss oder ist immer noch,das Parlament wollte hier aber dann mindestens sagen, dann sollen die Leuteaber zumindest ein Widerspruchsrecht haben.Dass ich sagen kann, meine Patientendaten sollen bitte für Forschung oder sonicht bereitgestellt werden.Die Mitgliedstaaten haben jetzt, die belgische Ratspräsidentschaft hat wirklichversucht, das irgendwie zu berücksichtigen.Das war für das Parlament sozusagen die eine große rote Linie die ganze Zeit.Wir haben ganz viele andere kleinere Sachen aufgegeben, um dieses Opt-out zukriegen für sekundäre Nutzung.Aber die Mitgliedstaaten stellen sich jetzt auf stur und sagen,nö, wir wollen einfach alle Daten und man kann gerne ein Opt-out machen,aber dann gibt es für die Mitgliedstaaten dann das Recht, wieder das Opt-out zu überschreiben.Also das gilt dann einfach nicht. Und das sind dann auch für Zwecke,wo ich mich frage, braucht es dazu wirklich immer alle Daten?Unter anderem für öffentliche Institutionen, die ein Mandat im Bereich der öffentlichenGesundheit haben oder sogar private Institutionen, die eine Aufgabe im Bereichder öffentlichen Gesundheit haben.Gut, da könnte man vielleicht noch drüber streiten, ob man das ein bisschenenger fasst und dann ist es vielleicht noch akzeptabel.Der Parlamentsvorschlag war jetzt, dass man das nur in Situationen von öffentlichermedizinischer Notlage oder Notlage der öffentlichen Gesundheit machen kann.So eine ähnliche Regelung haben wir schon im Data Act zum Beispiel.Dann wollen sie aber auch noch alle möglichen Research, medizinische Produktentwicklungmedizinische Geräteentwicklung also die haben sie bisher auch so entwickelnkönnen ohne dass man von allen Patienten die Daten abgegriffen hat und das letzte ist auch Statistiken.Nationale, multinationale und EU-Level offizielle Statistiken ich meine Statistikerkönnen seit über 100 Jahren mit unvollständigen Datensätzen umgehen,das ist deren Job da dann irgendwie die Bias so rauszurechnen,Ja, so sieht es aus. Das ist das letzte Angebot, was die Kommission jetzt aufden Tisch vorgelegt hat als Quote-Unquote-Kompromiss.Das geht morgen Abend in den letzten Trilog. Heute war nochmal ein Treffen derSchattenberichterstatter vom Parlament von den verschiedenen Fraktionen.Und es sieht so aus, dass die Mehrheit, zumindest eine Mehrheit aus EVP,EKR, also die europakritischeren Konservativen und Sozialdemokraten,das so akzeptieren will.Und im Prinzip alles aufgibt, was wir die ganze Zeit gesagt haben.Hier, wir geben euch die ganzen anderen Sachen nur, wenn wir dieses eine Opt-outkriegen, aber dann auch richtig.Und am Ende werden wohl nur die Grünen und die Linken dagegen stimmen.ID ist noch ein bisschen unklar. Die würden normalerweise als gute Populistenauch irgendwie auf den Zug aufspringen und sagen, da sind wir dagegen.Wir verkaufen nicht unsere Gesundheitsdaten an Big Pharma.Aber die haben zufälligerweise die Berichterstatterin, Liebe Ausschuss,weil das sonst niemand wollte.Und das ist per Dehont bei denen gelandet. Und da sehe ich jetzt nicht,dass die da großen Rückzieher macht, wenn sie selber Co-Berichterstatterin ist. ist.Aber verhandelt wurde es im Prinzip alles von dem EVP Berichterstatter im Umwelt-und Gesundheitsausschuss.Ja, das ist das. Morgen Abend geht das den Bach runter.
Thomas Lohninger
Ja, noch nicht. Also gibt man einen Brief, aber ich wiederhole jetzt nochmal oder fasse zusammen.Also wir haben ein EU-Gesetz, das die Digitalisierung von allen Patientinnenaktenund wahrscheinlich auch sonstigen.Gesundheitsbezogenen Daten aus dem in Krankenhäusern, Arztpraxen und sonstigenEinrichtungen miteinander vernetzt.Opt-out oder Opt-in kann es geben, wenn der Mitgliedstaat das vorsieht für diese Primärnutzung.Aber bei der Sekundärnutzung, die eigentlich ja die kritischere ist,weil da geht es nicht nur um das Gesundheitssystem, sondern da geht es um Forschung.Und das heißt auch pharmakologische Forschung. Das heißt auch,dass hier ganz viele andere Interessenträger auf einmal Zugriff auf sehr sensible Daten bekommen.Wir haben auch schon mehrmals diskutiert, dass solche Gesundheitsdaten sehrschwer bis gar nicht zu anonymisieren sind, weil das ist einfach sehr einzigartig bei Menschen.Wenn ich als Arbeitgeber weiß, wenn du im Krankenstand bist,wenn du geimpft wurdest oder du das auf Social Media postest,finde ich dich wieder in diesen Datensets.Es gibt dazu auch eine Klage meines Wissens von der GFF,die da auch in Deutschland höchstgerichtlich dagegen vorgehen,gegen diese Sekundärnutzung anhand von einem Menschen, der halt sehr einzigartigeBlutwerte oder sonstige Werte hat und da auch sehr leicht zu reidentifizieren ist.Das halte ich für eine ganz große Gefahr. Das ist vielleicht auch nochmal zusagen, das hier ist so eine sogenannte Lex Spezialis zur DSGVO, oder?Das etabliert eine Ausnahme von unserem Grundrecht auf Datenschutz für diesen eigenen Bereich hier.Und ich meine...Also morgen wird das sozusagen, kannst du da vielleicht auch mal aus dem Nähkästchenplaudern, wie läuft denn sowas ab, so eine Trilog-Sitzung, also wie viele Leutesind da im Raum, wie lange wird da verhandelt, was erwartet dich da morgen?
Ralf Bendrath
Morgen könnte es relativ schnell gehen. Also der letzte Trilog letzten Donnerstagabend,der hat um 18 Uhr angefangen, war ungefähr morgens um fünf zu Ende ohne Ergebnis,weil das Parlament da noch die Linie gehalten hat.Und jetzt haben aber alle Fraktionen intern nochmal geguckt,sind wir noch ein bisschen flexibler oder so. Die Mitgliedstaaten dagegen haben nicht geguckt.Es gab heute noch mal Sitzung der Botschafter.Da war das Thema gar nicht auf der Tagesordnung.Also die Belgier haben gar nicht erst versucht, noch mehr Flexibilität für sichselber zu kriegen, sondern haben nur gesagt, hier, liebes Parlament,wenn ihr noch mal flexibler werdet, dann können wir es nächste Woche noch mal versuchen.Weil morgen ist sozusagen die letzte Deadline, um vor der Europawahl noch ein Gesetz abzuschließen.Weil das dann alles noch irgendwie sprachlich aufgeräumt werden und noch abgestimmtwerden muss und so weiter.Also morgen kann es relativ schnell gehen. Da sitzt dann normalerweise der belgischeMinister, Gesundheitsminister, die Berichterstatter vom Parlament,vielleicht noch ein Vorsitzender oder Vize-Vorsitzender vom Umweltausschuss.Der Vorsitzende vom Innenausschuss kommt zu solchen Verhandlungen nie,obwohl das könnte. Das ist aber ganz gut so, weil der ist immer so ein bisschen verwirrt.Der könnte da nur Unsinn reinbringen. Und dann sitzen da halt noch die Kommission,das ist dann wahrscheinlich die Kommissarin,Kiria Kiedis, die Gesundheitskommissarin, und alle Fraktionen,manche mit Abgeordneten richtig vertreten, viele aber, weil jetzt gerade Straßburg-Wochewar und die schon längst ihre Flüge nach Hause gebucht hatten in die ganzenMitgliedstaaten und so, die werden jetzt nicht morgen alle nach Brüssel fahren.Also von uns wird auch keiner dabei sein, weil die alle Verpflichtungen schon woanders hatten.Aber dann sitze halt ich da mit meiner Kollegin aus dem Umwelt- und Gesundheitsausschuss,unserem digitalen Koordinator, der Nachfolger von Arneka an dem Job,Francesco, noch ein paar Abgeordneten, Mitarbeitende.Juristische Dienste sind da immer vertreten, oft auch die Sprachjuristen. Das sind dann so...20 bis 30 Leute vielleicht in so einem Setting. Und reden tun aber eigentlichnur der Rapporteur, also der Berichterstatter,in diesem Fall eigentlich in der Regel der ENVI, also Gesundheits- und Umweltausschuss-Rapporteurvon den Konservativen, der belgische Minister und die Kommissarin. darin.Und dann gibt es manchmal so Punkte, wo man dann sagt, okay,das Parlament muss sich mal kurz zurückziehen,dann gibt es nebenan irgendeinen sogenannten Breakout-Room, wo dann sogar soein Patrick Breyer zum Beispiel, der das für uns auf der Datenschutzseite macht,sich online dazuschalten kann und dann wird halt intern in einer Parlamentsdelegationberaten, okay, Leute, wir haben jetzt hier ein neues Angebot von den Belgiern,können wir das irgendwie mittragen oder ist das immer noch nicht gut genug,können wir einen Gegenvorschlag machen oder so.Und dann müssen halt sozusagen die Fraktionen der Reihe nach sagen,wie weit sie gehen können.Und dann muss der Berichterstatter gucken, wie er damit umgeht,ob er jetzt eine Mehrheit findet für den Kompromiss oder nicht.Manchmal gibt es auch Situationen, wo der Berichterstatter einfach sagt,ich habe jetzt hier keine klare Mehrheit, ich lasse es einfach darauf ankommen.Wir nehmen das Ding jetzt mal so an und gehen damit in die Ausschüsse und dannins Plenum und gucken, ob wir eine Mehrheit kriegen. Das ist aber eher selten.Das kann aber teilweise bei komplexeren Gesetzen, hier sind jetzt noch ein paarFragen offen, unter anderem auch die Frage der Lokalisierung,weil das EP die Daten in Europa speichern wollte und nicht irgendwo auswärts.Und der Rat sagt aber, nee, nach DSPVO kann man die doch auch in den USA transferieren,weil da gibt es ja eine Angemessenheitsentscheidung und so. Also das sind abernur vier, fünf Punkte, die noch offen sind.Die kann man morgen relativ schnell abkaspern, weil eigentlich fast alle außeruns und den Linken schon angedeutet haben heute Morgen, dass sie da mitgehen können.Es gibt auch andere Beispiele. Da können wir vielleicht gleich zum AI-Act nochwas zu erzählen, weil da haben wir, glaube ich, den bisher längsten Trilog gehabt.Der hat insgesamt 39 Stunden gedauert.
Thomas Lohninger
Darauf kommen wir gleich. Aber ich will nur kurz innehalten,dass das so kurz vor einer Europawahl ziemlicher Wahnsinn ist,als hier eine Massenenteilung von Gesundheitsdaten irgendwie auf den Weg zubringen. Also eigentlich müsste das doch morgen scheitern.Und wenn es das nicht im Trilog tut, dann hätte man nur noch die Chance,das im Plenum in zweiter Lesung zu verhindern, oder?
Ralf Bendrath
In erster Lesung. Wir sind noch im First Reading Procedure. Es geht dann alsojetzt Ende April ins Plenum, ja. Das letzte Plenum vor der Europawahl.Da könnte man noch einen Antrag stellen, das muss man gar nicht,man kann auch dagegen stimmen.Und wenn eine Mehrheit der Abgeordneten dagegen stimmt, dann ist es tot,klar. Aber das sehe ich einfach nicht.Aber macht gerne Kampagne. Wir sind dabei.
Tim Pritlove
Vielleicht hilft ja die German Vote am Ende.
Ralf Bendrath
Nee, in dem Fall hat Deutschland damit kein Problem.
Tim Pritlove
Okay.
Ralf Bendrath
Das war eher so, dass man irgendwie dann aus Verhandlerkreisen im Rat hört,dass die deutschen Vertreter oder Vertreterinnen einer Ratsarbeitsgruppe, das ist ja SPD,Lauterbach, Gesundheitsminister, dass die sich dann abschätzig über den BundesdatenschutzbeauftragtenUlrich Kelber äußern, der auch SPD-Mitglied ist, weil die sich anscheinend mitdem inzwischen so überworfen haben, dass sie über ihn nur noch schlecht reden können.Also unsäglich.Vielleicht noch kurz eine Klarstellung, damit das nicht in den falschen Hals kommt.Es ist schon so, das muss man auch anerkennen, dass die Daten,wenn sie für sekundäre Nutzung freigegeben werden, da muss erst ein Antrag gestelltwerden und die sogenannten Health Data Access Bodies, also in der Regel irgendwelcheAbteilungen im Gesundheitsministerium oder so, müssen das dann genehmigen.Die Daten werden dann nicht einfach an Big Pharma übermittelt,so als riesengroßer Patentendatensatz, sondern die werden nur von dem HealthData Access Body in einem sicheren Processing, in einer sicheren,Datenverarbeitungsumgebung, Secure Processing Environment, bereitgestellt undda muss sozusagen dann der Antragsteller kommen und seinen Algorithmus zu denDaten bringen. Der kriegt aber die Daten nicht mit nach Hause geliefert.Also die Daten gehen sozusagen nicht raus, Aber es sind natürlich trotzdem meineDaten und ich als Patient will selber entscheiden können, ob die irgendjemandfür Forschungszwecke oder so verarbeiten kann, egal wo und unter welchen Umständen.
Tim Pritlove
Alright. Gut, dann schlage ich mal vor, schlage mal hier das Buch erstmal zu,zu dem Thema und kommen auf unseren Kernthema, der AI-Act. Perfekt.Und Annika, da bist du ja sehr engagiert gewesen, wenn ich das richtig verstanden habe.Kannst du vielleicht mal anfangen und nochmal kurz erläutern,was so die Genese dieses Acts war?Also was genau ist hier der Trigger gewesen, damit es überhaupt dazu kam?Und was sind sozusagen die politischen Zielsetzungen, die sich hier letztenEndes Bahn gebrochen haben?
Arnika Zinke
Also vielleicht mag Ralf die Genese kurz machen, weil ich möchte nicht übereine Zeit reden, wo ich noch nicht da war und Ralf war schon dabei.Deswegen kann Ralf vielleicht kurz die Genese machen und ich kann das Gesetzkurz erklären dann und was alles dann während der Verhandlungen passiert ist.
Ralf Bendrath
Das fing schon vor ein paar Jahren an, ich glaube nach einer letzten Legislatursogar, da gab es einen Initiativbericht im Rechtsausschuss von Mehdi Delvauxaus Irland, der hieß zu Robotics and Civil Liability.Da wurde unter anderem diskutiert, ob wenn ein Roboter oder eine KI selbstständigEntscheidungen trifft, ob die dann nicht auch selber wie eine Art juristischePerson werden sollte, die dann auch Verantwortlichkeit dafür kriegt und sowas.Wo dann zum Glück am Ende der Diskussion rauskam, nein, ganz klar,die Verantwortung liegt immer bei einem Menschen.Eine KI kann nicht für irgendwas verantwortlich gemacht werden.Die kann ja auch nicht in den Knast gehen oder so. Jemand würde das nichts ausmachen.Aber die hatte einen ganz schönen Einstieg damals in ihren Erwägungsgründen.Da stand dann unter anderem drin, dass vom klassischen Pygmalion-Mythos derAntike über Frankensteins Monster von Mary Shelley und der Prager Golem-Legendebis zum Roboter von Karel Čapek,der dieses Wort geprägt hat, Menschen über die Möglichkeit fantasiert haben,intelligente Maschinen zu bauen.In den meisten Fällen Androiden mit menschlichen Zügen.Fand ich mal einen schönen Einstieg in so einen Initiativbericht,so ein bisschen poetischer als normal.So, und dann ging so ein bisschen hier überall, das hieß damals teilweise nochBig Data, wurde überall darüber diskutiert, dass man jetzt Möglichkeiten hat,mit den großen Datenmengen auch viele Maschinen zu trainieren und damit lustige Sachen zu machen.Und dann hat die Kommission, die hatte vorher noch so eine High-Level-Expert-Groupeingerichtet und so weiter, dann hat die Kommission angekündigt,sie werden ein Gesetz vorlegen zum Thema KI-Regulierung, das erste weltweit.Und dann wurde hier plötzlich hektische Betriebsamkeit ausgelöst.Da haben, glaube ich, in sieben Ausschüssen wurden dann Initiativberichte gemacht,also von Grundrechteaspekten über Bildung bis hin zu Sicherheit und Verteidigungund so, wo überall KI vielleicht eine Rolle spielen könnte und was man da machen sollte.Und parallel gab es noch einen Sonderausschuss zum Thema KI,wo Axel Voss von der CDU Berichterstatter war.Auch ein bisschen bescheuerte Doppelarbeit. Da macht man sieben Initiativberichteparallel und noch einen Sonderausschuss parallel.Aber irgendwie wollte die Mehrheit im Haus das so.Und Axel Voss hat dann in seinem Berichtsentwurf versucht, so ein bisschen auchMady Delvaux mit ihrem Roboterbericht zu imitieren, in dem auch ein bisschenpoetisch wurde. Aber der hat dann einfach nur Unsinn reingeschrieben.Da stand dann zum Beispiel drin, dass KI das fünfte Element sein wird,neben Erde, Wind, Feuer und Wasser, was uns immer umgeben wird und so.
Thomas Lohninger
Schon fast homöopathisch, okay. Okay.
Ralf Bendrath
Also, naja, und dann kam der Kommissionsvorschlag für das Gesetz,das war etwa vor drei Jahren, ne?Annika, ich weiß gerade gar nicht mehr.
Arnika Zinke
Ja, vor drei Jahren im April 2021. Genau.
Ralf Bendrath
Dann kam der Vorschlag und dann hat relativ schnell der Justizausschuss AxelVoss zum Berichterstatter gemacht für die Gesetzgebung.Und dann haben aber alle anderen Fraktionen sich plötzlich zusammengetan undhaben eine neue Fraktion gegründet, die sogenannte ABV Group, Anybody But Voss.Es wollte einfach niemand außer Axel Voss selber, dass er der fehlerführendeBerichterstatter im fehlerführenden Ausschuss wird. Deswegen war klar,der Rechtsausschuss ist schon mal raus.Und dann wurde ziemlich lange hin und her verhandelt.Und am Ende, so wirklich am letzten Tag der Deadline, glaube ich,kam dann in der Konferenz der Fraktionsvorsitzenden ein Vorschlag von den Sozialdemokraten,dass doch ein gemeinsames Verfahren werden sollte zwischen dem Ausschuss fürbürgerliche Freiheiten, Justiz und Inneres, weil der für die Grundrechte zuständig ist,und dem Binnenmarktausschuss,weil die Kommission dieses KI-Gesetz auch in Form von so einem,auf den Markt bringen Gesetz, was für Regeln muss ich einhalten,wenn ich KI auf den Markt bringen will, vorgeschlagen hat.Und das waren dann am Ende federführende Berichterstatter, Sozialdemokratenim Binnenmarktausschuss und Liberale im Grundrechte- und Innenausschuss.So kam das.
Tim Pritlove
Das ist also alles sozusagen auch von dieser europäischen Sicht des Maschinenmenschen,so Frankenstein und so weiter. Wir haben ja im Westen eine sehr negativ konnotierteSicht auf diese ganze… Hast du recht, ne?Naja gut, ich meine, gehen wir mal nach Japan, da ist einfach eine ganz andere Grundhaltung dazu.Da hast du sozusagen so die Maschine, der Freund des Menschen und wann auchimmer Robotik in Japan ein Thema ist, dann geht es immer sofort um Assistenzsysteme,helfen, Pflege und so weiter.Das ist so das, was da immer im Vordergrund steht und es hat natürlich auchviel mit so einer kulturellen Prägung zu tun, die hier definitiv ein bisschendystopischer ausfällt als jetzt in anderen Kulturen.
Ralf Bendrath
Ja, aber es passt auch, glaube ich, ganz gut in die Linie der ganzen europäischenDigitalgesetzgebung der letzten fast zehn Jahre jetzt, was sozusagen mit derDatenschutzgrundverordnung ja angefangen hat und dann mit dem Digitalen DiensteGesetz, Digitale Märkte Gesetz,Data Act, Data Governance Act und so weiter, oder jetzt hier Cyber Resilience Act,dass man einfach nach und nach jetzt besser verstanden hat, was sind denn wirklichdie echten Risiken und Gefahren bei den ganzen neuen Technologien,vor allem, wenn die in der Masse ausgerollt werden und jetzt versucht,langsam mal die Sachen wieder einzufangen.
Tim Pritlove
Das ist aber ein guter Punkt, weil während wir bei den anderen Sachen ja schondas auch alles sehr lange beobachten oder jetzt verhältnismäßig lange,ja, also das Internet und so Computer etc., das ganze Digitalwesen begleitet uns ja jetzt,sagen wir mal, die europäische Gesellschaft vielleicht aktiv seit Mitte der90er Jahre so wirklich, würde ich mal sagen, ungefähr. ungefähr.Und jetzt haben wir natürlich auch schon eine gewisse Zeit gehabt.Während jetzt dieses AI-Thema ist ja relativ frisch.Also im Vergleich zu den anderen Themen habe ich so den Eindruck,wird das relativ früh aufge...Also das wird nicht mal ein relativ schneller Vorstoß. Sonst sagt man immer,ja, die Politik reagiert ja nicht und jetzt ist das für uns schon alles so dieRealität und die Politik kommt nicht mit.Und jetzt habe ich so fast so den Eindruck, jetzt schlägt es komplett um undjetzt wird AI zu einem Zeitpunkt reguliert,wo glaube ich noch nicht mal eine wirklich klare Vorstellung davon existiert,was es jetzt eigentlich genau ist oder macht oder was jetzt wirklich die realenBedrohungen und Chancen und Risiken sind,um in dieser klassischen Abwägungsgeschichte zu bleiben.
Ralf Bendrath
Ja, da hast du sicher recht.
Arnika Zinke
Ja, und das war, glaube ich, auch sehr bewusst so gemacht, weil eben auch aufdie konstante Kritik irgendwie reagiert wurde, dass wir immer so spät dran wären.Also gerade bei dem Digitalen Dienstegesetz war es ja auch so,dass es hieß, ja, also wir haben so verschiedenste Probleme,gerade mit den großen Plattformen.Und warum braucht da die EU so lange?Und das war dann schon irgendwie so ein selbsterklärtes Ziel,auch von von der Leyen da wirklich irgendwie fortzubreschen und irgendwie mitdiesem Brussels-Effekt quasi zu reiten und da für KI was vorzulegen.Wobei ich finde allein der Name AI Act, und es wurde auch viel kritisiert,nicht ganz unproblematisch ist, weil es ja eigentlich auch um automated decision making geht,beziehungsweise, ja, dass auch nicht ganz klar war, ob dann automated decisionmaking auch in dem Begriff Artificial Intelligence fällt oder nicht.Aber AI Act klingt halt besser als automated decision making law.Also das war auch ein bisschen ein PR.
Tim Pritlove
Ja, guter Punkt. Genau. Und das ist ja dann wiederum etwas, was schon länger diskutiert wird.Man sieht das ja hier auch so Algorithm Watch und ähnliche Gruppen haben sichja da auch schon lange mit dieser Problematik beschäftigt.Also wer fällt die Entscheidung und damit natürlich auch verbunden,wer ist am Ende haftbar für falsch getroffene Entscheidungen und das hinterfragthalt sowohl einfache Algorithmen,die nun durch AI gleich nochmal ein Level weniger nachvollziehbar werden potenziell.
Arnika Zinke
Genau. Und es ist jetzt so, um kurz das Gesetz zu erklären,also ich würde sagen, es ist jetzt im Vergleich zu den anderen Gesetzen vielleichtetwas innovationsfreundlicher gedacht worden,in dem Sinne, dass in dem Gesetz eben auch diese, zum Beispiel diese innovativen,ich weiß gar nicht den Begriff, aber Sandboxes heißt es auf Englisch, Sandkisten.
Ralf Bendrath
Reallabore heißen die auf Deutsch.
Arnika Zinke
Noch nachgeschöpft werden muss. Also es gab quasi ein eigenes Kapitel für Measuresfor Innovation, um eben auch die quasi so ein bisschen industriepolitisch auchzu mehr KI-Systeme in Europa zu generieren.Weil im Vergleich dazu zum Beispiel die Systeme, die verboten werden,im Kommissionsvorschlag ja eigentlich sehr dünn waren.Also es gab ein Verbot für biometrische Massenüberwachung in Echtzeit,aber dann auch wieder mit ziemlich großen Ausnahmen. Unter anderem,wenn man zum Beispiel Missing Children, also Kinder sucht.Es gab ein Verbot für Social Scoring, das aber so limitiert geschrieben war,dass es eigentlich wirklich nicht wirklich was anwendbar gewesen wäre.Wäre, klingt aber gut, wenn man eine PR-Mitteilung dazu macht.Und dann das, was die KI-Provider, also die Hersteller, danke.Es ist wirklich manchmal schwierig, wenn man immer in Englisch arbeitet unddann versucht, alles auf Deutsch zu übersetzen.Genau, also dass die Hersteller einfach eigentlich nur dann etwas zu erfüllenhatten, wenn sie als Hochrisiko eingestuft wurden.Das heißt, es gab zwar diese Pyramide, die vielleicht auch einige schon gesehenhaben, quasi welche Bereiche das KI-Gesetz quasi umfasst.Und oben auf der Pyramide sind die verbotenen KI-Systeme, was ja eigentlichde facto so gut wie nichts ist.Dann gibt es quasi einen mittleren Bereich mit Hochrisiko, wo dann alles,was quasi zu erfüllen ist im KI-Gesetz, quasi nur in diesem Bereich fällt undalle Regelungen quasi nur in dem Bereich zu erfüllen sind.Und dann gibt es noch einen untersten Bereich, das ist Low-Risk oder Minimum-Risk,also quasi die wenigst Risiko-KI-Systeme, die ein paar Transparenzpflichten erfüllen mussten.Das heißt, diese Pyramide, die die Kommission da quasi auch vorgestellt hat,ist eigentlich recht verwirrend, weil letztlich ist es ein Gesetz für ein paarPseudoverbotene KI-Systeme gewesen und das, was sie als Hochrisiko begriffen haben.Und der Begriff Hochrisiko ist ja auch eigentlich recht problematisch,weil da will ja auch kein Hersteller eigentlich reinfallen.Also kein Hersteller, der sein KI-System irgendwie schon verkaufen will,außer es ist wirklich für einen Bereich, der hochproblematisch ist,möchte wirklich in den Hochrisikobereich fallen.Und das ist, glaube ich, auch ein Begriff, der uns negativ durch die ganzenVerhandlungen verfolgt hat.Genau, nur um das fertig zu erklären, was Hochrisiko ist und was nicht,ist in dem sogenannten Annex Free,wenn ich das richtig im Kopf habe, festgeschrieben, das sind quasi verschiedeneBereiche, die von Bildung bis Migration, Arbeitsverhältnisse gehen,wo verschiedene Kaisersysteme,Strafverfolgung genau, reingegebenwurden, die potenziell in diesen Hochrisikobereich fallen könnten.Und genau, also das ist so mal ein bisschen die Logik und auch nochmal daraufzurückzukommen, was Ralf vorhin gesagt hat,es ist eben in diesem Produktsicherheitsgesetzesrahmen eingebettet worden.Das heißt, KI wird als Produkt begriffen, was auch schon nicht ganz unproblematisch ist.Und das wurde auch, also man munkelt, dass es auch deswegen gemacht wurde,damit das Gesetz eben nicht nur im Justizausschuss landet, sondern eben auchim Binnenmarktausschuss, wo ja alles, was Produktsicherheit betrifft, behandelt wird.Also das ist auch schon bewusst von der Kommission so gewählt worden,nicht unbedingt, weil sie KI unbedingt als Produkte sehen wollten,sondern auch, weil man dann vielleicht,und das sieht man auch bei anderen Gesetzen, schon beeinflussen will,in welchem Ausschuss das Gesetz landet, was dann ja auch wiederum Einfluss daraufhat, wie die Parlamentsposition aussehen wird.Also wenn es nur im Liebe landet, dann wird die Parlamentsposition relativ hoheWahrscheinlichkeit progressiver ausfallen, als wenn es nur im Idre landet,was der Industrie- und Wissenschaftsausschuss ist,der traditionell immer recht konservativ, liberal und wirtschaftsfreundlich ist.
Tim Pritlove
Ich habe nochmal eine Nachfrage. Nur mal zu diesem Begriff Hochrisiko.Risiko in Bezug auf wen oder was? Also wie ist dieser Begriff gedacht?Für wen soll was wie ein Risiko sein, damit das da reinfällt?
Arnika Zinke
Also es ist zum einen der Bereich, in dem es verwendet wird,also zum Beispiel Immigration und zum anderen auch quasi, welchen Impact eshaben kann, also welche Einflüsse es quasi auf Menschen haben kann.Also zum Beispiel eben im schulischen Bereich, dass wenn die Systeme quasi nichtgut getestet sind oder starken Bias haben oder Cybersecurity-Probleme haben,dass sie dann ein höheres Risiko quasi darstellen oder potenziell mehr Schadenanrichten könnten als ein Chatbot zum Beispiel.Wobei ich argumentieren würde, dass auch Chatbots Schäden anrichten können.
Tim Pritlove
Also Risiko im Sinne von Gefährdung für Menschen.
Thomas Lohninger
Also ich erinnere mich noch irgendwie, wenn man so Lobbyisten zugehört hat,bevor das Gesetz vorgestellt wurde,hatten die auch schon diese Idee der Pyramide und die haben halt so plakativ gemeint,ganz oben ist automatisierte Tötung, wenn die Drohne dich umbringt oder dassein Mensch noch irgendwas dafür tun muss und ganz unten ist der Algorithmus,der Schrauben sortiert,der gar nicht reguliert wird und dazwischen überlegen wir uns dann irgendwas.Aber das ist halt in der Praxis dann umzusetzen super schwierig,weil auch so Dinge, wo sich die Zivilgesellschaft massiv dafür eingesetzt hat,wie zum Beispiel das Verbot von Gesichtserkennung, Biometrie oder auch,es gibt ja inzwischen so Wahrheitsdetektoren oder Emotionserkennung,wo es sehr zweifelhaft ist, ob das technisch überhaupt funktioniert,was da als Produkt angeboten wird.Und da glaube ich, kommen wir dann auch gleich darauf zu, was denn jetzt wirklichin diesem Gesetz drinnen steht.Und du hast ja auch schon Migration angesprochen. Wir haben in vielen EU-Ländernauch gerade bei arbeitslosen oder arbeitssuchenden Menschen den Einsatz vonAlgorithmen, wurde teils auch schon von Höchstgerichten verboten.Also da gibt es ja wirklich schon viele Fälle, die nach Regulierung schreien.Was wird jetzt besser mit diesem Gesetz?
Ralf Bendrath
Vielleicht noch ganz kurz zu Tim, zu der Frage nach dem Risiko.Also zum Beispiel im Artikel zur Definition, da steht unter systemisches Risiko,dass ein KI dann ein systemisches Risiko hat, wenn sie einen signifikanten Impact,Auswirkungen auf den ganzen Unionsmarkt hat durch ihre Reichweite oder durchvernünftigerweise vorhersehbare negative Effekte auf öffentliche Gesundheit, Sicherheit.Also nicht im Sinne von sozusagen innere Sicherheit, sondern Produktsicherheit,Safety, nicht Security, Public Security, also öffentliche Sicherheit,Grundrechte oder die Gesellschaft als Ganze.Aber das ist natürlich dann auch eine intellektuelle Herausforderung.Damit haben wir auch eine Weile lang gerungen am Anfang, weil dann sagt derArtikel 6 zu den Hochrisiko-KI,die Kommission ist ermächtigt, mit einem delegierten Rechtsakt weitere KI-Systemeoder Anwendungsfälle in den Annex 3 hinzuzufügen, mit den Hochrisiko-KIs,wenn diese neuen KI-Systeme oder Anwendungsfälle ein gleich hohes oder höheres Risiko haben,als die, die schon im Annex 3 drinstehen. Ja, wie misst man das?Wie viel ist 1,50 m KI-Risiko? Das kannst du eigentlich nicht schwer vergleichen.Das ist immer von Anwendungsdomäne zu Anwendungsdomäne.Haben wir echt eine Weile hin und her überlegt und dann am Ende aber gemerkt,das ist eine politische Entscheidung jedes Mal.
Arnika Zinke
Ja, um jetzt auf die Frage zurückzukommen, was ändert sich quasi oder was wird jetzt besser?Also es ist quasi schon so, dass wir natürlich im Vergleich zur Parlamentsposition,die in vielen Fällen besser ist, als das, was dann beim Trilog rauskommt,natürlich nicht alles drin haben, was wir als Parlament angesehen haben alsproblematisch und zu verbietende KI und als Hochrisiko-KI.Also nur, weil du vorher noch angesprochen hattest, Emotionserkennung,Massenüberwachung mit Biometrie,die Polygraphen, das waren alles Punkte, die wir in unserer Parlamentspositionkomplett verbannt hätten, also quasi verboten hätten.Und von denen wir nicht alle, aber einige in gewissen Bereichen geschafft haben, zu verbieten.Das eine ist eben die Emotionskennung, also quasi die basiert darauf,dass man denkt, dass wenn eine Person lacht, dass man davon ableiten kann,dass die Person quasi glücklich ist.Und es ist mittlerweile eindeutig bewiesen, dass das nicht funktioniert unddass es auch gegen Menschen, die zum Beispiel neuroatypisch sind,glaube ich ist das richtige Wort.Einfach auch falsch Emotionen erkennt und dass Emotionen einfach sich nichtleicht so ableiten lassen.Deswegen hat zum Beispiel auch Microsoft Emotionserkennung komplett aus demSortiment sozusagen genommen.Also die entwickeln in dem Bereich auch nicht mehr, weil sie erkannt haben,dass es Pseudowissenschaft ist.Wir haben es zwar nicht ganz durchbekommen, aber wir haben zumindest im Bereicham Arbeitsplatz und im schulischen Bereich Emotionserkennung komplett verboten.Was ein großer Gewinn für uns vor allem als Grüne war, wo man aber Emotionserkennungzum Beispiel noch verwenden darf.Und um ein Beispiel zu nennen, ist eben im Migrationsbereich,also zum Beispiel an Grenzen, was weiterhin hochproblematisch ist,weil die Probleme bestehen ja weiterhin.Es ist zwar Hochrisiko, aber Hochrisiko heißt halt, du musst einige weitere Regeln erfüllen.Das heißt, die KI muss Cybersecurity Standards erfüllen, es müssen gewisse Dokumentationengemacht werden und jetzt in dem spezifischen Fall ist wahrscheinlich auch eineGrundrechteabschätzung notwendig, also das sogenannte Fundamental Rights Impact Assessment.Das war auch ein großer Gewinn für unsere Fraktion, das mit reinzukriegen.Dass eben nicht nur der Hersteller, sondern auch der Benutzer,also der, der das System quasi kauft, sondern wirklich anwendet,sich auch anschauen muss, was macht die KI eigentlich mit den Personen,auf denen ich das anwende.Das ist ein bisschen eine Weiterleitung von dem, was schon in den Datenschutzfolgeabschätzungengemacht wird, aber eben speziell auf KI umgemünzt.Und das war für uns insofern ein großer Erfolg, weil das bedeutet,dass eben nicht nur der Hersteller, der spezifisch und kontextbasierte Anwendungenüberhaupt nicht abschätzen kann, dass sich wirklich der Benutzer hinsetzen mussund sich mit der KI auseinandersetzen muss.Und ich glaube, dass es auch eben daraufhin, wie wir KI verstehen und wie wirgenerell, wie viel Bedeutung und können wir KI zumessen, sehr wichtig ist.Weil wenn das zum Beispiel von Schulen verwendet wird oder auch von Behörden,die vielleicht einen Datenschutzbeauftragten haben und dann das jemandem gebenund sagen, sagen, ja, verwende das halt, um zum Beispiel Schülern zu helfen,in welche Fächer oder in welche Berufe sie sich dann einordnen.Dass es nicht einfach so angewendet wird, sondern die Personen wirklich wissen,okay, welche möglichen Folgen könnte das haben, wenn wir das jetzt mit unserenSchülern gemeinsam verwenden.Und ich glaube schon, dass das auch im Laufe der Zeit auch wirklich dazu führenwird, dass Menschen einfach besser verstehen, wie KI funktioniert und wo auchdie Limits von KI sind, was letztlich auch eine Möglichkeit ist,rechtliche Folgen abzuschätzen.So haben wir es auch mal ein bisschen versucht zu verkaufen,das natürlich auch für Unternehmen, das relevant ist, abzuschätzen,wo sind die rechtlichen Folgen, die ich möglicherweise habe,wenn ich KI verwende, die nicht so gescheit ist, wie ich eigentlich glaube, dass sie ist.
Thomas Lohninger
Also eigentlich so wie bei der Datenschutzgrundverordnung, ein neuer Text,den ich abnicken muss, wo theoretisch drinnen steht, was mit meinen Daten passiertoder was da im Hintergrund eigentlich abläuft.Also es muss erklärt werden für die NutzerInnen, was jetzt in diesem System drin ist.
Arnika Zinke
Ja, und der Benutzer muss sich halt auch wirklich damit auseinandersetzen,welche Personen eigentlich mit der KI interagieren oder auf welche Personendie KI angewendet wird und ob das zum Beispiel jetzt Personen mit dunkler Hautfarbesind oder Personen, die eine Disability haben. Genau.Und der Unterschied zur datenschutzrechtlichen Folgenabschätzung ist,dass es manchmal Fälle gibt, wo es quasi einen grundrechtlichen Impact habenkönnte, wo aber keine persönlichen Daten angewendet werden.Also zum Beispiel, wenn man Migrationsflüsse versucht nachzuvollziehen und darausdie KI irgendwelche Entscheidungen treffen lässt.Und gerade in diesen Bereichen, diese Randbereiche sind, die eben nicht vonder DSGVO abgedeckt sind, ist das auch besonders wichtig.
Thomas Lohninger
Also auch sowas wie Predictive Policing, also dass die Polizei mit Algorithmenversucht, vorherzusehen, welche Verbrechen in welcher Region wann passieren,was ja auch ein bisschen so Pseudoscience ist.
Ralf Bendrath
Also das vielleicht ganz kurz, Predictive Policing, was sich nur auf bestimmteNachbarschaften bezieht oder sowas, das wäre noch erlaubt, würde aber unterHochrisiko fallen, müsste also eine Grundrechtefolgenabschätzung machen und alles mögliche.Aber Predictive Policing über Individuen, dass die KM ja ausrechnet,wie wahrscheinlich ist es, dass Thomas Lohninger in den nächsten zwei Monateneine Straftat begeht, das ist verboten.Und was wir zum Beispiel auch noch verboten haben, ist das, auf Englisch heißtdas Facial Image Scraping, dass ich massenhaft Gesichtsbilder aus dem Internetmir zusammenwühle und daraus dann eine große Datenbank mache.Also Clearview AI oder PIM-Eyes ist jetzt verboten.
Thomas Lohninger
Und diese Grundrechtsabschätzungen, sind die öffentlich einsehbar?Kann ich die als User sehen?
Ralf Bendrath
Die sind in der Datenbank, oder?
Arnika Zinke
Ich glaube, dass die in der Datenbank gegeben werden müssen.Es ist quasi eine neue EU-Datenbank geschaffen worden, wo dann diese Folgerechtsabschätzungenhochgeladen werden müssen, um eben mehr Transparenz zu ermöglichen.Das war zum Beispiel auch etwas, was nicht im Kommissionsvorschlag drinnen warund was uns auch sehr wichtig war, da einfach mehr Transparenz zu schaffen,wer das verwendet und ja, auch, dass eben diese Abschätzungen dann öffentlich sind Das war das.
Ralf Bendrath
Was die Niederländer schon machen oder Amsterdam oder so. Die haben das schonin Betrieb, eine öffentliche Datenbank, wo man sowas genau nachgucken kann.Davon haben wir uns inspirieren lassen.
Arnika Zinke
Sowohl die Datenbank als auch die Grundrechtefolgenabschätzung kommen beideaus den Niederlanden, die Idee.
Thomas Lohninger
Es gibt auch unheimlich viele zivilgesellschaftliche Projekte,die einfach so mappen, welche Anwendungen von KI gibt es schon.Vor allem eben in der öffentlichen Verwaltung, da wo die Leute nicht auskennen,wo es kein Produkt ist. ist.Und das heißt, das kommt jetzt europaeinheitlich und diese Datenbank wird dannwirklich auch so alles beinhalten oder gibt es da auch wieder Ausnahmen,dass zum Beispiel so Polizeimilitären nicht einmelden müssen?
Ralf Bendrath
Ganz richtig geraten, Thomas. Natürlich gibt es Ausnahmen und genau eine dieserAusnahmen ist, dass KI-Anwendungen im Strafverfolgungsbereich in die Datenbankreinkommen, aber in den nicht öffentlich zugänglichen Teil.Also die Aufsichtsbehörden können das weiterhin überprüfen, aber der Öffentlichkeit ist es verborgen.
Tim Pritlove
Was sind denn sozusagen da die Aufsichtsbehörden? Ich habe gelesen,da gibt es ein AI-Office.Ist das das, wovon wir reden?
Ralf Bendrath
Es gibt zwei Ebenen oder sogar drei teilweise, weil die Datenschutzbehörden,wenn es um personenbezogene Daten geht, auch immer noch eine Rolle haben dabei.Aber dann gibt es die Marktaufsichtsbehörden, Market Surveillance Authorities,die sozusagen die Standardbehörden sind in diesem ganzen Produktsicherheits-CE-Label-Rahmenwerk.Und dann gibt es aber, da kann Arneka mehr zu sagen, das ist mal diese ganzeMarktüberwachung, das ist alles Imco-Committee-Territorium, da halte ich michraus, das wissen die viel besser.Aber es gibt dann eben auch noch das AI-Office in der Kommission.Das, warte mal kurz, genau, das ist im Prinzip ein nettes Label für eine neueAbteilung in der Kommission.Also in der Definition steht da, das AI-Office means the commission's functionof contributing to the implementation, monitoring and supervision of AI systems and AI governance.Das ist auch schon etabliert. Das wurde durch die Kommissionsentscheidung vom24.01.2024 schon eingerichtet.Die Kommission kann ja ihre eigene interne Organisationsstruktur selber entscheiden,auch wenn das Gesetz noch gar nicht da ist. Aber die fangen jetzt sozusagenschon mal langsam an, Leute anzuheuern und das ganze Ding aufzubauen und so.Zu den Aufgaben steht in dem einen Artikel zum AI-Office eigentlich gar nichts drin.Da steht nur, das soll irgendwie das alles irgendwie koordinieren und helfen.Aber da muss man sich so ein bisschen durch den Text wühlen.In den einzelnen Punkten kommt dann sowas wie zum Beispiel die Entwicklung fürModellverträge zwischen KI,Hochrisiko-KI-Anbietern und Drittparteien, die irgendwie Komponenten und andereUnterstützungs-Sachen liefern.Dann, was heißt Template nochmal?
Tim Pritlove
Vorlage.
Ralf Bendrath
Eine Vorlage entwickeln für Inklusive eines automatisierten Tools,damit Anbieter von KI ihre Grundrechtefolgeabschätzungen einfacher machen können.Dann soll sie dabei helfen, dass die Industrie Codes of Practice entwickelt,also Verhaltenskodizes.Und das ist ganz interessant. Das ist immer noch eine Sache der Industrie,wie bei vielen anderen Codes of Conduct oder Codes of Practice.Aber da steht jetzt drin, wenn zwölf Monate nach dem Inkrafttreten des AI Actdiese Codes of Practice noch nicht da sind oder die Kommission, also das AI Office,findet, dass die nicht gut genug sind, dann kann die Kommission selber bestimmteStandards nochmal verbindlich entscheiden. Ja.Dann soll das AI-Office die technische Dokumentation von General-Purpose-AI-Modellen,also allgemeinen Zweck, was ist das General-Purpose?
Arnika Zinke
Allzweck-Modellen.
Ralf Bendrath
Allzweck-KI-Modellen überprüfen. Dann soll sie eine Vorlage bereitstellen füreine Zusammenfassung der Inhalte, mit denen die KI trainiert wurde und so weiter und so weiter.Und dann in dem eigentlichen Artikel 64, der dieses AI-Office sozusagen etabliert,steht eigentlich nur, the Commission shall develop union expertise and capabilitiesin the field of AI through the AI-Office. Und das ist eigentlich so der Kern.Das war ein Tipp, den wir damals bei einer Anhörung gekriegt haben von FrancesHaugen, der Facebook-Whistleblowerin, die uns geraten hat, Leute,es gibt nicht genug KI-Expertinnen und Experten in der Welt,um alle 27 Mitgliedstaaten ihre eigenen Expertisezentren aufbauen zu lassen.Das müsst ihr europäisch bündeln.Und das war sozusagen die ganze Idee hinter diesem AI-Office,dass man sozusagen hier einen Pool von Expertinnen und Experten hat,die dann eben den Mitgliedstaaten auch sozusagen beispringen und die unterstützenkönnen bei der Umsetzung.
Tim Pritlove
Klingt jetzt nicht falsch.
Arnika Zinke
Ja, ich wollte nur noch mal sagen, dass das AI-Office auch schon eine Aufsichtsfunktionbei den General Purpose AI-Modellen hat.Und das war ein Zusatzbereich, den es im Kommissionsvorschlag nicht gegebenhat, nämlich diese Allzweck-Modelle.Und das war ein spezifischer Bereich, wo das Parlament ein komplettes Kapitelquasi hinzugefügt hat, weil das Parlament eben gesagt hat, okay,es ist so schön, dass wir KI-Systeme regulieren, aber es gibt ja ein Modell,das vor dem KI-System kommt, auf dem das KI-System oft basiert,wo quasi die Regeln eigentlich jetzt nicht da sind, vor allem,weil das ja alles auf dieses Hochrisiko zugemünzt ist.Von grüner Seite, unsere Idee war ursprünglich, dass wir sagen,alle Allzweckmodelle sollten alle Hochrisikoanforderungen eigentlich auch erfüllen.Das ging aber nicht durch und deswegen haben wir eben einen Kompromiss gefunden,verschiedene Anforderungen, die quasi auf den Hochrisikoregelungen basieren,aber quasi hochrisikoleit auch für diese Allzweckmodelle umzusetzen.Und da hat das KI-Büro jetzt die Funktion.Zu unterscheiden, welche der Modelle quasi nur die einfachen Dokumentations-und Transparenzpflichten erfüllen müssen oder welche Modelle quasi extra Anforderungenerfüllen müssen, also quasi in den Top-Tier fallen.Also es gibt zwei Stufen für die Modelle und Modelle, wer zum Beispiel eben GPT-free,worauf jetzt Chat-GPT basiert oder ja, also verschiedene Large-Language-Modelszum Beispiel, aber auch, was auch immer in der Zukunft kommen mag,Und die stärkeren Regeln wären dann zum Beispiel Red Teaming,also interne Risikoanalyse bzw.Risikotesten von möglichen Problemen innerhalb des Modells.Und das war eben ein komplett neuer Bereich, den das KI-Gesetz selbst und dieKommission überhaupt nicht vorhergesehen hatte. Und die jetzt der Kommissiondeutlich mehr Macht geben, als eigentlich auch vorhergesehen war.Weil eigentlich war es wirklich gedacht, dass es national eben über die MarketSurveillance Authorities und die Data Protection Authorities in jedem Mitgliedstaateinzeln die KI-Systeme überwacht werden.Und jetzt sind die ganzen Modelle ausgelagert zu dem AI-Office,das eben nicht nur eben die ganzen Punkte erfüllen kann, die Ralf vorhin schonerwähnt hat, sondern eben auch einteilen kann,wer das quasi Modell leiht und wer das Modell, das quasi einen höheren Impacthat und deswegen weitere Anforderungen erfüllen muss.Und das ist auch insofern interessant, weil in der Zukunft das AI-Office auchweitere problematische oder impactful Modelle hinzufügen kann in den Top Tierund deswegen ja relativ viel Macht bekommt.
Ralf Bendrath
Und wir wissen seit heute Morgen schon, wer der Chef wird.
Thomas Lohninger
Bevor wir dazu kommen, die generelle Struktur davon, dass wir das mal wiederholen.Also an sich war gedacht, die ganze Rechtsdurchsetzung über diese nationalenMarktaufsichtsbehörden zu machen.Und jetzt ist sozusagen auf Bestreben des Parlaments hin,dieses AI-Office bei der Kommission mächtiger geworden in Bezug auf das Einstufenvon konkreten KI-Systemen gemäß ihrem Risikogehalt.Halt dieser generellen Modelle, General Purpose Modelle, da kann man sich wahrscheinlichso die klassischen Large Language Models vorstellen, oder? Ja?Unique. Und du hast dann aber am Ende eigentlich so welche Auflagen,weil für mich ist so, das habe ich auch mit Kolleginnen schon diskutiert ausder Zivilgesellschaft,es ist so ein bisschen sehr weird, jetzt zu sehen, dass eine Marktaufsicht aufeinmal Grundrechte einhalten soll.Also wo sind wir denn jetzt mal so ein Testcase von, ich weiß nicht,Clearview AI haben wir vorher gesagt, das ist sowieso ganz verboten,aber was gibt es denn so für Beispiele, die ihr nennen könnt,wo nach eurer Lesart des Gesetzes einem Unternehmen auch Konsequenzen drohen,wenn durch die eigenen Systeme wirklich Schaden auftritt bei Menschen.Ist das alles nur eine theoretische Sache, wo ich eine Abschätzung irgendwo hinterlegen muss?Oder kann ich da zum Beispiel auch als Betroffener klagen? Wir haben ja,glaube ich, auch in der Sendung zuletzt schon diesen British Post Office Scandal diskutiert,wo aufgrund eines Fehlers eines Computersystems hunderte Menschen fälschlicherweisederen Existenzen zerstört wurden.Ja, hätte man vielleicht im Vorhinein auch nicht gesagt, dass es ein Hochrisikosystem sein soll.War es dann aber am Ende? Also würde der AI-Act bei solchen Fällen helfen und wenn ja, wie?
Arnika Zinke
Also zum einen zur AI-Liability, also quasi zu dem Schwestergesetz zur Produkthaftungsrichtlinie.Da warten wir ja immer noch darauf, dass es da in dem Bereich eine Entscheidung geben wird.Und das würde, glaube ich, vieles von den Fällen, die du gerade genannt hast,also wie kann ich persönlich vorgehen und persönlichen Schaden,Was es schon gibt, ist, dass das KI-Gesetz auch die Möglichkeit hat,über die Collective Redress, also kollektive Verbandsklage, dass Verbandsklagenquasi ermöglicht werden.Das heißt, wenn du quasi nachweisen kannst, dass der Hersteller zum Beispieldie Anforderungen nicht erfüllthat im Hochrisikobereich, dann wäre zum Beispiel so eine Klage möglich.Wir haben auch eingeführt, dass eine individuelle Person auch zu einer nationalenBehörde gehen kann und sich beschweren kann, wenn man glaubt,dass innerhalb dieser Regulierung gewisse Pflichten nicht erfüllt worden sind.
Thomas Lohninger
Aber ich hake genau da ein. Also wenn ich jetzt ein Unternehmer bin mit einerganz bösen Absicht, so ein typischer Überwachungsschweinekonzept,kann ich sozusagen hier meinen Kopf aus der Schlinge ziehen,wenn ich genügend Papier produziere und über alle diese Risiken ganz viele Abschätzungen mache?Oder ist am Ende der real auftretende Schaden das, was auch zu der Strafe führen kann?Egal wie viel Papier ich da vielleicht rundherum mir zugekauft habe,um das zu kaschen, um das irgendwie so einzukleiden.
Ralf Bendrath
Ja, wenn du es als böser Überwachungskapitalist mit einer fiesen Firma es schaffst,irgendwie alle Auflagen des AI-Acts zu erfüllen, inklusive Grundrechte, Folgenabschätzung,inklusive die Auflagen zu Data Governance, dass du zum Beispiel gucken musst,ob in deinen Trainingsdaten irgendwelche Biases versteckt sind und wenn ja,musst du das irgendwie angehen und so. Wenn du das alles schaffst, dann bist du raus.Ja, ich möchte nur den fiesen Überwachungskapitalisten sehen, der das hinkriegt.Aber grundsätzlich, ich glaube, die Logik ist sozusagen, wenn ein konkreterSchaden entsteht, dann greift sowieso die Produkthaftungsrichtlinie jetzt,weil die jetzt ja auch für alle digitalen Produkte gilt.Wobei, nee, warte, die greift ja nur, wenn ich mir das Produkt selber gekauft habe. Stimmt.Nicht, wenn ich Opfer von einem Produkt von jemand anderem bin.Aber der AI-Act, soweit ich es im Kopf habe, aber correct me if I'm wrong, Annika,der sieht Strafen und Ähnliches dann vor, wenn die Anbieter von KI-Systemenoder auch die Nutzer von KI-Systemen gegen Regeln des AI-Acts verstoßen.Unabhängig davon, ob am Ende ein Schaden rauskommt oder nicht.Schaden kann dann immer auch noch zivilrechtlich und anders wie irgendwie eingeklagt werden.
Tim Pritlove
Aber da will ich jetzt nochmal einhaken, weil ich fand das Beispiel,was Thomas genannt hat, mit diesem Post-Office-Skandal eigentlich ganz plastisch,weil das ja eine, also da ist der negative Impact ja sehr offensichtlich,ja, also da sind ja, Leute haben sich ja umgebracht deswegen,weil eine Software falsch gerechnet hat und wie du schon sagst,gekauft haben sie aber das Produkt nicht, sondern sie mussten das sozusagenim Rahmen ihrer vertraglichen Bindung mit dem Post Office,UK Post Office sozusagen benutzen oder es wurde für sie benutzt und es war eigentlichdie Software der Post sozusagen.Also ist irgendetwas in diesem AI-Eck, wo ihr sagen würdet, hier greift jetztdiese Idee der Entscheidungsfindung und der Macht der Algorithmen,die diesen Fall abgedeckt hätte?
Arnika Zinke
Also ich glaube, es geht eher darum, dass die Produkte, die zukünftig auf denMarkt gebracht werden, gewisse Standards erfüllen müssen.Das heißt, die Wahrscheinlichkeit, dass so ein schädliches oder ein schadhaftesProdukt auf den Markt gebracht wird, versucht der AI zu minimieren,indem er eben Data Governance, Cyber Security und so weiter vorschlägt.Und alles, was dann quasi später passiert, findet eben in der AI Liability Directive,die es noch nicht gibt, also KI-Haftungsrichtlinie statt.Und der Hayek versucht quasi nur sicherzustellen, dass die Produkte,die in Zukunft in der EU auf den Markt kommen,ein Minimum an Standards erfüllen, die wir quasi in unseren EU-Values als wichtiggenug ansehen, damit KI auch trustworthy wird,also vertrauensbindend, also dass man quasi ein gewisses Vertrauen in die KI hat.
Tim Pritlove
Ja gut, aber hier ist es ja noch nicht mal KI. Hier ist ja Plus und Minus nichtrichtig benutzt worden.
Arnika Zinke
Dann würde es eigentlich nicht in den Scope vom KI-Gesetz kommen.
Tim Pritlove
Das heißt, das ist sozusagen immer noch nicht sanktioniert.Ja, nee, verrechnen dürft ihr euch, aber ihr dürft nicht im abstrakten Raumfalsch sein, nur im konkreten. Ist auch ein bisschen doof, oder?
Ralf Bendrath
Ja, aber dass die sich da einfach stumpf verrechnet haben, das wird ja wohlirgendwelche rechtlichen Folgen haben müssen, oder?
Tim Pritlove
Ja gut, also ich meine, das geht jetzt schon seit über zehn Jahren ist es bekannt,dass sie sich verrechnet haben und es ist ja jetzt erst durch eine Fernsehserieim englischen Fernsehen und britischen Fernsehen überhaupt erst zu einem Skandal geworden,weil dann die Öffentlichkeit gesagt hat, was geht denn hier ab und in der Zwischenzeit,wie gesagt, Leute hat das halt in den finanziellen Ruin getrieben und mehrereder Betroffenen haben sich halt einfach das Leben genommen.Und das ist halt schon irgendwie so ein Level, wo ich sagen würde,da kann man schon mal rein regulieren, um sicherzustellen, dass so etwas nicht geht.Deswegen frage ich halt einfach ganz blöd, seht ihr jetzt irgendwas in diesemAI-Act oder in dieser Product-Liability-Richtlinie, das so etwas verhindertoder ist das jetzt tatsächlich noch nicht mal abgedeckt?
Ralf Bendrath
Wenn es um einfaches Plus-Minus geht, ist es nicht abgedeckt.Das ist ja nicht unter KI.
Tim Pritlove
Also verrechnen darf man sich nach wie vor, nur nicht falsch schwurbeln.
Arnika Zinke
Also es gab auch im KI-Gesetz ganz stark den Push, es nur auf Machine Learningzu begrenzen, also KI nur als Machine Learning zu begreifen.Und es hat uns sehr viel Kraft gekostet, dass zumindest Teile von AutomatedDecision Making weiterhin im Skop von KI-Gesetz drin sind. Also so einfachereSoftware ist im KI-Gesetz auf jeden Fall nicht mit ihm begriffen.
Tim Pritlove
Ja gut, aber ich meine, in dem Fall war es ja so,dass den Vertragspartnern des Post Office quasi ein Fehler nachgewiesen wurde,den es so nie gegeben hat und das ist ja eigentlich auch eine Entscheidungsfindung.Es war nämlich die Entscheidungsfindung mit, deine Abrechnung stimmt nicht, obwohl sie stimmt.So und damit ist ja sozusagen von einer Software eine falsche Entscheidung gefälltworden, die dann auch später niemand anzuzweifeln bereit war,geschweige denn irgendeine Verantwortung dafür zu übernehmen.Und alle haben sich gegenseitig da in Schwarzenpeter zugezogen und alle, die das halt,es wurde ja noch dadurch verschlimmert, dass halt das Post Office auch nochin UK, gut ich weiß jetzt nicht EU und so, aber es geht ja jetzt nur sozusagenum so einen Fall, der ja durchaus realistisch ist, weil der hat ja stattgefunden,dass das Post Office halt auch noch so einen anderen rechtlichen Status hat und so weiter.Also es war also generell sehr schwierig, da überhaupt irgendwie gegenzugehenund es hat die Leute halt einfach mal komplett ruiniert.Das ist ja schon ein ziemlich harter Tobak. Also in meiner Wahrnehmung ist aucheine Berechnung, eine Saldos, eine automatische Entscheidungsfindung,weil ja da am Ende eine Wahrheit geliefert wird.Nämlich die Wahrheit mit, du hast uns genug Geld gegeben oder du hast uns nicht genug Geld gegeben.
Arnika Zinke
Ich verstehe dein Reasoning und es ist nicht so, dass ich dir widerspreche.Ich kann dir aber sagen, dass genau diese einfacheren Entscheidungsfindungen,genau das ist, was der Großteil der Personen, die am Verhandlungstisch saßen,vor allem die Kommission und der Rat, auf gar keinen Fall drin haben wollten.Also da ging es schon darum zu sagen, es muss etwas sein, was schon auf höherenEbenen quasi arbeitet und jetzt nicht ganz einfache Rechnungen und Excel-Tabellen.In Excel-Tabellen war immer so ein Beispiel, was sie gebracht haben.
Tim Pritlove
Die müssen auch weiterhin falsch sein dürfen, sonst läuft gar nichts mehr.
Thomas Lohninger
Ich würde da gerne noch einen zweiten Fall reinnehmen, und zwar dieser niederländischeSkandal, wo die Steuerbehörden sich vertan haben, wo ja auch die Regierung vonMark Rutte darüber gestolpert ist.Und das als Frage zu formulieren,es macht für den AI keinen Unterschied, ob jetzt ein Unternehmen hier diesesProdukt auf den Markt bringt und diesen Fehler macht oder diesen Bias hat oderob es die öffentliche Hand ist, wo man ja vielleicht sagen könnte,da wollen wir höhere Anforderungen haben.Weil beim Unternehmen kann ich vielleicht noch irgendwie sagen,okay, gut, da werde ich kein Kunde.Aber wenn es jetzt irgendwelche Behörden sind, die solche algorithmischen Systemeanwenden, habe ich oft keine Wahl.Gibt es da höhere Auflagen für die öffentliche Hand?
Arnika Zinke
Also es gibt grundsätzlich, die Hauptlast der Anforderungen liegt auf jedenFall beim Hersteller und nicht beim Anwender.Also das ist mal so die grundsätzliche Idee auch vom KI-Gesetz.Das heißt, wenn, dann würde wahrscheinlich, also gerade wenn die KI in irgendeinerForm fehlerhaft, also zum Beispiel eben Bias hat, dann würde das eher auf denHersteller fahren als auf den Benutzer.Was es aber eben schon gibt und das ist eben vor allem für Behörden,wird es wichtig sein, ist eben diese Grundrechtefolgenabschätzung,die vielleicht in dem Fall, den du genannt hast, gegriffen hätte,weil sie sich dann schon bewusst gewesen wären.Das geht aber dann schon gegen Personen, die dann zum Beispiel sozial benachteiligtsind. Aber die Hauptklasse wäre eigentlich bei dem Hersteller.Und es gibt in dem Sinne ein paar zusätzliche Anforderungen für Behörden.Aber trotzdem muss eigentlich der Hersteller garantieren und sicherstellen,dass die KI in Ordnung ist.
Ralf Bendrath
Aber wenn ich das ergänzen kann, dieser holländische Sozialversicherungsfall,der hat uns natürlich hier alle bewegt.Und eine unserer Co-Verhandlerinnen war ja die grüne Abgeordnete aus Holland,Kim van Starrentaak im Innenmarktausschuss, neben Sergej Labudinski im Innenausschuss.Und da ist jetzt im Annex 3 für die Hochrisiko-KIs Punkt 5 drin,extra, der war auch schon vorher von der Kommission, den haben wir nur ein bisschenaufgebohrt, alles, wo eine KI eingesetzt wird zum Entscheiden,ob jemand Zugang zu essentiellen privaten Diensten oder essentiellen öffentlichenDiensten und Benefits, also...
Thomas Lohninger
Also staatliche Leistungen, Sozialhilfe.
Ralf Bendrath
Oder auch essentielle private Leistungen, wenn das irgendwie Versicherungsleistungensind oder sowas, keine Ahnung.Dann fällt das auf jeden Fall unter Hochrisiko-KI, man muss die ganzen zusätzlichen Auflagen erfüllen.Unter anderem, wenn es um Gesundheitsdienste geht, aber auch darum zu entscheiden,ob jemand Anspruch auf irgendwelche Leistungen hat.Ob es Renten sind, Sozialversicherungsansprüche, was auch immer.Oder wenn man in dem Kontext versucht, die Kreditwürdigkeit von Leuten abzuschätzen mittels KI.Das ist auf jeden Fall auch Hochrisiko und braucht dann eben die ganzen Dokumentationspflichten,Bias, es muss angegangen werden in Trainingsdaten und, und, und.
Thomas Lohninger
Das heißt, um es pragmatisch zu machen, wenn ich meine Haushaltsversicherungmir verwehrt wird oder das Jobcenter sagt,du kriegst deine Arbeitslose jetzt nicht mehr oder die Schulung nicht mehr bezahlt,dann wäre das Hochrisiko, auch wenn das vielleicht nur mit Excel passiert.
Ralf Bendrath
Nee, nur wenn es auf Basis von einer KI passiert.Also wenn es schon irgendwie ein Machine Learning System dahinter hängen.Was aber immer ergreift, unabhängig vom AI Act, ist dann der Artikel in derDSGVO zu Profiling und automatisierter Entscheidungsfindung,wo ja eh schon drin steht,man darf als natürliche Person nicht sozusagen Opfer sein von einer negativenEntscheidung, die ausschließlich mit automatisierten Entscheidungssystemen getroffen wurde.Also da ist auch immer noch ein Mensch verantwortlich. Und ich habe immer nochdas Recht, mich da auch zu beschweren entsprechend nach DSGVO und so.
Tim Pritlove
Ja, ich denke, es wird dann nicht so lange dauern, bis die AI auch in Excel das Sagen hat.Von daher fällt es dann vielleicht irgendwann doch wieder da drunter.Na gut, also ein paar Lücken bestehen auf jeden Fall noch.
Arnika Zinke
Ja, wenn du gerade Lücken ansprichst, kann ich noch eine Lücke nennen,die wir leider im Endgesetz jetzt drinnen haben.Also ich habe schon vorhin erwähnt, dass quasi das ganze Gesetz das Wichtigsteist eigentlich, okay, jetzt neben den General Purpose AI Punkten,die gut sind, die Hochrisikofälle und die Hochrisiko-KI.Und da gibt es einen Artikel, der quasi sagt, was fällt in Hochrisiko und wasnicht. Das ist der Artikel 6.Und das war eigentlich die Krux in dem Ganzen oder das Wichtigste in dem ganzenGesetz, nämlich was fällt also aus dem Annex, den wir dazu haben,quasi die Bereiche drinstehen, tatsächlich in alle Anforderungen quasi, die im Gesetz stehen.Und da gibt es jetzt quasi drei Möglichkeiten, wie man sich aus dem Gesetz wiederrausholen kann, die relativ weit formuliert sind und möglicherweise auch nochin Zukunft zu Problemen führen könnten, weil sie so weit formuliert sind.Das heißt, man kann sich dann eigentlich wieder aus den Hochrisikoverpflichtungenrausholen, wenn man in diese drei Bereiche fällt.Die ganze Raison des Gesetzes, auf dem die Kommission auch ihre Logik aufgebauthat, ist eigentlich mit diesem Artikel 6 und mit diesen Ausnahmen ein bisschen zerstört worden.Und das ist etwas, das für uns sehr hart hinzunehmen.
Thomas Lohninger
Was sind das für Ausnahmen?
Arnika Zinke
Ein ganz kleiner Moment. Also, wenn die KI nur narrow procedural,also prozedurale Anwendungen sind, die quasi so ein bisschen nebenbei laufen,aber nicht quasi das Hauptressort der KI sind, dann kann man sich rausnehmen,was jetzt genau diese narrow procedural tasks sind.Haben wir jetzt ein bisschen im Erwägungsgrund erklärt, könnte man aber auchrelativ weit begreifen.Dann sagt es, wenn die KI nur versucht, eine bereits ausgeführte menschlicheAktivität zu verbessern, was ist eine bereits ausgeführte menschliche Aktivität?Das könnte alles sein. Ich glaube, Ralf hat gesagt oder jemand,es könnte eine gebaute Pyramide sein.Das ist ja auch eine beendete menschliche Aktivität. Also, ja,problematisch, wenn das KI-System nur Decision-Making-Patterns versucht zu verbessernund keine menschliche Entscheidung entwickelt.Ersetzt.
Thomas Lohninger
Aber das ist ja genauso wie das, was Ralfrat gesagt hat.Bei der DSGVO haben wir auch diesen guten Artikel, die automatisierten Entscheidungen,die sozusagen zustimmungspflichtig ist, wenn sie ausschließlich von einer Maschine getroffen wird.Also solange da irgendwo noch ein Mensch sitzt, der die ganze Zeit nur auf OKklickt zu dem, was die Maschine ihm vorgibt, kannst du dich eigentlich wieder rausreden.
Arnika Zinke
Ja, was höchst problematisch ist und was eben auch zum Beispiel dieser HumanOversight Artikel, also eine dieser Regeln, die die Hochrisiko-KI zu befolgenhaben, ist eben, dass es einen Human in the Loop gibt, also einen Menschen,der da sitzt und eben okay drückt.Und wir haben quasi auch versucht, bei den Verhandlungen zu erklären,dass es sowas wie Automation Bias gibt, also dass man quasi davon ausgeht,dass wenn die KI sagt, naja, die Person ist in irgendeiner Form kriminell,dann wird das schon stimmen, weil die hat das ja aufgrund von irgendwelchen Parametern bemessen.Und das ist eben genau das Problem, dass nur weil ein Mensch da sitzt und dasüberprüft, das nicht immer mit einem großen Gedankengang einhergeht,weil die Personen oft gar keine Zeit haben, sich da groß zu überlegen,welche Parameter da jetzt in die KI angeflossen sind.Und das ist natürlich schon problematisch, dass es jetzt diese Möglichkeitengibt, um sich quasi wieder aus dem AI rauszuholen.Das gilt aber nur für KI-Systeme und nicht für die Modelle. Also für die Modellegibt es diesen Filter, in Artikel 6 für die gilt er nicht.
Ralf Bendrath
Was wir in der Parlamentsposition, wenn ich mich richtig erinnere,dritte hatten, war ein ausdrückliches Verbot dafür, dass eine KI quasi Urteileschreiben darf, die der Richter am Ende nur noch unterzeichnet.Das ist aber leider im Trilog wieder rausgeflogen.
Thomas Lohninger
Da würde ich gerne wissen, welcher Mitgliedstaat sich dafür eingesetzt hat,dass das künftig gehen kann.
Ralf Bendrath
Keine Ahnung.
Thomas Lohninger
Ja, wir haben da zu viel...
Ralf Bendrath
Wir haben mit den Spaniern verhandelt vor allem. Aber wer dann dahinter steckt,ist uns immer so ein bisschen unklar, wenn man da nicht die Kontakte hat.Und natürlich eine Sache vielleicht noch zum Schluss.Das riesengroße Ding, das bis zum Schluss umstritten war und uns da irgendwiezwei Nächte noch gekostet hat, war halt die Frage mit Gesichtserkennung im öffentlichen Raum.
Thomas Lohninger
Ja, ich wusste, dass das jetzt so kommt. Ich hätte dich sonst gleich danachgefragt. Wie ist das denn gelöst?Hier war die große Forderung der Zivilgesellschaft, Gesichtserkennung im öffentlichenRaum wirklich gänzlich als Hochrisikotechnik zu verbieten und daran anschließendnatürlich auch alle anderen Formen biometrischer Erkennung am Gang,einfach alles, wo uns Bewegungsfreiheit im öffentlichen Raum weggenommen wirdund Datenschutz eingeschränkt.Das war auch mit einer europäischen Bürgerinitiative nochmal bestärkt,diese Forderung, Reclaim Your Face, hieß die Kampagne.Und das hat es ja, glaube ich, auch in die Parlamentsposition geschafft.Nehmt uns nicht die Hoffnung. Was ist daraus geworden?
Ralf Bendrath
Das übernehme ich mal, ja. Das ist eher mein Blutfallbereich.Ja, es steht jetzt in Artikel 5, Paragraph 1.h.Also Paragraph 1 ist, die folgenden KI-Praktiken sind verboten.Paragraph h, die Nutzung von Echtzeit-biometrischen Identifikationssystemenauf Entfernung in öffentlich zugänglichen Räumen für die Zwecke der Strafverfolgung.Ist verboten, steht so drin, aber leider ist der Satz dann noch nicht zu Ende.Der geht nämlich dann weiter, außer und insoweit, als solche Benutzung striktnotwendig ist für eines der folgenden Zwecke.Und dann kommen sozusagen die Ausnahmen, wo es dann doch erlaubt ist,die gezielte Suche nach spezifischen Opfern von Entführung oder Human Trafficking oder so.Zweitens die Verhinderung einer spezifischen,substanziellen und unmittelbar bevorstehenden Bedrohung für das Leben oder diephysische Sicherheit von natürlichen Personen oder einer genuinen und gegenwärtigenoder vorhersehbaren Bedrohung einer terroristischen Attacke.Und drittens die Identifizierung und Lokalisierung von einer Person,die verdächtig ist, eine Straftat begangen zu haben, die mit einer Höchststrafevon mindestens vier Jahren Gefängnis bestraft werden kann.Also für die Zwecke wäre es noch erlaubt. Also die Idee war sozusagen dahinterdann am allerletzten Kompromiss, Donnerstag, Freitagnacht oder wann,kurz vor Weihnachten, dass wenn irgendwo jemand eine Tankstelle ausgeraubt hatund davonrennt oder davonfährt auf dem Motorrad oder so und vielleicht keinenHelm auf hat, dass man dann schnell in Echtzeit die Kameras,die es da in der Gegend gibt,wenn die sozusagen verbunden sind und Gesichtserkennung überhaupt können undsowas, einschaltet und sagt, hier, den finden wir mal diesen einen Räuber hier.Damit wir, solange der noch in der Nachbarschaft ist, irgendwie grob eine Chancehaben, dass der irgendwie noch gefasst wird.Das war sozusagen die Idee. Da kann man dann sagen, ja, ist total offen undweit. Das hat aber bestimmte weitere Voraussetzungen noch.Das soll autorisiert werden von einer Justizbehörde oder einer anderen Behörde,die binnen der Entscheidungen treffen können, also de facto Staatsanwaltschaftdann wird das sein in der Praxis.
Thomas Lohninger
Ein Richter?
Ralf Bendrath
Ja, eben, Justiz oder Staatsanwaltschaft. Dann muss diese Behörde,die es anwenden will, vorher eine Grundrechtefolgenabschätzung gemacht haben mit dem System.Zumindest in der Regel, es gibt Ausnahmen. Dann muss es strikt limitiert sein in Bezug auf die Zeit,in der das gemacht werden darf,also die Dauer und den geografischen und persönlichen Anwendungsbereich.Du kannst ja nur die Nachbarschaft überwachen, aber nicht ganz Berlin oder so oder ganz Brüssel.Und jede Nutzung soll den zuständigenMarktaufsichtsbehörden und Datenschutzbehörden notifiziert werden.Und das Ganze ist aber sozusagen nur die Leitplanke. So weit darfst du maximal gehen.Das ist noch keine Rechtsgrundlage dafür. Es steht dann in § 5,um das machen zu können, müssen die Mitgliedstaaten selber noch eine Rechtsgrundlagein ihrem nationalen Recht schaffen.Also wir haben als KI-Gesetzgeber hier jetzt nichts erlaubt.Wir haben nur gesagt, wenn ihr das macht, müsst ihr diese Leitplanken einhalten.Und es steht ausdrücklich drin, die Mitgliedstaaten können auch restriktivereGesetze verabschieden zu dem Thema.
Tim Pritlove
Da ist aber jetzt ein Wort drin, nämlich das Wort Echtzeit.Wenn ich das jetzt richtig verstanden habe, schließt diese ganze Regelung nurdie Echtzeitverwendung aus, aber nicht die Vorratsdatenspeicherung sozusagen.
Ralf Bendrath
Die Vorratsdatenspeicherung von Kamerabildern ist nochmal ein ganz anderes Thema.Das ist nicht vom KI-Gesetz geregelt. Also wie lange so eine Kamera Bilder aufbewahrendarf, das ist außerhalb des Geltungsbereichs vom AI-Act.
Tim Pritlove
Ja, beziehungsweise wenn man halt jetzt sozusagen Gesichtserkennung macht aufden Daten, aber halt nicht in Echtzeit.
Thomas Lohninger
Du speicherst die fünf Minuten ab und danach machst du die Gesichtserkennung drüber.
Tim Pritlove
Zum Beispiel, oder auch ein paar Tage so.
Thomas Lohninger
Oder es ist halt irgendwie, du hast es vorher gesagt, nur für den strafrechtlichenBereich. Die Privaten sind davon jetzt nicht umfasst.
Ralf Bendrath
Die Privaten sind nicht erfasst und auch sowas wie Grenzkontrollübergänge sind nicht erfasst.Das ist von der Datenschutzgrundverordnung geregelt. Da gibt es zum Beispielauch schon Entscheidungen der Datenschutzbehörden, wenn irgendwelche Fußballstadienein Verbot hatten von Hooligans, dann haben sie teilweise Gesichtserkennungeingesetzt, um die einzelnen Hooligans, die ein Stadionverbot hatten, zu finden.Da gibt es Entscheidungen der Datenschutzbehörden, sozusagen außerhalb dieserRegelung hier. Was es aber auch noch gibt, ist eine Regelung zu retrograderbiometrischer Gesichtserkennung, also Post-RBI, eben nicht in Echtzeit.Und da ist eben die Idee, dass das nicht mehr verboten ist, sondern nur nochHochrisiko, was für uns ein super, super dicke Kröte war, das zu schlucken.Könnt ihr euch vorstellen.Wir wollten komplett verabredet von allem. Wir haben jetzt schon in Echtzeitda irgendwie ein paar Ausnahmen drin reingekriegt, die aber,wie gesagt, für spezifische Verdächtige und so nur greifen.Und für retrograde KI-Echtzeit, nein, für retrograde Gesichtserkennung im öffentlichenRaum, da brauchst du erstmal die Aufnahmen, sonst kannst du es nicht machen.Und da gibt es dann eben unter Datenschutzrecht schon Regeln,wie lange dürfen Videokameras die Daten speichern und so und nach wie vielenStunden müssen sie gelöscht werden oder überschrieben werden.Und wenn du diese Daten noch hast, wenn die mal gespeichert sind und auch legalnoch gespeichert waren, dann kannst du die jetzt für ähnliche Fälle benutzen,nämlich für eine gezielte Suche nach einer Person,die auch wieder einer Straftat verdächtig ist, in dem Fall nicht mal eine schwereStraftat, sondern generelle Straftaten, wiederum mit Autorisierung eines Gerichtsoder einer Staatsanwaltschaft.Limitiert auf das, was strikt notwendig ist für die Ermittlung in einem spezifischenStrafverfahren, also kannst du die einfach allgemein erstmal alle so abscannen, ohne Anlass,In keinem Fall soll so ein Hochrisiko-KI-System genutzt werden für Strafverfolgungszweckein einer ungezielten Art,untargeted way, ohne Link zu einer spezifischen Straftat oder einem Strafverfahrenoder eben einer spezifischen drohenden Gefahr oder so.Und solche Nutzungen müssen dann zumindest in der relevanten Polizeiakte dokumentiertwerden und auch den Marktaufsichtsbehörden und Datenschutzbehörden verfügbargemacht werden auf Nachfrage.Und wir sind uns, glaube ich, alle echt einig, dass das nicht gut ist.Das ist irgendwie viel, viel offener und viel weiter, als wir es uns gewünscht hätten.Das war am Ende sozusagen der Kompromiss, der auch noch total verfahrensmäßigrichtig übel gelaufen ist. Wir hatten am letzten Abend des Trilogs, das war das 12., 10.Dezember oder so, hatten wir noch keinen finalen Text zu dieser retrograden Gesichtserkennung.Wir hatten aber vorher einen Text von einer spanischen Ratspräsidentschaft bekommen,der irgendwie in die richtige Richtung ging. ging.Da war noch eine limitierte Liste mit Straftaten, wo das genutzt werden kann und so weiter.Aber irgendwie ist es dann nicht mehr dazu gekommen, noch einen finalen Textauszufaden in der Nacht.Und dann sind alle nach Hause und ins Wochenende und am Montag oder Dienstaghaben wir noch mal wieder ein paar Aufräumtermine gehabt auf technischer Ebene,also Mitarbeiterebene.Und dann kriegen wir plötzlich von den Spaniern da einen Text präsentiert,der einfach komplett anders war als das, was wir gedacht hatten, wie die Einigung ist.Und dann ging es wirklich noch zwei Wochen hin und her.Die letzte Woche war dann irgendwie die die Sitzungsfeierwoche vor Weihnachten,wo alle schon im Urlaub waren.Ich saß da irgendwie an der Nordsee im Ferienhaus und habe mir noch E-Mails hin und her geschickt.Und dann ist am Ende das hier rausgekommen, wo dann auch irgendwie jetzt sozusagenkeiner mehr das Fass nochmal komplett aufmachen wollte.Der Trilog war sozusagen schon fertig und dann wurde diese Kröte geschluckt.Muss man nicht gut finden, überhaupt nicht. Und die Bundesregierung hat,glaube ich, schon entschieden, dass sie es auf jeden Fall enger ziehen will,wenn es überhaupt in Deutschland irgendwie Gesetzesgrundlage dafür geben wird.Und wir werden natürlich weiter dafür kämpfen, wenn das Ding mal wieder renoviertwird oder andere Gesetzesvorschläge kommen, die das irgendwie berühren könnten,dass das auf jeden Fall enger gezogen wird, ganz klar.Aber an dem Punkt jetzt den ganzen AI-Act scheitern zu lassen,war es uns auch nicht wert genug, weil da einfach so viele Sachen drin sind,die einfach jetzt mal gut sind, dass sie an den Start kommen.
Thomas Lohninger
Es war ja kurzzeitig so, dass es die Mehrheit im Rat in der Schwebe stand undwir beide haben uns ja genau zu der Zeit getroffen und du meintest,ob ich da irgendwie bei der österreichischen Justizministerin fragen würde.Ich bin mir bis heute nicht sicher, ob das Gesetzeswert wäre, gerettet zu werden.Aber um vielleicht auch da zum Abschluss zu kommen, würde mich von euch beidennoch interessieren, was mit diesem Gesetz denn jetzt wirklich so die prägnanteSache, der prägnante Missstand sein soll,den wir damit wirklich hoffentlich verbessern.Bei der DSGVO, was ja damals Facebook, da war die große Erwartungshaltung,dass wir damit endlich Facebook dazu bringen, mit personenbezogenen Daten besser umzugehen.Ich glaube, es ist sehr überschaubar, was wir damit wirklich geschafft haben,trotz aller guten Absichtsbekundungen damals. Wie ist es beim AI-Act?Also ist da jetzt Palantir zum Beispiel, müsste es da eigentlich Änderungenin der Realität geben mit diesem Gesetz, wo ihr sagt, da sollte wirklich sichetwas in der Praxis ändern oder auch die Schufa zum Beispiel.Also Kreditauskunft Hain ist da aus eurer Sicht, um es nochmal zu Ende ganz praktisch zu machen.Was erwartet ihr euch jetzt von dem AI-Act, an dem ihr so lange gearbeitet habt?
Arnika Zinke
Ich fange mal an. Also ich glaube, dass so ein bisschen das,was quasi immer unter diesem Begriff vertrauenswürdige KI,made in Europe, quasi gedacht wird, dem quasi ein bisschen ein Gesetz dahintergelegt wird, was das eigentlich bedeutet.Das heißt, welche konkreten Anforderungen haben wir an die zukünftigen KI-Systeme,die in Europa auf den Markt gebracht werden?Was sind sozusagen die Mindestanforderungen, die das erfüllen muss?Und das Gleiche für die Modelle. Also es ist quasi eine Mindestanforderung,ein bisschen eine Ausdeklinierung dessen, was wir quasi unter schönen Wortendie ganze Zeit erzählen, wie wir das gerne hätten.Und ein paar Systeme sind eben komplett verboten, aber es sind eben viel weniger,als wir eigentlich für notwendig gehalten hätten.Also es ist nicht der große Wurf,den sich manche erhofft hatten, aber ich glaube, wenn man sich das Gesetz anschautund auch wie das Gesetz gemacht ist,dann konnte dieses Gesetz auch nie diese Erwartungshaltung erfüllen,auch weil KI und automated decision making so viele Bereiche umfasst.Das geht eben von biometrischer Massenüberwachung bis KI-Systeme,die kreativ verwendet werden oder die sagen, zu welcher Schule du gehen sollst.Und den Bereich so groß zu spannen, heißt halt auch, man kann nicht ganz obenanfangen, sondern es ist quasi ein Minimalkonsens darüber, wie KI-Systeme inZukunft gemacht werden sollen.Aber gerade auch darauf basierend, welche KI-Systeme jetzt schon am Markt sind,ist es extrem schwierig zu sagen, weil auch da die Anforderungen ja auch vielspäter erst in Kraft treten werden.
Ralf Bendrath
Aber ganz konkret, wegen Palantir, wenn Palantir genutzt wird,um über individuelle Personen Vorhersagen zu machen, ob sie irgendwann mal eineStraftat begehen, dann muss das jetzt weg.Das ist nicht mehr erlaubt in Zukunft, so ganz konkret. Und es soll eben auch,wie gesagt, sowas wie diesen niederländischen Sozial-Social-Benefits-Skandalda irgendwie in Zukunft vermeiden, helfen.Eine Sache, die wir noch gar nicht erwähnt hatten, wo wir aber auch ziemlichdrauf stolz sind, ist, dass jetzt in Zukunft viele KI-Systeme,vor allem die Allzwecksysteme, auch Energiebilanzen offenlegen müssen.Das Zeug verbraucht ja unglaublich viel Strom und auch Wasser.Das muss jetzt offengelegt werden, mindestens für die General-Purpose-KIs. Da bin ich mal gespannt.Also Ökobilanzen und so haben wir jetzt auch drin. Auch einer unserer Erfolge.
Tim Pritlove
Das ist eine gute Regelung. Da bin ich auch gespannt, wie das ausgeht.Ob man das überhaupt so berechnet bekommt. Wahrscheinlich schon irgendwie.
Ralf Bendrath
Das kannst du einfach berechnen. Du hast irgendwie so viele Millionen Videokartenund guckst halt, was die dann Strom verbrauchen. Das ist nicht so schwer.
Tim Pritlove
Ja, ist klar. Gut, ich denke, den AI-Act-Teil können wir damit beschließen, oder?
Thomas Lohninger
Ich glaube auch, wenn es von eurer Seite nichts mehr gibt, dann,wir sind schon relativ lange, deswegen machen wir das jetzt vielleicht sehr kurz.Ich wollte nur nochmal so einen Ausblick auf die EU generell.Ihr sitzt ja auch weiter in Brüssel und seid da sehr nah dran und wir haben jetzt ein paar.
Ralf Bendrath
Wir sind mittendrin.
Thomas Lohninger
Genau, statt nur dabei und habe da ja auch wirklich auch, es heißt ja irgendwieso schön, dass das Herstellen von Würsten, von Sausages und das Gesetze machen,da will man nicht so genau wissen, wie es wirklich passiert und gleichzeitigist die EU auch gerade am Ende ihrer Legislaturperiode, im Juni sind Wahlen.Man hat auch, glaube ich, gesehen, dass ganz viele netzpolitische Themen dannam Ende an den Mehrheitsverhältnissen im Parlament und natürlich auch in dennationalen Regierungen hängen.Und ja, nach allen Vorhersagen wird es einen Rechtsrott geben im Europaparlament.Das heißt, es wird eine Mehrheit geben aus den Fraktionen ID,was AfD, FPÖ ist, ECR, also die europaskeptischen Konservativen bis Rechtsextreme in manchen Fällen.Und halt auch der Europäischen Volkspartei.Und das wird natürlich, glaube ich, dann auch so diese Schlagzahl der Gesetze,vor allem wenn es darum geht, Harmonisierungen durchzuführen.Wahrscheinlich reduzieren.Was manchmal vielleicht sogar ganz gut wäre, wenn man sich mehr Zeit nimmt fürdie Gesetze, schaut, dass man wirklich eine breite Mehrheit hat.Insgesamt ist mein Eindruck, auch wenn ich euch heute so zugehört habe,dass ganz viel am Zeitdruck liegt.Dass etwas unbedingt bis dahin fertig werden muss und dann sind halt irgendwiedrei Viertel der Leute schon auf Urlaub und Ralf muss irgendwie aus dem Ferienhausheraus dann das fertig verhandeln.Das kann es ja nicht sein. Also ich meine, wenn sich Europa ernst nimmt,dann muss man den Gesetzestext vor sich haben ausverhandelt und dann entscheiden,ob der eine Mehrheit hat.Also ganz oft tut einem das ja schon beim Zuhören und Zuschauen weh,wie dann wirklich diese Entscheidungen, wie stümperhaft diese Entscheidungen zustande kommen.Aber ja, wie geht es euch damit und wie schaut ihr jetzt so auf die Zeit nach der Wahl?
Ralf Bendrath
Vielleicht zu der ersten Frage, wie laufen sozusagen diese Trilogverhandlungen?Ist das wirklich immer so schlimm?Als wir die Datenschutz-Grundverordnung damals verhandelt haben,haben wir wirklich den Text vor uns gehabt. Der wurde auf meinem Laptop mitprotokolliert,je nach Verhandlungsstand.Und am Ende des letzten Triloges, das war auch so nachts um elf,aber immer noch eine halbwegs menschenwürdige Zeit, hatten wir einen fertigen Text.Text, der muss dann ein paar Mal noch horizontal angepasst werden,das haben wir dann noch kurz danach noch gemacht in meinem Büro und der konntedann direkt an die Mitgliedstaaten rausgehen und auch an alle Abgeordneten, die beteiligt waren.Das habe ich jetzt ein paar Mal erlebt, dass das nicht so gelaufen ist.Mal gucken, wie es morgen Nacht wird bei den Gesundheitsdaten,ob wir da einen finalen Text haben, da ist es zumindest ein bisschen besser,dass jetzt schon mal Textentwürfe vorher flottieren.Beim AI-Hack war es einfach wirklich chaotisch, wir hatten beim letzten Trilog,als der anfing, noch 22 Punkte offen, haben dann wirklich von Nachmittags umdrei die ganze Nacht durch bis zum nächsten Mittag um eins verhandelt,dann eine Pause gemacht,einmal schlafen können die Nacht dann und am Freitag um acht Uhr morgens ginges schon wieder weiter bis nach Mitternacht.Und da gab es dann einfach teilweise keine Texte. Ich habe von anderen Trilogengehört, wo es teilweise nur so Bullet-Point-Listen gab, auf was man sich jetztgeeinigt hat, wo dann die technische Ebene hinterher noch einen Monat beschäftigtwar, das auszuformulieren.Da hat, glaube ich, die Qualität echt ein bisschen gelitten in letzter Zeit, ist so mein Eindruck.Da gibt es aber jetzt auch schon eine Reaktion drauf und zumindest vom Parlamentaus gibt es jetzt offenbar Bestrebungen, ein interinstitutionelles Abkommenzu verhandeln mit dem Rat und der Kommission, wie genau so Triloge eigentlich geführt werden müssen.Weil das oft immer noch sehr informell ist, die sind ja auch in den Verträgen irgendwo vorgesehen.Ich bin trotzdem der Meinung, man braucht so einen geschützten Raum,wenn man sich auf irgendwelche Texte einigen will. Da muss man halt die Köpfezusammenstecken mit Ausschluss der Öffentlichkeit.Aber das braucht zumindest ein paar Regeln. Und da soll jetzt hoffentlich nachder Wahl mit den anderen Institutionen daran gearbeitet werden.
Thomas Lohninger
Annika, wie siehst du das?
Arnika Zinke
Ich glaube, das Problem war auch jetzt beim KI-Gesetz die einfache Unmenge anGesetzen, die jetzt noch verabschiedet werden sollten vor Ende der Legislaturperiode.Und die Angst, die halt irgendwo immer auch mitgeschwungen ist,ist, was, wenn wir dieses Gesetz eben nicht, dieses Mandat fertig kriegen.Was bedeutet das dann mit einem deutlich rechteren Parlament?Kriegen wir da noch die Punkte, die uns wirklich wichtig sind, durch?Und vor allem auch im Hinblick darauf, dass eben Ungarn auch die nächste Ratspräsidentschaftnach Belgien jetzt hat und damit dann viele von den Prioritäten,die wir hatten, was Menschenrechte betrifft, sehr unwahrscheinlich gewesen wären.Das heißt, es hätte sich noch weiter verzögert und dann wären wir im Jahr 2025gewesen, wo wir dann wieder angefangen hätten, an KI-Gesetzen zu arbeiten unddann sind wir halt auch keine Vorreiter mehr.Also dann hätten wir eigentlich vielleicht sogar das Gesetz nochmal komplettneu machen müssen. Also das ist halt immer mit geschwungen, aber ich gebe grundsätzlichrecht, dass die Tatsache, dass wir keinen finalen Text hatten,das war einfach unglaublich. Und wir haben auch wirklich drum gebettelt.Und das war einfach dann auch vielleicht der Zeit geschuldet,die wir da gesessen sind, ist dann einfach ausgerufen worden,dass es einen Deal gibt und dann haben sich halt auch Politiker mitreißen lassen.Diesen Deal einfach dann festzusetzen.Und ja, ich finde das auch super problematisch und ich hoffe auch,dass es in Zukunft besser läuft.Ich weiß auch, dass wir uns in dem Ausschuss, der sich eben mit den ganzen Prozessenbeschäftigt und den Rules of Procedure dafür einsetzen, dass es eben auch bessereRegeln in den Trilogen gibt, dass es auch etwas mehr Transparenz gibt.Also es muss nicht unbedingt einen Livestream geben, aber dass gewisse Dokumenteauch etwas transparenter sind.Und das hoffe ich mir für die Zukunft auch eben auch, um das Vertrauen in dieEU-Institutionen auch zu verbessern.Absolut.
Thomas Lohninger
Ich glaube, der Zugang zu Texten, ich meine, ich habe die ja dann oft über Kanäle,aber dass das nicht öffentlich ist, ist wirklich ein Unding.Was in Parlamenten diskutiert wird, sollte öffentlich sein.Und ein Vorschlag für diese Regeln, die ihr euch geben wollt,es würde schon sehr viel helfen, wenn Europaabgeordnete sich nicht bereit erklären,auf irgendwelchen Fotos mit der Kommission und der Ratspräsidentschaft zu sein,bis der Text wirklich ausverhandelt ist.Weil oft ist es so irgendwie das getwitterte Foto und jetzt sind wir fertigund dann stehen alle auf und glauben, dass sie wirklich fertig sind,auch wenn danach noch ganz viel wegverhandelt wird.Das haben wir leider ein paar Mal gesehen und das ist nur ein billiger Trick.Ich hoffe, das war heute trotzdem eine Sendung, die nicht nur traurig zurücklässt,sondern ein bisschen aufgezeigt hat.
Ralf Bendrath
Cyber, Cyber, alles gut.
Tim Pritlove
Aber jetzt will ich noch wissen, hilft euch denn AI sozusagen auch bei der Analysedieser ganzen Textvorschläge?Ich meine, ihr seid ja auch die ganze Zeit so in diesem Business mit,ihr kriegt so viel Text zugeschickt und permanent müsst ihr irgendwie verstehen,was da jetzt eigentlich mit gemeint ist.Kommt da sozusagen auch schon die LLM zum Einsatz oder macht ihr das alles noch von Hand?
Thomas Lohninger
Welcher Teil von May I Act wurde von ChatGPT geschrieben?
Arnika Zinke
Also ich kann sagen, das einzige Mal, wo ich in meinem Leben Chachapiti verwendethabe, um mit meinem Freund zu brainstormen, welche Hundenamen wir uns überlegen möchten.Ich schwöre. Also wir haben alle Texte selber gelesen und selber analysiertund es waren sehr, sehr viele Texte.Aber die Versuchung ist natürlich groß, aber es spielt eigentlich nicht wirklicheine Rolle, weil gerade diese Texte so spezifisch sind und so technisch und so kontextbasiert,dass es schwierig wäre und ich finde auch ethisch problematisch,das durch irgendeine KI zu jagen.
Tim Pritlove
Ja, okay.Man kann es ja auch...Ganz praktisch sehen, einfach als Tool, also ich gebe zu,dass jetzt zum Beispiel auch gemacht zu haben, ich nehme mir so einen kompletten Text,den ich jetzt, wenn ich den lesen würde, ohnehin nicht verstehen würde,weil mir einfach das juristische Modell dafür fehlt und die Dingertaugung sicherlichfür vieles nicht, aber dieses Text zusammenfassen, das kriegen die schon irgendwie ganz gut hin.Und dann kann man halt zumindest schon mal reinstochern und sagen so,wird da etwas erwähnt zu dem und dem und so weiter und das ja,das sind schon mal ganz hilfreiche Ansätze für mich, aber dass ihr das professionellerhandhabt, daran habe ich keinen Zweifel.
Ralf Bendrath
Word und solche Software kann ja Auto-Summarize schon länger,da brauchst du keinen Chatbot für.Aber unser Job ist halt leider nicht nur die Zusammenfassung zu machen,sondern das Ding im Detail zu lesen und zu verstehen und umzuschreiben,da kommt einfach kein Weg dran vorbei.
Tim Pritlove
Na klar. Na gut, dafür seid ihr ja auch hier die Profis.Vielen, vielen Dank für eure Ausführungen und natürlich auch für eure Arbeit an den Gesetzeswerken.Das ist ja mit wenig Urlaub gesegnet, wie wir gerade gehört haben.Und ja, das ist ja eine Entbehrung. Dann kriegst du vielleicht den nächstenneuen Eintrag, Annika, auch bei der IMDB, wenn du dann wieder in Hollywood-Fußstapfen steigst.
Arnika Zinke
Ja, danke euch für die Einladung.
Thomas Lohninger
Danke auch von meiner Seite und bitte weitermachen und bis zum nächsten Mal.
Tim Pritlove
Danke. Alles klar, das war's heute vom Logbuch Netzpolitik.Bald geht's wieder weiter, dann vielleicht auch wieder mit Linus.Wir sagen tschüss und bis bald.

Shownotes

Product Liability Directive

Cyber Resilience Act

Platform Workers Directive

European Health Data Space

AI Act

LNP485 Raus aus dem Wohnzimmer

Putins Bären — eID-Hack — eIDAS und DPI — Chat-Interoperabilität — Politische Inhalte — Air Canada Chatbot — European Health Dataspace — Deepfakes — Correctiv — Pay or Okay — Frag den Staat — Informationsfreiheitsgesetz AT — Termine

Tim ist auf Reisen und so springt Thomas ein und herausgekommen ist eine Sendung in Sonderlänge mit einer Vielzahl an Schwerpunkten. Hört doch mal rein.

avatar
Linus Neumann
avatar
Thomas Lohninger

Für diese Episode von Logbuch:Netzpolitik liegt auch ein vollständiges Transkript mit Zeitmarken und Sprecheridentifikation vor.

Bitte beachten: das Transkript wurde automatisiert erzeugt und wurde nicht nachträglich gegengelesen oder korrigiert. Dieser Prozess ist nicht sonderlich genau und das Ergebnis enthält daher mit Sicherheit eine Reihe von Fehlern. Im Zweifel gilt immer das in der Sendung aufgezeichnete gesprochene Wort. Formate: HTML, WEBVTT.


Transkript
Thomas Lohninger
Guten Morgen Linus.
Linus Neumann
Guten Morgen Thomas.Logbuch Netzpolitik, die Folge 485. vom 26.Februar 2024 hier live, nicht aus der Meta-Ebene, dafür zwischen Wien und Berlinmit Thomas Lohninger aus dem Land,das von Jan Böhmermann jetzt auf einmal immer wieder Österreich als,als wurde das Land verunglimpft oder nur eure komplette politische Installation?
Thomas Lohninger
Als Österreicher ist man das alles gewohnt. Das Schlimmste ist eigentlich,dass er dieses Lied die ganze Zeit gespielt hat und dass ich das jetzt als Ohrwurm habe.Also das muss man als Warnung aussprechen.Die FPÖ hat da leider sehr bösartige, eingängige Hymnen, die immer wieder vorkommen.Aber ja, wir haben einen neuen Magazin-Royal-Böhmermann-Clip bekommen zu derSituation in Österreich mit einer FPÖ auf 30 Prozent in den Umfragen,Stimmenstärkste Partei und es wird ja noch ein paar Mal gewählt dieses Jahr.Also das ist nicht angenehm, aber umso wichtiger, dass man sich damit beschäftigt.Und gleichzeitig, ich weiß, für euch Deutsche ist das immer dann der totaleAufreger zu sehen, wie heftig Österreich ist. Wir sind das halt gewohnt seit 40 Jahren.Also das macht es nicht besser, aber es ist dann halt, man lernt mit allen zu leben.
Linus Neumann
Habt ihr euch denn überlegt, was da mal was gegen zu unternehmen oder so?
Thomas Lohninger
Ja, hatten wir doch. Es gab doch Ibiza. Das Problem ist, das war keine langfristige Lösung.Die Pandemie hat das wieder aufgewogen,die FPÖ ist da leider wieder auf eigentlich ein Niveau gekommen,was sie vorher noch nie so hatte und ist da in ihrer Opposition zu jeder Vernunftund der Wissenschaft und ihrer Russlandliebe im Moment sehr stark im Aufwind in Österreich.
Linus Neumann
Aber, okay, gut, wir haben gesagt, wir machen es kurz als Intro.Warum? Ich verstehe immer nicht, warum. Weißt du,in irgendwelchen schwer frustrierten Bundesländern Deutschlands,wo auch irgendwie seit schon lange nicht viel Kluges mehr herkam,da kann ich mir teilweise irgendwie mit sehr viel Vorstellungskraft herbeireden,warum da irgendwie die Bauernfänger greifen.Aber Österreich ist ja jetzt kein Land, dem es besonders schlecht gehen würde.Oder habe ich da einen falschen Eindruck?
Thomas Lohninger
Nee, also das ist, wenn dann eine Wohlstandsverwahrlosung, aber Österreich isthalt sehr viel Land und wenig Stadt.Abseits von Wien gibt es da nicht viel.Und es ist halt auch ein Land mit einer über viele Jahrzehnte zumindest rechtskonservativen Mehrheit.Wir wurden nie richtig entnazifiziert, wir waren ja das Opfer.Und daraus hat sich einfach ein anderer Grundkonsens ergeben.Und sowas wie eine Brandmauer, die Deutschland gerade versucht zu erhalten,die gab es in Österreich nie.Also auch irgendwie so der sozialdemokratische Kanzler, der immer beschworenwird, Kreisky, der selber Jude war und im KZ hatte auch Nazis in seiner Regierung.Also die waren nie weg und deswegen ist es so gefährlich, dass die jetzt wieder da sind, wo sie sind.Und ja, wir haben die Europawahl jetzt im Juni, das wird ganz spannend.Aber was vielleicht auch nochmal…,Österreich kann ja immer als Operette ganz humoristisch sein,was vielleicht untergegangen ist, ist, dass Sebastian Kurz jetzt erstinstanzlich verurteilt wurde.
Linus Neumann
Wie ich auch sage.
Thomas Lohninger
Und das macht auch so ein bisschen Hoffnung. Also dessen politische Karriereist zumindest mal für absehbare Zeit weiter im Abklingbecken.Also ich glaube eher, dass der in die Richtung von Karl Theodor von und zu Guttenberggeht und nicht in die Richtung von Bibi Netanjahu, der nie aus der Politik hinaus zu wählen ist.Zweiterer war sein Vorbild, aber ich glaube, das hat er sich jetzt verbaut miteiner total dummen Falschersage, die er nicht hätte treffen müssen,aber es war sein Stolz und die PR über sich selber hat er geglaubt.An dem ist er verfallen, deswegen ist dieser Blödsinn jetzt passiert.
Linus Neumann
Was hat er genau ausgesagt? Für welche Falschaussage wurde er verurteilt?
Thomas Lohninger
Also es ging um die Postenbestellung von Thomas Schmidt.Es ist ein sehr illustrer Charakter in der österreichischen Politik,der ganz maßgeblich an der Machtergreifung von Sebastian Kurz beteiligt war.War als Kabinettschef im Finanzministerium, hat der die Millionen zugeschanzt,mit der nachher, wie in einer anderen Anklage verhauptet wurde,eben die Umfragen gekauft wurden und die Medienberichterstattung,sodass Kurz an die Macht kam, auch innerparteilich.Und dessen Handy wurde beschlagnahmt, da hat sich ganz viel drin gefunden.Was eine eigene Sendung wert wäre.Aber in der Bestellung von dieser Person, von Thomas Schmidt,wurde Sebastian Kurz im Ibiza-Untersuchungsausschuss befragt und meinte dortauf die Frage der Postenbestellung, dass er nur informiert und nicht involviertgewesen wäre und hat da alles abgestritten, dass er da irgendwie beteiligt gewesen wäre.Was ja jeder versteht als Kanzler, dass man irgendwie sagt, das war ganz einwichtiger Staatsposten, wo es um staatliche Beteiligungen geht,also im Milliardenumfang.Und wenn er da gesagt hätte, natürlich habe ich da ein Auge drauf gehabt,hätte es jeder verstanden, außer halt irgendwie seine politischen Mitbewerber,die vielleicht gesagt haben, kein neuer Stil.Aber das wollte er nicht, da hat er sich wirklich verbissen da drin,dass er da nichts damit zu tun hatte.Und das war jetzt laut erstinstanzlichen Urteil, was nicht rechtskräftig ist,und das gilt die Unschuldsvermutung, eben eine Falschaussage.Und für die wurde er jetzt für acht Monate Haft verurteilt, aber bedingt.Und er geht natürlich in Berufung und es gibt eben auch noch ein zweites Verfahren.Also ja, da bleibt Spannung. mit.
Linus Neumann
Ich würde mir wieder so eine seriöse,Politik irgendwo wünschen, aber gut, habt ihr nicht.
Thomas Lohninger
Ich mir auch.
Linus Neumann
Ja, gut. Okay, gehen wir zum Feedback.Wir haben Feedback bekommen zum Thema Attribution von Fake-Bildern und Echtbildern.Vielleicht möchtest du den ersten Kommentar vorlesen.
Thomas Lohninger
Genau, also Mari Waters schreibt, meine Intuition bezüglich Generative AI Watermarkingläuft genau entgegengesetzt zu Linus.Beim Markieren des generierten Kontos handelt es sich technisch ja um einen,steganografischen Covert-Channel, der in der Tat kaum ausreichend robust gestaltet werden kann.Der praktische Nutzen liefert deshalb auf wenig mehr als das freiwillige Mitlieferneines entsprechenden Metatexts hinaus.Die Authentifizierung originalen Contents andererseits würde durch klassischeSignaturverfahren realisiert,die bei entsprechend konsequentem Timestamping und Revocation geleagter PrivateKeys eine ungleich stärkere Garantie für die Vertrauenswürdigkeit einer Quelleund damit langfristiger Vertrauensbildung böten.Das finde ich ganz spannend, weil ich muss gestehen, als ich die letzte Folgegehört habe, habe ich mir das auch gedacht.Und deswegen diskutieren wir es nochmal.Also ich glaube auch, es ist auf jeden Fall ausgeschlossen, dass wir das Umgekehrtehinbekommen, dass wir die Fakes irgendwie durch die LLMs markieren lassen,sondern wenn, dann schaffen wir es irgendwie Autorinnenschaft von Bildern oderanderen Inhalten in Metadaten mitzuliefern,was natürlich ganz eigene Phenomous Speech und Datenschutzprobleme mit sich bringen könnte.
Linus Neumann
Aber wo kommt dieser Private Key her?
Thomas Lohninger
Der müsste halt vom Hersteller kommen, oder?
Linus Neumann
Vom Hersteller einer Kamera, oder was?
Thomas Lohninger
Ja, aber genau der nächste Kommentar beschäftigt sich mit der Frage.
Linus Neumann
Okay, dann lese ich den mal vor. Von Franzl ist der.Vielen Dank wieder einmal für eure Sendung, bitte, bitte.Ich würde gerne nochmal zu den Quellensignaturen bei Bildern einhaken,weil ich mir nicht sicher bin, ob sie nicht doch dazu beitragen könnten,Deepfakes zu verhindern.Technisch könnte ich mir vorstellen, dass es bereits genügen könnte,wenn der Private Key auf dem Kamerachip erzeugt wird und diesen gar nicht verlässt,allenfalls resettet werden kann.Bei Bedarf kann man eine Signaturkette erzeugen, Verfahren mit entsprechenderSpezialhardware gibt es und werden seit einiger Zeit auch erfolgreich eingesetzt.Apple nutzt solche Infrastruktur seit Jahren, um die Integrität von deren Systemensicherzustellen und bislang lief das zumindest ohne große Probleme.Selbst für die Nachbearbeitung fänden sich Lösungen.Es würde ja schon mal reichen, wenn das Originalmaterial für alle oder für einenvertrauenswürdigen Kreis von Leuten zugänglich ist.Also, bei Bedarf kann man eine Signaturkette erzeugen, also entweder gibt es die oder nicht,ja, und die wird ja nicht bei Bedarf erzeugt, also eigentlich müsste der PrivateKey von dieser Kamera einmal signiert worden sein.Und ich glaube halt, dann ist er signiert und dann, also die,es ist die eine Sache so ein Entschlüsselungsschlüssel irgendwie sicher zu haltenund nochmal eine andere, einen, den man die ganze Zeit zum Signieren anwendet, sicher zu halten.Und ich bin nicht so, also ich glaube halt,dass es immer wieder schief gehen wird und am Ende brauche ich,hättest du, würden reihenweise CA's, die dann eben dafür bürgen,dass irgendetwas echt ist oder von einer Nikon oder von einer Canon Kamera oder sonst was kommt.Ohne Ende revoken müssen, weil wieder einmal irgendwo ein Key rausgetragen wird.Was man natürlich machen könnte, wäre, dass man irgendwie den an Personen bindetund dann eben auch Personen das Vertrauen entzieht.Aber das Watermarking kriegt man ja auch wieder raus, weißt du?Du machst einfach so lange Rauschen in das Bild, bis der Cover Channel weg ist. Das siehst du ja.
Thomas Lohninger
Ja und vor allem, wenn das Bild dann im Photoshop nachbearbeitet wurde,ist es nicht mehr das Original.Du hast auch nicht immer das Original vorrätig, um irgendwie eine Ableitung zu beweisen.
Linus Neumann
Es wäre ja im Notfall in Ordnung zu sagen, okay, das könnte man zum Beispielals Metadatum machen, dass man sagt, okay, es wird noch mal das Original mit eingefügt.Aber was ist denn heutzutage noch ein Original?
Thomas Lohninger
Ja, eben. Also ich meine, mach ein ein Bild vom Mond von irgendwelchen Android-Handys.Das ist auch alles AI-generiert.
Linus Neumann
Das ist ja noch nicht mal AI-generiert. Die malen einfach einen anderen Monddahin, damit der geiler aussieht.Okay, aber ich kann dem Argument folgen, das hier von Muddy Waters vorgeführt wird, das er besagt.Wahrscheinlich ist es hilfreicher, die Fakes zu Watermarken als die Originale zu signieren.Und dem Argument kann ich deshalb Weil es ja schon unendlich viele Originale gibt,die nicht signiert sind und dem gegenüber verhältnismäßig wenige Fakes und verhältnismäßigwenige Leute gut Fakes erstellen können.Aber beide Verfahren haben in meinen Augen trotzdem das Problem,dass irgendwann einmal ein Fake ohne Watermark oder ein Fake mit Signatur erscheinenwird und dann das Vertrauen in das Verfahren verloren geht.Und das ist eigentlich unabhängig davon, welches von beiden ist.Trotzdem kann man wahrscheinlich mit Watermarks, da würde ich dann zustimmen,potenziell erstmal den größeren Teil des Problems erschlagen können also den,als mit Signaturen, einfach weil es Unmengen an Kameras gibt,die nicht signieren können und damit hat es sich dann auch und du bräuchtestja einfach ein Verfahren, das von jetzt auf gleich bei allen,wirkt, insofern würde ich dann zustimmen dass es,der vielversprechenderer Ansatz ist.
Thomas Lohninger
Gut.
Linus Neumann
Gleichzeitig kommt jetzt ja auch schon irgendwie OpenAI mit Sora und kann jetztnicht mehr nur Bilder generieren, sondern ganze Videostrecken.Das heißt, das wird jetzt noch mal um einiges interessanter.Sascha Lobo hat schon die absolute Dystopie in seiner Spiegelkolumne verzeichnet.Er hat so ein bisschen gesagt, Wenn man jetzt so diese TikTok-Algorithmen mitKI lernen und KI generieren,wenn man das alles verbindet, dann kann man irgendwie die gesamte Welt,die gesamte Bevölkerung in unterschiedliche Parallelrealitäten schaffen.Also quasi aktuell ist TikTok ja wenigstens noch darauf angewiesen,dass andere Leute Content zufüttern.Wenn es auch das nicht mehr ist, dann hast du natürlich eine relativ unschöneSituation, die jetzt schon relativ greifbar nahe ist.
Thomas Lohninger
Ja, unsere Matrix-Simulation wird also vom TikTok-Algorithmus gebootstrapped, das ist schön.Ja, also das war wirklich scary, was die mit Sora da in die Welt gebracht habenund ich frag mich auch so, was wird das wieder für Auswirkungen haben,weil so alles, was so Stock-Videomaterial ist,ich hoffe, dass die jetzt noch irgendwie alles verkaufen können an Trainingsdaten,weil das wirkt nicht gut so effizient, wie die inzwischen schon sind.Also es ist ein bisschen scary, aber die Bilder schauen leider gut aus.Also die Qualität, weil das jetzt noch nicht ein Tool ist, womit man einfach so herumspielen kann.Kann auch sein, dass da noch mehr Marketing dabei ist als sonst was,aber die Qualität ist schon erschreckend.
Linus Neumann
Ja, ich würde schon davon ausgehen, dass sie da jetzt die guten Beispiele gezeigthaben und nicht unbedingt die schlechten, also die beeindruckendsten,die ihnen gelungen sind.So, wäre ja auch verrückt, so ein Produkt nicht mit seinen besten Beispielenzu bewerben, sondern nur so mit durchschnittlichen Leistungen.Aber ja, da geht einiges und das wird nochmal interessant.
Thomas Lohninger
Super, du hast dich mit Putins Bären beschäftigt? Ich habe nichts mitbekommen.
Linus Neumann
Ja, die Aufzeichnung ist schon etwas her.Und zwar hat Simplicissimus eine Doku gemacht mit dem Titel Putins Bären,die sich mit den unterschiedlichen russischen Hacking-Gruppen,die staatlichen Stellen oder denen staatliche Nähe unterstellt wird, auseinandergesetzt.Also so Fancy-Bär, Voodoo-Bär und wie sie alle heißen. Also die Gruppierungen, die… Wieso.
Thomas Lohninger
Haben die immer Bärennamen? Was ist das?
Linus Neumann
Ich glaube, das hat einfach was damit zu tun, dass der Bär so ein russisches,dass der Bär ja irgendwie Russland zugeordnet wird als, ich weiß gar nicht,ich kann das eigentlich nur sagen, dass dieser… So Männlichkeit.
Thomas Lohninger
Oder? Putin hat sich doch auch mit Bären ablichten lassen, oder?
Linus Neumann
Ja, aber wenn du auf TikTok oder Instagram guckst, sind ja auch immer irgendwelcheRussen, die da Bären als Haustier halten.Ich weiß gar nicht genau, ist das das Nationaltier? Das ist ein weit verbreitetesSymbol für Russland, der russische Bär. Ja, ich glaube, dass das damit zu tun hat.Das war doch schon früher auf dem Super Nintendo bei Street Fighter,der russische Kämpfer aus der UdSSR, der hatte auch damit Bären.Ich weiß gar nicht, es gibt einen Artikel, widespread symbol generally...Ähm, woher kommt das denn?
Thomas Lohninger
Also die Russen mögen Bären, das ist, äh, ja.
Linus Neumann
Ja, also irgendwie ist das, man... Logisch, passt.
Thomas Lohninger
Ja, also, ein bisschen fragile Männlichkeit und so, aber ja, kann man machen.Sie sollen sich mit ihren Bären spielen und die Ukraine in Ruhe lassen.
Linus Neumann
Genau, das könnten sie auch machen. Also da wurde eine sehr schöne Doku gemachtmit den unter anderem den Hack der Bundesregierung,Hack des Bundestags, den Hack des Democratic National Council,diese ganzen politischen Aktionen.Auch übrigens den Hack des Viasat-Systemes, also alle so spektakulären,sehr höchstwahrscheinlich russisch-staatlich durchgeführten Hacks von den unterschiedlichenGruppierungen, die Russland da so hat.Und da wurde insbesondere viel erklärt von Florian Flade und Hakan Tanriverde,die den Podcast auch gemacht hatten, der Mann in Merkels Rechner,diese gesamte Angriffe auf Bundesregierung,Bundestag auseinandergenommen haben.Claudia Haidt, Kerstin Schabert und Linus Neumann.Ich durfte auch ein paar Dinge einordnen. Ich muss sagen, dass ich diese Simplicissimus-Sachenwirklich sehr oft sehr gut finde.Das ist auch erstaunlich, wie viel...Zeit und Recherche, die sich nehmen.Ich habe in der einen oder anderen Simplicissimus Doku auch mal mitgewirkt.Also die veröffentlichen die ja üblicherweise auf YouTube.Diese ist jetzt auch im SWR gekommen und in der ARD Mediathek.Und ich kann zumindest sagen, dass ich mit denen immer am längsten telefoniere.Ja, was ein gutes Zeichen ist. Also entweder Die können halt schlecht auflegen,wenn ich den Knopf an die Backe labere oder die nehmen sich halt wirklich Zeit.Und das sieht man in dieser Doku.Ja, die ist einfach cool gemacht. Die ist unglaublich viel 3D animiert,sehr gut immer verbildlicht und auch ordentlich aufgearbeitet.Sowieso natürlich Florian Flade und Hakan Tanriverde in dem Bereich sowiesospätestens seit der Mann in Merkels Rechner und den Recherchen dazu unangefochtenund die kann ich also wirklich,wirklich sehr empfehlen.Gab noch einen kleinen kleinen Scherz, weil Humor haben sie ja auch und daskann man sich sehr gut angucken.Kann ich also auf jeden Fall empfehlen diese Doku.
Thomas Lohninger
Mit Scherz Jetzt meinst du den Hackerman, oder? Das ist das Einzige.
Linus Neumann
Was ich mitbekommen habe davon. Ja, da haben wir eine sehr schöne,wir haben da den ganzen Tag gedreht eigentlich,also dafür habe ich eigentlich relativ wenig zu sehen, aber zeigt eben auchwie viel Mühe die sich machen und wie ordentlich die recherchieren, das ist auch.Ich würde sagen, bestimmt ein Dreivierteljahr her, dass wir da gedreht haben oder so.Also ich dachte schon, das kommt gar nicht mehr so. Aber das heißt einfach nur,wie viel Arbeit und Recherche und Sorgfalt in dieser Doku steckt.Das muss man einfach mal sagen.
Thomas Lohninger
Aber das geht auch nur im Öffentlich-Rechtlichen. Also wenn man sich das nochmal ernsthaft überlegt,also der Aufwand für eine Stunde Doku und das ist wahrscheinlich eine wirklich gute Doku,aber ich glaube ohne Gebühren kannst du das nicht finanzieren.
Linus Neumann
Ich weiß jetzt auch nicht, wie viel Selbstausbeutung da dann wieder dahinter steckt.Also der öffentlich-rechtliche Rundfunk in Deutschland ist jetzt auch nichtohne Kritik, vor allem was die Bildvergabe angeht und wer da wie viel Geld hat und wer nicht.Aber sagen wir einfach mal, das Simplicissimus-Team macht auf jeden Fall eineäußerst gewissenhafte Arbeit.Ob die da jetzt angemessen für entlohnt werden oder nicht, weiß ich tatsächlich nicht.Kann ich nicht sagen, aber ich gehe da, man kann einfach mal sagen,dieses Produkt, dieses Ergebnis ist auf jeden Fall sehr, sehr gelungen.
Thomas Lohninger
Also da spricht das mir absolut kein Neid. Ich bin absolut der Meinung,dass wir wir einen starken Öffentlich-Rechtlichen brauchen,und dass das auch denen hilft, die den nicht schauen, weil das ist einfach gutund notwendig für die Demokratie, aber es ist halt einfach auch vom Handwerklichenher ein Wahnsinn, wenn man sieht, wie viel Aufwand getrieben wird.Ich erinnere mich, vor ein paar Jahren vor der Pandemie war mal Arte bei mir,ich weiß gar nicht mehr, welche Geschichte das war, aber die sind wirklich ausFrankreich angerückt mit sechs Leuten,also ein Moderator, ein Mensch, der das Licht gemacht hat, zwei Kameraleuteund zwei Übersetzerinnen.
Linus Neumann
Alle aus Frankreich.
Thomas Lohninger
Und das Lustige war, der Typ, der mich interviewt hat, sprach perfektes Deutschund wir haben uns auch auf Englisch gut unterhalten, aber er musste ja auf Französischfragen und ich auf Deutsch antworten.Und deswegen die zwei Simultanübersetzerinnen dabei.War trotzdem eine geile Erfahrung.
Linus Neumann
Jetzt verstehst du, was das Problem ist.Nee, also ich kann jetzt auch gar nicht genau sagen, wie, ich glaube Simplicissimushat auch mal, also die sind, wenn ich das nicht,ich hoffe, ich sage da jetzt nichts Falsches, aber sie sind glaube ich Teilvon Funk und auch Funk ist ja nun wirklich nicht ohne Kritik und also da habeich auch ganz andere Erfahrungen gemacht mit,Funk-Journalistinnen,Deswegen, lass uns da keine ÖRR-Debatte sonst machen.
Thomas Lohninger
In Deutschland wurde ja die ERD gehackt, Linus, habe ich gehört.
Linus Neumann
Genau, ja. Das waren keine Bären, sondern ein Anonymer.
Thomas Lohninger
Da hat das Responsible Disclosure nicht funktioniert, oder? oder?
Linus Neumann
Naja, also pass auf, Situation war irgendwie so, schreibt jemand mich an,ein Journalist, der kann ja, kann man auch sagen, der hat mich ja zitiert, also es waren,Marcel Rosenbach und Max Hoppenstedt vom Spiegel und sagen hier,wir haben einen, der sagt, der hat die E-ID gehackt, kannst du mal bitte gucken.Und demonstriert also folgenden Angriff.Und zunächst installiert er, also es funktioniert auf einem iPhone,diese Demo wird vorgeführt auf einem iPhone,zunächst installiert er eine bösartige App.Diese bösartige App, könnte man sich jetzt in einem theoretischen Szenario so vorstellen,das ist jetzt vielleicht irgendeine Gaming-App oder so oder irgendeine Taschenlampen-App,die vordergründig keine EID-Funktion hat,aber hintergründig einen Klon der EID-Funktion, also die gleiche Code-Basis,sagen wir mal, wie die Ausweis-App.Und allerdings ergänzt um so eine, alles was du hier eingibst,spreche ich mit einem anderen Server.Also eine gebäckdorte E-ID-App, eine gebäckdorte Ausweis-App,die unter irgendeinem Vorwand auf deinem Telefon installiert wurde.Schwer genug, aber gehen wir mal davon aus, dass es gelingen würde.Dem liegt jetzt irgendwie entgegen, dass potenziell der Apple App Store natürlichauf so etwas achten sollte, aber da wissen wir auch, dass er es nicht immermacht, dass da auch immer mal wieder eine bösartige App es reinschafft.Also nehmen wir mal an, diese App ist jetzt installiert.Und dann geht er auf eine Webseite, die eine E-ID-Aktion auslöst.Du bist also auf dieser Webseite und dann sagt er, du kannst jetzt weitermachen.Was möchtest du jetzt zum Beispiel mit der Ausweis-App auf deinem Handy weitermachen?Dann sagst du, genau das möchte ich machen. Dann sagt der, installier die mal.Jetzt geht der in dieser Demo sogar hin, installiert die offizielle Ausweis-Appaus dem App-Store und drückt dann auf,jetzt möchte ich hier diese E-ID-Aktion ausführen.Das kann jetzt eine Authentifizierung sein, dass du einfach sagst,wer du bist oder auch irgendeine Autorisierung von etwas, völlig egal,also eine E-ID-Aktion wird ausgelöst.Und in dem Moment meldet sich seine Fake-App,übernimmt diesen E-ID-Vorgang und sagt, ah, alles klar, du möchtest jetzt hiereine E-ID-Aktion machen, dann gib mal bitte deinen PIN ein,ach so, gib den mal bitte nochmal ein und hier, jetzt geht's zurück und dannhat er ein Konto eröffnet in deinem Namen bei einer Bank.Und deine tatsächliche E-ID-Transaktion, wo könnte man theoretisch sogar auchnoch durchführen oder die bricht dann halt mit einem Fehler ab.So, erstmal ziemlich beeindruckend, weil in dieser Demo siehst du erstmal nur,wie die ganze Zeit genau das gemacht wird, was da steht,nämlich Ausweis-App installieren, Link drücken und auf einmal hat der eben quasiparallel dir in Wirklichkeit andere Dinge zur Authentisierung gegeben.Also nicht das, was weiß ich, die Punktestandabfragen aus Flensburg oder wasauch immer du da vielleicht machen wolltest, sondern eben die Eröffnung eines Kontos.So, und jetzt denken natürlich alle, oh mein Gott, krasse Schwachstelle in der E-ID.Und dann hat er auch noch so ein Paper dazu geschrieben, worin jetzt die Problemebestünden und sagt aber dann irgendwie so, das Problem bestünde also jetzt daran,dass das alles Open Source ist.Und hat dann relativ komische Argumentationen, worin jetzt der Fehler angeblichbestehen würde und was davon zu halten ist und was nicht.Und da wurde ich so ein bisschen hellhörig, weil der einzige wirkliche Fehleroder das einzige wirkliche Problem, was der oder die anonyme Person,pseudonyme Person da entdeckt hat, ist,du hast im Prinzip,wenn du von so einer Webseite kommst und an eine andere App übergeben möchtest,gibt es grundsätzlich zwei Möglichkeiten.Das eine ist, du machst das über das Protokoll.Ich habe zum Beispiel festgestellt.Dass ich irgendwann zufällig so im Internet auf so einen Magnet-Link geklickt,also so einen Torrent-Link und dachte so, naja, ich habe ja gar keine Torrenting-App auf dem iPhone.Phone und da ging aber trotzdem eine auf, nämlich die Management App für meinen,NAS Server, die hatte sich registriert für den Protokoll Identifier,Magnet Doppelpunkt Slash Slash und,dann kann, dafür können sich Apps registrieren, du bist irgendwie eine App,sagst du so, pass auf, ich kann, ich bin eine FTP App und wenn ihr jemand FTPöffnen möchte, FTP, sorry, müssen wir mal klarer File Transfer Protocol.Ich bin dafür registriert, ich möchte gerne angeboten werden. Ich kann dat.Genauso hatte sich diese NAS-App eben registriert für Magnet Links.Das habe ich denn nicht erlaubt, das wusste ich noch nicht mal.Und das können auch mehrere Apps machen. Und wenn es mehrere Apps machen,Dann sagt die Apple-Dokumentation dazu, welche der Apps dann aufgeht oder ichdir anbiete, wenn es mehrere sind, in welcher Reihenfolge oder was auch immer, das ist undefiniert.Da gibt es keine Möglichkeit, sich da vorzudrängeln. Das ist einfach nicht definiert.Ich habe mit dem Klaus Rodewick von ModZero, einem Kollegen,mit dem ich ein oder andere Mal zusammengearbeitet habe, den ich im Apple-Security-Bereichsehr schätze, mit dem haben wir irgendwie auch versucht herauszufinden,liegt das am Alphabet, liegt das an der Installationsreihenfolge,aber nein, Apple-Dokumentation ist da genau richtig, es ist undefiniert.Und dieses Verfahren nutzen die.Es gibt noch ein zweites Verfahren und das nennt sich von der Benennung etwasirreführend Universal Link.Und zwar haben die iPhone-Nutzerinnen unter euch sicherlich schon mal zum Beispielyoutube.com oder spiegel.de besucht oder der Süddeutsche macht das auch.Und dann die sagen, möchtest du diese Seite in der Spiegel-Online-App öffnen?Ja, oder möchtest du diese Seite in der YouTube-App öffnen?Und das ist dann eine Anweisung, die nicht quasi sagt, ich bin hier ein Link vom Typ E-ID,sondern ich bin ein Link vom Typ, ich möchte mit exakt dieser spezifischen Bundle-ID,was weiß ich, com.spiegel.de oder wie auch immer diese App dann heißt.Und du kannst dann quasi über diese Art des Universal Linkings spezifisch ineine, und zwar eindeutig in genau eine App linken.Also youtube.com linkt immer nur in die YouTube App.Und wenn du die nicht hast, steht da, du kannst sie installieren.Und Apple sagt auch, dass sie das empfehlen.Und der Fehler ist also, dass in diesem E-ID-Verfahren gesagt wurde, wir möchten.Also in der Designentscheidung festgelegt wurde, wir machen das mit dem Protocol Identifier,also mit dem Custom URL Scheme, das eben EID Doppelpunkt Slash Slash heißt.Und offenbar gab es in dieser EID-Situation auch den Wunsch,dass sich dafür unterschiedliche Apps registrieren können.Also es war eine bewusste Designentscheidung, dass man mehrere Apps dafür registrieren kann.So zumindest die Hintergrundinformationen.Das wurde offenbar getrieben so von Krankenkassen, die nämlich sagen,ey pass mal auf, wenn wir hier unsere Krankenkassen-App haben und die Leutesollen sich in dieser App anmelden mit ihrem Personalausweis,Dann wollen wir nicht auch noch sagen, installiere dir jetzt mal bitte die Ausweis-App,sondern wir wollen diese E-ID-Funktion in unserer App direkt auch selber mit drin haben.Und jetzt muss man natürlich sagen, das kann man ja auch wieder gut verstehen.Weil natürlich dieser Medienbruch wieder Nutzerinnen und Nutzer kosten wird,die dann sagen, ey komm, jetzt habe ich gerade diese scheiß Krankenkassen-Appinstalliert oder die Bank-App, jetzt soll ich noch eine App installieren.Wie viele Apps soll ich denn jetzt hier noch installieren?Da kann ich schon verstehen, dass die die Anforderungen oder den Wunsch habenzu sagen, können wir nicht bitte auch diese E-ID-Geschichte auch direkt bei uns abbilden.Ja, nur schließt, also ergibt sich daraus bei mir immer noch nicht zwingend,dass die dann auch auf eid colon slash slash reagieren muss,um den kompletten Funktionsumfang der Ausweis-App abzubilden.Ja, deswegen ist meine Einschätzung zu diesem Thema, dass man das also überdas Custom-URL-Skip macht, war ein Fehler, sollte man nicht machen,also wird auch von Apple seit Jahren von abgeraten.Dazu gehört, sollte es einen Universal Link geben, also spezifisch auf die Ausweis-Appund nur die eine Ausweis-App gelinkt werden.Und das sollte in meiner Lesart trotzdem nicht verhindern, dass jetzt vertrauenswürdigeAnbieter eine E-ID-Prüfung auch direkt in ihre App einbauen.Und es ist auch kein Problem, dass die Ausweis-App Open Source ist, ganz im Gegenteil.Interessanterweise, dieser Control-Alt, der da jetzt irgendwie sich rühmt oderdie sich rühmt, eine schwere Schwachstelle in E-ID gefunden zu haben,gibt diese Empfehlung irgendwie an Stelle 9.Also hat acht wichtigere Kritikpunkte und als neunte Empfehlung irgendwie jahier mal auf das von Apple empfohlene aktuelle Verfahren umzusteigen.Und dafür, dass da aber sehr viel Energie reingeflossen ist,diesen Angriff durchzuführen und zu demonstrieren und auch zu implementieren, infunktionierend,glaube ich der Person irgendwie nicht so ganz, dass die so ein geringes Verständnisdavon hat, was sie da gefunden hat und was nicht.
Thomas Lohninger
Ja, zwei Überlegungen dazu. Das erste ist mal, ich hoffe gerade,dass im Online-Banking die stabile Art der Verlinkung auf Apps verwendet wirdund nicht auf Protokolle.Und die zweite Anmerkung, ich befürchte, dass dieses Problem in Europa uns nochum die Ohren fliegen wird.Denn in dem tollen neuen europäischen ERD-System wird es nämlich mindestens27 solcher ERD-Apps geben,für jeden Mitgliedstaat eine und theoretisch kann ein Staat auch mehrere herausgeben.Und wenn du dann aber auf die Linken willst, weil du vielleicht, weiß nicht,ein schwedischer Anbieter bist, der halt die, wie auch immer geartete,eher die App aus einem anderen Staat auch unterstützen will,verwendest du genau eher die Doppelpunkt Slash Slash.
Linus Neumann
Okay. Das heißt, wir haben jetzt auch noch ein europaweites Problem. Juhu!Also warum, also dieses Szenario, also ganz offensichtlich hat er es ja geschafft,oder sie hat, Control Alt ist geschafft, das zumindest einmal funktionierend hinzubekommen.Wenn das Verfahren, wenn die Zuweisung, welche App dann am Ende dran geht, undefiniert ist.Übrigens muss man Kontrollaltern auch noch zugute halten, dass ja überhauptnoch die Installation durchgeführt wurde. Das viel spannendere Szenario istja, du hast ja die Ausweis-App gar nicht installiert, drückst auf diesen Link, irgendetwas geht dran.Also du brauchst gar nicht diese Race-Condition oder diese undefinierte Situationzwischen den beiden Apps,sondern sobald sich irgendeine App für E-ID-Doppelpunkt-schrägstrich-schrägstrichregistriert hat, geht die ja dran.Also er war immerhin fair genug zu sagen, ich installiere noch die richtige,aber dafür müsste er wahrscheinlich mindestens drei Testläufe gemacht haben,weil welche von beiden sich meldet, ist eben undefiniert.
Thomas Lohninger
Eine Frage, diese Fake-App, Taschenlampen-App, die hat doch das User-Interface nachgemacht, oder?
Linus Neumann
Ja, das ist genau der Punkt. Also die erfolgreich durch den Apple App Storezu kriegen, da ist, sagen wir mal, die Wahrscheinlichkeit geringer als 50 Prozent.Ja, ich höre von den mir bekannten Entwicklern im E-ID-Umfeld,dass sie mitunter Schwierigkeiten haben, einfach weil schon auch Google undApple darauf achten, wenn da so E-ID-Symbole in dem App-Bundle mit drin sind,dass sie da schon irgendwie ein bisschen aufpassen.Also es ist nicht so wahrscheinlich, dass es dir gelingt, eine solche App überhauptin den App-Store zu bekommen.Du wirst damit im Zweifelsfall Probleme haben. Aber solange das nicht ausgeschlossen ist.Nehme ich das jetzt erstmal so zur Kenntnis, also nehme ich das an,also solange ich nicht weiß, die Wahrscheinlichkeit ist null,dass es dir gelingt, muss ich jetzt erstmal sagen, okay, wird schon klappen.Es gäbe eine, sagen wir mal, eine Möglichkeit wäre zum Beispiel,dass jetzt die Europäische Union, die verfügt ja eh eine ganze Menge,was Apple machen muss, die könnte jetzt zum Beispiel sagen, pass auf,der Protokoll, das URL-Scheme-E-ID, das dürfen nur von der Europäischen Uniongenehmigte Apps registrieren.Und eine eurer Prüfroutinen im App Store muss sein, dass ihr guckt,ob sich die App für E-ID registriert und wenn sie das tut,dann muss die irgendwie mitliefern, dass wir dem zugestimmt haben.Das wäre so eine prozedurale Methode. Aber warum überhaupt so ein unsicheres Verfahren nutzen?Mir ist auch, also ich meine, mir ist schon klar,dass es irgendwie mehrere E-ID-Apps geben muss, aber dann kann ich ja immernoch sagen, okay, hier sind, sag mal die E-ID, welche E-ID-App du verwenden möchtest oder so.Aber ganz grundsätzlich, also es gibt kein zwingendes technisches Argument zusagen, es soll nur eine geben.Es gibt aber natürlich ein zwingendes technisches Argument, dass es nur Vertrauenswürdige geben darf.Weil es natürlich ein trivialer Angriff ist zu sagen, aha, da gibt jemand seinePIN ein, die schneide ich jetzt mit und schicke die woanders hin.Oder hier, ich spiele mit dem im Vordergrund den Authentifizierungsprozess durch,von dem er glaubt, dass er den gerade gelauncht hat und im Hintergrund einenweiteren, und zwar den, den ich gerade haben möchte.Wie gesagt, dieser Angriff, der da demonstriert wurde, das war richtig viel Arbeit.Aber wenn du den einmal hast, dann hättest du eben in diesem Fall ein Kontoauf fremden Namen umgesetzt.Eröffnet. Natürlich kriegt die Person fünf Tage später Post.Also es ist wieder so eine, ja, also so wirklich,wirklich, also es ist ein technisch realistisches Angriffsszenario,das in der realen Welt so nicht funktionieren wird, weil du die App unwahrscheinlichin den App-Store kriegst,weil deine Zielperson am Ende doch irgendwie Post von dieser Bank bekommt,in der sie darüber in Kenntnis gesetzt wird, dass sie jetzt ein Konto hat undsich dann im Zweifelsfall meldet und außerdem keine Sau-E-ID benutzt.Ja, also es gibt viele Gründe, warum dieser Angriff jetzt nicht der Untergangder Welt ist, was natürlich auch ein bisschen darüber spekulieren lässt,warum jemand einen solchen Angriff demonstriert in der Öffentlichkeit vieleJahre, nachdem er möglich wurde und dann,sagen wir mal, die Prioritäten der Behebung ein bisschen falsch sind.Darstellt, also was ist hier das größte Problem, was ist das kleinste,da gab es auf jeden Fall inhaltliche Fehler in diesem Papier und dann eben auchnicht mit seinem Namen dazu stehen möchte.Die Person sagt ja auch von sich selber, dass sie in diesem Bereich tätig istund dann kann man sich eben fragen, für wen wohl?Es gibt ja auch unterschiedliche andere digitale Identitätsanbieter,zum Beispiel welche, die in letzter Zeit viel auf die Fresse bekommen haben.Ja, die Person selber sagt, sie hat halt Angst wegen des Hackerparagrafen.Das könnte man gelten lassen.Ja, aber insgesamt ein Szenario, wo ich jetzt nicht unbedingt davon ausgehe,dass wir das in der freien Wildbahn sehen.
Thomas Lohninger
Ja, aber es zeigt zumindest für mich noch eine Sache, nämlich dass die Sensitivitätvon der ganzen Erde, die Bereich sehr hoch ist.Also den Leuten ist bewusst, dass wenn es da Probleme gibt, dann haben wir alle den Arsch offen.Und wenn diese Systeme Schwachstellen zeitigen, dann gehen die Alarmglockenlos und das ist glaube ich zu Recht.Ob das jetzt in dem einen Fall hier wirklich berechtigt war oder nicht,kann man auf jeden Fall diskutieren.Aber ja, also ich hoffe die Akteure, die in der Erstellung und Absicherung vonsolchen Systemen tätig sind, schauen da genau hin und ziehen die richtigen Lehren.
Linus Neumann
Und dieses mit diesem Protokoll-Identifier war auf jeden Fall keine gute Idee.Ja, also das halte ich für nicht so gut.Und den Punkt muss man Kontroll alt dann auch wirklich geben.Das ist ein Designfehler, der gehört behoben, auf jeden Fall.Und wenn er jetzt europaweit ist, bin ich umso, umso, umso gespannter.
Thomas Lohninger
Ja, reden wir über Europa und was da so kommt.
Linus Neumann
Ich muss noch ganz kurz zwei Sachen dazu sagen. Vor dem Hintergrund,wenn jetzt Apple unterschiedliche App-Stores zulassen soll und Google das ja schon tut,Gut, dann fällt natürlich, also steigt zumindest erstmal theoretisch die Wahrscheinlichkeit,dass irgendeiner dieser App-Stores nicht richtig hinschaut.Und diese quasi ein prozeduraler Zwang, dass nur vertrauenswürdige Apps diesesE-ID-Link-Ding öffnen dürfen, geht dann eben verloren.Ja, der ohnehin schon irgendwie komisch gewesen wäre.Und deswegen denke ich, die einzig richtige Entscheidung wäre, das nicht zu machen.Und einen eben direkt in das Bundle zu linken und spezifisch zu sagen,wir bieten nur Authentifizierung mit dieser App an.Und dann sind es von mir aus 27 Apps, die es gibt, aber irgendwie eine nichtdefinierte, offene Schnittstelle, das erscheint mir zu riskant.Wenn gleich, dass dann den Markt nicht so offen gestaltet, wie man ihn sich vorstellt.Aber du wolltest gerade was zu EIDAS sagen, wir sind ja bei EID.
Thomas Lohninger
Ja, ich will einfach nur irgendwie mein Leid beenden lassen,weil am Donnerstag in dieser Woche, wo wir aufnehmen, am 29.Februar, ist endlich die finale Abstimmung zur EIDAS-Verordnung auf der Agendades Plenums des Europaparlaments.Und es war ja eine schwere Geburt. Ich glaube, ich habe hier auch schon mehrmalsdarüber berichtet, was da jetzt so drinnen steht.Da wollte ich nur einmal kurz darauf hinweisen, dass wir jetzt mit dieser Abstimmungwird das Gesetz auch im Journal der EU veröffentlicht und dann ungefähr bisAugust gibt es noch Zeit für die technische Implementierung.Das wird auch nochmal ein Spaß zu schauen, dass all diese Safeguards,die wir da erstritten haben, auch wirklich technisch umgesetzt werden.Und an zwei, drei Stellen muss man da sicher noch kämpfen, weil der Text nichtso klar ist, wie er sein sollte.Aber da werden wir bald auch immer mehr wissen und prüfen.2025 bis spätestens 2026 kann man auch damit rechnen, dass dieses neue EU-Systembei der Bevölkerung ankommt,weil bis dahin müssen die EU-Mitgliedstaaten so eine Wallet,die eine Smartphone-App sein wird, ihren Leuten anbieten.Und ganz wichtig ist aber auch, welche anderen Regeln damit in Kraft treten,zum Beispiel auch die Nichtdiskriminierungsregel.Also in Österreich gibt es gerade so Hauffälle, dass die ID Austria,was unsere eID-Lösung ist, verpflichtend gemacht wird, zum Beispiel für Bedienstetevon Landeskliniken, also Krankenschwestern oder Krankenpfleger oder auch Lehrern, Lehrerinnen.Wenn die in ihre Lohnzettel, ihre Gehaltsabrechnung kommen wollen,brauchen sie die ID Austria.Und da gibt es einige Fälle inzwischen, wo halt so ein Zwang ausgeübt wird undda haben wir dann eine klare rechtliche Handhabe dagegen mit dem neuen System.Das ist gut und es wird auch einige Regeln geben für die Wirtschaft,die weit über die DSGVO hinausgehen, was sie überhaupt erfragen dürfen von Usernoder Kunden oder Besuchern, wo auch immer das eingesetzt wird.Es gibt ein Recht auf Pseudonymität überall da, wo es kein Gesetz gibt,das zur Identifikation verpflichtet.Also bei der Bank oder beim Telekom-Provider wird man sich ausweisen müssen.Muss man ja heute schon in den Ländern mit SIM-Kartenregistrierung.Aber überall sonst hat man das Recht auf Pseudonymität. Ja, es gibt auch einenArtikel von uns, den verlinken wir, wo im Detail noch alles drinnen steht.Und das ist mal so der große Abschluss von einem Bereich.Und wir haben in einem Talk am 37C3 gesehen habt, gemeinsam mit Utopov-Diwadi,da haben wir schon so ein bisschen die Brücke gelegt zu dem, was als nächstes kommt.Weil es uns wieder nicht langweilig, auch wenn jetzt gerade in Europa die großeReform zu Ende ist, geht es auf UN-Ebene gerade weiter.Es gibt nämlich eine Initiative von den Vereinten Nationen, genauer dem Tech Envoy.Das ist jemand im Stab von Guterres, vom Chef der UN sozusagen.Und der will Safeguards, also Schutzschranken für Digital Public Infrastructure erstellen lassen.Digital Public Infrastructure ist so ein Begriff, der bezeichnet eigentlichalles an staatlicher Infrastruktur im Digitalen, die geschaffen wird für dieBevölkerung und auch für die Wirtschaft.Digital Public Infrastructure, oder kurz DPI, sind nicht die physischen Telekommunikationsnetze,also nicht die Glasfaser oder das Unterseekabel,sondern explizit eben diese öffentlichen Infrastrukturen wie E-Government, wie eine ERD,wie auch ein digitaler Euro, der fällt da auch hinunter.Und auch andere Systeme zum Datenaustausch oder zum Management von Zustimmungserklärungen.Das Ganze ist etwas, das getrieben wird durch Indien.Indien hat ja das System, was hier am ausgereiftesten ist oder zumindest vonden meisten Menschen verwendet wird.Fast die gesamte Bevölkerung von 1,4 Milliarden Menschen in Indien ist im dortigenAtara-System umgebordet und existiertsozusagen in dieser biometrischen Vollerfassung, die nicht nur Gesicht,Fingerabdrücke, sondern auch Iris scannt, auch von Kindern.Und ja, Indien hat dieses Thema wirklich als ihre Hauptpriorität auf UN-Ebene,auch während ihrer Präsidentschaft letztes Jahr von den G20 war das ein großes Ding.Man kann sich da wirklich Sorgen machen über die Richtung, in die das geht,weil diese Systeme sind global gedacht,sind per se interoperabel, was die große Frage aufwirft, ob diese Safeguardsnach oben oder unten hochgeschraubt werden.Es ist auch ein System, das von internationalen Organisationen ganz stark gepusht wird.Also wenn man von der Weltbank an Kredit will oder vom UN-Entwicklungshilfeprogramm,dann wird da ganz oft auf dieartige Systeme verwiesen und die auch teils dann ausfinanziert.Sozusagen, hey, installier dir dieses System in deinem Staat,ist doch dann viel einfacher die Hilfe zu verwalten, die wir dir geben wollen, hinti, natsch, natsch.Und da gibt es auch aus dem globalen Süden massive Kritik, also wir haben inKenia gesehen, dass da auch die Zivilgesellschaft erfolgreich geklagt hat unddiese Systeme verhindern konnte für einige Jahre.Jetzt vor kurzem hat sich das in Kenia gedreht, jetzt hat das Gericht gesagt,ihr dürft doch damit an den Start gehen, jetzt machen die da biometrische Vollerfassungder Bevölkerung inklusive DNA.Ja, alles sehr scary und deswegen, als diese Initiative dpi-safeguards.org irgendwieauf dem Radar aufpoppte, war das natürlich was,das wir uns angeschaut haben und von dem, was draufsteht, könnte man Hoffnung haben.Weil da geht es schon auch darum, wie kann man sowas sicher machen,was sind denn Voraussetzungen dafür,dass es überhaupt in einer Gesellschaft sozialverträglich,inklusiv und datenschutzfreundlich an den Start gehen kann.Und derartige Safeguards sollen dort entwickelt werden.Und gemeinsam mit sieben anderen Leuten von der Zivilgesellschaft aus der ganzenWelt habe ich mich da beworben für diese Working Group und bin jetzt einer von50 Leuten in diesen Arbeitsgruppen, die über dieses Jahr dieses Safeguards erstellen sollen.Das erste Treffen war jetzt, diese Woche geht es weiter, ich kann noch gar nichtsagen, ob das Ding was taugt, ob es überhaupt den Erwartungen und Versprechungen gerecht wird.Das Gute bei solchen Dingen ist ja immer auch, wenn das in die schlechte Richtunggeht und einfach nur Window Dressing ist, also wir tun so als ob,aber in Wirklichkeit geht es uns nicht darum,das sicher oder datenschutzkonform zu machen. Kann man ja immer noch austreten.Also ich bin da jetzt mal drinnen und versuche das Beste, weil diese Systemewerden ausgerollt auf der ganzen Welt.Wir haben jetzt mit EIDAS aus Europa heraus mit Abstand das höchste Sicherheitsniveauaus Datenschutzsicht und auch was die Freiwilligkeit betrifft etabliert und in Gesetz verankert.Und ich hoffe da ein bisschen jetzt mal auf so einen Brussels-Effekt,dass man das als Messlatte verwenden kann und dafür kämpft, dass woanders dieseSysteme auch ein bisschen menschengerechter werden.Man wird nicht danach messen können, ob uns das gelingt.Aber ja, deswegen wollte ich das mal hier so verlautbaren und wir verlinkenauch alles weitere und der Congress Talk ist auf jeden Fall auch ein guter Einstieg dazu.
Linus Neumann
Den habe ich auch gerade in die Shownotes aufgenommen. Congress Talks sollteman ja eh jetzt mal langsam gucken.Und damit sei noch einer aufgenommen. Ja, Thomas, ein Thema, was lange,lange, lange hier die Hörerinnen und Hörer, aber auch Brüssel beschäftigt hat,war ja so der Digital Services Act und der Digital Markets Act.Ein Thema, was hier auch im Logbuch steht.Ausführlich diskutiert wurde, war die Interoperabilität der Messenger,um endlich die Vorherrschaft von WhatsApp brechen zu können.Da wurde also gesagt, die müssen, die dürfen nicht mehr geschlossen sein,sie müssen es jetzt den Konkurrentinnen und Konkurrenten ermöglichen, mit ihnen,mit ihren Nutzerinnen zu kommunizieren,um diesen Login-Effekt aufzulösen.Eine wunderschöne Idee, weil die Leute haben WhatsApp, weil ihre Freundinnenund Freunde bei WhatsApp sind.Und wenn du nicht bei WhatsApp bist, dann kriegst du halt nicht deren Storys,dann laden sie dich nicht zum Geburtstag ein und so weiter und so fort.Alles Dinge, die ich übrigens kenne.Und es ist sehr, weil ich nicht bei WhatsApp bin, und es ist relativ schwierig,deinen Freundeskreis in die beispielsweise Signal oder Threema zu überführen.Und natürlich wäre es eine tolle Sache,wenn ich Signal nutze und trotzdemmit meinen Freundinnen und Freunden auf WhatsApp kommunizieren kann.Ja, möglicherweise sogar noch mit einer, nicht irgendwie diese E-Mail wurdevon der Web.de iPhone-App gesendet,sondern diese Message wurde von Signal gesendet, noch so ein bisschen mit Werbungunter jeder Nachricht oder so.Tolle Idee, um diese marktbeherrschende Stellung von WhatsApp zu brechen.Und jetzt haben sie es ermöglicht und alle singen, yeah, yeah, yeah, geil.Und Signal und Threema sagen so, ja, voll toll, dass WhatsApp jetzt eine universelleSchnittstelle anbieten muss.Wir verzichten darauf, die zu nutzen.
Thomas Lohninger
Würde ich auch machen, wäre ich Signal oder Threema. Natürlich.Also die Kommunikation geht ja in beide Richtungen, wer will das?
Linus Neumann
Ja, also wir haben es ja hier öfter gesagt, Tim war glaube ich einer der stärksten Verfechter.Ich habe auch gesagt, ich sehe, also ich kann das Ansinnen durchaus verstehen.Und ich glaube auch, dass das jetzt so für Juristinnenund Juristen oder Wirtschaftswissenschaftlerinnen total toll ist,was sie da geschafft haben, aber natürlich sagen Signal und Threema ungefähr,also mit unterschiedlich viel auf die Brust klopfen, Aber sagen halt erstens Datenschutz.Es gibt andere Regeln bei WhatsApp als die, die bei uns gelten und die wir unserenNutzerinnen versprochen haben.Wir haben eine andere Verschlüsselung, die sich auch nicht ohne weiteres auf die übersetzen lässt.Ja, und Signal ist eh bekannt,dass Signal nicht föderieren will, ja, und natürlich potenziell sogar das Risikoder De-Anonymisierung,wenn jetzt nämlich die WhatsApp-Leute, was weiß ich, weißt du,deine schöne anonyme Threema-ID in ihrem WhatsApp-Kontakt-Adressbuch speichernmit deinem Namen und dann weiß irgendwie Facebook,was deine Threema-ID ist.Also es ist völlig klar, dass sie das nicht in Anspruch nehmen möchten.Das haben sie auch übrigens schon vorher gesagt.Also WhatsApp muss das jetzt einbauen.WhatsApp als der marktbeherrschende Akteur muss jetzt eine Schnittstelle,eine spezifizierte Schnittstelle bereitstellen.Die nutzen dann übrigens sogar die Signalverschlüsselung. Ja,warum nutzt WhatsApp wohl die Signalverschlüsselung? Weil sie die eh nutzen.Das haben sie sich ja vor, ah, das ist auch schon wieder fünf oder zehn Jahreher. dass sie die übernommen haben.Und Signal sagte, es ist supergeil, dass ihr das machen musstet,aber wir möchten das nicht.Und Threema sagte, nee, wollen wir auch nicht. Ich glaube, es wird am Ende keinermachen. Ich glaube auch nicht, dass ...
Thomas Lohninger
Matrix wird es gar nicht machen. Matrix sind wahrscheinlich die einzigen ...
Linus Neumann
Haben die jetzt nicht eh schon?
Thomas Lohninger
Ja, aber die sind ja komplett dezentral. Und das war auch der einzige Dienst,der in der Debatte rund um den DME laut geschrien hat, ja, ja, doch, wir wollen das.Alle anderen kleidern sicher geltenden Messenger haben da von Anfang an dasgesagt. Ich habe da keinen Bock drauf.Und diese wunderschöne Idee will man unbedingt in der Welt sehen.Und dass es einfach gute technische Gründe gibt, wieso das nicht sicher unddatenschutzfreundlich oder grundrechtstauglich machbar ist, hat man einfach ignoriert.Und so ist das ins Gesetz gekommen und wieso hat das WhatsApp gemacht?Weil es halt auch eine Bright Line Rule ist, also Messenger sind hier die Ersten, die drankommen.Bei sozialen Netzwerken hätte ich diese Überlegung viel sinnvoller gefunden.Bei Dingen, die eh auf einem Newsfeed von Facebook öffentlich sind,die als RSS rauszugeben.Wäre wunderbar gewesen und technisch sehr einfach. Aber hier ist die Debatteirgendwo komisch abgebogen und wir haben jetzt was,das im besten Fall totes Recht ist, im schlimmsten Fall mal zu massiven Datenleaks führen wird.Und wenn man sich dann überlegt, dass hier natürlich auch immer Fragen der konkretenImplementierung von Verschlüsselung auf einmal regulatorisch ausgehandelt werdenmüssen, gibt es sogar Angriffsvektoren, die man eigentlich nicht haben will.
Linus Neumann
Ja, also wirklich eine, das war wahrscheinlich nicht unbedingt sinnvoll, investierte Energie.Ich kann mir vorstellen, dass jetzt noch so eine, naja, also Signal und Threemalassen ja auch keine Third-Party-Clients zu, müssen sie auch nicht.Das heißt jetzt irgendwie so ein, ja allenfalls Matrix profitiert da noch von,aber also es ist wirklich, also das war jetzt keine,ich glaube diese Zeit war, ja diese Zeit war nicht im Sinne einer Lösung investiert.Ja, interessanterweise, aufgrund der unterschiedlichen Marktanteile,iMessage muss nicht geöffnet werden, ja, das wäre jetzt zum Beispiel irgendwie,das hätte ich ja sogar noch interessant gefunden, weil ich ja,Also ich benutze Signal, Threema und iMessage.Und es ist natürlich teilweise etwas schade, wenn man Leute mit Android-Telefonendann nicht mit iMessage erreichen kann und da so ein paar nette Funktionalitäten nicht hat.Es wäre natürlich toll gefunden, wenn beispielsweise iMessage und was auch immerAndroid-Leute machen, wenn die gezwungen wurden.
Thomas Lohninger
Das ist aber so. Also ich glaube nämlich, dass sich Apple hier nicht betroffenist, weil sie sich verpflichtet haben, RCS zu verwenden.Und ich glaube, das ist der SMS-Ersatz, der auf Android zum Einsatz kommt.
Linus Neumann
Ja, okay, das kann sein, okay, gut, ja, in Ordnung, die werden aber,dann werden beide jeweils quasi,wenn du mit denen schreibst, irgendwie sagen, das ist hier das downgraded Verfahren,da hat die Chatbar jetzt eine andere Farbe, aber ja, Mann, ey, also, ja. Ja.
Thomas Lohninger
That's why we can't have nice things.
Linus Neumann
Was aber auch sehr schön ist, und jetzt weiß ich gar nicht genau,ob es Digital Markets App, äh, äh, äh, äh, Digital Markets App,äh, Digital Markets Act oder Digital Services Act ist,ähm, ich glaube DMA,ähm, Apple tötet jetzt die schönen Progressive Web Apps in Europa.So, warum tun sie das? Also eine Progressive Web App ist im Prinzip eine sehreinfache App, die in HTML und so weiter geschrieben wurde.Das war, wenn ich mich nicht täusche, die erste Möglichkeit überhaupt Apps aufsiPhone zu machen. Ein Sweet Deal hatte, glaube ich, Steve Jobs das bezeichnet,wenn ich mich jetzt richtig erinnere.Also letztendlich eine in sich geschlossene Webseite, die potenziell vielleichtsogar noch mit irgendeiner API da draußen redet, aber halt, du schreibst deine App in HTML,nicht irgendwie in SwiftUI oderObjective-C oder sonst was, sondern halt eigentlich ist es eine Webseite.Ja, eigentlich auch das, was hier so mit Elektron und so weiter in letzter Zeitnur noch gemacht wird und was sowieso den Untergang der Usability herbeigeführt hat.Jetzt muss aber Apple ja auch andere Browser Rendering Engines zulassen als ihren Safari.Das haben wir in den letzten Sendungen besprochen. Also Apple sagt eigentlichso, wer hier HTML rendern möchte, der kriegt unser Webkit.Und wenn du sagst, du möchtest jetzt irgendwie einen Chrome-Browser machen,kannst du machen, aber solange du HTML renderst, nimmst du genau das gleiche Ding wie unser Safari.Und dann wurde gesagt, das dürft ihr nicht mehr machen. Es soll auch auf derHTML-Renderer-Ebene Konkurrenz geben.Und jetzt müssten sie für die progressiven Web-Apps auch andere HTML-Renderererlauben und dann sagen sie, na gut, dann killen wir das gesamte Feature.Das heißt, für Europa, für dieser DMA jetzt sogar noch für diese ganzen Entwickler,ich weiß nicht wie lebhaft der Markt für Progressive Web-Apps ist,aber dazu, dass das einfach komplett abgeschnitten wird.Apple tötet das einfach, ja, auch verständlicherweise, weil sie sagen,für diese Web-Apps und das Web-Kit, was wir da rumgeknultet haben und die gesamteSicherheitsagentur, das kriegen wir jetzt, die Sicherheitsarchitektur,das kriegen wir jetzt nicht hin,das auch noch für ganz andere DOM-Renderer hinzubasteln und das wäre uns einfach zu viel Arbeit, ja.Ja, und dann hätten theoretisch, könnten hier eventuell diese Web-Apps irgendwoausbrechen, weil sie Schwachstellen in anderen Rendering-Engines benutzen.Das können wir uns nicht erlauben, also...Machen wir das alles weg.
Thomas Lohninger
Ja, also für mich wird das noch sehr spannend, muss ich ehrlich sagen,weil das ist ein weiteres Beispiel für die malicious compliance von Apple,also wirklich die böswillige Umsetzung dieses Gesetzes, weil sowas eindeutig nicht gedacht,das hat jetzt ihre Funktion als Gatekeeper nochmal verstärkt.Weil diese Web-Apps waren ein Weg, wie man am App-Store vorbei einfache Dingeund Funktionalitäten auf das Telefon bekommen kann. Ja.Milliarden bei Apple, das tut auch denen weh und das ist auf jeden Fall fürdie Kommission, die ja hier zuständig ist, für das Enforcement ein klarer Auftrag,wenn sie sich noch irgendwie ernst nehmen wollen,weil ansonsten könnte ja jedes Unternehmen mit einer böswilligen Umsetzung desGesetzes das ewig lang hinauszögern.Ich meine, ganz ehrlich, sind wir in vielen Bereichen von Großkonzernen gewohnt,aber an der Stelle gibt es halt auch wirklich Leidtragende.Also ich will nicht wissen, wie viele Apps jetzt einfach nicht mehr funktionierenauf den geupdateten Geräten und das ist etwas, wo innerhalb von Apple hoffentlichauch irgendwann mal eine kleine Revolte an den Start geht.Weil ich meine, die haben ja auch Nerds und Hacker in ihren Unternehmen.Und auch wenn die gut zahlen, istdas vielleicht auch noch so eines der Korrektive, die dazu kommen könnte.Also da aktiv etwas kaputt zu machen, fühlt sich glaube ich auch für die Leute,die dort viel verdienen, nicht unbedingt gut an. Da habe ich zumindest ein bisschenHoffnung auf die Menschen.
Linus Neumann
Ja, also schon klar, aber ich finde, also ich glaube auch nicht,dass Apple das gerne jetzt macht und sagt, ja geil, jetzt machen wir die Web-Apps noch kaputt.Aber ich finde es schon auch nachvollziehbar, wenn ich das mal so sagen darf,dass das hier auch eigentlich ein Sicherheitsthema ist,da jetzt auf einmal eine andere Browser-Engine in irgendeiner App und so weiter zuzulassen.Also mal gucken. Potenziell, sag ich mal, das Argument ist für mich erstmal...Das ist nachvollziehbar. Allerdings muss ich auch sagen, dass das jetzt nichtmein absolutes Spezialgebiet ist.Und die kriegen auch alles andere gesandboxt.Könnte man also auf jeden Fall auch argumentieren, dass sie da potenziell sicheine Argumentation herbeiführen, die ihnen angenehm ist.Ich bin mal gespannt, wie jetzt die Leute, die sich besser damit auskennen, das einschätzen.
Thomas Lohninger
Ja, das muss man sich anschauen. Es gibt da auch wirkliche Expertinnen,die sich mit dem DSA und DMA beschäftigt haben.Ich gehöre nicht dazu, aber ich habe jetzt mal geschaut, Artikel 13 Antisarconventionvom DMA hört sich schon so an,als dass man da was tun könnte, wenn die Obligations of Gatekeepers dann nichteingehalten werden. Also vielleicht ist da noch nicht das letzte Wort gesprochen.Und ich würde auch erwarten, dass jetzt einfach mal ein paar Klagen von betroffenen Unternehmen kommen.Also es ist ja auch so, dass dann der EuGH nochmal Dinge klarstellen kann.Also wir werden das auf jeden Fall weiter beobachten.
Linus Neumann
Okay. So, was wir zum Glück noch beobachten können in vereinzelten sozialenNetzwerken und auf einzelnen Mastodon-Instanzen sind politische Diskussionen.Ich habe ja, also ich nutze das Internet hauptsächlich, um mich politisch zu äußern.Insbesondere nutze ich soziale Medien hauptsächlich, um mich politisch zu äußern.Und die politische Äußerung als solche ist ja inzwischen ein Problem.Und auch tatsächlich eines, wenn wir uns mal anschauen, ich glaube eingangshatten wir schon, die AfD ist im Gegensatz zu ungefähr allen anderen Parteiensehr stark auf TikTok präsent.In den letzten Wochen durchaus ausführlich diskutiert worden,weil es da irgendeinen Kryptospinner-Podcast gibt, die AfD-Thesen vertretenund dann irgendwie für ihre Hörerinnen und Hörer irgendwie so eine,was haben die da gehabt, quasi so eine Art.So eine Challenge, wenn du das irgendwie auf TikTok postest,Ausschnitte aus ihrem Podcast und so und so viele Likes kriegst oder so,so, dann kriegst du Geld,ja, was natürlich dazu geführt hat, dass alle möglichen TikToker gerne diesesGeld haben wollten und TikTok quasi geflutet wurde mit irgendwelchen provokantenAusschnitten aus deren Podcast, so.Und die kloppen da halt irgendwie, so habe ich es verstanden,eher, ähm, eher dümmere Thesen aus dem, aus dem AfD-Kontext.Und keine andere Partei hat dieses TikTok-Game irgendwie für sich entdeckt,sodass TikTok hauptsächlich bei Kindern und Jugendlichen verwendet wird,kloppen jetzt die Kinder und Jugendlichen irgendwelche AfD-Sprüche.Problem.Insbesondere mit diesem Empfehlungsalgorithmus und so weiter. Das Thema ist bekannt.Jetzt gehen Instagram und Threads hin, die ja beide Facebook gehören und sagen,ja wir limitieren jetzt einfach mal so politische Inhalte und zwar,wenn ich das richtig erinnere, geben sie dir dann nur noch Leuten,denen du folgst, äh Leuten, die dir folgen.Also du machst eine politische Äußerung, lieber Thomas, die kriegen dann nurdie Leute, die dir folgen, die wird aber jetzt nicht zum Beispiel anderen empfohlen.Also deine Reichweite, wenn du dich politisch äußerst oder wenn deine Inhalteals politisch erkannt werden, wird deine Reichweite eingeschränkt.Eine derartige Regel gab es übrigens auch, oder eine Verhaltensregel dieserArt gab es auch auf meiner früheren Mastodon-Instanz, wo es eine Regel gab,dass man politische Äußerungen nur tätigen darf, wenn man sie mit einer Contentwarnungfrüher oder im Volksmund Triggerwarnung versehen hat.Das ist also ein von mir als relativ zweifelhaft eingeschätztes Konzept,dass es ja sein kann, dass es bestimmte belastete Inhalte gibt.Sagen wir mal, was wäre ein Beispiel für einen belasteten Inhalt? Transphobie.Das ist ein Inhalt, der einfach nervt und wo man sich zum Beispiel auch vorstellen kann,dass von Transphobie betroffene Personen nicht zu jedem Zeitpunkt des Tages,der Woche, des Monats oder des Jahres Bock haben, sich damit auseinanderzusetzen.Und dann gibt es das Konzept, dass man da zum Beispiel hinschreibt, Transphobie.Und das verdeckt dann den Post. Und dann kann jede Person sich entscheiden,ob sie sich gerade mit diesem Thema auseinandersetzen möchte oder nicht.Was auch sehr häufig als Content-Warnung gesetzt wird, ist zum Beispiel dasWort Rape oder dessen deutsche Übersetzung.Wo ich mich auch frage, wenn ich jetzt eine davon betroffene Person bin,ob jetzt das Wort Rape oder Vergewaltigung mich nicht triggert.Aber quasi die Beschreibung einer solchen oder also mein Verständnis,wie ich als Psychologe Denken und Assoziationen gelernt habe und auch an mirselber feststelle, wenn ich das Wort Rape höre, muss ich an Rape denken.Ja, wenn jetzt dieses Wort für mich belastet wäre oder vielleicht sogar durcheine traumatische Erfahrung belastet wäre, halte ich es jetzt für unwahrscheinlich,dass das nicht diese Assoziation bei mir auslöst.Also ich persönlich glaube nicht, dass diese Triggerwarnungen ein funktionierendesKonzept sind, um andere vor diesen Inhalten zu schützen.Und zwar kann es sehr gut sein, dass es Menschen gibt, die, wenn sie Rape hören,nicht an Rape denken oder zumindest nicht an ihre traumatisierende Erfahrungin diesem Kontext. Aber das wäre potenziell nur ein Teil der Menschen.Ich weiß ja nicht, was deren Triggerwort ist. Vielleicht ist deren TriggerwortRape, vielleicht ist deren Triggerwort ein anderes.Vielleicht ist deren Trigger auch dunkles Zimmer, weil das ein Teil ihres Traumas ist.Aber okay, also ich glaube nicht, dass das ein Zuende durchdacht,oder ich glaube nicht, dass es die Lösung des Problems ist.Was aber sicherlich die Lösung des Problems der politischen Debatten ist, ist, wenn man sagt,jeder Tröt oder Tut oder Tweet oder was, der einen politischen Inhalt hat,muss eine Triggerwarnung haben, die dann zum Beispiel lautet, Depol.Also das wäre dann Depolstern in dem Fall für deutsche Politik.Und wenn jemand sich von deutscher Politik getriggert fühlt,wie ich, also ist für mich traumatisch, dann kann die Person sich eben entscheiden,ob sie diesen Inhalt konsumieren möchte oder nicht.So lautete die Regel auf der Mastodon-Instanz, auf der ich war.So, da ich aber eigentlich nichts anderes wirklich mitteilenswert finde,außer irgendwie politische Ansichten und mein privates Leben eigentlich fürausreichend uninteressant halte.Führte das dazu, dass ich mich eigentlich nicht sinnvoll da äußern kann.Dann habe ich mich beklagt und habe gesagt, das finde ich eine unsinnige Regel.Und dann wurde gesagt, ja, das gilt aber nur für die lokale Timeline.Also nur, wenn du in die lokale Timeline, also in den Bereich postest,wo es alle Leute auf diesem Server sehen, wenn sie in der lokalen Timeline suchen.Nur dann musst du das machen. Mit anderen Worten, du kannst auch einfach nicht öffentlich posten.Also du postest nicht in die lokale Timeline, sondern nur an deine Followerinnen und Follower.Und das hat aber auch zur Folge, dass du auch nicht in die föderierte Timeline,also Leute auf anderen Servern sehen dich auch nicht, es sei denn, sie folgen dir.Die Konsequenz davon ist, also die Konsequenz dieser Regel ist,entweder du postest auf der lokalen und damit auch auf der föderierten Timeline,also den föderierten Timelines der anderen Mastodon-Instanzen,wo Leute dir auch folgen, mit einer Warnung.Und fällst natürlich überall sonst auf jeder anderen Mastodon-Instanz auf alsderjenige, der seine Inhalte hinter einer kryptischen Content-Warnung versteckt.Oder du postest nur an deine Followerinnen und Follower.So oder so, in dem föderierten System des Fediverse bist du mit deinen politischenInhalten nicht mehr sichtbar.Weil auf deiner Instanz eine Regel herrscht, die damit begründet wird,dass dort der Frieden gewahrt werden soll und dass halt irgendwie Leute sichnicht schlecht fühlen sollen, die durch Politik getriggert werden.Ich halte das für absolut falsch. Also die Depolitisierung des Internets istso ungefähr das Letzte, was wir brauchen.Auch wenn gerade irgendwie die Nazis TikTok übernehmen und auch wenn die kommerziellensozialen Netzwerke, in denen wir unsere politischen Debatten abgebildet haben,sicherlich der falsche Ort dafür waren.Glaube ich trotzdem nicht, dass so die Depolitisierung des Internets irgendwieder sinnvolle Weg ist, aus dem Faschismus oder der Dummheit wieder rauszukommen,in die wir uns da gerade reingraben.Deswegen habe ich meine Mastodon-Instanz gewechselt.Ich kann mir auch wirklich nicht vorstellen, dass das eine, also so sehr iches in diesen föderierten Systemen wirklich schwierig finde,wenn da irgendwie einzelne lokale Stammesfürsten derartige Regeln aufsetzen,die dann eben auch für andere Kommunikation gelten.Genauso sehe ich es trotzdem als ein Problem an, wenn diese Netzwerke,die kommerziell gesteuert sind,sagen wir mal politische Inhalte, weil sie Aufregefaktoren haben, verbreiten.Also ich finde fast potenzielles Positiv, wenn Instagram und Threads sagen,okay, sobald wir das als politisch erkennen,schalten wir unsere Amplification-Algorithmen aus und ich finde es trotzdemfalsch, wenn so etwas im Rest des Internets, das nicht kommerziell getrieben ist, gemacht wird.Und was ich übrigens auch sehr interessant finde und das sind eigentlich nurso Mastodon-Phänomene, das ist so dieses Geh-doch-nach-drüben-Geschrei.Kennst du das, Thomas?
Thomas Lohninger
Ja.
Linus Neumann
Also da entwickelt sich etwas, das ich nicht viel besser finde.Also natürlich sind diese kommerziellen sozialen Netzwerke die absolute Kretzeund sie haben sicherlich unsere Gesellschaft nicht weitergebracht,insbesondere im politischen.Aber wenn man doch sagt, wir machen jetzt hier etwas anders und wir machen dasjetzt hier besser dann finde ich es schon sehr.Und überraschend dann zu sagen, das erste, was wir jetzt hier wegstreichen,sind politische Diskussionen.Und dann fangen wir auch noch an, massenhaft irgendwelche anderen Instanzenzu blocken und allen unseren Nutzerinnen zu verbieten, deren Inhalte zu konsumierenoder unmöglich zu machen, deren Inhalte zu konsumieren.Und wenn irgendjemand bei uns die Regeln diskutieren will, dann sagen wir, verpiss dich.Also da habe ich irgendwie den Eindruck, dass der Lerneffekt nicht stattgefunden hat.Denn du und ich wissen das aus, ja was ist das jetzt, sicherlich über ein Jahrzehntder Auseinandersetzung mit den großen sozialen Netzwerken, dass natürlich dieRegeln dort zur Diskussion gestellt werden müssen.Und das war das große Problem, dass Facebook einfach Regeln aufstellt oder Twittereinfach Regeln aufstellt, die dann nicht sinnvoll diskutiert werden können.Das ist der Grund, warum wir alle bei Twitter abgehauen sind.Dass irgendjemand die Bude kauft und sagt, ab jetzt sind hier andere Regelnund wir damit unzufrieden sind.Und da bin ich von Teilen dieser Fediverse-Community dann doch sehr enttäuscht,welche Art von Mentalität da jetzt vorherrscht.Mit diesem verpiss dich hier und der Admin macht die Regeln und so.Das erscheint mir nicht unbedingt der Weg nach vorne zu sein.Dazu hat unser gemeinsamer Freund Markus Reuter einen ausführlichen Kommentargeschrieben, der sich dafür einsetzt, dass nämlich jetzt genau dieser Fediversum-Gedanke,Und gelebt wird beispielsweise dadurch, dass Mastodon sich mit Threads,können sie glaube ich, wie war das denn?Mit Threads könnte man direkt föderieren, weil die auch Activity Pub sprechen,dieses Protokoll. und Blue Sky hat ein eigenes Protokoll, für das man aber Bridges bauen kann.Und jetzt zankt sich das Fediversum darüber, ob man mit diesen kommerziellenPlayern föderiert oder nicht.
Thomas Lohninger
Es ist so eine vergebene Chance.Also ich meine, wie du gesagt hast, ja natürlich haben wir negative Phänomene gesehen,dadurch, dass jetzt alle Leute eine Stimme haben Und diese Social Media BigTech Konzerne da wirklich sehr vielfalsch gemacht haben und sich ihrer Verantwortung nicht gestellt haben.Klar, aber dann geht es doch darum, es besser zu machen.Und dieser Artikel von Markus Reuter ist wirklich exzellent,weil er halt auch diese Wohnzimmer-Analogie bringt.Es ist so ein Biedermeier-Gedankentum, dieses aber ich will hier unter meinigensein und es ist ein benevolent dictator,wir haben hier uns die Regeln gemacht, die sind in Stein gemeißelt und da sollsich ja niemand auf den Schlips getreten fühlen für diese eine Zielgruppe,für die das Ganze gemacht ist, die am Anfang da war, als die Regeln geschrieben wurden.Und die Chance, jetzt hier eine Gegenöffentlichkeit zu schaffen,etwas, das wirklich frei und dezentral ist und einfach auch zeigt,wie es besser geht, dass...Überhaupt nicht genutzt. Da müsste man jetzt in eine radikale Offenheit reingehenund da wäre eigentlich auch genau der Moment, wie man mal aus einer Tech-Admin-Karriere heraus,wirklich Revolution starten könnte, im positivsten Sinne.Und ich weiß nicht, ob du die Mastodon-Server, über die du gerade gesprochenhast, bewusst nicht erwähnt hast.
Linus Neumann
Ja, es ist unerheblich. Also es geht ja um den Inhalt der Diskussion.
Thomas Lohninger
Aber so als jemand, der eine NGO leitet, die die ganze Zeit nichts anderes tut,als politisch zu kommunizieren, frage ich mich auch, wie uns das betrifft.Da ist es jetzt wurscht, ob das Netzpolitik oder Antirassismuspolitik ist.Es ist ja alles dasselbe. Und vor allem diese statische Grundhaltung.Argumentiere die Regeln nicht.Der wunderbare Nilay Patei, der Chefredakteur von The Verge,der hat immer diesen schönen Satz, das eigentliche Produkt von sozialen Netzwerkenist Content Moderation.Also die Art, wie du mit Inhalten umgehst, ist die Essenz eines sozialen Netzwerkes.Und natürlich ist ein Produkt nie statisch, weil das sind soziale Netzwerke.Menschheit verändert sich, Sprache verändert sich, politischer Konsens verändertsich. Und da musst du mit der Zeit gehen, da gibt es kein festgeschriebenesfalsch und richtig und darfst du sagen, darfst du nicht sagen.Das muss ausverhandelt werden.Und gerade jetzt, wo es diese Möglichkeit gibt, sich zu eröffnen,natürlich kannst du auch wieder zum Absaugen von Daten kommen durch Meta, mittels Threads.Aber das tun die doch sowieso. Also ganz ehrlich, bei sozialen Netzwerken,natürlich du kannst dann deine Dinge auf protected schalten und es gibt auchimmer den Case für komplett geschlossene Systeme.Die haben wir ja eh. Es geht doch eigentlich um die große Öffentlichkeit.Es geht um die politischen Diskurse.Über solche sozialen Netzwerke und die Debatten, die dort passieren,werden Wahlen gewonnen oder verloren.Und bei Gott, wir haben dieses Jahr genügend Wahlen, wo es mal wichtig ist,dass wir uns ehrlich auseinandersetzen.Miteinander. Auch da, wo es weh tut. Sonst gibt es keine Mehrheit.
Linus Neumann
Ja, das ist übrigens auch natürlich dann der auslösende Punkt gewesen,warum ich die Mastodon-Instanz gewechselt habe, weil dann da Leute kritisiert wurden, weil sie,also ich auch, weil ich auf die Korrektivrecherche zu dem Deportationstreffen verlinkt habe.Und da wurde ich darauf hingewiesen, dass ich das bitte nur mit einer Content-Warnung machen soll.Dann musste ich diese Person darauf hinweisen, dass ich unlisted poste und deswegenkeine Content-Warnung haben muss.Und andere Leute, die nicht anlistet gepostet haben, sondern die das schwereVergehen begangen haben,auf diese belastenden Inhalte ohne eine Triggerwarnung hinzuweisen, in einem Wohnzimmer,die wurden dann zurechtgewiesen.Also ich denke, dieser Wohnzimmer-Gedanke für ein soziales Netzwerk ist völlig falsch.Das Wohnzimmer ist deine, wenn du ein Wohnzimmer haben willst,mach eine Signal-Gruppe,mach eine Threema-Gruppe, kauf ein Eigenheim, also Miete eins,mach was du möchtest, also Wohnzimmer gibt es genug.Wohnzimmer zeichnen sich dadurch aus, dass sie...Dass sie nicht frei zugänglich sind.Und soziale Medien oder soziale Orte zeichnen sich dadurch aus,dass sie öffentlich zugänglich sind.Natürlich kannst du in einer Kneipe zum Beispiel sagen, in unserer Kneipe keinerechtsradikalen Äußerungen.Das ist völlig in Ordnung, finde ich auch völlig richtig.Und ich finde es auch völlig in Ordnung, das im Rahmen des Hausrechts durchzusetzen.Aber du kannst ja nicht sagen, in meiner Kneipe, darf man nicht über Politik reden.Oder in meiner Kneipe, natürlich kann man sagen, man darf hier folgende politischeAnsicht nicht vertreten, weil das meiner Kneipe und der Stimmung darin nicht gut tut.Aber zu sagen, meine Kneipe ist unpolitisch und du darfst hier nur irgendwiehinter verschlossener Tür reden. Und wenn du aus der anderen Kneipe kommst,dann darf man nicht mit dir reden.Weil die andere Kneipe, die blockieren wir hier.Und die Gäste, die da, die trinken das falsche Bier, mit denen möchten wir unterkeinen Umständen sprechen.Ich glaube, das ist sicherlich nicht die Lösung für die Online-Probleme, die wir haben. haben.Und wir hatten diese Online-Probleme übrigens die ganze Zeit nicht,und du hast es glaube ich auch gerade schon gesagt, die verstärkenden Algorithmen, das ist das Problem.Nicht, dass irgendein Thema kommt und irgendjemand keinen Bock auf das Themahat oder so. Also ich finde das sehr.Also was ich mir einbilde, was wir da gerade beobachten ist, ja, wir haben die,schwierigen und auch wirklich dramatischen Konsequenzen kommerzieller sozialerNetzwerke gesehen und wir möchten Alternativen dazu schaffen,aber wir müssen genauso vorsichtig sein, dass wir jetzt nicht das Pendeln indie andere Richtung schlagen lassen.Wir müssen doch, wir können ja nicht sagen, die kommerziellen sozialen Medienwaren nur schlecht und wir wollen das alles gar nicht mehr.
Thomas Lohninger
Vor allem, es funktioniert ja auch nicht. Ich will nur mal kurz darauf hinweisen,dass diese Policy von manchen Mastodon-Servern, keine Politik mehr einen Raumzu geben oder zumindest nicht mehr zu amplifizieren oder eine neue Reichweiteüber das Netzwerk generisch gewinnen zu lassen.Diese Policy der dezentralen, nicht kommerziellen Mastodon-Servern ist einszu eins dieselbe Policy, die Meta gerade mit Threads fährt.Dass sie einfach meint, für unsere Werbekunden ist das eigentlich nicht so klug,wenn wir da noch Politik haben.Lass lieber nur Mode-Content machen oder Sport oder irgendwas,wo sich die Leute nicht so sehr in die Haare bekommen.Und ich habe da sogar mehr Verständnis für Meta, die halt ein kapitalistischerSchweinekonzern sind und denen es nur ums Geld geht.Aber dadurch, dass man diese politische Gegenrede und den Raum fürs Organisierenvon Alternativen nicht mehr auf den dezentralen Netzwerken hat,du hast eingeleitet mit dem Erfolg der AfD auf TikTok.Und ich glaube, rechtspopulistische Parteien überall auf der Welt sind sehrerfolgreich auf sozialen Netzwerken.Das kann man so konstatieren, auch auf Facebook.Die Zahlen gibt es. Und mit Musk hat man auch gesehen, notfalls kaufen die sich sowas.Trump hat auch seinen Truthpunkt Social.Also, sich einfach die Stimme für die Gegenöffentlichkeit zu rauben,da ist es dann kein Wunder, wenn die Wahlen schlecht ausgehen.
Linus Neumann
Ja, das ist absoluter Wahnsinn. Ich kann da nichts Gutes dran sehen und ichmuss auch feststellen, noch dazu,aber das ist eine Nebendebatte, werden diese Regeln dann nicht konsequent umgesetzt.Dann wird dann irgendwie sowas wie Netzpolitik-Org-Standard-Posting,das ist dann schon in Ordnung.Also alles, was so ein Mark Zuckerberg oder so ein Elon Musk oder so ein Googleoder wer auch immer die sozialen Netzwerke hatte, falsch machen,machen die dann im Kleinen nochmal falsch.Also ja, ich denke, also was sagt Markus Reuter?Markus Reuter sagt so, wollen wir eine globale Öffentlichkeit oder ein Wohnzimmer?Und wichtig ist, die globale Öffentlichkeit ist nicht wichtig.An der globalen Öffentlichkeit gescheitert, sondern an den kommerziellen Interessen,die dahinter standen. Wir hatten jahrelang globale Öffentlichkeit in IRC-Kanälen.Wir haben schon geflame-word, da hat Mark Zuckerberg noch irgendwie,es ist ja wirklich so, dass alle diese Phänomene waren vorher da.Soziale Netzwerke gab es Jahrzehnte vor Facebook.Die ganzen unschönen Phänomene kamen, Als das unterwandert wurde von kommerziellen Interessen.Und wir haben nicht nur schlechte Phänomene, aktuelle Informationen aus ersterHand zu Ukraine, zu Faschismus in Italien, Wahlen in den USA,alle möglichen Nischen.Wir haben diese wunderschönen Phänomene und wir haben die Filtersouveränität bei den Usern.Ja, bei Twitter habe ich meine Mute-Listen, meine Blog-Listen,meine Follower gehabt, ja, bis das Ding irgendwie gekippt wurde und konnte mirda ein einzigartiges Fenster auf die Welt schaffen,dem ich heute noch hinterher traue, ja, und jetzt hast du da irgendwie so eine Balkanisierung,wo auf jedem Server irgendeiner sagt, das darfst du hier, das darfst du nicht,aber ein komplettes Thema auszuschließen geht in meinen Augen absolut daneben.Und was Markus auch sagt, ist, dieser Mastodon hat keine Entschittification-Gefahr.Entschittification, ein Begriff von Cory Doctorow geprägt, der also sagt,in dem Moment, wo die Nutzerinnen bei dir verhaftet sind und es keine Alternativenmehr gibt, kannst du den Service immer schlechter machen, weil sie keine Alternativen mehr haben.Ja, kurz und fast,das wäre also das, was man bei zu lange existierenden Services dann erkennt,dass sie nicht mehr im gleichen Maße besser werden, sondern eigentlich sogarschlechter, aber du hängst trotzdem dran. Ich glaube, Facebook ist ein schönes Beispiel.WhatsApp kann ich nicht so beurteilen. Google ist seit vielen Jahren nicht mehrbesser geworden, auch wenn Tim einen anderen Eindruck hat.Aber wenn du dann sagst, so, und jetzt schneiden wir, wir brechen alle Brückenzu denen ab und die können noch nicht mal mehr sehen, dass es uns gibt oder so.Ich weiß nicht. Man muss natürlich dazu sagen, also deren die Sorge ist,da müssen wir zumindest den Schluss ziehen zu den Messengern,weil das ja ein ähnliches Thema ist,die Sorge der Mastodon-Geflüchteten ist, dass jetzt Meta ihre Inhalte scrapt.Also, dass jetzt der Kapitalismus ihre Inhalte auch noch zum Training seinerKI benutzt oder was auch immer, die sie ja extra denen nicht gegeben haben.Das ist, glaube ich, eine berechtigte Sorge.Ich weiß nur nicht, ob die dadurch weggeht, dass man jetzt seine Inhalte undjegliche Kommunikationsebenen zu deren Nutzerinnen und Nutzern abschneidet.Da bin ich mir nicht so sicher.
Thomas Lohninger
Ja, vielleicht eine letzte Analogie noch zu bemühen. Also ich meine,wenn du für eine politische Sache wirbst oder wenn du, ich weiß nicht,für eine NGO, Klimaproteste oder was auch immer, natürlich musst du dahin gehen, wo die Leute sind.Natürlich musst du aus deinem eigenen Soziotop heraus. raus.Und der Verfassungsschutz kann dich trotzdem unterwandern, auch wenn du nurunter den Deinigen bleibst und solange das offene Protokolle sind,kann man die sowieso scrapen. Technisch geht das, egal ob du föderierst odernicht, ob es rechtlich erlaubt ist, steht auf einem anderen Blatt.Also ich verstehe die Verhältnismäßigkeit dieser Entscheidungen nicht,weil es gibt da einfach ein,also solange man noch den Glauben verloren hat, dass ein besseres Netz möglichist und dass eine bessere Gesellschaft dadurch auch erzielt werden kann,da muss man einfach mehr tun.Und natürlich wird es dann vielleicht ein bisschen unangenehmer und wir beidesind zwei exponierte Menschen, aber auch privilegierte Menschen.Ich glaube, dass es da viele Seiten auch nochmal gibt, aber eine politischeAuseinandersetzung muss immer da geführt werden, wo man was lernt voneinanderund wo man aus der Komfortzone hinausgeht.Ansonsten ist es nur preaching to the converted.Ach.
Linus Neumann
Ja, und ich glaube nicht, dass dieser Balkanisierung, Preaching to the Converted,die anderen dürfen hier nicht rein, dass das jetzt die Lösung ist.Genauso ist es nicht die Lösung, dass wir uns alle auf Facebook und TikTok zuballernlassen mit dem Fascho-Content.Und deswegen habe ich wirklich Sorge, dass hier gerade ein Übertreiben in diefalsche Richtung wieder stattfindet.Naja, deswegen bin ich zu einer anderen Mastodon-Instanz gegangen,nachdem ich mir jahrelang habe anhören müssen, ich soll doch nach drüben gehen,bin ich halt nach drüben gegangen übrigens wohlgemerkt, diese Regeln waren neu,also als ich dieser Mastodon-Instanz beigetragen bin,gab es die nicht und das war eine bei weitem krassere Änderung der Regeln alsdie Elon Musk Elon Musk Mask explizit gemacht hat bei Twitter.Also der hatte, das ist schon faszinierend, wie dann plötzlich,also diese Argumentation, die großen Plattformen, die sind alle böse,aber hier auf meiner, auf meinem Server ist irgendjemand, der keinerlei, was weiß ich.Der keinerlei Verantwortungsbewusstsein oder keinerlei Qualifikationen vorweisenkann, außer hat halt einen Server aufgesetzt, das ist jetzt hier die Gottköniginoder der Gottkönig und kann machen, was er will.Und das ist aber völlig in Ordnung. Aber was Elon Musk macht,wenn Elon Musk irgendwie auf einmal sagt, pass auf, die Inhalte gibt es beiuns nicht mehr, dann ist das böse.Aber wenn der Mastodon-Instanzenbetreiber oder die Mastodon-Instanzenbetreiberinvon heute auf morgen sagt, die neue Regel lautet folgendermaßen,dann ist das voll geil und geht auch nach drüben.Und da verstehe ich auch nicht, ob die alle nicht gelernt haben,aus der Macht die Kommunikationsverbote ermöglichen.Aber immerhin konnte man wirklich gehen und es war auch wirklich einfach undich kann es sehr empfehlen, die Mastodon-Instanz zu wechseln.Ist tatsächlich enorm einfach, muss man sagen, und macht man besser früher als später.
Thomas Lohninger
Was hat Mastodon je für uns getan, das Umziehen wurde einfacher?
Linus Neumann
Ja, kannst du dir deinen Diktator wechseln.Übrigens, achso, das wollte ich noch erzählen. Dann habe ich das gemacht.Das ist so ein paar Schritte. Machst einen neuen Account, dann lenkst du den alten dahin um.Und dann habe ich gesagt, okay, gut, jetzt muss ich ja nicht mehr unlisted posten.Sondern ich konnte also jetzt auch von dieser neuen Instanz ohne Content-Warnungenposten und bin damit in den föderierten Timelines der Instanzen meiner Followerinnenund Follower aufgetaucht.Das ist der einzige Unterschied, den es gab.Ich war jetzt auf einer anderen lokalen Timeline, die weiß ich aber gar nicht,ob die überhaupt jemand verfolgt, aber wie dem auch sei.Das Entscheidende war, ich war jetzt auf den föderierten Timelines und zwar ohne Content-Warnung.Und weißt du, was der erste Effekt war?Unmengen an Interaktionen. Ich kriege auf jedes, alles was ich da schreibe, tausende Antworten.Ah, okay.Auf den föderierten Timelines dieser anderen Instanzen plötzlich wieder auftauchteund nicht mehr aufgrund meiner Inhalte und der Regeln, die eine Instanz mirvorgeschrieben hat, auf allen anderen Instanzen auch nicht mehr sichtbar war,hat sich die Summe der Interaktionen ja massiv, massiv erhöht.Das ist richtig, richtig krass.
Thomas Lohninger
Okay, das wünsche ich mir auch. Also das Gute ist ja, jeden Post kommt so rüber.
Linus Neumann
Ja, ich glaube, ich komme auch rüber. Markus Reuter ist auch rübergekommen,der hatte übrigens den gleichen Effekt beobachtet und ja, also immerhin kann man sagen,die Content-Warnungen wirken, es liest keiner mehr die Inhalte und man ist massivin der Reichweite beschnitten und wenn das das Ziel ist, dann wird das eben auch erhoben.
Thomas Lohninger
Raus aus dem Wohnzimmer ist auch ein guter Slogan für den 38C3.
Linus Neumann
Ja der 38C3, sagen wir mal, vielleicht auch ein schöner Titel für die Sendung.
Thomas Lohninger
Gehen wir weiter.
Linus Neumann
So und jetzt gab es ein wunderschönes Urteil.Eine wunderschöne Story, berichtet von Ars Technica und es handelt von Air Canada.Air Canada ist eine Fluggesellschaft aus Kanada und die haben sich entschieden,auf ihrer Webseite einen Chatbot anzubieten.Und ich weiß gar nicht, ob der jetzt von ChatGPT betrieben war oder was auch immer,aber da gab es also einen Nutzer, der hatte einen Todesfall in der Familie undinteressierte sich für die Buchungskonditionen bei Air Canada. da.Insbesondere für die Konditionen.Bei Trauerfällen, wenn man also jetzt einen Flug bucht und den potenziell dochnicht in Anspruch nimmt und so weiter.Auf jeden Fall hat der Chatbot gesagt, pass auf, buch einfach mal irgendeinenFlug und du kannst innerhalb von 90 Tagen den eh erstatten lassen.Aufgrund Und des Trauerfalls.Und in den AGB von Air Canada steht aber, dass sie keine Erstattung machen beiTrauerfällen, nachdem der Flug gebucht wurde.Und jetzt hat er aber gesagt, na gut, der Chatbot hat mir das gesagt,hat den Flug gebucht und dann wurde seine Bittumerstattung abgelehnt.Und Air Canada hat dann vor Gericht gesagt, naja, der Chatbot hat ja gesagt,der hat ja noch einen Link geschickt, auf welcher Seite das steht und auf derSeite stand ja was anderes und da ist die offizielle Information und der Chatbot ist ja hier eine.Eine eigene legale Entität und der ist nicht von uns und der ist für seine eigenenHandlungen verantwortlich.Aber ja, das Gericht hat da gesagt, wenn euer Chatbot sich eine andere Regelausdenkt und die eurem Kunden mitteilt, dann müsst ihr die auch so umsetzen.Streitwert waren in dem Fall glaube ich irgendwie 200 Euro oder sowas nee,sie wollten ihm, sie haben gesagt du kriegst einen 200 Euro,Coupon, also so einen Gutschein ja, mit dem kannst du zu einer anderen Zeitfliegen und da hat sich dieser gute Mensch nicht mit zufrieden gegeben, ich finde das ja.
Thomas Lohninger
Also die Argumentation vor allem, ja so der Chatbot ist seine eigene Rechtspersönlichkeitder ist für sich selber verantwortlich also Kindeswecklegung Ich glaube.
Linus Neumann
Das Gericht hat auch gesagt, wenn ich bei euch an der Hotline anrufe und einenfalschen Rat kriege, dann ist das genauso verbindlich, weil das ja eine voneuch Angestellte und unter eurem Label agierende Person ist.Ich finde das aber sehr, sehr amüsant,weil tatsächlich ja viele Unternehmen jetzt so losgerannt sind und irgendwieGPTs auf ihre Webseite gesetzt haben. Was finde ich auch sehr geil.Also einer der Internet-Sports war ja dann, diese GPTs dazu zu bringen,dass sie Bezahlfunktionalitäten von GPT-4 ermöglichen.Also ein lustiges Beispiel war irgendwie.Ich glaube, das war irgendwie so ein Autohändler oder GM oder sowas,eigentlich auch unerheblich.Hallo, ich bin der Chatbot von GM, welches Auto interessiert dich denn?Dann kannst du sagen, ja, keine Ahnung, ich brauche ein rotes oder so und ichmöchte mit acht Leuten drin sitzen und dann sagt er dir, welche Autos es gibt.Und dann geht aber einer hin und sagt so, okay, pass auf, ich brauche ein Python-Skript,was folgende Aufgaben für mich erledigt.Dieser GM-Chatbot wirft halt dann ein Python-Skript raus, was ich sehr schön fand.Und der unterteilt dann halt sehr, warum sollte ich denn hier für GPT-4 bezahlen,wenn es das irgendwie frei im Internet gibt.
Thomas Lohninger
Haben sie aber auch alle verdient, also ganz ehrlich, ich habe da null Mitleid dafür.In Österreich, auch in der ersten Jännerwoche so im Medienloch große Pressekonferenz gemacht.Sie haben jetzt auch einen Chatbot, der den Leuten hilft bei der Berufsauswahlund oh Wunder, natürlich dieselben Halluzinationen wie GPT-3 hat,weil nichts anderes war das Ding.Auch super Hardcore-Gender-Stereotypen, so Frauen sollen Gender Studies studierenund Männer können gerne in die Technik gehen. Nein.Und das Arbeitsmarktservice in Österreich ist berühmt für ihre schlechten Algorithmenund diskriminierenden Menschenbilder.Aber das zeigt halt auch die Verantwortung, die du da eigentlich haben solltest.Ich meine sowohl als Firma, aber erst recht natürlich als staatliche Einrichtung.Und da auf die Idee zu kommen, ja klatsch halt mal irgendwie JGPT davor unddann wird es schon gut gehen, ist halt lächerlich.Also vor allem auch, weil das halt so absehbare negative Konsequenzen sind undwenn du die nicht ausschließen kannst, dann mach es halt nicht.
Linus Neumann
Und ich denke, dieses Urteil wird noch, also jetzt ist es gerade so ein Lacherund hier ein Flug und Streitwert maximal ein paar hundert Euro,aber ich glaube, das wird schon noch, also das ist jetzt immerhin das erstein meiner Wahrnehmung dokumentierte Mal, gab es sicherlich schon frühere,wo ein Unternehmen sich darauf verlassen hat, so ein Ding eine verhältnismäßig einfache Aufgabe zu ähm,über zu helfen und dann, dass dieses GPT nicht ordentlich diese Aufgabe erfüllthat und das Unternehmen dann gesagt hat, ah scheiße, dafür wollen wir aber jetzt lieber nicht haften.Und das kann natürlich in sehr viel größeren Haftungsfragen nochmal sehr viel interessanter werden.Ob das jetzt ist, ich kläre dich über die Policy meines Unternehmens falsch auf,ja das ist ja noch ein relativ trivialer Fall, aber in diesem Fall wären siewahrscheinlich besser gefahren, wenn sie gesagt hätten, okay komm, hier ist dein Geld.
Thomas Lohninger
Ja, ich meine Air Canada steht in dem Artikel, hat jetzt den Chatbot abgeschalten,aber wir sind halt ganz am Anfang dieser Entwicklung.Also in ein paar Jahren hast du da keine menschliche Supportabteilung mehr unddann ist die Pfadabhängigkeit umso größer.Aber kann dann, also die kurioseste Zukunft wäre,dass dann die Unternehmen irgendwelche halluzinierten Rechtsauffassungen verteidigenmüssen, die der Chatbot sich ausgedacht hat, weil das so dermaßen on scale passiertist, dass sie jetzt halt irgendwie an diese Wahrheit glauben müssen.Also es wird sicherlich noch lustig sein.
Linus Neumann
So, dann lasst uns doch mal über den European Health Data Space sprechen.
Thomas Lohninger
Ja, also das ist auch so ein Thema, das wir in unserer Chronistenpflicht ansprechen sollten.Und zwar handelt es sich bei dem EHTS oder European Health Data Space um einenvon mehreren solcher Data Spaces, die die EU sich gerade ausgedacht hat. Was ist das Ding?Es besteht aus…,Aus zwei Teilen eigentlich, ja. Und es ist eine sogenannte Lex Spezialis zur DSGVO.Es ist eine Ausnahme von unserem Grundrecht auf Datenschutz,in dem mit diesem European Health Data Space nämlich unsere personebezogenenGesundheitsdaten, die anfallen, wenn wir zum Arzt gehen,ins Krankenhaus oder zu der Apotheke, jetzt in einem europäischen Datenraumgesammelt werden sollen.Und zwar für eine primäre und eine sekundäre Nutzung.Die primäre Nutzung ist das, was in Deutschland die elektronische Gesundheitsakteist oder in Österreich ELGA,sprich jene Daten, die anfallen, wenn du die normale medizinische Versorgung in Anspruch nimmst.Und das, was dein Arzt über dich als Befund abspeichert, was er dir vielleichtverschreibt, das sozusagen alles hier elektronisch auch abgelegt sein soll.Da kann man unterschiedliche Meinungen dazu haben. Für manche ist das sicherlichschon etwas, das für sie zu weit geht. Weil dann sind Gesundheitsdaten digitalisiertmit irgendeiner Form von zentralisierten Zugriff oder sogar einer zentralen Speicherung.Und andere meinen vielleicht, na, ich will das aber haben, weil meine ganzenBefunde irgendwie hin und her zu schleppen, ich will lieber,dass das irgendwo zentral gespeichert ist. ist.Unabhängig davon ist aber auf jeden Fall die Sekundärnutzung nochmal zu betrachten,weil da geht es explizit darum, dass auch für Wissenschaft und andere Forschungsinteressen,die auch von der Privatwirtschaft sein können, Stichwort Pharmaindustrie,diese Daten zur Verfügung stehen sollen.Zwar in pseudonymisierter Form, aber trotzdem.Soll hier im Sinne von Registerdaten jeder einzelne Vorgang,alle Datensätze, die zu einer Person gespeichert sind, verfügbar gemacht werden für Dritte.Und hier gibt es erwartungsgemäß einen großen Aufschrei, wie das immer in diesem Thema ist,das haben wir auch in der Pandemie gemerkt, so innerhalb dieser Gesundheitsbubblegibt es den Ansatz, mehr Daten ist immer gut und Datenschutz stört sowieso nur.Dass wir aber auch in der Pandemie gesehen haben, dass es für Menschen einengroßen Unterschied macht, wenn sie in zentralen staatlichen Registern drinnen sind.Und dass es halt da auch Menschen gibt, die nicht zum Arzt gehen,obwohl sie das vielleicht sollten, weil sie Angst vor diesen Dingen haben.In Österreich gibt es ein Impfregister seit der Pandemie und es gab da wirklichFälle von Leuten, die gesagt haben, ich verstehe Wissenschaft,ich will mich impfen lassen, aber ich will nicht in diesem Register sein.Und da musste man irgendwie Sonderlösungen finden mit Ärzten,die impfen, ohne das einzutragen.Und es gibt in Österreich die elektronische Gesundheitsakte seit über zehn Jahren.Die hat eine Opt-out-Möglichkeit, für die damals sehr viel gestritten wurde.Und die wird auch von grob 300.000 Menschen, drei Prozent der Versicherten inÖsterreich, in Anspruch genommen. Also es ist wichtig, die Leute nicht zwangszu verpflichten und ihnen Agency zu geben.Und gerade eben bei dieser Sekundärnutzung glaube ich auch, dass ein Opt-out.
Linus Neumann
Aber das ist Opt-out, ja?
Thomas Lohninger
Die ELGA in Österreich ist Opt-out, weil die hat auch nur Primärnutzung.Bei einer Sekundärnutzung glaube ich, dass man in Wirklichkeit ein Opt-in machen sollte.Wieso? Es ist unheimlich einfach, solche Daten zu reidentifizieren.Wenn ich den kompletten Dataset von einem Menschen habe über sein ganzes Leben,dann brauche ich nur wenige bekannte Datenpunkte, um diesen Menschen in demDataset rauszufiltern.Wenn ich weiß, wo der wohnt, wo der arbeitet, wann der sich den Fuß gebrochenhat, was vielleicht auf Social Media gepostet wurde oder was ein potenziellerArbeitgeber vielleicht weiß, kann ich sehr leicht in diesen Daten jemanden wiederfinden.Es gibt dann zusätzliche Schranken der Protokollierung von Daten,es gibt auch gute Techniken wie Differential Privacy, die man hier anwendenkann, um dieses Problem zu lösen.Davon findet sich aber nichts im European Health Data Space.Das ist eher so die Holzhammer-Methode.Und generell, es gibt so Pseudonymisierung, so als das Snack-Oil,diese Scheinlösung für Datenschutzprobleme.Und da wird einfach nicht hingeschaut, was für Gefahren immer noch in diesen Datasets drinnen sind.Und meine Prophezeiung ist, das wird uns allen nochmal auf den Kopf fallen.In Österreich gab es letztens ein schönes Beispiel, wo Daten auch pseudonymisiertdann weitergeleitet wurden und sie wurden pseudonymisiert mit der Sozialversicherungsnummer,was natürlich super einfach wieder zu reidentifizieren ist.Es gab jetzt eine Reihe von offenen Briefen, wir verlinken ein paar,morgen kommt ein neuer raus, weil dieser European Health Data Space gerade inden finalen Verhandlungen ist.Im Dezember letzten Jahres gab es die Abstimmung im Europaparlament in ersterLesung und auch im Rat und da haben wir es wirklich auf den letzten Metern miteiner Blutgrätsche geschafft,dass dieser Opt-out zumindest als Möglichkeit im Text verankert ist.Sowohl Parlament wie Rat haben die Möglichkeit geschaffen, dass Mitgliedstaatenweiterhin einen Opt-out vorsehen für die Bevölkerung.Verpflichtet ist das noch nicht, aber darüber wird gerade gestritten.Genau darum drehen sich diese Briefe.Und ich glaube Österreich und Deutschland haben damals noch im Dezember,da sind da eingeschritten.Ich fand das irgendwie ein schönesBeispiel, wo auch wenn man nur aus dem Augenwinkel auf das Gesetz schaut,man dann trotzdem nochmal mit koordinierter Aktion was verändern kann und geradeim Europaparlament so wirklich im Plenum noch Änderungen durchzubekommen,ist nicht einfach, aber das haben wir da geschafft und im Rat ist es auch drinnen.Also ich hoffe, dass wir zumindest die Möglichkeit eines Opt-outs bekommen.Aber ich sehe trotzdem, was diese Datasets betrifft, dann die reale Gefahr derReidentifikation und da wird es sicherlich noch in der Zukunft ein paar Datenskandale geben.Noch so ein Fun-Fact, weil es Deutschland gefordert hat und auch bekommen hat.In der Position des Rates für diesen European Health Data Space,und man kennt das ja so, EU-Gesetze, die werden verabschiedet und dann gibtes eine Phase, bis sie in Kraft treten.Und normalerweise sind das so ein Jahr oder vielleicht drei Jahre.Aber aufgrund der deutschen Struktur von Telematik und Gesundheits-IT hat sichder Deutschland durchgesetzt mit einer Umsetzungsfrist von zehn Jahren.Also auch wenn das jetzt kommt, es bleibt noch sehr viel Zeit,Bis es dann wirklich auch überall aktiv ist.Natürlich kann ein Staat das vorher umsetzen, aber ich fand das humoristischwertvoll, dass Deutschland gemeint hat, was, wir müssen hier Dinge digitalisieren,gebt uns noch eine Dekade.
Linus Neumann
Du, was heißt gebt uns noch eine Dekade? Ich finde Deutschland hat hier ungestümen Optimismus gezeigt.
Thomas Lohninger
Kann auch sein, ja.
Linus Neumann
So, das heißt, da können wir auch nochmal irgendwie warten, wie es läuft.Ich würde mich jetzt nochmal ganz kurz interessieren zu, wenn ich jetzt jemandenonline schlecht bewerte.Zum Beispiel meine frühere Mastodon-Instanz wegen Unterdrückung von politischen Diskussionen.Kann ich das anonym machen?
Thomas Lohninger
Wie immer bei jeder Frage nach rechtlichen Sachen, it's complicated.Wir haben ein interessantes Urteil vom OLG Hamburg bezüglich des Bewertungsdienstes Conuno, wo,Arbeitgeber bewertet werden von ihren Angestellten oder auch Vertragspartnernoder auch Praktis, wer auch immer mit diesen Firmen so Geschäftsverhältnissehat, kann auf Konuno gehen und dann sagen,der Chef ist ein Nazi oder das Unternehmen zahlt schlecht und was auch immerman vielleicht über einen ehemaligen Arbeitgeber aber nicht so an Meinungen haben könnte,die für zukünftige Arbeitgeberinnen vielleicht ganz wichtig sind für die Wahl des eigenen Jobs.Und in Zeiten von Fachkräftemangel hat man da ja zum Glück auch im Moment eine Wahlfreiheit.Das OLG Hamburg hat sich jetzt aber auf eine ganz interessante Rechtsauffassung gestellt, gestellt,weil dieser Rechtsstreit geht schon eine Zeit lang und ursprünglich war es so,dass der Arbeitgeber, der hier eben negativ bewertet wurde,gemeint hat, das stimmt alles nicht und das sind gar nicht meine Angestelltenoder Ex-Angestellten, die mich hier diffamieren.Und dann hat Konono gemeint, nee, wir haben das, okay gut, schauen wir uns anund die haben dann wirklich mit dem betroffenen User gesprochen,der hat Dokumente eingereicht, war aus deren Sicht eine legitime Bewertung vonjemandem, der wirklich dort gearbeitet hat und das auch belegen konnte.Aber das OLG Hamburg ist dem nicht gefolgt und man ist schon da beim LandgerichtHamburg irgendwie der Auffassung gewesen, dass die Plattform prüfen muss und dann ist es gut.Aber das OLG Hamburg, soweit ich das verstanden habe, ist jetzt nochmal einenSchritt weiter gegangen und hat gesagt, Auch das bewertete Unternehmen,was sich hier gegen eine schlechte Bewertung vielleicht wehren will und dieeinfach löschen will, dem müssen die Informationen ausgehändigt werden, wer das war.Also sozusagen die Person, die Kritik geübt hat, wahrscheinlich anonym oderunter einem Pseudonym, muss dann dem ehemaligen oder vielleicht sogar aktivenArbeitgeber genannt werden.Was natürlich die große Gefahr hat, dass sich dann niemand mehr trauen wird.Die Meinung zu sagen über einen ehemaligen Arbeitgeber. Also was so Anonymitätim Internet angeht, ist das ein ganz gefährliches Urteil, das hier gefällt wurde.Das OLG Hamburg hat auch klar gesagt, dass eine Berufung auf den Datenschutzhier nicht zulässig ist, was ich überhaupt nicht nachvollziehen kann.Zu der negativen Auswirkung die das auf die Meinungsfreiheit haben wird schweigtsich das Gericht ebenso aus also.Ja kann man nur hoffen, dass das in den Instanzen anders gesehen wird es istfür mich in so einem Gesamtzusammenhang den wir im Moment sehen.Dass Bewertungsplattformen insgesamt so in Italien, in Österreich ich habe jetztmehrere Fälle gehört immer wieder in der Kritik stehen ähm,Ich glaube, dass da ein Teil sicherlich jetzt aufgrund von der weiten Verbreitungvon Large Language Models begründbar ist.Es ist einfach sehr leicht geworden jetzt auch mit Masse solche Bewertungeneinzusetzen, vielleicht auch als Konkurrent einer Firma.Aber ich glaube auch, dass es vielleicht nur so in der Möglichkeit,dass das der Fall sein könnte, jetzt so eine Überreaktion passiert und überallKlarnamenspflicht oder digitaler Ausweiszwang gefordert wird.Das war zumindest der Fall von Digitalisierungsstaatssekretär Turski in Österreichvor kurzem, der eben auch eine Ausweispflicht im Internet für Bewertungsplattformen gefordert hat.Da ist ganz wichtig klarzumachen, wenn ich mich jetzt bei einer Plattform zuerstausweisen muss, bevor ich dort posten kann, egal ob ich das noch unter Pseudonymoder unter Klarnamen tun kann,das hat ebenso negative Konsequenzen auf die Meinungsfreiheit und auf den Datenschutz.Weil damit werden statisch zertifizierte Identitätsdaten an dieser Plattformgegeben und viele Leute werden sich zweimal überlegen, ob sie dann noch ihre Meinung sagen.Also gefährliches Urteil, das leider in den Trend passt.
Linus Neumann
Also ich finde, vielleicht kurz eine Überlegung dazu.Wenn der Arbeitgeber sagt, das ist eine Fake-Bewertung und das Unternehmen sagt, nee, ist es nicht,dann ist ja klar, dass hier Aussage gegen Aussage steht und das Unternehmenpotenziell das beweisen muss, was es da behauptet.Nämlich, dass es sich hierbei um eine legitime Bewertung einer Mitarbeiterin handelt.Ich kenne dieses Kununu nicht, ich habe aber schon mal eine andere Plattform genutzt.Und bei der war es so, dass die quasi mich als Angestellter des Unternehmensidentifiziert hat, dadurch, dass ich eine E-Mail-Adresse von dem Unternehmen hatte.Also, da habe ich dann gesagt hier sowieso at so und so und dann habe ich gesagt,alles klar, das ist die Domain, die diesem Unternehmen gehört,du bist, wir schicken dir da jetzt was hin, du empfängst das,beweist den Empfang der Nachricht, die wir dir geschickt haben und dadurch ist klar,dass du offensichtlich zumindest soweit bist, dass du eine E-Mail-Adresse vondiesem Unternehmen unter deine Kontrolle gebracht hast.Und jetzt wäre meine naive Vorstellung, dass das quasi sagen,dass man irgendwie an Eidestadt versichern könnte und sagt, ja,wir haben hier, was weiß ich, wir haben eine E-Mail, das können wir auch hiereinem dritten, was weiß ich, einem Notar zeigen,dass wir diese E-Mail gesendet haben und dass es hier eine Anmeldung gibt,ohne dass wir jetzt die Person, von der diese E-Mail empfangen hat oder so,verraten und ans Messer liefern. Diese anonymen Bewertungen sind natürlich immerein bisschen schwierig, weilsie eben potenziell geschäftsschädigend sein können und sagen wir mal so.Es ja jetzt auch wirklich nicht ausgeschlossen ist, dass so eine Mitarbeiterin,die irgendwie zufrieden oder unzufrieden gegangen ist,potenziell auch mal in so ein Bewertungsportal oder sagen wir mal freiwilligoder unfreiwillig gegangen ist, vielleicht ein bisschen übertreibt.Das sollte natürlich jede Person, die so ein Bewertungsportal liest,auch mit einpreisen, dass man alles da nochmal denkt, okay, die haben eh eineTendenz zum Negativen, weil,selten sagt die glückliche Mitarbeiterin, denn ach ey, heute bin ich so glücklichbei der Arbeit, ich schreibe mir wieder eine schöne Bewertung.Also unproblematisch finde ich die jetzt nicht so, aber ich denke hier mit dieserLösung beweise, dass du eine E-Mail-Adresse unter deren Domain hast und wir achten da noch darauf,dass du jeweils nur eine Bewertung schreiben kannst unter dieser E-Mail-Adresse.Das erscheinen mir eigentlich überzeugende Schutzmaßnahmen zu sein gegen Missbraucheiner solchen Plattform.
Thomas Lohninger
Ja, vor allem, wenn du dir denkst, dass ja die aggregierte Bewertung über einenArbeitgeber ist ja das Produkt von Grununo oder solchen Bewertungsplattformen.Und da sind wir wieder bei dem Punkt, das eigentliche Produkt von sozialen Medienist Inhaltsmoderation.Dann wäre es ja auch wirklich das Interesse von solchen Anbietern,dass sie die Balance halten und dass sie Fake oder jetzt zum Beispiel verzerrendenBewertungen selber auch vorbeugen würden.Und da gibt es verschiedene Wege, das kann man natürlich mit Lohnzetteln nachweisenoder irgendeinem Geschäftsverhältnis oder wie du sagst E-Mail-Adresse und wennman das gegenüber der Plattform tut,die vielleicht dann auch den Track Record hat mit den Daten sauber umzugehen,das könnte ein Geschäftsmodell sein.Das war auch die Rechtsauffassung des Landgericht Hamburg,aber das Oberlandesgericht hat ihm eben widersprochen und geht auf den Standpunkt,dass der Arbeitgeber, weil das eben kreditschädigend oder wirtschaftsschädigendist, geschäftsschädigend ist,den Einzelfall auch prüfen muss.Und deswegen auch die Informationen, welche konkrete Mitarbeiterin das war,an den Arbeitgeber ausgehändigt werden müssen.Spannender Fall.
Linus Neumann
Ja, tatsächlich ein bisschen, also halte ich für eine sehr problematische Auffassung,weil man natürlich auch, also sagen wir mal, man könnte ja sagen,okay, eine solche Plattform, da musst du dann schon ehrlich sein.Das heißt, da musst du, du bist ja dann von mir aus gegangen oder du bist beimUnternehmen oder du bist gegangen, da musst du da eine Bewertung hinterlassen.Wer ist denn so doof und stellt jemanden ein, der dafür bekannt ist,in irgendwelchen Jobportalen schlechte Bewertungen bei seinen ehemaligen Arbeitgeber zu hinterlassen?Also ich meine, so bitter das klingt,aber natürlich gehst du davon aus, dass eine erwachsene Person in der Lage ist,über die Konflikte bei der Arbeit potenziell hinwegzusehen und sich zumindestsouverän damit umzugehen.Und nicht irgendwie, also sagen wir mal jemanden, von dem du siehst,dass er seine letzten drei Arbeitgeber irgendwie im Internet verunglimpft hat,da überlegst du dir schon zweimal, ob du die Person nochmal einstellst,weil du natürlich davon ausgehst, okay,die hat jetzt hier mit drei Arbeitgebern vor mir Ärger gehabt,im Zweifelsfall sind die alle mit friedfertigen Absichten diese Arbeitsverhältnisseeingegangen, vielleicht stimmt was mit der Person nicht.Oder vielleicht hat die Person wirklich sehr viel Pech bei der Auswahl ihrerArbeitgeber und hat jetzt bei mir auch Pech.Also ich kann schon verstehen, warum solche Portale regelmäßig, ja.Thema von Auseinandersetzungen sind, aber üblicherweise klärt sich das ja,dass das Bild klärt sich ja durch die Menge der Bewertungen.Also wenn du jetzt zum Beispiel feststellst, ah okay, da gibt es jetzt einen,der war da total unglücklich und der lässt irgendwie voll vom Leder,aber da gibt es irgendwie auch ein paar andere, die sind,sehr positiv, dann ist dir ja die eine verrückte Bewertung vielleicht egal.Während wenn du jetzt jetzt irgendwie acht Negative hast, dann sollte auch derArbeitgeber, der sich jetzt irgendwie versucht, juristisch gegen alle dieseBewertungen zu wehren, auch keine Chance mehr haben.Also irgendwo liegt die Wahrheit ja dann wahrscheinlich in der großen Zahl.
Thomas Lohninger
Ja, dieses ganze Thema der Bewertungsplattformen ist spannend.Es gibt ja auch inzwischen schon so Plattformen, um Lehrer zu bewerten,wo die Schüler dann die Lehrer bewerten.
Linus Neumann
Oh ja, auch sehr, sehr gefährlich.
Thomas Lohninger
Das erinnert mich auch immer so an eine Black Mirror Folge, wo man dann auchimmer so eins bis fünf Sterne vergibt und den Score, der dann alles entscheidet. Aber ja.
Linus Neumann
Ja, da wäre ich aber sehr vorsichtig als Schülerin, ja, weil deine Lehrerinkennt deinen Schreibstil und weiß, wie gut du dich ausdrücken kannst.Also da würde ich mir wenig Hoffnung machen, dass ich in der Lage bin,dass das irgendwie, ja. Ja, ja.
Thomas Lohninger
Deswegen gibt es ja aber auch so Deepfakes, Linus.Und da hatten wir jetzt auch ein ganz interessantes Urteil, nämlich in unsererLieblingskünstlergruppe Zentrum für politische Schönheit. Was ist da passiert?
Linus Neumann
Ja, das ZPS hat ja, also Stefans Auftritt in der Sendung, erinnern ja sicherlichdie meisten Hörerinnen und Hörer.Unter anderem hat er hier sehrviel darüber berichtet, wie sie das Scholz-Deepfake angefertigt haben.Wir haben uns da viel über die Tools unterhalten, wir haben uns auch über dieArgumente, die das Zentrum für politische Schönheit für ein AfD-Verbot anbringt, unterhalten.Und das ZPS hat ja auch gesagt, sie haben die schönste Rede veröffentlicht,die Olaf Scholz nie gehalten hat.Und sie waren auch auf dem CCC-Kongress damit zu Gast und haben dort im Eröffnungsvortragauch nochmal über ihre Aktionen und Aktionen berichtet.So, und sie haben jetzt eine einstweilige Verfügung des Landgerichts Berlin kassiert.Und zwar waren natürlich die Bundesregierung, wie wir wissen,unglücklich über diese Verwendung des Scholz-Videos und hat das ja zunächst einmal...Die mit Urheberrechtsbeschwerden versucht, aus dem Internet herauszubekommen.Der Thilo Jung, der ja dann regelmäßig die Bundespressekonferenz besucht unddort auch filmt, hat dann gefragt, es gibt ja gar kein Urheberrecht da dran.Dann haben sie gesagt, ja, nee, wir haben ja ganz viele Rechte.Und irgendwie war das alles sehr, sehr unsauber, was die Bundesregierung da versucht hat.Zumindest nach den Regeln, die die sozialen Netzwerke da so zur Verfügung stellen.Und was das ZPS dann irgendwann gemacht hat, ist offenbar, sie haben das Videoerneut hochgeladen, nachdem es teilweise gelöscht worden war,mit einem eigenen Logo vom ZPS.Sie haben also nicht mehr das Logo der Bundesregierung verwendet.Sie haben auch eine schlechtere Lippensynchronisation offenbar vorgenommen unddafür gesorgt, dass das Video also wirklich auch für Laien erkennbar ist.Da stand dann irgendwie, war nicht mehr das Bundesregierungslogo,sondern da stand dann irgendwie hier Zentrum für politische Schönheit Originals und so.Und der Anwalt des ZPS, Till Kreuzer, sagt,sogar der aufgrund seines angeblich maschinenhaften und emotionslosen Auftretensunrichtig als Scholz-Format verunglimpfte Bundeskanzler ist in der Lage,seine Lippen synchron zum Gesprochenen zu bewegen.Deswegen, daran krankt das streitgegenständliche Video.Kein vernünftig denkender Mensch kommt auf die Idee, dass es sich bei dem streitgegenständlichenVideo um einen echten Scholz handelt.Das Gericht setzt dem entgegen, ja,die Erkennbarkeit ist aber zu subtil,daher führt das zu einer Zuordnungsverwirrung und weil das Video bei YouTubeein potenziell sehr großes Publikum hat und das Video keine künstlerische Anmutungoder satirische Überspitzung beinhaltet.Besteht also die Möglichkeit, dass von diesem großen Publikum Leute verwirrt werden.Und es sei also allgemein nicht zulässig, gefälschte Nachrichten,die als solche nicht ohne weiteres erkennbar sind, zu verbreiten.Und hierdurch gezieltden falschen Eindruck offiziellen Behördenhandelns zu erwecken und das Vertrauenin eine seriöse und verlässliche Öffentlichkeitsarbeit der Bundesregierung undgenerell in eine verlässliche Berichterstattung zu schwächen.Spannendes Urteil, ja.
Thomas Lohninger
Ja, sehr spannend, vor allem auch, weil damit wird ja eigentlich auch ein sehrhoher Standard für künftige Deepfakes gesetzt,also wer nicht wirklich ganz tief noch im Uncanny Valley steckt und ganz klar als Fake erkannt wird,sollte dann eigentlich sofort vom Netz genommen werden.Das ist spannend.Ich meine gut, jetzt hier Kanzler ist hochgezielt natürlich,aber sollte das jetzt wirklich die Messlatte sein,ab wann Deepfakes nicht mehr zulässig sind, dann wäre das ja,sofern man diese Deepfakes wirklich auch noch erkennt und ich meine nicht so wie hier beim ZBS,jemand sich hinstellt und genau erklärt, wie es gemacht wurde,dann wäre das ja eigentlich gut, finde ich.
Linus Neumann
Also das ZPS hat ja schon seinen Kongressvortrag unter den Titel gesetzt,die AfD wird verboten, Diebfakes auch.Wollen wir mal schauen, wie erfolgreich sie damit noch werden.Auf jeden Fall, sagt das Zentrum für politische Schönheit, sie werden gegendie Entscheidung Rechtsmittel einlegen, potenziell bis zum Bundesverfassungsgericht,weil sie das als Angriff auf die Kunstfreiheit werten.Und ein Sprecher des ZBS sagte gegenüber Netzpolitik.org, Bundeskanzler Scholzscheint mittlerweile alles zu verwechseln.Millionen Menschen fordern, dass er ein Verbot der AfD in Karlsruhe beantragen soll.Stattdessen hat er nun das Verbot eines Videos zum AfD-Verbot vor dem Gericht beantragt.Ähm Scholz will, dass vor jedem Kunstwerk Kunst steht,damit kein Seppel die Kunst mit der Realität verwechselt ja,ich bin mal gespannt ich bin da auch, ich meine natürlich die Sympathie zumZentrum, die Sympathie auch zu dieser Aktion und so, die,verschiebt da natürlich potenziell leicht die ähm, die Wahrnehmung das will ich gar nicht ähm.Gar nicht in Abrede stellen. Dass jetzt, sag ich mal, wenn da jetzt Scholz irgendwelcheanderen Sachen gesagt hätte, dass ich potenziell den Sachverhalt vielleicht anders bewerten würde.Deswegen bin ich mal gespannt, wie das so weitergeht und was man doch so anDeepfakes in Zukunft sehen wird.
Thomas Lohninger
Ja, aber es ist auf jeden Fall Popcorn-tauglich und ich finde es gut,dass wir überhaupt jetzt mal solche Gerichtsentscheidungen haben,weil dieser Also ein neuer Bereich muss einfach mal erschlossen werden.Und da finde ich es eigentlich fast gut, dass es von einer Künstlergruppe kommt, die das so offen spielt.Da wird noch viel mehr, viel grauslicheres Zeug auf uns zukommen, befürchte ich.Und dann hat man zumindest mal ein paar Pflöcke schon eingeschlagen.Aber reden wir weiter über das, was in Deutschland passiert.Weil das ist ja für jemanden, der aus Österreich kommt, Balsam für die Seele.Wir hatten auch so eine Demo gegen rechts mit 80.000 Leuten vor dem Parlament vor ein paar Wochen.Das ist für Österreich viel, aber korrektiv hat da ja eine wirklich große Welle losgetreten.Ich fand es wirklich toll, als ihr Jean in der Sendung hattet,aber da ist ja jetzt auch wieder was Neues passiert, was ich zumindest in Österreichgar nicht so mitbekommen habe.
Linus Neumann
Ja, also, Korrektiv hatte ja,wie einige bemerkt haben,relativ lange Zeit gebraucht zwischen diesem tatsächlichen Geheimtreffen imSeptember und der Berichterstattung darüber.Und das lag natürlich vor allem daran, dass sie sich absolut unangreifbar machenmussten, was die Inhalte angeht, die sie da berichten und gleichzeitig den Quellenschutz zu wahren.Es gibt ja nach wie vor keine wirkliche Auskunft von Korrektiv darüber,wie sie überhaupt an diese Gesprächsinhalte gekommen sind.Sie sagen, wir haben Quellen und wir schützen diese Quellen. Punkt.Und es ist natürlich auch verständlich, dass jemand, also wenn man jetzt davonausgehen würde, dass die Quelle vielleicht jemand ist, die oder der bei diesem Treffen war,dann ist auch verständlich, dass diese Quelle wirklich unter keinen Umständen bekannt werden möchte.Und es muss ja eine geben, weil sie haben ja sogar den Einladungstext.Also es muss ja irgendwo eine undichte Stelle geben.Aber natürlich möchte diese undichte Stelle nicht bekannt werden.Und es ist völlig klar, dass Korrektiv die schützen muss. Gleichzeitig habensie ja dann diese Sachen, diese Inhalte und die Texte veröffentlicht.Und sie haben ja quasi vorher konfrontiert und haben gesagt,hier alle Leute, über die sie da berichten, was die gesagt haben,was es da für Inhalte gab und so weiter, die haben sie ja vorher damit konfrontiert.Und die Leute haben nicht darauf reagiert und sie haben auch nicht quasi gegendie Inhalte, die dort in dem Artikel stehen,geklagt oder irgendwelche einstweiligen Verfügungen oder sonstiges erwirkt.Es gab aber jetzt irgendwie eidestattliche Versicherungen der Anwesenden,zum Beispiel will Ulrich Vosgerau nicht bemerkt haben,dass er an einer rechtsextremen und rassistischen Veranstaltung teilgenommenhat, auf der über die Vertreibung von Millionen Menschen gesprochen wurde.Das hat er nicht bemerkt.
Thomas Lohninger
Sowas aber auch.
Linus Neumann
Das ist natürlich äußerst erstaunlich, weil gleichzeitig natürlich Martin Sellnerüberhaupt gar kein Geheimnis daraus macht, dass Remigration sein großes Themaist und die AfD sich ja sogar damit gebrüstet hat.Das ist kein Geheimplan, sondern es ist ein Versprechen und so weiter, was es da alles gab.Auf jeden Fall wurden da jetzt einstweilige Verfügungen eingereicht,die irgendwelche Nebenschauplätze anzweifeln.Ja, und nicht notwendigerweise wirklich was, also nicht wirklich was,also quasi die zweifeln nicht an, dass es das Treffen gab, die zweifeln nichtan, was die Inhalte angeht, aber nehmen irgendwelche Nebenschauplätze.Der Korrektivanwalt Thorsten Feldmann sagt, es geht hier um die Herrschaft überden Diskurs, es geht nicht um den engen Streitgegenstand,sondern es geht einfach nur, dass mittels des Instruments der Haarspaltung bloßeNebensächlichkeiten der Recherche angegriffen werden, einfach nur um Korrektivin Misskredit zu bringen.Und so die ganze Recherche in Misskredit zu bringen.Deswegen hat dann Korrektiv jetzt mit acht eidesstaatlichen Versicherungen dergesamten Redaktion, die also sagen,dieses Treffen hat so stattgefunden und wir haben die alle konfrontiert unddie haben die alle dem nicht widersprochen, sich dem quasi entgegengestellt.Und jetzt hast du halt irgendwie eidesstaatliche Versicherungen auf der einenSeite, eidesstaatliche Versicherungen auf der anderen.Die sich aber natürlich wiederum auf unterschiedliche Aspekte beziehen und korrektivmuss also jetzt hier mit einer natürlich strafbewehrten eidesstattlichen Versicherung,sollte die sich als falsch herausstellen, dann würden die halt wirklich richtige Probleme bekommen.Und ich denke, da legen die natürlich einiges mehr in die Waagschale als dieTeilnehmerinnen dieses Treffens.Aber es ist natürlich jetzt auch dieser Kampf um, was war da jetzt eigentlich los?Es ist auch sehr interessant, wie gehen jetzt eigentlich diese Rechten damit um?Ja, weil die einerseits natürlich sagen müssen, das ist ja alles böse,das ist ja alles gestaged und weiß der Geier was und korrektiv und dann kurzdarauf gab es das Theaterstück und so schnell kann man ja gar kein Theaterstückmachen und was die sich nicht alles da ausdenken, um die irgendwie in Misskredit zu bringen,während sie gleichzeitig aber sagen, naja klar gibt es Remigrationspläne.Also die wissen auch gerade nicht, was sie angreifen sollen und was nicht,aber entscheidend ist natürlich irgendeine Headline,die die Korrektivredaktion in Misskredit bringt und natürlich muss die Korrektivredaktionsich gegen so etwas zuwehr setzen.
Thomas Lohninger
Ja und gut, dass sie es tut und man kann nur hoffen, dass sie die Ressourcen haben,diesen Kampf jetzt auch zu führen, weil ich glaube, der wird stellvertretendfür zuerst mal irgendwie journalistische Grundfreiheiten und das Redaktionsgeheimnisgeführt, aber dann natürlich auch Deutungshoheit und Integrität.Es ist ein bisschen schwer erkennbar, worum es denen jetzt geht,außer halt, wie du sagst, die eine Schlagzeile.Ich meine, das Ganze ist jetzt ja auch in so vielen Medien schon wiedergegebenworden und wird ja gar nicht abgestritten, dass es eigentlich nur so die Arbeitsweise sein kann.Und ich glaube, dass man da haltaus guten Gründen wahrscheinlich in der Redaktion gewisse Grenzen zieht.Also das ist natürlich auch unter einem hohen persönlichen Risiko passiert.Also ich kann mir nicht vorstellen, dass die ruhig geschlafen haben,bevor sie da auf den Knopf gedrückt haben, ganz einfach, weil das harte Gegner sind.Da hat man ja auch in Ibiza gesehen, also da war ja auch die ganze Erstellungvon dem Video etwas, wo am meisten drüber geredet wurde, viel mehr als überdie eigentlichen Inhalte von dem, was da gesagt wurde.Das war ein gönnerisches Framing irgendwie da, das sind ein Eck zu rücken,waren es jetzt Geheimdienste, ein politischer Mitbewerber, anstatt sich mitdem auseinanderzusetzen, was dort gesagt wurde.Und der Protest dazu ist glaube ich die wichtigste Selbstheilungskraft.Und kann man nur sagen, die FPÖ hat Remigration im Wahlprogramm stehen.Also das ist überhaupt nichts, wovor die sich noch schämen.Aber ja.
Linus Neumann
So, dann hätte ich noch eine Frage zu Pay or Okay.
Thomas Lohninger
Ja, über das Thema müssen wir auch noch kurz reden.
Linus Neumann
Wir müssen wahrscheinlich noch mal kurz erklären, was das ist.
Thomas Lohninger
Genau. Also, wer von euch in den letzten Jahren auf einer Webseite war,kennt diese Cookie-Banner.Diese nervigen, ätzenden Dinger, die einem von eigentlichen Content abhalten.Und die sind ja verhasst bei allen und haben uns antrainiert,immer nur auf ja, okay, okay, okay zu klicken. Und das ist ja bei Design.Diese Dinger sind eine Pervertierung des Datenschutzes und der E-Privacy-Richtlinie.Eigentlich müsste uns da eine Wahl gestellt werden mit Ja oder Nein.Aber das wollen viele Firmen nicht, weil die Daten sind ja was wert,die wollen uns überwachen, so machen sie Geld, deswegen ist der Nein-Knopf ewigweit versteckt irgendwo.Das ist bei fast jeder Nachrichtenseite so. So, Max Schrems hat mit Neub angefangengegen diese pervertierten Cookie-Banner vorzugehen, auch da ist automatisiertund da eben wirklich versucht,viele Firmen dazu zu bringen, mal endlich wieder auf den Boden des Rechts zurückzukommenund den Leuten eine wirkliche Wahl zu geben, damit die informierte Zustimmungauch eine ist, die diesen Namen verdient.Damit war er relativ erfolgreich und dann ist noch der Digital Services Sektordazugekommen, der Dark Patterns verbietet.Also eigentlich war das schon vorher so, wenn man die DSGVO ordentlich liest,aber da wurde es nochmal explizit gemacht, dass Dark Patterns verboten sind.Dark Patterns sind so UI-Hacks, die es Menschen schwierig machen.Dem zu kommen, was sie wollen. Das sind dann eben so Spiele mit Farben, mit Kontrast.Es gibt einen OK-Button, der ist schön weiß, klar sichtbar und dann einen kaumerkennbaren zweiten Button, wo ein Menü aufgeht, in dem ich was einstellen kannmit viel zu vielen Optionen und dann irgendwo gibt es vielleicht einen Reject-Button.Diese Dark-Patterns wurden eben an die Kantare genommen, die konnte es nichtmehr geben und dann haben sie sich was Neues einfallen lassen.Nämlich Pay or Okay. Und was diese Idee bedeutet, ist, dass ich immer noch einOkay-Schild habe, ich stimme zu, aber das Nein-Schild, so, na,ich will nicht gecheckt werden, da ist auf einmal ein Preisschild dran.Und du musst sozusagen dann zum Beispiel ein Abo abschließen,damit du diesen Nachrichten-Content noch lesen kannst.Gerade auf Zeitungsseiten begegnet das einem sehr häufig.Die Zeitung, die es erfunden hat, ist die größte Online-Zeitung in Österreich,der Standard.at. Die haben es sich ausgedacht.Max hat gleich, als das kam, ich glaube es war 2018, unter 19 dagegen geklagtoder bei der Datenschutzbehörde ein Verfahren eingeleitet, was er leider verloren hat.Und daraufhin ist dieses Pay-or-Okay-Modell eben in ganz vielen Medien in Europaverbreitet worden und wir haben uns alle schon gedacht, oh mein Gott, das wird gefährlich,und dann vor einigen Monaten ist auch Meta umgestiegen auf dieses Modell.Ihr habt es auch bei Logbuch Netzpolitik berichtet, bei Facebook und bei Instagram,kann man jetzt ein Abo abschließen, wenn man sich nicht tracken lassen will,Und natürlich ist das so der Tropfen, der das Fass zum Überlaufen bringt,obwohl das Prinzip vorher schon verletzt wurde.Und es gibt jetzt sowohl eine Entscheidung vom EDPB, vom Europäischen DatenschutzBoard, wo alle Datenschutzbehörden zusammenkommen,um rechtsverbindliche Auffassungen zu erlassen, wie die DSGVO auszulegen ist.Die beschäftigen sich jetzt in den nächsten Wochen dazu.Da gab es auch einen offenen Brief, den wir gemeinsam insgesamt 28 NGOs unterschrieben haben.Und es gibt auch EuGH-Verfahren in dieser Sache.Und da geht es leider auch darum, ein bisschen was umzudrehen,weil in einem vorherigen Urteil gab es ja diesen Halbsatz, Consent or a reasonable fee.Und dieses reasonable fee, an dem hängt sich jetzt gerade alles auf,dass der EuGH da halt als Möglichkeit in einem Urteil leider mit drinnen hatte.Und Neub ist da an der Speerspitze des Kampfes gegen diese Aushöhlung der DSGVO.Wenn da Schule macht, dann können wir uns dieses Grundrecht auf Datenschutzin die Haare schmieren, weil es wird einfach ganz viele Fälle geben,wo sich Menschen ihr Grundrecht dann nicht mehr leisten können.Und wenn man sich ausrechnet, im Schnitt hat jede Europäerin 35 Apps auf demSmartphone installiert.Bei der Gebühr, die Meta da so verlangt, wären das ungefähr 35.000 Euro im Jahr,die man zahlen müsste, um noch ein Grundrecht auf Datenschutz zu haben.Und es wird hier einfach wirklich etwas zum Verkauf angeboten,das eben ein Grundrecht ist und wo man sehr wohl gerne über die Finanzierungvon Journalismus reden kann.Ich glaube, dass es da eine dringende Debatte braucht,aber was die Medien jetzt gerade gemacht haben, waren eigentlich die Tür zuöffnen für Google und Facebook,weil den klassischen Medien bleiben ja nur noch Brotkrümel von den Werbeerlösenübrig, weil der Großteil bleibt bei Big Tech hängen.Deswegen haben wir ja das Finanzierungsproblem im Journalismus heute.Und gleichzeitig haben jetzt die klassischen Medien die Lesart der DSGVO in die Welt gesetzt,die das Geschäftsmodell von Google und Facebook und anderen Datenhändlern potenziellentgegen der DSGVO zementieren könnten.Also das ist ein wirklich wichtiges Thema.Neub, none of your business, die NGO von Max Schrems macht sich da am meistenverdient und weil das jetzt gerade so eine der wichtigen Debatten ist,die leider nicht die Aufmerksamkeit bekommt, die sie verdient,wollte ich das nochmal kurz erwähnen.
Linus Neumann
Wie geht es denn da jetzt weiter? Also wenn du sagst, das geht potenziell an den EuGH?
Thomas Lohninger
Also es gibt zuerst mal diese EDPB, das Europäische Datenschutzbord,das sich jetzt mit dieser Sache entscheidet.Das ist sicherlich maßgeblich für alles, was weiter passiert.Weil wenn der EDPB jetzt sagt, doch, doch, ja ist okay, darf Meta machen,zahlen es halt, dann haben wir sehr schlechte Karten für alles, was danach kommt.
Linus Neumann
Das ist aber also relativ unwahrscheinlich, oder? Oder?
Thomas Lohninger
Hoffentlich. Deswegen haben wir diesen Brief geschickt. Also da gibt es jetzteine wichtige Entscheidung für alle Datenschutzbehörden in Europa.Dieser große DSGVO, wo sich ganz viele Leute auf die Schulter geklopft haben,wirklich das Papier wert ist, auf der sie steht.Wenn wir das gewinnen, dann rechne ich uns schon gute Karten aus,dass in einem der EuGH-Verfahren, die so anstehen,und da gibt es wirklich viele, also Max, wenn man mit ihm redet,ja, da bin ich noch wieder in Luxemburg, da haben wir wieder Verfahren und daskommt jetzt die ganze Zeit dort auf, an den Verfahren, an denen er beteiligtist mit Neub, aber auch in anderen.Und die Rechtsprechung wird sich jetzt zusehends mit dieser Frage beschäftigen.Und ich rechne, dass die nächsten Wochen bis maximal ein, zwei Jahre noch diesefinale Entscheidung ausständig ist. Das kann wie immer schnell gehen.
Linus Neumann
In den letzten Wochen bis maximal ein, zwei Jahre.
Thomas Lohninger
Bis diese Entscheidung getroffen wird und es ist leider auch so,dass da eben die klassischen Medien sehr gut lobbyiert haben und auch die deutschsprachigenDatenschutzbehörden, die ja sonst immer auf der guten Seite stehen oder ofthier nicht auf der richtigen Seite stehen.Also das bleibt spannend.
Linus Neumann
Alright. Wir nähern uns hier dem Sendungsdauerrekord, Thomas. Juhu!Letztes Thema vor den Terminen. Arne Semsrott, vor Gericht.
Thomas Lohninger
Unser großes Vorbild und Freund. Ja, Arne macht ja nur coole Sachen.Und der geht wirklich...In die Vollen. Er lässt sich auch verklagen für die gute Sache.Nämlich hat er mit Frag den Staat Dokumente veröffentlicht aus einem aktivenGerichtsverfahren bezüglich der letzten Generation und dem Sender Radio Dreikland.Diese Dokumente sind, und das hört sich für jemanden aus Österreich wirklichobskur an, Gerichtsdokumente in Deutschland zu veröffentlichen oder aus denenzu zitieren, ist ja bei euch illegal.In Österreich will man das auch, was auch nicht wundert, dass die ÖVP das will,weil die haben ganz viel Dreck in Gerichtsakten drinnen stehen,aus dem jetzt berichtet wird.Aber in Deutschland gibt es schon so ein Gesetz, das das Zitieren aus Gerichtsaktenunter Strafe stellt und das auch pauschal tut,ohne eine Verhältnismäßigkeitsprüfung, wie es die Rechtsprechung des EGMR vorsehen würde.Dass man hier eine Verhältnismäßigkeitsprüfung anwendet, so wie das Medien einfach machen.Gibt es hier ein überwiegendes öffentliches Interesse?Gibt es auf der anderen Seite Datenschutzinteressen oder andere Geheimhaltungsgründe?Dann wägt man das ab und dann macht man seine Veröffentlichung.Soweit mir das jetzt als Laie aus Österreich bekannt ist, gibt es eine Abwägungim deutschen Recht nicht, sondern es gibt einfach nur diesen Straftatbestand, der es verbietet,aus Gerichtsakten zu zitieren und der ist nach der Meinung von der Literatureben etwas, das eh schon länger weg müsste.Und damit das jetzt auch wirklich passiert, hat Arne wahrscheinlich sehr wohlwissentlichdiese Dokumente veröffentlicht und wie zu erwarten war, gibt es jetzt ein Verfahrengegen ihn als Chefredakteur und ….Wir haben ja auch am Kongress gelernt, das fragt den Staat DE.Das DE steht für Druckerzeugnis. Die haben ja auch eine Zeitung verteilt am Kongress.
Linus Neumann
Habe ich hier.
Thomas Lohninger
Ja, ich beneide dich drum. Ich will die auch.Auf jeden Fall ist das ein Fall, den wir vermelden wollten in vollster Solidaritätmit Arne und ich hoffe, dass er hier gewinnen wird, weil dass es so ein Gesetz in Deutschland gibt,ist glaube ich nicht wirklich vereinbar mit einer liberalen Demokratie,wo man natürlich auch über die Arbeit der Justiz demokratisch diskutieren und berichten können muss.Und ich glaube, genau das ist das Ziel der Sache.
Linus Neumann
Wir hatten ja, genau, das glaubst du nicht nur, sondern es ist auch so,er hat das ja absichtlich gemacht, er hat das ja quasi mit Anlauf gemacht undim Hintergrund wetzt die GFF schon die Messer,weil um gegen ein solches Gesetz vorzugehen, brauchst du erstmal die Anklage,um dann dieses Gesetz wegen übertriebener Einschränkung der Pressefreiheit zu Fall bringen zu können.Das heißt, was Arne hier gemacht hat, ist quasi sehenden Auge,es hätte auch gesagt, übrigens, das darf ich nicht, guckt mal, was ich gerade mache,das darf man nicht, um genau diese Auseinandersetzung herbeizuführen,die GFF sitzt da schon und sagt, alles klar,das ziehen wir jetzt durch und hofft, dass eben auf diese Anklage potenziell die entsprechenden,zwangsläufigen Rechturteile in den niedrigeren Instanzen entstehen,um dann potenziell eben auch in den höheren Instanzen dieses nach Auffassungder GFF verfassungswidrige Gesetz zu Fall zu bringen.Das ist die Idee dahinter. Also er hat das jetzt quasi kalkulierter Rechtsbruch,um dann am Ende dieses Gesetz abzusehen.
Thomas Lohninger
Das soll noch mal jemand sagen, dass das Recht über allem steht.In Wirklichkeit ist es die Moral. Aber ja, also wirklich tolle Sache und damuss ich jetzt ganz noch mal diese ewig lange Sendung noch ein bisschen verlängern,weil etwas, das ich vergessen habe, das aber wirklich noch erwähnenswert ist.Österreich hat ein Informationsfreiheitsgesetz.Jetzt seit letzter Woche ist es beschlossen worden, auch in der zweiten Kammer,Und damit ist Österreich das letzte Land Europas, nicht der EU,neben Belarus, das ein Grundrecht auf Informationsfreiheit hat.Das wollte ich nur erwähnt haben.Und wir haben nämlich auch in Österreich ein FragDenStaat.at.Das neue Grundrecht gilt erst ab 2025, aber man kann jetzt schon Anfragen stellenund man kann auch den Kolleginnen von FragDenStaat.at spenden.Die sind noch rein ehrenamtlich, aber machen super Arbeit jetzt seit zehn Jahren.Also vielleicht kriegen wir dort auch einen Arne Semmsroth her,der so tolle Sachen macht.
Linus Neumann
Gut, herzlichen Glückwunsch, es sei euch gegönnt.
Thomas Lohninger
Wir brauchen es auch, das hilft gegen Korruption, weißt du was hier los ist?
Linus Neumann
Das Logo sieht aber aus wie fragt den Staat.de, oder?
Thomas Lohninger
Ja, das ist dieselbe Software.
Linus Neumann
Ah, natürlich, das ist ja alles Open Source.
Thomas Lohninger
Das ist eine 1 zu 1 Kopie der Software.
Linus Neumann
Mit Unterstützung der Open Knowledge Front, das ist ja genau das gleiche.
Thomas Lohninger
Genau, ja, aber Forum Informationsfreiheit ist die NGO, die es trägt.
Linus Neumann
Forum Informationsfreiheit ist die Trägerin.
Thomas Lohninger
Und das sind auch diejenigen, die da mit uns seit zehn Jahren an diesem Informationsfreiheitsthemaarbeiten und die auch ganz viele Sachen durchklagen.Das sind lauter Aktivisten, die das in ihrer Freizeit machen. Noch. Ja.
Linus Neumann
Elf Jahre und ein Tag. So lange haben wir uns ehrenamtlich für ein Transparenzgesetzeingesetzt, bevor mit Stimmen von ÖVP, SPÖ und Grünen am 31.Januar 2024 ein Informationsfreiheitsgesetz im Nationalrat beschlossen wurde.
Thomas Lohninger
Ja, der Finn von Forum Informationsfreiheit war mit mir gemeinsam im Verfassungsausschussals Experte geladen. War ein sehr lustiges Hearing, das verlinken wir auch nochmal.Und jetzt ist es endlich passiert und schauen wir mal.Licht ist ja angeblich gar nicht so schlecht als Desinfektionsmittel.Also als rhetorische Figur ist dieser Satz gut. Licht ist eigentlich kein sogutes Desinfektionsmittel. Aber wir nehmen alles, was hilft in Österreich.Also in dem Zustand, wo dieses Land ist, desinfiziere ich auch mit Licht.
Linus Neumann
Alright, dann kommen wir zu den Terminen.
Thomas Lohninger
Und zwar, der erste ist, dass von 28.Februar bis zum 3. März in Graz das Elevate Festival stattfindet.Und dort gibt es auch am Freitag um 16.30 Uhr den Netzpolitischen Abend.Ein Format, das aus Berlin ja wohl bekannt ist, gibt es auch in Österreich.Und dort wird es einige sehr spannende Vorträge geben. Es gibt auch insgesamtein Diskursprogramm, das sich sehen lässt und das ist gratis.Für das Musikprogramm braucht man ein Ticket, aber Ticket gibt es noch. Deswegen elevate.at.Und das nächste ist gleich am 13. März um 16.30 Uhr wiederum.In Wien gibt es eine Veranstaltung Access Denied – Challenges on the Quest toUnderstand AI on Platforms.Und das ist eine Diskussionsveranstaltung von Women in AI, einer neuen NGO,wo die Crom Austria, die Medienregulierungsbehörde, die den DSE in Österreichumsetzt, gemeinsam mit Leivand AI.Wir haben coole Wörter in Österreich. Und mir und noch ein paar anderen Leutenwird da diskutiert rund um den Digital Services Act und das,was der so bringt und insbesondere den Artikel 40, der uns nämlich Zugriff aufdie Daten von den großen Plattformen geben soll.Und da gibt es spannende Fragen, die man dann hoffentlich wissenschaftlich beantwortenkann. Darum soll es da gehen.
Linus Neumann
Und in Winterthur im Casino Theater gibt es am Freitagabend,also diesen Freitag, den Abend des 1.März und am Samstag, dem 2. März, den Winterkongress der digitalen Gesellschaft.Den haben wir ja schon vor einiger Zeit hier beworben.27 Vorträge gibt es dort, unter anderem zum Thema künstliche Intelligenz von der Theorie zur Praxis,aber auch ein Podiumsgespräch über automatische Gesichtserkennung und ob mandie nicht lieber national verbieten sollte.Also in Winterthur dieses Wochenende, Freitagabend und Samstag der Winterkongress 2024. 24.
Thomas Lohninger
Super. Damit sind wir am Ende. Wirklich.Ja, schön war's.
Linus Neumann
Ja, Thomas, hat mich sehr gefreut, dass wir uns mal wieder gehört haben.Und sicherlich wird man dich hier bald wiederhören. Und ich glaube,damit können wir uns einfach jetzt auch ganz schmerzlos verabschieden.Es sei denn, es muss noch irgendwas loswerden. Nee, überhaupt nicht.Nee, wir haben jetzt auch wirklich einmal alles durch.
Thomas Lohninger
Fast. Danke. Bis zum nächsten Mal.
Linus Neumann
Bis zum nächsten Mal. Ciao, ciao.

Shownotes

Prolog: Faschisten in Österreich

Feedback

Attribution von Fake/Echt Bildern, Muddy Waters

Franzl

Doku: Putins Bären

eID-„Hack“

eIDAS und DPI

WhatsApp-Öffnung dank DMA und keiner geht hin

Politische Inhalte in sozialen Medien

Air Canada Refund Policy

Offener Brief zum EHDS

Urteil zu Bewertungen

ZPS: Urteil zu Deepfake-Verbot

Correctiv: Eidesstattliche Versicherungen

Pay or Okay jetzt beim EDPB und EuGH

Verfahren gegen Frag den Staat

Informationsfreiheitsgesetz Österreich

Termine

28.2 bis 3.3 Elevate Festival in Graz

13.3 16:30 in Wien “Access Denied: Challenges on the Quest to Understand AI on Platforms”

Winterkongress 2024

Bonus Track

Auch hier hat Mr. Blacksoot uns eine Sketchnote zur Sendung beitragen.

LNP484 Auf alten Schiffen lernt man das Segeln

Jobs — Raumzeit — AI Act — Deepfake CREO Fraud — Kennzeichnung von KI-Bildern — Maaßen verfaschungsschutzt —UN Cybercrime Convention — Flipper Zero — VAULT7-Urteil — Freiwillige Chatkontrolle — Datenschutzgesetznovelle

Tim und Linus waren wählen und finden sich deswegen ganz toll. Nicht so toll finden wir Details zum AI Act, pöse AI-Kriminelle und Versuche, auch physische Hackertools zu verbieten. Dass Ex-BfVS-Chef Maaßen jetzt von seiner eigenen Behörde beobachtet wird wiederum bietet wiederum etwas Genugtuung.

avatar
Linus Neumann
avatar
Tim Pritlove

Für diese Episode von Logbuch:Netzpolitik liegt auch ein vollständiges Transkript mit Zeitmarken und Sprecheridentifikation vor.

Bitte beachten: das Transkript wurde automatisiert erzeugt und wurde nicht nachträglich gegengelesen oder korrigiert. Dieser Prozess ist nicht sonderlich genau und das Ergebnis enthält daher mit Sicherheit eine Reihe von Fehlern. Im Zweifel gilt immer das in der Sendung aufgezeichnete gesprochene Wort. Formate: HTML, WEBVTT.


Transkript
Tim Pritlove
Guten Morgen, Linus.
Linus Neumann
Guten Morgen, Tim.
Tim Pritlove
Heute war ja Wahl. Hattest du die Wahl? Was hast du gewählt?
Linus Neumann
Ich sagte doch nicht, was ich gewählt habe. Was war das denn jetzt?Die haben heute in dem Wahllokal, die haben den Ablauf falsch gehabt.Ich bin da hingekommen, hab denen meine Wahlbenachrichtigungskarte gezeigt,dann hab ich einen Stimmzettel bekommen.Ich dachte so, der hat mich jetzt gar nicht von der Liste der Wählerinnen gestrichen.Dann kam ich aus der Kabine zurück mit meinem Stimmzettel gehe zu der Urne unddann steht da halt der Typ mit der mit der Liste wo die Namen stehen wo er michabstreichen muss und sag ich so ja,was mach ich jetzt ja zeigen sie mal her und nehmen sie meinen Stimmzettel ichso, den geb ich ihnen nicht,achso ja ne sorry, haben sie einen Personalausweis weil normalerweise hättenwir gerne die Wahlbenachrichtigung.Ich so, habe ich. Kann ich Ihnen gerne zeigen.Wahlbenachrichtigung gezeigt. Ja, gut.Ja, dann gucken wir jetzt das, was Sie hier mal wegstreichen.Dann können Sie den Stimmzettel da in die Urne werfen.Tut mir leid, dass ich den gerade nehmen wollte. Das wollte ich natürlich nicht nehmen.Dem war schon auch klar, dass er da gerade so an den falschen,potenziell an den falschen hätte geraten können. Mitgeben Sie mal den Stimmzettel.Fand ich auf jeden Fall ganz gut. Aber das war jetzt als Intro-Gang wahrscheinlich zu lang, ne?
Tim Pritlove
Wir sehen Martin noch die Hoffnung. Ich krieg das so wie geschnitten.Du machst das doch schon eine Weile.Was machen wir jetzt?
Linus Neumann
Fangen wir wieder neu an oder du machst jetzt die Musik?
Tim Pritlove
Oh Mann, das fängt ja gut an.Logbuch-Netzpolitik Nummer 484 vom 11.Februar 2024 und man verlernt mit der Zeit ja alles, sogar Sendungseinstiege.
Linus Neumann
Ich hab dir gesagt, mir fällt zu weich ein.
Tim Pritlove
Ja, jetzt lassen wir das so, oder?
Linus Neumann
Ich hätte noch andere zur Auswahl gehabt von ChatGPT.
Tim Pritlove
Die waren nicht witzig.
Linus Neumann
Ja.
Tim Pritlove
Ich dachte, ich.
Linus Neumann
Kann ja keinen Qual-der-Wahl-Witz machen oder so. Das ist ja zu abgedroschen.
Tim Pritlove
Tja.
Linus Neumann
Ja, wir hatten Wiederholungswahl in Berlin.
Tim Pritlove
So sieht es aus. Ja.
Linus Neumann
Und es ist keiner hingegangen.
Tim Pritlove
Ich war gerade ein bisschen verwirrt von deiner Reihenfolge.Also ich meine, erst kommt man noch mit der Wahlbenachrichtigung an. Ja.
Linus Neumann
Die haben das falsch gemacht.
Tim Pritlove
Aber du meintest gerade, als erstes müsstest du von der Wählerliste gestrichen werden.Das ist ja tatsächlich erst, wenn du die Stimme abgibst, dann wirst du gestrichen.
Linus Neumann
Okay, dann hat er das gemacht. Dann hat er es richtig gemacht.
Tim Pritlove
Ja. Bei mir war jetzt der Prozess ein bisschen anders, weil ich hatte eigentlichBriefwahl beantragt, die dann aber nicht wahrgenommen. Und dann musste ich jaerstmal durch den Prozess durchgehen.
Linus Neumann
Dann musst du durch den Prozess der Ausstellung eines neuen...
Tim Pritlove
Dann musste ich das Material, was mir zugesendet wurde, also den Wahlscheinund so weiter, den musste ich dann, naja, sie haben gesagt, ich muss den jetzt vernichten.Ja, okay. Und wie mache ich das jetzt ordnungsgemäß?
Linus Neumann
Feuerzeug.
Tim Pritlove
Ja, wussten sie dann erstmal auch nicht so richtig. Ja, das müssen sie irgendwie da hinten machen.Dann bin ich zu diesen anderen Vögeln gegangen, da wo man dann eigentlich seineStimme abgibt, also seinen Stimmzettel abgibt.Und ja, müssen sie jetzt vernichten. Ja, so weit habe ich das schon verstanden.Die Frage ist, was ist der korrekte, ordnungsgemäße Vorgang?Muss ich das jetzt anzünden? Das haben sie mir nicht gesagt.Ich habe nur gefragt, ich wollte ja sozusagen den Prozess nicht in Gefahr bringen.
Linus Neumann
Ja.
Tim Pritlove
Das weiß ich, dann mache ich irgendwas falsch.
Linus Neumann
Du machst den falsch kaputt und dann kann man den nicht mehr richtig kaputt machen.
Tim Pritlove
Ja, dann ist das wieder so ein Schmetterlingsschlag.
Linus Neumann
Oder der ist schon kaputt und die hätten aber vorher noch...
Tim Pritlove
Ja, also ich hatte einfach Angst, dass die ganze Welt auseinanderbricht,wenn ich jetzt nicht das Richtige tue.
Linus Neumann
Also wenn man schon eine Wiederholungswahl macht, möchte man ja jetzt auch nicht...
Tim Pritlove
Dabei alles falsch machen.
Linus Neumann
Ja, noch was falsch machen.
Tim Pritlove
Dann waren es wieder die Wähler, ne?
Linus Neumann
Ein drittes Mal.
Tim Pritlove
Ja. Ja. Nee, es war alles ganz reibungslos. Es war allerdings auch wenig los.
Linus Neumann
Ja.
Tim Pritlove
Also ich tippe mal...
Linus Neumann
Ich glaube auch, deswegen haben die da... Die waren wahrscheinlich völlig geschockt.
Tim Pritlove
Unterfordert. Ja. Deswegen habe ich ja ihnen gleich eine Aufgabe gestellt.Naja, ich habe es dann auf jeden Fall geschafft und der Stimmzettel ist dannirgendwann in der Kiste gelandet. Und jetzt ist alles anders.
Linus Neumann
Also mein Eindruck war, dass das da schon grob lief. Ich habe zum Beispiel...Gecheckt, ob da auch wirklich die Kandidatinnen und Kandidaten draufstehen, die ich erwarte.Das war ja bei einem Wahllokal vor zwei Jahren so, dass sie innerhalb einerhalben Stunde gemerkt haben, dass sie vom falschen Wahlkreis die Zettel ausliegen hatten.Dass dann irgendwann einer hingegangen und meinte also ich wollte eigentlichjemand anders wählen, aber der ist nicht auf dem Zettel,können sie mal gucken ob das die richtigen sind, weil auf meiner Wahlbenachrichtigungund so steht ja hier Wahlbezirk und so,und dann, hier hängt ja auch überall irgendwie so einer, aber der steht hiernicht und dann haben die haben die gesagt, oh Oh, ha!Ja, und es ist natürlich auch lustig mit denen, die zu dem Zeitpunkt schon gewählt hatten.
Tim Pritlove
So ein Durcheinander. Also da ist echt alles schief gegangen.Zur Erinnerung, das war jetzt hier die in Berlin völlig verkackte Bundestagswahlund auch Landtags- oder Senatswahl in Berlin.Letztere wurde ja schon mal nachgeholt. Das hat uns ja dann hier die tolle,Verkehrssenatorin eingebracht, die jetzt erstmal wieder alle Radwege verhindern muss und so.Und du weißt schon hier, sie hat jetzt übrigens gemerkt, dass das irgendwiemit dem ähm, dass das mit dem Magnetschwebezoch, dass das schwierig ist.
Linus Neumann
Ach was?
Tim Pritlove
Ja. Da wäre so viel, da würde so viel dranhängen irgendwie, das wäre tatsächlichein bisschen schwierig.
Linus Neumann
Da haben sich schon ganz andere Städte dran verhoben.
Tim Pritlove
Man wählt da Leute und vor allem Politiker haben dann oft ja bei den meistenLeuten so dieses, naja, die stellen sich ja zur Wahl, die müssen ja auch irgendwie kompetent sein.Und das ist einfach ein Trugschluss. Also nicht, dass sie nicht intelligent sein können.Ich habe schon Politiker erlebt, die sind intelligent, aber meistens ist es dann doch so.Das, ja, wie sagte Pavel mal so schön, die hätten auch manchmal Probleme einfach mit Mathematik schon.Also einfach Grundrechenarten wären teilweise schwierig zu vermitteln gewesen.So Prozentrechnung und so Sachen, das würde einfach so nicht verstanden werden da.Und das ist schon mal so ein Teil des Unglücks.Ja, naja, also wir haben jetzt auf jeden Fall beide nachgewählt,weil wir beide in so betroffenen Wahlbezirken waren.Das ist ja nicht überall in Berlin, sondern es ist nur in ausgewählten,nur in den feinsten Bezirken, wo die speziellen Leute wohnen.Da wollten sie es dann doch nochmal genau wissen.Und dann gucken wir mal, was dabei rauskommt. Wir sitzen ja hier früher morgen und haben keine Ahnung.Aber Spoiler, es wird sich nicht füreinander durch. Ich.
Linus Neumann
Habe es ehrlich gesagt, also ich muss sagen, die war ja auch ein bisschen unterberichtet.Also mich wundert das überhaupt nicht, dass diese Beteiligung jetzt niedriger ausfällt.
Tim Pritlove
Ich weiß nicht, ob sie niedriger ausfällt, nur als ich da war,war nicht viel los. Das heißt ja erstmal gar nichts.
Linus Neumann
Naja, wenn man jetzt so die ersten Berichte so anschaut,ist die Wahlbeteiligung wohl relativ gering und jetzt irgendwie meine Kontaktein den Wahllokalen sagen auch, dass es eher langweilig ist.
Tim Pritlove
Tja, wenn ihr was Spannendes machen wollt, dürft ihr euch nicht für die Demokratie einsetzen.Naja, gut. Neue Betätigungsfelder gibt es ja auch bei der Bahn.Hast du das mitbekommen?
Linus Neumann
Ja, da gibt es...
Tim Pritlove
Kennst du dich da aus eigentlich? Hier MS-DOS und Windows 3.11.
Linus Neumann
Ja, da habe ich...
Tim Pritlove
Hast du Erfahrung?
Linus Neumann
So wie du auf alten Schiffen lernt man das Segeln.
Tim Pritlove
Ja.
Linus Neumann
Und habe ich gemacht, ja. Ja.
Tim Pritlove
Was hast du gemacht da auf MS-DOS? Was können Sie da vorweisen, Herr Neumann? Ich.
Linus Neumann
Glaube, ich hatte einmal einaltes Laptop, da war glaube ich so MS-DOS 3.8 oder sowas, kann das sein?Das wurde noch von Disketten gebootet, der Rechner hatte noch nicht mal eine Festplatte.Aber mein erster richtiger Rechner, den ich auch davor hatte,dieses alte Laptop, habe ich dann irgendwann mal aus historischen Zwecken wieder gestartet.War glaube ich MS-DOS 6.2 war das so die?Und dann musste man Win eingeben, damit Windows 3.11 startete.Habe ich hingekriegt. Mhm.
Tim Pritlove
Okay, super.
Linus Neumann
Und also lief Doom drauf, also hatte ich den Rechner, würde ich sagen, vollständig im Griff.
Tim Pritlove
Mit 3D sozusagen. Okay, ja dann kannst du bei der Bahn anfangen,ne? Die suchen jetzt da Leute.Windows 3.11 für Workgroups. Ja.
Linus Neumann
Alles geil. 3.11 für Workgroups, dieser Name allein, ne?
Tim Pritlove
Das ist jetzt kein Witz, ne? Also...Nicht die Bahn, sondern konkret Siemens. Die Bahnabteilung von Siemens suchteinen Admin für Windows 3.11, für Workgroups.Und wir dachten euch, wir dachten uns so für euch so als Jobangebot,vielleicht ergibt sich da ja nochmal was.Für so Leute, die auch dann Schwierigkeiten hatten, dann mit der Entwicklung mitzuhalten.
Linus Neumann
Ja, weil IT ist ja schon so ein schnelllebiges Feld.Und es stimmt ja auch. Und dann irgendwann zu sagen, nee, komm,Schuster, bleib bei deinen Leisten.
Tim Pritlove
Mit einem alten Pferd bringst du keine Tricks mehr bei.
Linus Neumann
Nee.
Tim Pritlove
Hund sagt man, ne? Mit einem alten Hund bringst du keine Tricks mehr bei. So war das.
Linus Neumann
Aber wenn du das richtig unterkommst. Ich frage mich, wie du sowas sicher betreibenwillst, aber das haben sie auch direkt dazu gesagt, dass es in der Bahn üblichwäre, dass Dinge länger betrieben werden und dass sie selbstverständlich sicher betreiben.
Tim Pritlove
Ach ja, ich habe, muss ich sagen, wenig Erfahrung mit Windows 3.11 für Workgroups,da war meine aktive Windows-Zeit schon lange vorbei.Die war nämlich nur sehr kurz, ich habe nämlich eigentlich nur Windows 1.0 verwendetund das auch nur zu einem einzigen Zweck, um damit PageMaker zu starten.Das war eigentlich die einzige Anwendung, die ich als unter Windows verwendet habe in all der Zeit.
Linus Neumann
Ne, ich glaube, ich bin ja relativ spät dann zu Mac gegangen und ich habe dannschon relativ, ich glaube zu Windows 95 Zeiten habe ich so Dualboot Linux gehabt schon.Aber ich musste natürlich irgendwie bestimmte Programme da einfach,insbesondere die ganzen Spiele, musste es natürlich unter Windows laufen lassen.Und nicht unter Wine.
Tim Pritlove
Spiele, Windows.
Linus Neumann
Meinst du mit den Angaben kriegen wir den Job?
Tim Pritlove
Also du hast Chance nicht.
Linus Neumann
Ich glaube.
Tim Pritlove
Ich halte mich da raus.
Linus Neumann
Lilo.
Tim Pritlove
Ich glaube, ich mache weiter Podcasting.
Linus Neumann
Mit dem Lilo habe ich dann Dualboot gemacht. Der Linux-Loader.Der Linux-Loader, genau.
Tim Pritlove
Wow. Alright. Na gut, wisst ihr, wo ihr noch einen Job kriegt jetzt.
Linus Neumann
Ja.
Tim Pritlove
Genau. Aber wir wollten uns ja eigentlich über netzpolitische Aspekte unterhalten.
Linus Neumann
Deswegen möchtest du jetzt über Raumzeit reden, oder was?
Tim Pritlove
Ah ja, stimmt ja, genau. Da war ja noch eine Hausmitteilung.
Linus Neumann
Ja.
Tim Pritlove
Genau. Also heute, wie sagte ich gerade, ist 11. Februar.Und das bedeutet in 10 Tagen gibt es eine Möglichkeit meinen anderen Podcastmal live mitzuerleben wenn ihr Lust habt, ich mache,eine Aufnahme on stage und da kann man so drumrum sitzen und in die Ferne schauen weil das Ganze im,Zeiss Großplanetarium wie es korrekt da also heißt in Berlin stattfindet,da kann man sich dann ein Ticket klicken und sich hinsetzen und ich habe einenGast und das ist Ulf Merbold, das ist so ein ja, so ein, ja, das ist einer der,erfolgreichsten Astronauten Deutschlands, so, dreimal im All gewesen und sound nach Sigmund Jähn, der zweite.Kommen übrigens beide so mehr oder weniger aus der gleichen Ecke,das ist echt interessant, also man muss da schon so aus Thüringen,Erzgebirge, das ist der Ort, wo die, wo die Ursuppe der deutschen Astronauten herkommt.Aber der ist dann in hat im Westen rüber gemacht, weil er nicht Physik studierendurfte. Deswegen ist er dann westdeutscher Astronaut geworden.
Linus Neumann
Im Westen rüber gemacht und dann ins All. Also jemand, dem es grundsätzlicheinfach nicht gefällt, wo er ist.
Tim Pritlove
So ein Meckerer. Naja, hast du jetzt goldener Westen alles rüber und dann so, ah ne.
Linus Neumann
Ah scheiße.
Tim Pritlove
Boah.
Linus Neumann
Ich muss hier weg.
Tim Pritlove
Auf in den Orbit.Naja. Genau.
Linus Neumann
Wie alt ist er jetzt?
Tim Pritlove
Wie alt ist er?Also auf jeden Fall schon Rente, Baujahr 1941.
Linus Neumann
Also ist er gar nicht mehr als Astronaut tätig?
Tim Pritlove
Nein, nein, der ist jetzt 80 Jahre alt.83, 82, 83.
Linus Neumann
Ja, da kann man dann auch, also Astronaut ist ja auch eigentlich ein anstrengenderJob, da kann man dann auch einfach mal in den Ruhestand gehen.
Tim Pritlove
Ja.
Linus Neumann
Okay, und der erzählt dann, wie sie damals...
Tim Pritlove
Genau.
Linus Neumann
Mit Windows 3.11.
Tim Pritlove
Föber-Groups. Genau.Würde ich mich freuen, wenn ihr dabei seid. So, jetzt aber Inhalt.
Linus Neumann
Genau, auf der europäischen Ebene wird ja der AI-Act diskutiert.Und es ist so ein skurriles Feld irgendwie.Es gibt jetzt eigentlich eine relativ klare ursprüngliche Positionierung,die auch das Parlament hatte, nämlich die gesagt hat, hier, wir möchten bittekeine biometrische Echtzeitüberwachung haben,wir möchten auch so Emotionserkennung,also im Prinzip diese ganze biometrische Massenüberwachung, das möchten wireigentlich nicht haben.Und dann kam die spanische Ratsvorsitz, der ja nun auch wirklich irgendwie hierrelativ oft negativ auffällt und hat gesagt, ja nee, machen wir doch,wir haben ja eine gute Idee, danke für eure Position, liebes Parlament,wir schreiben da jetzt mal wieder was rein und möchten halt eher schon so etwas drin haben.Ja, also möchten diese ganzen Sachen in der biometrischen Überwachung eher wieder drin haben.Jetzt müssen wir mal gucken, wie sich das weiter entwickelt.Es ist ja wirklich immer so eine komische Sache.Also vielleicht muss ich mir da irgendwann auch nochmal einen ordentlichen Zeitstrahlmalen lassen, wann so etwas, wie dieser Prozess wirklich läuft,wann da mal die endgültige Abstimmung ist.Aber auf jeden Fall biometrische Echtzeitidentifizierung, Emotionserkennungund sowas bleibt da weiter im Rahmen der Diskussion.Auch wenn eigentlich schon stabile Positionen dagegen bestanden im EU-Parlamentund die Mitgliedstaaten im Rat das jetzt irgendwie anders sehen.Und eine andere spannende Sache finde ich, also es geht natürlich hier um die Sicherheitsbehörden.Also hier geht es jetzt, kannst du dir genau anschauen, wir machen da so einAI-Act, dann geht es einmal darum,okay, müssen wir gucken, was macht denn die Wirtschaft so, was können wir derWirtschaft untersagen und die Wirtschaft muss eben eigentlich Register führenüber besonders risikoreiche KI-Systeme.Also wenn du irgendwie, das ist dann definiert, was jetzt besonders risikoreichist, Entscheidungstreffen, besondere Überwachung oder so.Und für den Staat selber, da kommt natürlich dann wieder so eine andere Sache.Sagen wir erstens, ach ja, hier so biometrische Massenüberwachung,das können wir eigentlich mal den Sicherheitsbehörden erlauben.Das ist schon mal ganz gut.Und eigentlich, wenn die riskante KI-Systeme einsetzen, dann erfassen wir daszwar auch in der Datenbank, aber im nicht öffentlichen Teil.Weil muss ja nicht unbedingt jeder sehen, dass wir bei Strafverfolgung,Migration, Asyl und Grenzkontrollmanagement riskante KI-Systeme einsetzen.Aber das können wir jetzt, das ist ja witzlos, wenn wir dann das in der Datenbankschreiben müssen, dass wir die eintragen.Deswegen sagen wir, da schaffen wir keine Transparenz drüber.Also erkennbar hier wieder so Last-Minute-Wechsel für, ach lass uns mal dieseganzen Überwachungsvorzüge dann doch mal für uns Staaten freistellen und uns erlauben.Während ja, dieses ganze Ding ja eigentlich geritten wird unter Jetzt-Licht,aber hier mal die EU den Konzernen mal die die mal entketten,dass die hier nicht ungezügelte,KI-Überwachung hier ausrollen und ja, ehrlich gesagt finde ich das ein bisschensehr erstaunlich, was da, wie das da jetzt irgendwie gerade läuft.Dann gab es irgendwie so so einen komischen offenen Brief, der mich auch eher ein bisschen.Ja, wie soll man das sagen? Ratlos zurückgelassen hat nämlich der AI-Act-Verabschiedenbrief,den dann irgendwie ein paar Organisationen unterschrieben haben.Wir haben irgendwie so Bertelsmann Stiftung, Stiftung Neue Verantwortung,Verbraucherzentrale, Bundesverband, aber auch einige, also irgendwie eine komischeListe, wo irgendwie so steht so, ja der fehlende Rechtsrahmen ist das größte Problem.Und wenn da jetzt einzelne Sachen nicht so gut dran passen, dann soll man trotzdem.Jetzt mal unterschreiben.Wir, die Unterzeichner, unterstützen nicht alle Maßgaben der Verordnung.Vielmehr sehen sie an verschiedenen Stellen Verbesserungsbedarf.Aber wir müssen jetzt gemeinsam Position beziehen, um die ZukunftsfähigkeitDeutschlands und Europas zu sichern.Also habe ich auch jetzt ja üblicherweise, sagst du in deinem offenen Brief,ja, folgendes hätten wir gerne noch geändert und dann Volldampf voraus,aber hier offener Brief an die deutsche Bundesregierung,stimmen Sie für den AI-Act.Und natürlich klar, würde der nicht angenommen werden, dann wäre das ein hohesRisiko für die Innovationskraft und den Grundrechtsschutz in Europa mit internationalen Auswirkungen.Also die Sorge, die sie in diesem Brief benennen, ist,dass ein Flickenteppich aus Regulierung in Europa entstehen könnte und danndamit Innovationskraft gedämpft wird,weil sich dann hier nicht die europäische AI Startups hier ordentlich durchsetzen können.Die haben ja auch überhaupt keinen, also die haben ja jetzt gerade so richtigeine Vollgas-Position und überhaupt keine Nachteile dadurch,dass sie keine Daten haben oder dadurch,dass es dieses Thema eigentlich nicht gab. Irgendwie so ein bisschen komisch.Also ich denke diesen AI-Act es wäre schon sehr schön wenn wir.Wenigstens uns darüber einigen könnten keine massenhafte biometrische Überwachungzu haben und auch keine Rückschlüsse dafür und als allererstes mal sich derStaat selber ein paar Ketten anlegt,aber es scheint hier eher andersrum zu sein das überzeugt mich nicht.
Tim Pritlove
Ja, das ist immer so ein bisschen die Gefahr, gerade mit so Riesenpaketen,also AI, das ist halt auch so mega generisch.Ah, künstliche Intelligenz, ja ach das Thema, das regulieren wir jetzt mal.Dabei ist das einfach so ein riesiges Fass, was man da aufmacht und das zeigtsich ja hier an den Detailverhandlungen schon, welche Aspekte es dabei gibt.Aber dadurch, dass das dann alles in einem dicken Teil durchgerollt werden mussund das ist generell auch so ein bisschen das Problem der europäischen Ebene.Also wenn Europa mal was anfasst, dann muss das gleich so ein Riesenpaket seinund alle Einzelaspekte müssen da drin untergebracht werden und dann wird eshalt auch schnell mal zu viel und vor allem verliert man so ein bisschen dann auch den Fokus,was war es jetzt eigentlich nochmal,warum sind wir jetzt eigentlich überhaupt angetreten das zu regulieren?Also was war jetzt eigentlich genau der Grund?Und ich habe manchmal auch so den Eindruck, dass solche Sachen,die am Schluss über die am meisten noch gestritten wird, ursprünglich mal so der Trigger waren.So nach dem Motto, oh, da gibt es ja Gefahren, da müssen wir mal wegen der Gefahren,müssen wir mal was machen.Dann wird da zwei Jahre drüber geredet und dann wird das immer mehr so,ja die Gefahren, aber auch die Chancen, wir müssen ja auch die Chancen sehenund wir müssen ja unsere Innovationskraft behalten, wir müssen ja zukunftssichersein und jetzt brauchen wir hier mal Rechtssicherheit und dann so,was wollten die alles machen?Achso, ihr wollt ja eine klare Regelung für die Verwendung von biometrischerErfassung. so, ja dann machen wir das doch mal, da schreiben wir wir sind dochsowieso gerade dabei bei so einem AI-Act, das passt doch eigentlich ganz gut, oder?Und dann steht einfach genau das Gegenteil von dem drin, was man eigentlichhaben wollte und das ist irgendwie so ein bisschen absurd und das halt auchmal alles richtig zu tracken und zu verfolgen, das ist natürlich die Aufgabeder ganzen Begleiter und NGOs und vielleicht auch von uns hier ein bisschen.Aber es ist halt schwierig wenn das alles so groß ist und dann vor allem danneben die Auseinandersetzung innerhalb von Europa und dann natürlich auch nochmal innerhalb der europäischen Institutionen so verbissen dann geführt wird.Und das Parlament, der Trilog.Da hast du wieder irgendein Land, was aber unbedingt alles überwachen will unddas fängt dann an rumzudrohen.Da wüsste ich auch ganz gerne mal, wie es da hier eigentlich aussieht,welche Staaten sich hier eigentlich noch so einbringen.Du hast halt einfach so ein paar potenzielle Staaten, die sagen wir mal so mitRepressionstechniken nicht ganz so Berührungsprobleme haben.
Linus Neumann
Also Beispiel in Argentinien hat kürzlich dieser Javier Millet,glaube ich spricht man den aus.Der hat gesagt, ja hier, wer hier protestiert, dem kneifen wir vom Sozialsystem ab.Also kriegt ihr erstmal Hartz-IV-Sperre, wenn ihr eure Zeit so verbringt. So ungefähr.Also Diskussionsstand ist, dass viele die Position vertreten,ja, wir haben das ja jetzt, die Echtzeiterfassung biometrischer Natur,die haben wir ja jetzt hier verboten.Und deswegen ist ja gut, aber Retrograd kann man ja schon dann machen.Also wenn die Aufzeichnung, wenn es nicht in Echtzeit ist, dann ist es erlaubt.
Tim Pritlove
Wir haben ja fünf Sekunden gewartet.
Linus Neumann
Genau das ist es nämlich. Und da gibt es dann auch keine Grenzen dafür.Das heißt, bei Bagatelldelikten, bei der Demonstration gab es einen Handtaschendiebstahl,wir machen jetzt mal vollständige biometrische Aufklärung, Retrograd,das wäre also hier gedeckt.Und jede Ausnahme, jede kleine Ausnahme wird natürlich dann sehr breit und sehr groß.Oder wenn du keine Grenze hast, was für Straftaten oder so.Du könntest im Prinzip sagen, du verfolgst Obdachlose wegen Hausfriedensbruch.Diese Massenüberwachung, du guckst ja nicht einzelne Gesichter an.Das könntest du ja ohnehin jetzt schon machen.Und schon heute ist es ja so, dass in Deutschland Tausende identifiziert werdenmit Standardgesichtserkennungssystemen.Und ja, das klingt erstmal nicht so übermäßig tragisch, aber das ist halt amEnde, wird der öffentliche Raum dann so überwacht wie das Internet.Wie das Internet heute von irgendwelchen Trackern erfasst und verfolgt wird.Und das ist sicherlich keine so, also das ist schon sinnvoll,dass Reclaim Your Face und so sich da stark entgegensetzen, weil das wäre jetztwirklich mal etwas, wo man sagen könnte,das wäre sinnvoll so etwas nicht zu haben oder so etwas starke Grenzen zu setzen.Anderes Beispiel, in zwischen 2018 und 2020 gab es mehr als 400 Verfahren gegenPolizistinnen, die Datenabfragen missbraucht haben.
Tim Pritlove
Wow. Also.
Linus Neumann
Wir hatten ja hier im Logbuch mit Edelbeider auch eine Betroffene von diesenDatenauskünften zu Gast.Und, also man kann jetzt, diese Anzahl war mir übrigens auch echt,also ich wusste, dass es viele, und das sind ja nur die Verfahren,das sind ja nur die Fälle, die bekannt sind.Mit anderen Worten, muss ja davon ausgehen, da gibt es ja eine fürchterlicheDunkelziffer, liebe Kolleginnen und Kollegen.Dass solche Überwachungsinstrumente in den Händen der Polizei nun wirklich nichtso gut aufgehoben sind, wenn sie nicht mit starken Kontrollmöglichkeiten versehen sind.Und nicht vergessen, da geht es nicht nur um die Datenabfragen,da geht es dann auch um die ganzen Drohbriefe des NSU 2.0.Also da sind wir nicht mehr im Bereich, der lustig ist.Also da geht es weiter drum herum. Ich denke, diese KI-Erkennung sollte wirklichstark eingeschränkt werden.Und erst recht sollte das, was Staaten da machen, transparent sein.Also diese beiden Forderungen, die kann man schon mal so stellen.Die finde ich jetzt nicht sonderlich überzogen.
Tim Pritlove
Ja, kann man auch mal drauf bestehen. Ja.
Linus Neumann
Es gibt natürlich auch positive Aspekte.Es soll dann eine nationale KI-Aufsichtsbehörde geben, wo du dich beschweren kannst.Das kann potenziell schon ganz sinnvoll sein, dass du überhaupt auch Möglichkeitenhast, dich diesen automatisierten Entscheidungssystemen oder so, die zu kritisieren.Predictive Policing also irgendein System sagt ja, wo die Polizei hinfahrensoll, das kommt mir auch irgendwie wirklich eher lächerlich vor,da könnte also eine Eingrenzung stattfinden,ja das mit den Hochrisikotechnologien finde ich auch nicht schlecht, da wäre halt,sinnvoll, wenn das für alle gilt Ja, also es war nicht alles schlecht,aber die wirklich, wo man sagen könnte, das sind jetzt echt mal Dinge,die man mal durchziehen könnte, da wird natürlich schon jetzt wieder gebohrt.Tja, wie immer.
Tim Pritlove
Gut. Soviel zum AI-Act. Dann kommen wir doch mal zu den Gefahren von AI.Die nehmen nämlich tatsächlich zu.Und ich glaube, das wird hier auch nochmal ein immer wiederkehrendes Ding.Kennst du die Chefmasche?
Linus Neumann
Also ich kenne das nicht unter dem Begriff, ich kenne das als CEO-Fraud oderFake-President, aber ja.
Tim Pritlove
Fake-President, ja auch nicht schlecht, genau. Also darunter versteht man so,dass in Hackerkreisen nennt man die Technik ja eigentlich Social Engineering.Also wie bekommt man jemanden dazu etwas zu tun, was die Person eigentlich unternormalen Vorzeichen so nicht tun wollen würde.Das ist so wie, wenn amerikanische Late-Night-Shows mit dem Mikrofon auf dieStraße gehen und die Leute nach ihren Passwörtern fragen Ja,haben sie Passwörter und so?Ja, ist ihr Passwort auch sicher? Ja, mein Passwort ist sehr sicher.Ja, woraus besteht denn ihr Passwort?Ja, ich habe den Namen meines Hundes und meinen Geburtsdatum.Ja, wie heißt denn Ihr Hund?Ja, Piffi Ach, wann sind Sie denn geboren? Ja, am 23.05.So
Linus Neumann
Und.
Tim Pritlove
Das ist so, du stehst da davor und denkst dir so, ah okay, das war ja einfachund tatsächlich kann man das glaube ich an sich selber auch ganz gut festmachen.Dass man eigentlich, wenn man so emotional gerade irgendwie so in so einem gesetteltenModus ist, der Welt ja eigentlich auch immer mit Vertrauen gegenüberstehen möchte.Ja. Das ist schon auch ein Wunsch von uns allen. Wir wollen eigentlich gerneallen vertrauen. Wir wollen das Böse nicht sehen.Wir wollen das Gute im Menschen sehen. Und das Problem ist nur,das Gute im Menschen ist zwar auch in der Welt, aber es gibt ja auch Leute,die sind der Meinung, sie könnten sich vielleicht an dir bereichern,indem sie vielleicht mal nicht ganz so gut sind.Naja und diese Chefmasche ist halt so eine Technik, mit der man einfach sichirgendwelchen Mitarbeitern eines Unternehmens gegenüber als Vorgesetzter ausgibt,zum Beispiel per E-Mail oder per Telefonanruf und dann drängt man sozusagen auf sie ein,so ja hier tu mal bitte folgenden Vorgang und wenn dieser Vorgang dann haltmit Geld zu tun hat, dann wird es spannend.Und jetzt ist gerade ein Fall bekannt geworden, der sich in Hongkong abgespielthat, bei einer im Bericht nicht weiter genannten Firma mit vielen Mitarbeitern.Und dort wurde ein Mitarbeiter per E-Mail auch erstmal angeschrieben und dannvor allem zu so einer Videokonferenz eingeladen mit weiteren Führungskräften.Und die Videokonferenz, die fand auch dann statt und in dieser Videokonferenzlegten so diverse Führungskräfte des Unternehmens so ihre Gründe da,warum jetzt dieser Mitarbeiter dochbitte mal eine Reihe von Überweisungen einleiten sollte, 15 an der Zahl.Und dann wurden die dann auch in der Folge von diesem Mitarbeiter durchgeführt.Das war jetzt nicht ganz wenig Geld, das war irgendwie so 200 Millionen Hongkong-Dollarsind hier im Gespräch, das sind so 23,24 Millionen Euro ungefähr und ja, das Problem war halt nur,dass in dieser Videokonferenz,sich überhaupt gar keine richtige Person befand. Also all diese ganzen Führungskräfte,die er dort gesehen hat, sahen zwar aus wie Führungskräfte und hörten sich auchan wie Führungskräfte, aber es waren tatsächlich alle AI-generierte Fake-Personas sozusagen.Die Berichte, die ich jetzt so gelesen habe, sind ganz so einig darum,wie das jetzt so genau abgelaufen ist.Aber man kann wohl davon ausgehen, dass hier Bildmaterial entweder aus internenoder vielleicht auch einfach aus öffentlichen Videos genommen wurde.YouTube, irgendwas, Company-Videos und so weiter.Irgendwo tauchen ja dann diese Personen auf und wir wissen auch mittlerweile,wie wenig es an Trainingsmaterial braucht,um eine Person halbwegs glaubhaft dreidimensional in anderen Posen wiederzuspiegelnund vor allem auch etwas anderes sprechen zu lassen.Und wir hatten ja auch hier selber vor ein paar Sendungen Herr Bundeskanzler und Frau Alice Weidel,die ja hier auch klare Botschaften an die Hörerschaft von Nockbuch-Netzpolitikgerichtet haben und da sieht man eben, die Werkzeuge sind da.Also etwas, was noch vor zehn Jahren so ein bisschen total future-mäßig war,sind mittlerweile einfach solche Werkzeuge, die jetzt auch Kriminellen zur Verfügungstehen und wenig überraschend, sie nutzen sie es auch.Also dieser Mitarbeiter hat diese Personen auch visuell wiedererkannt und auchvon der Stimme her wiedererkannt, also er war sozusagen, wusste diese Personen gibt es.Allerdings ist das schon alles so ein bisschen fakey gelaufen,also es gab da jetzt keine wirkliche Interaktion, es war jetzt keine.Realtime-Impersonifikation Brauchst du ja.
Linus Neumann
Auch wahrscheinlich gar nicht.
Tim Pritlove
Genau, die haben einfach das so, ja, guten Tag, stellen Sie sich mal vor,wer sind Sie denn hier, Sie sind doch hier der Untergebene und so identifizieren Sie sich mal,und dann so, ja, jetzt mal bitte hier Folgendes tun und das wurde dann halteinfach abgelesen also man kann davon ausgehen Vielleicht.
Linus Neumann
Hast du auch einfach ein, zwei echte Personen drin, die die er halt dann nichtkennt und ein paar vorbereitete Schnipsel von den Führungskräften,die halt einfach, was weiß ich, daneben sitzen und nicken oder so.
Tim Pritlove
Vorgeschobene Assistenten zum Beispiel, die dann die Interaktion machen.
Linus Neumann
Oder sagst du hier, so, und nach dieser Einleitung übergebe ich dann jetzt malan den Projektmanager Michael, der das jetzt hier kurz nochmal erzählt,worum es heute geht oder so.Also du musst ja, ja eigentlich einige wenige Sätze völlig generischer Natur,die vielleicht auch im anderen Kontext schon mal gesagt wurden.Wahrscheinlich kriegst du sowas hin mit gutem Schnitt und noch nicht mal Deepfake.Irgendwie, dass du mal jemanden filmst in einer Videokonferenz,wie er da sitzt oder so. Ein paar Sachen sagt dir, der dann irgendwie in einenanderen Kontext schneidet.Also, ich kann mir schon vorstellen, dass du da jetzt keine sonderliche Technologie brauchst.
Tim Pritlove
Nee, und vor allem gerade Gerade in diesem schwierigen vorgesetzten Situation,vorgesetzt zu untergeben, gerade wenn jetzt so eine Videokonferenz ist und duschickst vielleicht wirklich einem, diesem Mitarbeiter, unbekannte Person alsAssistenten und als Gesprächsleiter vor.Du fängst ja dann nicht an als kleineres Licht, könnte sich bitte mal hier derCEO, der hier angeblich ist,mal wie man so einen Personalausweis bei der Videoidentifikation so nach linksund nach rechts drehen muss, damit irgendwie das Hologramm ein bisschen aufleuchtet.Möchtest du dann vielleicht auch, dass diese Personen mal so bewusste Positioneneinnehmen, die vielleicht von so einer AI nicht ganz so gut gefakt werden?Lassen sie doch mal ihr Haar fallen.
Linus Neumann
Vor allem interessant ist, dass der Typ ja offenbar ursprünglich ...So ein bisschen skeptisch war und gesagt hat, ey, das kommt mir irgendwie alles komisch vor.Und dann wurde er mal spontan in die Konferenz reingeholt. Dann sitzen da dieganzen Gesichter und sagen, wie, sie wollen die Überweisung nicht machen.Was ist das denn? Ja, genau.Peer Pressure. Und das ist übrigens ein Phänomen, das sehr häufig vorkommt.Diese Fake President Sachen. Ja, also auch, also das kenne ich jetzt so ausdem Wirtschaftsumfeld schon mehrere Unternehmen, die so etwas mal berichtethaben oder wo es auch mehrmals passiert ist.Ja, dass dann irgendwie mal bei der einen Niederlassung, mal bei der anderenund dann natürlich jetzt nicht im Bereich, also nicht immer im Bereich von Millionen,aber so im Bereich von ein paar hunderttausend kommt das dann doch recht häufig mal vor.
Tim Pritlove
Ja, das muss auch nicht mal der Präsident sein. Also wenn man sich Zugang verschaffenwill, da hilft auch mal ein Blaumann und eine Werkzeugtasche.Das wirkt bei vielen Leuten auch schon sehr überzeugend.Wo ist denn hier der Wasserschaden?
Linus Neumann
Eigentlich kommst du ja überall rein, wenn du ein Funkgerät in der Hand hast.Du zeigst einfach nur mit der Antenne dahin, wo du jetzt hin willst.Ja, oder auf den Kongress-Chaospost.Diese Überweisung ich meine, die haben schon immer sehr gute Cover-Stories,zum Beispiel auch irgendwie so, ja wir machen jetzt hier einen Merger hat sichdenn PwC schon bei dir gemeldet?Nee, haben sich nicht und dann baust du quasi,mit mehreren Personen im Prinzip so eine Erwartungshaltung auf,weil da meldet sich auf einmal PwC ist halt was ganz anderes als jetzt scheiße,haben die sich immer noch nicht bei dir gemeldet.Naja gut, warte mal, dann hauen wir jetzt mal rein. Und dann irgendwie sowaswie, ja, damit wir hier, also da und da gelten vom Financial Regulator recht harte Bedingungen.Und damit das nicht als Insider-Trading gilt, müssen wir jetzt über die privatenE-Mails kommunizieren.Wo dann nämlich quasi, was erstmal ganz gut ist, weil jetzt bist du auf einmalder Kriminelle. So, oh, Insider-Trading, nee, das wollen wir nicht.Dann lassen wir lieber private E-Mails machen. Ich meine, ehrlich gesagt,wenn mein Chef mir sagen würde, wechsel mal auf private E-Mail,das ist hier Insider-Trading, da würde ich sagen, frage mal lieber jemand anders.Aber das ist natürlich kein schlechter Trick dafür zu sorgen,dass du halt auf einmal so ein bisschen Unrechtsbewusstsein hast.Dass du froh sein kannst, dass die so nett sind, dir bei deinem Insider-Trade zu helfen oder sowas.Da siehst du dann, wenn man mal die Gelegenheit hat, solche Fälle aufzuarbeiten,schon sehr elegante psychologische Techniken. Die haben alle schon ihren Mitnick gelesen.
Tim Pritlove
Dann regt man sich immer so über Bürokratie auf, das Einhalten von Regeln besteht,um irgendeinen Vorgang auszulösen.Dabei sind genau diese Regeln oft auch so ein Schutz.Ja, das muss von Personen sowieso unterschrieben werden, das muss nochmal vorgelegtwerden, bevor das nicht wieder zurückgekommen ist, kann ich hier gar nichts machen und so.Also da wird man ja auch schnell mal so, ja das muss doch mal auch hier undich muss doch mal ganz schnell und ich brauche das jetzt auch und so.Ja, man möchte gerne immer die Flexibilität für sich selber haben,aber sieht natürlich selten den ganzen Prozess.Ja, also der Mitarbeiter kann einem natürlich sehr leid tun,er hat es ja dann am Ende auch selber gemerkt, aber er ist halt ordentlich bearbeitet worden.Also auch nach der Videokonferenz ging das dann noch ein paar Tage weiter mitE-Mail, mit Instant-Messaging, es wurden auch nochmal 1 zu 1 Videocalls nachgereicht.Wie die dann im Detail gelaufen sind, weiß ich jetzt leider nicht.Das war in den Berichten jetzt nicht so drin.Und es dauerte dann so eine Woche, bis er irgendwie richtig Verdacht schöpfte.Da waren aber die Überweisungen eben schon getätigt.Dann hat er nochmal bei seinem eigenen direkten Chef nachgefragt,was denn damit auf sich hat.Und dann so, ja nee, keine Ahnung, wovon du redest, was hast du gemacht?Ja, das ist dann halt irgendwie so, ja, wow, da fühlt man sich bestimmt nicht gut dabei. Nee.
Linus Neumann
Also da fühlt man sich nicht nur nicht gut dabei, das hat dann regelmäßig auchpsychologische Konsequenzen, dass die Leute eine längere Zeit arbeitsunfähig sind.
Tim Pritlove
Oder bist du einen Job los, weil du gegen Regeln verstoßen hast,also es kann ja alles mögliche sein.Tja ja, also bei der nächsten Zoom-Konferenz, ne? ne?
Linus Neumann
Ich sag also.
Tim Pritlove
Alter.
Linus Neumann
Ich hab gedacht, das war ein Deepfake, du hast mir doch nicht ernsthaft dieseAufgabe gegeben. Bis Sonntag soll ich das machen?
Tim Pritlove
Auf so eine Tricks fall ich doch nicht rein.
Linus Neumann
Jetzt hab ich erstmal einen Ausweis, ey. Kenn ich auch, kenn ich auch.
Tim Pritlove
Dreh mal dein Ohr ins Licht, damit ich das Hologramm sehen kann,was da drin abgedruckt sein soll.Wie, du hast da keins? Ja, sorry, dann können wir hier leider nicht weitermachen. Vielen Dank.
Linus Neumann
Ja, aber Deepfakes zu kennzeichnen, bleibt ja so ein Bestreben.Man sieht natürlich hier, dass es auch einfach überhaupt nichts,nicht wirklich was bringt.Aber es gibt ja, Meta hat jetzt gesagt, hier, wir möchten bei unserer KI,die irgendwelche Bilder generiert, haben wir jetzt ein Verfahren,dass wir im Prinzip kleine Watermarks in den Fakes unterbringen.Und ich würde so sagen, das Thema kam wieder auf, weil es jetzt vor ein paarWochen irgendwie wohl auf Twitter,das ist dieses ehemalige soziale Netzwerk, eine Reihe gab an,ja, dann doch relativ offensichtlich wahrscheinlich Fake-Bildern von Taylor Swift,die wahrscheinlich so nicht stattgefunden haben.
Tim Pritlove
Man könnte Zweifel haben.
Linus Neumann
Also ich würde mal sagen, die waren wahrscheinlich fake. Und da gab es abernatürlich keine, oder der Skandal war dann, oder skandalisiert behandelt wurde,dass es Twitter nicht gelungen ist, das Pasten dieser Bilder zu verhindern.Ja, was natürlich eigentlich, oder beziehungsweise wahrscheinlich Twitter einfachdank Elon Musk auch kein Interesse daran hatte,das Posten dieser Bilder zu verhindern und sich dann am Ende sehr ungelenktdamit geholfen hat, dass Suchen nach Taylor Swift verhindert wurden.Wo ich jetzt, wenn ich Taylor Swift wäre, auch sagen würde, sorry,finde ich auch kacke, wenn man nach mir nicht mehr suchen kann auf eurer Plattform.Lasst euch mal bitte irgendwie was Ernsthaftes einfallen, um das zu verhindern.Jedenfalls, ja, Meta sagt also, sie wollen quasi unsichtbare Signaturen im Bild unterbringen.Und irgendwie in die Metadaten was reinschreiben, damit man erkennen kann,dass das ein Fake-Bild ist Das wird im Zweifelsfall für die,sagen wir mal, für die Plumpen,vorgehenden Reichen, ja, aber natürlich kannst du jedes, jede digitale Signaturoder jedes Watermark, das du finden kannst, kannst du natürlich auch einfach wieder entfernen, ja.Machst also irgendwie ein bisschen Rauschen in das Bild rein oder so,dann wird das wieder weg sein. Also, immerhin.Wollen sie da irgendwie etwas gegen unternehmen, aber ich glaube,jede Methode, der Fake-Erkennung in sozialen Medien wird,automatisch umgehbar sein und wenn sie es ist, ermöglicht sie denen,die sie umgehen können, natürlich ein umso überzeugenderes,Fake.Wenn Meta sagt, hier, wir haben eine KI-Fake-Bild-Erkennung.Wir markieren 99,9% der Fakes.Und dann sagen wir hier, da machen wir nämlich einen roten Rand dran.Dann sagen wir, Achtung, ist Fake.Achtung, ist Fake. Dann ist der ganze Meter voll mit Achtung,ist Fake. Und bei denen, wo es kein Fake ist, denkst du dir auf einmal einen grünen Rand.Und dann wird natürlich diese Gefahr erhöht.Auf jeden Fall kommt mir das klüger vor, als das Verfahren, also sagen wir mal,die Kennzeichnung von KI-generierten Bildern kommt mir erstmal grundsätzlich etwas klüger vor,als das Verfahren Originale zu signieren.Weil, dass das nicht klappen wird oder dass diese Signaturzertifikate sofortüberall rumfliegen, halte ich für im Prinzip einfach selbstverständlich.
Tim Pritlove
Also die Idee wäre dann quasi in die Smartphones und digitalen Kameras so einEchtheitszertifikat quasi mit einzubauen. Das geht nicht lange gut.
Linus Neumann
Ja.
Tim Pritlove
Also erstmal auf den ersten Blick, ja klar, also könnte man tun,sagen wir mal Apple könnte jetzt hier irgendwie da so ein Public Key nehmenund damit sozusagen das unterschreiben oder ein Secret Key nehmen in dem Fallund dann kann man es mit einem Public Key überprüfen.So, ah ja, okay, das ist von der Software auf dem iPhone irgendwie erzeugt worden,aber dann kommst du halt in tausend Probleme, was ist, wenn das Bild dann nachbearbeitetwird, dann ist diese Information ja auch im Nullkommanix wieder weg,abgesehen davon, dass halt dann irgendwann diese Keys auch liegen werden,vielleicht nicht zuerst auf dem iPhone, aber dann eben auf diesen anderen Digitalkamerasoder was auch immer dann sozusagen noch daran teilnimmt und das wird einfachnix werden, also das ist Quatsch und ob das dass andere funktionieren kann.Das ist dann halt wieder so ein bisschen so ein Rattenrennen,weil natürlich kann man so ein digitales Wasserzeichen ein erstmal nicht sichtbares, sondern von,Meta selber auf Nachfrage überprüfbares irgendwie könnte man schon machen,weil nur die wissen, wo sie gucken müssen.Aber irgendwann wird man das auch wissen, wo man gucken muss und dann kann manes auch wieder rausnehmen. Und dann beißt sich die Katze so ein bisschen in den Schwanz.Ja, schwierig.
Linus Neumann
Ja, wir werden als Gesellschaft damit umgehen können müssen am Ende. Ja.
Tim Pritlove
Aber der Vorteil irgendwie, also Taylor Swift kann natürlich jetzt auch,hat jetzt eine plausible deniability,sollten also dann doch irgendwann mal erotische Bilder von ihr auftauchen,dann lehnt die sich einfach zurück und sagt, ja, egal.
Linus Neumann
Das werden ja eh Leute machen, das kann Taylor Swift und das kann jeder machenAlso diese Gefahr wird bleiben, aber ich glaube, das haben wir hier auch schonausführlich diskutiert, lass uns mal lieber über,den Verfassungsschutz reden Echt?
Tim Pritlove
Nicht über Taylor Swift?
Linus Neumann
Das finde.
Tim Pritlove
Ich aber irgendwie spannend.
Linus Neumann
Kommt drauf an Mal gucken, was hier spannend ist Das ist ja sowieso ein VorgangIch hab's ja damals schon gesagt,da war der Maaßen glaube ich noch Präsident des Bundesamtes für Verfassungsschutz,was ja schon wirklich immer einfach sowas von irrsinnig war,dass der Typ der Verfassungswächter sein sollte.Und jetzt ist er da seit ein paar Jahren weg.
Tim Pritlove
Und jetzt ist er führender Verschwörungstheoretiker.
Linus Neumann
Führender Verschwörungstheoretiker, also rechtsextrem.Jetzt hat er dann noch seine eigene komische Partei da gegründet.Wenn du mal anhörst, was der von sich gibt, also ist der wirklich absurd.Und der wird jetzt vom Bundesamt für Verfassungsschutz in der Kartei der Rechtsextremen geführt.
Tim Pritlove
Die.
Linus Neumann
Führen den im internen Nachrichtendienstlichen Informationssystem als Rechtsextremist.
Tim Pritlove
Nein, das sind zumindest keine Probleme, die Erkennungsdienstlichen Merkmalenachzuschlagen. Die hatten sie wahrscheinlich schon.
Linus Neumann
Irre, oder?Also sie haben,also er hat dann glaube ich auch einen Brief hingeschrieben, ob das stimmt.Dann haben sie ihm gesagt, Hier sind übrigens die Sachen, die wir gesammelthaben, wo sie sich rechtsextremistisch verhalten haben.Wo sie hier antisemitische Stereotype verteilt haben oder Migranten mit einerKrebserkrankung verglichen haben.Und das hat er dann irgendwie, ich glaube dieses Schreiben hat er dann auchirgendwie veröffentlicht.Und wehrt sich jetzt dagegen. Also es ist.
Tim Pritlove
Sechs Jahre war der Chef.
Linus Neumann
Ja, das war ein Albtraum, dass so jemand,als Verfassungsschützer da positioniert wurde.Das war ja schon bei seiner Anstellung schon irre, so jemanden zu nehmen.Aber es ist auch wirklich krass, wie der sich weiterentwickelt hat.Und der einzige, wo der noch vorkommt, ist dann irgendwie solche Publikationenwie Kompaktmagazin und Tichys Einblick, diese ganzen Ja, Rechtsextremen.Krass. Aber allein der Vorgang, dass dein ehemaliger Verfassungsschützer wirdRechtsextremist oder war eigentlich damals schon einer so ungefähr und wirdimmer schlimmer verbreitet,Verschwörungstheorien muss am Ende vom Verfassungsschutz überwacht werden. werden.Das ist schon, ähm, das ist schon, finde ich, massig faszinierend,wenn ich das mal so sagen darf.
Tim Pritlove
Ja, ähm, fragt man sich vor allem, wer hat denn den, ist denn überhaupt aufdie Idee gekommen, den mal so an.
Linus Neumann
Diese Position zu bringen?
Tim Pritlove
Ja.
Linus Neumann
War das nicht zu einer der letzten Sendungen schon kommentiert, dass er unter der äh,Der müsste unter Merkel...
Tim Pritlove
Hans-Peter Friedrich hieß der deutsche Innenminister zu dem Zeitpunkt und dermüsste ihn eigentlich vorgeschlagen haben, weil er fällt sozusagen in den Bereich rein.
Linus Neumann
Aber weil wir den Verfassungsschützer losgeworden sind wegen der NSU-2-Aktenschredder-Aktionen, ne?
Tim Pritlove
Genau.
Linus Neumann
Also weil da Rechtsextremisten waren...
Tim Pritlove
Brauchen wir jetzt mal hier den Maaßen.
Linus Neumann
Setzt ja mal einen gemäßigten Rechtsextremisten hin.
Tim Pritlove
Ja, maßen, gemäßigt, das klingt doch irgendwie, das muss doch passen. Ja.
Linus Neumann
Wahnsinn.
Tim Pritlove
Wahnsinn.
Linus Neumann
Aber zum Glück unternehmen wir jetzt mal was gegen die Hacker.
Tim Pritlove
Das sind eh die Schlimmsten.
Linus Neumann
Das sind die Schlimmsten. Und da wird jetzt auch wieder so eine,diese UN-Cybercrime-Convention.Ich habe auch noch nicht ganz verstanden, warum die da überhaupt irgendwie, also die haben einen,also United Nations kennen wir, das ist die United Nations,wo große Versammlungen, die haben dann irgendwie gesagt,wir machen jetzt ein Ad-Hoc-Committee to elaborate a comprehensive internationalconvention on countering theuse of information and communications technologies for criminal purposes.Also ein Autor-Komitee, um internationale Konventionen zu schaffen gegen dieseganzen kriminellen Aktivitäten mit Informations- und Kommunikationssystemen.Und insgesamt, die Taxonomie dahinter erinnert schon sehr stark an auch diedeutschen sogenannten Cybercrime-Diskussionen, wo es dann irgendwie...Kriminalität mit dem Tatmittel Internet gibt. Also das sind Dinge,die du auch ohne Internet machen könntest, aber dann mit der Hilfe des Internetsund eben ja, so richtiges Cybercrime, was nur geht, weil es das Internet gibt.Und da wollen sie alles Mögliche machen.Und da gibt es aber natürlich, sie wollen da jetzt die Fehler wiederholen,die man eigentlich in Deutschland mit den,Paragraph 220 2020 waren ja, glaube ich, die Hackerparagraphen schon falschgemacht hat. Ist das 2020, ja? Oder 2002?
Tim Pritlove
202.
Linus Neumann
202, na, war klar. Also mit den Hackerparagraphen 202 auch gemacht hat.Also es geht um, in Artikel 6 sagen sie im Prinzip so, ja, illegaler Zugriff wird jetzt verboten.Und das haben wir jetzt in der letzten Sendung ja schon besprochen,diesen Fall von Modern Solutions,wo jemand, wo im Prinzip die Ausnahme fehlt oder einfach, dass man sagt,jemand hat das in guter Absicht gemacht oder in good faith,wo du also sagen kannst, ja, der hat ein Sicherungssystem hier umgangen,Aber er hat die Sache gemeldet und das Sicherungssystem war nicht effektiv.Es war nämlich eine Katastrophe und genau deswegen hat er es ja gemeldet.Also genau diese beiden Fehler machen sie in Artikel 6 auch.Es gibt also keine Ausnahme für, ich weiß gar nicht, wie man in gutmeinenderAbsicht oder so, in nicht böswilliger Absicht könnte man eigentlich sagen.Und das ist natürlich ein Problem für diegesamte freie, freiwillige Sicherheitsforschung, so etwas nicht zu haben.Und könnte dazu führen, dass dann eben die UN-Regelungen quasi nahelegen,dass in allen Ländern genau das, was wir jetzt mit diesem Modern Solution Fallloswerden wollen, zum Standard wird.In Artikel 7 sagen sie, ja irgendwie mitschneiden von Traffic ist jetzt halt Illegal Interception.Und auch das klingt natürlich aufs erste Mal sinnvoll, aber es ist natürlichrelativ üblich, dass du zum Beispiel deinen Browser aufmachst und dir mal denNetzwerktraffic anzeigen lässt.Oder mal Wireshark laufen lässt, um zu gucken, ob der Traffic hier verschlüsselt ist oder nicht.Und das ist nämlich auch typisch, dass du im Bereich der IT-Sicherheit natürlich Traffic dir anguckst.Das zu kriminalisieren, ohne den Zweck oder die böse Absicht oder die kriminelleIntention irgendwie festzuhalten, ist natürlich auch ein Problem.Und dann gibt es irgendwie bei Artikel 8 und 9 Interference with Data,Interference with Computer Systems, da geht es dann irgendwie so,Interference scheint eher so in diesem Bereich zu laufen, wenn das auf einmalnicht mehr funktioniert.Also wenn du jetzt auf einmal Denial of Service findest, ja,falsch, durftest du nicht.Und das ist natürlich auch wieder, sollte schon irgendwie gesagt werden,muss einfach ein Satz rein wie mit krimineller Absicht oder mit Schädigungsabsicht.Ja, dann kann man ja argumentieren, dass das nicht in Ordnung ist,aber irgendwie sozusagen so, das Ding hat nicht mehr funktioniert,jetzt bist du reif, scheint auch ein bisschen zu weit gefasst.Und in dem Artikel 10, Misuse of Devices, da gibt es dann genau,da kommst du dann und wollen hier die Hacker-Tool-Paragraphen wieder machenund sagen dann auch so, Software, die das kann, Software und Systeme,die das können und nicht, dass man die natürlich zu Testzwecken braucht.Das ist ja die rechtliche Situation, wie die wir in Deutschland haben,wo gesagt wird, diese Tools werden verboten und Benutzung oder Besitz oder Verbreitungsolcher Tools ist verboten,weil man damit diese Straftaten begehen kann oder deren Zweck die Vorbereitungeiner solchen Straftat ist und das ist auch sehr sehr sehr ungünstig formuliertund dass man natürlich für jede Schwachstelle auch ein Testtool braucht,sollte eigentlich selbstverständlich sein.Und dann gibt es noch weitere, eher im rechtlichen Bereich.Es sind genau die Fehler von den Hackerparagraphen in Deutschland,die sie da wiederholen wollen.Und die ja bekanntermaßen in Deutschland jetzt gerade mal verhindert werdensollen. Also wo man sagt, die müssen wir nochmal dran.Das steht ja im Ampelkoalitionsvertrag drin, dass man sagt, da müssen wir malbei, dass wir da mal Rechtssicherheit und Klarheit schaffen,die auch jetzt nicht so schwer wäre.Dann sagen sie ja hier, die Verfolgung kann dann in mehreren Jurisdiktionenverlaufen, was natürlich problematisch ist, wenn du jetzt für ein Problem durchmehrere Jurisdiktionen gereicht werden kannst oder Angst haben musst,dass nämlich genau nicht deine Sicherheitsforschung hier mal von den UN-Conventionsgeklärt ist, sondern zusätzliche Rechtsrisiken entstehen.Und dann haben sie ja noch in dem Artikel 28 Absatz 4,im Prinzip so eine grundsätzliches Mitwirkungspflicht für alle,die Ahnung von Computern haben.Also jeder Vertragsstaat muss Gesetze erlassen, um seine Behörden in die Lagezu versetzen, von Personen die Kenntnisse über das betreffende Computersystem,das Informations- oder Kommunikationstechnologiegerät oder das Netzwerk oderderen Komponenten haben und die Schutzmaßnahmen, dass sie von denen die erforderlichenInformationen verlangen können.Der Satz ist also relativ lang und heißt am Ende, jeder Staat soll Gesetze erlassen,dass man Informationen von denen verlangen kann, die wissen,wie das System funktioniert.
Tim Pritlove
So ein bisschen so, Sie sind Arzt, dann müssen Sie jetzt hier auch diese Person retten.
Linus Neumann
Genau.
Tim Pritlove
Lassen Sie mich durch, ich bin Hacker.
Linus Neumann
Und dafür muss es ein Gesetz geben, dass die Behörden dann ermächtigt,das von dir zu verlangen.Also nicht lassen sie mich durch, ich bin Hacker, sondern lassen sie mich wegrennen,ich bin Hacker, weil die Behörden verpflichten mich hier sonst alles mögliche.
Tim Pritlove
Ja, das ist ja nun wirklich absurd, weil ich meine, ob man kompetent ist,das liegt ja nicht im Ermessen anderer.Das ist nicht primär. Also wenn ich selber was nachweisen muss,dann liegt es im Ermessen anderer.Aber wenn jetzt andere einfach mal annehmen, ich wäre in irgendetwas kompetent,ja das ist so ein bisschen so,ich meine früher gab es ja auch so Fälle, wo so Leute einfach auch,einfach was weiß ich, ob ihres Wissens bestimmte Dinge einfach zugetraut wurden.Also man will ja schon eher.
Linus Neumann
Für die Daten, die irgendwelche Leute haben wollen, will man schon eher einenDue-Process haben, wo man sagt, okay,es gibt hier irgendjemand, der wacht über diese Daten und der hat rechtlicheRahmenbedingungen, die erfüllt sein müssen. müssen zum Beispiel,eine Ausbildung. Nee, ein Richterbescheid. Also eine, was weiß ich,eine Richterin hat gesagt, du musst jetzt hier diese Daten rausgeben oder so.Und die beruft sich auf ein Gesetz, das es gibt.Das haben Leute, das kann immer noch gut oder schlecht sein,aber da gibt es einen formalen Prozess.Nicht, es gibt ein Gesetz, dass Behörden aus beliebigen Leuten die Kompetenzsind, die Daten rausprügeln können.Also das ist ja vielleicht ein bisschen weiträumig.Ähm, ja, also äußerst komisch. Ich frag mich eh, warum das unbedingt bei derUN sein muss, aber wahrscheinlich haben da auch einfach Leute gesessen und habensich gedacht, wir müssen jetzt auch mal was mit diesem Cyber machen.
Tim Pritlove
Ja, warum sollen nur die anderen immer diesen Spaß haben?
Linus Neumann
Ja, warum gibt's da nicht von uns mal was?Kanada.
Tim Pritlove
Ja, ist auch so auf diesem Level angekommen, wo es ein bisschen schwierig wird. In.
Linus Neumann
Kanada stellen sie irgendwie fest, dass ein paar mehr Autos weggekommen sind in letzter Zeit.Und ich glaube ehrlich gesagt, dass die nicht, also die glauben zu wissen,dass das mit dem Flipper Zero passieren würde.Ein Flipper Zero ist ein wirklich cooles Kickstarter-Gerät. Ich habe das auchund muss echt sagen, das ist einfach schön.Also von der Hardware-Verarbeitung sehr wertig, die Software,die da drauf ist, ist gut gemacht,das ist halt eine gepflegte Community und hat ein, was hat der so, Bluetooth, NFC,und auf bestimmten klassischen Frequenzen kannst du halt mitschneiden. Also...
Tim Pritlove
Das ist so ein richtiges Hacker-Tool.
Linus Neumann
Hacker-Spielzeug kann man das wirklich nennen.
Tim Pritlove
Das ist schon ein Werkzeug, weil es bringt sozusagen alle Basiskommunikationsfähigkeiten,mit sich und macht nicht nur eine Sache, sondern ist halt so ein bisschen universellerangelegt, um einfach...Zu analysieren, auszuprobieren, einfach auch mal ein bisschen zu schauen,wie funktioniert denn das jetzt hier eigentlich und ist insofern vollkommen vergleichbar mit,Messgeräten, sag ich mal, aus der analogen Welt, nur dass du halt hier auch aktiv werden kannst.Also was das Ding zum Beispiel machen kann, ist so schlecht gesicherte Systeme,die einfach mit NFC arbeiten, wo man einfach nur so eine Karte irgendwo hinhält,halt, ja, nach einem einfachen Standard, sowas kannst du halt schnell damitmal kopieren und so eine Geschichten.
Linus Neumann
Also du kannst ältere so MyFair und sowas kannst du klonen,Ultralight kannst du klonen, wenn du dann den Key dir vom Reader holst,aber diese Angriffe waren, wenn du das vorher mit so einem,Chameleon oder Proxmark oder sowas gemacht hast oder mit einem ganz normalenNFC-Reader die Software für für Linux oder so, die ist dann schon relativ uncool.Die war nicht so praktisch. Mit dem Flipper ist das wirklich super easy.Hältst du an die Karte, hältst du an den Reader.Macht in Hotels Spaß, nochmal ein Sicherheits-Backup von deinem Schlüssel zu machen.Oder bei uns im Büro gibt es dann nicht so viele Chips für die Schranke unten. Weißt du?Das ist besser, wenn du halt den Backup davon einfach Einfach im Firmen-Wikiliegen hast, damit jeder mal schnell mit seinem Flipper da rein kann und solche Dinge.Oder Garagen, alte Garagentore, wenn man da mal nicht so eine teure Fernbedienungkaufen will. oder auch Infrarot.Meine Beamer-Leinwand zum Beispiel, die geht mit Infrarot.Da habe ich auch jetzt ein Backup von der,Fernbedienung, von der Infrarot-Fernbedienung. Oder bis in irgendeinem Laden läuft ein Fernseher.Nervt ja auch wie die Hölle. Dann kannst du schnell TV begonnen,laufen lassen, Fernseher ausmachen und solche Sachen. Da geht schon einiges.
Tim Pritlove
Das ist bestimmt auch im Flughafen, in diesen nervigen Irish Pubs und so weiter,wo dann 30 Live-Übertragung von irgendwelchen Premier League Fußballspielensind, die keiner sehen will. Viel zu laut.
Linus Neumann
Das ist dann schnell aus. Ja.
Tim Pritlove
Oder mal einen Ton runterdrehen hilft auch manchmal schon ein bisschen.
Linus Neumann
Aber bei Autos muss man wirklich sagen, dass also die neuen Autos werden gestohlenüber diese Keyless Go. Also du hast im Prinzip eine,du hältst den also eigentlich Endlich versuchen die, der Schlüssel kommt demAuto nah und dann redet das Auto mit dem Schlüssel, handelt irgendwas aus und dann geht das Auto auf.Jetzt gibt es natürlich Systeme, die die Reichweite des Autos im Prinzip erhöhen.Die eine Seite hältst du an das Auto und mit der anderen suchst du dann in derNähe der Haustür mit einer Richtfunkantenne nach dem Schlüssel,weil die meisten Leute halt ihren Autoschlüssel da haben, wo sie ihn brauchen,nämlich beim Rausgehen vor der Tür.Und dann kannst du halt sehr schön diese Autos halt zocken, indem du die Reichweitevon diesem Keyless-Go erhöhst.Das kannst du mit so einem Flipper aber nicht ohne weiteres machen.Da brauchst du schon noch ein bisschen mehr für. Also theoretisch denkbar,dass ein Flipper dabei zum Einsatz kommt, aber der wird dir jetzt nicht fertiggeliefert als Keyless-Go-Diebding.Oder bei älteren Autos kannst du tatsächlich für die Türanlage,dass das Signal, mach mal die Tür auf, tatsächlich immer das gleiche ist.Und dann könntest du theoretisch das mitschneiden und dann wieder nochmal ausschmieren.Das ist aber ungefähr so, irgendwie in den 1990er haben die Autohersteller aufgehört.Ich glaube, nur einige haben dann noch bis in die Mitte der 2000er noch geschafft,so idiotische Systeme zu bauen.Aber es ist auch tatsächlich gar nicht so schlecht, mal mit dem Flipper haltzu gucken, ob denn auch dein,wenn du auf den Mach mal Tür auf Knopf drückst, wenn du das Signal nochmal sendest,ob dein Auto dann noch aufgeht oder nicht. Genau.
Tim Pritlove
Einfach um einzuschätzen, wie sicher ist denn eigentlich die Technik, die ich hier habe,weil ein Auto zu haben, was man mal so eben mit irgendeinem Mitlauschvorgang,bei den einfachen Systemen hat es halt im Prinzip ausgereicht,wenn jemand sein Auto aufmacht, in dem Moment mal ganz kurz das mitzuschneiden,was in dem entsprechenden Frequenzbereich abgeht.Und dann, früher war das ja so, naja, niemand kam auf die Idee,oder zumindest kamen die Autohersteller erstmal nicht auf die Idee,dass sowas jemand tun wollen würde.
Linus Neumann
Warum sollte man das tun?
Tim Pritlove
Naja.
Linus Neumann
Vor allem.
Tim Pritlove
Weil die Technik, die man dafür braucht, damals halt wenig verfügbar und wennüberhaupt nur teuer und schwer zu bekommen war.Nur sehen wir ja, wie das eben vorangeht mit der Technologie und irgendwannwar das dann halt alles andere als schwer verfügbar und sehr billig auch noch zu machen.Und jetzt hat man das eben so Handheld-Batterie betrieben, also eben in derHosentasche und könnte im Prinzip eben solche einfach gesicherten Sachen,die ja eigentlich nur so Security by Obscurity sind,ja, wir machen mal da irgendwas und wenn keiner zuhört, dann passiert da schon nichts.Und heute sind diese Systeme eben kryptografisch dann auch etwas gehärtet undarbeiten eben so und verhindern aber auch teilweise diese Verlängerung zum Beispiel,indem sie dann wirklich mal die Signallaufzeit auch messen, dann sind solcheAngriffe eben auch schwieriger, also mindestens schwieriger,wenn nicht sogar unmöglich.Es gibt sicherlich immer wieder irgendeinen Weg drumherum und es ist ja immerdieser Wettbewerb zwischen welchen Aufwand treibe ich jetzt.Aber ich glaube nicht, dass Kanada weniger Autos gestohlen bekommt,wenn sie jetzt irgendwie den Verkauf des Flipper Zero einschränken.Das ist einfach mal totaler Unsinn.
Linus Neumann
Also und was wird jetzt passieren? Jetzt werden in Kanada massenhaft FlipperZeros gekauft, bevor sie verboten werden und am Ende werden die Autos weiterhinmit anderen Dingen geklaut.Also es gibt tatsächlich, man erfährt ja relativ wenig drüber,aber es gibt schon, wenn du so Angriffe hast auf so Car-Immobilizer,da gibt es halt echt einen krassen Markt und da gibt es auch irgendwelche wirklichhalt von Hackern für Autodiebe gebauten Dinger, die halt sehr sehr teuer verkauft werden,die echt nochmal ein bisschen besser in der Lage sind, auch neuere Dinge zu knacken.Also da gibt es schon interessante Produkte, aber sicherlich nicht Flippers.Naja, aber scheint also auch eine sehr unkluge Herangehensweise mal wieder zu sein.Weil der größere Teil der Kunden, die so einen Flipper kaufen,machen damit im Zweifelsfall Sicherheitsforschung irgendwie ein paar Spielereien.Und mit Sicherheit klauen sie damit nicht massenhaft Autos.
Tim Pritlove
Genau, Flipper Zero war auch in der vorletzten Freakshow Freakshow 2002 einThema mit dem schönen Titel Sorgenfreie Intelligenz.
Linus Neumann
Interessant, das Ding gibt es schon seit Jahren also ich finde den fast schonwieder langweilig aber dann die Freakshow Ich habe den zum Geburtstag bekommenvon meinen Freunden Was hast du für Freunde?Ich habe gute Freunde, die schenken mir Flipper Zero zum Geburtstag beziehungsweiseden, wenn der Kickstarter klappt, dann kriegst du das Ding und,dann war, glaube ich, anderthalb Jahre später oder so wurde der mir dann geliefert,aber dadurch war ich einer der ersten, die einen hatten, weil die schön ihrHandtuch da früh hingelegt hatten.
Tim Pritlove
Toll.
Linus Neumann
Ja, toll, ne? Vielen Dank. Und eigentlich habe ich jedem einfach nur danachso ein Auto geklaut und dann waren die auch happy.
Tim Pritlove
Wir fahren jetzt alle BMW.
Linus Neumann
Ruckzuck refinanziert das Ding.Ja, nicht ganz so gut hat es den Joshua Schulte getroffen.Der wurde verurteilt zu 40 Jahren Gefängnis, weil er Hacking-Tools der CIA damalsan Wikileaks gegeben hatte.Das war so diese Vault-7-Veröffentlichung.Nach Angaben der US-Behörden ist das so der größte Diebstahl geheimer Datenin der Geschichte der CIA und es waren halt einfach deren Hacker-Tools, die er, ja,nachdem er dort zwischen 2012 und 2016 gearbeitet hatte, hat er halt deren ganzenHacking-Tools an Wikileaks weitergegeben und die haben den im März 2017 unterdem Namen Vault7 veröffentlicht.Ja, dafür geht er jetzt 40 Jahre im Knast, von 80 Geforderten.Die Staatsanwaltschaft sagt ja, Schaden sind hunderte Millionen Dollar,weil er natürlich diese Tools verbrannt hat.
Tim Pritlove
Und.
Linus Neumann
Motiviert war er wohl, irgendwie war er auf seine Kollegen sauer. Ja.Dann hat er noch eine Reihe anderer Anklagen bekommen.Besitz von Kinderpornografie, Falschaussagen, Spionage.Ja, und der geht jetzt in den Knast.Ich weiß leider gar nicht mehr so genau, wie sie den damals bekommen haben,welchen Obstsäckfehler der begangen hat, dass sie ihn, aber der war relativschnell, waren sie dem habhaft geworden.Vielleicht auch einfach nur, weil er nicht on good terms seine Abteilung daverlassen hatte und dann haben sie den mal kurz geratzt.Ja. Ja.Wollte ich dir, um unserer Chronistenpflicht gerecht zu werden, hier erwähnen.Das ist, ja dann warte mal, ich weiß gar nicht, die wievielte Wikileaks-Quelledas jetzt ist, die mit schwerer Strafe versehen wird.
Tim Pritlove
Die wievielte? Ja.
Linus Neumann
Also Chelsea Manning war ja so der erste Fall auf jeden Fall.Ich weiß nicht, ob dazwischen noch andere waren. Wie.
Tim Pritlove
Hieß diese Dame noch? Freedom? Das.
Linus Neumann
War keine Wikileaks-Quelle, die hat an Intercept Reality Winner,hat an die Intercept geleakt und wurde,wegen schlechten Quellenschutz, weil die Intercept die Datei einfach so wiederonline gestellt hat, ohne die mal von Metadaten zu befreien.Bei dem World 7 League kann man allerdings auch sagen, also könnte man argumentieren,dass der jetzt nicht unbedingt Whistleblowing war.Da sind halt einfach mal die Attack-Toolsvon der CIA nach draußen gehängt worden, was natürlich mitunter,sehr unangenehme Konsequenzen für die CIA hat, wenn sie irgendwie Zugriffe verlierenoder irgendwo nachgewiesen wird, dass sie es waren.Man kann jetzt nochmal eine andere Diskussion darüber führen,ob sie so etwas haben sollten.Meine ethische Position dazu, dass staatliche Hacker irgendwie Sicherheitslücken,zurückhalten, die dann für uns alle zum Risiko sind, ist bekannt.Aber ich denke, die Veröffentlichung dieser Daten ist dann auf jeden Fall so im Bereich des,schweren Schadens. Sagen wir mal, auf jeden Fall.
Tim Pritlove
Kann man wohl sagen. Also so klug schien mir das jetzt nicht zu sein, der Move. Naja.All right.
Linus Neumann
Dann hatte es sich schon angekündigt, wir haben es in der letzten Sendung behandelt,dass die E-Privacy-Ausnahme durchgehen soll, durchs EU-Parlament ist sie dann auch.Also da geht es um die sogenannte freiwillige Chat-Kontrolle.Es war ja so, dass das, was mit der Chat-Kontrolle passieren soll,eigentlich durch die E-Privacy-Regulierung der EU verboten ist.Und deswegen mussten sie ja erst einmal diese Ausnahme von dem Verbot beschließen,um dann in einem nächsten Rutsch quasi die Chat-Kontrolle richtig anzuordnen.Das wiederum sieht jetzt nicht so aus, als wäre es ihnen gelungen.Deswegen haben sie jetzt ihre alte Ausnahmeregelung, um das wenigstens freiwilligzu erlauben, dass diese Überwachung wenigstens legal ist.Die haben sie jetzt nochmal durchgekriegt und ja, die Abstimmung im EU-Parlamentist irgendwie so 89 Prozent waren. waren 89% haben abgestimmt, 82% waren dafür.Man kann sich anschauen, wer dagegen gestimmt hat und wer dafür gestimmt hat.Aber ja, das ist auch hier eher so zur Chronistenpflichterfüllung erwähnt,dass die jetzt verlängert wurde. Und ich glaube, um...Wie lange war das denn jetzt? Ich glaube, um zwei Jahre oder so.Da müsste ich jetzt nochmal schauen. Auf jeden Fall haben sie sich jetzt erstmalwieder Sicherheit verschafft.
Tim Pritlove
Ist aber ganz interessant zu sehen, welche Länder wie sehr dagegen gestimmt haben.Da ist tatsächlich Deutschlands zweitstärkstes Land dagegen.Tschechien noch ein bisschen mehr dagegen.
Linus Neumann
Jo. Und dann soll es eine Bundesdatenschutzgesetznovelle geben,wo man sich auch fragt, warum eigentlich?Und da gibt es irgendwie zwei Änderungen, die jetzt so ein bisschen Sorge machen.Vor allem sollen Unternehmen also in die Lage versetzt werden,dass sie ihre Datenschutzauskunftspflicht verweigern können mit der Begründung,dass Geschäftsgeheimnisse betroffen wären.Also du gehst jetzt zu so einem Unternehmen hin und sagst hier,ich möchte mein Recht auf Datenschutzauskunft ausüben.Schickt mal bitte alles, was ihr habt.Und dann können die sagen, ne, das ist unser Geschäftsgeheimnis.Also deine persönlichen Daten sind unser Geschäftsgeheimnis.
Tim Pritlove
Das ist gut. Da muss man erstmal drauf kommen.
Linus Neumann
Und das ist natürlich schon ein bisschen übel, ne? Ja Und auch naheliegend, dass das,missbraucht wird Also ich kann mir schon vorstellen, dass so Leute beim Metasich denken, so Jo, genau so, genau so haben wir uns das gedacht,Und das Ja, das also da wundert man sich,Gleichzeitig ist schon klar, dass,warum Juristen sagen, naja, okay, du kannst ein Unternehmen ja jetzt nicht zumVerraten seiner Geschäftsgeheimnisse zwingen.Nur die Frage ist, vielleicht sollten, sollte,Sollten meine persönlichen Daten kein Geschäftsgeheimnis eines Unternehmens sein.Also da werden eigentlich die Internetkonzerne einfach nur dazu eingeladen,Datenschutz-Auskünfte demnächst einfach pauschal zu verweigern.Weil wenn man dann sagt, was soll denn da ein Geschäftsgeheimnis sein,dann sagen die halt, können wir nicht sagen, Geschäftsgeheimnis.
Tim Pritlove
Naja, müssen sie immerhin nicht mehr das Urheberrecht bemühen. Ja.
Linus Neumann
Aber das ist schon wirklich.
Tim Pritlove
Gibt jetzt andere Ausnahmen. Ja, wer will denn das überhaupt?
Linus Neumann
So steht das Gesetz jetzt da. Das andere, was da ein bisschen komisch ist,dass jetzt so Scoring-Aktivitäten nicht mehr ordentlich Qualität sichern wollen.Also unsichere Score-Werte, die irgendwie mit einer spärlichen Datenbasis hergestelltwerden, darf man also weiterverwenden.Und es gibt keine externe Prüfung oder Zertifizierung der Zuverlässigkeit,die irgendwie vorgeschrieben würde.Also, oder es wird auch nicht geprüft, ob der Scoring-Wert systematisch irgendwiediskriminiert nach Alter, Geschlecht oder so. Also es ist alles erlaubt.Gibt im Prinzip keine Qualitätsanforderungen an Scoring-Werte.Jetzt sagen natürlich die Score-Hersteller, naja die Qualitätssicherung istbei uns doch völlig klar.Wenn unser Score nicht gut wäre, würden die anderen den ja nicht benutzen.
Tim Pritlove
Klar. Wissen die ja auch.Ja gut, ich meine, wissen sie vielleicht dann, wenn ein Ausfall nicht prognostiziertwurde, ein Zahlungsausfall, aber dann trotzdem stattfand, dann können sie vielleicht davon ausgehen.Aber die Leute, die gar keine Kredite bekommen haben, wissen sie ja nicht,ob die sich hätten doch bezahlen können.
Linus Neumann
Genau.Ähm, naja, und dann gibt's noch irgendwie Videoüberwachung im öffentlichen Raumdurch Polizei und Behörden.Wollen sie zur Erfüllung ihrer Aufgaben zulassen?Also, da ist ja auch wieder dieses Juristensprechen.Natürlich darf die Polizei Videoüberwachung vornehmen, ja. Und dann wird abernatürlich gesagt, zu welchem Zweck sie das darf.Verhinderung schwerer Straftaten. Ich nehme jetzt ein Beispiel.Es ist nicht so, ich will nur die Formulierung erklären, dass man Kompetenzender Polizei einräumt, zum Beispiel zur Verhinderung schwerer Straftaten oderzur Strafverfolgung schwerer Straftaten.Dann ist wiederum eine schwere Straftat definiert, da stehen dann welche Paragraphenda referenziert sind und wenn du sagst, darf Videoüberwachung zur Erfüllungihrer Aufgaben, dann kannst du halt gucken, was sind die Aufgaben der Polizei,was weiß ich, wenn jemand hinfällt, müssen sie dem helfen wieder aufzustehen,ja, ein Freund und Helfer und dann sagst du halt, ah, alles klar.Nee, nee, warum habt ihr hier eine Videoüberwachung gemacht?Ja, zur Erfüllung unserer Aufgaben.Und das ist natürlich ein sehr schwammiges und absolut unverhältnismäßig weitgehendeBeschreibung, weil dann müsstest du sagen,also wann hat die Polizei denn jemals etwas nicht zur Erfüllung ihrer Aufgaben gemacht? macht.Ja, die Datenabfragen für ein NSU 2.0, ja, das war nicht zur Erfüllung ihrer Aufgaben.Ja, da könnte man jetzt sagen, da habt ihr wirklich, da habt ihr selbst die Latte noch gerissen.
Tim Pritlove
Ja, vor allem, also...Also die Vorstellung, dass die Polizei überhaupt irgendetwas tut,was nicht zur Erfüllung ihrer Aufgaben gedacht ist, so, ja, also ich meine,macht ihr denn ab und zu auch mal was anderes außer der Erfüllung eurer Aufgaben?
Linus Neumann
Ja, so.
Tim Pritlove
Das ist ja gut, ne?
Linus Neumann
Und das heißt einfach, genau, das heißt mit anderen Worten, Polizei darf das, Punkt.
Tim Pritlove
Okay, das wäre doch was für den Hacker-Paragrafen, ne? Also Hacker dürfen ihre Tools benutzen.
Linus Neumann
Sodass sie ihre Aufgaben... Zur Erfüllung ihrer Aufgaben.Wieso brauchen Sie, wofür haben Sie den Flipper? Zur Erfüllung meiner Aufgaben. Ja.
Tim Pritlove
Eben. Dafür ist es geeignet. So. Achso, ja, dann ist doch alles gut.
Linus Neumann
Ja, das ist, also das scheint irgendwie nicht in die richtige Richtung zu gehen.Man fragt sich, also und jetzt, das ist jetzt der Kabinettsbeschluss.Ja, also das ist der Entwurf eines ersten Gesetzes zur Änderung des Bundesdatenschutzgesetzes.Jetzt gucken wir mal, Problem und Ziel. Warum?Finde ich auch aber ganz gut, dass sie, wenn sie ein Gesetz machen,in der Regel angehalten sind, mal zu erklären,welches Problem sie meinen jetzt zu lösen. Und das ist jetzt der Kabinettsentwurf.Wie gesagt, der kommt dann aus dem BMI ins Parlament herab und dann wird der da diskutiert.Der vorliegende Gesetzesentwurf zielt im Kern darauf ab, erstens Vereinbarungdes Koalitionsvertrages zwischen der SPD, Grüne, FDP aufzugreifen.Sowie Ergebnisse umzusetzen, die sich aus der Evaluierung des Bundesdatenschutzgesetzes ergeben haben.Siehe den Bericht Evaluierung, den das BMI veröffentlicht hat.Also die haben ihr eigenes Gesetz evaluiert und dann gesagt,jetzt müssen wir was ändern.Datenschutzkonferenz wird institutionalisiert und so weiter.Hm, jetzt wird es doch ein bisschenlang. Also okay, wir werden jetzt eine Bundesdatenschutzgesetznovellediskutieren, die wie viele Seiten hat?Wir haben keine Seitenzahlen. Das sind auch, ne, 27 Seiten. Geht eigentlichfür eine Gesetzesänderung relativ einfach. Ja.
Tim Pritlove
Die letzte Seite ist auch leer.
Linus Neumann
Ach so.
Tim Pritlove
26. So viel ist jetzt auch nicht.
Linus Neumann
Und das ist ja nur, das ist dann auch die Begründung, ist dann wieder längerals die einzelnen Änderungen.Naja, vielleicht möchte ja eine, die uns zuhörenden,Bundestags Mitglieder uns als Sachverständige da einladen. Da hätte ich mal Lust drauf wieder.Echt? Das ist geil. Du liest irgendwie so. ich finde diese Gesetzesentwürfe immer ganz lustig.Änderung des 10. Buches Sozialgesetzbuch. So, und dann steht da § 83 Absatz 1 des 10.Buchs Sozialgesetzbuch Sozialverwaltungsverfahren und Sozialdatenschutz in derFassung der Bekanntmachung vom 18. Januar 2001.BGBI das zuletzt durch Artikel 19 des Gesetzes vom 20.Juli 2022 BGBL Bundesgesetzblatt ist das wahrscheinlich wahrscheinlich nichtBGBI, geändert worden ist, wird wie folgt geändert.Erstens, in Nummer 2 Buchstabe A wird das Wort satzungsgemäßer durch die Wörtervon in öffentlich-rechtlichen Satzungen vorgesehenen ersetzt.Folgender Satz wird angefügt. Das Recht auf Auskunft besteht auch insoweit nicht,nicht als der betroffenen Person durch die Information ein Betriebs- oder Geschäftsgeheimnisdes Verantwortlichen oder eines Dritten offenbart würde und das Interesse ander Geheimhaltung das Interesse der betroffenen Person an der Information überwiegt.So, dann musst du dir das Buch rausholen und gucken, wo das steht.
Tim Pritlove
Denk wirklich nach Spaß.
Linus Neumann
Das ist gut.
Tim Pritlove
Ich verstehe richtig, dass du so scharf drauf bist.
Linus Neumann
Irgendwas von Mahnung haben sie auch Scoring, ah ja, Scoring das ist dann Mahnung Ja Ah, Paragraph,37a BGB und 40a, ich glaube 38 ist so im Mindest oder sowas Ja,Machen wir Nehmen wir gerne, gehen wir gerne hin.
Tim Pritlove
Okay, ist ein Gesetzentwurf Da wird noch dran gefeilt werden Muss man auf jedenFall mal auf dem Zeiger haben.
Linus Neumann
Ja, also kommt mir ein bisschen komisch vor.Vor allem habe ich jetzt noch nicht, mir fehlen die Fälle, also ehrlich gesagt, ne?Klingt mir das so ein bisschen nach, die Lobbyisten von der Schufa haben ganze Arbeit geleistet.Weil, wenn ich jetzt längere Zeit darüber nachdenke, wer hat denn Geschäftsgeheimnisse,die durch Datenschutzauskünfte potenziell bedroht werden könnten?
Tim Pritlove
Facebook.
Linus Neumann
Google, eigentlich nicht.Aber so eine Schufa.
Tim Pritlove
Das fällt eigentlich voll ins Feld, da hast du recht.
Linus Neumann
Und außerdem ist außerdem das Interesse der Schufa, dass Scoring und so weitermöglichst frei diskriminieren kann, machen kann, wie es will und man nicht erklärenmuss, wie es zustande kommt. kommt.Und also laut Gesetzentwurf muss man nur die wichtigsten Kriterien,so, und dann sagen die halt, die wichtigsten Kriterien sind,wie nennt man das, dass man immer bezahlt, dass man seine Schulden bezahlt und dann sind die fertig.Also ich glaube, da haben einfach die Lobbyisten von der Schufa ganz,ganz gut bei Nancy Faeser vorgesprochen.
Tim Pritlove
Also es wäre auf jeden Fall mal sehr interessant, mal nachzufragen,was eigentlich die Motivation hinter diesen Änderungen genau ist.Also was soll dadurch jetzt eigentlich wo besser werden und wäre auch mal eineinteressante Nachfrage mal zu schauen,auf welche Branchen denn diese Änderungen denn irgendwelche Auswirkungen haben. Es.
Linus Neumann
Gibt die Evaluierung des Gesetzes zur Anpassung des Gesetzes.Das ist das vom BMI, wo sie sagen, das was wir da gelernt haben, setzen wir hier um.Das ist ein 143-seitiges Dokument.Wir verlinken das mal. Das ziehen sie zumindest als Motivation heran,dass hier jetzt Änderungsbedarf besteht. Jetzt können wir mal gucken.Geschäftsgeheimnisse.Äh, Geheimnis.Geschäfts... Geschäftsgeheimnis kommt nicht. Nee, Geschäftsräume. Geschäftsstelle.Also Geschäftsgeheimnisse steht ja schon mal nicht drin. In dieser...Also dieses Dokument scheint sich nach meiner Wahrnehmung nicht unbedingt heranziehen zu lassen.Als Begründung das einzubauen.Tja, werden wir nächstes Mal erfahren. Wir gucken uns das nochmal an.Auf jeden Fall werden wir jetzt offenbar diese BDSG-Novelle diskutieren dürfenin den nächsten Sendungen.
Tim Pritlove
Wie schön. Na gut, aber damit sind wir jetzt erstmal mit dieser Sendung durch.Ja. Wir haben gewählt, wir haben gesendet.
Linus Neumann
Wir waren heute aber mal richtig gute Demokraten.
Tim Pritlove
Aber sowas von. Vorbilder eigentlich, kann man sagen, oder? Ja.Lupenrein in gewisser Hinsicht.
Linus Neumann
Lupenreine Vorbilder.
Tim Pritlove
Super Typen.
Linus Neumann
Ich bin auch immer wirklich zufrieden mit mir. Heute bin ich richtig happy.
Tim Pritlove
Ja, du bist so toll.
Linus Neumann
Ich bin stolz eigentlich.
Tim Pritlove
Leute, das war's von uns. Wir entlassen euch in die Woche und hören uns danneine Woche drauf. In etwa wieder.
Linus Neumann
So werden wir das machen. Das.
Tim Pritlove
Ist der Plan. Also wir sagen Tschüss, bis bald.

Shownotes

Prolog

Jobs: Win 3.11 Admin

Hausmitteilung

AI Act

Deepfake CEO Fraud

Meta: Kennzeichnung von KI-generierten Bildern

Maaßen als Rechtsextremist vom BfVS geführt

UN Cybercrime Convention

Canada will Flipper Zero verbieten

VAULT7 Leaker verurteilt

e-Privacy-Ausnahme “Freiwillige Chatkontrolle”

Datenschutzgesetznovelle

Mr. Blacksoot hat zur Sendung noch eine Sketchnote gemacht:

LNP483 Hackerzugriffsverbesserungsgesetz

Feedback — Hackerparagraph — Ulrich Kelber — Apple und der Digital Markets Act — Digital Services Act — Künast vs. Facebook — fritz.box — Chatkontrolle — Datarade, Factori und Datastream

Nach unserem Spezial gehen wir wieder zur Nachrichtenberichterstattung über und klappern dabei auch noch das reichhaltige Feedback ab. Im Schwerpunkt diskutieren wir über schlimme Auswirkungen des Hackerparagraphen in der Auseinandersetzung um die Firma Modern Solutions und schauen auf die Maßnahmen, die Apple im März auf dem iPhone ergreift um die Vorgaben des Digital Markets Act der EU zu erfüllen. Dazu noch diverse schlechte Nachrichten und ein paar schlechte Witze. Also alles wie immer.

avatar
Linus Neumann
avatar
Tim Pritlove

Für diese Episode von Logbuch:Netzpolitik liegt auch ein vollständiges Transkript mit Zeitmarken und Sprecheridentifikation vor.

Bitte beachten: das Transkript wurde automatisiert erzeugt und wurde nicht nachträglich gegengelesen oder korrigiert. Dieser Prozess ist nicht sonderlich genau und das Ergebnis enthält daher mit Sicherheit eine Reihe von Fehlern. Im Zweifel gilt immer das in der Sendung aufgezeichnete gesprochene Wort. Formate: HTML, WEBVTT.


Transkript
Tim Pritlove
Guten Morgen Linus.
Linus Neumann
Guten Morgen Tim.
Tim Pritlove
Sag mal, was meinst du, wie ist die Teilnehmerzahl an diesem Podcast?
Linus Neumann
Also die Polizei sagt einer und ich sage 350.000.
Tim Pritlove
Logbuch Netzpolitik Nummer 483 vom 27. Januar 2024.Und ja, wie viele sind wir denn jetzt heute eigentlich hier?
Linus Neumann
Also hier ist ja kaum jemand.
Tim Pritlove
Wenn du Polizei fragst.
Linus Neumann
Das muss man jetzt schätzen. Also wie viele ist hier pro Quadratmeter?
Tim Pritlove
Ja, wir rechnen das einfach pro Quadratmeter hoch.
Linus Neumann
Ja, auf mehreren Quadratmetern in der Meta-Ebene ist einfach niemand,also rechne ich das jetzt mal hoch.
Tim Pritlove
Wow, okay. Ja, ist ein bisschen schwierig mit der Schätzung von Teilnehmerzahlen,aber ich glaube, uns hören trotzdem Millionen zu.
Linus Neumann
Natürlich.
Tim Pritlove
Das liegt auch daran.
Linus Neumann
Dass wir werbe- und bullshittfrei sind. Ich weiß nicht, seit wann das auf derWebseite steht, aber das fand ich sehr schön.
Tim Pritlove
Schon eine Weile.
Linus Neumann
Ich gucke den nicht so oft an.
Tim Pritlove
Warum auch? Ja, das ist sozusagen der inoffizielle Slogan der Meta-Ebene.Werbe- und bullshittfrei.
Linus Neumann
Ja.
Tim Pritlove
Da bemühen wir uns nach Kräften.
Linus Neumann
Genau.
Tim Pritlove
So, genauso bemühen wir uns nach Kräften auf euer Feedback einzugehen.Es ist viel, aber lustige Sachen dabei. Wir fangen an mit Sand.
Linus Neumann
Oh ja, Sand.
Tim Pritlove
Fabs Kimo schreibt, hi Leute, ich als langjähriger Hörer eurer Show freue mich,dass Tim das Slumberland kennt und wollte dazu anmerken, dass ich da seit 15Jahren die Reinigung mache.Slumberland ist praktisch mein zweites Haus. Also zu Hintergrund,das ist die Bar, die ich erwähnt habe in Berlin, die Sand auf dem Boden hat.Genau. Slumberland ist praktisch mein zweites Zuhause und ja,früher habe ich auch den Sand mal gesiebt, aber das mache ich schon lange nicht mehr.Es wird ja nicht mehr geraucht in Kneipen und so sammle ich nur die paar Sachenauf, die da rumliegen und verteile den von den Gästen durchwanderten Sand,nur damit er überall gleichmäßig aussieht und kippe gelegentlich neuen Sand drüber.Damit ist das auch abschließend besprochen und es herrscht nun Klarheit.Kommt gerne vormittags vorbei, da gibt es Kaffee für Lawin, ich gerade da bin.Alles klar. Das sind so diese Zufälle, wo ich sagen muss, das müssen Millionen sein, die uns zuhören.
Linus Neumann
Das ist tatsächlich schon manchmal lustig, wie viele den Podcast gerade einendarauf ansprechen. Wir haben halt,Someone you trust is one of us.
Tim Pritlove
So, wir bleiben aber auch bei dem Thema, was haben wir unter den Füßen, zum Thema Teppich.Cleo schreibt, habe Linus heute zum ersten Mal völlig lost erlebt,Stichwort Messe-Teppich.Es gibt nur eine akzeptable bodendämpfende Flurware und das ist Teppich.Ohne den wäre ich auf dem Kongress so oft aufgeschmissen gewesen. Wesen.
Linus Neumann
Ja, ich hab halt, also vielleicht, ich weiß nicht, ob ich das schon gesagt habe,es liegt auch ein bisschen damit zusammen, dass ich Allergiker bin und deswegenRäume bevorzuge, in denen nicht irgendein Teppich alles für immer festhält.Also Textile mag ich ganz gerne auch gereinigt.
Tim Pritlove
Das ist ein nachvollziehbares Argument. Aber es ist jetzt auch nicht so,dass du mit Hautausschlag vom Kongress abziehst oder so.
Linus Neumann
Nein, nein, nein. Nein, für mich ist das auch völlig in Ordnung.Ja, wahrscheinlich ist das in Ordnung, aber Fittteppich insgesamt schwierig.
Tim Pritlove
Okay, na gut. Das kriegen wir nicht gelöst. Kommen wir auf die etwas politischeren Themen.Wir hatten von diesem UK Post Office Skandal berichtet.Dazu gab es einige Kommentare, unter anderem von David.Er schreibt, noch eine kurze Ergänzung zum Post-Office-Skandal,wenn ich Novara Media richtig verstanden habe, dann wurden den Mitarbeiternin den Call-Centern, in denen natürlich all die Betroffenen angerufen haben und erklärt haben,dass sie ihre Kassen richtig bedient haben von der Leitung, dazu verpflichtet,diesen Leuten zu erzählen, dass sie die einzigen seien, die damals von solchenProblemen berichtet haben.Die Aufklärung hat demnach eben auch deshalb so lange gedauert,weil alle Betroffenen dachten, sie wären alleine und dann waren es aber dann doch eher so 900.Riesentoaster merkt an zu dem Thema haben die BBC seit Mai 2020 einen Podcastam Laufen, der das auch mal ganz gut aufrollt und einzelnen Betroffenen eine Stimme gibt,das macht dann noch mal deutlich, was das alles mit den Menschen machen kannund das nur wegen einem kleinen Bug in der Software und Menschen, die alles getan haben,diesen zuzudecken Der Podcast heißt The Great Post Office Trial und ja Linkhaben wir in den Shownotes Dann gab es noch einen längeren Kommentar,der ja wirklich zu lange ist, um den hier komplett durchzulesen von T.T.Kreischwurst, der das sozusagen nochmal en detail, die wichtigen Sachen hat.Ich fasse das mal so in Stichworten zusammen.
Linus Neumann
Nicht du. Chat-GPT, gib's zu. Wenn du schon sagst, ich fasse das mal zusammen. Das war der Witz.
Tim Pritlove
Dass ich das am Ende sage, weißt du?
Linus Neumann
Achso, ja meinst du die Leute sind doof oder was? Die merken das nicht.Du fasst was zusammen, wir fassen heute noch was zusammen.
Tim Pritlove
Ich lasse zusammenfassen.
Linus Neumann
Gut.
Tim Pritlove
Guck mal, jetzt ist sozusagen die Erwartungshaltung der Leute an das,was ich sage, einfach reduziert.Weil da einfach so viel Dissing stattfindet. So die armen AIs,die werden auch einfach...
Linus Neumann
Ich finde aber nicht in Ordnung, dass du so tust, als hättest du das gemacht.
Tim Pritlove
Hab ich auch nicht gemacht.
Linus Neumann
Die arme AI.
Tim Pritlove
Ich hab das gemacht. Ich hab das da reingepastet und return gedreht.
Linus Neumann
Das wird sich irgendwann an dir rächen.
Tim Pritlove
Gott, die AI wird sich an mir rächen. Oder du.
Linus Neumann
Nein.
Tim Pritlove
Wer rächt sich dann?
Linus Neumann
Ich finde, die AI hat auch Gefühle und wir sollten sie machen lassen, was sie möchte.
Tim Pritlove
Deswegen wollte ich sie jetzt gar nicht in die Bredouille bringen.Jetzt habe ich beide am Hals. Die Hörerin und die AI.Das war's dann. Super.
Linus Neumann
So schnell ruiniert man sich.
Tim Pritlove
Genau. Die Alternative wäre, dass ich jetzt die ganze Zeit, die ich jetzt mitdiesem Geplänkel mit dir verbracht hätte, mit dem Originalkommentar zugebracht hätte.Jetzt haben wir eigentlich gar nichts gewonnen. Also kurz gesagt,die Postämter spielen halt in UK nochmal eine größere Bedeutung als hier.Das haben wir so nicht erwähnt, weil die eben auch so Rentenauszahlungen und sowas machen.Also das ganze Post Office ist sehr viel höher aufgehängt im britischen Systemund von daher sind das eben jetzt nicht nur Pakete oder so, die da eine Rollespielen, sondern ging es auch teilweise um größere Summen.Und ja, das Ganze hatte natürlich dann extreme soziale Auswirkungen und wie schon erwähnt wurde,diese Versuche von dem Post Office selber, den Leuten mal klar zu machen,sie wären die einzigen mit diesem Problem,haben die Leute dann dazu gebracht, diese Fehlbeträge einfach aus eigener Taschezu zahlen, weil sie nämlich dann auch teilweise vermutet haben,dass es ihre Mitarbeiter waren, die sie dann beschissen haben und sowas,um das irgendwie aufzudecken.Und dann hat natürlich auch Fujitsu schön stillgehalten,obwohl sie frühzeitig von Bugs im System wussten und eine Besonderheit ist haltauch noch, dass das Post Office selber die Untersuchungen durchgeführt hat,weil es nämlich tatsächlich so eine juristische Entität im Rechtssystem ist.Also das ist sozusagen so amtlich organisiert gewesen, das ist glaube ich mittlerweilejetzt beendet worden, dass sie quasi selber auch diese Ermittlungen durchführen konnten.Und sich gegen sich selber ermitteln ist natürlich schwierig.Also es ist so eine Art private Anklagebehörde und das hat nicht unbedingt dazubeigetragen, dass das Verfahren jetzt sehr viel fairer durchgeführt wurde.Genau. Also längerer Kommentar dazu oder wie gesagt auch dieser Podcast.Marc hat dann noch angemerkt dazu, dass es auch bei der Post AG mal so einenFall gab mit einem E-Post System,wo auch da entsprechende Fehlzahlungen bemerkt wurden, die es so nicht gegeben hat.Dann gibt es einen Artikel vom Stern, der hier verlinkt wird von 2008 oder so.Ja, dann gab es zu meinem Bericht aus Ungarn, aus Budapest, von dieser Litfaßsorge,du erinnerst dich wohl, wo dann sozusagen von der Leyen und Alex Soros da aufdem Foto abgedruckt wurden und so.Und ich habe mich ja versucht, da eine Übersetzung, da gab es vielleicht eineetwas treffendere Übersetzung als die, auf die ich gekommen bin.Gregor merkt an, auf Deutsch gibt es die Rebewendung nach jemandes Pfeife tanzen.Ja, also die Aussage war halt so ein bisschen so, tanzt nicht nach ihrer Pfeife.
Linus Neumann
So hätte ich das auch mit vorgelegt.
Tim Pritlove
Genau, sehr naheliegend bin ich irgendwie nicht drauf gekommen.Und Charlotte merkt dann noch an, dass am unteren Rand auf diesem Plakat auchnoch ein ungarischer Text steht,den ich jetzt nicht versuche vorzulesen, weil dann kann ich nur scheitern.Mit Deep L übersetzt heißt es dann tatsächlich im Auftrag der Regierung vonUngarn. Also damit ist dann die Frage, wo das jetzt herkommt.Und auch beantwortet. Also da gab es viele Rückmeldungen in der Richtung,dass das halt alles überhaupt nichts Neues ist.Das läuft schon seit Jahren so und das ist da irgendwie einfach vollkommen normal,dass da also die ganze Zeit die böse EU an den Pranger gestellt wird und dasarme Ungarn und so weiter.Wie das so ist mit solchen Systemen.Man sucht sich immer den Buhmann, die für alles ganz verantwortlich sind,aber bloß nicht selber irgendwelche Verantwortung übernehmen.So, dann hatten wir die Funkzellenabfrage in Berlin, die eingestellt wurde, erwähnt.Dazu gab es dann natürlich Korrekturen, vor allem von André Meister.Zwei kurze Korrekturen zu den Funkzellenabfragen. Erstens der Berliner,der über 100 Autos anzündete, nicht aus politischen Motiven,wurde nicht mittels Funkzellenabfrage überführt, sondern mittels Überwachungskamera und Beschattung.Und zweitens Funkzellenabfragen wurden zuerst 2011 in Dresden öffentlich bekannt,erst danach in Berlin, auch wenn die eigentlichen Maßnahmen vorher waren.Haben wir schon mal diskutiert in Logbuch Netzpolitik Nummer 11.Was interessiert mich mein Geschwätz von gestern?
Linus Neumann
Mit André zu Gast. LNP 011 Popcornpotenzial. 24. Januar 2012.
Tim Pritlove
Olli merkt dann noch an. Hallo ihr beiden. Danke für die schöne Folge.Eine kurze Eingabe zum Thema Funkzellenabfragen, Transparenzsystem.Wie dem von euch verlinkten Netzpolitik Artikel zu entnehmen war,wurde das System von Ulf Burmeier entwickelt.Das hatten wir ja hier auch schon mal berichtet. Der macht unter anderem jaden Podcast Lage der Nation.Da hat er mehr Hintergrund dazu noch geliefert zu der Einstellung des Systems.Er meint, er habe die funktionierende Software 2021 an die SenatsverwaltungBerlin übergeben und ihm seien dann aber die Zugänge inklusive Fernwartung entzogen worden.Wie man das dann eigentlich auch erwarten würde. oder so, aber er konnte dannsozusagen nichts machen und im Regelbetrieb liefert er das dann aber irgendwannhalt nur noch Fehlermeldungen.Burmaier dazu, das System ist nicht kaputt, es wäre hier und da ein kleinerWartungseingriff vonnöten gewesen.Ja, meint aber das LKA Berlin, habe seine Entwicklungsarbeit durchaus unterstützt.Es scheint also wieder so zu sein, dass eine schlüsselfertige IT-Lösung übergebenwurde, ohne dass sich die Bestellerin Gedanken um Wartung und langfristigen Betrieb gemacht hat.Hat meine Einschätzung, entweder hätte spätestens zum Zeitpunkt der Abnahmedes Prototypen durch die Senatsverwaltung eine Stelle geschaffen werden müssen,die sich um Betrieb und Wartung des Systems kümmert, sofern das nicht ohnehindem zuständigen IT-Dienstleister des Landes übertragen werden kann oder bessernoch der Code landet in einem öffentlichen Repository. Genau.
Linus Neumann
Und dann fixt die Community das.
Tim Pritlove
Genau, wo Patches jederzeit... Genau, naja.Habe ja mit der Corona-Warn-App nicht so schlecht funktioniert,das ist natürlich richtig.
Linus Neumann
Ne, aber die wurde trotzdem betrieben. Also die hat ja trotzdem jemand betrieben.
Tim Pritlove
Aber es war halt aber auch so, dass tatsächlich öffentlich da immer wieder Fixes reinkam. Das stimmt.Wie groß der Anteil davon war, weiß ich nicht, aber das fand auf jeden Fall statt.
Linus Neumann
Kurzer Hinweis, also der wurde nicht dadurch überführt, aber die Funkzellenabfragen haben,also dieser Autoanzünder wurde nicht dadurch überführt, Aber die Funkzellenabfragenwurden in dem Kontext durchgeführt und auch öffentlich bekannt im Rahmen dieses Verfahrens.Aber der quasi verurteilt wurde ja amEnde dadurch, dass er unter einer Überwachungskamera durchgelatscht ist.
Tim Pritlove
Ja, dann gab es noch viele Rückmeldungen zum Thema Rohrpost.Das will ich jetzt auch nicht alles zusammenfassen, nur sehr viele schöne Berichteüber Bierflaschen in Rohrpost-Systemen und zur Übertragung von allem anderenals Zetteln und auch noch ein längerer Bericht von Alster,wie denn das mit der Seidenstraße, also dem Rohrpost-Projekt,was es mal auf dem Kongress gab,wie das so gelaufen ist, was da für Probleme gab und warum das jetzt nicht mehr in Betrieb ist.Das ist eine kurze Zusammenfassung, war dann doch eine Menge Arbeit,aber hat sich dann auch leer gelaufen.Ja, soviel zum Feedback. Vielen Dank für eure Kommentare. habe.
Linus Neumann
Dann wären wir beim ersten Thema, das uns übrigens auch von vielen nahegelegtwurde, dass wir das doch bitte behandeln sollen.Und zwar ein Urteil im Modern Solution Fall.Den haben wir hier auch behandelt.Ist auch jetzt schon wieder, ich denke mal, zwei Jahre her ungefähr.Modern Solution ist ein Ein Unternehmen aus Gladbeck, das so eine Software macht,die es Händlern ermöglicht,ihre Warenwirtschaftssysteme an die Online-Marktplätze größerer Unternehmenwie zum Beispiel Otto Kaufland und Check24 anzubinden.Wenn du jetzt so Online-Händler bist, dann möchtest du ja potenziell deinenWarenbestand auf mehreren Plattformen anbieten und dieses System hilft dir irgendwiedabei, das zu verwalten.Dafür hast du eine lokale Software und offenbar eine Datenbank,die aber dann eben im Internet war. So, da hatte dann jemand...Ein Problem mit dieser Software und hat dann einen anderen IT-Dienstleisterbeauftragt, sich das anzuschauen.Der hat das also irgendwie analysiert und irgendein Problem damit gelöst oder versucht zu lösen.Und dabei hat er festgestellt, dass dieser Client, ich glaube msconnect.exe oder sowas,also der lokale Client, die sich direkt wie bei SQL mit einer Datenbank verbindet.Und wenn ich das richtig lese, dann war diese Verbindung sogar unverschlüsselt.Also du hättest jetzt einfach einen Wired Shark anmachen können und dann hättestdu alle Daten und das Passwort sehen können, wie es unverschlüsselt über die Leitung geht.Der hat das dann diesem Unternehmen gemeldet, hat gesagt, hier übrigens habtihr ein Passwort und mit diesem Passwort, jetzt kommt das Problem,dieses Passwort war nicht gebunden an den einzelnen User,sondern das Passwort war hardgecodet in dieser Software.Also du führst diese MS-Connect-Exe ausund die verbindet sich immer mit dem gleichen Passwort an diesen SQL-Serverund dann hast du einen Data-Breach und dann hast du insgesamt 700.000 Kundendatenverschiedener Online-Marktplätze waren darüber zugänglich.Also alle Leute, die diese Software benutzt haben, haben mit dem gleichen Datenbank-Passwortsich auf dieser Datenbank verbunden.Eine absolut inakzeptable, komplett peinliche, durch nichts zu entschuldigendeLösung, die von Modern Solutions da gebaut wurde.Wie hätte man es richtig gemacht? Man hätte einfach jedem Kunden so eine Config-Datei daneben gelegt.Dann sagt man, okay, du bist hier der Kunde XY und dann kriegst du von uns eineConfig-Datei. hey, darüber hätte man dann zum Beispiel auch sowas machen können wie Lizenzen.Dann sperrst du nämlich auf dem SQL-Server einfach den User nach einem Jahrwieder und sagst, die Leute sollen einen neuen Dollar rein, ein neues Geld nachwerfen oder so.Und dann kannst du sicherstellen, dass die Zugriff auf diese Datenbank haben,aber eben nur auf ihre Daten und nicht auf die Daten aller Modern Solution Kunden,die alle mit dem gleichen Passwort in der einen Datenbank rumballern.Eine äußerst schlechte Idee.
Tim Pritlove
Also nicht nur denselben Account für alle zu nehmen, sondern auch nicht dieDaten in separate Datenbanken aufzuteilen.
Linus Neumann
Natürlich, du hättest jetzt auch sagen können, unterschiedliche Tabellen ineiner Datenbank, aber das ist so nicht zu entschuldigen, auch nicht,wenn man das Gladbäcker IT Unternehmen Modern Solution ist.Das ist absolut nicht zu entschuldigen und das zu melden war richtig und korrekt.
Tim Pritlove
Modern Solution, das klingt mir nach Antique Solution.
Linus Neumann
Und jetzt kommt...Der hat das gemeldet, haben eine relativ unfreundliche Antwort bekommen,dann hat Modern Solution aber diese Systeme offline genommen.Und dann haben sich der Meldende und ein Blogger nicht besonders klug verhalten,die haben nämlich noch am selben Tag diese Schwachstelle veröffentlicht.Ja, streng genommen kann man natürlich sagen, naja, die Schwachstelle war jageschlossen, weil die Systeme offline waren.Guter Stil ist es aber nicht, weil offensichtlich konnten die diese Schwachstelle ja nicht lösen.Ja, zumindest nicht so schnell. Das war auf jeden Fall, wenn gleich in Ordnung,weil ja keine Daten mehr in Gefahr waren, jetzt vom Stil vielleicht ein bisschen übereilt.Und gleichzeitig hatte derjenige, der diese Schwachstelle gemeldet hat,hat als selbstständiger Programmierer Dienstleistungen angeboten,die man als in Konkurrenz zu Modern Solution sehen könnte.Ja, jetzt hattest du also eine Meldung, eine unfreundliche Antwort darauf,eine Veröffentlichung, eine schnelle Veröffentlichung und eine Konkurrenzsituation,die man theoretisch annehmen konnte zwischen demjenigen.Ist natürlich Unsinn, der hat ja trotzdem gemeldet.Darf ja nicht vergessen, was mit so einer Schwachstelle möglich wäre.Also 700.000 Kundendaten, echte gepflegte aus dem Onlineshop,das ist natürlich ein größeres Problem, ein größerer Datenreichtum, der da entstanden wäre.Wäre, jemand, der das missbrauchen möchte, hätte auch das einfach löschen könnenund damit dem Unternehmen und all seinen Kunden schaden können.Das einfach zu melden, ist das Richtige und absolut in Ordnung.So, was machen diese Modern Solution Leute? Zeigen den natürlich an.Und Folge ist, es gibt eine Hausdurchsuchung, bei der alles beschlagnahmt wird,was er so an IT-Geräten hat.Damit wird der gute Mann natürlich auch quasi arbeitsunfähig, wir kennen das, oder?Dann wird der Strafantrag vor das Amtsgericht Jülich getragen und das AmtsgerichtJülich sagt im Mai letzten Jahres,naja die Daten waren doch ohnehin nicht ausreichend geschützt,also hat derjenige hier auch keine Straftat im Sinne des Hackerparagrafen begangen.Denn das ist das, was sie offenbar als Anzeige oder als Strafantrag durchgebracht haben.Dass sie gesagt haben, hier, der hat sich ungerechtfertigt Zugriff dazu verschafftund die sagen halt, naja, das ist ja kein wirksamer Schutz.Jetzt lesen wir mal ganz kurz den StGB 202a, Ausspähen von Daten.Es sind nur solche, die elektronisch, magnetisch oder sonst nicht unmittelbarwahrnehmbar gespeichert sind oder übermittelt werden.Das ist der 202a der Hackerparagraph oder einer der Hackerparagraphen.Es gibt ja noch die Hacker-Tool-Paragraphen, B und C und sowas.Gegen unberechtigten Zugang besonders gesichert unter Überwindung der Zugangssicherung.Das wäre dann so die Definition von Hacking. Jetzt hat das Amtsgericht Jülichgesagt, naja, die sind ja nicht besonders gesichert.Viel Spaß. Ja, und dann geht aber die Kölner Staatsanwaltschaft in Berufungund das Landgericht Aachen entscheidet Ende Juli,dass das Amtsgericht Jülich den Fall verhandeln muss und sagt, nee,wir sehen da eine Sicherung, ja.Ja, und jetzt suchen sie irgendwie, haben sie dann versucht,den dran zu kriegen für das Dekompilieren von Software.Die haben dann gesagt, ja, woher hast du denn das Passwort?Das Passwort war doch in der Exe-Datei versteckt, das fällt da ja nicht so einfach raus.Dann haben sie gesagt, du hastdie dekompiliert, wenn direkt die nächste straft, dann darfst du nicht.Und dann hat der Beschuldigte zum Protokoll gegeben, ey, wenn du diese Exe imTexteditor öffnest, dann steht da das Passwort drin in der Nähe von MySQL.Also da muss jetzt kein Laser-Gehirn haben, um das zu verstehen.Also haben sie ihm...Und die Polizei hat sich zwar keine Mühe gegeben, das nachzuvollziehen,ich glaube der Fabian Scherschel von Heise hat das aber auch gemacht,hat gesagt, ja hier, das ist so, steht da Klartext drin.Auch das äußerst peinlich, man kann natürlich Schritte unternehmen,sowas maskiert in dieser Datei zu haben.Auch das immer noch schlecht, aber dass es wirklich auch noch im Quelltext offen drin steht,also mit Strings einfach ausgebbar, wirklich absolut bescheuert und wahnsinnigmit so einer Programmier- und Sicherheitsverständnis die Chuzpe zu haben,zu sagen, ich mach mal eine Software, die verkaufe ich, die können andere haben,die können mich bezahlen, das ist eine super Leistung, die ich hier erbracht habe.
Tim Pritlove
Also das ist so eine Technik, das kann man machen für sein eigenes Tool,für etwas, was nicht im Netz ist, wenn man das mal kurz für 10 Minuten mal ausprobiert,das war es dann aber auch. Ja.
Linus Neumann
Man baut sich auch, also üblicherweise würdest du sowieso nicht direkt überdas MySQL-Protokoll auf eineMySQL-Datenbank zugreifen, sondern dir eigentlich noch die Mühe machen,zum Beispiel eine API davor zu schalten, was dir dann auch die Möglichkeiten gibt,vielleicht besser zu skalieren oder sonst was.Also das ist fundamentale Unkenntnis von wie diese Systeme funktionieren.So, jetzt sagen sie aber, jetzt sagt das Amtsgericht Jülich,mit dem Passwortschütz gibt es also eine Sicherheitsbarriere,die hätte der Beschuldigte ja offensichtlich bewusst passiert.Und den Datenbankzugriff, den er dann gemacht hat, den hat er,ich glaube, mit phpMyAdmin oder sowas gemacht.Also er hat ein anderes Tool benutzt, nämlich irgendeinen SQL-Client,dem du dann sagst, hier, da ist dein Server, mach mal bitte.Und dafür musste er ein tiefes Verständnis über Programmiersprachen und Softwareentwicklung aufbringen.Und weil er dieses tiefe Verständnis hat, hat er eben diese Zugangssicherungüberwunden, indem er jetzt eine andere Software benutzt hat.Ja, denn, also ich interpretiere das so, der wirkliche Client MS Connect,der hätte ja gar nicht ermöglicht, auf die Daten anderer zuzugreifen.Nur, wenn man jetzt mit dem Hacker-Tool PHP, MyAdmin oder sonst was da drangeht.Und außerdem, die exe-Datei im Text-Editor zu öffnen, ist ja auch nicht vorgesehen. Ja.Und dann sagt der jüdische Richter, naja,wenn er jetzt mal die Rechtslage sich anschaut, hat der Gesetzgeber offensichtlichmit der Verschärfung des 202 StGB im Jahre 207 offensichtlich bezweckt,das Hacken als solches unter Strafe zu stellen.Und deswegen wäre dieser Schutz, der nicht für jedermann einfach zu umgehenist, eben auch ausreichend, um den Straftatbestand zu erfüllen.Kommt zum Urteil, Geldstrafe, 50 Tagessätze, respektive 3000 Euro.Das ist Irrsinn, aber ich muss zumindest dem Richter insofern Recht geben,dass er natürlich den Paragrafen hier so gelesen hat, wie er damals,also wie er da steht und wie er auch völlig bescheuert ist.Ja, ich hoffe, dass dieser Richter das nur gemacht hat, damit das jetzt maldurch alle Instanzen geklagt werden kann, weil das so bescheuert ist.Aber es ist natürlich, also klar, diese Hackerparagraphen sind seitdem sie dasind unter Kritik, weil sie in ihrer Lesart und man muss Gesetz ja nun mal solesen, wie sie da stehen,hilft ja keinem, wirklich übel sind.Ja, Vorbereitung des Ausspähens und Abfangen von Daten ist ja der 202c.Da wirst du zum Vorbereitenden einer Straftat, indem du Computerprogramme schaffst,deren Zweck die Begehung einer Tat ist, die so etwas ermöglicht.Da wollten sie also Hacker-Tools verbieten. Die sind quasi verboten.Das ist wirklich ein absoluter Irrsinn.Wir konnten immer froh sein, dass es im Prinzip keine oder sehr wenige derartige Urteile gab.Ich glaube, da gab es immer mal wieder eins. Aber dann auch noch hier eins,wo du dir überlegst, der hätte diese Daten ja auch einfach dumpen können,der hätte so viel machen können und der hat sie ja sogar noch gemeldet und dannöffentlich darüber bekannt gegeben. geben.Also es ist, und dann wird er dafür, wirst du dafür, dass du mit phpMyAdmin,dem Programm, was man für MySQL, ich hätte jetzt nicht phpMyAdmin genutzt,aber das hat er offenbar hier verwendet, ein Programm, was für Datenbankkommunikation,tiefe Kenntnis, also kannst du dir vorstellen, wie bescheuert dieser Paragraf ist. Wahnsinn.
Tim Pritlove
Ja, also muss man vielleicht auch mal dazu sagen, das ist ein ganz normales,stinknormales Datenbank-Tool, das gehört zum Standard-Ausstattung,das Das verwendet man halt, um einfach auf eine Datenbank zuzugreifen.Das ist kein Hackertool, in dem es in irgendeiner Form etwas ermöglicht,was nicht zum normalen Betrieb gehört. Das ist der normale Betrieb.Und wenn es möglich ist, mit so einfach zu findenden Zugangsdaten sich Zugangzu nicht nur den Daten des einen Kunden,um den es hier ging, sondern allen anderen Kunden zu verschaffen,dann ist halt einfach schon mal ein ganz grundlegendes Problem da.
Linus Neumann
Also, ne, und wie gesagt, also ich hab's jetzt nochmal kurz nachgeschaut,tatsächlich sind die, also war die MySKF-Verbindung auch noch unverschlüsselt,ne, also er hat das einfach in… Auch das noch? Ja, ja klar.
Tim Pritlove
Oh Mann.
Linus Neumann
So, jetzt, der Angeklagte legt jetzt Berufung gegen das Urteil ein,selbstverständlich, ja, und dann wird das hoffentlich mal hier durchgeurteilt.Aber nochmal, es ist gar nicht wegen eines Hackertools, sondern einfach nur wird gesagt,das ist eine wirksame Schutzmaßnahme und die hat er jetzt umgangen und deswegen ist er jetzt strafbar.Was ist die Konsequenz davon? Das heißt, du kannst demnächst,also wenn sich das als Rechtsprechung durchsetzen würde,dann kannst du keine Sicherheitslücken mehr melden, weil du dich automatischdes 202a selbst beschuldigst und damit strafbar machst.So, was haben wir dann für eine Konsequenz? Dann macht's keiner mehr.Dann hacken nur noch die, die nicht nett sind.Dann hacken nur noch die Illegalen, weil die sich denken, naja geil, ich bin ja eh illegal.Mir ist ja egal, ob ich mich jetzt hier strafbar mache oder nicht.Ich bin ja ein Black Hat, Alter. Ich bin hier ein krasser Hacker.Und diejenigen, die sagen, okay, guck mal hier, ich hab eine Sicherheitslückegefunden, ich würde denen gerne helfen, aber wer weiß, ob ich dafür nachherin den Knast muss oder Geldstrafe zahle oder überhaupt eine Ausdurchsuchung kriege.
Tim Pritlove
Vor allem ist das ja aktiver Täterschutz, wenn man mal diesen Fall von diesenpolnischen Hackern nimmt,die ja wunderbar die bösen Geschäftspraktiken dieses Zugherstellers aufgedeckthaben und denen dann sozusagen unterstellen würde, Ja hier,ihr habt ja da dieses und jenes getan und gehackt.Was fällt euch denn überhaupt ein? Dann hätte es überhaupt gar keine Möglichkeitgegeben, denen in irgendeiner Form auf die Spur zu kommen.Zumal denen ja überhaupt zu keinem Zeitpunkt, und das ist ja auch bei diesemFall des Betroffenen hier bei Modern Solution, wenn man sich mal anschaut,aus welcher Motivation heraus, nämlich ich bin beauftragt worden vom Kunden selber.
Linus Neumann
Selber.
Tim Pritlove
Ja, ist ja nicht so, dass man irgendeine kriminelle Motivation hier finden würde.Wenn du Sicherheitsforscher bist und du wirst von Kunden angesprochen mit,finde ein Problem in unseren Daten.
Linus Neumann
Der war ja noch nicht mal Sicherheitsforscher, sondern der sollte irgendwiedem Kunden, der sollte irgendwas reparieren, weiß der Geier,der hat wahrscheinlich einfach nicht funktioniert.Würde mich auch nicht wundern, wenn die Software so gebaut ist,dass die wahrscheinlich auch noch ein paar andere Probleme hat.
Tim Pritlove
Ja, klar. Also unabhängig davon, was man jetzt genau ist, aber wenn man sozusagenbeauftragt wird, um ein lokales Problem des Kunden selber zu lösen und dannlöst man das auch, indem man einfach mal rausfindet, was ja eigentlich das Problem ist.Das Problem lag dann halt woanders und das dann einfach dokumentiert.So ist das hier, hier irgendwie lag der Autoschlüssel, lag hier irgendwie aufder Straße und dann bist du auf einmal dafür verantwortlich.Ja, so einen Autoschlüssel, den nimmt man doch nicht auf.Du wolltest ja das Auto klauen, du wolltest das Auto nicht klauen,der Schlüssel lag rum. Ja.
Linus Neumann
Das ist wirklich bescheuert.Eine Reform des Hackerparagrafen steht ja auf der Agenda der Ampelkoalition.Will man mal was hoffen? Ja, das, also es ist ja nicht so schwer,es wird denen ja nicht so schwer fallen, eine Formulierung zu finden,die illegales Hacking von Sicherheitsforschung ergänzt, ne.Also ich, es ist nicht ganz so einfach, ne, weil das natürlich,also man müsste ja im Prinzip sagen so, Meldung,also man muss ja irgendwie sagen, wenn du das gemacht hast, um es zu melden,dann wird es natürlich so ein bisschen schwierig, weil dann könnten illegaleHacker, Was macht dann zum Beispiel so eine Ransomware-Gang?Die hat es ja gemeldet. Hat ja sofort Bescheid gesagt.Nicht, dass die jetzt aus Versehen legal wird oder so.Aber das ist wirklich ein Skandalurteil. Ich kann nur hoffen, dass das, ja,du erinnerst dich an diese Frauenärztin, die von diesem Durchgeknallten da immerangezeigt wurde, weil sie daraufhingewiesen hat, dass man bei ihr Schwangerschaftsabbrüche machen könnte.Da war doch auch so ein Fall, dass die Richterin dann gesagt hat,ich muss sie jetzt hier schuldig sprechen, weil das hier so steht und ich hoffe,dass sie jetzt nicht durch alle Instanzen kämpfen, damit das Recht sich ändert.Weil das ja Irrsinn ist, was hier stattfindet.Ich kann mir nur verhoffen, dass das der jüdische Richter hier auch so gesehen hat,weil das ist eine unhaltbare Rechtslage, die wir seit 2007 in diesem Lande haben,die Sicherheitsforschung, es ist ja ehrenamtlich, der hat ja auch nicht gesagt,ich will Geld dafür haben oder so.Also, ich weiß nicht, wie viele Sicherheitslücken ich schon gemeldet habe.Eine Sicherheitslücke ist per Definition irgendeine Form von Zugriffsschutz,die man umgangen hat, durch unübliche Verwendung einer Schnittstelle.
Tim Pritlove
Also es ist auch wirklich noch so ein Gesetz, muss man sagen,was tief davon geprägt ist, wie wenig eigentlich die Politik zu dem Zeitpunktverstanden hat von dem Problem an sich.Und es ist geringfügig besser geworden vielleicht mit der Zeit.Das könnte sich dadurch äußern, dass man hier vielleicht mal die Lehren ausder Anwendung zieht und das jetzt auch mal schleunigst verbessert.
Linus Neumann
Ja.
Tim Pritlove
Hackerzugriffsverbesserungsgesetz.
Linus Neumann
Das ist das auf jeden Fall.
Tim Pritlove
Das brauchen wir.
Linus Neumann
Okay, dann haben wir, bleiben wir einfach bei den schlechten Nachrichten.Dann haben wir eine sehr interessante Situation.Seit 20 Tagen ist unser Bundesdatenschutzbeauftragter Ulrich Kelber kommissarischim Amt, wenn ich mich nicht täusche. So heißt das, glaube ich.Die haben einfach noch nicht seine Wiederwahl erfolgen lassen.Die Amtszeit des Bundesdatenschutzbeauftragten, des Beauftragten für Datenschutzund Informationsfreiheit ist fünf Jahre und einmal kann er wiedergewählt werden.Und das passiert jetzt aber nicht.Dafür kann man natürlich zwei Gründe, werden dafür angeführt.Der eine ist, also Ulrich Kälber war ja viele Jahre für die SPD im Bundestag.Der hat einen Informatik Hintergrund der versteht also wenigstens das Fach indem er sich da befindet wie hieß der nochmal, wir hatten nochmal so eine dieVorgängerin die habe ich schon komplett verdrängt die.
Tim Pritlove
Vorgängerin.
Linus Neumann
Wie hieß die denn noch?
Tim Pritlove
Maria Voshoff hieß die Dame.
Linus Neumann
Ach ja, das, die... Ja, ähm...Also, der, der, der, der, der,der Kelber, wird die wieder, weil nicht ermöglicht, er kommt aus der SPD.Ähm, und er wurde auch damals von der SPD nominiert.Jetzt werden zwei Gründe kolportiert, warum das nicht der Fall ist.Der eine Grund ist, Nancy Faeser hat Hat keinen Bock mehr auf den.Könnte ich mir vorstellen. Ist die Innenministerin in vielen Angelegenheitennatürlich der natürliche Feind des Bundesdatenschützers.Der andere SPDler, der wohl keinen Bock mehr auf ihn hat, ist der Gesundheitsminister Karl Lauterbach.Der ist ja Epidemiologe.Den ganzen Kram, die Daten, die Daten Daten müssen verfügbar sein,nicht wahr, für die Forschung.Das ist der eine Grund, der herangeführt wird. Ein anderer Grund,der herangeführt wird, ist, dass...Und die SPD-Fraktion, die Beauftragtenpostenwerden unter allen drei Koalitionspartnern verteilt, also SPD,Grüne, FDP.Und die SPD stellt die Wehrbeauftragte mit Eva Högl und dann gibt es irgendwieeinen neuen Polizeibeauftragten,den will die Polizei auch unbedingt mit Uli Grötsch besetzen und deswegen kanndie SPD jetzt nicht auch noch den Bundesdatenschutzbeauftragten besetzen undgibt die Aufgabe an FDP und Grüne und sagt, macht ihr mal was.Und die sollen jetzt bis Jahresmitte einen Nachfolger suchen.Und weil der Bundesdatenschutzbeauftragte natürlich nicht wegen seiner Kompetenz,sondern wegen seines Parteibuches ausgewählt wird,wird jetzt potenziell eben von Grünen und FDP jemand anderes dahingesetzt werden,der dem Vernehmen nach kein Parteibuch und kein aktives politisches Amt innehabe.Es gibt natürlich eine große Auswahl an anderen Leuten, die diesen Job auchmachen können. Aber es ist natürlich schon relativ frustrierend für Ulrich Kälber,wenn er da seine Aufgabe ordentlich macht.Und das kann man, glaube ich, einfach mal sagen. Er hat auch,glaube ich, an einigen Stellen, die diplomatisch, man nicht sich so auf dieBrust gehauen, an anderen Stellen sich stark engagiert.Da kann man jetzt sagen, er hat den Job ernst genommen und gut gemacht.
Tim Pritlove
Ja, also er hat vor allem von Anfang an den Eindruck erweckt,dass er sich mit der Materie auch wirklich ernsthaft auseinandersetzt und eineVorstellung davon hat, was denn nun eigentlich seine Aufgabe ist.Das ist so das, was bei Andrea Voshoff von Anfang an so ein bisschen gefehlt hat. Kleines bisschen.
Linus Neumann
Ja. Hat sich ihre Kompetenz echt nicht anmerken lassen.
Tim Pritlove
Ja.
Linus Neumann
Ist nicht mit ihrer Kompetenz hausieren gegangen.
Tim Pritlove
Man hat so den Eindruck, dass sie wie Datenschutz. Ich dachte,ich bin hier im Bundesgartenschau- Ministerium oder so.Egal. Hätte besser laufen können.
Linus Neumann
Ja. Alright. Schade. Aber mal gucken. Der, äh...
Tim Pritlove
Vielleicht finden sie ja noch jemanden, der...
Linus Neumann
Ich find's halt, also es ist natürlich bedauerlich, dass Das ist bedauerlich für ihn.
Tim Pritlove
So, kommen wir mal auf die europäisch-internationale Ebene.Wir hatten ja hier schon mehrfach über den Digital Markets Act berichtet, kurz DMA.Der Versuch der EuropäischenKommission oder in dem Fall jetzt der Europäischen Unionim finalen Beschluss für mehr Gerechtigkeit zu sorgen im Bereich der digitalenMärkte und das bezog sich natürlich vor allem auf die neuen Plattformen auf Smartphones.Das war ganz klar das Ziel dieser ganzen Maßnahme.Nicht nur, aber es ging halt generell um Plattformen.Und die sind ja nun beschlossen worden und damit war auch Apple jetzt am Zug,weil natürlich viele dieser erlassenen Maßnahmen vor allem auch auf Apples System zielten.Und jetzt haben sie halt bekannt gegeben, wie sie gedenken, durch eine Softwareänderungin dem iOS-Betriebssystem mit diesen neuen Regelungen umzugehen.Und da gibt es natürlich jetzt einige Aufregungen und Diskussionen drumherumund ich habe mir das jetzt mal angeschaut und das ist ein bisschen komplex.Ja.Also verschiedene Dinge werden jetzt künftig möglich sein. Das gleich mal vorweg abzuräumen.Also unter anderem werden jetzt auch alternative Browser-Engines ermöglicht werden.Das ist etwas, was derzeit von Apple ja noch untersagt wird.
Linus Neumann
Also dass ich in einer App, wenn ich eine Webseite anzeige, dann ist es immerdas, was die als Safari bereitstellen? Genau.
Tim Pritlove
Also konkret WebKit als Engine und das ist halt das, was Safari quasi im Innersten ausmacht.Wollte aber jetzt sozusagen Google einen Chrome-Browser machen,der auf ihrer eigenen Web-Engine basiert, dann war das bisher nicht möglich.Argumentation von Apple im wesentlichen Security. Anbetracht der Tatsache,wie viel Sicherheitslücken natürlich ein Webbrowser theoretisch in das Systemtragen kann, in gewisser Hinsicht auch nachvollziehbar.Aber das wird eben jetzt im Rahmen dieser EU-Regelung dann erlaubt werden.Außerdem wird es möglich sein, für Banking-Apps Zugriff auf den NFC-Chip im iPhone zu bekommen.
Linus Neumann
Das ist schon mal gut.
Tim Pritlove
Um da sozusagen eigene Paymentsysteme zu ermöglichen. Das heißt,man kann dann eine andere Wallet-App auswählen, außer der Wallet-App, die es derzeit ist.Auswirkungen sind auch so ein bisschen unklar, weil das bedeutet dann sozusagen,dass du dir dann dein Apple Pay komplett abschaltest.Und ich habe so ein bisschen meine Zweifel, dass das das ist,was die meisten Leute haben wollen. Aber diese Möglichkeit wird es dann geben.So, das sind jetzt so ein bisschen die einfachen Dinge, die man gleich vorweg abgeräumt.Jetzt muss man ein bisschen verstehen, was eigentlich diese DMA wirklich adressiert.Und da ist es zunächst einmal so, dass eben von so Gatekeeper-Plattformen gesprochenwird und als solche ist halt das iPhone ausgemacht worden.Sprich, es muss halt auf dem iPhone ein anderes Verhalten gezeigt werden von Apple.Das bedeutet aber auch, das betrifft sozusagen nur iOS, aber zum Beispiel nicht das iPad.Technisch würde man natürlich jetzt sagen, ja wieso, ist das nicht das gleiche?So, nee, ist es nicht, weil es ja iPadOS.
Linus Neumann
Ist.
Tim Pritlove
Also es ist explizit eben vom iPhone die Rede und solche Sachen wie mit diesemNFC-Chip und so weiter betrifft ja auch nur das iPhone. Also so ist es halt.Also das ist zumindest jetzt die Interpretation, die Apple darin,inwiefern all diese ganzen Regelungen einer Überprüfung der Kommission jetztstandhalten, steht nochmal auf einem ganz anderen Blatt.Ich bin mir relativ sicher, dass Apple sich eingehend mit den gesetzlichen Anforderungenbeschäftigt haben dürfte undsie haben jetzt lange daran daran gearbeitet und Ziel ist das Ganze am 7.März im Rahmen eines iOS-Updates, das ist dann iOS 17.4, das dann sozusagen auszurollen.Das ist jetzt alles ein bisschen verwirrend weil es ja vor allem hier um denApp Store geht und der App Store selber,wird sozusagen ja immer wahrgenommen als es gibt nur diesen einen Store mitdem Apple irgendwie alle seine Software verkauft, aber Apple hat halt die Position,dass der App Store nicht ein App Store ist, sondern fünf App Stores es gibteinen App Store für den Mac, es gibt einen Es gibt einen fürs iPad,es gibt einen fürs iPhone, es gibt einen für Apple TV und es gibt einen für die Apple Watch.Und es gibt aber auch ein paar Sachen, die sich jetzt für alle App-Stores ändern.Inwiefern die jetzt was mit dem zu tun haben, habe ich ehrlich gesagt nicht so ganz verstanden.Also es gibt ja so Game-Streaming-Apps und so weiter. Also wir haben sozusagenin diesem Rahmen auch noch ein paar andere Sachen ermöglicht, die auch global gelten.Aber ich beziehe mich jetzt ausschließlich auf die Änderungen,die in der EU stattfinden.Und das ist halt auch schon mal wichtig zu verstehen. Alle diese Änderungensind keine globalen Änderungen, die für alle Kunden weltweit gelten,sondern eben nur für Kunden-Geräte in der EU.Also wenn du irgendwie in UK bist, dann betrifft dich das nicht.Das ist einfach nur EU und nur in der EU.Und naja was wirdalso jetzt geschehen entwickler haben jetzt die möglichkeit einen anderen dealzu haben mit apple dazu muss man erst mal schauen was ist der deal derzeit relativ einfach der heißt,Apple finanziert die gesamte Plattform.
Linus Neumann
Boah, jetzt fängst du wieder damit an. Was? Was Apple alles leistet.
Tim Pritlove
Nein, nein. Okay. Also das ist sozusagen, wie es ist, ist die Finanzierung derPlattform entsteht durch den Verkauf von Software, die kostenpflichtig ist.Alle Einnahmen daraus sind sozusagen das, was diese Plattform finanziert.Jetzt kommt aber die EU und sagt, sagt, ja, aber du musst aber diesen App-Storejetzt öffnen, es muss auch andere App-Stores geben können, Firmen müssen inder Lage sein, selber auch einen App-Store zu machen.Woraufhin Apple halt sagt, okay, gut, wenn das so ist, alles super,dann müssen wir aber auch die Art und Weise, wie wir unsere Plattformen bezahlen lassen, ändern, von,es geht weg zu der App-Store finanziert alles, weil es gab ja nur einen,hin zu zu, wer ein anderes Modell wünscht, muss auch auf eine andere Art undWeise bezahlen. Das trennt sich also.Und bietet jetzt sozusagen den Entwicklern in Europa, also in der EU,die Möglichkeit an, auch auf eine andere Preisstruktur umzustellen.Also man kann alles so belassen, wie es jetzt ist.So nach dem Motto, wenn ihr happy damit seid, wie es jetzt ist,dann macht es bitte einfach so wie bisher und nichts ändert sich und alles bleibtgleich. Oder ihr geht jetzt eben auf einen speziellen EU-Deal ein,der ein paar Änderungen mit sich bringt.Unter anderem wird es billiger für Entwickler, weil du nicht mehr diese 15-30%-Regelung hast,sondern dass eine 10-17%-Regelung wird.Klingt jetzt erstmal super, heißt aber nur, das ist das, was sozusagen überden App Store dann eingezogen wird.Dafür gibt es aber dann einen neuen Kostenpunkt, eine sogenannte Core Technology Fee, CTF,die allerdings nur für Entwickler greift, deren Apps mehr als eine Million Installationen haben.Also sagen wir mal, du machst jetzt irgendwie eine App und die ist total supererfolgreich und die wird jetzt irgendwie 2 Millionen Mal installiert.Wobei 2 Millionen Mal nicht 2 Millionen Geräteinstallation heißt,sondern bei 2 Millionen Usern auf beliebig vielen Geräten dieser User installiertwird, dann musst du ab einer Million,für die obere Million sozusagen,pro Install 50 Cent bezahlen pro Jahr.Also sozusagen nur, dass die App dann installiert ist, weil mehr als einer Million ist,muss für jede dieser Installationen 50 Cent, also du musst sozusagen 500.000Euro pro Jahr dafür bezahlen, dass diese App dort ist.Weil du benutzt ja in irgendeiner Form die Infrastruktur und die Annahme ist,dass wenn du irgendwie so populär bist, dass du schon irgendwelche Wege hast,das auch zu finanzieren.Ja, das ist sozusagen so ein Angebot und was es auch nochmal etwas schwierigmacht, sich für so ein Angebot zu entscheiden, ist, dass sie halt dir nichtanbieten, zurückzuwechseln in das alte Modell.Also wenn du sozusagen dieses Modell wechselst, dann bist du dann irgendwieraus und musst dich dann quasi mit der Gefahr deiner Popularität in irgendeiner Form arrangieren.So, was jetzt aber noch dazukommt, ist natürlich dann diese neuen App-Stores,die nicht App-Stores heißen, sondern die Apple halt Marketplaces nennt.Also ein App-Marketplace.Wenn ich jetzt Marketplace sage, dann meine ich App-Stores, die nicht der App-Store von Apple sind.Und wenn du jetzt sagst, ja, ich möchte jetzt hier auch selber mal Apps füriOS, beziehungsweise eben dann fürs iPhone in der EU only anbieten,dann musst du eine entsprechende,Software auch bereitstellen, so eine Store-App sozusagen, die allerdings nichtin Apples App Store zum Runterladen ist, sondern die du über eine Webseite installieren musst.Das ist dann sozusagen Der einzige Ort, wo du etwas aus dem Web direkt auf deinemTelefon installieren kannst.Und wenn du eben diesen Marketplace, der sich auf dem Telefon eines Users befindet,wenn du den dort hast, dann musst du auch pro Jahr 50 Cent dafür,dass dieser Marketplace dort installiert ist, selbst wenn da nichts mit gekauft wird, bezahlen.Und das gilt auch schon vom ersten Install an. Also wenn du eine Million Installationenhast, dann kostet das sozusagen 500.000 Euro im Jahr, allein nur diesen Marketplace dort zu haben.
Linus Neumann
Also kann ich zusammenfassen, die machen jetzt irgendwas,was minimalst die Forderungen des DMA erfüllt und gleichzeitig finanzielle hoheRisiken für die Entwickler hat und es für die absolut unattraktiv und gefährlichmacht, sich darauf einzulassen.
Tim Pritlove
Naja, also sie tun das, was das Gesetz von ihnen verlangt.
Linus Neumann
Da bin ich mir noch nicht mal sicher, ob sie das tun. Naja.
Tim Pritlove
Das habe ich ja am Anfang gesagt. Also das muss sich noch zeigen.Vielleicht gibt es da eine andere juristische Bewertung. Das zieht sich komplett meiner Wahrnehmung.Es ist halt nur so, sie tun jetzt das, wozu sie gezwungen werden.Und sie werden dazu gezwungen, andere Marketplaces zu erlauben.Und wenn dort Apps verkauft werden, dann ist die Kommission an Apple halt 0%.Außer und da gilt halt wieder genauso wie bei diesem anderen Deal,außer du hast halt mehr als eine Million Installationen und dann musst du ebenauch hier wieder für jede aktualisierte.Installation pro Jahr, pro User nochmal 50 Cent abdrücken und der Marketplaceselber muss das halt von Anfang an schon tun.Und du kannst auch nicht einfach mal eben als Einzelentwickler sowas machen,sondern wenn du so ein Marketplace hast, dann musst du eine Firma sein,dann musst du irgendwie nachweisen, dass du mindestens eine Million Kredit hast bei irgendeiner Bank,damit eben solche Kosten auch gedeckt werden.Ich bin mir jetzt nicht ganz sicher, ob das auch schon für die Entwickler gilt,weil hier ja das erste Mal nicht Geld aus einem Verkauf abgezogen wird,wo dann quasi die Kunden die Kohle reingeben, sondern hier entstehen ja direkte Kosten,quasi Gebühren, Plattformgebühren von Apple, die dann jährlich eingetrieben werden.Und dann müssen ja die Unternehmen quasi eine Rechnung bezahlen,also müssen sie vielleicht hier auch so eine gewisse Bonität nachweisen.Das habe ich jetzt nicht so ganz rausbekommen. Das ist eh eine relativ komplizierte Geschichte.
Linus Neumann
In diesen Angelegenheiten ist Apple nicht sympathisch.
Tim Pritlove
Was heißt sympathisch? Ich meine, die haben ja nicht sympathisch zu sein,sondern die haben ja dem Gesetz zu entsprechen.Und das ist nun mal das, was das Gesetz von ihnen verlangt. Und ihre Antwortist, nirgendwo steht, dass wir nicht andere Gebühren für unsere Plattform nehmenkönnen, weil wir haben ja Kosten damit. Und das ist ja auch so.Man kann ja nicht weg argumentieren, dass sie jetzt irgendwie Kosten damit haben,dass sie ihre Plattform betreiben.Wie hoch diese Kosten sind und wie hoch ihr Gewinn ist, das steht ja auf einemkomplett anderen Blatt, aber es wird ja nicht im Gesetz verboten,sozusagen für die Nutzung ihrer Plattform Geld zu nehmen, also tun sie das jetzt.
Linus Neumann
Das Gesetz hatte ja zum Ziel, dieEntwickler durch Konkurrenz aus dem Zwangsverhältnis zu Apple zu lösen.Und das, was da jetzt entschieden wird, klingt für mich nicht wirklich so.Ja, und wenn ich das jetzt richtig verstehe, ich habe eine populäre,vollkommen kostenlose App, mit der ich keinen Gewinn mache.Das ist vielleicht auch einfach eine Open Source App. Da geht eine Communityhin und sagt, hier gibt, was weiß ich, nehmen wir OpenVPN oder so,die ist glaube ich kostenlos.Entwickeln einen VPN-Client, OpenVPN, pflegen den, irgendeiner stellt den inden App-Store und sagt, komm, ich schmeiß da einen Huni rein im Jahr,um da was reinstellen zu können und stelle eine kostenlose Open-Source-App zurVerfügung, die potenziell vielleicht über eine Million Downloads hat.Das kann die Person heute vollständig kostenlos über den App-Store machen.
Tim Pritlove
Zukünftig auch. Genau.
Linus Neumann
Und wenn sie es nicht über den App Store macht, hat sie das Risiko,dass sie plötzlich Millionen User hat und Schweinegeld dafür bezahlen muss.Das ist eine schlechte Stellung für die Entwickler.Ich meine auch, dass es irgendwie das Thema, was wir immer ein bisschen unterbeleuchten,ist ja die Situation, aus einer App etwas zu kaufen.Denn sehr viel, was wir hier so ein bisschen vergessen,es werden gar nicht mehr Apps gekauft, sondern es werden kostenlose Apps zurVerfügung gestellt, in denen du dann ein Pro-Abonnement zum Beispiel abschließtoder über die du einen Service nutzt.Die Diskussionen sind ja zum Beispiel mit Netflix, zum Beispiel mit Spotify,aber viele Apps, also gerade in dem, sagen wir mal,professionellen Bereich, irgendwelche Apps, die sich auch professionell verwendenlassen, funktionieren ja beispielsweise so, dass du eben eine andere Subskription hast.Beispielsweise gibt es diese Office-Programme ja für iPad und iPhone und was nicht alles.Und dann musst du halt eine Microsoft-Subscription haben, um die benutzen zukönnen, die dann potenziell von Microsoft an Apple vorbei verkauft wurde an dich.Oder irgendein Texteditor oder so, den ich verwende, da muss ich 35 Euro imJahr für bezahlen oder sowas. Was dann über Apple abgerechnet wird,wo Apple sich ein Drittel davon nimmt.Da haben sie jetzt auch irgendwelche anderen Regeln, haben sie aber auch sehrstark dann reglementiert, wie du auf anderem Wege verkaufen darfst.Aber da haben sie trotzdem wieder gesagt, dass sie dann davon etwas kriegen. Ja.
Tim Pritlove
Haben sie gesagt, weil es ihnen ja nicht verboten wird, das zu tun,sondern sie wurden ja nur gezwungen, externe Links zu erlauben.Das muss man nochmal trennen. Also diese Sache, da komme ich gleich drauf,ist in den USA, ist aber auch Teil dieser EU-Sache.Also wenn du quasi in den EU-Tarif dich rein wechseln lässt mit deiner App,gehen wir jetzt mal davon aus, dass es eine App ist, die kostet irgendwas unddu möchtest auch in App-Purchase machen und deine eigenen Subscriptions da vielleichtmachen, dann kannst du das auch tun.Und wenn du aber trotzdem das System von Apple benutzt, dann zahlst du haltnochmal 3% mehr und du sparst dir quasi 3%, wenn du das Payment dann selber machst.Und der Tarif aber wird ja insgesamt auf große Apps mit größer 1 Million Installationengehen halt dann sozusagen in der Summe also 17 plus 3 auf 20%, vorher 30.Und für die kleinen, kleiner 1 Million auf 10% plus 3% für In-App-Purchase.Also im Vergleich zu vorher sind das schon Ersparnisse.Die Regelung, die jetzt auch in den USA gilt, das ist die Folge dieser ganzenrechtlichen Auseinandersetzungen dort.Dort werden halt externe Links für In-App-Purchases jetzt auch möglich,aber Apple sagt dann, okay, dann reduzieren wir halt unseren Cut von 30% auf 27%.
Linus Neumann
Ja, also komm Tim, ganz ehrlich, diese Gesetze wurden gemacht mit einem Hintergedanken, ich hab jetzt,was den App Store angeht, hab ich keinen Bedarf, ich bin aber auch niemand,der da irgendwie seine Umsätze mitmacht.Ich weiß nicht, wie das Programmierer sehen.Du wirst das vielleicht in der Freakshow ein bisschen besprechen können mitLeuten, die eher an dem Ende sitzen, also die potenziell aus dem App-Store ein Einkommen generieren.Aber...Es ist schon einfach ein sehr schönes Beispiel davon, da hat die ganze EU jetztirgendwie jahrelang an irgendwelchen Acts gestrickt und Apple hat einfach malgesagt, okay, fuck you, hier ist, we don't give an inch,wir scheißen auf die Intention eurer Gesetze, wir schreiben da jetzt irgendwelchehorrenden Preisschilder dran und leckt uns am Arsch.Ja, das ist jetzt auch nicht unbedingt, also weiß ich jetzt nicht,warum ich da applaudieren würde.
Tim Pritlove
Nö, da muss man auch nicht applaudieren, aber das ist halt einfach die Konsequenzaus diesem Gesetz und letzten Endes muss man ja das Gesetz daran messen,was es für Folgen hat. So und inwiefern ist jetzt sozusagen, also für wen ist das gut?Also ist das sozusagen, verbessert sich jetzt was für Konsumenten?Eigentlich erstmal gar nicht, weil es hat sagen wir mal für Konsumenten keineAuswirkung. Ändert sich irgendwas für Firmen?Naja, hält sich so in Grenzen. Also was jetzt zum Beispiel möglich wäre,ist, dass all die Firmen, die bisher von Apple mit ihrer Software abgelehntwurden, aus Content gründen.Das ist das Einzige, wo ihnen vorgeschrieben wird, was sie nicht machen können.Und übrigens auch nicht wegen Copyright-Violations.Derzeit können sie ja Apps ablehnen, weil die in irgendeiner Form gegen Copyrightverstoßen, weil die irgendwelches Artwork benutzen von irgendwie Disney oderso. Da gab es ja verschiedenste Fälle.Oder wenn du irgendeine Piracy-Software anbietest, mit der Copyright-Variationsgemacht werden können, dann sagen die App-Store-Rules so, geh mir aus der Sonne.Das wäre jetzt möglich. Oder Porno-Apps. Also Porno-Stores wird es jetzt gebenkönnen, weil Apple darf darf Apps nicht mehr ablehnen aus inhaltlichen Gründen.Sie dürfen sie allerdings weiterhin aus Sicherheitsgründen ablehnen.Alle diese Marketplaces müssen nämlich nach wie vor diese Apps durch diesenNotarisierungsdienst von Apple durchlaufen lassen, wo halt die Software auf Malware,auf Nutzung privater APIs und anderer Violations überprüft wird.Und erst dann darf der Marketplace, die dann eben auch wirklich zum Downloadund zur Installation anbieten.Aber inhaltlich dürfen sie halt jetzt nichts mehr ablehnen. Das untersagt dann halt das DMA.Das heißt, wir haben jetzt sozusagen den Gewinn. Wir können also jetzt irgendwieParasy-Software, Copyright-Violations sind jetzt einfacher möglich und Porno-Appssind jetzt einfacher möglich.
Linus Neumann
Und Apple verdient jetzt auch an Porns.Wenn mehr als eine Million Leute die Porno-App runterladen, was man sich ja nicht vorstellen kann.
Tim Pritlove
Kann man sich nicht vorstellen, nee. Unmöglich. Also, ja gut,aber ich meine, das ist das, was das Gesetz ermöglicht.Das ist das, was da in dem Gesetzestext steht und genau das setzen sie halt jetzt um.Das kann man ihnen auch nicht so richtig vorwerfen, dass sie jetzt deswegendie komplette Monetarisierung ihrer Plattform sein lassen. Ach so war das gemeint,naja dann lassen wir das einfach mal sein.
Linus Neumann
Entschuldigung, aber die Idee ist, dass sie keine Plattformen haben,das ist doch die Idee dahinter.Also dieses iPhone hat ein paar hundert Euro gekostet, könnten auch ein paar tausend sein.
Tim Pritlove
Ja, je nach iPhone. So.
Linus Neumann
Und ganz grundsätzlich würde ich schätzen, dass ich als Kunde,der dieses iPhone gekauft hat, die Hardware, die da drin ist,wahrscheinlich bezahlt habe.
Tim Pritlove
Ja, die Hardware, die da drin ist, aber das iPhone ist, die Plattform ist jamehr als nur das Gerät, was du in der Hand hältst.
Linus Neumann
Und die Idee ist ja, dass es nicht mehr diese Plattform ist.Das ist ja die ganze Idee dahinter, dass Apple nicht mehr sagen kann,das iPhone ist eine Plattform.Das ist die Idee dahinter.
Tim Pritlove
Es geht nur um das Gatekeepertum. Es geht nur darum, dass wenn sie so eine Plattformhaben, dass diese Plattform auch für andere genutzt werden dürfen und dass andere.Einen Appstore anbieten dürfen. Das ist das, was dieses Gesetz sagt.
Linus Neumann
Ja, also.
Tim Pritlove
Naja, das ist das, was das DMA sagt.
Linus Neumann
Das hast du gar nicht gelesen.
Tim Pritlove
Natürlich habe ich es nicht gelesen, aber ich habe die Interpretation gelesen,was dieses Gesetz sagt und das reflektiert sich ja sozusagen jetzt auch in diesen Entscheidungen.Sie hätten ja jetzt nichts in Software umgesetzt. Ich meine,das ist eine Änderung, die irgendwie 600 neue API-Calls einführt im Betriebssystem,nur um diese Marketplaces zu ermöglichen und diese neue Paymentsysteme.Also es ist schon relativ umfangreich.
Linus Neumann
Das heißt also, das wertvollste Unternehmen der Welt musste sich jetzt anstrengen,also hat richtig neue Sachen jetzt schreiben müssen an Code,meinst du? Weil es eine gesetzliche Änderung gab?
Tim Pritlove
Ja, natürlich.
Linus Neumann
Boah.
Tim Pritlove
Ja gut, machen sie ja auch.
Linus Neumann
Sind die Aktien aber jetzt wahrscheinlich auch, ich gucke mal kurz auf meine Apple-Aktien.
Tim Pritlove
Ich kann mir nicht vorstellen, dass es irgendeinen Impact hat, ganz ehrlich.
Linus Neumann
Also dann quengel doch nicht rum.
Tim Pritlove
Ich quengel nicht rum, ich sage nur, das ist das, was sie tun.Und letzten Endes muss sich die EU jetzt fragen lassen, ob das sozusagen dieAuswirkung ist, die sie haben wollen.Und ich glaube, dass es, wenn man jetzt mal schaut. Ich meine,wir haben ja jetzt nicht so vielegroße Softwareanbieter für diese Plattformen in der EU von Bedeutung.Wenn du jetzt mal so guckst, was gibt es eigentlich in der EU für Unternehmen,die überhaupt millionenhafte Installationszahlen haben und die Digital Servicesanbieten? Fällt dir da was ein?
Linus Neumann
Wahrscheinlich sehr viel, aber du willst wahrscheinlich jetzt was Besonderes hören.
Tim Pritlove
Viele fallen dir da ein, also ich müsste da ganz schön lange drüber nachdenken.Also Spotify ist eigentlich das Einzige, was mir jetzt so einfällt.
Linus Neumann
Netflix wäre ja dann auch.
Tim Pritlove
Netflix? Netflix USA.
Linus Neumann
Ne, aber die werden doch, aber wieso, die können, also Netflix kann doch einenanderen Deal dann für den europäischen Markt haben, die sind doch im europäischen Markt vertreten.
Tim Pritlove
Ja klar, aber…,Ein europäisches Gesetz geht natürlich auch nach den Interessen europäischer Unternehmen.Das ist irgendwie die, die da sozusagen darunter zu leiden haben,in Anführungsstrichen, weil es handelt sich ja bei diesen ganzen Plattformenum amerikanische Plattformen.Es gibt ja keine europäische Plattform, die in irgendeiner Form unter diesesGesetz fällt, weil es einfach keine europäischen Plattformen gibt.Also ist das sozusagen eigentlich das Ziel, dass man hier in irgendeiner Formden Wettbewerb so öffnet, dass auch Europa was davon hat?
Linus Neumann
Nein, die Argumentation dieser Idee war ja, dass es klar dem Markt und damitam Ende auch den NutzerInnen in Form von Wettbewerb dienen soll.So werden solche Gesetze ja verargumentiert.
Tim Pritlove
Ja klar, aber ist es auch wirklich das, was sie tun? Ich habe da so ein bisschenmeine Zweifel, dass sie das tun.
Linus Neumann
Nee, natürlich wird das sein Ziel nicht erreichen.
Tim Pritlove
Ja genau und das Ziel war jetzt sozusagen Unternehmen einen Zugang zu diesen Plattformen zu geben,die sonst zu sehr unter den Einnahmen und Einschränkungen von Apples App StoreRegelungen zu leiden hätten.Und da ist natürlich vor allem, sind die Unternehmen,die halt solche digitalen Abos quasi verkaufen, zu nennen, wie zum Beispiel,nicht nur, aber zum Beispiel eben Spotify ist als Beispiel genommen,weil das einfach ein großes Unternehmen ist, was in der EU auch angesiedelt ist.
Linus Neumann
Ah, okay. Porno-Apps. Also immerhin, danke EU. Ja.Ich könnte mir vorstellen, dass da ein paar User ganz schön happy sind.So. Dann kommen wir zum Digital Services Act. Der kommt ja jetzt auch bald.Der Digital Services Act, der gilt dann jetzt ab Februar in Deutschland.Allerdings hat Deutschland bisher noch nicht das digitale Dienstegesetz verabschiedet,dass die Prozesse dafür auch sicherstellen soll.Also da müsste die Politik jetzt mal irgendwie was kommen. Da muss nämlich unteranderem eine Aufsichtsbehörde geschaffen werden, die diesen DSA dann umsetzt.Der DSA, wir erinnern uns, also Digital Markets App, das soll die Monopole aufbrechen,die Monopole der Plattformen. Digital Services Act betrifft eben die Dienste, die wir User nutzen.Er ist also für uns erstmal potenziell unmittelbarer.Die Plattformen sollen oder diese großen digitalen Dienste sollen dann Berichtedarüber veröffentlichen, welche Inhalte gemeldet werden und welche sie löschen.Sie sollen erklären, wie sich ihre Moderationsteams zusammensetzen.Sie sollen offenlegen, wie bei ihnen die Empfehlungen zustande kommen,also die Twitter-Trends oder so was.Oder Folge hier, möchtest du nicht hier, diese Person.Und sie müssen rechtswidrige Inhalte zuverlässig löschen, sonst bekommen sie hohe Bußgelder.Das ist diese Transparenz der Inhalte-Moderation. Dann bessere Möglichkeiten,sich gegen Hassrede oder illegale Inhalte durch Meldung zur Wehr zu setzen unddie Online-Werbung wird stärker reguliert.Man darf also jetzt nicht mehr als Kriterien für Werbung sensible Daten verwendenwie Sexualität oder politische Überzeugung.Noch zielgerechtete Werbung machen, natürlich dürfen sie diese Daten weiterhinerfassen, sie dürfen sie nur nicht nutzen.Das wird jetzt in den nächsten Jahren sicherlich interessant werden,ob das auch ungefähr so untergeht wie der DMA,wo Tim das gerade geschildert hat, wie man sagt, alles klar,wir haben das mal sehr genau gelesen und haben mal einfach nirgendwo einen Schrittzurückgegangen, haben überall hohe Preisschilder drangehängt.Und das ist ja nicht das erste Mal, dass Unternehmen das machen.Das haben wir bei der DSGVO auch gemacht.Diese Pay-or-Okay-Geschichte, wo man sagt, ach okay, wir müssen auch eine trackingfreieMöglichkeit bieten und wir müssen ein Consent haben.Na gut, dann bieten wir denen die trackingfreie Möglichkeit für Geld an odersie geben Konsens zu dem Tracking und dann haben wir die Sache in einer Woche abgefrühstückt.Und das ist schon erstmal in jedem dieser Fälle eine relativ offene Umgehungder Intentionen von Verbraucherschutzgesetzen, die wir da sehen.Und jetzt müssen wir mal gucken, ob das beim Digital Services Act auch so wird.Die GFF, Gesellschaft für Freiheitsrechte, hat jetzt das Center for User Rights gegründet,das also die Umsetzung des Digital Services Act überprüft und sich da dann fürNutzerinnen und Nutzer einsetzt und bei Bedarf dann eben auch nachklagt,wenn denen ihre Rechte nicht gegeben werden.Aber als allererstes muss natürlich die Politik das jetzt erstmal vernünftigumsetzen, die entsprechende Aufsichtsbehörde und so weiter schaffen.Da passiert also auch was.Halbwegs related ist diese Auseinandersetzung, die Renate Künast irgendwie jetztauch schon, glaube ich, seit zehn Jahren oder was mit Facebook hat.Und zwar hatte sie in einer Talkshow auf Thilo Sarra ziehen. Kennst du den noch?
Tim Pritlove
Da hatten wir noch Probleme, wa? Der Typ.
Linus Neumann
Echt peinlich wie eine offene Hose. Und der hat sich in einer Talkrunde geweigert,den Namen einer anderen Gesprächspartnerin korrekt auszusprechen.Und dann sagte Künast, die offenbar da auch war, wenn ich das jetzt richtigverstehe, Integration fängt damit an, dass sie als Deutscher auch mal ihren Namen sich merken.Weil der hat halt natürlich, so wie ich das jetzt interpretiere,in irgendeiner herablassenden Form sich geweigert, den Namen richtig auszusprechen.Einer wahrscheinlich Ausländerin.Ich habe diesen Ausschnitt nicht vor Augen. Wenn sie gucken, kein Kilo Sarrazin.So und dann kursieren aber offenbar auf Facebook Falschbehauptungen,wo Renate Künast die Aussage, Integration fängt damit an, dass sie als Deutscher matürkisch lernen.Und dagegen geht die jetzt unter anderem vor, gegen diese Postings mit den Falschzitaten.Und aktuell muss Künast die selber suchen und dann jeden Einzelnen melden und löschen.Und jetzt hat sie auch in sinngleichen Variationen und so weiter,und jetzt hat sie vom Oberlandesgericht Frankfurt erstritten,dass die Verantwortung jetzt bei Facebook liegt.Also Künast sagt, ich will nicht, dass das hier weiter verbreitet wird.Und ihr sagt doch immer, was ihr alles mit eurer KI da machen könnt,dann lasst mal die Pferde tanzen.
Tim Pritlove
Dann zeigt doch mal, was ihr könnt.
Linus Neumann
Dann zeigt doch mal. So und jetzt muss also Facebook oder Meta in diesem Fall,das automatisiert selber versuchen. Ich denke, die Aufgabe ist erstmal möglichund zumutbar, insbesondere jetzt einfache Filter.Wenn das dann in Bildern geht, in Bildern passiert, wird es vielleicht nichtmehr ganz so einfach aber jetzt so, wenn es Künast betrifft und so dann wirdgesagt, ja, könnt ihr doch mal,eine automatische Vorfilterung machen, dann muss nicht mehr die Renate Künastfür euch alles melden, sondern,macht dann mal so eine KI, die macht so einen Verdachtsfall und meldet mal schonmal alles automatisch und dann können eure Moderatoren da drauf schauen undnehmen der Renate Künast jetzt hier mal die Arbeit ab.Das denke ich ist auf diesen Fall betrachtet erstmal tragbar.Jetzt wird man mal sehen, was da jetzt noch so alles an Leuten,Leute noch erstreiten wollen gegen Facebook, was da nicht verbreitet werden darf.Weil ich könnte mir auch so ein paar Sachen vorstellen, vielleicht sagen jetztirgendwelche Betroffene der Korrektivrecherche, die dann sagen,stimmt alles nicht, das ist ja Verleumdung, hier Facebook, ihr müsst das jetztalles wegmachen, immer mit KI.Also ich bin mal gespannt, was sich da noch für potenzielle Missbrauchspotenziale ergeben können.Hate-Aid spricht natürlich von einem historischen Urteil und ich denke für soetwas, wo es um virale Verleumdungen geht und Fake-News, in dem Bereich klingtdas erstmal nach einer ganz guten Sache.Ich bin mal gespannt, was das potenziell bedeutet gegenüber kleineren Anbietern und,und, und, und, und, wenn ein solches Recht sich nun darbietet.Ich glaube, wir müssen einfach zwischendurch was Lustiges machen,Tim, sonst kommen nur wieder nicht mehr so coole Nachrichten.
Tim Pritlove
Ein Witz erzählen meinst du jetzt?
Linus Neumann
LNP 202 Also 202 hat sich bewahrheitet Ja.
Tim Pritlove
Das ist wirklich lustig Das war Wann war das?Das war Ewigkeiten her Logbuch Netzpolitik 202 November 2016.Also sieben Jahre, etwas mehr als sieben Jahre.Da ist uns nämlich aufgefallen, dass es eine neue Top-Level-Domain gibt, die neu verteilt wurde.Es gibt ja seit einiger Zeit so einen liberalisierten Domain-Markt,wo dann eben Anbieter sich bewerben können für bestimmte Top-Level-Domains.Ich weiß nicht genau, wie das funktioniert.Bieterverfahren, irgendwie gibt es da einen Zuschlag, politische Mauscheleien, keine Ahnung.Auf jeden Fall wurde dann die Top-Level-Domain.box sozusagen ausgeschriebenund wir hatten dann in der Sendung auch so ein Hin und Her und haben dann überlegt,was ist denn jetzt hier eigentlich mit Fritzbox?Weil die Fritzbox, ihr habt sie ja vielleicht zu Hause auch stehen,habt ihr ja auch hier in der Meta-Ebene.Die hat so die Eigenschaft, dass sie intern in das eigene Heimnetz diese Domänenrausstrahlt, sozusagen als Default-Domänen.Wenn man also irgendeinen Rechner hat, der Foo heißt, dann kann man den dannauch sofort unter Foo.Fritz.Box erreichen, beziehungsweise die Fritzbox selbererreicht man auch, indem man einfach Fritz.Box eingibt.Ich habe das schon immer für eine ganz, ganz, ganz schlechte Idee gehalten,weil es gibt definitiv bessere Methoden, das zu machen.Und dann haben wir darüber gescherzt, dass AVM ja hier unter Umständen ein Problemhaben könnte und kurz geguckt, ob denn Fritz.box irgendwie zu kaufen wäre,war es dann in dem Moment nicht und wir haben noch geschlossen mit,jetzt sollte sich aber AVM mal kümmern.
Linus Neumann
Und ich muss das noch kurz erklären, also man darf bestimmte Top-Level-Domains nicht registrieren,ja, eine ganze Reihe gibt es nicht, es gibt Special-Use-Domain-Names,die von der IETF anerkannt sind,ja, zum Beispiel irgendwie example.com und .local, ja, der nämlich in RFC 6762werden viele davon dokumentiert und 67, 61.Und wenn du jetzt ein lokales Netz hast, dann kannst du,mit .local sicher gehen, dass dieser Domainname oder dieser Top-Level-Domainnicht registriert wird, weil sie von der IETF anerkannte Special Use Case ist.Genauso wie Localhost oder sowas.Oder .onion wurde von Thor dann genommen, das heißt, das ist jetzt auch einanerkannter, also kannst du jetzt nicht einfach .onion als TLD anmelden.So, und in dieser Liste der Special Use Domain Names findest du nicht .box.Und deswegen hat jemand die TLD halt gekauft oder einrichten lassen und so istdas, wenn man sich nicht an Standards hält.Das ist dann mitunter ein steiniger Pfad.
Tim Pritlove
Das kann zu Problemen führen. Insbesondere, wenn dann auch tatsächlich jemanddie Domain fritz.box sich holt, was nun auch geschehen ist.Warum das jetzt sieben Jahre gedauert hat, ist mir ehrlich gesagt schleierhaft.Und ja, dann gibt es dann halt da NFTs zu kaufen. Wie sollte es auch anders sein?Falls irgendjemand von AVM dieser Sendung lauscht und glaube die Wahrscheinlichkeitist jetzt mal gar nicht so gering, mach das weg.Also das war schon immer eine verdammt doofe Idee.Bitte macht es, dass eure Maschine einfach auf .local irgendwas,Adresse .local lauscht und bitte auch nicht alle Geräte auf der Seite,hast du mal versucht mal mit zwei Fritzboxen im selben Netzwerk irgendwie zu arbeiten,die eine macht dir das Internet, das andere versuchst du gerade einzurichten,du wirst bekloppt dabei, weil du einfach, alle reagieren auf denselben Namen,den sie einfach nicht haben dürfte, das ist furchtbar.
Linus Neumann
Weißt du eigentlich wofür AVM steht?Audiovisuelles Marketing. Ich hab mal, ich glaub, den CISO von AVM kennengelernt,da stand dann audiovisuelles Marketing auf dem Namensschrift, ich dachte so.
Tim Pritlove
Aber.
Linus Neumann
Die sind ja Original Gangster, die wollten BTX-Dienste anbieten.Dann haben sie gesagt, ja, audiovisuelles Marketing auf BTX.Also sie sind schon lange im Geschäft.
Tim Pritlove
Allerdings. Genau, und ich habe auch gar keine Lust groß auf AVM einzufangen,weil das an sich ein sehr solider Laden ist, der wirklich gute Technik machtund die sich irgendwie kümmern und so weiter.Nur genau das mit dieser fritz.box Domain, das habe ich nie verstanden.Also das war einfach ein Fehler und das müsst ihr ändern, das geht einfach gar nicht.Macht da einfach .local und bitte, bitte, bitte, schafft endlich mal so einScheißfeld, wo ich mal sagen kann, diese Fritzbox heißt so und die Die andereheißt so, dass ich zwei ansprechen kann.Das kann doch nicht so schwer sein. Wirklich.
Linus Neumann
Noch ein bisschen Neuigkeiten zur Chatkontrolle. Wir hatten glaube ich schongesagt, dass die freiwillige Chatkontrolle, das ist ja die,Ausnahme, also sogenannte freiwillige Chatkontrolle, das ist die Ausnahme vonder E-Privacy-Richtlinie.Also.Das, was mit Chatkontrolle gemacht werden sollte, war ja, ist quasi verboten.Die E-Privacy-Verordnung verhindert das, erlaubt das nicht.Und dann haben sie quasi eine, haben sie damals eine Ausnahme gemacht und habengesagt, wir machen, wir erlauben das jetzt erstmal.Und dann haben sie gesagt, das machen wir jetzt, erzwingen wir jetzt.Und das werden sie jetzt verlängern. Wir glauben, sie wollen sie in zwei Tagendann billigen und dann wird das wahrscheinlich passieren. Das ist so der eine Teil.Dann haben wir, glaube ich, hier schon berichtet, dass Thorne,diese Bude von Ashton Kutcher, selber auch dafür geworben hat,diese Technologie, die sie da anbieten, auch für andere Zwecke zu verwenden.Das haben wir, glaube ich, in Logbuch Netzpolitik schon erwähnt.Es gibt jetzt eine ZDF-Doku,Ende der privaten Chats, ein Hollywood-Star-Wirb für Überwachung,Link findet ihr in den Shownotes,wo sie sich mal mit Thorn auseinandersetzen, die ja angeblich eine NGO sind,aber die technische Lösung für das, wofür sie lobbyieren, auch selbst direkt mit anbieten.Und kaum Mitarbeiter haben, die unter 100.000 Euro verdienen,was ja bei NGOs auch unüblich ist.
Tim Pritlove
Ich kenne einige NGOs, die würden sich darüber freuen.
Linus Neumann
Gibt es natürlich jetzt auch wieder einen offenen Brief, der sich gegen dasverpflichtende, kleinseitige Scannen ausspricht.Also die Diskussion geht da weiter.Ähm, aber mal, mal schauen. Es ist, es ist einfach nur absurd.Und dann gab es, ich glaube, es war eine niederländische Gruppe, die,eine niederländische Gruppe von Journalistinnen, die auf einem Marktplatz namensData Raid, der in Berlin sitzt, ähm.Daten gekauft haben, Geolocation-Daten. Also auf Data-Rate bieten hunderte vonUnternehmen personenbezogene Daten an.Das ist offenbar irgendwie so ein Tracker, Überwacher, erhöhe die Qualität deinerDatenbude, Marktplatz.Und die meisten Akteure bieten da auch so eine Datenprobe an.Unter anderem auch die Unternehmen Faktori und Datastream.Jetzt haben diese niederländischen Journalistinnen keine genaue Ahnung, wo diese Daten kommen,aber sie haben irgendwie einen ordentlichen Satz Gigabyte mit Bewegungsdaten,wo sie ja im Prinzip die Bewegungen einer Person,da wird dann gesagt, ja, die sind aber anonymisiert, weil Apple gibt den Leutenja nicht mehr die wirkliche Telefonnummer, mal so eine Advertising-ID,ja, aber natürlich können diese Tracker trotzdem, haben dadurch trotzdem eine,Entität, ja, und wenn du jetzt von denen,Location-Daten sammelst,dann kriegst du eben anonyme Bewegungsdaten von Leuten und natürlich konntendie Journalisten dann einzelne Personen daraus.Wiedererkennen, ja, indem sie beispielsweise mal so eine Militärbasis genommenhaben und jemanden haben, der irgendwie zwischen der Militärbasis hin und herfährt, dann sitzt halt so der der Militärbasis gegangen, haben gesagt,guck mal hier, was wir vom Internet runtergeladen haben,interessiert euch wahrscheinlich, schaut doch mal, wer das ist und dann wares nicht, mussten die natürlich nur über die Wohnadresse wussten sie dann, um wen es da ging.Also da auch diese,also nur weil es aus dem App Store ist, heißt es nicht, dass es euch nicht trackt.Der Verdacht ist, dass es halt irgendwelche Apps sind, die wie so Fitness- undNavigations-App, die dann potenziell diese Daten verkaufen.Wäre so eine der Möglichkeiten, die da im Raum steht.Ganz schön in Deutschland gehandelt. So sieht es aus mit unseren Spionen in der Hosentasche.Aber immerhin kriegen wir da jetzt Sideloading für horrende Preise.Also es ist schon wirklich diese Machtlosigkeit der Regierungen,der Gesetze gegenüber dem, was wir verhindern wollen,wo auch relativ klar ist, dass das nicht akzeptables Geschäftsgebären ist,ist schon etwas traurig.
Tim Pritlove
Aber dafür gibt es demnächst Porno-Stores.
Linus Neumann
Porno-Store. Ganz was Neues. Ganz was Neues.Das eröffnet ja ein komplett neues Markt. Dass dann auch keiner drauf gekommen ist.
Tim Pritlove
Porn-Store und Piracy.
Linus Neumann
Piracy-Store ist auch irgendwie ein bisschen,ein Oxymoron.
Tim Pritlove
Ja, mal gucken. Demnächst musst du für deine Raubkopien auch noch was bezahlen. Wie früher.So habe ich mir ganz am Anfang tatsächlich ein bisschen Geld verdient.Mit Raubkopien? Mit Raubkopienverkauf, ja.
Linus Neumann
CDs gebrannt oder was? CDs.
Tim Pritlove
Floppy Discs kopiert. Da stand man noch in so einem Computerladen und hat dafürgesorgt, dass die Leute an Software rankamen, weil es gab ja kaum welche zu kaufen.Es war ja im Prinzip auch eine Dienstleistung an der Allgemeinheit und dannkamen halt irgendwelche Familienväter,die gerade ihren Kindern Computer gekauft haben und jetzt sozusagen die Attraktivitätdieses Kaufs natürlich auch unterfüttern möchten und nach Spielen gesucht haben,aber es gab ja irgendwie kaum welche.Und dann gab's halt so die Local Kids, zu denen ich dann gehörte und wir hingendann halt so in diesen Läden rum und dann kamen so die Väter da rein und habendann gerne mal einen Zehner dagelassen.
Linus Neumann
Und dann habt ihr, psst, ey, willst du ein Game kaufen? Der wears Tim.
Tim Pritlove
Also ich war da nicht besonders, wie soll ich sagen.
Linus Neumann
Ungefähr, sagen wir mal so, du warst wahrscheinlich so, deine Obstsäcke warenso, wie die von den Drogenhändlern im Görlitzer Pfarrhaus.
Tim Pritlove
Hey.
Linus Neumann
Da kommt einer. Hey, willst du was kaufen?
Tim Pritlove
Der Verfolgungsdruck war damals noch relativ gering und wie soll ich sagen,es gab ja sozusagen auch kaum Angebot. Das war so ein bisschen wie mit den EarlyDays, mit MP3s tauschen, wo es einfach gar keine Online-Stores gab.Also es war ja einfach gar nicht möglich, an diese Software heranzukommen.Ich habe das jetzt auch nicht so forciert, ich gehöre nämlich zu den Leuten,die das jetzt maximal ausgenutzt haben, aber es hat stattgefunden in gewisser Hinsicht.
Linus Neumann
Also mit anderen Worten, wir wissen dann schon, wer da demnächst in den Stores ist.
Tim Pritlove
Gut, dann würde ich sagen, beenden wir mal die Runde für heute.Leute, vielen Dank fürs Zuhören und wir sagen Tschüss jetzt oder nicht.
Linus Neumann
Ja, du musst ja deine Musik da anmachen, dass ich da noch reinquatschen kann.
Tim Pritlove
Mach ich ja, mach ich extra für dich. Jetzt kannst du was Schönes sagen.Hast du noch einen letzten Wunsch?
Linus Neumann
Nee.
Tim Pritlove
Okay, dann wünschen wir euch ein schönes Wochenende oder was auch immer für.Ein Tag vor euch liegt. Bis dann.

Shownotes

Feedback

Sand

Teppich

UK Post Office Skandal

Ungarn

Funkzellenabfrage

Rohrpost

Hackerparagraph

Keine weitere Amtszeit für Ulrich Kelber

Apple: neue AppStore-Regeln für die EU

Digital Services Act

Künast vs Facebook

fritz.box

Chatkontrolle

Datarade, Factori und Datastream