Khaleesi: Guten Morgen, Tim.
Tim Pritlove: Guten Morgen, Caldesi.
Tim Pritlove: Was fällt dir da eigentlich zur Innovation ein?
Tim Pritlove: Die Logbuchnetzpolitik Nummer 450 vom 12. Januar 2020.
Khaleesi: Heute ist Freitag der 13.
Khaleesi: Oh!
Tim Pritlove: Oh, echt? Stimmt. Freitag der 13. 2023. Okay. Das fängt ja gut an. Mal gucken, wie das so läuft.
Khaleesi: Ja!
Khaleesi: Das sind also diese goldenen Zwanziger.
Tim Pritlove: Ja, hallo, Linus ist nicht da heute, weil der kann nicht.
Khaleesi: Ja und deswegen haben wir passend zum Freitag den 13.
Khaleesi: Sind ein Pech und müssen mit mir Vorlieb nehmen.
Tim Pritlove: Es könnte schlimmeres geben. Es könnte schlimmeres geben. Ja, finde ich super, du springst ein, bist ja nicht das erste Mal da, sondern das dritte Mal. Wenn ich das richtig in Erinnerung habe,
Tim Pritlove: habe ich das richtig in Erinnerung? Das ist korrekt. Okay, super. Mal gucken. Immerhin.
Khaleesi: Das ist korrekt.
Tim Pritlove: Einmal war ich schon korrekt, wir notieren das mal.
Tim Pritlove: Man liegt ja nicht immer so ganz richtig mit den Voraussagen. Aber die goldenen Zwanziger sind auf jeden Fall fest gebucht, Leute.
Tim Pritlove: Der Glaube versetzt Berge und man muss auch einfach ein bisschen durchhalten.
Tim Pritlove: Die letzten goldenen Zwanziger haben auch ein bisschen auf sich warten lassen in der Dekade.
Khaleesi: Könnte man so sehen, ja.
Tim Pritlove: Ja, also so schlimm, also es kann ja immer noch schlimmer kommen. aber dann halt erst in 30 Jahren.
Khaleesi: Davon bin ich ja schon noch zum Glück weit entfernt.
Khaleesi: Ja, ich glaube, dass es auch als insbesondere Netzpolitik und Privacy-Aktivist keiner Veranstaltung.
Tim Pritlove: Ja, die Innovation, das ist echt so eine Sache mit der Innovation. Deutschland, also du warst noch nie auf der CES, nehme ich mal an, ich auch nicht.
Khaleesi: Bei der man dabei gewesen sein muss.
Tim Pritlove: Ne, definitiv nicht. Die Rede ist von der Consumer Electronics Show, einer Fachmesse für Unterhaltungselektronik und genau so kommt es auch immer wieder rüber. Und das,
Tim Pritlove: ist so ein bisschen so eine Blah Blah Blah Messe habe ich immer so den Eindruck.
Khaleesi: Ja, da werden die Technologien vorgestellt, mit denen wir uns dann rumschlagen müssen die für Politiker einordnen und erklären müssen und auch erklären müssen, warum es eine blöde Idee ist vor allem.
Tim Pritlove: Ja, das ist so ein bisschen wie... Ich würde sagen, das deutsche Äquivalent dazu ist die IFA.
Tim Pritlove: Was mal auf einer IFA? Das ist auch ganz schlimm. Hallen voll mit Fernsehern. Und jedes Jahr grübeln sie darüber nach, mit welchem Slogan man jetzt sozusagen das langweilige Produkt Fernseher neu verkaufen kann.
Tim Pritlove: Dann ist es 3D, ja, was auch immer, 3D, ich meine 3D Fernseher hat sich einfach mal null durchgesetzt, wie auch sonst eigentlich nur irgendwo, dann ist es wieder keine Ahnung,
Tim Pritlove: irgendwie jetzt 8K, gibt immer noch kein 4K Content, aber man muss sich jetzt schon ein 8K Fernseher kaufen und all so ein Quatsch.
Tim Pritlove: Und so ist es, glaube ich, bei dieser CES auch. Auf jeden Fall hat die CES festgestellt, dass die richtig geile Innovationen in Deutschland passieren.
Khaleesi: Volker Wissing ist ja auch die beste Innovation, die wir seit langem hatten.
Tim Pritlove: Deswegen haben wir den auch gleich hingeschickt.
Tim Pritlove: Und der hat da wirklich einen Preis bekommen für Innovation.
Tim Pritlove: Was denn eigentlich? Was war der Grund? Der Grund war Innovation, die aus Deutschland kommt, die von amerikanischen Unternehmen, aber dort auf der CES präsentiert wird, weil das ist eigentlich im Wesentlichen so eine lokale Geschichte.
Tim Pritlove: Also sicherlich auch in gewisser Hinsicht ein bisschen global, aber es ist halt sehr US zentriert, weil es geht ja um die Konsumer. Und das muss ich nochmal kurz nachschlagen.
Tim Pritlove: Was war der Grund? Das war so ein Beispiel, interessant. Aber irgendwo war doch nochmal.
Khaleesi: Ich glaube, landwirtschaftliche Technologien.
Tim Pritlove: Hier diese, wo war denn das, das habe ich mir nicht notiert. Ah ja, genau. Für den Vergleich wurden,
Tim Pritlove: also neben der Bundesrepublik erhielten 23 andere Länder die höchste Einstufung in dem Ranking der,
Tim Pritlove: der Consumer Technology Association, dem Veranstalter der CES. Also wir sind nicht alleine, also nicht der einzige Champignon auf dem Markt.
Tim Pritlove: Und für den Vergleich werden 40 Indikatoren in 17 Kategorien gemessen, darunter Breitbandzugang, Bildungssystem, Umweltqualität, Handelspolitik und Cybersicherheit.
Khaleesi: Ja, ich weiß nicht, ob sie...
Tim Pritlove: Welche dieser Bereiche würde dir jetzt besonders einfallen, wenn es um Deutschland geht?
Khaleesi: Meinst du vielleicht, dass das eine Selbstauskunft war?
Tim Pritlove: Also im Bereich Breitbandzugang habe ich echt so meine Probleme. Bildungssystemen, Deutschland digital,
Tim Pritlove: Ich weiß jetzt nicht ganz genau, was da die Innovation sein soll.
Tim Pritlove: Umweltqualität?
Tim Pritlove: Ich weiß nicht genau, was das mit Innovationen zu tun hat. und Cyber Sicherheit. Wie sieht es mit Cyber Sicherheit aus in Deutschland?
Khaleesi: Was ist denn das, was Sie hier in der Cyber Security-Kontrolle.
Khaleesi: Mitbekommen haben? Also, ich meine, wir sind ein wirklich gutes Experimentierfeld für das Auffinden von Sicherheitslücken oder auch um Beispiele zu liefern,
Khaleesi: was man alles so falsch machen kann in der Cyber Security.
Tim Pritlove: Grüße gehen raus nach Potsdam, wo man jetzt gerade die ganze Verwaltung ausschalten müssen, weil es da aber ein Problem ist.
Khaleesi: Das ist vielleicht die Innovation. Mal wieder.
Khaleesi: Ich würde sagen, wir fangen an mit Nachrichten vom letzten Jahr und den innovativen Forschungsergebnissen.
Tim Pritlove: So viel zu Innovationen. Gucken wir mal lieber, was wir so an schlechten Nachrichten in diesem Jahr haben.
Khaleesi: Des CCC.
Tim Pritlove: Okay, was hat denn der CCC alles so schönes erforscht?
Khaleesi: Es gibt ja so innovative Technologien und ganz viele Menschen würden Gesichtserkennungssoftware
Khaleesi: und das Sammeln von biometrischen Daten und das Auswerten von biometrischen Daten dazuzählen.
Khaleesi: Wir sagen ja schon seit Langem, dass das Sammeln von biometrischen Daten und auch das Erfassen eigentlich eine tickende Zeitbombe ist.
Khaleesi: Also biometrische Daten sind relativ schwer abzuändern, wenn sie einmal erfasst wurden,
Khaleesi: und dann natürlich auch relativ eindeutig zu verwenden, um Leute zu identifizieren. Und das US-Militär konnte es aber trotzdem nicht lassen und hat sich gedacht, na ja,
Khaleesi: in einem Gebiet, in dem das sowieso schon ein ziemlich krisenhafter Zustand ist, es
Khaleesi: ist sicherlich eine total gute Idee, alle Menschen biometrisch zu erfassen. Und das
Khaleesi: ist in Afghanistan auch passiert und die wurden halt zur Identifikation von Personen genutzt,
Khaleesi: Checkpoints bei der Fahndung nach Gesuchten, aber auch für die Zugangskontrolle für Ortskräfte.
Tim Pritlove: Was ja aus einer gewissen Militärlogik heraus auch nachvollziehbar ist.
Tim Pritlove: Ich meine, in der Mangelung von gültigen Ausweissystemen und anderen Überprüfungsmaßnahmen ist das ja sozusagen das einzige was du siehst.
Khaleesi: Könnte man so sehen, ja. Aber gerade Ortskräfte sind natürlich auch besonders gefährdete
Khaleesi: Personen, gerade wenn nicht alles so gut läuft. Und das Beispiel des Afghanistan ja ganz eindeutig.
Khaleesi: Und bei dem etwas hastigen Abzug der NATO, ja, hat das US-Militär dann diese Geräte einfach mal
Khaleesi: dargelassen.
Tim Pritlove: Also wir reden im Wesentlichen von so Kamerasystemen, mit denen man halt ein Foto macht und die dann im Gerät eine Liste von biometrischen Merkmal- und Personenzuordnungen hat,
Tim Pritlove: sodass man einfach sagen kann, wer bist denn du, klack, bumm, ja guck mal hier rein. Das sind glaube ich so Teile, die sitzt man so ein bisschen auf, so 3D-Brille.
Khaleesi: Sieht so aus wie so eine große, wie so ja oder so wie beim Sehtest diese Dinge, die man sich da früher so
Khaleesi: dran gehalten hat. So kann man sich das vorstellen. Genau.
Tim Pritlove: Ja und...
Tim Pritlove: Mhm. Genau. Ihres Erkennung primär.
Khaleesi: Genau. Und die wurden halt zurückgelassen und das war ein Riesenproblem, weil die Taliban natürlich das genutzt haben, um dann halt Ortskräfte zu identifizieren, was ja auch irgendwie logisch ist als Konsequenz
Khaleesi: der ganzen Geschichte. Aber es geht noch weiter. Sie haben nicht nur diese Geräte dort zurückgelassen, sondern die sind dann auch auf den gängigen,
Khaleesi: Onlinehandelsplattformen auf einmal aufgetaucht. Und ein kleines Team aus CCC-Kreisen unter der Leitung von Kantorkl.
Khaleesi: Zusammen mit Snoopy und Starbuck, hat sich dann mal so ein paar Gräte besorgt.
Khaleesi: Und das war ziemlich schockierend, was die da vorgefunden haben. Wer das im Detail sich anhören will, es gibt einen Vortrag dazu, den verlinken wir euch auch in den Show Notes.
Khaleesi: Aber um es ganz kurz zu machen, man konnte mit einem Standardpasswort,
Khaleesi: was in der Dokumentation zu den Geräten zu finden ist, auf die gesamten Daten des Gerätes zugreifen.
Khaleesi: Das, was diese Gruppe dort gefunden hat, waren 2632 Personen,
Khaleesi: und deren hochsensible biometrische Daten.
Khaleesi: Und das zeigt ganz offensichtlich, dass das US-Militär, aber auch die Bundeswehr, die
Khaleesi: übrigens in Unterstützungseinsätzen auch diese Geräte benutzt hat, ein sehr lückenhaftes,
Khaleesi: Risikobewusstsein für die Problematik und die Sensibilität von biometrischen Daten.
Khaleesi: Hat. Und man muss auch hier nochmal sagen, es ist immer eine Frage der Zeit bei solchen Biometriedatenbanken,
Khaleesi: bis die für irgendwelche illegitimen Interessen eingesetzt werden. Und das wird wahrscheinlich auch in Zukunft öfter mal passieren,
Khaleesi: dass wenn irgendwelche Firmen Biometriedaten sammeln für irgendwelche Trainingszwecke,
Khaleesi: dass die dann auch mal verloren gehen. Und das ist echt gefährlich, um es ganz kurz zu machen.
Tim Pritlove: Genau, und das ist das Problem. Man ist natürlich jetzt auch ein technisch schlecht gelöstes Problem, weil klar.
Tim Pritlove: Die Geräte sind natürlich alle lokal mit diesen Datenbanken ausgestattet, weil man kann nicht davon ausgehen, dass man irgendwie auf irgendein Internet zugreifen kann, was ja dann sowieso nochmal ein anderes Problem hat.
Tim Pritlove: Das heißt, man lädt quasi immer aktualisierte Personenlisten in die Geräte rein, die dann halt ihre Scan machen, keine Ahnung, ob die noch andere Faktoren sich angeschaut haben, aber ich glaube, es ging hier,
Tim Pritlove: primär um ihre Scan. So, die ist ja ausreichend eindeutig. Dann matcht man das halt auf diese,
Tim Pritlove: Person und diese Zuordnung mit den biometrischen Merkmalen liegt da halt drauf. So, und dann werden
Tim Pritlove: diese Geräte halt so zurückgelassen und niemand denkt darüber nach, dass da auch noch Daten drauf
Tim Pritlove: Es wäre ja jetzt nicht so schwierig, da so einen Knopf anzubringen. Wenn man den zehn Sekunden lang drückt, dann wird irgendein interner Schlüssel weggeworfen und alle Daten sind sozusagen gelöscht.
Tim Pritlove: Also entweder gibt es diesen Knopf nicht oder keiner hat ihn gedrückt.
Tim Pritlove: Das ist also entweder eine Frage, ist die Technik für solche kritischen Situationen geeignet, um eben nicht noch Schaden im Nachgang zu erzeugen oder waren die,
Tim Pritlove: Möglichkeiten technisch da, aber sind dann organisatorisch nicht genutzt worden,
Tim Pritlove: weil es ihnen einfach zu schnell ging mit dem ganzen Kram. Naja, die Geräte sind halt jetzt auf eBay zu kaufen.
Tim Pritlove: Da hat der Club die halt auch gefunden und sich angeschaut und 2632 Personen gefunden. Und das sind ja dann alles Personen, die eben mit dem Militär zusammenge- also,
Tim Pritlove: nicht alle vielleicht, vielleicht wollten sie auch noch andere Leute erkennen, aber
Tim Pritlove: vor allem, was sie ja gesagt haben, durch die Kontrolle, wer darf denn überhaupt Zugang
Tim Pritlove: haben zu einem militärischen Bereich, sondern halt dann im Prinzip sind es sozusagen Kollaborationslisten.
Tim Pritlove: Das heißt, wenn jetzt die Taliban mit diesen Geräten durch die Gegend laufen, können sie halt die Leute eindeutig identifizieren. Oder zumindest können sie identifizieren,
Tim Pritlove: ja nicht welche Metadaten dann auch angezeigt werden, aber wahrscheinlich wenn da eh alle Daten drauf sind, dann wird ja auch grün oder rot auch noch mitzusehen sein.
Khaleesi: Ja, und vor allen Dingen, weil die auch an Checkpoints eingesetzt wurden,
Khaleesi: kann man wahrscheinlich auch noch relativ gut nachverfolgen, wo die Personen sich bewegt haben. Also anhand der Location der Geräte und ob sie da drin sind oder nicht.
Khaleesi: Und von daher ist es auch problematisch, auch vor dem Hintergrund, dass diese ganzen, ich sag mal, Rettungsaktionen von Ortskräften auch nicht besonders gut laufen.
Khaleesi: Und ja, braucht man eigentlich nichts mehr zu sagen, außer biometrische Daten sammeln
Khaleesi: ist wirklich, wirklich immer eine sehr heikle Geschichte, die in der Regel dafür sorgt.
Khaleesi: Dass Leute gefährdet werden. Also das Sammeln von biometrischen Daten ist irgendwie immer ein Riesenthema und total problematisch.
Khaleesi: In dieser Afghanistan-Geschichte hat sich das ganz besonders gezeigt.
Khaleesi: Aber das ist auch eine Geschichte von 2022 noch gewesen. Also der Dezember hat auch nicht besonders rühmlich geendet.
Khaleesi: Da ist ein Projekt bekannt geworden der University of North Carolina.
Khaleesi: Im Rahmen von diesem Projekt haben Forscherinnen ein Datenset von biometrischen Daten zusammengestellt,
Khaleesi: was sie aus YouTube-Videos gescraped haben, von Transpersonen in ihrer Transition,
Khaleesi: das heißt während der Hormontherapie, und die Veränderungen in den biometrischen Daten festzuhalten,
Khaleesi: um Menschen zuverlässig in ihrer Transition anhand ihrer biometrischen Daten erkennen
Khaleesi: zu können. Und das ist aus ganz, ganz vielen unterschiedlichen Perspektiven so falsch.
Khaleesi: Also zum einen ist dieses Sammeln von den Daten passiert, ohne die Zustimmung der Menschen, die diese Videos kreiert haben, einzuholen.
Khaleesi: Zum anderen ist die Motivation dahinter gewesen, was wirklich völlig absurd ist,
Khaleesi: also das Forschungsprojekt wurde auch vom FBI finanziert, dass potenzielle Terroristinnen Hormonenpräparate einnehmen könnten, um ihre biometrischen Daten zu verändern.
Tim Pritlove: Ernsthaft?
Tim Pritlove: Okay. Und dann ...
Khaleesi: Und das ist sozusagen so dieses, wie könnte man ein irgendwie trainiertes Daten, trainierte
Khaleesi: AI täuschen? Na ja, man könnte ja Hormonpräparate einnehmen, um seine biometrischen Daten oder sein Äußeres
Khaleesi: zu verändern. Und deswegen brauchen wir jetzt ein Datenset. In diesem Moment wird es aber auch nicht mehr so schlimm.
Tim Pritlove: Das heißt, man wird jetzt schon des Terrorismus verdächtigt, wenn man 30 Tage lang hintereinander bei McDonald's gegessen hat.
Khaleesi: Ja, so könnte man das auch sehen, aber ich glaube, die Konsequenz finde ich noch viel
Khaleesi: schlimmer, weil gerade Transpersonen bei solchen, also bei Grenzübergängen und sonstigen Sachen sowieso schon sehr häufig diskriminiert werden und in vielen Ländern ja auch einfach sehr gefährdet sind.
Khaleesi: Die Gewaltbereitschaft Transpersonen gegenüber nimmt extrem zu.
Khaleesi: Und jetzt eine Software zu schaffen, die auch sehr eindeutig sagen kann,
Khaleesi: diese Person nimmt Hormone ein und ist in einem Transitionszustand, sorgt natürlich dafür, dass trans Personen noch viel mehr gefährdet werden
Khaleesi: und dass es sozusagen theoretisch eine Software gibt, die irgendwelche Regime oder sonstigeartig motivierte Personen dabei unterstützt.
Khaleesi: Leute zu erkennen und das ist halt einfach ein Risikobewusstsein. Ich meine,
Khaleesi: es ist ein wissenschaftliches Projekt gewesen, wo man sich natürlich auffragt, dass das auch ethisch überhaupt abgesegnet würde und dass es dann auch
Khaleesi: noch von FBI gefundet wird, ist natürlich wirklich schon echt hart.
Khaleesi: Also das ist wirklich, zeugt echt von Null Risikobewusstsein und auch irgendwie
Khaleesi: Nullsensibilität für dieses Thema und auch für eine Orientierung der gesamten Wissenschaft,
Khaleesi: auch um Transpersonen auch zu schützen vor allem.
Tim Pritlove: Ich meine, wenn man sich anschaut, was so in den letzten Jahren im Bereich Gesichtserkennung,
Tim Pritlove: und damit meine ich gar nicht mehr nur so Gesichtswiedererkennung, sondern überhaupt sagen wir mal das wissenschaftliche Verständnis, was man alles aus einem Gesicht heraus lesen kann.
Tim Pritlove: Ich habe mich damit nicht zu intensiv beschäftigt, aber man sieht ja immer wieder interessante Paper und so Videos, wo so, man hat dann so zehn Slider, bei dem man sozusagen alle Merkmale eines Gesichts einfach feintunen kann.
Tim Pritlove: Du kannst irgendwie ein Gesicht älter machen, du kannst ein Gesicht männlicher, weiblicher,
Tim Pritlove: machen, du kannst ein Gesicht kränker oder gesünder aussehen lassen, symmetrischer, asymmetrischer.
Tim Pritlove: Also all diese ganzen Faktoren, die dazu führen, dass eben Gesichter quasi komplett gemorft
Tim Pritlove: werden von einem Gemützustand auch in den anderen, also optimistischerer Blick, depressiver Blick, also all diese ganzen Faktoren sind mittlerweile bekannt.
Tim Pritlove: Das ist sozusagen nichts Besonderes und man sieht das ja auch bei diesen ganzen Fake-Videos,
Tim Pritlove: dass man ja mühelos von einem Videobild auf ein erzeugtes Videobild die Optik des Gesichts ändern kann, aber dabei eben sozusagen alle Elemente, auf die es einen in dem Moment ankommt,
Tim Pritlove: erhalten bzw. dann eben auch feintunen kann. Und das muss man uns irgendwie auch klarmachen,
Tim Pritlove: dass diese ganze biometrische Erfassung mehr oder weniger ein Abfallprodukt jetzt sein wird unserer ubiquitär vorhandenen Bilderflut von Menschen. Es gibt ja kaum noch Leute, die nicht irgendwie
Tim Pritlove: massig Bilder von sich erzeugen, einfach weil jeder Smartphone in der Hand tatsächlich,
Tim Pritlove: gemacht werden. Vielleicht nicht jeder postet, uns gibt natürlich auch ein paar Leute, die da ein bisschen zurückhaltender sind, aber wir sehen ja auch, wie viele Leute da überhaupt,
Tim Pritlove: nicht zurückhaltend sind. Und da das eben alles in der Öffentlichkeit ist, wird es eben auch alles gescannt werden. Und die eigentliche Frage ist halt jetzt, wenn man sozusagen diese Datenflut jetzt,
Tim Pritlove: noch hat und die Erfassung sozusagen so einfach ist, was kann man jetzt noch regulieren, was kann kann man jetzt noch überhaupt verbessern.
Khaleesi: Naja, und ich glaube, man muss halt auch einfach ganz grundsätzlich darüber sprechen, ob man diese
Khaleesi: Technologien auch teilweise überhaupt bauen will. Also, weil es halt wirklich häufig halt dramatische Konsequenzen hat und auch wirklich viel Raum für Missbrauch einfach da ist. Und ich glaube,
Khaleesi: das ist einfach so ein Thema, wo man so ganz generell darüber sprechen sollte. Also, unabhängig davon, ob Bilder online verfügbar sind, wie jetzt bei diesen Transpersonen, wo man sagen könnte, naja,
Khaleesi: ihr habt das halt online auf YouTube gestellt, deswegen konnten wir es halt scrapen. Es ist halt immer was anderes, ob du es halt auf YouTube gestellt hast oder ob du eine wirklich eine,
Khaleesi: konzentrierte Sammlung der Sachen hast, wo dann drauf steht, hier sind übrigens X drin, weil dann können natürlich Leute darauf zugreifen und sagen, okay, dann machen wir jetzt mal daraus irgendwie ein Erkennungssystem.
Tim Pritlove: Klar, das ist eine ethische Frage, aber man weiß auch, dass es einfach passieren wird.
Khaleesi: Ja, natürlich, aber ich glaube trotzdem sollte man trotzdem ab und an mal so die Frage stellen, so wollen wir das überhaupt und dann hat natürlich auch
Khaleesi: unter welchen Bedingungen. Das ist eigentlich eine schöne Überleitung. Es gibt ja auf EU-Eben
Khaleesi: zum Beispiel die Bestrebung, ein AI-Act zu schaffen, also eine Regulierung, die regeln soll,
Khaleesi: wie künstliche Intelligenz gebaut wird, verwendet werden darf und so weiter, Einstufung vornimmt,
Khaleesi: was auch so Hochrisiko AI-Anwendung angeht und welche besonderen Auflagen dann dafür gelten.
Khaleesi: Wir hatten große Hoffnung, dass dies auch schaffen, dieses ganze Thema,
Khaleesi: biometrische Massenüberwachung und Gesichtserkennung auch im Rahmen vom AI,
Khaleesi: Act zu regeln. Im Koalitionsvertrag hat man uns versprochen, dass.
Khaleesi: Biometrische Erfassung im öffentlichen Raum bei flächendeckender Videoüberwachung,
Khaleesi: nicht passieren wird und verhindert werden wird und dass weiterhin ein Recht auf Anonymität im öffentlichen Raum gewahrt werden soll und,
Khaleesi: dementsprechend hatte man natürlich auch gehofft, dass sich die Bundesregierung entsprechend im Rat einsetzt gegen biometrische Massenüberwachung und die,
Khaleesi: Bundesregierung ist wieder mal die Bundesregierung und wir treffen mal wieder Volker Wissing, der im Ministerrat dieses Gesetz mit beraten hat. Und die,
Khaleesi: Bundesregierung ist zwar gegen biometrische Massenüberwachung, aber halt nicht so richtig. Und zwar ist rausgekommen, dass das, was jetzt
Khaleesi: abgestimmt wurde im Rat sozusagen nachträgliche Analysen mit biometrischen Daten erlaubt. Das heißt, wenn ich ein Überwachungsvideo aufgenommen habe, darf,
Khaleesi: ich zwar nicht live die Gesichter analysieren und mappen und identifizieren, aber wenn ich ein Überwachungsvideo habe, darf ich eine Software im Nachhinein darüber laufen lassen und mithilfe
Khaleesi: von biometrischen Daten die Personen, die daran beteiligt waren oder in der Situation waren,
Khaleesi: identifizieren. Was halt nicht so wirklich...
Tim Pritlove: Eine Einschränkung ist.
Khaleesi: Nein, also...
Tim Pritlove: Nein. Vor allem dann hat man auch noch mehr Zeit. Also live wäre ja schwierig, aber so danach ist einfacher, weil dann hat man ja sozusagen alle Ruhe der Zeit und Computing Power, um das dann machen zu können.
Khaleesi: Ja, und das ist dann wahrscheinlich auch so, wahrscheinlich wird es dann das nächste,
Khaleesi: was dann die Sicherheitsmenschen sagen, ist dann so, ja, dann müssen wir jetzt auch Überwachungsvideo, Vorratsdaten speichern, weil es könnte ja sein, dass gegeben dem Fall, dass vielleicht ja doch was passiert ist, wir dann da Software drüber laufen lassen.
Khaleesi: Also das ist insgesamt sehr, sehr enttäuschend gewesen, was die Bundesregierung da abgeliefert hat.
Khaleesi: Wir gehen jetzt sozusagen, also das war die Abstimmung im Ministerinnenrat, und im Frühjahr geht es dann in den wohlbekannten Trilog, also wo das Gesetz dann zwischen Kommission, Parlament und Rat ausgehandelt wird.
Tim Pritlove: Was war denn die Position vom Parlament?
Khaleesi: Ich weiß gar nicht, ob die schon stattgefunden hat. Ich meine nämlich nicht.
Tim Pritlove: Also es muss ja eine Position des Parlaments geben, bevor es zum Trilog kommen kann.
Khaleesi: Ja, aber Frühjahr ist ja noch ein bisschen hin.
Tim Pritlove: Ja, okay, gut, kann sein.
Khaleesi: Also das kann ich dir nicht sagen, wie das da genau aussieht.
Tim Pritlove: Aber du hast einen guten Punkt genannt, Vorratsdatenspeicherung. Ich finde mal gar nicht so sehr, dass das jetzt hier nur ein passender Vergleich ist, das auch, sondern das kann sehr gut sein, dass das eigentlich auch mal genau darunter fällt.
Tim Pritlove: Weil das ist es ja. Das ist Daten auf Vorrat sozusagen. Also alles erstmal filmen,
Tim Pritlove: um dann später das in Ruhe auswerten zu können. Das heißt, hier müssten im Prinzip dieselben
Tim Pritlove: Diskussionsansätze drangestellt werden, ja so Quick Freeze-mäßig. Also das ist das Problem,
Tim Pritlove: also Videoaufzeichnung, das wird halt dann gemacht überall. Bezog sich das jetzt eigentlich auf,
Tim Pritlove: alle private auch oder nicht? Okay, also privat ist sozusagen nochmal ein anderes Problem, ob.
Khaleesi: Es ging konkret um Videoüberwachung im öffentlichen Raum.
Tim Pritlove: Man das dann darf und das würde ich halt meinen, das sollte dann eben genauso verboten werden,
Tim Pritlove: aber natürlich auch gerade was den öffentlichen Raum betrifft. Das heißt ja, dass man Vorratsdaten anlegt im öffentlichen Raum. So, also eigentlich noch krasser als das jetzt im Telekommunikationsbereich,
Tim Pritlove: Bereich ist, weil dem kann man sich ja in gewisser Hinsicht noch entziehen.
Tim Pritlove: Das ist auch ziemlich schwierig, aber im öffentlichen Raum will man sich ja eigentlich unbeobachtet,
Tim Pritlove: bewegen können. Und wenn halt klar ist, dass jede Kamera, die irgendwo was aufzeichnet, das dann lange
Tim Pritlove: vorhält und dann wird im Zweifelsfall halt da nachgeschlagen, dann erlaubt das dann eben
Tim Pritlove: wieder genau diese Bilder oder Abbilder zu schaffen, dass man halt Bewegungsanalysen nachträglich machen kann. Ich verstehe natürlich, was hier die Argumentation ist.
Tim Pritlove: Die Argumentation ist, ja, jetzt haben wir diesen Platz überwacht und dann Terroranschlag und dann wollen wir halt irgendwie den Terroristen fangen. Und das wäre doch mal schön, wenn man da irgendwie Gesichtserkennung drüber laufen lassen könnte. Das ist sozusagen immer das Ding. Aber die Frage ist, was ist dann eben das Missbrauchspotenzial? Und wie,
Tim Pritlove: wir das ja eben so schön gesehen haben bei diesen militärischen Geräten in Afghanistan, wenn die Daten halt erstmal rumliegen und wenn die Anwendung von solcher Auswertungssoftware einfach ist und das wird es in zunehmendem Maße sein wie eben Clearview.
Tim Pritlove: Dann muss zumindest auch klar sein, dass es sich hierbei um eine Rechtsverletzung handelt,
Tim Pritlove: weil wenn es das nicht ist, dann ist sozusagen der Missbrauch dieser Daten natürlich Tür und Tor
Tim Pritlove: geöffnet.
Khaleesi: Man muss auch sagen, auch bei sehr vielen Argumenten, die die Sicherheitsbehörden anbringen,
Khaleesi: muss man auch häufig sagen, dass viele Sachen, es gibt ungefähr noch so 20 Schritte in der Ermittlungsarbeit, die man tun könnte, bevor man zu solchen Maßnahmen greifen muss.
Khaleesi: Da gibt es auch sehr interessante Studien zu, wie zum Beispiel, gerade wenn wir über Touristinnen sprechen, wie sich das entwickelt und dass zum Beispiel viele,
Khaleesi: terroristisch motivierte Taten entstehen. Und bevor sie entstehen, die Täterinnen, und da meisten sind es ja Täter,
Khaleesi: häufig zum Beispiel gewalttätig ihren PartnerInnen gegenüber sind oder ähnliches. Also da gibt es sehr viele Indikatoren, die auch sozusagen.
Khaleesi: Bereits schon Auffälligkeiten sind, wo man halt schon frühzeitig intervenieren kann,
Khaleesi: ohne dass man überhaupt irgendeine Form von Massenüberwachung braucht, um dem nachzugehen. Aber das mal nur so am Rande.
Khaleesi: Also das ist auch in unserer Chat-Kontrollendebatte immer wieder Thema. Wie erkennt man eigentlich solche Taten und Täter?
Khaleesi: Und das ist halt ein Thema. Und ich glaube, was auch interessant ist, einfach zu sagen, es gibt keine Erfassung,
Khaleesi: also es gibt keine Datenbasis von Straferfolgungsbehörden dazu, wann Ermittlungen an fehlenden Daten gescheitert sind.
Khaleesi: Also die sagen immer, wir brauchen mehr Daten, aber sie können nicht sagen, wir konnten,
Khaleesi: Ermittlungen X nicht zu Ende führen, weil das Datum gefehlt hat sozusagen.
Khaleesi: Also das ist nicht belegt, das ist jetzt nicht in der Statistik erfasst.
Tim Pritlove: Also behauptet wird es, aber es ist sozusagen nicht belegt.
Khaleesi: Genau, also es ist irgendwie immer so ein Bauchgefühl und das Bauchgefühl sagt einem.
Tim Pritlove: Geschweige denn, dass man mal Studien dazu gemacht hätte.
Khaleesi: Dass mehr Kompetenzen mehr gut sind.
Tim Pritlove: Mehr Kompetenz, mehr gut. So sieht's aus. Gut, kommen wir mal zu einem anderen Problem, das gerade sehr präsent ist, nämlich das,
Tim Pritlove: Problem der Content Moderation. Und da müssen wir natürlich jetzt vor allem mal wieder über
Tim Pritlove: unsere Freunde reden, die Social Networks, vor allem Twitter. Weil Elon Musk, seitdem er da
Tim Pritlove: irgendwie mit einem wilden Besen rumkehrt, vor allem nicht nur, aber vor allem auch die Leute rausgeschmissen hat, die halt Content Moderation machen in einzelnen Ländern. Ich weiß nicht, gibt es überhaupt noch welche?
Khaleesi: Also ich glaube, in Brasilien sind fast alle rausgeschmissen aus dem Content Moderation Team.
Khaleesi: Und das ist natürlich besonders interessant. Irgendwie fühlt sich ja 2023 an wie die Wiederkehr. Und also für den Kontext in Brasilien wurden diverse Regierungsgebäude gestürmt und das wurde natürlich, wie so häufig, auch über Telegram zum Beispiel organisiert, aber auch über andere Kanäle.
Tim Pritlove: Die Wiederkehr von 21. Wiederkehr.
Khaleesi: Und im Zusammenhang mit dieser Content-Moderation-Geschichte und Twitter,
Khaleesi: hat man auch irgendwie schon den ersten Punkt von Problemen von Content-Moderation, weil Content-Moderation ist super komplex und hängt sehr davon ab, ob den Content-Moderatoren
Khaleesi: die Probleme, die Debatte, der Slang, was auch immer in den Ländern bekannt ist, in dem sie den Content moderieren. Und dementsprechend wird ja dann auch
Khaleesi: Meldungen nachgegangen. Und bei Twitter liegt natürlich jetzt die Vermutung nahe, dass dadurch, dass das Content-Moderation-Team in Brasilien de facto nicht vorhanden ist,
Khaleesi: konnte Twitter einfach in diesem Momentum gar nicht angemessen auf diesen Sturm der
Khaleesi: Regierungsgebäude reagieren. So, das vielleicht einmal zu der Brasilien-Geschichte.
Tim Pritlove: Mhm.
Tim Pritlove: Wobei es jetzt auch nicht nur Twitter eine Rolle gespielt hat, sondern da geht es um,
Tim Pritlove: Telegram, da geht es um Facebook, da geht es im Prinzip um alle Chatlines, also da kam ja alles zum Einsatz.
Tim Pritlove: Und Facebook hat zwar gesagt, wir waren da auch irgendwie schon im Vorfeld dabei, aber am Ende war es eigentlich auf allen Plattformen möglich, diese Informationen zu bekommen.
Tim Pritlove: Und das hat sich ja irgendwie über Wochen aufgebaut und das war ja im Prinzip so ein 6. Januar recreated vom ganzen Playbook her und haben wir dann alle gesehen,
Tim Pritlove: irgendwie Busladungen von irgendwie merkwürdigen Leuten sind dort aufgetaucht
Tim Pritlove: und haben dann halt irgendwie erst mal so in Polizeibegleitung, also die Polizei hat die dann da so hinbegleitet und teilweise noch, also sich nicht unbedingt aktiv daran
Tim Pritlove: gehindert und dann sind die halt irgendwie so auf die Regierungsgebäude losgegangen, haben dann Oscar Niemeyers preisgeprügte Architektur erst mal entglast. Immerhin wurden sie danach auch noch in großen Mengen festgenommen. Das hat ja irgendwie in den USA nicht so gut funktioniert.
Tim Pritlove: Aber das Ganze lässt natürlich jetzt irgendwie drauf blicken, wie ist es denn eigentlich mit dieser ganzen Content Moderation. Wenn man mal bei Facebook schaut, also bei Facebook gibt es jetzt,
Tim Pritlove: gerade den Fall, dass die Firma, die für Facebook in Schwarzafrika die Moderation gemacht hat.
Tim Pritlove: Das ist sozusagen outgesourced, obwohl es sich dabei auch um ein amerikanisches Unternehmen halt handelt, aber die haben dann irgendwie in Kenia, glaube ich, ein Team gehabt, die sozusagen für das Afrikanische, also alles was sozusagen südlich der Sahara ist, für all diese Länder,
Tim Pritlove: die Moderation gemacht haben. Und das Unternehmen stand wohl auch ohnehin schon unter Druck,
Tim Pritlove: weil so die Arbeitsbedingungen wohl nicht die besten waren, die Bezahlungen wohl auch nicht.
Tim Pritlove: Da ist die Rede von irgendwie so zwei Dollar die Stunde und so was in der Größenordnung. Und Mitarbeiter, die dort gearbeitet haben, haben wohl so diese Tätigkeit wesentlichen als psychische Folter beschrieben. Ich weiß nicht, ob das jetzt sozusagen sich ausschließlich auf die,
Tim Pritlove: inhaltliche Arbeit bezieht oder auf die Arbeitsbedingungen in diesem Unternehmen dann auch noch zusätzlich.
Tim Pritlove: Aber das kennt man ja, das im Prinzip, ich meine, Kotet Bollereysch, musst du dir mal vorstellen,
Tim Pritlove: was du da für einen Scheiß zu sehen bekommst.
Khaleesi: Ja, und ich glaube, was halt auch, es wird halt massiv unterschätzt.
Khaleesi: Also es kommt auch immer auf die Firma drauf an, wie das geregelt ist,
Khaleesi: wie Contentmoderatorinnen bezahlt werden. Häufig werden die auch auf Basis darauf bezahlt, wie viel Content sie moderieren. Und das Problem, was du hier hast, ist halt einfach Facebook und Co benutzen natürlich irgendwie künstliche Intelligenz, um das irgendwie.
Tim Pritlove: Moderieren.
Khaleesi: Um halt ihre Seiten nach bestimmten Content und bestimmten Stichworten durchzukämmen
Khaleesi: und irgendwie Hasskommentaren und so weiter. Und dann kommen natürlich noch die Meldungen dazu. Und dann hast du halt unterbezahlte Content-Moderatorinnen,
Khaleesi: die zum Beispiel ja auch keine psychische Betreuung bekommen für dieses ganze Zeug, was sie sich da antun müssen, die davon abhängig sind, dass sie möglichst viel auch irgendwie schaffen.
Khaleesi: Das heißt irgendwie, ich finde Hasskommentare lesen manchmal schon sehr
Khaleesi: belastend und jetzt stell dir vor jemand hat dich an deinen Rechner gefesselt und du musst nur Hasskommentare lesen und musst es auch einschätzen, ob das jetzt,
Khaleesi: problematisch ist oder eher nicht so problematisch. Also das ist wirklich wahnsinnig, eine wahnsinnige Arbeit, die die Menschen da leisten und das,
Khaleesi: benötigt eigentlich auch sehr viel Fingerspitzengefühl und Wissen, was ich
Khaleesi: halt vorhin auch schon meinte, über die aktuelle Situation vor Ort. Und weil wir,
Khaleesi: jetzt so Content Moderation als als das große Überthema haben, Content Moderation
Khaleesi: ist ja jetzt kein neues Thema. Also mit diesem Problem sind wir ja eigentlich,
Khaleesi: konfrontiert, seitdem es große Social Media Plattformen gibt.
Tim Pritlove: Also es hat ein bisschen gedauert, bis man das gesehen hat.
Khaleesi: Es hat ein bisschen gedauert, ja.
Tim Pritlove: Weil am Anfang war das ja alles noch ganz toll. Ja, am Anfang war das ganz toll.
Tim Pritlove: Twitter und so war ein Blumengarten. Weil sich da ja sozusagen nur die Aufgeschlossenen getummelt haben und sich kreativ haben ausüben können. und dann war man dann sehr überrascht, als die Leute dann irgendwann böse wurden.
Khaleesi: Ja, und ich glaube, das ist ja auch so eine Historie, wo man viel gelernt hat, wie man
Khaleesi: sozusagen, welchen Content man bloggt und basierend auf welchen Sachen. Also dass halt sozusagen zum Beispiel es nicht sinnvoll ist, wenn nur das amerikanische,
Khaleesi: Headquarter sagt, das ist gut, das ist schlecht, das ist gut, das ist schlecht.
Khaleesi: Am besten noch den übersetzten Content von einer möglichst weit weg befindlichen Location zu moderieren,
Khaleesi: und überhaupt keinen Kontext zu haben. Also Contentmoderation funktioniert halt immer nur mit Kontextualisierung.
Tim Pritlove: Superlokal.
Khaleesi: Ja, also das ist halt wirklich ein Thema und alle Versuche auch das komplett mit künstlicher Intelligenz zu lösen, lösen, führen halt auch einfach zu massiven Overblocking von Sachen. Also das ist auch eine,
Khaleesi: Problematik, die sehr wohl bekannt ist und auch eine große Sorge. Ich war vor ein paar Wochen gerade
Khaleesi: in Wien bei der OSZE, wo es wirklich um dieses Thema ging, halt AI-basierte Content Moderation
Khaleesi: Tools und ihre Gefahr für Freedom of
Khaleesi: Expression, aber auch Freedom of the Media. Und,
Khaleesi: da ist auch wirklich eine große Sorge da, dass es halt auch einfach gefährlich
Khaleesi: werden kann, wenn man halt einfach irgendwie verstichwortete Sachen hat, aber auch
Khaleesi: zum Beispiel viele Dinge von irgendwelchen,
Khaleesi: Demos, die auch irgendwie, wo auch Gewalt im Spiel ist, da kann es natürlich auch
Khaleesi: sein, dass solche automatisierten Content-Moderation Tools erstmal
Khaleesi: anspringen und dann diese ganze Dokumentation von dem, was da passiert,
Khaleesi: einfach erstmal weg ist, was halt auch ein Riesenproblem ist.
Tim Pritlove: Also es ist auf jeden Fall kein einfach zu lösendes Problem, weil wir eben auch wirklich,
Tim Pritlove: immer in diesem Spannungsfeld von auf der einen Seite möchte man nicht overblocken, aber auf der anderen Seite will man auch nicht nicht blocken.
Tim Pritlove: Also man ist ja sozusagen beides kein Idealzustand, da gibt es nicht irgendwie so, man muss unbedingt in die eine Richtung gehen, weil nur da ist es richtig, sondern wenn man halt einfach,
Tim Pritlove: zu viel verhinderst, dann schränkt es halt irgendwie ein meinungsfreiheitsschwieriges Wort geworden.
Tim Pritlove: Also das kann dann sozusagen entweder intentional oder eben zufällig legitime und vielleicht
Tim Pritlove: eben auch wichtige und überlebenswichtige Informationen unterdrücken, die man eben eigentlich sehen wollen würde oder zumindest einen Teil der Gesellschaft sehen möchte.
Tim Pritlove: Und auf der anderen Seite, wenn du sagst, ja okay, dann schrauben wir das halt wieder zurück, dann bist du in der Situation, wo dann eben wieder 80 Prozent nur noch Hate und Spam und Scam ist.
Tim Pritlove: Und da irgendwie eine goldene Mitte zu finden, ist schwierig, weil man könnte ja auch fast
Tim Pritlove: sagen, das Problem lässt sich nicht lösen, dann müssen wir also einfach die Quelle des Problems abschalten. Und das kann es ja dann auch wieder nicht sein, weil dann hätten wir überhaupt gar kein Social Media und ehrlich gesagt so schlimm Social Media ist, so richtig so ohne, wäre,
Tim Pritlove: Wird auch nix, oder?
Khaleesi: Ja, und ich glaube, man muss da dann auch irgendwie ein bisschen darüber reden, warum Menschen denken, dass so was in Ordnung ist.
Khaleesi: Also im Sinne von Hasskommentare oder Ähnliches. Und das ist dann wieder ein sehr, sehr komplexes Problem, in dem man sich da befindet.
Khaleesi: Ich glaube, was man auch nicht außer Acht lassen darf bei dieser Content-Moderationsgeschichte, ist natürlich, dass Content-Moderation derzeit von Unternehmen gemacht wird,
Khaleesi: die natürlich wirtschaftliche Interessen haben. Das heißt, die haben natürlich auch ein Interesse, sich in bestimmten Regionen zu halten.
Khaleesi: Und deswegen fällt gegebenenfalls Content-Moderation auch unterschiedlich aus.
Khaleesi: Und das ist dann auch wieder, was man dann so in Frage stellen kann. wie gut ist eigentlich, dass so eine Geschichte in der Hand von wirtschaftlichen Akteurinnen ist?
Khaleesi: Und wenn sie in der Hand von wirtschaftlichen Akteurinnen ist, müssen wir es dann nicht irgendwie enger regulieren, wie das ausfallen darf oder nicht ausfallen darf. Also zum Beispiel,
Khaleesi: dieses ganze Thema, das ist ja auch von Plattform zu Plattform sehr unterschiedlich. Was passiert
Khaleesi: eigentlich, wenn ein Kommentar gelöscht wird oder geblockt wird, gibt es dann eine angemessene,
Khaleesi: Beschwerdestelle und reagiert diese Beschwerdestelle dann auch und kann man irgendwie dem ganzen
Khaleesi: widersprechen und führt das dann auch dazu, dass zum Beispiel der Account wieder freigegeben
Khaleesi: wird oder halt auch nicht. Haben wir ja auch bei Twitter total schön gesehen, als die ganzen Journalistinnen einfach,
Khaleesi: geblockt wurden, weil sie halt kritische Berichterstattung durchgeführt haben.
Khaleesi: Und das ist halt so wieder diese ganze Problematik. Es obliegt halt dieser riesengroßen kapitalistischen Plattform,
Khaleesi: was denn dann okay ist an Spielregeln auf ihrer Plattform und was nicht. Was halt auch...
Tim Pritlove: Ich meine, die Alternative wäre ja zu sagen, man bräuchte jetzt sozusagen einen staatlichen
Tim Pritlove: Mechanismus, das zu machen. Der wird zwangsläufig, also das wird sich schon technisch nicht lösen lassen. Und außerdem will man auch genau das wiederum auch nicht, dass das jetzt so eine staatliche Hoheitsaufgabe ist.
Khaleesi: Das willst du auch nicht.
Tim Pritlove: Von daher würde ich sagen, das ist schon okay.
Tim Pritlove: Gut, man kann sich jetzt fragen, ob so ein Outsourcing okay ist oder nicht. Aber das hat, glaube ich, in diesem Zusammenhang hier auch der Berichterstattung, die wir hier aufgreifen, eher so arbeitsrechtliche Gründe und nicht per se.
Tim Pritlove: Weil die benutzen ja am Ende trotzdem die Tools von Facebook oder wem auch immer.
Tim Pritlove: Also wie schon erwähnt, also hier kommt mittlerweile, ich kann es fast nicht mehr hören, den Begriff. Also, sagen wir mal Machine Learning. Weil mit Intelligenz hat das jetzt nicht so viel zu tun, sondern das sind halt einfach
Tim Pritlove: die Software-Algorithmen, die jetzt in den letzten Jahren so erfolgreich waren, die man jetzt gemeint als künstliche Intelligenz bezeichnet, das ist halt Maschine des Lernens.
Tim Pritlove: Das heißt, man hat halt im Prinzip so permanentes Trainingsmuster, das heißt Fotos, Videos,
Tim Pritlove: Text, all das, was irgendwie klar gefleckt wird, sagen wir mal, ist hier so ein typischer Jihad-Aufruf oder was auch immer oder so typische Hasskommentare, die halt abgesetzt werden.
Tim Pritlove: Fließen die in diesen Lernprozess rein und kriegen so das Tag mit. Das sind Dinge, die wir nicht sehen wollen.
Tim Pritlove: Das heißt, die Maschine lernt dadurch immer besser, von welcher Art so eine Nachricht ist. Das ist natürlich kein kontextuelles Lernen. Das ist immer nur das ist ein, das ist ein.
Tim Pritlove: Aber das ist sozusagen kein Lernen, was in dem Kontext der Kommunikation richtig funktioniert.
Tim Pritlove: Das wäre dann sozusagen die eigentliche Intelligenz-Ebene.
Tim Pritlove: Da kommen wir sicherlich auch gleich nochmal drauf, wenn wir über Chat-GPT reden. Das ist im Prinzip genau deren Versprechen, diese Kontextualisierung dort richtig zu machen.
Tim Pritlove: Aber das sind sozusagen die Werkzeuge, mit denen die arbeiten. Trotzdem wäre es natürlich sinnvoll, nicht eine staatliche Durchführung, aber so eine staatliche Drübersicht zu haben.
Tim Pritlove: Zu haben. Also dass es sozusagen so eine Berichtspflicht gibt, dass man auch Stichproben testen kann. Diesen Content kann man nicht. Das ist so viel und schlimm noch dazu. Du,
Tim Pritlove: kannst ja nicht die komplette Arbeit, die diese Teams machen, dann auch noch überprüfen, aber es muss zumindest die Möglichkeit geben zu sagen, wir wollen jetzt hier mal stichpunktmäßig rein gehen und zeigen lassen, was wird aussortiert und was wird durchgelassen, um das sozusagen,
Tim Pritlove: überprüfen zu können.
Khaleesi: Ja, und das ist ja auch interessant. Ich glaube, das war auch schon mal Thema im Zusammenhang mit dem,
Khaleesi: deutschen Netzwerkdurchsetzungsgesetz, dass die dann vielleicht reporten, wie viele Sachen gemeldet wurden und wie viel sie runtergenommen haben und so weiter und so fort. Aber zum Beispiel wenig Daten darüber vorlagen,
Khaleesi: wie viele Sachen widerrechtlich runtergenommen wurden. Also sozusagen, im Fachschulangang sagt man ja dann
Khaleesi: gerne Overblocking. Also wenn diese Erkennungsmechanismen sowohl durch Menschen als auch durch Maschinen dazu geführt haben, dass Content geblockt,
Khaleesi: wurde, der eigentlich nicht hätte geblockt werden dürfen. Und das ist
Khaleesi: natürlich die Problematik. Also man muss da dann halt auch ein sehr fein eingestelltes Reporting hinbekommen, um das auch rechtssicher zu gestalten.
Tim Pritlove: Ja, bleibt ein schwieriges Feld die Quartet Moderation, aber es gibt eine Gruppe bei Access
Tim Pritlove: die sich mit dieser Frage generell mal auseinandergesetzt hat.
Khaleesi: Ja, genau. Es gibt ein Prinzipienpapier, das sich damit beschäftigt, wie Content- und.
Khaleesi: Plattformverwaltung in Krisensituationen aussehen kann. Ich glaube, das ist im letzten Jahr wahrscheinlich auch so sehr deutlich geworden mit dem Angriffskrieg auf die Ukraine und den vielen Falschinformationen, aber auch die Falschinformationen, die im Hinblick auf die,
Khaleesi: Corona-Krise in Umlauf gebracht wurden. Und das ist halt, wir sehr häufig in Situationen enden,
Khaleesi: wo es sehr, sehr schwierig ist, das zu differenzieren. Und auch für die Plattformen und die Situation, die sich da auch jeden Tag ergeben, immer sehr anspruchsvoll sind.
Khaleesi: Und Access Now hat mit diversen weiteren zivilgesellschaftlichen Organisationen
Khaleesi: einen Guide aufgesetzt, was dann passieren muss, damit man auch in Krisensituationen oder in Krisenzeiten grundrechtskonforme Content Moderation durchführen kann.
Khaleesi: Und da gibt es halt grundlegende Prinzipien, aber halt auch zum Beispiel,
Khaleesi: dass es bestimmte Protokolle gibt, um Szenarien zu evaluieren.
Khaleesi: Und vor allen Dingen, dass es auch eine regelmäßige Evaluierung von allen Maßnahmen gibt, auch eine Beobachtung der Situation.
Khaleesi: Um zu schauen, ob das immer noch grundrechtskonform ist
Khaleesi: oder ob jetzt gerade wirklich Overblocking stattfindet, weil das nicht mehr ins Bild passt.
Khaleesi: Das ist ein sehr aufwendiger Prozess, der sehr viel Know-how und Zeit drumrum bedeutet.
Khaleesi: Wer das im Detail interessiert, kann sich diesen Guide angucken. Ich glaube, das wird weiterhin ein sehr spannendes Thema werden.
Khaleesi: Man sieht es jetzt sehr gut an Twitter, was an Fallouts passiert, wenn Content-Moderatorinnen vermehrt rausgeschmissen werden.
Khaleesi: Und man sieht aber auch natürlich an vielen Gesetzgebungen, die sozusagen mehr Screening für zweifelhaften Content fordern, dass da auch die Personen, die diese Contentmoderation machen, müssen überhaupt nicht mitgedacht werden.
Khaleesi: Ja, und wenn wir gerade über Überwachung von Content sprechen, unser Innovations-Champion.
Tim Pritlove: Also generell auch nicht im Ausland.
Khaleesi: Deutsche Bundeswehr hat er ja auch irgendwie so ein bisschen was mit Überwachung gemacht und auch noch im Inland, was ja eigentlich überhaupt nicht deren Aufgabe war.
Khaleesi: Ja, das stimmt. Aber rechtlich ist das im Inland noch viel fragwürdiger als im Ausland.
Khaleesi: Ja, also es gibt natürlich Organisationen, die bestimmte Kritik an ihrer Arbeit nicht so gerne sehen. Unter anderem auch die Bundeswehr. Und es gab, ich glaube es war ja genau, schon 20, muss schon 2020 gewesen sein,
Khaleesi: ein Projekt, das hieß Propaganda Awareness und es ging hier um IT-gestützte
Khaleesi: Erfassung von Akteuren und Quellenlisten, die propagandistische Aktivitäten,
Khaleesi: durchführen, wohl bemerkt gegen die Bundeswehr. Und die Bundeswehr hat Maschinen, also mit Hilfe von KI, Webseiten, also wahrscheinlich einfach Schlagwort-Suche gemacht. Also ich würde tatsächlich wirklich interessieren,
Khaleesi: ob Geld für diese KI geflossen ist oder ob sie da irgendwas neues entwickelt oder gebaut haben, das wäre schon interessant. Aber genau, sie haben also nach Propaganda-Content gesucht und.
Khaleesi: Es ist nicht das erste Mal, dass so etwas passiert. Das Zentrum für politische Schönheit
Khaleesi: ist natürlich sofort aufs Radar gekommen. Die haben eine wunderschöne Aktion gemacht 2020,
Khaleesi: die hieß, wo sind die Waffen? Im Rahmen dessen haben sie einen Container vom Bundestag aufgestellt,
Khaleesi: und dazu aufgefordert, die verschwundenen Waffen im Bestand dieser Bundeswehr wieder zurückzugeben,
Khaleesi: was ich eigentlich total nett finde. Besonders lustig ist, dass sie auch sehr echtsehende Briefe an die entsprechenden Standorte der Bundeswehr geschickt haben und dazu aufgefordert haben.
Tim Pritlove: …
Khaleesi: Und ja, so sind sie auf das Radar des Projektes Propaganda Awareness geraten.
Khaleesi: Und was dann passiert ist, ist auch wirklich völlig wahnsinnig. Es gab dann wirklich ein systematisches Monitoring, also eine systematische Überwachung im Inneren,
Khaleesi: sozusagen durch die Bundeswehr, des Zentrums für politische Schönheit.
Khaleesi: Ja.
Tim Pritlove: Dürften die das überhaupt?
Khaleesi: Also der ehemalige Präsident des Bundesverfassungsgerichtes sagt, das ist rechtlich sehr, sehr fragwürdig,
Khaleesi: und greift halt auch extrem in die informationelle Selbstbestimmung ein. Also sehr offensichtlich.
Tim Pritlove: Gemeintes Hans-Jürgen Papier, der ehemalige Präsi.
Tim Pritlove: Genau, der ausreizt sich immer mal wieder und ist ein ganz kluger Kopf. Tja.
Khaleesi: Mehr Überwachung von allem ist ja irgendwie immer das Ziel.
Tim Pritlove: Dass es so etwas gibt und es so viel sich um das alles sagt. Und das ist wirklich super. Ich glaube, wir sind auch schon im Moment auch ein bisschen.
Khaleesi: Es ist irgendwie, weiß ich nicht, ich bin so desillusioniert. Also ich habe immer so das Gefühl, also ja, bei allem habe ich so das Gefühl, durch die
Khaleesi: Hintertür ist es immer dann noch mehr Überwachung.
Tim Pritlove: Bisschen mehr mit der Musik machen. Und das ist natürlich ein bisschen ein bisschen mehr überraschend, weil es wir ja auch so haben. Aber es ist natürlich ein bisschen ein bisschen ein bisschen In gewisser Hinsicht, ich denke diese Bestrebungen gab es schon immer und das einzige, was sich,
Tim Pritlove: wirklich geändert hat, ist der Preis. Überwachung im großen Stil. Wenn man mal zurückblickt in der,
Tim Pritlove: DDR, so die Stasi, das war schon so eine Organisation, die an einer sehr langen Leine,
Tim Pritlove: gehalten wurde. Dort war es quasi Staatsräson, möglichst viel Daten zu
Tim Pritlove: sammeln. Und was haben die nicht alles gesammelt? Also abgesehen davon, dass sie natürlich alles, was sich irgendwie so ohne weiteres bürokratisch einsammeln lässt und Zugriff, wo man Zugriff erhalten kann auf Einwohnerlisten etc.
Tim Pritlove: Also wer arbeitet wo etc. Das waren natürlich Informationen, die waren mehr oder weniger unmittelbar da, weil sie ohnehin Teil des Staatswissens waren und quasi für den normalen Betrieb erforderlich waren. Aber sie sind ja dann,
Tim Pritlove: auch richtig weite Wege gegangen und haben dann so von Leuten, die sie eben besonders beobachten,
Tim Pritlove: wollten, auch Geruchspromen gesammelt. Es sind ja so Geruchspromen-Archive gefunden worden,
Tim Pritlove: sodass man dann im Zweifelsfall halt auch Hunde und so weiter auf bestimmte Personen ansetzen kann.
Tim Pritlove: Das meine ich aber gerade, diese Ideen sind da. Und dass das früher so wenig getan wurde.
Khaleesi: Bringen diese Startups nicht auf Ideen.
Tim Pritlove: Ist eine reine Kostenfrage gewesen. Und jetzt sind wir halt an einem Punkt angekommen, wir sind schon lange an mehreren Punkten angekommen, wo sich diese Preise immer wieder dramatisch gesenkt haben. Erstmal das Speichern von Daten, also überhaupt so viele Daten irgendwo,
Tim Pritlove: abzulegen, war lange lange Zeit ein Problem und ist dann so Ende der 80er Jahre mit dem
Tim Pritlove: Aufkommen von großen Festplatten irgendwann auch gar kein Thema mehr gewesen. So, jetzt haben wir eben Kameras, die immer billiger werden.
Tim Pritlove: Von Speichermengen brauchen wir jetzt schon mal gar nicht mehr zu reden, da gibt es im Prinzip beliebig viel Speicher. Also wenn du irgendwie heute einen Peterbite speichern willst, dann ist das irgendwie finanzierbar.
Tim Pritlove: Das kriegst du irgendwie zusammen, zumindest wenn das Interesse an sich erstmal groß genug ist.
Tim Pritlove: Daran scheitert es am Ende nicht wirklich. Abgesehen davon, dass die Speicher ja sowieso weltweit rumliegen und man einfach nur übers Internet irgendwo verschlüsselt hinschreiben
Tim Pritlove: könnte und dann hat man diesen Speicher schon. Also die Zugriffsmöglichkeit ist da und jetzt kommen wir halt in diese nächste Problematik rein. Wir haben das jetzt mit der Gesichtserkennung jetzt schon auch diskutiert. Kameras sind billig, Algorithmen sind billig,
Tim Pritlove: dieses Machine Learning wird in zunehmendem Maße billig, sowohl was das,
Tim Pritlove: Anwenden fertiger Training Sets betrifft, also wo die Daten schon einmal durchgenudelt wurden, als auch das Trainieren selber wird in zunehmendem Maße billig. Wir werden mit Mikrofonen und anderen Sensoriken noch sehr viel mehr sehen. Unstoppable.
Khaleesi: Ja, und ich glaube, vor allen Dingen ist ja auch wirklich so Datensammeln und Information über Menschen sammeln einfach ein Geschäftsmodell.
Khaleesi: Also gerade wenn wir irgendwie so über targeted advertising oder so sprechen, ist das ein Geschäftsmodell. Und also ein Großteil der Tech-Konzerne funktioniert einfach basierend darauf, dass
Khaleesi: es extreme Datenmengen über alle möglichen Personen anhäuft und weiterverkauft und irgendwie,
Khaleesi: um alles noch weiter zu personalisieren und dass das auch irgendwie für viele Benutzerinnen,
Khaleesi: die sich da ja auch sehr machtlos einfach dem Gegenüber fühlen. Und um jetzt noch mal sozusagen den Kreis zu schließen, hätte ich fast gesagt, zu mehr Überwachungswille durch Regierungen und Co.,
Khaleesi: da ist es ja natürlich auch immer so, dass wir haben natürlich mehr Technologie und die Argumentation von von Straferfolgungsbehörden ist natürlich, Technologie macht ihren Job schwieriger,
Khaleesi: also im Sinne von kriminell können können sich besser verstecken und deswegen brauchen sie auch
Khaleesi: noch mehr Technologie, um Leute zu überwachen und da haben wir ja sozusagen, das ist ja sozusagen
Khaleesi: die Problematik, vor der wir regelmäßig stehen und dass das nicht ganz der Realität entspricht.
Khaleesi: Und sich Ermittlungsbehörden häufig auch einfach ein bisschen dumm anstellen, steht, glaube ich, auch völlig außer Frage.
Tim Pritlove: Wie die Bundeswehr zum Beispiel.
Tim Pritlove: Aber es ist doch toll, dass die Bundeswehr mit so viel moderner Innovationskraft...
Khaleesi: Meinst du vielleicht, dass sie da einen Praktikanten drauf abgesetzt haben und der dann immer das
Khaleesi: Netz durchsuchen musste?
Tim Pritlove: Ich denke, das ist der Grund, warum wir jetzt den Innovationspreis bekommen haben auf der CES. Die Bundeswehr, das musst du dir mal vorstellen, durch den innovativen Einsatz moderner Forschungs- und Aufklärungstechniken,
Tim Pritlove: wie das ja im Militär-Jargon heißt, ist es ihnen gelungen, die Existenz und Aktivität,
Tim Pritlove: einer öffentlich agierenden Künstlergruppe, die vor dem Bundestag in Bundeswehr-Tarnfarben.
Khaleesi: Das war's für heute.
Tim Pritlove: In originalen Bundeswehrschriftzügen eine Aktion durchführt, darauf zu kommen. Das ist doch Laser-Gehörne.
Tim Pritlove: Also Wahnsinn.
Khaleesi: Ich finde alles raus.
Tim Pritlove: Die finden alles raus. Das ist einfach unglaublich. Bundeswehr. Also, Hammer.
Khaleesi: Also ja, und ich glaube, das ist natürlich auch total wichtig, weil sonst wären die da nie drauf gekommen.
Tim Pritlove: Und wo sollten sie dann ihre Waffen abgeben?
Khaleesi: Ja, und woher sollten die wissen, dass das nur eine Kunstaktion ist?
Tim Pritlove: Ja, das kommt noch dazu.
Khaleesi: Also das Zentrum Politischer Schönheit ist ja sowieso gemeinhin bekannt als gefährlich.
Tim Pritlove: Gefährlich, aber jetzt halt auch der Bundeswehr bekannt. Dank künstlicher Intelligenz.
Khaleesi: Ja, ich meine, ich rede ja sonst immer über EU-Sachen. Ist dir eigentlich schon aufgefallen, dass ich noch gar nicht viel zur Chatkontrolle gesagt habe heute?
Tim Pritlove: Ja, ist mir aufgefallen. Ich mache ja auch schon immer so Striche. Für jeden 5 Minuten.
Khaleesi: Sehr gut. Aber wir haben, glaube ich, habt ihr jemals überhaupt in Logbuchnetzpolitik,
Khaleesi: überhaupt schon mal über die UN gesprochen? Das würde mich tatsächlich mal interessieren. Als solche meinst du? Ja, so generell ist das irgendwie mal Thema gewesen.
Tim Pritlove: Als solche meinst du? Gute Frage, kann schon sein. Also bestimmt über einzelne Organisationen,
Tim Pritlove: aber jetzt nicht unbedingt über die UN als solche.
Khaleesi: Ja, lass uns doch mal über die UN sprechen.
Tim Pritlove: Okay.
Khaleesi: Total überraschende Einleitung. Ich übe noch.
Khaleesi: Wir haben auf EU-Ebene ja häufig Gesetzgebungen, die sehr ärgerlich sind,
Khaleesi: aber Überraschung, nicht nur die EU kann problematische Gesetzgebung machen, auch,
Khaleesi: die UN kann problematische Gesetzgebung machen und das ist dann halt auch wirklich noch ein
Khaleesi: bisschen schlimmer, weil die UN hat rund 193 Mitgliedstaaten, das heißt, das betrifft dann,
Khaleesi: nicht nur die EU, sondern alle und diesmal, der ein oder die andere hat das vielleicht schon gesehen geht es um das UN Cybercrime Treaty.
Tim Pritlove: Das Thema der Cybercrime Convention hatte ja Thomas schon angesprochen vor zwei Sendungen, drei Sendungen.
Khaleesi: Genau. Vielleicht noch mal als Refresher. Das UN Cybercrime Treaty wird derzeit verhandelt.
Khaleesi: Es wird schon seit einem Jahr verhandelt und wird auch noch ein Jahr weiter verhandelt werden. Die Verhandlungen dazu finden in New York und in Wien statt.
Khaleesi: Und das ist tatsächlich eines der ersten Male, dass zivilgesellschaftliche Organisationen bei so einer Verhandlung mit am Tisch sitzen, unter anderem auch Epicenter Works und das ist
Khaleesi: tatsächlich diesmal ein etwas größeres Team. Tanja aus dem Team von Epicenter Works hat da auch bereits jetzt schon vorgetragen. Ich denke mal, Thomas wird auch irgendwie mal in der Zukunft
Khaleesi: mal darüber berichten, wie das eigentlich so ist, so was in der UN zu verhandeln. Das ist dann noch mal ein bisschen was anderes als in der EU. Was noch nicht so detailliert besprochen wird,
Khaleesi: es wurde es halt, also außer dass es echt problematisch werden könnte, wenn dieses
Khaleesi: Treaty so kommt, wie es gerade aussieht, was da uns eigentlich erwartet. Also grundsätzlich ist
Khaleesi: ist es halt eine Konvention zu Cybercrime. Und es soll halt geklärt werden, was Cybercrime ist,
Khaleesi: aber auch welche Instrumente genutzt werden sollen, um Cybercrime zu bekämpfen. Und derzeit
Khaleesi: gibt es so erste Entwürfe, die herumgehen und die sind noch nicht final. Wie gesagt.
Khaleesi: Die Verhandlungen gehen noch ein Jahr. Das ist mehr so eine Wunschliste der Staaten, was sie
Khaleesi: eigentlich gerne so in diesem Cybercrime-Treaty drin hätten. Und das ist ziemlich beunruhigend,
Khaleesi: was da drin steht. Also zum einen wollen sie bestimmte Tatbestände festlegen, darunter zum
Khaleesi: Beispiel den illegalen Zugriff auf Computersysteme, das illegale Abfangen
Khaleesi: von Daten, den widerrechtlichen Zugriff auf Computersysteme, Störung von Computersystemen oder Daten und den Missbrauch von Geräten und Programmen.
Tim Pritlove: Oh, dass da mal einer mal was macht.
Khaleesi: Das kommt uns irgendwie bekannt vor.
Tim Pritlove: Ja, ja, ich beobachte viele Leute dabei, wie sie Missbrauch an ihren Geräten vornehmen und auch an ihrer Software. Das ist ganz furchtbar. Das muss wirklich mal in Riegel vorgeschoben werden.
Khaleesi: Naja, aber ich meine, das ist irgendwie so klassisch, wenn wir irgendwie über so Cybercrime
Khaleesi: sprechen, dass das alles Sachen sind, die so vage formuliert sind, dass das eine extreme Unsicherheit, also eine Unsicherheit, die ja sowieso schon für viele IT-Sicherheitsforscherinnen da ist, aber eine noch größere Unsicherheit für IT-Sicherheitsforscherinnen darstellt.
Khaleesi: Also das ist schon mal so der erste Teil, wo man so sagt, so okay, ein Hackerparagraf für die UN. Das ist bestimmt eine sehr gute Idee. Und dann auch wirklich noch so, dass dann auch,
Khaleesi: entsprechend dafür sorgen könnten, dass komplette Strafgesetzbücher geändert werden. Also wenn so ein
Khaleesi: UN-Treaty beschlossen wird, dafür braucht es übrigens eine Zweidrittelmehrheit der Staaten, und dann müssen die Staaten das natürlich noch in ihrer nationalen Gesetzgebung ratifizieren. Und,
Khaleesi: dann würde das halt umgesetzt werden. Und das kann natürlich dann auch noch zu weiteren Auslegungsdingen führen. Und was aber sehr interessant ist, ist, dass sie sich ja nicht,
Khaleesi: nur auf Straftaten einigen wollen. Sie wollen damit einfach einen globalen Standard schaffen,
Khaleesi: mit dem Internetkriminalität bekämpft wird. Und sie wollen vor allen Dingen auch ein globales,
Khaleesi: Tooling schaffen, um Internetkriminalität zu bekämpfen. Vielleicht bewirbt sich ja die
Khaleesi: Bundeswehr dann mit ihrem Propaganda-Awareness-Projekt, mit KI natürlich.
Tim Pritlove: Mit KI.
Tim Pritlove: Das ist das, was wir als Kompanieintelligenz sind.
Khaleesi: Ich sage doch, das waren die Praktikanten. Nein, aber halt angedacht werden halt
Khaleesi: auch solche Sachen wie Vorratsdatenspeicherung als Ermittlungstool,
Khaleesi: gegen globalen Cybercrime und man will dann natürlich auch, was natürlich total
Khaleesi: wichtig ist, ist natürlich nicht nur, dass man Tooling hat, was alle gleich benutzen können,
Khaleesi: sondern dass natürlich auch alle auf alle Daten zugreifen können. Und das ist ein riesen Problem. In Europa gibt es das E-Evidenz-Gesetz und in den USA gibt es den sogenannten Cloud Act. Und das ist
Khaleesi: halt bisher so, dass man immer bestimmte Abkommen braucht, damit jetzt zum Beispiel die deutsche Polizei auf polnische Server zum Beispiel zugreifen kann. Das heißt, die müssen dann
Khaleesi: entweder eine bestimmte Abstimmung haben, also das EU-Evidenzgesetz würde das zum Beispiel erlauben,
Khaleesi: dass es ein EIL-Verfahren gibt und dass man dann halt auf Daten, auf Servern in einem anderen
Khaleesi: Land zugreifen kann und ähnliches ist auch mit dem Cloud Act. Und das wollen die sozusagen mit
Khaleesi: diesem EU-Cybercrime-Treaty ausweiten. Das heißt, dass das dann halt auch einfach einen schnelleren Austausch, aber natürlich auch dieses ganze Thema.
Khaleesi: Dinge sperren und vom Netz nehmen, auch sozusagen beschleunigen.
Khaleesi: Und das ist natürlich, kann man jetzt wieder so ein bisschen so ein Bogen zur Contentmoderation machen, in vielen Fällen sehr problematisch, wenn so was im Eilverfahren passiert. Und bisher ist da auch überhaupt noch keine rechtsstaatliche
Khaleesi: Garantie dafür, dass die betroffenen Rechte eingehalten werden, da natürlich sich die nationalen Gesetzgebungen von allen UN-Mitgliedern dann doch sehr unterscheiden und natürlich,
Khaleesi: auch die Einspruchsmöglichkeiten viel, viel schwieriger sind, wenn Ermittlungsbehörden aus einem anderen Land dafür sorgen, dass irgendwas mit deinem Server passiert.
Tim Pritlove: Also ich finde das schwierig. Ich weiß gar nicht, gibt es eigentlich irgendetwas anderes, was auf UN-Ebene schon mal so geregelt worden ist, was so eine globale Anwendung finden soll?
Tim Pritlove: Weil das scheint mir so ein bisschen auch so eine neue Art von Vorstoß zu sein. Das einzige, was mir jetzt irgendwie einfallen würde, wäre sowas wie Weltraumrecht oder sowas. In irgendeiner Form für...
Khaleesi: Ja, und wahrscheinlich noch ein paar Klimaziele.
Tim Pritlove: Ja, Klimaziele, die aber jetzt ja eigentlich ja auch immer alles nur so Versprechenseinsammlungen.
Khaleesi: Ja, natürlich. Aber um nochmal auf die Historie der UN zurückzugehen, die wurde 1945 gegründet, um den Weltfrieden zu wahren.
Khaleesi: Die grundlegenden Ziele sind Frieden und Sicherheit, deswegen ist auch der Cybercrime Treaty da angehängt. Menschenrechte, Umwelt und Klima und ökonomische Entwicklung.
Khaleesi: Ich würde davon ausgehen, dass es schon das eine oder andere Abkommen gab, das Dinge maßgeblich festgehalten hat.
Khaleesi: Aber im digitalen Raum hat das natürlich auch eine extreme Auswirkung, weil wir es mit extrem komplexen Problemen zu tun haben,
Khaleesi: aber auch mit extrem unterschiedlichen Nationen, was ihren Umgang mit solchen Dingen angeht.
Tim Pritlove: Ja, all right. So viel dazu, da müssen wir halt noch mal ein bisschen abwarten, was sich da in Zukunft zu tut.
Khaleesi: Ja, also wie gesagt, UN Cybercrime Treaty, super problematisch.
Khaleesi: Bei den Überwachungsinstrumenten habe ich für jeden Fall die Aufzählung vergessen, das ist übrigens auch staatliches Hacking.
Khaleesi: Also das werden wir weiter kritisch beobachten und ich denke, Thomas wird da nochmal vorbeikommen und kann nochmal mehr dazu sagen.
Khaleesi: Und wo wir gerade so über noch mehr problematische Gesetzgebungen sprechen. Wir haben ja die Chatkontrolle gewonnen und am Anfang sah es in der Schweiz relativ gut aus,
Khaleesi: das Parlament hat gesagt, so hm, das ist eine ziemlich problematische Gesetzgebung, wir müssen irgendwie unsere Bürgerinnen dafür schützen, wenn das in dieser Form kommt. Aber jetzt haben,
Khaleesi: sie ein Gesetz beschlossen, das vorsieht, dass im Bereich Filme und Videospiele, also so alles, was so YouTube, Netflix, Twitch, Steam, was auch immer du hast, Age Verification vorgenommen
Khaleesi: werden soll. Das heißt Alterskontrolle, bevor du den ganzen Kram benutzen kannst.
Khaleesi: Ausweichspflicht im Internet, mal wieder. Und also der einzige Vorschlag, der als Beispiel in,
Khaleesi: dieser Gesetzgebung genannt wurde, war, dass man ja eine Kopie von seinem Personalausweis einschicken kann.
Tim Pritlove: Das ist die einzige Idee, auf die sie gekommen ist.
Khaleesi: Sonst wurde das nicht eindeutig spezifiziert. Das Ganze lässt sich, das ist ja in der Schweiz
Khaleesi: ein bisschen anders als in Deutschland, aber noch durch eine Volksabstimmung stoppen. Die läuft bis,
Khaleesi: zum 19. Januar und dafür müssen 50.000 Unterschriften gesammelt werden, also an alle
Khaleesi: Hörerinnen, ich weiß nicht, habt ihr Hörerinnen in der Schweiz bestimmt?
Tim Pritlove: Ja, mit Sicherheit.
Khaleesi: Nehmt an dieser Volksabstimmung teil, weil ansonsten sieht das ziemlich schlecht aus und es ist halt
Khaleesi: auch wieder so, wenn es ein Land macht, dann machen es alle anderen nach, weil könnte ja funktionieren.
Khaleesi: Also, Age Verification bleibt ein Thema und da begegnen wir im Zweifelsfall auch wieder diesem ganzen Biometriethema. Ich glaube, ich hatte es in der letzten Folge, in der ich zu Besuch war,
Khaleesi: schon mal erzählt. Also in Großbritannien entsteht ein ganzer Markt an Start-ups,
Khaleesi: die Altersverifikationen mit Hilfe von Machine Learning und biometrischen Daten macht. Auch das,
Khaleesi: halt wieder hochgradig problematisch, vor allen Dingen, wenn es um die biometrischen Daten von
Khaleesi: jungen Menschen geht und die auf Sachen nicht mehr zugreifen können, die für sie halt in ihrem
Khaleesi: Leben elementar sind, würde ich mal so sagen.
Tim Pritlove: Ja, vor allem, ich meine, kaum jemand ist kreativer dabei, so was zu umgehen wie Jugendliche.
Tim Pritlove: Also ich kann nur sagen, viel Spaß. Das wird bestimmt super funktionieren.
Khaleesi: Das hat ja mit den, wie ist das bei Zigarettenautomaten gewesen, Kreditkarten an Zigarettenautomaten oder so, auch wunderbar funktioniert.
Tim Pritlove: Ja, Perso und so. Oh, mein Lieblingsthema.
Khaleesi: Aber wollen wir nicht mal irgendwie über was Schönes sprechen? Dein Lieblingsthema?
Khaleesi: Ja, ich dachte, das ist doch, also ich habe immer das Gefühl, das ist total dein Lieblingsthema.
Tim Pritlove: Also zumindest auf jeden Fall ein Thema für mich gerade, sagen wir es mal so.
Tim Pritlove: Die Rede ist von...
Khaleesi: Ja, Chat-GPT. Hast du es denn inzwischen hingekriegt? Seid ihr jetzt Freunde geworden?
Tim Pritlove: Freunde ist ein großes Wort. Ich habe so ein bisschen das Gefühl, mit Chet GPT sich zu unterhalten, ist so ein bisschen.
Tim Pritlove: Wie so ein völlig von sich überzeugter Turbonerd irgendwie im Zugriff zu haben, der 80 Prozent aller Fragen, die man stellt, halbwegs akkurat beantwortet.
Tim Pritlove: 20 Prozent nicht, aber es ist nicht sofort klar, was die 20 Prozent sind und was zu den
Tim Pritlove: 80 Prozent gehört. Also man muss sozusagen so ein gesundes Misstrauen, aber auch ein gewisses Wohlwollen mitbringen. um dann so abschätzen zu können, welche der Empfehlungen jetzt wirklich wertvoll ist
Tim Pritlove: oder was einfach nur so daher fabuliert ist.
Khaleesi: Ja, also meine Lieblingsgeschichte ist ja, ich weiß nicht, ob du das mitbekommen hast,
Khaleesi: dass das ChatGPT Buchtitel generiert zu Autoren, die es tatsächlich gibt,
Khaleesi: aber die Buchstitter gibt es nicht.
Tim Pritlove: Ja, ja und ich meine, wer jetzt noch nicht genau weiß, wovon wir reden, wir hatten es wie gesagt vor ein, zwei Sendungen schon mal, also von OpenAI, von diesem Start-up gibt es,
Tim Pritlove: halt verschiedene beeindruckende Systeme, unter anderem diesen Bildgenerator Dolly und so weiter.
Tim Pritlove: Es gibt da Whisper, die Spracherkennung und jetzt eben auch dieses Chat-GPT, was eben versucht,
Tim Pritlove: diese Kontextualisierung einzubringen. Und das gelingt schon ganz gut. Man weiß natürlich jetzt nicht so richtig, auf welchen Daten letzten Endes der ganze Kram wirklich basiert. Also,
Tim Pritlove: Sie haben halt verschiedenste Systeme dort mit reingenommen und es ist teilweise schon erstaunlich, was man so bekommen kann.
Tim Pritlove: Es ist ein bisschen schwierig zu sagen, es ist jetzt ganz toll weil oder es ist ganz,
Tim Pritlove: scheiße weil, sondern man merkt so richtig, da ist so ein Werkzeug im Werden gerade, was einfach einen gewissen Appeal hat. Also es ist ganz offensichtlich nicht nutzlos, aber es ist auch ganz offensichtlich nicht Allwissend!
Khaleesi: Ja, und ich glaube, das ist irgendwie so, das ist irgendwie am Anfang meistens total lustig,
Khaleesi: mit solchen Sachen rumzuspielen, aber sie sind halt auch immer nur so gut wie die Daten, mit denen sie trainiert wurden und die sind halt auch so, nö, immer den Querschnitt des Internets.
Tim Pritlove: Also entweder sind die Daten nicht gut oder die Trainingsmodelle sind halt noch nicht gut genug aus diesen Daten hervorgegangen.
Tim Pritlove: Also das ist ja immer so die Frage, was nimmt man denn da raus? Und klar, ich meine, ich weiß nicht, was du für Erfahrungen gesammelt hast.
Tim Pritlove: Ich habe es jetzt vor allem versucht, Fragen zu stellen. Also es gibt so bestimmte Sachen, die lassen sich einfach schwer googeln.
Tim Pritlove: Das hat damit zu tun, dass es halt Begriffe verwendet, die für was ganz anderes stehen. Keine Ahnung, versuch mal nach irgendwas zu suchen und irgendein Popstar heißt so.
Tim Pritlove: Dann ist irgendwie schon alles vorbei.
Tim Pritlove: Du kriegst es also sehr schwer kontextualisiert, dass du das eine Problem hast.
Tim Pritlove: Und das andere ist, du findest zwar viel Information über A und du findest viele Informationen über B, aber du findest dann keinerlei Informationen, die das eine mit dem anderen in Relation setzen.
Tim Pritlove: Solchen Nachfragen hatte ich ganz interessante Ergebnisse, dass ich wirklich sagen konnte, so was ist der Unterschied zwischen dem und dem und da ist dann dem Tool tatsächlich teilweise
Tim Pritlove: gelungen, da etwas herauszudistillieren, was mir weitergeholfen hat.
Khaleesi: Also Googlen ist natürlich auch irgendwie so eine Wissenschaft für sich und dann hast du natürlich auch noch den Hit an Menschen, die sich mit SEO-Optimierungen beschäftigen, die dann auch noch einen Impact darauf haben.
Khaleesi: Ja, und das hat auch mal für Alarm gesorgt bei Google, weil das das allererste Mal so wirklich wahrscheinlich in ihrer Geschichte ist, dass irgendwie ihr Businessmodel mal in Frage gestellt wird. Und Google hat halt wirklich anscheinend Angst vor Verlust von Nutzerinnen.
Khaleesi: Und Personen sind häufiger mit Chat-GPT-Antworten zufriedener als mit Google-Suchergebnissen.
Khaleesi: Und jetzt plant Google natürlich auch irgendwie ein Konkurrenzprodukt in irgendeiner Art und
Khaleesi: Weise dazu zu schaffen, was ich sehr interessant finde. Und auch sehr gespannt bin, wie es weitergeht, während Microsoft, die ja jetzt nicht unbedingt dafür bekannt sind, der größte Sucherschiedenanbieter der Welt zu sein, versucht Bing.
Khaleesi: Ich weiß nicht, hast du schon mal Bing benutzt?
Tim Pritlove: Ich habe schon mal Bing benutzt, aber es ist schon eine Weile her, dass ich das letzte Mal benutzt habe.
Khaleesi: Okay, also ich hab glaube ich noch nie Bing benutzt, deswegen weiß ich überhaupt gar nicht, wie das aussieht und wie sich das anfühlt.
Tim Pritlove: Du hast nichts verpasst, ne? Ja, nee.
Khaleesi: Ist das nicht als Default-Suchmaschine im Internet Explorer früher eingestellt gewesen?
Tim Pritlove: Das kann gut sein, dass das auf Windows der Fall ist, aber ich glaube, Internet-Explorer gibt es nicht mehr. Das heißt jetzt anders, das heißt jetzt Edge.
Khaleesi: Na ja, aber egal. Auf jeden Fall ist alles gleich schlimm.
Khaleesi: Auf jeden Fall hat Microsoft ja schon sehr viel Geld in OpenAI, also in die Firma, die
Khaleesi: die ChatGPT gebaut hat, auch zu einem sehr frühen Zeitpunkt investiert.
Khaleesi: Seitdem versuchen sie Bing, also ihre Suchmaschine, sowieso schon,
Khaleesi: oder da fließt schon relativ viel Technik von früheren ChatGPT-Entwicklungen mit ein. Jetzt wollen sie sozusagen ein neues Produkt launchen,
Khaleesi: ein Bing, was mit ChatGPT getunt wurde.
Khaleesi: Ich bin da sehr gespannt. Ich bin auch sehr gespannt, wie Sie das von der Leistung machen. Ich weiß nicht, ob du es auch schon hattest, aber immer mehr Leute haben das Ding so, dass Chat-GPT gerade nicht benutzbar ist ressourcentechnisch, weil...
Tim Pritlove: Ja klar, weil sich die ganze Welt gerade drauf stürzt und das eben schon eine gewisse ressourcenintensive Anwendung ist,
Tim Pritlove: was sich nicht so ohne weiteres mal mit irgendeinem gut gemachten Index erschlagen lässt. Also, ich habe ja keine Ahnung, wie komplex mittlerweile diese ganze Suchabfragen-Geschichte bei Google so funktioniert.
Tim Pritlove: Das ist ja auch nicht ohne.
Tim Pritlove: Aber es ist halt nicht so, dass jetzt über jeden String, den du da eingibst, irgendwie intensiv mit vielen Computern nachgedacht werden muss.
Tim Pritlove: Ich weiß nicht, ob das nur so ein Ding ist bei ChattGPT, dass sie diesen Text so langsam ausgeben.
Tim Pritlove: Das hat ja totale 80er-Jahre-Vibes für mich. Weil so war das früher, als wir mit Telekommunikation angefangen haben,
Tim Pritlove: und die Modems nur so 300 Bit pro Sekunde übertragen haben.
Khaleesi: Vielleicht passt dich das aber auch an seine Nutzerin an.
Tim Pritlove: Wieso, geht es bei dir schneller oder was?
Tim Pritlove: Skandal.
Tim Pritlove: Muss ich mal die Age Verification irgendwie nochmal anders einstellen.
Khaleesi: Na ja, aber vielleicht ist es so, dass es nicht so an deine...
Tim Pritlove: Also, wer das schon mal benutzt hat, wenn das gesehen haben, man tippt was ein und man kriegt auch eine Antwort. Aber die Antwort malt sich so in Lesegeschwindigkeit so in etwa auf den Bildschirm.
Tim Pritlove: Also man kann wirklich den Buchstaben noch dabei zusehen, wie sie so, also nicht Buchstabe für Buchstabe, ich sag mal so Wort für Wort auf dem Bildschirm erscheint.
Tim Pritlove: Teilweise auch ganz interessant, dass das Ding auch so Sätze nachträglich ändert.
Tim Pritlove: Also man sieht so richtig, wie es sich grammatikalisch so herausschält und eigentlich erst am Ende,
Tim Pritlove: des Satzes weiß, wie der ganze Satz sein soll. Also das ist zumindest der Eindruck, den ich gewinne. Ich habe natürlich keine Ahnung, wie das mit Detail funktioniert und ich finde das auch alles
Tim Pritlove: ziemlich beeindruckende Technologie, so oder so. Weil das ist halt, Chat-GPT ist wirklich wieder
Tim Pritlove: so ein Ding, womit dieser Spruch einfällt. Ich weiß nicht, von wem war der nochmal. Keine Ahnung, das ist irgendwie, also jede Technologie, die so einigermaßen über deinen Horizont hinausgeht, lässt dich von Zauberrei nicht unterscheiden. So das irgendwie, keine Ahnung, wie ich es gerade,
Tim Pritlove: zitiert habe, aber nicht wörtlich. Aber so kommt einem das herüber, weil man auf einmal etwas ganz anderes bekommt aus dem Internet, als man das bisher oder von seinem Computer, als man das bisher,
Tim Pritlove: so kannte. Du kannst aber dich hingehen und sagen, ich möchte gerne ein Kurzbühnenstück haben mit,
Tim Pritlove: irgendwie einem silbernen Hasen und irgendwie einer Fußgängerampel, die sich irgendwie über
Tim Pritlove: die Qualität von Hamburger unterhalten. Und dann kommt da irgendwas bei raus. Das macht.
Tim Pritlove: Vielleicht in dem Moment keinen Sinn, aber es ist auf jeden Fall totale Zauberei. Lange,
Tim Pritlove: Rede kurzer Sinn. Es macht viel Sinn, dieser Technologie weiter nachzugehen für jemanden, der behauptet, einem den Zugang zu den Informationen der Welt zu liefern. Das ist ja so ein bisschen
Tim Pritlove: das, was bei Google drunter steht, nachdem sie dieses Don't Be Evil eingelassen haben. Evil können wir schon sein, aber trotzdem Informationen des Internets machen wir euch zugänglich.
Tim Pritlove: Nur halt nicht mehr so gut, nur ein bisschen böse.
Khaleesi: Ja, klar, macht total Sinn und ich denke mal auch dieses Thema mit der Rechenleistung,
Khaleesi: die aktuell wahrscheinlich noch relativ kostenintensiv ist, wird sich wahrscheinlich so Moorsh Law einfach geben.
Tim Pritlove: Wird sich ändern, genau.
Khaleesi: Ja, also ich bin sehr gespannt und ich bin auch gespannt, was das so mit den nächsten Generationen macht.
Khaleesi: Und generell mit diesem ganzen Konstrukt von Suchmaschinen.
Tim Pritlove: Und das hat auch Value. Also dieses Suchen ist ja irgendwie in gewisser Hinsicht billig.
Tim Pritlove: Niemand ist wirklich jetzt groß bereit für so eine Internetsuche Geld auszugeben. Deswegen geht das alles über Werbung.
Tim Pritlove: Aber ChatGPT ist so ein Dienst, wo ich sagen würde, also wenn das jetzt morgen schon nicht mehr da wäre und ich bin jetzt schon angefixt,
Tim Pritlove: Ja, weil es wirklich, also es ist wirklich, da kommt teilweise wirklich hanebüchener Unsinn dabei raus. Und wie du schon sagtest, irgendwas wird so erfunden. Du sagst, vergleiche die Theorie von dem Philosophen und dem Philosophen.
Tim Pritlove: Dann kommt da so ein Gewäsch bei raus und das liest du dir durch und denkst du so, aber wenn du irgendwie Ahnung von Philosophie hast, merkst du, dass da irgendwo so was ganz Grundsätzliches verwechselt wurde. Andererseits, bei manchen Fragen,
Tim Pritlove: kommen absolut akurate Zusammenfassungen. Also ich habe jetzt, das Thema ist ja gerade Hausaufgaben. Da dachte ich mir so, okay, dann benutze ich das doch mal für Hausaufgaben. Da kommt dann dieses...
Khaleesi: Machst du die Hausaufgaben von deinen Kindern?
Khaleesi: Hahaha.
Khaleesi: Jetzt kommt das raus.
Tim Pritlove: Einer muss es ja machen.
Khaleesi: Immer diese Helikoptereltern, die so übermotiviert sind. Also du weißt schon, dass das nicht gut ist, wenn du die Hausaufgaben machst.
Tim Pritlove: Das Problem ist, Hausaufgaben sind das Peinlichste, was es gibt für Eltern, weil die Kinder
Tim Pritlove: kommen immer an und sagen, hier, das ist unsere Aufgabe, ich verstehe das nicht. Dann schaust du drauf und stellst fest, keine Ahnung, habe ich alles vergessen. Weiß ich auch nicht, habe ich nicht gelernt, keine Ahnung, so was schaut ihr euch an.
Tim Pritlove: Dann haben wir dann halt auch wie so, ja, hier irgendwie, was ist denn mit dem Ancien Regime, französische Revolution und wie denn das alles so gelaufen ist.
Tim Pritlove: Klar, die haben halt ihr Lehrbuch, dann sind da so 3, 4, 5 Textseiten, die sollen sich durchlesen, irgendwie verinnerlichten, dann zusammenfassen, wunderbar. So, aber ich konnte,
Tim Pritlove: dann erstmal irgendwie erstmal gar nichts fragen, das ist mir so, frag ich doch mal,
Tim Pritlove: Chat-GBT. Und Chat-GBT hat mir dann halt über die französische Revolution so einiges ausgespuckt und ich habe es dann im Nachgang auch nochmal mit diesen Textbüchern verglichen, so. Und,
Tim Pritlove: das war schon mal, also es war eine sehr hilfreiche Zusammenstellung. Dann kriegste da so 1, 2, vier fünf Punkte so, was war das Problem, was führte zur Französischen Revolution.
Khaleesi: Irgendwas mit Brot und Kuchen, wahrscheinlich.
Tim Pritlove: Ja, aber halt auch so die Kriege, die Frankreich mit den anderen Ländern führten, wirtschaftliche
Tim Pritlove: Situationen, Pipapo, dieses und jenes, einfach so Aspekte, die gerade wenn es so darum geht, so was wie im Deutschunterricht, wo es ja auch immer so ein bisschen darum geht, so die.
Tim Pritlove: Gesamtsituationen verstehen, interpretieren, Bewegungsgründe formulieren und auch Formulierungen
Tim Pritlove: zu finden und Worte auch zu finden. Man macht ja viel daran fest, dass so was wie Chat-GPT jetzt nicht geeignet ist, weil die Fakten stimmen nicht. Na gut, dann lässt du halt,
Tim Pritlove: die Fakten raus und kümmere dich nur um die Form. Du kannst das Ding ja auch benutzen mit hier schreibe ich dir die Fakten Stichpunkt für Stichpunkt hin, mach mir einen schönen Text
Tim Pritlove: da draus, der irgendwie in blumiger romantischer Sprache mit etwas Humor diesen Sachverhalt
Tim Pritlove: wiedergibt. So, und das kannst du ja dann selber auch bewerten, ob dieser Sachverhalt okay zurückgegeben wurde, aber dir ist unter Umständen eine andere Sprache gegeben worden, die dich in dem Moment inspiriert. Und das ist mein Punkt.
Tim Pritlove: Ich glaube, dass das Tool vor allem derzeit für so Glücksrecherchen ganz gut ist, dass irgendwas versuchst, rauszufinden, was einfach so mit Google und anderen Quellen...
Tim Pritlove: Also entweder musst du viel zu viel lesen oder es ist halt so viel Nebel vor dieser
Tim Pritlove: Information, durch die so eine Suchmaschine nicht durchkommt. Aber wenn es darum geht, einen inspirieren zu lassen, ist es halt wirklich teilweise gut.
Tim Pritlove: Von einem habe ich gesehen, der hat CheckKPT einfach gefragt so, ja mach mir mal ein paar Vorschläge wie man seine Wohnung einrichten kann.
Khaleesi: Das ist natürlich wieder total interessant für Targeted Advertising.
Khaleesi: Und das ist ja auch das, was Suchmaschinen so interessant macht,
Khaleesi: dass Leute den Suchmaschinen sehr genau sagen, was sie gerne kaufen wollen und was sie suchen.
Khaleesi: Und ChatGPT, weil sie damit reden, mit ChatGPT auch reden wie mit einem Menschen in Zweifelsfall und sagen ich habe eine leere weiße Wand. Was soll ich damit tun?
Tim Pritlove: Das geile war, die Antworten, die chat.gpt dann auf diese Wohnungseinrichtungsfrage.
Khaleesi: Und dann irgendwie so weiß ich nicht, was ist ein großer Anbieter für irgendwie Kunst, es slidet so direkt in deine DMs.
Khaleesi: Also das ist ja wirklich so ein Thema, was natürlich ein Geschäftsmodell für die Zukunft,
Khaleesi: die auf jeden Fall ist.
Tim Pritlove: Gegeben hat und zwar eins zu eins so, wie das aus Chat-GPT rauskam, also den Text sozusagen copy-paste, dann in Mid Journey, das ist so diese Discord-basierte Social-Network für
Tim Pritlove: AI-erzeugte Bilder, also so ähnlich wie Dolly, aber sozusagen wo so eine ganze Community dann immer noch mitarbeitet und aus diesen Beschreibungen kamen so super awesome Bilder
Tim Pritlove: raus, wie diese Wohnung eingerichtet war. Also das war wirklich einfach stunning. Ich hab mir gesagt, wie krass ist das bitte. Also es sah einfach wirklich hervorragend aus.
Tim Pritlove: Und das sind so Prozesse, glaube ich, die wir jetzt sehen werden. Also wir haben jetzt hier
Tim Pritlove: eine Technologie, die sehr viel Fallout hat, wo sich viele darüber aufregen und viel über diese Wahrheit und was steckt da sozusagen und Wahrheit drin unterhalten werden. Aber auch so was bei rauskommen kann.
Khaleesi: Ich glaube, klar, da kann sowas bei rauskommen.
Khaleesi: Ich glaube, man sollte es halt irgendwie immer mit so eine Grain of
Khaleesi: Salt nehmen und gerade bei allem, was irgendwie daten-AI-basiert ist, ist es einfach so, dass wir da halt auch immer einen gewissen Bias mit drin haben,
Khaleesi: und auch irgendwie eine gewisse Intransparent wie diese Modelle einfach zu ihren Entscheidungen kommen.
Khaleesi: Und das ist, glaube ich, einfach nur was, nicht nur. Das ist auf jeden Fall etwas, was man kritisch beobachten muss, aber ich glaube, über Regulierung für ein AI haben wir jetzt auch schon ausreichend gesprochen.
Tim Pritlove: Also ich habe jetzt mal gefragt, ich habe eine große weiße Wand, was soll ich damit machen?
Tim Pritlove: Es gibt viele Möglichkeiten, was Sie mit einer großen weißen Wand machen können. Einige Ideen sind, malen Sie die Wand in einer Farbe, vor allem um einen Akzent zu setzen. Hängen Sie ein großes Wandbild oder eine Galerie von Bildern auf, um die Wand zu dekorieren. Da bist du bestimmt noch nicht drauf gekommen, oder?
Khaleesi: Ich weiß nicht, hier war so ein Mittelalter Typ, der mir erklärt hat, was ich mit weißen Wänden machen kann.
Tim Pritlove: Also bisher muss ich sagen, die Antworten sind vielfältig, aber irgendwie noch nichts.
Khaleesi: Die Antwort war übrigens nicht so schön.
Khaleesi: Nein. Nein, aber das ist halt wieder genau das, was du gerade vorgelesen hast.
Tim Pritlove: Besonderes dabei. Memo, Bird, Memo Board, Magnethafen, Projektionsfläche. Also das bringt dich nicht wirklich weiter, glaube ich.
Khaleesi: Könnte ihre Werbung stehen.
Tim Pritlove: Ja, also es ist natürlich ein Privacy-Aspekt hier mit drin. Also man vertraut sich solchen Systemen dann unter Umständen noch mal auf eine ganz andere Art und Weise an, vielleicht.
Tim Pritlove: Das wird spannend sein, das zu verfolgen.
Khaleesi: Ich weiß auch gar nicht, hast du dir mal die Datenschutzerklärung von von TGPT angeguckt? Weiß ich nicht. Also das wird mich halt schon interessieren, was
Khaleesi: die so... also die werden sicherlich alle Eingaben nutzen, um das Ding weiter zu trainieren.
Khaleesi: Also das steht ja völlig außer Frage. Ich meine, das verbessert sich ja auch selber und so, wenn man kritisch nachfragt. Aber das wäre ja schon mal irgendwie... also hat und irgendwie noch keiner drüber, habe ich noch nichts drüber gelesen.
Tim Pritlove: Also ich habe auf jeden Fall wird glaube ich derzeit nichts gespeichert.
Tim Pritlove: Warte mal, ich kann ja mal den Chat-Gap einfach fragen. Speicherst du irgendwelche Daten von mir
Tim Pritlove: oder bleibt etwas von diesem Dialog auf deinen Servern erhalten?
Tim Pritlove: Als AI-Modell speichere ich keine persönlichen Daten von Benutzern und alle Daten, die im Zusammenhang mit unserem Dialog stehen, werden auf unserem Server nicht gespeichert.
Tim Pritlove: Der Dialog wird in Echtzeit verarbeitet und nach Beendigung des Gesprächs gelöscht.
Tim Pritlove: Ich bin darauf programmiert, ihre Anfragen zu verstehen und darauf zu antworten, ohne dabei ihre Daten zu speichern oder zu teilen.
Khaleesi: Also die machen Live-Analyse, das ist ein bisschen anders als das, was unsere Bundesregierung macht.
Tim Pritlove: Bundeswehr macht bestimmt total krasse Sachen damit.
Khaleesi: Also die machen Live-Analyse, damit sie aus den Datenschutzfragen rauskommen. Unsere Bundesregierung macht keine Live-Analyse, damit sie danach mehr Daten haben, die sie analysieren können.
Tim Pritlove: Ja, und ich meine, das ist jetzt eine Aussage von JetGPT, also das ist wahr.
Khaleesi: Ja, und das ist natürlich auch irgendwie was darüber, wo man reden muss.
Khaleesi: Menschen tendieren natürlich dazu, Aussagen von Computern als total objektiv und wahr einzuordnen und es auch nicht so viel zu hinterfragen an einigen Stellen.
Khaleesi: Das ist natürlich auch ein Problem, mit dem man dann da zu tun hat. Also ja, es bleibt spannend.
Tim Pritlove: Ich frage nochmal, darf ich das glauben?
Tim Pritlove: Als künstliche Intelligenz habe ich keine Fähigkeit zu lügen oder Tatsachen zu verbergen. Ich bin programmiert, um auf Anfragen mit Informationen zu antworten, die ich aufgrund meiner Schulung kenne. Ich kann Ihnen versichern, dass ich keine persönlichen Datenspeicherungen auch nicht teile.
Tim Pritlove: Ich komme mir so ein bisschen vor, wie so ein Science-Fiction-Film.
Khaleesi: Und es ist auch irgendwie so im Negativen, weil eigentlich unterstützt, also haben Sie das Ding, die Antwort ja genauso geschrieben, wie das, was ich gerade gesagt habe, nämlich so, ich bin ein Computer, ich habe kein Bias.
Tim Pritlove: Ja, ist das so ein bisschen wie 2001. eins. Ich bin einer der größten Meinungen, die jemals programmiert worden sind.
Khaleesi: Ja, aber was ist denn das großartigste Produkt, was in der Corona-Pandemie programmiert wurde,
Khaleesi: Tim. Das ist nämlich noch besser und noch kostenintensiver als D-Mail. Wusstest du das?
Tim Pritlove: Jetzt kommen wir zu den richtigen Start-ups.
Tim Pritlove: Was ist das denn? Echt? Kosten intensiver oder kosten effektiver?
Khaleesi: Wie viel kostet denn eine D-Mail? Ja wie teuer, weißt du das noch?
Tim Pritlove: Wie viel kostet denn eine? Ich glaube, Linus hat das mal die Zahl feingelassen, aber ich kann mir das irgendwie nicht...
Tim Pritlove: Ich kann mir Chat gebeten. Warum?
Khaleesi: Ist D-Mail der Grund, warum Deutschland Innovations-Champion geworden ist?
Khaleesi: Nein, wir sind natürlich Infektions-Champion. Infektions-Champion sind wir nicht geworden, aber Innovations-Champion sind wir natürlich
Khaleesi: geworden wegen der Luca-App. Also machen wir uns nichts vor. Und ich meine, wir wissen ja, dass Behörden langsam malen und dass das dann auch alles irgendwie Geld kostet, aber Luca sollte das ja vereinfachen.
Khaleesi: Und ja, wie kostenintensiv ist so eine Kontaktnachverfolgung eigentlich?
Tim Pritlove: Ziemlich, weil es findet gar nicht so viel statt für den Preis, steht sich raus.
Khaleesi: Ach so, aber ich dachte also, die Fallzeit, also jetzt bin ich verwirrend. Gab es so eine geringe
Khaleesi: Userbasis.
Tim Pritlove: Ja, ich weiß gar nicht, welche Zahlen Luca am Ende erreicht hat, aber auf jeden Fall, zumindest in Brandenburg, gab es wohl mit der Luca-App genau eine erfolgreiche Kontaktnachverfolgung. Das hat nur eine Million Euro gekostet.
Khaleesi: Aber ich glaube, dann ist die Kontaktnachverfolgung wirklich teurer als eine einzige D-Mail. Ja, also nicht als das Projekt insgesamt, aber weißt du,
Khaleesi: Ich hoffe, es wurde einfach einstellen.
Tim Pritlove: Super. Das war echt ein erfolgreiches Projekt.
Tim Pritlove: Aber wir haben ja davor gewarnt. Aber es hält ja keiner auf die Warnung. Es kommt alles irgendwie wieder zurück. Was auch zurückkommt ist die Trust ID.
Khaleesi: Wir brauchen eine Luca-Warn-App. Ja, die TrustPID. Das P steht für Petser. Genau, die TrustPID, bereits Doktbuch Netzpolitik.
Tim Pritlove: Trust PID, Entschuldigung, die Trust PID.
Tim Pritlove: Das P. Der Petsprobe, Alter.
Khaleesi: Berichtete in Folge 431. Und es geht voran. Und jetzt haben die Deutsche Telekom Orange, das ist französischer Telefonprovider, Telefonica Spanien und Vodafone UK ein gemeinsames Joint
Khaleesi: Venture angekündigt zur Trust PID und die EU-Kommission guckt sich das jetzt nicht etwa
Khaleesi: von einer Privacy-Perspektive an, sondern von einer kartellrechtlichen Seite, nämlich ob die das
Khaleesi: überhaupt dürfen.
Tim Pritlove: Jetzt sollen wir nochmal kurz erläutern, was die Idee ist.
Khaleesi: Das stimmt. Also das Internet ist ja kostenfrei, wissen wir alle.
Tim Pritlove: Das sind halt unendliche Weiten.
Khaleesi: Unendliche Werbung. Und wir haben ja vorhin schon so ein bisschen auf die Geschäftsmodelle von Google und Co. angesprochen und die basieren natürlich zu größten Teilen auf Tracking-Systeme und personalisierter Werbung und so weiter und so fort.
Khaleesi: Und das ist zum einen aufgrund von irgendwelchen Datenschutzbestimmungen nicht mehr ganz zutreffend.
Khaleesi: Und dann gibt es natürlich so böse Menschen wie uns, die irgendwie Cookie-Blocker benutzen,
Khaleesi: und das einfach verhindern. Und das ist natürlich ein ganz großes Problem, wenn man keine Werbung mehr machen kann. Und deswegen haben sich jetzt die Provider überlegt, die machen ja noch nicht genügend Geld,
Khaleesi: damit das dafür bezahlen, dass wir irgendwie Zugänge zu Internet und Co. haben, dass sie das Problem ja lösen könnten. Und sie möchten jetzt eine sogenannte TrustPay ID entwerfen, die sich immer ergibt aus der IP-Adresse und der Telefonnummer.
Khaleesi: Der Nutzerin, wenn man sich mit dem Netz connectet. Und dann gibt es halt diese,
Khaleesi: pseudonymisierte ID, die dann entsprechend genutzt werden kann, um
Khaleesi: Werbung zu machen.
Tim Pritlove: Tolle Idee.
Khaleesi: Total super. Vor allen Dingen total super, dass man auf
Khaleesi: Infrastrukturebene dann das verpetzt, vor allen Dingen von einem Anbieter, den
Khaleesi: man ja sowieso schon für das Angebot, was er anbietet, bezahlt. Es ist fast genauso gut,
Khaleesi: wie die ganze Netzneutralitätsdebatte. Es ist belastend. Ja, belastend. Ich habe noch
Khaleesi: nicht über die Stadtkontrolle geredet und ich möchte jetzt unbedingt über die Stadtkontrolle reden.
Tim Pritlove: Okay. Muss es sein.
Khaleesi: Ja, ich mache es ganz kurz. Also, die Diskussion geht weiter. Es ist total interessant. Also,
Khaleesi: Also die Ratspräsidentschaft in der EU wechselt ja regelmäßig. Und zuletzt war es Tschechien, jetzt ist es Schweden.
Khaleesi: Wir dachten alle, naja, wahrscheinlich wird Schweden Chatkontrolle priorisieren, weil,
Khaleesi: Elva Johansson eine Schwedin ist und die Chatkontrolle vorgeschlagen hat. Es taucht auf deren Prio-Liste nicht so wirklich auf.
Khaleesi: Dennoch gehen die Verhandlungen weiter in der Ratsarbeitsgruppe der Strafverfolgungsbehörden,
Khaleesi: Und die Diskussion in Deutschland geht auch weiter. Es ist ja vor Weihnachten dieser Antrag nach Artikel 23 des Grundgesetzes von den Grünen und der FDP bereits veröffentlicht
Khaleesi: worden und der würde eine Abstimmung im Bundestag dazu herbeiführen. Der Antrag wird so nicht,
Khaleesi: durchgehen. Da fehlt die SPD und da scheitert es maßgeblich an den Menschen, die in der SPD,
Khaleesi: sich mit Innen- und Sicherheitspolitik beschäftigen. Da bleibt es also weiterhin spannend. Ja, das war
Khaleesi: eigentlich schon.
Tim Pritlove: Das ist das Update zur Check-Kontrolle. Wow, das war kurz. Ja, immerhin.
Tim Pritlove: Dann gab es noch ein Urteil gegen Meta, dafür dass sie die ersten beiden Silben der Metaebene für ihren Namen benutzt haben. Das hat jetzt mehrere Millionen Euro gekostet.
Khaleesi: Deswegen kriege ich so viel Geld für diese Folge, ne? Okay.
Tim Pritlove: Ja, habe ich verklagt.
Tim Pritlove: Ja, genau, das ist der Grund. Jetzt schwimmen wir hier im Geld. Nee, stimmt leider nicht, sondern stattdessen wurden sie für ihre, tja, für was denn eigentlich?
Tim Pritlove: 390 Millionen Euro müssen Sie zahlen, weil...
Khaleesi: Ja, weil sie personenbezogene Werbung machen und ja, also sie benutzen personenbezogene Daten, um Werbung zu machen. Und das steht zwar in den AGBs irgendwie drin, aber der,
Khaleesi: Europäische Datenschuss Ausschuss sagt, dass das nicht ausreichend ist, weil eine,
Khaleesi: informierte Einwilligung notwendig wäre. So. Und das ist ein Riesenvorstoß. Jetzt können die sich nicht mehr rausreden, was diese Dinge angeht. Und ich bin echt gespannt, was auch,
Khaleesi: die Konsequenz für andere Konzerne ist, die mit personenbezogene Daten viel Umsatz machen.
Tim Pritlove: Das ist eigentlich eine echt große Sache, weil im Prinzip greift das ja das Kerngeschäftsmodell
Tim Pritlove: von Meta an und wenn sie jetzt nicht, ich meine, ich weiß nicht, diese 390 Millionen Euro ist wahrscheinlich eine Einmalzahlung, aber das ändert ja nichts daran, dass sie auch weiterhin dafür
Tim Pritlove: in Anspruch genommen werden würden, wenn sie nichts ändern. Also sie müssten ja jetzt auch was ändern. Sprich, wir müssen in Europa zumindest ein Opt-out anbieten aus dieser Verarbeitung. Damit erlauben sie ja sozusagen, also damit entziehen sie sich selbst sozusagen
Tim Pritlove: sagen die Grundlage ihres Geschäftsmodells, wenn genug Leute das machen.
Khaleesi: Ja, total. Und diese Opt-out-Geschichte ist ja dann auch wieder so eine Frage, ob es dann einfach dazu führt, dass man das dann halt einfach nur noch schlecht benutzen kann.
Khaleesi: Also das ist ja ein sehr häufiger Fall, dass dann die Plattformen einfach nicht mehr gut nutzbar sind. Und das ist ja auch irgendwie immer das absurde Argument, was diese Plattformen anbringen in solchen Zusammenhängen.
Khaleesi: Genau, also ganz gute Nachrichten. Und ich glaube, wir haben es geschafft. Und du hast den Gute-Nachricht-Jingle vergessen.
Tim Pritlove: Was war denn jetzt die gute Nachricht?
Khaleesi: Na, das mit dem Bußgeld und Demeter-Urteil.
Tim Pritlove: Das mit dem Bußgeld. Achso. Dann holen wir das einfach nochmal nach.
Tim Pritlove: Die gute Nachricht ist jetzt. sind wir schon fast durch. Aber wir haben noch ein paar sonstige Meldungen.
Khaleesi: Ja, das stimmt. Und zwar sucht Epicenter Works eine Frontend-Entwicklerin für ein Softwareprojekt. In den nächsten Monaten. Es wird nach Personen gesucht, die sich mit React und,
Khaleesi: Vue und Angular und mit Anbindung an REST APIs auskennen. Das Projekt heißt Dear MEP. Es ist,
Khaleesi: übrigens ein bezahltes Softwareprojekt und Bewerbung bitte an jobs at epicenter.works.
Khaleesi: Unter dem Stichwort Dear MEP. Ich kann euch das sehr ans Herzen legen, die Techies von
Khaleesi: MEP Centerworks sind nämlich sehr nett und eventuell fällt dabei auch eine Zusammenarbeit
Khaleesi: mit mir raus, aber mehr dann später.
Tim Pritlove: Jetzt wird es aber hot.
Tim Pritlove: Alright. Gut, dann bleibt uns eigentlich nur noch, auf die Termine hinzuweisen.
Khaleesi: Am 25.01. findet in Brüssel das jährliche Privacy Camp organisiert von E3 statt.
Khaleesi: Das wird sowohl vor Ort als auch hybrid passieren und es gibt sehr viele Vorträge zu digitalen Menschenrechten und weiteren Themen.
Tim Pritlove: Und dann ist auch bald wieder Ostern und Ostern heißt Easter Egg. Also neuerdings heißt das wieder,
Tim Pritlove: weil bisher hieß es ja immer, Easter Egg fällt aus wegen Wissen schon und das ist jetzt, das sieht so aus, als ob das jetzt zum Ende kommt. Wird auch langsam mal Zeit. Also Easter Egg 2023 soll stattfinden. Was ist das? Das ist das Ostertreffen des Chaos Computer Club und der,
Tim Pritlove: wird dieses Mal endlich dann hoffentlich, wie das eben schon seit Ewigkeiten geplant war, in Hamburg stattfinden, nämlich im Kampnagel und ja, das könnte dann umtriebig werden.
Tim Pritlove: 29.3. bis 1.4. ist übrigens Ostern. Weiß ja mal, keiner, wann Ostern ist. Ich könnte ein Chat mit dir bitte mal fragen. Achso, du meinst, wegen Easter Egg weiß man jetzt.
Khaleesi: Aber alle wissen ja, wann der Easter Hack ist und das ist ja das wirklich Relevante.
Tim Pritlove: Endlich von Ostern ist.
Khaleesi: Genau. Und wir kommen auch zur nächsten Gulasch Programmier-Nacht. Die findet nämlich statt vom 8. bis zum 11. Juni in Karlsruhe.
Tim Pritlove: Genau, im ZKM wahrscheinlich wieder. Alles wie immer.
Khaleesi: Alles wie immer, das ist die GPN 21.
Tim Pritlove: Das ist eine dramatische Verschiebung der Realitäten. Die waren nämlich so glücklich, dass sie durch irgendeine andere Doppelveranstaltung mal sich aligned haben mit den Jahreszahlen und jetzt wird wieder durchgezählt und jetzt weiß keiner Bescheid.
Tim Pritlove: Also wie auch immer, GPN findet statt und das ist auch schon mal eine gute Nachricht. Alright, gut und die letzte gute Nachricht ist, jetzt sind wir auch durch. Also die Frage ist,
Tim Pritlove: ist das für uns eine gute Nachricht oder ist das eine gute Nachricht für alle oder ist es für Das wird niemanden eine gute Nachricht. Wir werden es nie wissen.
Khaleesi: Heute ist nicht alle Tage, ne?
Tim Pritlove: Ja.
Tim Pritlove: Wir kommen wieder, keine Frage. Khaleesi, vielen Dank und vielen Dank fürs Zuhören. Vielen Dank, dass ihr auch 2023 wieder dabei seid bei Logbuch Netzpolitik.
Tim Pritlove: So, und wir haben sicherlich noch ein paar schlechte Nachrichten für euch dieses Jahr,
Tim Pritlove: die wir hier versuchen, in gewohnter Manier zu diskutieren. Oder?
Khaleesi: Ja, ich komm vorbei. Ich bin dabei.
Tim Pritlove: Du bist dabei? Schlechte Nachrichten? Du bist dabei. Alles klar. Dann sagen wir Tschüss, bis bald!