Tim Pritlove: Guten Morgen, Linus.
Linus Neumann: Guten Morgen, Tim.
Tim Pritlove: Heute war ja Wahl. Hattest du die Wahl? Was hast du gewählt?
Linus Neumann: Ich sagte doch nicht, was ich gewählt habe. Was war das denn jetzt?
Linus Neumann: Die haben heute in dem Wahllokal, die haben den Ablauf falsch gehabt.
Linus Neumann: Ich bin da hingekommen, hab denen meine Wahlbenachrichtigungskarte gezeigt,
Linus Neumann: dann hab ich einen Stimmzettel bekommen.
Linus Neumann: Ich dachte so, der hat mich jetzt gar nicht von der Liste der Wählerinnen gestrichen.
Linus Neumann: Dann kam ich aus der Kabine zurück mit meinem Stimmzettel gehe zu der Urne und
Linus Neumann: dann steht da halt der Typ mit der mit der Liste wo die Namen stehen wo er mich
Linus Neumann: abstreichen muss und sag ich so ja,
Linus Neumann: was mach ich jetzt ja zeigen sie mal her und nehmen sie meinen Stimmzettel ich
Linus Neumann: so, den geb ich ihnen nicht,
Linus Neumann: achso ja ne sorry, haben sie einen Personalausweis weil normalerweise hätten
Linus Neumann: wir gerne die Wahlbenachrichtigung.
Linus Neumann: Ich so, habe ich. Kann ich Ihnen gerne zeigen.
Linus Neumann: Wahlbenachrichtigung gezeigt. Ja, gut.
Linus Neumann: Ja, dann gucken wir jetzt das, was Sie hier mal wegstreichen.
Linus Neumann: Dann können Sie den Stimmzettel da in die Urne werfen.
Linus Neumann: Tut mir leid, dass ich den gerade nehmen wollte. Das wollte ich natürlich nicht nehmen.
Linus Neumann: Dem war schon auch klar, dass er da gerade so an den falschen,
Linus Neumann: potenziell an den falschen hätte geraten können. Mitgeben Sie mal den Stimmzettel.
Linus Neumann: Fand ich auf jeden Fall ganz gut. Aber das war jetzt als Intro-Gang wahrscheinlich zu lang, ne?
Tim Pritlove: Wir sehen Martin noch die Hoffnung. Ich krieg das so wie geschnitten.
Tim Pritlove: Du machst das doch schon eine Weile.
Tim Pritlove: Was machen wir jetzt?
Linus Neumann: Fangen wir wieder neu an oder du machst jetzt die Musik?
Tim Pritlove: Oh Mann, das fängt ja gut an.
Tim Pritlove: Logbuch-Netzpolitik Nummer 484 vom 11.
Tim Pritlove: Februar 2024 und man verlernt mit der Zeit ja alles, sogar Sendungseinstiege.
Linus Neumann: Ich hab dir gesagt, mir fällt zu weich ein.
Tim Pritlove: Ja, jetzt lassen wir das so, oder?
Linus Neumann: Ich hätte noch andere zur Auswahl gehabt von ChatGPT.
Tim Pritlove: Die waren nicht witzig.
Linus Neumann: Ja.
Tim Pritlove: Ich dachte, ich.
Linus Neumann: Kann ja keinen Qual-der-Wahl-Witz machen oder so. Das ist ja zu abgedroschen.
Tim Pritlove: Tja.
Linus Neumann: Ja, wir hatten Wiederholungswahl in Berlin.
Tim Pritlove: So sieht es aus. Ja.
Linus Neumann: Und es ist keiner hingegangen.
Tim Pritlove: Ich war gerade ein bisschen verwirrt von deiner Reihenfolge.
Tim Pritlove: Also ich meine, erst kommt man noch mit der Wahlbenachrichtigung an. Ja.
Linus Neumann: Die haben das falsch gemacht.
Tim Pritlove: Aber du meintest gerade, als erstes müsstest du von der Wählerliste gestrichen werden.
Tim Pritlove: Das ist ja tatsächlich erst, wenn du die Stimme abgibst, dann wirst du gestrichen.
Linus Neumann: Okay, dann hat er das gemacht. Dann hat er es richtig gemacht.
Tim Pritlove: Ja. Bei mir war jetzt der Prozess ein bisschen anders, weil ich hatte eigentlich
Tim Pritlove: Briefwahl beantragt, die dann aber nicht wahrgenommen. Und dann musste ich ja
Tim Pritlove: erstmal durch den Prozess durchgehen.
Linus Neumann: Dann musst du durch den Prozess der Ausstellung eines neuen...
Tim Pritlove: Dann musste ich das Material, was mir zugesendet wurde, also den Wahlschein
Tim Pritlove: und so weiter, den musste ich dann, naja, sie haben gesagt, ich muss den jetzt vernichten.
Tim Pritlove: Ja, okay. Und wie mache ich das jetzt ordnungsgemäß?
Linus Neumann: Feuerzeug.
Tim Pritlove: Ja, wussten sie dann erstmal auch nicht so richtig. Ja, das müssen sie irgendwie da hinten machen.
Tim Pritlove: Dann bin ich zu diesen anderen Vögeln gegangen, da wo man dann eigentlich seine
Tim Pritlove: Stimme abgibt, also seinen Stimmzettel abgibt.
Tim Pritlove: Und ja, müssen sie jetzt vernichten. Ja, so weit habe ich das schon verstanden.
Tim Pritlove: Die Frage ist, was ist der korrekte, ordnungsgemäße Vorgang?
Tim Pritlove: Muss ich das jetzt anzünden? Das haben sie mir nicht gesagt.
Tim Pritlove: Ich habe nur gefragt, ich wollte ja sozusagen den Prozess nicht in Gefahr bringen.
Linus Neumann: Ja.
Tim Pritlove: Das weiß ich, dann mache ich irgendwas falsch.
Linus Neumann: Du machst den falsch kaputt und dann kann man den nicht mehr richtig kaputt machen.
Tim Pritlove: Ja, dann ist das wieder so ein Schmetterlingsschlag.
Linus Neumann: Oder der ist schon kaputt und die hätten aber vorher noch...
Tim Pritlove: Ja, also ich hatte einfach Angst, dass die ganze Welt auseinanderbricht,
Tim Pritlove: wenn ich jetzt nicht das Richtige tue.
Linus Neumann: Also wenn man schon eine Wiederholungswahl macht, möchte man ja jetzt auch nicht...
Tim Pritlove: Dabei alles falsch machen.
Linus Neumann: Ja, noch was falsch machen.
Tim Pritlove: Dann waren es wieder die Wähler, ne?
Linus Neumann: Ein drittes Mal.
Tim Pritlove: Ja. Ja. Nee, es war alles ganz reibungslos. Es war allerdings auch wenig los.
Linus Neumann: Ja.
Tim Pritlove: Also ich tippe mal...
Linus Neumann: Ich glaube auch, deswegen haben die da... Die waren wahrscheinlich völlig geschockt.
Tim Pritlove: Unterfordert. Ja. Deswegen habe ich ja ihnen gleich eine Aufgabe gestellt.
Tim Pritlove: Naja, ich habe es dann auf jeden Fall geschafft und der Stimmzettel ist dann
Tim Pritlove: irgendwann in der Kiste gelandet. Und jetzt ist alles anders.
Linus Neumann: Also mein Eindruck war, dass das da schon grob lief. Ich habe zum Beispiel...
Linus Neumann: Gecheckt, ob da auch wirklich die Kandidatinnen und Kandidaten draufstehen, die ich erwarte.
Linus Neumann: Das war ja bei einem Wahllokal vor zwei Jahren so, dass sie innerhalb einer
Linus Neumann: halben Stunde gemerkt haben, dass sie vom falschen Wahlkreis die Zettel ausliegen hatten.
Linus Neumann: Dass dann irgendwann einer hingegangen und meinte also ich wollte eigentlich
Linus Neumann: jemand anders wählen, aber der ist nicht auf dem Zettel,
Linus Neumann: können sie mal gucken ob das die richtigen sind, weil auf meiner Wahlbenachrichtigung
Linus Neumann: und so steht ja hier Wahlbezirk und so,
Linus Neumann: und dann, hier hängt ja auch überall irgendwie so einer, aber der steht hier
Linus Neumann: nicht und dann haben die haben die gesagt, oh Oh, ha!
Linus Neumann: Ja, und es ist natürlich auch lustig mit denen, die zu dem Zeitpunkt schon gewählt hatten.
Tim Pritlove: So ein Durcheinander. Also da ist echt alles schief gegangen.
Tim Pritlove: Zur Erinnerung, das war jetzt hier die in Berlin völlig verkackte Bundestagswahl
Tim Pritlove: und auch Landtags- oder Senatswahl in Berlin.
Tim Pritlove: Letztere wurde ja schon mal nachgeholt. Das hat uns ja dann hier die tolle,
Tim Pritlove: Verkehrssenatorin eingebracht, die jetzt erstmal wieder alle Radwege verhindern muss und so.
Tim Pritlove: Und du weißt schon hier, sie hat jetzt übrigens gemerkt, dass das irgendwie
Tim Pritlove: mit dem ähm, dass das mit dem Magnetschwebezoch, dass das schwierig ist.
Linus Neumann: Ach was?
Tim Pritlove: Ja. Da wäre so viel, da würde so viel dranhängen irgendwie, das wäre tatsächlich
Tim Pritlove: ein bisschen schwierig.
Linus Neumann: Da haben sich schon ganz andere Städte dran verhoben.
Tim Pritlove: Man wählt da Leute und vor allem Politiker haben dann oft ja bei den meisten
Tim Pritlove: Leuten so dieses, naja, die stellen sich ja zur Wahl, die müssen ja auch irgendwie kompetent sein.
Tim Pritlove: Und das ist einfach ein Trugschluss. Also nicht, dass sie nicht intelligent sein können.
Tim Pritlove: Ich habe schon Politiker erlebt, die sind intelligent, aber meistens ist es dann doch so.
Tim Pritlove: Das, ja, wie sagte Pavel mal so schön, die hätten auch manchmal Probleme einfach mit Mathematik schon.
Tim Pritlove: Also einfach Grundrechenarten wären teilweise schwierig zu vermitteln gewesen.
Tim Pritlove: So Prozentrechnung und so Sachen, das würde einfach so nicht verstanden werden da.
Tim Pritlove: Und das ist schon mal so ein Teil des Unglücks.
Tim Pritlove: Ja, naja, also wir haben jetzt auf jeden Fall beide nachgewählt,
Tim Pritlove: weil wir beide in so betroffenen Wahlbezirken waren.
Tim Pritlove: Das ist ja nicht überall in Berlin, sondern es ist nur in ausgewählten,
Tim Pritlove: nur in den feinsten Bezirken, wo die speziellen Leute wohnen.
Tim Pritlove: Da wollten sie es dann doch nochmal genau wissen.
Tim Pritlove: Und dann gucken wir mal, was dabei rauskommt. Wir sitzen ja hier früher morgen und haben keine Ahnung.
Tim Pritlove: Aber Spoiler, es wird sich nicht füreinander durch. Ich.
Linus Neumann: Habe es ehrlich gesagt, also ich muss sagen, die war ja auch ein bisschen unterberichtet.
Linus Neumann: Also mich wundert das überhaupt nicht, dass diese Beteiligung jetzt niedriger ausfällt.
Tim Pritlove: Ich weiß nicht, ob sie niedriger ausfällt, nur als ich da war,
Tim Pritlove: war nicht viel los. Das heißt ja erstmal gar nichts.
Linus Neumann: Naja, wenn man jetzt so die ersten Berichte so anschaut,
Linus Neumann: ist die Wahlbeteiligung wohl relativ gering und jetzt irgendwie meine Kontakte
Linus Neumann: in den Wahllokalen sagen auch, dass es eher langweilig ist.
Tim Pritlove: Tja, wenn ihr was Spannendes machen wollt, dürft ihr euch nicht für die Demokratie einsetzen.
Tim Pritlove: Naja, gut. Neue Betätigungsfelder gibt es ja auch bei der Bahn.
Tim Pritlove: Hast du das mitbekommen?
Linus Neumann: Ja, da gibt es...
Tim Pritlove: Kennst du dich da aus eigentlich? Hier MS-DOS und Windows 3.11.
Linus Neumann: Ja, da habe ich...
Tim Pritlove: Hast du Erfahrung?
Linus Neumann: So wie du auf alten Schiffen lernt man das Segeln.
Tim Pritlove: Ja.
Linus Neumann: Und habe ich gemacht, ja. Ja.
Tim Pritlove: Was hast du gemacht da auf MS-DOS? Was können Sie da vorweisen, Herr Neumann? Ich.
Linus Neumann: Glaube, ich hatte einmal ein
Linus Neumann: altes Laptop, da war glaube ich so MS-DOS 3.8 oder sowas, kann das sein?
Linus Neumann: Das wurde noch von Disketten gebootet, der Rechner hatte noch nicht mal eine Festplatte.
Linus Neumann: Aber mein erster richtiger Rechner, den ich auch davor hatte,
Linus Neumann: dieses alte Laptop, habe ich dann irgendwann mal aus historischen Zwecken wieder gestartet.
Linus Neumann: War glaube ich MS-DOS 6.2 war das so die?
Linus Neumann: Und dann musste man Win eingeben, damit Windows 3.11 startete.
Linus Neumann: Habe ich hingekriegt. Mhm.
Tim Pritlove: Okay, super.
Linus Neumann: Und also lief Doom drauf, also hatte ich den Rechner, würde ich sagen, vollständig im Griff.
Tim Pritlove: Mit 3D sozusagen. Okay, ja dann kannst du bei der Bahn anfangen,
Tim Pritlove: ne? Die suchen jetzt da Leute.
Tim Pritlove: Windows 3.11 für Workgroups. Ja.
Linus Neumann: Alles geil. 3.11 für Workgroups, dieser Name allein, ne?
Tim Pritlove: Das ist jetzt kein Witz, ne? Also...
Tim Pritlove: Nicht die Bahn, sondern konkret Siemens. Die Bahnabteilung von Siemens sucht
Tim Pritlove: einen Admin für Windows 3.11, für Workgroups.
Tim Pritlove: Und wir dachten euch, wir dachten uns so für euch so als Jobangebot,
Tim Pritlove: vielleicht ergibt sich da ja nochmal was.
Tim Pritlove: Für so Leute, die auch dann Schwierigkeiten hatten, dann mit der Entwicklung mitzuhalten.
Linus Neumann: Ja, weil IT ist ja schon so ein schnelllebiges Feld.
Linus Neumann: Und es stimmt ja auch. Und dann irgendwann zu sagen, nee, komm,
Linus Neumann: Schuster, bleib bei deinen Leisten.
Tim Pritlove: Mit einem alten Pferd bringst du keine Tricks mehr bei.
Linus Neumann: Nee.
Tim Pritlove: Hund sagt man, ne? Mit einem alten Hund bringst du keine Tricks mehr bei. So war das.
Linus Neumann: Aber wenn du das richtig unterkommst. Ich frage mich, wie du sowas sicher betreiben
Linus Neumann: willst, aber das haben sie auch direkt dazu gesagt, dass es in der Bahn üblich
Linus Neumann: wäre, dass Dinge länger betrieben werden und dass sie selbstverständlich sicher betreiben.
Tim Pritlove: Ach ja, ich habe, muss ich sagen, wenig Erfahrung mit Windows 3.11 für Workgroups,
Tim Pritlove: da war meine aktive Windows-Zeit schon lange vorbei.
Tim Pritlove: Die war nämlich nur sehr kurz, ich habe nämlich eigentlich nur Windows 1.0 verwendet
Tim Pritlove: und das auch nur zu einem einzigen Zweck, um damit PageMaker zu starten.
Tim Pritlove: Das war eigentlich die einzige Anwendung, die ich als unter Windows verwendet habe in all der Zeit.
Linus Neumann: Ne, ich glaube, ich bin ja relativ spät dann zu Mac gegangen und ich habe dann
Linus Neumann: schon relativ, ich glaube zu Windows 95 Zeiten habe ich so Dualboot Linux gehabt schon.
Linus Neumann: Aber ich musste natürlich irgendwie bestimmte Programme da einfach,
Linus Neumann: insbesondere die ganzen Spiele, musste es natürlich unter Windows laufen lassen.
Linus Neumann: Und nicht unter Wine.
Tim Pritlove: Spiele, Windows.
Linus Neumann: Meinst du mit den Angaben kriegen wir den Job?
Tim Pritlove: Also du hast Chance nicht.
Linus Neumann: Ich glaube.
Tim Pritlove: Ich halte mich da raus.
Linus Neumann: Lilo.
Tim Pritlove: Ich glaube, ich mache weiter Podcasting.
Linus Neumann: Mit dem Lilo habe ich dann Dualboot gemacht. Der Linux-Loader.
Linus Neumann: Der Linux-Loader, genau.
Tim Pritlove: Wow. Alright. Na gut, wisst ihr, wo ihr noch einen Job kriegt jetzt.
Linus Neumann: Ja.
Tim Pritlove: Genau. Aber wir wollten uns ja eigentlich über netzpolitische Aspekte unterhalten.
Linus Neumann: Deswegen möchtest du jetzt über Raumzeit reden, oder was?
Tim Pritlove: Ah ja, stimmt ja, genau. Da war ja noch eine Hausmitteilung.
Linus Neumann: Ja.
Tim Pritlove: Genau. Also heute, wie sagte ich gerade, ist 11. Februar.
Tim Pritlove: Und das bedeutet in 10 Tagen gibt es eine Möglichkeit meinen anderen Podcast
Tim Pritlove: mal live mitzuerleben wenn ihr Lust habt, ich mache,
Tim Pritlove: eine Aufnahme on stage und da kann man so drumrum sitzen und in die Ferne schauen weil das Ganze im,
Tim Pritlove: Zeiss Großplanetarium wie es korrekt da also heißt in Berlin stattfindet,
Tim Pritlove: da kann man sich dann ein Ticket klicken und sich hinsetzen und ich habe einen
Tim Pritlove: Gast und das ist Ulf Merbold, das ist so ein ja, so ein, ja, das ist einer der,
Tim Pritlove: erfolgreichsten Astronauten Deutschlands, so, dreimal im All gewesen und so
Tim Pritlove: und nach Sigmund Jähn, der zweite.
Tim Pritlove: Kommen übrigens beide so mehr oder weniger aus der gleichen Ecke,
Tim Pritlove: das ist echt interessant, also man muss da schon so aus Thüringen,
Tim Pritlove: Erzgebirge, das ist der Ort, wo die, wo die Ursuppe der deutschen Astronauten herkommt.
Tim Pritlove: Aber der ist dann in hat im Westen rüber gemacht, weil er nicht Physik studieren
Tim Pritlove: durfte. Deswegen ist er dann westdeutscher Astronaut geworden.
Linus Neumann: Im Westen rüber gemacht und dann ins All. Also jemand, dem es grundsätzlich
Linus Neumann: einfach nicht gefällt, wo er ist.
Tim Pritlove: So ein Meckerer. Naja, hast du jetzt goldener Westen alles rüber und dann so, ah ne.
Linus Neumann: Ah scheiße.
Tim Pritlove: Boah.
Linus Neumann: Ich muss hier weg.
Tim Pritlove: Auf in den Orbit.
Tim Pritlove: Naja. Genau.
Linus Neumann: Wie alt ist er jetzt?
Tim Pritlove: Wie alt ist er?
Tim Pritlove: Also auf jeden Fall schon Rente, Baujahr 1941.
Linus Neumann: Also ist er gar nicht mehr als Astronaut tätig?
Tim Pritlove: Nein, nein, der ist jetzt 80 Jahre alt.
Tim Pritlove: 83, 82, 83.
Linus Neumann: Ja, da kann man dann auch, also Astronaut ist ja auch eigentlich ein anstrengender
Linus Neumann: Job, da kann man dann auch einfach mal in den Ruhestand gehen.
Tim Pritlove: Ja.
Linus Neumann: Okay, und der erzählt dann, wie sie damals...
Tim Pritlove: Genau.
Linus Neumann: Mit Windows 3.11.
Tim Pritlove: Föber-Groups. Genau.
Tim Pritlove: Würde ich mich freuen, wenn ihr dabei seid. So, jetzt aber Inhalt.
Linus Neumann: Genau, auf der europäischen Ebene wird ja der AI-Act diskutiert.
Linus Neumann: Und es ist so ein skurriles Feld irgendwie.
Linus Neumann: Es gibt jetzt eigentlich eine relativ klare ursprüngliche Positionierung,
Linus Neumann: die auch das Parlament hatte, nämlich die gesagt hat, hier, wir möchten bitte
Linus Neumann: keine biometrische Echtzeitüberwachung haben,
Linus Neumann: wir möchten auch so Emotionserkennung,
Linus Neumann: also im Prinzip diese ganze biometrische Massenüberwachung, das möchten wir
Linus Neumann: eigentlich nicht haben.
Linus Neumann: Und dann kam die spanische Ratsvorsitz, der ja nun auch wirklich irgendwie hier
Linus Neumann: relativ oft negativ auffällt und hat gesagt, ja nee, machen wir doch,
Linus Neumann: wir haben ja eine gute Idee, danke für eure Position, liebes Parlament,
Linus Neumann: wir schreiben da jetzt mal wieder was rein und möchten halt eher schon so etwas drin haben.
Linus Neumann: Ja, also möchten diese ganzen Sachen in der biometrischen Überwachung eher wieder drin haben.
Linus Neumann: Jetzt müssen wir mal gucken, wie sich das weiter entwickelt.
Linus Neumann: Es ist ja wirklich immer so eine komische Sache.
Linus Neumann: Also vielleicht muss ich mir da irgendwann auch nochmal einen ordentlichen Zeitstrahl
Linus Neumann: malen lassen, wann so etwas, wie dieser Prozess wirklich läuft,
Linus Neumann: wann da mal die endgültige Abstimmung ist.
Linus Neumann: Aber auf jeden Fall biometrische Echtzeitidentifizierung, Emotionserkennung
Linus Neumann: und sowas bleibt da weiter im Rahmen der Diskussion.
Linus Neumann: Auch wenn eigentlich schon stabile Positionen dagegen bestanden im EU-Parlament
Linus Neumann: und die Mitgliedstaaten im Rat das jetzt irgendwie anders sehen.
Linus Neumann: Und eine andere spannende Sache finde ich, also es geht natürlich hier um die Sicherheitsbehörden.
Linus Neumann: Also hier geht es jetzt, kannst du dir genau anschauen, wir machen da so ein
Linus Neumann: AI-Act, dann geht es einmal darum,
Linus Neumann: okay, müssen wir gucken, was macht denn die Wirtschaft so, was können wir der
Linus Neumann: Wirtschaft untersagen und die Wirtschaft muss eben eigentlich Register führen
Linus Neumann: über besonders risikoreiche KI-Systeme.
Linus Neumann: Also wenn du irgendwie, das ist dann definiert, was jetzt besonders risikoreich
Linus Neumann: ist, Entscheidungstreffen, besondere Überwachung oder so.
Linus Neumann: Und für den Staat selber, da kommt natürlich dann wieder so eine andere Sache.
Linus Neumann: Sagen wir erstens, ach ja, hier so biometrische Massenüberwachung,
Linus Neumann: das können wir eigentlich mal den Sicherheitsbehörden erlauben.
Linus Neumann: Das ist schon mal ganz gut.
Linus Neumann: Und eigentlich, wenn die riskante KI-Systeme einsetzen, dann erfassen wir das
Linus Neumann: zwar auch in der Datenbank, aber im nicht öffentlichen Teil.
Linus Neumann: Weil muss ja nicht unbedingt jeder sehen, dass wir bei Strafverfolgung,
Linus Neumann: Migration, Asyl und Grenzkontrollmanagement riskante KI-Systeme einsetzen.
Linus Neumann: Aber das können wir jetzt, das ist ja witzlos, wenn wir dann das in der Datenbank
Linus Neumann: schreiben müssen, dass wir die eintragen.
Linus Neumann: Deswegen sagen wir, da schaffen wir keine Transparenz drüber.
Linus Neumann: Also erkennbar hier wieder so Last-Minute-Wechsel für, ach lass uns mal diese
Linus Neumann: ganzen Überwachungsvorzüge dann doch mal für uns Staaten freistellen und uns erlauben.
Linus Neumann: Während ja, dieses ganze Ding ja eigentlich geritten wird unter Jetzt-Licht,
Linus Neumann: aber hier mal die EU den Konzernen mal die die mal entketten,
Linus Neumann: dass die hier nicht ungezügelte,
Linus Neumann: KI-Überwachung hier ausrollen und ja, ehrlich gesagt finde ich das ein bisschen
Linus Neumann: sehr erstaunlich, was da, wie das da jetzt irgendwie gerade läuft.
Linus Neumann: Dann gab es irgendwie so so einen komischen offenen Brief, der mich auch eher ein bisschen.
Linus Neumann: Ja, wie soll man das sagen? Ratlos zurückgelassen hat nämlich der AI-Act-Verabschiedenbrief,
Linus Neumann: den dann irgendwie ein paar Organisationen unterschrieben haben.
Linus Neumann: Wir haben irgendwie so Bertelsmann Stiftung, Stiftung Neue Verantwortung,
Linus Neumann: Verbraucherzentrale, Bundesverband, aber auch einige, also irgendwie eine komische
Linus Neumann: Liste, wo irgendwie so steht so, ja der fehlende Rechtsrahmen ist das größte Problem.
Linus Neumann: Und wenn da jetzt einzelne Sachen nicht so gut dran passen, dann soll man trotzdem.
Linus Neumann: Jetzt mal unterschreiben.
Linus Neumann: Wir, die Unterzeichner, unterstützen nicht alle Maßgaben der Verordnung.
Linus Neumann: Vielmehr sehen sie an verschiedenen Stellen Verbesserungsbedarf.
Linus Neumann: Aber wir müssen jetzt gemeinsam Position beziehen, um die Zukunftsfähigkeit
Linus Neumann: Deutschlands und Europas zu sichern.
Linus Neumann: Also habe ich auch jetzt ja üblicherweise, sagst du in deinem offenen Brief,
Linus Neumann: ja, folgendes hätten wir gerne noch geändert und dann Volldampf voraus,
Linus Neumann: aber hier offener Brief an die deutsche Bundesregierung,
Linus Neumann: stimmen Sie für den AI-Act.
Linus Neumann: Und natürlich klar, würde der nicht angenommen werden, dann wäre das ein hohes
Linus Neumann: Risiko für die Innovationskraft und den Grundrechtsschutz in Europa mit internationalen Auswirkungen.
Linus Neumann: Also die Sorge, die sie in diesem Brief benennen, ist,
Linus Neumann: dass ein Flickenteppich aus Regulierung in Europa entstehen könnte und dann
Linus Neumann: damit Innovationskraft gedämpft wird,
Linus Neumann: weil sich dann hier nicht die europäische AI Startups hier ordentlich durchsetzen können.
Linus Neumann: Die haben ja auch überhaupt keinen, also die haben ja jetzt gerade so richtig
Linus Neumann: eine Vollgas-Position und überhaupt keine Nachteile dadurch,
Linus Neumann: dass sie keine Daten haben oder dadurch,
Linus Neumann: dass es dieses Thema eigentlich nicht gab. Irgendwie so ein bisschen komisch.
Linus Neumann: Also ich denke diesen AI-Act es wäre schon sehr schön wenn wir.
Linus Neumann: Wenigstens uns darüber einigen könnten keine massenhafte biometrische Überwachung
Linus Neumann: zu haben und auch keine Rückschlüsse dafür und als allererstes mal sich der
Linus Neumann: Staat selber ein paar Ketten anlegt,
Linus Neumann: aber es scheint hier eher andersrum zu sein das überzeugt mich nicht.
Tim Pritlove: Ja, das ist immer so ein bisschen die Gefahr, gerade mit so Riesenpaketen,
Tim Pritlove: also AI, das ist halt auch so mega generisch.
Tim Pritlove: Ah, künstliche Intelligenz, ja ach das Thema, das regulieren wir jetzt mal.
Tim Pritlove: Dabei ist das einfach so ein riesiges Fass, was man da aufmacht und das zeigt
Tim Pritlove: sich ja hier an den Detailverhandlungen schon, welche Aspekte es dabei gibt.
Tim Pritlove: Aber dadurch, dass das dann alles in einem dicken Teil durchgerollt werden muss
Tim Pritlove: und das ist generell auch so ein bisschen das Problem der europäischen Ebene.
Tim Pritlove: Also wenn Europa mal was anfasst, dann muss das gleich so ein Riesenpaket sein
Tim Pritlove: und alle Einzelaspekte müssen da drin untergebracht werden und dann wird es
Tim Pritlove: halt auch schnell mal zu viel und vor allem verliert man so ein bisschen dann auch den Fokus,
Tim Pritlove: was war es jetzt eigentlich nochmal,
Tim Pritlove: warum sind wir jetzt eigentlich überhaupt angetreten das zu regulieren?
Tim Pritlove: Also was war jetzt eigentlich genau der Grund?
Tim Pritlove: Und ich habe manchmal auch so den Eindruck, dass solche Sachen,
Tim Pritlove: die am Schluss über die am meisten noch gestritten wird, ursprünglich mal so der Trigger waren.
Tim Pritlove: So nach dem Motto, oh, da gibt es ja Gefahren, da müssen wir mal wegen der Gefahren,
Tim Pritlove: müssen wir mal was machen.
Tim Pritlove: Dann wird da zwei Jahre drüber geredet und dann wird das immer mehr so,
Tim Pritlove: ja die Gefahren, aber auch die Chancen, wir müssen ja auch die Chancen sehen
Tim Pritlove: und wir müssen ja unsere Innovationskraft behalten, wir müssen ja zukunftssicher
Tim Pritlove: sein und jetzt brauchen wir hier mal Rechtssicherheit und dann so,
Tim Pritlove: was wollten die alles machen?
Tim Pritlove: Achso, ihr wollt ja eine klare Regelung für die Verwendung von biometrischer
Tim Pritlove: Erfassung. so, ja dann machen wir das doch mal, da schreiben wir wir sind doch
Tim Pritlove: sowieso gerade dabei bei so einem AI-Act, das passt doch eigentlich ganz gut, oder?
Tim Pritlove: Und dann steht einfach genau das Gegenteil von dem drin, was man eigentlich
Tim Pritlove: haben wollte und das ist irgendwie so ein bisschen absurd und das halt auch
Tim Pritlove: mal alles richtig zu tracken und zu verfolgen, das ist natürlich die Aufgabe
Tim Pritlove: der ganzen Begleiter und NGOs und vielleicht auch von uns hier ein bisschen.
Tim Pritlove: Aber es ist halt schwierig wenn das alles so groß ist und dann vor allem dann
Tim Pritlove: eben die Auseinandersetzung innerhalb von Europa und dann natürlich auch noch
Tim Pritlove: mal innerhalb der europäischen Institutionen so verbissen dann geführt wird.
Tim Pritlove: Und das Parlament, der Trilog.
Tim Pritlove: Da hast du wieder irgendein Land, was aber unbedingt alles überwachen will und
Tim Pritlove: das fängt dann an rumzudrohen.
Tim Pritlove: Da wüsste ich auch ganz gerne mal, wie es da hier eigentlich aussieht,
Tim Pritlove: welche Staaten sich hier eigentlich noch so einbringen.
Tim Pritlove: Du hast halt einfach so ein paar potenzielle Staaten, die sagen wir mal so mit
Tim Pritlove: Repressionstechniken nicht ganz so Berührungsprobleme haben.
Linus Neumann: Also Beispiel in Argentinien hat kürzlich dieser Javier Millet,
Linus Neumann: glaube ich spricht man den aus.
Linus Neumann: Der hat gesagt, ja hier, wer hier protestiert, dem kneifen wir vom Sozialsystem ab.
Linus Neumann: Also kriegt ihr erstmal Hartz-IV-Sperre, wenn ihr eure Zeit so verbringt. So ungefähr.
Linus Neumann: Also Diskussionsstand ist, dass viele die Position vertreten,
Linus Neumann: ja, wir haben das ja jetzt, die Echtzeiterfassung biometrischer Natur,
Linus Neumann: die haben wir ja jetzt hier verboten.
Linus Neumann: Und deswegen ist ja gut, aber Retrograd kann man ja schon dann machen.
Linus Neumann: Also wenn die Aufzeichnung, wenn es nicht in Echtzeit ist, dann ist es erlaubt.
Tim Pritlove: Wir haben ja fünf Sekunden gewartet.
Linus Neumann: Genau das ist es nämlich. Und da gibt es dann auch keine Grenzen dafür.
Linus Neumann: Das heißt, bei Bagatelldelikten, bei der Demonstration gab es einen Handtaschendiebstahl,
Linus Neumann: wir machen jetzt mal vollständige biometrische Aufklärung, Retrograd,
Linus Neumann: das wäre also hier gedeckt.
Linus Neumann: Und jede Ausnahme, jede kleine Ausnahme wird natürlich dann sehr breit und sehr groß.
Linus Neumann: Oder wenn du keine Grenze hast, was für Straftaten oder so.
Linus Neumann: Du könntest im Prinzip sagen, du verfolgst Obdachlose wegen Hausfriedensbruch.
Linus Neumann: Diese Massenüberwachung, du guckst ja nicht einzelne Gesichter an.
Linus Neumann: Das könntest du ja ohnehin jetzt schon machen.
Linus Neumann: Und schon heute ist es ja so, dass in Deutschland Tausende identifiziert werden
Linus Neumann: mit Standardgesichtserkennungssystemen.
Linus Neumann: Und ja, das klingt erstmal nicht so übermäßig tragisch, aber das ist halt am
Linus Neumann: Ende, wird der öffentliche Raum dann so überwacht wie das Internet.
Linus Neumann: Wie das Internet heute von irgendwelchen Trackern erfasst und verfolgt wird.
Linus Neumann: Und das ist sicherlich keine so, also das ist schon sinnvoll,
Linus Neumann: dass Reclaim Your Face und so sich da stark entgegensetzen, weil das wäre jetzt
Linus Neumann: wirklich mal etwas, wo man sagen könnte,
Linus Neumann: das wäre sinnvoll so etwas nicht zu haben oder so etwas starke Grenzen zu setzen.
Linus Neumann: Anderes Beispiel, in zwischen 2018 und 2020 gab es mehr als 400 Verfahren gegen
Linus Neumann: Polizistinnen, die Datenabfragen missbraucht haben.
Tim Pritlove: Wow. Also.
Linus Neumann: Wir hatten ja hier im Logbuch mit Edelbeider auch eine Betroffene von diesen
Linus Neumann: Datenauskünften zu Gast.
Linus Neumann: Und, also man kann jetzt, diese Anzahl war mir übrigens auch echt,
Linus Neumann: also ich wusste, dass es viele, und das sind ja nur die Verfahren,
Linus Neumann: das sind ja nur die Fälle, die bekannt sind.
Linus Neumann: Mit anderen Worten, muss ja davon ausgehen, da gibt es ja eine fürchterliche
Linus Neumann: Dunkelziffer, liebe Kolleginnen und Kollegen.
Linus Neumann: Dass solche Überwachungsinstrumente in den Händen der Polizei nun wirklich nicht
Linus Neumann: so gut aufgehoben sind, wenn sie nicht mit starken Kontrollmöglichkeiten versehen sind.
Linus Neumann: Und nicht vergessen, da geht es nicht nur um die Datenabfragen,
Linus Neumann: da geht es dann auch um die ganzen Drohbriefe des NSU 2.0.
Linus Neumann: Also da sind wir nicht mehr im Bereich, der lustig ist.
Linus Neumann: Also da geht es weiter drum herum. Ich denke, diese KI-Erkennung sollte wirklich
Linus Neumann: stark eingeschränkt werden.
Linus Neumann: Und erst recht sollte das, was Staaten da machen, transparent sein.
Linus Neumann: Also diese beiden Forderungen, die kann man schon mal so stellen.
Linus Neumann: Die finde ich jetzt nicht sonderlich überzogen.
Tim Pritlove: Ja, kann man auch mal drauf bestehen. Ja.
Linus Neumann: Es gibt natürlich auch positive Aspekte.
Linus Neumann: Es soll dann eine nationale KI-Aufsichtsbehörde geben, wo du dich beschweren kannst.
Linus Neumann: Das kann potenziell schon ganz sinnvoll sein, dass du überhaupt auch Möglichkeiten
Linus Neumann: hast, dich diesen automatisierten Entscheidungssystemen oder so, die zu kritisieren.
Linus Neumann: Predictive Policing also irgendein System sagt ja, wo die Polizei hinfahren
Linus Neumann: soll, das kommt mir auch irgendwie wirklich eher lächerlich vor,
Linus Neumann: da könnte also eine Eingrenzung stattfinden,
Linus Neumann: ja das mit den Hochrisikotechnologien finde ich auch nicht schlecht, da wäre halt,
Linus Neumann: sinnvoll, wenn das für alle gilt Ja, also es war nicht alles schlecht,
Linus Neumann: aber die wirklich, wo man sagen könnte, das sind jetzt echt mal Dinge,
Linus Neumann: die man mal durchziehen könnte, da wird natürlich schon jetzt wieder gebohrt.
Linus Neumann: Tja, wie immer.
Tim Pritlove: Gut. Soviel zum AI-Act. Dann kommen wir doch mal zu den Gefahren von AI.
Tim Pritlove: Die nehmen nämlich tatsächlich zu.
Tim Pritlove: Und ich glaube, das wird hier auch nochmal ein immer wiederkehrendes Ding.
Tim Pritlove: Kennst du die Chefmasche?
Linus Neumann: Also ich kenne das nicht unter dem Begriff, ich kenne das als CEO-Fraud oder
Linus Neumann: Fake-President, aber ja.
Tim Pritlove: Fake-President, ja auch nicht schlecht, genau. Also darunter versteht man so,
Tim Pritlove: dass in Hackerkreisen nennt man die Technik ja eigentlich Social Engineering.
Tim Pritlove: Also wie bekommt man jemanden dazu etwas zu tun, was die Person eigentlich unter
Tim Pritlove: normalen Vorzeichen so nicht tun wollen würde.
Tim Pritlove: Das ist so wie, wenn amerikanische Late-Night-Shows mit dem Mikrofon auf die
Tim Pritlove: Straße gehen und die Leute nach ihren Passwörtern fragen Ja,
Tim Pritlove: haben sie Passwörter und so?
Tim Pritlove: Ja, ist ihr Passwort auch sicher? Ja, mein Passwort ist sehr sicher.
Tim Pritlove: Ja, woraus besteht denn ihr Passwort?
Tim Pritlove: Ja, ich habe den Namen meines Hundes und meinen Geburtsdatum.
Tim Pritlove: Ja, wie heißt denn Ihr Hund?
Tim Pritlove: Ja, Piffi Ach, wann sind Sie denn geboren? Ja, am 23.05.
Tim Pritlove: So
Linus Neumann: Und.
Tim Pritlove: Das ist so, du stehst da davor und denkst dir so, ah okay, das war ja einfach
Tim Pritlove: und tatsächlich kann man das glaube ich an sich selber auch ganz gut festmachen.
Tim Pritlove: Dass man eigentlich, wenn man so emotional gerade irgendwie so in so einem gesettelten
Tim Pritlove: Modus ist, der Welt ja eigentlich auch immer mit Vertrauen gegenüberstehen möchte.
Tim Pritlove: Ja. Das ist schon auch ein Wunsch von uns allen. Wir wollen eigentlich gerne
Tim Pritlove: allen vertrauen. Wir wollen das Böse nicht sehen.
Tim Pritlove: Wir wollen das Gute im Menschen sehen. Und das Problem ist nur,
Tim Pritlove: das Gute im Menschen ist zwar auch in der Welt, aber es gibt ja auch Leute,
Tim Pritlove: die sind der Meinung, sie könnten sich vielleicht an dir bereichern,
Tim Pritlove: indem sie vielleicht mal nicht ganz so gut sind.
Tim Pritlove: Naja und diese Chefmasche ist halt so eine Technik, mit der man einfach sich
Tim Pritlove: irgendwelchen Mitarbeitern eines Unternehmens gegenüber als Vorgesetzter ausgibt,
Tim Pritlove: zum Beispiel per E-Mail oder per Telefonanruf und dann drängt man sozusagen auf sie ein,
Tim Pritlove: so ja hier tu mal bitte folgenden Vorgang und wenn dieser Vorgang dann halt
Tim Pritlove: mit Geld zu tun hat, dann wird es spannend.
Tim Pritlove: Und jetzt ist gerade ein Fall bekannt geworden, der sich in Hongkong abgespielt
Tim Pritlove: hat, bei einer im Bericht nicht weiter genannten Firma mit vielen Mitarbeitern.
Tim Pritlove: Und dort wurde ein Mitarbeiter per E-Mail auch erstmal angeschrieben und dann
Tim Pritlove: vor allem zu so einer Videokonferenz eingeladen mit weiteren Führungskräften.
Tim Pritlove: Und die Videokonferenz, die fand auch dann statt und in dieser Videokonferenz
Tim Pritlove: legten so diverse Führungskräfte des Unternehmens so ihre Gründe da,
Tim Pritlove: warum jetzt dieser Mitarbeiter doch
Tim Pritlove: bitte mal eine Reihe von Überweisungen einleiten sollte, 15 an der Zahl.
Tim Pritlove: Und dann wurden die dann auch in der Folge von diesem Mitarbeiter durchgeführt.
Tim Pritlove: Das war jetzt nicht ganz wenig Geld, das war irgendwie so 200 Millionen Hongkong-Dollar
Tim Pritlove: sind hier im Gespräch, das sind so 23,
Tim Pritlove: 24 Millionen Euro ungefähr und ja, das Problem war halt nur,
Tim Pritlove: dass in dieser Videokonferenz,
Tim Pritlove: sich überhaupt gar keine richtige Person befand. Also all diese ganzen Führungskräfte,
Tim Pritlove: die er dort gesehen hat, sahen zwar aus wie Führungskräfte und hörten sich auch
Tim Pritlove: an wie Führungskräfte, aber es waren tatsächlich alle AI-generierte Fake-Personas sozusagen.
Tim Pritlove: Die Berichte, die ich jetzt so gelesen habe, sind ganz so einig darum,
Tim Pritlove: wie das jetzt so genau abgelaufen ist.
Tim Pritlove: Aber man kann wohl davon ausgehen, dass hier Bildmaterial entweder aus internen
Tim Pritlove: oder vielleicht auch einfach aus öffentlichen Videos genommen wurde.
Tim Pritlove: YouTube, irgendwas, Company-Videos und so weiter.
Tim Pritlove: Irgendwo tauchen ja dann diese Personen auf und wir wissen auch mittlerweile,
Tim Pritlove: wie wenig es an Trainingsmaterial braucht,
Tim Pritlove: um eine Person halbwegs glaubhaft dreidimensional in anderen Posen wiederzuspiegeln
Tim Pritlove: und vor allem auch etwas anderes sprechen zu lassen.
Tim Pritlove: Und wir hatten ja auch hier selber vor ein paar Sendungen Herr Bundeskanzler und Frau Alice Weidel,
Tim Pritlove: die ja hier auch klare Botschaften an die Hörerschaft von Nockbuch-Netzpolitik
Tim Pritlove: gerichtet haben und da sieht man eben, die Werkzeuge sind da.
Tim Pritlove: Also etwas, was noch vor zehn Jahren so ein bisschen total future-mäßig war,
Tim Pritlove: sind mittlerweile einfach solche Werkzeuge, die jetzt auch Kriminellen zur Verfügung
Tim Pritlove: stehen und wenig überraschend, sie nutzen sie es auch.
Tim Pritlove: Also dieser Mitarbeiter hat diese Personen auch visuell wiedererkannt und auch
Tim Pritlove: von der Stimme her wiedererkannt, also er war sozusagen, wusste diese Personen gibt es.
Tim Pritlove: Allerdings ist das schon alles so ein bisschen fakey gelaufen,
Tim Pritlove: also es gab da jetzt keine wirkliche Interaktion, es war jetzt keine.
Tim Pritlove: Realtime-Impersonifikation Brauchst du ja.
Linus Neumann: Auch wahrscheinlich gar nicht.
Tim Pritlove: Genau, die haben einfach das so, ja, guten Tag, stellen Sie sich mal vor,
Tim Pritlove: wer sind Sie denn hier, Sie sind doch hier der Untergebene und so identifizieren Sie sich mal,
Tim Pritlove: und dann so, ja, jetzt mal bitte hier Folgendes tun und das wurde dann halt
Tim Pritlove: einfach abgelesen also man kann davon ausgehen Vielleicht.
Linus Neumann: Hast du auch einfach ein, zwei echte Personen drin, die die er halt dann nicht
Linus Neumann: kennt und ein paar vorbereitete Schnipsel von den Führungskräften,
Linus Neumann: die halt einfach, was weiß ich, daneben sitzen und nicken oder so.
Tim Pritlove: Vorgeschobene Assistenten zum Beispiel, die dann die Interaktion machen.
Linus Neumann: Oder sagst du hier, so, und nach dieser Einleitung übergebe ich dann jetzt mal
Linus Neumann: an den Projektmanager Michael, der das jetzt hier kurz nochmal erzählt,
Linus Neumann: worum es heute geht oder so.
Linus Neumann: Also du musst ja, ja eigentlich einige wenige Sätze völlig generischer Natur,
Linus Neumann: die vielleicht auch im anderen Kontext schon mal gesagt wurden.
Linus Neumann: Wahrscheinlich kriegst du sowas hin mit gutem Schnitt und noch nicht mal Deepfake.
Linus Neumann: Irgendwie, dass du mal jemanden filmst in einer Videokonferenz,
Linus Neumann: wie er da sitzt oder so. Ein paar Sachen sagt dir, der dann irgendwie in einen
Linus Neumann: anderen Kontext schneidet.
Linus Neumann: Also, ich kann mir schon vorstellen, dass du da jetzt keine sonderliche Technologie brauchst.
Tim Pritlove: Nee, und vor allem gerade Gerade in diesem schwierigen vorgesetzten Situation,
Tim Pritlove: vorgesetzt zu untergeben, gerade wenn jetzt so eine Videokonferenz ist und du
Tim Pritlove: schickst vielleicht wirklich einem, diesem Mitarbeiter, unbekannte Person als
Tim Pritlove: Assistenten und als Gesprächsleiter vor.
Tim Pritlove: Du fängst ja dann nicht an als kleineres Licht, könnte sich bitte mal hier der
Tim Pritlove: CEO, der hier angeblich ist,
Tim Pritlove: mal wie man so einen Personalausweis bei der Videoidentifikation so nach links
Tim Pritlove: und nach rechts drehen muss, damit irgendwie das Hologramm ein bisschen aufleuchtet.
Tim Pritlove: Möchtest du dann vielleicht auch, dass diese Personen mal so bewusste Positionen
Tim Pritlove: einnehmen, die vielleicht von so einer AI nicht ganz so gut gefakt werden?
Tim Pritlove: Lassen sie doch mal ihr Haar fallen.
Linus Neumann: Vor allem interessant ist, dass der Typ ja offenbar ursprünglich ...
Linus Neumann: So ein bisschen skeptisch war und gesagt hat, ey, das kommt mir irgendwie alles komisch vor.
Linus Neumann: Und dann wurde er mal spontan in die Konferenz reingeholt. Dann sitzen da die
Linus Neumann: ganzen Gesichter und sagen, wie, sie wollen die Überweisung nicht machen.
Linus Neumann: Was ist das denn? Ja, genau.
Linus Neumann: Peer Pressure. Und das ist übrigens ein Phänomen, das sehr häufig vorkommt.
Linus Neumann: Diese Fake President Sachen. Ja, also auch, also das kenne ich jetzt so aus
Linus Neumann: dem Wirtschaftsumfeld schon mehrere Unternehmen, die so etwas mal berichtet
Linus Neumann: haben oder wo es auch mehrmals passiert ist.
Linus Neumann: Ja, dass dann irgendwie mal bei der einen Niederlassung, mal bei der anderen
Linus Neumann: und dann natürlich jetzt nicht im Bereich, also nicht immer im Bereich von Millionen,
Linus Neumann: aber so im Bereich von ein paar hunderttausend kommt das dann doch recht häufig mal vor.
Tim Pritlove: Ja, das muss auch nicht mal der Präsident sein. Also wenn man sich Zugang verschaffen
Tim Pritlove: will, da hilft auch mal ein Blaumann und eine Werkzeugtasche.
Tim Pritlove: Das wirkt bei vielen Leuten auch schon sehr überzeugend.
Tim Pritlove: Wo ist denn hier der Wasserschaden?
Linus Neumann: Eigentlich kommst du ja überall rein, wenn du ein Funkgerät in der Hand hast.
Linus Neumann: Du zeigst einfach nur mit der Antenne dahin, wo du jetzt hin willst.
Linus Neumann: Ja, oder auf den Kongress-Chaospost.
Linus Neumann: Diese Überweisung ich meine, die haben schon immer sehr gute Cover-Stories,
Linus Neumann: zum Beispiel auch irgendwie so, ja wir machen jetzt hier einen Merger hat sich
Linus Neumann: denn PwC schon bei dir gemeldet?
Linus Neumann: Nee, haben sich nicht und dann baust du quasi,
Linus Neumann: mit mehreren Personen im Prinzip so eine Erwartungshaltung auf,
Linus Neumann: weil da meldet sich auf einmal PwC ist halt was ganz anderes als jetzt scheiße,
Linus Neumann: haben die sich immer noch nicht bei dir gemeldet.
Linus Neumann: Naja gut, warte mal, dann hauen wir jetzt mal rein. Und dann irgendwie sowas
Linus Neumann: wie, ja, damit wir hier, also da und da gelten vom Financial Regulator recht harte Bedingungen.
Linus Neumann: Und damit das nicht als Insider-Trading gilt, müssen wir jetzt über die privaten
Linus Neumann: E-Mails kommunizieren.
Linus Neumann: Wo dann nämlich quasi, was erstmal ganz gut ist, weil jetzt bist du auf einmal
Linus Neumann: der Kriminelle. So, oh, Insider-Trading, nee, das wollen wir nicht.
Linus Neumann: Dann lassen wir lieber private E-Mails machen. Ich meine, ehrlich gesagt,
Linus Neumann: wenn mein Chef mir sagen würde, wechsel mal auf private E-Mail,
Linus Neumann: das ist hier Insider-Trading, da würde ich sagen, frage mal lieber jemand anders.
Linus Neumann: Aber das ist natürlich kein schlechter Trick dafür zu sorgen,
Linus Neumann: dass du halt auf einmal so ein bisschen Unrechtsbewusstsein hast.
Linus Neumann: Dass du froh sein kannst, dass die so nett sind, dir bei deinem Insider-Trade zu helfen oder sowas.
Linus Neumann: Da siehst du dann, wenn man mal die Gelegenheit hat, solche Fälle aufzuarbeiten,
Linus Neumann: schon sehr elegante psychologische Techniken. Die haben alle schon ihren Mitnick gelesen.
Tim Pritlove: Dann regt man sich immer so über Bürokratie auf, das Einhalten von Regeln besteht,
Tim Pritlove: um irgendeinen Vorgang auszulösen.
Tim Pritlove: Dabei sind genau diese Regeln oft auch so ein Schutz.
Tim Pritlove: Ja, das muss von Personen sowieso unterschrieben werden, das muss nochmal vorgelegt
Tim Pritlove: werden, bevor das nicht wieder zurückgekommen ist, kann ich hier gar nichts machen und so.
Tim Pritlove: Also da wird man ja auch schnell mal so, ja das muss doch mal auch hier und
Tim Pritlove: ich muss doch mal ganz schnell und ich brauche das jetzt auch und so.
Tim Pritlove: Ja, man möchte gerne immer die Flexibilität für sich selber haben,
Tim Pritlove: aber sieht natürlich selten den ganzen Prozess.
Tim Pritlove: Ja, also der Mitarbeiter kann einem natürlich sehr leid tun,
Tim Pritlove: er hat es ja dann am Ende auch selber gemerkt, aber er ist halt ordentlich bearbeitet worden.
Tim Pritlove: Also auch nach der Videokonferenz ging das dann noch ein paar Tage weiter mit
Tim Pritlove: E-Mail, mit Instant-Messaging, es wurden auch nochmal 1 zu 1 Videocalls nachgereicht.
Tim Pritlove: Wie die dann im Detail gelaufen sind, weiß ich jetzt leider nicht.
Tim Pritlove: Das war in den Berichten jetzt nicht so drin.
Tim Pritlove: Und es dauerte dann so eine Woche, bis er irgendwie richtig Verdacht schöpfte.
Tim Pritlove: Da waren aber die Überweisungen eben schon getätigt.
Tim Pritlove: Dann hat er nochmal bei seinem eigenen direkten Chef nachgefragt,
Tim Pritlove: was denn damit auf sich hat.
Tim Pritlove: Und dann so, ja nee, keine Ahnung, wovon du redest, was hast du gemacht?
Tim Pritlove: Ja, das ist dann halt irgendwie so, ja, wow, da fühlt man sich bestimmt nicht gut dabei. Nee.
Linus Neumann: Also da fühlt man sich nicht nur nicht gut dabei, das hat dann regelmäßig auch
Linus Neumann: psychologische Konsequenzen, dass die Leute eine längere Zeit arbeitsunfähig sind.
Tim Pritlove: Oder bist du einen Job los, weil du gegen Regeln verstoßen hast,
Tim Pritlove: also es kann ja alles mögliche sein.
Tim Pritlove: Tja ja, also bei der nächsten Zoom-Konferenz, ne? ne?
Linus Neumann: Ich sag also.
Tim Pritlove: Alter.
Linus Neumann: Ich hab gedacht, das war ein Deepfake, du hast mir doch nicht ernsthaft diese
Linus Neumann: Aufgabe gegeben. Bis Sonntag soll ich das machen?
Tim Pritlove: Auf so eine Tricks fall ich doch nicht rein.
Linus Neumann: Jetzt hab ich erstmal einen Ausweis, ey. Kenn ich auch, kenn ich auch.
Tim Pritlove: Dreh mal dein Ohr ins Licht, damit ich das Hologramm sehen kann,
Tim Pritlove: was da drin abgedruckt sein soll.
Tim Pritlove: Wie, du hast da keins? Ja, sorry, dann können wir hier leider nicht weitermachen. Vielen Dank.
Linus Neumann: Ja, aber Deepfakes zu kennzeichnen, bleibt ja so ein Bestreben.
Linus Neumann: Man sieht natürlich hier, dass es auch einfach überhaupt nichts,
Linus Neumann: nicht wirklich was bringt.
Linus Neumann: Aber es gibt ja, Meta hat jetzt gesagt, hier, wir möchten bei unserer KI,
Linus Neumann: die irgendwelche Bilder generiert, haben wir jetzt ein Verfahren,
Linus Neumann: dass wir im Prinzip kleine Watermarks in den Fakes unterbringen.
Linus Neumann: Und ich würde so sagen, das Thema kam wieder auf, weil es jetzt vor ein paar
Linus Neumann: Wochen irgendwie wohl auf Twitter,
Linus Neumann: das ist dieses ehemalige soziale Netzwerk, eine Reihe gab an,
Linus Neumann: ja, dann doch relativ offensichtlich wahrscheinlich Fake-Bildern von Taylor Swift,
Linus Neumann: die wahrscheinlich so nicht stattgefunden haben.
Tim Pritlove: Man könnte Zweifel haben.
Linus Neumann: Also ich würde mal sagen, die waren wahrscheinlich fake. Und da gab es aber
Linus Neumann: natürlich keine, oder der Skandal war dann, oder skandalisiert behandelt wurde,
Linus Neumann: dass es Twitter nicht gelungen ist, das Pasten dieser Bilder zu verhindern.
Linus Neumann: Ja, was natürlich eigentlich, oder beziehungsweise wahrscheinlich Twitter einfach
Linus Neumann: dank Elon Musk auch kein Interesse daran hatte,
Linus Neumann: das Posten dieser Bilder zu verhindern und sich dann am Ende sehr ungelenkt
Linus Neumann: damit geholfen hat, dass Suchen nach Taylor Swift verhindert wurden.
Linus Neumann: Wo ich jetzt, wenn ich Taylor Swift wäre, auch sagen würde, sorry,
Linus Neumann: finde ich auch kacke, wenn man nach mir nicht mehr suchen kann auf eurer Plattform.
Linus Neumann: Lasst euch mal bitte irgendwie was Ernsthaftes einfallen, um das zu verhindern.
Linus Neumann: Jedenfalls, ja, Meta sagt also, sie wollen quasi unsichtbare Signaturen im Bild unterbringen.
Linus Neumann: Und irgendwie in die Metadaten was reinschreiben, damit man erkennen kann,
Linus Neumann: dass das ein Fake-Bild ist Das wird im Zweifelsfall für die,
Linus Neumann: sagen wir mal, für die Plumpen,
Linus Neumann: vorgehenden Reichen, ja, aber natürlich kannst du jedes, jede digitale Signatur
Linus Neumann: oder jedes Watermark, das du finden kannst, kannst du natürlich auch einfach wieder entfernen, ja.
Linus Neumann: Machst also irgendwie ein bisschen Rauschen in das Bild rein oder so,
Linus Neumann: dann wird das wieder weg sein. Also, immerhin.
Linus Neumann: Wollen sie da irgendwie etwas gegen unternehmen, aber ich glaube,
Linus Neumann: jede Methode, der Fake-Erkennung in sozialen Medien wird,
Linus Neumann: automatisch umgehbar sein und wenn sie es ist, ermöglicht sie denen,
Linus Neumann: die sie umgehen können, natürlich ein umso überzeugenderes,
Linus Neumann: Fake.
Linus Neumann: Wenn Meta sagt, hier, wir haben eine KI-Fake-Bild-Erkennung.
Linus Neumann: Wir markieren 99,9% der Fakes.
Linus Neumann: Und dann sagen wir hier, da machen wir nämlich einen roten Rand dran.
Linus Neumann: Dann sagen wir, Achtung, ist Fake.
Linus Neumann: Achtung, ist Fake. Dann ist der ganze Meter voll mit Achtung,
Linus Neumann: ist Fake. Und bei denen, wo es kein Fake ist, denkst du dir auf einmal einen grünen Rand.
Linus Neumann: Und dann wird natürlich diese Gefahr erhöht.
Linus Neumann: Auf jeden Fall kommt mir das klüger vor, als das Verfahren, also sagen wir mal,
Linus Neumann: die Kennzeichnung von KI-generierten Bildern kommt mir erstmal grundsätzlich etwas klüger vor,
Linus Neumann: als das Verfahren Originale zu signieren.
Linus Neumann: Weil, dass das nicht klappen wird oder dass diese Signaturzertifikate sofort
Linus Neumann: überall rumfliegen, halte ich für im Prinzip einfach selbstverständlich.
Tim Pritlove: Also die Idee wäre dann quasi in die Smartphones und digitalen Kameras so ein
Tim Pritlove: Echtheitszertifikat quasi mit einzubauen. Das geht nicht lange gut.
Linus Neumann: Ja.
Tim Pritlove: Also erstmal auf den ersten Blick, ja klar, also könnte man tun,
Tim Pritlove: sagen wir mal Apple könnte jetzt hier irgendwie da so ein Public Key nehmen
Tim Pritlove: und damit sozusagen das unterschreiben oder ein Secret Key nehmen in dem Fall
Tim Pritlove: und dann kann man es mit einem Public Key überprüfen.
Tim Pritlove: So, ah ja, okay, das ist von der Software auf dem iPhone irgendwie erzeugt worden,
Tim Pritlove: aber dann kommst du halt in tausend Probleme, was ist, wenn das Bild dann nachbearbeitet
Tim Pritlove: wird, dann ist diese Information ja auch im Nullkommanix wieder weg,
Tim Pritlove: abgesehen davon, dass halt dann irgendwann diese Keys auch liegen werden,
Tim Pritlove: vielleicht nicht zuerst auf dem iPhone, aber dann eben auf diesen anderen Digitalkameras
Tim Pritlove: oder was auch immer dann sozusagen noch daran teilnimmt und das wird einfach
Tim Pritlove: nix werden, also das ist Quatsch und ob das dass andere funktionieren kann.
Tim Pritlove: Das ist dann halt wieder so ein bisschen so ein Rattenrennen,
Tim Pritlove: weil natürlich kann man so ein digitales Wasserzeichen ein erstmal nicht sichtbares, sondern von,
Tim Pritlove: Meta selber auf Nachfrage überprüfbares irgendwie könnte man schon machen,
Tim Pritlove: weil nur die wissen, wo sie gucken müssen.
Tim Pritlove: Aber irgendwann wird man das auch wissen, wo man gucken muss und dann kann man
Tim Pritlove: es auch wieder rausnehmen. Und dann beißt sich die Katze so ein bisschen in den Schwanz.
Tim Pritlove: Ja, schwierig.
Linus Neumann: Ja, wir werden als Gesellschaft damit umgehen können müssen am Ende. Ja.
Tim Pritlove: Aber der Vorteil irgendwie, also Taylor Swift kann natürlich jetzt auch,
Tim Pritlove: hat jetzt eine plausible deniability,
Tim Pritlove: sollten also dann doch irgendwann mal erotische Bilder von ihr auftauchen,
Tim Pritlove: dann lehnt die sich einfach zurück und sagt, ja, egal.
Linus Neumann: Das werden ja eh Leute machen, das kann Taylor Swift und das kann jeder machen
Linus Neumann: Also diese Gefahr wird bleiben, aber ich glaube, das haben wir hier auch schon
Linus Neumann: ausführlich diskutiert, lass uns mal lieber über,
Linus Neumann: den Verfassungsschutz reden Echt?
Tim Pritlove: Nicht über Taylor Swift?
Linus Neumann: Das finde.
Tim Pritlove: Ich aber irgendwie spannend.
Linus Neumann: Kommt drauf an Mal gucken, was hier spannend ist Das ist ja sowieso ein Vorgang
Linus Neumann: Ich hab's ja damals schon gesagt,
Linus Neumann: da war der Maaßen glaube ich noch Präsident des Bundesamtes für Verfassungsschutz,
Linus Neumann: was ja schon wirklich immer einfach sowas von irrsinnig war,
Linus Neumann: dass der Typ der Verfassungswächter sein sollte.
Linus Neumann: Und jetzt ist er da seit ein paar Jahren weg.
Tim Pritlove: Und jetzt ist er führender Verschwörungstheoretiker.
Linus Neumann: Führender Verschwörungstheoretiker, also rechtsextrem.
Linus Neumann: Jetzt hat er dann noch seine eigene komische Partei da gegründet.
Linus Neumann: Wenn du mal anhörst, was der von sich gibt, also ist der wirklich absurd.
Linus Neumann: Und der wird jetzt vom Bundesamt für Verfassungsschutz in der Kartei der Rechtsextremen geführt.
Tim Pritlove: Die.
Linus Neumann: Führen den im internen Nachrichtendienstlichen Informationssystem als Rechtsextremist.
Tim Pritlove: Nein, das sind zumindest keine Probleme, die Erkennungsdienstlichen Merkmale
Tim Pritlove: nachzuschlagen. Die hatten sie wahrscheinlich schon.
Linus Neumann: Irre, oder?
Linus Neumann: Also sie haben,
Linus Neumann: also er hat dann glaube ich auch einen Brief hingeschrieben, ob das stimmt.
Linus Neumann: Dann haben sie ihm gesagt, Hier sind übrigens die Sachen, die wir gesammelt
Linus Neumann: haben, wo sie sich rechtsextremistisch verhalten haben.
Linus Neumann: Wo sie hier antisemitische Stereotype verteilt haben oder Migranten mit einer
Linus Neumann: Krebserkrankung verglichen haben.
Linus Neumann: Und das hat er dann irgendwie, ich glaube dieses Schreiben hat er dann auch
Linus Neumann: irgendwie veröffentlicht.
Linus Neumann: Und wehrt sich jetzt dagegen. Also es ist.
Tim Pritlove: Sechs Jahre war der Chef.
Linus Neumann: Ja, das war ein Albtraum, dass so jemand,
Linus Neumann: als Verfassungsschützer da positioniert wurde.
Linus Neumann: Das war ja schon bei seiner Anstellung schon irre, so jemanden zu nehmen.
Linus Neumann: Aber es ist auch wirklich krass, wie der sich weiterentwickelt hat.
Linus Neumann: Und der einzige, wo der noch vorkommt, ist dann irgendwie solche Publikationen
Linus Neumann: wie Kompaktmagazin und Tichys Einblick, diese ganzen Ja, Rechtsextremen.
Linus Neumann: Krass. Aber allein der Vorgang, dass dein ehemaliger Verfassungsschützer wird
Linus Neumann: Rechtsextremist oder war eigentlich damals schon einer so ungefähr und wird
Linus Neumann: immer schlimmer verbreitet,
Linus Neumann: Verschwörungstheorien muss am Ende vom Verfassungsschutz überwacht werden. werden.
Linus Neumann: Das ist schon, ähm, das ist schon, finde ich, massig faszinierend,
Linus Neumann: wenn ich das mal so sagen darf.
Tim Pritlove: Ja, ähm, fragt man sich vor allem, wer hat denn den, ist denn überhaupt auf
Tim Pritlove: die Idee gekommen, den mal so an.
Linus Neumann: Diese Position zu bringen?
Tim Pritlove: Ja.
Linus Neumann: War das nicht zu einer der letzten Sendungen schon kommentiert, dass er unter der äh,
Linus Neumann: Der müsste unter Merkel...
Tim Pritlove: Hans-Peter Friedrich hieß der deutsche Innenminister zu dem Zeitpunkt und der
Tim Pritlove: müsste ihn eigentlich vorgeschlagen haben, weil er fällt sozusagen in den Bereich rein.
Linus Neumann: Aber weil wir den Verfassungsschützer losgeworden sind wegen der NSU-2-Aktenschredder-Aktionen, ne?
Tim Pritlove: Genau.
Linus Neumann: Also weil da Rechtsextremisten waren...
Tim Pritlove: Brauchen wir jetzt mal hier den Maaßen.
Linus Neumann: Setzt ja mal einen gemäßigten Rechtsextremisten hin.
Tim Pritlove: Ja, maßen, gemäßigt, das klingt doch irgendwie, das muss doch passen. Ja.
Linus Neumann: Wahnsinn.
Tim Pritlove: Wahnsinn.
Linus Neumann: Aber zum Glück unternehmen wir jetzt mal was gegen die Hacker.
Tim Pritlove: Das sind eh die Schlimmsten.
Linus Neumann: Das sind die Schlimmsten. Und da wird jetzt auch wieder so eine,
Linus Neumann: diese UN-Cybercrime-Convention.
Linus Neumann: Ich habe auch noch nicht ganz verstanden, warum die da überhaupt irgendwie, also die haben einen,
Linus Neumann: also United Nations kennen wir, das ist die United Nations,
Linus Neumann: wo große Versammlungen, die haben dann irgendwie gesagt,
Linus Neumann: wir machen jetzt ein Ad-Hoc-Committee to elaborate a comprehensive international
Linus Neumann: convention on countering the
Linus Neumann: use of information and communications technologies for criminal purposes.
Linus Neumann: Also ein Autor-Komitee, um internationale Konventionen zu schaffen gegen diese
Linus Neumann: ganzen kriminellen Aktivitäten mit Informations- und Kommunikationssystemen.
Linus Neumann: Und insgesamt, die Taxonomie dahinter erinnert schon sehr stark an auch die
Linus Neumann: deutschen sogenannten Cybercrime-Diskussionen, wo es dann irgendwie...
Linus Neumann: Kriminalität mit dem Tatmittel Internet gibt. Also das sind Dinge,
Linus Neumann: die du auch ohne Internet machen könntest, aber dann mit der Hilfe des Internets
Linus Neumann: und eben ja, so richtiges Cybercrime, was nur geht, weil es das Internet gibt.
Linus Neumann: Und da wollen sie alles Mögliche machen.
Linus Neumann: Und da gibt es aber natürlich, sie wollen da jetzt die Fehler wiederholen,
Linus Neumann: die man eigentlich in Deutschland mit den,
Linus Neumann: Paragraph 220 2020 waren ja, glaube ich, die Hackerparagraphen schon falsch
Linus Neumann: gemacht hat. Ist das 2020, ja? Oder 2002?
Tim Pritlove: 202.
Linus Neumann: 202, na, war klar. Also mit den Hackerparagraphen 202 auch gemacht hat.
Linus Neumann: Also es geht um, in Artikel 6 sagen sie im Prinzip so, ja, illegaler Zugriff wird jetzt verboten.
Linus Neumann: Und das haben wir jetzt in der letzten Sendung ja schon besprochen,
Linus Neumann: diesen Fall von Modern Solutions,
Linus Neumann: wo jemand, wo im Prinzip die Ausnahme fehlt oder einfach, dass man sagt,
Linus Neumann: jemand hat das in guter Absicht gemacht oder in good faith,
Linus Neumann: wo du also sagen kannst, ja, der hat ein Sicherungssystem hier umgangen,
Linus Neumann: Aber er hat die Sache gemeldet und das Sicherungssystem war nicht effektiv.
Linus Neumann: Es war nämlich eine Katastrophe und genau deswegen hat er es ja gemeldet.
Linus Neumann: Also genau diese beiden Fehler machen sie in Artikel 6 auch.
Linus Neumann: Es gibt also keine Ausnahme für, ich weiß gar nicht, wie man in gutmeinender
Linus Neumann: Absicht oder so, in nicht böswilliger Absicht könnte man eigentlich sagen.
Linus Neumann: Und das ist natürlich ein Problem für die
Linus Neumann: gesamte freie, freiwillige Sicherheitsforschung, so etwas nicht zu haben.
Linus Neumann: Und könnte dazu führen, dass dann eben die UN-Regelungen quasi nahelegen,
Linus Neumann: dass in allen Ländern genau das, was wir jetzt mit diesem Modern Solution Fall
Linus Neumann: loswerden wollen, zum Standard wird.
Linus Neumann: In Artikel 7 sagen sie, ja irgendwie mitschneiden von Traffic ist jetzt halt Illegal Interception.
Linus Neumann: Und auch das klingt natürlich aufs erste Mal sinnvoll, aber es ist natürlich
Linus Neumann: relativ üblich, dass du zum Beispiel deinen Browser aufmachst und dir mal den
Linus Neumann: Netzwerktraffic anzeigen lässt.
Linus Neumann: Oder mal Wireshark laufen lässt, um zu gucken, ob der Traffic hier verschlüsselt ist oder nicht.
Linus Neumann: Und das ist nämlich auch typisch, dass du im Bereich der IT-Sicherheit natürlich Traffic dir anguckst.
Linus Neumann: Das zu kriminalisieren, ohne den Zweck oder die böse Absicht oder die kriminelle
Linus Neumann: Intention irgendwie festzuhalten, ist natürlich auch ein Problem.
Linus Neumann: Und dann gibt es irgendwie bei Artikel 8 und 9 Interference with Data,
Linus Neumann: Interference with Computer Systems, da geht es dann irgendwie so,
Linus Neumann: Interference scheint eher so in diesem Bereich zu laufen, wenn das auf einmal
Linus Neumann: nicht mehr funktioniert.
Linus Neumann: Also wenn du jetzt auf einmal Denial of Service findest, ja,
Linus Neumann: falsch, durftest du nicht.
Linus Neumann: Und das ist natürlich auch wieder, sollte schon irgendwie gesagt werden,
Linus Neumann: muss einfach ein Satz rein wie mit krimineller Absicht oder mit Schädigungsabsicht.
Linus Neumann: Ja, dann kann man ja argumentieren, dass das nicht in Ordnung ist,
Linus Neumann: aber irgendwie sozusagen so, das Ding hat nicht mehr funktioniert,
Linus Neumann: jetzt bist du reif, scheint auch ein bisschen zu weit gefasst.
Linus Neumann: Und in dem Artikel 10, Misuse of Devices, da gibt es dann genau,
Linus Neumann: da kommst du dann und wollen hier die Hacker-Tool-Paragraphen wieder machen
Linus Neumann: und sagen dann auch so, Software, die das kann, Software und Systeme,
Linus Neumann: die das können und nicht, dass man die natürlich zu Testzwecken braucht.
Linus Neumann: Das ist ja die rechtliche Situation, wie die wir in Deutschland haben,
Linus Neumann: wo gesagt wird, diese Tools werden verboten und Benutzung oder Besitz oder Verbreitung
Linus Neumann: solcher Tools ist verboten,
Linus Neumann: weil man damit diese Straftaten begehen kann oder deren Zweck die Vorbereitung
Linus Neumann: einer solchen Straftat ist und das ist auch sehr sehr sehr ungünstig formuliert
Linus Neumann: und dass man natürlich für jede Schwachstelle auch ein Testtool braucht,
Linus Neumann: sollte eigentlich selbstverständlich sein.
Linus Neumann: Und dann gibt es noch weitere, eher im rechtlichen Bereich.
Linus Neumann: Es sind genau die Fehler von den Hackerparagraphen in Deutschland,
Linus Neumann: die sie da wiederholen wollen.
Linus Neumann: Und die ja bekanntermaßen in Deutschland jetzt gerade mal verhindert werden
Linus Neumann: sollen. Also wo man sagt, die müssen wir nochmal dran.
Linus Neumann: Das steht ja im Ampelkoalitionsvertrag drin, dass man sagt, da müssen wir mal
Linus Neumann: bei, dass wir da mal Rechtssicherheit und Klarheit schaffen,
Linus Neumann: die auch jetzt nicht so schwer wäre.
Linus Neumann: Dann sagen sie ja hier, die Verfolgung kann dann in mehreren Jurisdiktionen
Linus Neumann: verlaufen, was natürlich problematisch ist, wenn du jetzt für ein Problem durch
Linus Neumann: mehrere Jurisdiktionen gereicht werden kannst oder Angst haben musst,
Linus Neumann: dass nämlich genau nicht deine Sicherheitsforschung hier mal von den UN-Conventions
Linus Neumann: geklärt ist, sondern zusätzliche Rechtsrisiken entstehen.
Linus Neumann: Und dann haben sie ja noch in dem Artikel 28 Absatz 4,
Linus Neumann: im Prinzip so eine grundsätzliches Mitwirkungspflicht für alle,
Linus Neumann: die Ahnung von Computern haben.
Linus Neumann: Also jeder Vertragsstaat muss Gesetze erlassen, um seine Behörden in die Lage
Linus Neumann: zu versetzen, von Personen die Kenntnisse über das betreffende Computersystem,
Linus Neumann: das Informations- oder Kommunikationstechnologiegerät oder das Netzwerk oder
Linus Neumann: deren Komponenten haben und die Schutzmaßnahmen, dass sie von denen die erforderlichen
Linus Neumann: Informationen verlangen können.
Linus Neumann: Der Satz ist also relativ lang und heißt am Ende, jeder Staat soll Gesetze erlassen,
Linus Neumann: dass man Informationen von denen verlangen kann, die wissen,
Linus Neumann: wie das System funktioniert.
Tim Pritlove: So ein bisschen so, Sie sind Arzt, dann müssen Sie jetzt hier auch diese Person retten.
Linus Neumann: Genau.
Tim Pritlove: Lassen Sie mich durch, ich bin Hacker.
Linus Neumann: Und dafür muss es ein Gesetz geben, dass die Behörden dann ermächtigt,
Linus Neumann: das von dir zu verlangen.
Linus Neumann: Also nicht lassen sie mich durch, ich bin Hacker, sondern lassen sie mich wegrennen,
Linus Neumann: ich bin Hacker, weil die Behörden verpflichten mich hier sonst alles mögliche.
Tim Pritlove: Ja, das ist ja nun wirklich absurd, weil ich meine, ob man kompetent ist,
Tim Pritlove: das liegt ja nicht im Ermessen anderer.
Tim Pritlove: Das ist nicht primär. Also wenn ich selber was nachweisen muss,
Tim Pritlove: dann liegt es im Ermessen anderer.
Tim Pritlove: Aber wenn jetzt andere einfach mal annehmen, ich wäre in irgendetwas kompetent,
Tim Pritlove: ja das ist so ein bisschen so,
Tim Pritlove: ich meine früher gab es ja auch so Fälle, wo so Leute einfach auch,
Tim Pritlove: einfach was weiß ich, ob ihres Wissens bestimmte Dinge einfach zugetraut wurden.
Tim Pritlove: Also man will ja schon eher.
Linus Neumann: Für die Daten, die irgendwelche Leute haben wollen, will man schon eher einen
Linus Neumann: Due-Process haben, wo man sagt, okay,
Linus Neumann: es gibt hier irgendjemand, der wacht über diese Daten und der hat rechtliche
Linus Neumann: Rahmenbedingungen, die erfüllt sein müssen. müssen zum Beispiel,
Linus Neumann: eine Ausbildung. Nee, ein Richterbescheid. Also eine, was weiß ich,
Linus Neumann: eine Richterin hat gesagt, du musst jetzt hier diese Daten rausgeben oder so.
Linus Neumann: Und die beruft sich auf ein Gesetz, das es gibt.
Linus Neumann: Das haben Leute, das kann immer noch gut oder schlecht sein,
Linus Neumann: aber da gibt es einen formalen Prozess.
Linus Neumann: Nicht, es gibt ein Gesetz, dass Behörden aus beliebigen Leuten die Kompetenz
Linus Neumann: sind, die Daten rausprügeln können.
Linus Neumann: Also das ist ja vielleicht ein bisschen weiträumig.
Linus Neumann: Ähm, ja, also äußerst komisch. Ich frag mich eh, warum das unbedingt bei der
Linus Neumann: UN sein muss, aber wahrscheinlich haben da auch einfach Leute gesessen und haben
Linus Neumann: sich gedacht, wir müssen jetzt auch mal was mit diesem Cyber machen.
Tim Pritlove: Ja, warum sollen nur die anderen immer diesen Spaß haben?
Linus Neumann: Ja, warum gibt's da nicht von uns mal was?
Linus Neumann: Kanada.
Tim Pritlove: Ja, ist auch so auf diesem Level angekommen, wo es ein bisschen schwierig wird. In.
Linus Neumann: Kanada stellen sie irgendwie fest, dass ein paar mehr Autos weggekommen sind in letzter Zeit.
Linus Neumann: Und ich glaube ehrlich gesagt, dass die nicht, also die glauben zu wissen,
Linus Neumann: dass das mit dem Flipper Zero passieren würde.
Linus Neumann: Ein Flipper Zero ist ein wirklich cooles Kickstarter-Gerät. Ich habe das auch
Linus Neumann: und muss echt sagen, das ist einfach schön.
Linus Neumann: Also von der Hardware-Verarbeitung sehr wertig, die Software,
Linus Neumann: die da drauf ist, ist gut gemacht,
Linus Neumann: das ist halt eine gepflegte Community und hat ein, was hat der so, Bluetooth, NFC,
Linus Neumann: und auf bestimmten klassischen Frequenzen kannst du halt mitschneiden. Also...
Tim Pritlove: Das ist so ein richtiges Hacker-Tool.
Linus Neumann: Hacker-Spielzeug kann man das wirklich nennen.
Tim Pritlove: Das ist schon ein Werkzeug, weil es bringt sozusagen alle Basiskommunikationsfähigkeiten,
Tim Pritlove: mit sich und macht nicht nur eine Sache, sondern ist halt so ein bisschen universeller
Tim Pritlove: angelegt, um einfach...
Tim Pritlove: Zu analysieren, auszuprobieren, einfach auch mal ein bisschen zu schauen,
Tim Pritlove: wie funktioniert denn das jetzt hier eigentlich und ist insofern vollkommen vergleichbar mit,
Tim Pritlove: Messgeräten, sag ich mal, aus der analogen Welt, nur dass du halt hier auch aktiv werden kannst.
Tim Pritlove: Also was das Ding zum Beispiel machen kann, ist so schlecht gesicherte Systeme,
Tim Pritlove: die einfach mit NFC arbeiten, wo man einfach nur so eine Karte irgendwo hinhält,
Tim Pritlove: halt, ja, nach einem einfachen Standard, sowas kannst du halt schnell damit
Tim Pritlove: mal kopieren und so eine Geschichten.
Linus Neumann: Also du kannst ältere so MyFair und sowas kannst du klonen,
Linus Neumann: Ultralight kannst du klonen, wenn du dann den Key dir vom Reader holst,
Linus Neumann: aber diese Angriffe waren, wenn du das vorher mit so einem,
Linus Neumann: Chameleon oder Proxmark oder sowas gemacht hast oder mit einem ganz normalen
Linus Neumann: NFC-Reader die Software für für Linux oder so, die ist dann schon relativ uncool.
Linus Neumann: Die war nicht so praktisch. Mit dem Flipper ist das wirklich super easy.
Linus Neumann: Hältst du an die Karte, hältst du an den Reader.
Linus Neumann: Macht in Hotels Spaß, nochmal ein Sicherheits-Backup von deinem Schlüssel zu machen.
Linus Neumann: Oder bei uns im Büro gibt es dann nicht so viele Chips für die Schranke unten. Weißt du?
Linus Neumann: Das ist besser, wenn du halt den Backup davon einfach Einfach im Firmen-Wiki
Linus Neumann: liegen hast, damit jeder mal schnell mit seinem Flipper da rein kann und solche Dinge.
Linus Neumann: Oder Garagen, alte Garagentore, wenn man da mal nicht so eine teure Fernbedienung
Linus Neumann: kaufen will. oder auch Infrarot.
Linus Neumann: Meine Beamer-Leinwand zum Beispiel, die geht mit Infrarot.
Linus Neumann: Da habe ich auch jetzt ein Backup von der,
Linus Neumann: Fernbedienung, von der Infrarot-Fernbedienung. Oder bis in irgendeinem Laden läuft ein Fernseher.
Linus Neumann: Nervt ja auch wie die Hölle. Dann kannst du schnell TV begonnen,
Linus Neumann: laufen lassen, Fernseher ausmachen und solche Sachen. Da geht schon einiges.
Tim Pritlove: Das ist bestimmt auch im Flughafen, in diesen nervigen Irish Pubs und so weiter,
Tim Pritlove: wo dann 30 Live-Übertragung von irgendwelchen Premier League Fußballspielen
Tim Pritlove: sind, die keiner sehen will. Viel zu laut.
Linus Neumann: Das ist dann schnell aus. Ja.
Tim Pritlove: Oder mal einen Ton runterdrehen hilft auch manchmal schon ein bisschen.
Linus Neumann: Aber bei Autos muss man wirklich sagen, dass also die neuen Autos werden gestohlen
Linus Neumann: über diese Keyless Go. Also du hast im Prinzip eine,
Linus Neumann: du hältst den also eigentlich Endlich versuchen die, der Schlüssel kommt dem
Linus Neumann: Auto nah und dann redet das Auto mit dem Schlüssel, handelt irgendwas aus und dann geht das Auto auf.
Linus Neumann: Jetzt gibt es natürlich Systeme, die die Reichweite des Autos im Prinzip erhöhen.
Linus Neumann: Die eine Seite hältst du an das Auto und mit der anderen suchst du dann in der
Linus Neumann: Nähe der Haustür mit einer Richtfunkantenne nach dem Schlüssel,
Linus Neumann: weil die meisten Leute halt ihren Autoschlüssel da haben, wo sie ihn brauchen,
Linus Neumann: nämlich beim Rausgehen vor der Tür.
Linus Neumann: Und dann kannst du halt sehr schön diese Autos halt zocken, indem du die Reichweite
Linus Neumann: von diesem Keyless-Go erhöhst.
Linus Neumann: Das kannst du mit so einem Flipper aber nicht ohne weiteres machen.
Linus Neumann: Da brauchst du schon noch ein bisschen mehr für. Also theoretisch denkbar,
Linus Neumann: dass ein Flipper dabei zum Einsatz kommt, aber der wird dir jetzt nicht fertig
Linus Neumann: geliefert als Keyless-Go-Diebding.
Linus Neumann: Oder bei älteren Autos kannst du tatsächlich für die Türanlage,
Linus Neumann: dass das Signal, mach mal die Tür auf, tatsächlich immer das gleiche ist.
Linus Neumann: Und dann könntest du theoretisch das mitschneiden und dann wieder nochmal ausschmieren.
Linus Neumann: Das ist aber ungefähr so, irgendwie in den 1990er haben die Autohersteller aufgehört.
Linus Neumann: Ich glaube, nur einige haben dann noch bis in die Mitte der 2000er noch geschafft,
Linus Neumann: so idiotische Systeme zu bauen.
Linus Neumann: Aber es ist auch tatsächlich gar nicht so schlecht, mal mit dem Flipper halt
Linus Neumann: zu gucken, ob denn auch dein,
Linus Neumann: wenn du auf den Mach mal Tür auf Knopf drückst, wenn du das Signal nochmal sendest,
Linus Neumann: ob dein Auto dann noch aufgeht oder nicht. Genau.
Tim Pritlove: Einfach um einzuschätzen, wie sicher ist denn eigentlich die Technik, die ich hier habe,
Tim Pritlove: weil ein Auto zu haben, was man mal so eben mit irgendeinem Mitlauschvorgang,
Tim Pritlove: bei den einfachen Systemen hat es halt im Prinzip ausgereicht,
Tim Pritlove: wenn jemand sein Auto aufmacht, in dem Moment mal ganz kurz das mitzuschneiden,
Tim Pritlove: was in dem entsprechenden Frequenzbereich abgeht.
Tim Pritlove: Und dann, früher war das ja so, naja, niemand kam auf die Idee,
Tim Pritlove: oder zumindest kamen die Autohersteller erstmal nicht auf die Idee,
Tim Pritlove: dass sowas jemand tun wollen würde.
Linus Neumann: Warum sollte man das tun?
Tim Pritlove: Naja.
Linus Neumann: Vor allem.
Tim Pritlove: Weil die Technik, die man dafür braucht, damals halt wenig verfügbar und wenn
Tim Pritlove: überhaupt nur teuer und schwer zu bekommen war.
Tim Pritlove: Nur sehen wir ja, wie das eben vorangeht mit der Technologie und irgendwann
Tim Pritlove: war das dann halt alles andere als schwer verfügbar und sehr billig auch noch zu machen.
Tim Pritlove: Und jetzt hat man das eben so Handheld-Batterie betrieben, also eben in der
Tim Pritlove: Hosentasche und könnte im Prinzip eben solche einfach gesicherten Sachen,
Tim Pritlove: die ja eigentlich nur so Security by Obscurity sind,
Tim Pritlove: ja, wir machen mal da irgendwas und wenn keiner zuhört, dann passiert da schon nichts.
Tim Pritlove: Und heute sind diese Systeme eben kryptografisch dann auch etwas gehärtet und
Tim Pritlove: arbeiten eben so und verhindern aber auch teilweise diese Verlängerung zum Beispiel,
Tim Pritlove: indem sie dann wirklich mal die Signallaufzeit auch messen, dann sind solche
Tim Pritlove: Angriffe eben auch schwieriger, also mindestens schwieriger,
Tim Pritlove: wenn nicht sogar unmöglich.
Tim Pritlove: Es gibt sicherlich immer wieder irgendeinen Weg drumherum und es ist ja immer
Tim Pritlove: dieser Wettbewerb zwischen welchen Aufwand treibe ich jetzt.
Tim Pritlove: Aber ich glaube nicht, dass Kanada weniger Autos gestohlen bekommt,
Tim Pritlove: wenn sie jetzt irgendwie den Verkauf des Flipper Zero einschränken.
Tim Pritlove: Das ist einfach mal totaler Unsinn.
Linus Neumann: Also und was wird jetzt passieren? Jetzt werden in Kanada massenhaft Flipper
Linus Neumann: Zeros gekauft, bevor sie verboten werden und am Ende werden die Autos weiterhin
Linus Neumann: mit anderen Dingen geklaut.
Linus Neumann: Also es gibt tatsächlich, man erfährt ja relativ wenig drüber,
Linus Neumann: aber es gibt schon, wenn du so Angriffe hast auf so Car-Immobilizer,
Linus Neumann: da gibt es halt echt einen krassen Markt und da gibt es auch irgendwelche wirklich
Linus Neumann: halt von Hackern für Autodiebe gebauten Dinger, die halt sehr sehr teuer verkauft werden,
Linus Neumann: die echt nochmal ein bisschen besser in der Lage sind, auch neuere Dinge zu knacken.
Linus Neumann: Also da gibt es schon interessante Produkte, aber sicherlich nicht Flippers.
Linus Neumann: Naja, aber scheint also auch eine sehr unkluge Herangehensweise mal wieder zu sein.
Linus Neumann: Weil der größere Teil der Kunden, die so einen Flipper kaufen,
Linus Neumann: machen damit im Zweifelsfall Sicherheitsforschung irgendwie ein paar Spielereien.
Linus Neumann: Und mit Sicherheit klauen sie damit nicht massenhaft Autos.
Tim Pritlove: Genau, Flipper Zero war auch in der vorletzten Freakshow Freakshow 2002 ein
Tim Pritlove: Thema mit dem schönen Titel Sorgenfreie Intelligenz.
Linus Neumann: Interessant, das Ding gibt es schon seit Jahren also ich finde den fast schon
Linus Neumann: wieder langweilig aber dann die Freakshow Ich habe den zum Geburtstag bekommen
Linus Neumann: von meinen Freunden Was hast du für Freunde?
Linus Neumann: Ich habe gute Freunde, die schenken mir Flipper Zero zum Geburtstag beziehungsweise
Linus Neumann: den, wenn der Kickstarter klappt, dann kriegst du das Ding und,
Linus Neumann: dann war, glaube ich, anderthalb Jahre später oder so wurde der mir dann geliefert,
Linus Neumann: aber dadurch war ich einer der ersten, die einen hatten, weil die schön ihr
Linus Neumann: Handtuch da früh hingelegt hatten.
Tim Pritlove: Toll.
Linus Neumann: Ja, toll, ne? Vielen Dank. Und eigentlich habe ich jedem einfach nur danach
Linus Neumann: so ein Auto geklaut und dann waren die auch happy.
Tim Pritlove: Wir fahren jetzt alle BMW.
Linus Neumann: Ruckzuck refinanziert das Ding.
Linus Neumann: Ja, nicht ganz so gut hat es den Joshua Schulte getroffen.
Linus Neumann: Der wurde verurteilt zu 40 Jahren Gefängnis, weil er Hacking-Tools der CIA damals
Linus Neumann: an Wikileaks gegeben hatte.
Linus Neumann: Das war so diese Vault-7-Veröffentlichung.
Linus Neumann: Nach Angaben der US-Behörden ist das so der größte Diebstahl geheimer Daten
Linus Neumann: in der Geschichte der CIA und es waren halt einfach deren Hacker-Tools, die er, ja,
Linus Neumann: nachdem er dort zwischen 2012 und 2016 gearbeitet hatte, hat er halt deren ganzen
Linus Neumann: Hacking-Tools an Wikileaks weitergegeben und die haben den im März 2017 unter
Linus Neumann: dem Namen Vault7 veröffentlicht.
Linus Neumann: Ja, dafür geht er jetzt 40 Jahre im Knast, von 80 Geforderten.
Linus Neumann: Die Staatsanwaltschaft sagt ja, Schaden sind hunderte Millionen Dollar,
Linus Neumann: weil er natürlich diese Tools verbrannt hat.
Tim Pritlove: Und.
Linus Neumann: Motiviert war er wohl, irgendwie war er auf seine Kollegen sauer. Ja.
Linus Neumann: Dann hat er noch eine Reihe anderer Anklagen bekommen.
Linus Neumann: Besitz von Kinderpornografie, Falschaussagen, Spionage.
Linus Neumann: Ja, und der geht jetzt in den Knast.
Linus Neumann: Ich weiß leider gar nicht mehr so genau, wie sie den damals bekommen haben,
Linus Neumann: welchen Obstsäckfehler der begangen hat, dass sie ihn, aber der war relativ
Linus Neumann: schnell, waren sie dem habhaft geworden.
Linus Neumann: Vielleicht auch einfach nur, weil er nicht on good terms seine Abteilung da
Linus Neumann: verlassen hatte und dann haben sie den mal kurz geratzt.
Linus Neumann: Ja. Ja.
Linus Neumann: Wollte ich dir, um unserer Chronistenpflicht gerecht zu werden, hier erwähnen.
Linus Neumann: Das ist, ja dann warte mal, ich weiß gar nicht, die wievielte Wikileaks-Quelle
Linus Neumann: das jetzt ist, die mit schwerer Strafe versehen wird.
Tim Pritlove: Die wievielte? Ja.
Linus Neumann: Also Chelsea Manning war ja so der erste Fall auf jeden Fall.
Linus Neumann: Ich weiß nicht, ob dazwischen noch andere waren. Wie.
Tim Pritlove: Hieß diese Dame noch? Freedom? Das.
Linus Neumann: War keine Wikileaks-Quelle, die hat an Intercept Reality Winner,
Linus Neumann: hat an die Intercept geleakt und wurde,
Linus Neumann: wegen schlechten Quellenschutz, weil die Intercept die Datei einfach so wieder
Linus Neumann: online gestellt hat, ohne die mal von Metadaten zu befreien.
Linus Neumann: Bei dem World 7 League kann man allerdings auch sagen, also könnte man argumentieren,
Linus Neumann: dass der jetzt nicht unbedingt Whistleblowing war.
Linus Neumann: Da sind halt einfach mal die Attack-Tools
Linus Neumann: von der CIA nach draußen gehängt worden, was natürlich mitunter,
Linus Neumann: sehr unangenehme Konsequenzen für die CIA hat, wenn sie irgendwie Zugriffe verlieren
Linus Neumann: oder irgendwo nachgewiesen wird, dass sie es waren.
Linus Neumann: Man kann jetzt nochmal eine andere Diskussion darüber führen,
Linus Neumann: ob sie so etwas haben sollten.
Linus Neumann: Meine ethische Position dazu, dass staatliche Hacker irgendwie Sicherheitslücken,
Linus Neumann: zurückhalten, die dann für uns alle zum Risiko sind, ist bekannt.
Linus Neumann: Aber ich denke, die Veröffentlichung dieser Daten ist dann auf jeden Fall so im Bereich des,
Linus Neumann: schweren Schadens. Sagen wir mal, auf jeden Fall.
Tim Pritlove: Kann man wohl sagen. Also so klug schien mir das jetzt nicht zu sein, der Move. Naja.
Tim Pritlove: All right.
Linus Neumann: Dann hatte es sich schon angekündigt, wir haben es in der letzten Sendung behandelt,
Linus Neumann: dass die E-Privacy-Ausnahme durchgehen soll, durchs EU-Parlament ist sie dann auch.
Linus Neumann: Also da geht es um die sogenannte freiwillige Chat-Kontrolle.
Linus Neumann: Es war ja so, dass das, was mit der Chat-Kontrolle passieren soll,
Linus Neumann: eigentlich durch die E-Privacy-Regulierung der EU verboten ist.
Linus Neumann: Und deswegen mussten sie ja erst einmal diese Ausnahme von dem Verbot beschließen,
Linus Neumann: um dann in einem nächsten Rutsch quasi die Chat-Kontrolle richtig anzuordnen.
Linus Neumann: Das wiederum sieht jetzt nicht so aus, als wäre es ihnen gelungen.
Linus Neumann: Deswegen haben sie jetzt ihre alte Ausnahmeregelung, um das wenigstens freiwillig
Linus Neumann: zu erlauben, dass diese Überwachung wenigstens legal ist.
Linus Neumann: Die haben sie jetzt nochmal durchgekriegt und ja, die Abstimmung im EU-Parlament
Linus Neumann: ist irgendwie so 89 Prozent waren. waren 89% haben abgestimmt, 82% waren dafür.
Linus Neumann: Man kann sich anschauen, wer dagegen gestimmt hat und wer dafür gestimmt hat.
Linus Neumann: Aber ja, das ist auch hier eher so zur Chronistenpflichterfüllung erwähnt,
Linus Neumann: dass die jetzt verlängert wurde. Und ich glaube, um...
Linus Neumann: Wie lange war das denn jetzt? Ich glaube, um zwei Jahre oder so.
Linus Neumann: Da müsste ich jetzt nochmal schauen. Auf jeden Fall haben sie sich jetzt erstmal
Linus Neumann: wieder Sicherheit verschafft.
Tim Pritlove: Ist aber ganz interessant zu sehen, welche Länder wie sehr dagegen gestimmt haben.
Tim Pritlove: Da ist tatsächlich Deutschlands zweitstärkstes Land dagegen.
Tim Pritlove: Tschechien noch ein bisschen mehr dagegen.
Linus Neumann: Jo. Und dann soll es eine Bundesdatenschutzgesetznovelle geben,
Linus Neumann: wo man sich auch fragt, warum eigentlich?
Linus Neumann: Und da gibt es irgendwie zwei Änderungen, die jetzt so ein bisschen Sorge machen.
Linus Neumann: Vor allem sollen Unternehmen also in die Lage versetzt werden,
Linus Neumann: dass sie ihre Datenschutzauskunftspflicht verweigern können mit der Begründung,
Linus Neumann: dass Geschäftsgeheimnisse betroffen wären.
Linus Neumann: Also du gehst jetzt zu so einem Unternehmen hin und sagst hier,
Linus Neumann: ich möchte mein Recht auf Datenschutzauskunft ausüben.
Linus Neumann: Schickt mal bitte alles, was ihr habt.
Linus Neumann: Und dann können die sagen, ne, das ist unser Geschäftsgeheimnis.
Linus Neumann: Also deine persönlichen Daten sind unser Geschäftsgeheimnis.
Tim Pritlove: Das ist gut. Da muss man erstmal drauf kommen.
Linus Neumann: Und das ist natürlich schon ein bisschen übel, ne? Ja Und auch naheliegend, dass das,
Linus Neumann: missbraucht wird Also ich kann mir schon vorstellen, dass so Leute beim Meta
Linus Neumann: sich denken, so Jo, genau so, genau so haben wir uns das gedacht,
Linus Neumann: Und das Ja, das also da wundert man sich,
Linus Neumann: Gleichzeitig ist schon klar, dass,
Linus Neumann: warum Juristen sagen, naja, okay, du kannst ein Unternehmen ja jetzt nicht zum
Linus Neumann: Verraten seiner Geschäftsgeheimnisse zwingen.
Linus Neumann: Nur die Frage ist, vielleicht sollten, sollte,
Linus Neumann: Sollten meine persönlichen Daten kein Geschäftsgeheimnis eines Unternehmens sein.
Linus Neumann: Also da werden eigentlich die Internetkonzerne einfach nur dazu eingeladen,
Linus Neumann: Datenschutz-Auskünfte demnächst einfach pauschal zu verweigern.
Linus Neumann: Weil wenn man dann sagt, was soll denn da ein Geschäftsgeheimnis sein,
Linus Neumann: dann sagen die halt, können wir nicht sagen, Geschäftsgeheimnis.
Tim Pritlove: Naja, müssen sie immerhin nicht mehr das Urheberrecht bemühen. Ja.
Linus Neumann: Aber das ist schon wirklich.
Tim Pritlove: Gibt jetzt andere Ausnahmen. Ja, wer will denn das überhaupt?
Linus Neumann: So steht das Gesetz jetzt da. Das andere, was da ein bisschen komisch ist,
Linus Neumann: dass jetzt so Scoring-Aktivitäten nicht mehr ordentlich Qualität sichern wollen.
Linus Neumann: Also unsichere Score-Werte, die irgendwie mit einer spärlichen Datenbasis hergestellt
Linus Neumann: werden, darf man also weiterverwenden.
Linus Neumann: Und es gibt keine externe Prüfung oder Zertifizierung der Zuverlässigkeit,
Linus Neumann: die irgendwie vorgeschrieben würde.
Linus Neumann: Also, oder es wird auch nicht geprüft, ob der Scoring-Wert systematisch irgendwie
Linus Neumann: diskriminiert nach Alter, Geschlecht oder so. Also es ist alles erlaubt.
Linus Neumann: Gibt im Prinzip keine Qualitätsanforderungen an Scoring-Werte.
Linus Neumann: Jetzt sagen natürlich die Score-Hersteller, naja die Qualitätssicherung ist
Linus Neumann: bei uns doch völlig klar.
Linus Neumann: Wenn unser Score nicht gut wäre, würden die anderen den ja nicht benutzen.
Tim Pritlove: Klar. Wissen die ja auch.
Tim Pritlove: Ja gut, ich meine, wissen sie vielleicht dann, wenn ein Ausfall nicht prognostiziert
Tim Pritlove: wurde, ein Zahlungsausfall, aber dann trotzdem stattfand, dann können sie vielleicht davon ausgehen.
Tim Pritlove: Aber die Leute, die gar keine Kredite bekommen haben, wissen sie ja nicht,
Tim Pritlove: ob die sich hätten doch bezahlen können.
Linus Neumann: Genau.
Linus Neumann: Ähm, naja, und dann gibt's noch irgendwie Videoüberwachung im öffentlichen Raum
Linus Neumann: durch Polizei und Behörden.
Linus Neumann: Wollen sie zur Erfüllung ihrer Aufgaben zulassen?
Linus Neumann: Also, da ist ja auch wieder dieses Juristensprechen.
Linus Neumann: Natürlich darf die Polizei Videoüberwachung vornehmen, ja. Und dann wird aber
Linus Neumann: natürlich gesagt, zu welchem Zweck sie das darf.
Linus Neumann: Verhinderung schwerer Straftaten. Ich nehme jetzt ein Beispiel.
Linus Neumann: Es ist nicht so, ich will nur die Formulierung erklären, dass man Kompetenzen
Linus Neumann: der Polizei einräumt, zum Beispiel zur Verhinderung schwerer Straftaten oder
Linus Neumann: zur Strafverfolgung schwerer Straftaten.
Linus Neumann: Dann ist wiederum eine schwere Straftat definiert, da stehen dann welche Paragraphen
Linus Neumann: da referenziert sind und wenn du sagst, darf Videoüberwachung zur Erfüllung
Linus Neumann: ihrer Aufgaben, dann kannst du halt gucken, was sind die Aufgaben der Polizei,
Linus Neumann: was weiß ich, wenn jemand hinfällt, müssen sie dem helfen wieder aufzustehen,
Linus Neumann: ja, ein Freund und Helfer und dann sagst du halt, ah, alles klar.
Linus Neumann: Nee, nee, warum habt ihr hier eine Videoüberwachung gemacht?
Linus Neumann: Ja, zur Erfüllung unserer Aufgaben.
Linus Neumann: Und das ist natürlich ein sehr schwammiges und absolut unverhältnismäßig weitgehende
Linus Neumann: Beschreibung, weil dann müsstest du sagen,
Linus Neumann: also wann hat die Polizei denn jemals etwas nicht zur Erfüllung ihrer Aufgaben gemacht? macht.
Linus Neumann: Ja, die Datenabfragen für ein NSU 2.0, ja, das war nicht zur Erfüllung ihrer Aufgaben.
Linus Neumann: Ja, da könnte man jetzt sagen, da habt ihr wirklich, da habt ihr selbst die Latte noch gerissen.
Tim Pritlove: Ja, vor allem, also...
Tim Pritlove: Also die Vorstellung, dass die Polizei überhaupt irgendetwas tut,
Tim Pritlove: was nicht zur Erfüllung ihrer Aufgaben gedacht ist, so, ja, also ich meine,
Tim Pritlove: macht ihr denn ab und zu auch mal was anderes außer der Erfüllung eurer Aufgaben?
Linus Neumann: Ja, so.
Tim Pritlove: Das ist ja gut, ne?
Linus Neumann: Und das heißt einfach, genau, das heißt mit anderen Worten, Polizei darf das, Punkt.
Tim Pritlove: Okay, das wäre doch was für den Hacker-Paragrafen, ne? Also Hacker dürfen ihre Tools benutzen.
Linus Neumann: Sodass sie ihre Aufgaben... Zur Erfüllung ihrer Aufgaben.
Linus Neumann: Wieso brauchen Sie, wofür haben Sie den Flipper? Zur Erfüllung meiner Aufgaben. Ja.
Tim Pritlove: Eben. Dafür ist es geeignet. So. Achso, ja, dann ist doch alles gut.
Linus Neumann: Ja, das ist, also das scheint irgendwie nicht in die richtige Richtung zu gehen.
Linus Neumann: Man fragt sich, also und jetzt, das ist jetzt der Kabinettsbeschluss.
Linus Neumann: Ja, also das ist der Entwurf eines ersten Gesetzes zur Änderung des Bundesdatenschutzgesetzes.
Linus Neumann: Jetzt gucken wir mal, Problem und Ziel. Warum?
Linus Neumann: Finde ich auch aber ganz gut, dass sie, wenn sie ein Gesetz machen,
Linus Neumann: in der Regel angehalten sind, mal zu erklären,
Linus Neumann: welches Problem sie meinen jetzt zu lösen. Und das ist jetzt der Kabinettsentwurf.
Linus Neumann: Wie gesagt, der kommt dann aus dem BMI ins Parlament herab und dann wird der da diskutiert.
Linus Neumann: Der vorliegende Gesetzesentwurf zielt im Kern darauf ab, erstens Vereinbarung
Linus Neumann: des Koalitionsvertrages zwischen der SPD, Grüne, FDP aufzugreifen.
Linus Neumann: Sowie Ergebnisse umzusetzen, die sich aus der Evaluierung des Bundesdatenschutzgesetzes ergeben haben.
Linus Neumann: Siehe den Bericht Evaluierung, den das BMI veröffentlicht hat.
Linus Neumann: Also die haben ihr eigenes Gesetz evaluiert und dann gesagt,
Linus Neumann: jetzt müssen wir was ändern.
Linus Neumann: Datenschutzkonferenz wird institutionalisiert und so weiter.
Linus Neumann: Hm, jetzt wird es doch ein bisschen
Linus Neumann: lang. Also okay, wir werden jetzt eine Bundesdatenschutzgesetznovelle
Linus Neumann: diskutieren, die wie viele Seiten hat?
Linus Neumann: Wir haben keine Seitenzahlen. Das sind auch, ne, 27 Seiten. Geht eigentlich
Linus Neumann: für eine Gesetzesänderung relativ einfach. Ja.
Tim Pritlove: Die letzte Seite ist auch leer.
Linus Neumann: Ach so.
Tim Pritlove: 26. So viel ist jetzt auch nicht.
Linus Neumann: Und das ist ja nur, das ist dann auch die Begründung, ist dann wieder länger
Linus Neumann: als die einzelnen Änderungen.
Linus Neumann: Naja, vielleicht möchte ja eine, die uns zuhörenden,
Linus Neumann: Bundestags Mitglieder uns als Sachverständige da einladen. Da hätte ich mal Lust drauf wieder.
Linus Neumann: Echt? Das ist geil. Du liest irgendwie so. ich finde diese Gesetzesentwürfe immer ganz lustig.
Linus Neumann: Änderung des 10. Buches Sozialgesetzbuch. So, und dann steht da § 83 Absatz 1 des 10.
Linus Neumann: Buchs Sozialgesetzbuch Sozialverwaltungsverfahren und Sozialdatenschutz in der
Linus Neumann: Fassung der Bekanntmachung vom 18. Januar 2001.
Linus Neumann: BGBI das zuletzt durch Artikel 19 des Gesetzes vom 20.
Linus Neumann: Juli 2022 BGBL Bundesgesetzblatt ist das wahrscheinlich wahrscheinlich nicht
Linus Neumann: BGBI, geändert worden ist, wird wie folgt geändert.
Linus Neumann: Erstens, in Nummer 2 Buchstabe A wird das Wort satzungsgemäßer durch die Wörter
Linus Neumann: von in öffentlich-rechtlichen Satzungen vorgesehenen ersetzt.
Linus Neumann: Folgender Satz wird angefügt. Das Recht auf Auskunft besteht auch insoweit nicht,
Linus Neumann: nicht als der betroffenen Person durch die Information ein Betriebs- oder Geschäftsgeheimnis
Linus Neumann: des Verantwortlichen oder eines Dritten offenbart würde und das Interesse an
Linus Neumann: der Geheimhaltung das Interesse der betroffenen Person an der Information überwiegt.
Linus Neumann: So, dann musst du dir das Buch rausholen und gucken, wo das steht.
Tim Pritlove: Denk wirklich nach Spaß.
Linus Neumann: Das ist gut.
Tim Pritlove: Ich verstehe richtig, dass du so scharf drauf bist.
Linus Neumann: Irgendwas von Mahnung haben sie auch Scoring, ah ja, Scoring das ist dann Mahnung Ja Ah, Paragraph,
Linus Neumann: 37a BGB und 40a, ich glaube 38 ist so im Mindest oder sowas Ja,
Linus Neumann: Machen wir Nehmen wir gerne, gehen wir gerne hin.
Tim Pritlove: Okay, ist ein Gesetzentwurf Da wird noch dran gefeilt werden Muss man auf jeden
Tim Pritlove: Fall mal auf dem Zeiger haben.
Linus Neumann: Ja, also kommt mir ein bisschen komisch vor.
Linus Neumann: Vor allem habe ich jetzt noch nicht, mir fehlen die Fälle, also ehrlich gesagt, ne?
Linus Neumann: Klingt mir das so ein bisschen nach, die Lobbyisten von der Schufa haben ganze Arbeit geleistet.
Linus Neumann: Weil, wenn ich jetzt längere Zeit darüber nachdenke, wer hat denn Geschäftsgeheimnisse,
Linus Neumann: die durch Datenschutzauskünfte potenziell bedroht werden könnten?
Tim Pritlove: Facebook.
Linus Neumann: Google, eigentlich nicht.
Linus Neumann: Aber so eine Schufa.
Tim Pritlove: Das fällt eigentlich voll ins Feld, da hast du recht.
Linus Neumann: Und außerdem ist außerdem das Interesse der Schufa, dass Scoring und so weiter
Linus Neumann: möglichst frei diskriminieren kann, machen kann, wie es will und man nicht erklären
Linus Neumann: muss, wie es zustande kommt. kommt.
Linus Neumann: Und also laut Gesetzentwurf muss man nur die wichtigsten Kriterien,
Linus Neumann: so, und dann sagen die halt, die wichtigsten Kriterien sind,
Linus Neumann: wie nennt man das, dass man immer bezahlt, dass man seine Schulden bezahlt und dann sind die fertig.
Linus Neumann: Also ich glaube, da haben einfach die Lobbyisten von der Schufa ganz,
Linus Neumann: ganz gut bei Nancy Faeser vorgesprochen.
Tim Pritlove: Also es wäre auf jeden Fall mal sehr interessant, mal nachzufragen,
Tim Pritlove: was eigentlich die Motivation hinter diesen Änderungen genau ist.
Tim Pritlove: Also was soll dadurch jetzt eigentlich wo besser werden und wäre auch mal eine
Tim Pritlove: interessante Nachfrage mal zu schauen,
Tim Pritlove: auf welche Branchen denn diese Änderungen denn irgendwelche Auswirkungen haben. Es.
Linus Neumann: Gibt die Evaluierung des Gesetzes zur Anpassung des Gesetzes.
Linus Neumann: Das ist das vom BMI, wo sie sagen, das was wir da gelernt haben, setzen wir hier um.
Linus Neumann: Das ist ein 143-seitiges Dokument.
Linus Neumann: Wir verlinken das mal. Das ziehen sie zumindest als Motivation heran,
Linus Neumann: dass hier jetzt Änderungsbedarf besteht. Jetzt können wir mal gucken.
Linus Neumann: Geschäftsgeheimnisse.
Linus Neumann: Äh, Geheimnis.
Linus Neumann: Geschäfts... Geschäftsgeheimnis kommt nicht. Nee, Geschäftsräume. Geschäftsstelle.
Linus Neumann: Also Geschäftsgeheimnisse steht ja schon mal nicht drin. In dieser...
Linus Neumann: Also dieses Dokument scheint sich nach meiner Wahrnehmung nicht unbedingt heranziehen zu lassen.
Linus Neumann: Als Begründung das einzubauen.
Linus Neumann: Tja, werden wir nächstes Mal erfahren. Wir gucken uns das nochmal an.
Linus Neumann: Auf jeden Fall werden wir jetzt offenbar diese BDSG-Novelle diskutieren dürfen
Linus Neumann: in den nächsten Sendungen.
Tim Pritlove: Wie schön. Na gut, aber damit sind wir jetzt erstmal mit dieser Sendung durch.
Tim Pritlove: Ja. Wir haben gewählt, wir haben gesendet.
Linus Neumann: Wir waren heute aber mal richtig gute Demokraten.
Tim Pritlove: Aber sowas von. Vorbilder eigentlich, kann man sagen, oder? Ja.
Tim Pritlove: Lupenrein in gewisser Hinsicht.
Linus Neumann: Lupenreine Vorbilder.
Tim Pritlove: Super Typen.
Linus Neumann: Ich bin auch immer wirklich zufrieden mit mir. Heute bin ich richtig happy.
Tim Pritlove: Ja, du bist so toll.
Linus Neumann: Ich bin stolz eigentlich.
Tim Pritlove: Leute, das war's von uns. Wir entlassen euch in die Woche und hören uns dann
Tim Pritlove: eine Woche drauf. In etwa wieder.
Linus Neumann: So werden wir das machen. Das.
Tim Pritlove: Ist der Plan. Also wir sagen Tschüss, bis bald.