Jobs — Raumzeit — AI Act — Deepfake CREO Fraud — Kennzeichnung von KI-Bildern — Maaßen verfaschungsschutzt —UN Cybercrime Convention — Flipper Zero — VAULT7-Urteil — Freiwillige Chatkontrolle — Datenschutzgesetznovelle
Tim und Linus waren wählen und finden sich deswegen ganz toll. Nicht so toll finden wir Details zum AI Act, pöse AI-Kriminelle und Versuche, auch physische Hackertools zu verbieten. Dass Ex-BfVS-Chef Maaßen jetzt von seiner eigenen Behörde beobachtet wird wiederum bietet wiederum etwas Genugtuung.
Linus Neumann
Tim Pritlove
Für diese Episode von Logbuch:Netzpolitik liegt auch ein vollständiges Transkript mit Zeitmarken und Sprecheridentifikation vor.
Bitte beachten: das Transkript wurde automatisiert erzeugt und wurde nicht nachträglich gegengelesen oder korrigiert. Dieser Prozess ist nicht sonderlich genau und das Ergebnis enthält daher mit Sicherheit eine Reihe von Fehlern. Im Zweifel gilt immer das in der Sendung aufgezeichnete gesprochene Wort. Formate: HTML, WEBVTT.
Transkript
Tim Pritlove
Guten Morgen, Linus.
Linus Neumann
Guten Morgen, Tim.
Tim Pritlove
Heute war ja Wahl. Hattest du die Wahl? Was hast du gewählt?
Linus Neumann
Ich sagte doch nicht, was ich gewählt habe. Was war das denn jetzt?Die haben heute in dem Wahllokal, die haben den Ablauf falsch gehabt.Ich bin da hingekommen, hab denen meine Wahlbenachrichtigungskarte gezeigt,dann hab ich einen Stimmzettel bekommen.Ich dachte so, der hat mich jetzt gar nicht von der Liste der Wählerinnen gestrichen.Dann kam ich aus der Kabine zurück mit meinem Stimmzettel gehe zu der Urne unddann steht da halt der Typ mit der mit der Liste wo die Namen stehen wo er michabstreichen muss und sag ich so ja,was mach ich jetzt ja zeigen sie mal her und nehmen sie meinen Stimmzettel ichso, den geb ich ihnen nicht,achso ja ne sorry, haben sie einen Personalausweis weil normalerweise hättenwir gerne die Wahlbenachrichtigung.Ich so, habe ich. Kann ich Ihnen gerne zeigen.Wahlbenachrichtigung gezeigt. Ja, gut.Ja, dann gucken wir jetzt das, was Sie hier mal wegstreichen.Dann können Sie den Stimmzettel da in die Urne werfen.Tut mir leid, dass ich den gerade nehmen wollte. Das wollte ich natürlich nicht nehmen.Dem war schon auch klar, dass er da gerade so an den falschen,potenziell an den falschen hätte geraten können. Mitgeben Sie mal den Stimmzettel.Fand ich auf jeden Fall ganz gut. Aber das war jetzt als Intro-Gang wahrscheinlich zu lang, ne?
Tim Pritlove
Wir sehen Martin noch die Hoffnung. Ich krieg das so wie geschnitten.Du machst das doch schon eine Weile.Was machen wir jetzt?
Linus Neumann
Fangen wir wieder neu an oder du machst jetzt die Musik?
Tim Pritlove
Oh Mann, das fängt ja gut an.Logbuch-Netzpolitik Nummer 484 vom 11.Februar 2024 und man verlernt mit der Zeit ja alles, sogar Sendungseinstiege.
Linus Neumann
Ich hab dir gesagt, mir fällt zu weich ein.
Tim Pritlove
Ja, jetzt lassen wir das so, oder?
Linus Neumann
Ich hätte noch andere zur Auswahl gehabt von ChatGPT.
Tim Pritlove
Die waren nicht witzig.
Linus Neumann
Ja.
Tim Pritlove
Ich dachte, ich.
Linus Neumann
Kann ja keinen Qual-der-Wahl-Witz machen oder so. Das ist ja zu abgedroschen.
Tim Pritlove
Tja.
Linus Neumann
Ja, wir hatten Wiederholungswahl in Berlin.
Tim Pritlove
So sieht es aus. Ja.
Linus Neumann
Und es ist keiner hingegangen.
Tim Pritlove
Ich war gerade ein bisschen verwirrt von deiner Reihenfolge.Also ich meine, erst kommt man noch mit der Wahlbenachrichtigung an. Ja.
Linus Neumann
Die haben das falsch gemacht.
Tim Pritlove
Aber du meintest gerade, als erstes müsstest du von der Wählerliste gestrichen werden.Das ist ja tatsächlich erst, wenn du die Stimme abgibst, dann wirst du gestrichen.
Linus Neumann
Okay, dann hat er das gemacht. Dann hat er es richtig gemacht.
Tim Pritlove
Ja. Bei mir war jetzt der Prozess ein bisschen anders, weil ich hatte eigentlichBriefwahl beantragt, die dann aber nicht wahrgenommen. Und dann musste ich jaerstmal durch den Prozess durchgehen.
Linus Neumann
Dann musst du durch den Prozess der Ausstellung eines neuen...
Tim Pritlove
Dann musste ich das Material, was mir zugesendet wurde, also den Wahlscheinund so weiter, den musste ich dann, naja, sie haben gesagt, ich muss den jetzt vernichten.Ja, okay. Und wie mache ich das jetzt ordnungsgemäß?
Linus Neumann
Feuerzeug.
Tim Pritlove
Ja, wussten sie dann erstmal auch nicht so richtig. Ja, das müssen sie irgendwie da hinten machen.Dann bin ich zu diesen anderen Vögeln gegangen, da wo man dann eigentlich seineStimme abgibt, also seinen Stimmzettel abgibt.Und ja, müssen sie jetzt vernichten. Ja, so weit habe ich das schon verstanden.Die Frage ist, was ist der korrekte, ordnungsgemäße Vorgang?Muss ich das jetzt anzünden? Das haben sie mir nicht gesagt.Ich habe nur gefragt, ich wollte ja sozusagen den Prozess nicht in Gefahr bringen.
Linus Neumann
Ja.
Tim Pritlove
Das weiß ich, dann mache ich irgendwas falsch.
Linus Neumann
Du machst den falsch kaputt und dann kann man den nicht mehr richtig kaputt machen.
Tim Pritlove
Ja, dann ist das wieder so ein Schmetterlingsschlag.
Linus Neumann
Oder der ist schon kaputt und die hätten aber vorher noch...
Tim Pritlove
Ja, also ich hatte einfach Angst, dass die ganze Welt auseinanderbricht,wenn ich jetzt nicht das Richtige tue.
Linus Neumann
Also wenn man schon eine Wiederholungswahl macht, möchte man ja jetzt auch nicht...
Tim Pritlove
Dabei alles falsch machen.
Linus Neumann
Ja, noch was falsch machen.
Tim Pritlove
Dann waren es wieder die Wähler, ne?
Linus Neumann
Ein drittes Mal.
Tim Pritlove
Ja. Ja. Nee, es war alles ganz reibungslos. Es war allerdings auch wenig los.
Linus Neumann
Ja.
Tim Pritlove
Also ich tippe mal...
Linus Neumann
Ich glaube auch, deswegen haben die da... Die waren wahrscheinlich völlig geschockt.
Tim Pritlove
Unterfordert. Ja. Deswegen habe ich ja ihnen gleich eine Aufgabe gestellt.Naja, ich habe es dann auf jeden Fall geschafft und der Stimmzettel ist dannirgendwann in der Kiste gelandet. Und jetzt ist alles anders.
Linus Neumann
Also mein Eindruck war, dass das da schon grob lief. Ich habe zum Beispiel...Gecheckt, ob da auch wirklich die Kandidatinnen und Kandidaten draufstehen, die ich erwarte.Das war ja bei einem Wahllokal vor zwei Jahren so, dass sie innerhalb einerhalben Stunde gemerkt haben, dass sie vom falschen Wahlkreis die Zettel ausliegen hatten.Dass dann irgendwann einer hingegangen und meinte also ich wollte eigentlichjemand anders wählen, aber der ist nicht auf dem Zettel,können sie mal gucken ob das die richtigen sind, weil auf meiner Wahlbenachrichtigungund so steht ja hier Wahlbezirk und so,und dann, hier hängt ja auch überall irgendwie so einer, aber der steht hiernicht und dann haben die haben die gesagt, oh Oh, ha!Ja, und es ist natürlich auch lustig mit denen, die zu dem Zeitpunkt schon gewählt hatten.
Tim Pritlove
So ein Durcheinander. Also da ist echt alles schief gegangen.Zur Erinnerung, das war jetzt hier die in Berlin völlig verkackte Bundestagswahlund auch Landtags- oder Senatswahl in Berlin.Letztere wurde ja schon mal nachgeholt. Das hat uns ja dann hier die tolle,Verkehrssenatorin eingebracht, die jetzt erstmal wieder alle Radwege verhindern muss und so.Und du weißt schon hier, sie hat jetzt übrigens gemerkt, dass das irgendwiemit dem ähm, dass das mit dem Magnetschwebezoch, dass das schwierig ist.
Linus Neumann
Ach was?
Tim Pritlove
Ja. Da wäre so viel, da würde so viel dranhängen irgendwie, das wäre tatsächlichein bisschen schwierig.
Linus Neumann
Da haben sich schon ganz andere Städte dran verhoben.
Tim Pritlove
Man wählt da Leute und vor allem Politiker haben dann oft ja bei den meistenLeuten so dieses, naja, die stellen sich ja zur Wahl, die müssen ja auch irgendwie kompetent sein.Und das ist einfach ein Trugschluss. Also nicht, dass sie nicht intelligent sein können.Ich habe schon Politiker erlebt, die sind intelligent, aber meistens ist es dann doch so.Das, ja, wie sagte Pavel mal so schön, die hätten auch manchmal Probleme einfach mit Mathematik schon.Also einfach Grundrechenarten wären teilweise schwierig zu vermitteln gewesen.So Prozentrechnung und so Sachen, das würde einfach so nicht verstanden werden da.Und das ist schon mal so ein Teil des Unglücks.Ja, naja, also wir haben jetzt auf jeden Fall beide nachgewählt,weil wir beide in so betroffenen Wahlbezirken waren.Das ist ja nicht überall in Berlin, sondern es ist nur in ausgewählten,nur in den feinsten Bezirken, wo die speziellen Leute wohnen.Da wollten sie es dann doch nochmal genau wissen.Und dann gucken wir mal, was dabei rauskommt. Wir sitzen ja hier früher morgen und haben keine Ahnung.Aber Spoiler, es wird sich nicht füreinander durch. Ich.
Linus Neumann
Habe es ehrlich gesagt, also ich muss sagen, die war ja auch ein bisschen unterberichtet.Also mich wundert das überhaupt nicht, dass diese Beteiligung jetzt niedriger ausfällt.
Tim Pritlove
Ich weiß nicht, ob sie niedriger ausfällt, nur als ich da war,war nicht viel los. Das heißt ja erstmal gar nichts.
Linus Neumann
Naja, wenn man jetzt so die ersten Berichte so anschaut,ist die Wahlbeteiligung wohl relativ gering und jetzt irgendwie meine Kontaktein den Wahllokalen sagen auch, dass es eher langweilig ist.
Tim Pritlove
Tja, wenn ihr was Spannendes machen wollt, dürft ihr euch nicht für die Demokratie einsetzen.Naja, gut. Neue Betätigungsfelder gibt es ja auch bei der Bahn.Hast du das mitbekommen?
Linus Neumann
Ja, da gibt es...
Tim Pritlove
Kennst du dich da aus eigentlich? Hier MS-DOS und Windows 3.11.
Linus Neumann
Ja, da habe ich...
Tim Pritlove
Hast du Erfahrung?
Linus Neumann
So wie du auf alten Schiffen lernt man das Segeln.
Tim Pritlove
Ja.
Linus Neumann
Und habe ich gemacht, ja. Ja.
Tim Pritlove
Was hast du gemacht da auf MS-DOS? Was können Sie da vorweisen, Herr Neumann? Ich.
Linus Neumann
Glaube, ich hatte einmal einaltes Laptop, da war glaube ich so MS-DOS 3.8 oder sowas, kann das sein?Das wurde noch von Disketten gebootet, der Rechner hatte noch nicht mal eine Festplatte.Aber mein erster richtiger Rechner, den ich auch davor hatte,dieses alte Laptop, habe ich dann irgendwann mal aus historischen Zwecken wieder gestartet.War glaube ich MS-DOS 6.2 war das so die?Und dann musste man Win eingeben, damit Windows 3.11 startete.Habe ich hingekriegt. Mhm.
Tim Pritlove
Okay, super.
Linus Neumann
Und also lief Doom drauf, also hatte ich den Rechner, würde ich sagen, vollständig im Griff.
Tim Pritlove
Mit 3D sozusagen. Okay, ja dann kannst du bei der Bahn anfangen,ne? Die suchen jetzt da Leute.Windows 3.11 für Workgroups. Ja.
Linus Neumann
Alles geil. 3.11 für Workgroups, dieser Name allein, ne?
Tim Pritlove
Das ist jetzt kein Witz, ne? Also...Nicht die Bahn, sondern konkret Siemens. Die Bahnabteilung von Siemens suchteinen Admin für Windows 3.11, für Workgroups.Und wir dachten euch, wir dachten uns so für euch so als Jobangebot,vielleicht ergibt sich da ja nochmal was.Für so Leute, die auch dann Schwierigkeiten hatten, dann mit der Entwicklung mitzuhalten.
Linus Neumann
Ja, weil IT ist ja schon so ein schnelllebiges Feld.Und es stimmt ja auch. Und dann irgendwann zu sagen, nee, komm,Schuster, bleib bei deinen Leisten.
Tim Pritlove
Mit einem alten Pferd bringst du keine Tricks mehr bei.
Linus Neumann
Nee.
Tim Pritlove
Hund sagt man, ne? Mit einem alten Hund bringst du keine Tricks mehr bei. So war das.
Linus Neumann
Aber wenn du das richtig unterkommst. Ich frage mich, wie du sowas sicher betreibenwillst, aber das haben sie auch direkt dazu gesagt, dass es in der Bahn üblichwäre, dass Dinge länger betrieben werden und dass sie selbstverständlich sicher betreiben.
Tim Pritlove
Ach ja, ich habe, muss ich sagen, wenig Erfahrung mit Windows 3.11 für Workgroups,da war meine aktive Windows-Zeit schon lange vorbei.Die war nämlich nur sehr kurz, ich habe nämlich eigentlich nur Windows 1.0 verwendetund das auch nur zu einem einzigen Zweck, um damit PageMaker zu starten.Das war eigentlich die einzige Anwendung, die ich als unter Windows verwendet habe in all der Zeit.
Linus Neumann
Ne, ich glaube, ich bin ja relativ spät dann zu Mac gegangen und ich habe dannschon relativ, ich glaube zu Windows 95 Zeiten habe ich so Dualboot Linux gehabt schon.Aber ich musste natürlich irgendwie bestimmte Programme da einfach,insbesondere die ganzen Spiele, musste es natürlich unter Windows laufen lassen.Und nicht unter Wine.
Tim Pritlove
Spiele, Windows.
Linus Neumann
Meinst du mit den Angaben kriegen wir den Job?
Tim Pritlove
Also du hast Chance nicht.
Linus Neumann
Ich glaube.
Tim Pritlove
Ich halte mich da raus.
Linus Neumann
Lilo.
Tim Pritlove
Ich glaube, ich mache weiter Podcasting.
Linus Neumann
Mit dem Lilo habe ich dann Dualboot gemacht. Der Linux-Loader.Der Linux-Loader, genau.
Tim Pritlove
Wow. Alright. Na gut, wisst ihr, wo ihr noch einen Job kriegt jetzt.
Linus Neumann
Ja.
Tim Pritlove
Genau. Aber wir wollten uns ja eigentlich über netzpolitische Aspekte unterhalten.
Linus Neumann
Deswegen möchtest du jetzt über Raumzeit reden, oder was?
Tim Pritlove
Ah ja, stimmt ja, genau. Da war ja noch eine Hausmitteilung.
Linus Neumann
Ja.
Tim Pritlove
Genau. Also heute, wie sagte ich gerade, ist 11. Februar.Und das bedeutet in 10 Tagen gibt es eine Möglichkeit meinen anderen Podcastmal live mitzuerleben wenn ihr Lust habt, ich mache,eine Aufnahme on stage und da kann man so drumrum sitzen und in die Ferne schauen weil das Ganze im,Zeiss Großplanetarium wie es korrekt da also heißt in Berlin stattfindet,da kann man sich dann ein Ticket klicken und sich hinsetzen und ich habe einenGast und das ist Ulf Merbold, das ist so ein ja, so ein, ja, das ist einer der,erfolgreichsten Astronauten Deutschlands, so, dreimal im All gewesen und sound nach Sigmund Jähn, der zweite.Kommen übrigens beide so mehr oder weniger aus der gleichen Ecke,das ist echt interessant, also man muss da schon so aus Thüringen,Erzgebirge, das ist der Ort, wo die, wo die Ursuppe der deutschen Astronauten herkommt.Aber der ist dann in hat im Westen rüber gemacht, weil er nicht Physik studierendurfte. Deswegen ist er dann westdeutscher Astronaut geworden.
Linus Neumann
Im Westen rüber gemacht und dann ins All. Also jemand, dem es grundsätzlicheinfach nicht gefällt, wo er ist.
Tim Pritlove
So ein Meckerer. Naja, hast du jetzt goldener Westen alles rüber und dann so, ah ne.
Linus Neumann
Ah scheiße.
Tim Pritlove
Boah.
Linus Neumann
Ich muss hier weg.
Tim Pritlove
Auf in den Orbit.Naja. Genau.
Linus Neumann
Wie alt ist er jetzt?
Tim Pritlove
Wie alt ist er?Also auf jeden Fall schon Rente, Baujahr 1941.
Linus Neumann
Also ist er gar nicht mehr als Astronaut tätig?
Tim Pritlove
Nein, nein, der ist jetzt 80 Jahre alt.83, 82, 83.
Linus Neumann
Ja, da kann man dann auch, also Astronaut ist ja auch eigentlich ein anstrengenderJob, da kann man dann auch einfach mal in den Ruhestand gehen.
Tim Pritlove
Ja.
Linus Neumann
Okay, und der erzählt dann, wie sie damals...
Tim Pritlove
Genau.
Linus Neumann
Mit Windows 3.11.
Tim Pritlove
Föber-Groups. Genau.Würde ich mich freuen, wenn ihr dabei seid. So, jetzt aber Inhalt.
Linus Neumann
Genau, auf der europäischen Ebene wird ja der AI-Act diskutiert.Und es ist so ein skurriles Feld irgendwie.Es gibt jetzt eigentlich eine relativ klare ursprüngliche Positionierung,die auch das Parlament hatte, nämlich die gesagt hat, hier, wir möchten bittekeine biometrische Echtzeitüberwachung haben,wir möchten auch so Emotionserkennung,also im Prinzip diese ganze biometrische Massenüberwachung, das möchten wireigentlich nicht haben.Und dann kam die spanische Ratsvorsitz, der ja nun auch wirklich irgendwie hierrelativ oft negativ auffällt und hat gesagt, ja nee, machen wir doch,wir haben ja eine gute Idee, danke für eure Position, liebes Parlament,wir schreiben da jetzt mal wieder was rein und möchten halt eher schon so etwas drin haben.Ja, also möchten diese ganzen Sachen in der biometrischen Überwachung eher wieder drin haben.Jetzt müssen wir mal gucken, wie sich das weiter entwickelt.Es ist ja wirklich immer so eine komische Sache.Also vielleicht muss ich mir da irgendwann auch nochmal einen ordentlichen Zeitstrahlmalen lassen, wann so etwas, wie dieser Prozess wirklich läuft,wann da mal die endgültige Abstimmung ist.Aber auf jeden Fall biometrische Echtzeitidentifizierung, Emotionserkennungund sowas bleibt da weiter im Rahmen der Diskussion.Auch wenn eigentlich schon stabile Positionen dagegen bestanden im EU-Parlamentund die Mitgliedstaaten im Rat das jetzt irgendwie anders sehen.Und eine andere spannende Sache finde ich, also es geht natürlich hier um die Sicherheitsbehörden.Also hier geht es jetzt, kannst du dir genau anschauen, wir machen da so einAI-Act, dann geht es einmal darum,okay, müssen wir gucken, was macht denn die Wirtschaft so, was können wir derWirtschaft untersagen und die Wirtschaft muss eben eigentlich Register führenüber besonders risikoreiche KI-Systeme.Also wenn du irgendwie, das ist dann definiert, was jetzt besonders risikoreichist, Entscheidungstreffen, besondere Überwachung oder so.Und für den Staat selber, da kommt natürlich dann wieder so eine andere Sache.Sagen wir erstens, ach ja, hier so biometrische Massenüberwachung,das können wir eigentlich mal den Sicherheitsbehörden erlauben.Das ist schon mal ganz gut.Und eigentlich, wenn die riskante KI-Systeme einsetzen, dann erfassen wir daszwar auch in der Datenbank, aber im nicht öffentlichen Teil.Weil muss ja nicht unbedingt jeder sehen, dass wir bei Strafverfolgung,Migration, Asyl und Grenzkontrollmanagement riskante KI-Systeme einsetzen.Aber das können wir jetzt, das ist ja witzlos, wenn wir dann das in der Datenbankschreiben müssen, dass wir die eintragen.Deswegen sagen wir, da schaffen wir keine Transparenz drüber.Also erkennbar hier wieder so Last-Minute-Wechsel für, ach lass uns mal dieseganzen Überwachungsvorzüge dann doch mal für uns Staaten freistellen und uns erlauben.Während ja, dieses ganze Ding ja eigentlich geritten wird unter Jetzt-Licht,aber hier mal die EU den Konzernen mal die die mal entketten,dass die hier nicht ungezügelte,KI-Überwachung hier ausrollen und ja, ehrlich gesagt finde ich das ein bisschensehr erstaunlich, was da, wie das da jetzt irgendwie gerade läuft.Dann gab es irgendwie so so einen komischen offenen Brief, der mich auch eher ein bisschen.Ja, wie soll man das sagen? Ratlos zurückgelassen hat nämlich der AI-Act-Verabschiedenbrief,den dann irgendwie ein paar Organisationen unterschrieben haben.Wir haben irgendwie so Bertelsmann Stiftung, Stiftung Neue Verantwortung,Verbraucherzentrale, Bundesverband, aber auch einige, also irgendwie eine komischeListe, wo irgendwie so steht so, ja der fehlende Rechtsrahmen ist das größte Problem.Und wenn da jetzt einzelne Sachen nicht so gut dran passen, dann soll man trotzdem.Jetzt mal unterschreiben.Wir, die Unterzeichner, unterstützen nicht alle Maßgaben der Verordnung.Vielmehr sehen sie an verschiedenen Stellen Verbesserungsbedarf.Aber wir müssen jetzt gemeinsam Position beziehen, um die ZukunftsfähigkeitDeutschlands und Europas zu sichern.Also habe ich auch jetzt ja üblicherweise, sagst du in deinem offenen Brief,ja, folgendes hätten wir gerne noch geändert und dann Volldampf voraus,aber hier offener Brief an die deutsche Bundesregierung,stimmen Sie für den AI-Act.Und natürlich klar, würde der nicht angenommen werden, dann wäre das ein hohesRisiko für die Innovationskraft und den Grundrechtsschutz in Europa mit internationalen Auswirkungen.Also die Sorge, die sie in diesem Brief benennen, ist,dass ein Flickenteppich aus Regulierung in Europa entstehen könnte und danndamit Innovationskraft gedämpft wird,weil sich dann hier nicht die europäische AI Startups hier ordentlich durchsetzen können.Die haben ja auch überhaupt keinen, also die haben ja jetzt gerade so richtigeine Vollgas-Position und überhaupt keine Nachteile dadurch,dass sie keine Daten haben oder dadurch,dass es dieses Thema eigentlich nicht gab. Irgendwie so ein bisschen komisch.Also ich denke diesen AI-Act es wäre schon sehr schön wenn wir.Wenigstens uns darüber einigen könnten keine massenhafte biometrische Überwachungzu haben und auch keine Rückschlüsse dafür und als allererstes mal sich derStaat selber ein paar Ketten anlegt,aber es scheint hier eher andersrum zu sein das überzeugt mich nicht.
Tim Pritlove
Ja, das ist immer so ein bisschen die Gefahr, gerade mit so Riesenpaketen,also AI, das ist halt auch so mega generisch.Ah, künstliche Intelligenz, ja ach das Thema, das regulieren wir jetzt mal.Dabei ist das einfach so ein riesiges Fass, was man da aufmacht und das zeigtsich ja hier an den Detailverhandlungen schon, welche Aspekte es dabei gibt.Aber dadurch, dass das dann alles in einem dicken Teil durchgerollt werden mussund das ist generell auch so ein bisschen das Problem der europäischen Ebene.Also wenn Europa mal was anfasst, dann muss das gleich so ein Riesenpaket seinund alle Einzelaspekte müssen da drin untergebracht werden und dann wird eshalt auch schnell mal zu viel und vor allem verliert man so ein bisschen dann auch den Fokus,was war es jetzt eigentlich nochmal,warum sind wir jetzt eigentlich überhaupt angetreten das zu regulieren?Also was war jetzt eigentlich genau der Grund?Und ich habe manchmal auch so den Eindruck, dass solche Sachen,die am Schluss über die am meisten noch gestritten wird, ursprünglich mal so der Trigger waren.So nach dem Motto, oh, da gibt es ja Gefahren, da müssen wir mal wegen der Gefahren,müssen wir mal was machen.Dann wird da zwei Jahre drüber geredet und dann wird das immer mehr so,ja die Gefahren, aber auch die Chancen, wir müssen ja auch die Chancen sehenund wir müssen ja unsere Innovationskraft behalten, wir müssen ja zukunftssichersein und jetzt brauchen wir hier mal Rechtssicherheit und dann so,was wollten die alles machen?Achso, ihr wollt ja eine klare Regelung für die Verwendung von biometrischerErfassung. so, ja dann machen wir das doch mal, da schreiben wir wir sind dochsowieso gerade dabei bei so einem AI-Act, das passt doch eigentlich ganz gut, oder?Und dann steht einfach genau das Gegenteil von dem drin, was man eigentlichhaben wollte und das ist irgendwie so ein bisschen absurd und das halt auchmal alles richtig zu tracken und zu verfolgen, das ist natürlich die Aufgabeder ganzen Begleiter und NGOs und vielleicht auch von uns hier ein bisschen.Aber es ist halt schwierig wenn das alles so groß ist und dann vor allem danneben die Auseinandersetzung innerhalb von Europa und dann natürlich auch nochmal innerhalb der europäischen Institutionen so verbissen dann geführt wird.Und das Parlament, der Trilog.Da hast du wieder irgendein Land, was aber unbedingt alles überwachen will unddas fängt dann an rumzudrohen.Da wüsste ich auch ganz gerne mal, wie es da hier eigentlich aussieht,welche Staaten sich hier eigentlich noch so einbringen.Du hast halt einfach so ein paar potenzielle Staaten, die sagen wir mal so mitRepressionstechniken nicht ganz so Berührungsprobleme haben.
Linus Neumann
Also Beispiel in Argentinien hat kürzlich dieser Javier Millet,glaube ich spricht man den aus.Der hat gesagt, ja hier, wer hier protestiert, dem kneifen wir vom Sozialsystem ab.Also kriegt ihr erstmal Hartz-IV-Sperre, wenn ihr eure Zeit so verbringt. So ungefähr.Also Diskussionsstand ist, dass viele die Position vertreten,ja, wir haben das ja jetzt, die Echtzeiterfassung biometrischer Natur,die haben wir ja jetzt hier verboten.Und deswegen ist ja gut, aber Retrograd kann man ja schon dann machen.Also wenn die Aufzeichnung, wenn es nicht in Echtzeit ist, dann ist es erlaubt.
Tim Pritlove
Wir haben ja fünf Sekunden gewartet.
Linus Neumann
Genau das ist es nämlich. Und da gibt es dann auch keine Grenzen dafür.Das heißt, bei Bagatelldelikten, bei der Demonstration gab es einen Handtaschendiebstahl,wir machen jetzt mal vollständige biometrische Aufklärung, Retrograd,das wäre also hier gedeckt.Und jede Ausnahme, jede kleine Ausnahme wird natürlich dann sehr breit und sehr groß.Oder wenn du keine Grenze hast, was für Straftaten oder so.Du könntest im Prinzip sagen, du verfolgst Obdachlose wegen Hausfriedensbruch.Diese Massenüberwachung, du guckst ja nicht einzelne Gesichter an.Das könntest du ja ohnehin jetzt schon machen.Und schon heute ist es ja so, dass in Deutschland Tausende identifiziert werdenmit Standardgesichtserkennungssystemen.Und ja, das klingt erstmal nicht so übermäßig tragisch, aber das ist halt amEnde, wird der öffentliche Raum dann so überwacht wie das Internet.Wie das Internet heute von irgendwelchen Trackern erfasst und verfolgt wird.Und das ist sicherlich keine so, also das ist schon sinnvoll,dass Reclaim Your Face und so sich da stark entgegensetzen, weil das wäre jetztwirklich mal etwas, wo man sagen könnte,das wäre sinnvoll so etwas nicht zu haben oder so etwas starke Grenzen zu setzen.Anderes Beispiel, in zwischen 2018 und 2020 gab es mehr als 400 Verfahren gegenPolizistinnen, die Datenabfragen missbraucht haben.
Tim Pritlove
Wow. Also.
Linus Neumann
Wir hatten ja hier im Logbuch mit Edelbeider auch eine Betroffene von diesenDatenauskünften zu Gast.Und, also man kann jetzt, diese Anzahl war mir übrigens auch echt,also ich wusste, dass es viele, und das sind ja nur die Verfahren,das sind ja nur die Fälle, die bekannt sind.Mit anderen Worten, muss ja davon ausgehen, da gibt es ja eine fürchterlicheDunkelziffer, liebe Kolleginnen und Kollegen.Dass solche Überwachungsinstrumente in den Händen der Polizei nun wirklich nichtso gut aufgehoben sind, wenn sie nicht mit starken Kontrollmöglichkeiten versehen sind.Und nicht vergessen, da geht es nicht nur um die Datenabfragen,da geht es dann auch um die ganzen Drohbriefe des NSU 2.0.Also da sind wir nicht mehr im Bereich, der lustig ist.Also da geht es weiter drum herum. Ich denke, diese KI-Erkennung sollte wirklichstark eingeschränkt werden.Und erst recht sollte das, was Staaten da machen, transparent sein.Also diese beiden Forderungen, die kann man schon mal so stellen.Die finde ich jetzt nicht sonderlich überzogen.
Tim Pritlove
Ja, kann man auch mal drauf bestehen. Ja.
Linus Neumann
Es gibt natürlich auch positive Aspekte.Es soll dann eine nationale KI-Aufsichtsbehörde geben, wo du dich beschweren kannst.Das kann potenziell schon ganz sinnvoll sein, dass du überhaupt auch Möglichkeitenhast, dich diesen automatisierten Entscheidungssystemen oder so, die zu kritisieren.Predictive Policing also irgendein System sagt ja, wo die Polizei hinfahrensoll, das kommt mir auch irgendwie wirklich eher lächerlich vor,da könnte also eine Eingrenzung stattfinden,ja das mit den Hochrisikotechnologien finde ich auch nicht schlecht, da wäre halt,sinnvoll, wenn das für alle gilt Ja, also es war nicht alles schlecht,aber die wirklich, wo man sagen könnte, das sind jetzt echt mal Dinge,die man mal durchziehen könnte, da wird natürlich schon jetzt wieder gebohrt.Tja, wie immer.
Tim Pritlove
Gut. Soviel zum AI-Act. Dann kommen wir doch mal zu den Gefahren von AI.Die nehmen nämlich tatsächlich zu.Und ich glaube, das wird hier auch nochmal ein immer wiederkehrendes Ding.Kennst du die Chefmasche?
Linus Neumann
Also ich kenne das nicht unter dem Begriff, ich kenne das als CEO-Fraud oderFake-President, aber ja.
Tim Pritlove
Fake-President, ja auch nicht schlecht, genau. Also darunter versteht man so,dass in Hackerkreisen nennt man die Technik ja eigentlich Social Engineering.Also wie bekommt man jemanden dazu etwas zu tun, was die Person eigentlich unternormalen Vorzeichen so nicht tun wollen würde.Das ist so wie, wenn amerikanische Late-Night-Shows mit dem Mikrofon auf dieStraße gehen und die Leute nach ihren Passwörtern fragen Ja,haben sie Passwörter und so?Ja, ist ihr Passwort auch sicher? Ja, mein Passwort ist sehr sicher.Ja, woraus besteht denn ihr Passwort?Ja, ich habe den Namen meines Hundes und meinen Geburtsdatum.Ja, wie heißt denn Ihr Hund?Ja, Piffi Ach, wann sind Sie denn geboren? Ja, am 23.05.So
Linus Neumann
Und.
Tim Pritlove
Das ist so, du stehst da davor und denkst dir so, ah okay, das war ja einfachund tatsächlich kann man das glaube ich an sich selber auch ganz gut festmachen.Dass man eigentlich, wenn man so emotional gerade irgendwie so in so einem gesetteltenModus ist, der Welt ja eigentlich auch immer mit Vertrauen gegenüberstehen möchte.Ja. Das ist schon auch ein Wunsch von uns allen. Wir wollen eigentlich gerneallen vertrauen. Wir wollen das Böse nicht sehen.Wir wollen das Gute im Menschen sehen. Und das Problem ist nur,das Gute im Menschen ist zwar auch in der Welt, aber es gibt ja auch Leute,die sind der Meinung, sie könnten sich vielleicht an dir bereichern,indem sie vielleicht mal nicht ganz so gut sind.Naja und diese Chefmasche ist halt so eine Technik, mit der man einfach sichirgendwelchen Mitarbeitern eines Unternehmens gegenüber als Vorgesetzter ausgibt,zum Beispiel per E-Mail oder per Telefonanruf und dann drängt man sozusagen auf sie ein,so ja hier tu mal bitte folgenden Vorgang und wenn dieser Vorgang dann haltmit Geld zu tun hat, dann wird es spannend.Und jetzt ist gerade ein Fall bekannt geworden, der sich in Hongkong abgespielthat, bei einer im Bericht nicht weiter genannten Firma mit vielen Mitarbeitern.Und dort wurde ein Mitarbeiter per E-Mail auch erstmal angeschrieben und dannvor allem zu so einer Videokonferenz eingeladen mit weiteren Führungskräften.Und die Videokonferenz, die fand auch dann statt und in dieser Videokonferenzlegten so diverse Führungskräfte des Unternehmens so ihre Gründe da,warum jetzt dieser Mitarbeiter dochbitte mal eine Reihe von Überweisungen einleiten sollte, 15 an der Zahl.Und dann wurden die dann auch in der Folge von diesem Mitarbeiter durchgeführt.Das war jetzt nicht ganz wenig Geld, das war irgendwie so 200 Millionen Hongkong-Dollarsind hier im Gespräch, das sind so 23,24 Millionen Euro ungefähr und ja, das Problem war halt nur,dass in dieser Videokonferenz,sich überhaupt gar keine richtige Person befand. Also all diese ganzen Führungskräfte,die er dort gesehen hat, sahen zwar aus wie Führungskräfte und hörten sich auchan wie Führungskräfte, aber es waren tatsächlich alle AI-generierte Fake-Personas sozusagen.Die Berichte, die ich jetzt so gelesen habe, sind ganz so einig darum,wie das jetzt so genau abgelaufen ist.Aber man kann wohl davon ausgehen, dass hier Bildmaterial entweder aus internenoder vielleicht auch einfach aus öffentlichen Videos genommen wurde.YouTube, irgendwas, Company-Videos und so weiter.Irgendwo tauchen ja dann diese Personen auf und wir wissen auch mittlerweile,wie wenig es an Trainingsmaterial braucht,um eine Person halbwegs glaubhaft dreidimensional in anderen Posen wiederzuspiegelnund vor allem auch etwas anderes sprechen zu lassen.Und wir hatten ja auch hier selber vor ein paar Sendungen Herr Bundeskanzler und Frau Alice Weidel,die ja hier auch klare Botschaften an die Hörerschaft von Nockbuch-Netzpolitikgerichtet haben und da sieht man eben, die Werkzeuge sind da.Also etwas, was noch vor zehn Jahren so ein bisschen total future-mäßig war,sind mittlerweile einfach solche Werkzeuge, die jetzt auch Kriminellen zur Verfügungstehen und wenig überraschend, sie nutzen sie es auch.Also dieser Mitarbeiter hat diese Personen auch visuell wiedererkannt und auchvon der Stimme her wiedererkannt, also er war sozusagen, wusste diese Personen gibt es.Allerdings ist das schon alles so ein bisschen fakey gelaufen,also es gab da jetzt keine wirkliche Interaktion, es war jetzt keine.Realtime-Impersonifikation Brauchst du ja.
Linus Neumann
Auch wahrscheinlich gar nicht.
Tim Pritlove
Genau, die haben einfach das so, ja, guten Tag, stellen Sie sich mal vor,wer sind Sie denn hier, Sie sind doch hier der Untergebene und so identifizieren Sie sich mal,und dann so, ja, jetzt mal bitte hier Folgendes tun und das wurde dann halteinfach abgelesen also man kann davon ausgehen Vielleicht.
Linus Neumann
Hast du auch einfach ein, zwei echte Personen drin, die die er halt dann nichtkennt und ein paar vorbereitete Schnipsel von den Führungskräften,die halt einfach, was weiß ich, daneben sitzen und nicken oder so.
Tim Pritlove
Vorgeschobene Assistenten zum Beispiel, die dann die Interaktion machen.
Linus Neumann
Oder sagst du hier, so, und nach dieser Einleitung übergebe ich dann jetzt malan den Projektmanager Michael, der das jetzt hier kurz nochmal erzählt,worum es heute geht oder so.Also du musst ja, ja eigentlich einige wenige Sätze völlig generischer Natur,die vielleicht auch im anderen Kontext schon mal gesagt wurden.Wahrscheinlich kriegst du sowas hin mit gutem Schnitt und noch nicht mal Deepfake.Irgendwie, dass du mal jemanden filmst in einer Videokonferenz,wie er da sitzt oder so. Ein paar Sachen sagt dir, der dann irgendwie in einenanderen Kontext schneidet.Also, ich kann mir schon vorstellen, dass du da jetzt keine sonderliche Technologie brauchst.
Tim Pritlove
Nee, und vor allem gerade Gerade in diesem schwierigen vorgesetzten Situation,vorgesetzt zu untergeben, gerade wenn jetzt so eine Videokonferenz ist und duschickst vielleicht wirklich einem, diesem Mitarbeiter, unbekannte Person alsAssistenten und als Gesprächsleiter vor.Du fängst ja dann nicht an als kleineres Licht, könnte sich bitte mal hier derCEO, der hier angeblich ist,mal wie man so einen Personalausweis bei der Videoidentifikation so nach linksund nach rechts drehen muss, damit irgendwie das Hologramm ein bisschen aufleuchtet.Möchtest du dann vielleicht auch, dass diese Personen mal so bewusste Positioneneinnehmen, die vielleicht von so einer AI nicht ganz so gut gefakt werden?Lassen sie doch mal ihr Haar fallen.
Linus Neumann
Vor allem interessant ist, dass der Typ ja offenbar ursprünglich ...So ein bisschen skeptisch war und gesagt hat, ey, das kommt mir irgendwie alles komisch vor.Und dann wurde er mal spontan in die Konferenz reingeholt. Dann sitzen da dieganzen Gesichter und sagen, wie, sie wollen die Überweisung nicht machen.Was ist das denn? Ja, genau.Peer Pressure. Und das ist übrigens ein Phänomen, das sehr häufig vorkommt.Diese Fake President Sachen. Ja, also auch, also das kenne ich jetzt so ausdem Wirtschaftsumfeld schon mehrere Unternehmen, die so etwas mal berichtethaben oder wo es auch mehrmals passiert ist.Ja, dass dann irgendwie mal bei der einen Niederlassung, mal bei der anderenund dann natürlich jetzt nicht im Bereich, also nicht immer im Bereich von Millionen,aber so im Bereich von ein paar hunderttausend kommt das dann doch recht häufig mal vor.
Tim Pritlove
Ja, das muss auch nicht mal der Präsident sein. Also wenn man sich Zugang verschaffenwill, da hilft auch mal ein Blaumann und eine Werkzeugtasche.Das wirkt bei vielen Leuten auch schon sehr überzeugend.Wo ist denn hier der Wasserschaden?
Linus Neumann
Eigentlich kommst du ja überall rein, wenn du ein Funkgerät in der Hand hast.Du zeigst einfach nur mit der Antenne dahin, wo du jetzt hin willst.Ja, oder auf den Kongress-Chaospost.Diese Überweisung ich meine, die haben schon immer sehr gute Cover-Stories,zum Beispiel auch irgendwie so, ja wir machen jetzt hier einen Merger hat sichdenn PwC schon bei dir gemeldet?Nee, haben sich nicht und dann baust du quasi,mit mehreren Personen im Prinzip so eine Erwartungshaltung auf,weil da meldet sich auf einmal PwC ist halt was ganz anderes als jetzt scheiße,haben die sich immer noch nicht bei dir gemeldet.Naja gut, warte mal, dann hauen wir jetzt mal rein. Und dann irgendwie sowaswie, ja, damit wir hier, also da und da gelten vom Financial Regulator recht harte Bedingungen.Und damit das nicht als Insider-Trading gilt, müssen wir jetzt über die privatenE-Mails kommunizieren.Wo dann nämlich quasi, was erstmal ganz gut ist, weil jetzt bist du auf einmalder Kriminelle. So, oh, Insider-Trading, nee, das wollen wir nicht.Dann lassen wir lieber private E-Mails machen. Ich meine, ehrlich gesagt,wenn mein Chef mir sagen würde, wechsel mal auf private E-Mail,das ist hier Insider-Trading, da würde ich sagen, frage mal lieber jemand anders.Aber das ist natürlich kein schlechter Trick dafür zu sorgen,dass du halt auf einmal so ein bisschen Unrechtsbewusstsein hast.Dass du froh sein kannst, dass die so nett sind, dir bei deinem Insider-Trade zu helfen oder sowas.Da siehst du dann, wenn man mal die Gelegenheit hat, solche Fälle aufzuarbeiten,schon sehr elegante psychologische Techniken. Die haben alle schon ihren Mitnick gelesen.
Tim Pritlove
Dann regt man sich immer so über Bürokratie auf, das Einhalten von Regeln besteht,um irgendeinen Vorgang auszulösen.Dabei sind genau diese Regeln oft auch so ein Schutz.Ja, das muss von Personen sowieso unterschrieben werden, das muss nochmal vorgelegtwerden, bevor das nicht wieder zurückgekommen ist, kann ich hier gar nichts machen und so.Also da wird man ja auch schnell mal so, ja das muss doch mal auch hier undich muss doch mal ganz schnell und ich brauche das jetzt auch und so.Ja, man möchte gerne immer die Flexibilität für sich selber haben,aber sieht natürlich selten den ganzen Prozess.Ja, also der Mitarbeiter kann einem natürlich sehr leid tun,er hat es ja dann am Ende auch selber gemerkt, aber er ist halt ordentlich bearbeitet worden.Also auch nach der Videokonferenz ging das dann noch ein paar Tage weiter mitE-Mail, mit Instant-Messaging, es wurden auch nochmal 1 zu 1 Videocalls nachgereicht.Wie die dann im Detail gelaufen sind, weiß ich jetzt leider nicht.Das war in den Berichten jetzt nicht so drin.Und es dauerte dann so eine Woche, bis er irgendwie richtig Verdacht schöpfte.Da waren aber die Überweisungen eben schon getätigt.Dann hat er nochmal bei seinem eigenen direkten Chef nachgefragt,was denn damit auf sich hat.Und dann so, ja nee, keine Ahnung, wovon du redest, was hast du gemacht?Ja, das ist dann halt irgendwie so, ja, wow, da fühlt man sich bestimmt nicht gut dabei. Nee.
Linus Neumann
Also da fühlt man sich nicht nur nicht gut dabei, das hat dann regelmäßig auchpsychologische Konsequenzen, dass die Leute eine längere Zeit arbeitsunfähig sind.
Tim Pritlove
Oder bist du einen Job los, weil du gegen Regeln verstoßen hast,also es kann ja alles mögliche sein.Tja ja, also bei der nächsten Zoom-Konferenz, ne? ne?
Linus Neumann
Ich sag also.
Tim Pritlove
Alter.
Linus Neumann
Ich hab gedacht, das war ein Deepfake, du hast mir doch nicht ernsthaft dieseAufgabe gegeben. Bis Sonntag soll ich das machen?
Tim Pritlove
Auf so eine Tricks fall ich doch nicht rein.
Linus Neumann
Jetzt hab ich erstmal einen Ausweis, ey. Kenn ich auch, kenn ich auch.
Tim Pritlove
Dreh mal dein Ohr ins Licht, damit ich das Hologramm sehen kann,was da drin abgedruckt sein soll.Wie, du hast da keins? Ja, sorry, dann können wir hier leider nicht weitermachen. Vielen Dank.
Linus Neumann
Ja, aber Deepfakes zu kennzeichnen, bleibt ja so ein Bestreben.Man sieht natürlich hier, dass es auch einfach überhaupt nichts,nicht wirklich was bringt.Aber es gibt ja, Meta hat jetzt gesagt, hier, wir möchten bei unserer KI,die irgendwelche Bilder generiert, haben wir jetzt ein Verfahren,dass wir im Prinzip kleine Watermarks in den Fakes unterbringen.Und ich würde so sagen, das Thema kam wieder auf, weil es jetzt vor ein paarWochen irgendwie wohl auf Twitter,das ist dieses ehemalige soziale Netzwerk, eine Reihe gab an,ja, dann doch relativ offensichtlich wahrscheinlich Fake-Bildern von Taylor Swift,die wahrscheinlich so nicht stattgefunden haben.
Tim Pritlove
Man könnte Zweifel haben.
Linus Neumann
Also ich würde mal sagen, die waren wahrscheinlich fake. Und da gab es abernatürlich keine, oder der Skandal war dann, oder skandalisiert behandelt wurde,dass es Twitter nicht gelungen ist, das Pasten dieser Bilder zu verhindern.Ja, was natürlich eigentlich, oder beziehungsweise wahrscheinlich Twitter einfachdank Elon Musk auch kein Interesse daran hatte,das Posten dieser Bilder zu verhindern und sich dann am Ende sehr ungelenktdamit geholfen hat, dass Suchen nach Taylor Swift verhindert wurden.Wo ich jetzt, wenn ich Taylor Swift wäre, auch sagen würde, sorry,finde ich auch kacke, wenn man nach mir nicht mehr suchen kann auf eurer Plattform.Lasst euch mal bitte irgendwie was Ernsthaftes einfallen, um das zu verhindern.Jedenfalls, ja, Meta sagt also, sie wollen quasi unsichtbare Signaturen im Bild unterbringen.Und irgendwie in die Metadaten was reinschreiben, damit man erkennen kann,dass das ein Fake-Bild ist Das wird im Zweifelsfall für die,sagen wir mal, für die Plumpen,vorgehenden Reichen, ja, aber natürlich kannst du jedes, jede digitale Signaturoder jedes Watermark, das du finden kannst, kannst du natürlich auch einfach wieder entfernen, ja.Machst also irgendwie ein bisschen Rauschen in das Bild rein oder so,dann wird das wieder weg sein. Also, immerhin.Wollen sie da irgendwie etwas gegen unternehmen, aber ich glaube,jede Methode, der Fake-Erkennung in sozialen Medien wird,automatisch umgehbar sein und wenn sie es ist, ermöglicht sie denen,die sie umgehen können, natürlich ein umso überzeugenderes,Fake.Wenn Meta sagt, hier, wir haben eine KI-Fake-Bild-Erkennung.Wir markieren 99,9% der Fakes.Und dann sagen wir hier, da machen wir nämlich einen roten Rand dran.Dann sagen wir, Achtung, ist Fake.Achtung, ist Fake. Dann ist der ganze Meter voll mit Achtung,ist Fake. Und bei denen, wo es kein Fake ist, denkst du dir auf einmal einen grünen Rand.Und dann wird natürlich diese Gefahr erhöht.Auf jeden Fall kommt mir das klüger vor, als das Verfahren, also sagen wir mal,die Kennzeichnung von KI-generierten Bildern kommt mir erstmal grundsätzlich etwas klüger vor,als das Verfahren Originale zu signieren.Weil, dass das nicht klappen wird oder dass diese Signaturzertifikate sofortüberall rumfliegen, halte ich für im Prinzip einfach selbstverständlich.
Tim Pritlove
Also die Idee wäre dann quasi in die Smartphones und digitalen Kameras so einEchtheitszertifikat quasi mit einzubauen. Das geht nicht lange gut.
Linus Neumann
Ja.
Tim Pritlove
Also erstmal auf den ersten Blick, ja klar, also könnte man tun,sagen wir mal Apple könnte jetzt hier irgendwie da so ein Public Key nehmenund damit sozusagen das unterschreiben oder ein Secret Key nehmen in dem Fallund dann kann man es mit einem Public Key überprüfen.So, ah ja, okay, das ist von der Software auf dem iPhone irgendwie erzeugt worden,aber dann kommst du halt in tausend Probleme, was ist, wenn das Bild dann nachbearbeitetwird, dann ist diese Information ja auch im Nullkommanix wieder weg,abgesehen davon, dass halt dann irgendwann diese Keys auch liegen werden,vielleicht nicht zuerst auf dem iPhone, aber dann eben auf diesen anderen Digitalkamerasoder was auch immer dann sozusagen noch daran teilnimmt und das wird einfachnix werden, also das ist Quatsch und ob das dass andere funktionieren kann.Das ist dann halt wieder so ein bisschen so ein Rattenrennen,weil natürlich kann man so ein digitales Wasserzeichen ein erstmal nicht sichtbares, sondern von,Meta selber auf Nachfrage überprüfbares irgendwie könnte man schon machen,weil nur die wissen, wo sie gucken müssen.Aber irgendwann wird man das auch wissen, wo man gucken muss und dann kann manes auch wieder rausnehmen. Und dann beißt sich die Katze so ein bisschen in den Schwanz.Ja, schwierig.
Linus Neumann
Ja, wir werden als Gesellschaft damit umgehen können müssen am Ende. Ja.
Tim Pritlove
Aber der Vorteil irgendwie, also Taylor Swift kann natürlich jetzt auch,hat jetzt eine plausible deniability,sollten also dann doch irgendwann mal erotische Bilder von ihr auftauchen,dann lehnt die sich einfach zurück und sagt, ja, egal.
Linus Neumann
Das werden ja eh Leute machen, das kann Taylor Swift und das kann jeder machenAlso diese Gefahr wird bleiben, aber ich glaube, das haben wir hier auch schonausführlich diskutiert, lass uns mal lieber über,den Verfassungsschutz reden Echt?
Tim Pritlove
Nicht über Taylor Swift?
Linus Neumann
Das finde.
Tim Pritlove
Ich aber irgendwie spannend.
Linus Neumann
Kommt drauf an Mal gucken, was hier spannend ist Das ist ja sowieso ein VorgangIch hab's ja damals schon gesagt,da war der Maaßen glaube ich noch Präsident des Bundesamtes für Verfassungsschutz,was ja schon wirklich immer einfach sowas von irrsinnig war,dass der Typ der Verfassungswächter sein sollte.Und jetzt ist er da seit ein paar Jahren weg.
Tim Pritlove
Und jetzt ist er führender Verschwörungstheoretiker.
Linus Neumann
Führender Verschwörungstheoretiker, also rechtsextrem.Jetzt hat er dann noch seine eigene komische Partei da gegründet.Wenn du mal anhörst, was der von sich gibt, also ist der wirklich absurd.Und der wird jetzt vom Bundesamt für Verfassungsschutz in der Kartei der Rechtsextremen geführt.
Tim Pritlove
Die.
Linus Neumann
Führen den im internen Nachrichtendienstlichen Informationssystem als Rechtsextremist.
Tim Pritlove
Nein, das sind zumindest keine Probleme, die Erkennungsdienstlichen Merkmalenachzuschlagen. Die hatten sie wahrscheinlich schon.
Linus Neumann
Irre, oder?Also sie haben,also er hat dann glaube ich auch einen Brief hingeschrieben, ob das stimmt.Dann haben sie ihm gesagt, Hier sind übrigens die Sachen, die wir gesammelthaben, wo sie sich rechtsextremistisch verhalten haben.Wo sie hier antisemitische Stereotype verteilt haben oder Migranten mit einerKrebserkrankung verglichen haben.Und das hat er dann irgendwie, ich glaube dieses Schreiben hat er dann auchirgendwie veröffentlicht.Und wehrt sich jetzt dagegen. Also es ist.
Tim Pritlove
Sechs Jahre war der Chef.
Linus Neumann
Ja, das war ein Albtraum, dass so jemand,als Verfassungsschützer da positioniert wurde.Das war ja schon bei seiner Anstellung schon irre, so jemanden zu nehmen.Aber es ist auch wirklich krass, wie der sich weiterentwickelt hat.Und der einzige, wo der noch vorkommt, ist dann irgendwie solche Publikationenwie Kompaktmagazin und Tichys Einblick, diese ganzen Ja, Rechtsextremen.Krass. Aber allein der Vorgang, dass dein ehemaliger Verfassungsschützer wirdRechtsextremist oder war eigentlich damals schon einer so ungefähr und wirdimmer schlimmer verbreitet,Verschwörungstheorien muss am Ende vom Verfassungsschutz überwacht werden. werden.Das ist schon, ähm, das ist schon, finde ich, massig faszinierend,wenn ich das mal so sagen darf.
Tim Pritlove
Ja, ähm, fragt man sich vor allem, wer hat denn den, ist denn überhaupt aufdie Idee gekommen, den mal so an.
Linus Neumann
Diese Position zu bringen?
Tim Pritlove
Ja.
Linus Neumann
War das nicht zu einer der letzten Sendungen schon kommentiert, dass er unter der äh,Der müsste unter Merkel...
Tim Pritlove
Hans-Peter Friedrich hieß der deutsche Innenminister zu dem Zeitpunkt und dermüsste ihn eigentlich vorgeschlagen haben, weil er fällt sozusagen in den Bereich rein.
Linus Neumann
Aber weil wir den Verfassungsschützer losgeworden sind wegen der NSU-2-Aktenschredder-Aktionen, ne?
Tim Pritlove
Genau.
Linus Neumann
Also weil da Rechtsextremisten waren...
Tim Pritlove
Brauchen wir jetzt mal hier den Maaßen.
Linus Neumann
Setzt ja mal einen gemäßigten Rechtsextremisten hin.
Tim Pritlove
Ja, maßen, gemäßigt, das klingt doch irgendwie, das muss doch passen. Ja.
Linus Neumann
Wahnsinn.
Tim Pritlove
Wahnsinn.
Linus Neumann
Aber zum Glück unternehmen wir jetzt mal was gegen die Hacker.
Tim Pritlove
Das sind eh die Schlimmsten.
Linus Neumann
Das sind die Schlimmsten. Und da wird jetzt auch wieder so eine,diese UN-Cybercrime-Convention.Ich habe auch noch nicht ganz verstanden, warum die da überhaupt irgendwie, also die haben einen,also United Nations kennen wir, das ist die United Nations,wo große Versammlungen, die haben dann irgendwie gesagt,wir machen jetzt ein Ad-Hoc-Committee to elaborate a comprehensive internationalconvention on countering theuse of information and communications technologies for criminal purposes.Also ein Autor-Komitee, um internationale Konventionen zu schaffen gegen dieseganzen kriminellen Aktivitäten mit Informations- und Kommunikationssystemen.Und insgesamt, die Taxonomie dahinter erinnert schon sehr stark an auch diedeutschen sogenannten Cybercrime-Diskussionen, wo es dann irgendwie...Kriminalität mit dem Tatmittel Internet gibt. Also das sind Dinge,die du auch ohne Internet machen könntest, aber dann mit der Hilfe des Internetsund eben ja, so richtiges Cybercrime, was nur geht, weil es das Internet gibt.Und da wollen sie alles Mögliche machen.Und da gibt es aber natürlich, sie wollen da jetzt die Fehler wiederholen,die man eigentlich in Deutschland mit den,Paragraph 220 2020 waren ja, glaube ich, die Hackerparagraphen schon falschgemacht hat. Ist das 2020, ja? Oder 2002?
Tim Pritlove
202.
Linus Neumann
202, na, war klar. Also mit den Hackerparagraphen 202 auch gemacht hat.Also es geht um, in Artikel 6 sagen sie im Prinzip so, ja, illegaler Zugriff wird jetzt verboten.Und das haben wir jetzt in der letzten Sendung ja schon besprochen,diesen Fall von Modern Solutions,wo jemand, wo im Prinzip die Ausnahme fehlt oder einfach, dass man sagt,jemand hat das in guter Absicht gemacht oder in good faith,wo du also sagen kannst, ja, der hat ein Sicherungssystem hier umgangen,Aber er hat die Sache gemeldet und das Sicherungssystem war nicht effektiv.Es war nämlich eine Katastrophe und genau deswegen hat er es ja gemeldet.Also genau diese beiden Fehler machen sie in Artikel 6 auch.Es gibt also keine Ausnahme für, ich weiß gar nicht, wie man in gutmeinenderAbsicht oder so, in nicht böswilliger Absicht könnte man eigentlich sagen.Und das ist natürlich ein Problem für diegesamte freie, freiwillige Sicherheitsforschung, so etwas nicht zu haben.Und könnte dazu führen, dass dann eben die UN-Regelungen quasi nahelegen,dass in allen Ländern genau das, was wir jetzt mit diesem Modern Solution Fallloswerden wollen, zum Standard wird.In Artikel 7 sagen sie, ja irgendwie mitschneiden von Traffic ist jetzt halt Illegal Interception.Und auch das klingt natürlich aufs erste Mal sinnvoll, aber es ist natürlichrelativ üblich, dass du zum Beispiel deinen Browser aufmachst und dir mal denNetzwerktraffic anzeigen lässt.Oder mal Wireshark laufen lässt, um zu gucken, ob der Traffic hier verschlüsselt ist oder nicht.Und das ist nämlich auch typisch, dass du im Bereich der IT-Sicherheit natürlich Traffic dir anguckst.Das zu kriminalisieren, ohne den Zweck oder die böse Absicht oder die kriminelleIntention irgendwie festzuhalten, ist natürlich auch ein Problem.Und dann gibt es irgendwie bei Artikel 8 und 9 Interference with Data,Interference with Computer Systems, da geht es dann irgendwie so,Interference scheint eher so in diesem Bereich zu laufen, wenn das auf einmalnicht mehr funktioniert.Also wenn du jetzt auf einmal Denial of Service findest, ja,falsch, durftest du nicht.Und das ist natürlich auch wieder, sollte schon irgendwie gesagt werden,muss einfach ein Satz rein wie mit krimineller Absicht oder mit Schädigungsabsicht.Ja, dann kann man ja argumentieren, dass das nicht in Ordnung ist,aber irgendwie sozusagen so, das Ding hat nicht mehr funktioniert,jetzt bist du reif, scheint auch ein bisschen zu weit gefasst.Und in dem Artikel 10, Misuse of Devices, da gibt es dann genau,da kommst du dann und wollen hier die Hacker-Tool-Paragraphen wieder machenund sagen dann auch so, Software, die das kann, Software und Systeme,die das können und nicht, dass man die natürlich zu Testzwecken braucht.Das ist ja die rechtliche Situation, wie die wir in Deutschland haben,wo gesagt wird, diese Tools werden verboten und Benutzung oder Besitz oder Verbreitungsolcher Tools ist verboten,weil man damit diese Straftaten begehen kann oder deren Zweck die Vorbereitungeiner solchen Straftat ist und das ist auch sehr sehr sehr ungünstig formuliertund dass man natürlich für jede Schwachstelle auch ein Testtool braucht,sollte eigentlich selbstverständlich sein.Und dann gibt es noch weitere, eher im rechtlichen Bereich.Es sind genau die Fehler von den Hackerparagraphen in Deutschland,die sie da wiederholen wollen.Und die ja bekanntermaßen in Deutschland jetzt gerade mal verhindert werdensollen. Also wo man sagt, die müssen wir nochmal dran.Das steht ja im Ampelkoalitionsvertrag drin, dass man sagt, da müssen wir malbei, dass wir da mal Rechtssicherheit und Klarheit schaffen,die auch jetzt nicht so schwer wäre.Dann sagen sie ja hier, die Verfolgung kann dann in mehreren Jurisdiktionenverlaufen, was natürlich problematisch ist, wenn du jetzt für ein Problem durchmehrere Jurisdiktionen gereicht werden kannst oder Angst haben musst,dass nämlich genau nicht deine Sicherheitsforschung hier mal von den UN-Conventionsgeklärt ist, sondern zusätzliche Rechtsrisiken entstehen.Und dann haben sie ja noch in dem Artikel 28 Absatz 4,im Prinzip so eine grundsätzliches Mitwirkungspflicht für alle,die Ahnung von Computern haben.Also jeder Vertragsstaat muss Gesetze erlassen, um seine Behörden in die Lagezu versetzen, von Personen die Kenntnisse über das betreffende Computersystem,das Informations- oder Kommunikationstechnologiegerät oder das Netzwerk oderderen Komponenten haben und die Schutzmaßnahmen, dass sie von denen die erforderlichenInformationen verlangen können.Der Satz ist also relativ lang und heißt am Ende, jeder Staat soll Gesetze erlassen,dass man Informationen von denen verlangen kann, die wissen,wie das System funktioniert.
Tim Pritlove
So ein bisschen so, Sie sind Arzt, dann müssen Sie jetzt hier auch diese Person retten.
Linus Neumann
Genau.
Tim Pritlove
Lassen Sie mich durch, ich bin Hacker.
Linus Neumann
Und dafür muss es ein Gesetz geben, dass die Behörden dann ermächtigt,das von dir zu verlangen.Also nicht lassen sie mich durch, ich bin Hacker, sondern lassen sie mich wegrennen,ich bin Hacker, weil die Behörden verpflichten mich hier sonst alles mögliche.
Tim Pritlove
Ja, das ist ja nun wirklich absurd, weil ich meine, ob man kompetent ist,das liegt ja nicht im Ermessen anderer.Das ist nicht primär. Also wenn ich selber was nachweisen muss,dann liegt es im Ermessen anderer.Aber wenn jetzt andere einfach mal annehmen, ich wäre in irgendetwas kompetent,ja das ist so ein bisschen so,ich meine früher gab es ja auch so Fälle, wo so Leute einfach auch,einfach was weiß ich, ob ihres Wissens bestimmte Dinge einfach zugetraut wurden.Also man will ja schon eher.
Linus Neumann
Für die Daten, die irgendwelche Leute haben wollen, will man schon eher einenDue-Process haben, wo man sagt, okay,es gibt hier irgendjemand, der wacht über diese Daten und der hat rechtlicheRahmenbedingungen, die erfüllt sein müssen. müssen zum Beispiel,eine Ausbildung. Nee, ein Richterbescheid. Also eine, was weiß ich,eine Richterin hat gesagt, du musst jetzt hier diese Daten rausgeben oder so.Und die beruft sich auf ein Gesetz, das es gibt.Das haben Leute, das kann immer noch gut oder schlecht sein,aber da gibt es einen formalen Prozess.Nicht, es gibt ein Gesetz, dass Behörden aus beliebigen Leuten die Kompetenzsind, die Daten rausprügeln können.Also das ist ja vielleicht ein bisschen weiträumig.Ähm, ja, also äußerst komisch. Ich frag mich eh, warum das unbedingt bei derUN sein muss, aber wahrscheinlich haben da auch einfach Leute gesessen und habensich gedacht, wir müssen jetzt auch mal was mit diesem Cyber machen.
Tim Pritlove
Ja, warum sollen nur die anderen immer diesen Spaß haben?
Linus Neumann
Ja, warum gibt's da nicht von uns mal was?Kanada.
Tim Pritlove
Ja, ist auch so auf diesem Level angekommen, wo es ein bisschen schwierig wird. In.
Linus Neumann
Kanada stellen sie irgendwie fest, dass ein paar mehr Autos weggekommen sind in letzter Zeit.Und ich glaube ehrlich gesagt, dass die nicht, also die glauben zu wissen,dass das mit dem Flipper Zero passieren würde.Ein Flipper Zero ist ein wirklich cooles Kickstarter-Gerät. Ich habe das auchund muss echt sagen, das ist einfach schön.Also von der Hardware-Verarbeitung sehr wertig, die Software,die da drauf ist, ist gut gemacht,das ist halt eine gepflegte Community und hat ein, was hat der so, Bluetooth, NFC,und auf bestimmten klassischen Frequenzen kannst du halt mitschneiden. Also...
Tim Pritlove
Das ist so ein richtiges Hacker-Tool.
Linus Neumann
Hacker-Spielzeug kann man das wirklich nennen.
Tim Pritlove
Das ist schon ein Werkzeug, weil es bringt sozusagen alle Basiskommunikationsfähigkeiten,mit sich und macht nicht nur eine Sache, sondern ist halt so ein bisschen universellerangelegt, um einfach...Zu analysieren, auszuprobieren, einfach auch mal ein bisschen zu schauen,wie funktioniert denn das jetzt hier eigentlich und ist insofern vollkommen vergleichbar mit,Messgeräten, sag ich mal, aus der analogen Welt, nur dass du halt hier auch aktiv werden kannst.Also was das Ding zum Beispiel machen kann, ist so schlecht gesicherte Systeme,die einfach mit NFC arbeiten, wo man einfach nur so eine Karte irgendwo hinhält,halt, ja, nach einem einfachen Standard, sowas kannst du halt schnell damitmal kopieren und so eine Geschichten.
Linus Neumann
Also du kannst ältere so MyFair und sowas kannst du klonen,Ultralight kannst du klonen, wenn du dann den Key dir vom Reader holst,aber diese Angriffe waren, wenn du das vorher mit so einem,Chameleon oder Proxmark oder sowas gemacht hast oder mit einem ganz normalenNFC-Reader die Software für für Linux oder so, die ist dann schon relativ uncool.Die war nicht so praktisch. Mit dem Flipper ist das wirklich super easy.Hältst du an die Karte, hältst du an den Reader.Macht in Hotels Spaß, nochmal ein Sicherheits-Backup von deinem Schlüssel zu machen.Oder bei uns im Büro gibt es dann nicht so viele Chips für die Schranke unten. Weißt du?Das ist besser, wenn du halt den Backup davon einfach Einfach im Firmen-Wikiliegen hast, damit jeder mal schnell mit seinem Flipper da rein kann und solche Dinge.Oder Garagen, alte Garagentore, wenn man da mal nicht so eine teure Fernbedienungkaufen will. oder auch Infrarot.Meine Beamer-Leinwand zum Beispiel, die geht mit Infrarot.Da habe ich auch jetzt ein Backup von der,Fernbedienung, von der Infrarot-Fernbedienung. Oder bis in irgendeinem Laden läuft ein Fernseher.Nervt ja auch wie die Hölle. Dann kannst du schnell TV begonnen,laufen lassen, Fernseher ausmachen und solche Sachen. Da geht schon einiges.
Tim Pritlove
Das ist bestimmt auch im Flughafen, in diesen nervigen Irish Pubs und so weiter,wo dann 30 Live-Übertragung von irgendwelchen Premier League Fußballspielensind, die keiner sehen will. Viel zu laut.
Linus Neumann
Das ist dann schnell aus. Ja.
Tim Pritlove
Oder mal einen Ton runterdrehen hilft auch manchmal schon ein bisschen.
Linus Neumann
Aber bei Autos muss man wirklich sagen, dass also die neuen Autos werden gestohlenüber diese Keyless Go. Also du hast im Prinzip eine,du hältst den also eigentlich Endlich versuchen die, der Schlüssel kommt demAuto nah und dann redet das Auto mit dem Schlüssel, handelt irgendwas aus und dann geht das Auto auf.Jetzt gibt es natürlich Systeme, die die Reichweite des Autos im Prinzip erhöhen.Die eine Seite hältst du an das Auto und mit der anderen suchst du dann in derNähe der Haustür mit einer Richtfunkantenne nach dem Schlüssel,weil die meisten Leute halt ihren Autoschlüssel da haben, wo sie ihn brauchen,nämlich beim Rausgehen vor der Tür.Und dann kannst du halt sehr schön diese Autos halt zocken, indem du die Reichweitevon diesem Keyless-Go erhöhst.Das kannst du mit so einem Flipper aber nicht ohne weiteres machen.Da brauchst du schon noch ein bisschen mehr für. Also theoretisch denkbar,dass ein Flipper dabei zum Einsatz kommt, aber der wird dir jetzt nicht fertiggeliefert als Keyless-Go-Diebding.Oder bei älteren Autos kannst du tatsächlich für die Türanlage,dass das Signal, mach mal die Tür auf, tatsächlich immer das gleiche ist.Und dann könntest du theoretisch das mitschneiden und dann wieder nochmal ausschmieren.Das ist aber ungefähr so, irgendwie in den 1990er haben die Autohersteller aufgehört.Ich glaube, nur einige haben dann noch bis in die Mitte der 2000er noch geschafft,so idiotische Systeme zu bauen.Aber es ist auch tatsächlich gar nicht so schlecht, mal mit dem Flipper haltzu gucken, ob denn auch dein,wenn du auf den Mach mal Tür auf Knopf drückst, wenn du das Signal nochmal sendest,ob dein Auto dann noch aufgeht oder nicht. Genau.
Tim Pritlove
Einfach um einzuschätzen, wie sicher ist denn eigentlich die Technik, die ich hier habe,weil ein Auto zu haben, was man mal so eben mit irgendeinem Mitlauschvorgang,bei den einfachen Systemen hat es halt im Prinzip ausgereicht,wenn jemand sein Auto aufmacht, in dem Moment mal ganz kurz das mitzuschneiden,was in dem entsprechenden Frequenzbereich abgeht.Und dann, früher war das ja so, naja, niemand kam auf die Idee,oder zumindest kamen die Autohersteller erstmal nicht auf die Idee,dass sowas jemand tun wollen würde.
Linus Neumann
Warum sollte man das tun?
Tim Pritlove
Naja.
Linus Neumann
Vor allem.
Tim Pritlove
Weil die Technik, die man dafür braucht, damals halt wenig verfügbar und wennüberhaupt nur teuer und schwer zu bekommen war.Nur sehen wir ja, wie das eben vorangeht mit der Technologie und irgendwannwar das dann halt alles andere als schwer verfügbar und sehr billig auch noch zu machen.Und jetzt hat man das eben so Handheld-Batterie betrieben, also eben in derHosentasche und könnte im Prinzip eben solche einfach gesicherten Sachen,die ja eigentlich nur so Security by Obscurity sind,ja, wir machen mal da irgendwas und wenn keiner zuhört, dann passiert da schon nichts.Und heute sind diese Systeme eben kryptografisch dann auch etwas gehärtet undarbeiten eben so und verhindern aber auch teilweise diese Verlängerung zum Beispiel,indem sie dann wirklich mal die Signallaufzeit auch messen, dann sind solcheAngriffe eben auch schwieriger, also mindestens schwieriger,wenn nicht sogar unmöglich.Es gibt sicherlich immer wieder irgendeinen Weg drumherum und es ist ja immerdieser Wettbewerb zwischen welchen Aufwand treibe ich jetzt.Aber ich glaube nicht, dass Kanada weniger Autos gestohlen bekommt,wenn sie jetzt irgendwie den Verkauf des Flipper Zero einschränken.Das ist einfach mal totaler Unsinn.
Linus Neumann
Also und was wird jetzt passieren? Jetzt werden in Kanada massenhaft FlipperZeros gekauft, bevor sie verboten werden und am Ende werden die Autos weiterhinmit anderen Dingen geklaut.Also es gibt tatsächlich, man erfährt ja relativ wenig drüber,aber es gibt schon, wenn du so Angriffe hast auf so Car-Immobilizer,da gibt es halt echt einen krassen Markt und da gibt es auch irgendwelche wirklichhalt von Hackern für Autodiebe gebauten Dinger, die halt sehr sehr teuer verkauft werden,die echt nochmal ein bisschen besser in der Lage sind, auch neuere Dinge zu knacken.Also da gibt es schon interessante Produkte, aber sicherlich nicht Flippers.Naja, aber scheint also auch eine sehr unkluge Herangehensweise mal wieder zu sein.Weil der größere Teil der Kunden, die so einen Flipper kaufen,machen damit im Zweifelsfall Sicherheitsforschung irgendwie ein paar Spielereien.Und mit Sicherheit klauen sie damit nicht massenhaft Autos.
Tim Pritlove
Genau, Flipper Zero war auch in der vorletzten Freakshow Freakshow 2002 einThema mit dem schönen Titel Sorgenfreie Intelligenz.
Linus Neumann
Interessant, das Ding gibt es schon seit Jahren also ich finde den fast schonwieder langweilig aber dann die Freakshow Ich habe den zum Geburtstag bekommenvon meinen Freunden Was hast du für Freunde?Ich habe gute Freunde, die schenken mir Flipper Zero zum Geburtstag beziehungsweiseden, wenn der Kickstarter klappt, dann kriegst du das Ding und,dann war, glaube ich, anderthalb Jahre später oder so wurde der mir dann geliefert,aber dadurch war ich einer der ersten, die einen hatten, weil die schön ihrHandtuch da früh hingelegt hatten.
Tim Pritlove
Toll.
Linus Neumann
Ja, toll, ne? Vielen Dank. Und eigentlich habe ich jedem einfach nur danachso ein Auto geklaut und dann waren die auch happy.
Tim Pritlove
Wir fahren jetzt alle BMW.
Linus Neumann
Ruckzuck refinanziert das Ding.Ja, nicht ganz so gut hat es den Joshua Schulte getroffen.Der wurde verurteilt zu 40 Jahren Gefängnis, weil er Hacking-Tools der CIA damalsan Wikileaks gegeben hatte.Das war so diese Vault-7-Veröffentlichung.Nach Angaben der US-Behörden ist das so der größte Diebstahl geheimer Datenin der Geschichte der CIA und es waren halt einfach deren Hacker-Tools, die er, ja,nachdem er dort zwischen 2012 und 2016 gearbeitet hatte, hat er halt deren ganzenHacking-Tools an Wikileaks weitergegeben und die haben den im März 2017 unterdem Namen Vault7 veröffentlicht.Ja, dafür geht er jetzt 40 Jahre im Knast, von 80 Geforderten.Die Staatsanwaltschaft sagt ja, Schaden sind hunderte Millionen Dollar,weil er natürlich diese Tools verbrannt hat.
Tim Pritlove
Und.
Linus Neumann
Motiviert war er wohl, irgendwie war er auf seine Kollegen sauer. Ja.Dann hat er noch eine Reihe anderer Anklagen bekommen.Besitz von Kinderpornografie, Falschaussagen, Spionage.Ja, und der geht jetzt in den Knast.Ich weiß leider gar nicht mehr so genau, wie sie den damals bekommen haben,welchen Obstsäckfehler der begangen hat, dass sie ihn, aber der war relativschnell, waren sie dem habhaft geworden.Vielleicht auch einfach nur, weil er nicht on good terms seine Abteilung daverlassen hatte und dann haben sie den mal kurz geratzt.Ja. Ja.Wollte ich dir, um unserer Chronistenpflicht gerecht zu werden, hier erwähnen.Das ist, ja dann warte mal, ich weiß gar nicht, die wievielte Wikileaks-Quelledas jetzt ist, die mit schwerer Strafe versehen wird.
Tim Pritlove
Die wievielte? Ja.
Linus Neumann
Also Chelsea Manning war ja so der erste Fall auf jeden Fall.Ich weiß nicht, ob dazwischen noch andere waren. Wie.
Tim Pritlove
Hieß diese Dame noch? Freedom? Das.
Linus Neumann
War keine Wikileaks-Quelle, die hat an Intercept Reality Winner,hat an die Intercept geleakt und wurde,wegen schlechten Quellenschutz, weil die Intercept die Datei einfach so wiederonline gestellt hat, ohne die mal von Metadaten zu befreien.Bei dem World 7 League kann man allerdings auch sagen, also könnte man argumentieren,dass der jetzt nicht unbedingt Whistleblowing war.Da sind halt einfach mal die Attack-Toolsvon der CIA nach draußen gehängt worden, was natürlich mitunter,sehr unangenehme Konsequenzen für die CIA hat, wenn sie irgendwie Zugriffe verlierenoder irgendwo nachgewiesen wird, dass sie es waren.Man kann jetzt nochmal eine andere Diskussion darüber führen,ob sie so etwas haben sollten.Meine ethische Position dazu, dass staatliche Hacker irgendwie Sicherheitslücken,zurückhalten, die dann für uns alle zum Risiko sind, ist bekannt.Aber ich denke, die Veröffentlichung dieser Daten ist dann auf jeden Fall so im Bereich des,schweren Schadens. Sagen wir mal, auf jeden Fall.
Tim Pritlove
Kann man wohl sagen. Also so klug schien mir das jetzt nicht zu sein, der Move. Naja.All right.
Linus Neumann
Dann hatte es sich schon angekündigt, wir haben es in der letzten Sendung behandelt,dass die E-Privacy-Ausnahme durchgehen soll, durchs EU-Parlament ist sie dann auch.Also da geht es um die sogenannte freiwillige Chat-Kontrolle.Es war ja so, dass das, was mit der Chat-Kontrolle passieren soll,eigentlich durch die E-Privacy-Regulierung der EU verboten ist.Und deswegen mussten sie ja erst einmal diese Ausnahme von dem Verbot beschließen,um dann in einem nächsten Rutsch quasi die Chat-Kontrolle richtig anzuordnen.Das wiederum sieht jetzt nicht so aus, als wäre es ihnen gelungen.Deswegen haben sie jetzt ihre alte Ausnahmeregelung, um das wenigstens freiwilligzu erlauben, dass diese Überwachung wenigstens legal ist.Die haben sie jetzt nochmal durchgekriegt und ja, die Abstimmung im EU-Parlamentist irgendwie so 89 Prozent waren. waren 89% haben abgestimmt, 82% waren dafür.Man kann sich anschauen, wer dagegen gestimmt hat und wer dafür gestimmt hat.Aber ja, das ist auch hier eher so zur Chronistenpflichterfüllung erwähnt,dass die jetzt verlängert wurde. Und ich glaube, um...Wie lange war das denn jetzt? Ich glaube, um zwei Jahre oder so.Da müsste ich jetzt nochmal schauen. Auf jeden Fall haben sie sich jetzt erstmalwieder Sicherheit verschafft.
Tim Pritlove
Ist aber ganz interessant zu sehen, welche Länder wie sehr dagegen gestimmt haben.Da ist tatsächlich Deutschlands zweitstärkstes Land dagegen.Tschechien noch ein bisschen mehr dagegen.
Linus Neumann
Jo. Und dann soll es eine Bundesdatenschutzgesetznovelle geben,wo man sich auch fragt, warum eigentlich?Und da gibt es irgendwie zwei Änderungen, die jetzt so ein bisschen Sorge machen.Vor allem sollen Unternehmen also in die Lage versetzt werden,dass sie ihre Datenschutzauskunftspflicht verweigern können mit der Begründung,dass Geschäftsgeheimnisse betroffen wären.Also du gehst jetzt zu so einem Unternehmen hin und sagst hier,ich möchte mein Recht auf Datenschutzauskunft ausüben.Schickt mal bitte alles, was ihr habt.Und dann können die sagen, ne, das ist unser Geschäftsgeheimnis.Also deine persönlichen Daten sind unser Geschäftsgeheimnis.
Tim Pritlove
Das ist gut. Da muss man erstmal drauf kommen.
Linus Neumann
Und das ist natürlich schon ein bisschen übel, ne? Ja Und auch naheliegend, dass das,missbraucht wird Also ich kann mir schon vorstellen, dass so Leute beim Metasich denken, so Jo, genau so, genau so haben wir uns das gedacht,Und das Ja, das also da wundert man sich,Gleichzeitig ist schon klar, dass,warum Juristen sagen, naja, okay, du kannst ein Unternehmen ja jetzt nicht zumVerraten seiner Geschäftsgeheimnisse zwingen.Nur die Frage ist, vielleicht sollten, sollte,Sollten meine persönlichen Daten kein Geschäftsgeheimnis eines Unternehmens sein.Also da werden eigentlich die Internetkonzerne einfach nur dazu eingeladen,Datenschutz-Auskünfte demnächst einfach pauschal zu verweigern.Weil wenn man dann sagt, was soll denn da ein Geschäftsgeheimnis sein,dann sagen die halt, können wir nicht sagen, Geschäftsgeheimnis.
Tim Pritlove
Naja, müssen sie immerhin nicht mehr das Urheberrecht bemühen. Ja.
Linus Neumann
Aber das ist schon wirklich.
Tim Pritlove
Gibt jetzt andere Ausnahmen. Ja, wer will denn das überhaupt?
Linus Neumann
So steht das Gesetz jetzt da. Das andere, was da ein bisschen komisch ist,dass jetzt so Scoring-Aktivitäten nicht mehr ordentlich Qualität sichern wollen.Also unsichere Score-Werte, die irgendwie mit einer spärlichen Datenbasis hergestelltwerden, darf man also weiterverwenden.Und es gibt keine externe Prüfung oder Zertifizierung der Zuverlässigkeit,die irgendwie vorgeschrieben würde.Also, oder es wird auch nicht geprüft, ob der Scoring-Wert systematisch irgendwiediskriminiert nach Alter, Geschlecht oder so. Also es ist alles erlaubt.Gibt im Prinzip keine Qualitätsanforderungen an Scoring-Werte.Jetzt sagen natürlich die Score-Hersteller, naja die Qualitätssicherung istbei uns doch völlig klar.Wenn unser Score nicht gut wäre, würden die anderen den ja nicht benutzen.
Tim Pritlove
Klar. Wissen die ja auch.Ja gut, ich meine, wissen sie vielleicht dann, wenn ein Ausfall nicht prognostiziertwurde, ein Zahlungsausfall, aber dann trotzdem stattfand, dann können sie vielleicht davon ausgehen.Aber die Leute, die gar keine Kredite bekommen haben, wissen sie ja nicht,ob die sich hätten doch bezahlen können.
Linus Neumann
Genau.Ähm, naja, und dann gibt's noch irgendwie Videoüberwachung im öffentlichen Raumdurch Polizei und Behörden.Wollen sie zur Erfüllung ihrer Aufgaben zulassen?Also, da ist ja auch wieder dieses Juristensprechen.Natürlich darf die Polizei Videoüberwachung vornehmen, ja. Und dann wird abernatürlich gesagt, zu welchem Zweck sie das darf.Verhinderung schwerer Straftaten. Ich nehme jetzt ein Beispiel.Es ist nicht so, ich will nur die Formulierung erklären, dass man Kompetenzender Polizei einräumt, zum Beispiel zur Verhinderung schwerer Straftaten oderzur Strafverfolgung schwerer Straftaten.Dann ist wiederum eine schwere Straftat definiert, da stehen dann welche Paragraphenda referenziert sind und wenn du sagst, darf Videoüberwachung zur Erfüllungihrer Aufgaben, dann kannst du halt gucken, was sind die Aufgaben der Polizei,was weiß ich, wenn jemand hinfällt, müssen sie dem helfen wieder aufzustehen,ja, ein Freund und Helfer und dann sagst du halt, ah, alles klar.Nee, nee, warum habt ihr hier eine Videoüberwachung gemacht?Ja, zur Erfüllung unserer Aufgaben.Und das ist natürlich ein sehr schwammiges und absolut unverhältnismäßig weitgehendeBeschreibung, weil dann müsstest du sagen,also wann hat die Polizei denn jemals etwas nicht zur Erfüllung ihrer Aufgaben gemacht? macht.Ja, die Datenabfragen für ein NSU 2.0, ja, das war nicht zur Erfüllung ihrer Aufgaben.Ja, da könnte man jetzt sagen, da habt ihr wirklich, da habt ihr selbst die Latte noch gerissen.
Tim Pritlove
Ja, vor allem, also...Also die Vorstellung, dass die Polizei überhaupt irgendetwas tut,was nicht zur Erfüllung ihrer Aufgaben gedacht ist, so, ja, also ich meine,macht ihr denn ab und zu auch mal was anderes außer der Erfüllung eurer Aufgaben?
Linus Neumann
Ja, so.
Tim Pritlove
Das ist ja gut, ne?
Linus Neumann
Und das heißt einfach, genau, das heißt mit anderen Worten, Polizei darf das, Punkt.
Tim Pritlove
Okay, das wäre doch was für den Hacker-Paragrafen, ne? Also Hacker dürfen ihre Tools benutzen.
Linus Neumann
Sodass sie ihre Aufgaben... Zur Erfüllung ihrer Aufgaben.Wieso brauchen Sie, wofür haben Sie den Flipper? Zur Erfüllung meiner Aufgaben. Ja.
Tim Pritlove
Eben. Dafür ist es geeignet. So. Achso, ja, dann ist doch alles gut.
Linus Neumann
Ja, das ist, also das scheint irgendwie nicht in die richtige Richtung zu gehen.Man fragt sich, also und jetzt, das ist jetzt der Kabinettsbeschluss.Ja, also das ist der Entwurf eines ersten Gesetzes zur Änderung des Bundesdatenschutzgesetzes.Jetzt gucken wir mal, Problem und Ziel. Warum?Finde ich auch aber ganz gut, dass sie, wenn sie ein Gesetz machen,in der Regel angehalten sind, mal zu erklären,welches Problem sie meinen jetzt zu lösen. Und das ist jetzt der Kabinettsentwurf.Wie gesagt, der kommt dann aus dem BMI ins Parlament herab und dann wird der da diskutiert.Der vorliegende Gesetzesentwurf zielt im Kern darauf ab, erstens Vereinbarungdes Koalitionsvertrages zwischen der SPD, Grüne, FDP aufzugreifen.Sowie Ergebnisse umzusetzen, die sich aus der Evaluierung des Bundesdatenschutzgesetzes ergeben haben.Siehe den Bericht Evaluierung, den das BMI veröffentlicht hat.Also die haben ihr eigenes Gesetz evaluiert und dann gesagt,jetzt müssen wir was ändern.Datenschutzkonferenz wird institutionalisiert und so weiter.Hm, jetzt wird es doch ein bisschenlang. Also okay, wir werden jetzt eine Bundesdatenschutzgesetznovellediskutieren, die wie viele Seiten hat?Wir haben keine Seitenzahlen. Das sind auch, ne, 27 Seiten. Geht eigentlichfür eine Gesetzesänderung relativ einfach. Ja.
Tim Pritlove
Die letzte Seite ist auch leer.
Linus Neumann
Ach so.
Tim Pritlove
26. So viel ist jetzt auch nicht.
Linus Neumann
Und das ist ja nur, das ist dann auch die Begründung, ist dann wieder längerals die einzelnen Änderungen.Naja, vielleicht möchte ja eine, die uns zuhörenden,Bundestags Mitglieder uns als Sachverständige da einladen. Da hätte ich mal Lust drauf wieder.Echt? Das ist geil. Du liest irgendwie so. ich finde diese Gesetzesentwürfe immer ganz lustig.Änderung des 10. Buches Sozialgesetzbuch. So, und dann steht da § 83 Absatz 1 des 10.Buchs Sozialgesetzbuch Sozialverwaltungsverfahren und Sozialdatenschutz in derFassung der Bekanntmachung vom 18. Januar 2001.BGBI das zuletzt durch Artikel 19 des Gesetzes vom 20.Juli 2022 BGBL Bundesgesetzblatt ist das wahrscheinlich wahrscheinlich nichtBGBI, geändert worden ist, wird wie folgt geändert.Erstens, in Nummer 2 Buchstabe A wird das Wort satzungsgemäßer durch die Wörtervon in öffentlich-rechtlichen Satzungen vorgesehenen ersetzt.Folgender Satz wird angefügt. Das Recht auf Auskunft besteht auch insoweit nicht,nicht als der betroffenen Person durch die Information ein Betriebs- oder Geschäftsgeheimnisdes Verantwortlichen oder eines Dritten offenbart würde und das Interesse ander Geheimhaltung das Interesse der betroffenen Person an der Information überwiegt.So, dann musst du dir das Buch rausholen und gucken, wo das steht.
Tim Pritlove
Denk wirklich nach Spaß.
Linus Neumann
Das ist gut.
Tim Pritlove
Ich verstehe richtig, dass du so scharf drauf bist.
Linus Neumann
Irgendwas von Mahnung haben sie auch Scoring, ah ja, Scoring das ist dann Mahnung Ja Ah, Paragraph,37a BGB und 40a, ich glaube 38 ist so im Mindest oder sowas Ja,Machen wir Nehmen wir gerne, gehen wir gerne hin.
Tim Pritlove
Okay, ist ein Gesetzentwurf Da wird noch dran gefeilt werden Muss man auf jedenFall mal auf dem Zeiger haben.
Linus Neumann
Ja, also kommt mir ein bisschen komisch vor.Vor allem habe ich jetzt noch nicht, mir fehlen die Fälle, also ehrlich gesagt, ne?Klingt mir das so ein bisschen nach, die Lobbyisten von der Schufa haben ganze Arbeit geleistet.Weil, wenn ich jetzt längere Zeit darüber nachdenke, wer hat denn Geschäftsgeheimnisse,die durch Datenschutzauskünfte potenziell bedroht werden könnten?
Tim Pritlove
Facebook.
Linus Neumann
Google, eigentlich nicht.Aber so eine Schufa.
Tim Pritlove
Das fällt eigentlich voll ins Feld, da hast du recht.
Linus Neumann
Und außerdem ist außerdem das Interesse der Schufa, dass Scoring und so weitermöglichst frei diskriminieren kann, machen kann, wie es will und man nicht erklärenmuss, wie es zustande kommt. kommt.Und also laut Gesetzentwurf muss man nur die wichtigsten Kriterien,so, und dann sagen die halt, die wichtigsten Kriterien sind,wie nennt man das, dass man immer bezahlt, dass man seine Schulden bezahlt und dann sind die fertig.Also ich glaube, da haben einfach die Lobbyisten von der Schufa ganz,ganz gut bei Nancy Faeser vorgesprochen.
Tim Pritlove
Also es wäre auf jeden Fall mal sehr interessant, mal nachzufragen,was eigentlich die Motivation hinter diesen Änderungen genau ist.Also was soll dadurch jetzt eigentlich wo besser werden und wäre auch mal eineinteressante Nachfrage mal zu schauen,auf welche Branchen denn diese Änderungen denn irgendwelche Auswirkungen haben. Es.
Linus Neumann
Gibt die Evaluierung des Gesetzes zur Anpassung des Gesetzes.Das ist das vom BMI, wo sie sagen, das was wir da gelernt haben, setzen wir hier um.Das ist ein 143-seitiges Dokument.Wir verlinken das mal. Das ziehen sie zumindest als Motivation heran,dass hier jetzt Änderungsbedarf besteht. Jetzt können wir mal gucken.Geschäftsgeheimnisse.Äh, Geheimnis.Geschäfts... Geschäftsgeheimnis kommt nicht. Nee, Geschäftsräume. Geschäftsstelle.Also Geschäftsgeheimnisse steht ja schon mal nicht drin. In dieser...Also dieses Dokument scheint sich nach meiner Wahrnehmung nicht unbedingt heranziehen zu lassen.Als Begründung das einzubauen.Tja, werden wir nächstes Mal erfahren. Wir gucken uns das nochmal an.Auf jeden Fall werden wir jetzt offenbar diese BDSG-Novelle diskutieren dürfenin den nächsten Sendungen.
Tim Pritlove
Wie schön. Na gut, aber damit sind wir jetzt erstmal mit dieser Sendung durch.Ja. Wir haben gewählt, wir haben gesendet.
Linus Neumann
Wir waren heute aber mal richtig gute Demokraten.
Tim Pritlove
Aber sowas von. Vorbilder eigentlich, kann man sagen, oder? Ja.Lupenrein in gewisser Hinsicht.
Linus Neumann
Lupenreine Vorbilder.
Tim Pritlove
Super Typen.
Linus Neumann
Ich bin auch immer wirklich zufrieden mit mir. Heute bin ich richtig happy.
Tim Pritlove
Ja, du bist so toll.
Linus Neumann
Ich bin stolz eigentlich.
Tim Pritlove
Leute, das war's von uns. Wir entlassen euch in die Woche und hören uns danneine Woche drauf. In etwa wieder.
Linus Neumann
So werden wir das machen. Das.
Tim Pritlove
Ist der Plan. Also wir sagen Tschüss, bis bald.
Shownotes
Prolog
- tagesschau.de: Offenbar geringe Beteiligung bei Wiederholungswahl in Berlin | tagesschau.de
- tagesschau.de: Wie die Wiederholung der Bundestagswahl in Berlin abläuft | tagesschau.de
Jobs: Win 3.11 Admin
- heise.de: Bahnkonzern Siemens sucht Admin für Windows 3.11 for Workgroups
- golem.de: ALTES WINDOWS: Systemadministrator für Windows 3.11 und MS-DOS gesucht
- web.archive.org: GULP
Hausmitteilung
- raumzeit-podcast.de: 21.02.2024: Raumzeit Live auf der Bühne mit Ulf Merbold im Zeiss-Großplanetarium in Berlin | Raumzeit
AI Act
- netzpolitik.org: Grundrechte in Gefahr: Die sieben quälendsten Fragen zur KI-Verordnung – netzpolitik.org
- reclaimyourface.eu: Reclaim Your Face DE – Reclaim Your Face
- golem.de: AI ACT GELEAKT : So will die EU die Künstliche Intelligenz regulieren
- netzpolitik.org: KI-Verordnung: Biometrische Massenüberwachung ohne Wenn und Aber? – netzpolitik.org
- reclaimyourface.eu: EU AI Act will fail commitment to ban biometric mass surveillance (Deutsche Version unten) – Reclaim Your Face
- ai-act-verabschieden.de: AI Act verabschieden
- tante.cc: Innovation ist kein politischer Wert
- netzpolitik.org: Grundrechte in Gefahr: Die sieben quälendsten Fragen zur KI-Verordnung – netzpolitik.org
Deepfake CEO Fraud
- edition.cnn.com: Finance worker pays out $25 million after video call with deepfake ‘chief financial officer’ | CNN
- heise.de: Videokonferenz voller KI-Klone: Angestellter schickt Betrügern 24 Millionen Euro
- golem.de: KI: Deepfake eines Finanzchefs ermöglicht Millionenbetrug
- spiegel.de: Hongkong: Kriminelle erbeuten Millionenbetrag mit Fake-Videokonferenz – DER SPIEGEL
- scmp.com: ‘Everyone looked real’: multinational firm’s Hong Kong office loses HK$200 million after scammers stage deepfake video meeting | South China Morning Post
Meta: Kennzeichnung von KI-generierten Bildern
- netzpolitik.org: Sexualisierte Bilderfälschungen: Die Deepfake-Flut – netzpolitik.org
- heise.de: KI-generierte pornografische Bilder: Suche nach Taylor Swift eingeschränkt
- spiegel.de: Taylor Swift: X unterbindet Suchen nach Fake-Pornomotiven
Maaßen als Rechtsextremist vom BfVS geführt
UN Cybercrime Convention
- unodc.org: Ad Hoc Committee – Home
- eff.org: Protect Good Faith Security Research Globally in Proposed UN Cybercrime Treaty | Electronic Frontier Foundation
Canada will Flipper Zero verbieten
- bleepingcomputer.com: Canada to ban the Flipper Zero to stop surge in car thefts
- freakshow.fm: FS272 Sorgenfreie Intelligenz | Freak Show
VAULT7 Leaker verurteilt
e-Privacy-Ausnahme “Freiwillige Chatkontrolle”
Datenschutzgesetznovelle
- netzpolitik.org: Änderung des Bundesdatenschutzgesetzes: Ausnahme für Geschäftsgeheimnisse als „Geschenk für Unternehmen“ – netzpolitik.org
- bmi.bund.de: Entwurf eines Ersten Gesetzes zur Änderung des Bundesdatenschutzgesetzes
- bmi.bund.de: Evaluierung des Gesetzes zur Anpassung des Datenschutzrechts an die Verordnung (EU) 2016/679 und zur Umsetzung der Richtlinie (EU) 2016/680
Mr. Blacksoot hat zur Sendung noch eine Sketchnote gemacht:
Oh Gott sind die in Berlin schlecht geschult. Wenn Du einen Wahlschein für Briefwahl hast, steht ein W im Wahlregister., damit Du nicht doppelt wählst.
Wenn Du dennoch mit Deinem Wahlschein im Wahllokal wählen willst, geht das, unter Abgabe des Wahlscheins, mit entsprechenden Einträgen bei den Anzahlen und in der Niederschrift. Ohne Wahlschein kannst Du dann logischerweise nicht wählen.
Also – zum Thema falsche Reihenfolge der Stationen bei der Wahl.
Immer erstmal schauen, wer genau da den Fehler gemacht hat. Ich bin mehrfach Wahlvorstand gewesen, auch bei der Wahl 2021.
Die als falsch monierte Reihenfolge ist die in den Schulungsunterlagen vorgeschriebene Reihenfolge! Jeder halbwegs erfahrene Wahlvorstand ignoriert diese und lässt natürlich als allererstes klären, ob die Person hier wählen darf – bevor Unterlagen ausgegeben werden.
Der Fehler liegt also in den Durchführungsvorschriften – und ihr hattet da vermutlich einen recht unerfahrenen Vorstand, der/die sich genau an die Vorschriften halten wollte.
Kann man sich nicht ausdenken den Quatsch. Die Idee hinter der späten Abfrage scheint zu sein: je näher am Einwurf in die Urne das geprüft wird, desto sicherer wird verhindert, dass da unbefugte was einwerfen. Ist natürlich Quatsch.
Beste Geüße, Chr.
Nein, nein, die Reihenfolge ist richtig so.
Man kann erst bei Abgabe abkreuzen. Davor können die Wähler:innen sich umentscheiden und gehen und erst später wieder kommen. (z.B. um nochmals über Kandidierende nachzulesen) Auch kann man Ersatzstimmzettel bekommen oder sonst was, was verwirrt und erschwert sicherzustellen, dass eine Person nur einmal wählt.
Zum Vorab prüfen reicht die Wahlbenachrichtigung. Da steht das wesentliche drauf, da im Wählerverzeichnis zu prüfen kostet Zeit und da nur selten jemand fehlerhaft da ist, ist das umständlich im Prozess und hält auf.
Reihenfolge ändern ist ein Wahlfehler!
Ich fand euren Umgang mit dem Thema bildbasierte Gewalt (Kapitel 7; 0:42:09 bis 0:48:13) sehr schwach:
1. Das Verbreiten pornographischer Bilderzeugnisse ohne das Einverständnis der Abgebildeten ist, unabhängig davon, ob es sich dabei um „Fakes“ handelt, Gewalt. Aus dem von euch verlinkten Netzpolitik-Artikel geht das noch hervor, im Gespräch aber wird nur diskutiert, dass es sich bei den Bildern um „Fälschungen“ handele. Das Problem, um dass es hier aber gehen sollte, ist die bildbasierte Gewalt, die auch ohne Microsoft Designer – bspw. mit GIMP, iCloud-Hacks oder Vertrauensbruch in einer Beziehung – verübt werden kann, und die als solche auch nicht nur ein Problem von Xitters Moderationspolitik ist. Gewaltvoll bearbeitete Bilder von spanischen Schüler:innen in verschlüsselten Whatsapp-Chats sind ja genauso ein Problem, da helfen auch von Microsoft Designer in der Datei hinterlassene unsichtbare Wasserzeichen nichts (höchstens zur Zuordnung zwecks Strafermittlungsverfahren, wie wir das schon von Drucker-IDs kennen, da ist der Schaden dann ja aber schon entstanden).
2. Insbesondere Tims Kommentar, immerhin habe Fr. Swift jetzt „plausible deniability“ sollten „echte“ Erotikfotos von ihr geleaked werden, ist völlig daneben und unsolidarisch mit den Opfern bildbasierter Gewalt. „Sich einfach zurücklehnen und sagen, egal“ ist eben nicht das, was Betroffene durchmachen. Egal ob es sich dabei um „Fakes“ handelt oder nicht sind die Folgen u.a. Scham, Vereinsamung sowie Traumatisierung und gehen teilweise bis zum Suizid. So führt auch allein die Existenz des Phänomens, also die wahrgenommene Gefahr, Opfer zu werden, zu einem „chilling“-Effekt, durch den sich v.a. weibliche Personen eher dagegen entscheiden, in der Öffentlichkeit aufzutreten, oder sich in Reaktion auf entsprechende Angriffe daraus zurückziehen. Zu den Folgen bildbasierter Gewalt für Opfer/Überlebende s. auch: https://doi.org/10.1177/0964663920947791
Zum „chilling“-Effekt sexualisierter Gewalt: https://www.genderit.org/feminist-talk/beyond-deterrence-understanding-chilling-effects-technology-facilitated-gender-based
3. Richtig schlimm fand ich dann den Kapitelabschluss, in dessen Überleitung Tim den „Witz“ macht, er würde sich lieber mit den gefälschten pornographischen Darstellungen Fr. Swifts auseinandersetzen als mit dem nächsten Thema (Verfassungsschutz), denn „die finde [er] irgendwie spannender“. Diese Aussage lässt sich auf zweierlei Weise deuten: Entweder hier ist das Thema bildbasierte Gewalt gegen Fr. Swift insgesamt gemeint – was in dieser offenen Formulierung für sich schlimm genug wäre – oder Tim meint tatsächlich, dass er sich lieber die Bilder ansehe, mit deren Löschung Xitter offenbar überfordert war; letzteres würde – ganz in der Tradition der Bild-„Journalist:innen“ (die beim iCloud-Hack von Schauspieler:innen 2014 unter dem Titel „Hacker stellen heiße Nackt-Bilder der Stars ins Netz“ Bildbeschreibungen abdruckten und vor den rechtlichen Risiken einer Weiterverbreitung warnten) –, statt die sexualisierte Gewalt als solche zu benennen, „rape culture“ (also die gesellschaftliche Akzeptanz und Normalisierung sexualisierter Gewalt) reproduzieren.
Zusammenfassend: Wenn ihr euch mit Themen wie sexualisierter Gewalt auseinandersetzt, dann ladet euch bitte Betroffene und/oder Expert:innen wie Chris Köver oder Anne Roth ein, aber verhöhnt zumindest nicht die Opfer/Überlebenden mit „Witzen“, dass ihre Erniedrigung immerhin „spannender“ sei als Rechtsextreme beim Verfassungsschutz.
Abgesehen davon, dass ich eine derartige Aufweichung des Gewaltbegriffs zu propagandistischen Zwecken, um die Empörung gegen Gewalt für sich mitzunehmen oder sich selbst als sensibel herauszustellen, sehr fragwürdig finde (man keine eine Tür mittels Gewalt öffnen – Gewalt darf man nicht per se als zu ächtende Handlung verstehen), habe ich die Aussage, man wolle lieber bei Tailor Swift verweilen keineswegs so verstanden, dass man beim Thema Fakebilder bleiben will.
Eine derartige Unterstellung könnte auf übersteigertem Misstrauen beruhen.
Ich mache hier mal auf einen ÖR-Podcast aufmerksam: „Springerstiefel“ vom MDR.
Link: https://www.ardaudiothek.de/sendung/springerstiefel-fascho-oder-punk/94811946/
Aus der Beschreibung: „Ostdeutschland in den 90ern: Jugendliche in Springerstiefeln dominieren die Straßen. Wer sich gegen sie entscheidet oder nicht in ihr rechtsextremes Weltbild passt, wird zur Zielscheibe der Gewalt…..“
Vorsicht: es könnten Tränen fließen! Bei mir war es so.
Traurig – aber auch Hoffnung.
Meine Intuition bzgl. GenAI-Watermarking läuft genau entgegengesetzt zu Linus‘:
Beim Markieren des generierten Contents handelt es sich technisch ja um einen steganografischen Covert Channel, der in der Tat kaum ausreichend robust gestaltet werden kann. Der praktische Nutzen liefe deshalb auf wenig mehr als das freiwillige Mitliefern eines entsprechenden Metatags hinaus.
Die Authentifizierung originalen Contents andererseits würde durch klassische Signaturverfahren realisiert, die – bei entsprechend konsequentem Timestamping und Revocation geleakter Private Keys – eine ungleich stärkere Garantie für die Vertrauenswürdigkeit einer Quelle und damit langfristiger Vertrauensbildung böten.
Kleine Berichtigung am Rande. Tim sagte Sigmund Jähn käme wie Ulf Merbold aus Thüringen (oder legte das nahe) . Das Dorf mit dem tollen Namen Morgenröthe – Rautenkranz aus dem er stammt liegt aber in Sachsen
Ich sagte „mehr oder weniger aus der gleichen Ecke – Thüringen, Erzgebirge“. Ich glaube das trifft es schon ganz gut. Die beiden Geburtsorte liegen nur 30km Luftlinie auseinander.
Sowohl Greiz, als auch Morgenröthe-Rautenkranz liegen beide im Vogtland, das Erzgebirge beginnt weiter östlich.
Gibt es irgendwo einen Artikel zu der von Linus genannten Zahl rechtswidriger Datenabfragen bei der Polizei?
Quelle selbst nicht, aber an anderer Stelle
„Nach einer Umfrage der „Welt am Sonntag“ wurden deutschlandweit seit 2018 mehr als 400 Ordnungswidrigkeits-, Straf- oder Disziplinarverfahren wegen unberechtigter Datenabfragen durch Polizeibeamte eingeleitet – und das noch ohne Zahlen aus Sachsen-Anhalt, die nicht verfügbar waren. Das wirft Fragen auf.“
https://rsw.beck.de/aktuell/daily/meldung/detail/unklare-datenabfragen-am-polizeirechner-wie-kann-das-passieren
Der Artikel der WaS stammt vermutlich aus 2020 [1], d.h. 400 Fälle in den 2 Jahren 2018 bis 2020.
[1] welt.de über den Artikel der WaS:
https://www.welt.de/politik/article212217181/Polizei-Mehr-als-400-Verfahren-gegen-Beamte-wegen-privater-Abfragen-an-Dienstrechnern.html
Die Frage, was genau denn Nicht-Live-Gesichtserkennung heißen könnte, stellt Anke Domscheid-Berg von den Linken auch immer wieder der Regierung. Laut ihrem Podcast (Der ADB-Podcast) bisher ohne Erfolg.
Vielen Dank wieder einmal für eure Sendung!
Ich würde gern noch mal zu den Quellensignaturen bei Bildern einhaken, weil ich mir nicht sicher bin, ob sie nicht doch dazu beitragen könnten, Deep Fakes zu verhindern.
Technisch könnte ich mir vorstellen, dass es bereits genügen könnte, wenn der Private Key auf dem Kamera-Chip erzeugt wird und diesen gar nicht verlässt (allenfalls resettet werden kann). Bei Bedarf kann man eine Signaturkette erzeugen – Verfahren mit entsprechender Spezialhardware gibt es und werden seit langer Zeit auch erfolgreich eingesetzt. Apple nutzt solche Infrastruktur seit Jahren, um die Integrität von deren Systemen sicherzustellen und bislang lief das zumindest ohne große Probleme. Selbst für die Nachbearbeitung fänden sich Lösungen – es würde ja schon mal reichen, wenn das Originalmaterial für alle oder für einen vertrauenswürdigen Kreis von Leuten zugänglich ist.
Natürlich setzt es voraus, dass die Hersteller diese Prozesse beherrschen. Und natürlich ist das auch kein Allheilmittel – aber ich denke es ist ein Baustein von vielen (nebst Sekundärquellen, Plausibilitätschecks usw.).
Dagegen ist das Watermarking von Deepfakes völlig nutzlos. Wir werden in absehbarer Zeit genug Implementierungen sehen, die nicht von großen Konzernen stammen. Der Zug ist schon abgefahren…
Und was genau würde mich davon abhalten n fake abzufotografieren und so n signiertes bild zu erhalten?
Hahaha schön, dass so Gesetzesänderungstexte eigentlich nur git diff in Anwaltsprosa ist :D
Ich bin gerade eben beim Hören der Passage nur deshalb hierher gekommen, um das zu Kommentieren. Aber dann sekundiere ich hier jetzt eben. =)
Bei der UN Cybercrime Convention war mein erster bei der „Pflicht zur Mitwirkung bei Wissen über ein Computersystem“ als erstes an Beugehaft für Leute mit „Wissen über das Passwort für die Festplattenverschlüsselung“ gedacht.
Die Konvention ist sicher flexibel genug, um diese Interpretation in lokales Recht zu gießen.
Zur Magnetschwebebahn. Es ist ja schön, dass in Berlin die Idee verworfen wurde. In Bayern jedoch ist diese Idee nicht totzukriegen. Nachdem Edmund Stoiber noch 2000 von einem Transrapid vom Münchner Flughafen zum Hauptbahnhof fasselte, will nun Markus Söder einen „Mini-Transrapid“ durch Teile von Nürnberg bauen lassen.
Vor wenigen Tagen wurde bekannt, dass eine Machbarkeitsstudie zu 90% vom Freistaat finanziert werden.
Hallo an alle,
Wenn ich mich richtig erinnere, habt ihr in LNP 467 darüber geredet, dass das e-Rezept ab 2024 verpflichtend wird und dass es opt-out sein wird. Könnt ihr bitte das Thema noch einmal aufgreifen? Vielen Dank!
Hier ein Nachtrag zu Windows 3.11 in ICE3 und ICE T auf YouTube:
https://youtu.be/BB2OUia5kSg?si=hUGLuTEzPLRMawlS
Moin,
erstmal vielen Dank für die tolle Sendung!
Witzigerweise habe ich gerade kürzlich einen Beitrag der HAW in Hamburg dazu gelesen: https://www.haw-hamburg.de/detail/news/news/show/unsichtbare-wasserzeichen/. Leider ist alles was ich dazu gefunden habe ziemlich unkonkret, der Beitrag im hamburg-journal ist auch eher einfach gehalten.
Was mich aufhorchen ließ war die Mitarbeit der Chainstep GmbH, diese beschreibt sich auf ihrer Karriere-Seite u.a. mit dem folgenden Satz: „Seit Mai 2017 unterstützen wir Unternehmen unter dem Motto „Wir bringen Blockchain in die Realwirtschaft“.“ Bei mir weckt das zunächst die Befürchtung, Blockchain würde hier pauschal auf jedes Problem geworfen, das bei drei nicht auf dem Baum ist.
Das aber alles nur als kleine Informationsbeiträge, das einzuordnen traue ich mich angesichts der wenigen Informationen nicht. Es sei aber gesagt, dass das Projekt „Robuste Signatur audiovisueller Medien gegen (deep) fakes (SaM-fake)“ heißt, und ich daher nicht damit rechne, dass die hier auch noch eine Blockchain rein weben.
Zum Thema Kennzeichnung KI-generierter Bilder: Die sinnvollste Maßnahme, die dazu meiner Auffassung nach umgesetzt werden sollte, ist das Signieren von Bildern durch (mehr oder weniger) vertrauenswürdige Quellen, z.B. Verlage. Damit wird nicht grundsätzlich verhindert, dass CGI-Bilder im Umlauf sind und man diese nicht von echtem Material unterscheiden kann, aber man hätte immerhin Material, dessen Urheberschaft bestätigt ist und das man dann als so vertrauenswürdig einstufen kann, wie weit man eben dem Urheber vertraut.
Das ganze ließe sich sogar über die bereits existierende Zertifikatsinfrastruktur für Domains wunderbar abbilden und die entsprechenden Domains könnten als Identifier dienen.
https://imgur.com/a/YHHAMDz
-soso
Von wem ist der Ausklang?
Zum Hackertool fällt mir immer wieder der gemeine Pflasterstein ein. Eigentlich ist die Verwendung von Pflastersteinen zu verbieten. Die braucht keiner. Auf Asphalt fährt es sich eh besser. Also man könnte Pflastersteine zum Bau von Straßen und Wegen nutzen. Man kann sie aber auch zum Werfen nutzen und womit Menschen verletzt werden können. Eine klare Straftat.
Ich muss sagen, die Ausführungen zum AI-Act decken sich nicht so ganz mit dem Bild, das ich aus dem stetigen Verfolgen des Themas gewonnen habe:
Es klingt so, als wäre der AI-Act ein ziemlich schlechtes Gesetz mir nur ein paar guten Regelungen. Ich würde es eher anders herum sehen: Der AI-Act ist eigentlich ein gutes Gesetz mit vielen guten Regelungen. Schade ist nur, dass bestimmte Dinge nicht in ihn aufgenommen wurden, das hätte ihn noch besser gemacht.
Den offenen Brief „AI Act verabschieden“ kann ich gut verstehen, insbesondere zum jetztigen Zeitpunk: Wir befinden uns in der letzten Phase des Gesetzgebungsprozesses, grundsätzliche Dinge können jetzt nicht mehr wirklich geändert werden. Würde der Rat nicht zustimmen (mittlerweile hat er ja) wäre es unwahrscheinlich, dass der AI-Act noch vor der EU-Wahl verabschiedet wird. Dann würde es erstmal wieder eine ganze Weile dauern, bis man an so einem Punkt angekommen ist. Solange gäbe es keinen Grundrechtsschutz und Unternehmen wüssten nicht, worauf sie sich einstellen müssen.
Zu euren Vermutungen, dass der AI-Act von bestimmten Akteuren mit der Zeit sabotiert und der Fokus verlagert wurde: Ich habe nicht den Eindruck, dass sich die Diskussion mit der Zeit groß verschoben hat. Wie üblich hat das EU-Parlament ein paar gute Punkte beigesteuert, der Rat ein paar schlechte und am Ende kommt irgendwas in der Mitte raus.
Insbesondere lag die ganze Zeit der Fokus des AI-Acts auf der Regulierung von Privaten, die Regulierung von staatlicher Überwachung war eher ein Bonus. Das erklärt sich auch mit der Zuständigkeit der EU, die den Fokus auf den (digitalen) Binnenmarkt legt, Sicherheit ist eher Aufgabe der Staaten, da gibt es auch weniger das Bedürfnis nach einem einheitlichen Rechtsrahmen.
Es gibt übrigens auch nicht die Frage, soll biometrische Massenüberwachung erlaubt sein, ja oder nein. In der ganzen Diskussion geht es darum, wie stark die Regulierung sein soll, auch im aktuellen Kompromiss gibt es Vorschriften dazu, sie sind nur eben nicht so streng, wie sie sein könnten.
Das ist also eine etwas verkürzte Darstellung wie auch den komplexen Regelungsgehalt des AI-Acts mit den Worten „es gibt auch positive Aspekte“ zusammenzufassen.
Ehrlich gesagt sind Erläuterungen zu Gesetzgebungsverfahren im Logbuch oftmals eher unvollständig.
Ich verstehe, dass man nicht immer alles komplett ausbreiten kann, aber wenn man eine fundierte Bewertung abgeben will, sollte man die Sache vielleicht umfangreicher betrachten, zumindest im Hintergrund.