LNP474 Autobahnkreuzigung

Feedback — Kommissionspropaganda — Google zahlt für #1 — Meta und personalisierte Werbung — Jabber.ru MITM

Da der Rücklauf in Kommentaren zur letzten Sendung so umfangreich war gehen wir heute wieder ausführlich auf Euer Feedback ein und führen dabei den einen oder anderen Gedanken weiter. Dabei geht es natürlich im Schwerpunkt wieder um diverse Aspekte der KI und wir haben auch den Eindruck, dass diese Debatte noch lange nicht abgeschlossen ist. Dazu noch ein paar Kurzmeldungen, eine Diskussion um erzwungene Werbung und ein paar musikalische Leckerbissen und eine Überraschung am Ende.

avatar
Linus Neumann
avatar
Tim Pritlove

Für diese Episode von Logbuch:Netzpolitik liegt auch ein vollständiges Transkript mit Zeitmarken und Sprecheridentifikation vor.

Bitte beachten: das Transkript wurde automatisiert erzeugt und wurde nicht nachträglich gegengelesen oder korrigiert. Dieser Prozess ist nicht sonderlich genau und das Ergebnis enthält daher mit Sicherheit eine Reihe von Fehlern. Im Zweifel gilt immer das in der Sendung aufgezeichnete gesprochene Wort. Formate: HTML, WEBVTT.


Transkript
Tim Pritlove
Guten Morgen Linus.
Linus Neumann
Guten Morgen Tim.
Tim Pritlove
Wusstest du schon, wo es Internet gibt, gibt es Ruhm und Träume.
Linus Neumann
Ja vor allem Träume wahrscheinlich dann, ne?
Tim Pritlove
Logbuch Netzpolitik Nummer 474 vom, was haben wir denn heute, 2.November 2023 und uns gibt's jetzt seit zwölf Jahren.
Linus Neumann
Stimmt, letztes Wochenende.
Tim Pritlove
Ja, hab ich wieder mit so einem KI erzeugten Bild gefeiert. Auf Mastodon.
Linus Neumann
Ja, das hab ich sogar gesehen.
Tim Pritlove
Wie man das so macht heutzutage.Und ja, mehr gibt's dazu eigentlich auch nichts zu sagen.
Linus Neumann
Habe ich retweetet auf Mastodon.
Tim Pritlove
Brav, brav, brav, brav.
Linus Neumann
Retootet oder wie heißt das denn? Da muss man ja aufpassen.
Tim Pritlove
Ich bin dafür, dass man das Retweet nennt. Weißt du warum?
Linus Neumann
Ja ich nenn's auch so.
Tim Pritlove
Weil dieses ganze wir müssen das anders nennen als Twitter Ding ist ja jetzt eigentlich durch.Also kann man das jetzt so ein bisschen wie mit Tempotaschentuch und so weiter handhaben.
Linus Neumann
Hätte man auch vorher schon machen können.
Tim Pritlove
Hätte man, hat man wahrscheinlich auch schon. Ich kann auch auf Bing googlen.
Linus Neumann
Klar kannst du auf Bing googeln und das ist auch völlig in Ordnung wenn du das machst.
Tim Pritlove
Ja man kann aber nicht auf Google bingen. Also es ist schon relativ klar wasgemeint ist und wenn man jetzt retweetet, es gibt so viele gute Retweet Witze auch.
Linus Neumann
Ja das ist, man muss ja auch nicht alles, also diese, also Mastodon,in allen Ehren, aber mit dieser ganzen Benennung haben die einfach kein glückliches Händchen.Du nennst das Ding Mastodon und dann muss man da tooten und dann retooten unddann tröten und dann darfst du nicht Twitter sagen, dann musst du Birdside sagen, das ist...
Tim Pritlove
Tut ist doch im amerikanischen Sprachgebrauch auch die Bezeichnung für einen kleinen Pforz.
Linus Neumann
Das kann gut sein.
Tim Pritlove
Ja. Würde mich nicht wundern. Hast du das schon repforzt?
Linus Neumann
Ja, wenigstens haben sie nix mit Fist gemacht oder so.
Tim Pritlove
Lassen wir das, vertiefen wir das nicht. Ich wollte dir ein Gedicht vorlesen,um mal herauszufinden, was denn?
Linus Neumann
Achso, ich wollte mich noch fragen, wann die Auflösung kommt,warum es Ruhm und Träume beim Internet gibt, aber das ist wahrscheinlich jetzt die Auflösung, ne?
Tim Pritlove
Quasi, ja, genau.
Linus Neumann
Ja, will ich hören.
Tim Pritlove
Also, es fängt so an. Mit Loyalität und Hingabe wachen wir Tag und Nacht überunser Gebiet, um unserer Mission zu dienen, während die Sonne im Osten aufgeht.Jeden Tag schaffend mit Innovation und seine Helligkeit umarmend wie ein Strahl der Integrität,der dein Herz bewegt, vereinen wir die Kraft aller Lebewesen,leisten einen Beitrag zum globalen Dorf, um es in seiner schönsten Form zu entwickeln.Das ist die erste Strophe? Und dann geht's weiter. Eine Internetmacht.Wo es Internet gibt, gibt es Ruhm und Träume. Eine Internetmacht.Vom fernen Kosmos bis zu den Häusern, die wir vermissen.Und jetzt muss ich dich fragen, ob du schon irgendeine Ahnung hast,wovon ich hier rede, weil alles andere würde es jetzt schon ein bisschen aufdecken.
Linus Neumann
Von uns. Wahrscheinlich ein Gedicht über uns.Also es handelt von Ruhm und Internet, also dachte ich mal direkt Tim und Linus.
Tim Pritlove
Ja also das ist jetzt von mir so ein bisschen hilfsübersetzt,aus dem englischen, was wiederum aus einer anderen Sprache übersetzt wurde,damit man es auf englisch zur Erkenntnis nehmen kann.Und der Titel der da kolportiert wird ist The Mind and Spirit of CyberspaceSecurity. Der Geist und die Seele der Cyberspace Sicherheit.
Linus Neumann
Ja, das singe ich morgens immer auf dem Weg zur Arbeit.
Tim Pritlove
Wirklich? Ja, ja klar. So ungefähr hier so irgendwie so.Also, um es aufzuklären, das hier ist sozusagen die Haushymne der chinesischenCyber Security Agentur.
Linus Neumann
Der Chinesischen? Aha. Ja.
Tim Pritlove
Es geht nämlich weiter mit eine Internetmacht. Sie erzählt der Welt,dass der chinesische Traum China aufrichtet.Eine Internetmacht. Jeder einzelne repräsentiert die ganze Nation.Du kannst dir vorstellen, da gibt's ein passendes Video, das werden wir ja amEnde auch nochmal akustisch einblenden.Da stehen sie dann in so einem großen Chor und singen von der großen Kraft undFreude, die ganze Cybersecurity Tätigkeit macht in diesem Universum,so wie alle Flüsse treu nach dem Meer suchen.So tragen sie Chinas große Kultur und messen Chinas Größe und so weiter.Also es ist vollkommen überdreht und manchmal weiß ich echt nicht,was ich von den Chinesen so halten soll, um ehrlich zu sein.Aber man muss ihnen ja lassen, fett auftragen.Können sie wirklich richtig gut.Also die machen echt immer gleich so eine ganz dicke Nummer.
Linus Neumann
Das ist aber doch bei jeder Hymne so.
Tim Pritlove
Ja aber nicht nur bei Hymnen. Also generell machen sie alles immer so unglaublichgroß und pompös und tralala und hauen alles raus und ich meine so Olympia,du erinnerst dich, solche Events.
Linus Neumann
Erinner ich mich nicht.
Tim Pritlove
Man kann ja alles scheiße finden was sie machen, aber man muss ihnen zumindestzugestehen, fett kriegen sie irgendwie gut hin.Ich erinnere mich noch an diese Olympiade, nicht dass ich mich besonders dafürinteressieren würde, ich hab's aber trotzdem mitverfolgt.Dann haben sie ja erstmal krasse Stadien gebaut und dann allein schon dieseEröffnungsfeier, die sie da abgezogen haben, das war so over the top,das war von allem einfach viel zu viel, aber halt irgendwie auch krass.Also das ist einfach, jetzt guckst du dir das an und denkst ja nur so,ihr habt sie doch nicht alle.Aber nein sie müssen Chinas Größe ins Universum raus demonstrieren.Und unter anderem, ich frage mich, ob die bei der NSA auch so einen Song haben.
Linus Neumann
Was hat denn, Private Manning hat doch irgendwie auf die CD was drauf geschrieben.Ich glaube da stand drauf Britney Spears oder sowas. Der Rohling quasi,um die Daten aus diesem Geheimraum zu exfiltrieren, da stand Britney Spears drauf oder sowas.
Tim Pritlove
Achso, Oops I did it again oder was?
Linus Neumann
Ich weiß es nicht. Gerade im militärischen Bereich musst du dir doch jetzt wirklichbei den Amerikanern keine Sorgen machen,dass die es versäumen dick aufzutragen oder theatralisch von Heldentaten zu singen.Also ich weiß, ich habe ja mit einer,ich habe ja in den USA gelebt und ich habe da mit Familien gelebt,die auch Leute zum Militärentsand hatten, ja also und dadurch habe ich auchirgendwie so Airbases und so irgendwelche Bootcamp Abschlusszelebrationen und so.Jedes fucking Basketball Team einer Highschool wird einmarschiert mit ner Marching Band.Also, ähm, bzw.Basketball begleitet die Band beim Football, marschiert sie dann auf,also marschiert wir traditionell auf Fußballfeldern, also ein pisseliges HighschoolFootball Match wird da zelebriert.Da kommt dann irgendwie die schönste Schülerin der Woche und muss die Hymne singen.Ja, also da kannst du jetzt nicht die Amerikaner nicht auch würdigen in ihrem Dickauftrag.
Tim Pritlove
Ne, also definitiv sind sie auch im Club der Dickauftragenden,da sind sie ganz gut, aber da steht ihnen halt China auch in nichts nach undich würde halt sagen, man erinnert sich an diese Drohnenmalerei im Himmel,das haben die Chinesen zuerst gemacht.
Linus Neumann
Feuerwerk auch.
Tim Pritlove
Ja, genau. Feuerwerk auch. Siehst du mal. Guter Punkt. Das meine ich.
Linus Neumann
Nur die haben sich dann irgendwann mal weiterentwickelt.
Tim Pritlove
Wer jetzt? Die Amerikaner?
Linus Neumann
Nee, die Chinesen haben sich weiterentwickelt. Die Amerikaner?Immer weiter bumm bumm bumm.Und Deutsche auch. Knall, knall, toll. Hier Finger ab und weiter.Nee die Schleser haben irgendwann gedacht, nee machen wir besser.Okay, aber also dürfen wir das auch singen oder wie bist du jetzt da drauf gekommen?
Tim Pritlove
Mir ist es so über den Weg gelaufen und ich dachte mir das könnte man ja malgewinnbringend machen.Aber bevor ich jetzt, ich hatte schon vor diesen kurzen Clip anstatt des Introszu spielen, aber da ja alles so verstört war.Was ich ja irgendwie auch ganz charmant finde, dass ich mir so… Nein,hab ich ja auch nicht gemacht, ich hab's so gemacht.
Linus Neumann
Man kann sich auch mal entschuldigen, wenn man zu weit gegangen ist.
Tim Pritlove
Komm.
Linus Neumann
Ihr könnt das schon ver...Vincenz, bezüglich des anderen Intro-Sounds, ich dachte kurz mir ist der Bordcomputervom Auto abgeschmiert oder mein Telefon explodiert gleich,alles während ich mich in einer Autobahn-Kreuzung orientieren muss,wenn schon Linus geprankt werden muss, fände ich es gut als Hörer vorgewarnt zu werden.So, das ist einfach die strengste Zurechtweisung, die hier mit absoluter rechtlicherGrundlage vorgetragen werden.Autobahnkreuzung ist übrigens auch saugefährlich.
Tim Pritlove
Oh man.
Linus Neumann
Also Autobahnkreuzung, hoffentlich wenn dann wenigstens mit Ampeln.Aber so eine Autobahnkreuzung klingt auf jeden Fall gefährlich.
Tim Pritlove
Autobahnkreuzung mit Ampeln, das ist ein Widerspruch in sich. ichglaube die heißen autobahnkreuz oder genau abereine autobahnkreuzung ist nicht vorfahrt vonrechts also die definition vonautobahn ist dass es sich dabei um eine kreuzungsfreie fahrbahn handelt alsonicht dass man die cdu also man könnte natürlich mal langsamer anfangen dieautobahn zu kreuzigen also eine Autobahnkreuzigung wiederum, da wäre ich dann dabei.Naja, okay, also ich hab ja mit Leid ein bisschen, ne, ihr kleinen Schlüflocken,aber naja, ihr wollt es halt immer gleich haben, wie schön.
Linus Neumann
Dann haben wir ja relativ viel über Machine Learning und Deep Learning in derletzten Sendung gesprochen.Und da wurden natürlich allerlei Feinheiten sofort bemerkt,zum Beispiel, dass ich die ganze Zeit Machine Learning gesagt habe,aber Deep Learning beschrieben habe, was in meinen Augen eigentlich eine,also diese Aufteilung kann man natürlich machen,unter Machine Learning fällt im weitesten Sinne noch,Also Regressionsanalyse könntest du Machine Learning nennen oder einfache lineareModelle und Deep Learning ist halt das verschalten mehrerer,das was ich beschrieben habe, das verschalten mehrerer Layer.
Tim Pritlove
Das ist halt sozusagen die Version 2.0 davon, Machine Learning gab es auch schonvorher über Jahrzehnte und dann kam irgendwann der Knaller Deep Learning.
Linus Neumann
Genau, auch das gab es schon vorher, aber wie dem auch sei, aber auf jeden Fall finde ich ganz schön,wie sich in der Diskussion das widerspiegelt, der schreibt MG Berberich,Machine Learning wendet man dann an, wenn man das Problem, das man lösen möchte,nicht verstanden hat oder nicht verstehen will.Denn wenn man das Problem verstanden hätte, könnte man es modellieren und vieleffizienter und zuverlässiger konventionell lösen.Ein Großteil der KI-Aktivitäten, Forschung will ich das nicht nennen,besteht einfach darin, völlig hirnlos die Netze immer größer zu machen und übermehr Daten optimieren zu lassen, bis es irgendwann halbwegs funktioniert.Auch der Begriff lernen ist bei diesen Systemen unangebracht.Das, was die machen, hat mit Lernen, wie wir es von Menschen oder Tieren kennen, nichts zu tun.Das sieht man schon daran, dass einem Kleinkind ein paar Bilder einer Giraffeausreichen, um Giraffen zu erkennen.Während Machine-Learning-Systeme unendlich viele gelabelte Bilder brauchen.Und danach kann das Kind erklären, woran es eine Giraffe erkennt.Während beim ML-System niemand weiß, was die eigentlich machen.Das ist ein ziemlich ineffizienter, nicht-linearer Optimierungsprozess auf einemtypischerweise völlig überdimensionierten System.Und den Kommentar finde ich sehr gut, weil er ein paar Sachen sehr,sehr, sehr klar herausstellt, ein paar Sachen aber, naja, nicht so wirklich erklären kann, ne.Ich glaube, deswegen habe ich noch ein paar andere Kommentare reingenommen.Der Vergleich mit dem, mit dem Kleinkind, dem man ein paar Bilder einer Giraffezeigt und das kann dann erkennen, kann die dann erkennen, ja.Der ignoriert, dass das Kind zu dem Zeitpunkt schon drei Jahre Gehirnentwicklung hinter sich hat.Also auf dem Weg hat es schon sprechen gelernt, auf dem Weg hat es gelernt,was ein Tier ist, was eine Pflanze ist und so weiter.Und auf der Basis zeigst du dem Kind dann irgendwann drei Giraffen und das Kindsagt, es ist eine Giraffe.Also der Vergleich hinkt so ein bisschen,weil wenn wir auf eine spezifische Tätigkeit gucken,also Go spielen oder so, dann kann man sagen, wie oft hast du das jetzt gelernt,aber wenn du diese generalisierende Intelligenz eines Kindes nimmst,dann musst du dem Kind eben auch sagen, ja gut, der hat drei Jahre gebrauchtund die ersten paar Jahre oder die ersten paar Monate hättest du bei jedem Computerexperimentnicht weitergemacht, weil das einfach überhaupt nichts gelernt hat oder scheinbarüberhaupt nichts gelernt hat bzw.Die ganze Zeit nur gelernt hat und währenddessen gefüttert werden musste oder so.
Tim Pritlove
Nicht nur das, also es kommen ja auch noch ein paar Millionen Jahre Evolutiondes Gehirns dazu, also es ist ja jetzt auch nicht so, dass wir komplett beinull starten würden, sondern da ist ja auch schon das eine oder andere abgelegt in unserer DNA.
Linus Neumann
Da sind sensible Sensibilitäten und so. Aber genau, der Vergleich ist natürlichtrotzdem ganz gut. Und vor allem, was er sagt, ist ja richtig.Ein Großteil der KI-Aktivitäten besteht darin, einfach völlig hirnlos Netzeimmer größer zu machen und immer mehr Daten reinzuwerfen.Stimmt, auch das ist einfach mal wahr. Aber offenbar gibt es ein paar Leute, die es geschafft haben.Mit dieser Technologie gezielt umzugehen und faszinierende Ergebnisse zu schaffen.Also ich glaube, das verblasst jetzt,also das ist eine sehr gute Einschätzung der Machine-Learning-Aktivitäten generell,aber verblasst ein bisschen vor dem, was jetzt eben innerhalb des letzten Jahreseinige damit geschafft haben.Mit sehr viel Geld, mit sehr viel Ineffizienz, alles richtig.Aber gerade wenn man sich so diese Bildgenerierungsdinger anschaut,ja, dann realisieren die dann doch schon eine ganze Menge Dinge,die auch ein Kind nicht in drei oder zehn Jahren so schnell hinkriegt.
Tim Pritlove
Ja vor allem, das ist ganz lustig, die ganze Diskussion macht sich oft an diesen Bildern fest.Und dann haben wir über so Sachen wie Ton modifizieren und Stimmen nachspüren noch gar nicht geredet,aber wovon überhaupt keiner redet, was man so ein bisschen mal so nebenbei zur Kenntnis nimmt,ist, dass diese Systeme nahezu in jeder Sprache sprechen können und verstehenkönnen und irgendwie flüssig von einem Dialogteil zum nächsten,von der einen auf die andere Sprache sprechen.Also ML Deep Learning hat es mal eben geschafft in den letzten Jahren diesesgenerelle Bubblefish Problem zu lösen.Das ist vielleicht jetzt noch ein Hauch ganz kurz zu früh, aber wir sind dasehr sehr weit gekommen auf einmal.Es gab da einen riesen Schub, das war bis vor kurzem noch ein echtes Problemund für Übersetzer gab es ein paar spezifische Programme hier und da.Und dann kam als erstes DeepL und jetzt mittlerweile nahezu alle Large LanguageModels hinterher, die das einfach hervorragend hinbekommen.
Linus Neumann
Und genau das meint nämlich Marc, wenn ich den Kommentar ganz kurz einstreue,halte deinen Gedanken, sonst nimmst du den Kommentar weg.Er antwortet nämlich auf den M. G.Berberich, denn wenn man das Problem verstanden hätte, könnte man es modellierenund viel effizienter und zuverlässiger konventionell lösen. Darauf antwortet er.Nur, dass dieser Ansatz in den letzten Jahrzehnten zuverlässig in eine Sackgassegeführt hat. Nimm das Beispiel Sprachverarbeitung.Hier sind Erkennungsraten möglich geworden, von denen regelbasierte Ansätze nur träumen konnten.Und diese Modelle arbeiten nicht im Labor, sondern in hochskalierten,antwortzeitsensiblen Callcenter-Geschäften.Also genau das, was du sagtest, dass es nämlich irre Ergebnisse schafft und,Jetzt darfst du weitersprechen, weil ich nicht mehr weiß, was ich sage.
Tim Pritlove
Ja gut, also guter Hinweis und er geht ja sogar noch einen Schritt weiter mit seinem Beispiel,dass wir also sozusagen auch schon nicht nur so ein langsam vor sich hin tippendenChatbot haben, sodass man noch schön mitlesen kann, was mich ja persönlich andieser ganzen Geschichte am meisten freut.Das ist ja wieder so wie früher am Akustik-Koppler, also wo man noch die Zeichenlesen konnte, während sie übertragen wurden. Das hat schon was.Aber davon abgesehen sind wir jetzt eben schon im Realtime-Geschäft,deswegen ist vielleicht auch der Vergleich mit dem Babelfisch,also wer das nicht kennt,aus dem Buch Per Anatole durch die Galaxis, dieser kleine Fisch,den man sich ins Ohr steckt und der sich von, wie war das du gesagt,von Gehirnwellen ernährt und dabei sozusagen Sprache automatisch,so als Abfallprodukt übersetzt.Und ja, das wird jetzt wahrscheinlich auch so kommen.Also diese Airpods sind schon sehr nah dran, jetzt musst du das nur noch miteiner Software koppeln, die halt in Echtzeit übersetzt.Die gibt es im Prinzip auch schon. Also es gibt so Apps, Google Translate,pipapo, verschiedene Systeme.Ich hab mich jetzt mit dem Bereich nicht so spezifisch beschäftigt in letzter Zeit,aber das ist jetzt eigentlich nur noch eine Frage der Zeit, Ich fahre jetztin den nächsten Tagen nach Italien,mir wurde gesagt da wo ich hinfahre da spricht keiner Englisch,ich spreche kein Englisch,es gibt auch Spanien da sprechen die mittlerweile auch Englisch aber ich fahreja nach Neapel und mir wurde von jemandem der gerade in Neapel ist gesagt,Muss ja echt schon mit Italienisch oder Händen und Füßen sowas.Anderes gibts hier nicht.
Linus Neumann
Und jetzt gehst du mit deinen Airpods und deinem Google Translator hin.
Tim Pritlove
Ja genau. Und sage ich möchte diese Schallplatte nicht kaufen, sie ist zerkratzt.
Linus Neumann
Ich habe gar kein Auto, musst du den sagen.Ich möchte noch ganz kurz diesen Gedanken ein bisschen weiterführen mit dieser Sparverarbeitung,weil da kommentiert Luki Puki, Ähm, sagt also AlphaGo,AlphaGo Zero, bei der ersten gab es Trainingsdaten von menschlichen Spielen,ja, und ähm, die hat quasi schon mal als Intuition überhaupt mit menschlichem Handeln angefangen,ja, und dann haben sie eine nächste gemacht, die hieß irgendwie AlphaZero,der haben sie nur die Regeln gegeben und von Anfang an sie gegen sich selber spielen lassen.Und diese neuere Variante AlphaZero war anschließend besser als AlphaGo undwar schneller dort angelangt.Und jetzt kommt der entscheidende Satz. Es geht sozusagen um die traurige Erkenntnis,dass unser menschliches Wissen und wie wir Dinge verstehen eigentlich kontraproduktiv ist.Wenn wir also menschliches Wissen in solche Systeme reinprogrammieren,behindern wir die beim Finden von optimalen Lösungen.Ja, das ist wieder so eine menschliche kränkung von deroben geschrieben wurde nicht nur sind wir nicht die mittedes universums unser verständnis vom Universum isteigentlich kontraproduktiv wenn man wirklich das universum verstehenwill Hoffentlich denken die maschinen nicht hey wir sind eigentlich besser dranwenn wir die menschen erst mal platt machen und bei null anfangen Und dann hater noch das bin ich gerade übergangen ein cv von dir referenziert zu neuronalennetzen Acht Jahre oder so alt, ja.Ich zitiere mal, wie er die Situation erzählt, von irgendeiner Nationalbibliothekoder sowas, wo jahrelang schlaue Linguistinnen daran gearbeitet haben,dieses Wissen durch Computer zu verstehen, also die Sprache zu analysieren.Am Ende kamen AI-Leute mit Word2Vec, was einfach alle Daten einliest,ohne sich um die linguistischen Kategorien zu kümmern. Was ist ein Verb,was ist ein Satz, was ist ein Substantiv?Alle diese Modelle, die Menschen sich für das Verstehen von Sprache ausgedachthatten, ignoriert das einfach. Und das Ergebnis war viel besser als alles,was die schlauesten Linguisten in Jahrzehnten geschafft haben.Und es war extrem simpel.Liest also irgendwie nur ein kleines Fenster von aufeinander folgenden Wortenein und ist völlig egal ob das jetzt Sätze sind oder nicht.
Tim Pritlove
Genau, also ein schönes Beispiel, also dieses Word2Vec hat einfach den Texteinfach genommen und hat sozusagen die Struktur selber entdeckt.Vielleicht erinnert ihr euch auch noch an diese, es kommt auch aus der Zeit2013, 14, 15, da ging das mit diesen Deep Dreams los.Also es waren sozusagen diese ersten Deep Learning Algorithmen von Google,die dann mal visualisiert wurden, also wo man quasi dieses,wie soll man das beschreiben, also dieses Deep Learning, du hast das ja letztesMal schon so schön erläutert,ist dieses mehrstufige, immer tiefergehende und man muss sich das sozusagenso vorstellen, dass man eben den Daten immer mehr Abstraktion hinzufügt,so würde ich es mal sagen.Und das wurde dann in diesen Deep-Dream-Videos visualisiert,wo man erstmal durch so eine rauschende Pixelwolke durchgeht und dann auf derSuche nach Hunden und Katzen irgendwie auf einmal so ein permanenter Schwallvon Augen und anderen Körper identifizierenden Objekten auf einen zuströmen.Und das heißt dieses ganze wo ist irgendetwas, das können diese Machine Learning,Deep Learning Algorithmen mehr oder weniger von alleine herausfinden.Und das ist halt eigentlich das besondere daran, dass wir jetzt eine SoftwareTechnik haben, die in der Lage ist selber diese Strukturen zu sich zu erarbeiten.Und deswegen wirkt das eben auch so intelligent, weil.Man kann halt, wenn man so mit Chachipiti arbeitet, da kann man halt,einfach was weiß ich, Also das war wirklich so die Erkenntnis in dem Moment.Und da hat er finde ich auch sehr schön herausgearbeitet, dass da im Prinzip alles angefangen hat.Die Technik ist jetzt also ungefähr ein Jahrzehnt alt.
Linus Neumann
Und dann hat natürlich, wie sollte es anders sein, der kluge Hans kommentiert.
Tim Pritlove
– Der weiß immer Bescheid, der kluge Hans.
Linus Neumann
– Ich bin etwas überrascht, wie oberflächlich ihr auf den Wunsch nach KI-Regulierung eingeht.Aktuell ist die Situation so, dass jemand nachts eine Kiste Zauberstäbe aufden Dorfplatz gestellt hat.Nebst Schild viel Spaß.Sodass alle von der verantwortungsbewussten, akademisch gebildeten,queerfreundlichen Integrationsbeauftragten bis hin zum 15-jährigen,testosterongesteuerten Pickelpöbler mit Alkoholproblemen und Rechtsdreieck zugreifendürfen, egal ob sie damit bunte Blumen im Vorgarten sprießen lassen oder denDachstuhl des Nachbarn abfackeln.Ist es zu viel verlangt, dass man, bevor man eine potenziell so grundlegendverändernde Erneuerung auf die Allgemeinheit loslässt, sich Gedanken darübermacht, ob es irgendeine Art der Qualifikation seitens der Nutzer geben sollte.Das geht natürlich über eine rein juristische Definition hinaus in eine gesellschaftliche Betrachtung.Die Aussage Tims, dass eine Regulierung nicht die Ursache löse,greift doch viel zu kurz.Wir haben doch auch ein Strafgesetzbuch, in dem nur die Konsequenzen von Deliktenbetrachtet werden und dann zusätzliche Mechanismen,um zum Beispiel Kriminalität aus einer persönlichen Notsituation zu minimieren.Richtig. Überwachungstechnik wie Kameras sind immer kleiner und billiger gewordenund deswegen war die Konsequenz daraus nicht, alle Kameras zu verbieten.Aber trotzdem muss doch von Seiten des Gesetzgebers auf diese sich verändernde Situation.Beispiel Upskirting musste 1910 nicht reguliert werden, da der Fotograf es nurschwer geschafft hätte, sein Stativ und die Schuhkarton-große Plattenkameraunter dem Reifrock einer Dame zu positionieren, ohne dass die das gemerkt hätte.KI ist ein mächtiger Hebel, der alle Möglichkeiten positiv wie negativ verstärken kann.Da fände ich es doch sinnvoll zu diskutieren, ob man dafür eine gewisse Befähigungerlernen sollte oder ob die Nutzung auf bestimmte dafür ausgebildete und dafürauch verantwortlich machbare Kreise oder auch Bereiche begrenzt bleiben sollte.Zu guter Letzt sollte man nicht vergessen, dass die Bereitstellung dieser KI-Dienstenicht aus reiner Menschenfreude stattfindet, sondern dass alle daran beteiligtenFirmen in erster Linie ein Geschäft darin sehen.Ein Geschäft, das nicht aus einer reinen Dienstleistung besteht,sondern parallel auch im Erfassen persönlicher Daten und Nutzungsverhaltens.Wenn ich höre, dass inzwischen daran geforscht wird, beim Digitalkonsum direktauf das Gehirn zuzugreifen, natürlich nur, um den Service zu verbessern,indem man den Middleman, also das Eingabegerät, eliminiert.Heißt das also, indem man versucht, das Nutzerverhalten auch physiologisch festzuhalten,wie zum Beispiel früher bei Eye-Tracking, und damit für mich keine Möglichkeit mehr besteht,dem Computer meine Absichten oder Emotionen vorzuenthalten, wird doch klar,dass jede derart umwälzende technische Neuerung das Potenzial hat,das Leben nicht nur zu verbessern, verbessern, sondern auch zur dystopischenHölle werden zu lassen und es in entscheidendem Ausmaß davon abhängt, wer sie wie benutzt.Also stimmt, ich finde einen Aspekt ein bisschen gefährlich und das ist der,ich wiederhole das nochmal, KI ist ein mächtiger Hebel, der alle Möglichkeitenpositiv wie negativ verstärken kann.Da sollte man doch diskutieren, ob die Nutzung auf bestimmte,dafür ausgebildete und auch verantwortlich machbare Kreise oder auch Bereichebegrenzt bleiben sollte.Kreise, würde ich jetzt dann denken, heißt dann irgendwie Menschen,denen man dazu Zugang gibt?Und jetzt überlege ich mal, was passiert, wenn man zu einer so mächtigen Technologiejetzt nur wenigen Menschen Zugang gibt.Und nicht irgendwie allen. Dann bedeutet das ja, dass diese wenigen diese Technologieausnutzen werden, um die anderen auf jeden Fall nicht zu bevorteiligen.Also da bin ich mir echt nicht so sicher, ob das gut ist,so etwas von der Allgemeinheit fernzuhalten, um dann zu argumentieren,wenn man das von der Allgemeinheit fernhält, dann profitiert die Allgemeinheitmehr. Da bin ich noch nicht sovon überzeugt.
Tim Pritlove
Ja, ich meine jetzt sind wir im klassischen Chancen und Risiken Diskussionsbereichund ich finde ja auch nicht, dass man das nicht diskutieren darf.Das darf man diskutieren. Ich komme nicht unbedingt jetzt zu denselben Konsequenzenhier. Also ich meine das ist salopp gesagt, da haben wir wieder eine schönedeutsche Verburtsdiskussion.Etwas kann vielleicht böse sein, deswegen muss es irgendwie begrenzt,reguliert, im Zugriff eingeschränkt bestimmten Gruppen vorenthalten werden undes muss eine Haftung eingeführt werden.Das ist mir ehrlich gesagt ein bisschen zu heftig, weil das einfach mal denChancenteil komplett ignoriert.Und auf den kann man ja genauso gut auch ein Anrecht haben.Wer entscheidet denn mir diese Chance zu nehmen, hier vielleicht auch was gutesdaraus zu machen, nur weil es andere Doofe gibt.Klar Risiko ist immer da, aber das hat man einfach mit jeder Technologie undich fühle mich nicht wohl dabei jetzt irgendwie diesem Machine Learning undDeep Learning und AI oder wie man es auch immer nennen soll,da jetzt so einen Sonderstatus zu geben, weil es,Hatten wir ja letztes mal auch schon. Es ist halt eine Zeitenwende,eine technologische Zeitenwende, so wie das Internet eine technologische Zeitenwendewar, so wie es das Telefon war.Und immer wurde das Schlimmste heraufbeschworen, was theoretisch passieren kann,was Bücher schon alles auslösen würden. Und das muss auch auf jeden Fall beschränktwerden und so, der Name der Rose.Also das, abgesehen davon, dass es nicht funktionieren würde,also wie willst du den Zugriff auf die Technik verhindern?Also das ist irgendwie Open Source, das wird überall entwickelt,das ist jetzt einfach das Ding, das wird überall sein, das wird in jedem Betriebssystemsein, das wird in jedem Telefon sein und das wird in jeder App drin sein.Wird es einfach, ist es teilweise auch schon.Das kriegst du eh nicht wieder zurückgefahren und man muss es vielleicht auchnicht unbedingt zurückfahren.Gibt's Bedarf für Regulierung? Vielleicht. Wissen wir schon,was genau eigentlich jetzt reguliert werden soll? Ich habe da so meine Zweifel.Wir haben es irgendwie derzeit noch mit einer Entscheider-Generation zu tun,die immer noch Schwierigkeiten hat zu verstehen, was der Sinn eines allgemeinenGlasfaserausbaus in Deutschland ist, um mal überall irgendwie gleichberechtigtInternetzugang zu realisieren.Da sind wir noch nicht drüber hinaus gekommen und jetzt sollen dieselben Leuteirgendwie entscheiden, wie man bei KI, die Technologie, die im Prinzip jetztin dieser Form, wie wir sie jetzt erleben, gerade mal seit zehn Monaten am Startist, wie wir da in Zukunft mit umgehen wollen.Ich habe doch meine Zweifel, dass das überhaupt gelingen kann.
Linus Neumann
Ja und ich denke das ist genau das, was ich in der letzten Folge auch so ein bisschen sagen wollte.Man muss das schon verstanden haben, bevor man es reguliert.Idealerweise, wenn man jetzt sagt, man kann so ein paar Sachen machen,wo man vielleicht sagt, wenn man das reguliert, macht man auf jeden Fall erstmalkeinen Fehler. Zum Beispiel wie, lass uns den Dingern erstmal keine Waffen geben, ja?Das ist so, weißt du, da nimmt man eine ganze Menge Risiko weg, ja?Ohne sich großartiger Chancen zu berauben, ja?Zumindest in der Allgemeinheit.Andere Dinge, wie das darf in der Medizin nicht angewendet werden oder,ich nehme jetzt Beispiele.Da beschneidet man sich potenziell sehr Wohlmöglichkeiten. Da kann man das noch nicht so sagen.
Tim Pritlove
Nicht nur potenziell, sondern ich würde sagen, das wäre die größte Dummheit von allen.
Linus Neumann
Ich wollte ja jetzt mal ein paar Dummheiten mir eindämmen. Ich glaube nicht,dass das irgendjemand fordert. Ganz im Gegenteil wird ja hier diese Brustgripsfruherkennungauch immer als eines der Steckenpferde genannt.Aber um mal Beispiele zu nennen und das darf jetzt nicht über Menschen entscheiden,muss immer nochmal ein Mensch machen.Da haben wir ja auch schon das letzte Mal drüber gesprochen,dass das im Zweifelsfall aufgrund der Automatisme, mit denen Menschen sich soeiner Aufgabe dann widmen, auch keine große Sicherheit mehr bringen wird.Also solange das nicht wirklich abschätzbar ist und vor allem solange Leutesich jetzt alles mögliche einbilden,was irgendwie schief gehen kann und so weiter, ist es nicht verkehrt,vielleicht auch erstmal ein bisschen was gewähren zu lassen.Nehmen wir uns mal ein Problem heraus, wo wir glaube ich alle relativ einigsind, dass es eins ist oder dass es ein bereits existierendes Problem ist.Noch schlimmer machen wird. Das mit den Fake-Bildern, dass man also jetzt hierquasi in absehbarer Zeit alles fotorealistisch fälschen kann.Das ist auf jeden Fall ein Problem.Und jetzt kann man überlegen, wir versuchen die Nutzung dieser Technologie einzuschränken,dann wird das dazu führen, dass nur noch Wladimir Putin, Xi Jinping und wieheißt der durchgeknallte Nordkoreaner das haben?
Tim Pritlove
Kim Jong-un.
Linus Neumann
Ich wollte ihn nur lieber durchgeknallter Nordkoreaner nennen.
Tim Pritlove
Ich glaub das heißt das auch auf Nordkoreanisch.
Linus Neumann
Genau ich wollte es übersetzen.Und da hast du dann auch nix von, weil du dann nämlich eine unmündige Gesellschaft hast.Ich schätze, wir müssen da jetzt halt durch eine bittere Zeit mit ein paar echt unschönen Phänomenen,damit es irgendwann alle gelernt haben, aber Medienkompetenz oder ein Mangelan Medienkompetenz durch Vorenthaltung dieser Medien kompensieren zu wollen,ist glaube ich auf jeden Fall keine nachhaltige Herangehensweise.
Tim Pritlove
Ne ich meine wie willst du Führerscheine ausgeben, wenn die Leute überhauptgar keine Möglichkeit haben, überhaupt erst mal irgendwelche Erfahrungen damitzu sammeln. Also das funktioniert nicht.Führerscheine kann man dann machen, wenn man klare Regeln hat so und die hatman aber auch erst im Straßenverkehr eingeführt, nachdem der Straßenverkehrerstmal so 20, 30 Jahre lang alle umgepflügt hat.So was wie, wir sollten immer nur auf einer Seite fahren und so.
Linus Neumann
Da kam dann wieder diese Mana, dieses ewige Risiko, nein, wir fahren nur aufeiner Seite. Das ist endlich ein Fahrzeug, das auf jeder Seite fahren kann.
Tim Pritlove
Naja, schwierige Diskussion, aber muss geführt werden.
Linus Neumann
Ja ich fand's auf jeden Fall mal, also ich fand die Kommentare sehr schön,was sich da, gab natürlich noch sehr viel mehr, ich hab jetzt mal hier ein paarexemplarisch rausgewählt.Ich würde aber trotzdem nochmal in Erinnerung rufen wollen, dass wir gar nicht sagen,diese Technologie wird jetzt irgendwie folgenlos bleiben und lass mal laufenund gib geile Bilder bei Midjourney,aber es ist schon relativ klar,dass jetzt erstmal diese Technologie Ich würde jetzt mal vorsichtig sagen,sehr faszinierende Möglichkeiten bietet, vieles im Leben erstmal zu vereinfachen.Dass die am Ende wieder bei den Reichen landet,die damit die Weltherrschaft und ihren Geldstapel ausweiten,da bin ich mir auch sicher, aber genau aus dem Grund würde ich sagen,lasst uns mal wenigstens alle benutzen.Weil sonst haben wir noch weniger davon.So und dann schauen wir uns nachher, also wir sagen nicht,dass wir irgendwie Regulierungen und sowas irgendwie ablehnen wollen,aber wenn, dann wäre schon mal ein klarer, argumentierbarer Fall,wäre nicht schlecht und dann, das würde ich halt eher in Einzelfällen sehenoder in einzelnen Bereichen,die man dann mal diskutieren muss, aber im Moment ist mir das zu sehr gelenktvon Leuten, die zu wenig von dieser Technologie verstanden haben.Wäre jetzt mal meine vorsichtige Einschätzung.Und wahrscheinlich haben die Leute, die viel von dieser Technologie verstandenhaben, die haben jetzt irgendwie keinen Bock, sich das am Ende regulieren zu lassen.Die, die die Risiken einschätzen wollen, müssen jetzt halt erstmal besser werden.Oder müssen gut werden da drin.Die Risiken zu verstehen und dann ordentlich auszudrücken und dann auch ihnenzielgerichtet entgegentreten zu können.
Tim Pritlove
Es wird auf jeden Fall sehr schwierig werden, die nächste Zeit,weil die Entwicklungen laufen in einer Geschwindigkeit gerade voran.Also ich weiß nicht so ganz genau, wann wir da überhaupt mal eine Verschnaufpauseeinlegen werden können.Wird kommen, aber gerade befruchtet sich das Thema gegenseitig viel zu sehr.Also was allein durch die ganzen Kombinationen dieser ganzen Systeme derzeitan Optimierung geschaffen wird. Und wie sozusagen schon so Second Level,Third Level lernende Systeme, die auf lernenden Systemen basieren.Selbst in der Lage sind sich Dinge auszudenken. Also wir sind ja schon bei denmoderneren KIs schon so weit,sodass die quasi, ich sag mal salopp, selbst auf Ideen kommen,was man mal machen könnte.Und da wird's dann halt schon wirklich sportlich.Das wird sich nicht nur in Text ausdrücken, das wird sich auch in Bild und Ton natürlich ausdrücken.Jetzt haben wir ja schon diese Bilderzeugung, wir haben auch schon die Videoerzeugung,da dauert es dann nicht mehr so lange, dann haben wir auch sozusagen die Storyerzeugung,dann können ganze Hollywoodfilme quasi da mal rausfallen.Also das wird jetzt nicht nächste Woche soweit sein, aber so perspektivisch sind das Dinge,die stattfinden gerade und die uns noch vor ganz andere Fragestellungen stellenwerden, aber werden auf dem Weg halt auch eine ganze Menge positive Entwicklungenhaben, zwangsläufig. Medizin sei da mal wirklich genannt.Wirklich ein Feld, was unter diesem klassischen Problem, was Deep Learning ganzgut zu lösen scheint, ja sehr leidet. Es gibt da sehr viel Daten,die man betrachten kann, die sind aber alle sehr fuzzy.Man muss aufwändige Studien machen, um irgendwas herauszufinden,aber in dem Moment, wo man diese ganze Datensammlung und Betrachtung und Auswertunggut automatisiert bekommt,Stichwort Smartphones, die Gesundheitsdaten, idealerweise natürlich anonymisiert,liefern, dann kann man hier unter Umständen sehr schnell Fortschritte machen.Diese modernen SWAT-Watches sind in der Lage, aus einer Langzeit- und Detailbeobachtungdes Pulses schon Warnungen herauszugeben, wie es dem Herzen so geht.Und wir werden da sicherlich noch ganz andere Erkenntnisse haben.Und damit bin ich noch nicht mal bei der Genforschung, die bestimmt jetzt einrichtiges fest feiert, weil natürlich die Komplexität der genetischen Strukturist ja quasi der heilige Gral und da hatten wir schon letztes Jahr den großen Durchbruch.Ich weiß gar nicht, wie das Google System nochmal heißt. Hast du das vielleichtim Kopf, mit dem sie diese Problematik der Proteinfaltung ja schon gelöst haben?
Linus Neumann
Hatten wir vor zwei Sendungen hier erwähnt. Mir fällt es gerade auch nicht mehr ein.
Tim Pritlove
Genau, also das sind sozusagen Schlüsselentdeckungen, die im Prinzip komplettneue medizinische Behandlungsmethoden eröffnen und das ist alles extrem vielversprechend.Ob es letzten Endes… Alpha Fold. Ja genau, also aus dieser Alpha-Serie wieder wie AlphaGo.Also ob es am Ende eigentlich so sinnvoll ist, dem Menschen ewiges Leben zugeben, da habe ich so meine Zweifel.Aber wir müssen damit rechnen, dass wir das Problem auch noch kriegen.Das ist natürlich schwierig ne.
Linus Neumann
Und dann haben wir auf jeden Fall eine ganze Menge neue Probleme.
Tim Pritlove
Ja da bist du ja deine alten Nilos. Uah uah uah uah großoma nervt wieder total.
Linus Neumann
Ja, aber das wird ja dann erstmal, nur für das Problem werden dann erstmal diereichen haben. Da mache ich mir nicht so große Sorgen, dass ich das Problemnoch habe. Mit dem ewigen Leben.
Tim Pritlove
Für uns reicht es nicht mehr. Höchste Strafe. Für uns reicht es leider nicht mehr.
Linus Neumann
Nee ich bin ganz, also so scheiße der Tod ist aber dauerhaft will ich das hierauch nicht mitmachen. Ganz ehrlich.
Tim Pritlove
Ich könnte noch eine Weile.
Linus Neumann
Ja eine Weile schon aber weißt du irgendwann ist es auch gut.
Tim Pritlove
Ich hab ja die These rausgehauen, dass meine Podcasts auch noch in 500 Jahrengehört werden und ich würde das eigentlich ganz gerne überprüfen.Also ihr, die ihr jetzt diesen Podcast in 500 Jahren hört, jetzt ist es 2023, 2523wenn ihr diesen Podcast hört, hoffe ich,dass ihr Zeitreise schon erfunden habt und gebt mir mal ein Zeichen,okay war kein Zeichen, entweder werden die nicht 500 Jahre lang gehört oderdie kriegen das mit der Zeitmaschinen nicht hin.
Linus Neumann
Den, das hat doch schon Stephen Hawking irgendwann in den 70er gemacht.Hat auch schon nicht geklappt, da war sie auch noch nicht erfunden.Dauert noch ein bisschen. Die Zukunft muss ja auch erst noch passieren, weißt du?
Tim Pritlove
Ach ja.
Linus Neumann
Der Zeitstrahl muss erst noch da hinkommen. Okay, wir haben dann noch einenKommentar gehabt zu Microtargeting durch Ilva Johansson, dazu kommentierte David.Und um den Punkt mit dem Micro-Targeting von Frau Johansson noch mal etwas konkreter zu machen,weil es oft so abstrakt behandelt wird, die zuständige Kommissarin hat Werbungfür ihr Projekt gezielt in Ländern ausspielen lassen,die im Rat aktuell dagegenstehen und unter Bevölkerungsgruppen,bei denen sie sich besonders viel Zuspruch zu ihren Argumenten verspricht.Ich weiß gar nicht, ob Propaganda hier noch der richtige Begriff ist,aber das sollte sich schon als sehr gezielter Versuch lesen lassen,den aktuellen politischen Prozess durch Einfluss auf die nationalen Wählergruppen zu beeinflussen.Ja, gut, dass du das nochmal klargestellt hast und es ist wirklich faszinierend, oder?
Tim Pritlove
Ich weiß nicht ob faszinierend das erste Wort ist, was mir da einfallen würde, aber Frechheit ist das.
Linus Neumann
Ja unverschämt.
Tim Pritlove
Ja soll sich mal was schämen.
Linus Neumann
Ja macht's aber nicht. Ja.
Tim Pritlove
Noch schlimmer.
Linus Neumann
Und jetzt, ja das finde ich zum Beispiel auch ärgerlich ne.
Tim Pritlove
Kriegt den du du du du du Orden von Logbuch Netzpolitik.
Linus Neumann
Nee, da müssen wir uns mal was überlegen, was soll der verleihen.So, jetzt kommen wir endlich zu ein paar Anmeldungen. Es gibt gar nicht so viel.Ihr merkt das vielleicht daran, dass wir uns auch so lange an dem schönen Feedbackaufgehalten haben und da auch mit euch die Diskussion ein bisschen weitergeführthaben. Ich hoffe, das war nochmal fruchtbar.
Tim Pritlove
Wichtig auch.
Linus Neumann
Wichtig, ne?
Tim Pritlove
Ja.
Linus Neumann
Und jetzt haben wir, wir haben ja hier darüber gesprochen,dass es gegen Google gerade einen Wettbewerbsprozess gibt,der also über Ausnutzen der marktbeherrschenden Stellung und auch das gezielteHerbeiführen und so weiter handelt und da gab es jetzt eine dann doch interessanteMeldung und zwar bezahlt Google, so viel war ja bekannt,Geld dafür, die Standardsuchmaschine auf Smartphones und in Webbrowsern zu sein.Man wusste aber nicht genau, wie viel.Und wir haben auch darüber gesprochen, dass Google sich ja, das zum Beispielauch über Android eher zwingt,dass die Google-Apps da drauf sind, also alles dieses Ausnutzen einer marktbeherrschendenStellung, da gab es häufig, gab es heute das ein oder andere Kommentar zu.Das Kartellrecht verbietet dir nicht eine marktbeherrschende Stellung zu haben.Ja, das darfst du. Du darfst sie nur nicht ausnutzen.Und hier die Überlegung, wenn jetzt jemand eine marktbeherrschende Stellunghat und die wird dieses Unternehmen natürlich sehr viel tun, um die zu zementieren.Zum Beispiel sehr viel Geld dafür ausgeben, die Nummer eins in den Browsern zu sein,also die voreingestellte Suchmaschine und dafür hat Google im Jahr 2021 insgesamt26 Milliarden US-Dollar ausgegeben.Es gibt nicht so viele Browser, Google, Chrome machen sie selber,es gibt Firefox, es gibt Safari, es gibt Edge von Microsoft, das war's dann.Und ja, die haben also hier, diesen Betrag geben sie aus und es ist der größteeinzelne Ausgabeposten des Unternehmens überhaupt.Der hat sich seit 2014 damit mehrals verdreifacht, da war er also noch im einstelligen Milliarden-Bereich.Was also auch bedeutet, dass sie halt quasi immer mehr Geld ausgeben,um sich Konkurrenz vom Leid zu halten.Diese Zahlen wollten sie natürlich ungern veröffentlichen, weil das ihre zukünftigeVerhandlungsposition beeinträchtigt.Klar, wenn du jetzt irgendwie Firefox bist und sagst ja scheiße ey,die geben 26 Milliarden aus und wir haben 5.Oder du bist Apple und denkst dir so, wir kriegen 21 aber die geben 26 aus, da geht noch was.Ist das natürlich für Google nicht von Vorteil, aber hättest du gedacht,dass die so viel Geld dafür ausgeben?
Tim Pritlove
Mir war schon länger klar, dass das sehr viel Geld ist, was sie da ausgeben.Also Apple äußert sich zwar nicht dazu, was sie bekommen, aber es wird schonlänger gemunkelt, dass es sich dabei um einen extrem hohen Betrag handelt.Wenn man mal davon ausgeht, dass Google selbst mit seinen eigenen Betriebssystemengut so zwei Drittel des Marktes vielleicht abdeckt,kannst du davon ausgehen, also das restliche Drittel geht halt an die anderenund von die anderen ist halt Apple relativ viel.Also kannst du davon ausgehen, dass von diesen 26 Milliarden ein Großteil bei Apple hängen bleibt.Und es wird schon länger gemunkelt, dass das der größte Einnahmeposten bei Apple Services ist.
Linus Neumann
Schon irre, ne? Aber das, ich mach jetzt nicht nochmal die Diskussion auf,dass das Unternehmen sich durch Innovation und so weiter oben hält,aber die 26 Milliarden die einfach nur verpuffen dafür, dass kein anderer inden Browsern die Standardsuchmaschine ist, das ist schon...
Tim Pritlove
Ich weiß nicht ob ich das so verwerflich finde um ehrlich zu sein.
Linus Neumann
Ich habe nicht gesagt, dass es verwerflich ist. Ich rede überhaupt nicht von verwerflich.Wir treffen hier keine moralischen Urteile, aber es hat nichts mit verwerflichzu tun, es hat einfach nur etwas damit zu tun, dass das Unternehmen,offenbar seine marktbeherrschende Position nicht unbedingt dadurch aufrechterhält, das überzeugendste Produkt zu sein.Wenn du das überzeugendste Produkt bist, dann brauchst du nicht 26 Milliardendafür auszugeben, dass bloß niemand irgendwo als Default deine Konkurrenz wird.Es ist eigentlich ein Urteil, oder ich würde diese 26 Milliarden als eine großeAnerkennung Anerkennung für die Qualität anderer Suchmaschinen werten,weil die zahlen ja nicht eine Milliarde, die zahlen ja, also das ist ja quasidas, was sie wahrscheinlich ausgeben müssen, um andere Suchmaschinen zu überbieten.Die zahlen ja nicht freiwillig so viel.
Tim Pritlove
Ja, beziehungsweise um die Betriebssystemhersteller dazu zu bringen,sie als default einzustellen, das kann ihnen ja eigentlich egal sein,nur in dem Moment, wo sie natürlich dafür Geld bekommen müssen,das sind Werbungskosten, die sie gerne einnehmen.Und Google kann natürlich am meisten zahlen. Da sieht man aber auch mal wasdas wert ist. Diese Suchzeile. Was das für eine Power hat.Das ist nochmal der Einstieg in das Internet.Ich erinnere mich noch an so eine Straßenumfrage in den USA,das ist auch schon ein paar Jahre her, wo die Leute, ich weiß nicht mehr genauwas die Frage war, aber aus den Antworten konntest du halt irgendwie herausfinden,dass für die Google irgendwie sozusagen der Anfang vom Internet ist.Der Browser, der sich öffnet ist Google.
Linus Neumann
Es war mal ein Sendungstitel bei Logo Netzpolitik, der Anfang vom Internet.
Tim Pritlove
Der Anfang vom Ende oder?
Linus Neumann
Der Anfang vom Ende.
Tim Pritlove
So hieß die Sendung? Echt?
Linus Neumann
Bin ich mir relativ sicher.
Tim Pritlove
Wirklich? Ich kann mich gar nicht dran erinnern. Aber wir haben auch schon soviele Sendungen gemacht. 474.
Linus Neumann
Es gibt einen anderen Anfang vom Internet, du kannst ja nochmal kurz guckenob der stimmt, ich meine ich hätte alle Sendungstitel im Kopf.
Tim Pritlove
Also es gibt eine Sendung, endlich sind wir am Anfang angekommen,dann gibt es am Anfang vom Ende der ersten Welle und das sind die beiden mit Anfang.
Linus Neumann
Ach schade, da hast du die gelöscht.Es gibt ja noch einen anderen Anfang vom Internet und das ist,war Facebook, überhaupt das mit diesem Anfang vom Internet ist ja auch so eine Sache,Anfang vom Internet gibt's ja eigentlich nur bei so Leuten, wo man noch vonInternet redet, man redet ja in zunehmendem Maße gar nicht mehr vom Internet.
Tim Pritlove
Sondern? Apps. Stimmt.
Linus Neumann
Und da gibt es natürlich noch, da gibt es eben Facebook.Und die, wie wir uns erinnern, verdienen ja auch sehr, sehr viel Geld.Und womit verdienen die ihr Geld? Ha, wir haben denen niemals Geld gegeben.Also kriegen sie es für Werbung. Und nämlich für genau diese personalisierte,zielgerichtete Werbung, die Eva Johansen da geschaltet hat, wo wir uns geradenoch drüber echauffiert haben.Das ist das Geschäftsmodell von Facebook. Die haben kein anderes.Haben sie nicht. Doch, ich meine, die verkaufen diese Brillen oder so,um einem da dann irgendwie Werbung einzublenden.Aber es ist relativ klar, Facebook ist ein Milliardenunternehmen,dessen Geschäftsmodell de facto Verhaltensmanipulation ist. Klingt schlimm,aber Werbung ist halt versuchte Verhaltensmanipulation.Wer das besser macht, ist halt besser und kriegt mehr Geld dafür.Es bietet aber Facebook ja in die andere Richtung eine faszinierende Dienstleistung an,wo es unsere persönlichen Beziehungen und Interessen und so weiter quasi einsammeltund uns den Kontakt zu unseren Freunden, Familien und so weiter gibt.Und diese Dienstleistung können wir in Anspruch nehmen, müssen wir nur irgendwieso ungefähr ein Wissen von ChatGPT1 lesen und dem zustimmen oder wie viele Seitenauf jeden Fall die Datenschutzerklärung ist, die natürlich keine Sau verstehtund so weiter und so weiter.Und jetzt verlangt aber die Datenschutzgrundverordnung, dass man einwilligen muss.Wenn man oder dass man die Einwilligung der NutzerInnen haben muss,wenn man ihre persönlichen Daten für Werbezwecke verarbeiten will.Das ist ja auch wirklich so eine, kann man wirklich sagen,so jetzt ohne Angst der Überregulation, kann man sagen,das ist zumindest so eine Minimalkonsens-Sache des Anstands,dass man sagt, wenn wir deine, wenn wir alles, was wir hier von dir sammeln,für Werbung verwenden, dann wäre es gut, wenn du dazu Ja sagst.Oder wenn wir dir die Gelegenheit geben, dazu Nein zu sagen oder dich überhauptdarüber in Kenntnis setzen und du sagst, habe ich gelesen.All das passiert aber nicht, weil da sagt Facebook dann, ja,das ist ja integraler Bestandteil unserer Dienstleistung und deswegen müssenwir da nicht nachfragen.So. Und wenn du so Facebook-Anwälte hast, dann kannst du natürlich relativ lange sowas streiten.Und jetzt hat sich.Der Europäische Datenschutzausschuss beschlossen, dass Irland jetzt bitte Facebookwegen anhaltender Verstöße gegen die DSGVO diese Praxis, also das Nutzen vonpersönlichen Daten ohne Einwilligung zu verbieten.Die sagen also, das was ihr macht ist nicht mit der DSGVO vereinbar,damit ihr diese Daten verwenden dürft, braucht ihr eine Rechtsgrundlage,die gibt es nur mit informierten und freiwilliger Einwilligung und die habt ihr nicht.Und was ihr macht, ihr wähnt die Datensammlung und deren Zusammenführung inden AGBs, das reicht aber nicht aus.Und interessanterweise geht das auf Norwegen zurück,die sind zwar nicht in der EU, aber im europäischen Wirtschaftsraum und wendendaher die DSGVO an und jetzt sagen die also,passt auf, Norwegen hat das lokal auch schon gemacht, die haben im Juli Metavorübergehend verboten Werbung zu schalten, die auf Nutzerverhalten basiert und Profilen.Ja, dann wurde das noch mal bestätigt im September und jetzt sollen also dasauf EU-Ebene gemacht werden.So, und jetzt, pass auf, was macht Facebook? Und das ist eigentlich lustig,weil es total vorhersehbar ist.Die machen den gleichen Trick, wie die ganzen anderen werbefinanzierten Seiten,die es sich nicht leisten konnten, so lange auf der Ebene mit den Datenschutzbehörden zu zanken.Nämlich die sagen, alles klar, dann gibt es jetzt halt ein überteuertes Bezahlangebot.
Tim Pritlove
Kostet jetzt 50 Euro oder was?
Linus Neumann
Ich bin mir nicht ganz sicher. Ich hätte jetzt an 10er gedacht,aber ich weiß gar nicht genau, ob ich den Preis jetzt irgendwo gelesen habe.
Tim Pritlove
9,99€. Ja, Schnäppchen.
Linus Neumann
Facebook ohne Werbung.Instagram und Facebook, da kannst du sogar beides oder was? Da musst du jeden extra bezahlen.Ab November müssen Nutzer demnach mindestens 9,99€ bezahlen,wenn sie keine Werbung über Facebook und Instagram sehen wollen.Wer personalisierte Anzeigen akzeptiert, kann die Netzwerke weiterhin gratis nutzen.Und das ist ja genau das, was wir auch die Justiziare von den Verlagen sagen.Und was ja auch der Max Schrems mit Neub regelmäßig da bekämpft und gegenklagt,dass dieses, hier es gibt ein Pur-Abo, dass das de facto einfach nur ein Trickist, um diese Einwilligung zu bekommen.Zum Beispiel hatte er ja auch mitgenommen oder mit angefügt,dass das so ungefähr das einzige Abo ist, was es gibt, was sich nicht automatischverlängert, was schon so ungefähr zeigt, weißt du.Und ich hab halt auch schon mit dem einen oder anderen Justiziar von einer,von Verlagten gesprochen, die alsosagen, ja klar, das ist jetzt nicht ein Geschäftsmodell oder Profitcenter.Dieser Dialog ist nicht darauf ausgelegt, dass du jetzt da die 2,99,3,99, 9,99 oder was auch immer das kosten soll zahlst.Sondern es ist darauf ausgelegt, dass du sagst, nee, dann lieber gratis mit Werbung. Klar, ja.Und das macht also jetzt Facebook auch.Bin mal gespannt.
Tim Pritlove
Also, ja, die Frage ist ja, mehrere Fragen,also erstmal gibt es, ich nehme mal an es gibt auch schon irgendwie den einenoder anderen Dienst, wo du dafür bezahlst keine Werbung zu sehen oder?Um die zu nutzen?
Linus Neumann
Ach doch, klar. Ich hab einen kostenpflichtigen Werbeblocker.
Tim Pritlove
Den bezahl ich. Okay. Ja, nee.
Linus Neumann
Ne, das Problem ist ja, nur um das kurz zu sortieren, ich zahl für eine ganze Menge Dienste.Aber wenn ich hier, was weiß ich, nehmen wir mal unsere Freunde vom SpiegelVerlag Rudolf Augstein KG.Nur weil man denen 30 Euro im Monat zahlt, heißt das ja nicht,dass sie die Werbung wegmachen.
Tim Pritlove
Führt das normale Abo den Zugriff auf die zusätzlichen Artikel?
Linus Neumann
Ja.
Tim Pritlove
Aber es gibt noch eine Ordnung.
Linus Neumann
Da muss man nochmal extra einwerfen.
Tim Pritlove
Naja, weil das ist natürlich, du schneidest damit eine Verdienstquelle ab,die halt sehr lukrativ ist.
Linus Neumann
Das mag ja sein. Trotzdem ist ja der, also das glaube ich haben wir ja alle verstanden,ich finde es trotzdem äußerst ärgerlich,dass man das nicht auch noch weglässt und dann wollen sie da noch mehr haben.Ich kann jetzt hier mal gucken, was kostet das denn hier?Aber es ist auf jeden Fall lustig, das Abo, dass du sagst,ich möchte Spiegel Plus oder so, das wird dir überall angeboten,aber wenn du einmal gesagt hast, ich nehme eure Werbung, dann musst du wirklichsuchen, um das zu finden.Also die wollen werbefrei lesen, kostet, wenn du kein Spiegel Plus hast,also sogar nur die Gratisbeiträge ohne Werbung kostet ein Euro pro Woche.Und wenn du jetzt Spiegel Abonnent bist,Spiegel Plus, dann als Upgrade 50 Cent pro Woche,also irgendwie 25 Euro im Jahr ungefähr und werbefrei Spiegel Plus kostet 5,50 Euro pro Woche.
Tim Pritlove
Woche.
Linus Neumann
Das ist jetzt einmal alles. Also da hast du dann ohne Anzeigen,Pop-Ups und andere Werbeformate keine Weitergabe ihrer Daten an Werbetreibende.Alle Spiegel plus Inhalte inklusive Newsletter und ePaper 5,50 die Woche. 5,48 Euro.
Tim Pritlove
Da jetzt die Frage, wie empfinden wir das?
Linus Neumann
Also 285 Euro im Jahr.
Tim Pritlove
Also ich hab ja, benutzt du zum Beispiel YouTube Premium?
Linus Neumann
Ja, ich bin doch nicht bescheuert. Nein. Warum? Mach ich nicht,ich bezahle doch nicht YouTube.
Tim Pritlove
Warum nicht?
Linus Neumann
Ne, nein. Nein. Kannst vergessen, auf gar keinen Fall. Niemals.
Tim Pritlove
Weil?
Linus Neumann
Weil ich für mein Geld arbeiten gehe Tim und ich gebe das doch nicht irgendwiefür so eine Scheiße aus. Also sorry.
Tim Pritlove
Ich weiß ja nicht, ob du da ab und zu mal vorbeischaust auf dieser Webseite,aber ich tue das eine ganze Menge, also ich bin wirklich heavy User,ich benutze YouTube mehr als jeden Fernsehkanal in Deutschland.
Linus Neumann
Ich habe auch keinen Fernseher insofern.
Tim Pritlove
Aber du weißt ja auch, was man für Fernsehen sozusagen bezahlt.Gut da kriegst du dann trotzdem noch die Werbung um die Ohren.Aber so krieg ich halt für einen halbwegs definierten Preis nahezu jeden relevanten Videocontent.Also nahezu natürlich nicht alles, aber schon sehr viel.Und hab überhaupt gar keine Werbung. Ist okay.Also es ist schwierig jetzt sozusagen diesen Diensten vorzuwerfen,dass sie unangemessen teuer sind, weil am Ende ist es ja auch eine Frage,was ist dir sozusagen die Werbefreiheit auch wert.Werbung sehen und die Daten, die eigenen Daten analysiert und weitergeleitetzu sehen, das sind aber auch nochmal zwei Paar Schuhe, ja ich hätte ja, wir haben,so ein bisschen auch die Nerd Perspektive, ich glaube das hatten wir auch schon mal erwähnt,es gibt so dieses so, oh mein Gott, ihr wollt mir jetzt Werbung zustellen,die voll auf mich zugeschnitten ist, weil sie mein Profil interpretiert unddann genau weiß, was ich jetzt vielleicht als nächstes kaufen möchte.Da gibt's Leute, die sind begeistert davon.
Linus Neumann
Ja gut, aber sorry Tim, das ist jetzt irgendwie so 80s oder irgendwie Anfang 2000er Diskussion.Wir haben ja inzwischen sind wir ein bisschen weiter, als dass Leute sich freuen,dass sie die richtige Werbung bekommen.Also wir haben ja jetzt dann durchaus doch, als auch als Gesellschaft langsamverstanden, dass sich dadurch weitreichende Manipulationsmöglichkeiten ergeben,die auch Anwendungen finden.Ja und es ist nicht nur, klar es mag eine ganze Reihe Menschen geben,wo das Beste, was man aus denen rauskriegt ist, die dazu zu bringen irgendeineScheiße zu kaufen, aber es gibt eben auch noch politische Themen und Sachverhalte.Auch, ich mein, wenn du, wenn du, also ein...Eine Möglichkeit, also ich kann dir mal, wenn ich mal auf YouTube gehe,was ich nicht so häufig mache, ja, also ich gucke auch mal was auf YouTube an,dann kommt da halt irgendwelche Scammer Werbung von irgendwelchen Leuten,die mit irgendwelchen Get rich quick Schemes die Leute abziehen.Ja, wahrscheinlich hast du, also wenn du stattdessen 10 Euro im Monat zahlst dafür,dass dir diese Werbung nicht kommt, dann gibt's halt Leute,die haben diese 10 Euro nicht, die fallen dann auf diese Get-Rich-Quick-Schemesrein und zahlen so ihre Strafe,aber ey, also irgendwie YouTube ist für mich einfach nur ein Video-Hoster,es tut mir leid und ich, wir haben auch hier darüber gesprochen,dass du, du fandst ja auch YouTube innovativ, ich find's nicht innovativ,Aber ich bin auf jeden Fall nicht bereit für deren Dienstleistungen Geld auszugeben.
Tim Pritlove
Ich meine man kann ja auch Werbung und Tracking auch nochmal separat betrachten,das war eigentlich so ein bisschen mein Argument.
Linus Neumann
Jaja, das kann man aber nicht, weil in dem Moment, wo die Werbung nicht mehrzielgerechtet ist, ist sie halt absolut wehrenlos.Also die Neuens für dich ist potenziell die gleiche, aber die Leute,die die Werbung schalten, schalten die Werbung ja, weil sie zielgerichtet ist.Nicht weil sie sagen, voll geil, da haben wir Werbung.Und wir haben ja vor kurzem auch noch darüber gesprochen, dass genau diese Artder Werbung jetzt in unser schönes Podcast-Gallien Einzug erhält.Wo eben die wenigen großen Podcasts oder wo es nur noch wenige große Podcastsgibt, die sich versuchen eigene Kundenstämme und direkte Werbebeziehungen zu erhalten.Und die jetzt auch merken, dass es denen langsam an den Kragen geht,weil große Plattformen ihre Plattformen macht da ausnutzen und jetzt eben dieLeute zum Schalten von Werbung nicht zu ATP gehen,sondern zu Spotify.Und das wird auch so weitergehen, das wird auch diesen ganzen US-Podcast dannfrüher oder später an den Kragen gehen.Bekannte deutsche Podcast sind ja direkt zu Werbevermarktern gegangen.
Tim Pritlove
Was machen wir jetzt, wenn Facebook sagt, naja, also wenn ihr nicht hier zuder Werbung ja sagt und wenn ihr nicht unser Bezahl-Abo habt,dann gibt's für euch kein Facebook. Meinst du, das machen sie?
Linus Neumann
Nee, das ist ja genau der Punkt, dass sie, ja doch klar,das machen die, ja klar, ist dir doch völlig egal, es ist doch klar,dass alle sofort sagen, willst du Facebook gratis mit Werbung oder willst du 10er bezahlen?Meinst du, also den Menschen möchte ich sehen, der dann sagt,voll geil, endlich kann ich für die Dienstleistung von Facebook bezahlen undendlich kann ich meinen Datenschutzgrundgedanken,der mich hier seit vielen Jahren plagt auf dieser Seite, endlich mal zum Ausdruckbringen und sagen, jetzt bin ich glücklich, ihr kriegt dann noch einen Zehner,das wird einfach nicht passieren.Also es ist doch einfach nur ein Einverständnissammelangebot.Wahrscheinlich kannst du Facebook am meisten damit ärgern, wenn du sagst,okay, ich mach das jetzt, ich überweise euch jetzt monatlich einen Zehner,viel Spaß mit der Buchführung.
Tim Pritlove
Meine Frage war eigentlich eher, also sagen wir mal die Europäische Union setztsich jetzt hier durch und beschließt sozusagen,dass Facebook muss die quasi die kostenlose Nutzung ohne Tracking erlauben.Wobei kostenlos können sie ja nicht sagen, aber Facebook müsste sich dann sozusagenentscheiden, nehmen wir von diesen Personen dann Geld?
Linus Neumann
Also gibt es sozusagen… Das hat Facebook sich ja schon entschieden.Also das ist angekündigt, dass sie das tun werden.
Tim Pritlove
Dass sie Geld, dass sie ein Bezahl-Dings haben. Aber die Frage ist,haben sie auch schon angekündigt, dass sie sagen, ja, du kannst auch alles ablehnen.Ohne zu bezahlen.
Linus Neumann
Nein, das brauchst du ja nicht. Also guck mal, in dem Moment,wo sie, also von der, also rechtlich müssen sie dein Einverständnis für dieNutzung dieser Daten zu Werbezwecken und die Weitergabe und so weiter alles haben, ja.Und streng genommen ist es so, dass sie sich dieses Einverständnis gerade garnicht wirklich holen. Zumindest nicht explizit und informiert.Die sagen nur steht in den AGB.Und jetzt wären sie in dem Moment konform, wo sie sich dieses Einverständnis von allen holen würden.Also sie müssen juristisch durch den Schritt mit all ihren Milliarden NutzerInnen,wahrscheinlich hunderte Millionen NutzerInnen in der EU.Dass die sagen, ja, ich erlaube euch meine Daten zu Werbezwecken zu nutzen.So, jetzt hat Facebook eh nicht den besten Rufersdatenschutz und so weiter angehtund da müssen die jetzt einmal durch.Und der einfachste Weg dahin zu kommen, ist für die einfach zu sagen,ey, möchtest du bezahlen oder weiterhin kostenlos?Ja, dann sagst du kostenlos. Dann sag ich, ja dann übrigens dann kommt hier Werbung und so, ne?Und wir geben mal einen Werbepartner und so. Dann sagen die Leute,ja, okay, war ja schon immer so. Alles klar, fertig, weiter geht's.Und das ist halt der einfachste Weg, dieses Einverständnis zu sammeln,ist einfach die Alternative einfach mit Geld zu belasten.Deswegen machen die das mit diesem kostenpflichtigen Angebot.Außerdem dient das kostenpflichtige Angebot dem Zweck, dass sie dann sagen können,wir haben ja ein alternatives Angebot und wir zwingen den Leuten die Werbung nicht auf.Die können ja sagen, sie möchten die nicht haben. Und deswegen haben sie eineinformierte Entscheidung getroffen.Wenn sie das nicht machen, kann aber auch nicht die EU sagen,naja du musst das jetzt kostenlos anbieten.Du kannst ja nicht einfach Leuten sagen, du musst eine Dienstleistung anbieten ohne Geschäftsmodell.Das machen die ja auch nicht. Die sagen, de facto sagt die Europäische Unionoder wollen diese Datenschützer sagen, so wie du das machst darfst du es nichtund dann darfst du die ganze Dienstleistung nicht mehr anbieten.
Tim Pritlove
So und was passiert dann? So wenn Facebook sozusagen wirklich diese Frage dannfragen muss und wenn ich nein sage, sagen sie dann, okay dann darfst du jetzthier nichts mehr benutzen.
Linus Neumann
Du kannst ja nicht nein sagen.
Tim Pritlove
Wieso kann ich nicht nein sagen? Das ist ja hypothetisch. Sagen wir mal es wäre so.Ich logge mich ein und Facebook sagt, ach übrigens, wolltest du eigentlich getracktwerden oder nicht? Ja? Sag ich nö.Was sagt Facebook dann? Sagt sie so, okay.
Linus Neumann
Das ist aber nicht die Frage, die sie dir stellen.
Tim Pritlove
Das Wort hypothetisch. Angenommen man würde sie jetzt rechtlich dazu bringen,dass sie diese Frage stellen.Und würde es dann überhaupt statthaft sein, dass man komplett außen vor seindarf? Also ist das Ausschließen der Benutzer sozusagen zulässig?
Linus Neumann
Okay, also du meinst ob man Facebook zwingen könnte, die Dienstleistung kostenlos anzubieten.Und das ist natürlich nicht so.
Tim Pritlove
Ja, wahrscheinlich nicht.
Linus Neumann
Also genau deswegen machen sie das ja jetzt. Sie werden im Prinzip einfach sagen,du kannst unseren Dienst sonst nicht nutzen.Und dann kommen sie natürlich in gefährliches Eis und deswegen haben alle anderengenau diesen Trick gemacht mit dem, naja okay, du musst das nicht machen.Wir zwingen dich ja gar nicht dazu. Du kannst ja gerne uns Geld geben,dann machen wir das nicht.Und das scheint mir der juristische Trick zu sein, um das zu schaffen.Ich glaube, sonst bist du in der Situation, in der sie jetzt sind,wo sie dir de facto die Möglichkeit nicht geben.Also sicherlich kann nicht die Europäische Union sagen, naja hier,die Dienstleistung, die ihr da macht, mit der ihr Milliarden verdient nebenher,die müsst ihr jetzt einfach ohne Geschäftsmodell weiterhin anbieten,dazu verpflichten wir euch. Das kann ja auch nicht gehen.Das heißt, das Verlangen ist, man braucht eine informierte Zustimmung.Und was im Moment passiert ist, Facebook hat die nicht und zahlt alle paar Monatemal ein paar Millionen Euro Strafe. Ich glaube die letzte Strafe,die sie gezahlt haben, waren irgendwo 300 Millionen oder so.Anfang des Jahres in Irland, ja. 390 Millionen Euro Bußgeld,weil Meta die Daten zu Werbezwecken unzulässig genutzt hat.
Tim Pritlove
Das sind so die sprichwörtlichen Portokasse.
Linus Neumann
Genau, aber natürlich kann man, also wenn die Europäische Union das Geschäftsmodell verbieten würde,also das geht ja nicht, ist ja klar, dass man Facebook nur zu einer legal compliance zwingen kann,zur Einhaltung der Gesetze, Aber man kann sich ja nicht dazu zwingen zu sagen,du musst diese Dienstleistung den Leuten anbieten.Es ist ja noch viel schlimmer, die Leute haben ja die AGBs auch akzeptiert.Es ist nur, dass nach einer neuen Regelung diese Zustimmung explizit erteilt sein muss.Es gibt ja eine Kostenvariante, ist eben der elegante Teil.Fast zu schockierend, wie einfach sich dann auch so ein gesetzlicher Anspruch dann umgehen lässt.Die schreiben einfach an die Nein, die machen im Prinzip an den Nein Button ein Preisschild dran.
Tim Pritlove
Ja so kann man das sehen.
Linus Neumann
Und schon sagen alle ja.
Tim Pritlove
Ja ich bin gespannt wie lange sich das noch halten kann, weil es gibt schonso ein bisschen so einen Trend zu Bezahldiensten und grundsätzlich finde ichdas auch nicht unbedingt verwerflich.Gab's schon so einige Dienste, wo ich mir gewünscht hätte, sie hätten einenordentlichen Bezahldienst eingeführt. Twitter zum Beispiel.Aber, naja, aber keinen ordentlichen. Vor allem haben sie kein Twitter mehrim Angebot. Nur noch Twix.
Linus Neumann
Ja, also da stimme ich dir auch zu, dass ich das...Ich zahle ja für durchaus einiges im Internet.Ich habe aber dann schon auch den Anspruch, dass es dann keine Werbung mehrgibt und deswegen ärgere ich mich zum Beispiel, dass das bei Verlagen eben schonso lange das ständige Geschäftsmodell ist.Ich habe auch zum Beispiel, betrachte ich das erstmal als halbwegs positiv,dass das Software jetzt eben as a service immer mehr oder als Abonnement bereitgestellt wird.Das heißt, es gibt einfach eine bessere Sicherheit für die Entwickler,einen dauerhaften Income Stream dafür,sie können die Zufriedenheit mit ihrer Software relativ schnell messen,sie haben skalierende Effekte, sie haben niedrigere Einstiegshürden in ihreDienstleistung, Adobe ist da natürlich ein super Beispiel.Früher musstest du dir irgendwie auf schwierige Weise Creative Suite Cracksirgendwie holen, um diese paar tausend Euro Software zu nutzen.Heute kannst du dir die für, wenn du es mal wirklich brauchst,für 60 Euro im Monat oder so klicken.Oder lässt dir irgendwie so ein Photoshop Abo für einen Zehner laufen.Das ist schon ganz in Ordnung mit Bezahlmodellen, ja.Da bin ich schon insgesamt ein Freund von, aber ich glaube nicht,dass Facebook, da muss man vielleicht einen Unterschied machen zwischen,jetzt sagen wir mal, nehmen wir jetzt mal Mid Journey, irgendein Discord Ding,die nehmen glaube ich, weiß nicht, was ich da jetzt bezahlt habe,für einen Monat 10, 12 Euro, das werden die im Zweifelsfall bei meiner Nutzung,werden sie an mir Geld verdienen, weil ich das jetzt nicht so oft in Anspruchnehme, ich gucke mir da auch eher gerade an, was die anderen Leute sich da somalen lassen. Und die haben...Die kommen ja nicht so aus dieser massenhaft Verhaltensammel-Geschäftsmodell-Ecke.Ich glaube, wir haben es halt passieren lassen,dass wir überhaupt diese Werbekram zu tolerieren,dass wir uns da diese Monster geschaffen haben, diese Werbenetzwerke und danndie sozialen Netzwerke, die de facto hauptsächlich dafür da waren,uns auf der Seite zu halten.
Tim Pritlove
Dementsprechend hätte das wahrscheinlich auch alles gar nicht früher stattfindenkönnen und auch hier brauchen wir diesen Lernprozess.Und der ist im Bereich Tracking, Datenschutz weiter fortgeschritten als in anderen Bereichen.Klar ist jetzt schon viel in den Brunnen gefallen, aber das ist wahrscheinlichimmer so. Es muss auch immer erst mal richtig wehtun, bevor man auch was dagegenunternimmt, weil das andere läuft so ein bisschen unter ferner Liefen.
Linus Neumann
Besser ist einfach gar nicht bei Facebook zu sein, dann ist mir das schon ganzegal, oder willst du den jetzt auch 10 Euro nehmen?
Tim Pritlove
Da ich jetzt Facebook überhaupt nicht benutze, nicht,also wenn es sich, also sagen wir mal so ein Social Network was mir was bringt,es gibt ja auch Beispiele hier so Xing und LinkedIn und so weiter,die haben ja alle ihre Premium Angebote, die bieten dann halt nochmal mehr an,Keine Ahnung wie das jetzt sich da mit Werbung und Tracking verhält,da hab ich jetzt ehrlich gesagt keinen Einblick.Für mich sind leider auch diese Business Netzwerke nicht sonderlich,also ich benutze die nicht wirklich, hab da so einen Account und krieg die ganzeZeit immer irgendwelche Freundes oder Netzwerk Anfragen und weiß immer nichtwas ich damit anfangen soll,was soll mir das bringen irgendwie.Aber Mehrwert zu bezahlen und der Mehrwert kann ja auch darin bestehen,dass man sozusagen ein anderes Revenue-Modell wählt, weil einem das besser passt so.Deswegen hab ich zum Beispiel mit meinem YouTube-Premium so überhaupt gar keinProblem, weil da bekomme ich einfach genau das, was ich will.Ich zahle da was für, kriege irgendwie unlimited Content und genau null Werbung.Also ich bin immer wieder, wenn mir Leute sagen, ja sie hätten auf YouTube eineWerbung gesehen, dann muss ich innerlich mich immer nochmal kurz aufrechnen,ah ja ja, richtig stimmt ja, die anderen sehen ja Werbung.Weil das für mich schon komplett weg ist. So ist das einfach.Finde ich für mich nicht statt, das ist einfach nicht da.
Linus Neumann
Das ist halt natürlich auch so eine, also da entsteht halt dann,muss man auch leider sagen, natürlich schon so eine Zwei-Klassen-Gesellschaft, ne?Und die hat, das will ich zumindest nochmal hier abschließend anbringen.Es gab halt immer diesen ganzen Wissen und so weiter muss frei sein Gedanken mit diesem Internet.Und der gerät natürlich ins Wanken, aber die lässt sich natürlich auch nichtmehr so sinnvoll aufrechterhalten,wenn man jetzt eben sieht, naja, dass wir eben doch ganz gut beraten sind,vielleicht ein paar bezahlte Journalistinnen und Journalisten zu haben,die nach ordentlichen Standards arbeiten und gute Arbeiten machen und das Feldnicht irgendwie den Schreihälsen auf Twitter und Facebook überlassen wollen.Gleichzeitig sowas wie Paywalls sind natürlich ein Problem und verschärfen sowasnur umso mehr, wenn auf einmal die Qualitätsmedien hinter hier musst du Geldeinwerfen verschwinden.Und es ist auch ein Unterschied, ja, dass jetzt hier der Tim,der kann sich leisten für YouTube zu bezahlen,kann dafür mehr YouTube-Content sehen, sieht weniger beknackte Werbung,das wird dann eben ein Klassenproblem oder ein Einkommensdifferenzierungsding.Was wir ja auch, jetzt haben wir die Android-Freunde bald wieder in den Kommentaren,dabei sehen bei Leuten, die halt sehr viel Geld für Apple-Geräte ausgeben immobilen Bereich und zumindest von der ganzen Reihe Google-Belastungen ausgenommenwerden und für die eine Google-Belastung,die das Gerät hat, kriegt Apple wenigstens ein paar Milliarden.Da freuen wir uns ja dann auch.Wer weiß wie teuer das Telefon sonst wird.
Tim Pritlove
Es ist wirklich eine interessante Diskussion, weil die so viele mögliche Bereichehat, in die man noch reingehen könnte.Also die letzten Jahre haben ja vor allem gezeigt, andere Finanzierungsmodellesind möglich und diese Wege werden auch gegangen.Da ist ja nicht nur das Paywall-Modell oder das Abo-Modell, sondern es gibtja auch die freiwillige Zahlung.Hatten wir jetzt hier schon ausführlich. Wollte jetzt nicht auf unsere Finanzierung hinaus,ist aber im Prinzip ja genau das gleiche, aber so Modelle wie Patreon habenja dann auch für unabhängige Journalisten, zum Beispiel, wo du das gerade mitden Journalisten angesprochen hast, fiel mir das ein, eben auch Revenue-Streams eröffnet.Wie gut das im Einzelnen für die funktioniert, keine Ahnung, weiß ich nicht.Wir sehen nur, dass es eben etwas ist,wo wir in zunehmendem Maße auch so Einzelkämpfer haben zumindest,die unabhängiger von Redaktionen, Zeitschriften und Verlagen agieren können,weil sie quasi direkt berichten.Ich sehe das bei so aufs Ausland fokussierte Journalisten, die sich um Krisengebiete kümmern.Die berichten teilweise einfach in ihrem Blog und glaube nicht,dass die vollständig davon leben können. Aber das spielt zumindest eine Rolle.Und man sieht, dass das sozusagen stattfindet.Patreon wird so schnell nicht weggehen. Und auf der anderen Seite haben wirnatürlich auch Wikipedia.Also auch so ein Spenden Ding. Wikipedia ist bis heute werbungsfrei.Yeah. Super. Finde ich super.Finde ich richtig, richtig gut, dass die da von Anfang an immer das Rückgratgehabt haben zu sagen, wir wollen keine Werbung auf Wikipedia haben,weil wenn wir eine Werbung auf Wikipedia haben, dann ist das das Ende von Wikipediaund das ist absolut richtig.Das wäre der Tod sofort.Da sind wir wahrscheinlich auch noch auf dem Weg in gewisser Hinsicht.Das muss sich auch alles erstmal auskäsen.Zukunft muss noch liefern.
Linus Neumann
Ja, ich glaube man kann natürlich, ich mache da glaube ich auch so einen leichtenUnterschied zwischen, wo ist das Produkt?Und bei diesen sozialen Netzwerken haben wir ja zum Glück gemerkt,dass das einfach ein teuflisches Geschäftsmodell ist und es wird jetzt auchnicht besser dadurch, dass Facebook irgendwie um DSGVO auszutricksen eine Bezahloption einführt.Die sind eh verloren. Also der Laden ist verloren.Und das mit diesem Bezahlmodell ist nur etwas, um die Leute dazu zu bringen,diese Einwilligung zu erteilen, zu einem Geschäftsmodell, was hoffentlich irgendwanneinfach mal erledigt ist.Also das muss einfach mal weg. Oder, also...Zumindest in diesem sozialen Bereich, bei Zugang zu Nachrichten sehe ich dasdann auch wieder ein bisschen anders.Ein bisschen wechselhaft, glaube ich.Na gut.
Tim Pritlove
Kommen wir zu den richtigen Security Problemen.
Linus Neumann
Es gab eine interessante Meldungdie Tage, die in Deutschland gar nicht so großartig behandelt wurde.Und zwar gibt es einen Java-Server-Betreiber unter dem Namen java.ru.Jabba ist so ein Instant-Messaging-Protokoll, das, ja, also wenn du mich fragst,das ist schon alles ein bisschen in die Jahre gekommen.Der CCC betreibt auch Jabba-Server, oder Leute aus dem CCC betreiben Jabba-Server.Das ist so ein altes Instant-Messager-Protokoll.Du kannst auf dem Server sein, du kannst auch Cross-Server kommunizieren, ähnlich wie E-Mail.Bei Java relativ beliebt ist sowas wie OTR, dann noch als Ende-zu-Ende-Verschlüsselung obendrauf.Kann man noch mehr über Java sagen? Also das Protokoll XMPP,ja, ich glaub inzwischen gibt's elegantere Protokolle, aber es hält sich ingewissen Kreisen noch so ein bisschen, oder? Das ist zumindest so ein Standard.Es ist ein föderierter Instant Messaging Standard und das seit bestimmt,keine Ahnung, 20 Jahren oder so?
Tim Pritlove
Ja, gibt es schon lange jetzt. Weiß auch gar nicht, seit wann gibt es Jabber?
Linus Neumann
Also ich glaube schon, dass ich es relativ lange benutze.
Tim Pritlove
Seit 2004 ist es ein Standard.
Linus Neumann
Hätte jetzt auch so 20 Jahre geschätzt.So da gibt es unterschiedliche Anbieter und du kannst dir deinen Java ServerBetreiber natürlich frei wählen.Registrierst dann deinen Account und dann jabberst du eben darüber.Sieht dann am Ende aus wie, also typischerweise benutzt man einen.Ein Client natürlich dafür, ja. Und der sieht dann gerne mal so aus wie,muss man sich so vorstellen wie ICQ, AIM, AOL Instant Messenger.Was waren denn noch so welche?Gab es da noch einen? Die beiden waren das so, ne?
Tim Pritlove
Am Anfang ja, also ICQ war das erste,aus Israel glaube ich und AIM aus Amerika von AOL hat dann sehr schnell diePopularität sogar noch überschritten von ICQ.Und ich glaube ICQ ist auch, ist das irgendwann da eingeflossen?Ich weiß nicht mehr so ganz genau.
Linus Neumann
Genau, aber du hattest einfach, und ich glaube das ist lustig,weil die Leute, ich kenne auch immer noch meine ICQ Nummer.Ja die werde ich jetzt hier nicht sagen, aber ich kenne sie noch.
Tim Pritlove
Ich weiß gar nicht, ob ich die alle hatte, doch ich glaube auch.
Linus Neumann
Ja doch klar, das war ja Irrsinn, dass du da so ein Fensterchen rechts am Bildschirmrandhast und dann immer so, oh oh, was wird denn deine Kumpel schreiben,das war schon irgendwie spitze.Also es war einfach schon eine bessere Integration,als vorher irgendwie mit Bitch-Ex im IRC rumhängen, was allenfalls mal gepiepthat, wenn du dir vorher irgendwie ein Skript für die Funktion geschrieben hastoder so, nee, nee, das war schon...Das war schon ganz gut mit dem ICQ.Und Java, was benutzt man da? Pidgin ist, glaube ich, auf Linux der beliebteClient, auf Mac OS, Ardium, Windows weiß ich nicht, gibt's sicherlich auch.So, jetzt werden diese Java-Server gerne mal benutzt. Ich würde sagen,ist schon in Hacker-Kreisen eher beliebt.Und es hat so ein bisschen, ich glaub, den Vorteil dadurch, dass das einfachnicht so verbreitet ist, aber eigentlich jeder Techie schon irgendwie einenJava-Account hat, hat sich das eigentlich ganz gut gehalten,um da so ein bisschen unter sich zu bleiben.Und jetzt gibt es also einen Java-Serverbetreiber unter der Domain java.ru undxmpp.ru und der hat Server offensichtlich gehostet,was das ist der einzige Teil, den ich an der Story so ein bisschen schwer nachvollziehbar fand.Derzeit ist Server offenbar bei Hetzner und bei Linode stehen.Hetzner ist ein relativ großer Server-Hoster aus und größtenteils auch in Deutschland.Die sind dafür bekannt, relativ günstig zu sein. Zum Beispiel auch dadurch,dass sie jetzt nicht unbedingt Enterprise-Server-Hardware verwenden,sondern auch einfach mal normale Consumer-Festplatten da reinschnacken und dirdadurch halt einen günstigen Server anbieten.Und Linode ist ein US-Anbieter, glaube ich, aber die haben auch offenbar weltweitund auch in Deutschland was stehen.Und dieser Java.ru betreibt also mehrere XMPP-Server, hat da irgendwie ein LoadBalancer davor und irgendwie kriegt der das halt hin.Und jetzt stellte der auf einmal fest, bei der Verbindung zu Java.ru,dass das Zertifikat abgelaufen war. Auf einem seiner Server.Also das TLS-Zertifikat.
Tim Pritlove
Wer stellte das fest?
Linus Neumann
Der Administrator des Servers. Sicherlich auch viele andere,die werden ja auch die Zertifikatswarnung bekommen haben, aber die Geschichtebeginnt mit dem Administrator des Servers.Und dann denkt er sich, hä komisch warum ist denn mein letztes Encrypt-Zertifikat abgelaufen?Also das sind die Verschlüsselungszertifikate, die für das TLS zuständig sind,dafür dass da oben das Schloss im Browser ist. Das habt ihr sicherlich auchschon öfter mal beim Besuch einer Webseite gesehen, dass da manchmal steht, ist abgelaufen.Bei Let's Encrypt laufen die, glaube ich, gerade standardmäßig so nach drei Monaten ab.So und dann denkst du natürlich als Administrator, denkst du,oh komisch, mein Zertifikat ist abgelaufen, normalerweise hast du dein Let'sEncrypt Service so konfiguriert, dass der die automatisch sich erneuert.Da hast du eigentlich so einen Cron-Job laufen, der, was weiß ich,machst halt einmal im Monat oder wenn du sicher gehen willst,einmal die Woche, dass der guckt, ob das Zertifikat noch gültig ist und wenndas so in dem Rahmen ist, wo man mal langsam das verlängern sollte oder einneues ausstellen lassen sollte, holt der sich halt ein neues.So, und wenn du jetzt an deinem eigenen Server eine Zertifikatswarnung kriegst,dann gehst du eigentlich hin und guckst, naja, was hab ich denn da falsch gemacht,worum ist denn mein Zertifikat abgelaufen.Muss auf jeden Fall fixen, weil Leute können gerade nicht darauf zugreifen. So,und in der Untersuchung stellt dieser gute Mann fest, das Zertifikat,was ich da gerade gezeigt kriege und was abgelaufen ist, ist eines,was ich nie ausgestellt habe.Also er findet dieses Zertifikat nicht auf seinem Server.Das ist sehr überraschend und das sollte nicht passieren.Und beobachtet dieses Phänomen eben bei zwei Servern, die sich in Deutschland befinden.Und sieht dann eben über Zertifikats-Transparenzlisten und so weiter,dass es dieses Zertifikat eben, dass es mehrere Zertifikate glaube ich sogar gab,die für seine Server ausgestellt wurden, die er nicht ausgestellt hatte.Und da gibt es ja auch so einen Screenshot in dieser Darstellung,wo er dann sagt, okay, jetzt mache ich mal den Wireshark an,also ich schneide den Netzwerktraffic mit auf meinem Server und den Netzwerktraffic auf meinem Client.Und dann sieht man, dass der Client ein anderes Zertifikat sieht,die Verbindung aber trotzdem beim Server ankommt, nur unter einem anderen Port.Und die verbinden sich völlig problemlos, reden dann auch schön XMPP miteinander,weil alle denken, ist ja super, aber das, was der Client sieht,ist nicht das Zertifikat, was der Server sieht.Und das nennt man eine Machine-in-the-Middle-Attacke.Ja, das heißt, da ist ein Rechner zwischen, der hat ein Zertifikat,damit auch den Schlüssel dafür, und alle Verbindungen, die dort eingehen,leitet der dann weiter an den anderen und bricht dazwischen einmal die Verschlüsselung.Und offenbar war diesem MITM-Rechner, der vor seinem hängt, das Zertifikat jetztoffenbar abgelaufen. Jetzt denkstdu dir, ja, scheiße, Wie kommt der denn überhaupt an dieses Zertifikat?Und eigentlich gibt es nur zwei Wege, wie du dir ein Zertifikat fälschlich ausstellen kannst.Der eine wäre, du musst den DNS-Eintrag manipulieren,sodass Let's Encrypt, wenn es prüft bei der Zertifikatsausstellung,ob du auch die Kontrolle über diese Domain hast, dass du die halt zu dir lenkst.Oder du hast den, der DNS-Eintrag stimmt,den veränderst du auch nicht, aber du kannst das Routing zu dieser IP-Adresseverändern, weil du zum Beispiel derjenige bist, der diese IP-Adresse announceund bis zu sich ins Rechenzentrum routet.Und was hier jetzt offenbar passiert ist und ich bin jetzt so ein bisschen vor,also dieser technische Bericht ist, wenn er nicht wahr ist,sei jetzt ganz vorsichtig, ist der enorm gut gefälscht,weil der perfekt danach aussieht, also genau so würde man es machen und derist in meiner Lesart absolut schlüssig,bis auf die Tatsache, dass der seine Server ausgerechnet bei Hetzner und Linodein Deutschland stehen hat, wenn es Jabber.ru ist.Also, was stellt er fest? Auf seinem Server, der, der diese TLS-Terminierung macht,der hat irgendwann einmal für ein paar Sekunden, für ungefähr 30 Sekunden, 19 Sekunden, am 18.Juli die Internetverbindung verloren. Also seine Netzwerk, seine Netzwerk-Anbindungist runtergegangen und ist wieder hochgegangen und danach hat sich so ein paarDinge an seinem Netzwerk verändert,zum Beispiel kann er andere nicht mehr pingen, die er vorher pingen konnte.Was also potenziell passiert ist, da wurde einfach dieser In The Middle Serverzwischengeschaltet und der hat sich dann,weil er quasi jetzt unter dieser IP-Adresse ist, ein Zertifikat geholt,sich das ausstellen lassen und ab dann kann der ja für dich antworten und derist jetzt einfach davor geschaltet.Und jetzt ist er der Sache auf den Grund gegangen und hat halt Tracing und so weiter,Das zeigt dann auch den Unterschied zwischen unterschiedlichen Linode-Servernin Deutschland und woanders, wie die sich verhalten, wie die Traceroutes aussehenund so. Das ist schon alles ganz ordentlich.Lange Rede kurzer Sinn, sieht danach aus,als hätten sowohl Linode als auch Hetzner hier einen MITM-Angriff auf ihreneigenen Kunden gemacht,das werden die sicherlich nicht von alleine machen und eine Geschichte,die dazu sehr gut passt, wäre, dass es eine Anordnung gab von deutschen Behörden das zu tun, ne?
Tim Pritlove
Deutsche Behörden auf Linode.
Linus Neumann
Linode Server in Deutschland.
Tim Pritlove
Achso, Linode Server in Deutschland. Das ist also ausschließlich auf deutschen Servern passiert.
Linus Neumann
Genau, also der hat einen Hetzner Server in Deutschland und einen Linode Serverin Deutschland und er hat andere Linode Server die nicht in Deutschland stehen, da ist das nicht so.
Tim Pritlove
Das ist ja ein bisschen...
Linus Neumann
Ja, also ich würde jetzt mal so, so wie das jetzt geschildert ist,er sagt also spätestens seit dem 21. Juli bis zum 19.Oktober, potenziell aber seitdem 18. April. Und das betrifft alle XMPP-TLS-Verbindungen auf Port 52.22.Er hatte irgendwie noch Port 52.23, was nicht.Und der Angreifer hat dann eben versäumt, sich ein neues TLS-Zertifikat für sein Proxy zu holen.Und ja, dadurch ist es aufgefallen. Und dann kurz danach,nachdem sie begonnen haben, das zu untersuchen, wo sie auch Tickets an Hetznerund Linnot geschrieben haben und sagten so, hier, da stimmt was nicht mit unserem Server.Die Tickets sind aber auch verschwunden und sie sagen also, zum jetzigen Zeitpunktist das passive Mitschneiden, also ein zusätzlicher Routing-Loop ist immer noch da,bei zumindest einem Server, bei Linode, aber die greifen nicht mehr aktiv einin die Verschlüsselung.Sagt aber auch, klar, das heißt, beide Server wurden nicht gehackt,weil wenn die gehackt worden wären, dann hätte man sich einfach davon die Keysgeholt zu den Zertifikaten und hätte das nicht mehr gebraucht.Und die Netzwerke wurden bei Hetzner und Linnod offenbar spezifisch dafür umkonfiguriert,sodass ihm das nicht so einfach aufgefallen ist.Und jetzt müsste man sich natürlich nochmal anschauen, wie das XMPP-Protokollzum Beispiel die Authentifizierung macht.Also ich glaube nämlich, iJabba,die den der benutzt, das ist schon etwas älteres Software und das könnte sein,dass die gar nicht so großartig alles umgesetzt hat,was man so heute macht, das habe ich mir aber nicht angeschaut,aber ja sieht auf jeden Fall,also es ist eine extrem glaubhafte Geschichte, so würdest du halt einen behördlichangeordneten MITM-Angriff auf einen Jabba-Server machen.Für Leute, die nicht zusätzlich zu ihrem Jabber dann noch OTR oder so machen,würde das dann eben bedeuten, dass da alles, was da stattgefunden hat,erstmal mitgeschnitten werden konnte.Du kannst aber natürlich auch dann in dem.Protokoll-Stream durchaus potenziell feststellen und sagen, okay,dann verfolgst du halt das Protokoll nach und sagst,okay, hier, ich entnehme dem, dass das jetzt gerade eine Kommunikation mit meinerZielperson oder für meine Zielperson ist und dass du dann da zielgerichtet vorgehst. Mh, ja.Aber ich fand's auf jeden Fall spannend.
Tim Pritlove
Ja, Management Summary für alle, die bei all den ganzen Abkürzungen komplett ausgestiegen sind.Es macht so den Eindruck, als ob es bei Hetzner und bei Linode in Deutschlandirgendwie vermutlich vom Unterwissen des Hosters Möglichkeiten gibt,mal eben zumindest für bestimmte Protokolle,wie in diesem Fall mit diesem Java Server, Mal eben kurz die Verbindungen zu hijacken,also die Pakete nicht an den eigentlichen Rechner zu routen,der dafür zuständig ist,sondern etwas in der Mitte, der dann mal eben selber die Zertifikatsverhandlungenführt, die man eigentlich selber führen möchte und sich dann sozusagen dazwischen geschoben hat.Und nachdem das dann aufgefallen ist und nachdem da auch ein paar Support-Ticketsgestartet wurden, dann gab es auf einmal diese auffällige Tätigkeit nicht mehr.Obwohl hier glaube ich noch von so einem kleinen Umweg bei den Hops noch berichtetwird, also ein bisschen mitgeschnitten wird dann trotzdem noch.Aber irgendjemand hat sich dann wohl ein bisschen ertappt gefühlt.
Linus Neumann
Also es könnte echt sein, dass sie dafür das Tool MITM-Proxy benutzt haben undden kannst du halt an und aus machen, ne?Da kannst du halt einfach sagen, ja okay, route mal von hier nach da und lassmal kurz den aktiven Angriff sein, dann fließt das einfach wieder alles durch.Ich frage mich halt, es liegt nahe,dass das ein Angriff von staatlicher Stelle war, ich habe ein paar Vorstellungen,worum der sich vielleicht gedreht hat.Also es gibt Ransomware-Gangs, die vielleicht sich auf sowas,auf solchen Servern rumtreiben.Es gibt, könnte was damit zu tun haben.Also das ist schon, ja, also das ist erstmal eine plausible Schilderung, so was natürlich.Die Sache so ein bisschen ist, den ganzen Server direkt hops zu nehmen ist haltein relativ breiter Zugriff.Jetzt kann man natürlich wieder sagen, damit hätten sie jetzt potenziell erstmalalle Connections dahin mitschneiden können und auch jede Kommunikation.Und wenn die Kommunikation, wenn sie Ende zu Ende verschlüsselt war,dann zumindest immer noch die Metadaten, wer wann mit wem kommuniziert hat undwie viel und wie lange die Pausen und so waren.Das ist schon ein relativ üppiger Zugriff.Bin mal gespannt, ob wir da noch irgendwie was hören von den Ermittlungsergebnissen oder ob,ob der, also das Thema scheint nicht so hochgekocht zu sein,sodass sich jetzt auch nicht so wirklich jemand da, also im Moment ist da glaubeich noch niemand unter, unter Rechtfertigungsdruck.
Tim Pritlove
Ja mal gucken ob das noch kommt.So damit sind wir am Ende der Sendung angekommen.
Linus Neumann
Genau sind wir am Ende der Sendung.
Tim Pritlove
Ist dann doch noch ein bisschen länger geworden.
Linus Neumann
Wenn du unbedingt Facebook kostenlos benutzen willst ohne dich tracken zu lassen.Jetzt steigen wir ein.
Tim Pritlove
Du wolltest mit Log2Netzpolitik immer auf Facebook und ich immer nicht.
Linus Neumann
Wir sind da immer noch, wir sind da, wir haben eine Facebookseite,ich habe irgendeinen automatischen Webdienst, der pastet da jedes Ding hin.
Tim Pritlove
Ach das löschen wir mal, das ist doch Quatsch.
Linus Neumann
Ne da kommentieren auch Leute, lass.
Tim Pritlove
Das ist nicht dein Ernst.
Linus Neumann
Doch ich hab da letztens reingeguckt.
Tim Pritlove
Echt?
Linus Neumann
Hier Facebook.
Tim Pritlove
Wir kommentieren Leute auf Facebook. Das ist das Problem, wenn du auf so einemService präsent bist, aber du bist da eigentlich gar nicht präsent. Was soll denn das?Naja okay gut.
Linus Neumann
Es ist ein Werbe-Netzwerk und wir werben da kostenlos. Was willst du mehr?Guck hier. Hier willst du nicht sehen. Mit deinen Bildern und allem. Die werden da direkt.
Tim Pritlove
Aber okay, das heißt wir werben da, dann könnten wir uns doch auch dafür bezahlenlassen, dass wir nicht werben.Das wäre doch super.
Linus Neumann
Zehn Euro.
Tim Pritlove
Dann hören wir auf auf Facebook zu posten.
Linus Neumann
Da hättest du immer drauf hinweisen können. Bei uns könnt ihr auch zehn Eurozahlen, da hindert euch niemand dran.Und was wir machen ist, bei uns ist es sogar so, wir machen einfach genauso weiter.Das ist doch viel cooler, also Facebook sagt auch, alles genauso wie vorher,aber keine Werbung. Bei uns war nie Werbung, also ist alles genau wie vorher,10 Euro, zack, finde ich einen fairen Deal.Und außerdem könnt ihr ja für uns Werbung machen, das dürft ihr ja nicht vergessen.Das kostet allerdings Geld, für uns Werbung zu machen.Da müsst ihr in unseren Shop gehen, könnt ein T-Shirt kaufen,dann könnt ihr Werbeträger werden für uns.Also ich verstehe warum das andere sich durchgesetzt hat, aber ich finde unseren Ansatz charmanter.
Tim Pritlove
Ja ich auch. Oh Gott ich muss da glaube ich mal ein paar Sachen löschen aufFacebook, das geht alles gar nicht.
Linus Neumann
Oh gibt's da was von dir?
Tim Pritlove
Naja, irgendwelchen Experimenten gibts irgendwie in dem Meta eben,Profil oder wie das heißt, keine Ahnung, da ist natürlich nichts drauf,aber auf Logbuchnetz wirklich ist auch nichts drauf.
Linus Neumann
Ach da kommen hin Leute, du kannst da irgendwo hingehen.
Tim Pritlove
Also wenn ich da drauf gehe, dann kommt da gar nichts. Manage Page,hier kommt auch, was ist das hier?
Linus Neumann
Ne bei mir kommt da, hier prophetisches perfekt, Enkel Trick beim Hackersilber, die Bilder.
Tim Pritlove
Jetzt hab ich das auch, das ist so furchtbar auf diesem Facebook.Grauner. Grauner. Aber das liest doch kein Mensch.
Linus Neumann
Die sind da immer Daumen drunter, hier drei mal gefällt mir.
Tim Pritlove
Was? Tatsache.
Linus Neumann
Sechs mal gefällt mir. Drei. Vier. Aha.
Tim Pritlove
Für die drei Daumennamen machen wir hier irgendwie so eine Präsenz auf die Böse.
Linus Neumann
Machen wir ja nicht, wir machen doch gar nichts, das macht alles irgendein Skript.
Tim Pritlove
Das ist doch eine Ausrede, wir sind doch hier, wir sind doch hier da,wir unterstützen doch dieses ausbeuterische System durch unsere Präsenz.Wieso kriegt man das eigentlich bei Facebook nicht um die Ohren,warum muss man sich das immer nur bei Twitter vorwerfen lassen?
Linus Neumann
Weiß ich nicht.
Tim Pritlove
Das ist alles ungerecht.Aber ich tendiere dazu Sachen einfach zu löschen, wenn ich die nicht wirklich brauche und benutze.
Linus Neumann
Deswegen willst du ja auch nur ein Iphone mit 256 Gig.
Tim Pritlove
Ja das reicht mir auch.
Linus Neumann
Echt so wenig?
Tim Pritlove
Ja der Rest ist in der Cloud.
Linus Neumann
Dann brauchen wir das ja nicht mehr.Das ist, ne klar, das kann ich verstehen. Dann brauchen wir ja keinen eigenenSpeicherplatz mehr, wenn das.
Tim Pritlove
Gut, zum Abschluss noch ein bisschen Propaganda aus China und wir hören unsdann nächste Woche wieder, nehme ich mal an.
Linus Neumann
Vielleicht bis dahin mehr passiert, dann müssen wir nicht so die Auseinandersetzungmit Belanglosigkeiten hier so in die Länge ziehen.Belanglosigkeit. Super Feedback. Achso, ja Feedback schon.
Tim Pritlove
Feedback schon, aber die anderen Themen. Man muss auch diese Diskussion führen,ich glaub das ist auch für uns gut, also für mich zumindest,dass man das einfach mal so ein bisschen quetscht und einfach mal ein paar Aspekte sieht.Gerade bei diesem KI Thema sind wir noch lange nicht mit durch.
Linus Neumann
Ne, meinst du das setzt sich durch? Meinst du da werden wir nochmal drüber sprechen müssen?
Tim Pritlove
Ich hab so den Anflug einer Vermutung auf jeden Fall. Jetzt machen wir aber erstmal tschüss hier.Leute bis später. Macht's gut.
Linus Neumann
Bis denn. Ciao ciao.

Shownotes

Prolog

Feedback

Intro-Experimente

Jank: Deep Learning vs Machine Learning

ML Bruteforce

Menschliches Wissen steht der KI im Weg

KI-Regulierung

Micro-Targeting durch Ylva Johansson

Google lässt sich #1 was kosten

Meta: Personalisierte Werbung

Jabber.ru MITM

Bonus Track

LNP473 Enkeltrick beim Hacker-Silberrücken

Feedback — Künstliche Intelligenz — Chatkontrolle — Ylva Johannson — noch mehr Künstliche Intelligenz — NFTs

Heute müssen wir mal wieder ein wenig ausholen und aus verschiedenen internen und externen Gründen reden wir ausführlich über technische Details von und politische Überlegungen zur Künstlichen Intelligenz. Der Teil ist dann etwas länger geworden, aber was soll's. Dazu noch ein paar gut aussehende Nachrichten von der Chatkontrolle, bei der jetzt vom Europäischen Parlament ein ganz passabler Kompromiss vorgelegt wurde und jetzt in die Trilog-Abschlussverhandlungen geht.

avatar
Linus Neumann
avatar
Tim Pritlove

Für diese Episode von Logbuch:Netzpolitik liegt auch ein vollständiges Transkript mit Zeitmarken und Sprecheridentifikation vor.

Bitte beachten: das Transkript wurde automatisiert erzeugt und wurde nicht nachträglich gegengelesen oder korrigiert. Dieser Prozess ist nicht sonderlich genau und das Ergebnis enthält daher mit Sicherheit eine Reihe von Fehlern. Im Zweifel gilt immer das in der Sendung aufgezeichnete gesprochene Wort. Formate: HTML, WEBVTT.


Transkript
Tim Pritlove
Guten Morgen, Linus.
Linus Neumann
Guten Morgen, Tim.
Tim Pritlove
Hast du mitbekommen? Die Telekom gibt Deutschland in Sachen Digitalisierung eine 5.
Linus Neumann
Von 100.
Tim Pritlove
Ja hier ist der schwarze Kanal, da du es nicht kanntest, dachte ich mir überrascheich dich mal mit einem ganz anderen Intro, so fing das nämlich immer an,das kannst du nicht machen, warum?Man muss unerwartete Dinge tun, das ist wichtig, jetzt bist du total überrannt,ich hab dir nicht Bescheid gesagt, ich hab dich nicht mal gewarnt,jetzt kommt jetzt gleich noch Sendungsgäst Jan Fleischhauer oder so was.
Linus Neumann
Boah, sowas kannst du ja nicht mit mir machen ey.
Tim Pritlove
Geht's dir dann schlecht oder was? Naja ich meine so leitet man halt die richtigePropaganda ein, so klingt das dann ne.Mit unseren vergeblichen Versuchen hier die Netzpolitik irgendwie positiv wohin zu führen.Da musst du richtig schön knallhart hier die Methoden des Propagandaministeriumsübernehmen. Da fängt er schon mal mit einem guten Intro an.
Linus Neumann
Also da bin ich ja mal gespannt auf die Kommentare.
Tim Pritlove
Warum?
Linus Neumann
Die Leute wissen jetzt überhaupt nicht in welchem Podcast sie sind.
Tim Pritlove
Wir können ja auch nochmal das richtige Intro spielen.
Linus Neumann
Ich bitte darum.
Tim Pritlove
Logbuch Netzpolitik Nummer 473 vom, was haben wir denn heute? 26. Oktober 2023.Und ich hab Lilos schön auf den linken Fuß erwischt das Freund.
Linus Neumann
Aber jetzt kann ich wieder, jetzt kann ich podcasten.
Tim Pritlove
Jetzt bist du drin, wenn die Musik stimmt, dann können wir da voll loslegen.
Linus Neumann
Tim Höttges, ich kannte das nicht, du hast den Link jetzt in den Schaum.Tim Höttges hat Deutschland eine 5 gegeben. Er meint Schulnote 5.
Tim Pritlove
Also quasi.
Linus Neumann
Und was ich sehr schön finde ist, also Tim Höttges ist der CEO der DeutschenTelekom, er gibt Deutschland in Sachen Digitalisierung eine Note 5.Im EU-weiten Vergleich hinke Deutschland hinterher. Das hat er richtig festgestellt.Nur einen Bereich nimmt er von seiner Kritik aus.Und du denkst halt so, wahrscheinlich die Netze.Und der Witz ist halt zu lame, um den jetzt irgendwie zu twittern.Und dann scrollst du halt runter. Den Netzen gibt Höttges gute Noten,der Telekom noch bessere.Das kommt sehr überraschend, ich hätte mir jetzt gefragt, naja,achso und er rechnet mit einem Tal der Tränen, ja, wo rechnet er denn mit einem Tal der Tränen?
Tim Pritlove
Da kann er mich abholen, da sitze ich schon seit ein paar Jahren.
Linus Neumann
Ich kann dir sagen wo das ist.
Tim Pritlove
Der kleine Internetnutzer möchte gerne aus dem Tal der Tränen abgeholt werden.Wie lange muss ich noch warten bis alles gut ist? Jetzt bieten sie bei mir inder Straße Glasfaser an.Oh echt? Ja Glasfaser und jetzt hier Telekom und so sei dabei und so.Ich klicke so online, so mal gucken. Okay, was habt ihr denn da?Also erstmal Zeitauskunft, ja Ende 24.Super, alles klar, deswegen muss ich jetzt hier irgendwie, die schicken ja wirklichDrückerkolonnen durch die Häuser, völlig nervige Menschen, total anstrengende, wirklich so.
Linus Neumann
So wie wir, die den ganzen Tag nur von Glasfaser reden, Tim, also ganz ehrlich,ich kann mir nicht vorstellen, dass du die jetzt nervig findest,seit ungefähr zwei Jahrzehnten textest du alle voll mit Glasfaser und jetztkommen sie und du bist gemein oder was? Kann ich mir nicht vorstellen.
Tim Pritlove
Also erstmal, naja, also ich hab ja überhaupt gar kein Problem,wenn da irgendwie normale Telekom Mitarbeiter auftauchen.
Linus Neumann
Ich stell mir so vor, guten Tag Herr Pretlaff, wir möchten mit Ihnen über Glasfaserreden. Ich auch, kommen Sie mal rein.Setzen Sie sich, lenen Sie Keks.Du lauerst denen doch auf, du guckst doch am Türspiel und man sieht endlich, komm.
Tim Pritlove
Das Ding ist, Glasfaser ist jetzt sagen wir mal nur ein Codewort,das versucht einem ja irgendwas zu versprechen, nur dann guckst du halt mal drauf,was denn das dahinter steckt und dann ist es so, ja wir haben jetzt irgendwie,lassen ihnen jetzt die Anschlusskosten fürs Haus, ja klar, weil sonst setztsich das ja auch nie durch und dann habe ich genau dieselbe Geschwindigkeit wie vorher auch.Das heißt sie bieten mir nach wie vor diesen asymmetrischen Klemmbadge an mit250 Megabit und irgendwie bisschen weniger hoch,wo ich mir halt nur denke so, ja okay gut das hab ich jetzt auch schon überDSL und außerdem wenn schon brauch ich auch mal ne Aussage was für ein Glasfaseralso wohin, also ins Haus oder in die Wohnung oder was wovon reden wir jetzt.Und außerdem ist das auch preislich alles nicht so attraktiv.Aber Hauptproblem ist, man kriegt da nicht einfach mal einen Gigabit.
Linus Neumann
Doch, du kriegst ein Gig down und ein fünftel Gig ab.
Tim Pritlove
War also zumindest bei mir in der Straße nicht von die Rede oder habe ich irgendwas übersehen?
Linus Neumann
Also angeboten wird 1000 down 200 ab für 80 Euro im Monat.
Tim Pritlove
200?
Linus Neumann
So. Recht. Dann kannst du geschäftlich, gucken was für Geschäftskundentarife,wenn, wird ehrlich sein, da stehen dann einfach nur die Nettopreise und sindfünf Euro weniger oder sowas, aber.
Tim Pritlove
Das Hauptproblem ist ja auch, wir müssen uns ja nicht über Tarifhunde halten,Hauptproblem ist, die haben halt irgendwelche Leute geschickt,die einem wirklich noch auf der Tür, die dann so, ja kann ich bei ihnen malreinkommen und mal gucken und so weiter.
Linus Neumann
Wahrscheinlich einer.
Tim Pritlove
Da war ich kurz davor die Polizei zu rufen, weil das so diese typischen Tricks sind.
Linus Neumann
Hier ist einer der sagt er ist von der Telekom der will rein.Enkeltrick, Enkeltrick.
Tim Pritlove
Naja du lachst aber das sind hier nur mal die Methoden im Prenzlauer Berg,also hier kommen Leute ran und erzählen dir irgendeine Scheiße von Glasfasernur um einmal durch deine Wohnung laufen zu dürfen.
Linus Neumann
Nur um dir den Eindruck zu vermitteln, dass.
Tim Pritlove
Nein um zu gucken was man da klauen kann.
Linus Neumann
Wenn die sagen wir bringen Glasfaser, dann denkst du natürlich,oh guter Mann, bitte bleib hier, komm rein. Ja ja, nee natürlich.Das ist der Enkeltrick beim Hackersilberrücken.Wir bringen Glasfaser.
Tim Pritlove
Ja, ja, ja, ja, aber mit mir war da nichts zu machen.Auf jeden Fall Note 5 für Deutschland, das ist also wirklich eine sehr optimistische Sicht der Dinge,also ich glaube, ich gebe Herrn Höttges noch insofern halbwegs recht,Ja als das jetzt die netze an sich jetzt nicht unbedingt das kernproblem sind.Da gibt es zwar auch eine menge zu meckern ja also da würde ich dann auch sagen wir mal da ist dann.Das ist eigentlich eine 5 ok, aber der Rest ist halt 6.
Linus Neumann
Das ist genau, das ist völlig ok, wenn er sagt hier, pass auf Deutschland 6, Netze 5.Germany one point.
Tim Pritlove
Aber es ist auch nicht jetzt primär seine Schuld.Auch, aber das Problem ist ja ein gesamtgesellschaftliches,weil wir einfach als Gesamtgesellschaft nicht verstanden haben was wir eigentlichhaben wollen und was wir eigentlich zertifizieren wollen und dementsprechendmacht es die Politik nicht und die Gesellschaft führt auch nicht die Leute mal auf die richtige Spur.
Linus Neumann
So die ganzen vergleiche die angezogen werden sindeinfach falsch und es halt einfach es geht nicht voranund ja und man muss man muss schonsagen dass tim hüttges jetzt in diesem bereich natürlich informiert ist internationalinformiert ist und grundsätzlich erstmal in der lage ist auch hier eine eineschulnot zu erteilen und da halt man muss ihm auch punkte dafür geben dass er.In seinem Optimismus und in seiner Strahlkraft hier eine positive Note gibt,ja, mit Potenzial, die noch ein bisschen Potenzial beinhaltet,die nicht so vernichtend ist, wie die Note, die man eigentlich verdient hat.Insofern kann man dem Mann hier nix vorwerfen. Und dass er sein eigenes Produktnatürlich dann noch besser darstellen muss, entstammt seiner Rolle.Insofern alles gut. Er hat ja, er ist halt ein Optimist.Er sagt, wir kriegen eine 5 und vor uns steht ein Tal der Tränen.Das ist ein hoffnungsloser Optimist. Und so einen brauchen wir auch.Ja, den brauchen wir, wenn wir in diesem Land noch was werden wollen.Insofern, danke für den Input. Ja, natürlich.Ja, was willst du denn sonst dazu sagen?
Tim Pritlove
Ich bleibe bei meiner ursprünglichen Einschätzung, wann das Problem überwunden wird.Und du weißt ja, wann es so weit ist.
Linus Neumann
Was auch in dem Artikel steht, in den USA wurden bei der deutschen Telekom-TochterT-Mobile derweil zuletzt 5000 Stellen gestrichen.Sie sollen von künstlicher Intelligenz ersetzt werden.Ne unter anderem von Kürzlich-Herz-Tickets, da kommen wir gleich noch zu.Das meinte er also mit all der Tränen, ich schmeiß euch alle raus.
Tim Pritlove
So zu Beginn eine schöne Nachricht, weil ich hatte ein bisschen Langeweile unddann kam irgendwie Chat-GPT und meinte so ey hier komm,im selben Dialog kannst du jetzt hier auch Bilder machen und ich hab's ja eigentlichgar nicht so mit Bildern.Aber dann habe ich mal so ein bisschen meine Prompttechniken geflext.
Linus Neumann
Ja und hast du gut gemacht.
Tim Pritlove
Und hab mal so ein paar Bilder erzeugen lassen, da habe ich schon länger soden Glauben gehabt, dass wir da hinkommen.Ich weiß noch, wann haben wir angefangen? Von einem Jahr ungefähr muss es gewesen sein?Da hast du deine ersten, mit Stable Diffusion, und da hatten wir noch so diePhase mit irgendwie sechs Finger an der Hand und irgendwie alles sah noch soein bisschen aus wie aus einem Horror-Movie.
Linus Neumann
Und dafür war es Open Source und bei mir selber berechnet.
Tim Pritlove
Alles in Ordnung, aber ich wollte nur darauf hinaus, dass mittlerweile danndiese Technologie doch binnen Jahresfrist so einen krassen Sprung nach vornegemacht hat und auch da werden wir noch drüber reden.Auf jeden Fall kann jetzt sogar so ein Vogel wie ich so Bilder erzeugen, die korrekt aussehen.
Linus Neumann
Ich hab kürzlich auch, um im Rahmen eines Vortrags nochmal so ein bisschen das nachzuzeichnen,hab ich dann endlich, das hab ich vorher nie benutzt, mit Journey,dieses irgendwie über Discord und dann muss er chatten, ey was für ein Interface,aber er hat sofort gesagt, ok nehmt mein Geld, ich will weitermachen.Das ist ein wirkliches Rabbit Hole, was du da reinschreibst und es ist auchwirklich krass dir einfach nur anzugucken.
Tim Pritlove
Kannst du mal den Prozess kurz anreißen weil ich hab das selber nie so hundertprozentig verstanden.
Linus Neumann
Du musst in irgendeinen Discord Kanal und dannirgendwie 85 mal klicken dann hast du bezahlt oder so keine Ahnung und danngibt es irgendwie in diesem Discord Kanal gibt es dann Gruppen die heißen Noobiesund da schicken die dich dann erstmal hin ja und in diesen Noobies Gruppen bistdu eigentlich in einer halbwegs sortierten Gruppe mit irgendwie,Warte, ich mach das jetzt mal ganz kurz. Willst du ein paar Leuten drin?Und dann ist das so ein bisschen wie IC, dieses Discord.Also du musst dann irgendwie in diesem Fall sagen slash imagine.Damit sprichst du den Mid-Journey-Bot an, wenn du in so einem Kanal bist,wo der jetzt ist. Ja, was eben in diesen Nubi-Kanälen so ist.Und dann sagst du Discord Update, meine Güte. So Mid-Journey.Das sieht eigentlich aus wie Microsoft Teams. Du bist jetzt hier in so unterschiedlichen Tenants.Und jetzt bin ich hier in dem Mid-Journey-Tenant und sag, alles klar,hier Nubi-Room hast du nicht gesehen.Raute Nubis heißt der, wie halt früher auch schön im IRC.Und da ist jetzt zum Beispiel einer gerade die ganze Zeit dabei,der will offenbar Monster machen. Der will Monster malen. Und der schickt jetzthalt einen prompt an diesen Mid-Journey-Bot nach dem anderen,und dann malt er den Monster.Der will jetzt hier in blau aus. Und dann in der Antwort kriegst du dann vierBilder erst mal. Und dann hast du zwei Möglichkeiten, Upscale und Vary.Ja, also eins, zwei, drei, vier. Und dann hast du U1, also Upscale,dann kriegst du das Bild in größere Auflösung.Oder Vary und dann sagst du ihm halt so, das ist schon in die richtige Richtung,variier das mal bitte weiter.Und ja, sowas, was natürlich auch nochmal superflashig ist, ist,dass da Leute halt in allen möglichen Sprachen die Proms reingießen, ne?Weil das Ding ja außerdem noch alle Sprachen kann.Und was sehr schön ist bei Midjourney, während dieser Bot da so bastelt,zeigt der dir die Phasen, wie das Bild entsteht.Also irgendwie so 15 Prozent, 46 Prozent.Und dann schärft sich so dieses Bild vor dir. Also es ist schon ganz geil. Ja.Und was mir aber auch aufgefallen ist, weil jetzt gibt's ja das große ThemaPrompt Engineer. Wer ist Prompt Engineer?Also wer kann am besten Prompts schreiben für diese Dinger, wo dann die geilstenBilder dabei rauskommen.Und meine Skills sind da eingeschränkt. Also da kommt häufig,sag ich mal, zeig das Bild nicht unbedingt das, was ich haben wollte.Ich habe zum Beispiel gesagt, mal mal bitte eine Katze, mal mal bitte ein neuronalesNetz, was gerade lernt, wie eine Katze aussieht.Und dann habe ich aber eine Katze mit einem neuronalen Netz drin bekommen.Sieht geil aus, aber ist halt nicht das, was ich wollte. Und was ich...Habe ich auch runtergeladen.Einhörner sind hier beliebt. Und was ich aber dann irgendwann gemerkt habe,wenn du guckst, wie die Leute die Prompts schreiben, und das ist auch völlig klar.Der ursprüngliche Lerndatensatz für diese Dinger ist ja das Internet und das,wie dort Bilder beschrieben werden.Und viele Bilder im Internet werden einfach überhaupt nicht beschrieben.Einige werden beschrieben. Und die werden entweder beschrieben,weil sich Menschen über das Old-Tech darüber Gedanken machen, über Accessibility.Aber du weißt auch genau, wofür die meisten Bilder beschrieben werden oder vonwem die meisten Bilder beschrieben werden im Internet.Von den SEO Spackos. Von den Leuten, die für Search Engine Optimization zuständig sind.Und wenn du einfach möglichst viele Wörter aneinander reißt,dann kriegst du halt das Bild. Und das ist mir irgendwie aufgefallen.Irgendwie so, was ist das denn hier? Zum Beispiel,also natürlich geht das noch weiter,also Midjourney ist inzwischen besser, da kannst du dann auch irgendwelche Leute,die Extremely Detailed Image, Athens in 250 BC, Image from above,Houses, Roads, Temples, White Marble, UHD, 64K, dann können die jetzt irgendwann16 zu 9 angeben und solche Sachen.Aber Änne scheinen, wenn du jetzt einfach Komma getrennt Bildinhalte wiedergibst, dann sind die da am ehesten drin.Und ich erkläre mir das damit, dass das im Prinzip, wer hätte das gedacht,man hat eigentlich gedacht so okay.Mit mit mit mit dieser Gen AI sind jetzt endlich diese ganzen Google Füttererarbeitslos, aber die sprechen halt die Sprache von denen haben diese Gen AIgelernt und die werden jetzt Prompt Engineer.
Tim Pritlove
Ich sagte ja PVC Fitting Klebemuffe Rohrverbinder Rohrschlauch Klebefittingzum Verkleben Qualität aus Europa.
Linus Neumann
So hast du das mal malen lassen? Ja ne?
Tim Pritlove
Das ist in der Tat eins wo ich zu kämpfen hatte.
Linus Neumann
Oh, das widerspricht ja jetzt an meiner These.
Tim Pritlove
Also ich bin an Midjourney ein bisschen vorbeigeschrammt, mir war das ein bisschen zu viel,ich weiß nicht, irgendwie hat mich das nicht so mitgezogen und erst so richtigin den Sog bin ich jetzt gekommen,nachdem bei JetJPT das DOLL I3 innerhalb von JetJPT freigeschaltet wurde undwenn man da sozusagen für bezahlt was ich tue, dann war das quasi damit drin.Dann dachte ich so okay alles klar damit kann ich jetzt irgendwie umgehen,mach das jetzt einfach mal. Es war mehr so ein nochmal den Zeh nochmal tieferins Wasser rein mal gucken ob das Wasser mittlerweile, die Temperatur das letzteMal war es mir einfach zu kalt.Und ja, dann hab ich ein paar Tipps auch,die ich so in letzter Zeit schon aufgelesen habe,aus verschiedenen AI Newslettern und es gibt ja auch auf den Chatkanälen derWelt gibt es ja auch mittlerweile eine Menge Leute, die da interessante Tippsgeben, ja und dann hab ich da so einen Pfad gewählt, der tatsächlich ganz gut war.Und angefangen habe ich, da möchtest du wahrscheinlich jetzt mal drauf schauenmit dem Bild für die letzte Freakshow.Das dürfte dir sehr gut gefallen. Da brauchst du nochmal kurz die Webseite aufrufen.Die Sendung hieß Computer im Regen und...
Linus Neumann
Ja gut, das ist natürlich einfach.
Tim Pritlove
Ne das ist gar nicht so einfach.Weil wenn ich jetzt sage mach mir mal einen Mainframe Computer im Regen,also im Regen gar kein Problem.Aber die Computer sahen alle aus wie so 80er Jahre, Homecomputer,Apple 2, Atari, weißte Keyboard mit CRT Bildschirm.Und weil einfach die Wahrnehmung, also selbst wenn ich sage alter Computer,das ist ja heutzutage so zu sagen, so und Mainframe ist natürlich auch sehr schwierig.Und dann kam sowas bei raus. Und mit der Methode war ich schon mal sehr erfolgreich.Also gerade wenn man etwas well-known reproduzieren möchte, würde ich den Weg nehmen.Bei den anderen Sachen, dann hab ich halt irgendwann auch mit Logbuch angefangen,hab mal so für die letzten, weiß gar nicht, zehn Sendungen oder so,einfach mal angefangen Bilder zu erzeugen.Das war auch ganz interessant. Das ging teilweise ganz gut, teilweise war es schwierig.Also manche Sachen waren wirklich sehr einfach und manche Sachen waren extrem schwierig.Zum Beispiel an diesem Wodka Red Bull, bis ich da irgendwie...
Linus Neumann
Das ist aber ein super Bild! Das ist ja ein Hammer Bild!
Tim Pritlove
Ja, das ist super, aber das waren dann auch wirklich 5, 6, 7,8 Anläufe, die ich gebraucht habe.
Linus Neumann
Ah, dann musst du das schon nochmal selber, ja. Pass auf, aber mach mal deinenSignet kurz auf. Ich hab dir nämlich PVC-Fitting Klebemuffe,PVC-U-Muffe, Rohrverbinder, Rohrschlauchklebefitting zum Verkleben Qualitätaus Europa mal von Midgerty malen lassen.
Tim Pritlove
Hast du gesehen? Siehst du? Oh, nicht schlecht!
Linus Neumann
Verstehst du jetzt warum ich glaube, dass ich da on to something bin?Das ist halt einfach ein PVC-Fitting Klebemuffel,PVC-U-Muffel, Rohrverbinderrohrschlauch Klebemuffel zum Verkleben Qualität aus Europa,das ist es einfach und ich hab direkt vier, so und jetzt kann ich nämlich,so jetzt kann ich sagen ich möchte, die dritte ist ganz gut,sollen wir die dritte abscallen oder nochmal Varianten machen?
Tim Pritlove
Ich weiß ja nicht worauf du jetzt hinaus willst.
Linus Neumann
Na dein Qualität aus Europa Bild ist ja nicht so gut, ich finde ja hier,ich möchte ein paar Variationen von der 3.
Tim Pritlove
Kannst du es dann auch gleich in 16 zu 9 machen, kannst du das auch sagen?
Linus Neumann
Ja da gibt's irgendwie Leute die machen das.
Tim Pritlove
Naja um das vielleicht kurz zu Ende zu bringen, ich hab dann auf jeden Fallso ein bisschen rumexperimentiert und dann irgendwann tief in der Nacht aufgehört,nachdem ich einige Ergebnisse hatte und ja also das funktioniert ganz gut undvor allem ist es ja eine perfekte Paarung die Kultur lustige Podcast Titel zu wählen.Und diese AI-Sache zusammen. Weil als es dann nämlich auf so Sachen ging wieGenerationsflüchtling, da kommst du jetzt mit SEO nicht weit.
Linus Neumann
Ja, da hast du aber auch ein sehr schönes Bild gemacht.
Tim Pritlove
Ja, und wie bin ich da hingekommen? Da hab ich folgende Methode gewählt.Da hab ich ja wirklich explizit gesagt, ich möchte gerne den Begriff Generationsflüchtling.Das hab ich genau geschrieben, warte mal. Kannste ja auch nochmal abrufen hier.Ich hab im Prinzip immer so ein ähnliches Konzept gemacht.Also ich möchte gerne mit Dali 3 ein Bild erzeugen, das möglichst abstrakt denBegriff Generationsflüchtling erklärt und hab dann noch ein bisschen was dazu geschrieben,so was für mich so die Aspekte sind, sodass man so ein bisschen sich irgendwiein seiner eigenen Generation nicht so wohl fühlt und mehr so den anderen zu,der anderen Generation zugehörig fühlt und so weiter, insbesondere im Hinblickauf Technologie, das war dann schon mal ein Fehler.Dann kam dann halt so diese klassischen, ja alter Mann sitzt an der Bushaltestelleund benutzt irgendwie eine VR Brille und sein Smartphone alles gleichzeitig,während daneben noch irgendwie auf Papier notiert wird und so weiter.Das war mir dann irgendwie zu Stereotyp.Und dann musste ich dann halt auch noch so ein bisschen selber Kreativität reinbringenund das ist halt eher so ein bisschen abstrakt malen zu lassen.Also man muss da schon in so einen kreativen Prozess reingehen, gar keine Frage.Und das merken wir uns vielleicht auch gleich nochmal für die Diskussion des Themas.Ich werde aber bestimmt jetzt nicht für alle Sendungen Bilder machen.Also falls ihr da draußen im Prompt Engineering auch gut unterwegs seid,könnt ihr euch gerne mal befleißigen.Bevorzugt hätte ich allerdings Vorschläge in 16 zu 9 Format.Ich hab jetzt ein paar Quadrate gemacht.
Linus Neumann
16 zu 9 hier ichhabe jetzt vier varianten moment ja live on air hier vier varianten das istalso tatsächlich habe ich pvc fitting klebemuffer pvc umuffer rohrverbänderrohrstoch klebe fitting super kleben qualität aus europa minus minus a r 16zu 9 ok linus aber dir ist schon aufgefallen dass ich für die sendung schonein bild habe Ja, aber das ist nicht gut.Du hast gerade gesagt, wenn man ein besseres machen will, kann.
Tim Pritlove
Und ich hab jetzt ein besseres. Okay, ich sag dir mal, was die Probleme da waren.Also ich wollte eigentlich etwas haben, was so ein bisschen aussieht wie soein Gütesiegel, was man auf so eine Produktpackung mit drauf klebt.Also einfach so ein this book will change your life Sticker als Qualität aus Europa,da war das Problem, dass Dolly ganz schlecht ist mit Text,also du sagst halt schreib das drauf aber das steht dann da nicht drauf und so weiter,also so Text konkret, das klappt manchmal und manchmal klappt es überhaupt nichtund am besten kommt man weg, weg mit dem Text mach was anderes,mach irgendwie ne europäische Karte drauf, nimm Sterne und so weiter. Und...Irgendwie bin ich dann versandet und das was da jetzt klebt,also dieses, ich find das eigentlich ganz hübsch so mit dem Europa und den Blümchenund so weiter, also das ist ganz nett. Es sagt halt Qualität aus Europa.So heißt ja die Sendung, die heißt ja nicht Klebemuffe, die heißt ja Qualitätaus Europa und das muss ja zum Ausdruck gebracht werden, finde ich.Also mit der Klebemuffe alleine kommst du jetzt hier nicht voran.Da muss schon Europa auch.Qualität muss da drin sein. Deswegen hab ich gedacht Gütesiegel.Naja und so weiter. Also man muss sich da ein bisschen was einfallen lassen.Ich nehme dankend Prompts oder fertig gerenderte Bilder entgegen.Mal gucken wenn sich da viele engagieren wollen müssen wir vielleicht noch einDokument aufmachen, das koordiniert bekommen aber mal schauen.Vielleicht bin ich auch der einzige der sich dieses Themas ernsthaft annimmt.
Linus Neumann
Also Twitter ist weg und die Leute jammern nicht mehr so viel.Die hängen den ganzen Tag auf Dolly und mit Journey Rom und lassen sich irgendwas malen.Wir machen mal einen Link in die Shownotes.Aber ich hab dir auf jeden Fall jetzt schon mal einfach die Lösung zur PVC-Fitting-Klebemuffe,PVC-U-Muffe, Rohrverbinder-Schlauchklebefitting, Zum Verkleben Qualität ausEuropa habe ich die jetzt schon mal geschickt. Da bin ich mir ganz sicher.Da ist auch Europa mit drin.Ja mit gelb und blau und das ist, ja das ist das.
Tim Pritlove
Das sehe ich jetzt noch nicht so ganz die Qualität. Also ich sehe Schläucheund Muffen und Fittinger.
Linus Neumann
Und haben die keine Qualität aus Europa?
Tim Pritlove
Wo ist da der europäische Aspekt bitte?
Linus Neumann
Gelb blau, gelb blau überall gelb blau.
Tim Pritlove
Naja da ist auch rot.
Linus Neumann
Ja dann sag, dann gibts in deinem Chat die Bitte und sag du willst das rote, gelb, blau haben.
Tim Pritlove
Ja aber gelb, blau ist Ukraine, nicht Europa. Also das ist goldene Sterne, Sterne, Sterne.Also du siehst schon, es ist alles ein bisschen aufwendiger,aber ich bin mir sicher wir werden das noch vorantreiben.Mal gucken was wir für einen schönen Titel für diese Sendung finden.Diese Sendung geht dann auf jeden Fall auch mit einem hübschen 16 zu 9 Bild drauf.
Linus Neumann
Ne, dieser Sendungstitel ist Enkeltrick beim Hacker Silberrunden.
Tim Pritlove
Das wissen wir noch nicht. Ich weiß das schon. Ja das weißt du, was weißt du denn schon?Das wird am Ende demokratisch entschieden bei uns. So sieht's aus.
Linus Neumann
Red du mal weiter, nächstes Thema, ich lass schon mal hier ein Episodenbild malen.
Tim Pritlove
Nimm mir doch nicht meinen Job weg. Immer musst du alles besser machen.So, okay, soviel zum Housekeeping. Feedback? Ja, wir hatten einiges Feedback,ich greif mal nur ein paar Sachen raus. Und zwar zum Moodle One Hack schreibt SM Langer.Also ich glaube ihr habt den guten Herrn Dieter Müller völlig falsch verstanden.Für mich hat er sich eindeutig dafür ausgebrochen, dass der Staat endlich Unternehmenfür Sicherheitsvorfälle gegenüber ihren betroffenen Kunden direkt haftbar machen sollte.Denn damit würde der Staat ganz klar seiner Hoheitsaufgabe gerecht werden sicherzustellen,dass das Schutzniveau gegen Cyberangriffe steigt. Stimmt. Schöne Anmerkung,lassen das mal so stehen.Und zu deiner Feststellung, das ist sicher bei dem, wie hieß das Auto noch gleich, was du da?Der Pontiac Aztek, ich fand den ja gar nicht so schlimm, um ehrlich zu sein.Auf jeden Fall haben sowohl Blubb als auch Stefan wesentlich in den selben Kommentar abgesetzt.Ich vermische mal beide zu einem. Rein zur Thematik hässlicher Autos,die einem nicht aus dem Kopf gehen, empfehle ich Linus eine Suche nach Fiat Multipla.An sich gar kein so schlechtes Fahrzeug, aber optisch sehr speziell. Und das stimmt.
Linus Neumann
Der Fiat Multipla, ja, für den hat Michael Schumacher geworben.
Tim Pritlove
Ist das nicht dein Ernst?
Linus Neumann
Doch klar.
Tim Pritlove
Echt?
Linus Neumann
Ja. Und dann hat er nämlich in der Werbung drei Stühle nebeneinander gesetzt,weil der Fiat Multipla hatte drei Sitz vorne.Der hast du vorne zu dritt gesetzt.
Tim Pritlove
Ach so.
Linus Neumann
Keine Sau weiß warum, aber als ich einmal zu dritt im Fiat Multipla gefahrenbin, war das auf jeden Fall witzig.Muss keiner hinten sitzen. Ja, aber es geht halt bis drei.
Tim Pritlove
Aber da ist wirklich die Ästhetik, als die Ästhetik da eingezogen ist,hat irgendjemand hinten nochmaleine Tür aufgemacht und dann ist es gleich wieder raus aus der Halle.Das hat leider nicht funktioniert. Das stimmt, das ist wirklich,also da ist dieser Aztec ja wirklich geil dagegen.Also dieser Multipla geht überhaupt nicht. Ehrlich gesagt, Fiat Multipla siehtaus, als wäre das so aus Mid-Journey rausgefallen, aber du hast irgendwie nochnicht die richtigen SEO-Begriffe benutzt.
Linus Neumann
Welches Modell guckst du denn jetzt?Achso, ich habe gerade einen gefunden, aber das war ein April-Scherz von Autobuild,ich habe nämlich jetzt einen modernen gesehen, ich dachte, die hätten sich ernsthaftnochmal dazu herabgelassen, den nochmal neu aufzusetzen.Fiat will den Multipler neu auflegen, diese Schlagzeile ist am Video und Artikelwar der Autobild April Scherz.
Tim Pritlove
Ja das nimmt dir echt keiner ab.
Linus Neumann
Aber schon mal gut oder? Aber haben sie auch gut gemacht, also wer auch immer den da gerendert hat.
Tim Pritlove
Weißt du was ich meine? Der sieht wirklich aus wie so ein KI-Unfall.Als hätte man so ein Auto in das andere so reingesteckt und irgendwie die falscheAnzahl von Scheinwerfern und so,also sogar der Rückspiegel sieht komisch aus, also ich bin ja ein großer Freund praktischer Autos.
Linus Neumann
Da ist der Multipla was für dich? Und die Sache ist doch, pass auf,es ist ganz einfach, ich muss so viel Multipla sitzen.
Tim Pritlove
Nicht ohne Liebe, also da muss schon auch der Gestaltung.
Linus Neumann
Das siehst du doch nicht, wenn du da drin bist. Ist doch egal. Du sitzt doch da drin.
Tim Pritlove
Ich spüre das mit geschlossenen Augen.
Linus Neumann
Du sitzt mit drei Leuten da vorne und lachst wie Schrott, die anderen gucken.
Tim Pritlove
Ich spüre das mit geschlossenen Augen.
Linus Neumann
Du spürst einfach die Blicke.
Tim Pritlove
Na gut, soviel dazu. Dann gibt es eine Ankündigung für die Jahresendveranstaltung, den 37.Chaos Communication Kongress, haben wir schon angekündigt, aka 37.Chaos Communication Kongress, 37c3 sagen wir.
Linus Neumann
Sagen wir, ja.
Tim Pritlove
Seit dem 16 c3 sagen wir das übrigens.Ist der Tom draufgekommen. Vorher war es einfach der 15. Chaos Communication Kongress.Und mit dem 16. C3, da saß ich mit Tom irgendwie zusammen und wir grübeltendie ganze Zeit nach einem Motto und uns fiel ums verrecken nichts ein und danngab es so einen Moment der Stille und dann drehte er auf einmal seinen Laptopoder Computerbildschirm,ich weiß nicht mehr ganz genau, was es damals war, zu mir.
Linus Neumann
Damals konnte man Computerbildschirme nicht einfach drehen.
Tim Pritlove
Doch, ich hatte so ein iMac G4 und wie geil, den konnte man noch nicht drehen.Klar, das war der auf diesem Teleskop, den konntest du super drehen. Ach der? Die Lampe.
Linus Neumann
Der Lampen.
Tim Pritlove
Ja, der Lampen iMac, ganz großartiger Computer. Aber ich glaube,welches Jahr war denn das? 1999, da hatten wir schon Laptops.Also ich glaube es war ein Laptop, ist ja auch vollkommen egal,auf jeden Fall zeigte er mir diesen Entwurf.Und da stand einfach nur 16 c3 drauf und das war so ein freeze moment das warso ein ja wir wissen in dieser mikrosekunde sofort das wird das ist es und dashat auch Potenzial zu bleiben und was ist wir kündigen den 37 c3 an.So, aber den haben wir ja eigentlich schon angekündigt.Was es jetzt gibt ist der Call for, was heißt denn das P in diesem Jahr?
Linus Neumann
Participation.
Tim Pritlove
Willst du da was zu sagen?
Linus Neumann
Ja es gibt einen, also auf dem,Call for Proposals kann man das ja auch nennen,also es gibt ja bei dem Kongress Vorträge und diese Vorträge werden von unterschiedlichenTeams kuratiert, die sich,einem Track zugehörig fühlen, also einem thematischen Bereich,und in einem Content-Team zusammen sich organisieren.Zum Beispiel zu klären, wie viele Slots haben wir für jeden Track.Ist hier vielleicht eine Einreichung, die potenziell in einem anderen Trackist? Was man so an Austausch vielleicht untereinander braucht?Fragen für einen. Es gibt dann auch noch den Track CCC, wo einige Vorträge danndrin landen können und so weiter und so fort.Und der CFP ruft quasi dazu auf, Einreichungen zu machen. Der CFP geht bis zum11. November, 23.59 Uhr ist Einreichungsende. Bis zum 3.Dezember gibt es dann die Benachrichtigung über angenommene Vorträge.Und vom 27. bis 30. Dezember findet der 37.Chaos Communication Congress statt. Die Tracks, also die Themenbereiche,die da behandelt werden in alphabetischer Reihenfolge, sind Art & Beauty.Da geht es also um den Bereich, du kannst mit einem Computer Kunst und Schönheit schaffen.Alles, was also im künstlerischen Bereich ist. Zum Beispiel,wenn Tim und ich hier mal einfach ein bisschen Dolly mit Journey,da haben wir bestimmt keine Chance, dort angenommen zu werden.Dann gibt es den Bereich Ethics, Politics und Society, der also die gesellschaftlichen,ethischen und politischen Aspekte im weitesten Sinne von Technik und Digitalisierung behandelt.Da wären dann vielleicht so was wie Vorträgezum Thema Chatkontrolle oder KI-Regulierung oder sonstigen Dingen.Willkommen. Außerdem ist das informelle Track-Motto dieses Jahr Resignation ist langweilig.Es geht also immer um zukunftsweisende, optimistisch stimmende Ideen und Berichte.Muss auch nicht unbedingt alles irgendwie Netzpolitik oder IT sein.Aktivismus im weitesten Sinne ist da auch gerne gesehen.Dann gibt es den Track Hardware, der sich mit dem kreativen Umgang und der Entwicklungvon Objekten auseinandersetzt, allem, was einen physischen Eindruck hinterlässt.Schöpfen, Textilien, Musikinstrumente, Roboter, was auch immer ihr baut.Flug- und Weltraumfluggeräte.Allerdings Elon Musk rechne ich da jetzt keine großen Chancen aus,dass er angenommen wird, aber ihr versteht's. Dann gibt's den Track Science,wo es sich im weitesten oder im völlig klaren Sinne um wissenschaftliche Einreichungen handelt.Forschungszentren, Universitäten, irgendwas Geiles, was Wissenschaft schafftund interessant ist, ist da willkommen.Im Track Security geht es also um IT Security.Natürlich traditionell einer der großen Tracks, also mit vielen Themen und vielenEinreichungen beim Hacker Kongress.Der andere sehr große Track ist PolSoc, also Ethics, Politics and Society,in dem ich übrigens üblicherweise immer mitgeholfen habe bei der Auswahl desProgramms, so die letzten zehn Jahre oder so.Und dieses Jahr bin ich eben im Bereich Security.Wollte mal was anderes machen.Also geht es natürlich um Netzwerke, Betriebssystem, Web, Speicher,Fehlverwaltung, Krypto.Am schönsten natürlich einfach Dinge, wo irgendwas kaputt gemacht wurde unddann repariert wurde. Der Reparierenteil ist ja immer der Wichtige.Und dann haben wir häufig so...Sag mal, nicht notwendigerweise dauerhafte Tracks. Ja, wir hatten ja zum Beispielmal Philosophie als Motto, wo wir uns immer noch mal einen weiteren Themen Schwerpunkt setzen.Und den gibt es dieses Jahr in Sustainability and Climate Justice.Das sind natürlich Bereiche, die im Prinzip ja in Science oder in Polsok genausogern gesehen und willkommen sind.Aber um quasi zu sagen, hier, wir haben für diese Themen ein eigenes Stück Kuchenim Programmbereich vorgesehen, gibt es dann natürlich noch diesen Track.Also alles, was alle die Ideen zur Bekämpfung der sozial-ökologischen Krise vorstellen möchten.Klimakrise und Gerechtigkeit, Lösungen für eine nachhaltige und gerechte Weltentwickeln, da möchten wir in dem Track Einreichung haben. Ja,und ich glaube, damit habe ich jetzt auch wirklich alles gesagt,dass wir freuen uns auf Einreichungen.Vor allem auf qualitativ hochwertige Einreichungen.
Tim Pritlove
Also der CCC freut sich. Also wir freuen uns vielleicht auch.
Linus Neumann
Hinter jedem dieser Track gibt es dann ein eigenes Team, was diese Auswahl trifft.Der CCC freut sich. Ich bin ja ein Mitglied eines Teams. Ich freue mich da auchdrauf. Aber ja, am Ende wahrscheinlich auch die Besucherinnen und Besucher der Veranstaltung.
Tim Pritlove
Ja, ich bin in keinem Team, aber ich freue mich auch, wenn ihr das macht.
Linus Neumann
Sogar der Tim freut sich.
Tim Pritlove
Muss immer nur klar machen, was wir ist, ne?
Linus Neumann
So, macht ordentliche Einreichungen. Und bitte, was ich sehr wichtig finde beiEinreichungen ist, wir benutzen ein etwas in die Jahre gekommenes System,du kennst es Tim, den FRAP.Es wäre sehr wichtig bei eurer Einreichung so als Tipp, wenn ihr so ein bisschenvielleicht klar macht, so Worum geht's hier?Warum ist das wichtig? Warum ist dieser Vortrag besonders? Ja,oder zum Beispiel, warum bin vielleicht genau ich diejenige Person?Oder welches Wissen habe ich als Person, was mich jetzt ausgerechnet zu diesem Thema qualifiziert?Die Vorträge werden betrachtet, ohne Berücksichtigung der Personen,also wir gucken auf die Inhalte, das heißt, wir werden jetzt auch nicht jede Person googeln,das heißt, wenn ihr, was weiß ich, Forschungsdirektorin bei einem Biotech-Unternehmen seid,könnt ihr das ruhig noch mit erwähnen, damit wir wissen,dass das mit der Impfung gegen Krebs dann jetzt wirklich euer Durchbruch istund ihr nicht aus irgendeiner ESO-Bude kommt.Also bewerbt da euren Vortrag. Ihr habt eine harte Konkurrenz und es ist schön,wenn ihr den Vortrag den Leuten schmackhaft macht, weil wir je nach Trackteammussten da halt, weiß ich nicht, ein paar hundert Einreichungen angeschaut werdenund das geschieht natürlich auch mit einer notwendigen Geschwindigkeit.Also werbt für eure Vorträge. Alright. Wo reichst du ein, Tim?
Tim Pritlove
Ich hatte nicht vor irgendwas einzureichen.
Linus Neumann
Ich hab vor was einzureichen, aber das ist auch genau das Problem,dass ich eigentlich gerne was in Security eingereicht hätte,was jetzt irgendwie schwierig wird.Nein, auch dafür haben wir natürlich Lösungen, wenn Leute, die auch im TrackTeam oder Content Team sind, einreichen, dann müssen die den Raum verlassen.Und dann sind sie natürlich aufgrund der Bekanntschaft mit dem Team einer nochgrößeren, einer noch schwereren Kritik und Bewertung ausgesetzt als normale Einrechner.
Tim Pritlove
Ja, ich habe nichts zu erzählen.
Linus Neumann
Du erzählst ja auch den ganzen Tag. Du hast ja irgendwie weiß ich wie vielePodcasts. Ich habe gesehen über Logbuch Netzpolitik hast du jetzt so einen Werbebanner,so einen Bannertausch Ding gemacht.Da kann man mal sehen was du den ganzen Tag erzählst. Wundert mich ja nicht,dass du nichts mehr zu erzählen hast.CRE, Freakshow, Logbuch, Netzpolitik, Raumzeit, UKW,Forschergeist, pausierte Podcast, archivierte Podcast, Serien-Podcaster bist du.
Tim Pritlove
Ja gut, aber ich meine da, also Vorträge, ich halte gerne Vorträge,aber ich halte gerne Vorträge, also generell.Ich möchte mich eigentlich immer nur dann mit irgendetwas zu Wort melden,wenn ich da auch was beizutragen habe.
Linus Neumann
Möchtest du jetzt sagen, das wäre nicht der Fall bei mir?
Tim Pritlove
Nein, das wollte ich damit nicht sagen. Ich wollte nur erklären,warum ich nicht vorhabe,irgendwas einzureichen, weil ich derzeit gar kein Thema habe,wo ich wie nennenswert Erkenntnisse gesammelt hätte, die es sich speziell auchin der Community des Kongresses zu teilen lohnen würde.
Linus Neumann
Dieser Maßstab ehrt dich Tim. Dieser Maßstab ehrt dich.Ja als jemand der jetzt lange genug Content gemacht hat, kann ich sagen dieserMaßstab ehrt dich. Also dich ja erstmal zu fragen ob du was interessantes zuerzählen hast und dann ob du auf die Bühne des CCC Kongress muss,das ehrt dich. Das ist mein Leitmotiv.
Tim Pritlove
Ich hab Leute die machen das andersrum. Wenn man nix beizutragen hat,einfach mal die Fresse halten.
Linus Neumann
Ey nicht die da nur zitieren.
Tim Pritlove
Ich weiß nicht wen ich da zitiert habe, aber das ist jetzt auf jeden Fall nicht falsch.
Linus Neumann
Ja das könnte der Dieter Nusich auch mal zu Herzen nehmen. Wahrscheinlich.
Tim Pritlove
Ne ich denke das ist sogar eine, ist auch glaube ich so eine,wie nennt man das, so eine Lebenserfahrung.Man möchte ja gerne, wenn man sich äußert, möchte man ja auch gerne,dass die Leute einen wahrnehmen.Es gibt ja so Dampfplauderer, die legen keinen großen Wert da drauf.Ich hab nur den Eindruck, als ob sie keinen großen Wert darauf legen,ob sie überhaupt noch wahrgenommen werden. Hauptsache sie reden,hauptsache sie drücken, ja in der U-Bahn, aber nicht nur in der U-Bahn,das hab ich schon überall erlebt.
Linus Neumann
Oder deine Glasfaserhändler.
Tim Pritlove
Naja du weißt schon was ich meine. Leute die einfach die ganze Zeit so den Dranghaben Leute mit irgendwelchen Informationen oder auch nur Worten einzuregnen,aber den entscheidenden Fehler machen, das Ding ist ja, man will ja eigentlicham Ende, also alle heischen ja nach Anerkennung.Man will ja geliebt werden, man will Anerkennung haben und man möchte gernerelevant sein, man möchte gerne irgendwie eine Bedeutung in seiner Peergrouperlangen dadurch, dass man irgendetwas interessantes tut.Und manche reden aber auch einfach nur und machen dabei, selbst wenn sie waszu teilen haben, was wirklich interessant wäre, oft den Fehler,dass sie es einfach hoffnungslos übertreiben und das Schlimmste ist, sie hören nicht zu.Weil das ist wirklich ein entscheidender Punkt bei der ganzen Kommunikation,wenn man gehört werden möchte, wenn man verstanden werden möchte und wenn manvielleicht auch eine gewisse Anerkennung bekommen möchte,dann ist es sehr, sehr gut erstmal in Zeit zu investieren,anderen Leuten zuzuhören, weil wenn andere Leute merken,dass ihnen zugehört wird, dann A, bemerken sie das,B, finden sie das auch gut und C, sind dann auch bereit einem selbst zuzuhörenwenn man denn dann dran ist so und da das richtige Timing zu finden ist sicherlichnicht immer einfach aber ist auf jeden fall ein guter Ansatz.
Linus Neumann
Und deswegen sollen die Leute erstmal Logonetzpartikulieren.
Tim Pritlove
Deine Schlussfolgerung, meine Kernerkenntnisse, mein Leben, ich kann ja auchnicht so viel aber das habe ich verstanden.
Linus Neumann
Und das ist auch super gut und es ist es ist finde ich auch tatsächlich geradeerfreulich dass wir so ein bisschen darüber reden weil das sind ja,Das ist ja ein schmaler Grad mit dem CCC-Kongress. Das ist eine,international wahrgenommene Veranstaltung mit entsprechender kleiner Anzahlan sehr einflussreichen Vorträgen.Und wir möchten natürlich auch einerseits das bewahren.Wir möchten, dass viele geile High-Quality-Vorträge da eingereicht werden.Oder Groundbreaking. Wir möchten aber natürlich genauso, dass unsere Community zur Sprache kommt.Dass zum Beispiel gute Vorträge gehalten werden.Man kann ja auch einen guten Vortrag halten, der nicht, was weiß ich,Tagesschau-Seite 1 ist oder so. Tagesschau hat gar keine. Tagesschau Meldung 1 ist.Und in dieser Ansprache finde ich das immer sehr schwer, weil man einerseitsnatürlich auch, man möchte ein paar Leute wirklich, ich bin ganz ehrlich, wegschicken.Von denen will man keine Vorträge haben. Man will auch keine Einreichung von denen haben,weil die sich auf den Kongress bewerben, weil sie vielleicht irgendein Produktbewerben wollen oder sowas,weil sie irgendwie einfach Irgendeinen Quatsch einrechnen oder es gibt auch Leute,die reichen dann so sechs Vorträge ein, das ist vorsichtig gesagt so,wenn du da sechs Vorträge einreichst, musst du dir die Frage gefallen lassen,ob das denn, wie das denn sein kann, dass du ausgerechnet zu sechs Themen jetztausgerechnet die beste Speakerin bist, ne.Da bin ich halt irgendwie, bin ich so ein bisschen fröhlicher,wenn jemand einen Vortrag einreicht und denkt mir, okay, super,damit hat sich diese Person jetzt ein Jahr befasst und das möchte sie jetzt hier wieder geben, ne?Sowas gibt's ja alles, aber ich finde es genauso schwer, Leute zu entmutigen,diese Einreichungen zu machen, wie Leute übermäßig zu ermutigen,weil beides führt zu einem schlechteren Programm, ne?Also wenn wir, oder zu mehr Arbeit zumindest, wenn jetzt irgendwie viele Leute mit,die nix zu sagen haben, sagen, ach geil, da kann ich ja auch mal einreichen,dann wirst du potenziell mit weniger relevanten Dingen überflutet,triffst eventuell schlechtere Entscheidungen und wenn du jetzt irgendwie sagst,reicht nicht ein, reicht nicht ein, dann passiert dir das nämlich sehr sehrschnell, dass du Menschen, die vielleicht wirklich was cooles zu erzählen haben,aber vielleicht ein bisschen Stagefright haben, Lampenfieber haben oder.
Tim Pritlove
Selber das gar nicht für so toll halten was sie machen.
Linus Neumann
Das gar nicht für so toll halten was sie da machen, weil das machen sie ja nur,also so toll kann das ja nicht sein, weil machen sie ja.Und deswegen finde ich das sehr schwer darüber zu sprechen, deswegen sage ichso, bitte, bitte, bitte bringt einfach gar keinen Scheiß mit und der Rest ist egal.
Tim Pritlove
Ja. Naja, müsst ihr selber wissen.
Linus Neumann
Und zugehört habt ihr uns ja jetzt genug und jetzt seid ihr dran.
Tim Pritlove
Ja da passiert was. Da passiert was.
Linus Neumann
Es ist ja ein Krimi den wir hier beobachten. Es ist der Krimi um das Internet.Und weiterhin ist das Ding im Rat. Der Rat hat seine Abstimmung ja jetzt schon zweimal verschoben.Wir haben ja auch schon gesagt, die Mitgliedstaaten sind gespalten,Deutschland soll dagegen sein, Spanien dafür und jetzt müssen die irgendwiegucken und jetzt kommen die daalle und machen wir jetzt was und dann hier Hütchentrick, dann Abstimmung.Und jetzt fällt aus dem Ausschuss für bürgerliche Freiheiten,dem Liebe-Ausschuss, wo das ja alles diskutiert wird, gerade so ein Kompromissvorschlag raus, ja.Und der sieht so aus, es darf überhaupt nur noch bei begründetem Verdacht einScanning von Kommunikationsinhalten stattfinden und begründeter Verdacht darfsich eben beziehen auf eine Person oder eine Gruppe,aber nicht auf alle Nutzenden.Wir haben ja im ursprünglichen Chat-Kontroller-Ansatz so eine Idee,wenn die Plattform geeignet ist, dass da viel Material getauscht wird,dann kann das für die Plattform angeordnet werden und dann sind alle betroffen.Das soll nach diesem Vorschlag nicht mehr sein. Das heißt, diese Technologie,die ihr haben wollt, ist klar, was auch immer für eine Bilderkennung und Scanning,nur bei begründetem Verdacht bei Personen oder Gruppen. Gruppen.Ja, zum Beispiel irgendwelche faschistischen Polizisten oder so.Aber das wäre jetzt nur so ein Vorschlag, wenn man das mal ausweiten möchte.Also es muss eine benannte Person oder Personengruppe sein. Dann ein kompletterAusschluss von Scanning von Ende zu Ende verschlüsselter Kommunikation.Also damit auch kein Kleinst-Side-Scanning. Wenn du jetzt irgendwie Three-Mile-SignalAlles was Ende zu Ende verschlüsselt ist, bleibt unangetastet.Und dann gab es ja noch andere Aspekte in dieser Chat-Kontrolle-Gesetzgebung,die immer so ein bisschen hinten rausfallen in der Diskussion über Client-Side-Scanning.Es soll keine verpflichtende Alt-Cast-Kontrolle mehr geben, außer bei Pornoseitenund Computerspielen, die Kommunikationsmöglichkeiten bieten.Gehen wir erst mal darauf ein,wo, also die, wenn du ein Computerspiel-Kommunikationsmöglichkeit hast,dann sollen da Hilfemöglichkeiten angeboten werden,wenn du irgendwie Betroffene bist, also du bist da in dem Spiel,irgendwie ist was komisch, Kommunikationsmöglichkeit, dann gibt's da irgendwie,dann soll dir weitergeholfen werden, ist ja gar keine so schlechte Idee,dass man die potenziellen Kinder damit nicht alleine lässt oder so.Und bei Pornoseiten, die müssen Altersverifizierung machen, müssen aber sowieso.Und die sollen automatisiert erkennen, wenn Nutzende nach Missbrauchsmaterial suchen.Und dort ist eben die Altersverifikation verpflichtend.Jetzt kommt aber der Punkt, bei der Altersverifikation, da ist ja jetzt dieFrage, wie machen wir die denn?Da wurde ja auch die ganze Zeit drüber diskutiert, weil, was ich mir habe erzählen lassen ist,Wenn man auf diese Pornoseiten geht, Tim, ich weiß nicht, kennst du wahrscheinlichauch nicht so, aber dann soll, so wird mir berichtet, dann steht da im Prinzipso, bist du 18, dann kannst du Ja drücken und dann war das jetzt die Alterskontrolle.Da gibt es jetzt Leute, die klicken, die klicken da potenziell vielleicht drauf,dabei sind die gar nicht 18. Was? Ja.
Tim Pritlove
Die machen falsche Angaben im Internet.
Linus Neumann
Die machen falsche Angaben. Und das machen insbesondere, und das wird dich jetztauch schockieren, Leute unter 18.Die dürfen gar nicht auf die Seiten.
Tim Pritlove
Aber die gehen da trotzdem rein?
Linus Neumann
Die gehen da trotzdem rein.
Tim Pritlove
Indem die einfach auf den falschen Button klicken oder was?
Linus Neumann
Hättest du das immer früher gewusst? Das ist der kleine Tipp im Usenet.
Tim Pritlove
Gibt so Tricks ey, da schaut man nicht drauf.
Linus Neumann
Ja, die Kinder, die sind mit allen Wassern gewaschen. Absolut.
Tim Pritlove
Das ist die Digital Natives. Da zeigt sich das dann.
Linus Neumann
Einfach mal mit so einer Hacker-Mentality, ne? Einfach mal alle Knopfe drückenund gucken, was passiert.Und so, jetzt ist halt die Frage, wie machen wir die Altersverifikation?Da soll aber jetzt gesagt werden, die Daten dürfen über den Verifizierungsprozesshinaus nicht gespeichert werden.Es müssen anonyme Accounts zugelassen werden und man darf keine biometrischenDaten für den Verifizierungsprozess verlangen.Das ist ja dieses auch wirklich völlig absurde,also völlig absurde Vorstellung, die da einige vertreten haben,für die es ja auch eine technische Lösung gibt, dass dann die Kamera angehtund dann irgendein biometrischer Test gemacht wird, ob jetzt da am anderen Endejemand über oder unter 18 Jahre alt ist, was natürlich auch...Das kann ich dir doch jetzt schon sagen. Also die Software, die habe ich dirdoch jetzt schon geschrieben, wo ein KI-Filter dich erstmal so à la Face 10Jahre älter macht und dir dann wieder ein Webcam-Device bereitstellt,was dein Browser sagt. Ja, das bin ich.Und wenn du dann sagen musst, guck mal nach rechts oder nach links,damit das Ding irgendeine Biometrie-Scans macht, das Ding ist doch in 5 Minuten gebaut.Aber okay, viel schlimmer ist natürlich die Idee, Menschen da biometrisch zuerfassen, um ihr Alter zu... Also das war eh Unsinn und deswegen steht hier drin, das gibt's nicht.Jetzt ist aber der Punkt, der das einzige mir zum jetzigen Zeitpunkt bekannteVerfahren, das eine anonyme Alterskontrolle ermöglicht.Also nicht die Daten rausgibt und gleichzeitig aber tatsächlich das Alter. Ist eh ID.Hat halt ne super scheiß User Experience, weil du musst irgendwie deinen Ausweismindestens an ein NFC-Gerät halten,was jetzt so vielleicht bei dem Besuch von Pornoseiten irgendwie vielleichtwas ist, wo die Leute sagen so, wir dürfen die Daten nicht speichern,das ist alles anonym, wir kriegen auch nicht deinen Namen, deswegen brauchenwir jetzt mal deinen Personalausweis.Kann ich mir vorstellen.
Tim Pritlove
Aber das sehen die Leute nicht so.
Linus Neumann
Das sehen die nicht so?
Tim Pritlove
Ne die sehen das nicht, dass das ein anonymer Vorgang ist, wenn du da deinen Schmerz dran hältst.
Linus Neumann
Ja genau, könnte sein, dass die UX jetzt nicht nahelegt, dass das gerade ein anonymer Vorgang ist.Zumal der ja noch mit Strahlen stattfindet, mit Funk.Dann kriegst du irgendwie Hodenkrebs.Also das kann ich mir vorstellen, dass das nochmal schwierig zu vermitteln wird.Aber ok, Alterskontrolle ist ja für uns beide eh kein Problem.Du findest uns das egal.
Tim Pritlove
Nach unten oder nach oben?
Linus Neumann
Nach oben gibt es da bisher noch keine Beschränkungen, Tim, keine Sorge.Nein, nach oben gibt es da keine Beschränkungen, Tim, keine Sorge. Noch nicht.Aber das Problem mit der Alterskontrolle ist ja,dass das in eine Richtung führt,die eben durch, weil es eben sehr schwierig ist,eine Alterskontrolle durchzuführen, die korrekt ist und nicht mit einer Identitätskontrolleverbunden ist, wird dieses Thema ja so heiß diskutiert.Und da jetzt die EU sich ja eigentlich selten Sorgen darüber macht,auch etwas zu fordern, was technisch aktuell nicht möglich ist,zum Beispiel eine KI, die Kindesmissbrauchsdarstellungen erkennt,können sie ja genauso fordern, du darfst die Sachen nicht speichern,du darfst keine biometrischen Daten erheben und du musst das machen.Also ist ja völlig in Ordnung, können ja machen, bleibt ihnen ja unbenommen.Außerdem Netzsperren, die dürfen jetzt nur noch angeordnet werden,wenn dadurch keine sonstigen legalen Inhalte blockiert werden.Und die sollen erst dann in Frage kommen, wenn die Inhalte nicht gelöscht werden konnten.Also die alte Forderung, löschen statt sperren.Die steckt da drin. Also, man könnte...Sich vorstellen, dass jetzt irgendwie ein entsprechendes Material auf einerauf einer Domain gehostet wird, wo auch andere Sachen gehostet werden.Und dann muss also jetzt beispielsweise, es gibt ja tatsächlich Pornoseiten,die auch in der Vergangenheit sehr oft dadurch aufgefallen sind,nicht rechtmäßige Inhalte zu hosten.Insbesondere erinnern wir uns an X-Hamster. Einige erinnern sich wahrscheinlichan den Fall bei verschiedenen Musik-Festivals in Deutschland,wo Filme angefertigt wurden, teilweise von Duschsituationen,teilweise von Toilettensituationen, die dann auf XHamster bereitgestellt wurden,in der Kategorie Voyeur, wo wahrscheinlich eine ganze Menge gestellte voyeuristischeVideos sind und einige wenige, wo Menschen gegen ihren Willen gefilmt wurden,so die Darstellung von XHamster.Jetzt könnte es ja sein, dass ich unter diesen in vielen Videos,die es auf dieser Webseite gibt, Material befindet, was illegal ist,da müsste zunächst die Anstrengung unternommen werden, dass es gelöscht wird,also beispielsweise Betreiber angeschrieben oder oder oder.Und wenn sich dann herausstellt, dass das eben nicht passiert,dann kann man also hier eine Netzsperre anordnen.Das dürfte aber auch Das würde bedeuten, dass das relativ selten vorkommt unddie Behörden müssen das auch nicht anordnen. Es bleibt ihnen freigestellt.Das ist, glaube ich, ganz gut, das heißt für alles, was halbwegs legal ist undsich im normalen Einzugsbereich bezieht,ist das eine Keule, mit der sie drohen können und für alles,was notorisch ist und außerhalb des Einzugsbereichs der Behörden kann man danndiese Netzsperren machen.Klingt jetzt erstmal nach einer ausgewogenen Idee.Ich bin kein Freund von Netzsperren. Es ist auch größtenteils unsinnig,das zu machen, weil solange etwas irgendwo im Internet erreichbar ist,wird es auch weiterhin über VPN oder Tor oder andere DNS-Server immer weiter erreichbar bleiben.Das ist eine unsinnige Maßnahme, aber sie in einen Kontext zu setzen,wo eine ganze Menge Bedingungen vorher erfüllt werden müssen,bevor das jemand anordnen kann, und dann bleibt sie immer noch umgehbar, scheint mir.Nicht meine größte Sorge zu sein. Außerdem wollen die Liebeberichterstatterauch das Scannen nach Grooming rausnehmen.Grooming wäre also, dass die Textinhalte untersucht werden darauf,ob hier potenziell eine erwachsene Person mit einem Kind versucht,eine Anbahnung vorzunehmen.Das steht aber, glaube ich, eher so unter ferner liefen.Und jetzt ist dieser Kompromiss halt vorgestellt worden, der ist aber noch nichtwirklich so verabschiedet worden.Das sieht aber ganz gut danach aus. Und dann gab es jetzt natürlich auch schonrelativ frohlockende Berichterstattung.Zum Beispiel hat Patrick Breyer, der war ja bei uns auch schon in der Sendungzu dem Thema, der hat das Thema vor zwei Jahren, bevor es wirklich auf der Agendawar, schon immer behandelt, ist da als Europaabgeordneter unermüdlich dran.Der hat das jetzt schon, hat da so ein Briefing zugemacht und hat jetzt,also natürlich sind jetzt alle erstmal positiver gestimmt,weil es sich hier um einen Kompromisstext handeln könnte, der,wenn er denn so beschlossen wird, tatsächlich kann man davon sagen,dass dann viele Giftzähne der Chat-Kontrolle-Verordnung gezogen wurden.Aber, wenn der Rat das jetzt beschließt, dann findet ja immer noch der Trilogstatt, in dem dann Ministerrat, Parlament und Kommission sich einigen müssen.
Tim Pritlove
Du meinst, wenn das Parlament das beschließt?
Linus Neumann
Was habe ich gesagt?
Tim Pritlove
Der Rat. Der Rat geht in den Trilog rein, aber das ist ja jetzt von dem Lieberausschuss,das ist sozusagen der Kompromiss des Parlaments.Und das geht dann in den Trilog, wo der Rat mit der Kommission und dem Parlamentund dann eben mit diesem Kompromiss sozusagen kommt das Parlament an und sagt, so hätten wir es gern.
Linus Neumann
Okay, also du hast korrekt.Das ist jetzt ein Kompromiss aus dem Lieberausschuss. Richtig. Alles richtig.
Tim Pritlove
Und der ist im Parlament angesiedelt. Ich weiß das ist alles super verwirrend,aber das kann man an der Stelle schon mal klar machen.
Linus Neumann
Das ist aber auch heilig, weil wir das jedes Mal sagen. Jedes Mal wenn wir eine U-Gesetz geben.
Tim Pritlove
Ist ja auch egal. Also der Lieberausschuss, der hat sozusagen jetzt im Parlamentversucht Kompromiss zu machen, mit dem man in diesen Trilog reingeht.Und ich frage mich halt, wie kommt das dann an?Ich habe den Eindruck gewonnen,dass im Rat relativ viel Widerstand ist von einzelnen Ländern gegenüber denursprünglichen Plänen,sodass da nicht so eine Front ist mit jetzt hauen wir da aber voll drauf,sondern die sehnen sich in gewisser Hinsicht nach einem Kompromiss und dannkönnte das dem schon ziemlich nahe kommen.
Linus Neumann
Genau, dann ist aber natürlich noch die Kommission und das Problem,also der Trilog ist immer so, das ist eigentlich das Gefährlichste, weil dann haben die,wenn da jetzt ein Kompromiss vom Parlament kommt und dann gehen die in den Trilogund dann setzt sich aus irgendwelchen Gründen die Kommission doch nochmal mitirgendeinem Unsinn durch, dann ist das eben so.Ja, das heißt, also dieser Prozessist ja wirklich auch erschwerend und wahrscheinlich wird man irgendwann,wird die KI darüber lachen, was sie hier für einen Quatsch gemacht haben,aber es ist halt zu früh,sich jetzt zu freuen, es geht in eine positive Richtung,aber dieser Trilog ist halt eine relativ gefährliche Angelegenheit und alle,die das jetzt gesehen haben und diesen Prozess längere Zeit beobachten,sagen halt, es ist nicht der Moment,um jetzt in Freudentänze auszubrechen, aber es ist natürlich schon der Moment,um anzuerkennen, dass es hier einen sinnvollen Vorschlag gibt,der nun bitte auch verfolgt werden muss.Aber wenn jetzt quasi die Aufmerksamkeit und der Protest aufhören,weil man denkt, ah ja, okay, gibt jetzt einen Kompromiss, das ist natürlichdie Gefahr, dann kann man sich überlegen, oder kann man befürchten,dass es nochmal irgendwo umgekippt wird und dann keiner mehr hinguckt.Insofern sind alle Verhalten positiv gestimmt, aber...
Tim Pritlove
Man würde sich eigentlich wünschen, dass der Kompromiss im Liebeausschuss nochetwas radikaler diese ursprünglichen Vorschläge ablehnen würde,damit man sagen kann, wir können uns nur in der Mitte treffen, der ungefähr so ist.Weil wenn das jetzt sozusagen deine Verhandlungsbasis ist, kann es noch einbisschen schlimmer werden.Aber ich glaube auch, dass die Einheit im Rat nicht so groß ist und inwiefern die Kommission...Ich bin mir nicht so sicher, ehrlich gesagt, da müsste man mal Gelegenheit vielleichtmal mit irgendeinem der Europapolitiker nochmal drüber sprechen.Ich bin mir nicht so sicher, welchen Einfluss die Kommission wirklich im Trilog hat.Also klar, es sind schon drei Parteien, die dort beteiligt sind,aber ich habe schon immer so den Eindruck gewonnen in den letzten Jahren,dass das so primär ein Battle zwischen Parlament und Rat ist oder kurz gesagtParlament und die europäischen Regierungen.Das ist das, was der Rat ist. Das ist sozusagen die Regierung,die immer sagen, ja in Europa geht ja nichts voran und die beschließen ganz furchtbare Sachen,aber es sind halt die Regierungen selbst, die direkt sozusagen mit ihrer Vertretungim Europarat am Ende in diesen Trilogen durchsetzen, was gemacht werden soll.Und ja, keine Ahnung.Frau Johansson hat sich ja jetzt auch nicht sonderlich mit Ruhm bekleckert indieser ganzen Geschichte. Ich könnte mir vorstellen, dass das sozusagen diePosition der Kommission und in dem Fall ist es ja sie vor allem, geschwächt ist.
Linus Neumann
Also wir haben ja jetzt hier schon behandelt, was sie an welchen Vorwürfen siesich aussetzen musste. Ich finde das auch immer lustig, dass das dann bei Politikern...Also ich habe so ein bisschen das Eindruck, die Leute sind immer so ein bisschenvorsichtig mit einfach mal einem Politiker Korruption vorzuwerfen.Amthor mit seinem, mit diesem, wie hieß der nochmal, Augustus-Intelligence-Scam.Ja, das Ding ist ja jetzt auch inzwischen geplatzt. Dann gab es Lobbying-Vorwürfe gegen den Politiker.Oder hier, Eva Johansson hat irgendwie Lobbyisten bei sich, an dem Ding selberarbeiten. Ja, die sind in den Organisationen, die davon profitieren und dafürkämpfen. Und dann gibt es einen Lobbying-Skandal.Das ist ein Korruptionsskandal in meinen Augen. Aber okay, was dann noch aufgekommenist, das hat man, glaube ich, gar nicht behandelt.Oder ist seit der letzten Sendungnoch dazugekommen. Also über die Verstrickungen haben wir gesprochen,dass sie ihre Mitarbeiter in den Lobbyorganisationen sind für dieses Thema,dass diese Lobbyorganisationen wiederum wirtschaftliche Arme haben,in denen sie die Technologie bauen und nach außen sich aber darstellen,als wären sie irgendwelche Kinderschutzorganisationen. Alles bekannt.Außerdem hat die Johansson auch noch eine Microtargeting-Kampagne gemacht,um für dieses Proposal zu stimmen.Und Microtargeting ist das, dass man sehr detaillierte Zielgruppen auswähltin sozialen Netzwerken, wie zum Beispiel Twitter oder Facebook.Und das ist im Prinzip das, was unter dem Cambridge Analytica Skandal bekanntwurde, der oder die Öffentlichkeit sich endlich mal damit auseinandergesetzt hat, ja.Und der Digital Service Act will eigentlich sowas auch einschränken und verhindern.Das heißt, der EU ist bekannt, dass Microtargeting ein Problem ist,das sie potenziell regulieren, verbieten, einschränken muss.Und die Johansson denkt so, oh ja, Microtarget, das klingt eigentlich genaunach dem, was ich jetzt brauche, um mit meinen Lobbyisten hier zusammen diesesProposal durchzubringen.Das ist ein Fass ohne Boden, diese ganze Chat-Kontrollenummer.Ich find's wirklich irre.
Tim Pritlove
Also nicht nur, dass die EU das beschlossen hat, ja, dass Micro-Targeting einProblem ist, sondern das fällt in ihr Ressort.
Linus Neumann
Ja gut, dass du das nochmal sagst. Deswegen kennt die sich auch damit aus.
Tim Pritlove
Ach was ist das denn hier, das ist ja interessant, das können wir mal ausprobieren.
Linus Neumann
Und da kann ich jetzt hier jet-controlle.Also das ist wirklich ein Skandal. Es ist ein Skandal. Also okay,ein Kompromiss liegt da.Es wäre vor allem, also was natürlich jetzt auch eine Rolle spielt an diesemKompromiss, oder was für mich eine Frage ist an diesem Kompromiss.Ich hab mir schon vor Längerem gedacht, also die Ilva Johansson hat sich natürlichecht weit aus dem Fenster gelehnt. Richtig weit.Und sie musste sich jetzt zu diesen Korruptions- und Lobby-Vorwürfen äußernund sie hat sich da nicht zufriedenstellend geäußert.Sie hat, das ist ihr Stück, ihr Meisterinnenstück, mit dem sie auch aus dieserLegislaturperiode raus will und so, die hat alles auf diese Karte gesetzt.Und ich hatte ja vor allem die große Sorge, dass man die nicht loswerden wird,weil sie alles auf diese Karte gesetzt hat und weil sie da natürlich jetzt aucheinen Sieg braucht, wenn sie das nicht hat. Ihr Name ist so gut damit verbunden.Und natürlich auch der Name vieler anderer, dass sie da jetzt auch irgendwiewas braucht zum Zeigen, sonst hat sie nämlich gar nix zu zeigen.Und dieser Kompromissvorschlag, der da jetzt irgendwie rumgeistert,muss ich ganz ehrlich sagen, ist besser als alles, was ich noch an Optionenüberhaupt realistisch gesehen habe.Weil mir eigentlich klar war, irgendetwas werden die am Ende beschließen müssen,weil das die nichts beschlossen haben.Die will ja nicht dastehen wie der Thierry Breton, der irgendwie ein paar Jahreda redet von seiner Datenmaut fürden Google und jetzt wurde das Ding eingesackt und jetzt hat er gar nix.Jetzt muss er zurück zu seinen ehemaligen Arbeitgebern in der Telco-Branchegehen und sagen, ja scheiße Jungs, habt ihr mich hier installiert,habt ihr gedacht, ich hole euch die große Kohle, hab ich nicht geschafft.Das ist peinlich, das ist peinlich für den jetzt.Und das möchte die Eva Johansson ja nicht.Wenn dieser Kompromiss sich durchsetzt, würde ich sagen,dann sind halt wirklich eine ganze Reihe Giftzähne gezogen worden und das wäre gemessen an dem,was da ursprünglich mal angerollt kam, ein sehr glimpflicher Ausgang mit potenziellsehr geringen Problemen.Aber es gibt halt noch genug Möglichkeiten, da Probleme wieder reinzumogeln.
Tim Pritlove
Ja, guck mal, also ich teile deine Einschätzung, dass das irgendwie besser klingt,als man es hätte jetzt erwarten können und das zeugt natürlich davon,dass hier die europäischen Netzpolitikerinnen gute Arbeit geleistet haben,so habe ich so den Eindruck, auf allen Ebenen,sowohl was den Druck in den eigenen Ländern betrifft, das haben wir in Deutschlandgesehen, vielleicht jetzt nicht ganz so viel Erfolg, aber ich glaube so Länderwie Finnland und so weiter sind glaube ich immer noch sehr dagegen.Bis zum nächsten Mal. Ciao.Ich weiß aber jetzt nicht mehr genau welche das waren, das mag auch so eineTagesform sein, aber dann eben in dem Moment, wo es dann auch in dem Liebeausschussstattfindet, dann ist es ja sozusagen auch im Parlament angekommen.Und das ist ein gutes Zeichen. Siehste, die goldenen Zwanziger,man sieht sie, wenn man den Vorhang ein bisschen mal aufmacht.
Linus Neumann
Ja, genau.
Tim Pritlove
Dann kommen schon erste Lichtstrahlen durch. Was ich… Wahlen in Polen,ich sag dir, also, okay, Wahlen in Slowenien, in Slowakei war wiederum ein Totalausfall,aber zumindest das Polenproblem sind wir jetzt erstmal los für eine Weile.
Linus Neumann
Aber du hast recht, es sieht gerade nach einem glimpflichen Ausgang aus undwir bleiben verhalten positiv,aber gerade so eine Debatte,die kann halt auch sehr schnell sehr gerne schief gehen und potenziell können wir,wenn das jetzt wirklich am Ende nicht schief geht, Können wir uns dann vielleichtrühmen hier einen demokratischen Prozess gesehen zu haben,der am Ende noch der Ratio und der Vernunft zum Tragen verholfen hat.Das haben nicht mehr, das gelingt gerade einigen Demokratien nicht in dem Ausmaß,wie das hier sich potenziell abzeichnen könnte.
Tim Pritlove
Tja, Demokratie kann doch ein bisschen was.
Linus Neumann
Naja, so weit würde ich nicht gehen.Dann haben wir ein Thema.
Tim Pritlove
Ein Jubiläum.
Linus Neumann
Jubiläum?
Tim Pritlove
Ach nee, Entschuldigung. Ich bin in der...
Linus Neumann
Können wir auch erst noch machen. Da fällt mir übrigens ein Kommentar ein,den wir auch hatten, aber ich glaube, irgendwo anders her, deswegen haben wirnicht kommentiert, nicht in der Sendung gegangen. Wir haben uns über gewundertüber Xita als Bezeichnung für Twitter.Erinnerst du dich? Ja. Und das wurde mir, ich glaube auf Mastodon,dass das Xita, das spricht man gar nicht so aus, sondern das kennst du den Präsidenten von China.
Tim Pritlove
Ja, Xi.
Linus Neumann
Und wie spricht man den Namen aus?
Tim Pritlove
Xi, da schreibt man X, I, aber ehrlich gesagt, die Assoziation habe ich jetzt nicht bekommen.
Linus Neumann
Und Xita, ja, das wäre auch jetzt schwer, das zu behaupten, weil wir haben jasehr lange darüber gesprochen und das ist für alle Hörerinnen nachvollziehbar,dass wir diese Assoziation nicht hatten.Deswegen wurden wir auf Mastodon korrigiert, es heißt Chitta,aber man schreibt es mit X.
Tim Pritlove
Überzeugt mich nicht so richtig. Dann soll man lieber Chitta mit SH schreiben,dann ist zumindest klar was gemeint ist.Ich bleib bei Twix.
Linus Neumann
Humorkritik. Nee, ich weiß nicht, wenn wir was falsch aussprechen,fragst du Chetchipiti, was lustiger ist?
Tim Pritlove
Man kann da schon, naja, müssen wir jetzt nicht vertiefen, man kann sich daschon interessante Vorschläge machen lassen, was sowas betrifft.
Linus Neumann
Aber es ist jetzt ein Jahr her, ne?
Tim Pritlove
Genau, das ist ein Jahr her, dass Elon Musk Twitter übernommen hat.Also ich weiß nicht ganz genau, was jetzt das Datum... 28.10.
Linus Neumann
Hat er irgendwie getwittert, der Vogel ist frei oder sowas. Das ist noch zwei Tage dann.
Tim Pritlove
Wo er dann mit seiner Kloschüssel da irgendwie schon ins Haus reingerannt ist?War in den Waschbecken. Waschbecken. Sink.Kloschüssel war das wahrscheinlich. Nee, in den Sink. Der Typ der pinkelt auch ins Waschbecken.Er hat ja in unser Waschbecken gepinkelt.Und ja, es ist scheiße gelaufen, kann man mal echt sagen.Und ich muss auch zugeben, dass ich da am Anfang noch nicht das richtige Maßan Pessimismus am Start hatte.Also es ist deutlich schlimmer geworden als ich dachte und ich hab mich auchehrlich gesagt ein bisschen gewundert,dass er so durchdreht, also dass er auch so eine latente Arschlochnummer,okay gut so, das kennt man ja bei vielen, aber mittlerweile ist er ja zum fullblownNazi und Putin Versteher geworden, da ist ja überhaupt nichts mehr zu retten bei dem Kerl.Also da könnt ihr mal sehen leute geld macht nicht nur nicht glücklich macht doch doof.
Linus Neumann
Deswegen wird er jetzt auch richtig viel davon los also der twitter wert denhat er ja offenbar ganz gut dezimiert die 40 milliarden die er dafür mal hinlegen musste.Die wird er jetzt so so nicht unbedingt wieder bekommen also wenn er jetzt eineanschlussfinanzierung sucht oder so.Ich hab ja, also das ist ja, ich hab ja relativ lange den Typen auch noch mindestensfür so rational gehalten, dass er nicht so blöd sein wird, diese Plattform zu kaufen, ne.Und, also da, da, da, da, da muss ich ja auch dann leider sagen,dass ich ihn überschätzt habe, um nicht zu sagen, dass ich mich einfach,dass ich einfach falsch lag.Aber man steht daneben und staunt, was er macht.Und ich bin auch ganz ehrlich, dass ich das nach wie vor schade finde.Das Ganze jetzt bin ich aber hier auf Blue Sky glücklich oder so,oder auf Mastodon ist viel cooler.Immer noch, das Twitter. Also in der Qualität, in der, es gibt's halt jetzt nicht mehr, ne?In der, und die Auswahl an Timeline und so, die ich da hatte,das habe ich mir einfach über viele Jahre zusammengestellt und über viele Jahreweiterentwickelt, mit mir selber vielleicht auch weiterentwickelt.Und das stelle ich fest, dass das, egal wo mich jetzt Leute hinlocken,nicht so einfach gelingt, das sofort wieder aufzubauen. Es gibt natürlich Möglichkeiten, ja.Und bei Blue Sky, wie du ja auch letztes Mal sagtest, da tummeln sich dann jetztschon relativ viele Twitteraner oder viele Leute, die ich von Twitter kenne.Aber und das ist, das macht man erst einen guten Eindruck vielleicht.Aber das ist jetzt auch weit davon entfernt, mir den Kick wieder zu den fixwieder zu geben von twitter ich habe mein also das positive ist mein socialmedia konsum ist halt absolut im keller.
Tim Pritlove
Das kann auch was gutes sein.
Linus Neumann
Ist positiv.
Tim Pritlove
Ja also ich habe mittlerweile meine meine quellen weitgehend weggezogen vonvon twitter also das was was ich zuletzt auf twitter noch genossen habe kriegeich jetzt tatsächlich über telegram.Naja, weil da die Quellen sind, für die Twitter bisher eigentlich immer nurihre Zweitverwertung war, ne?
Linus Neumann
Achso, jaja, okay, bei dir geht's jetzt spezifisch um deine Ukraine.
Tim Pritlove
Konfliktbeobachter generell sind einfach sehr aktiv gewesen.
Linus Neumann
Jaja, okay, da bist du da natürlich sehr gut.
Tim Pritlove
Und da hat sich aber Telegram mittlerweile als die viel bessere Plattform herausgestellt,weil das einfach nochmal viel besser funktioniert tatsächlich.Also ich bin auch immer wieder erstaunt darüber, wie gut Telegram ist.Ich würde jetzt sogar mal ausrufen, das erfolgreichste Kommunikationsmodell,was das Internet bisher hervorgebracht hat und das jetzt schon seit 30 Jahren, heißt Chat.Chat rules everything.Instant Messenger, Slack und Consorten, diese ganzen Sachen früher schon,IRC und auch in den aller aller aller ersten dunklen Multi-User-Unix-Zeitengab's schon irgendwie einfache Chat-Systeme,die ersten Computer-Mailboxen, da war Chat war immer die Killer-App, immer.Und jetzt sehen wir irgendwie Chat, wir haben schon drüber gesprochen,belebt die KI, es wird zum User Interface, es wird zum News Verteiler,es ist tausend mal besser als so viele andere Sachen, ist wirklich erstaunlich.Aber was ist mit Sprana Tim? Ich weiß nicht was das sein soll.Sprachnachrichten. Ja ne, also man kann auch eine Sprachnachricht in Chat werfen,aber sie ist dann immer noch im Chat.Also die Chat als strukturierendes Element.Ja, Gruppen, persönliche Nachrichten, Timeline, alles steckt da drin in Chat und Chat nimmt es auf.Und Twitter war jetzt schön, wird aber so glaube ich nie wieder kommen,es wird nur in Teilen nachgebildet werden von den anderen Systemen,es wird seine Bedeutung noch haben, es wird da sein, aber in gewisser Hinsichtwar ja auch Twitter, also das war meine ursprüngliche Voraussage,als ich das erste Mal The Power of Twitter gespürt habe, war,das wird der globale Chat.Und ich glaube mit der Einschätzung lag ich jetzt so falsch,nicht unbedingt. Und der globale Chat ist uns jetzt durch Elon Musk genommen worden, so.Also es gibt noch einen globalen Chat aber da unterhalten sich halt jetzt einfachnur noch die Nazis und ob andere Plattformen noch genauso global werden können wie Twitter,weil es sozusagen das einzige System dieser Art war, was nennenswerten Reach hatte, muss ich zeigen.Und es ist ja nicht nur Mastodon und Blue Sky die jetzt hier konkurrieren,es ist vor allem, lungert im Hintergrund ja dieses Threads von Facebook,von Meta, von Zuckerberg.Was ich nicht benutze, was ja offiziell auch in Europa eigentlich nicht in Betriebist, aber vielleicht dann doch irgendwann nochmal kommen wird.Auch irgendwie so ähnlich funktioniert, aber halt diese übliche Schnaßes mitirgendwie ja, dein Instagram Account und dann kannst du das alles wieder nichtlöschen und ist alles ganz furchtbar.Ich hab auch ehrlich gesagt keinen Bock auf Meta, da lieber Meta-Ebene als Meta.Also Twitter ist durch. Das kann man nicht mehr benutzen. Die Software ist scheiße.Jetzt haben sie irgendwie, ich meine es ist schon so lustig,jetzt haben sie ein Video und Audio Chat Feature vorgestellt.Erster Artikel, den ich dazu entdeckt habe ist, X is now rolling out audio andvideo calls. And here is how to turn them off.
Linus Neumann
Das ist wie früher im Netz, die mussten auch jedes mal zu jedem neuen FacebookFeature irgendwie sagen, wo man das wiederabschalten kann und wie man die Datenschutzeinstellung und so. Genau.
Tim Pritlove
Fand ich schon ganz interessant, weil die Leute einfach einen schnauzevoll haben,von nein packt nicht doch irgendwas rein, das ist doch einfach was,das ist wahr, war doch super, war doch super, man.Elon Musk träumt halt davon aus Twitter so ein, wie heißt das nochmal in China?
Linus Neumann
The Everything App, WeChat.
Tim Pritlove
WeChat zu sein, womit man bezahlt und so weiter.Dieses ganze damit bezahlen Ding, das steckt bei denen so dermaßen im Kopf,weil ich meine, wenn du mal guckst, was für Leuten der sich umgibt,das sind ja auch alles so Krypto-Bros.Auch der Vogel der Twitter gestaltet hat, die hängen alle da noch in diesemBitcoin Nirvana fest gedanklich und wollen das auch nicht hergeben. Hauptsache Geld.
Linus Neumann
Ich glaube nicht, dass der da mit Crypto Coins am Ende bezahlen will,sondern dass der wahrscheinlich irgendwie einfach Gebühren nehmen möchte,das ist ein Geschäftsmodell, was ich äußerst einleuchtend finde.Also wenn du dir anschaust, diejenigen die es geschafft haben,Die haben damit ja einfach eine Gelddruckmaschine und die, die es nicht geschaffthaben, versuchen das natürlich trotzdem.Ich meine, gewissermaßen, da hat dann selbst die Luca App gleiche Anspruch wieElon Musk, da streben sie alle nach.Luca App will ja auch irgendwie so ein Payment Ding werden.
Tim Pritlove
Deutsches Schild da, ja. Wir,nehmen irgendwas, wo viele User drauf sind und versuchen da irgendwie eine Bezahl-Appdraus zu machen. Geile Idee, super.
Linus Neumann
Mit russischer Kohle.
Tim Pritlove
Mein Gott, baut doch einfach mal was, was Leuten gefällt.
Linus Neumann
Genau, also erstaunlich. Also erstaunlich, was er da macht. Und es ist ja nicht,also es ist entweder durch einen wirklich übelnden,politisch motivierten Move zu erklären,aber ich habe wirklich den Eindruck, also es mag ja sein, was er machen wird,ist, er verliert halt, das Ding verliert die Relevanz, ne?Und dann ist auch völlig egal, was da für Nazis, was für eine Scheiße reden.Das ist dann egal in dem Moment, weil der wirkliche Wert von Twitter war,dass da eben die Medien lauern auf Neuigkeiten.Und wenn da niemand mehr ist, bei dem die Medien darauf lauern,dass er Neuigkeiten bringt, außer irgendwie Donald Trump oder so,dann ist das Ding halt durch.Und da sieht's gerade ganz gut nach aus. Und das scheint mir dann für das Geld,was Elon Musk sich da geliehen hat, echt scheiße auszusehen.Das ist aber jetzt woanders. Das ist bei denen, und eigentlich auch lustig,das ganze Geld ist jetzt bei denen, die damals in Twitter, was keine aussichtsreicheOnline-Plattform war, Potenzial gesehen haben und die Aktien besessen haben.So bei denen ist das geld jetzt und diehaben doch die haben ja an was ordentliches geglaubt die haben ja ein also fairKapitalismus fair das geld ist jetzt bei denendie an twitter geglaubt haben und die haben die kohle eingestrichen und derjetzt ist es halt im arsch also die müssen sich da auch irgendwie freuen Einfachweg ja die wird back to the shareholder ist das haben sie gemacht Ja,das ist doch mal eine kapitalistische Erfolgsgeschichte.Absolut. Eigentlich ist es schon Dumpster-Feier und dann bekaufst du es an einen,der sagt, der löscht es und dann springt der halt rein in den Dumpster,rührt um und gießt ein bisschen Öl nach und du sagst, super,Hammer, schweingehaft, dass die Scheiße noch losgeworden sind.
Tim Pritlove
Ja, nur wir, die wir noch an den Wert geglaubt haben, wir stehen da im Regen.
Linus Neumann
Capitalism cares for you.Das hat der Markt geregelt. Twitter hat der Markt geregelt.Er hat überlegt, ob wir noch ein bisschen über KI reden wollen oder ob wir dasmal in die nächste Sendung.
Tim Pritlove
Ach nee, jetzt haben wir schon so viel über KI geredet, jetzt bin ich in demMut. Lass uns doch da gleich reinrutschen.
Linus Neumann
Ja dann will ich, also ich habe in diesem Jahr mehrere Vorträge zu dem Thema gehalten,mehrere Workshops besucht, teilweise mehrtägige, mit vielen Leuten darüber geredetund natürlich auch so mit vielen Menschen, denen das Thema jetzt so gar nichts sagt.Mit vielen Menschen, die sich von beruflicher Seite, sagen wir vielleicht irgendwie,als Unternehmerinnen oder Führungskräfte damit auseinandersetzen müssen, gesprochen.Und das ist jetzt auch so ungefähr ein Jahr, dass das so alles abgeht.Und was ich da sehr, sehr unterhaltsam daran finde, was mir so auffällt,ist, diese Technologie wird massiv unterschätzt und massiv überschätzt.Und ich glaube, das liegt daran, dass sie KI genannt wird, obwohl sie eigentlichMachine Learning oder Deep Learning heißen sollte, weil das der richtige Begriff ist.Und was mich gerade sehr fasziniert, sind ja eigentlich immer so die Glitchesdarin. Wir haben es hier vor Jahren, als das ganze Thema aufkam,habe ich ja schon auch so die Vorträge von Joscha Bach empfohlen.Und ich mag halt diese Halluzinationen, Glitches,Fehldinge, die falsche Dinge, die das Ding sagt, weil sie so aufschlussreichdarüber sind, weil sie so viel Aufschluss darüber geben, wie das tatsächlichfunktioniert und wie die lernen.Und wir haben, ich weiß nicht, ob ich das hier erwähnt hatte,ich hatte mit meinem Kollegen Jannis einen Vortrag gehalten über im PrinzipArtificial Intelligence oder Deep Learning, Machine Learning bei der Heise Security Show.Heise Security Tour heißt das, glaube ich.Also es gab in unterschiedlichen Städten so Live-Events und Online-Events undso, wo die halt von Heise veranstaltet werden, vom Heise Verlag.Und der Janis hat Machine Learningquasi studiert und dann in dem Bereich proboviert als Mathematiker.Und ich bin ja von der Ausbildung her eigentlich Psychologe.Ich habe nur bis auf ein paar Unis jetzt nie als Psychologe gearbeitet,erst recht nicht als Therapeut.Immer in der IT-Sicherheit, so wie der Janis auch. Und da haben wir quasi einenVortrag darüber gestaltet. Und ich glaube, das war ganz interessant,weil wir einerseits ich als Psychologen wahrscheinlich relativ gutes Verständnisdavon habe, was Intelligenz ist.Und Janis als jemand, der mit diesen Modellen arbeitet, ein relativ gutes Verständnisdavon hat, was die können und wo die Herausforderungen sind.Und wir, uns fällt so ein bisschen auf, dass, Also weil es spricht, kann es jetzt alles.Im Prinzip hat man mit Deep Learning jetzt zwei Dinge geschafft.Einmal diese ganzen Large Language Models, das Reden, und dann das Bildermalen.Und vielleicht noch ein bisschen Musik machen oder so, was aber verhältnismäßigtrivial ist im Vergleich zu den anderen beiden Dingen.Ja doch, von den Daten ist es sehr viel einfacher, Musik einem solchen Modellbeizubringen, als das Malen von Bildern.Der Raum, den irgendwie Töne ausmachen, der ist relativ simpel.Also Noten sind relativ simpel. Und das ist massenhaft vorhanden,das Futter, das Lernfutter für so eine KI.Das ist also verhältnismäßig triviale Aufgabe im Vergleich zu diesen Bildern,die wir jetzt hier als Episoden-Images machen.Und was, glaube ich, vielen Leuten so ein bisschen fehlt, ist ein Verständnisdafür, was diese Dinger lernen können und was nicht.Oder was die Voraussetzungen sind dafür, dass sie etwas lernen.Ich stelle mir das immer so ein bisschen vor, oder ich visualisiere das eigentlichso ein bisschen wie so ein Bernoulli-Brett. Kennst du ein Bernoulli-Brett?
Tim Pritlove
Bernoulli-Brett? Also es gibt eine Bernoulli-Gleichung?
Linus Neumann
Ja, genau. Stell dir das vor wieeinfach ein Brett, auf dem in gleichen Abständen ganz viele Nägel sind.Und jetzt wirfst du oben eine Kugel rein, ne?Und dann kann die Kugel an jedem Nagel, wird dir entweder nach rechts oder links fallen.Und wenn du das jetzt einmal machst, kannst du nicht sagen,wo die Kugel landen wird, weil die könnte halt immer wieder nach links fallen,ab und zu fällt sie mal nach rechts, die kann in der Mitte ankommen und wenndu das jetzt oft genug machst,dann verteilen sich die Kugeln im Prinzip in so einer Bernoulli-Verteilung daunten, weil es eben sehr unwahrscheinlich wird, dass sie ganz nach rechts kommt,sehr unwahrscheinlich, dass sie ganz nach links kommt, relativ wahrscheinlichist, dass sie in der Mitte landet, aber nicht alle Kugeln dann in der Mitte.Das heißt, die fällt da so durch. Aber sie fällt nicht deterministisch da durch.Aber du kannst in der großen Zahl am Ende schon sehen, was die Eigenschaftendieses Bernoulli-Bretts sind.Und so ungefähr muss man sich ja eine...Vorstellen, nur dass es halt viele viele tausend Verbindungen gibt und die gehenauch nicht alle in eine Richtung,sondern wie Neuronen in unserem Hirn gehen die in alle Richtungen und alle vieleNeurone sind über viele Aktionen verbunden in einer nicht notwendigerweise undinsbesondere nicht unbedingt linearen Verbindung.
Tim Pritlove
Darf ich dich kurz korrigieren? Es ist das Galton-Brett, nicht das Benuit-Brett,was du das galtonische Nagelbrett oder Zufallsbrett.
Linus Neumann
Okay, dann ist es der Bernoulli-Versuch, der an diesem Brett durch vorgenommen wird.
Tim Pritlove
Richtig, genau, da ist von Bernoulli die Rede, alles klar.
Linus Neumann
Ja, das ist der, jedes Aufprallen einer Kugel auf eines der Hindernisse istein Bernoulli-Versuch.
Tim Pritlove
Daraus resultiert die Bernoulli-Verteilung, genau.
Linus Neumann
Bernoulli-Verteilung, ja, okay, dann ist es das Galtonbrett,an dem sich die Bernoulli-Verteilung abbilden lässt.So ein wunderschöner Wikipedia-Artikel und also das ist aber jetzt,die Kugel fällt ja nach unten.Wenn du aber ein neuronales Netz hast, hast du Neurone feuern,lösen auf, aus und regen weitere Neurone an und das als nicht mehr linearerProzess, Sondern als wenn man sich so Gehirne anschaut, die summen ja eigentlich.Da findet kein linearer Prozess drin statt, sondern ein gleichzeitiger Prozess.Das ist so ein bisschen so, was mich irgendwie völlig fertig gemacht hat,als ich auf einmal hier so Hardware Design machen musste.So mit Verilog und so.Und da findet alles immer gleichzeitig statt. Du kannst,wenn du Mikroprozessoren design machst oder mit FPGAs programmierst,dann muss alles, was die machen, immer zu jedem Zeitpunkt passieren.Das passiert alles immer gleichzeitig.Wenn du jetzt irgendwie Software schreibst, dann schreibst du ja irgendwie,okay beim ersten Mal passiert das, jetzt vergleichen wir mal das und wenn dasist das und das ist das. Aber wenn du jetzt quasi Hardware-Logik machst, dann ist alles immer.
Tim Pritlove
Genau, der Strom fließt überall, nicht nur an einer Stelle.
Linus Neumann
Genau, also das ist völliger Irrsinn, aber so funktioniert natürlich auch unserGehirn, das heißt es gibt darin keine linearen Prozesse, sondern alle Neuronenmachen in jedem theoretischen virtuellen Takt immer alles.Lernen und so weiter. Das macht, das bildet sie nicht darin ab,wie unsere Neuronen sind und auch nicht notwendigerweise, wie ihre Verbindungensind, sondern wie die Gewichtungen ihrer Verbindungen sind.Also wie stark muss ein Neuron auslösen, damit es über die Verbindung das Nächste tatsächlich auslöst.Und gleichzeitig ist das jetzt nicht von, kann ein Neuron,Neuron kriegt quasi mehrere Eingänge und hat eine Schwelle,also ich bin jetzt ein Neuron, bei mir gehen drei Verbindungen ein,meine Schwelle ist eins und die eine Verbindung hat eine Stärke von 0,5,die andere hat eine Stärke von 0,6 und die andere hat eine Stärke von 0,4.Und wenn du jetzt die 6 und die 4 würden mich auslösen, die 0,5 und die 0,4aber nicht, weil mein Schwellwert ist ja 1.Und dann gleichzeitig integrieren die auch noch über die Zeit.Also es ist halt, ah sorry, ich werd wahnsinnig gehirn… wahnsinnig.Tim, es ist mein zweitliebstes Organ.
Tim Pritlove
Wie Woody Allenheim als sagt.
Linus Neumann
Das war in unserem Lehrbuch über biologische Psychologie.Auf dem Anfang war eine Walnuss abgebildet und da drunter stand,the brain is my second favorite organ, Woody Allen. Und dann halt irgendwieein riesiges Buch über wie Gehirne funktionieren. Wunderschön.
Tim Pritlove
Was ist dein Lieblingsorgan?Ich weiß was mein Lieblingsorgan ist und verrätst du es uns?Klar mein Herz, ja es liegt mir einiges dran, ja aber da sitzt spark joy.Ich benutze es ja täglich, laufend eigentlich, öfter als mein Hirn.
Linus Neumann
Oh man, jetzt bin ich eben bei meiner Gehirnerklärung, neuronale Netzerklärung.Macht ist, man postuliert eine Anzahl Neurone, man postuliert sie in Layern,man postuliert auch Verbindungen und dann ballert man da Daten rein.In dem klassischen Programmieren hast du Daten und wendest darauf Regeln an und machst ein Output.Und beim Machine Learning hast du Daten und Output oder gewünschtes Output undleitest daraus die Regeln ab.Also du nimmst ganz viele Bilder und ihre Beschreibungen und trainierst dasDing so lange, bis du eine Beschreibung gibst und der malt ein Bild.Und diese Herangehensweise kannst du aber nur machen, wenn du relativ vieleDaten hast, also Unmengen an Daten, und diese Daten auch ordentlich gelabelt sind.Also du kannst sagen, was richtig ist und was falsch oder was gewünschtes Output ist und was nicht.Und die Aufgabe, die du lösen willst, ist nicht trivial.Das sind die drei Voraussetzungen, vom Datensatz her, wo dir dieses MachineLearning einen Vorteil gibt.Oder wo du jetzt einen Durchbruch in der Informatik hast, weil man plötzlichdas schafft, diese Sache zu bändigen.Und auch eher, weil jetzt mit den GPUs die Technik da ist, um das hinter sichzu bringen, in dem Ausmaß an Neuronen und Verbindungen, die man jetzt braucht.Und nicht, weil das jetzt wirklich, also auch Durchbrüche gab,aber die grundsätzliche Herangehensweise war schon in den 60er Jahren klar.Klar, es gab technische Weiterentwicklung und so weiter, haben wir ja auch schonein bisschen drüber gesprochen.So, jetzt kannst du aber im Prinzip sagen, ich habe gesagt, viele Daten gutgelabelt und ein nicht triviales Problem, weil viele Dinge, die Leute jetztpostulieren, was KI jetzt machen wird.Das heißt, dafür brauchst du gar kein Machine Learning, weil es zum Beispieleindeutige Lösungen gibt, weil der Lösungsraum begrenzt ist und sich in einereinfachen linearen Gleichung abbilden lässt.
Tim Pritlove
Was meinst du denn jetzt für ein Beispiel, was du jetzt damit meinst?Also wo es jetzt schon eine andere Lösung gibt?
Linus Neumann
Preisgestaltung. Demnächst werden die Preise von einer KI bestimmt. So ein Quatsch.Man weiß was ein Produkt kostet, man weiß ab wo das Verlust bringt und man weißes gibt eine eindimensionale Sache höher, teurer oder billiger da brauche ichjetzt keine KI für, da guckst du einfach, also das ist eine, das ist eine, das ist.
Tim Pritlove
Ich meine seh doch mal, wenn man jetzt die Preisgestaltung mit KI macht,dann kann man endlich die fünf Blockchains abschalten, mit denen man sich zuletzt probiert hat.
Linus Neumann
Das ist natürlich gut. Leider sind die Blockchains wahrscheinlich das Lernmaterialfür die KI, weil man sonst keine strukturierten Daten hat.
Tim Pritlove
Ich warte nur noch auf den Vortrag Künstliche Intelligenz auf der Blockchain.
Linus Neumann
Gibt es den noch nicht?
Tim Pritlove
Bestimmt.
Linus Neumann
Das ist bestimmt schon eingereicht, ich sag dir Bescheid.
Tim Pritlove
Ich lasse mir von Chachi richtig einschreiben.Den reiche ich dann beim Kongress ein. Dann musst du den bewerten.Aber schön geschrieben, so flüssig. Das wird euch jetzt auch so vorstehen.
Linus Neumann
Ich betone bitte warum dieser Vortrag wichtig ist.
Tim Pritlove
Warum ihr gut zur Community passt.
Linus Neumann
So, jetzt haben wir also eine Menge Daten, gut gelabelt und ein nicht trivialer Lösungsraum.Und wenn du dir das mal ansetzt als Maßstab,dann leuchtet auch ein, warum mit dieser Technologie anfangs Schach und Go gespielt wurde,weil du kriegst Unmengen an Spielen, ja,diese ganzen Schach-Großmeister und so, das wird ja alles immer aufgezeichnet,es ist auch super einfach aufzuzeichnen, weil am Ende bewegen sich nur ein paarFiguren und der Lösungsraum ist aber halt endlos.Also er ist unglaublich komplex.Deswegen kannst du nicht mit einfacher Programmierung halt einen Schachgenie bauen.Und was sie ja gemacht haben bei dem, ich glaube Deep Blue hieß dieser Schachcomputerund AlphaGo, die haben den Dingern einfach nur Schachpartien oder Go-Partiengefüttert, bis die irgendwann die Regeln konnten.Was die den Dinger nie gesagt haben ist, wie die Regeln lauten.Das Wissen darüber, wie die Regeln sind, was man darf und was nicht,ist nirgendwo explizit in diesem neuronalen Modell hinterlegt.Es ist implizit einfach nur in den vielen, vielen Verbindungen stärken,dass egal welche Situation du oben, jetzt kommt wieder der Galton-Brett-Vergleich,rein wirst, Unten fällt ein valider Zug raus und potenziell halt einer,der dazu führt, dass du das Spiel in eine Richtung bewegst, wo du es irgendwannnochmal gewinnen kannst, ne?Und jetzt gehen die hin und haben gesagt, alles klar, wir haben jetzt eine KI,die kann valide Züge generieren.Und jetzt erklären wir, jetzt müssen wir nur noch sagen, wer wann gewonnen hat,das versteht die auch noch.Und dann haben wir einen Datenschatz, der unendlich ist.Weil wer das Spiel gewonnen hat, das können wir ja relativ einfach erklären.Was weiß ich, alle Figuren weg oder der König kann nicht mehr bewegt werden.Oder bei Go weiß ich nicht, wann man da gewonnen hat. Das Spiel hab ich nieverstanden oder nie gelernt.Und jetzt sind die an dem Moment, wo sie in der Lage waren,etwas zu bauen, was sich wie ein valider Spieler verhält oder eine valide Spielerin,haben sie das einfach endlos gegeneinander spielen lassen und dann hat das Dingsich einfach selber Go oder Schachball gebracht.Und am Ende sind nur in den Verbindungen,also nur implizit, war dann dieses Wissen drin oder der Erfahrungsschatz drin,wie dieses Spiel zu spielen ist und wie man es gewinnt und auf eine Weise istdas so ein relativ unfairer Vergleich, Weil wenn du dir anschaust,wie alt die Leute waren gegen...Hier die Blue gewonnen hat oder auch AlphaGo, die konnten in ihrem Leben janur so und so viele Spiele von diesem Spiel spielen.Und die wenigsten davon gegen Leute, die für sie noch eine Herausforderung dargestellt haben.Und dann geht irgendwann halt dieses Ding hin, hat halt einfach mal wahrscheinlichtausend oder millionenmal mehr dieses Spiel gespielt und gewinnt gegen die Menschen.In einem, in diesem Fall dann eben nicht trivialen, Nicht triviale Herausforderung,nämlich dieses ultra komplexe, nicht mathematisch erfassbare Spiel zu gewinnen,auf Basis von Erfahrung.
Tim Pritlove
Ich muss jetzt kurz eine Anmerkung machen, weil sonst steht das schon wiederin den Kommentaren. Deep Blue war jetzt explizit kein KI System.AlphaGo war das. AlphaGo ist sozusagen das erste, was jetzt wirklich mit diesenMachine Learning Methoden daherkam.Die Blue hat es tatsächlich noch über ein parametrisiertes System aber sehrwohl und natürlich unter der Ausnutzung der Möglichkeit sehr viele Computerspielezu analysieren geschafft.Im Prinzip könnte man eigentlich genau bei Die Blue und AlphaGo den Übergang festmachen.Ja also dein Beispiel hat jetzt nicht hundertprozentig gestochen,aber du hast natürlich vollkommen recht, dass die Vorgehensweise so ist undselbstverständlich wird es auch KI basierte,also jetzt Machine Learning basierte Schachsysteme geben und die werden wahrscheinlichsogar noch besser funktionieren als die Blue,nur konkret die Bloop selber war kurz davor und hat im Prinzip nochmal gezeigt,was sagen wir mal auch mit den klassischen Methoden noch zu erzielen war.Ja, und hat dann quasi das neue Zeitalter eingeleitet,aber Go wiederum ist nochmal sehr viel komplexer als Schach und hat nochmalsehr viel mehr Varianten und was vielleicht ein interessanter Punkt ist,bei Die Blue, wenn ich das jetzt noch richtig erinnere, da kam quasisehr guter schachspieler bei heraus also das system konnte sehr gut schachspielenso wie auch alle anderen gespielt haben bei alfa go war es so dass das mir jetztalso ich habe auch keine ahnung von go ja aber so das ist das ist das auch nochanders gespielt hat genau das ist nämlich komplett andere strategien die sonoch nie gesehen wurden.
Linus Neumann
Aber die hat es halt irgendwann in den Spielen gegen sich selber entwickelt.
Tim Pritlove
Genau, also das ist natürlich das Gute daran ist an diesen Spielen,die sind klar zu bewerten am Schluss ob es erfolgreich war oder nicht,weil du hast halt gewonnen oder nicht, deswegen sind die sehr gut trainierbarund da kann sich so ein System super dran schärfen.Bei den ganzen anderen Aufgaben ist ja diffus, beim Bild gibt's kein richtigoder falsch, das liegt dann ja im wahrsten Sinne des Wortes im Auge des Betrachters.Und dann kann man auch in diese Refinement Zyklen gehen, die wir vorhin schonbesprochen hatten, mit Journey oder sowas.Dann bist du sozusagen selbst derjenige, vielleicht zusammen mit so einer kleinenChat Community, die hier sagt so ja, im Prinzip richtig, aber hier könntest du nochmal beigehen.Und da konnten sich aber diese Algorithmen definitiv schärfen.
Linus Neumann
Hier steht in dem Wikipedia-Artikel zu Deep Blue, die Schachsoftware war inC geschrieben und lief unter dem Betriebssystem AIX 2.4,sie berechnete je nach Stellungstyp zwischen 100 und 200 Millionen,im Durchschnitt 126 Millionen Stellungen pro Sekunde.Das heißt, das Ding hat wirklich einfach alle potenziell vielversprechendenPfade wirklich ausgerechnet.Und genau das macht AlphaGo nicht. Sondern das ist eben ein Galtonbrett,wo du eine Stellung reinwirfst und der wirft einen Zug raus.Und wie der darauf kommt oder so, ist nicht mehr nachvollziehbar.Es ist einfach nur in den Verbindungen, quasi in dem Feintuning dieser Nägelchen,wann unter welchen Bedingungen die Kugel eher nach links oder nach rechts fällt.Und deswegen ist auch das Output nicht deterministisch.Und deswegen kannst du den können die dinger ist es halt schwierig zu zu,Was sie überhaupt gelernt haben. Und deswegen ist es so überraschend, was sie tun.Aber was sie gelernt haben, ist auf jeden Fall ein Produkt des Lernprozesses.Und deswegen finde ich halt dieses Lernende Systeme einfach viel,viel bessere Bezeichnung als, das ist jetzt künstliche Intelligenz.Und natürlich liefert dir ChatGPT irrsinnige Ergebnisse.Und ich find's aber noch irrer, wie irre die sind, wenn man sich überlegt,womit man das Ding dahin trainiert hat.Dass du einfach da Texte reingekippt hast. Was natürlich alle drin haben,ist halt irgendwie Wikipedia.Wikipedia ist so einer der Standard-Lehr-Datensätze für jedes LLM.Und naja, jetzt haben wir eine lange Rede kurzer Sinn.Es wird halt das Lernen eines menschlichen Gehirns nachgebaut durch mathematische Methoden,die im Ergebnis eine Stärkung oder Schwächung von Verbindungen sind.Und was du da irgendwann runterlädst, ist einfach echt ja die die Neuronen unddie Verbindungen dazwischen.Das ist das Modell kannst du dir auch wenn du solche Modelle untersuchst,kannst du dir anzeigen lassen.Es steht dann drin Ja, das Modell hat was weiß ich so und so viele Layer indem Layer, in dem Layer 1 sind so und so viele Neurone, in dem anderen sindso und so viele dazwischen sind so und so viele Verbindungen und dann stehtda einfach nur drin, wie stark jede Verbindung ist.Und dann gibt es halt einen Input, dann führst du da rein als Vektor und dannkommt ein Vektor, Vektor, ein Input als Vektor raus.Und das so simpel ist das. Du machst so groß genug und dann kann das Ding aufeinmal sprechen. In allen Sprachen. Schon ganz geil.
Tim Pritlove
Das ist wirklich super beeindruckende Technologie. Zur Begrifflichkeit würdeich gerne noch eins sagen.Wir haben ja das Problem im Deutschen, dass das Wort Intelligence in seinerVielfalt, in der es im Englischen steht, so im Deutschen nicht benutzt wird.Wenn wir von Intelligenz reden, meinen wir damit im Prinzip immer die Fähigkeiteines Gehirns oder eines Menschen sozusagen grundsätzlich in der Lage zu seinbestimmte komplexe Aufgaben zu lösen oder vielleicht auch Kreativität zu entfalten.Da könnte man sich schon drüber streiten, aber unsere Wahrnehmung ist explizitso eine Eigenschaft eines Menschen.
Linus Neumann
Mit einem Psychologen einfach mal ganz kurz eine ad hoc Definition von Intelligenz zu postulieren.Jetzt musst du mich mal ausreden lassen, Dinos, ich will ja auf was hinaus.
Tim Pritlove
Der Punkt ist, der Begriff Intelligence im Englischen hat noch ganz andere Vektoren,die meiner Meinung nach hier viel wichtiger sind.Ja also wenn wir von künstlicher Intelligenz reden, dann ist das eigentlichdie falsche Übersetzung meiner Auffassung nach.Artificial Intelligence ist halt mehr eine künstliche, ich sag mal Information.Intelligenz ist ja auch das, was einen Geheimdienst macht. Also der Vorgangdes Einsammelns von Informationen, des Weiterleitens von Nachrichten,das ist alles Intelligence.Das hat nichts mit der Eigenschaft Intelligenz eines Hirnes zu tun,sondern das ist konkret einfach der Vorgang, Sammeln von Informationen und dieseInformationen in irgendeiner Form sinnvoll zusammenzufügen.Das was ein Geheimdienst oder ein Nachrichtendienst tut, das ist sozusagen deren Aufgabe.Die sammeln aus vielen Quellen was zusammen und die Erwartung der Regierungist natürlich, dass so ein Geheimdienst dann sinnvolle Zusammenfassungen undEinschätzungen liefern, was wird passieren. Wird ein Krieg ausbrechen?Wird uns jemand angreifen?Wie verhält sich die Wirtschaft? Etc. Gibt es irgendwelche Aktivitäten,die wir zwar irgendwo beobachten, aber wir können uns keine Reimen drauf machen.Und das ist ja im Prinzip die ganze Zeit das Problem bei der Bewertung der Gegenwart,aber vor allem natürlich auch der Zukunft, dass wir Schwierigkeiten haben,all die Signale, von denen wir umgeben sind, korrekt einzuordnen und zu denrichtigen Schlüssen zu kommen.Später sagt man dann immer so, das war doch ganz offensichtlich,hier da und da war ja überall sichtbar.Aber es sind halt noch viele andere Sachen auch sichtbar gewesen,nur die Gewichtung, was davon jetzt in welcher Form dazu führen wird,dass irgendein Prozess in Gang gesetzt wird oder nicht, das ist halt der schwierige Teil.Und insofern haben wir jetzt mit Artificial Intelligence einfach eine Computertechnologie erfunden,nennen wir sie Machine Learning, weil sie im Wesentlichen auf Learning basiert,aber ich würde sogar noch einen Schritt weiter gehen und sagen,gerade die Tools des letzten Jahres,also die Chat basierten Systeme, all diese Generatoren, die Large Language Models,diese ganze Gruppe von verschiedenen Systemen, die sicherlich in der nächstenZeit schnell noch anwachsen wird.Die sind jetzt sozusagen so das neue Rüstzeug und so wie wir uns dran gewöhnen mussten,dass Computer schnell rechnen können und deswegen bestimmte Dinge tun können,ja das hat ja auch eine Weile gedauert bis das bei uns so richtig eingesacktist und bis wir gecheckt haben was Kommunikation in dem Zusammenhang nochmal bewirkt.Genauso müssen wir uns jetzt dran gewöhnen, dass wir eben Software-Technologienhaben, die in der Lage sind, aus einem diffusen Eingangsbild Schlüsse zu ziehenauf Basis von vorher schon gewonnenem Wissen. Und das ist einfach auch nichts Schlechtes.Das ist eine tolle Technik, mit der man eine Menge gute Sachen machen kann,aber natürlich, wie wir alle wissen, auch eine Menge Unfug anstellen kann.
Linus Neumann
Ich glaube dass du dich an einer stelle verrannt hast und zwar also alles wasdu gerade richtig eine sache die ich glaube ich so nicht so haltbar ist dassder begriff intelligence,eine andere Bedeutung hat, ist korrekt. Dass deswegen aber Artificial Intelligenceeine andere Bedeutung hätte, ist nicht korrekt.Also der Artificial Intelligence-Bereich meint genau die gleiche Intelligenz,die wir als Menschen als menschliche Intelligenz wahrnehmen oder bezeichnen.Also kognitive Fähigkeiten. Du hast ja gerade so gesagt, Intelligence ist auchWissen. Es gibt unterschiedliche Bedeutungen des Begriffs Intelligenz.Ich Ich glaube aber nicht, dass der Begriff künstliche Intelligenz eine schlechteÜbersetzung eines besseren amerikanischen oder englischen Begriffs ist,weil der ist genau der gleiche.Lernen, Abwägen, Selbstkorrektur, Kreativität, all das was du halt unter naivmenschlicher Intelligenz auch zusammenfasst, ist damit auch gemeint.
Tim Pritlove
Gut, kann man drüber streiten, es deckt das sicherlich mit ab,aber ich wollte ja nun explizit darauf hinaus, dass man das als Werkzeug versteht.Und in dem Sinne ist es ein Werkzeug, um Intelligence durchzuführen, ja? Mit Künstlichkeit.
Linus Neumann
Und das Spannende ist eigentlich, das haben wir schon gesagt,ich versteige mich jetzt nicht in einer Diskussion darüber, was Intelligenzist, aber sicherlich ist Lernen eine absolute notwendige Bedingung von etwas, das Intelligenz ist.Dass es lernfähig ist. Wenn man irgendetwas Intelligenz attestieren möchte oderkann, dann wird und muss es lernfähig sein.Und ich glaube, dass ein großer Teil der Debatte um die sogenannte künstliche Intelligenz,sinnvoller geführt werden kann, wenn die Menschen sich das immer vor Augen halten.Es ist etwas Lernendes oder Selbstlernendes.Und was es lernt, bestimmen immer noch die Menschen, die es trainieren,die das Lernmaterial bereitstellen.Und nur wenn man ausreichend Lernmaterial hat und ausreichend komplexe Probleme,dann hat man überhaupt einen Anwendungsfall.Und deswegen meine ich das mit dem Überschätzt und Unterschätzt,weil man teilweise davon ausgeht, künstliche Intelligenz wird jetzt irgendwaserfinden und die Menschheit unterdrücken oder so.Das dauert noch ein bisschen. Da müssen wir einfach noch viel mehr Lernmaterial schaffen.Das machen wir ja gerade mit den ganzen Kriegen und Konflikten.Aber noch glaube ich, sind wir nicht so weit, dass ein selbstlernendes System uns vernichten wird.
Tim Pritlove
Oder denkst du? Nee, das kriegen wir selber besser hin.
Linus Neumann
Stimmt, da sind wir noch, also da können wir wirklich sagen,da sind wir der Maschine auf jeden Fall noch überlegen, ne?Jetzt, aber worauf ich eigentlich hinaus will, oder was ich eigentlich als Anlassfür dieses Thema genommen habe, jetzt kommt das in die Welt, ne?Und jetzt ist, ich glaube es ist so eine Situation von, wenn der Wind des Wandelsweht, bauen die einen Windmühlen und die anderen Schutzmauern.Und das Thema überschätzt und unterschätzt gleichermaßen und jetzt stehen daalle und schreien um die Wette, wer jetzt als nächstes arbeitslos wird.Was glaubst du, wer als nächstes arbeitslos wird?
Tim Pritlove
Durch künstliche Intelligenz.Was ich glaube was wirklich ist oder was geglaubt wird was es sei?Beides. Arbeitslos.Also ehrlich gesagt ich sehe generell wennich das jetzt mal seriös beantworten soll und das jetzt kein versteckter Witzwar hab ich da gar keine großen Bedenken was vor allem jetzt erstmal wegfallenwird sind Leute oder Tätigkeiten die Leute fallen nicht weg aber die Tätigkeiten,die ohne größere Anstrengungen so klein klein durchgeführt werden.Man hat ja gesehen wozu die Systeme heutzutage in der Lage sind,das heißt sie können irgendwie schnell mal Texte machen, es gibt Leute die bietensolche Dienstleistungen an dir mal einen Brief zu schreiben oder so etwas.Gibt's ja auch diesen schönen Begriff des mechanischen Türken, Mechanical Turk.Und es gibt ja auch viele Systeme im Internet, wo du mal schnell mal,ich brauch mal ein Logo, ich brauch mal hier jemand der mir ein Bild freistellen kann und sowas,sowas konnte man irgendwie kaufen für einen Dollar und dann hat sich tatsächlichirgendjemand in, keine Ahnung wo, wo in Asien vielleicht hingesetzt,hat das Bild genommen, hat das Bild freigestellt und dann ist da so eine Mikrotransaktionüber den Teich gelaufen.Und jetzt kannst du halt dein Bildbearbeitungsprogramm of choice hochholen undsagst stell mal frei und nicht nur,dass das Freistellen als solches super ist, er weiß auch sofort was freigestellt werden soll,weil er einfach, seit ewig, seit über ein Jahrzehnt oder seit es Photoshop gibt,war so dieses Problem von freistehende Haare vor Hintergrund,wie kriegst du die isoliert.Totaler Albtraum und es gab Leute, die konnten das besonders gut und anderevielleicht nicht so gut und manche haben sich vielleicht darauf spezialisiertund das sind so tatsächlich solche Dienstleistungen, so kleinen kleinen Dienstleistungen,die jetzt in zunehmendem Maße von Software Tools abgelöst werden können.Aber das ist letzten Endes kein Vorgang, der nicht auch schon vor zehn und zwanzigund vor dreißig Jahren stattgefunden hat in anderen Bereichen.Ich komme noch aus einer Zeit, da war so Schriftsatz noch ein richtiger Aufwand,als ich das erste Mal angefangen habe, irgendwelche Firmen zu beraten,so Werbeagenturen oder so, da saßen die da also wirklich noch und haben einenriesigen Aufwand gemacht, um einfach Text auf eine Seite zu bekommen.Und das war halt dann so ein bisschen die Zeitgeburt des Desktop Publishing etc.Und irgendwann war das so vollkommen normal, eben mal so einen Text und mitordentlichem Font gerendert auf so eine Seite in druckbarer Vorlage zu erzeugen.Und das sind alles solche technologischen Schritte, die dann natürlich Textsetzerund so spezialisierte Berufe in dem Moment ausgelöst haben, die aber dann,wo die Leute dann aber mit ihrer ExpertiseDiese darüber zu wissen wie sieht Text gut aus auch mit den neuen Werkzeugenim Prinzip weiterarbeiten können und deswegen kann ich auch so diese Befürchtungmit oh Gott die Grafiker werden jetzt arbeitslos.Nee, die Grafiker kriegen jetzt andere Werkzeuge und bestimmte Dinge die heutenoch in Auftrag waren sind jetzt vielleicht keiner mehr aber dafür ist sehrviel mehr die kreative Hoheit über dieses Produkt erforderlich,weil klar kannst du jetzt mit nem Prompt irgendwie Dalli 3 und wie sie alleheißen dazu bringen tolle Bilder zu erzeugen aber erstens basiert das allesauch nur auf Vorwissen, haben wir ja schon diskutiert und andererseits bedeutetdas ja noch lange nicht, dass du eine gute Idee hast.Ja also gerade mit solchen Werkzeugen können Leute,die ein gutes kreatives Denken haben,also die im Prinzip erstmal diesen ersten Schritt gut können,die dann vielleicht auch in der Lage sind mit ihren Werkzeugen das auch gutumzusetzen, aber deren eigentliche Leistung ja, dass das erschaffen ist.Also alle meine Logos zum Beispiel, die hier bei der Metaebene für diese Podcast entstanden sind,das hat der Sven ganz viele gemacht und Sven ist ein super Grafiker und ein schneller Arbeiter,aber die eigentliche Begeisterung, die bei mir immer aufkam war die Idee erstmalzu haben, für die einzelnen Motive.Freak Show Logo zum Beispiel ist einfach fantastisch. Guckt euch mal das Logomal genau an, was da drin steckt.Da kann dir natürlich so ein KI System super dabei helfen, schnell mal nochsehr viel mehr Varianten zu machen, viel größeren Suchraum aufzumachen,um auf gute Ideen zu kommen.Am Ende zählt dann sozusagen das Durchexerzieren eines Gedankens und von dahersehe ich da nicht so viele Probleme.Dinge werden sich ändern, Berufe werden sich ändern, sie werden aber eher woandershin transformieren, da wo es eben nicht wegmechanisiert werden kann.
Linus Neumann
Und jetzt geht aber, also die aktuelle Diskussion, die geht ja jetzt im Prinzipgenau da weiter, dass sie sagt, ja, aber was, wenn das jetzt auf einmal alle Bereiche berührt?Und das, was du jetzt gerade über Grafiker gesagt hast und über Textsetzer,das war ja der, sag mal, der Vorteil war, das hat dann, ja, das hat dann malso einen Bereich betroffen.Also Textsetzer, das war jetzt keine tragende, kein großer Teil der Gesellschaft,der davon betroffen war.Und die Diskussion, die jetzt gerade geführt wird, ist so ungefähr,ja, aber Moment mal, das Ding kann geile Bilder malen, das kann besser malenals ich, das kann besser schreiben als ich.Was ist, wenn das jetzt morgen meinen Job besser machen kann als ich?Und dann gibt es natürlich diesen sehr schönen Satz, ich weiß gar nicht,AI wird dich nicht ersetzen, aber jemand der AI benutzt auf jeden Fall.Also irgendwie so eine, ihr müsst diese neue Technologie jetzt anwenden,um genau wie du sagst, euch zu freuen, was ihr alles nicht mehr machen müsst,um die Ergebnisse zu generieren, die schon in eurem Kopf sind.Oder die Ideen zu realisieren.Aber deswegen habe ich gerade so ein bisschen versucht, darüber zu sprechen,was für Probleme sind geeignet, dass sie von dem Ding jetzt oder von dieserTechnologie bald gelöst werden oder besser angegangen werden,weil es eben nicht alle sind.Also für nicht alle Bereiche haben wir die Voraussetzungen, dass man jetzt mitmaschinellem Lernen dort zu einem Durchbruch kommt, den man nicht schon hatte.Programmieren ist aber leider auch einer, also ich meine, das ist schon.
Tim Pritlove
Aber auch beim Programmieren ist es so, du kannst dir von diesen Systemen extremhelfen lassen, also hier diese ganzen Copilot Systeme etc.Die helfen beim Programmieren, aber es hilft dir alles überhaupt nichts,wenn du nach wie vor keine Ahnung hast vom Programmieren. Ja, äh...
Linus Neumann
Also ich sag mal, da glaube ich, das wird sich halt relativ zügig noch klären.
Tim Pritlove
Es wird Sachen geben, wo Programmieren auf einmal nicht mehr notwendig wird,weil du Dinge auf einmal zum Leben bringen kannst, automatisieren lassen kannst,du kannst halt die Module ansprechen und kannst sagen ich möchte gerne,dass dieses Modul Daten erzeugt, dass dieses Modul einlässt etc.Super, ich meine da muss sich, ich meine wir haben sowieso viel zu wenig Programmierer,um die Aufgaben zu stemmen, die heutzutage schon anliegen, also das ist ja einBereich, der muss wegkratzen, wir haben zu viele schlechte Programmierer,die sich dann darum kümmern und dann kommt halt so ein Quatschball raus,also insofern bin ich da sehr froh,Wenn das sich wieder mal auf die Leute reduziert, die eben auch wissen was sietun, die dann eben auf einem höheren Level arbeiten können.Die dann mit diesen KI Systemen zum Beispiel arbeiten, das wirst du ja auch kennen.In der Security ist das ja ein riesen Ding.Also gerade diese Anforderung aus diffusen Informationen Schlüsse zu ziehenist ja im Prinzip genau das was du machen musst, wenn du irgendwie monitorenmusst, ob du jetzt gerade irgendeine Hackerattacke unterlegst.Das sind ja im Prinzip genau solche Systeme und dann kann man damit halt besserauch verteidigen. Klar man kann damit vielleicht auch besser Fehler finden unddann auch besser angreifen.Das ist natürlich hier wieder so eine Aufrüstung auf beiden Seiten.Aber im Prinzip die Leute,die sowieso wissen, was eigentlich überwacht werden müsste und worauf man achtenmuss oder was man im Prinzip alles heranziehen kann, um eine Bewertung zu machen,die können dann solche Werkzeuge nehmen und die dann eben auch richtig einsetzen.Aber dazu musst du halt auch nach wie vor eine Vorstellung davon haben,was ist Security, was ist überhaupt hier meine Systeme, was kann ich überhauptdavon betroffen sein, worauf muss man sich vielleicht einstellen.Also ich hab da nicht so eine Angst davor ehrlich gesagt. Ich sehe eher unseren,im Bereich Fake News etc. also was uns jetzt schon seit längerer Zeit plagt,das Erzeugen von gefälschten Videos.Gefälschten Fotos, von gefälschten Audioaufnahmen. Es ist mittlerweile ohneweiteres möglich Stimmen nachzuäffnen.Das ist ja jetzt auch schon ein paar mal aufgekommen. Noch hatten wir nicht den großen Knall,aber ich glaube das wird nicht mehr lange dauern und wir werden irgend so eineSache erleben, wo irgendeine wichtige Person angeblich irgendwas gesagt hat.Und ein Video geht rum und alle glauben das und ein Krieg bricht aus und eswar aber alles nur gefaked.
Linus Neumann
Ich glaube eher, also meine größere Sorge ist, also den Fall werden wir sicherlichirgendwann mal haben, in groß oder klein, hoffentlich jetzt nicht noch ein Krieg,also das wird langsam auch zu viel.
Tim Pritlove
Kann aber passieren.
Linus Neumann
Weil ich könnte mir vorstellen, mindestens genauso wahrscheinlich halte ich,dass irgendjemand etwas sagt und es nicht geglaubt wird, dass es echt ist.
Tim Pritlove
Das ist dann die nächste Stufe. Das ist ja alles Fake, das ist ja Trumps Dauerargument.Wenn irgendwas nicht passt, dann ist es halt Fake.
Linus Neumann
Genau aus dem Grund komme ich darauf, dass ich glaube, das ist der wahrscheinlichereFall, weil wir gerade mehr Realitätsverweigerungen als Faktentreue bei den Durchgeknallten haben.Also mehr Realitätsverweigerungen als Faktentreue.Ich halte den Fall für wahrscheinlicher, dass irgendjemand etwas sagt und keinerglaubt, dass das das nächste große Problem ist, als dass jemand etwas nichtsagt, Aber alle glauben er hätte es gesagt.Einfach weil die Bekloppten gerade eher auf der Realitätsverweigerungsschienesind als auf der, ich muss jetzt hier genau gucken was jemand gesagt hat Schiene.Die glauben ja eh jeden Scheiß.Und alles mögliche nicht. Aber okay das ist eine philosophische Überlegung wasdas nächste Problem ist.Also du blickst positiv in die Zukunft.Wir haben auf jeden Fall ja schon mal unseren Exit geplant hier.Wir lassen uns bald durch ChatGPT ersetzen.Das ist vor allem in unserem Fall sehr gut möglich, weil wir ja halt auch keine perfekte KI brauchen.Reicht ja, wenn ihr alle 10 Minuten mal irgendeinen völligen Stoß redet.Ist das eigentlich ein Qualitätskriterium im Nachbau von uns.
Tim Pritlove
Ich hab natürlich drüber nachgedacht, wie gut könnte jetzt eine KI so ein Podcast machen.Gibt natürlich schon die ersten Leute, die sowas gemacht haben.Hier der erste KI generierte Podcast und so.Am Anfang haben wir ja auch so, mach mal eine Eröffnungsrede und so.Ja, Noah, das ist halt das Ding. Klar, du wirst damit ein Wettbewerb sein.Wirst du glaube ich sehr gut automatisieren können also du wirst diesen Radioslotwo der Wetterbericht vorgelesen wird der ist so generisch und der ist irgendwie so klar und gleich.Das hier habe ich für dich im Internet gefunden.
Linus Neumann
Also ich hab das Wetterbericht schon, das ist eine der wenigen Sachen, die ich mir.
Tim Pritlove
Genau, aber halt auch so in diesem Konversationsmodell mit zwei Leuten,die sich die Bälle zuwerfen, weil sie sowieso immer die gleichen Witze machenund vieles, gerade im medialen Bereich, hat ja so einen Standardpattern.Macht das dann irgendwann neue Witze?
Linus Neumann
Wenn wir jetzt eine KI nehmen, vielleicht gibt es dann irgendwann neue Witzein unserem eigenen Podcast, Tim.Witze, die sich noch keiner vorher ausgedacht hat.
Tim Pritlove
Das glaube ich halt nicht.
Linus Neumann
Meinst du?
Tim Pritlove
Ja, also das sind keine guten Witze.Also für einen guten Witz. Und vor allem, das Ding ist ja auch, gerade,ist ja nun der Grund der Zuwendung primär darin zu finden, dass da was originäres,menschliches, nahbares kommt.Jetzt können natürlich alle Leute uns sagen, ja aber hier YouTube und Instagramvor allem ist ja voll mit diesen gefakten Identitäten, mit diesen ganzen KI-Influencern.Das ist auch ganz interessant, ich hab da nicht viel Zeit mit verbracht,aber ich weiß, dass es das gibt.Da gibt's halt wirklich vollständig generierte Videos von irgendwie,was weiß ich, hübschen Manga Mädchen, die irgendwie aus ihrem Leben erzählen, die es nicht gibt.Die also wirklich komplett mit videogenerierenden Tools erzeugt werden und dannhalt so Follower haben und Leute, die damit interagieren.So ein bisschen wie Sexpuppen, das ist ja auch so ein Phänomen,dass Leute sich dann so eine Puppe kaufen und dann heiraten und sich aufs Sofa setzen.Es gibt auch Leute, die glauben, denen ist das glaube ich auch irgendwie alles ein bisschen egal.Also die wollen einfach nur dran glauben können und tun's dann auch gerne,wenn sich das dann ausreichend bequem gestaltet und die eigenen Wünsche oderdie eigenen Vorstellungen ausreichend abdeckt.Und dann ist es ihnen dann auch wirklich egal. Gott sei Dank ist das nicht dieZuhörerschaft von Logbuch-Netzpolitik.Hoffe ich.Ja das ist so ein Ding, wo ich mir denken könnte, auch das ist so eine Gefährdungim Sinne von so einer emotionalen Gefährdung.
Linus Neumann
Gibt's da so einen Film Hör, hast du den gesehen? Ja, der davon handelt.
Tim Pritlove
Richtig, stimmt. Tatsächlich ist das genau das Motiv.Und das ist auch ein hervorragender Film. Falls ihr den nicht gesehen habt,schaut euch den an. Das ist einer der Filme, die, glaube ich,die diese Zeit, die wir jetzt haben, ganz gut eingeleitet hat.
Linus Neumann
Ich habe natürlich, aber da wird es dann jetzt wirklich ewig dauern,das noch zu diskutieren.Von einigen wird diese Entwicklung, die wir da jetzt gerade sehen,als die vierte große Kränkung der Menschheit gesehen.Also die erste, Moment, Galileo sagt hier, pass mal auf, Erde ist gar nichtder Mittelpunkt des Universums.Dann Darwin sagt, wir stampfen von dem Affen ab.Und Freud sagt, hier sind einfach nur alle triebgesteuert und das,was ihr euch dazu rationalisiert, ist im Prinzip alles nur so ein paar Komplexe,weil ihr irgendwie mit eurer Mutter nicht klarkommt.Und die Werden so behandelt und übrigens Freud hat in dieser Reihe überhauptnichts verloren, weil es einfach nur komplett esoterischer Quatsch ist, aber okay.Hat zu seiner Zeit ein paar Leute weitergebracht im Verständnis ihrer selbst,aber es ist keine Wissenschaft, auch keine Entzauerung der Menschheit.Und dann eben jetzt, und dann kommen aber die Kränkungen der Menschheit ihrerselbst durch die Maschinen, die sie baut.So zumindest die Geschichte.Und wenn ich darüber nachdenke, glaube ich, es ist weniger so,dass wir gerade übertrumpft werden, aber dass uns vielleicht auch ein bisschendie Banalität von dem, was unser Leben ausmacht, so ein bisschen vor Augen geführt wird.Dass man das generieren kann, Texte.Und dass vieles, wofür wir viel Zeit aufgebracht haben, simpel erlernbar und abbildbar ist.Die fast viel größere Kränkung, die auch zum Beispiel in diesem Film Hör eben dargestellt wird.Wo das Hör, der Film handelt ja davon, dass ein Mann mit einer AI-Begleiterin,dass er sich in die verliebt.Und das zeigt ja im Prinzip auch die Banalität unserer Emotionen auf eine Weise.Dass du, dass da jemand nur ein paar nette Sachen sagen muss und einfühlsamist und dann funktioniert das. Dasist etwas, was Psychotherapeutinnen und Therapeuten lernen und trainieren.Das ist deren Job, Beziehungen mit Menschen einzugehen und deren Emotionen dahinzu steuern, dass die sich irgendwie bereit fühlen, über bestimmte Dinge zu redenoder die zu reflektieren oder bestimmte Einsichten zu bringen.Das geht, das funktioniert. Das heißt, wir sind gar nicht so geheimnisvoll undirre und einzigartig, wie wir uns gefühlt haben.Das könnte ich mir vorstellen, was da so diese Dekränkung ist.Und vielleicht ganz kurz noch, es gibt in der in der Psychologie das irre Phänomen,das wird auch bei den ganzen Machine Learnern die ganze Zeit,der kluge Hans. Kennst du den klugen Hans? Das war ein Pferd.Kluge Hans war ein Pferd. Und der kluge Hans konnte zählen.Der Eigentümer für den Klugen Hans hat den da irgendwie hingestellt,dann stand vor dem Pferd so ein Brett,wo das mit dem Huf draufhauen konnte und dann haben die die Tafel hingehalten,eine Zahl drauf gemalt und dann hat das Pferd genauso oft geklopft,bis es bei dieser Zahl angelangt war.Ja, dann hast du eine 5, dann hat das Pferd 5 mal geklopft. 10,dann hat das Pferd 10 mal geklopft.Und das wurde natürlich auch in Zweifel gestellt von vielen,ja, aber es hat eigentlich, es hat funktioniert und es hat...Gut funktioniert, wenn der Eigentümer nicht dabei war. Wenn ich die Geschichtejetzt richtig erinnere.Aber es funktionierte nicht mehr so gut, sodass man irgendwann auf den Trichter kam.Also der Mann war kein Betrüger, er war auch selber davon überzeugt,dass er seinem Pferd das Zählen beigebracht hat.Was dann sich durch Experimente herausgestellt hat,ist, dass dieses Pferd gelernt hatte, Menschen sehr genau zu beobachten undeinfach dann aufzuhören, wenn die dieses komische Zeichen machen,was sie halt machen, wenn du, wenn das Pferd die richtige Zahl getippt hat.Und dann wurde, aber jetzt ist die Konsequenz, die Überlegung daraus ist,haben die jetzt, war das ein doofes Pferd oder hatte das vielleicht viel größere kognitive Leistungen,weil es einen Skill gelernt hat, der ihm als Pferd nun wirklich nicht gegebenwar und auch nicht notwendig war oder nicht angeboren war,den es wirklich gelernt hat, nämlich Menschen so genau auf nonverbale Signale von,oh jetzt ist er, jetzt gleich ist er da, jetzt ist er da, krass,oh bloß nicht weiter tippen, dass das Pferd das, diese minimalen Wahrnehmungenhatte oder diese minimalen Zeichen wahrgenommen hat, die Menschen nicht wahrgenommen.Weil zu zählen ist für das Pferd ja völlig, also absoluter Quatsch,warum soll es Zahlen lernen?Also war das nicht eigentlich sogar schwerer, die Leistung, die das Pferd davollbracht hat, als das blöde Zahlensystem zu lernen, was die Menschen sich da ausgedacht haben.Das fand ich, finde ich ein schönes Beispiel dafür, was erstens diese Modellevielleicht in Wirklichkeit lernen, vielleicht was ganz anderes,aber sie simulieren, es kommt etwas anderes dabei raus.Also die Leute dachten, das Pferd kann zählen. Es hat in Wirklichkeit etwasganz anderes gelernt. Und die Frage ist, ist das jetzt klüger oder weniger klug gewesen. Finde ich.Wirklich eine faszinierende historische Situation, in der sehr viel steckt überIntelligenz und über auch das, was Menschen sich vielleicht einfach auf sich selber einbilden.
Tim Pritlove
Das Pferd genau das gleiche gemacht wie jetzt diese Machine Learning Systeme.Also auch die kleinsten Signale waren hier sozusagen in der Lage ein bestimmtes Verhalten zu triggern.Signale die man so vielleicht erstmal selbst nie so aufgenommen hat.So könnte man ja im Prinzip auch selber gut rechnen.Solange es sich allerdings alles in einem Aufgabenraum befindet,wo die ganzen Beobachter, die ich beobachte, das auch können.Weil wenn die das nicht können, dann kann ich denen auch nichts ansehen.
Linus Neumann
Ja naja, der Kluge Hans, super Phänomen habe ich jetzt schon relativ viel ausunserem Vortrag verraten.
Tim Pritlove
Worauf wollen wir hinaus?
Linus Neumann
Ah ja genau, also die, das ist ja jetzt eine Gefahr für den Arbeitsmarkt undfür die Gesellschaft und deswegen muss das reguliert werden.
Tim Pritlove
Die Pferde nehmen uns die Taschenrechner weg.
Linus Neumann
Und es gibt ja, die wollen ja tatsächlich eine KI-Verordnung machen.Und da geht es dann aber zum Beispiel um, das haben wir auch hier behandeltdamals, das Amazon hat so eine KI trainiert, die haben im Prinzip die Bewerbung genommen.Die haben eingehende Bewerbungen gehabt und dann haben sie nachher geguckt,okay, wer sind denn die Leute, die am Ende bei uns Jobs bekommen?Dann haben sie einfach, das ist ja auch, dann hast du wieder viele, viele Daten.Dann lernst du, trainierst du mit einem neuronalen Modell, das sagt dann irgendwie,alles klar, hier alle Bewerbungen rein und am Ende weißt du ja,wer hat am Ende einen Job bekommen. Das hast du ja quasi digital vorliegen.Das heißt, da hat eine große Menge gut gelabelt.Das Problem, nämlich wen stellen wir hier an und wen nicht? Kann man vielleichtan der Hand der high-Ring-KI schon Vorhersagen treffen, damit wir bessere Vorstellungsgespräche führen?Vielleicht können wir der KI ja irgendwas beibringen, was wir in den Vorstellungsgesprächen,was wir nicht sehen, aber die KI sieht es.Und die Hoffnung war dann, dann hat man mehr Vorstellungsgespräche mit Leuten,die man am Ende auch nimmt und weniger Vorstellungsgespräche mit Leuten,die man nicht nimmt und hat damit einen besseren High-Ring-Prozess.Und dann haben sie sich überlegt, ja, es wäre auf jeden Fall schlecht,wenn diese KI jetzt zum Beispiel gegen Frauen diskriminiert oder gegen Menschenbestimmter Hintergründe oder so.Also nehmen wir diese Information raus, die geben wir dem einfach nicht.Dann lernt er das bestimmt nicht.Am Ende war aber diese KI, die sie da hatten, halt sexistisch.Warum war sie es? Naja, weil die High-Ring-Abteilung von Amazon sexistisch warUnd der Bias halt in den Daten war.Woran hat das Ding gesehen, wer Mann oder Frau ist, weiß der Geier.Es hat es erkannt. Es hatte potenziell wahrscheinlich so,erkennst du dann an den Hobbys oder an der Lücke im Lebenslauf oder an den Schulen,an denen die Leute waren, ob sie aus welchen Bereichen der Stadt sie kommen.Kommen sie aus den reichen Bereichen oder den armen.
Tim Pritlove
Haben die sich nur Metadaten angeschaut oder auch Gesprächsprotokolle?
Linus Neumann
Ich glaube nur die Bewerbungen, weil die mussten das Ding ja auf Bewerbungentrainieren, weil sie wollten ja eingehende Bewerbungen danach kategorisieren.
Tim Pritlove
Okay, aber die Bewerbungen enthielten aber von denen selbst erstellten Text vermutlich.
Linus Neumann
Gehe ich von aus. Die konnten sie ja nicht mit Chat-GPT machen.
Tim Pritlove
Genau und ich denke, dass du aber schon an der Sprache, an diesen Texten kannstdu wahrscheinlich schon zwischen Männern und Frauen unterscheiden,welche Worte verwendet wer da so.
Linus Neumann
Da gibt es tausend Möglichkeiten, wir wissen es nicht, weil das Ding hat dieimplizit gelernt, ja? Ergebnis war...Mit den Amazon-Entscheidungen, die da getroffen wurden und jetzt war die sexistisch.So, und dann hast du jetzt eine sexistische KI, was machst du?Schaltest sie sofort ab und ersetzt sie natürlich einfach wieder durch normale,lebendige Sexisten, weil das ist ja dann in Ordnung.Genau das ist dann passiert. Oh nein. Und das ist jetzt auch das,worüber wir gerade die ganze Zeit reden.Wenn wir jetzt hier fehlerhafte Algorithmen haben und Fehler in den Daten unddann haben wir hier Diskriminierung durch KI und am Ende muss es aber ein Menschentscheiden und so, da kommen dann irgendwie diese ganzen Ethiker,die nicht damit klarkommen, dass jetzt eine Maschine die gleiche Entscheidung trifft.Und ich finde das irgendwie lustig. Natürlich überspitze ich das jetzt auchironisch. Ich bin jetzt kein Freund davon, dass wir sofort alle möglichen Entscheidungendurch Maschinen treffen lassen.Insbesondere bei dem stumpfen Glauben, den viele Menschen haben.Sobald der Computer sagt No, dann ist es eben auch No.Und natürlich ist das gefährlich, solche Entscheidungssysteme zu bauen,aber ich denke, zu sagen, am Ende muss ein Mensch die Entscheidung treffen,ist wirklich nur die halbe Wahrheit. Das ist aber nicht die Lösung.Der Mensch hat ja im Zweifelsfall, ist das der Rassist oder Sexist,dessen Daten das Ding irgendwann mal trainiert haben.Hilft genauso wenig wie ein Richterinnenvorbehalt bei allen möglichen Problemen.Aber das sind das, worüber man sich gerade bei dem AI-Act so,ja und KI ist gefährlich und wir möchten nicht, dass KI Entscheidungen über uns trifft.Am Ende muss es ein Mensch sein. Ich weiß nicht, ob das wirklich die Debattensind, die am Ende mal relevant sein werden. Ich weiß es nicht.Vielleicht sind sie es auch. Was denkst du?
Tim Pritlove
Naja, ich meine, das interessante ist ja, dass sie der Meinung waren,dass die Entscheidungen, die sie früher schon gefällt haben,gute Entscheidungen waren.
Linus Neumann
Ja, genau.
Tim Pritlove
Aber vielleicht haben sie sich einfach über Jahrzehnte nur totale Volltrottelund irgendwie Selbstdarsteller und was weiß ich für Menschen eingetreten,die gar nicht so die beste Wahl waren und dann haben sie sich sozusagen in ihrerVorstellung, wie sie ihr System trainieren müssen, davon leiten lassen,dass ja früher schon immer alles super war und genauso soll es immer bleiben.Also die Kriterien sind einfach die falschen gewesen. Mal ganz unabhängig vonirgendwelchen diskriminierenden Aspekten, weil natürlich diskriminierst du,dass es genau das Richtige war.Um eine Entscheidung zu fällen, um zwischen verschiedenen Leuten zu entscheiden,wen du denn jetzt haben möchtest. Natürlich das ist Diskriminierung.Nicht in einem negativen gesellschaftlichen Sinne, sondern in einem technischen Sinne.Und du musst natürlich irgendwas heranziehen und ich kann mir sehr gut vorstellen,dass ein Trainingsmodell helfen kann.Die eigentliche Frage ist, wie trainierst du das? Womit trainierst du das?Was sind deine leitenden Elemente? Und so könntest du halt unter Umständen,wenn du richtig trainierst, genau den gegenteiligen Effekt erzielen,weil du auf einmal Dinge gewichtest, die vorher einfach von den ganzen Personalernso nie gewichtet wurden.Bloß wo man diese Wahrheiten herauszieht, das ist so eine Frage,das sind aber alles Dinge, die müssen aber in den Daten sein,ja genau, aber wenn sie da nicht drin sind,dann hast du halt Pech, klar, aber vielleicht entstehen ja solche Daten irgendwie,also wir stehen ja mit diesem ganzen Ding noch total am Anfang,also ne, Ich kann mir gut vorstellen, dass es irgendwann mal was gibt,was man mal in puncto KI vielleicht regulieren muss.Kann sein. Aber ich bin mir relativ sicher, dass derzeit noch niemand eine Ahnunghat, was das sein müsste. Weil das einfach alles noch viel zu schnell geht.Wir werden jetzt, ich meine wir haben vor einem Jahr, da haben wir zwar schonüber Shitter gesprochen oder Twix, aber das...Bestenfalls am Rande irgendwo. Das ging dann so gegen Ende des Jahres los.Und seitdem kriegst du die Tür nicht zu mit dem Thema. Warum?Absolut berechtigt, weil das wirklich eine Technologie ist, die einen Unterschied macht.Also das ist echt so, KI ist quasi wie, ach das ist immer ein bisschen schwierigmit diesen Vergleichen, aber KI ist würde ich sagen in der Kategorie Internet.Also die Zeit vor dem Internet und nach dem Internet, da müssen wir auch nichtlange drüber reden, das ist einfach komplett alles, alles ist auf einmal anders.Und genau so ist das jetzt irgendwie mit KI. Und das ist wirklich so.Also natürlich gibt's jetzt ja auch viel Hype und natürlich gibt's da eine ganzeMenge Leute, die jetzt auf diesem Hype-Train auch irgendwie abfeiern,aber es ist jetzt nicht so ein Schwachsinn wie Blockchain, was wirklich dergrößte … Alles geändert.Ja scheiß hat das. Blockchain, warte mal ehrlich, jetzt sehen das doch alle oder?Das das einfach alles nur Unsinn war? Nichts ist passiert. 15,Jahre Gerede, Effekt null nada, zero, niente, ria und da sind wir jetzt.Und jetzt hier irgendwie KI, this is the real thing. Da passiert was.Da hat sich jetzt schon alles geändert.Mein Workflow hat sich geändert. Ich arbeite damit laufend täglich.Du wahrscheinlich auch oder? Mal ehrlich.
Linus Neumann
Kann ich jetzt nichts zu sagen. Naja ich tu das. Leute zu, mit denen ich arbeite.
Tim Pritlove
Naja, ich meine, damit arbeiten, gerade, ich würde ja meinen im Security-Bereich,also da habe ich schon viel von gehört, dass das ein richtiges Thema ist.Aber davon mal abgesehen, was du machst, für meinen kreativen Prozess ist daseine super Hilfe. Also vor allem.Das Beispiel direkt hier aus unserem Dialog heraus. Du hast Bernoulli-Brettgesagt und ich so Bernoulli-Brett.Google irgendwie Bernoulli-Brett? Nee, weiß ich nicht, keine Ahnung.Chat-GPT gefragt? Kenne ich nicht, weiß ich nicht, gibt's nicht. Das ist mir so okay.Chat-GPT weiß nicht, was ein Bernoulli-Brett ist. Hier ist doch was falsch.Und dann habe ich kurz so deine Beschreibung eingegeben, ich kann auch kurzsagen, was ich mal kurz eingetippt habe so nebenbei.Ich hab da gesagt, wie nennt man die Verteilung von Kugeln, die ein Nagelbrett herunterfallen?Venue-Verteilung. Das hab ich da reingemacht so. Und dann sagt er,ah jetzt verstehe ich, wir sprechen von dem Galton-Brett, bla bla bla und soweiter. San Francis Galton im 19.Jahrhundert und so weiter. Ich hatte den Begriff nicht parat,aber ich hätte den jetzt auch nicht so ohne weiter, also klar,da hätte ich mich schon irgendwie ein bisschen durchgoogeln können,nur ich musste jetzt wirklich nur einen Satz schreiben.Und das ist einfach sehr hilfreich und vor allem sehr hilfreich,um was zu finden, von dem man weiß, dass es existiert, aber man weiß verreckendnicht, wie es heißt. Also dafür benutze ich das laufend.Immer so dieses, ah was war das nochmal, wie hieß das nochmal,oh scheiße, irgendwie, das war so, wo man das macht und das macht und das machtund genau diesen, diesen fällt mir nicht mehr ein Effekt so,das kann ich damit wunderbar abdecken, also für mich ist das wie eine Brille.
Linus Neumann
Sie auf die Forderungen eingehen von VZBV und Amnesty International an den AIAct oder sagen wir einfach okay wir haben jetzt zweieinhalb Stunden oder so,das nicht geschafft und wir geben jetzt auf.
Tim Pritlove
Was wollen die denn?Das bin ich auf Temperatur, was wollt ihr denn? Ihr wollt mir mein Chachipiti wegnehmen oder was?Was fällt euch ein?
Linus Neumann
Also es gibt den AI-Act.Also natürlich hat diese Technologie, also ganz einfach gesagt,weil sie einen großen Datenbedarf hat, hat sie natürlich Datenschutzimplikationen.Wir haben ja auch schon über die Diskussion zum Beispiel über Copyright gesprochen,dass sich jetzt Künstlerinnen und Künstler darüber Gedanken machen,wie sie verhindern können, dass ihre Bilder zum Training von solchen Modellengenutzt werden und so weiter.Das heißt, alle traditionellen Bereiche, die durch das Internet ins Wanken geratensind, Datenschutz, Urheberrecht, die schwellen natürlich jetzt auch wieder an.Und dann natürlich noch dieses mit dem Entscheidungstreffen und so weiter.Und mein Einstieg in das Thema Regulierung war ja dann auch mit dem,was wenn man da jetzt Entscheidungen dran knotet und so weiter.Jetzt will der spanische Ratsvorsitz mal wieder, genauso wie bei der Chat-Kontrolle,die weiteren großen Fragen der AI-Verordnung klären und jetzt sagen wir malweniger, was die klären wollen, sondern womit Leute unzufrieden sind.Ich zitiere aus einem Artikel von Lena Rohrbach, die ist bei Amnesty InternationalReferentin für Menschenrechte im digitalen Zeitalter und Rüstungsexportkontrolle.Sie sagt also, Gesichtserkennung und andere inakzeptable Technologien sollen verboten werden.Da geht es jetzt insbesondere natürlich auch im öffentlichen Raum und in dersogenannten intelligenten Videotechnologie.Da gibt es ja diese ganzen Diskussionen, wo Gesichtserkennung im Prinzip undÜberwachungsmethoden hier,Verdacht auf Drogenhandel, in diesem ganzen Bereich, da soll also mindestensGesichtserkennung, wenn nicht auch dieses Predictive Policing,eingedämmt werden, verhindert werden.Dann KI-Einsatz durch Behörden darf kein Geheimnis sein. Da gibt es wirklichein ganz krasses Beispiel, dass in den Niederlanden haben wir tatsächlich irgendwannmal durch einen Fehler 20.000.Leute eine hohe Summe an Kindergeldrückzahlungen bekommen, weil die in irgendeinemAlgorithmus durchgedreht ist. Und das ist natürlich, also jetzt lachst du darüber,aber wenn jetzt irgendwie, wenn eine Behörde dir schreibt, wir kriegen noch Geld von dir.Und wenn da irgendein Algorithmus durchgedreht ist, dann hilft dir das auch nicht, ne?Das heißt, KI-Einsatz durch Behörden darf kein Geheimnis sein,muss also kontrolliert werden.Und das wird gerade insbesondere an diesem Beispiel der niederländischen Steuerbehörde,die den Leuten auf einmal Geld wieder wegnehmen wollte, klar gemacht. Aber Lust geht.Drittens, kein Blankoschein für Missbrauch unter dem Deckmantel nationale Sicherheit.Da wären wir im Prinzip nicht weit von dem, was gerade mit der Chat-Kontrollegemacht wird, oder versucht wird, dass also mit technologischen HeilsversprechenÜberwachungstechnologien ausgerollt werden sollen.Dann soll, im AI-Act ist entscheidend, Hochrisiko-KI.Und das muss natürlich klar definiert sein. Wann ist etwas mit hohem Risiko verbunden?Und dann soll es stärker reguliert werden, um die Risiken noch stärker zu begrenzen.Ein Beispiel wäre, ist jetzt diese Kindergeldnummer da in den Niederlanden,ist das schon Hochrisikokategorie KI oder nicht?Hier geht es also darum, die EU-Kommission hat dafür eine Definition vorgeschlagen,aber da soll es halt keine Schlupflöcher drin geben, damit jetzt nicht irgendwelcheStart-ups benachteiligt sind oder große Unternehmen irgendwie.Können. Also Hochrisiko-KI soll ohne Schlupfloch erstmal klar reguliert werden.Und Grundrechtsfolgeabschätzungen sollen vorgenommen werden,dass man also bei den Hochrisiko-KI-Systemen die Leute verpflichtet,dass vernünftige Abschätzungen für Grundrechtseinschränkungen vorgenommen werdenund eben potenziell den Grundrechten mehr Vorrang gegeben wird vor dem Geld,was die Leute mit ihrer KI verdienen wollen.Das ist bitter, ja, das ist eine bittere Einschränkung, aber wird man hoffentlich mit klarkommen.Der Verbraucherzentrale Bundesverband konzentriert sich ein bisschen auf einer anderen Ebene.Die sagen also erstens, haben die Betroffenen ein Recht auf Auskunft und Erklärung,wenn sie also von Hochrisiko-KI betroffen sind und dann können sie sagen,welche Daten werden hier verwendet? Wie ist diese Entscheidung zustande gekommen?Ja, da muss man natürlich sagen, welche Daten verwendet sind,wie die Entscheidung zustande gekommen ist. Wenn man jetzt hier Betroffene vonder High Ring KI von Amazon ist, ist das schwierig.Aber ich denke, sicherlich ist es nicht falsch, hier ein Recht auf Beschwerdeund Transparenz zu haben.Dann möchten Sie einen Schutz vor Manipulation und Ausnutzung persönlicher verschwächen.Da geht es jetzt schon direkt in diesem Bereich. Wenn menschliches Verhaltenin Echtzeit analysiert wird, werden Menschen situativ verwundbar.Beispielsweise könnte eine Person, die zu Spielsucht neigt, gestresst ist oderso, von einer KI erkannt werden und dann darf das nicht ausgenutzt werden. Ja, ja.Also ich meine, Spielsüchtige werden schon auch so durch das Aufstellen vonSpielautomaten für Spielsüchtige ausgenutzt.Da sind wir also immer an so