Feedback — Kommissionspropaganda — Google zahlt für #1 — Meta und personalisierte Werbung — Jabber.ru MITM
Da der Rücklauf in Kommentaren zur letzten Sendung so umfangreich war gehen wir heute wieder ausführlich auf Euer Feedback ein und führen dabei den einen oder anderen Gedanken weiter. Dabei geht es natürlich im Schwerpunkt wieder um diverse Aspekte der KI und wir haben auch den Eindruck, dass diese Debatte noch lange nicht abgeschlossen ist. Dazu noch ein paar Kurzmeldungen, eine Diskussion um erzwungene Werbung und ein paar musikalische Leckerbissen und eine Überraschung am Ende.
Linus Neumann
Tim Pritlove
Für diese Episode von Logbuch:Netzpolitik liegt auch ein vollständiges Transkript mit Zeitmarken und Sprecheridentifikation vor.
Bitte beachten: das Transkript wurde automatisiert erzeugt und wurde nicht nachträglich gegengelesen oder korrigiert. Dieser Prozess ist nicht sonderlich genau und das Ergebnis enthält daher mit Sicherheit eine Reihe von Fehlern. Im Zweifel gilt immer das in der Sendung aufgezeichnete gesprochene Wort. Formate: HTML, WEBVTT.
Transkript
Tim Pritlove
Guten Morgen Linus.
Linus Neumann
Guten Morgen Tim.
Tim Pritlove
Wusstest du schon, wo es Internet gibt, gibt es Ruhm und Träume.
Linus Neumann
Ja vor allem Träume wahrscheinlich dann, ne?
Tim Pritlove
Logbuch Netzpolitik Nummer 474 vom, was haben wir denn heute, 2.November 2023 und uns gibt's jetzt seit zwölf Jahren.
Linus Neumann
Stimmt, letztes Wochenende.
Tim Pritlove
Ja, hab ich wieder mit so einem KI erzeugten Bild gefeiert. Auf Mastodon.
Linus Neumann
Ja, das hab ich sogar gesehen.
Tim Pritlove
Wie man das so macht heutzutage.Und ja, mehr gibt's dazu eigentlich auch nichts zu sagen.
Linus Neumann
Habe ich retweetet auf Mastodon.
Tim Pritlove
Brav, brav, brav, brav.
Linus Neumann
Retootet oder wie heißt das denn? Da muss man ja aufpassen.
Tim Pritlove
Ich bin dafür, dass man das Retweet nennt. Weißt du warum?
Linus Neumann
Ja ich nenn's auch so.
Tim Pritlove
Weil dieses ganze wir müssen das anders nennen als Twitter Ding ist ja jetzt eigentlich durch.Also kann man das jetzt so ein bisschen wie mit Tempotaschentuch und so weiter handhaben.
Linus Neumann
Hätte man auch vorher schon machen können.
Tim Pritlove
Hätte man, hat man wahrscheinlich auch schon. Ich kann auch auf Bing googlen.
Linus Neumann
Klar kannst du auf Bing googeln und das ist auch völlig in Ordnung wenn du das machst.
Tim Pritlove
Ja man kann aber nicht auf Google bingen. Also es ist schon relativ klar wasgemeint ist und wenn man jetzt retweetet, es gibt so viele gute Retweet Witze auch.
Linus Neumann
Ja das ist, man muss ja auch nicht alles, also diese, also Mastodon,in allen Ehren, aber mit dieser ganzen Benennung haben die einfach kein glückliches Händchen.Du nennst das Ding Mastodon und dann muss man da tooten und dann retooten unddann tröten und dann darfst du nicht Twitter sagen, dann musst du Birdside sagen, das ist...
Tim Pritlove
Tut ist doch im amerikanischen Sprachgebrauch auch die Bezeichnung für einen kleinen Pforz.
Linus Neumann
Das kann gut sein.
Tim Pritlove
Ja. Würde mich nicht wundern. Hast du das schon repforzt?
Linus Neumann
Ja, wenigstens haben sie nix mit Fist gemacht oder so.
Tim Pritlove
Lassen wir das, vertiefen wir das nicht. Ich wollte dir ein Gedicht vorlesen,um mal herauszufinden, was denn?
Linus Neumann
Achso, ich wollte mich noch fragen, wann die Auflösung kommt,warum es Ruhm und Träume beim Internet gibt, aber das ist wahrscheinlich jetzt die Auflösung, ne?
Tim Pritlove
Quasi, ja, genau.
Linus Neumann
Ja, will ich hören.
Tim Pritlove
Also, es fängt so an. Mit Loyalität und Hingabe wachen wir Tag und Nacht überunser Gebiet, um unserer Mission zu dienen, während die Sonne im Osten aufgeht.Jeden Tag schaffend mit Innovation und seine Helligkeit umarmend wie ein Strahl der Integrität,der dein Herz bewegt, vereinen wir die Kraft aller Lebewesen,leisten einen Beitrag zum globalen Dorf, um es in seiner schönsten Form zu entwickeln.Das ist die erste Strophe? Und dann geht's weiter. Eine Internetmacht.Wo es Internet gibt, gibt es Ruhm und Träume. Eine Internetmacht.Vom fernen Kosmos bis zu den Häusern, die wir vermissen.Und jetzt muss ich dich fragen, ob du schon irgendeine Ahnung hast,wovon ich hier rede, weil alles andere würde es jetzt schon ein bisschen aufdecken.
Linus Neumann
Von uns. Wahrscheinlich ein Gedicht über uns.Also es handelt von Ruhm und Internet, also dachte ich mal direkt Tim und Linus.
Tim Pritlove
Ja also das ist jetzt von mir so ein bisschen hilfsübersetzt,aus dem englischen, was wiederum aus einer anderen Sprache übersetzt wurde,damit man es auf englisch zur Erkenntnis nehmen kann.Und der Titel der da kolportiert wird ist The Mind and Spirit of CyberspaceSecurity. Der Geist und die Seele der Cyberspace Sicherheit.
Linus Neumann
Ja, das singe ich morgens immer auf dem Weg zur Arbeit.
Tim Pritlove
Wirklich? Ja, ja klar. So ungefähr hier so irgendwie so.Also, um es aufzuklären, das hier ist sozusagen die Haushymne der chinesischenCyber Security Agentur.
Linus Neumann
Der Chinesischen? Aha. Ja.
Tim Pritlove
Es geht nämlich weiter mit eine Internetmacht. Sie erzählt der Welt,dass der chinesische Traum China aufrichtet.Eine Internetmacht. Jeder einzelne repräsentiert die ganze Nation.Du kannst dir vorstellen, da gibt's ein passendes Video, das werden wir ja amEnde auch nochmal akustisch einblenden.Da stehen sie dann in so einem großen Chor und singen von der großen Kraft undFreude, die ganze Cybersecurity Tätigkeit macht in diesem Universum,so wie alle Flüsse treu nach dem Meer suchen.So tragen sie Chinas große Kultur und messen Chinas Größe und so weiter.Also es ist vollkommen überdreht und manchmal weiß ich echt nicht,was ich von den Chinesen so halten soll, um ehrlich zu sein.Aber man muss ihnen ja lassen, fett auftragen.Können sie wirklich richtig gut.Also die machen echt immer gleich so eine ganz dicke Nummer.
Linus Neumann
Das ist aber doch bei jeder Hymne so.
Tim Pritlove
Ja aber nicht nur bei Hymnen. Also generell machen sie alles immer so unglaublichgroß und pompös und tralala und hauen alles raus und ich meine so Olympia,du erinnerst dich, solche Events.
Linus Neumann
Erinner ich mich nicht.
Tim Pritlove
Man kann ja alles scheiße finden was sie machen, aber man muss ihnen zumindestzugestehen, fett kriegen sie irgendwie gut hin.Ich erinnere mich noch an diese Olympiade, nicht dass ich mich besonders dafürinteressieren würde, ich hab's aber trotzdem mitverfolgt.Dann haben sie ja erstmal krasse Stadien gebaut und dann allein schon dieseEröffnungsfeier, die sie da abgezogen haben, das war so over the top,das war von allem einfach viel zu viel, aber halt irgendwie auch krass.Also das ist einfach, jetzt guckst du dir das an und denkst ja nur so,ihr habt sie doch nicht alle.Aber nein sie müssen Chinas Größe ins Universum raus demonstrieren.Und unter anderem, ich frage mich, ob die bei der NSA auch so einen Song haben.
Linus Neumann
Was hat denn, Private Manning hat doch irgendwie auf die CD was drauf geschrieben.Ich glaube da stand drauf Britney Spears oder sowas. Der Rohling quasi,um die Daten aus diesem Geheimraum zu exfiltrieren, da stand Britney Spears drauf oder sowas.
Tim Pritlove
Achso, Oops I did it again oder was?
Linus Neumann
Ich weiß es nicht. Gerade im militärischen Bereich musst du dir doch jetzt wirklichbei den Amerikanern keine Sorgen machen,dass die es versäumen dick aufzutragen oder theatralisch von Heldentaten zu singen.Also ich weiß, ich habe ja mit einer,ich habe ja in den USA gelebt und ich habe da mit Familien gelebt,die auch Leute zum Militärentsand hatten, ja also und dadurch habe ich auchirgendwie so Airbases und so irgendwelche Bootcamp Abschlusszelebrationen und so.Jedes fucking Basketball Team einer Highschool wird einmarschiert mit ner Marching Band.Also, ähm, bzw.Basketball begleitet die Band beim Football, marschiert sie dann auf,also marschiert wir traditionell auf Fußballfeldern, also ein pisseliges HighschoolFootball Match wird da zelebriert.Da kommt dann irgendwie die schönste Schülerin der Woche und muss die Hymne singen.Ja, also da kannst du jetzt nicht die Amerikaner nicht auch würdigen in ihrem Dickauftrag.
Tim Pritlove
Ne, also definitiv sind sie auch im Club der Dickauftragenden,da sind sie ganz gut, aber da steht ihnen halt China auch in nichts nach undich würde halt sagen, man erinnert sich an diese Drohnenmalerei im Himmel,das haben die Chinesen zuerst gemacht.
Linus Neumann
Feuerwerk auch.
Tim Pritlove
Ja, genau. Feuerwerk auch. Siehst du mal. Guter Punkt. Das meine ich.
Linus Neumann
Nur die haben sich dann irgendwann mal weiterentwickelt.
Tim Pritlove
Wer jetzt? Die Amerikaner?
Linus Neumann
Nee, die Chinesen haben sich weiterentwickelt. Die Amerikaner?Immer weiter bumm bumm bumm.Und Deutsche auch. Knall, knall, toll. Hier Finger ab und weiter.Nee die Schleser haben irgendwann gedacht, nee machen wir besser.Okay, aber also dürfen wir das auch singen oder wie bist du jetzt da drauf gekommen?
Tim Pritlove
Mir ist es so über den Weg gelaufen und ich dachte mir das könnte man ja malgewinnbringend machen.Aber bevor ich jetzt, ich hatte schon vor diesen kurzen Clip anstatt des Introszu spielen, aber da ja alles so verstört war.Was ich ja irgendwie auch ganz charmant finde, dass ich mir so… Nein,hab ich ja auch nicht gemacht, ich hab's so gemacht.
Linus Neumann
Man kann sich auch mal entschuldigen, wenn man zu weit gegangen ist.
Tim Pritlove
Komm.
Linus Neumann
Ihr könnt das schon ver...Vincenz, bezüglich des anderen Intro-Sounds, ich dachte kurz mir ist der Bordcomputervom Auto abgeschmiert oder mein Telefon explodiert gleich,alles während ich mich in einer Autobahn-Kreuzung orientieren muss,wenn schon Linus geprankt werden muss, fände ich es gut als Hörer vorgewarnt zu werden.So, das ist einfach die strengste Zurechtweisung, die hier mit absoluter rechtlicherGrundlage vorgetragen werden.Autobahnkreuzung ist übrigens auch saugefährlich.
Tim Pritlove
Oh man.
Linus Neumann
Also Autobahnkreuzung, hoffentlich wenn dann wenigstens mit Ampeln.Aber so eine Autobahnkreuzung klingt auf jeden Fall gefährlich.
Tim Pritlove
Autobahnkreuzung mit Ampeln, das ist ein Widerspruch in sich. ichglaube die heißen autobahnkreuz oder genau abereine autobahnkreuzung ist nicht vorfahrt vonrechts also die definition vonautobahn ist dass es sich dabei um eine kreuzungsfreie fahrbahn handelt alsonicht dass man die cdu also man könnte natürlich mal langsamer anfangen dieautobahn zu kreuzigen also eine Autobahnkreuzigung wiederum, da wäre ich dann dabei.Naja, okay, also ich hab ja mit Leid ein bisschen, ne, ihr kleinen Schlüflocken,aber naja, ihr wollt es halt immer gleich haben, wie schön.
Linus Neumann
Dann haben wir ja relativ viel über Machine Learning und Deep Learning in derletzten Sendung gesprochen.Und da wurden natürlich allerlei Feinheiten sofort bemerkt,zum Beispiel, dass ich die ganze Zeit Machine Learning gesagt habe,aber Deep Learning beschrieben habe, was in meinen Augen eigentlich eine,also diese Aufteilung kann man natürlich machen,unter Machine Learning fällt im weitesten Sinne noch,Also Regressionsanalyse könntest du Machine Learning nennen oder einfache lineareModelle und Deep Learning ist halt das verschalten mehrerer,das was ich beschrieben habe, das verschalten mehrerer Layer.
Tim Pritlove
Das ist halt sozusagen die Version 2.0 davon, Machine Learning gab es auch schonvorher über Jahrzehnte und dann kam irgendwann der Knaller Deep Learning.
Linus Neumann
Genau, auch das gab es schon vorher, aber wie dem auch sei, aber auf jeden Fall finde ich ganz schön,wie sich in der Diskussion das widerspiegelt, der schreibt MG Berberich,Machine Learning wendet man dann an, wenn man das Problem, das man lösen möchte,nicht verstanden hat oder nicht verstehen will.Denn wenn man das Problem verstanden hätte, könnte man es modellieren und vieleffizienter und zuverlässiger konventionell lösen.Ein Großteil der KI-Aktivitäten, Forschung will ich das nicht nennen,besteht einfach darin, völlig hirnlos die Netze immer größer zu machen und übermehr Daten optimieren zu lassen, bis es irgendwann halbwegs funktioniert.Auch der Begriff lernen ist bei diesen Systemen unangebracht.Das, was die machen, hat mit Lernen, wie wir es von Menschen oder Tieren kennen, nichts zu tun.Das sieht man schon daran, dass einem Kleinkind ein paar Bilder einer Giraffeausreichen, um Giraffen zu erkennen.Während Machine-Learning-Systeme unendlich viele gelabelte Bilder brauchen.Und danach kann das Kind erklären, woran es eine Giraffe erkennt.Während beim ML-System niemand weiß, was die eigentlich machen.Das ist ein ziemlich ineffizienter, nicht-linearer Optimierungsprozess auf einemtypischerweise völlig überdimensionierten System.Und den Kommentar finde ich sehr gut, weil er ein paar Sachen sehr,sehr, sehr klar herausstellt, ein paar Sachen aber, naja, nicht so wirklich erklären kann, ne.Ich glaube, deswegen habe ich noch ein paar andere Kommentare reingenommen.Der Vergleich mit dem, mit dem Kleinkind, dem man ein paar Bilder einer Giraffezeigt und das kann dann erkennen, kann die dann erkennen, ja.Der ignoriert, dass das Kind zu dem Zeitpunkt schon drei Jahre Gehirnentwicklung hinter sich hat.Also auf dem Weg hat es schon sprechen gelernt, auf dem Weg hat es gelernt,was ein Tier ist, was eine Pflanze ist und so weiter.Und auf der Basis zeigst du dem Kind dann irgendwann drei Giraffen und das Kindsagt, es ist eine Giraffe.Also der Vergleich hinkt so ein bisschen,weil wenn wir auf eine spezifische Tätigkeit gucken,also Go spielen oder so, dann kann man sagen, wie oft hast du das jetzt gelernt,aber wenn du diese generalisierende Intelligenz eines Kindes nimmst,dann musst du dem Kind eben auch sagen, ja gut, der hat drei Jahre gebrauchtund die ersten paar Jahre oder die ersten paar Monate hättest du bei jedem Computerexperimentnicht weitergemacht, weil das einfach überhaupt nichts gelernt hat oder scheinbarüberhaupt nichts gelernt hat bzw.Die ganze Zeit nur gelernt hat und währenddessen gefüttert werden musste oder so.
Tim Pritlove
Nicht nur das, also es kommen ja auch noch ein paar Millionen Jahre Evolutiondes Gehirns dazu, also es ist ja jetzt auch nicht so, dass wir komplett beinull starten würden, sondern da ist ja auch schon das eine oder andere abgelegt in unserer DNA.
Linus Neumann
Da sind sensible Sensibilitäten und so. Aber genau, der Vergleich ist natürlichtrotzdem ganz gut. Und vor allem, was er sagt, ist ja richtig.Ein Großteil der KI-Aktivitäten besteht darin, einfach völlig hirnlos Netzeimmer größer zu machen und immer mehr Daten reinzuwerfen.Stimmt, auch das ist einfach mal wahr. Aber offenbar gibt es ein paar Leute, die es geschafft haben.Mit dieser Technologie gezielt umzugehen und faszinierende Ergebnisse zu schaffen.Also ich glaube, das verblasst jetzt,also das ist eine sehr gute Einschätzung der Machine-Learning-Aktivitäten generell,aber verblasst ein bisschen vor dem, was jetzt eben innerhalb des letzten Jahreseinige damit geschafft haben.Mit sehr viel Geld, mit sehr viel Ineffizienz, alles richtig.Aber gerade wenn man sich so diese Bildgenerierungsdinger anschaut,ja, dann realisieren die dann doch schon eine ganze Menge Dinge,die auch ein Kind nicht in drei oder zehn Jahren so schnell hinkriegt.
Tim Pritlove
Ja vor allem, das ist ganz lustig, die ganze Diskussion macht sich oft an diesen Bildern fest.Und dann haben wir über so Sachen wie Ton modifizieren und Stimmen nachspüren noch gar nicht geredet,aber wovon überhaupt keiner redet, was man so ein bisschen mal so nebenbei zur Kenntnis nimmt,ist, dass diese Systeme nahezu in jeder Sprache sprechen können und verstehenkönnen und irgendwie flüssig von einem Dialogteil zum nächsten,von der einen auf die andere Sprache sprechen.Also ML Deep Learning hat es mal eben geschafft in den letzten Jahren diesesgenerelle Bubblefish Problem zu lösen.Das ist vielleicht jetzt noch ein Hauch ganz kurz zu früh, aber wir sind dasehr sehr weit gekommen auf einmal.Es gab da einen riesen Schub, das war bis vor kurzem noch ein echtes Problemund für Übersetzer gab es ein paar spezifische Programme hier und da.Und dann kam als erstes DeepL und jetzt mittlerweile nahezu alle Large LanguageModels hinterher, die das einfach hervorragend hinbekommen.
Linus Neumann
Und genau das meint nämlich Marc, wenn ich den Kommentar ganz kurz einstreue,halte deinen Gedanken, sonst nimmst du den Kommentar weg.Er antwortet nämlich auf den M. G.Berberich, denn wenn man das Problem verstanden hätte, könnte man es modellierenund viel effizienter und zuverlässiger konventionell lösen. Darauf antwortet er.Nur, dass dieser Ansatz in den letzten Jahrzehnten zuverlässig in eine Sackgassegeführt hat. Nimm das Beispiel Sprachverarbeitung.Hier sind Erkennungsraten möglich geworden, von denen regelbasierte Ansätze nur träumen konnten.Und diese Modelle arbeiten nicht im Labor, sondern in hochskalierten,antwortzeitsensiblen Callcenter-Geschäften.Also genau das, was du sagtest, dass es nämlich irre Ergebnisse schafft und,Jetzt darfst du weitersprechen, weil ich nicht mehr weiß, was ich sage.
Tim Pritlove
Ja gut, also guter Hinweis und er geht ja sogar noch einen Schritt weiter mit seinem Beispiel,dass wir also sozusagen auch schon nicht nur so ein langsam vor sich hin tippendenChatbot haben, sodass man noch schön mitlesen kann, was mich ja persönlich andieser ganzen Geschichte am meisten freut.Das ist ja wieder so wie früher am Akustik-Koppler, also wo man noch die Zeichenlesen konnte, während sie übertragen wurden. Das hat schon was.Aber davon abgesehen sind wir jetzt eben schon im Realtime-Geschäft,deswegen ist vielleicht auch der Vergleich mit dem Babelfisch,also wer das nicht kennt,aus dem Buch Per Anatole durch die Galaxis, dieser kleine Fisch,den man sich ins Ohr steckt und der sich von, wie war das du gesagt,von Gehirnwellen ernährt und dabei sozusagen Sprache automatisch,so als Abfallprodukt übersetzt.Und ja, das wird jetzt wahrscheinlich auch so kommen.Also diese Airpods sind schon sehr nah dran, jetzt musst du das nur noch miteiner Software koppeln, die halt in Echtzeit übersetzt.Die gibt es im Prinzip auch schon. Also es gibt so Apps, Google Translate,pipapo, verschiedene Systeme.Ich hab mich jetzt mit dem Bereich nicht so spezifisch beschäftigt in letzter Zeit,aber das ist jetzt eigentlich nur noch eine Frage der Zeit, Ich fahre jetztin den nächsten Tagen nach Italien,mir wurde gesagt da wo ich hinfahre da spricht keiner Englisch,ich spreche kein Englisch,es gibt auch Spanien da sprechen die mittlerweile auch Englisch aber ich fahreja nach Neapel und mir wurde von jemandem der gerade in Neapel ist gesagt,Muss ja echt schon mit Italienisch oder Händen und Füßen sowas.Anderes gibts hier nicht.
Linus Neumann
Und jetzt gehst du mit deinen Airpods und deinem Google Translator hin.
Tim Pritlove
Ja genau. Und sage ich möchte diese Schallplatte nicht kaufen, sie ist zerkratzt.
Linus Neumann
Ich habe gar kein Auto, musst du den sagen.Ich möchte noch ganz kurz diesen Gedanken ein bisschen weiterführen mit dieser Sparverarbeitung,weil da kommentiert Luki Puki, Ähm, sagt also AlphaGo,AlphaGo Zero, bei der ersten gab es Trainingsdaten von menschlichen Spielen,ja, und ähm, die hat quasi schon mal als Intuition überhaupt mit menschlichem Handeln angefangen,ja, und dann haben sie eine nächste gemacht, die hieß irgendwie AlphaZero,der haben sie nur die Regeln gegeben und von Anfang an sie gegen sich selber spielen lassen.Und diese neuere Variante AlphaZero war anschließend besser als AlphaGo undwar schneller dort angelangt.Und jetzt kommt der entscheidende Satz. Es geht sozusagen um die traurige Erkenntnis,dass unser menschliches Wissen und wie wir Dinge verstehen eigentlich kontraproduktiv ist.Wenn wir also menschliches Wissen in solche Systeme reinprogrammieren,behindern wir die beim Finden von optimalen Lösungen.Ja, das ist wieder so eine menschliche kränkung von deroben geschrieben wurde nicht nur sind wir nicht die mittedes universums unser verständnis vom Universum isteigentlich kontraproduktiv wenn man wirklich das universum verstehenwill Hoffentlich denken die maschinen nicht hey wir sind eigentlich besser dranwenn wir die menschen erst mal platt machen und bei null anfangen Und dann hater noch das bin ich gerade übergangen ein cv von dir referenziert zu neuronalennetzen Acht Jahre oder so alt, ja.Ich zitiere mal, wie er die Situation erzählt, von irgendeiner Nationalbibliothekoder sowas, wo jahrelang schlaue Linguistinnen daran gearbeitet haben,dieses Wissen durch Computer zu verstehen, also die Sprache zu analysieren.Am Ende kamen AI-Leute mit Word2Vec, was einfach alle Daten einliest,ohne sich um die linguistischen Kategorien zu kümmern. Was ist ein Verb,was ist ein Satz, was ist ein Substantiv?Alle diese Modelle, die Menschen sich für das Verstehen von Sprache ausgedachthatten, ignoriert das einfach. Und das Ergebnis war viel besser als alles,was die schlauesten Linguisten in Jahrzehnten geschafft haben.Und es war extrem simpel.Liest also irgendwie nur ein kleines Fenster von aufeinander folgenden Wortenein und ist völlig egal ob das jetzt Sätze sind oder nicht.
Tim Pritlove
Genau, also ein schönes Beispiel, also dieses Word2Vec hat einfach den Texteinfach genommen und hat sozusagen die Struktur selber entdeckt.Vielleicht erinnert ihr euch auch noch an diese, es kommt auch aus der Zeit2013, 14, 15, da ging das mit diesen Deep Dreams los.Also es waren sozusagen diese ersten Deep Learning Algorithmen von Google,die dann mal visualisiert wurden, also wo man quasi dieses,wie soll man das beschreiben, also dieses Deep Learning, du hast das ja letztesMal schon so schön erläutert,ist dieses mehrstufige, immer tiefergehende und man muss sich das sozusagenso vorstellen, dass man eben den Daten immer mehr Abstraktion hinzufügt,so würde ich es mal sagen.Und das wurde dann in diesen Deep-Dream-Videos visualisiert,wo man erstmal durch so eine rauschende Pixelwolke durchgeht und dann auf derSuche nach Hunden und Katzen irgendwie auf einmal so ein permanenter Schwallvon Augen und anderen Körper identifizierenden Objekten auf einen zuströmen.Und das heißt dieses ganze wo ist irgendetwas, das können diese Machine Learning,Deep Learning Algorithmen mehr oder weniger von alleine herausfinden.Und das ist halt eigentlich das besondere daran, dass wir jetzt eine SoftwareTechnik haben, die in der Lage ist selber diese Strukturen zu sich zu erarbeiten.Und deswegen wirkt das eben auch so intelligent, weil.Man kann halt, wenn man so mit Chachipiti arbeitet, da kann man halt,einfach was weiß ich, Also das war wirklich so die Erkenntnis in dem Moment.Und da hat er finde ich auch sehr schön herausgearbeitet, dass da im Prinzip alles angefangen hat.Die Technik ist jetzt also ungefähr ein Jahrzehnt alt.
Linus Neumann
Und dann hat natürlich, wie sollte es anders sein, der kluge Hans kommentiert.
Tim Pritlove
– Der weiß immer Bescheid, der kluge Hans.
Linus Neumann
– Ich bin etwas überrascht, wie oberflächlich ihr auf den Wunsch nach KI-Regulierung eingeht.Aktuell ist die Situation so, dass jemand nachts eine Kiste Zauberstäbe aufden Dorfplatz gestellt hat.Nebst Schild viel Spaß.Sodass alle von der verantwortungsbewussten, akademisch gebildeten,queerfreundlichen Integrationsbeauftragten bis hin zum 15-jährigen,testosterongesteuerten Pickelpöbler mit Alkoholproblemen und Rechtsdreieck zugreifendürfen, egal ob sie damit bunte Blumen im Vorgarten sprießen lassen oder denDachstuhl des Nachbarn abfackeln.Ist es zu viel verlangt, dass man, bevor man eine potenziell so grundlegendverändernde Erneuerung auf die Allgemeinheit loslässt, sich Gedanken darübermacht, ob es irgendeine Art der Qualifikation seitens der Nutzer geben sollte.Das geht natürlich über eine rein juristische Definition hinaus in eine gesellschaftliche Betrachtung.Die Aussage Tims, dass eine Regulierung nicht die Ursache löse,greift doch viel zu kurz.Wir haben doch auch ein Strafgesetzbuch, in dem nur die Konsequenzen von Deliktenbetrachtet werden und dann zusätzliche Mechanismen,um zum Beispiel Kriminalität aus einer persönlichen Notsituation zu minimieren.Richtig. Überwachungstechnik wie Kameras sind immer kleiner und billiger gewordenund deswegen war die Konsequenz daraus nicht, alle Kameras zu verbieten.Aber trotzdem muss doch von Seiten des Gesetzgebers auf diese sich verändernde Situation.Beispiel Upskirting musste 1910 nicht reguliert werden, da der Fotograf es nurschwer geschafft hätte, sein Stativ und die Schuhkarton-große Plattenkameraunter dem Reifrock einer Dame zu positionieren, ohne dass die das gemerkt hätte.KI ist ein mächtiger Hebel, der alle Möglichkeiten positiv wie negativ verstärken kann.Da fände ich es doch sinnvoll zu diskutieren, ob man dafür eine gewisse Befähigungerlernen sollte oder ob die Nutzung auf bestimmte dafür ausgebildete und dafürauch verantwortlich machbare Kreise oder auch Bereiche begrenzt bleiben sollte.Zu guter Letzt sollte man nicht vergessen, dass die Bereitstellung dieser KI-Dienstenicht aus reiner Menschenfreude stattfindet, sondern dass alle daran beteiligtenFirmen in erster Linie ein Geschäft darin sehen.Ein Geschäft, das nicht aus einer reinen Dienstleistung besteht,sondern parallel auch im Erfassen persönlicher Daten und Nutzungsverhaltens.Wenn ich höre, dass inzwischen daran geforscht wird, beim Digitalkonsum direktauf das Gehirn zuzugreifen, natürlich nur, um den Service zu verbessern,indem man den Middleman, also das Eingabegerät, eliminiert.Heißt das also, indem man versucht, das Nutzerverhalten auch physiologisch festzuhalten,wie zum Beispiel früher bei Eye-Tracking, und damit für mich keine Möglichkeit mehr besteht,dem Computer meine Absichten oder Emotionen vorzuenthalten, wird doch klar,dass jede derart umwälzende technische Neuerung das Potenzial hat,das Leben nicht nur zu verbessern, verbessern, sondern auch zur dystopischenHölle werden zu lassen und es in entscheidendem Ausmaß davon abhängt, wer sie wie benutzt.Also stimmt, ich finde einen Aspekt ein bisschen gefährlich und das ist der,ich wiederhole das nochmal, KI ist ein mächtiger Hebel, der alle Möglichkeitenpositiv wie negativ verstärken kann.Da sollte man doch diskutieren, ob die Nutzung auf bestimmte,dafür ausgebildete und auch verantwortlich machbare Kreise oder auch Bereichebegrenzt bleiben sollte.Kreise, würde ich jetzt dann denken, heißt dann irgendwie Menschen,denen man dazu Zugang gibt?Und jetzt überlege ich mal, was passiert, wenn man zu einer so mächtigen Technologiejetzt nur wenigen Menschen Zugang gibt.Und nicht irgendwie allen. Dann bedeutet das ja, dass diese wenigen diese Technologieausnutzen werden, um die anderen auf jeden Fall nicht zu bevorteiligen.Also da bin ich mir echt nicht so sicher, ob das gut ist,so etwas von der Allgemeinheit fernzuhalten, um dann zu argumentieren,wenn man das von der Allgemeinheit fernhält, dann profitiert die Allgemeinheitmehr. Da bin ich noch nicht sovon überzeugt.
Tim Pritlove
Ja, ich meine jetzt sind wir im klassischen Chancen und Risiken Diskussionsbereichund ich finde ja auch nicht, dass man das nicht diskutieren darf.Das darf man diskutieren. Ich komme nicht unbedingt jetzt zu denselben Konsequenzenhier. Also ich meine das ist salopp gesagt, da haben wir wieder eine schönedeutsche Verburtsdiskussion.Etwas kann vielleicht böse sein, deswegen muss es irgendwie begrenzt,reguliert, im Zugriff eingeschränkt bestimmten Gruppen vorenthalten werden undes muss eine Haftung eingeführt werden.Das ist mir ehrlich gesagt ein bisschen zu heftig, weil das einfach mal denChancenteil komplett ignoriert.Und auf den kann man ja genauso gut auch ein Anrecht haben.Wer entscheidet denn mir diese Chance zu nehmen, hier vielleicht auch was gutesdaraus zu machen, nur weil es andere Doofe gibt.Klar Risiko ist immer da, aber das hat man einfach mit jeder Technologie undich fühle mich nicht wohl dabei jetzt irgendwie diesem Machine Learning undDeep Learning und AI oder wie man es auch immer nennen soll,da jetzt so einen Sonderstatus zu geben, weil es,Hatten wir ja letztes mal auch schon. Es ist halt eine Zeitenwende,eine technologische Zeitenwende, so wie das Internet eine technologische Zeitenwendewar, so wie es das Telefon war.Und immer wurde das Schlimmste heraufbeschworen, was theoretisch passieren kann,was Bücher schon alles auslösen würden. Und das muss auch auf jeden Fall beschränktwerden und so, der Name der Rose.Also das, abgesehen davon, dass es nicht funktionieren würde,also wie willst du den Zugriff auf die Technik verhindern?Also das ist irgendwie Open Source, das wird überall entwickelt,das ist jetzt einfach das Ding, das wird überall sein, das wird in jedem Betriebssystemsein, das wird in jedem Telefon sein und das wird in jeder App drin sein.Wird es einfach, ist es teilweise auch schon.Das kriegst du eh nicht wieder zurückgefahren und man muss es vielleicht auchnicht unbedingt zurückfahren.Gibt's Bedarf für Regulierung? Vielleicht. Wissen wir schon,was genau eigentlich jetzt reguliert werden soll? Ich habe da so meine Zweifel.Wir haben es irgendwie derzeit noch mit einer Entscheider-Generation zu tun,die immer noch Schwierigkeiten hat zu verstehen, was der Sinn eines allgemeinenGlasfaserausbaus in Deutschland ist, um mal überall irgendwie gleichberechtigtInternetzugang zu realisieren.Da sind wir noch nicht drüber hinaus gekommen und jetzt sollen dieselben Leuteirgendwie entscheiden, wie man bei KI, die Technologie, die im Prinzip jetztin dieser Form, wie wir sie jetzt erleben, gerade mal seit zehn Monaten am Startist, wie wir da in Zukunft mit umgehen wollen.Ich habe doch meine Zweifel, dass das überhaupt gelingen kann.
Linus Neumann
Ja und ich denke das ist genau das, was ich in der letzten Folge auch so ein bisschen sagen wollte.Man muss das schon verstanden haben, bevor man es reguliert.Idealerweise, wenn man jetzt sagt, man kann so ein paar Sachen machen,wo man vielleicht sagt, wenn man das reguliert, macht man auf jeden Fall erstmalkeinen Fehler. Zum Beispiel wie, lass uns den Dingern erstmal keine Waffen geben, ja?Das ist so, weißt du, da nimmt man eine ganze Menge Risiko weg, ja?Ohne sich großartiger Chancen zu berauben, ja?Zumindest in der Allgemeinheit.Andere Dinge, wie das darf in der Medizin nicht angewendet werden oder,ich nehme jetzt Beispiele.Da beschneidet man sich potenziell sehr Wohlmöglichkeiten. Da kann man das noch nicht so sagen.
Tim Pritlove
Nicht nur potenziell, sondern ich würde sagen, das wäre die größte Dummheit von allen.
Linus Neumann
Ich wollte ja jetzt mal ein paar Dummheiten mir eindämmen. Ich glaube nicht,dass das irgendjemand fordert. Ganz im Gegenteil wird ja hier diese Brustgripsfruherkennungauch immer als eines der Steckenpferde genannt.Aber um mal Beispiele zu nennen und das darf jetzt nicht über Menschen entscheiden,muss immer nochmal ein Mensch machen.Da haben wir ja auch schon das letzte Mal drüber gesprochen,dass das im Zweifelsfall aufgrund der Automatisme, mit denen Menschen sich soeiner Aufgabe dann widmen, auch keine große Sicherheit mehr bringen wird.Also solange das nicht wirklich abschätzbar ist und vor allem solange Leutesich jetzt alles mögliche einbilden,was irgendwie schief gehen kann und so weiter, ist es nicht verkehrt,vielleicht auch erstmal ein bisschen was gewähren zu lassen.Nehmen wir uns mal ein Problem heraus, wo wir glaube ich alle relativ einigsind, dass es eins ist oder dass es ein bereits existierendes Problem ist.Noch schlimmer machen wird. Das mit den Fake-Bildern, dass man also jetzt hierquasi in absehbarer Zeit alles fotorealistisch fälschen kann.Das ist auf jeden Fall ein Problem.Und jetzt kann man überlegen, wir versuchen die Nutzung dieser Technologie einzuschränken,dann wird das dazu führen, dass nur noch Wladimir Putin, Xi Jinping und wieheißt der durchgeknallte Nordkoreaner das haben?
Tim Pritlove
Kim Jong-un.
Linus Neumann
Ich wollte ihn nur lieber durchgeknallter Nordkoreaner nennen.
Tim Pritlove
Ich glaub das heißt das auch auf Nordkoreanisch.
Linus Neumann
Genau ich wollte es übersetzen.Und da hast du dann auch nix von, weil du dann nämlich eine unmündige Gesellschaft hast.Ich schätze, wir müssen da jetzt halt durch eine bittere Zeit mit ein paar echt unschönen Phänomenen,damit es irgendwann alle gelernt haben, aber Medienkompetenz oder ein Mangelan Medienkompetenz durch Vorenthaltung dieser Medien kompensieren zu wollen,ist glaube ich auf jeden Fall keine nachhaltige Herangehensweise.
Tim Pritlove
Ne ich meine wie willst du Führerscheine ausgeben, wenn die Leute überhauptgar keine Möglichkeit haben, überhaupt erst mal irgendwelche Erfahrungen damitzu sammeln. Also das funktioniert nicht.Führerscheine kann man dann machen, wenn man klare Regeln hat so und die hatman aber auch erst im Straßenverkehr eingeführt, nachdem der Straßenverkehrerstmal so 20, 30 Jahre lang alle umgepflügt hat.So was wie, wir sollten immer nur auf einer Seite fahren und so.
Linus Neumann
Da kam dann wieder diese Mana, dieses ewige Risiko, nein, wir fahren nur aufeiner Seite. Das ist endlich ein Fahrzeug, das auf jeder Seite fahren kann.
Tim Pritlove
Naja, schwierige Diskussion, aber muss geführt werden.
Linus Neumann
Ja ich fand's auf jeden Fall mal, also ich fand die Kommentare sehr schön,was sich da, gab natürlich noch sehr viel mehr, ich hab jetzt mal hier ein paarexemplarisch rausgewählt.Ich würde aber trotzdem nochmal in Erinnerung rufen wollen, dass wir gar nicht sagen,diese Technologie wird jetzt irgendwie folgenlos bleiben und lass mal laufenund gib geile Bilder bei Midjourney,aber es ist schon relativ klar,dass jetzt erstmal diese Technologie Ich würde jetzt mal vorsichtig sagen,sehr faszinierende Möglichkeiten bietet, vieles im Leben erstmal zu vereinfachen.Dass die am Ende wieder bei den Reichen landet,die damit die Weltherrschaft und ihren Geldstapel ausweiten,da bin ich mir auch sicher, aber genau aus dem Grund würde ich sagen,lasst uns mal wenigstens alle benutzen.Weil sonst haben wir noch weniger davon.So und dann schauen wir uns nachher, also wir sagen nicht,dass wir irgendwie Regulierungen und sowas irgendwie ablehnen wollen,aber wenn, dann wäre schon mal ein klarer, argumentierbarer Fall,wäre nicht schlecht und dann, das würde ich halt eher in Einzelfällen sehenoder in einzelnen Bereichen,die man dann mal diskutieren muss, aber im Moment ist mir das zu sehr gelenktvon Leuten, die zu wenig von dieser Technologie verstanden haben.Wäre jetzt mal meine vorsichtige Einschätzung.Und wahrscheinlich haben die Leute, die viel von dieser Technologie verstandenhaben, die haben jetzt irgendwie keinen Bock, sich das am Ende regulieren zu lassen.Die, die die Risiken einschätzen wollen, müssen jetzt halt erstmal besser werden.Oder müssen gut werden da drin.Die Risiken zu verstehen und dann ordentlich auszudrücken und dann auch ihnenzielgerichtet entgegentreten zu können.
Tim Pritlove
Es wird auf jeden Fall sehr schwierig werden, die nächste Zeit,weil die Entwicklungen laufen in einer Geschwindigkeit gerade voran.Also ich weiß nicht so ganz genau, wann wir da überhaupt mal eine Verschnaufpauseeinlegen werden können.Wird kommen, aber gerade befruchtet sich das Thema gegenseitig viel zu sehr.Also was allein durch die ganzen Kombinationen dieser ganzen Systeme derzeitan Optimierung geschaffen wird. Und wie sozusagen schon so Second Level,Third Level lernende Systeme, die auf lernenden Systemen basieren.Selbst in der Lage sind sich Dinge auszudenken. Also wir sind ja schon bei denmoderneren KIs schon so weit,sodass die quasi, ich sag mal salopp, selbst auf Ideen kommen,was man mal machen könnte.Und da wird's dann halt schon wirklich sportlich.Das wird sich nicht nur in Text ausdrücken, das wird sich auch in Bild und Ton natürlich ausdrücken.Jetzt haben wir ja schon diese Bilderzeugung, wir haben auch schon die Videoerzeugung,da dauert es dann nicht mehr so lange, dann haben wir auch sozusagen die Storyerzeugung,dann können ganze Hollywoodfilme quasi da mal rausfallen.Also das wird jetzt nicht nächste Woche soweit sein, aber so perspektivisch sind das Dinge,die stattfinden gerade und die uns noch vor ganz andere Fragestellungen stellenwerden, aber werden auf dem Weg halt auch eine ganze Menge positive Entwicklungenhaben, zwangsläufig. Medizin sei da mal wirklich genannt.Wirklich ein Feld, was unter diesem klassischen Problem, was Deep Learning ganzgut zu lösen scheint, ja sehr leidet. Es gibt da sehr viel Daten,die man betrachten kann, die sind aber alle sehr fuzzy.Man muss aufwändige Studien machen, um irgendwas herauszufinden,aber in dem Moment, wo man diese ganze Datensammlung und Betrachtung und Auswertunggut automatisiert bekommt,Stichwort Smartphones, die Gesundheitsdaten, idealerweise natürlich anonymisiert,liefern, dann kann man hier unter Umständen sehr schnell Fortschritte machen.Diese modernen SWAT-Watches sind in der Lage, aus einer Langzeit- und Detailbeobachtungdes Pulses schon Warnungen herauszugeben, wie es dem Herzen so geht.Und wir werden da sicherlich noch ganz andere Erkenntnisse haben.Und damit bin ich noch nicht mal bei der Genforschung, die bestimmt jetzt einrichtiges fest feiert, weil natürlich die Komplexität der genetischen Strukturist ja quasi der heilige Gral und da hatten wir schon letztes Jahr den großen Durchbruch.Ich weiß gar nicht, wie das Google System nochmal heißt. Hast du das vielleichtim Kopf, mit dem sie diese Problematik der Proteinfaltung ja schon gelöst haben?
Linus Neumann
Hatten wir vor zwei Sendungen hier erwähnt. Mir fällt es gerade auch nicht mehr ein.
Tim Pritlove
Genau, also das sind sozusagen Schlüsselentdeckungen, die im Prinzip komplettneue medizinische Behandlungsmethoden eröffnen und das ist alles extrem vielversprechend.Ob es letzten Endes… Alpha Fold. Ja genau, also aus dieser Alpha-Serie wieder wie AlphaGo.Also ob es am Ende eigentlich so sinnvoll ist, dem Menschen ewiges Leben zugeben, da habe ich so meine Zweifel.Aber wir müssen damit rechnen, dass wir das Problem auch noch kriegen.Das ist natürlich schwierig ne.
Linus Neumann
Und dann haben wir auf jeden Fall eine ganze Menge neue Probleme.
Tim Pritlove
Ja da bist du ja deine alten Nilos. Uah uah uah uah großoma nervt wieder total.
Linus Neumann
Ja, aber das wird ja dann erstmal, nur für das Problem werden dann erstmal diereichen haben. Da mache ich mir nicht so große Sorgen, dass ich das Problemnoch habe. Mit dem ewigen Leben.
Tim Pritlove
Für uns reicht es nicht mehr. Höchste Strafe. Für uns reicht es leider nicht mehr.
Linus Neumann
Nee ich bin ganz, also so scheiße der Tod ist aber dauerhaft will ich das hierauch nicht mitmachen. Ganz ehrlich.
Tim Pritlove
Ich könnte noch eine Weile.
Linus Neumann
Ja eine Weile schon aber weißt du irgendwann ist es auch gut.
Tim Pritlove
Ich hab ja die These rausgehauen, dass meine Podcasts auch noch in 500 Jahrengehört werden und ich würde das eigentlich ganz gerne überprüfen.Also ihr, die ihr jetzt diesen Podcast in 500 Jahren hört, jetzt ist es 2023, 2523wenn ihr diesen Podcast hört, hoffe ich,dass ihr Zeitreise schon erfunden habt und gebt mir mal ein Zeichen,okay war kein Zeichen, entweder werden die nicht 500 Jahre lang gehört oderdie kriegen das mit der Zeitmaschinen nicht hin.
Linus Neumann
Den, das hat doch schon Stephen Hawking irgendwann in den 70er gemacht.Hat auch schon nicht geklappt, da war sie auch noch nicht erfunden.Dauert noch ein bisschen. Die Zukunft muss ja auch erst noch passieren, weißt du?
Tim Pritlove
Ach ja.
Linus Neumann
Der Zeitstrahl muss erst noch da hinkommen. Okay, wir haben dann noch einenKommentar gehabt zu Microtargeting durch Ilva Johansson, dazu kommentierte David.Und um den Punkt mit dem Micro-Targeting von Frau Johansson noch mal etwas konkreter zu machen,weil es oft so abstrakt behandelt wird, die zuständige Kommissarin hat Werbungfür ihr Projekt gezielt in Ländern ausspielen lassen,die im Rat aktuell dagegenstehen und unter Bevölkerungsgruppen,bei denen sie sich besonders viel Zuspruch zu ihren Argumenten verspricht.Ich weiß gar nicht, ob Propaganda hier noch der richtige Begriff ist,aber das sollte sich schon als sehr gezielter Versuch lesen lassen,den aktuellen politischen Prozess durch Einfluss auf die nationalen Wählergruppen zu beeinflussen.Ja, gut, dass du das nochmal klargestellt hast und es ist wirklich faszinierend, oder?
Tim Pritlove
Ich weiß nicht ob faszinierend das erste Wort ist, was mir da einfallen würde, aber Frechheit ist das.
Linus Neumann
Ja unverschämt.
Tim Pritlove
Ja soll sich mal was schämen.
Linus Neumann
Ja macht's aber nicht. Ja.
Tim Pritlove
Noch schlimmer.
Linus Neumann
Und jetzt, ja das finde ich zum Beispiel auch ärgerlich ne.
Tim Pritlove
Kriegt den du du du du du Orden von Logbuch Netzpolitik.
Linus Neumann
Nee, da müssen wir uns mal was überlegen, was soll der verleihen.So, jetzt kommen wir endlich zu ein paar Anmeldungen. Es gibt gar nicht so viel.Ihr merkt das vielleicht daran, dass wir uns auch so lange an dem schönen Feedbackaufgehalten haben und da auch mit euch die Diskussion ein bisschen weitergeführthaben. Ich hoffe, das war nochmal fruchtbar.
Tim Pritlove
Wichtig auch.
Linus Neumann
Wichtig, ne?
Tim Pritlove
Ja.
Linus Neumann
Und jetzt haben wir, wir haben ja hier darüber gesprochen,dass es gegen Google gerade einen Wettbewerbsprozess gibt,der also über Ausnutzen der marktbeherrschenden Stellung und auch das gezielteHerbeiführen und so weiter handelt und da gab es jetzt eine dann doch interessanteMeldung und zwar bezahlt Google, so viel war ja bekannt,Geld dafür, die Standardsuchmaschine auf Smartphones und in Webbrowsern zu sein.Man wusste aber nicht genau, wie viel.Und wir haben auch darüber gesprochen, dass Google sich ja, das zum Beispielauch über Android eher zwingt,dass die Google-Apps da drauf sind, also alles dieses Ausnutzen einer marktbeherrschendenStellung, da gab es häufig, gab es heute das ein oder andere Kommentar zu.Das Kartellrecht verbietet dir nicht eine marktbeherrschende Stellung zu haben.Ja, das darfst du. Du darfst sie nur nicht ausnutzen.Und hier die Überlegung, wenn jetzt jemand eine marktbeherrschende Stellunghat und die wird dieses Unternehmen natürlich sehr viel tun, um die zu zementieren.Zum Beispiel sehr viel Geld dafür ausgeben, die Nummer eins in den Browsern zu sein,also die voreingestellte Suchmaschine und dafür hat Google im Jahr 2021 insgesamt26 Milliarden US-Dollar ausgegeben.Es gibt nicht so viele Browser, Google, Chrome machen sie selber,es gibt Firefox, es gibt Safari, es gibt Edge von Microsoft, das war's dann.Und ja, die haben also hier, diesen Betrag geben sie aus und es ist der größteeinzelne Ausgabeposten des Unternehmens überhaupt.Der hat sich seit 2014 damit mehrals verdreifacht, da war er also noch im einstelligen Milliarden-Bereich.Was also auch bedeutet, dass sie halt quasi immer mehr Geld ausgeben,um sich Konkurrenz vom Leid zu halten.Diese Zahlen wollten sie natürlich ungern veröffentlichen, weil das ihre zukünftigeVerhandlungsposition beeinträchtigt.Klar, wenn du jetzt irgendwie Firefox bist und sagst ja scheiße ey,die geben 26 Milliarden aus und wir haben 5.Oder du bist Apple und denkst dir so, wir kriegen 21 aber die geben 26 aus, da geht noch was.Ist das natürlich für Google nicht von Vorteil, aber hättest du gedacht,dass die so viel Geld dafür ausgeben?
Tim Pritlove
Mir war schon länger klar, dass das sehr viel Geld ist, was sie da ausgeben.Also Apple äußert sich zwar nicht dazu, was sie bekommen, aber es wird schonlänger gemunkelt, dass es sich dabei um einen extrem hohen Betrag handelt.Wenn man mal davon ausgeht, dass Google selbst mit seinen eigenen Betriebssystemengut so zwei Drittel des Marktes vielleicht abdeckt,kannst du davon ausgehen, also das restliche Drittel geht halt an die anderenund von die anderen ist halt Apple relativ viel.Also kannst du davon ausgehen, dass von diesen 26 Milliarden ein Großteil bei Apple hängen bleibt.Und es wird schon länger gemunkelt, dass das der größte Einnahmeposten bei Apple Services ist.
Linus Neumann
Schon irre, ne? Aber das, ich mach jetzt nicht nochmal die Diskussion auf,dass das Unternehmen sich durch Innovation und so weiter oben hält,aber die 26 Milliarden die einfach nur verpuffen dafür, dass kein anderer inden Browsern die Standardsuchmaschine ist, das ist schon...
Tim Pritlove
Ich weiß nicht ob ich das so verwerflich finde um ehrlich zu sein.
Linus Neumann
Ich habe nicht gesagt, dass es verwerflich ist. Ich rede überhaupt nicht von verwerflich.Wir treffen hier keine moralischen Urteile, aber es hat nichts mit verwerflichzu tun, es hat einfach nur etwas damit zu tun, dass das Unternehmen,offenbar seine marktbeherrschende Position nicht unbedingt dadurch aufrechterhält, das überzeugendste Produkt zu sein.Wenn du das überzeugendste Produkt bist, dann brauchst du nicht 26 Milliardendafür auszugeben, dass bloß niemand irgendwo als Default deine Konkurrenz wird.Es ist eigentlich ein Urteil, oder ich würde diese 26 Milliarden als eine großeAnerkennung Anerkennung für die Qualität anderer Suchmaschinen werten,weil die zahlen ja nicht eine Milliarde, die zahlen ja, also das ist ja quasidas, was sie wahrscheinlich ausgeben müssen, um andere Suchmaschinen zu überbieten.Die zahlen ja nicht freiwillig so viel.
Tim Pritlove
Ja, beziehungsweise um die Betriebssystemhersteller dazu zu bringen,sie als default einzustellen, das kann ihnen ja eigentlich egal sein,nur in dem Moment, wo sie natürlich dafür Geld bekommen müssen,das sind Werbungskosten, die sie gerne einnehmen.Und Google kann natürlich am meisten zahlen. Da sieht man aber auch mal wasdas wert ist. Diese Suchzeile. Was das für eine Power hat.Das ist nochmal der Einstieg in das Internet.Ich erinnere mich noch an so eine Straßenumfrage in den USA,das ist auch schon ein paar Jahre her, wo die Leute, ich weiß nicht mehr genauwas die Frage war, aber aus den Antworten konntest du halt irgendwie herausfinden,dass für die Google irgendwie sozusagen der Anfang vom Internet ist.Der Browser, der sich öffnet ist Google.
Linus Neumann
Es war mal ein Sendungstitel bei Logo Netzpolitik, der Anfang vom Internet.
Tim Pritlove
Der Anfang vom Ende oder?
Linus Neumann
Der Anfang vom Ende.
Tim Pritlove
So hieß die Sendung? Echt?
Linus Neumann
Bin ich mir relativ sicher.
Tim Pritlove
Wirklich? Ich kann mich gar nicht dran erinnern. Aber wir haben auch schon soviele Sendungen gemacht. 474.
Linus Neumann
Es gibt einen anderen Anfang vom Internet, du kannst ja nochmal kurz guckenob der stimmt, ich meine ich hätte alle Sendungstitel im Kopf.
Tim Pritlove
Also es gibt eine Sendung, endlich sind wir am Anfang angekommen,dann gibt es am Anfang vom Ende der ersten Welle und das sind die beiden mit Anfang.
Linus Neumann
Ach schade, da hast du die gelöscht.Es gibt ja noch einen anderen Anfang vom Internet und das ist,war Facebook, überhaupt das mit diesem Anfang vom Internet ist ja auch so eine Sache,Anfang vom Internet gibt's ja eigentlich nur bei so Leuten, wo man noch vonInternet redet, man redet ja in zunehmendem Maße gar nicht mehr vom Internet.
Tim Pritlove
Sondern? Apps. Stimmt.
Linus Neumann
Und da gibt es natürlich noch, da gibt es eben Facebook.Und die, wie wir uns erinnern, verdienen ja auch sehr, sehr viel Geld.Und womit verdienen die ihr Geld? Ha, wir haben denen niemals Geld gegeben.Also kriegen sie es für Werbung. Und nämlich für genau diese personalisierte,zielgerichtete Werbung, die Eva Johansen da geschaltet hat, wo wir uns geradenoch drüber echauffiert haben.Das ist das Geschäftsmodell von Facebook. Die haben kein anderes.Haben sie nicht. Doch, ich meine, die verkaufen diese Brillen oder so,um einem da dann irgendwie Werbung einzublenden.Aber es ist relativ klar, Facebook ist ein Milliardenunternehmen,dessen Geschäftsmodell de facto Verhaltensmanipulation ist. Klingt schlimm,aber Werbung ist halt versuchte Verhaltensmanipulation.Wer das besser macht, ist halt besser und kriegt mehr Geld dafür.Es bietet aber Facebook ja in die andere Richtung eine faszinierende Dienstleistung an,wo es unsere persönlichen Beziehungen und Interessen und so weiter quasi einsammeltund uns den Kontakt zu unseren Freunden, Familien und so weiter gibt.Und diese Dienstleistung können wir in Anspruch nehmen, müssen wir nur irgendwieso ungefähr ein Wissen von ChatGPT1 lesen und dem zustimmen oder wie viele Seitenauf jeden Fall die Datenschutzerklärung ist, die natürlich keine Sau verstehtund so weiter und so weiter.Und jetzt verlangt aber die Datenschutzgrundverordnung, dass man einwilligen muss.Wenn man oder dass man die Einwilligung der NutzerInnen haben muss,wenn man ihre persönlichen Daten für Werbezwecke verarbeiten will.Das ist ja auch wirklich so eine, kann man wirklich sagen,so jetzt ohne Angst der Überregulation, kann man sagen,das ist zumindest so eine Minimalkonsens-Sache des Anstands,dass man sagt, wenn wir deine, wenn wir alles, was wir hier von dir sammeln,für Werbung verwenden, dann wäre es gut, wenn du dazu Ja sagst.Oder wenn wir dir die Gelegenheit geben, dazu Nein zu sagen oder dich überhauptdarüber in Kenntnis setzen und du sagst, habe ich gelesen.All das passiert aber nicht, weil da sagt Facebook dann, ja,das ist ja integraler Bestandteil unserer Dienstleistung und deswegen müssenwir da nicht nachfragen.So. Und wenn du so Facebook-Anwälte hast, dann kannst du natürlich relativ lange sowas streiten.Und jetzt hat sich.Der Europäische Datenschutzausschuss beschlossen, dass Irland jetzt bitte Facebookwegen anhaltender Verstöße gegen die DSGVO diese Praxis, also das Nutzen vonpersönlichen Daten ohne Einwilligung zu verbieten.Die sagen also, das was ihr macht ist nicht mit der DSGVO vereinbar,damit ihr diese Daten verwenden dürft, braucht ihr eine Rechtsgrundlage,die gibt es nur mit informierten und freiwilliger Einwilligung und die habt ihr nicht.Und was ihr macht, ihr wähnt die Datensammlung und deren Zusammenführung inden AGBs, das reicht aber nicht aus.Und interessanterweise geht das auf Norwegen zurück,die sind zwar nicht in der EU, aber im europäischen Wirtschaftsraum und wendendaher die DSGVO an und jetzt sagen die also,passt auf, Norwegen hat das lokal auch schon gemacht, die haben im Juli Metavorübergehend verboten Werbung zu schalten, die auf Nutzerverhalten basiert und Profilen.Ja, dann wurde das noch mal bestätigt im September und jetzt sollen also dasauf EU-Ebene gemacht werden.So, und jetzt, pass auf, was macht Facebook? Und das ist eigentlich lustig,weil es total vorhersehbar ist.Die machen den gleichen Trick, wie die ganzen anderen werbefinanzierten Seiten,die es sich nicht leisten konnten, so lange auf der Ebene mit den Datenschutzbehörden zu zanken.Nämlich die sagen, alles klar, dann gibt es jetzt halt ein überteuertes Bezahlangebot.
Tim Pritlove
Kostet jetzt 50 Euro oder was?
Linus Neumann
Ich bin mir nicht ganz sicher. Ich hätte jetzt an 10er gedacht,aber ich weiß gar nicht genau, ob ich den Preis jetzt irgendwo gelesen habe.
Tim Pritlove
9,99€. Ja, Schnäppchen.
Linus Neumann
Facebook ohne Werbung.Instagram und Facebook, da kannst du sogar beides oder was? Da musst du jeden extra bezahlen.Ab November müssen Nutzer demnach mindestens 9,99€ bezahlen,wenn sie keine Werbung über Facebook und Instagram sehen wollen.Wer personalisierte Anzeigen akzeptiert, kann die Netzwerke weiterhin gratis nutzen.Und das ist ja genau das, was wir auch die Justiziare von den Verlagen sagen.Und was ja auch der Max Schrems mit Neub regelmäßig da bekämpft und gegenklagt,dass dieses, hier es gibt ein Pur-Abo, dass das de facto einfach nur ein Trickist, um diese Einwilligung zu bekommen.Zum Beispiel hatte er ja auch mitgenommen oder mit angefügt,dass das so ungefähr das einzige Abo ist, was es gibt, was sich nicht automatischverlängert, was schon so ungefähr zeigt, weißt du.Und ich hab halt auch schon mit dem einen oder anderen Justiziar von einer,von Verlagten gesprochen, die alsosagen, ja klar, das ist jetzt nicht ein Geschäftsmodell oder Profitcenter.Dieser Dialog ist nicht darauf ausgelegt, dass du jetzt da die 2,99,3,99, 9,99 oder was auch immer das kosten soll zahlst.Sondern es ist darauf ausgelegt, dass du sagst, nee, dann lieber gratis mit Werbung. Klar, ja.Und das macht also jetzt Facebook auch.Bin mal gespannt.
Tim Pritlove
Also, ja, die Frage ist ja, mehrere Fragen,also erstmal gibt es, ich nehme mal an es gibt auch schon irgendwie den einenoder anderen Dienst, wo du dafür bezahlst keine Werbung zu sehen oder?Um die zu nutzen?
Linus Neumann
Ach doch, klar. Ich hab einen kostenpflichtigen Werbeblocker.
Tim Pritlove
Den bezahl ich. Okay. Ja, nee.
Linus Neumann
Ne, das Problem ist ja, nur um das kurz zu sortieren, ich zahl für eine ganze Menge Dienste.Aber wenn ich hier, was weiß ich, nehmen wir mal unsere Freunde vom SpiegelVerlag Rudolf Augstein KG.Nur weil man denen 30 Euro im Monat zahlt, heißt das ja nicht,dass sie die Werbung wegmachen.
Tim Pritlove
Führt das normale Abo den Zugriff auf die zusätzlichen Artikel?
Linus Neumann
Ja.
Tim Pritlove
Aber es gibt noch eine Ordnung.
Linus Neumann
Da muss man nochmal extra einwerfen.
Tim Pritlove
Naja, weil das ist natürlich, du schneidest damit eine Verdienstquelle ab,die halt sehr lukrativ ist.
Linus Neumann
Das mag ja sein. Trotzdem ist ja der, also das glaube ich haben wir ja alle verstanden,ich finde es trotzdem äußerst ärgerlich,dass man das nicht auch noch weglässt und dann wollen sie da noch mehr haben.Ich kann jetzt hier mal gucken, was kostet das denn hier?Aber es ist auf jeden Fall lustig, das Abo, dass du sagst,ich möchte Spiegel Plus oder so, das wird dir überall angeboten,aber wenn du einmal gesagt hast, ich nehme eure Werbung, dann musst du wirklichsuchen, um das zu finden.Also die wollen werbefrei lesen, kostet, wenn du kein Spiegel Plus hast,also sogar nur die Gratisbeiträge ohne Werbung kostet ein Euro pro Woche.Und wenn du jetzt Spiegel Abonnent bist,Spiegel Plus, dann als Upgrade 50 Cent pro Woche,also irgendwie 25 Euro im Jahr ungefähr und werbefrei Spiegel Plus kostet 5,50 Euro pro Woche.
Tim Pritlove
Woche.
Linus Neumann
Das ist jetzt einmal alles. Also da hast du dann ohne Anzeigen,Pop-Ups und andere Werbeformate keine Weitergabe ihrer Daten an Werbetreibende.Alle Spiegel plus Inhalte inklusive Newsletter und ePaper 5,50 die Woche. 5,48 Euro.
Tim Pritlove
Da jetzt die Frage, wie empfinden wir das?
Linus Neumann
Also 285 Euro im Jahr.
Tim Pritlove
Also ich hab ja, benutzt du zum Beispiel YouTube Premium?
Linus Neumann
Ja, ich bin doch nicht bescheuert. Nein. Warum? Mach ich nicht,ich bezahle doch nicht YouTube.
Tim Pritlove
Warum nicht?
Linus Neumann
Ne, nein. Nein. Kannst vergessen, auf gar keinen Fall. Niemals.
Tim Pritlove
Weil?
Linus Neumann
Weil ich für mein Geld arbeiten gehe Tim und ich gebe das doch nicht irgendwiefür so eine Scheiße aus. Also sorry.
Tim Pritlove
Ich weiß ja nicht, ob du da ab und zu mal vorbeischaust auf dieser Webseite,aber ich tue das eine ganze Menge, also ich bin wirklich heavy User,ich benutze YouTube mehr als jeden Fernsehkanal in Deutschland.
Linus Neumann
Ich habe auch keinen Fernseher insofern.
Tim Pritlove
Aber du weißt ja auch, was man für Fernsehen sozusagen bezahlt.Gut da kriegst du dann trotzdem noch die Werbung um die Ohren.Aber so krieg ich halt für einen halbwegs definierten Preis nahezu jeden relevanten Videocontent.Also nahezu natürlich nicht alles, aber schon sehr viel.Und hab überhaupt gar keine Werbung. Ist okay.Also es ist schwierig jetzt sozusagen diesen Diensten vorzuwerfen,dass sie unangemessen teuer sind, weil am Ende ist es ja auch eine Frage,was ist dir sozusagen die Werbefreiheit auch wert.Werbung sehen und die Daten, die eigenen Daten analysiert und weitergeleitetzu sehen, das sind aber auch nochmal zwei Paar Schuhe, ja ich hätte ja, wir haben,so ein bisschen auch die Nerd Perspektive, ich glaube das hatten wir auch schon mal erwähnt,es gibt so dieses so, oh mein Gott, ihr wollt mir jetzt Werbung zustellen,die voll auf mich zugeschnitten ist, weil sie mein Profil interpretiert unddann genau weiß, was ich jetzt vielleicht als nächstes kaufen möchte.Da gibt's Leute, die sind begeistert davon.
Linus Neumann
Ja gut, aber sorry Tim, das ist jetzt irgendwie so 80s oder irgendwie Anfang 2000er Diskussion.Wir haben ja inzwischen sind wir ein bisschen weiter, als dass Leute sich freuen,dass sie die richtige Werbung bekommen.Also wir haben ja jetzt dann durchaus doch, als auch als Gesellschaft langsamverstanden, dass sich dadurch weitreichende Manipulationsmöglichkeiten ergeben,die auch Anwendungen finden.Ja und es ist nicht nur, klar es mag eine ganze Reihe Menschen geben,wo das Beste, was man aus denen rauskriegt ist, die dazu zu bringen irgendeineScheiße zu kaufen, aber es gibt eben auch noch politische Themen und Sachverhalte.Auch, ich mein, wenn du, wenn du, also ein...Eine Möglichkeit, also ich kann dir mal, wenn ich mal auf YouTube gehe,was ich nicht so häufig mache, ja, also ich gucke auch mal was auf YouTube an,dann kommt da halt irgendwelche Scammer Werbung von irgendwelchen Leuten,die mit irgendwelchen Get rich quick Schemes die Leute abziehen.Ja, wahrscheinlich hast du, also wenn du stattdessen 10 Euro im Monat zahlst dafür,dass dir diese Werbung nicht kommt, dann gibt's halt Leute,die haben diese 10 Euro nicht, die fallen dann auf diese Get-Rich-Quick-Schemesrein und zahlen so ihre Strafe,aber ey, also irgendwie YouTube ist für mich einfach nur ein Video-Hoster,es tut mir leid und ich, wir haben auch hier darüber gesprochen,dass du, du fandst ja auch YouTube innovativ, ich find's nicht innovativ,Aber ich bin auf jeden Fall nicht bereit für deren Dienstleistungen Geld auszugeben.
Tim Pritlove
Ich meine man kann ja auch Werbung und Tracking auch nochmal separat betrachten,das war eigentlich so ein bisschen mein Argument.
Linus Neumann
Jaja, das kann man aber nicht, weil in dem Moment, wo die Werbung nicht mehrzielgerechtet ist, ist sie halt absolut wehrenlos.Also die Neuens für dich ist potenziell die gleiche, aber die Leute,die die Werbung schalten, schalten die Werbung ja, weil sie zielgerichtet ist.Nicht weil sie sagen, voll geil, da haben wir Werbung.Und wir haben ja vor kurzem auch noch darüber gesprochen, dass genau diese Artder Werbung jetzt in unser schönes Podcast-Gallien Einzug erhält.Wo eben die wenigen großen Podcasts oder wo es nur noch wenige große Podcastsgibt, die sich versuchen eigene Kundenstämme und direkte Werbebeziehungen zu erhalten.Und die jetzt auch merken, dass es denen langsam an den Kragen geht,weil große Plattformen ihre Plattformen macht da ausnutzen und jetzt eben dieLeute zum Schalten von Werbung nicht zu ATP gehen,sondern zu Spotify.Und das wird auch so weitergehen, das wird auch diesen ganzen US-Podcast dannfrüher oder später an den Kragen gehen.Bekannte deutsche Podcast sind ja direkt zu Werbevermarktern gegangen.
Tim Pritlove
Was machen wir jetzt, wenn Facebook sagt, naja, also wenn ihr nicht hier zuder Werbung ja sagt und wenn ihr nicht unser Bezahl-Abo habt,dann gibt's für euch kein Facebook. Meinst du, das machen sie?
Linus Neumann
Nee, das ist ja genau der Punkt, dass sie, ja doch klar,das machen die, ja klar, ist dir doch völlig egal, es ist doch klar,dass alle sofort sagen, willst du Facebook gratis mit Werbung oder willst du 10er bezahlen?Meinst du, also den Menschen möchte ich sehen, der dann sagt,voll geil, endlich kann ich für die Dienstleistung von Facebook bezahlen undendlich kann ich meinen Datenschutzgrundgedanken,der mich hier seit vielen Jahren plagt auf dieser Seite, endlich mal zum Ausdruckbringen und sagen, jetzt bin ich glücklich, ihr kriegt dann noch einen Zehner,das wird einfach nicht passieren.Also es ist doch einfach nur ein Einverständnissammelangebot.Wahrscheinlich kannst du Facebook am meisten damit ärgern, wenn du sagst,okay, ich mach das jetzt, ich überweise euch jetzt monatlich einen Zehner,viel Spaß mit der Buchführung.
Tim Pritlove
Meine Frage war eigentlich eher, also sagen wir mal die Europäische Union setztsich jetzt hier durch und beschließt sozusagen,dass Facebook muss die quasi die kostenlose Nutzung ohne Tracking erlauben.Wobei kostenlos können sie ja nicht sagen, aber Facebook müsste sich dann sozusagenentscheiden, nehmen wir von diesen Personen dann Geld?
Linus Neumann
Also gibt es sozusagen… Das hat Facebook sich ja schon entschieden.Also das ist angekündigt, dass sie das tun werden.
Tim Pritlove
Dass sie Geld, dass sie ein Bezahl-Dings haben. Aber die Frage ist,haben sie auch schon angekündigt, dass sie sagen, ja, du kannst auch alles ablehnen.Ohne zu bezahlen.
Linus Neumann
Nein, das brauchst du ja nicht. Also guck mal, in dem Moment,wo sie, also von der, also rechtlich müssen sie dein Einverständnis für dieNutzung dieser Daten zu Werbezwecken und die Weitergabe und so weiter alles haben, ja.Und streng genommen ist es so, dass sie sich dieses Einverständnis gerade garnicht wirklich holen. Zumindest nicht explizit und informiert.Die sagen nur steht in den AGB.Und jetzt wären sie in dem Moment konform, wo sie sich dieses Einverständnis von allen holen würden.Also sie müssen juristisch durch den Schritt mit all ihren Milliarden NutzerInnen,wahrscheinlich hunderte Millionen NutzerInnen in der EU.Dass die sagen, ja, ich erlaube euch meine Daten zu Werbezwecken zu nutzen.So, jetzt hat Facebook eh nicht den besten Rufersdatenschutz und so weiter angehtund da müssen die jetzt einmal durch.Und der einfachste Weg dahin zu kommen, ist für die einfach zu sagen,ey, möchtest du bezahlen oder weiterhin kostenlos?Ja, dann sagst du kostenlos. Dann sag ich, ja dann übrigens dann kommt hier Werbung und so, ne?Und wir geben mal einen Werbepartner und so. Dann sagen die Leute,ja, okay, war ja schon immer so. Alles klar, fertig, weiter geht's.Und das ist halt der einfachste Weg, dieses Einverständnis zu sammeln,ist einfach die Alternative einfach mit Geld zu belasten.Deswegen machen die das mit diesem kostenpflichtigen Angebot.Außerdem dient das kostenpflichtige Angebot dem Zweck, dass sie dann sagen können,wir haben ja ein alternatives Angebot und wir zwingen den Leuten die Werbung nicht auf.Die können ja sagen, sie möchten die nicht haben. Und deswegen haben sie eineinformierte Entscheidung getroffen.Wenn sie das nicht machen, kann aber auch nicht die EU sagen,naja du musst das jetzt kostenlos anbieten.Du kannst ja nicht einfach Leuten sagen, du musst eine Dienstleistung anbieten ohne Geschäftsmodell.Das machen die ja auch nicht. Die sagen, de facto sagt die Europäische Unionoder wollen diese Datenschützer sagen, so wie du das machst darfst du es nichtund dann darfst du die ganze Dienstleistung nicht mehr anbieten.
Tim Pritlove
So und was passiert dann? So wenn Facebook sozusagen wirklich diese Frage dannfragen muss und wenn ich nein sage, sagen sie dann, okay dann darfst du jetzthier nichts mehr benutzen.
Linus Neumann
Du kannst ja nicht nein sagen.
Tim Pritlove
Wieso kann ich nicht nein sagen? Das ist ja hypothetisch. Sagen wir mal es wäre so.Ich logge mich ein und Facebook sagt, ach übrigens, wolltest du eigentlich getracktwerden oder nicht? Ja? Sag ich nö.Was sagt Facebook dann? Sagt sie so, okay.
Linus Neumann
Das ist aber nicht die Frage, die sie dir stellen.
Tim Pritlove
Das Wort hypothetisch. Angenommen man würde sie jetzt rechtlich dazu bringen,dass sie diese Frage stellen.Und würde es dann überhaupt statthaft sein, dass man komplett außen vor seindarf? Also ist das Ausschließen der Benutzer sozusagen zulässig?
Linus Neumann
Okay, also du meinst ob man Facebook zwingen könnte, die Dienstleistung kostenlos anzubieten.Und das ist natürlich nicht so.
Tim Pritlove
Ja, wahrscheinlich nicht.
Linus Neumann
Also genau deswegen machen sie das ja jetzt. Sie werden im Prinzip einfach sagen,du kannst unseren Dienst sonst nicht nutzen.Und dann kommen sie natürlich in gefährliches Eis und deswegen haben alle anderengenau diesen Trick gemacht mit dem, naja okay, du musst das nicht machen.Wir zwingen dich ja gar nicht dazu. Du kannst ja gerne uns Geld geben,dann machen wir das nicht.Und das scheint mir der juristische Trick zu sein, um das zu schaffen.Ich glaube, sonst bist du in der Situation, in der sie jetzt sind,wo sie dir de facto die Möglichkeit nicht geben.Also sicherlich kann nicht die Europäische Union sagen, naja hier,die Dienstleistung, die ihr da macht, mit der ihr Milliarden verdient nebenher,die müsst ihr jetzt einfach ohne Geschäftsmodell weiterhin anbieten,dazu verpflichten wir euch. Das kann ja auch nicht gehen.Das heißt, das Verlangen ist, man braucht eine informierte Zustimmung.Und was im Moment passiert ist, Facebook hat die nicht und zahlt alle paar Monatemal ein paar Millionen Euro Strafe. Ich glaube die letzte Strafe,die sie gezahlt haben, waren irgendwo 300 Millionen oder so.Anfang des Jahres in Irland, ja. 390 Millionen Euro Bußgeld,weil Meta die Daten zu Werbezwecken unzulässig genutzt hat.
Tim Pritlove
Das sind so die sprichwörtlichen Portokasse.
Linus Neumann
Genau, aber natürlich kann man, also wenn die Europäische Union das Geschäftsmodell verbieten würde,also das geht ja nicht, ist ja klar, dass man Facebook nur zu einer legal compliance zwingen kann,zur Einhaltung der Gesetze, Aber man kann sich ja nicht dazu zwingen zu sagen,du musst diese Dienstleistung den Leuten anbieten.Es ist ja noch viel schlimmer, die Leute haben ja die AGBs auch akzeptiert.Es ist nur, dass nach einer neuen Regelung diese Zustimmung explizit erteilt sein muss.Es gibt ja eine Kostenvariante, ist eben der elegante Teil.Fast zu schockierend, wie einfach sich dann auch so ein gesetzlicher Anspruch dann umgehen lässt.Die schreiben einfach an die Nein, die machen im Prinzip an den Nein Button ein Preisschild dran.
Tim Pritlove
Ja so kann man das sehen.
Linus Neumann
Und schon sagen alle ja.
Tim Pritlove
Ja ich bin gespannt wie lange sich das noch halten kann, weil es gibt schonso ein bisschen so einen Trend zu Bezahldiensten und grundsätzlich finde ichdas auch nicht unbedingt verwerflich.Gab's schon so einige Dienste, wo ich mir gewünscht hätte, sie hätten einenordentlichen Bezahldienst eingeführt. Twitter zum Beispiel.Aber, naja, aber keinen ordentlichen. Vor allem haben sie kein Twitter mehrim Angebot. Nur noch Twix.
Linus Neumann
Ja, also da stimme ich dir auch zu, dass ich das...Ich zahle ja für durchaus einiges im Internet.Ich habe aber dann schon auch den Anspruch, dass es dann keine Werbung mehrgibt und deswegen ärgere ich mich zum Beispiel, dass das bei Verlagen eben schonso lange das ständige Geschäftsmodell ist.Ich habe auch zum Beispiel, betrachte ich das erstmal als halbwegs positiv,dass das Software jetzt eben as a service immer mehr oder als Abonnement bereitgestellt wird.Das heißt, es gibt einfach eine bessere Sicherheit für die Entwickler,einen dauerhaften Income Stream dafür,sie können die Zufriedenheit mit ihrer Software relativ schnell messen,sie haben skalierende Effekte, sie haben niedrigere Einstiegshürden in ihreDienstleistung, Adobe ist da natürlich ein super Beispiel.Früher musstest du dir irgendwie auf schwierige Weise Creative Suite Cracksirgendwie holen, um diese paar tausend Euro Software zu nutzen.Heute kannst du dir die für, wenn du es mal wirklich brauchst,für 60 Euro im Monat oder so klicken.Oder lässt dir irgendwie so ein Photoshop Abo für einen Zehner laufen.Das ist schon ganz in Ordnung mit Bezahlmodellen, ja.Da bin ich schon insgesamt ein Freund von, aber ich glaube nicht,dass Facebook, da muss man vielleicht einen Unterschied machen zwischen,jetzt sagen wir mal, nehmen wir jetzt mal Mid Journey, irgendein Discord Ding,die nehmen glaube ich, weiß nicht, was ich da jetzt bezahlt habe,für einen Monat 10, 12 Euro, das werden die im Zweifelsfall bei meiner Nutzung,werden sie an mir Geld verdienen, weil ich das jetzt nicht so oft in Anspruchnehme, ich gucke mir da auch eher gerade an, was die anderen Leute sich da somalen lassen. Und die haben...Die kommen ja nicht so aus dieser massenhaft Verhaltensammel-Geschäftsmodell-Ecke.Ich glaube, wir haben es halt passieren lassen,dass wir überhaupt diese Werbekram zu tolerieren,dass wir uns da diese Monster geschaffen haben, diese Werbenetzwerke und danndie sozialen Netzwerke, die de facto hauptsächlich dafür da waren,uns auf der Seite zu halten.
Tim Pritlove
Dementsprechend hätte das wahrscheinlich auch alles gar nicht früher stattfindenkönnen und auch hier brauchen wir diesen Lernprozess.Und der ist im Bereich Tracking, Datenschutz weiter fortgeschritten als in anderen Bereichen.Klar ist jetzt schon viel in den Brunnen gefallen, aber das ist wahrscheinlichimmer so. Es muss auch immer erst mal richtig wehtun, bevor man auch was dagegenunternimmt, weil das andere läuft so ein bisschen unter ferner Liefen.
Linus Neumann
Besser ist einfach gar nicht bei Facebook zu sein, dann ist mir das schon ganzegal, oder willst du den jetzt auch 10 Euro nehmen?
Tim Pritlove
Da ich jetzt Facebook überhaupt nicht benutze, nicht,also wenn es sich, also sagen wir mal so ein Social Network was mir was bringt,es gibt ja auch Beispiele hier so Xing und LinkedIn und so weiter,die haben ja alle ihre Premium Angebote, die bieten dann halt nochmal mehr an,Keine Ahnung wie das jetzt sich da mit Werbung und Tracking verhält,da hab ich jetzt ehrlich gesagt keinen Einblick.Für mich sind leider auch diese Business Netzwerke nicht sonderlich,also ich benutze die nicht wirklich, hab da so einen Account und krieg die ganzeZeit immer irgendwelche Freundes oder Netzwerk Anfragen und weiß immer nichtwas ich damit anfangen soll,was soll mir das bringen irgendwie.Aber Mehrwert zu bezahlen und der Mehrwert kann ja auch darin bestehen,dass man sozusagen ein anderes Revenue-Modell wählt, weil einem das besser passt so.Deswegen hab ich zum Beispiel mit meinem YouTube-Premium so überhaupt gar keinProblem, weil da bekomme ich einfach genau das, was ich will.Ich zahle da was für, kriege irgendwie unlimited Content und genau null Werbung.Also ich bin immer wieder, wenn mir Leute sagen, ja sie hätten auf YouTube eineWerbung gesehen, dann muss ich innerlich mich immer nochmal kurz aufrechnen,ah ja ja, richtig stimmt ja, die anderen sehen ja Werbung.Weil das für mich schon komplett weg ist. So ist das einfach.Finde ich für mich nicht statt, das ist einfach nicht da.
Linus Neumann
Das ist halt natürlich auch so eine, also da entsteht halt dann,muss man auch leider sagen, natürlich schon so eine Zwei-Klassen-Gesellschaft, ne?Und die hat, das will ich zumindest nochmal hier abschließend anbringen.Es gab halt immer diesen ganzen Wissen und so weiter muss frei sein Gedanken mit diesem Internet.Und der gerät natürlich ins Wanken, aber die lässt sich natürlich auch nichtmehr so sinnvoll aufrechterhalten,wenn man jetzt eben sieht, naja, dass wir eben doch ganz gut beraten sind,vielleicht ein paar bezahlte Journalistinnen und Journalisten zu haben,die nach ordentlichen Standards arbeiten und gute Arbeiten machen und das Feldnicht irgendwie den Schreihälsen auf Twitter und Facebook überlassen wollen.Gleichzeitig sowas wie Paywalls sind natürlich ein Problem und verschärfen sowasnur umso mehr, wenn auf einmal die Qualitätsmedien hinter hier musst du Geldeinwerfen verschwinden.Und es ist auch ein Unterschied, ja, dass jetzt hier der Tim,der kann sich leisten für YouTube zu bezahlen,kann dafür mehr YouTube-Content sehen, sieht weniger beknackte Werbung,das wird dann eben ein Klassenproblem oder ein Einkommensdifferenzierungsding.Was wir ja auch, jetzt haben wir die Android-Freunde bald wieder in den Kommentaren,dabei sehen bei Leuten, die halt sehr viel Geld für Apple-Geräte ausgeben immobilen Bereich und zumindest von der ganzen Reihe Google-Belastungen ausgenommenwerden und für die eine Google-Belastung,die das Gerät hat, kriegt Apple wenigstens ein paar Milliarden.Da freuen wir uns ja dann auch.Wer weiß wie teuer das Telefon sonst wird.
Tim Pritlove
Es ist wirklich eine interessante Diskussion, weil die so viele mögliche Bereichehat, in die man noch reingehen könnte.Also die letzten Jahre haben ja vor allem gezeigt, andere Finanzierungsmodellesind möglich und diese Wege werden auch gegangen.Da ist ja nicht nur das Paywall-Modell oder das Abo-Modell, sondern es gibtja auch die freiwillige Zahlung.Hatten wir jetzt hier schon ausführlich. Wollte jetzt nicht auf unsere Finanzierung hinaus,ist aber im Prinzip ja genau das gleiche, aber so Modelle wie Patreon habenja dann auch für unabhängige Journalisten, zum Beispiel, wo du das gerade mitden Journalisten angesprochen hast, fiel mir das ein, eben auch Revenue-Streams eröffnet.Wie gut das im Einzelnen für die funktioniert, keine Ahnung, weiß ich nicht.Wir sehen nur, dass es eben etwas ist,wo wir in zunehmendem Maße auch so Einzelkämpfer haben zumindest,die unabhängiger von Redaktionen, Zeitschriften und Verlagen agieren können,weil sie quasi direkt berichten.Ich sehe das bei so aufs Ausland fokussierte Journalisten, die sich um Krisengebiete kümmern.Die berichten teilweise einfach in ihrem Blog und glaube nicht,dass die vollständig davon leben können. Aber das spielt zumindest eine Rolle.Und man sieht, dass das sozusagen stattfindet.Patreon wird so schnell nicht weggehen. Und auf der anderen Seite haben wirnatürlich auch Wikipedia.Also auch so ein Spenden Ding. Wikipedia ist bis heute werbungsfrei.Yeah. Super. Finde ich super.Finde ich richtig, richtig gut, dass die da von Anfang an immer das Rückgratgehabt haben zu sagen, wir wollen keine Werbung auf Wikipedia haben,weil wenn wir eine Werbung auf Wikipedia haben, dann ist das das Ende von Wikipediaund das ist absolut richtig.Das wäre der Tod sofort.Da sind wir wahrscheinlich auch noch auf dem Weg in gewisser Hinsicht.Das muss sich auch alles erstmal auskäsen.Zukunft muss noch liefern.
Linus Neumann
Ja, ich glaube man kann natürlich, ich mache da glaube ich auch so einen leichtenUnterschied zwischen, wo ist das Produkt?Und bei diesen sozialen Netzwerken haben wir ja zum Glück gemerkt,dass das einfach ein teuflisches Geschäftsmodell ist und es wird jetzt auchnicht besser dadurch, dass Facebook irgendwie um DSGVO auszutricksen eine Bezahloption einführt.Die sind eh verloren. Also der Laden ist verloren.Und das mit diesem Bezahlmodell ist nur etwas, um die Leute dazu zu bringen,diese Einwilligung zu erteilen, zu einem Geschäftsmodell, was hoffentlich irgendwanneinfach mal erledigt ist.Also das muss einfach mal weg. Oder, also...Zumindest in diesem sozialen Bereich, bei Zugang zu Nachrichten sehe ich dasdann auch wieder ein bisschen anders.Ein bisschen wechselhaft, glaube ich.Na gut.
Tim Pritlove
Kommen wir zu den richtigen Security Problemen.
Linus Neumann
Es gab eine interessante Meldungdie Tage, die in Deutschland gar nicht so großartig behandelt wurde.Und zwar gibt es einen Java-Server-Betreiber unter dem Namen java.ru.Jabba ist so ein Instant-Messaging-Protokoll, das, ja, also wenn du mich fragst,das ist schon alles ein bisschen in die Jahre gekommen.Der CCC betreibt auch Jabba-Server, oder Leute aus dem CCC betreiben Jabba-Server.Das ist so ein altes Instant-Messager-Protokoll.Du kannst auf dem Server sein, du kannst auch Cross-Server kommunizieren, ähnlich wie E-Mail.Bei Java relativ beliebt ist sowas wie OTR, dann noch als Ende-zu-Ende-Verschlüsselung obendrauf.Kann man noch mehr über Java sagen? Also das Protokoll XMPP,ja, ich glaub inzwischen gibt's elegantere Protokolle, aber es hält sich ingewissen Kreisen noch so ein bisschen, oder? Das ist zumindest so ein Standard.Es ist ein föderierter Instant Messaging Standard und das seit bestimmt,keine Ahnung, 20 Jahren oder so?
Tim Pritlove
Ja, gibt es schon lange jetzt. Weiß auch gar nicht, seit wann gibt es Jabber?
Linus Neumann
Also ich glaube schon, dass ich es relativ lange benutze.
Tim Pritlove
Seit 2004 ist es ein Standard.
Linus Neumann
Hätte jetzt auch so 20 Jahre geschätzt.So da gibt es unterschiedliche Anbieter und du kannst dir deinen Java ServerBetreiber natürlich frei wählen.Registrierst dann deinen Account und dann jabberst du eben darüber.Sieht dann am Ende aus wie, also typischerweise benutzt man einen.Ein Client natürlich dafür, ja. Und der sieht dann gerne mal so aus wie,muss man sich so vorstellen wie ICQ, AIM, AOL Instant Messenger.Was waren denn noch so welche?Gab es da noch einen? Die beiden waren das so, ne?
Tim Pritlove
Am Anfang ja, also ICQ war das erste,aus Israel glaube ich und AIM aus Amerika von AOL hat dann sehr schnell diePopularität sogar noch überschritten von ICQ.Und ich glaube ICQ ist auch, ist das irgendwann da eingeflossen?Ich weiß nicht mehr so ganz genau.
Linus Neumann
Genau, aber du hattest einfach, und ich glaube das ist lustig,weil die Leute, ich kenne auch immer noch meine ICQ Nummer.Ja die werde ich jetzt hier nicht sagen, aber ich kenne sie noch.
Tim Pritlove
Ich weiß gar nicht, ob ich die alle hatte, doch ich glaube auch.
Linus Neumann
Ja doch klar, das war ja Irrsinn, dass du da so ein Fensterchen rechts am Bildschirmrandhast und dann immer so, oh oh, was wird denn deine Kumpel schreiben,das war schon irgendwie spitze.Also es war einfach schon eine bessere Integration,als vorher irgendwie mit Bitch-Ex im IRC rumhängen, was allenfalls mal gepiepthat, wenn du dir vorher irgendwie ein Skript für die Funktion geschrieben hastoder so, nee, nee, das war schon...Das war schon ganz gut mit dem ICQ.Und Java, was benutzt man da? Pidgin ist, glaube ich, auf Linux der beliebteClient, auf Mac OS, Ardium, Windows weiß ich nicht, gibt's sicherlich auch.So, jetzt werden diese Java-Server gerne mal benutzt. Ich würde sagen,ist schon in Hacker-Kreisen eher beliebt.Und es hat so ein bisschen, ich glaub, den Vorteil dadurch, dass das einfachnicht so verbreitet ist, aber eigentlich jeder Techie schon irgendwie einenJava-Account hat, hat sich das eigentlich ganz gut gehalten,um da so ein bisschen unter sich zu bleiben.Und jetzt gibt es also einen Java-Serverbetreiber unter der Domain java.ru undxmpp.ru und der hat Server offensichtlich gehostet,was das ist der einzige Teil, den ich an der Story so ein bisschen schwer nachvollziehbar fand.Derzeit ist Server offenbar bei Hetzner und bei Linode stehen.Hetzner ist ein relativ großer Server-Hoster aus und größtenteils auch in Deutschland.Die sind dafür bekannt, relativ günstig zu sein. Zum Beispiel auch dadurch,dass sie jetzt nicht unbedingt Enterprise-Server-Hardware verwenden,sondern auch einfach mal normale Consumer-Festplatten da reinschnacken und dirdadurch halt einen günstigen Server anbieten.Und Linode ist ein US-Anbieter, glaube ich, aber die haben auch offenbar weltweitund auch in Deutschland was stehen.Und dieser Java.ru betreibt also mehrere XMPP-Server, hat da irgendwie ein LoadBalancer davor und irgendwie kriegt der das halt hin.Und jetzt stellte der auf einmal fest, bei der Verbindung zu Java.ru,dass das Zertifikat abgelaufen war. Auf einem seiner Server.Also das TLS-Zertifikat.
Tim Pritlove
Wer stellte das fest?
Linus Neumann
Der Administrator des Servers. Sicherlich auch viele andere,die werden ja auch die Zertifikatswarnung bekommen haben, aber die Geschichtebeginnt mit dem Administrator des Servers.Und dann denkt er sich, hä komisch warum ist denn mein letztes Encrypt-Zertifikat abgelaufen?Also das sind die Verschlüsselungszertifikate, die für das TLS zuständig sind,dafür dass da oben das Schloss im Browser ist. Das habt ihr sicherlich auchschon öfter mal beim Besuch einer Webseite gesehen, dass da manchmal steht, ist abgelaufen.Bei Let's Encrypt laufen die, glaube ich, gerade standardmäßig so nach drei Monaten ab.So und dann denkst du natürlich als Administrator, denkst du,oh komisch, mein Zertifikat ist abgelaufen, normalerweise hast du dein Let'sEncrypt Service so konfiguriert, dass der die automatisch sich erneuert.Da hast du eigentlich so einen Cron-Job laufen, der, was weiß ich,machst halt einmal im Monat oder wenn du sicher gehen willst,einmal die Woche, dass der guckt, ob das Zertifikat noch gültig ist und wenndas so in dem Rahmen ist, wo man mal langsam das verlängern sollte oder einneues ausstellen lassen sollte, holt der sich halt ein neues.So, und wenn du jetzt an deinem eigenen Server eine Zertifikatswarnung kriegst,dann gehst du eigentlich hin und guckst, naja, was hab ich denn da falsch gemacht,worum ist denn mein Zertifikat abgelaufen.Muss auf jeden Fall fixen, weil Leute können gerade nicht darauf zugreifen. So,und in der Untersuchung stellt dieser gute Mann fest, das Zertifikat,was ich da gerade gezeigt kriege und was abgelaufen ist, ist eines,was ich nie ausgestellt habe.Also er findet dieses Zertifikat nicht auf seinem Server.Das ist sehr überraschend und das sollte nicht passieren.Und beobachtet dieses Phänomen eben bei zwei Servern, die sich in Deutschland befinden.Und sieht dann eben über Zertifikats-Transparenzlisten und so weiter,dass es dieses Zertifikat eben, dass es mehrere Zertifikate glaube ich sogar gab,die für seine Server ausgestellt wurden, die er nicht ausgestellt hatte.Und da gibt es ja auch so einen Screenshot in dieser Darstellung,wo er dann sagt, okay, jetzt mache ich mal den Wireshark an,also ich schneide den Netzwerktraffic mit auf meinem Server und den Netzwerktraffic auf meinem Client.Und dann sieht man, dass der Client ein anderes Zertifikat sieht,die Verbindung aber trotzdem beim Server ankommt, nur unter einem anderen Port.Und die verbinden sich völlig problemlos, reden dann auch schön XMPP miteinander,weil alle denken, ist ja super, aber das, was der Client sieht,ist nicht das Zertifikat, was der Server sieht.Und das nennt man eine Machine-in-the-Middle-Attacke.Ja, das heißt, da ist ein Rechner zwischen, der hat ein Zertifikat,damit auch den Schlüssel dafür, und alle Verbindungen, die dort eingehen,leitet der dann weiter an den anderen und bricht dazwischen einmal die Verschlüsselung.Und offenbar war diesem MITM-Rechner, der vor seinem hängt, das Zertifikat jetztoffenbar abgelaufen. Jetzt denkstdu dir, ja, scheiße, Wie kommt der denn überhaupt an dieses Zertifikat?Und eigentlich gibt es nur zwei Wege, wie du dir ein Zertifikat fälschlich ausstellen kannst.Der eine wäre, du musst den DNS-Eintrag manipulieren,sodass Let's Encrypt, wenn es prüft bei der Zertifikatsausstellung,ob du auch die Kontrolle über diese Domain hast, dass du die halt zu dir lenkst.Oder du hast den, der DNS-Eintrag stimmt,den veränderst du auch nicht, aber du kannst das Routing zu dieser IP-Adresseverändern, weil du zum Beispiel derjenige bist, der diese IP-Adresse announceund bis zu sich ins Rechenzentrum routet.Und was hier jetzt offenbar passiert ist und ich bin jetzt so ein bisschen vor,also dieser technische Bericht ist, wenn er nicht wahr ist,sei jetzt ganz vorsichtig, ist der enorm gut gefälscht,weil der perfekt danach aussieht, also genau so würde man es machen und derist in meiner Lesart absolut schlüssig,bis auf die Tatsache, dass der seine Server ausgerechnet bei Hetzner und Linodein Deutschland stehen hat, wenn es Jabber.ru ist.Also, was stellt er fest? Auf seinem Server, der, der diese TLS-Terminierung macht,der hat irgendwann einmal für ein paar Sekunden, für ungefähr 30 Sekunden, 19 Sekunden, am 18.Juli die Internetverbindung verloren. Also seine Netzwerk, seine Netzwerk-Anbindungist runtergegangen und ist wieder hochgegangen und danach hat sich so ein paarDinge an seinem Netzwerk verändert,zum Beispiel kann er andere nicht mehr pingen, die er vorher pingen konnte.Was also potenziell passiert ist, da wurde einfach dieser In The Middle Serverzwischengeschaltet und der hat sich dann,weil er quasi jetzt unter dieser IP-Adresse ist, ein Zertifikat geholt,sich das ausstellen lassen und ab dann kann der ja für dich antworten und derist jetzt einfach davor geschaltet.Und jetzt ist er der Sache auf den Grund gegangen und hat halt Tracing und so weiter,Das zeigt dann auch den Unterschied zwischen unterschiedlichen Linode-Servernin Deutschland und woanders, wie die sich verhalten, wie die Traceroutes aussehenund so. Das ist schon alles ganz ordentlich.Lange Rede kurzer Sinn, sieht danach aus,als hätten sowohl Linode als auch Hetzner hier einen MITM-Angriff auf ihreneigenen Kunden gemacht,das werden die sicherlich nicht von alleine machen und eine Geschichte,die dazu sehr gut passt, wäre, dass es eine Anordnung gab von deutschen Behörden das zu tun, ne?
Tim Pritlove
Deutsche Behörden auf Linode.
Linus Neumann
Linode Server in Deutschland.
Tim Pritlove
Achso, Linode Server in Deutschland. Das ist also ausschließlich auf deutschen Servern passiert.
Linus Neumann
Genau, also der hat einen Hetzner Server in Deutschland und einen Linode Serverin Deutschland und er hat andere Linode Server die nicht in Deutschland stehen, da ist das nicht so.
Tim Pritlove
Das ist ja ein bisschen...
Linus Neumann
Ja, also ich würde jetzt mal so, so wie das jetzt geschildert ist,er sagt also spätestens seit dem 21. Juli bis zum 19.Oktober, potenziell aber seitdem 18. April. Und das betrifft alle XMPP-TLS-Verbindungen auf Port 52.22.Er hatte irgendwie noch Port 52.23, was nicht.Und der Angreifer hat dann eben versäumt, sich ein neues TLS-Zertifikat für sein Proxy zu holen.Und ja, dadurch ist es aufgefallen. Und dann kurz danach,nachdem sie begonnen haben, das zu untersuchen, wo sie auch Tickets an Hetznerund Linnot geschrieben haben und sagten so, hier, da stimmt was nicht mit unserem Server.Die Tickets sind aber auch verschwunden und sie sagen also, zum jetzigen Zeitpunktist das passive Mitschneiden, also ein zusätzlicher Routing-Loop ist immer noch da,bei zumindest einem Server, bei Linode, aber die greifen nicht mehr aktiv einin die Verschlüsselung.Sagt aber auch, klar, das heißt, beide Server wurden nicht gehackt,weil wenn die gehackt worden wären, dann hätte man sich einfach davon die Keysgeholt zu den Zertifikaten und hätte das nicht mehr gebraucht.Und die Netzwerke wurden bei Hetzner und Linnod offenbar spezifisch dafür umkonfiguriert,sodass ihm das nicht so einfach aufgefallen ist.Und jetzt müsste man sich natürlich nochmal anschauen, wie das XMPP-Protokollzum Beispiel die Authentifizierung macht.Also ich glaube nämlich, iJabba,die den der benutzt, das ist schon etwas älteres Software und das könnte sein,dass die gar nicht so großartig alles umgesetzt hat,was man so heute macht, das habe ich mir aber nicht angeschaut,aber ja sieht auf jeden Fall,also es ist eine extrem glaubhafte Geschichte, so würdest du halt einen behördlichangeordneten MITM-Angriff auf einen Jabba-Server machen.Für Leute, die nicht zusätzlich zu ihrem Jabber dann noch OTR oder so machen,würde das dann eben bedeuten, dass da alles, was da stattgefunden hat,erstmal mitgeschnitten werden konnte.Du kannst aber natürlich auch dann in dem.Protokoll-Stream durchaus potenziell feststellen und sagen, okay,dann verfolgst du halt das Protokoll nach und sagst,okay, hier, ich entnehme dem, dass das jetzt gerade eine Kommunikation mit meinerZielperson oder für meine Zielperson ist und dass du dann da zielgerichtet vorgehst. Mh, ja.Aber ich fand's auf jeden Fall spannend.
Tim Pritlove
Ja, Management Summary für alle, die bei all den ganzen Abkürzungen komplett ausgestiegen sind.Es macht so den Eindruck, als ob es bei Hetzner und bei Linode in Deutschlandirgendwie vermutlich vom Unterwissen des Hosters Möglichkeiten gibt,mal eben zumindest für bestimmte Protokolle,wie in diesem Fall mit diesem Java Server, Mal eben kurz die Verbindungen zu hijacken,also die Pakete nicht an den eigentlichen Rechner zu routen,der dafür zuständig ist,sondern etwas in der Mitte, der dann mal eben selber die Zertifikatsverhandlungenführt, die man eigentlich selber führen möchte und sich dann sozusagen dazwischen geschoben hat.Und nachdem das dann aufgefallen ist und nachdem da auch ein paar Support-Ticketsgestartet wurden, dann gab es auf einmal diese auffällige Tätigkeit nicht mehr.Obwohl hier glaube ich noch von so einem kleinen Umweg bei den Hops noch berichtetwird, also ein bisschen mitgeschnitten wird dann trotzdem noch.Aber irgendjemand hat sich dann wohl ein bisschen ertappt gefühlt.
Linus Neumann
Also es könnte echt sein, dass sie dafür das Tool MITM-Proxy benutzt haben undden kannst du halt an und aus machen, ne?Da kannst du halt einfach sagen, ja okay, route mal von hier nach da und lassmal kurz den aktiven Angriff sein, dann fließt das einfach wieder alles durch.Ich frage mich halt, es liegt nahe,dass das ein Angriff von staatlicher Stelle war, ich habe ein paar Vorstellungen,worum der sich vielleicht gedreht hat.Also es gibt Ransomware-Gangs, die vielleicht sich auf sowas,auf solchen Servern rumtreiben.Es gibt, könnte was damit zu tun haben.Also das ist schon, ja, also das ist erstmal eine plausible Schilderung, so was natürlich.Die Sache so ein bisschen ist, den ganzen Server direkt hops zu nehmen ist haltein relativ breiter Zugriff.Jetzt kann man natürlich wieder sagen, damit hätten sie jetzt potenziell erstmalalle Connections dahin mitschneiden können und auch jede Kommunikation.Und wenn die Kommunikation, wenn sie Ende zu Ende verschlüsselt war,dann zumindest immer noch die Metadaten, wer wann mit wem kommuniziert hat undwie viel und wie lange die Pausen und so waren.Das ist schon ein relativ üppiger Zugriff.Bin mal gespannt, ob wir da noch irgendwie was hören von den Ermittlungsergebnissen oder ob,ob der, also das Thema scheint nicht so hochgekocht zu sein,sodass sich jetzt auch nicht so wirklich jemand da, also im Moment ist da glaubeich noch niemand unter, unter Rechtfertigungsdruck.
Tim Pritlove
Ja mal gucken ob das noch kommt.So damit sind wir am Ende der Sendung angekommen.
Linus Neumann
Genau sind wir am Ende der Sendung.
Tim Pritlove
Ist dann doch noch ein bisschen länger geworden.
Linus Neumann
Wenn du unbedingt Facebook kostenlos benutzen willst ohne dich tracken zu lassen.Jetzt steigen wir ein.
Tim Pritlove
Du wolltest mit Log2Netzpolitik immer auf Facebook und ich immer nicht.
Linus Neumann
Wir sind da immer noch, wir sind da, wir haben eine Facebookseite,ich habe irgendeinen automatischen Webdienst, der pastet da jedes Ding hin.
Tim Pritlove
Ach das löschen wir mal, das ist doch Quatsch.
Linus Neumann
Ne da kommentieren auch Leute, lass.
Tim Pritlove
Das ist nicht dein Ernst.
Linus Neumann
Doch ich hab da letztens reingeguckt.
Tim Pritlove
Echt?
Linus Neumann
Hier Facebook.
Tim Pritlove
Wir kommentieren Leute auf Facebook. Das ist das Problem, wenn du auf so einemService präsent bist, aber du bist da eigentlich gar nicht präsent. Was soll denn das?Naja okay gut.
Linus Neumann
Es ist ein Werbe-Netzwerk und wir werben da kostenlos. Was willst du mehr?Guck hier. Hier willst du nicht sehen. Mit deinen Bildern und allem. Die werden da direkt.
Tim Pritlove
Aber okay, das heißt wir werben da, dann könnten wir uns doch auch dafür bezahlenlassen, dass wir nicht werben.Das wäre doch super.
Linus Neumann
Zehn Euro.
Tim Pritlove
Dann hören wir auf auf Facebook zu posten.
Linus Neumann
Da hättest du immer drauf hinweisen können. Bei uns könnt ihr auch zehn Eurozahlen, da hindert euch niemand dran.Und was wir machen ist, bei uns ist es sogar so, wir machen einfach genauso weiter.Das ist doch viel cooler, also Facebook sagt auch, alles genauso wie vorher,aber keine Werbung. Bei uns war nie Werbung, also ist alles genau wie vorher,10 Euro, zack, finde ich einen fairen Deal.Und außerdem könnt ihr ja für uns Werbung machen, das dürft ihr ja nicht vergessen.Das kostet allerdings Geld, für uns Werbung zu machen.Da müsst ihr in unseren Shop gehen, könnt ein T-Shirt kaufen,dann könnt ihr Werbeträger werden für uns.Also ich verstehe warum das andere sich durchgesetzt hat, aber ich finde unseren Ansatz charmanter.
Tim Pritlove
Ja ich auch. Oh Gott ich muss da glaube ich mal ein paar Sachen löschen aufFacebook, das geht alles gar nicht.
Linus Neumann
Oh gibt's da was von dir?
Tim Pritlove
Naja, irgendwelchen Experimenten gibts irgendwie in dem Meta eben,Profil oder wie das heißt, keine Ahnung, da ist natürlich nichts drauf,aber auf Logbuchnetz wirklich ist auch nichts drauf.
Linus Neumann
Ach da kommen hin Leute, du kannst da irgendwo hingehen.
Tim Pritlove
Also wenn ich da drauf gehe, dann kommt da gar nichts. Manage Page,hier kommt auch, was ist das hier?
Linus Neumann
Ne bei mir kommt da, hier prophetisches perfekt, Enkel Trick beim Hackersilber, die Bilder.
Tim Pritlove
Jetzt hab ich das auch, das ist so furchtbar auf diesem Facebook.Grauner. Grauner. Aber das liest doch kein Mensch.
Linus Neumann
Die sind da immer Daumen drunter, hier drei mal gefällt mir.
Tim Pritlove
Was? Tatsache.
Linus Neumann
Sechs mal gefällt mir. Drei. Vier. Aha.
Tim Pritlove
Für die drei Daumennamen machen wir hier irgendwie so eine Präsenz auf die Böse.
Linus Neumann
Machen wir ja nicht, wir machen doch gar nichts, das macht alles irgendein Skript.
Tim Pritlove
Das ist doch eine Ausrede, wir sind doch hier, wir sind doch hier da,wir unterstützen doch dieses ausbeuterische System durch unsere Präsenz.Wieso kriegt man das eigentlich bei Facebook nicht um die Ohren,warum muss man sich das immer nur bei Twitter vorwerfen lassen?
Linus Neumann
Weiß ich nicht.
Tim Pritlove
Das ist alles ungerecht.Aber ich tendiere dazu Sachen einfach zu löschen, wenn ich die nicht wirklich brauche und benutze.
Linus Neumann
Deswegen willst du ja auch nur ein Iphone mit 256 Gig.
Tim Pritlove
Ja das reicht mir auch.
Linus Neumann
Echt so wenig?
Tim Pritlove
Ja der Rest ist in der Cloud.
Linus Neumann
Dann brauchen wir das ja nicht mehr.Das ist, ne klar, das kann ich verstehen. Dann brauchen wir ja keinen eigenenSpeicherplatz mehr, wenn das.
Tim Pritlove
Gut, zum Abschluss noch ein bisschen Propaganda aus China und wir hören unsdann nächste Woche wieder, nehme ich mal an.
Linus Neumann
Vielleicht bis dahin mehr passiert, dann müssen wir nicht so die Auseinandersetzungmit Belanglosigkeiten hier so in die Länge ziehen.Belanglosigkeit. Super Feedback. Achso, ja Feedback schon.
Tim Pritlove
Feedback schon, aber die anderen Themen. Man muss auch diese Diskussion führen,ich glaub das ist auch für uns gut, also für mich zumindest,dass man das einfach mal so ein bisschen quetscht und einfach mal ein paar Aspekte sieht.Gerade bei diesem KI Thema sind wir noch lange nicht mit durch.
Linus Neumann
Ne, meinst du das setzt sich durch? Meinst du da werden wir nochmal drüber sprechen müssen?
Tim Pritlove
Ich hab so den Anflug einer Vermutung auf jeden Fall. Jetzt machen wir aber erstmal tschüss hier.Leute bis später. Macht's gut.
Linus Neumann
Bis denn. Ciao ciao.
Shownotes
Prolog
- podcasts.social: 12 Jahre LNP
- Peking 2008 – Eröffnungsfeier
Feedback
Intro-Experimente
- logbuch-netzpolitik.de: Kommentar von Vinzenz
Jank: Deep Learning vs Machine Learning
- logbuch-netzpolitik.de: Kommentar von j4nk
ML Bruteforce
logbuch-netzpolitik.de: Kommentar von M G Berberich
logbuch-netzpolitik.de: Kommentar von Marc
Menschliches Wissen steht der KI im Weg
- logbuch-netzpolitik.de: Kommentar von Lukipuki
- cre.fm: CRE208 Neuronale Netze | CRE: Technik, Kultur, Gesellschaft
- Word2vec – Wikipedia
- DeepDream – Wikipedia
- Journey on the Deep Dream – YouTube
KI-Regulierung
- logbuch-netzpolitik.de: Kommentar von Der Kluge Hans
Micro-Targeting durch Ylva Johansson
- logbuch-netzpolitik.de: Kommentar von David
Google lässt sich #1 was kosten
Meta: Personalisierte Werbung
- netzpolitik.org: Soziale Netzwerke: Europäischer Datenschutzausschuss verbietet Meta personalisierte Werbung – netzpolitik.org
- spiegel.de: Instagram und Facebook werbefrei für 9,99 Euro im Monat: Meta startet neue Abos für Europa – DER SPIEGEL
Jabber.ru MITM
- notes.valdikss.org.ru: Encrypted traffic interception on Hetzner and Linode targeting the largest Russian XMPP (Jabber) messaging service —
- devever.net: Mitigating the Hetzner/Linode XMPP.ru MitM interception incident
Ich möchte Linus zustimmen, dass „ein Mangel an Medienkompetenz durch Vorenthaltung dieser Medien kompensieren zu wollen“ keine gute Idee ist.
Allerdings zeigt sich doch schon bei den vorhandenen, in den letzten Jahrzehnten entstandenen Medien wie sich mangelnde Medienkompetenz auswirkt (Stichwort Fakenews).
Wir können jetzt also darauf warten, dass die populistische bis extreme Rechte die Piotentiale von KI generierten Bildern für sich entdeckt und Telegramchats voller durchgeknallter Boomer plötzlich unser kleinstes Problem sind. Oder wir fangen an möglichst alle Menschen auf dem Weg der Innovation mitzunehmen. Verbote werden uns zumindest nicht weiterbringen.
@Tim: kurzes Feedback zu deinen Experimenten, die Podcast-Folgen durch AI von „Ähs“ usw. bereinigen zu lassen. In dieser Folge ist mir das zum Teil negativ aufgefallen, bzw. ich glaube zu hören das da rumgeschnibbelt wurde. Von Linus wurden Worte oder Fragmente komplett verschluckt, und ich fand es teilweise unschön wie sich euer Sprachrhythmus an den ich gewöhnt bin verändert hat. Alles etwas stressiger weil weniger Pausen im Sprachfluss bleiben.
Ich schließe mich dieser Meinung vollumfänglich an.
Dem stimme ich zu.
Ihr könnt ja für 9,99€ eine Version ohne ‚ähs‘ anbieten. ;)
Ja, z.B. 28:27 min fehlt was.
Unbedingt. Lasst die Pausen, ähs, Lacher und das Atmen drin Leute! Ich höre Podcasts ja neben den Themen wegen der menschlichen Komponente!
Bei 21:31 klingt das auch sehr danach, als wäre das Linus‘ Lachen abgeschnitten. Sehr schade wenn’s beim Podcast hören auch darum gehen soll, „Zeit zu sparen“.
Mal wieder Momo lesen vielleicht?
Bei UKW aber bitte unbedingt eine Version ohne Pavels „Äs“, das halbiert die Folgenlänge! :)
Jungs, schade, dass wir uns so missverstanden haben beim Thema KI, dass, wenn ich sage „Regulierung“ Ihr nur „Verbot“ hört und, wenn ich sage „qualifizierte Kreise“, Ihr nur an inkompetente Eliten denkt. Dabei bringt Ihr doch selber genug Beispiele. Das Thema Medizin / Brustkrebsvorsorge ist doch ein wunderbares Anschauungsobjekt, diese Daten sind von Medizinern für Mediziner gedacht, die dadurch eine wertvolle Hilfestellung erfahren können. Sie sollten nicht für Softwarehersteller oder Social Media Giganten sein, die diese privaten Daten dann an Fleurop verkaufen, damit die im Anschluß den Angehörigen eine Mail schreiben: In Ihrem Bekanntenkreis erlebt jemand eine private Tragödie. Möchten Sie dieser Person einen Blumenstrauß senden?
Tims Beispiel mit dem Straßenverkehr („30 Jahre Anarchie auf den Straßen, dann ruckelt sich das ein mit der Straßenseite“), so möchte ich eigentlich nicht, dass Fortschritt von statten geht, sondern mit Augenmaß und Folgenabschätzung. Wenn die Gesellschaft mit einer Entwicklung nicht Schritt halten kann, warum kann sie dann nicht einmal innehalten, Zwischenbilanz ziehen, mögliche Szenarien antizipieren und dann versuchen, die Zukunft in eine möglichst positive Richtung zu lenken?
In Amerika sprechen sich auch Leute, die sich mit KI auskennen, für ein Moratorium bei der Weiterentwicklung aus, die sich gleichzeitig ziemlich sicher sind, dass die USA in diesem Bereich deutlich weiter sind als Russland oder China (alleine deshalb, weil das Internet in erster Linie auf Englisch stattfindet), also die Argumentation „wenn wir’s nicht machen, machen’s die anderen“ so nicht greift. S. hier:
https://your-undivided-attention.simplecast.com/episodes/the-ai-race-china-vs-the-us-with-jeffrey-ding-and-karen-hao-CADVXGrS
Google Glas ist ebenfalls ein gutes Beispiel dafür, dass, wenn die Risiken einer Technik ihren Nutzen überschreiten, man sie nicht (oder unter bestimmten Bedingungen) einsetzt.
Und wenn Ihr sagt, man müsse die Leute darauf vorbereiten, mit KI umzugehen (Medienkompetenz), ja absolut, aber würdet Ihr Euren Kindern das Schwimmen beibringen, indem Ihr sie einfach ins Becken schmeisst oder würdet ihr sie mit Schwimmkurs und ausreichend Sicherheit und Zeit dazu befähigen, vom flachen ins tiefe Ende zu gelangen, also in kontrollierter Umgebung mit kompetentem Personal?
Grüße!
Und wie soll diese Regulierung denn aussehen? Klar gibt es viel KI-Software von großen Techfirmen, aber was ist mit Leuten, die z.b. ihre eigenen NNs auf ihrem Rechner laufen lassen?
Die können das ja gerne machen, aber man kann ja regulieren, dass z. B. nicht eine KI darüber entscheidet, ob ich eine Versicherung bekomme oder nicht, oder wieviel ich dafür bezahlen muss.
Und warum würde man z. B. genau das wollen? Weil z. B. in der letzten Sendung schon nebenbei erwähnt wurde, dass KIs super erkennen können, ob man z. B. Mann oder Frau ist, ohne diese Informationen eigentlich vorliegen zu haben. Die finden nämlich von alleine alternative Marker, die genau das gleich aussagen.
So, und jetzt halte ich dagegen, dass sich schon vor Jahren Versicherungsmenschen bei mir darüber ausgeheult haben, dass sie türkischstämmigen Kunden keine höhere KFZ-Provision abverlangen dürfen. Bei denen sei das Risiko halt statistisch erwiesen höher, ergo: höhere Provision. Aber da stehen die doofen Anti-Diskriminierungsgesetze im Weg. Na dann sucht man sich halt Ersatzkriterien, wie z. B. Geo-Scoring, die anhand der Adresse mit 99% Übereinstimmung den gleichen rassistischen Bias liefern. Und dann gibt’s hoffentlich vom Gesetzgeber auf die Finger.
Und jetzt kommt die KI, die nach so Ersatzkriterien nicht mal SUCHT, sondern sie automatisch findet und nachher niemand nachvollziehen wie die Entscheidung genau zustande kam und ob die Entscheidungsfindung so gesellschaftlich gewollt ist.
Genau wie bei der teureren KFZ-Versicherung für Menschen mit Migrationshintergrund: Das mag ja sein, dass man, wenn man an die Daten schon rassistische Fragen stellt, die Antwort kriegt, dass Ausländer mehr zahlen müssen. (Genauso gut hätte man vermutlich die Frage an die Daten stellen können, ob Menschen nahe der Armutsgrenze mehr Versicherungsschäden melden. Vielleicht auch nicht, weil sie vielleicht weniger Versicherungen haben. Auf jeden Fall sagt der Fund einer Korrelation aber nicht, dass man zwangsläufig eine Ursache gefunden hat.) Der Punkt ist aber: Statistik hängt immer davon ab, welche Frage man an die Daten stellt. Und wir als Gesellschaft treffen immer wieder Entscheidungen darüber (und sollten das auch), nicht welche Fragen die aktuelle Situation bestimmen, sondern welche sie unserer Meinung nach bestimmen SOLLTEN und welche definitiv nicht. Gerechtigkeit ist so ein Ding: Die Welt ist nicht gerecht, aber wir hätten sie gerne gerecht und wir versuchen die Regeln so zu machen, dass sie es möglichst wird.
Und solche Regeln, die wir für natürliche Intelligenz aufstellen, hätte ich auch gerne für künstliche Intelligenz. (Nur fällt mir schwer, mir das vorzustellen, solange die KI ihre Entscheidungsfindung nicht erklären kann. Und deshalb würde ich persönlich die KI aus allen Entscheidungen, die man gerne aus guten Gründen anfechten können möchte, erst mal raushalten.)
Ich würde eine Herangehensweise begrüßen, in der nicht ICH die Konsequenzen von Problemen beantworten muss, die jemand anders in die Welt gesetzt hat. Warum verpflichtet man nicht diejenigen, die unkontrolliert KI raushauen, eine Lösung für die angeschlossenen Folgen mitliefern zu müssen, wenn sie offensichtlich zu so großen gesellschaftlichen Verschiebungen führen?
Ob es nun eine technische Antwort ist, die dafür sorgt, dass KI-generierte Fake-Videos (anhand eines Wasserzeichens oder eben des Fehlen eines Wasserzeichens a la SSL) als solche erkannt werden oder eine vertragsbezogene Antwort (wenn ich die Bilder eines Künstlers verwende und im Anschluss auch noch explizit so anbiete [„KI, mal mir ein Bild im Stil von“] sollte ich dann nicht irgendeine Form der Vorab-Einigung oder Vergütung verhandelt haben und sei es ein Minimalbetrag, der nicht personenbezogen als Kulturabgabe für die Gesellschaft verwendet wird?) kann ich Dir nicht sagen, weil ich dazu nicht qualifiziert bin, aber dass diese Diskussion überhaupt mal geführt werden sollte, wäre wünschenswert.
Tims Ansatz der „Selbstregulierung“ wird ziemlich sicher so laufen wie schon Social Media gelaufen ist, 80jährige, die nichtmal einen Rechner oder ein Smartphone haben, werden ihre Medienkompetenz „im Stahlbad“ erwerben, nachdem ihnen die KI einmal das Konto leergeräumt hat („er klang am Telefon genau wie mein Enkel“), niemand wird also noch irgendeinem Dokument oder Kommunikationskanal Glauben schenken, sei es Audio, Papier oder Video, und wir werden eine noch größere Zersplitterung der Gesellschaft erleben.
Lieber Tim und lieber Linus.
Schön, dass euch meine Ergänzung gefallen hat zu Alpha-Zero.
Mir ist bei der kurzen Besprechung von Tim’s CRE über Neuronale Netze etwas eingefallen:
Tim, mache doch von diesem nochmal eine „Episode 2“. So wie zum Digitalen Geld, gäbe es bei Neuronalen Netzen auch viel „Update-Bedarf“.
Ganz Speziell würde mich eine anschauliche Erklärung von diesen „Transformern“ sehr interessieren. Ich habe sie immer mal wieder (oberflächlich) versucht zu verstehen und irgendwie ist mir der Zugang nicht so richtig gelungen.
Aber die Transformer waren doch – so habe ich es verstanden – eine weitere Revolution, nach der Deep-Learning-Revolution use.
Die Transformer erzeugen einen attention-mechanism,also das selektive betrachten von bestimmten features. (So ein bisschen, wie wenn ich in einen Raum gehe und mir vorher jemand „LAMPE“ sagt – dann ist meine Wahrnehmung anders, als wenn mir jemand „BÜCHERREGAL“ sagt.
Jedenfalls sind diese Transformer ja glaube ich das wichtige Element in ChatGPT und den anderen Generativen Netzwerken (Stable Diffusion, Midjourney) – so glaube ich jedenfalls.
Denn das T in „ChatGPT“ steht ja für Transformer – also „Generative Pretrained Transformer“.
Jedenfalls fände ich das ein tolles Thema für ein Update.
Desweiteren wollte ich noch ein Dilemma ansprechen im Kontext des letzten Podcast, bei dem ihr über sexistische und (sonstige diskriminierende Biases) in Neuronalen Netzen gesprochen habt, die evtl mal Entscheidungen über Menschen treffen:
hier: [https://youtu.be/Z8MEFI7ZJlA?si=tSO0bpB0K48Rq6hN&t=800] wird es ganz schön erklärt in einem Talk, aber ich fasse es kurz zusammen:
Ein Standard-Beispiel in Machinelearning-Aufgaben ist ein Datensatz mit Häuserpreisen in Boston. Da haben Bankangestellte jahrelang (Jahrzehnte) den Preis von Häusern geschätzt auf Basis von einer ganzen Reihe von Faktoren (also den Spalten im Datensatz). Da sind so Sachen, wie Quadratmeter (oder square-feet), Anzahl der Zimmer, Stadtteil usw.
Hier sind alle Spalten:
“
CRIM – per capita crime rate by town
ZN – proportion of residential land zoned for lots over 25,000 sq.ft.
INDUS – proportion of non-retail business acres per town.
CHAS – Charles River dummy variable (1 if tract bounds river; 0 otherwise)
NOX – nitric oxides concentration (parts per 10 million)
RM – average number of rooms per dwelling
AGE – proportion of owner-occupied units built prior to 1940
DIS – weighted distances to five Boston employment centres
RAD – index of accessibility to radial highways
TAX – full-value property-tax rate per $10,000
PTRATIO – pupil-teacher ratio by town
B – 1000(Bk – 0.63)^2 where Bk is the proportion of blacks by town
LSTAT – % lower status of the population
MEDV – Median value of owner-occupied homes in $1000’s
“
–> die drittletzte und zweitletzte Spalte sind ganz schön krass! Die drittletzte gibt den Anteil der schwarzen Bevölkerung im Viertel an – oder POC oder wie mensch das korrekt formuliert (editiert diesen Komment gerne nochmal großzügig – so wie ich es verstanden habe bezieht sich POC auf alle „colors“, aber in diesem Fall geht es hauptsächlich um die afroamerikanische Bevölkerung).
Dieser Datensatz ist also 1. institutional rasistisch, weil er explizit rasseninformationen enthält und 2. implizit rassistisch weil die Bankangestellten, die ihn durch ihr Handeln automatisch erstellt haben mit an Sicherheit grenzender Wahrscheinlichkeit auch rassistisch waren (auch wenn sie das nicht sein wollten, wären sie es trotzdem, da sie das ja nunmal von der Gesellschaft aufgeprägt bekamen usw).
Wie schon erwähnt im letzten Podcast: Es reicht nicht aus einfach die Spalten mit den rassistischen Informationen aus dem Datensatz rauszunehmen, da es immernoch bestimmte Korrelationen in den restlichen Daten gibt, die Auskunft über die Hautfarbe der Hausbesitzer (bzw dem näheren Umfeld) geben.
In dem Talk beschreibt Herr Wamerdams eine Möglichkeit die Daten aus den 2 problematischen Spalten zu nehmen, um den Rest der Daten bezüglich dieser beiden Spalten zu orthogonalisieren) wer schonmal Lineare Algebra hatte -> Gram-Schmidt-Verfahren).
Das erziehlt bessere Ergebnisse in punkto Fairness, als nur diese 2 Spalten wegzulassen (ist aber immernoch nicht komplett fair!).
Aber: Das Dilemma hierbei ist, dass er die Informationen über die Hautfarbe BRAUCHT, um diese Korrektur überhaupt erst machen zu können.
Um also eine KI zu bauen, die wirklich „fair“ agiert, sollte in den Daten unter Umständen eben DOCH die Information über das Geschlecht, die Hautfarbe, Behinderungen oder andere potentiell diskriminierende Faktoren aufgenommen werden. (Natürlich nur, wenn dieses Model am Ende _aktiv_ versucht diese Daten zum Korrigieren der Verzerrung zu verwenden)
Das ist ein Dilemma, weil es da ja um ganz wichtige Fragen der Privatsphäre geht.
Und ein weiterer Punkt: Ich finde dieses Beispiel in dem Talk immer so schön, weil es ein ganz tolles Argument liefert gegenüber manchen Menschen, die sofort „Rassismus“, oder „Sexismus!“ schreien, sobald mal irgendwo Programme existieren, die bestimmte Bevölkerungsgruppen besonders fördern, welche sonst diskriminiert werden. Die schreien dann immer, dass sei Rassistisch, weil es ja aufgrund von der Hautfarbe Dinge entscheidet.
So wie wir intollerant gegenüber Intoleranz sein müssen, wenn unser Ziel mehr Toleranz in der Welt ist, so müssen wir manchmal auch Entscheidungen aufgrund von Rasse (oder Geschlecht usw) treffen, wenn unser Ziel weniger Rassismus (Sexismus etc) in der Welt ist.
Entscheidend ist die Intention.
Zu dem Kommentar Machine Learning wird eingesetzt, wo man das Problem nicht verstanden hat: Es wird auch dort eingesetzt wo man das Problem verstanden hat, eine klassische exakte Lösung aber so im Rahmen von Alter des Universums zu berechnen brauchen würde. Z.B. Protein Folding. Das ist auch eines der Gebiete wo es die meiner Meinung nach wichtigsten Fortschritte gebracht hat.
Thema Zeitreise und warum niemand aus der Zukunft ein Zeichen gesendet hat.
Hier sehe ich die folgenden Möglichkeiten:
– In 500 Jahren hört niemand den Podcast und Zeitreise wurde nicht erfunden.
– In 500 Jahren hört niemand den Podcast und Zeitreise wurde erfunden.
– In 500 Jahren hört jemand den Podcast und Zeitreise wurde nicht erfunden.
– In 500 Jahren hört jemand den Podcast und Zeitreise wurde erfunden.
Für den letzten Fall, und das ist imho der einzige den es hierbei zu betrachten lohnt, stellt sich die Frage, warum sollte jemand die Technik der Zeitreise nutzen um 2 Leuten die gerade einen Podacast aufzeichnen, ein Zeichen zu senden?
Sollte sich zu diesem Zeitpunkt die Menschheit in einer Utopie befinden, würde wohl niemand diese gefährden wollen nur um in einem 500 Jahre alten Podcast genannt zu werden. Die Gefahr die Vergangenheit zu beeinflussen ist wohl zu gross.
Sollte sich zu diesem Zeitpunkt die Menschheit nicht in einer Utopie befinden, haben die Leute wohl andere Sorgen als in einem 500 Jahre alten Podcast genannt zu werden und befürchten durch einen Eingriff in die Vergangenheit alles nur noch schlimmer zu machen.
Wie auch immer, würde jemand den Podcast hören und sich denken „yo, da kann ich ja mal drauf reagieren und ein denen ein zeichen senden“, dann müsste diese Person das ja schon im Podcast hören, weil das Zeichen ja schon aufgezeichnet wurde noch bevor es in der Zukunft abgesendet wurde.
Temporale Paradoxie… Eigentlich ganz einfach… ;)
Ich lass einfach mal ’nen russischen(?) ICQ-Song auf YouTube hier, dachte der passt irgendwie zur Sendung x)
https://youtu.be/WQM4gxneVx4
Fand die Diskussion zu werbefreien Premium-Abos sehr spannend! Bin auch immer mal wieder am überlegen, ob ein YouTube Abo nicht doch sinnvoll wäre.. Es muss ja gar nicht alles immer gratis sein, aber andererseits stinkt mir das Geschäftsmodell mit manipulierender, zielgerichteter Werbung von Google schon… Und auch wenn man ein Abo hat füttert man seine Verhaltensdaten ja trotzdem noch an die Maschine. Und an Linus‘ Argument ist auch etwas dran, dass es eigentlich doof ist, wenn es eine Einkommensfrage ist, ob man sich Werbung aussetzen muss, oder nicht. Bisher ist es daher dabei geblieben, dass ich einzelne YouTuber auf Patreon unterstütze.
Ich denke mein Traum wäre eine Videoplattform, der ich einen flexiblen Betrag gebe und dann einstellen kann, welcher Kanal davon wie viel abbekommt. Und ein frei einstellbarer Teil wird vlt automatisch je nach Konsumdauer auf die sonstigen Video-Ersteller verteilt, deren Content man sich im Monat so angeguckt hat. Mit ’nem schönen Dashboard auf dem man ganz transparent sehen und verwalten kann, wer wieviel Geld von einem bekommt. Sodass die Plattform am Ende für zwei Dinge da ist: um Videos auszuspielen und um Leuten die Möglichkeit zu geben, Content-Ersteller finanziell zu unterstützen. Quasi ein in YouTube integriertes Patreon. Und das dann ganz ohne Verhaltensanalysen, Datensammelei, manipulierende Werbung und kostenlos für alle die kein Geld haben… hach :P
Das Problem ist die Zerfurchung aller Dienste die man so nutzt. Youtube, Facebook, Podcaster etc. Wenn die alle bezahlt werden wollen, muss einer von denen (in meinem Fall) kürzer treten… Ich fand Flattr seinerzeit im Ansatz sehr gut…
Vor ein paar Jahren gab es da vom CCC schon mal die Postulierung einer „Kulturwertmark“. Nach wie vor visionär, würde ich sagen. Dann kamen Netflix & Co, dumpf wurde behauptet, nun haben wir ja schon alles, Wahlfreiheit usw. Dann wurde irgendwann klar, nee, ist irgendwie doch nicht dasselbe. Und parallel geht der Pöbel gegen die „GEZ“ weiter. Ja, es wird höchste Zeit für die Kulturwertmark (und die passende Plattform für den vernetzten Content). Man könnte tatsächlich mit den Öff-Rechtlichen starten, und es dann systematisch erweitern.
Übrigens hat nicht nur China ein Cyber-Hymne, die Bundeswehr hat den Cyber-Marsch (ohne Text): https://www.youtube.com/watch?v=koc9z3XIx6A
Hattet Ihr in LNP 217 und 218 auch schon erwähnt.
Oh Mann das hatte ich schon wieder total verdrängt.
Zum Thema Jabber erst mal danke dass ihr diese Nachricht diskutiert habt! Am Anfang des Themas wird allerdings doch klar dass ihr XMPP schon lange nicht mehr benutzt habt ;-)
– Statt OTR gibt es inzwischen OMEMO, quasi das gleiche crypto-Verfahren wie Signal.
– Statt pidgin würde ich unter Linux gajim oder Dino empfehlen. Auf Android ist Conversations zu empfehlen.
Allgemein kann ich sehr die Arbeit und talks von Daniel Gultsch empfehlen, siehe https://media.ccc.de/search?p=Daniel+Gultsch
Auch vergessen wurde, dass Jitsi auf XMPP basiert.
Ja gut, aber das kann man ja jetzt nicht Jabber.ru zur Last legen.
Nein, dass stimmt. Mein Kommentar bezog sich auf deine Aussage im Podcast, dass XMPP eher nicht so verbreitet ist, in einem Nebensatz. Deshalb wollte ich das hier richtig stellen.
Neben jitsi wird es auch in idiotisch teuren Cisco-Telefonanlagen mit großer Kundschaft eingesetzt.
Entschuldigung, für den fehlenden Kontext.
WhatsApp basiert auf XMPP. So viel zu „nicht so verbreitet“.
Der Facebook-Chat auch (solange es ihn noch gab). Finde auch manchmal komisch dass so getan wird als sei XMPP irgendwas beiläufiges. Das war (oder stimmt es etwa nicht?) DER Chat-Standard schlechthin, BIS die Smartphones kamen. Da hattte man irgendwie den Anschluss verpasst, anständige Apps zu entwickeln. Inzwischen gibt es Apps mit guter usability und auch gute encryption z.b. mit Conversations und Dino, aber, irgendwie hat das keiner mehr mitbekommen, sodass selbst hier im LNP sinngemäß zu hören ist: XMPP das ist so ein Pidgin mit OTR oder so. Sorry aber das ist nicht der Status Quo. Ein harter Vorteil von XMPP bleibt: Es ist super schlank. Nachhaltig, ökologisch, potentiell emanzipatorisch (Interoperabel, dezentral), elegant. Sicher? Da gehen die Meinungen auseinander, und sicher nicht nur deshalb weil es Signal-Fans gibt. Zumindest mit meta-Daten scheint XMPP ein gewisses Problem zu haben, aber auch da: Wie schlimm ist das wirklich? Ständig versucht der Staat an Ende-zu-Ende-verschlüsselte Nachrichteninhalte zu kommen, das nervt. Soll er doch meta-Daten für Ermittlungszwecke bekommen, dann hat der payload der Nachrichten endlich Ruhe. Ok diese Argumentation ist gewagt gebe ich zu, aber ansonsten gibts ja eh noch ganz andere Alternativen, Briar usw.
Und was soll denn die Bemerkung, dass eJabberd schon etwas ältere Software sein soll? Klar gibt es die schon länger, die aktuelle Version ist von Mitte Oktober 2023. Dieses XMPP Bashing hier im Podcast ist auf dem selben Niveau wie das leider immer noch regelmäßige Android Bashing.
Ja, als des Gespräch auf XMPP kam, bin ich wie meine Vorkommentierenden auch gestolpert.
XMPP mag zwar als Standard schon ziemlich alt und abgehangen sein, aber das Ökosystem, wenn auch mit relativ wenigen Nutzenden, ist immer noch aktiv und das aktuell mehr denn je.
Seit letztem Jahr zum Beispiel können die bekanntesten Clients nun Audio- und Videoanrufe. Und andere Features, wie message reactions sind weiterhin in Arbeit, wobei Dino (Linux-Desktop-Client) die sogar schon kann.
Seit 2014 ist Snikket aktiv als Projekt für sehr einfaches Selbsthosting von XMPP-Servern inklusive Integration mit eigenem Conversations-Fork. Genau, und auf Android ist Daniel mit Conversations, _dem_ Android-XMPP-Client ziemlich aktiv.
Das Ding ist also überhaupt nicht so tot, wie das nach eurer Diskussion auf mich wirkt. Klar hat XMPP im Vergleich mit anderen Instant Messengern* eine eher schmale Nutzendenbasis und das Ökosystem bewegt sich langsam, aus meiner Sicht passiert hier aber definitiv immer noch ganz gut etwas.
* Ich schreibe hier explizit ‚Instant Messenger‘, weil ich das System/die Platform an sich meine, XMPP als Protokoll hat ja durchaus größere Verbreitung , z.B. mit WhatsApp.
Logbuch Netzpolitik ist der einzige Podcast, bei dem ich die Kommentarspalte immer mit grossem Vergnügen lese. Und dann sehr gerne eure Diskussion der Kommentarspalte in der nächsten Ausgabe anhöre. Und dann wiederum mit Interesse die Kommentare über die Diskussion lese…
Danke. Gerade bei einem so grossen Thema wie KI bereichernd und sinnig.
Moin, interessante Diskussion zur KI-Regulation, die zeigt wie schwierig es ist, vernünftige Regeln zu finden. Mein aus der Hüfte geschossener Vorschlag, der aber auch nicht neu ist, wäre die Erhebung der ohnehin schon vorgesehenen, aber bisher viel zu niedrig angesetzten CO2-Steuer. Wenn ich mich richtig erinnere, werden 180EUR/t als reale CO2-Folgekosten geschätzt, bisher ist die Steuer deutlich drunter.
Abgesehen von der Klimaschutz-Wirkung ganz allgemein würde es auch im Bereich der energieintensiven KI-Forschung und -Nutzung hoffentlich zu einem bremsenden Effekt führen, weil man angesichts der hohen Preise vielleicht einmal länger darüber nachdenkt, ob KI in einem bestimmten Bereich überhaupt sinnvoll ist.
Neben weniger Energieverschwendung würde das etwas gebremste Innovationstempo, so meine Hoffnung, uns etwas mehr Zeit zur Reflexion geben, was diese Technologie mit uns macht.
Anmerkungen zu YouTube Premium
1. Das Geschäftsmodell ist eigentlich widersinnig. Stellt euch mal vor, dass sich nicht nur Tim, sondern ein großer Teil derer die es sich leisten können von Werbung frei kauft. Damit fällt dann genau die zahlungskräftige Zielgruppe weg die sich die beworbenen Artikel überhaupt kaufen könnten. Das wäre das Gegenteil von targeting, bzw. die falsche Zielgruppe. Dadurch wird YouTube als Werbeplattform uninteressant.
2. Das targeting bei YouTube (falls es überhaupt eines gibt) ist kaputt.
Mir zumindest werden da keine Inhalte angezeigt die auf mich „zugeschnitten“ sind. Meisten plärren mich irgendwelche schmierigen Finanzgurus an, manchmal gibt es Film oder Kinowerbung und immer wieder Umfragen zu Themen die mich nicht interessieren.
Wenn das Anderen auch so geht, wird die Zielgruppe von YouTube sehr zuverlässig verfehlt.
> und immer wieder Umfragen zu Themen die mich nicht interessieren.
Ich antworte mit Vorliebe auf die Umfragen zu Themen, die mich *nicht* interessieren.
Bin gespannt, was der Algorithmus daraus macht.
> Das Geschäftsmodell ist eigentlich widersinnig. Stellt euch mal vor, dass sich nicht nur Tim, sondern ein großer Teil derer die es sich leisten können von Werbung frei kauft. […] Dadurch wird YouTube als Werbeplattform uninteressant.
Dafür hat Google das Geld direkt von den Zuschauern eingesammelt. Die 13€/Monat musst du erstmal mit Werbung verdienen.
Ich bin dafür das wir es „Erste Schritte“ nennen. Mein Windows „Erste Schritte sendet 22 MB ins Internet wenn ich diesen Podcas anhöre. Dump anbei.
Habt ihr gewusst dass wenn ihr Erdnussflips (die ja zu 70% aus Mais bestehen) in eine Grießnockersuppel, also dass dann die KI nicht mehr entscheiden kann was Grieß und was Mais ist?
Zum Thema KI finde ich bleibt ein Faktor noch meist unangetastet: Die Gier der Konzerne.
Ich habe ein wenig diesen Gedanken dass KI auch einfach an der eigenen Existenz als goldene Gans (zumindest vorerst) scheitern könnte.
Ich sehe einfach nicht wie die großen Techkonzerne es schaffen werden die Finger von dem Versuch zu lassen so stark am output zu schrauben um das ganze wieder als Werbe- und/oder Einflussmöglichkeit zu verkaufen, dass der Fortschritt wieder Schrittweise zurückgefahren wird und es erstmal wieder zu vielen Jahren der Stagnierung kommen könnte und ob sich schnell genug ein breites Feld an Konkurrenz aufstellt und etabliert. Wenn jetzt beispielsweise OpenAI sich auf den Thron setzt und es dann wieder auf das selbe alte Spiel wie die letzten 10-20 Jahre an der Spitze des Techmarktes hinausläuft, nämlich jede Konkurrenz die aufkeimt sofort aufzukaufen und einzugliedern oder einzustampfen, sehe ich persönlich nicht die Revolution.
Auch dass die meisten hippen „KI Unternehmen“ nichts anderes als glossy frontends für dieselbe 2-3 Firmen/APIs sind lässt mich jetzt noch eher nicht an die große breitflächige Revolution glauben. Auch wenn der Sprung natürlich weiterhin beeindruckend bleibt.
Ein weiteres Problem über das zu wenig gesprochen wird ist das Problem in Zukunft noch hochwertigen Input zu bekommen, wenn das ganze Netz mit SEO artigem und nun vor allem massenweise KI generiertem Müll zugedeckt wird wodurch natürlich nach und nach gewisse Themengebiete, Menschengruppen und Kulturen in der Gefahr stehen einfach aus dem Web „wegoptimiert“ zu werden.
Wie sieht es aktuell eigentlich mit der Entwicklung „persönlicher KI“ aus? Sprich Software und Modelle die ich lokal und unabhängig laufen lassen kann? Das wäre für mich nochmal das deutlich spannendere Thema.
Ich find ja Toot und Re-Toot noch verhältnismäßig fein, wenn man bedenkt was den Terminus ‚Skeet‘ bei Bluesky betrifft und was der so vulgärerweise bedeuten kann. Irgendwie stört das keinen dort.
Von Youtube-Werbung muss man sich nicht nerven lassen. Im Browser uBlock installieren und man wird in Frieden gelassen. Für das Smartphone gibt es Apps wie NewPipe.
Von Youtube Premium ist dringend abzuraten, da hierfür ein Account erforderlich ist, der dann auch eine personalisierte Analyse des Nutzungsverhaltens zulässt. Das wird ohne Account natürlich auch versucht, daher empiehlt es sich, Youtube und ähnlich datenhungrige Domains über ein VPN aufzurufen.
Und wie machst du es beim Streaming z.B. via Chromcast, Fire TV, Apple TV bzw. Smart TV generell?
Pihole bringt da nix, Blocker und alternative Apps kann man oft nicht nutzen. Es sit eine Fummellei sondergleichen die heute Mal funktioniert, morgen. Jcht mehr. Ganz davon ab, dass ja auch potentielle Account Sperren drohen
Laut diversen Beiträgen auf Reddit oder auch kürzlich bei Golem bringt uBlock im Firefox aktuell auch nix mehr..Auch zahlungspflichtige Werbeblocker verlieren Kunden, weil sie nicht mehr funktionieren (zu lesen bei Golem).
Es ist wohl eher ein Katze und Maus Spiel.
Schön wer die Zeit bzw. investieren mag.
Womit ich nicht sagen will, dass ich das Geschäftsmodell von YT/Google toll finde, mitnichten. Erst Recht frech sind die neuen Gebühren die bald fällig werden.
Aber da ich/wir, ähnlich wie auch Tim, sehr viel YT konsumieren (dafür kein Netflix Abo mehr), weil es da so viel Content gibt der mich/uns interessiert, werden wir vermutlich doch in den sauren Apfel beißen müssen. Denn die Werbung geht mal gar nicht und am TV wird halt nichts geblockt. Kosten…Nutzen…Aufwand…
Freut mich, dass hinsichtlich des durch Werbung verursachten Diskomforts Einigkeit besteht :-) Bisweilen kann das schon körperliche Schmerzen verursachen. Wie die Nervensysteme von Individuen konfiguriert sein müssen, bei denen Werbung tatsächlich einen Kaufanreiz setzt, ist mir schleierhaft.
Ansonsten gute Einwände, die du bringst. Für einen Smart-TV fiele mir spontan keine Lösung ein. Unter anderem auch deswegen wird man so etwas (wie auch die anderen genannten Geräte) in meinem Haushalt nicht finden. Laptop, HDMI-Kabel, AV-Receiver und Glotze genügen mir für das werbefreie YT-Vergnügen. Ggf. bei uBlock die Filterlisten aktualisieren, dann klappt’s. Aber du hast Recht, dauerhaft Verlass ist da nicht drauf. Wenn Adblocker nicht mehr funktionieren, würde ich wohl eher – schweren Herzens! – ganz auf YT verzichten, als denen für Werbefreiheit Kohle in den Rachen zu schmeißen und sie obendrein über meinen Account, der zur Rechnugsstellung mit meinem Klarnamen verknüpft sein muss, noch mit meinen Sehgewohnheiten zu füttern.
aus persönlicher erfahrung kann ich das piped-frontend* für die youtube-website empfehlen:
das und andere frontends lassen sich per extension (https://libredirect.github.io/) gut nutzen.
die piped-website kann man über die url perfekt parametisieren (https://docs.piped.video/docs/parameters/) und ggf. mit redirector (https://einaregilsson.com/redirector/) einfach wildcard-regeln anlegen, mit denen sich die website sehr schön auch ohne cookies/login einrichten lässt (z.b. immer video-empfehlungen ausblenden).
werbung wird (vermutlich auch ohne ublock) in den frontends nicht angezeigt. ich nutze youtube so aber auch ohne konto, rss-feeds kann man ja im klassischen reader sammeln.
*invidious hatte imho linus genutzt, ich fand es zu lahm/fehleranfällig, ist aber sonst ähnlich wie piped
In der Tat hatte ich bei der Diskussion um YouTube-Premium vermisst, wie auch von koko hier angedeutet, dass werbefreiheit nicht Tracking-Freiheit bedeutet.
Durch personalisierte Suchvorschläge und „das könnte dir auch gefallen“ sowie nahtlos
und endlos anschließende Folgevideos werde ich dann eben doch in ein Kaninchenloch gedrängt und wähle am Ende z.B. Trump.
Das ist für mich das wesentliche Argument gegen einen Account, Tracking und das Geschäftsmodell als solches.
Wikipedia ist in dieser Hinsicht tatsächlich ein gutes Beispiel, wie man es gesellschaftstauglich und besser hinkriegen kann.
Ergänzung Zum Thema jabber.ru (danke fürs Besprechen):
Ihr erweckt in eurer Thematisierung etwas den Eindruck, dass die Probleme hier irgendwie besonders mit dem (vermeintlich unsicheren) XMPP-Protokoll zu tun hätten. Insbesondere wenn hier sauber OMEMO bzw. OTR verwendet worden wäre und SCRAM PLUS-Authentifizierung aktiv gewesen wäre, hätten die Geheimdienste nur Steuergeld verschwendet und alle halbwegs Kompetenten nicht erwischt.
Die technischen Probleme , die ein MITM in TLS einfach machen, sind doch auch in noch nicht etablierten ACME-Standards (RFC 8657; bei ionos bspw. noch nicht zu konfigurieren, habe da gerade ein Support-Ticket offen) sowie fehlendem DNSSEC und DNSSEC-transparency oder fehlenden zusätzlichen Absicherungen (DANE) zu suchen (wie auch einer der ACME-Entwickler schreibt: https://www.devever.net/~hl/xmpp-incident).
Unabhängig davon sind natürlich auch die geheimdienstlichen Befügnisse zu problematisieren. Für mich ist das Hijacking von ACME über letsencrypt eine Überschreitung einer Grenze. Laut meinen Informationen dürfen Sie passiv abhören und zum Zwecke der Installation von Staatstrojanern traffic manipulieren. War das hier der Fall? Hat jemand (juristischen) Einblick in die Details der geheimdienstlichen Befügnisse? Wäre auch eine Anordnung zur Umkonfiguration eines CAA-Records an einen DNS-Provider denkbar?
Ich mag das vielleicht falsch verstanden haben, aber sollte es nicht einen viel größeren Aufschrei geben, dass sich „der Staat“ (bzw. -schutz) in einen Server hackt und sämtlichen Traffic, inklusive natürlich aller Zugangs- und Personendaten, mitliest? Oder ist es in diesem Fall der Allgemeinheit egal, weil es sich um eine russische Domain handelt (hinter der ja auf keinen Fall Menschen mit Rechten stehen können)?
Tolle Folge wieder. Immer wieder schön wenn es auch eine Diskussion gibt. Zur Regulierung von KI wollte ich nur das genannte Beispiel zu bereits bestehenden Kommunikationsmitteln kritisieren. Printmedien in ihrer Allgemeinheit (Bücher vorbehalten) sind nicht unbedingt die seriösen Wissensträger für unsere Gesellschaft. Danach kam Radio und später TV. Mhmmm … das ging ja mit wenigen Ausnahmen auch in die Hose :-). Ob die Technologie Internet als nächste Evolutionsstufe jetzt die Bereicherung für unsere Gesellschaft geworden ist …. wohl kaum. Ich könnte mir vorstellen, wozu KI in Zukunft hauptsächlich eingesetzt wird. Dies wird auf jeden Fall mit viel Geld zu tun haben. Bei den zuerst genannten Technologien hätte ich mir eine geeignete moderate und zielgerichtete Regulierung durchaus gewünscht. In diesem Fall wären auch schon Erfahrungen da wie System die Gesellschaften beeinflussen auch halbwegs gezwungen sind die selbige verantwortungsvoll zu bereichern. Allerdings gebe es dann nicht so viel lustigen Blödsinn und Absurditäten die satirisch wirken und dann, Schreck lass nach, ernst gemeint sind. Liebe Grüße weiter so ….
lol … ausgerechnet Adobe als Positiv-Beispiel für Bezahlmodelle …. Ähem … ich habe früher VIELE Jahre lang ein legal erworbenes Lightroom als Privatanwender mit einer perpetual license genutzt. Spätestens wenn mein Intel Mac in Rente geht, kann ich das nicht mehr verwenden und werde genötigt ein Abo für eine Suite abzuschließen, welches über die Zeit signifikant mehr kostet als ich bereit bin zu zahlen. Das ist nun eine Business-Entscheidung seitens Adobe zu sagen, dass ihnen diese Art Anwender eher lästig sind, aber das als Positiv-Beispiel anzuführen … und dass Adobe es nötig hätte, die Einstiegshürden für ihre Produkt-Entwicklung niedrig zu halten … na ja, fein … ich werde mich dann halt demnächst von Adobe abnabeln.
Am 21. November 2025 wird GIMP 30 Jahre alt – auch wenn einige „VOLL-Profis“ jetzt lachen werden. ;)
https://de.wikipedia.org/wiki/GIMP
Eine weitere alternative zu Lightroom ist Darktable (Open Source), und ebenfalls auf allen BS möglich.
https://www.darktable.org/
p.s. I like it.
@tim zum Thema Youtube Premium.
Bisher weigere ich mich für die Werbefreiheit zu bezahlen, da ich glaube, dass es garnicht Werbefrei wird. Gefühlt jeder 2 Youtuber erzählt dir dass du ohne (insert generic VPN Dienst ) nicht Sicher bist im internet oder du dich ja nur Gesund Ernähren kannst wen ( insert generic Liferdienst-ABO ) dein Essen liefert.
Mir ist bewusst das die Jungs und Mädels ja bischen Geld verdienen wollen. Das ist auch in Ordnung so. Aber dafür bekommen sie ja ihren Teil der durch Werbung generierten Einnahmen.
Wen du jetzt sagst du siehst keinerlei Werbung auf Youtube, wird diese „in-Video-Werbung“ den auch weggelassen wen ich für „Werbefrei“ bezahle?
Ich schließe mich Linus an, wenn er bemängelt, dass wir nicht rechtzeitig die Kurve bekommen haben, für Dienstleistungen im Internet auch mal zu bezahlen.
Wie erwähnt war und ist es eine Idee des Internets gewesen, freien Zugang zu allen Inhalten zu ermöglichen, es können wirklich alle mitmachen, demokratisierung von Wissen usw., usw.
Das hat offensichtlich nicht so richtig funktioniert.
Diese Philosophie wurde von der breiten Masse nicht verstanden. Nur weil der Zugang zu Resourcen frei ist, heißt das nicht, dass man nicht an der Finanzierung mitwirken sollte, wenn man es sich leisten kann. Hängen geblieben ist nur „alles ist kostenlos“ und niemand war bereit, für ethische und faire Angebote zu zahlen.
So langsam nehmen wir aber diese Kurve hin zu dem Verständnis, dass es in einer kapitalistischen Welt auch im Internet Geld kostet, eine Dienstleistung anzubieten. Ihr habt bereits die Finanzierung von Individuen über Plattformen wie Patreon erwähnt. Mittlerweile sind auch kostenpflichtige Mailanbieter wie Posteo, Mailbox, etc… gut etabliert.
Ein weiterer wichtiger Schritt, hin zur finanzierung von ethischen Angeboten, diesmal im bereich von Social Media könnten kostenpflichtige Angebote im Fediverse sein. Der Verein Digitalcourage betreibt eine kostenpflichtige Mastodoninstanz. Vielleicht gibt es ja in Zukunft bei Internethostern die Möglichkeit, neben einer Mailadresse für 1€, für einen weiteren € einen Mastodonaccount zu bekommen und dadurch ein nachhaltiges Wachstum des Netzwerkes zu ermöglichen. Und wir kommen davon weg, nur den „Bösen“ (Twitter, Meta, Youtube (sorry Tim, das da jetzt alle drauf herum reiten ;)) Geld zu geben.
Danke für den guten Podcast.
Bzgl. des MITM Angriffs auf Jabber.ru:
Wie kann man eigentlich solche Angriffe erkennen, wenn man nicht gerade die Zertifikate auf der Serverplatte mit den Zertifikaten auf dem Client vergleicht?
Wenn der MITM eine vertrauenswürdige CA besitzt, wird doch kaum ein Browser meckern, dass das Zertifikat nicht passt, nur weil auf einmal nicht von LetsEncrypt sondern von der BRD-Gmbh.de :-) signiert wurde…
Hilft da nicht nur eine Technologie, die beidseitig mit bekannten, öffentlichen Schlüsseln funktioniert (wie Wireguard und Ipsec?)
Und weil das nicht skaliert, gibt es Zertifikate :)
In deinem OS und deinem Browser kannst du die CA der BRD-GmbH entfernen (die ist als bekannter Schlüssel vorinstalliert), LetsEncrypt aber nicht. Genau deshalb haben sie das wohl auch so gemacht, wie sie es gemacht haben. Einfachster Weg, unauffälligster Weg.
Zur Datensammelwut der Tech-Firmen: in Schland / Europa haben wir ja das „Recht auf Selbstauskunft“, eventuell kann man die Firmen damit öfter „nerven“?
https://de.wikipedia.org/wiki/Recht_auf_Selbstauskunft
Und zur „Arm-Reich-Schere“ ab ca. 1:20 (Danke Linus!): da ich in einer Landeshauptstadt mit einer einzigen Zeitung wohne, bei der 2/3 hinter einer „Bezahlschranke“ stecken, sehe ich noch ein weiteres Problem: z.B. dass sich ärmere Menschen alternativen suchen, welche weiteres Unheil bringen – FB, Telegram etc. – und somit (auch) schlechte Recherche, Fake-News, …
Ich möchte „alternative Medien“ jetzt nicht komplett verteufeln – es gibt sehr Gute – aber ich denke es ist verstanden was ich damit meinte.
*LNP ist ja eigentlich auch ein SEHR gutes „alternatives Medium“! ;)
„Ich schaue kei YouTube“ ist das neue „ich habe keinen Fernseher “?
„Ich schaue kein YouTube“ ist das neue „Ich habe keinen Fernseher“?
Ich finde es beim Thema personalisierte Werbung und der erzwungenen Einwilligung jedes Mal irritierend, wie selbstverständlich dieses Geschäftsmodell auch für euch ist. Natürlich ist es völlig in Ordnung, keine kostenlose Dienstleistung zu verlangen, aber warum muss es denn Werbung sein, die auf Basis von teilweise extrem persönlichen Daten generiert wird? Worin ich einwillige, ist dahingehend meines Erachtens auch ziemlich intransparent, denn ich willige nicht ein in „Weiter mit Werbung“, sondern in „Weiter mit personalisierter Werbung“. Die analogen Werbevermarkter für Zeitung, Fernsehen und Werbetafeln in S- und U-Bahnen haben seit Jahrzehnten das Problem, ihre Zielgruppen ordentlich zu bespielen und bekommen das je nach Medium und Sendezeit auch ganz gut hin. Warum soll, nur weil die Möglichkeit besteht, im Digitalen etwas anderes gelten? Sollen Online-Medien mich doch mit Werbung zumüllen, meine persönlichen Daten brauchen sie dafür sicher nicht.
Es heißt nicht Re-Toot sondern Boost!
Auf der Birdsite, oder wo?
Bei youtube nutze ich ohne werbung https://revanced.to. das gibt es für android und ich easy per wlan auf den Fernseher schicken zum Anschauen im Großformat ohne Werbung.
Was ich mich bezüglich Einwilligung zur Verarbeitung von Kundendaten schon die ganze Zeit frage, wenn ich einen termin beim Arzt mache, sagen wir telefonisch oder per email, wird man oft automatisch dem Dienst Doctolib zugefügt, ohne dass man darüber informiert wird. Ich habe schon mehrere male erlebt, dass ich beim Arzt Papierkram ausfüllen muss, um DSGVO konform die Weitergabe und Verarbeitung meiner Daten zu erlauben. Darin sind dann auch externe Dienste aufgelistet, jedoch NIE Dictolib und ich werde datüber auch nie informiert. Ich bitte damn immer darum, ein „dummy account“ für mich anzulegen, und dass ich keine benachrichtigung über diesen dienst wünsche. Aber ich finde es ein Unding, dass das nie thematisiert wird. Auch wenn es nur die Termine sind, geben sie ja schon Auskunft über persönliche Dinge. Ist ja auch Ärzte übergreifend. Müssen die das nicht auch extra anmerken und um Einwilligung bitten?
Vielleicht könnt ihr darüber mal in einer folge sprechen. Es betrifft ja jeden, der zum arzt geht und dictoölib ist nun mal ein privates französisches Unternehmen, die dann wissen, wann und wo man zum arzt geht.
Ahoi,
ich will keine Werbetafel werden. So nen schicken schwarzen Hoodie, no print, fände ich klasse?!
VG
Personalisierte Werbung: Linus sagt bei 1:07 „Also wir haben ja jetzt dann durchaus … als Gesellschaft langsam verstanden, dass sich dadurch weitreichende Manipulationsmöglichkeiten ergeben…“ Dieser Satz ließ mich sowohl hysterisch lachen als auch schluchzen: wenn das nur wahr wäre! Ich fürchte, im Verhältnis zur Gesamtheit aller Internet-, App- und Servicenutzerinnen, von denen in dieser Form Daten gesammelt werden, ist die Menge derer, die da auch nur eine Vorstellung von der Reichweite der Nutzungsmöglichkeiten haben, immer noch klein. Ich kenne Menschen, die Internetunternehmen leiten, und die beim Thema Tracking/Datenschutz nur mit den Schultern zucken und anführen, wie toll sie es finden, dass da die „richtige“ Werbung links und rechts von ihrem Hauptcontent vorbei flackert. Thema beendet. Aus Überforderung, aus Trotz?… Jedenfalls etwas jenseits von Rationalität, weshalb ich da nie die Diskussion einfordere. Das Ausmaß der Ahnungslosigkeit in Bezug auf das internetnutzende Ich als Datenquelle ist (fürchte ich) bei vielen Menschen so groß, dass ich eigentlich dazu neige, zu sagen, die sind grundsätzlich nicht fähig, zu begreifen, was die Unterzeichung von AGBs oder Verträgen über ihre Datenverwendung für sie bedeutet. Geschäftsunfähig quasi… geschweige denn in der Lage, den nötigen Weitblick aufzubringen, solche Entscheidungen etwa für ihre Kinder zu treffen. Bitter, aber immer wieder zu beobachten.
Da sagste was! Unser Gesellschaftsmodell scheint ja gerade auf der Unmündigkeit weiter Teile der Bevölkerung zu basieren, nicht nur bei diesem Thema. Stellt sich halt die Frage, ob das selbst- oder fremdverschuldete Unmündigkeit ist. Wollen es die Leute nicht besser wissen, obgleich sie es könnten oder sollen sie es nicht besser wissen und können es daher ohne größere Anstrengungen auch nicht? Wenn ich mir unsere Bildungslandschaft so anschaue, tendiere ich eher zur letzteren Annahme.
Wie sang Reinhard Mey einst:
„Der Minister nimmt flüsternd den Bischof beim Arm: Halt Du sie dumm, ich halt sie arm.“
Das Konzept „Informed consent“ der DSGVO greift also zu kurz, weil der Einzelne den Vorgang zwar (achselzuckend, zähneknirschend oder wieauchimmer) zur Kenntnis nehmen kann, die Konsequenzen und persönlichen Risiken jedoch grundsätzlich nicht einschätzen kann. Die gesamtgesellschaftlichen Risiken (oder Schäden) schon mal gar nicht.
Es müsste also gesetzbegerisch an der Wurzel angegriffen werden und manche Praktiken stark reguliert oder sogar verboten werden – dabei würden lukrative heutige Geschäftsmodelle zerbrechen. In der Waagschale der Güterabwägung liegt ein gesamtgesellschaftliches Interesse… Das hat sicher Gewicht.
Aber wie hoch ist denn dieses Gewicht? Was genau und wie massiv sind die Risiken? Das müsste erstmal greifbarer gemacht werden – ein „vages Unbehagen“ ist zuwenig.
Moin,
kombiniere:
„KI ersetzt dich nicht, Menschen die KI nutzen ersetzen dich“
+
„Bundestagsabgeordnete wollen deine fundierte Meinung zu Themen um eine Argumentationsgrundlage zu haben in die ‚gute Richtung‘ zu entscheiden“ aka Öffentliher Druck anstatt ausschließlich Lobbydruck
Vllt. einfach mal seine naiven Anfragen zu diversen Themen von llama Modellen vorschreiben lassen.
Oder einen Vorschrieb von Netzpolitik.org nutzen und „bitte in anderen Worten“ ausgenerieren dazupacken.
Könnte helfen und der aktivistischen Seite Zeit sparen xD
LG
PatientParrot
Tim kann sich vermutlich an die Olympischen Spiele in China erinnern und nicht an die Olympiade. Eine Olympiade bezeichnet die vier Jahre zwischen den Spielen. https://de.m.wikipedia.org/wiki/Olympiade
Wobei wohl schon die Griechen den Begriff falsch verwendet haben.
Autobahnkreuzung?
Mit Ampel?
Und Blitzer?
Gibt es: Wuppertal-Nord
MfG
Jürgen
Zu Google zahlt für #1. Eine marktbeherrschende Stellung zu haben ist nicht verboten und nicht verwerflich. Schließlich gibt es auf funktionierenden Märkten einen gesunden Wettbewerb der Innovationen befördert, die Marktanteile verändern oder sogar Märkte umwälzen können. Hätte Google in seinen Anfangszeiten einen ähnlichen Goliath gegen sich gehabt wie es heute selbst ist – Google hätte keine Chance gehabt mit seinen Innovationen die Menschen zu beglücken (und davon zu profitieren). Der heutige Suchmaschinenmarkt ist dysfunktional!
Es gab mal eine Zeit, da wurde es allgemein als ganz natürliches freiheitliches Recht von Unternehmen angesehen, sich ohne Restriktionen mit wemauchimmer abzusprechen, und sei es auch zur Preisfestsetzung. Die gesellschaftlichen Schäden der entstehenden Kartelle wurden erkannt – heute gibt es scharfe Kartellgesetze und Kartelle sind nicht nur strafbar sondern auch verpönt. So ändern sich die Zeiten.
Ich glaube wir müssen erkennen, dass heutige Digitalmärkte mit ihren Netzwerkeffekten und Ähnlichem anders funktionieren, neue Herausforderungen mitbringen und die vertrauten Marktregeln des 20. Jahrhunderts grundsätzlich überarbeitet werden müssen.
Zu den neuen Regeln kann z.b. gehören, dass Praktiken die Markteintritt für kleine neue Player verhindern verboten sind. Oder dass ein Unternehmen nicht gleichzeitg einen Suchdiensten und Datenbrokerei betreiben darf.
Ich glaube
„wer weiß, wie teuer das iPhone sonst wäre“ [Zitat Linus] Den Gedanken sollte man ruhig mal fortsetzen. Ja, ein iPhone wäre viel teurer, wenn Apple nicht so viel Geld von Google bekäme und Google nicht so viele Menschen über die Nebeneffekte der Verwendung eines Google-Browsers per default manipulieren und damit indirekt steuern könnte. Hieraus ergibt sich die Frage, auf welchen Methoden und humanitären Verlusten unser materieller Wohlstand eigentlich beruht. Dass man Technologieentwicklung und beeindruckende Produktion durch manipulierte, unfreie Menschen krass beschleunigen kann, ist schon vom Pyramidenbau im alten Ägypten her bekannt. Oder aus der Industrialisierung der Sowjetunion, die sich dort unter der Hand Stalins so schnell vollzog wie in keinem anderen Land der Welt. Ist das etwa das Zielbild, wo wir hinwollen?? Auch wenn es als technikbegeisterter Mensch wehtut: Wir sollten weg von sozial toxischem Wachstum. Solange ein iPhone nur dann halbwegs erschwinglich ist wenn es sich aus manipulativen Mechanismen der sozialen Kontrolle heraus finanziert, sollte man besser noch paar Jahre warten, bis wir uns ein iPhone Kraft des wiss-technischen Fortschritts und der zunehmenden Automatisierung wirklich leisten können, ohne die Gesellschaft dabei kaputtzumachen. Sollte angesichts ökologischer Fragen eigentlich nicht allzuschwer sein, ein gesünderes, langsameres Wachstum einzufordern. Und was heißt „langsam“: Langsam bedeutet z.B. so wie Wikipedia wuchs und wächst, und so wie heute mastodon wächst. Das ist gesundes, nichtkapitalistisches Wachstum ohne soziale Sprengkraft. Ganz konkret bedeutet es, dass personalisierte Werbung (beginnend mit politischer Werbung) ganz pauschal unzulässig sein sollte. Punkt aus. Der bewusstseinmanipulative Faktor ist zu groß und zu komplex, es ist eine Farce, dass es hierzu eine auch nur annähernd mündige Einwilligung geben kann. Das heißt ja nicht, dass Personalisierung immer ein Problem sei. Jede Person sollte sich aber bitte selbst personalisieren, und nicht personalisiert werden! Filter und Favoriten selber zusammenbauen, KI Kraft der eigenen Kreativität mit etwas beauftragen, nicht andersherum. So muss das laufen! Der DSA war leider mit einem Verbot personalisierter Werbung nur für Minderjährige (deren Minderjährigkeit ohne zusätzlichen Aufwand eindeutig feststellbar ist, [hust]) auf halber Strecke steckengeblieben. Das lag aber an den politischen Mehrheitsverhältnissen, grundsätzlich ginge das schon. Die Hoffnung bleibt…
*Google-Suchmaschine meinte ich natürlich, nicht Browser