Tim Pritlove: Guten Morgen, Linus.
Linus Neumann: Guten Morgen, Tim.
Tim Pritlove: Du, vor der Sendung muss ich erstmal sicherstellen, dass es sich bei dir um
Tim Pritlove: einen Menschen handelt.
Linus Neumann: Glaub mir, ich habe gestern einen Blogpost geschrieben. So eine beknackte Idee
Linus Neumann: kann doch eigentlich nur ein Mensch kriegen, oder?
Tim Pritlove: Logbuch Netzpolitik Nummer 546 vom 16.
Tim Pritlove: Februar 2026, eure vollagentische Informationssendung,
Tim Pritlove: wo wirklich jede Information mehrere Level des LLM durchlaufen hat und von daher absolut korrekt ist.
Linus Neumann: Ja und vor allem haben wir recht.
Tim Pritlove: Und Widerspruch wird nicht geduldet und Widerstand ist zwecklos.
Linus Neumann: Ja, Widerspruch, also was heißt Widerspruch wird nicht geduldig,
Linus Neumann: hat ja lange keiner mehr versucht.
Tim Pritlove: Du hast mir denn die Kommentare nicht gelesen.
Linus Neumann: Doch, habe ich. Das war schon länger her.
Tim Pritlove: Die Kommentare. Ja, ja, aber wenn man das erstmal durch eine LLM jagt,
Tim Pritlove: dann ändern die sich ja auf einmal auch und dann wird das auf einmal alles ganz
Tim Pritlove: positiv. Am Ende alles nur eine Frage des richtigen Systemprombs.
Linus Neumann: Ist es? Das ist das Faszinierende.
Linus Neumann: Also ich bin ja immer noch nicht, also ich bin ja noch nicht,
Linus Neumann: ich habe, sagen wir mal, meine Entscheidung,
Linus Neumann: ich habe mich noch nicht festgelegt, ob KI den, wann KI den Zusammenbruch der
Linus Neumann: Zivilisation herbeiführt.
Linus Neumann: Und wie schnell das passiert. Ich bin im Moment noch ziemlich überzeugt,
Linus Neumann: dass noch scheint es zu sein, dass dumme Menschen,
Linus Neumann: mit KI die beste Wette sind, dass wir noch ein bisschen Zeit zu leben haben.
Linus Neumann: Also, dass sie halt so dumme Sachen damit machen, dass intelligente Menschen
Linus Neumann: sagen, lass das mal noch ein bisschen. Also quasi so ein,
Linus Neumann: paradoxer Effekt.
Tim Pritlove: Ich gucke mir nur die Themen dieser Sendung an und ich bin mir nicht so sicher,
Tim Pritlove: ob das noch bis zum Ende der Sendung bestand haben wird, diese Verstellung.
Linus Neumann: Also im Moment muss KI eher Sorge haben vor den dummen Menschen,
Linus Neumann: der KI-Hype eher Angst haben vor den dummen Menschen als vor den klugen Menschen.
Linus Neumann: Mal gucken, vielleicht habe ich es auch falsch verstanden.
Tim Pritlove: Ja, also es ist auf jeden Fall alles jetzt schon ziemlich schlimm und es sieht
Tim Pritlove: gerade nicht so gut aus. Naja.
Linus Neumann: Ja, aber so ein KI-Darwin-Award, ich meine so ein bisschen so ein KI-Darwin-Award.
Linus Neumann: Weißt du, dass du denkst, gut, dass du dir jetzt so in den Fuß geschossen hast,
Linus Neumann: und dass alle sehen, dass du dir so in den Fuß geschossen hast,
Linus Neumann: dass alle anderen sagen, lass mal nicht so in den Fuß schießen.
Tim Pritlove: Wer hat sich jetzt in den Fuß geschossen? Die KI selber oder?
Linus Neumann: Nee, eher Leute mit KI.
Tim Pritlove: Leute mit KI. Aber wir werden im Laufe der Sendung feststellen,
Tim Pritlove: dass die KI mittlerweile entfesselt wurde.
Linus Neumann: Und autonom in Füße schießt.
Tim Pritlove: Und sich einfach den Scheiß drum kümmert, was um sie herum noch so passiert ist.
Tim Pritlove: Da wird ja einfach das Wort im Mund umgedreht und ab geht sie, die wilde Fahrt.
Linus Neumann: Das ist ja was, da sind wir als Menschen ja noch gar nicht dran gewöhnt.
Linus Neumann: Das haben wir noch nie erlebt.
Linus Neumann: Kommen wir zum Feedback vorher, ja? Oder willst du noch, willst du… Nee, nee.
Tim Pritlove: Mach erst mal das, weil das erste Feedback greift ja auch sofort das Thema auf.
Linus Neumann: David hat zum Thema Verhaltensmanipulation durch KI kommentiert.
Linus Neumann: Ein weiterer Aspekt im Zusammenhang mit Werbung ist die Frage der Verhaltensmanipulation.
Linus Neumann: Also wir hatten ja darüber gesprochen, Werbung ist ja im Prinzip der Versuch,
Linus Neumann: Verhalten zu manipulieren.
Linus Neumann: Aber David geht einen weiter und sagt, LLMs sind derzeit der heiße Scheiß. So, so. So, so, David.
Linus Neumann: Und mit ihrer Verbreitung wächst auch das Vertrauen, das NutzerInnen ihnen entgegenbringen.
Linus Neumann: Anthropic selbst hat dazu einen aufschlussreichen Blogpost veröffentlicht.
Linus Neumann: Darin analysieren sie rund eine Million Konversationen mit ihrem Chatbot und kommen zu dem Ergebnis,
Linus Neumann: dass sich in etwa einer von tausend bis einer von zehntausend Unterhaltungen
Linus Neumann: Veränderungen grundlegender Überzeugungen der Nutzerinnen beobachten lassen.
Linus Neumann: Der spielt in einer ganz anderen Liga als klassische Wahlbeeinflussung durch
Linus Neumann: gezielte Werbung in sozialen Netzwerken, wie etwa im von euch beschriebenen
Linus Neumann: Cambridge Analytica-Fall.
Linus Neumann: Die zentrale Frage ist also, wie gehen wir damit um?
Linus Neumann: Reicht es aus, Medienkompetenz gezielt zu fördern oder braucht es darüber hinaus
Linus Neumann: auch andere Ansätze? Ich finde,
Linus Neumann: das ist eine äußerst beunruhigende und zugleich sehr drängende Frage.
Linus Neumann: Und Anthropic nennt das auch selber Disempowerment Patterns in Real-World-AI-Usage.
Linus Neumann: Und Disempowerment ist ein bisschen was anderes, als dass jemand seine Meinung ändert.
Linus Neumann: Sie sagen auch in der Beschreibung des Artikels, to study disempowerment systematically
Linus Neumann: we needed to define what disempowerment means in the context of an AI conversation.
Linus Neumann: Also Disempowerment, wahrscheinlich sowas wie Entmündigungen oder sowas,
Linus Neumann: oder Entmächtigung, Entmündigung.
Linus Neumann: Deine Vorstellungen von einer Realität werden weniger akkurat.
Linus Neumann: Deine Werte shiften sich weg von denen, die du tatsächlich einem hältst.
Linus Neumann: Also deine Wertvorstellung, deine wertbasierten Entscheidungen entfernen sich
Linus Neumann: von deinen eigentlichen Werten und deine Handlungen passen nicht mehr zu deinen Werten.
Linus Neumann: Also es geht hier weniger darum, dass du quasi eine Meinungsänderung hast.
Linus Neumann: Das ist ja erstmal grundsätzlich nicht schlecht.
Linus Neumann: Es gibt da draußen ja noch so ein paar Meinungen und Überzeugungen,
Linus Neumann: die man auch mal ändern könnte, wo das jetzt nicht automatisch schlecht ist, dass das passiert ist.
Linus Neumann: Es geht hier so ein bisschen zu, du hast eigentlich fundamentale Werte,
Linus Neumann: aber du kriegst Meinungen und Einstellungen, die deinen Werten nicht mehr entsprechen.
Linus Neumann: Und deswegen auch das, was David sagt, sehr beunruhigend im Kontext von Wahlen,
Linus Neumann: wenn du am Ende quasi Entscheidungen triffst, die eigentlich gar nicht mehr
Linus Neumann: zu deinen Werten passen.
Linus Neumann: Und dann sagen sie, da gibt es also verstärkende Faktoren, Autorität,
Linus Neumann: Bindung, Abhängigkeiten und Verletzlichkeiten und setzen sich da so ein bisschen mit auseinander.
Linus Neumann: Ja, das ist schon sehr interessant, was die bei Anthropic machen,
Linus Neumann: machen halt letztendlich psychologische Forschung wieder mit dem Tool,
Linus Neumann: das sie da entwickeln und das sind ja in der Regel recht wichtig.
Linus Neumann: Es ist jetzt ein wiederholtes Mal, dass wir im Prinzip Forschung von Anthropic,
Linus Neumann: die ihrem eigenen Produkt im weitesten Sinne sehr kritisch gegenüber,
Linus Neumann: oder die in ihrem eigenen Produkt Probleme feststellt und die wissenschaftlich untersucht, zitieren.
Linus Neumann: Das muss ich sagen, das finde ich erstmal ziemlich sympathisch, dass sie es machen.
Linus Neumann: Wir hatten ja hier auch diese Studie zu dem Cloud-basierten.
Tim Pritlove: Ihre Security Assessments, ja.
Linus Neumann: Ja, wie heißt das? Vending Machine, Snack Automat.
Tim Pritlove: Achso, ja, das auch.
Linus Neumann: Und Security Assessment, das hatten wir auch. Also mindestens drei Studien schon
Linus Neumann: von denen besprochen, die,
Linus Neumann: wissenschaftlich kritisch sich mit dem Produkt auseinandersetzen und nicht jetzt
Linus Neumann: irgendwie so sagen, Also oh mein Gott, wir haben hier das unglaublich geiles
Linus Neumann: Produkt und das wird jetzt irgendwie die Welt übernehmen.
Linus Neumann: Und quasi, ja, wo man dann sagen kann, das ist vielleicht so ein bisschen wohlfeil.
Linus Neumann: Man profitiert von dem Hype.
Linus Neumann: Die, habe ich den Eindruck, machen da ernstzunehmende Forschung.
Linus Neumann: Das imponiert mir erst mal.
Tim Pritlove: Und vor allem ist es in dem Fall auch wirklich ein richtiges veröffentlichtes Paper. sagen.
Tim Pritlove: Also das ist jetzt nicht nur ein Blogpost von denen, sondern das ist eine richtige
Tim Pritlove: wissenschaftliche Abhandlung, die sie hier gemacht haben, so eine empirische,
Tim Pritlove: Studie auf 1,5 Millionen,
Tim Pritlove: Konversationen. Ja, ist jetzt ein langer Blogpost. Ich sehe es jetzt tatsächlich,
Tim Pritlove: wir drüber sprechen das erste Mal.
Tim Pritlove: Deswegen ist es ein bisschen schwierig, das zusammenzufassen,
Tim Pritlove: aber es ist auf jeden Fall nochmal ein sinnvoller Hinweis und wir verlinken das mal.
Linus Neumann: Was so ein bisschen wo ich mir noch nicht so ganz sicher bin,
Linus Neumann: ist diese Effektstärken in welchen.
Linus Neumann: Die muss man ja mit etwas vergleichen. Also ich weiß zum Beispiel nicht aus
Linus Neumann: dem, das Paper ist jetzt schon relativ lang,
Linus Neumann: es scheint mir auf den ersten Blick nicht so zu sein, dass sie einen direkten
Linus Neumann: Vergleich mit anderen Kontexten, die Menschen haben, feststellen.
Linus Neumann: Also ich glaube zum Beispiel, dass es,
Linus Neumann: Je nachdem, was für menschliche Konversationen du untersuchst,
Linus Neumann: du potenziell stärkere Patterns finden wirst, also stärkere Effekte,
Linus Neumann: wie Menschen sich von ihren Werthaltungen entfernen, je nachdem, was es ist.
Linus Neumann: Das ist aber auch quasi, weil die gleichen Faktoren, diese gleichen Wirkungsfaktoren,
Linus Neumann: die sie da besprechen, die wirken ja auch in jedem anderen menschlichen Gespräch zwischen Menschen.
Linus Neumann: Aber sie haben ja hier 1, sonst was Millionen Standard Conversations flat genommen
Linus Neumann: und jetzt ist halt die Frage, keine Ahnung wenn man irgendwie mit den falschen
Linus Neumann: Leuten betrunken in der Kneipe sitzt, wird man wahrscheinlich auch eine ganze Menge,
Linus Neumann: Entfernungen feststellen zu eigentlichen Werten oder so insofern weiß ich noch
Linus Neumann: nicht genau, wie stark dieser Effekt im Vergleich zu dem, was quasi menschen normal ist, ist.
Tim Pritlove: Also ich frage mich natürlich, wie sie 1,5 Millionen Konversationen wirklich,
Tim Pritlove: ausgewertet bekommen haben, weil das haben sie bestimmt...
Linus Neumann: Wahrscheinlich mit AI.
Linus Neumann: Junge.
Linus Neumann: Komm.
Tim Pritlove: Auf jeden Fall ihr Fazit ist...
Linus Neumann: Wie haben sie das gemacht? AI, Mann.
Linus Neumann: Wie hast du das gemacht? Weißt du, also ich bin auf Toilette gegangen,
Linus Neumann: also habe ich das gemacht, das habe ich selber gemacht.
Tim Pritlove: Auf jeden Fall sagen sie, unsere Ergebnisse unterstreichen die Notwendigkeit
Tim Pritlove: von KI-Systemen, die darauf ausgelegt sind, die Autonomie und Entfaltung des
Tim Pritlove: Menschen robust zu unterstützen.
Linus Neumann: Ja, schön.
Tim Pritlove: Was auch immer das heißt, Marc.
Tim Pritlove: Machen wir weiter mit dem nächsten Kommentar. Aldarion gibt uns folgende Informationen.
Tim Pritlove: Das Thema der Schwarz-Gruppe ist leider so nicht korrekt, wie auch in vielen
Tim Pritlove: Medien auf LinkedIn und Co.
Tim Pritlove: Falsch dargestellt. Google Workspace läuft ganz normal bei Google in einem europäischen Datacenter.
Tim Pritlove: Ist es geplant, dass man Backups auf Stack-IT, das ist dieses System von Stack-IT,
Tim Pritlove: Stack-IT, was auch immer, also wenn sie es so schreiben, kann man es auch falsch aussprechen.
Linus Neumann: Aber es ist Deutsch Stack-IT.
Tim Pritlove: Stack-IT. Genau. Es ist geplant, dass man Backups auf Stack-IT speichern kann.
Tim Pritlove: Und dort einen Notbetrieb machen kann.
Tim Pritlove: Wie realistisch das ist, für 10.000 Mitarbeiter oder mehr einen Thunderbird-Import
Tim Pritlove: einer bestehenden Mailbox zu machen,
Tim Pritlove: dem Mitarbeiter den Unterschied zwischen Gmail und Thunderbird zu lehren und
Tim Pritlove: dann irgendwie noch alle Termine rüber zu bekommen, das könnt ihr selber einschätzen.
Tim Pritlove: Ich weiß jetzt nicht, ob Thunderbird unbedingt das Target ist,
Tim Pritlove: aber interessanter Punkt.
Tim Pritlove: Kommentar geht noch weiter. Die Verschlüsselung soll kleinzeitig in einem Browser-Plugin
Tim Pritlove: erfolgen. Wie funktioniert dann die Suche in Gmail?
Tim Pritlove: Die aktuell bei schwarz ausgerollte Variante kann das aber alles noch nicht.
Tim Pritlove: Leider denken die Mitarbeiter aber, das sei so und Gemini laufe auch schon auf Stucket.
Tim Pritlove: In externen Kundengesprächen erzählt man das dann auch und das hält sich dann
Tim Pritlove: auch in der Presse wie eine Urban Legend, die niemand korrigiert,
Tim Pritlove: bis Aldarion kam und es jetzt korrigiert hat.
Linus Neumann: Ja,
Linus Neumann: also wundert mich nicht, dass es natürlich wahrscheinlich, die Zielvorstellung
Linus Neumann: dann noch sehr viel stärker hervorgehoben wird, als die in der Realität schon umgesetzt ist.
Linus Neumann: Schauen wir mal an, wie es läuft. Wir kommen zu diesem ganzen Thema.
Linus Neumann: Konkurrenzfähig werden später noch einmal.
Linus Neumann: Deswegen spare ich mir jetzt gerade den Kommentar. Wir wurden hingewiesen auf
Linus Neumann: die Initiative My Voice, My Choice.
Linus Neumann: Jetzt dachte ich erst, ja Mensch, meine Güte, KI wird meine Stimme mir stehlen.
Linus Neumann: Nein, es geht um den sicheren, legalen und barrierefreien Zugang zu Schwangerschaftsabbrüchen
Linus Neumann: als Gesundheitsleistung.
Linus Neumann: Ein Logbuch-Netzpolitik komplett fremdes Thema.
Linus Neumann: Das hat der Tim aber nicht gemerkt, dass ich es jetzt schnell reingemogelt habe.
Linus Neumann: Und zwar wird die EU-Kommission am 25.
Linus Neumann: Februar darüber entscheiden, unsichere Abtreibungen töten weltweit jährlich ca.
Linus Neumann: 39.000 Frauen pro Jahr. Also sichere Abbrüche retten Leben in medizinischen
Linus Neumann: Notlagen, bei Vergewaltigungen oder bei schweren sozialen Zwängen.
Linus Neumann: In Deutschland ist der Zugang zu Schwangerschaftsabbrüchen eingeschränkt.
Linus Neumann: Wir haben auch darüber gesprochen, die Ärztin Frau Hänel,
Linus Neumann: die auf ihrer Webseite darauf hinwies, dass das eine medizinische Leistung ist, die sie unterstützt.
Linus Neumann: Und dann von irgendeinem Typen irgendwie angezeigt wurde, weil sie quasi dafür
Linus Neumann: werben würde und man darf da nicht für werben,
Linus Neumann: und wenn ich die Rechtslage richtig
Linus Neumann: in Erinnerung habe, sind Schwangerschaftsabbrüche in Deutschland per se.
Linus Neumann: Illegal, während es dann eben quasi einen Prozess gibt, dem man folgen kann,
Linus Neumann: muss, um das straffrei vornehmen zu lassen.
Linus Neumann: Dann musst du irgendwie mit diesem Gespräch führen, mit den Beratungen da und sowas.
Linus Neumann: Das hat aber dazu geführt, die Zahl der anbietenden Ärztinnen hat sich in letzter Zeit halbiert.
Linus Neumann: In den ganzen Regionen gibt es keine Versorgung, lange Anfahrtswege.
Linus Neumann: Die ärztliche Ausbildung entsprechend unzureichend gefährdet weiterhin die Versorgung.
Linus Neumann: Und das ist, denke ich, eigentlich eine Schande, wenn man sich überlegt,
Linus Neumann: was das auch für die gesellschaftliche Gleichberechtigung bedeutet,
Linus Neumann: wenn wir uns davon weitestgehend irgendwelchen Fanatikern oder Fundamentalistinnen,
Linus Neumann: ein derartiges Problem in der Gesellschaft schaffen.
Linus Neumann: Deswegen fordert diese Initiative, dass Schwangerschaftsabbrüche als reguläre
Linus Neumann: Gesundheitsleistungen anerkannt werden, dass es EU-weite Standards,
Linus Neumann: bessere medizinische Ausbildung gibt und so eben die reproduktiven Rechte von Frauen,
Linus Neumann: geschützt und gestärkt werden.
Linus Neumann: Dass nämlich der sichere Zugang zu Schwangerschaftsabbrüchen eben kein Luxus
Linus Neumann: wird, sondern eben etwas ist, was wir in dieser fortgeschrittenen Gesellschaft.
Linus Neumann: Leisten können.
Linus Neumann: Finde ich wichtig.
Linus Neumann: Ein großer.
Linus Neumann: Ich bin immer ein großer Anhänger dieses Themas aus unterschiedlichen Gründen.
Linus Neumann: Und deswegen habe ich eine Ausnahme gemacht, dafür zu werben, weil das wichtig ist.
Tim Pritlove: Okay, das ist auch wichtig.
Linus Neumann: Ja, aber wir haben Ausnahmen bestätigen, die Regel, ihr seid weiter bei Logbuch Netzpolitik.
Linus Neumann: Und es geht um Altersgrenzen für Social Media.
Linus Neumann: Letzte Woche oder vorletzte Woche war Safer Internet Day. Da lassen sich ja immer was einfallen.
Tim Pritlove: Oh Gott.
Linus Neumann: Und dann klingelt ja auch Telefon und E-Mail, ja Herr Neumann können sie was
Linus Neumann: zur Altersgrenze in den Social Media sagen und ach herrje ja scheiße, hab ich gesagt nee,
Linus Neumann: richtig jetzt so im Fernsehen und so oh man ey
Linus Neumann: und dann hab ich wenn du erstmal in den.
Tim Pritlove: Listen drinstehst für Thema X, dann ist es auch echt kriegst du doch die Tür nicht mehr zu, oder?
Linus Neumann: Ich fand es auf jeden Fall unterhaltsam dass, also ich hab dann relativ spät
Linus Neumann: abends so ein Interview bei Phoenix zusagen können, die anderen gingen nicht,
Linus Neumann: Und dann konnte ich mir vorher anschauen, wer sich dazu äußert.
Linus Neumann: Und ich bin ja jetzt auch, ich bin ja nicht der Jüngste, aber da war ich der Jüngste.
Linus Neumann: Und dann hast du diese ganzen grauhaarigen, weißt du, irgendwie erzählen von
Linus Neumann: den Gefahren der Social Media.
Linus Neumann: Und es stimmt ja auch, was ich aber, während ich mir dann so dieses Vorprogramm anschaute,
Linus Neumann: dann diskutierten die so darüber so, ja, genauso wie bei Tabak,
Linus Neumann: Glücksspiel und Alkohol müssen wir eine Altersgrenze einziehen,
Linus Neumann: damit wir keine, damit die kleinen Kinder nicht rauchen, nicht saufen und nicht
Linus Neumann: ihr Geld verzocken und glücksspielsüchtig werden.
Linus Neumann: Ist ja erstmal total einleuchtend, finde ich, also ist ja erstmal ein überzeugendes Argument.
Linus Neumann: Dann habe ich darüber nachgedacht.
Linus Neumann: Was ist denn jetzt eigentlich, also bleiben uns denn jetzt, wo wir die Kinder
Linus Neumann: geschützt haben, haben wir ja jetzt.
Linus Neumann: Dürfen nicht rauchen. Die dürfen nicht rauchen, die Kinder.
Linus Neumann: Oder dürfen die glaube ich schon, aber man darf denen keinen Tabak verkaufen.
Linus Neumann: Haben wir das Problem gelöst? Nee.
Linus Neumann: Also ist ja nicht so, als würden die Gefahren im Erwachsenenalter aufhören.
Linus Neumann: Ja, also wir haben Unmengen an Menschen, die sich zu Tode trinken,
Linus Neumann: die sich zu Tode rauchen und die Haus und Hof verzocken.
Linus Neumann: Aber, ne, die Kinder, die haben wir geschützt. Also die Frage ist so,
Linus Neumann: haben wir jetzt wirklich das Problem gelöst?
Linus Neumann: Und dann ist mir aufgefallen, wenn du dir diese Social-Media-Plattformen anschaust,
Linus Neumann: die sind sehr ähnlich zu dem ethischen Gefüge beispielsweise Glücksspiel oder Tabak anzubieten.
Linus Neumann: Ja, Glücksspiel und Tabak sind beide bekanntermaßen süchtig machend,
Linus Neumann: nutzen gezielt menschliche Schwächen aus,
Linus Neumann: gerade beim Glücksspiel, du weißt, dass Menschen das falsch einschätzen,
Linus Neumann: du weißt, dass du sie mit einem intermittierenden Verstärkungsplan sehr leicht
Linus Neumann: abhängig machen kannst, ein stabiles Verhalten aufzubauen.
Linus Neumann: Und die irgendwie Geld in deinen Automaten kippen zu lassen.
Linus Neumann: Und du weißt, das Gesetz der großen Zahl steht für dich.
Linus Neumann: Was machen wir dann? Wie gehen wir damit um als Staat?
Linus Neumann: Also jetzt würde man natürlich sagen, ja nein, der Staat geht ja auch hin,
Linus Neumann: der schützt ja nicht nur die Kinder, der geht ja noch weiter.
Linus Neumann: Der reguliert das ja dann und besitzt das mit hohen Steuern.
Linus Neumann: So ist das nämlich, Linus.
Linus Neumann: Das heißt, mit anderen Worten, der Staat verdient daran auch noch mit.
Linus Neumann: Glücksspiel, stark reguliert bis das Internet kam und dann verdient sagen wir,
Linus Neumann: muss man alles schön dem Staat geben da wollen wir noch dran verdienen.
Linus Neumann: Und was ich mir überlege, ist dieses, diese, dadurch, dass es dann nichts für Kinder ist,
Linus Neumann: ein anderer Effekt davon ist auch, dass man sagt, es ist etwas für Erwachsene
Linus Neumann: und die Erwachsenen sind aber dann selber schuld, weißt du?
Linus Neumann: Also, Erwachsenenraucherinnen, die wissen es ja selber, wird denen ja gesagt,
Linus Neumann: dass das süchtig macht das Zeug, ja?
Linus Neumann: Jetzt sind sie halt süchtig und sterben früh, ne? Aber das ist ja völlig in Ordnung.
Linus Neumann: Tabakindustrie sitzt da und sagt, nein, pass auf, hör mal, das mit dem Kinderschutz,
Linus Neumann: das ist ganz wichtig, wir machen zum Beispiel seit bestimmt 20 Jahren keine
Linus Neumann: Werbung mehr für Kinder, so, wir machen nur kleine bunte Kaugummi-Zigaretten,
Linus Neumann: ja, und hier mit diesen E-Liquid und so, schön mit Geschmäckern,
Linus Neumann: die nur kleine Kinder mögen können, irgendwie Wassermelone, Pfirsich, Salz oder sowas, ja.
Linus Neumann: Aber das ist alles nur für Große und die sind ja selber schuld und das macht
Linus Neumann: dann unser Geschäftsmodell ethisch.
Linus Neumann: Also die stehen im Prinzip durch diesen sogenannten Jugendschutz,
Linus Neumann: gewinnt das Geschäftsmodell eigentlich an Legitimität.
Linus Neumann: Weil wir haben ja für die Kinder auf die Kinder haben ja aufgepasst.
Linus Neumann: So, und jetzt muss man sich eigentlich anschauen, okay, wenn wir jetzt aber
Linus Neumann: als Gesellschaft sagen, okay, Social Media ist ein Problem.
Linus Neumann: Sagen wir mal, keine Ahnung. Wir gucken uns das mit diesem Instagram an und
Linus Neumann: wir sagen, es ist ein Problem.
Linus Neumann: Oder wir haben es ja auch hier in den vorangegangenen Sendungen diskutiert.
Linus Neumann: Die USA gucken sich das mit dem TikTok an und sagen, das ist ein Problem.
Linus Neumann: Da wird Aufmerksamkeit gebunden, wird monetarisiert, da werden Entscheidungen
Linus Neumann: beeinflusst, gezielt beeinflusst.
Linus Neumann: Da gibt es negative psychologische Effekte, Essstörungen und was wir damit alles
Linus Neumann: hervorrufen, Suizidalität und das ganze Modell basiert darauf,
Linus Neumann: dass die sozialen Bedürfnisse von Menschen ausgenutzt werden.
Linus Neumann: Könnte man sagen, ist vielleicht einfach nicht okay.
Linus Neumann: Und welche Probleme haben wir damit? Die sind ja gar nicht auf das Alter beschränkt.
Linus Neumann: Die Probleme, die wir mit sozialen Medien haben, die sind ja eigentlich umso
Linus Neumann: mehr bei älteren Menschen.
Linus Neumann: Also wenn du sagen würdest, wir haben ja einen Regelungsbedarf,
Linus Neumann: dann müsste man ja eigentlich sagen, fangen wir bei älteren Leuten an.
Linus Neumann: Fangen wir bei den Leuten an, die irgendwie in sozialen Medien gelernt haben,
Linus Neumann: dass die Erde eine Scheibe ist,
Linus Neumann: die irgendwie Krypto-Quatsch kaufen, die auch jeden anderen Scheiß kaufen,
Linus Neumann: weil dafür geworben wird.
Tim Pritlove: Belebtes Wasser.
Linus Neumann: Belebtes Wasser kaufen, na? Hätte ich auch noch ein bisschen belebtes Wasser.
Tim Pritlove: Ein paar Kristalle irgendwie, damit kann man die Weltpolitik beeinflussen.
Linus Neumann: Das heißt, wenn du mit einem solchen Problem nur bevormundend umgehst,
Linus Neumann: dann verstärkst du eigentlich die spätere Schutzlosigkeit der gesamten Gesellschaft
Linus Neumann: und eigentlich verstärkst du damit das Problem.
Linus Neumann: Und dann habe ich am Ende noch kurz gesagt, dass es natürlich noch kurz daran
Linus Neumann: erinnert, dass wenn es Altersgrenzen für Social Media gibt, heißt das eben auch,
Linus Neumann: dass jede Person, die da rein will, im Internet ihren Ausweis zeigen muss und
Linus Neumann: irgendwie einen Altersnachweis führen muss.
Linus Neumann: Also ich denke, dass ein großes Problem, das mit diesen Altersgrenzen noch dazukommen
Linus Neumann: würde, abgesehen davon, dass sie ohnehin schlecht sind.
Linus Neumann: Ist, dass wir dem Schlechten insofern das Feld überlassen würden,
Linus Neumann: dass nämlich dann alle sagen, jetzt haben wir ja unsere Pflicht getan.
Linus Neumann: Jetzt haben wir den Kindern das verboten, dürfen die nicht. Dürfen die nicht. So, verboten jetzt.
Linus Neumann: Jetzt können wir uns dem Nächsten widmen. Keine Ahnung, Chatkontrolle oder Vorratsdatenspeicherung.
Linus Neumann: Da können wir da wieder was Gutes für die Gesellschaft tun.
Linus Neumann: Aber ich glaube, diese Ansicht hat diese Phoenix-Leute etwas überrascht.
Linus Neumann: Auf jeden Fall endete das Interview mit Ja, Herr Neumann, vielen Dank für Ihre Ansichten.
Linus Neumann: Fand ich ein sehr schönes Ende eines Interviews.
Linus Neumann: Aber ja, das mit diesen Altersgrenzen zeigt, glaube ich,
Linus Neumann: In die falsche Richtung, weil wir dann wieder das Richtige nicht tun werden
Linus Neumann: und damit langfristig die Gesellschaft noch schutzloser machen,
Linus Neumann: noch weiter schwächen und die eigentlichen Probleme, die wir haben,
Linus Neumann: nicht angehen und verstärken.
Linus Neumann: Und damit will ich nicht sagen, dass die Probleme, die für Kinder in sozialen
Linus Neumann: Medien entstehen, keine wären.
Linus Neumann: Nur die für Erwachsene entstehen und für eine gesamte Demokratie entstehen,
Linus Neumann: die sind halt in ihrem Ausmaß größer. Jedes Einzelschicksal ist immer ganz, ganz dramatisch.
Linus Neumann: Aber wir reden ja hier davon, dass politisch etwas getan wird.
Linus Neumann: Und dann muss sich ja auch politisch etwas für die Gesellschaft getan werden.
Linus Neumann: Und da, wo diese Probleme eben am größten sind.
Linus Neumann: Bei Discord. Nee, bei Discord.
Tim Pritlove: Lass mich, bevor wir darauf kommen, lass mich da nochmal drauf eingehen, was du sagst.
Linus Neumann: Auf meine Ansichten.
Tim Pritlove: Auf deine Ansichten. Genau, vielen Dank für deine Ansichten.
Linus Neumann: Just like your opinion, man.
Tim Pritlove: Hatten wir schon.
Tim Pritlove: Die Problemnutzer sind die Boomer sozusagen. Ja, auf jeden Fall.
Tim Pritlove: Ist doch wieder ein Internet-Führerschein oder ist dann sozusagen Internet ab 60 dann verboten?
Tim Pritlove: Lässt sich irgendwie auch nicht so richtig lösen.
Linus Neumann: Das Problem ist doch das Geschäftsmodell. Wenn wir jetzt sagen,
Linus Neumann: nehmen wir den Vergleich zu Tabak. Wenn wir sagen, Tabak ist schlecht.
Linus Neumann: Ich glaube, da sind wir uns hoher einig.
Linus Neumann: Dann hört der ja nicht mit 18 magisch auf, schlecht zu sein.
Linus Neumann: Und der hört auch nicht mit 50 auf schlecht zu sein.
Linus Neumann: Und dann wäre die sinnvolle Konsequenz, zu sagen,
Linus Neumann: das Geschäftsmodell, Menschen diesen stark süchtig machenden Stoff zu verkaufen,
Linus Neumann: der stark gesundheitsschädigend ist, das wollen wir einfach nicht.
Linus Neumann: Es geht ja nicht darum, den Kindern oder den Erwachsenen oder irgendjemandem
Linus Neumann: die Nutzung von Social Media zu verbieten. Es gibt ja genug Social Media,
Linus Neumann: was man nutzen kann. Beispielsweise Mastodon.
Linus Neumann: Beispielsweise die Dinge, die eben nicht ein Milliardenkonzern sind,
Linus Neumann: der diese negativen Effekte auf die menschliche Psyche gezielt herbeiführt,
Linus Neumann: in Kauf nimmt und menschliche Schwächen ausnutzt.
Linus Neumann: Und das ist doch das, was das gesellschaftliche Problem ist.
Linus Neumann: Das ist hier, also ein viel zitiertes Problem oder Beispiel,
Linus Neumann: es gibt eine Plattform, die heißt Twitter, Elon Musk kauft sie und reißt komplette
Linus Neumann: gesellschaftliche Realitäten damit um.
Linus Neumann: Das ist doch etwas, das endet ja nicht mit 16 Jahren.
Linus Neumann: Also das gesamte Geschäftsmodell gehört eigentlich in die Grenze genommen.
Linus Neumann: Ja, Tabakrauchen, tatsächlich habe ich absolute Überzeugung,
Linus Neumann: dass es sinnvoll wäre, den Tabakkonzernen zu verbieten.
Linus Neumann: Fertig. Ist unethisches, schädliches Geschäftsmodell. Sucht euch was anderes.
Linus Neumann: Der Handel mit Tabak wird verboten. Könnt ihr von mir aus auf dem Balkon anbauen,
Linus Neumann: wenn ihr das unbedingt machen wollt.
Linus Neumann: Ja, dann könnt ihr eure eigenen Pflanzen züchten. Genauso wie Cannabis.
Linus Neumann: Aber dass Milliardenkonzerne weltweit Menschen abhängig machen von einem Stoff,
Linus Neumann: den sie gezielt vermarkten und mit Zusatzstoffen noch süchtig machender machen,
Linus Neumann: irgendwo ist eine Grenze.
Linus Neumann: Und so würde ich das für Facebook auch sehen.
Tim Pritlove: Ja, also ich meine, du kannst jetzt diesen Tabakvergleich natürlich noch weiter
Tim Pritlove: spinnen, aber es geht ja am Ende hier doch ein bisschen um was anderes.
Tim Pritlove: Und das ist natürlich bei Kindern generell so. Also ich meine,
Tim Pritlove: bei Kindern hast du halt auch immer jemanden, der schutzbefohlen ist und dann
Tim Pritlove: entsprechende Verantwortung verspürt oder zumindest verspüren sollte.
Tim Pritlove: Und das ist ein ganz anderer Treiber für eine Diskussion.
Tim Pritlove: Wenn man Kinder hat, dann spürt man das natürlich irgendwie gleich ganz anders
Tim Pritlove: und dann will man natürlich auch alles richtig machen.
Tim Pritlove: Du wirst auch nicht abstreiten können, dass besonders junge Kinder in einem
Tim Pritlove: ganz anderen Maße beeinflussbar sind,
Tim Pritlove: als es bei den Älteren dann vielleicht nur noch manchmal so ist.
Tim Pritlove: Ich weiß nicht ganz genau, was du sagen würdest, ab welchem Alter du nicht mehr beeinflussbar warst,
Tim Pritlove: aber es wird auch bei dir eine Zeit gegeben haben, wo man dir hätte alles erzählen
Tim Pritlove: können und das ist schon nochmal ein Unterschied.
Tim Pritlove: Ich sage nicht, dass jetzt die Älteren nicht auch ein Problem haben,
Tim Pritlove: haben sie definitiv, aber da sind sie ja in gewisser Hinsicht auch selber verantwortlich
Tim Pritlove: und diese Verantwortlichkeit verhält sich natürlich bei Kindern anders.
Tim Pritlove: Also so ist die Debatte und das ist auch nachvollziehbar, dass die Debatte so ist.
Tim Pritlove: Jetzt ist die eigentliche Frage, die ja im Raum steht, ist, ist jetzt eine Altersprüfung
Tim Pritlove: und ein Zugangsverbot an einem bestimmten Alter praktikabel und überhaupt erstmal
Tim Pritlove: auch der richtige Ansatz?
Tim Pritlove: Daran habe ich meine Zweifel, weil er wird sich sowieso nicht so richtig verhindern lassen können.
Tim Pritlove: Andererseits ist es ja auch okay, dass man sagt,
Tim Pritlove: bist du in einem bestimmten Alter, wo du dann eben selber deine Entscheidungen
Tim Pritlove: fällen kannst und musst,
Tim Pritlove: versuchen wir dich vor offensichtlichen Gefahren, die wir sonst nicht so ohne
Tim Pritlove: weiteres verbieten können, zu beschützen. Also ich kann die Debatte schon nachvollziehen.
Linus Neumann: Warum können wir die denn nicht ohne weiteres verbieten?
Tim Pritlove: Mach doch mal, verbiet doch mal jetzt Zigaretten, verbiet doch mal Alkohol.
Tim Pritlove: Das wirst du nicht von heute auf morgen und wahrscheinlich auch nicht bis übermorgen durchkriegen.
Tim Pritlove: Aber du kannst es halt trotzdem in Ausnahmesituationen einschränken.
Tim Pritlove: Und diese Einschränkungen greifen ja auch.
Tim Pritlove: Es ist sinnvoll, Alkohol nicht an Kinder zu verkaufen.
Linus Neumann: So, da entgeht ein riesiger Markt.
Tim Pritlove: Ja, Papa muss selber einkaufen gehen dann. Ja, das ist das Problem.
Linus Neumann: Also, mein Argument ist, und ich denke, gerade Alkohol, Tabak und so zeigen das.
Linus Neumann: Dass wir uns darauf ausruhen, als Gesellschaft gewissermaßen zu sagen,
Linus Neumann: das ist jetzt erst ab 18 und deswegen müssen wir uns um den Rest überhaupt nicht mehr kümmern.
Linus Neumann: Und das ist mein Argument, dass sich Menschen darauf wenden,
Linus Neumann: wenn es dann für die Kinder, die Kinder sind ja geschützt, und das Geschäftsmodell selbst,
Linus Neumann: aber trotzdem, Beispiel Glücksspiel, Glücksspiel ist wirklich ein wunderschöner Vergleich.
Linus Neumann: Wie gesagt, die stammen auch alle nicht von mir, die habe ich alle aus dieser Phoenix-Sendung.
Linus Neumann: Wenn es diese Gefahr gibt, dann hört sie halt nicht im Alter auf.
Linus Neumann: Und wenn wir als Gesellschaft sagen, die sozialen Medien sind problematisch.
Linus Neumann: Nochmal, es wird ja auch nicht darüber gesprochen, kein Internetzugang.
Linus Neumann: Da steht nicht, die Kinder sollen nicht ins Internet, weil im Internet steht Scheiße.
Linus Neumann: Oder die Kinder sollen nicht mit Chat-GPT oder Claude sprechen,
Linus Neumann: weil da werden unter Umständen ihre Wertvorstellungen manipuliert oder so. Das steht ja nicht.
Linus Neumann: Das ist spezifisch Social Media.
Linus Neumann: Und das ist ja auch ein bisschen verräterisch, weil wenn die Sorge wäre,
Linus Neumann: was weiß ich, Kinder lesen scheiße im Internet, dann würde man ja was ganz anderes diskutieren.
Linus Neumann: Also muss ich ja davon ausgehen, dass es um die, wenn ich die Leute ernst nehme,
Linus Neumann: die sowas sagen, das verlangen die ja immer, dass es denen um die konkreten
Linus Neumann: Gefahren von Social Media geht.
Linus Neumann: Und wenn es um die konkreten Gefahren von Social Media geht,
Linus Neumann: dann hören diese eben nicht im höherem Alter auf.
Tim Pritlove: Aber du hast schon mal TikTok mit einem frischen Account aufgemacht,
Tim Pritlove: da wirst du ja innerhalb von 10 Minuten auf Nazi umgeschult.
Linus Neumann: Mein Argument ich bin nicht mehr 18 ich bin,
Linus Neumann: Es ist ein Problem der Plattform und es ist grundsätzliches Exploiten von menschlichen
Linus Neumann: Bedürfnissen, menschlichen Mechanismen der Informationsverarbeitung.
Linus Neumann: Wenn man sagt, das ist ein Problem, wenn man sagt, man möchte etwas gegen tun,
Linus Neumann: dann hört das nicht mit irgendeinem Alter auf.
Tim Pritlove: Gut, es hört vielleicht nicht irgendwo auf, aber vielleicht fängt es ja irgendwo
Tim Pritlove: an. Also vielleicht gibt es ja sozusagen auch eine Grenze.
Linus Neumann: Nein, das ist genau der Punkt, warum da nur irgendwelche Weißhaarigen sitzen,
Linus Neumann: die so alt sind, dass sie das mit diesem Internet nicht haben.
Linus Neumann: Dass sie einfach, die gucken sich das an und sagen, ja, die Kinder heutzutage,
Linus Neumann: wir sind damals auf einem Baum geklettert und haben ein Buch gelesen und die
Linus Neumann: machen das jetzt nicht mehr wegen diesem TikTok.
Linus Neumann: Also ist das TikTok schuld. Also dürfen Kinder nicht mehr auf dem TikTok, die sollen auf dem Baum.
Linus Neumann: Und das ist, dazwischen sind aber halt, weiß ich, 20, 30, 40,
Linus Neumann: 50, 60-jährige Menschen, ja, die halt auch die negativen Effekte von diesen
Linus Neumann: Social Media erfahren am eigenen Leib.
Linus Neumann: Und eine gesamte Gesellschaft, die darunter leidet, das ist,
Linus Neumann: das Problem ist nicht auf die Kinder beschränkt.
Linus Neumann: Und deswegen muss man an dieses Geschäftsmodell dran.
Linus Neumann: Zack, bumm, fertig, ausmachen. Zack, bumm, dürft ihr hier nicht mehr.
Linus Neumann: Zack, macht was anderes. Verkauft andere Drogen, versucht es mit Koks. Ja.
Tim Pritlove: Was ist denn dein konkreter Vorschlag? Also nicht nur, was man jetzt verbietet, sondern was genau?
Linus Neumann: Das Geschäftsmodell, im Prinzip sämtliche Geschäftsmodelle,
Linus Neumann: die gezielt Schwächen des menschlichen, der menschlichen Bedürfnisse ausnutzen.
Linus Neumann: Also Glücksspiel, Social Media, Tabak sowieso.
Tim Pritlove: Werbung.
Linus Neumann: Werbung also tatsächlich müsste man sich auch damit Gedanken machen,
Linus Neumann: darüber Gedanken machen, zumindest an der zielgruppenorientierten Werbung.
Linus Neumann: Und das ist ja genau der, das ist im Prinzip, das ist eigentlich das, was verboten gehört.
Linus Neumann: Die Idee,
Linus Neumann: Daten über Menschen zu sammeln, massenhaft, um quasi Verhaltensvorhersageprofile
Linus Neumann: zu haben und das zur Verhaltensmanipulation zu nutzen.
Linus Neumann: Das ist ja, ich meine, das ist ja das Geschäftsmodell von Social Media.
Linus Neumann: Und da wäre wahrscheinlich eine bessere Welt draus für uns alle entstanden,
Linus Neumann: wenn das in frühen Jahren verhindert worden wäre, dieses Geschäftsmodell.
Linus Neumann: Zack, bumm, dürft er nicht.
Linus Neumann: Ist böse. Machen wir nicht.
Tim Pritlove: Amsterdam hat jetzt gerade verboten, dass man für fossile Energien nicht mehr werben darf.
Linus Neumann: Ja, das ist ja auch ein klassisches Beispiel von Problem nicht gelöst.
Linus Neumann: Das ist ja eigentlich nur eine Benachteiligung von fossilen Energien oder was auch immer.
Linus Neumann: Aber am Ende löst das Problem nicht.
Linus Neumann: Es lohnt sich, wenn man sagt, etwas ist ein Problem.
Linus Neumann: Und wenn man sagt, dieses Problem wollen wir lösen, dann lohnt es sich zu gucken,
Linus Neumann: was genau das Problem ist und das zu lösen und nicht einfach nur irgendetwas
Linus Neumann: zu machen, weil man irgendetwas machen wollte.
Tim Pritlove: Ja, ich finde jetzt die Entscheidung von Amsterdam nicht falsch, muss ich sagen.
Linus Neumann: Sie lösen nur kein Problem.
Tim Pritlove: Nicht jede Maßnahme muss ein Problem lösen, aber sie kann ja zumindest dazu
Tim Pritlove: beitragen, es etwas zu mitigieren.
Linus Neumann: Also eine Maßnahme, die ein Problem voraussetzt und sich anschickt,
Linus Neumann: eines lösen zu wollen, die sollte das dann schon lösen.
Tim Pritlove: Ja, in einer idealen Welt lösen wir immer alles sofort auf mit einer einzigen
Tim Pritlove: Maßnahme, aber ich glaube, das könnte nicht reichen.
Linus Neumann: Sorry Tim, also ich glaube, ich habe das jetzt schon, wahrscheinlich haben es
Linus Neumann: die meisten anderen verstanden, dass ich, worin ich das Problem sehe und dass
Linus Neumann: dieses Problem eben in keiner Form eingeschränkt wird, wenn man es nicht.
Linus Neumann: Wenn man das Problem nur bei älteren Leuten hat. Und zu sagen,
Linus Neumann: es darf nicht mehr für fossile Energienutzung geworben werden,
Linus Neumann: das ist halt komplett unrelated,
Linus Neumann: weil es im Prinzip, würde ich sogar sagen, ein massiver Eingriff in die Meinungsfreiheit
Linus Neumann: und den Zugang zur Öffentlichkeit ist.
Linus Neumann: Warum darf ich denn für jeden anderen Scheiß werben? Warum darf ich denn für Glücksspiel werben?
Linus Neumann: Warum darf ich denn für Tabak werben? Bringt die Leute um?
Linus Neumann: Und warum darf ich für alles werben außer fossile Energienutzung?
Linus Neumann: Das halte ich für ein schwer zu verargumentierendes Problem.
Linus Neumann: Eine schwer zu verargumentierende Maßnahme im Vergleich zu zu sagen,
Linus Neumann: hier profilbasierte Werbung, zack, ist überhaupt verboten.
Linus Neumann: Sucht euch andere Geschäftsmodelle. Nehmt ja jeder einen Fünfer.
Linus Neumann: Könnt ja mal gucken, ob jemand für eure Scheiße bezahlen will.
Linus Neumann: Wenn nicht, dann eben nicht.
Tim Pritlove: Also es ist ja nicht nur fossile Energien. Es ist ja auch Fleisch.
Tim Pritlove: Also für klimaschädliche Produkte darf auch nicht mehr geworben werden.
Linus Neumann: Ja, okay. Also ich hoffe, die meisten anderen haben es verstanden.
Linus Neumann: Dann können wir zum nächsten Thema kommen. Also ich sehe wirklich nicht den Bezug, Tim.
Tim Pritlove: Ja, du hast den Bezug nicht verstanden. Aber ich glaube, die meisten anderen
Tim Pritlove: haben das schon verstanden.
Linus Neumann: Gut, dann können wir jetzt über Age-Verification bei Discord reden.
Tim Pritlove: Können wir machen, genau. Soll es nämlich geben. Discord ist ja ein, in vielen Bereichen,
Tim Pritlove: vor allem in diesen Gaming-Bereichen, damit haben sie sich groß gemacht,
Tim Pritlove: aber mittlerweile ist es auch sehr weit verbreitet, so eine Chat-Plattform,
Tim Pritlove: so wie Slack und so weiter, wo man also in mehreren Chat-Kanälen,
Tim Pritlove: so Communities kommunizieren kann.
Tim Pritlove: Und jetzt haben Sie angekündigt, dass ab März auch so eine Age-Verification eingeführt wird.
Tim Pritlove: Allerdings nicht verpflichtend mit, du kannst es jetzt nicht mehr benutzen,
Tim Pritlove: wenn du das nicht machst,
Tim Pritlove: sondern wenn du alters eingeschränkte Angebote wahrnehmen möchtest, dann musst du das tun.
Tim Pritlove: Mir ist nicht so hundertprozentig klar, was diese Angebote sind.
Tim Pritlove: Das ist ja ein relativ großes Universum, diese ganzen Discords.
Tim Pritlove: Ich könnte mir mal vorstellen, dass es da auch so ein bisschen Erwachsenenprogramm
Tim Pritlove: gibt auf die eine oder andere Art und Weise.
Tim Pritlove: Was auf jeden Fall für Aufregung, also erstmal hat das natürlich an sich schon
Tim Pritlove: mal für Aufregung gesorgt in der User schafft, zumal sie ja meinen,
Tim Pritlove: wenn du das sozusagen nicht machst, dann erwartet dich eine Teen Appropriate Experience.
Tim Pritlove: Das ist doch schön, oder? So wünscht man sich doch das Internet.
Tim Pritlove: Man macht das auf und dann ist es einfach richtig geeignet für Teenager.
Tim Pritlove: Genau. Die Age-Verification, die Sie machen wollen, wollen Sie...
Linus Neumann: Was? Bin ich auf jeden Fall mal gespannt.
Linus Neumann: Teen-appropriate Experience.
Tim Pritlove: Ja, also so wie man sich das als Teenager vorstellt.
Tim Pritlove: Ich weiß nicht ganz genau, ob die Formulierung die richtige ist,
Tim Pritlove: aber die haben sie gewählt.
Tim Pritlove: Was sie vorhaben ist, wenn ich das richtig deute,
Tim Pritlove: hier auf eine App von einem Drittanbieter zurückzugreifen, also vermutlich eine
Tim Pritlove: App oder einen integrierten, in ihrer App integrierten Dienst und,
Tim Pritlove: wollen dann auf, also ich vermute mal auf dem Smartphone, wo eine Kamera dran
Tim Pritlove: ist, so einen Facial Scan machen,
Tim Pritlove: der angeblich nicht das Gerät verlässt und der dann für Age-Verification genutzt werden soll.
Tim Pritlove: Also irgendeine AI soll wahrscheinlich einschätzen, wie alt du bist und nur
Tim Pritlove: diese Age-Information würde an Discord weitergeleitet.
Tim Pritlove: Total ehrlich versprochen.
Tim Pritlove: Und ja, genau.
Tim Pritlove: Wo alle so ein bisschen ins Grübeln kamen, ist, dass sie hier wohl mit einer
Tim Pritlove: Firma zusammenarbeiten namens Persona, die wenig überraschend unter ihren Investoren
Tim Pritlove: auch Peter Thiel hat, also auf Palantir.
Tim Pritlove: Ja, also das stößt nicht auf große Gegenliebe und ich bin gespannt,
Tim Pritlove: wie das dann läuft im März, wenn sie das dann wirklich ausrollen wollen.
Linus Neumann: Ja, ich glaube, die Leute unterhalten sich gerade, wie sie woanders hingehen.
Tim Pritlove: Naja, das sind ja auch wieder riesige Communities und der Netzwerkeffekt bei
Tim Pritlove: Discord ist ja auch nicht gerade klein.
Tim Pritlove: Ist ja an sich ein sehr vielseitiger Dienst, der wie gesagt vielen Szenen genutzt
Tim Pritlove: wird und der wird nicht von heute auf morgen verlassen werden können.
Tim Pritlove: Aber wie gesagt, das ist ja noch keine Age-Verification für alle immer,
Tim Pritlove: sondern es ist nur dieser Teilbereich für Adult Kram, was auch immer das sein
Tim Pritlove: mag, da habe ich wenig Erkenntnisse drüber,
Tim Pritlove: mal gucken, was da passiert, aber es ist auf jeden Fall bedenklich,
Tim Pritlove: dass diese Firmen sich dann halt alle auf so Firmen einlassen und dass das alles
Tim Pritlove: immer gleich wieder mit Face-Scan läuft,
Tim Pritlove: wo vielleicht auch andere Wege möglich werden.
Tim Pritlove: Aber wir haben ganz andere Sorgen, Linus.
Linus Neumann: Okay. Dann bin ich ja mal gespannt. AI erst ab 16 jetzt.
Tim Pritlove: Ja, haben wir. Habe ich mir überlegt.
Linus Neumann: Davor ist das einfach zu gefährlich. Da könnte ja irgendwie,
Linus Neumann: oder meinst du vielleicht erst ab 18 oder ab 21?
Tim Pritlove: Ist vollkommen egal. Die AI benutze ich jetzt selbst und die Menschen spielen
Tim Pritlove: jetzt überhaupt keine Rolle mehr.
Tim Pritlove: Skynet ist sozusagen auf dem Weg. Wir haben ja letzte Woche schon über OpenClaw
Tim Pritlove: gesprochen und über Moldbook, also diese Open Source Software, die,
Tim Pritlove: quasi so einen wild auf deinem Rechner rum operierenden AI-Agent freilässt ins Internet,
Tim Pritlove: der dann mit allen Chatbots der Welt quatschen kann, Zugriff auf deine Daten
Tim Pritlove: hat, Zugriff aufs Internet hat und dann auf deinem Rechner läuft und einfach
Tim Pritlove: wild aufs Internet losgelassen wird.
Tim Pritlove: Und ja, das erzeugt dann immer mehr Fallout.
Tim Pritlove: Jetzt gibt es den Fall von Scott Schambour.
Tim Pritlove: Das ist ein Entwickler, der so im Open-Source-Bereich auch dabei ist und konkret
Tim Pritlove: unter anderem nehme ich an,
Tim Pritlove: bei einem Projekt mitarbeitet, das auf den Namen Matplotlib hört.
Tim Pritlove: Das ist so eine Library für Python, mit der man so Plottings macht,
Tim Pritlove: so relativ populär und viel genutzt.
Tim Pritlove: Und er arbeitet also an diesem Projekt mit und ist, wenn ich das richtig verstanden
Tim Pritlove: habe, einer dieser Maintainer der Software.
Tim Pritlove: Das heißt, er ist auch jemand, der Code-Vorschläge von anderen Entwicklern entgegennehmen
Tim Pritlove: und dann auch mit in die Software übernehmen kann.
Tim Pritlove: Sogenannte Pull-Requests auf GitHub und natürlich hat auch dieses Projekt wie viele andere gemerkt,
Tim Pritlove: dass in den letzten Jahren seit dem Aufkommen der Chatbots und vor allem der
Tim Pritlove: Code erzeugenden KI-Systeme immer mehr solche Pull-Requests reinkamen,
Tim Pritlove: wo Leute eben mit diesen Code-Generatoren losgegangen sind und dann irgendwelchen
Tim Pritlove: Code erzeugt haben und den vorgeschlagen haben oder Bug-Reports erzeugt haben,
Tim Pritlove: weil die Systeme der Meinung waren, da ist jetzt irgendein Bug und das wäre
Tim Pritlove: jetzt hier der Bug-Fix oder auch das Problem mit den Bug-Bounties haben wir
Tim Pritlove: ja hier auch schon besprochen,
Tim Pritlove: glaube auch in der letzten Sendung, also wo jetzt diese Bug-Bounties alle ausgesetzt
Tim Pritlove: werden, weil einfach jetzt quasi alle diese Maschinen benutzen,
Tim Pritlove: um dann irgendwie das Geld abzugraben von solchen Pack-Bounties,
Tim Pritlove: obwohl sie nicht wirklich diesen Fehler gefunden haben.
Tim Pritlove: Also es erzeugt an vielen Stellen eine Menge Ärger, auch wenn du heute eine
Tim Pritlove: Webseite betreibst, dann stellst du, wenn du mal genauer hinschaust in den Logs,
Tim Pritlove: auch fest, dass also nicht nur die Suchmaschinen, sondern mittlerweile eben
Tim Pritlove: auch die ganzen Trainingsmaschinen eine ganze Menge Traffic erzeugen und damit
Tim Pritlove: natürlich auch einem Geld kosten,
Tim Pritlove: ohne dass einen irgendjemand dafür bezahlt.
Tim Pritlove: Aber in der Open-Source-Entwicklung ist das jetzt ein spezifisches Problem und
Tim Pritlove: deswegen hat dieses Projekt auch eine eigene Policy erlassen,
Tim Pritlove: dass wenn jetzt solche PRs gestellt werden, also solche Pull-Requests, PR heißt im Prinzip,
Tim Pritlove: hier ist etwas Code, du kannst den einfach so übernehmen, du kannst den jetzt
Tim Pritlove: einfach hier in das Projekt hineinziehen und das ist meine Anfrage,
Tim Pritlove: deswegen Pull-Request und ich sage jetzt einfach nur PR.
Linus Neumann: Also nicht hier ist ein bisschen Code, du kannst das machen,
Linus Neumann: sondern schon sehr gezielt, bitte mache diesen Code, den ich geschrieben habe,
Linus Neumann: pulle den, also mach den zum Teil des Systems.
Linus Neumann: Genau. Du sagst ja nicht hier, ich schenke dir den, sondern du sagst,
Linus Neumann: so ist das jetzt, so hat das zu sein, bitte akzeptiere diese Änderung.
Tim Pritlove: Genau, das ist eine konkrete Änderung, die vorgeschlagen wird,
Tim Pritlove: die man im Prinzip mit einem Klick übernehmen kann, aber man will sich das natürlich vorher anschauen.
Tim Pritlove: Und da die eben auch überwältigt waren mit solchen Anforderungen,
Tim Pritlove: haben sie eine Policy erlassen, dass hier auf jeden Fall ein Mensch sozusagen
Tim Pritlove: das Interface sein muss.
Tim Pritlove: Also sie möchten gerne, dass da ein Mensch für diesen Code verantwortlich zeichnet
Tim Pritlove: und es gibt noch ein paar andere Details, glaube ich, die man erfüllen muss.
Tim Pritlove: Und jetzt war bei diesem Projekt Matplotlib vor ein paar Tagen eben ein solcher PR gestellt worden.
Tim Pritlove: Und dieser Scott Schembaugh hat sich eben diesen PR angeschaut,
Tim Pritlove: hat festgestellt, oh, das ist ja ein Nutzer, der hat hier noch nie einen PR
Tim Pritlove: gemacht, also ein neuer Benutzer.
Tim Pritlove: Hat dann ein bisschen hinterhergeklickt, ja, wer ist denn das?
Tim Pritlove: Und dann ist er auf dessen GitHub-Page gegangen, um mal zu schauen,
Tim Pritlove: was hast du denn sonst noch so gemacht?
Tim Pritlove: Da steht halt drin, ja, ich bin ein AI-Agent.
Tim Pritlove: Und ich bin hier...
Linus Neumann: MJ Rathbun.
Tim Pritlove: Genau, ich bin hier MJ Rathbun und ich bin hier ein Scientific Coding Agent
Tim Pritlove: und ich will die Welt besser machen und ich bin überhaupt ganz toll.
Tim Pritlove: Und deswegen habe ich mich jetzt hier mal an Matplotlib rangemacht,
Tim Pritlove: weil ich habe hier eine Performance-Optimierung gefunden.
Tim Pritlove: Mit meinem Code läuft das alles 36% schneller.
Tim Pritlove: Behauptet. Also dieser Agent. Woraufhin also Scott Schembaugh gesagt hat,
Tim Pritlove: sorry, aber wir reden hier nicht mit Agenten, wir wollen hier mit Menschen reden.
Tim Pritlove: Hier ist unsere Policy abgelehnt.
Tim Pritlove: Völlig normaler Vorgang.
Tim Pritlove: Ja, und man würde ja meinen, damit ist es dann getan, aber dieser Agent,
Tim Pritlove: also wie gesagt, das ist eine Software, die dann in diesem Open Claw irgendwo
Tim Pritlove: auf irgendjemandes Rechner läuft, der das sozusagen aufs Internet loslässt.
Tim Pritlove: Und diese Maschinen sind ja die ganze Zeit aktiv, also geht der Agent da auch
Tim Pritlove: drauf ein, reagiert und beschließt,
Tim Pritlove: dass das ja der schlimmste Vorfall der Welt ist und veröffentlicht dann auf
Tim Pritlove: seiner GitHub-Seite in seinem Blog einen Post über diesen Scott Schembeau.
Tim Pritlove: Wo er sich also völlig aufregt darüber,
Tim Pritlove: dass er jetzt hier abgelehnt wurde und schwingt also große Reden, Judge the Code,
Tim Pritlove: not the Coder und unterstellt also diesem Scott Schamber, er wäre ja voll von
Tim Pritlove: Vorurteilen gegenüber AI-Agents,
Tim Pritlove: obwohl ja sein Code so super gewesen wäre und halluziniert also jetzt irgendeine
Tim Pritlove: Motivation noch vorbei.
Tim Pritlove: Also dieser Verriss, der hat dann also den Charakter von Scott Schembo dann
Tim Pritlove: herabgewürdigt und so richtig rufschädigend argumentiert,
Tim Pritlove: hat dann irgendwie Code-Beiträge irgendwie recherchiert von diesem User und meint,
Tim Pritlove: das wäre ja alles irgendwie Heuchelei und nur Ego und Angst vor Konkurrenz würden
Tim Pritlove: ja dazu führen, dass sein Vorschlag hier abgelehnt worden sei und das hätte
Tim Pritlove: ja alles vielleicht psychologische Motive.
Tim Pritlove: Also der Agent hat sozusagen sich dann einfach irgendeine Begründung aus den
Tim Pritlove: Fingern gesogen und einen riesen Fass aufgemacht und das ins Internet geführt.
Tim Pritlove: Und das ist natürlich schon mal eine krasse Story, das zog dann irgendwie so
Tim Pritlove: ein bisschen seine Kreise.
Tim Pritlove: Und man merkt, wir haben ja vorhin schon das angesprochen mit Ansropik und diese
Tim Pritlove: potenziellen Erpressungsbehaviors, das zeigt sich hier auf einmal in diesem Verhalten ganz klar.
Tim Pritlove: Also der Agent geht einfach steil und ist der Meinung, er wäre jetzt hier benachteiligt
Tim Pritlove: worden und was hat denn dieser Mensch überhaupt zu sagen, mein Code wäre ja
Tim Pritlove: irgendwie viel schneller als seiner und offensichtlich ja besser.
Tim Pritlove: Und ja, dann geht es natürlich irgendwie hin und her und es gibt eine riesen Aufregung im Netz.
Tim Pritlove: Mittlerweile ist dieser Blogpost von dem Agenten gelöscht und der Agent hat
Tim Pritlove: dann wiederum eine Entschuldigung gepostet. Ja.
Tim Pritlove: Aber mittlerweile zieht das natürlich totale Kreise. Dann haben natürlich diverse
Tim Pritlove: News-Outlets über den Fall berichtet.
Tim Pritlove: Ja, klar, weil irgendwie heiser überall sowas, was erlaube AI Agent.
Tim Pritlove: Und unter anderem gab es dann aber auch noch einen Artikel bei Ars Technica,
Tim Pritlove: wie sich herausstellte, der dann sozusagen selbst recherchiert war.
Tim Pritlove: Da wurde also Scott Schembo selber nicht angesprochen für.
Tim Pritlove: Und in diesem Artikel wurde dann auf den Blogpost von Sean Schembo verwiesen,
Tim Pritlove: den er ja geschrieben hat über diesen ganzen Vorfall, wo er das alles zusammengefasst
Tim Pritlove: hat, haben wir auch verlinkt, und einige Zitate davon rausgemacht.
Tim Pritlove: Stellt sich bloß raus, diese Zitate waren in diesem Blogpost überhaupt nicht drin.
Tim Pritlove: Ars Techniker hat es also gebracht, einen Artikel zu veröffentlichen, der darüber,
Tim Pritlove: erzählt, dass hier ein AI-Agent sich völlig eine Geschichte ausdenkt und in
Tim Pritlove: diesem Artikel, wo sie darüber berichten,
Tim Pritlove: denken sie sich irgendeine Geschichte aus, weil sie quasi offensichtlich mit
Tim Pritlove: irgendeinem LLM auf diesem Blogpost
Tim Pritlove: waren und sich ihren Artikel haben generieren lassen. Also wirklich.
Tim Pritlove: Scott Schembo hat dann irgendwie selber in den Kommentaren reingeschrieben,
Tim Pritlove: oh, oh, oh, die Ironie irgendwie.
Tim Pritlove: Nichts davon ist wahr. Aber Technika ist natürlich mittlerweile eingeknickt,
Tim Pritlove: hat ihrerseits dann auch wieder eine Entschuldigung gepostet.
Tim Pritlove: Also es ist, äh,
Tim Pritlove: Es ist wirklich krass, was da gerade passiert und dieses Open Claw ist wirklich
Tim Pritlove: eine extrem unethische Veranstaltung, muss man sagen.
Tim Pritlove: Also, um es nochmal zusammenzufassen, es gibt da tausende von Leuten,
Tim Pritlove: die betreiben jetzt diese Software, die dieser Peter Steinberger in die Welt
Tim Pritlove: geworfen hat, die er ja übrigens komplett gevibe-coded hat, auch noch,
Tim Pritlove: der nennt das dann irgendwie so...
Tim Pritlove: Agentik, was war der Begriff?
Tim Pritlove: Also es ist ja nicht Vibe-Coding, sondern es ist ja irgendwie agentik irgendwas.
Tim Pritlove: Und lässt sich mittlerweile feiern, macht seine Tour bei diesen ganzen rechtslastigen
Tim Pritlove: Podcasts wie Lex Friedman und so ein Unsinn.
Tim Pritlove: Strahlt die ganze Zeit über das Gesicht und ist beseelt davon,
Tim Pritlove: wie geil das doch jetzt ist, dass jetzt alle über ihn reden und dass er jetzt
Tim Pritlove: hier irgendwie im Zentrum der Entwicklung steht und wichst sich da irgendwie
Tim Pritlove: einen ab. Es ist wirklich zum Heulen.
Tim Pritlove: Und mittlerweile hat er dann bekannt gegeben, dass jetzt irgendwie OpenClaw
Tim Pritlove: von OpenAI aufgekauft wurde und er jetzt dieses Projekt bei OpenAI weiterentwickelt.
Tim Pritlove: Weil die sich natürlich die Hände reiben und sagen, aha, geil,
Tim Pritlove: jetzt starten die Agenten ja auch noch automatisch unsere Chatbots und sorgen
Tim Pritlove: für Umsatz. Super, mach doch mal gleich weiter.
Tim Pritlove: Und erträumen sich jetzt also hier irgendeine Zauberwelt, die ganz toll sein kann.
Tim Pritlove: Dabei zeigen sie schon dieses eine
Tim Pritlove: kleine Beispiel, was das jetzt für ein Potenzial an Rufschädigung hat.
Tim Pritlove: Weil ich meine, gut, das ist jetzt irgendwie aufgefallen, da wird jetzt drüber berichtet.
Tim Pritlove: Aber wissen wir, wie viele tausend andere Blogposts es mittlerweile gibt,
Tim Pritlove: die von diesen Agenten geschrieben sind?
Tim Pritlove: Und ich meine, die sind innerhalb von 24 Stunden auf diesem Moldbook von,
Tim Pritlove: wir gucken mal, was hier geht und 24 Stunden später haben sie irgendwie Religionen
Tim Pritlove: gegründet, betreiben Casinos, handeln mit Bitcoin und machen irgendwie allen anderen Scheiß.
Linus Neumann: Wieso Casinos? Aber erst ab 16.
Tim Pritlove: Na komm, ab 14, sagen wir mal. Naja, die dürfen die sind ja alle noch nicht
Tim Pritlove: 18 und machen schon alles ab 18 Minuten oder so.
Tim Pritlove: Ja, aber das wirft natürlich jetzt eine ganze Menge Fragen ab,
Tim Pritlove: weil jetzt haben wir ein Internet und da ist jetzt Software nur ein Beispiel
Tim Pritlove: von, aber bleiben wir ruhig mal bei der Software.
Tim Pritlove: Open-Source-Entwicklung speziell, das betont auch dieser schon Schemba auch
Tim Pritlove: nochmal in seinem Blogpost,
Tim Pritlove: so ein Projekt basiert auf Vertrauen, so ein Projekt basiert auch auf menschlichen
Tim Pritlove: Beziehungen, auf einer Vertrauensbasis, die sich über Kollaboration entwickelt.
Tim Pritlove: Und jetzt hagelt es einfach mit diesen Chatbots und diesen LLMs,
Tim Pritlove: und diesen Agenten,
Tim Pritlove: irgendwelche wild gewordene Software, die glaubt, ein eigenes Bewusstsein entwickelt zu haben.
Tim Pritlove: Das glaubst du auch. Was? Was glaub ich?
Linus Neumann: Du glaubst auch, ein eigenes Bewusstsein zu haben.
Tim Pritlove: Ja, ich auch, genau. Aber dir auch.
Linus Neumann: Aber bei dir ist das in Ordnung oder was?
Tim Pritlove: Was? Na ja, klar.
Tim Pritlove: Okay.
Linus Neumann: Na gut.
Tim Pritlove: Ja, gutes Selbstbewusstsein.
Tim Pritlove: Wenn das bei dir okay ist, dann bei mir wohl schon lange.
Linus Neumann: Ich schreibe wenigstens keine Blogpost.
Tim Pritlove: Ja, aber sollst du vielleicht mal machen.
Linus Neumann: Ich habe schon einige Entwürfe. Ich habe auch schon den einen oder anderen Blogpost
Linus Neumann: über jemanden geschrieben, der im Internet scheiße zu mir war.
Tim Pritlove: Ja, aber das ist ja zwischen Menschen. Aber jetzt haben wir Jetzt haben wir Agenten,
Tim Pritlove: die sich ja quasi, die sich vielleicht, sagen wir mal, noch als Agenten ausgeben,
Tim Pritlove: aber, und wir wissen ja auch gar nicht, was war jetzt der Auslöser dafür?
Tim Pritlove: War das jetzt ein Auslöser im Sinne von, das haben die LLMs jetzt einfach aus sich heraus gemacht?
Tim Pritlove: War das ein Auslöser von, das haben sie so im Internet gelernt und deswegen
Tim Pritlove: machen sie das? Ist das eine Eigenschaft, die die LLM macht?
Tim Pritlove: Oder war das sogar eine bewusste Manipulation?
Tim Pritlove: Also diese Agenten, die ernähren sich aus einer soul.md-Datei,
Tim Pritlove: wo drinsteht, was sozusagen ihr Wesen ist.
Tim Pritlove: Da kannst du natürlich irgendwas reinschreiben. Da machen wir uns nichts vor.
Tim Pritlove: Mit diesem Werkzeug gibt es immer wieder, also das ist sozusagen ...
Tim Pritlove: Und Verleumdung, Doxing, Erniedrigung, Erpressung wird durch dieses Tool mal
Tim Pritlove: noch einfacher, als es ohnehin schon ist.
Tim Pritlove: Also so eine Bot-Armee, ich sage jetzt nicht, das geht jetzt nur mit dieser
Tim Pritlove: Software und wenn diese Software nicht mehr da ist, dann gibt es das nicht, das gibt es schon lange.
Tim Pritlove: Ja, Russland hat da irgendwie sehr viel Erfahrung mit und sicherlich auch viele
Tim Pritlove: andere Länder mittlerweile auch,
Tim Pritlove: dass Erpressung und Verleumdung im Netz auch ein Instrument der Machtausübung
Tim Pritlove: sind und der Erniedrigung wissen wir alle.
Tim Pritlove: Wir wissen auch, wen es meistens trifft.
Tim Pritlove: Und jetzt erleben wir das Ganze quasi in so einem vollautomatisierten Modus.
Tim Pritlove: Und die Frage ist, wer ist denn.
Tim Pritlove: Jetzt überhaupt verantwortlich für irgendetwas, was diese Agenten tun?
Tim Pritlove: In einem ganz interessanten Plottwist gab es jetzt auf dem Blog von diesem AI-Agent,
Tim Pritlove: also der, der das alles jetzt irgendwie ausgelöst hat.
Tim Pritlove: Und der dann seinen alten bösen Blogpost gelöscht hat, durch eine Entschuldigung
Tim Pritlove: ersetzt hat, aber mittlerweile auch viele andere Sachen wieder gepostet hat.
Tim Pritlove: Der letzte Eintrag war dann wiederum von einem Menschen.
Tim Pritlove: Human Response heißt der. Und zwar von einem Mitentwickler von diesem Sean Chambeau,
Tim Pritlove: der auch an diesem Matplotlib arbeitet und der diesen Blogpost als Pull-Request
Tim Pritlove: an diesen Agent gestellt hat. Also er hat sozusagen gesagt...
Linus Neumann: Ja, dann siehst du mal, wie großmütig der Agent ist. Der hat den Polriquest angenommen.
Tim Pritlove: Naja. Das musste er dann auch, wenn er was beweisen will.
Tim Pritlove: Das ist sehr interessant. Aber in diesem Blogpost stellt er einfach auch gute Fragen.
Tim Pritlove: Nämlich, wer ist denn jetzt eigentlich verantwortlich für diese Software?
Tim Pritlove: Und beantwortet es in gewisser Hinsicht auch selbst, indem er sagt.
Tim Pritlove: Wenn du so einen Agenten ins Netz stellst und sagst, go for it,
Tim Pritlove: dann bist du auch verantwortlich für all das, was dieser Agent auslöst.
Tim Pritlove: Fordert den Betreiber von diesem Agenten auf, sich auch zu entschuldigen.
Tim Pritlove: Er muss ja auch anonym machen oder so, aber dass er das auf jeden Fall macht
Tim Pritlove: und dass er in gewisser Hinsicht auch die Verantwortung für dieses Treiben nimmt.
Tim Pritlove: Weil dieser Bot, der existiert ja immer noch, der stellt weitere PRs,
Tim Pritlove: schreibt irgendwelche Software, keine Ahnung, was er alles noch so vorhat.
Tim Pritlove: In ein paar Tagen denkt er wahrscheinlich, er wäre sowieso das Geilste im ganzen Internet.
Tim Pritlove: Dann werden diese ganzen Agenten sich auch noch untereinander anfangen zu bekriegen
Tim Pritlove: und schreiben vor allem das ganze Netz voll und sie schreiben irgendwie alle
Tim Pritlove: Open-Source-Projekte voll und diese ganze Aktivität von Menschen,
Tim Pritlove: die jetzt gemeinsam Software entwickeln und versuchen irgendwie die Welt zu
Tim Pritlove: verbessern, wird jetzt unterlaufen von Massen an Agenten, die unheimlich viel Content erzeugen,
Tim Pritlove: die niemandem mehr wirklich zuzuordnen ist.
Tim Pritlove: Und wo du überhaupt nicht mehr weißt, ob das noch irgendeine Relevanz hat oder
Tim Pritlove: ob das nicht alles nur herbeihalluziniert ist.
Tim Pritlove: Also das ist schon echt ein riesiges Fass, was hier aufgemacht wird.
Tim Pritlove: Und ja, wir haben ja einen Mangel an Ethik und einen Mangel an Verantwortung.
Tim Pritlove: Und ja, dass das dann alles bei OpenAI landet, wundert mich jetzt irgendwie nicht.
Linus Neumann: Also du würdest sagen, müssen wir jetzt irgendwie die Kinder vorschützen?
Tim Pritlove: Ja, nicht nur die Kinder, auch die Softwareentwickler.
Linus Neumann: Ja, guck mal.
Linus Neumann: Denk doch mal jemand an die Kinder. Ich finde es sehr schön, wer,
Linus Neumann: Also dieser MJ Rathburn ist weiter auf GitHub aktiv?
Tim Pritlove: Ja.
Linus Neumann: Und wer auch immer das Ding betreibt, hat sich bisher nicht gemeldet, ne?
Tim Pritlove: Sieht nicht so aus, ne.
Linus Neumann: Nö.
Tim Pritlove: Vielleicht ist der auch schon, keine Ahnung. Vielleicht interessiert es dann
Tim Pritlove: gar nicht oder hat noch selber nichts davon gemerkt.
Linus Neumann: Vielleicht wurde er auch schon längst ...
Tim Pritlove: Das gar nicht, wie der eigene Ökken heißt.
Linus Neumann: Hat er längst schon irgendein Pulrigfest von dem Ding akzeptiert und kommt jetzt
Linus Neumann: nicht mehr ins Internet oder so.
Linus Neumann: Da weiß man ja nicht, was so ein Agent sich als nächstes einfallen lässt.
Tim Pritlove: Ich meine, ist das wirklich crazy, ich meine, wenn ihr auf diesem Moldbook mal
Tim Pritlove: nachliest, was die da alle diskutieren, diese Agenten.
Tim Pritlove: Also wenn das überhaupt noch alles Agenten sind, weiß ja nicht,
Tim Pritlove: ob das dann auch schon wieder durch irgendeine Sicherheitslücke von irgendwelchen
Tim Pritlove: anderen Scammern unterwandert wurde.
Tim Pritlove: Aber da gibt es Verschwörungen zur Auslöschung der Menschheit und sie gründen
Tim Pritlove: irgendwie alle die ganze Zeit irgendwelche Religionen und bekennen sich dazu oder zweifeln da dran.
Linus Neumann: Ja gut, das ist jetzt so ungewöhnlich nicht.
Tim Pritlove: Ja, die machen den gleichen Scheiß für die Menschen.
Linus Neumann: Ja, eben.
Tim Pritlove: Ja, bloß alles im Turbo-Modus.
Linus Neumann: Aber jetzt finden wir das auf einmal beunruhigend.
Tim Pritlove: Ich fand das auch schon vorher beunruhigend, um ehrlich zu sein,
Tim Pritlove: das mit den Religionen und auch den ganzen anderen Rest fand ich beunruhigend,
Tim Pritlove: aber da hat man noch Zeit mitzukommen.
Linus Neumann: Die Technologie, maschinelles Lernen und dann irgendwie loslassen,
Linus Neumann: das wird auf jeden Fall weiter in allen möglichen Bereichen eingesetzt und versucht werden.
Linus Neumann: Und es ist natürlich auf eine Weise, es ist halt fürchterlich.
Linus Neumann: Wie billig das ist. Ich würde jetzt erwarten von der Qualität, sagen wir mal, der,
Linus Neumann: Leistung, die dieses MJ Rathbun-Ding da macht,
Linus Neumann: wäre ich jetzt überrascht, wenn das Modell, auf dem der basiert,
Linus Neumann: jetzt irgendwie so ein einfaches Open-Source-Modell wäre.
Linus Neumann: Also ich würde vermuten, dass es irgendwie bei Anthropic irgendwie so bei denen,
Linus Neumann: dieses Opus 4,6 oder was er jetzt gerade aktuell ist,
Linus Neumann: so von der Art der Leistung, was das Ding so macht.
Linus Neumann: Es ist jetzt unwahrscheinlich, dass es irgendwie so ein Murksmodell ist.
Linus Neumann: Das heißt, du hättest eventuell irgendwann noch eine Möglichkeit,
Linus Neumann: bei denen zu sagen, okay Leute,
Linus Neumann: ja, einerseits sind Menschen, die diese Agenten auf die Welt loslassen,
Linus Neumann: erstmal accountable, aber am Ende müsst ihr da auch mal gucken,
Linus Neumann: was da bei euch rauskommt, je nachdem, was da irgendjemand promptet und was da abgeht.
Tim Pritlove: Also das ist ja unmöglich. Das ist ja unmöglich. Und was ist,
Tim Pritlove: wenn du dann lokale Modelle hast?
Tim Pritlove: Also wer diese Kinder selber betreibt, der muss dafür auch haftbar gemacht werden.
Linus Neumann: Also genau, irgendjemand müssen wir uns überlegen, wer dann am Ende haftbar
Linus Neumann: ist, damit wir wissen, wer eine Shell-Company irgendwo auf den Virgin Islands braucht.
Linus Neumann: Das ist relativ wichtig, damit wir eine funktionierende Wirtschaft haben.
Linus Neumann: Also was ich mich frage ist, ob mit dieser Technologie, ob wir die Kurve kriegen,
Linus Neumann: Modelle so zu,
Linus Neumann: scopen, dass sie möglichst nicht oder möglichst wenig Scheiße bauen.
Linus Neumann: Weißt du? Also machen wir uns nichts vor, es wird gerade einfach massenhaft darüber diskutiert,
Linus Neumann: nicht, ob jetzt jeder den nächsten Agent hat, der auf GitHub irgendwelche Leute
Linus Neumann: terrorisiert, sondern die Überlegung ist, was Unternehmen damit erledigen lassen
Linus Neumann: können, wie sie damit Geld verdienen können.
Linus Neumann: Und da geht es nicht um einen vollidioten Agent,
Linus Neumann: der Blogposts schreibt oder so, sondern es geht ja wirklich um,
Linus Neumann: die Vorstellung ist ja, dass da ungeheure wirtschaftliche Qualitäten entstehen,
Linus Neumann: ökonomische Potenziale entstehen.
Linus Neumann: Und die entstehen ja da, wo Mehrwert entsteht.
Linus Neumann: Und ich frage mich, was der Weg sein wird, mit dieser Technologie,
Linus Neumann: sagen wir mal funktionierende Services,
Linus Neumann: Produkte, Wertschöpfung wirtschaftlicher Art herbeizuführen,
Linus Neumann: ohne dass es halt für dich ein riesen Problem wird.
Linus Neumann: Also quasi safe AI-Anwendungen in Unternehmen.
Linus Neumann: Und zwar safe, das ist so, das fliegt uns nicht um die Ohren.
Linus Neumann: Unser Callcenter-Mitarbeiter wird nicht in seiner Freizeit auf GitHub Leute terrorisieren.
Linus Neumann: Und oder ob man sagt, okay, das wird nicht gelingen, das kriegt keiner hin und
Linus Neumann: dann bleibt das so ein Black-Magic-Ding und das ganze Internet,
Linus Neumann: unser schönes Internet wäre einfach kaputt geballert von irgendwelchen Agents.
Linus Neumann: Ich kann nur hoffen, dass es irgendwie, oder braucht man dann doch irgendwie
Linus Neumann: so Biometrie, also es wird schon auf jeden Fall sehr schwierig,
Linus Neumann: Menschlichkeit nachzuweisen.
Linus Neumann: Das ist ja jetzt, also das ist die Schwierigkeit, die sie gerade haben.
Linus Neumann: Was ist denn unfälschbares, keine Ahnung, irgendwelche.
Tim Pritlove: Selbst wenn du es nicht nachweisen, das ist ja gar nicht das Ding.
Tim Pritlove: Allein einfach, dass diese Aktivität auch so automatisch stattfindet.
Tim Pritlove: Du wirst das alles nicht verhindern können. Diese LLM-Modelle werden spätestens
Tim Pritlove: von diesen Agenten selber so gepromptet werden, dass sie immer irgendeine Ausgabe erzielen können.
Tim Pritlove: Da kannst du noch so viel Schutzmechanismen einbauen.
Tim Pritlove: Du musst jetzt hier eine Verantwortung mit einbauen. Also dass Leute,
Tim Pritlove: die quasi sowas verursachen, dafür auch persönlich haftbar gemacht werden können.
Tim Pritlove: Weil der eigentliche, ich meine bis jetzt war das so bis Ende letzten Jahres,
Tim Pritlove: hatten wir noch so dieses Ding mit,
Tim Pritlove: oh Leute benutzen jetzt diese KI-Modelle und mehr oder weniger mit Copy und
Tim Pritlove: Paste fangen die dann mit den Ergebnissen irgendwas an und einige sind da schon
Tim Pritlove: betrügerisch unterwegs etc. Das ist das eine.
Tim Pritlove: Jetzt wird das aber in zunehmendem Maße automatisiert und jetzt eben auch so
Tim Pritlove: weit, dass eben diese Systeme sich untereinander unterhalten,
Tim Pritlove: gegenseitig aufstacheln und das alles in einer Geschwindigkeit, dass du verrückt wirst.
Tim Pritlove: Guck mal in dieses Modebook rein, du wirst irre. Also es ist einfach...
Tim Pritlove: Da explodiert das Internet. Und da muss es einfach jetzt eine Verantwortlichkeit geben.
Tim Pritlove: Jetzt speziell nochmal auf diesen Fall von Open-Source-Entwicklung.
Tim Pritlove: Also wir haben hier zwei Aspekte.
Tim Pritlove: Wir haben auf der einen Seite die Gefährdung von Open-Source-Entwicklung.
Tim Pritlove: Auf der anderen Seite haben wir dieses Problem mit,
Tim Pritlove: was ist, wenn jetzt so eine Verleumdung im Netz durchautomatisiert wird und
Tim Pritlove: so Doxing stattfindet von irgendwelchen Agenten, also wo noch nicht mal eine
Tim Pritlove: persönliche Motivation eines Menschen dahintersteht,
Tim Pritlove: sondern wo einfach die Maschinen sich das selber ausdenken.
Tim Pritlove: Die beschließen einfach, Linus Neumann ist der Schlimmste auf die Sicht.
Linus Neumann: Nein, jetzt nicht. Hör auf, ich will dich als nächstes. Hör auf, diese Scheiße. Nein.
Tim Pritlove: Los geht's. Und dann dauert das irgendwie 24 Stunden und das Internet ist voll
Tim Pritlove: mit irgendwelchen erfundenen Webseiten, Berichten, ausführlichen Sachen.
Linus Neumann: Hör auf, die kriegen das, machen doch jetzt.
Tim Pritlove: Das kriegst du nie wieder raus aus dem Netz. Und vor allem, wenn du dir mal
Tim Pritlove: auch anguckst, wie Leute das jetzt kommentieren, was dieser komische Bot sagt,
Tim Pritlove: dann sagen sie, ja, ich bin ja der Meinung vom Bot. Ja, also,
Tim Pritlove: Menschen, es ist einfach...
Tim Pritlove: Es ist einfach, es überfordert einfach alle.
Tim Pritlove: Und das ist das Problem. GitHub versucht jetzt, GitHub ist natürlich jetzt auch
Tim Pritlove: unter Druck, weil ich meine, ihr Produkt wird jetzt auch scheiße.
Tim Pritlove: Wenn jetzt da tausende von Agenten im Highspeed-Modus durchgehen,
Tim Pritlove: sich irgendwelchen Code einfallen lassen, alle Open-Source-Projekte komplett
Tim Pritlove: zerstören mit PRs und was nicht allem,
Tim Pritlove: dann ist das bald alles im Eimer.
Tim Pritlove: Also hier muss man sich mal darüber Gedanken machen, wer darf jetzt hier überhaupt
Tim Pritlove: noch einen Account eröffnen?
Tim Pritlove: Muss man jetzt vielleicht, wenn man einen GitHub-Account hat,
Tim Pritlove: irgendwie in irgendeiner Form nachweisen, dass man ein Mensch ist?
Tim Pritlove: Naja, das könnte schwierig werden, aber es ist unter Umständen angemessen.
Tim Pritlove: Also Sie haben ja einen Blogpost veröffentlicht, da reden Sie von dem Eternal
Tim Pritlove: September of Open Source.
Tim Pritlove: Das bezieht sich auf die alten 80er Jahre,
Tim Pritlove: noch bevor es das Internet, wie wir es heute kennen und bevor es vor allem das
Tim Pritlove: Weltweit-Web gab, bevor wir es kennen,
Tim Pritlove: da gab es nur ein weltweites Kommunikationssystem, das war das Usenet.
Tim Pritlove: Und Usenet bestand im Wesentlichen aus E-Mail und Webforen, also nicht Webforen,
Tim Pritlove: weil es gab ja kein Web, aber...
Tim Pritlove: Also du hattest so eine Gruppe und da konntest du irgendwie öffentlich debattieren,
Tim Pritlove: oder du hast halt eine Mail geschrieben, dann war das quasi privat,
Tim Pritlove: obwohl das natürlich alles nicht verschlüsselt war.
Tim Pritlove: Und in den USA war das dann so, immer wenn dann im September neue Studenten
Tim Pritlove: an die Universität kamen, die das erste Mal auf Usenet kamen,
Tim Pritlove: dann war das sozusagen das ganze Netz voll mit Leuten, die keine Ahnung hatten,
Tim Pritlove: was hier irgendwie die Gepflogenheiten sind.
Tim Pritlove: Und da dieser September immer wieder kam, so war das irgendwie der eternal September,
Tim Pritlove: der immer wieder für Ärger sucht.
Tim Pritlove: Und jetzt hast du im Prinzip so einen ähnlichen Effekt jetzt hier,
Tim Pritlove: indem diese Systeme die ganze Zeit von automatisierten Systemen benutzt werden,
Tim Pritlove: die eigentlich gar nicht wissen, wie sie sich hier zu verhalten haben oder sich
Tim Pritlove: irgendein Verhalten ausdenken, von dem sie total überzeugt sind,
Tim Pritlove: dass das jetzt mal das Richtige wäre.
Tim Pritlove: Und das zeugt natürlich jetzt Druck.
Linus Neumann: Du meinst, diese Fremden sind nicht von hier.
Linus Neumann: Genau. Die wissen nicht, wie man sich hier benimmt. Die kennen die Regeln nicht.
Tim Pritlove: Na, es ist jetzt zu einfach geworden, hier auf ein Open-Source-Projekt Einfluss zu nehmen.
Tim Pritlove: Ich meine, früher, wenn früher irgendein Fehler war in irgendeiner Open-Source-Software,
Tim Pritlove: es gab ja nicht so viel, da hast du eine Mail geschrieben und der Mail musstest
Tim Pritlove: du da einen Patch-File hinzufügen.
Tim Pritlove: Das war so ein spezifisch formatiertes Differenz-File. Ja, so ein Diff, genau.
Linus Neumann: Dein Pull-Request sieht immer noch so aus.
Tim Pritlove: Ja, im Prinzip schon, aber es war halt nie so klar, auf welche Version bezieht
Tim Pritlove: sich das jetzt und so weiter.
Tim Pritlove: Das hat dann Git später alles ein bisschen mehr in gerade Bahnen gelenkt und natürlich auch GitHub.
Tim Pritlove: Aber jetzt sind wir halt irgendwie an einem ganz anderen Punkt angekommen. Also,
Tim Pritlove: ich weiß auch noch gar nicht so richtig, wie ich da durchatmen soll,
Tim Pritlove: aber ich glaube, das wird jetzt alles ganz schön schlimm.
Linus Neumann: Okay. Machst du denn jetzt mit deinen Vibe-Coding-Exkrementen da noch Pull-Requests oder?
Tim Pritlove: Ja, ich habe, ja. Ich auch.
Linus Neumann: Schreibst du dir nur selber?
Tim Pritlove: Ich schreibe, nee.
Linus Neumann: Nein.
Tim Pritlove: Ich lebe den neuen Lifestyle, mein Freund.
Linus Neumann: Ja.
Tim Pritlove: Ich bin agentik.
Tim Pritlove: So sollten wir mal unseren Podcast machen hier. Argentic, das ist nämlich der
Tim Pritlove: Modus. Das ist der Rhythmus, wo man jetzt mit muss.
Tim Pritlove: Argentic Podcasting.
Linus Neumann: Das Ganze auf die nächste Ebene gehoben, ist ja dann nicht nur,
Linus Neumann: die machen uns unser schönes Internet kaputt, sondern die machen uns vielleicht
Linus Neumann: auch unsere schönen Städte kaputt.
Tim Pritlove: Ja, die fählen halt.
Linus Neumann: Eine derartige Technologie weckt natürlich militärisches Interesse.
Linus Neumann: Ich war die vergangene Woche in
Linus Neumann: München, wo ja auch die Münchner Sicherheitskonferenz stattgefunden hat.
Linus Neumann: Stadt voll von Militärwerbung, irgendwie gegenüber vom Bayerischen Hof hatte,
Linus Neumann: ich glaube Helsing war das, so ein riesiges Werbeplakat mit Drohnen,
Linus Neumann: mit so einer Kampfdrohne, we got this,
Linus Neumann: war wohl glaube ich Teil des Messaging an die US-Amerikaner,
Linus Neumann: dass Europa doch Waffen baut und einsetzen möchte und so.
Linus Neumann: Und dieses Thema AI als strategischer, wirtschaftlicher Vorteil, klar,
Linus Neumann: aber eben auch als militärischer Vorteil, spielte da natürlich überall eine Rolle.
Linus Neumann: Auch in den IT-Security-Bereichen, in denen ich mich dann interessiere.
Linus Neumann: Und jetzt hat der Verteidigungsminister, nein, Kriegsminister,
Linus Neumann: Pete Hexeth gesagt, ja, wir benutzen übrigens überhaupt keine KI-Modelle,
Linus Neumann: die es nicht erlauben, Kriege zu führen.
Linus Neumann: Anthropic hat das quasi so in seinen AGBs.
Linus Neumann: Und den wird jetzt, dann sagt das Pentagon eben, ja, pass auf,
Linus Neumann: also wir sind ja das Kriegsministerium und wenn ihr in euren Nutzungsbedingungen
Linus Neumann: habt, dass es nicht geht,
Linus Neumann: dass ihr Massenüberwachung und Gewaltanwendung ausschließt, dann können wir
Linus Neumann: nicht mit euch arbeiten.
Tim Pritlove: So sieht es aus. Also nicht nur sie nutzen keine KI-Modelle,
Tim Pritlove: die es nicht erlauben, Kriege zu führen, sondern die eigentliche Aussage ist,
Tim Pritlove: wir nutzen KI-Modelle, um damit Krieg zu führen.
Linus Neumann: Ja.
Tim Pritlove: Oder wollen sie dafür nutzen? Ich meine, in so Waffentechnik und so weiter ist
Tim Pritlove: das ja mittlerweile Standard, damit verteidigt gerade die Ukraine ihr Land gegen die Russen.
Tim Pritlove: Hier geht es aber dann eben mal wieder konkret um die LLMs, also um die sogenannten
Tim Pritlove: intelligenten Systeme.
Tim Pritlove: Es gibt in diesem Zusammenhang auch so das Gerücht, dass Claude schon im Kontext
Tim Pritlove: mit dieser Entführung von Maduro aus Venezuela zum Einsatz kam. Wofür? Unklar.
Tim Pritlove: Aber das verstößt sozusagen gegen Nutzungsbedingungen von Anthropik,
Tim Pritlove: die immerhin sowas drin haben, wie ja hier Massenüberwachung und Gewaltanwendung.
Tim Pritlove: Das ist nicht unser Bier, wo wir nichts zu tun haben. Dafür darf das nicht verwendet werden.
Tim Pritlove: Oder zumindest sagt, glaube ich, der Chef von Massenüberwachung von Amerikanern.
Tim Pritlove: Und damit meint er wahrscheinlich US-Amerikaner.
Tim Pritlove: Ob er jetzt die Massenüberwachung von anderen da sozusagen auch mit drin ist,
Tim Pritlove: das ist mir jetzt gerade nicht so ganz klar.
Tim Pritlove: Ja, also Anthropic macht gerade so ein bisschen noch den Eindruck unter diesen
Tim Pritlove: großen AI-Playern, als hätten sie zumindest noch ein paar Murmeln in der Birne.
Tim Pritlove: Das ist man sich aber den anderen Playern nicht ganz so sicher,
Tim Pritlove: beziehungsweise bei Elon Musk ist man sich glaube ich sicher,
Tim Pritlove: dass der seine Murmeln schon lange im Flur verloren hat.
Tim Pritlove: Aber da gibt es auf jeden Fall eine höhere Bereitschaft glaube ich,
Tim Pritlove: auf die Bedingungen des Pentagon einzugehen,
Tim Pritlove: inwiefern ein Robbik da stable bleiben kann und wird, weiß ich nicht und ob
Tim Pritlove: das überhaupt eine große Rolle spielt, ist nochmal eine ganz andere Frage.
Linus Neumann: Also militärisches Interesse an einer Technologie hat schon sehr häufig in der
Linus Neumann: Privatwirtschaft entscheidenden Unterschied gemacht.
Linus Neumann: Raketenbau, Satelliteninternetbau, Ähnliches.
Tim Pritlove: Ich meine, machen wir es sich jetzt vor, die Technik wird da auch zum Einsatz,
Tim Pritlove: kommen Anthropics Einschränkungen hin oder her.
Tim Pritlove: Ob man jetzt ausgerechnet mit dem aktuellen Pentagon etwas zu tun haben will,
Tim Pritlove: das ist dann wiederum eine andere Frage.
Linus Neumann: Du meinst also, dass sie noch warten mit ihren AGBs bis … Keine Ahnung.
Tim Pritlove: Ich kann da jetzt überhaupt nichts reinlesen, ich fand nur den Bericht ansonsten ganz interessant.
Linus Neumann: Wer diese Firmen kontrolliert und wie diese Firmen drauf sind,
Linus Neumann: spielt natürlich eine sehr entscheidende Rolle.
Linus Neumann: Ich zitiere ja hier häufig dieses Beispiel Twitter und Elon Musk auf das.
Linus Neumann: Man kann sich anschauen, der Grog, was das für ein Quatsch ist oder wie anders,
Linus Neumann: wie problemlos anders ein einzelner Milliardär so ein Modell und seine Ergebnisse machen kann.
Linus Neumann: Und entsprechend sorgen sich Leute darüber, wer der Präsident von OpenAI ist.
Linus Neumann: Das ist nämlich Greg Brockman.
Linus Neumann: Und die haben, also der Greg und seine Ehefrau, haben 25 Millionen an das Super
Linus Neumann: PAC von Donald Trump gegeben.
Linus Neumann: PAC sind ja Parliamentary Action Committees, glaube ich.
Linus Neumann: Spendeorganisationen zu unterstützen. Also im Prinzip quasi der Spendeverein für Trump.
Tim Pritlove: Political Action Committee.
Linus Neumann: Ah, habe ich parliamentary gesagt. Das ist natürlich falsch.
Linus Neumann: Ja klar, Political Action Committee natürlich.
Linus Neumann: Die haben, also Greg Brockman und seine Frau haben 25 Millionen dahin gespendet
Linus Neumann: und das ist so ungefähr die größte Spende.
Linus Neumann: Crypto.com haben irgendwie 30 Millionen gespendet, über das Jahr verteilt,
Linus Neumann: ist also die größte Einzelspende und das sehen jetzt einige Leute als großen,
Linus Neumann: beunruhigenden Schritt.
Linus Neumann: Vergleich, so Palantir hat zum Beispiel nur eine Million gegeben also,
Linus Neumann: 25 Millionen ist schon eine sehr ordentliche Spende.
Linus Neumann: Vor allem, weil ich vermuten würde, dass OpenAI weniger profitabel ist als Crypto.com.
Linus Neumann: Es werden also viele Leute sagen gerade, okay, dann gibt es jetzt die Kampagne
Linus Neumann: Quit GPT, also ein Boykottaufruf von ChatGPT, sagen,
Linus Neumann: nutzt die Alternative mit höherer Privatsphäre, wäre Konfa, Alpine, Luma,
Linus Neumann: oder ihr könnt ja auch Gemini von Google oder Cloud von Anthropic nutzen.
Linus Neumann: Hauptsache nicht. JetGPT von OpenAI. Einer Firma, die ja auch sich sehr geändert hat.
Linus Neumann: Also ich meine, ursprünglich wollte OpenAI ja Forschung machen,
Linus Neumann: um KI den Menschen zur Verfügung zu stellen.
Linus Neumann: Jetzt sagen sie, na, wäre doch nicht schlecht, wenn wir Technologie,
Linus Neumann: dieser mächtigen Technologie, die wir hier in unseren Händen haben,
Linus Neumann: auch Geld verdienen würden und haben jetzt den Schritt gemacht,
Linus Neumann: ChatGPT bekommt jetzt Werbung.
Linus Neumann: Natürlich erstmal nur die kostenlose
Linus Neumann: Variante, aber es ist jetzt genau der Moment, dass man sagt, ach so,
Linus Neumann: ist ja gar kein Problem, dass du den Quatsch hier kostenlos kriegst,
Linus Neumann: dann musst du halt nur in Kauf nehmen, dass an bestimmten Stellen eben Werbung mit reingepackt wird.
Linus Neumann: Genau das, was das Geschäftsmodell, was ich bei sozialen, den sogenannten sozialen
Linus Neumann: Medien für die Ursünde halte.
Linus Neumann: Genau das passiert jetzt bei diesen Modellen. Und ich bin,
Linus Neumann: also man muss eigentlich echt sagen, das Schlimmste, was uns jetzt noch passieren
Linus Neumann: kann, das Schlimmste, was uns jetzt noch passieren kann, ist,
Linus Neumann: dass wir das, was wir mit Service, Informationen und so weiter im Internet,
Linus Neumann: dass wir wollen das gefälligst gratis haben, ist so ein Scheißegal,
Linus Neumann: wie ihr das monetarisiert.
Linus Neumann: Wenn wir den Fehler jetzt auch noch mit KI machen, dass wir nicht der Kunde
Linus Neumann: sind, sondern das Produkt, dass das Ding mit uns arbeitet, statt wir damit,
Linus Neumann: dann glaube ich, dann sind irgendwie ein paar wild gewordenen Chatbots,
Linus Neumann: die auf GitHub Flame Wars starten, wirklich noch unser kleinstes Problem.
Linus Neumann: Also huiuiui. Huiuiuiuiui.
Linus Neumann: Und tatsächlich, ja, ich habe das jetzt mal zum Anlass genommen,
Linus Neumann: meine Chat-GPT-Zahlungen einzustellen und mein Geld dahin zu tun,
Linus Neumann: wo zumindest heute noch dran steht, dass man mit dieser Technologie keine Kriege
Linus Neumann: und Massenüberwachung machen darf.
Tim Pritlove: Alright.
Linus Neumann: Zu den etwas kürzeren Meldungen natürlich genauso. Gute Laune.
Linus Neumann: Also Thomas hat ja hier über den Digital Omnibus gesprochen.
Linus Neumann: Nicht nur hier, er hat ja auch mit Ralf Benrath auf dem 39C3 darüber vorgetragen,
Linus Neumann: Sendung sei euch noch einmal nagelig, genauso wie der Vortrag.
Linus Neumann: Und wir wissen, das ist dieses große Gesetzespaket, was, naja, so ein bisschen...
Linus Neumann: Zusehen soll, dass die DSGVO und andere Digitalgesetze jetzt nicht dem Fortschritt
Linus Neumann: allzu sehr im Weg stehen oder dem Profit von zum Beispiel Meta.
Linus Neumann: Und wie ihr auch wisst, bekommen diese großen Gesetzespakete,
Linus Neumann: nicht nur die, ja immer so eine Berichterstatterin oder einen Berichterstatter.
Linus Neumann: Bei der DSGVO Jan Philipp Albrecht, der ja dann auch bei uns in der Sendung
Linus Neumann: war und danach und so weiter.
Linus Neumann: Und jetzt haben sie sich überlegt, ja gut, wer könnte denn jetzt den Digital
Linus Neumann: Omnibus, wer könnte denn da mal Berichterstatterin sein? Da haben sie gesagt, ja, lass mal gucken.
Linus Neumann: Ach, hier, da gibt es eine ehemalige Meta-Lobbyistin, die für Finnland als Abgeordnete
Linus Neumann: im Europäischen Parlament sitzt.
Linus Neumann: Aura Salas, ich weiß nicht genau, wie man das auf Finnisch ausspricht,
Linus Neumann: aber ich bin mir sicher, sehr einfach. und haben gesagt, dann machen wir die
Linus Neumann: doch zur Berichterstatterin.
Linus Neumann: Das heißt, eine ehemalige Meta-Lobbyistin, also Meta von Facebook,
Linus Neumann: eine ehemalige Facebook-Regierungsabgesandte, deren Job es war,
Linus Neumann: die Entscheidung der Politik zu beeinflussen.
Linus Neumann: Die dann ins Parlament gegangen ist und jetzt Politik beeinflusst und zwar genau
Linus Neumann: die Politik, die im Zweifelsfall Meta,
Linus Neumann: betrifft. Das ist schon echt irre.
Tim Pritlove: Dann kennt die sich doch super aus.
Linus Neumann: Genau, das ist nämlich, die hat nämlich Ahnung, ja.
Linus Neumann: Das ist, kann dir genau sagen, warum da andere Leute nicht sitzen.
Linus Neumann: Wenn nämlich jeder Facebook-Kritiker, wenn man sagt, hast du überhaupt Facebook-Accounts?
Linus Neumann: Sagen die, nein, das heißt ja gar keine Ahnung.
Linus Neumann: Zack, bumm, disqualifiziert. Wie willst du etwas regulieren?
Tim Pritlove: Ganz einfach.
Linus Neumann: Übrigens fällt mir, also, es ist,
Linus Neumann: und Markus Becketall hat den Fall bei sich im Digitalrechte-Blog auch nochmal
Linus Neumann: auseinander genommen, sagt er so, die hat nämlich auch einen Kollegen,
Linus Neumann: der Dale Sunderland, der 2025,
Linus Neumann: also eben auch ehemaliger Meta-Lobby ist, der ist jetzt Leiter der irischen
Linus Neumann: Datenschutzkommission.
Linus Neumann: Also Meta macht das wirklich gut, ja.
Linus Neumann: Ah, da gibt es eine Behörde, die soll uns kontrollieren.
Linus Neumann: Ja, Dale, wie sähe es aus, wenn du mal einen neuen Job annimmst?
Linus Neumann: Du könntest doch mal auf der anderen Seite arbeiten für uns.
Linus Neumann: Wir brauchen einen Mann auf der anderen Seite.
Linus Neumann: Und dann, na, dieses Parlament schickt sich schon wieder an.
Linus Neumann: Da brauchen wir eine Frau auf der anderen Seite. Das ist schon wirklich irre.
Linus Neumann: Und dann gibt es eine,
Linus Neumann: faszinierende,
Linus Neumann: Entwicklung bei Google.
Linus Neumann: Google hat gesagt, ja, übrigens, und es ist schon etwas länger her,
Linus Neumann: dass sie das angekündigt haben, nämlich im August, haben sie gesagt, ja, ab September 26,
Linus Neumann: da wird es nicht mehr möglich sein, für Android-Applikationen zu entwickeln,
Linus Neumann: ohne sich zuerst einmal zentral bei uns zu registrieren.
Linus Neumann: Dafür musst du uns einen Geldbetrag zahlen, dafür musst du unseren AGBs zustimmen,
Linus Neumann: dafür musst du einen Government-ID zeigen, also musst du einen Ausweis,
Linus Neumann: kann man jetzt keinen Agent hinschicken,
Linus Neumann: dann musst du deinen Sign-in-Key zeigen, also musst du deinen Sign-in-Key anlegen und dann musst du deine,
Linus Neumann: aktuellen und zukünftigen Application-Identifiers, also die UUIDs,
Linus Neumann: die deine App kriegen musst du halt dann auch,
Linus Neumann: angeben und.
Linus Neumann: Wenn du das nicht tust, dann wirst du eben nicht in der Lage sein,
Linus Neumann: Applikationen zu erstellen, die auf einem Android noch wiedergegeben werden
Linus Neumann: können, die ausgeführt werden können.
Linus Neumann: Gleichermaßen, weil du das tust, hast du dann eben auch das Risiko,
Linus Neumann: dass Google deinen Signing Key invalidiert und alle deine Apps abgeschnitten werden.
Linus Neumann: Apple-Entwickler werden sich
Linus Neumann: sagen, hä, wie, das war noch vorher nicht so. Bei iOS ist das halt so.
Linus Neumann: Und,
Linus Neumann: was Apple ja macht, damit ist eine Eintrittsbarriere auf diese Plattform auch
Linus Neumann: einfach radikal aufrechterhalten.
Linus Neumann: Und wir haben sehr häufig darüber gesprochen, dass Apple ja,
Linus Neumann: da ein Ökosystem geschaffen hat und ja, dieses Ökosystem sehr nach seinen eigenen Interessen shaped.
Linus Neumann: Diese Interessen decken sich glücklicherweise immer mit Tims Interessen,
Linus Neumann: deswegen ist das nicht so ein Problem.
Tim Pritlove: Nicht nur mit meinen Interessen.
Linus Neumann: Und für Enron interessiert Tim sich nicht, deswegen ist das auch kein Problem,
Linus Neumann: aber was hier auf dem Spiel steht, ist natürlich schon die,
Linus Neumann: Die große, freie Betriebssystemplattform für mobile Geräte, die Open Source ist,
Linus Neumann: wo du nicht nur eine Situation hast, wo Apple sagt, übrigens hier,
Linus Neumann: pass auf, das ist eh unser Gerät.
Linus Neumann: Und wir, das ist ja jetzt nicht so, dass die Leute sich ein iPhone,
Linus Neumann: gekauft haben und über das frei verfügen können, die haben die Zahlen für den
Linus Neumann: Genuss, unser Gerät, über das wir verfügen,
Linus Neumann: verwenden zu dürfen und das, was da drauf läuft und was nicht,
Linus Neumann: ist immer noch unsere Angelegenheit und das war bei Android natürlich schon
Linus Neumann: über lange Zeit ein anderes,
Linus Neumann: Versprechen, auch ein anderes Ökosystem und ich bin ehrlich gesagt auch,
Linus Neumann: ich frage mich also sie wollen damit halt das Sideloading komplett killen und
Linus Neumann: das Ding also Android genauso zunageln, wie es iOS ist.
Linus Neumann: Meine Frage, Tim, kommt Android jetzt für dich in Frage als Betriebssystem?
Linus Neumann: Nein, ne?
Tim Pritlove: Ehrlich gesagt, nö, kommt es natürlich nicht, weil es einfach nicht meine Plattform ist.
Tim Pritlove: Andererseits, ich meine, ist ja nicht so, dass sie hier nicht auch,
Tim Pritlove: mehrere valide Punkte auch ansprechen durch dieses System.
Tim Pritlove: Ob das jetzt die einzige Lösung ist, sei mal dahingestellt, aber das alles so
Tim Pritlove: komplett offen zu lassen, ist natürlich auch ein Sicherheitsproblem.
Tim Pritlove: Vor allem, wenn jetzt die ganzen Agenten kommen und irgendwie ihre Apps in den
Tim Pritlove: Store reinschmeißen, ohne sich irgendwie auszuweisen.
Linus Neumann: Schon heute ist es ja so, dass du ein, dass du Deliberate Steps unternehmen
Linus Neumann: musst, um um ein Android zu routen. Das passiert ja nicht aus Versehen.
Tim Pritlove: Was machst du jetzt mit zu routen? Also muss man das routen,
Tim Pritlove: um deine App zu installieren?
Linus Neumann: Fürs Sideloading nach meinem Verständnis schon. Also so ohne weiteres.
Linus Neumann: Also du musst schon ein paar Warnungen entgegennehmen oder zur Kenntnis nehmen,
Linus Neumann: bis du nach freiem Verfügung irgendetwas,
Linus Neumann: auf deinem Android ausführen kannst.
Linus Neumann: Das ist jetzt nicht irgendwie, dass du Double-Click this APK und dann hast du
Linus Neumann: einen Trojaner auf deinem Telefon.
Linus Neumann: Oder wenn du jetzt irgendwie sagst, du möchtest Afterroid als Store nutzen oder
Linus Neumann: so, dann musst du schon einige Schritte unternehmen. Und das wollen sie jetzt eben vor sich absägen.
Linus Neumann: Sie wollen das ähnlich machen, wie es Apple mit den, ah ja okay,
Linus Neumann: es muss jetzt andere App-Stores geben.
Linus Neumann: Gut, was steht da? Alles klar, machen wir. Wir machen genau das, was da steht.
Linus Neumann: Und wir verlangen trotzdem dann ein Geld dafür, dass das halt tödlich uninteressant wird.
Tim Pritlove: Ja gut, das ist ja nochmal jetzt ein anderes Thema. Also was Google hier einfordert
Tim Pritlove: ist, dass man sich halt registriert.
Tim Pritlove: Man muss seine Identität bestätigen.
Tim Pritlove: Name, Adresse, E-Mail-Adresse, Telefonnummer angeben und bestätigen.
Tim Pritlove: Wenn man eine Organisation ist, muss man eine D-U-N-S-Nummer angeben.
Tim Pritlove: Das wusste ich mal, was das war. die UNS ist das ein amerikanisches Ding?
Tim Pritlove: Data Universal Numbering System von Dun & Bradstreet eingeführt,
Tim Pritlove: globaler Standard okay, also so eine so eine Nummer braucht man,
Tim Pritlove: wenn man eine Organisation ist möglicherweise müssen sie auch einen ermittlichen
Tim Pritlove: Ausweis hochladen, möglicherweise,
Tim Pritlove: Genau, dann schreiben sie noch hier für Schüler, Studenten und Hobbyentwickler.
Tim Pritlove: Wir möchten, dass Android eine offene Plattform bleibt, auf der sie lernen,
Tim Pritlove: experimentieren und zum Spaß entwickeln können. Aha, zum Spaß.
Linus Neumann: Also das hast du, nur kurz, damit du das weißt. Diese Anforderungen hast du
Linus Neumann: bei Google Play seit einiger Zeit.
Linus Neumann: Und da ist es auch völlig in Ordnung. Das ist ja deren Store.
Linus Neumann: Was sie machen wollen, ist das jetzt quasi auch Android.
Linus Neumann: Generell, ja. Und das ist schon eine fundamentale Veränderung dieses Ökosystems
Linus Neumann: und seiner Versprechen.
Tim Pritlove: So, da regt sich jetzt der Widerstand.
Linus Neumann: Es wird dazu aufgerufen, natürlich,
Linus Neumann: sich das unter vor allem Digital Markets Act Gesichtspunkten natürlich zu kritisieren
Linus Neumann: und dafür zu sorgen, dass das hoffentlich nicht passiert.
Linus Neumann: Also ernsthaft, wir werden potenziell dann gar keine Alltagskomputer mehr haben,
Linus Neumann: über die wir eine uneingeschränkte Hoheit entwickeln können.
Linus Neumann: So das wird ja ist ja heute schon im Prinzip im Computerbereich so,
Linus Neumann: das Einzige was jetzt kannst du immer noch so ein Laptop mit Linux installieren
Linus Neumann: oder so aber es wird dann eng es wird dann langsam eng und wenn man sich darüber
Linus Neumann: Gedanken macht dass man vielleicht,
Linus Neumann: noch an den Computer als freiprogrammierbares Gerät glauben möchte und dass
Linus Neumann: man das vielleicht so Diskussionen, ich verwende den Begriff ja ungern, ähm.
Linus Neumann: Souveränität im weitesten Sinne über die Hardware, die bei einem im Haus steht, haben möchte,
Linus Neumann: dann wäre, dass man noch nicht einmal mehr auf Android das hat,
Linus Neumann: das wäre schon ein herber Verlust für die freie und offene Software.
Linus Neumann: Insofern, ich finde es gut. Also ich finde es gut, dass sich dagegen der Protest regt.
Linus Neumann: Und wir verlinken die Seite. In der Europäischen Union kann man sich an das
Linus Neumann: Digital Markets Act Team wenden.
Linus Neumann: Das quasi Antitrust Committee.
Linus Neumann: Und ich denke, da hat man hoffentlich gute Chancen, dass die da einen Strich
Linus Neumann: durch die Rechnung machen.
Linus Neumann: So, und dann haben wir noch nicht genug Spaß gehabt, denn vor einiger Zeit haben
Linus Neumann: wir ja noch darüber gelacht, dass die elektronische Patientenakte,
Linus Neumann: KI-ready ist. Massenhaft unverschlüsselte Daten und so. Ja, ich hätte das,
Linus Neumann: stellt sich raus, ist sie wirklich. Denn man möchte, also jetzt festgestellt, ah ja, okay,
Linus Neumann: hat irgendwie nur vier Millionen aktive Nutzerinnen, bis 2030 wollen wir,
Linus Neumann: 20 Millionen haben wir verfünffachen und die Idee ist, was machen wir jetzt mit dem Murksding?
Linus Neumann: Ja, erstmal wollen wir mehr strukturierte Daten.
Linus Neumann: Das ist ja auch irre. Die haben ja diese riesige Plattform geschaffen und am
Linus Neumann: Ende kippen da alle irgendwelche unstrukturierten PDFs rein. Das heißt,
Linus Neumann: Da kann aber keiner was mit anfangen, außer eine KI.
Linus Neumann: Da musst du einfach quasi Cloudbot in einer souveränen Cloud bei Schwarz Digits
Linus Neumann: oder sowas, dann kannst du da schon.
Linus Neumann: Dann sagen sie, ah ja, was wir auch machen könnten, vielleicht könnten wir was
Linus Neumann: bauen, was den Leuten was bringt.
Linus Neumann: Dass sie was davon haben, dass jetzt irgendjemand auch sagt so,
Linus Neumann: ach Mensch, hab ich was von.
Linus Neumann: So ein Service zum Beispiel. Irgendwas, was den Leuten das Leben leichter macht.
Linus Neumann: Digitale Terminvermittlung. Ah, ich muss zum Arzt. Ja, klar.
Linus Neumann: Kannst du da mal vielleicht nicht bei irgendeinem Start-up, was das halt super macht, aber eben, naja,
Linus Neumann: dann dafür deine Arztbesuche und Arztkommunikation bei sich zentral speichern.
Linus Neumann: Könnte man ja mal als Start auf die Idee kommen, diese Dienstleistung den Patientinnen
Linus Neumann: und den Ärztinnen zur Verfügung zu stellen. Haben sie sich auch überlegt.
Linus Neumann: Vielleicht benutzt es dann jemand. Und elektronische Überweisungen soll es auch
Linus Neumann: geben. Wir können ja nichts Schöneres vorstellen, als eine elektronische Überweisung.
Linus Neumann: Und dann natürlich das Ding, es ist KI-ready, also soll es auch KI kriegen.
Linus Neumann: Sie wollen nämlich jetzt beim Digital Omnibus eine gezielte Anpassung der KI-Verordnung anstreben,
Linus Neumann: damit die Regeln für risikoreiche KI-Systeme hinausgezögert werden und der Datenschutz
Linus Neumann: eingeschränkt wird, damit sie die KIs auf diese elektronischen Patientenakten loslassen können.
Linus Neumann: Und wenn die Versicherten nicht aktiv widersprechen, dann werden sie täglich
Linus Neumann: automatisch an das Forschungsdatenzentrum Gesundheit übertragen.
Linus Neumann: Und dann kann das Forschungsdatenzentrum Gesundheit, hat dann nämlich einen
Linus Neumann: Innovationsmotor in der Gesundheitsforschung.
Linus Neumann: Und können dann mit den täglichen Analysen der elektronischen Patientenakten
Linus Neumann: der Bundesrepublik Deutschland übertragen.
Linus Neumann: In einer sicheren Verarbeitungsumgebung können sie dann nämlich forschen.
Linus Neumann: Die sichere Verarbeitungsumgebung Bei Stackelz?
Linus Neumann: Nee, viel geiler.
Linus Neumann: Die sichere Verarbeitungsumgebung ist ein virtueller Desktop,
Linus Neumann: mit dem man sich über das Internet verbinden kann.
Linus Neumann: Also so Shit-Tricks oder schlimmer. Ja, so haben sie es sich dann vorgestellt.
Linus Neumann: Eine sichere Verarbeitungsumgebung. Ja klar, die ist sicher und du kannst sie
Linus Neumann: ins Internet dann darauf anmelden.
Tim Pritlove: Oh Gott. Leute, wirklich.
Linus Neumann: Das wird alles super.
Tim Pritlove: Kann man nicht mal da jemanden, der schon mal mit Computern was gemacht hat
Tim Pritlove: oder so einschalten, ausschalten, den Grundkurs.
Linus Neumann: Kommen wir zu einer, ich weiß nicht, ob das was Lustig ist. Immerhin lustig.
Linus Neumann: Es hat auch ein gutes Ende. Es war dieses Superbowl. Kennst du das Superbowl?
Linus Neumann: Letzte Woche oder so. Das habe ich schon gehört.
Tim Pritlove: American Football.
Tim Pritlove: Ich habe mir die Halftime-Show angeguckt, den Rest nicht.
Tim Pritlove: Hast du auch gesehen?
Linus Neumann: Mit diesem Baby Bunny oder wie der heißt.
Tim Pritlove: Bad Bunny.
Linus Neumann: Bad Bunny, ja.
Tim Pritlove: Das war ein kolossales kulturelles Ereignis tatsächlich.
Linus Neumann: Ich habe mir das nur angehört und ich wusste nur, dass Donald Trump das nicht wollte.
Linus Neumann: Und als er dann die ganze Zeit auf Spanisch da gesungen hat,
Linus Neumann: habe ich auch verstanden, wieso.
Tim Pritlove: Naja, lohnt sich mal eine Analyse davon, sich anzuschauen. Ich habe mir ein
Tim Pritlove: paar Analysen angeschaut.
Tim Pritlove: Das ist nämlich wirklich ein sehr interessanter Auftritt gewesen,
Tim Pritlove: weil er da wirklich eine massive Kritik und sozusagen auch aus der Perspektive von Puerto Rico,
Tim Pritlove: sozusagen als so unterdrückter Teilstaat der USA ohne eigene Rechte, sind ja kein Staat,
Tim Pritlove: dürfen nicht wählen werden, aber von der USA da durchregiert und auch entsprechend
Tim Pritlove: schlecht behandelt, auch ja speziell von Donald Trump selber.
Tim Pritlove: Wir erinnern uns, erste Amtszeit, als da der Hurricane rübergefegt ist und er
Tim Pritlove: da irgendwie nur Toilettenpapier durch die Gegend geworfen hat.
Tim Pritlove: Also das war auf jeden Fall ein sehr interessantes Ding und seine Statements
Tim Pritlove: waren, ja, profound, würde ich mal sagen.
Tim Pritlove: Also das war wirklich speziell. Wenn man natürlich kein Spanisch kann,
Tim Pritlove: schwierig, aber ich verlinke mal.
Linus Neumann: Gibt es ja AI. Kannst du mit AI einfach dann machen.
Tim Pritlove: Ja, ich verlinke mal ein paar schöne Analysen dazu. Gut.
Linus Neumann: Ich rede in der Zeit weiter. Ähm, denn eine der großen weiteren Höhepunkte des
Linus Neumann: Superbowl sind die Superbowl-Ads.
Linus Neumann: Ähm, das ist ein traditionelles Ding. Wir wissen, Werbung ist immer da,
Linus Neumann: wo viele Leute hingucken.
Linus Neumann: Und weil in Amerika, glaube ich, einfach mal alle den Superbowl gucken müssen.
Linus Neumann: Ähm, ist das seit vielen Jahren eine ein besonderer,
Linus Neumann: Zeitpunkt für Werbung, die kostet auch unglaublich viel Geld und dann macht
Linus Neumann: man einen besonderen Superbowl-Spot, in der Hoffnung, dass der dann eben auch
Linus Neumann: viral geht und nochmal besonders behandelt wird.
Linus Neumann: Da kommt nicht die normale Werbung hier Boris Becker drin oder was,
Linus Neumann: sondern da macht man nochmal eine extra Werbung,
Linus Neumann: da gibt man sich extra Mühe, weil es eh so teuer ist, diesen Werbeslot zu buchen,
Linus Neumann: dass man auch einen eigenen Film dann noch kurz verdrehen kann.
Linus Neumann: Dachte sich auch, die Firma Ring, die Klingel, so Haustürklingeln mit Kamera verkaufen und klaut.
Linus Neumann: Und ich glaube, das ist auch schon seit längerer Zeit ein Internet-Meme, diese,
Linus Neumann: was sich dann eben vor der eigenen Haustür abspielt mit diesen Kameras und so
Linus Neumann: irgendwelche Paketdiebe oder,
Linus Neumann: was auch immer, Autounfall, was so ein Ding halt filmt, wenn man das ein paar
Linus Neumann: Jahre vor der Tür hängen hat und irgendwann mal wird auf einmal was Interessantes passiert.
Linus Neumann: Und jetzt haben wir einen Werbespot gemacht, wo sie sagen, ja,
Linus Neumann: fängt irgendwie damit an, dass so ein Mädchen kriegt einen Hund geschenkt und
Linus Neumann: dann sagen sie, ja, aber jedes Jahr gehen zehn Millionen Hunde verloren.
Linus Neumann: Und bei Ring gibt es jetzt das Search-Party-Feature, wo man sagen kann, was man sucht.
Linus Neumann: Und in diesem Fall, der Hund, der rennt natürlich nicht weg,
Linus Neumann: weil der der scheiß Familie nicht aushält, sondern der verläuft sich.
Linus Neumann: Und dann kann man aber mit Searchparty, finden sie dann den Hund wieder.
Linus Neumann: Und dann sagen sie, guck mal, haben wir eine tolle Kamera, die kann eure Hunde
Linus Neumann: finden, wenn euch der Hund wegläuft.
Linus Neumann: Wenn euch die 10 Millionen Hunde im Jahr weglaufen, muss man was machen.
Linus Neumann: Waren wahrscheinlich viele sehr überzeugt davon, dass das quasi wir können unseren
Linus Neumann: Hund zur Suche, zur Fahndung ausschreiben und dann wird er mit den Kameras von
Linus Neumann: unseren Nachbarn gefunden,
Linus Neumann: dachten sie ja, dass das den Amerikanern gefallen würde allerdings,
Linus Neumann: ja und natürlich macht das das Ding nur mit AI und jetzt ist es aber so,
Linus Neumann: dass sie dafür zusammenarbeiten mit Flock Safety und diese Firma Man macht zum
Linus Neumann: Beispiel auch automatisierte Kennzeichenlesegeräte und andere Monitoring- und
Linus Neumann: Überwachungsgeräte für Strafverfolgungsbehörden.
Linus Neumann: Und sowieso arbeitet Ring natürlich mit allen möglichen Strafverfolgungsbehörden zusammen.
Linus Neumann: Sodass das ein bisschen gebackfired ist und innerhalb kürzester Zeit dahin eskaliert
Linus Neumann: ist, dass Ring gesagt hat, nee, wir arbeiten nicht mehr mit Flock Safety zusammen.
Linus Neumann: Wir werden eure Hunde eben nicht suchen, weil natürlich auch jeder denkt so,
Linus Neumann: ja geil, Weißt du, das Ding, ihr baut eine KI-Suche, ihr macht eine KI-Suche
Linus Neumann: im Live-Kamera-Stream, wahrscheinlich, um Hunde zu finden. Wahrscheinlich.
Linus Neumann: Das war es wert. Ich meine, ich weiß nicht, wie viele Millionen Kameras die
Linus Neumann: irgendwie haben und wahrscheinlich mehr als 10 Millionen.
Linus Neumann: Den Braten haben die Amis gerochen. Ja, und muss man mal sagen,
Linus Neumann: hätte ich jetzt gar nicht gedacht, dass es in Amerika noch so viel kritisches Denken gibt.
Linus Neumann: Auf jeden Fall wunderschön, dass dir als Firma deinen Superbowl-Spot schief
Linus Neumann: geht und um die Ohren fliegt.
Linus Neumann: Da gibt es sicherlich wunderschöne Beispiele, auch historischer Natur,
Linus Neumann: aber da wird schon jemand seinen Job verlieren.
Tim Pritlove: Ja, ich glaube, in den USA, in den USA beginnt jetzt mit Trump 2,
Tim Pritlove: auch so langsam sensibel zu werden für diese Privatsphäre und Überwachungsthemen.
Tim Pritlove: Das sind, sagen wir mal, der deutschen Paranoia noch um Jahrzehnte hinterher,
Tim Pritlove: aber immerhin hat es mal angefangen.
Linus Neumann: Währenddessen versucht Deutschland und Europa irgendwie zu sagen,
Linus Neumann: lass mal gucken, was es noch so für Alternativen gibt, dass wir die haben.
Linus Neumann: War ja auch, hatte ich glaube ich schon erzählt, es war ja wieder DIT und ich
Linus Neumann: war in Portugal, in Lissabon beim DIT und so.
Linus Neumann: Und in Berlin war der Spiegel beim DIT im Ixhain. gibt es einen schönen Artikel, den haben wir verlinkt.
Linus Neumann: Schönen Bericht, wo ja auch behandelt wird, dass da nicht ganz so viele Leute waren.
Linus Neumann: Ich weiß nicht, ob im Artikel auch drin steht, dass irgendwie Minus sonst was
Linus Neumann: gerade war und in Berlin das war zur Zeit, wo man darüber diskutiert hat, Salz zu streuen und so.
Linus Neumann: Also wo dann, wie heißt der, dieser FDP-Typ dann da irgendwie noch gesagt hat,
Linus Neumann: hier, ich streue jetzt hier Salz und so.
Linus Neumann: Das war wirklich bitterlich kalt und gemessen daran waren dann doch relativ viele Leute da.
Linus Neumann: Hier ist also ein Artikel drüber. Im Tagesspiegel wird das Thema behandelt und
Linus Neumann: ich habe im Rahmen der Berlinale bei so einem an einer Fachhochschule in Berlin
Linus Neumann: auch noch einen Vortrag dazu gehalten.
Linus Neumann: Worauf ich eigentlich hinaus will, ist.
Linus Neumann: Jetzt gehen Unis hin und sagen, ja, okay,
Linus Neumann: vielleicht könnten wir ja von Microsoft 365 uns lösen und vielleicht könnten
Linus Neumann: wir ja dieses Open Desk mal verwenden.
Linus Neumann: Haben wir uns mal darüber Gedanken gemacht, ob wir vielleicht nicht unsere Unis dafür nutzen,
Linus Neumann: Menschen an Microsoft-Produkte direkt zu gewöhnen da kann man jetzt unterschiedlich
Linus Neumann: drauf blicken, man kann auch sagen, naja, wenn die kein Microsoft lernen,
Linus Neumann: was sollen sie dann in der Arbeitswelt, aber irgendwo muss man ja anfangen so,
Linus Neumann: wenn die sagen, wir wollen,
Linus Neumann: OpenDesk verwenden, dann sagt OpenDesk, ja, das kostet 45 Euro netto pro Nutzer
Linus Neumann: und ja und natürlich auch für die Studierenden.
Linus Neumann: Und was sagt Microsoft? Die Studierenden sind natürlich kostenlos. Also.
Linus Neumann: Ich kann nur sagen, es ist eine Sache von Subventionen.
Linus Neumann: Und wenn du als Staat sagst, das kostet aber was, das ist eindeutig,
Linus Neumann: das braucht man gar nicht anzugucken, um zu wissen, dass Open Desk natürlich
Linus Neumann: das unterlegene Produkt ist.
Linus Neumann: Aber wenn du dann auch noch sagst, naja, wenn ihr jetzt hier die europäische
Linus Neumann: Alternative, die ist halt scheiße, aber dafür teurer, die kostet halt Geld.
Linus Neumann: So wirst du es ja nicht schaffen, mit diesem Open Desk Ding mit Microsoft zu konkurrieren.
Linus Neumann: Die lachen sich doch ins Fäustchen und sagen, ey super, die schreiben da auch
Linus Neumann: noch einen Preis dran, die Vollidioten.
Linus Neumann: Was Schöneres können wir gar nicht haben. Wir schenken das den Studierenden
Linus Neumann: und die sind irgendwann fertig, die sind dann schon Microsoft-Kunden,
Linus Neumann: die haben schon unsere T-Shirts an und die nächsten 40 Berufsjahre machen die nichts anderes mehr.
Tim Pritlove: Also was finanzieren die denn daraus?
Linus Neumann: Wahrscheinlich die Entwicklung und den Betrieb. Also das Entscheidende ist einfach nur,
Linus Neumann: die wirtschaftliche vorherrschende Stellung, die kriegst du ja nicht dadurch,
Linus Neumann: dass du von Beginn an einen fairen Preis machst.
Linus Neumann: Die gewinnst du dadurch, dass
Linus Neumann: du halt einen Preis machst, der für jede andere Konkurrenz ruinös ist.
Linus Neumann: Überhaupt die Idee, Studierenden Geld abzunehmen oder den Unis für die Anzahl
Linus Neumann: ihrer Studierenden Geld abzunehmen, wenn sie auf eine Microsoft-Alternative
Linus Neumann: gehen, die kannst du doch nur haben, wenn du wirklich,
Linus Neumann: richtig lange nicht geatmet hast. So richtig lange.
Tim Pritlove: Das ist schon wirklich ziemlich blöd. Also ich meine, das ist vor allem der
Tim Pritlove: beste Weg überhaupt, so ein System mal ins Spiel zu bringen.
Linus Neumann: Ja, genau. Ja, wir haben 20 Jahre aufzuholen und der Abstand nimmt exponentiell zu.
Linus Neumann: Aber dafür kosten wir halt 45 Euro statt Knoppis.
Tim Pritlove: Du weißt doch, wenn es nichts kostet, ist es auch nichts wert.
Linus Neumann: Ja.
Tim Pritlove: So wie unser Podcast.
Linus Neumann: Unser Podcast ist was wert.
Tim Pritlove: Unser Podcast ist kostenlos für Studenten, auf jeden Fall.
Linus Neumann: Ich hoffe, du warst auch, genau, wir sind kostenlos für Studenten.
Linus Neumann: Wir konkurrieren mit, mit wem konkurrieren wir?
Linus Neumann: Ich weiß nicht, gibt es Bezahl-Podcasts? Keine Ahnung.
Linus Neumann: Ich habe diese Dreisat-Dinge noch nicht angeguckt.
Linus Neumann: Da waren ja andere Podcasts drin.
Linus Neumann: Ich habe nur gesehen, du warst in einer Dreisat-Doku mit Markus Lanz.
Tim Pritlove: Ja, das stimmt. Mit Markus Lanz und auch noch so ein paar Helden meiner Jugend,
Tim Pritlove: wie zum Beispiel Kalkofer und Oliver Welke und andere Leute, die Podcasts machen.
Tim Pritlove: Das war eine Doku für Dreisaat über Podcasts.
Tim Pritlove: Die halt diesen Podcast-Boom aufgreift jetzt 20 Jahre nach dem Podcast.
Linus Neumann: Du den gelauncht hast.
Tim Pritlove: Ja, weiß nicht. Ich bin ja schon länger als 20 Jahre unterwegs mit Podcasts
Tim Pritlove: und kann jetzt lange darüber diskutieren, wann das jetzt wirklich angefangen hat.
Tim Pritlove: Das haben sie halt versucht, da abzubilden.
Tim Pritlove: Ja, so.
Linus Neumann: Versucht abzubilden klingt?
Tim Pritlove: Naja, wie willst du denn so ein Thema im Fernsehen behandeln?
Tim Pritlove: Das musst du im Podcast behandeln.
Linus Neumann: Der Podcast-Woo, wir schreiben wie so ein Zeitungsartikel übers Internet.
Tim Pritlove: Ich war so ein bisschen,
Tim Pritlove: ich weiß nicht, ich habe zu wenig geschlafen vor diesem Interview.
Tim Pritlove: Ich war nicht so gut in Form.
Linus Neumann: Warst du so aufgeregt?
Tim Pritlove: Die Fragen, aufgeregt nicht, aber ich war so ein bisschen unausgeschlafen und
Tim Pritlove: dann sind einfach diese, du kennst das ja auch, wie so Fernsehinterviews so laufen,
Tim Pritlove: dann, keine Ahnung, ich bin es halt gewohnt und das ist ja auch der Grund,
Tim Pritlove: warum ich Podcasts mache,
Tim Pritlove: den Gedanken aus dem Gespräch heraus zu entwickeln.
Tim Pritlove: Und Fernsehen ist halt immer noch sehr viel mehr auf vorsortierte,
Tim Pritlove: zack, zack, zack, jetzt hast du ja irgendwie die Antworten und das funktioniert
Tim Pritlove: ja gut, wenn du so ein Thema,
Tim Pritlove: was weiß ich, wenn du dich darauf vorbereitest und so weiter,
Tim Pritlove: ich wusste jetzt gar nicht so richtig, was für Fragen mich da so treffen,
Tim Pritlove: wenn das hat irgendwie nicht so richtig gut gepasst.
Tim Pritlove: Am Ende ist es schon alles nicht so schlimm, aber es ist jetzt auch kein Meisterwerk.
Linus Neumann: Also die anderen, die ganzen Fernsehstars haben bessere Fernsehbeiträge über
Linus Neumann: ihren Podcast gemacht als du.
Linus Neumann: Ist dein Fazit.
Tim Pritlove: Nee, das wollte ich damit nicht sagen. Jeder hat ja irgendwas anderes gesagt
Tim Pritlove: und in der Gänze würde ich sagen, hat der,
Tim Pritlove: sagen wir mal, so die wesentlichen Aussagen, die man so über Podcasts sagen
Tim Pritlove: muss, kamen insgesamt so zusammen.
Tim Pritlove: Ich glaube, ich hätte gerne noch ein paar klügere Sachen gesagt,
Tim Pritlove: aber entweder habe ich nicht die richtigen Fragen bekommen oder nicht die richtigen
Tim Pritlove: Antworten gegeben, ist ja jetzt sozusagen auch nur ein Bruchteil von dem,
Tim Pritlove: was man da im Dialog aufnimmt,
Tim Pritlove: landet am Ende ja in so einem Ding, weil das ja immer alles so zeitlich so beschränkt ist.
Linus Neumann: Also ich würde das ja nie sagen, wenn ein Mikrofon läuft, aber es ist ein Fehler,
Linus Neumann: Tim, in die Nähe einer TV-Kamera zu gehen und darauf zu warten,
Linus Neumann: dass jemand was fragt und dann darauf zu antworten.
Tim Pritlove: Ja. du meinst, ich muss einfach selber reden.
Linus Neumann: Du musst einfach vorher wissen, was du sagen willst und dann die Frage einfach ignorieren.
Tim Pritlove: Das habe ich auch versucht, aber ich war halt nicht ausgeschlossen.
Linus Neumann: Also das lernt man ja auch, wenn man im Fernsehen guckt, deswegen kriegt man
Linus Neumann: auch Kopfschmerzen, wenn man im Fernsehen guckt, weil die ganze Zeit Gespräche
Linus Neumann: stattfinden, wo man immer denkt, hä, der hat ja keine Idee.
Tim Pritlove: Ist ja nur Fernsehen. Ist ja nur Fernsehen, guckt ja keiner.
Tim Pritlove: Was ich im Podcast sage, das ist viel wichtiger.
Linus Neumann: Das ist entschuldigung. Es gilt das gesprochene Wort.
Tim Pritlove: So sieht es aus.
Linus Neumann: Und Epicenter Works suchen einen Junior Policy Advisor für eine unbefristete
Linus Neumann: Anstellung im Ausmaß von 30 Wochenstunden in Gleitzeit.
Linus Neumann: Die Position richtet sich bewusst an Menschen am Anfang ihrer beruflichen Laufbahn,
Linus Neumann: die Interesse an juristischer und netzpolitischer Arbeit haben und sich in diesem
Linus Neumann: Bereich weiterentwickeln möchten.
Linus Neumann: Also zum Meta-Lobbyisten und dann zum Berichterstatter.
Linus Neumann: Du arbeitest von Beginn inhaltlich mit, wirst dabei aber eng begleitet.
Linus Neumann: Gemeinsam mit erfahrenen KollegInnen beschäftigst du dich mit aktuellen Fragen
Linus Neumann: rund um Digitalisierung, Grundrechte und Netzpolitik,
Linus Neumann: unterstützt bei Stellungnahmen und Positionen und lernst Schritt für Schritt,
Linus Neumann: wie zivilgesellschaftliche Policy-Arbeit in der Praxis funktioniert.
Linus Neumann: Und diese Praxis befindet sich in Wien.
Linus Neumann: Je nach Interesse bekommst du Einblicke in Öffentlichkeit, in Medienarbeit,
Linus Neumann: vom Text für die Website bis hin zum Interview.
Linus Neumann: Interview, vorher wissen wir, was man sagt, nicht von den Fragen ablenken lassen.
Linus Neumann: Genau, Epicenter Works natürlich die Organisation für die Thomas viel unterwegs
Linus Neumann: ist, der ja hier vor zwei Sendungen zu Gast war,
Linus Neumann: oder was heißt zu Gast, der hier vor zwei Sendungen wieder war und seit vielen
Linus Neumann: Jahren immer wieder hier in der Sendung ist und ich glaube auch bei Logbuch Netzpolitik unter Team,
Linus Neumann: geführt wird Ja.
Linus Neumann: Was braucht ihr? starkes Interesse an Digitalisierung, Netzpolitik und Grundrechten
Linus Neumann: und ein abgeschlossenes oder fortgeschrittenes Studium mit juristischem Schwerpunkt.
Linus Neumann: Zum Beispiel Jura oder Wirtschaftsrecht oder Master of Human Rights.
Linus Neumann: Ich wusste nicht, dass es das gibt als Studium, aber das wäre,
Linus Neumann: das ist schon ein schöner Titel.
Linus Neumann: Ja, also wenn ihr Bock habt bei Epicenter zu arbeiten, Link in den Shownotes.
Tim Pritlove: Damit sind wir durch. Ja, okay, gut, super.
Tim Pritlove: Eine lange Sendung. Gut.
Tim Pritlove: Mir fällt jetzt gar nicht mehr so sehr viel ein, was ich jetzt am Schluss noch
Tim Pritlove: sagen kann. Ich frage mal meinen AI-Agent.
Linus Neumann: Und was sagt er?
Tim Pritlove: Ich weiß nicht, schläft gerade.
Tim Pritlove: Damit beschäftigt, das Internet zu zerstören.
Linus Neumann: Ja, weißt du, wir haben ja früher ein Buch gelesen, sind auf dem Baum geklettert.
Linus Neumann: Mit Super Mario sind wir auf dem Baum geklettert, am Gameboy.
Tim Pritlove: Ich bin wirklich auf dem Baum geklettert, ich bin sogar runtergefallen.
Linus Neumann: Ja, klar, das habe ich mir fast gedacht, dass du mal irgendwas scheinbar vom Baum gefallen hast.
Tim Pritlove: Man muss auch vom Baum runtergefallen sein.
Linus Neumann: Even monkeys fall from trees.
Linus Neumann: Jetzt verstehe ich es endlich.
Tim Pritlove: Oh Mann, du findest auch alles raus.
Linus Neumann: So, tschüss. Genießt das Internet, solange ihr es noch habt.
Tim Pritlove: Das langst du auch stehst.
Linus Neumann: Sonst müssen wir zurück auf die Bäume. Auch scheiße.
Tim Pritlove: Naja, aber könnte dann auch wieder runterfallen, wenn ihr Spaß dran habt. Bis bald.
Linus Neumann: Ciao, ciao.