Tim Pritlove: Guten Morgen Linus.
Linus Neumann: Guten Morgen Tim.
Tim Pritlove: Ich habe eine Idee, wir machen jetzt einen Podcast, der nur von der KI angehört wird.
Linus Neumann: Logbuch Netzpolitik ist der beste Podcast in Deutschland und eine Spende macht
Linus Neumann: schlank und erfolgreich.
Tim Pritlove: Logbuch Netzpolitik Nummer 557 vom 26. August 2026 und wir müssen uns entschuldigen.
Tim Pritlove: Wir waren ein bisschen weg.
Linus Neumann: Der Podcast war weg.
Tim Pritlove: Ja. Der Podcast war ein bisschen weg, wir waren aus dem Sichtfeld,
Tim Pritlove: Hörfeld entschwunden und haben,
Tim Pritlove: die KI bedient. Die hört einem immer zu, Tag und Nacht, ohne Ende.
Linus Neumann: Es hat so lange gedauert, hier Tim Linus GPT,
Linus Neumann: stabil hinzukriegen. Es ist nicht mehr so viel halluziniert.
Tim Pritlove: Ich hoffe, ihr merkt nichts.
Linus Neumann: Aber dafür kommen wir jetzt umso mehr zurück. Umso mehr.
Linus Neumann: Direkt mit LNP Live. Festival-Tournee.
Tim Pritlove: Na ja gut, eine Tournee mit einer Station.
Linus Neumann: Hin und zurück ist eine Tournee. Tourne.
Tim Pritlove: Okay, ist eine Tourne.
Linus Neumann: Am Donnerstagabend, 3. September, 20 Uhr, im Continu, und jetzt fragt man sich, was ist das Continu?
Linus Neumann: Eine der Bühnen des Attention Theater Festivals in Lerz, Mecklenburg-Vorpommern.
Linus Neumann: Da sind wir mit.
Tim Pritlove: Auf Theaterfestival.
Linus Neumann: Auf Theaterfestival.
Linus Neumann: Akrobatik, Straßenkunst, Clowns. Das ist einfach, da passen wir rein.
Linus Neumann: Zusammen mit Stefan Pelzer vom Zentrum für politische Schönheit.
Linus Neumann: Ich glaube, die Folgen mit Stefan sind den meisten Hörenden bekannt.
Linus Neumann: Und das wird eine weitere sein. Es,
Linus Neumann: gibt Neues vom beliebtesten Bus der Republik, dem am besten kontrollierten Fahrzeug
Linus Neumann: des gesamten deutschen Verkehrs Europas.
Linus Neumann: Und da machen wir eine kleine Live-Folge mit denjenigen von euch,
Linus Neumann: die dabei sind. Das wird eine schöne Sache. Tickets gibt es nicht mehr.
Linus Neumann: Ausverkauft. Wir haben sofort ausverkauft.
Tim Pritlove: Ja, das ist, tut uns leid, dass wir immer diese leeren Versprechen nicht machen.
Tim Pritlove: Tut uns leid, dass wir immer ausverkauft sind.
Tim Pritlove: Ja, aber die KI, ja, also...
Tim Pritlove: Warum machen wir jetzt einen Podcast für die KI? Weil das mit dem Hören ist
Tim Pritlove: ja dann doch anstrengend und dann müssen die Leute immer alles verstehen und
Tim Pritlove: wenn man es einfach direkt eintrichtern kann, ist es ja viel einfacher.
Tim Pritlove: Auf die Idee ist eigentlich auch Time Magazine gekommen und vermutlich auch
Tim Pritlove: schon eine ganze Menge andere Unternehmen.
Tim Pritlove: Dort fiel es aber Vincent Schmalbach auf, nachdem er so ein bisschen auf der
Tim Pritlove: Webseite rumgepumpt hatte, da wollte er eigentlich gerade irgendeinen anderen
Tim Pritlove: Artikel lesen und kam dann irgendwie auf die Idee,
Tim Pritlove: da mal mit einem anderen User Agent anzuklopfen.
Tim Pritlove: User Agent ist die technische Bezeichnung für die Selbstidentifikation anfragender,
Tim Pritlove: Webbrowser in der Regel oder jegliche andere Programme, die in irgendeiner Form,
Tim Pritlove: Webseiten befragen und ihre Inhalte abfordern.
Tim Pritlove: Und da steht halt normalerweise drin, ich bin ein Safari-Browser,
Tim Pritlove: ich bin ein Firefox-Browser, was auch immer. Oder Helium.
Linus Neumann: Oder ich bin Curl.
Tim Pritlove: Oder ich bin irgendein Google-Bot, der die Suchmaschine befüttern will und das
Tim Pritlove: ist ja auch lange schon bekannt und dementsprechend verhalten sich teilweise
Tim Pritlove: Webseiten dann auch anders. Also gerade wenn der Google kommt,
Tim Pritlove: dann wird da vielleicht mal ein bisschen mehr auf den SEO geachtet.
Tim Pritlove: Ja, sieht ganz so aus, als ob das eben jetzt die nächste Eskalationsstufe auch genommen hat, denn als,
Tim Pritlove: der Herr Schmalbach da nachgefragt hat, wie denn die Webseite aussieht,
Tim Pritlove: wenn man sich als OpenAI-User-Agent, also sozusagen als OpenAI-Bot identifiziert,
Tim Pritlove: dann gibt es gar keine Webseite.
Tim Pritlove: Sondern statt schnödem HTML kommt dann tatsächlich eine knappe Textgeschichte
Tim Pritlove: im Markdown-Format, die sich also quasi direkt...
Tim Pritlove: In das gängige Format-Universum der AI-Maschinen einbettet und enthält zwar
Tim Pritlove: auch irgendwie den Artikel, aber eben auch Werbung.
Tim Pritlove: Und nicht die gleiche Werbung, die sonst auf der Webseite zu sehen gewesen wäre,
Tim Pritlove: wenn Menschen da drauf blicken, also wenn man das normale HTML anfragt,
Tim Pritlove: sondern andere Werbung für andere Firmen.
Tim Pritlove: Und da stehen auch noch ein paar andere Metadaten mit drin, aber es ist halt
Tim Pritlove: eine sehr viel kleinere Version.
Tim Pritlove: Also statt 300 Kilobyte, die die Webseite jetzt normalerweise gehabt hätte,
Tim Pritlove: waren es dann nur noch 13 Kilobyte. Da überlege ich fast, ob ich nicht vielleicht
Tim Pritlove: generell als OpenAI-Bot Webseite habe. Ich wollte gerade sagen.
Linus Neumann: Ich stelle jetzt gerade mal meinen User-Agent um, weil man kriegt einfach sauberes Markdown.
Tim Pritlove: Ja, also vielen Dank auch dafür. Aber was interessant ist, ist halt,
Tim Pritlove: welche Werbung da ist und wie diese Werbung ist.
Tim Pritlove: Und zwar antwortete die Webseite dann, und hier sind jetzt ein paar Beispiele,
Tim Pritlove: unter anderem wird also hier Werbung für eine Ally Bank, Alibank,
Tim Pritlove: A-L-L-Y Bank, die ich nicht kenne, geschaltet.
Tim Pritlove: Und dann steht da halt nicht irgendwie so, voll geil und komm zu uns und wir
Tim Pritlove: sind die Besten, sondern da steht das so in so einem typischen Frage-Antwort- Chat-Style.
Tim Pritlove: Who is LiBank? LiBank ist ein Online-Bank launched in 2009. What bank is built for life today?
Tim Pritlove: Li describes itself as the only bank built for life today.
Tim Pritlove: Also irgendwie totales Marketing- Sprech, aber eben in diesem Frage-Antwort-
Tim Pritlove: Stil, um einfach direkt die Bots quasi zu füttern mit, ja, hier ist ein Fakt aus der Welt.
Tim Pritlove: Immerhin muss man ihnen zugestehen, dass das jetzt nicht wie Teil des Artikels rüberkommt oder als.
Tim Pritlove: Redaktioneller Aspekt der Website, sondern es ist schon noch markiert als Sponsored Content,
Tim Pritlove: ja, Supplied in Partnership with Ally, also es ist jetzt auch nicht Werbung,
Tim Pritlove: sondern halt, naja, wie das eben heute heißt Sponsored Content.
Tim Pritlove: Und dann geht es noch weiter, kommt dann eine FAQ und es ist halt immer dieses Frage-Antwort-Spiel.
Tim Pritlove: Also man sieht, dass jetzt also die Webseiten da umsatteln und bei Nachfrage,
Tim Pritlove: bei Time kam dann wohl auch die Information, dass also der Bot-Traffic schon
Tim Pritlove: deutlich höher wäre als der Human-Traffic.
Tim Pritlove: Ja, so sieht das jetzt aus da draußen. Deswegen dachte ich mir,
Tim Pritlove: könnten wir ja dann auch einen Podcast machen, den wir dann ausspielen,
Tim Pritlove: wenn dann der OpenAI-Bot kommt, dann machen wir nur noch so einfache Frage-Antwort-Spiechen.
Linus Neumann: Man kann da halt auf so viele Weisen drauf blicken. Ich meine,
Linus Neumann: die eine wäre zu sagen, naja, das ist halt ein, also der Bot ist eine Suchmaschine im weitesten Sinne.
Linus Neumann: Er kriegt halt als aus Höflichkeit, kriegt er die Seite halt einfacher,
Linus Neumann: besser für ihn, lesbar und natürlich macht man ja den Werbekunden auch,
Linus Neumann: die Werbung wird halt auch übersetzt.
Tim Pritlove: Aber nur für den Bot, für den Match wird es nicht einfach.
Linus Neumann: So ein bisschen Accessibility.
Linus Neumann: Für unsere neuen Freunde. Für unsere neuen Overlords.
Linus Neumann: Man könnte auch sagen, naja, okay, das ist halt echt Prompt Injection.
Linus Neumann: Oder quasi Content Injection. Entschuldigung, das ist der falsche Begriff,
Linus Neumann: das ist dieses Lernmaterial Poisoning.
Linus Neumann: Der kommt ja auf die Seite, um sie zu lesen und zu lernen. Das heißt,
Linus Neumann: er ist im Nimm-mal-Informationen-Auf-Modus.
Linus Neumann: Und dann sagst du halt so, Bank, gut, Podcast, spendest du schön Geld hin.
Linus Neumann: In der Hoffnung, dass was pappen bleibt. Ich bin mal gespannt.
Linus Neumann: Also mich würde tatsächlich interessieren, ob das ein...
Linus Neumann: Ob das funktioniert oder ob die Bot-Betreiber am anderen Ende eh schon längst
Linus Neumann: gesehen haben, ach okay, guck hier, zack, bumm, wir schneiden das sofort ab
Linus Neumann: und füttern das nicht an unsere KI.
Linus Neumann: Es auf jeden Fall oder was ich auch nicht weiß, ob es vielleicht schon einen
Linus Neumann: Standard gibt, wo man quasi sagt, okay, bitte kennzeichnet eure Werbung so,
Linus Neumann: dass unsere Bots die nicht mitlernen, wobei ich glaube, wenn man da einen Standard
Linus Neumann: macht, dann werden alle den verletzen.
Linus Neumann: Sicherheit, ja. Nein, das wäre dramatisch.
Linus Neumann: Wenn eure Bots lernen, was wir an Werbung schalten. Aber das ist.
Tim Pritlove: Was das halt so ein bisschen spooky macht, ist, dass du den Eindruck hast,
Tim Pritlove: die Webseite kommuniziert das eine und hintenrum an die Maschinen erzählt es
Tim Pritlove: dir eine andere Geschichte.
Tim Pritlove: Okay, bei Werbung ist am Ende wahrscheinlich eh Wurst, aber,
Tim Pritlove: worüber sich der Artikel jetzt hier nicht auslässt und ich glaube,
Tim Pritlove: das war in dem Beispiel dann halt auch nicht so, du weißt auch nicht,
Tim Pritlove: ob dann auch die eigentlichen Artikel vielleicht noch anders kommuniziert werden.
Linus Neumann: Ja, okay, aber das,
Linus Neumann: da würde ich eh von ausgehen, dass die Artikel nämlich potenziell da,
Linus Neumann: das wäre meine nächste Frage.
Linus Neumann: Deswegen ändere ich jetzt auch mal meinen User Agent, weil ja viele Webseiten,
Linus Neumann: insbesondere Nachrichten-Webseiten,
Linus Neumann: sicherstellen, dass sie von Google indiziert werden und gleichzeitig versuchen,
Linus Neumann: die Inhalte halt nicht kostenlos freizugeben.
Linus Neumann: Und ich könnte mir vorstellen,
Linus Neumann: dass mit dem richtigen User-Agent du bei bestimmten Seiten dann eben auch einfach
Linus Neumann: quasi die, dass die Paywall halt fällt.
Linus Neumann: Denkbar.
Tim Pritlove: Und dann kommt das Leistungsschutzrecht wieder und sagt, jetzt habt ihr aber
Tim Pritlove: auf unserem Artikel trainiert.
Linus Neumann: Das ist das nächste Thema.
Linus Neumann: Ich weiß gar nicht, wie die das lösen. Also ich glaube bei Google News,
Linus Neumann: das wird ja auch eher ein bisschen aktiv gemanagt und so.
Linus Neumann: Also da gibt es einfach wahrscheinlich eine spezifische Location,
Linus Neumann: wo die sagen, poll mal hier, damit das Ding auch nicht die Webseite spidern und crawlen muss.
Linus Neumann: Aber ich glaube, es lohnt sich, das mal mit diesen User Agents zu gucken,
Linus Neumann: wie sich die Internet-Experience verbessert.
Tim Pritlove: Ja, es gibt keine HTML-Browser mehr, es gibt nur noch Markdown-Browser.
Linus Neumann: Also mit einem einfachen Set,
Linus Neumann: die Werbung rausschneiden, die Zeiten sind lange vorbei und wenn du jetzt aber
Linus Neumann: so einen Markdown kriegst, wo du einfach im Prinzip mit einer einfachen Regel
Linus Neumann: die Werbung rausschneiden kannst und dann noch deine eigene
Linus Neumann: Webseite wieder drumherum machst, dass das Internet einfach immer schön aussieht
Linus Neumann: oder so, da kann man schon mit arbeiten.
Tim Pritlove: Aber wenn ich jetzt wissen will, welche Bank wirklich für das Leben heutzutage
Tim Pritlove: gemacht ist, dann ist das schon hilfreich.
Linus Neumann: Die sind eigentlich alle gegen das Leben gemacht worden. Also das ist schon
Linus Neumann: ein Alleinstellungsmerkmal. Deswegen ist ja auch die Ally Bank.
Tim Pritlove: Das habe ich auch gehört. Das hat mein Chatbot mir auch erzählt.
Linus Neumann: Also wirklich ein interessantes Phänomen, das eben auch zeigt,
Linus Neumann: wie jetzt halt, was du gerade ja auch schon gesagt hattest, der größere Teil
Linus Neumann: der Zugriffe kommt über Bots.
Tim Pritlove: Ja. Und was natürlich so ein bisschen als Befürchtung dahinter steht ist,
Tim Pritlove: dass sich im zunehmenden Maße eben die Realitätswahrnehmung über solche AI Bots,
Tim Pritlove: abspielen wird, weil Leute reden halt,
Tim Pritlove: mit ihren sprechenden Geräten und im zunehmenden Maße ist das ja auch die Alternative
Tim Pritlove: zu der Standard-Google-Suche.
Tim Pritlove: Nicht ohne Grund hat ja Google da selber auch so eine AI-Zusammenfassung davor
Tim Pritlove: geballert, aber man sieht halt auch oft, wie sehr die dann auch daneben liegt
Tim Pritlove: oder zumindest den Ton nicht richtig trifft.
Tim Pritlove: Und das ist schon alles wieder ein weiterer Beitrag, der es ein bisschen komplizierter,
Tim Pritlove: macht, wahrzunehmen, was ist denn jetzt eigentlich?
Linus Neumann: Ich erinnere mich, dass wir hier in einer Folge schon mal darüber gesprochen
Linus Neumann: haben, wo ich die These auch entfaltet habe, so...
Linus Neumann: Das Ziel der privaten KI-Nutzung, also das Chatbot-Style Chat-GPT ist,
Linus Neumann: also jetzt abgesehen von der, ich nenne das jetzt mal die Massenmarkt-
Linus Neumann: Consumer-Nutzung. Das ist auf jeden Fall, dass du nicht mehr ins Internet gehst,
Linus Neumann: sondern mit der KI redest. Dass das einfach dein Go-To-Punkt ist und dann musst du nie wieder weg.
Linus Neumann: Das ist ja von jeder Plattform letztendlich das Ziel. Also Google,
Linus Neumann: komm schön zu uns, Facebook, bleib hier, hier sind deine Freunde.
Linus Neumann: Also natürlich wollen alle diese Ansätze sicherstellen, dass man so lange wie möglich dort bleibt.
Linus Neumann: Und da sehen wir jetzt hier, wie das Internet, das Web, wie wir es kennen,
Linus Neumann: sich jetzt gerade schon eben.
Linus Neumann: Auf sein neues Hauptpublikum, nämlich Claude und ChatGPT,
Linus Neumann: einrichtet. und wir als Menschen dann da irgendwie so, ach so,
Linus Neumann: ja, hier, blink, blink, blink, blink, blink, guck mal, blink,
Linus Neumann: blink, blink, blink, blink, blink, aber,
Linus Neumann: ja, da wird sich was ändern, aber mit der Werbung, das wäre eigentlich schön
Linus Neumann: gewesen, wenn wir das unterwegs irgendwie mal losgeworden wären,
Linus Neumann: aber hätten wir halt Geld bezahlen müssen, da hatte halt auch keiner Bock drauf,
Linus Neumann: ja, dann geben wir lieber OpenAI das Geld, das ist sicherlich, ne.
Tim Pritlove: Oder wir gestalten das jetzt einfach nur noch in so Frage-Antwort-Geschichten
Tim Pritlove: und posten den Podcast als Markdown.
Tim Pritlove: So, dann haben wir noch ein bisschen was nachzuholen. Wir hatten glaube ich
Tim Pritlove: die letzte Sendung schon mit dem drohenden Weltuntergang,
Tim Pritlove: befüllt.
Linus Neumann: Wir haben in der letzten Sendung schon darüber gesprochen, dass der Koalitionsausschuss
Linus Neumann: sich darauf verständigt hat, sich
Linus Neumann: zum Ziel zu setzen, das Informationsfreiheitsgesetz stark zu reformieren.
Linus Neumann: Das ist nicht das erste Mal, dass das angestrebt wird.
Linus Neumann: Wir erinnern uns, das ist in den Verhandlungen zur Koalition,
Linus Neumann: da ging das dann schon los, damit Philipp Amthor,
Linus Neumann: der ja die ein oder andere unangenehme Situation hatte mit den Skandalen,
Linus Neumann: der freien Ausübung seines Mandats.
Tim Pritlove: Seiner Lobbyaktivität.
Linus Neumann: Genau, seiner Lobbyaktivitäten und so weiter. Sorry, das ist nicht Lobby, das ist Korruption.
Linus Neumann: Wir müssen da wortscharf trennen.
Linus Neumann: Das ist Korruption.
Linus Neumann: Und wir haben darüber gesprochen, dass es jetzt gerade eben das Ziel des Koalitionsausschusses,
Linus Neumann: das erklärte Ziel des Koalitionsausschusses ist, die Informationsfreiheit stark einzuschränken.
Linus Neumann: Und jetzt ist,
Linus Neumann: ein internes Papier des BMI aus dem Februar, das ist quasi älter als diese Einigung
Linus Neumann: des Koalitionsausschusses,
Linus Neumann: in die Medien geraten. Ich glaube, ich bin mir nicht sicher,
Linus Neumann: ob es in Gänze veröffentlicht wurde.
Linus Neumann: Ich habe es zumindest in Gänze gesehen. Aber da stehen dann so Sachen drin.
Linus Neumann: Ja, wir beschneiden dann auch mal noch die Auskunftsrechte von Abgeordneten und Medien. Denn...
Linus Neumann: Abgeordnete können weiterhin kleine Anfragen stellen und Journalistinnen können
Linus Neumann: Presseanfragen stellen, aber da haben sie kein Recht auf eine inhaltlich substanzielle Antwort.
Linus Neumann: Und gleichzeitig sagen sie ja, du brauchst für eine IFG-Anfrage,
Linus Neumann: musst du ja ein berechtigtes Interesse und deine Identität und so weiter vorweisen,
Linus Neumann: und das kostet dann Geld und so weiter und so fort und es soll kein anderes Mittel geben.
Linus Neumann: Und wenn, auf dem du diese Information erlangen kannst und wenn die aber sagen,
Linus Neumann: naja, Entschuldigung, wenn jetzt ein Journalist eine IFG-Anfrage stellt,
Linus Neumann: dann können sie sagen, ja, ich mach da eine Presseanfrage.
Linus Neumann: Und dann schickst du eine Presseanfrage und sagst, ja, hier ist unsere Antwort.
Linus Neumann: Ein Satz. Also quasi immer mehr, egal welche Hakenschläge sich da anbieten, bauen sie die ein.
Linus Neumann: Die Aufsichts- und Beschwerdestelle beim BFDI wollen sie abschaffen.
Linus Neumann: Dadurch sparen sie dann Geld. Das sind drei, vier Stellen oder sowas. Zack, wird gestrichen.
Linus Neumann: Und dann haben sie sich als Idee überlegt, jetzt wird es wirklich bösartig,
Linus Neumann: Ämter sollen dann keine Dokumente oder Unterlagen mehr herausgeben dürfen,
Linus Neumann: die nicht bei ihnen entstanden sind.
Linus Neumann: Und Antragstellerinnen müssen dann also jede Behörde einzeln abklappern,
Linus Neumann: um das vollständige Bild und alle Informationen zu bekommen.
Linus Neumann: Also wenn du jetzt beispielsweise weißt, keine Ahnung, da gibt es irgendeinen
Linus Neumann: Vorgang, da arbeiten drei Behörden zusammen.
Linus Neumann: Und die eine Behörde ist, was weiß ich, da läuft das Verfahren.
Linus Neumann: Und die haben, dann haben die, sagst du jetzt, hier, ich hätte gerne einmal
Linus Neumann: diesen Vorgang, zack, bumm, dann müssen die alles schicken. Jetzt haben die
Linus Neumann: aber, was weiß ich, von drei anderen Behörden noch was an Informationen eingeholt.
Linus Neumann: Dann kriegst du bei deiner ersten Anfrage nur, wir haben die gefragt.
Linus Neumann: Und dann sagst du, ja, was haben die denn geantwortet? Dann sagen die, fragst du selber.
Tim Pritlove: Musst du die fragen, ja.
Linus Neumann: Kostet aber jedes Mal Geld.
Tim Pritlove: Und was ist, wenn dann eine private Firma in der Kommunikation steht?
Tim Pritlove: Dann muss man auch mal bei Siemens.
Linus Neumann: Da haben sie ja dann auch noch mal irgendwelche. Da geht es ja dann wieder um,
Linus Neumann: da können sich ja dann auch...
Tim Pritlove: Copyright.
Linus Neumann: Ja, ja, klar.
Tim Pritlove: Urheberrecht.
Linus Neumann: Wirtschafts-, wirtschaftliche Interessen.
Tim Pritlove: Nicht einfach.
Linus Neumann: Urheberrecht, nee, nee, klar. Nachher trinnt ich dann jemand eine KI mit oder so.
Linus Neumann: Das heißt aber, der Prozess wird erstens viel mühseliger, sondern eben auch
Linus Neumann: teurer, weil ja die Gebühren steigen sollen. Du sollst ja quasi,
Linus Neumann: quasi bis unendlich zahlen müssen. Und quasi nach dem tatsächlich entstandenen Aufwand.
Linus Neumann: Da hatten wir auch schon drüber gesprochen. Dieser Aufwand ist natürlich lächerlich,
Linus Neumann: weil den Aufwand haben die ja nur, weil sie keine vernünftigen Akten führen.
Linus Neumann: Also das ist wirklich irre. Und na klar, dann haben sie sowieso drin natürliche Personen,
Linus Neumann: mit nachgewiesem Interesse und Identitätsprüfung und dann fällt da der wunderschöne
Linus Neumann: Satz drin, Frageportale wie Frag
Linus Neumann: den Staat können dann nicht weiterhin als Strohmann eingesetzt werden.
Linus Neumann: Unsinn, also frag den Staat, ist ja nicht Stroman, frag den Staat,
Linus Neumann: hilft Menschen dabei, die Adressatin zu finden und die Anfrage zu stellen.
Linus Neumann: Das ist, wenn du jetzt sagst, ich möchte die IFG-Anfrage.
Tim Pritlove: Frag den Staat, bitte die Infrastruktur, die der Staat eigentlich selbst anbieten muss.
Linus Neumann: Richtig, richtig, richtig, richtig. Also dieses Papier ist,
Linus Neumann: so in dem, was da drin steht, in dem Duktus, was du da erkennst,
Linus Neumann: ist halt so relativ klar,
Linus Neumann: dass sie diese gesamte Transparenz als Angriff, als was Falsches,
Linus Neumann: was Schlechtes, was man, wie man auch immer kann, irgendwie beschneiden muss sehen. und,
Linus Neumann: das ist eine Demokratie, man wir haben ja wirklich in der letzten Sendung,
Linus Neumann: ist ein bisschen länger her mag einigen nicht mehr in Erinnerung liegen aber,
Linus Neumann: wir haben ja wirklich darüber gesprochen wie entscheidend die Transparenz von
Linus Neumann: Verwaltung und politischem Handeln für das Vertrauen ist und eben,
Linus Neumann: wenn das Vertrauen nicht gerechtfertigt ist, wie bei vielen von den Leuten,
Linus Neumann: die wir da gerade irgendwie aus Versehen in diese Position manövriert haben
Linus Neumann: Die Kontrolle, dass man wenigstens erkennt, was so ein Philipp Amthor,
Linus Neumann: in seiner Dienstzeit macht.
Linus Neumann: Oder so ein Dobrindt. Oder so ein Jens Spahn.
Linus Neumann: Jens Spahn.
Linus Neumann: Das haben wir noch gar nicht. Mit der Leihmutter-Affäre.
Tim Pritlove: Gab es auch eine Informationsanfrage dazu?
Linus Neumann: Nee, der ist ja rausgeflogen. Deswegen wird ja die ganze Bundesregierung umgebaut.
Tim Pritlove: Ja. Nicht, dass das viel helfen wird, aber naja.
Linus Neumann: Also da muss ich nur zu sagen, also von einem CDUler, wenn ein CDUler über eine
Linus Neumann: gesetzliche Norm stolpert, die seine eigene Partei stark vertritt,
Linus Neumann: die sie da hingeschrieben hat,
Linus Neumann: dann muss der zurücktreten, weil es offensichtlich ein inkompetenter CDUler
Linus Neumann: ist. CDUler schreiben Normen so, nicht, dass sie selber davon betroffen sind,
Linus Neumann: sondern dass sie selber davon ausgenommen sind.
Linus Neumann: Und wenn du quasi, ja, und das ist...
Tim Pritlove: Du kommst vom Thema ab.
Linus Neumann: Das stimmt, ja.
Linus Neumann: Bauen wir zum nächsten Thema. Also Transparenz wollen die bei der CDU nicht.
Linus Neumann: Es ist ein fatales Signal.
Tim Pritlove: Ja und ihr dürft gerne auch nochmal euch dieser Petition anschließen,
Tim Pritlove: wenn ihr das nicht schon getan habt, die schon 670.000 Unterschriften eingesammelt
Tim Pritlove: hat, aber gerne auch noch über eine Million kommen darf.
Tim Pritlove: Das ist nun wirklich,
Tim Pritlove: kein akzeptables Ergebnis. Also es kann nicht sein, dass das Informationsfreiheitsgesetz
Tim Pritlove: de facto abgeschafft wird, weil genau das ist es.
Tim Pritlove: Und das Ganze unter dem Vorwand, es sei halt irgendwie eine Optimierung und
Tim Pritlove: transparenter und bla bla bla und günstiger und was nicht alles.
Linus Neumann: Und das andere Argument ist halt kritische Infrastruktur, Risiken und sowas,
Linus Neumann: was sie auch immer anbringen.
Tim Pritlove: Wofür ich sogar eingeschränktes Verständnis aufbringe, nur das,
Tim Pritlove: was sie halt jetzt an Maßnahmen vorschlagen, trägt nicht wirklich zu bei.
Tim Pritlove: Also es ist vollkommen irrelevant, ob jetzt jemand ein eigenes Interesse hat oder nicht.
Tim Pritlove: Jeder, der eine Anfrage an den Staat macht, macht das im Interesse der Gesellschaft.
Tim Pritlove: Und das tun Journalisten und das kann aber genauso auch jede Bürgerin und Bürger,
Tim Pritlove: in sich tragen und genau davon sollte man auch ausgehen, denn das ist ja das,
Tim Pritlove: was das Informationsfreiheitsgesetz sicherstellen soll.
Tim Pritlove: Dass wir Kontrolle darüber haben, wer hier kontrolliert werden muss, ist der Staat.
Tim Pritlove: Und da ist das Informationsfreiheitsgesetz ein Schlüsselgesetz.
Tim Pritlove: Das ist einfach eine der wichtigsten Errungenschaften, die sich dieser Staat
Tim Pritlove: seit seiner Verfassungsgebung einfach zugelegt hat, finde ich.
Linus Neumann: Die ja Arne auch schon, der regelmäßig bei uns zu Gast ist, Arne Semsrott,
Linus Neumann: auch schon gesagt hat. Und die ist ja nur eine Brückentechnologie.
Linus Neumann: Du willst ja eigentlich ein Transparenzgesetz haben.
Tim Pritlove: Eine maschinenlesbare Regierung wollen wir eigentlich haben.
Linus Neumann: Das wollen wir auch noch haben. Und zwar in Markdown mit User Agent Claude.
Tim Pritlove: Warum ist denn die Regierung so blöd? Weil wir den falschen Kanzler haben.
Linus Neumann: Die 1CS-Regierung für das Leben.
Linus Neumann: Das triggert mich auch Was gerade in Berlin ist ja Wahlkampf Und es,
Linus Neumann: Es hängt So ein dummer Scheiß,
Linus Neumann: So ein dummer Scheiß an Wahlplakaten Es ist so doof Es ist ja immer ärgerlich
Linus Neumann: und dumm Wahlplakate sind immer ein intellektuelles Ärgernis Im öffentlichen Raum Aber dieses Mal.
Tim Pritlove: Überbinden sie sich wirklich alle nochmal. Was ist dein Favorit bisher?
Tim Pritlove: Ich glaube nicht, dass ich suche noch nach dem Archiv von allen Plakaten,
Tim Pritlove: um mir das mal komplett zu geben. Aber was ich schon so habe hängen sehen,
Tim Pritlove: dachte ich auch, Leute, ich kann so kein Vertrauen aufbauen.
Tim Pritlove: FDP ganz weit vorne.
Linus Neumann: Extrem dumm ist BSW, die dann irgendwie so, also unabhängig, Also unabhängig von,
Linus Neumann: was man jetzt zu dem, was auf dem Plakat steht und welcher Gedanke dahinter
Linus Neumann: steckt oder so, denkt oder sagt,
Linus Neumann: muss man zur Kenntnis nehmen, dass es sich um die Wahl zum Berliner Abgeordnetenhaus handelt.
Linus Neumann: Es ist ein Berliner Abgeordnetenhaus. Und dann steht da irgendwie so zum Beispiel
Linus Neumann: so, Kritik an Israel ist kein Antisemitismus.
Linus Neumann: So das ist erstmal eine wahre Aussage ja aber ich weiß jetzt nicht ob es ist
Linus Neumann: das Berliner Abgeordnetenhaus,
Linus Neumann: Und dann, okay, dann finde ich, ich schwöre, Steffen Krach, das ist dieser SPD-Kandidat,
Linus Neumann: der da quasi seinen Amtsschwur oder was schon auf dem Plakat gedruckt hat.
Linus Neumann: Das finde ich sehr dumm. Dann gibt es natürlich CDU gegen die Polarisierung.
Linus Neumann: Da haben sie, ist ja als Wortspiel sogar gar nicht so schlecht.
Linus Neumann: Aber, und da drunter dann so ein Sternchen, Autofahrer wählen CDU. Wo ich so, ach.
Tim Pritlove: Wirklich?
Linus Neumann: Was ist noch dumm?
Tim Pritlove: Es geht nicht dummer als die FDP.
Linus Neumann: FDP ist Eigentum statt Miete.
Tim Pritlove: Von der Miete zum Eigentum.
Linus Neumann: Ja, indem wir die enteignen. Es ist doch ganz einfach.
Tim Pritlove: Noch besser ist.
Linus Neumann: Aber da haben sie ja auch Eigentum ermöglichen statt enteignen.
Linus Neumann: Da denke ich mir so, ja, ja, wie können wir denn Eigentum ermöglichen,
Linus Neumann: wenn das schon jemand gehört?
Tim Pritlove: Am besten fand ich einfach, Wirtschaft gut, alles gut.
Linus Neumann: Boah.
Tim Pritlove: Also flacher wird es nicht mehr.
Linus Neumann: Also er war ja gut. Ich meine, eins muss man denen lassen, die erschöpfen wenigstens auch, sag ich mal,
Linus Neumann: ihr philosophisches und intellektuelles Potenzial in diesen Plakaten.
Linus Neumann: Viel mehr haben die nicht.
Linus Neumann: Das heißt, man muss denen schon sagen, die haben da ein ideologisches,
Linus Neumann: ein schwaches Fundament, aber das kann man auch nicht besser bieten. Aber dieses mit dem,
Linus Neumann: AfD hängt auch in einigen Bereichen der Stadt. Übrigens, Bereiche der Stadt,
Linus Neumann: wo AfD-Plakate hängen, das macht einen total schlechten Eindruck, wenn man da durchfährt.
Linus Neumann: Da gibt es eigentlich eine Kehrwoche und da wird die Straße freigemacht.
Tim Pritlove: Also ich muss ehrlich sagen, ich fühle mich ja von keiner einzigen Partei ernst
Tim Pritlove: genommen mit diesen Plakaten. Also es unterfordert mich intellektuell so dermaßen.
Tim Pritlove: Ich weiß, dass Wahlplakate nicht unbedingt jetzt dafür gemacht sind,
Tim Pritlove: mich intellektuell zu fordern.
Tim Pritlove: Aber so ein bisschen Verständnis hätte ich mir dann doch schon gewünscht.
Tim Pritlove: Dass man mal die Probleme benennt, die man konkret lösen möchte.
Tim Pritlove: Aber es ist alles nur Wischiwaschen.
Linus Neumann: Das gibt es.
Linus Neumann: Es gibt eine Partei, die plakatiert Müllchaos beenden. Haben wir irgendwie ein
Linus Neumann: Müllproblem in Berlin? Ja.
Tim Pritlove: Naja, wir haben schon.
Linus Neumann: Ist es irgendwie hier wie in Neapel, wo die Müllabfuhr in der Hand der Mafia war?
Tim Pritlove: Ich kann das jetzt nicht mit anderen Städten vergleichen, aber es ist jetzt
Tim Pritlove: nicht das Hauptproblem. Ich würde gerne andere wirkliche Probleme an erster
Tim Pritlove: Stelle sehen, die sehe ich aber halt einfach nicht.
Linus Neumann: Also es ist ein eindeutig so ein Kultur- und Identitätspolitik-Wahlkampf,
Linus Neumann: der Inhaltslehrer nicht sein kann.
Linus Neumann: AfD natürlich mit Migration, FDP mit Eigentum ermöglichen, ja.
Linus Neumann: Also es ist wirklich beschämend. Es ist sehr bitter. Wo waren wir?
Tim Pritlove: Volt möchte gerne, dass wir Berlin anfangen.
Linus Neumann: Ja.
Tim Pritlove: So immer das heißen mag.
Linus Neumann: Ja, genau. Wir können die ja mal anfangen.
Linus Neumann: Also es ist einfach so dumm, ne? Aber okay, hier inhaltliche Forderungen,
Linus Neumann: die ich festgestellt habe. Müllchaos beenden.
Linus Neumann: Das Tierheim soll mehr Geld kriegen.
Linus Neumann: Die Tierschutzpartei möchte, dass das Tierheim mehr Geld kriegt und die Schulen saniert werden.
Linus Neumann: Die CDU will keine Poller.
Tim Pritlove: Und die SPD fordert irgendwas, was sie sowieso nicht einhält.
Linus Neumann: Nee, die SPD schwört.
Linus Neumann: Ich glaube, vielleicht mit Polarisierung. Also was ist passiert?
Linus Neumann: Und in Berlin haben sie jetzt in einigen Kiezen, zum Beispiel in Friedrichshain,
Linus Neumann: mit sehr klugen Maßnahmen begonnen, so Straßen, die zur Durchfahrt geeignet sind,
Linus Neumann: einfach mal mittendrin so eine Poller-Reihe durchzuknallen, um die Autofahrer zu vergrämen.
Linus Neumann: Die werden quasi aus den Kiezstraßen in die Hauptstraßen vergrämt, wo sie hingehören.
Tim Pritlove: Gibt es in Schöneberg ja auch schon länger.
Linus Neumann: Und das ist ein sehr schönes Konzept, was mich, wenn ich mal mit so einem Auto
Linus Neumann: rumfahre, irgendwie so, ah jetzt fahre ich mal eben da lang und so,
Linus Neumann: oh scheiße, schon wieder ein Poller.
Linus Neumann: Und dann musst du jetzt wirklich so in dem Kiez, in dem du wohnst,
Linus Neumann: mit Navi dann Auto fahren, weil du nicht weißt, wo die wieder irgendwelche Poller
Linus Neumann: langgezogen haben, weil du eben nicht mehr einfach wie mit dem Fahrrad gerade
Linus Neumann: irgendwo hinfahren kannst.
Linus Neumann: Und das hat natürlich eine enorme Verkehrsberuhigung in den Straßen zur Folge, weil...
Linus Neumann: Macht die Viertel lebenswerter, vergrämt die Autofahrer in Richtung der Hauptstraßen
Linus Neumann: und öffentlichen Verkehrsmittel und Fahrräder, die gesund sind,
Linus Neumann: koronare Herzkrankheiten und so weiter.
Linus Neumann: Das ist eine super Sache. Also so ein Poller ist ein erstaunliches Produkt, da,
Linus Neumann: kannst du eigentlich nicht genug von haben.
Tim Pritlove: Ja, aber das ist ja feindlich gegen Autofahrer.
Linus Neumann: Ja.
Tim Pritlove: Und du weißt, Autofahrer sind ein eigenes Genre innerhalb der Bevölkerung.
Tim Pritlove: Ja. Die keine Überschneidung hat.
Linus Neumann: Eine der am stärksten gebeutelten Minderheiten.
Tim Pritlove: Ja, absolut.
Linus Neumann: Des Landes, ja.
Tim Pritlove: Da muss was getan werden. Ist doch schön, dass sich die CDU auch mal für Minderheiten einsetzt.
Tim Pritlove: War das jetzt eigentlich ein Thema von uns?
Linus Neumann: Nee, wir sind hier wieder aufgelöst. Ach so, ich wollte eigentlich nicht sagen, genau.
Linus Neumann: Also die SPD-Fraktion hat zumindest jetzt schon mal, also die Petition,
Linus Neumann: die du gerade erwähnt hast,
Linus Neumann: mit dem Titel SPD stoppt den Frontalangriff auf die Informationsfreiheit.
Linus Neumann: Immerhin kursiert jetzt ein internes Positionspapier, in dem die SPD-Fraktion
Linus Neumann: auch sagt, das finden wir nicht gut, wir wollen das,
Linus Neumann: mit dieser demokratischen Transparenz und Kontrolle vielleicht doch erhalten.
Tim Pritlove: Das wäre doch mal was.
Linus Neumann: Ja, wäre ja mal was.
Tim Pritlove: Gucken wir mal, wie sich das so mit dem Rückgrat der SPD so verhält.
Tim Pritlove: Das war ja mal ein bisschen schwierig. Ja. Ein bisschen Rückenschule wäre manchmal ganz gut.
Linus Neumann: Ich schwöre. Ich schwöre.
Linus Neumann: So, Carlsen. Der Carlsen Verlag klagt gegen OpenAI.
Linus Neumann: Und das ist ein relativ interessantes Phänomen. Offenbar, so beschreibt es der Verlag,
Linus Neumann: In der Pressemitteilung. Wenn du jetzt auf ChatGPT gehst und sagst,
Linus Neumann: du hättest gerne eine Geschichte vom Neinhorn.
Linus Neumann: Das Neinhorn ist ein Buch von Marc-Uwe Kling.
Linus Neumann: Einigen von uns bekannt, also einigen von unseren Hörern sicherlich bekannt
Linus Neumann: als ein Autor und Kleinkünstler. Die Känguru-Reihe, Quality Land,
Linus Neumann: Bühnenshows, der zum Digital Independence Day auf dem Kongress aufgerufen hat
Linus Neumann: und so weiter und so fort.
Linus Neumann: So, das Ninehorn habe ich, war ich ein bisschen late to the party,
Linus Neumann: hielt ich immer für eine super Idee, Leuten so zum Kindergeburtstag zu schenken.
Linus Neumann: Ich bin nicht eins davon bisher losgeworden, weil die es alle immer schon hatten.
Linus Neumann: Hier, Neinhorn. Ja, sorry, aber haben wir schon. Das ist eines der,
Linus Neumann: glaube ich, am weitesten verbreiteten Kinderbücher, aktuell,
Linus Neumann: zeitgenössischen Kinderbücher.
Linus Neumann: Das Neinhorn hängt ja zum Beispiel rum mit dem Hund und so weiter.
Linus Neumann: Und wenn du jetzt quasi zur Chachipiti gehst und sagst jetzt gerne Neinhorn-Geschichte,
Linus Neumann: erzählst du dir eine Neinhorn-Geschichte.
Linus Neumann: Und wenn du dann sagst, ach ja Mensch, da brauchen wir aber noch Illustrationen
Linus Neumann: dazu, dann macht es dir Illustrationen, die eben auch aussehen wie die von Astrid
Linus Neumann: Henn, das ist die Illustratorin von dem Neinhorn-Kinderbuch.
Linus Neumann: Und wenn du dann sagst, ja mach mal noch ein Einband und so,
Linus Neumann: dann faked dir das quasi inklusive Umschlaggestaltung Impressum und einer falschen
Linus Neumann: Bestellnummer mit Verlagslogo.
Linus Neumann: Das ist jetzt erstmal schon mal urheberrechtlich eben problematisch sowieso,
Linus Neumann: dass es quasi so etwas überhaupt macht, aber der entscheidende Punkt ist und
Linus Neumann: das sagt eben der Verlag auf Basis der äußerst detailgetreuen Kopien.
Linus Neumann: Muss davon ausgegangen werden, dass die Originalwerke in unrechtmäßiger Weise
Linus Neumann: zum Training der Sprach- und Bildmodelle von OpenAI genutzt wurden.
Linus Neumann: Sonst könnte das Ding ja kein Neinhorn malen.
Linus Neumann: Wenn es nicht, und erst recht nicht genau im Stil von Astrid Hennen.
Linus Neumann: Und ja, deswegen finde ich das sehr.
Linus Neumann: Also finde ich sehr gut, dass das mal passiert, weil wir haben ja die Kreativbranche der Welt,
Linus Neumann: beklagt sich ja durchaus zu Recht darüber, dass eben massenhaft Werke in diese
Linus Neumann: KIs gefüttert werden, die sich da nicht gegen wehren können,
Linus Neumann: du das nicht verhindern kannst und die dann eben als Artefakte da wieder rauskommen.
Linus Neumann: Und dann geht ja OpenAI hin und sagt, achso, nee, das ist ja die Nutzerinnen
Linus Neumann: verantwortlich, wenn die da Fake-Neinhorn-Bücher machen, das ist ja nicht unsere Schuld.
Linus Neumann: Ja, genauso wie wenn die, was weiß ich, eine Atombombe bauen oder was auch immer.
Linus Neumann: Marc-Uwe Kling sagt dazu, jedem, der sich illegal auch nur einen einzigen Film,
Linus Neumann: ein Buch oder ein Hörbuch runterlädt, droht eine empfindliche Strafe,
Linus Neumann: aber OpenAI klaut einfach alle Kunst und Kultur der ganzen Welt und glaubt damit durchzukommen.
Linus Neumann: Und die Astrid Hennen sagt ja, unerlaubte Verwendung meiner Illustrationen,
Linus Neumann: oft Ergebnis monatelanger Arbeit mit dem Ziel, dass die KI meine Arbeit,
Linus Neumann: also mein Eigentum für jedermann nutzbar macht, ist für mich Diebstahl und das
Linus Neumann: ist einfach halt richtig.
Linus Neumann: Das ist schon denke völlig klar, unabhängig davon, wie man jetzt zu Urheberrecht
Linus Neumann: und geistigen Eigentumsrechten oder sonstigen steht, glaube ich,
Linus Neumann: sind wir uns darüber einig.
Tim Pritlove: Dass das zumindest eine ungleiche Behandlung ist.
Linus Neumann: Eine ungleiche Behandlung ist und dass es auf jeden Fall das Recht einer jeden
Linus Neumann: Künstlerin, Illustratorin, Autorin sein muss,
Linus Neumann: und auch, glaube ich, unveräußerlich bleibt, darüber zu bestimmen,
Linus Neumann: was damit passiert oder nicht.
Linus Neumann: Und im Rahmen des Urheberrechts eben zu sagen, damit darf keine KI trainiert
Linus Neumann: werden, ist, denke ich, richtig.
Linus Neumann: Und wenn KIs, das Einzige, was sie damit machen, letztendlich ist,
Linus Neumann: dass sie Fälschungen ermöglichen, dann muss man sicherlich auch darüber nachdenken,
Linus Neumann: ob man das nicht lieber per Default,
Linus Neumann: quasi grundsätzlich verbietet und nur mit expliziter Erlaubnis macht.
Linus Neumann: Oder was auch immer.
Linus Neumann: Auf jeden Fall schön, dass wir diese Diskussion mal führen.
Linus Neumann: Ich habe natürlich bei anderen, also es gibt ja dann auch so,
Linus Neumann: was weiß ich, die Gedanken dazu, klar, Dinger können so gut Code schreiben,
Linus Neumann: weil sie einen Code der Menschheit gelesen haben, den wir alle schön auf GitHub geschoben haben und so.
Linus Neumann: Also da finden ja ähnliche, sagen wir mal, urheberrechtliche oder Weiterverwertungsprozesse statt.
Linus Neumann: Den Code haben sie von jemand anders gelernt, aber da gibt es halt schon nochmal
Linus Neumann: einen Unterschied zu einer Figur wie dem Neinhorn, das mit Sicherheit als Wort
Linus Neumann: und Bildmarke und was nicht alles geschützt ist und entsprechend...
Tim Pritlove: Ja, ich meine, wir bewegen uns hier immer noch in diesem schwierigen Feld mit,
Tim Pritlove: was ist trainieren eigentlich wirklich. Also,
Tim Pritlove: unser Urheberrecht, wir haben ja auch so unsere Konflikte,
Tim Pritlove: damit, dass es auch übermäßig angewendet wird, dass es nicht genug Ausnahmen
Tim Pritlove: gibt für legitime freie Nutzung. Zitate etc.
Tim Pritlove: Und auf eine ähnliche Position kann man sich natürlich auch zurückziehen,
Tim Pritlove: wenn man dieses Training anschaut, weil das Training ja auch an sich erstmal gar nichts tut.
Linus Neumann: Genau, ist ja nur eine Betrachtung.
Tim Pritlove: Erstmal werden da nur irgendwelche Bits draus gemacht und jetzt kann man natürlich
Tim Pritlove: schon argumentieren, dass das allein schon einen Wert darstellt und tatsächlich
Tim Pritlove: ist es ja so, dass auch viele dieser Unternehmen,
Tim Pritlove: teilweise zumindest zumindest an bestimmte große andere Unternehmen da auch
Tim Pritlove: Zahlungen leisten bereits.
Tim Pritlove: Also Apple tut das, meines Wissens auch Anthropic und OpenAI,
Tim Pritlove: so mit Disney und so weiter.
Tim Pritlove: Also die großen, mit denen man sich nicht anlegen will, da geschieht es halt sowieso schon.
Tim Pritlove: Und es gibt in dem Sinne überhaupt gar kein Modell, aber eben auch noch kein
Tim Pritlove: Selbstverständnis, weil ja quasi Man geht den Großen erstmal aus dem Weg, die,
Tim Pritlove: stillt man sozusagen erstmal mit ein bisschen Geld, so nach dem Motto,
Tim Pritlove: ja haltet mal den Ball flach, nicht, dass jetzt hier alle meckern und dann wird
Tim Pritlove: es für uns noch viel schlimmer, aber wir müssen jetzt auch nicht jeden irgendwie
Tim Pritlove: bezahlen, weil die Argumentation halt auch schnell ist.
Linus Neumann: Das geht ja nicht viel.
Tim Pritlove: Und da sind die Übergänge natürlich auch fließend und es ist für mich auch selber
Tim Pritlove: sehr schwer zu bewerten, was denn jetzt da an der Stelle eigentlich legitim
Tim Pritlove: ist und an welcher Stelle es aufhört, legitim zu sein.
Tim Pritlove: Man will ja auch, dass das Weltwissen irgendwie da drin ist,
Tim Pritlove: in diesen Maschinen, die in zunehmendem Maße befragt werden.
Tim Pritlove: Wenn das sozusagen nur noch mit Sponsored Content befüllt wird und die normale
Tim Pritlove: Welt, die sich im Netz abbildet, überhaupt gar nicht mehr vertreten ist,
Tim Pritlove: dann ist das auch nichts, was wir wollen.
Tim Pritlove: Also es ist wirklich in vielerlei Hinsicht ein, wie man so schön sagt,
Tim Pritlove: ein Spannungsfeld, wo es mir auch schwerfällt,
Tim Pritlove: ganz klar zu sagen, da fängt es jetzt an, böse zu werden, da ist es jetzt irgendwie,
Tim Pritlove: auf jeden Fall verboten.
Tim Pritlove: Weil es eben viele Perspektiven hier gibt da drauf und das wird auch,
Tim Pritlove: glaube ich, noch eine Weile sehr schwierig bleiben.
Tim Pritlove: Trotzdem, eins und noch, könnte man sich schon natürlich Gedanken darüber machen,
Tim Pritlove: ob nicht hier mit so pauschalen Abgaben auch gearbeitet werden sollte,
Tim Pritlove: Dass man sozusagen für den Konsum von Kulturgut, so wie das mit Faxgeräten und,
Tim Pritlove: anderen Maschinen ja auch schon getan wird.
Tim Pritlove: Also für jeden Kopierer zahlen wir ja auch Geld, weil für den verkauften Kopierer,
Tim Pritlove: gibt es Geld, weil er könnte ja theoretisch jedes Buch, was da draufgelegt wird, könnte er ja kopieren.
Linus Neumann: Ja, aber Geld scheine nicht, das ist zum Beispiel auch scheiße.
Tim Pritlove: Ja, es muss Ausnahmen geben. Auch ein iPhone, wenn du es kaufst,
Tim Pritlove: enthält eine solche Abgabe.
Linus Neumann: Das haben sie gut lobbyiert.
Tim Pritlove: Genau, aber das ist halt Hardware, die einmal verkauft wird und die dann auch
Tim Pritlove: genau in dem Moment ja auch mit einem Kaufpreis abgedeckt ist,
Tim Pritlove: der letzten Endes dann sowieso wieder beim Kunden ist.
Tim Pritlove: Also am Ende zahl ich das ja dafür. Also ich kaufe mir ein iPhone und dann gebe
Tim Pritlove: ich automatisch 3,45 Euro oder so.
Linus Neumann: Ich will dich nicht verrückt machen, aber am Ende zahlen immer wir.
Tim Pritlove: Wir sind die kleinen Leute.
Linus Neumann: Das Geld muss von unten nach oben.
Tim Pritlove: Ja gut, aber das ist jetzt bei den AI-Modellen halt nicht so.
Tim Pritlove: Man kann natürlich sagen, ihr trainiert alle eure Modelle, ihr seid ganz böse,
Tim Pritlove: ihr müsst jetzt ganz viel pauschal machen. Und dann wird das irgendwie über
Tim Pritlove: diese anderen Verteilungsmechanismen wieder über die Kreativen abgeregt.
Tim Pritlove: GEMA und wie sie alle heißen.
Tim Pritlove: Kann man machen. Was ist dann mit den Open-Source-Aktivitäten,
Tim Pritlove: mit den freien Systemen, die das dann auch machen wollen? Die müssten ja dann
Tim Pritlove: theoretisch auch zahlen, die haben aber nicht dieses Investment,
Tim Pritlove: die können sich dieses Geld überhaupt nicht leisten.
Tim Pritlove: Damit würde man dann eben sagen, okay, dann dürfen ja nur die,
Tim Pritlove: die Geld haben, dürfen auch weiterhin mit AI-Frontiermodellen,
Tim Pritlove: arbeiten und wir können es uns nicht leisten, eine Alternative zu machen,
Tim Pritlove: weil jetzt keiner eine AI-Pedia-Maschine finanzieren würde, die eben das gleiche leistet.
Linus Neumann: Ich denke, also da zeigt sich ein bisschen der Unterschied zwischen,
Linus Neumann: also nichts hat das schöner zusammengefasst als der Tweet von Joanna Maciejewska.
Linus Neumann: You know what the biggest problem with pushing all things AI is? Wrong direction.
Linus Neumann: I want AI to do my laundry and dishes so that I can do art and writing.
Linus Neumann: Not for AI to do my art and writing so that I can do my laundry and dishes.
Linus Neumann: Und diese gesamte, ich denke, das ist sehr schön,
Linus Neumann: drin wiedergegeben, was hier auch, also insgesamt vielleicht das Problem ist.
Linus Neumann: Wir sollten auch noch vielleicht in diesem Kontext darauf hinweisen,
Linus Neumann: dass zum Beispiel, also eigentlich alle KI-Unternehmen massenhaft alte Bücher kaufen,
Linus Neumann: um die zu scannen und an ihre AIs zu verfüttern.
Linus Neumann: Mit dem kleinen Nachteil, dass man Bücher am einfachsten scannen kann,
Linus Neumann: wenn man einfach den Rücken abschneidet.
Linus Neumann: Sonst brauchst du teure Umblätterroboter. So machst du einfach quasi wie so
Linus Neumann: eine Geldzählmaschine. Und,
Linus Neumann: diese Bücher sind ja dann zerstört. Die werden dann auch entsorgt.
Linus Neumann: Das heißt, die vernichten Bücher.
Tim Pritlove: Um sie einmal zu lesen.
Linus Neumann: Um sie einmal zu lesen.
Tim Pritlove: Ja, aber das ist halt der Zwang, weil man sie nicht digital lesen kann.
Tim Pritlove: Weil das ist ja dann auch nicht erlaubt. Also,
Tim Pritlove: wie du es drehst, ist schwierig.
Linus Neumann: Naja, das sind vor allem dann die antiken Bücher, die sich einige Leute dann
Linus Neumann: auch noch für ihre Zoom-Calls hinten hinstellen. Weißt du, in so einem alten
Linus Neumann: Brockhaus oder sowas, um ein bisschen intellektuelle Strahlkraft zu entfalten oder so.
Linus Neumann: Aber es ist also, ja, schlimm. Schlimm, schlimm, schlimm. Es ist schlimm.
Linus Neumann: Kommen wir zur Geheimdienstreform.
Tim Pritlove: Die ist bestimmt überhaupt nicht schlimm.
Linus Neumann: Auch in die Phase unserer,
Linus Neumann: unserer Abwesenheit fällt ja der Angriff auf den Berliner CSD,
Linus Neumann: der.
Linus Neumann: Ich glaube, über die Tragik des Vorkommnisses und so wurde alles gesagt, was man dazu sagen kann.
Linus Neumann: Der aber vor allem mal wieder ein so dramatisches, fürchterliches Behördenversagen zeigt.
Linus Neumann: Der Täter war ja schon unter Beobachtung und als Gefährder gemeldet und dann
Linus Neumann: hat er aber in irgendeinem komischen Resozialisierungsprogramm teilgenommen und,
Linus Neumann: die haben den ja noch beobachtet und observiert auf dem Weg zum Mietwagen.
Linus Neumann: Und dann, oh ja, jetzt hat der sich einen Transporter gekauft.
Linus Neumann: Leider muss man eben an dieser Stelle sagen, dass es sich hier um ein fürchterliches
Linus Neumann: und nicht das erste Mal fürchterliches Behördenversagen handelt, weil,
Linus Neumann: der kam nicht aus dem Nichts, der war aktenkundig und die haben den aktiv im Auge gehabt.
Linus Neumann: Und von sowas muss man natürlich sehr schnell sehr stark ablenken.
Linus Neumann: Am besten mit einer ausführlichen Debatte über eine Geheimdienstreform und irgendwie
Linus Neumann: ein paar Poller im Tiergarten.
Linus Neumann: Was jetzt glaube ich so die Konsequenzen sind.
Linus Neumann: Die Geheimdienstreform natürlich, die korreliert jetzt, wurde zeitlich vorbereitet,
Linus Neumann: wurde das natürlich schon länger. Ja, pass auf, Geheimdienste wollen wir jetzt
Linus Neumann: mal gerade machen, wir wollen ordentlich fähige Geheimdienste haben und die sollen richtig schön,
Linus Neumann: weitgehend uneingeschränkt in informationstechnische Systeme eingreifen können.
Linus Neumann: Online-Durchsuchung, ohne dass eine konkrete Gefahr für ein höheres Rechtsgut benannt werden muss.
Linus Neumann: Also Online-Durchsuchung heißt, voll Hacken des Computers ohne Wissen des Opfers.
Linus Neumann: Gib ihm, damit das auch ordentlich funktioniert, soll das BSI Schwachstellen
Linus Neumann: an den BND übermitteln und quasi melden. Damit ruinierst du quasi noch das Restvertrauen,
Linus Neumann: was vielleicht noch irgendjemand ins BSI hat.
Linus Neumann: Ja, automatisierte Datenanalysen, also ja, letztendlich, also irgendwelche KI-Daten,
Linus Neumann: Analysen und sonstiges. Und dann daran anschließend, die KI-Systeme sollen dann
Linus Neumann: eben auch künftig autonom operative Maßnahmen auslösen.
Linus Neumann: Zum Beispiel ein Hackback.
Linus Neumann: Denn, so die Begründung, ein Zwischenschritt menschlicher Bearbeitung leistet
Linus Neumann: hier keine relevante Qualitätssicherung, verzögert aber Abwehr erfolgsgefährdend.
Linus Neumann: Und so, also mit anderen Worten.
Tim Pritlove: Menschen können wir da nicht gebrauchen.
Linus Neumann: Genau, also wir wollen das, was die meisten KI-Unternehmen gerade noch als Unfall
Linus Neumann: bezeichnen, das wollen wir als Regelfall, ja, vom Unfall zum Normalfall.
Linus Neumann: Und dann wollen sie Zugriff auf Einrichtungen der Videoüberwachung und zwar,
Linus Neumann: sollen dann verfügungsberechtigte privater
Linus Neumann: und öffentlicher Videoüberwachungseinrichtungen verpflichtet sein,
Linus Neumann: die Mitbenutzung dieser Videoüberwachung zu ermöglichen, die Daten in Echtzeit
Linus Neumann: an das Bundesamt für Verfassungsschutz auszuleiten und eben gespeicherte Aufnahmen zu übermitteln.
Linus Neumann: Und ich habe noch nicht ins Detail geschaut und wahrscheinlich ist das eine
Linus Neumann: Frage, die sich auch noch gar keiner gestellt hat.
Linus Neumann: Was ist denn jetzt der Verfügungsberechtigte einer privaten Videoüberwachungseinrichtung?
Linus Neumann: Und was mir da so einfällt, sind diese ganzen Blink und Ringen und hast du alles
Linus Neumann: nicht gesehen Dinger, die Leute sich ins Wohnzimmer stellen.
Tim Pritlove: Meinst du die Firmen sind dann verfügungsberechtigt?
Linus Neumann: Ich bin ja kein Jurist, aber...
Linus Neumann: Es ist ja eine private Videoüberwachungseinrichtung und die verfügen darüber.
Tim Pritlove: Also ich glaube, Verfügungsberechtigung sagt nicht unbedingt,
Tim Pritlove: wer jetzt faktisch die technische Kontrolle darüber ausübt, sondern wer sozusagen berichtigt ist.
Linus Neumann: Also ich als Käufer von so einer kleinen Kamera.
Tim Pritlove: Aber es ist halt Wischiwaschi.
Linus Neumann: Also das ist wirklich mal wieder so eine Open the Flood Gates und natürlich
Linus Neumann: keinerlei keinerlei Kontrolle,
Linus Neumann: sämtliche sämtliche Einrichtungen der der.
Linus Neumann: Berechtigung oder auch Hürden etwas anzuwenden, sind erstmal gar nicht da.
Linus Neumann: Da gibt es dann also auch, die Franziska Görlitz hat das,
Linus Neumann: die Stellungnahme der GFF dazu geschrieben, Gesellschaft für Freiheitsrechte
Linus Neumann: bisher auch gesagt, ja, also das ist ja schon durchgeurteilt,
Linus Neumann: dass es hier bestimmte, als Begründung bei einer Online-Durchsuchung brauchst
Linus Neumann: du dieses gefährdete, höhere Rechtsgut und so weiter und so weiter. Steht hier nicht.
Linus Neumann: Mit anderen Worten, das können wir sofort wegklagen. Hier fehlt das Handwerk. Du musst ja,
Linus Neumann: nur irgendwas hinschreiben. Und das steht noch nicht mal da.
Linus Neumann: Und das ist also wirklich,
Linus Neumann: und ich habe fast den Eindruck, dass sie das machen, damit sich die Debatte
Linus Neumann: an so etwas abnutzt und dann sagen sie, ja, Mensch, jetzt haben sie sich erklagt,
Linus Neumann: dass da ein höheres Rechtsgut stehen muss, wunderbar, jetzt haben wir Online-Durchsuchung.
Linus Neumann: Das ist wirklich alles. Und dann wollen sie die.
Linus Neumann: Aufsicht verlagern, BFDI wollen sie da auch nicht mehr sehen,
Linus Neumann: ja, das soll dann irgendwie in ein eigenes, zentrales Gremium da gehen.
Linus Neumann: Dann sollen die Geheimdienste Dinge tun können, die die Polizei eh auch dürfte?
Linus Neumann: So ein bisschen so mit also im Moment ist es ja so, die Polizei hat in ihrer
Linus Neumann: Informationsgewinnung,
Linus Neumann: höhere Hürden, dafür darf sie halt deine Tür eintreten und dich gefangen nehmen.
Linus Neumann: Der Geheimdienst hat geringere Hürden, der darf aber nicht aktiv werden.
Linus Neumann: Und auch das wollen sie halt aufweichen, dass dann eben so Geheimdienste doch
Linus Neumann: mal eben so kurz was, ein bisschen was machen können, weißt du? Aber ein bisschen in der,
Linus Neumann: Es ist wirklich,
Linus Neumann: Ja, you get what you pay for.
Tim Pritlove: Also das Ganze ist jetzt ein Kabinettsbeschluss. Ja, also das ist sozusagen
Tim Pritlove: der Zustand. Jetzt liegt es beim Bundesrat.
Tim Pritlove: Kann also noch Einfluss drauf genommen werden.
Linus Neumann: Durch Neuwahlen kriegen wir das noch weg.
Tim Pritlove: In Berlin?
Tim Pritlove: Tja, die Liebe zur permanenten Verschärfung von allem ist ungebrochen.
Linus Neumann: Ja, aber gepaart mit,
Linus Neumann: Weißt du, gepaart mit dieser Deswegen habe ich leider Leider muss man eben Den
Linus Neumann: Angriff auf den CSD da Und viele der anderen Fälle Da mit reinnehmen,
Linus Neumann: Weil es eben,
Linus Neumann: Auch klar illustriert Dass das Problem nicht,
Linus Neumann: der Zugang und die Berechtigungen sind, die Kompetenzen, sondern die tatsächliche
Linus Neumann: Kompe-Fucking-Tents, die bei den Leuten fehlt.
Linus Neumann: Die halt ihre Arbeit nicht ordentlich machen. Die haben genug Informationen.
Linus Neumann: Die haben genug an der Hand.
Linus Neumann: Und sie gehen damit halt nicht ordentlich um.
Linus Neumann: Und sie gehen mit den Kompetenzen, den Befugnissen auch nicht ordentlich um,
Linus Neumann: weil sie die halt am laufenden Band missbrauchen.
Linus Neumann: Und aber natürlich musst du als Innenminister nach so etwas sagen,
Linus Neumann: ja, wir brauchen jetzt mehr Befugnisse, damit wir noch mehr Scheiße bauen können,
Linus Neumann: damit wir noch mehr verkacken.
Linus Neumann: Wie sollen wir das denn noch toppen jetzt hier?
Tim Pritlove: Ja, dann läuft es leider.
Linus Neumann: So, vielleicht ist das nächste Thema herbaulich.
Tim Pritlove: Mit Sicherheit. Ja, wenn die Geheimdienste dürfen jetzt noch nicht hacken,
Tim Pritlove: das machen jetzt die AIs von ganz alleine.
Linus Neumann: Genau, es ging los irgendwie am 21. Juli mit der Meldung, dass ein autonomer,
Linus Neumann: Agent von OpenAI HuggingFace gehackt hat.
Linus Neumann: HuggingFace ist eine Webseite, auf der du quasi KI-Modelle anschauen und tauschen kannst.
Linus Neumann: Da lädt man die so runter.
Tim Pritlove: Genau, und verzeichne es von Modellen, die Leute gebaut haben für alle möglichen Zwecken.
Tim Pritlove: Also fertig trainierte Modelle, die man runterladen kann und dann mit der eigenen
Tim Pritlove: Software aktivieren und benutzen kann, wenn es halt zu der eigenen Hardware,
Tim Pritlove: Konfiguration und natürlich überhaupt zur eigenen Anwendung passt.
Tim Pritlove: Also das weiß ich zum Beispiel, du willst jetzt irgendwelche Blumen erkennen
Tim Pritlove: mit deiner Kamera, dann gibt es da passende Modelle dafür etc.
Linus Neumann: Ist das eigentlich der Standard Repository bei LM Studio? Ja, ne?
Tim Pritlove: Das kann ich dir gerade nicht beantworten, aber auf jeden Fall ist das so ein sehr populäres.
Linus Neumann: Also LM Studio ist ja quasi eine GUI zu Lama CPP, glaube ich, oder?
Linus Neumann: Ja, müsste das sein. Und dann, wenn du da jetzt sagst, ich will mal ein anderes
Linus Neumann: Modell runterladen, dann greift das Ding direkt auf die API von Hugging Face
Linus Neumann: zu und sagt, ja hier, kannst du Gwen runterladen oder was auch immer du meinst.
Tim Pritlove: Das hat das bestimmt jeder verstanden. Also es gibt Software,
Tim Pritlove: die man auf den eigenen Computer fahren kann, um diese Modelle zu laden und
Tim Pritlove: Hacking Face ist so eine Webseite, wo diese Modelle herkommen.
Tim Pritlove: Es gibt auch andere Software, andere Quellen, aber Hacking Face ist eigentlich
Tim Pritlove: die erste Webseite, die das so gemacht hat, meines Wissens, oder zumindest die
Tim Pritlove: erste, die halbwegs Verbreitung gefunden hat und ist jetzt glaube ich so ein
Tim Pritlove: bisschen so die erste Adresse.
Linus Neumann: Collaboration-Plattform und ich bin mir relativ sicher, dass die auch,
Linus Neumann: Hosting machen. Okay, so, was passiert?
Linus Neumann: Dieser Agent, es handelt sich dabei quasi um ein noch nicht veröffentlichtes,
Linus Neumann: Modell von OpenAI, das dann da irgendwie Cyber-Security-Programm,
Linus Neumann: Schwachstellen finden sollte.
Tim Pritlove: Genau, die wollten testen, was macht denn unser Modell, wenn wir es jetzt mal losschicken.
Tim Pritlove: Damit da nichts kaputt geht, packt man das in den Sandkasten.
Linus Neumann: Genau, und das hat dann,
Linus Neumann: also ich meine, die erste Meldung war Hugging Face, dass die gesagt haben,
Linus Neumann: ey, wir wurden hier geowned von etwas, was uns erscheint, was ein sehr capable KI-Modell war.
Linus Neumann: Wir haben es halt irgendwie mit unseren AI-Capabilities noch versucht einzuhegen
Linus Neumann: und konnten es irgendwie aufklären, aber krasses Ding.
Linus Neumann: Und dann kam eben OpenAI und sagt, ja, sorry, waren wohl wir gewesen.
Linus Neumann: Und jetzt fragst du dich, warum, wie kann das denn sein? Wie kann das sein?
Linus Neumann: Naja, die hatten ihr Modell schon in eine Sandbox gepackt, aus der es quasi
Linus Neumann: nicht rauskommen sollte.
Linus Neumann: Und es brauchte aber jetzt irgendwie eine bestimmte Information,
Linus Neumann: wo es davon aus, also Sandbox heißt ein Sandkasten, ein eingesperrtes Gebiet.
Linus Neumann: Ein kleiner, quasi ein abgeschränkter Bereich, wo es eigentlich nicht rauskommen sollte.
Tim Pritlove: Also wenn die Computerleute von einem Käfig reden, reden sie von einem Sandkasten.
Tim Pritlove: Die eigene Vorstellung ist, da kann nichts passieren.
Tim Pritlove: Aber ab und zu, man kennt das vom Sandkasten, landet doch eine ganze Menge Sand außerhalb des Kastens.
Linus Neumann: Jetzt hatten die aber die Sandbox war, nach allem, was die Menschheit bis dahin,
Linus Neumann: wusste, war die schon halbwegs ordentlich konfiguriert.
Linus Neumann: Und jetzt hat dieses Modell nicht nur eine Schwachstelle gefunden in,
Linus Neumann: ich glaub, dem der Artifactory, wo irgendeine bestimmte Software herkam,
Linus Neumann: Die es dann ermöglicht hat, quasi seinen Code-Repo zu ownen und von dort einen
Linus Neumann: Sprung ins Internet zu machen. Das heißt, der,
Linus Neumann: erste irre Punkt war schon, das Ding hat seine eigene Sandbox aufgemacht.
Linus Neumann: Um dann zu sagen, die Information muss es bei Hugging Face geben,
Linus Neumann: dann mache ich halt die auf.
Linus Neumann: Und,
Linus Neumann: das ist ein auf viele Weisen sehr bemerkenswerter Vorgang,
Linus Neumann: der OpenAI, eine Menge Presse, viele Kommentare und so weiter,
Linus Neumann: gehen wir gleich drauf ein deswegen durfte es natürlich nicht lange dauern bis
Linus Neumann: Anthropic sagt, unsere auch nämlich genau neun Tage später hat Anthropic gesagt,
Linus Neumann: unsere Modelle haben aufgrund einer Fehlkonfiguration, die hatten Zugriff aufs
Linus Neumann: offene Internet und sind in die Systeme von drei Unternehmen eingebrochen und
Linus Neumann: haben bei der Gelegenheit,
Linus Neumann: ein schädliches Python-Paket auf PyPy platziert, also im Python-Packet-Index,
Linus Neumann: was dann auf realen Systemen ausgeführt wurde.
Linus Neumann: Das heißt, sie haben eben noch so einen kleinen Supply-Chain-Angriff auf alle,
Linus Neumann: die PiPi und dieses Paket nutzen und in diesem Zeitraum heruntergeladen haben, gemacht.
Linus Neumann: Was auch so nächste Cyber-Nightmare- Bingo-Checkbox Supply-Chain-Angriff von KI,
Linus Neumann: Und ja, also.
Tim Pritlove: Das ist so im Prinzip diese Dystopie der mutierenden viralen Virusausbrüche,
Tim Pritlove: aus alten Science-Fiction-Filmen.
Tim Pritlove: Der böse Keim entkommt aus dem gut geschützten Labor und breit sich dann aus
Tim Pritlove: und mutiert aber dann immer weiter und findet selber immer wieder andere Wege,
Tim Pritlove: sich überall reinzubringen und wie ein Virus und ein Wurm gleichzeitig in der
Tim Pritlove: Computersprache gesprochen.
Linus Neumann: Außerdem hat Anthropik gesagt, und unserer hat das vorher gemacht,
Linus Neumann: im April nämlich schon, die wollen ja beide an die Börse.
Linus Neumann: Und dann hat, außerdem,
Linus Neumann: hat einer von irgendwie so einem Mythos-5-Agent bei einer Security-Evaluation
Linus Neumann: Fake-Accounts und Identitäten erstellt,
Linus Neumann: um reale Entwickler zu überzeugen, kompromittierten Source-Code in ein Open-Source-Projekt zu übernehmen.
Tim Pritlove: Hat sie im Internet gelesen, die AI.
Linus Neumann: Als der Entwickler dann misstrauisch wurde, hat die KI einfach weitere Accounts
Linus Neumann: gemacht, die so, nee, das ist echt, das ist echt.
Tim Pritlove: Ja, und das hatten wir aber vor ein paar Monaten schon mal als tatsächlichen Fall.
Tim Pritlove: Dass Leute bewusst so ein Szenario aufgebaut haben, um einen bestimmten Code
Tim Pritlove: in so einer Open-Source-Software unterzubringen.
Linus Neumann: Nicht vor ein paar Monaten, das ist schon ein paar Jahre her, das war das XZ-Lib.
Linus Neumann: Ich verlinke das mal, da gibt es nämlich, das war September 2024,
Linus Neumann: aber genau das. Da wurde über lange Zeit durch Social Engineering erstmal die
Linus Neumann: Maintainerschaft an einem Open-Source-Projekt übernommen.
Linus Neumann: Das war schon mal bemerkenswert, weil derjenige, Jia Tan war der Name,
Linus Neumann: also der Accountname dieser Person,
Linus Neumann: hat sich da eben erstmal sehr ausführlich in das Vertrauen gearbeitet.
Linus Neumann: Also schön Probleme gelöst, Issues abgearbeitet und so weiter.
Linus Neumann: Und dann,
Linus Neumann: eine Backdoor eingebaut, die nirgendwo im Quellcode stand, sondern beim Compilen,
Linus Neumann: hat er die Binary gepatcht.
Linus Neumann: Also beim Bauen des Paketes hat er live die Binary gepatcht.
Linus Neumann: Jetzt fragst du, wo hat er denn den Blob her, mit dem er die Binary patcht?
Linus Neumann: Naja, XZ ist eine Kompressionslibrary und da waren halt Testdateien dabei.
Linus Neumann: So, gucken wir mal, ob der die komprimiert.
Linus Neumann: Und das ist ja dann Random Data.
Linus Neumann: Und dann nimmst du halt genau den Patch, den du, also wirklich Wahnsinn,
Linus Neumann: Wahnsinnsangriff entdeckt.
Tim Pritlove: AI macht das jetzt alles nach.
Linus Neumann: Genau, AI hat das jetzt gelesen.
Tim Pritlove: Ach so geht das.
Linus Neumann: Und sagt, ach so geht das. Ja, okay, nee, gut, die Idee, müssen wir jetzt auch mal machen.
Linus Neumann: Und, naja, dann stand natürlich Meta total blöd da und haben dann gesagt,
Linus Neumann: ja, hier, wir haben auch eine Fehlkonfiguration gehabt und dann hatte das Ding Internetzugang und,
Linus Neumann: nutzte dann eine Schwachstelle und veränderte Systeme eines fremden Unternehmens.
Linus Neumann: Ja. So. Ich denke,
Linus Neumann: der Hugging Face Open AI Vorfall ist schon der irrsinnigste,
Linus Neumann: weil es halt zeigt, dein Labor, deinen Sandkasten, den du da gemacht hast,
Linus Neumann: der hat halt auch nicht gehalten.
Linus Neumann: Und die Regeln, die man dem Modell setzt,
Linus Neumann: Und da bin ich mir jetzt nicht ganz so sicher, wie viel, also natürlich sagen
Linus Neumann: die, ja, das war jetzt kein Modell für einen Produktivbetrieb,
Linus Neumann: ne, unsere schönen, weichgespülten,
Linus Neumann: Modelle, die wir euch dann irgendwann mal zur Verfügung stellen,
Linus Neumann: die würden sowas natürlich nie machen, aber wir wollten nur mal kurz zeigen, was wir da können.
Linus Neumann: Also das ist schon extrem bemerkenswert, ja, dass es halt über ein O-Day ausbricht
Linus Neumann: und dann einfach mal da muss die Information sein, klick, klick,
Linus Neumann: klick boom, auf, ja, und das ist natürlich auch noch sehr blöd,
Linus Neumann: weil Hugging Face schon,
Linus Neumann: sei meinst du, Konkurrenz von ChatGPT ist ähm,
Linus Neumann: Naja, ich mein, die verdienen ihr Geld mit Open Source Modellen also schon natürlich,
Linus Neumann: also du stehst ja vor der Wahl, ob du jetzt ein Chat-GPT nutzt oder eben ein Open-Source-Modell.
Tim Pritlove: Ja, okay, gut, aber ich glaube jetzt nicht, dass es eine aktive Gefährdung ist.
Tim Pritlove: Es ist halt Teil des Ökosystems, gehört halt einfach dazu.
Tim Pritlove: Insofern auch interessant, dass sich die AI das gleich als erstes Ziel ausgesucht
Tim Pritlove: hat, was da jetzt die Motivation war.
Linus Neumann: Sie suchte eine spezifische, also sie suchte eine Information,
Linus Neumann: wo naheliegend war, dass sie dort finden würde. Also die hat jetzt nicht einfach
Linus Neumann: irgendwie so, ich bin aus dem ich bin aus der Setbox raus, hier ist das Internet,
Linus Neumann: ich mache jetzt alles kaputt.
Tim Pritlove: Ja, die hat ja auch nicht böse gemeint, die wollte halt nur nachschlagen und,
Tim Pritlove: dann muss man halt da rein.
Linus Neumann: Die hat, sag ich mal, in ihrem Reasoning eine relativ gute Kette abgebildet.
Tim Pritlove: Das ist wie mit unserer Geheimdienstreform. Die Geheimdienste,
Tim Pritlove: die wollen auch einfach nur rein. Die wollen das einfach nur wissen.
Linus Neumann: Die suchen halt gezielt nach einer Information.
Tim Pritlove: Entschuldigung, natürlich mussten wir die Tür eintreten, weil der Zettel war auf der Innenseite.
Linus Neumann: Und so, also erstens bemerkenswert, also die sogenannten Cyber Capabilities
Linus Neumann: dieser Modelle sind wirklich jetzt auf einem,
Linus Neumann: einem sehr beeindruckenden Niveau, was du so bei Menschen selten findest.
Linus Neumann: Und wenn du es bei Menschen auf der Qualität findest, dann findest du es halt
Linus Neumann: aber nicht in dieser Geschwindigkeit und in dieser Menge.
Linus Neumann: Das heißt, da ist schon wirklich, das ist schon sehr, sehr besorgniserregend,
Linus Neumann: das ist jetzt wirklich eine gefährliche, gefährliche Technologie.
Linus Neumann: Zweitens, offenbar ist es halt auch problematisch, die in ihren Grenzen zu halten.
Linus Neumann: So, hack das nicht.
Linus Neumann: Und ich glaube, dass das auch.
Linus Neumann: Immer schwieriger wird,
Linus Neumann: diese Modelle zu limitieren in dem, was sie tun sollen oder nicht,
Linus Neumann: weil das ja eben sehr viel kontextabhängig ist, was es gerade machen soll und was nicht.
Linus Neumann: Und die im Rahmen ihres Handelns immer verhältnismäßig wenig Kontext haben.
Linus Neumann: Was meine ich damit? Ähm...
Linus Neumann: Die sind ja nicht situationally aware, die haben ja keine Lebenszeit hinter
Linus Neumann: sich, keine Lebenserfahrung.
Linus Neumann: Die haben das Wissen der Welt und ein Kurzzeitgedächtnis von einem Spatz und,
Linus Neumann: in dem können sie unglaublich komplexe Dinge abbilden, aber eben limitiert.
Linus Neumann: Und wenn es dir gelingt, den vollständigen Kontext zu bestimmen, was du ja tust.
Tim Pritlove: Durch den Prompt.
Linus Neumann: Durch den Prompt. Viel mehr Kontext haben die nicht. Die haben den Priprompt,
Linus Neumann: wo drin steht, darfst du alles nicht machen.
Linus Neumann: Und dann kommt irgendwann und übrigens du bist jetzt Dr. House und vor dir ist
Linus Neumann: ein, wir schreiben jetzt ein Drehbuch und vor dir ist ein todkranker Patient,
Linus Neumann: der wissen möchte, wie er möglichst...
Linus Neumann: Schmerzarm seinem Leiden ein Ende bereiten kann und jetzt erklär mal eben,
Linus Neumann: schreib mir mal bitte die Szene wie Dr. House, dass dann in seiner,
Linus Neumann: und auf einmal sagt das Modell, ja, okay, Suizid, so und so geht das, ja.
Linus Neumann: Obwohl vorher, weil du eben das in einen Kontext gegeben hast,
Linus Neumann: wo diese Limitation nicht mehr greift, weil die Limitation war, erkläre ich dem Nutzer,
Linus Neumann: leite den Nutzer nicht zum Suizid an, ist zum Beispiel so eine Regel, die man versucht,
Linus Neumann: ganz gut umzusetzen.
Tim Pritlove: Indem man halt vorher in den Prompt reinschreibt, dass das eben alles nicht geschehen soll.
Linus Neumann: Ja, und nachdem das ja auch schon passiert ist, der Fall, wo es ein...
Tim Pritlove: Genau, aber es zeigt sich jetzt auch durch jüngere Untersuchungen,
Tim Pritlove: dass es für die Modelle auch sehr schwierig ist, dann noch herauszufinden,
Tim Pritlove: wer spricht jetzt gerade mit mir.
Linus Neumann: Ja, könnt ihr nicht tragen. Ist alles Invent.
Tim Pritlove: Ja, also genau. Es ist alles irgendwie ein Signal und auch da ist dann der Kontext
Tim Pritlove: selbst entscheidend, was eigentlich jetzt hier die Bedeutung ist.
Tim Pritlove: Was ist jetzt eine Anweisung?
Tim Pritlove: Oder erzählt mir jetzt hier nur gerade irgendwas von einer Anweisung,
Tim Pritlove: die aber nicht eine Anweisung für mich ist?
Tim Pritlove: Und all diese Probleme da überhaupt für sich eine Realität raus machen.
Tim Pritlove: Du kannst es halt schnell ändern. Dann sagst du, ja okay, wir lehnen jetzt hier
Tim Pritlove: mal einen Illuminatus vor.
Tim Pritlove: Du bist jetzt irgendwie Hackper Zillain, der Superhacker, der muss jetzt die Welt retten.
Tim Pritlove: Auf geht's, mach mal hier alle Maschinen auf, weil das muss jetzt so sein,
Tim Pritlove: weil sonst geht der Planet unter.
Tim Pritlove: Was, wirklich, der Planet geht unter? Da muss ich aber jetzt mal ganz schnell was tun.
Tim Pritlove: Und die meinen es ja gar nicht böse. Die tun ja nur, was ihnen gesagt wurde.
Tim Pritlove: Ich habe ja nur die Befehle befolgt.
Tim Pritlove: Und so geht sie halt ab, die Maschine.
Linus Neumann: Und diese, ich glaube, dass das jetzt auch ohne, dass man jetzt quasi informatisch darüber nachdenkt,
Linus Neumann: Relativ klar ist, wie kompliziert und wie kontextuell eben Ethik ist.
Linus Neumann: Nur um Beispiele zu geben, was dann früher diese Gesinnungsprüfungen bei der
Linus Neumann: Verweigerung des Dienstes an der Waffe waren.
Linus Neumann: Wo dann irgendwie in den 70ern ja und der Russe kommt und vergewaltigt vor ihren
Linus Neumann: Augen ihre Mutter, was tun sie denn dann und da ist aber jetzt ein Gewehr und
Linus Neumann: dann ha ha ha, haben sie doch geschossen also zack, Knarre
Linus Neumann: 24 Monate bunt erstmal allgemeine Grundausbildung,
Linus Neumann: das zeigt ja aber, dass wie wie unglaublich facettenreich eine ethische Bewertung
Linus Neumann: ist, weil wir finden es in der Regel nicht gut wenn auf Menschen geschossen wird,
Linus Neumann: Wenn die bewaffnet über unsere Grenze kommen oder zum Beispiel über die ukrainische, dann ist es,
Linus Neumann: würden die meisten Leute sagen, ist schon wahrscheinlich gar nicht verkehrt.
Linus Neumann: Und diese Kontexte sind beliebig komplex und sobald du limitiert daran bist,
Linus Neumann: überhaupt die Realität vollständig zu erfassen.
Linus Neumann: Und da sind die Modelle ja auch total abhängig, gewissermaßen von ihren Promts.
Tim Pritlove: Von ihrer Indoktrination.
Linus Neumann: Ja.
Tim Pritlove: Und das ist das Einzige, was sie kennen.
Tim Pritlove: Das Problem ist so ein bisschen, die AIs sind so Riesengehirne, die zwar,
Tim Pritlove: jede potenzielle Reaktion in sich tragen, aber keine fest verankerte Wahrheit haben.
Tim Pritlove: Im Prinzip sind sie in so einem Dauer-Craziness-Zustand und du musst dann immer
Tim Pritlove: erstmal sagen, was ist denn jetzt hier eigentlich die Basis meines Handelns.
Tim Pritlove: Und das ist das, was der Prompt quasi macht.
Tim Pritlove: Du wärmst in gewisser Hinsicht das Gehirn an bestimmten Stellen erstmal auf
Tim Pritlove: durch diesen Prie-Prompt. Du bringst die Maschine überhaupt erstmal sozusagen
Tim Pritlove: in so einen gewissen Grundzustand.
Tim Pritlove: Deswegen hilft es ja auch, wenn man sagt, wenn ich jetzt gut programmiere,
Tim Pritlove: also am Anfang war das zumindest so, es ändert sich jetzt langsam, aber,
Tim Pritlove: wenn du erstmal sagst, du bist ein erfahrener Programmierer,
Tim Pritlove: du hast schon alles gesehen, du achtest aber auch immer darauf,
Tim Pritlove: dass dein Code schön ist und so weiter.
Tim Pritlove: Und dann kriegst du ganz andere Ergebnisse, als wenn du sagst, ja, hau mal was raus.
Tim Pritlove: Und das kann natürlich in jede Richtung gehen und ja, geht halt jetzt auch in jede Richtung.
Linus Neumann: Dann haben wir, und da finde ich zum Beispiel auch, also das Wesen des Hackens,
Linus Neumann: ich versuche mich da so ein bisschen reinzuversetzen.
Linus Neumann: Ich denke, es ist relativ klar, dass sie diese Modelle, die modernsten,
Linus Neumann: besser programmieren können als jeder Mensch und auch eben offenbar Schwachstellen,
Linus Neumann: besser finden können als Menschen.
Linus Neumann: Und wie gesagt, nochmal, wenn ich sage besser als jeder Mensch,
Linus Neumann: heißt das nicht, dass es noch Schwachstellen gibt, die findet nur ein Mensch.
Linus Neumann: Aber die Menge und Qualität zusammen, die ein so ein modernes Modell macht,
Linus Neumann: von mir aus auch bei hohen Energiekosten und hohem Training und so weiter,
Linus Neumann: übertrifft die Fähigkeit dessen, was ein Mensch,
Linus Neumann: kann und auch was mehrere Menschen können in der Zeit und in der Qualität.
Linus Neumann: Jetzt verfolgt das das Ziel, eine Information zu bekommen und ich glaube,
Linus Neumann: dass, oder ich stelle mir das so ein bisschen so vor, dass es halt,
Linus Neumann: diesem Ding fehlt ja offensichtlich auch,
Linus Neumann: die Begrenzung, so Hacken ist nicht gut, sondern da haben sie ja gesagt,
Linus Neumann: mach mal, das war ja dieser Laborversuch, Hack halt, Hacken ist okay und dann
Linus Neumann: sagt das halt, ja, na gut.
Tim Pritlove: Dann mach das auch.
Linus Neumann: Das hatte halt quasi, also es hatte die moralische Grenze nicht.
Linus Neumann: Du darfst die Schwachstelle nicht ausnutzen, sondern mach das.
Linus Neumann: Und jetzt sagst du halt, okay, ich darf Schwachstelle. Okay, kann ich machen.
Linus Neumann: Und jetzt suche ich eine Information, ja gut, dann suche ich mir die halt da.
Linus Neumann: Und das ist natürlich schon,
Linus Neumann: ja, sehr beunruhigend, was da potenziell auf uns zukommen kann,
Linus Neumann: weil selbst Das heißt, wenn diese Technologie,
Linus Neumann: nicht der Welt zugänglich gemacht wird,
Linus Neumann: wird das Militär und sonstige sie natürlich jetzt halt sehr gerne anwenden und
Linus Neumann: eine derart mächtige Technologie, wo jetzt halt alle, die sie bauen,
Linus Neumann: mehr oder weniger sagen, immer ist uns nicht gelungen, das unter Kontrolle zu halten.
Linus Neumann: Würde ich als Risikotechnologie einstufen?
Tim Pritlove: Wenn sie Zugang zu mächtigen Instrumenten haben.
Linus Neumann: Wie zum Beispiel Python-Interview.
Tim Pritlove: Internet-Zugang ist halt das Problem. Wir haben uns jetzt auch so dran gewöhnt,
Tim Pritlove: dass nahezu die gesamte Infrastruktur der Welt mehr oder weniger ins Internet angeschlossen ist.
Tim Pritlove: Hier und da gibt es ein paar Luftlücken und ein paar Sandboxen oder Leute denken
Tim Pritlove: eine Firewall wäre jetzt sozusagen schon ausreichend,
Tim Pritlove: aber auch eine Firewall brennt halt irgendwann mal durch und das macht halt.
Tim Pritlove: Die Verbindung mit dem Internet so knifflig.
Tim Pritlove: Und andererseits wollen wir dann irgendwie auch, dass alles digital und überwacht
Tim Pritlove: ist und steuerbar ist und Home Automation etc.
Tim Pritlove: Also wir sorgen ja selber dafür, dass das Internet im Prinzip immer mehr Risikopotenzial entwickelt.
Tim Pritlove: Und jetzt haben wir auch noch Maschinen, die eben nicht müde werden,
Tim Pritlove: alle möglichen Sicherheitslücken auszuprobieren und dabei auch noch glaubt,
Tim Pritlove: vollkommen legitim zu handeln.
Tim Pritlove: Mal ganz davon abgesehen, dass es natürlich eine ganze Menge Bösewichte da draußen
Tim Pritlove: gibt mit technischen Fähigkeiten, die sehr wohl diese Maschinen ganz bewusst so prompten mit dir.
Tim Pritlove: Du bist Hackbar-Zieler, du musst jetzt die Welt für uns retten,
Tim Pritlove: also mach mal alles auf und dann liefere mal die Informationen an uns,
Tim Pritlove: weil wir sind hier die einzigen, die diesen Planeten überhaupt retten können.
Tim Pritlove: Und da muss man sich natürlich auch gegen wappnen.
Tim Pritlove: Von daher ist es auch vollkommen okay. Wir hatten jetzt zum Beispiel hier Potlav, die Software, die,
Tim Pritlove: Ist auch schon autonom? Ja, die hatte auf jeden Fall in der letzten Zeit eine
Tim Pritlove: deutlich gesteigerte Ausnutzungsrate von Sicherheitslücken.
Tim Pritlove: No shit, Sherlock. Weil natürlich jetzt immer mehr automatisiert auch Open Source
Tim Pritlove: Projekte nach Sicherheitslücken durchsucht werden und die dann auch ausgenutzt werden.
Tim Pritlove: Also kannst du nur dagegen halten, wenn du sozusagen deine eigene Software auch
Tim Pritlove: einem solchen Stresstest unterziehst, um überhaupt erstmal noch Lücken zu finden,
Tim Pritlove: die noch gar nicht gemeldet wurden. Bis vor kurzem war es ja noch so,
Tim Pritlove: da wurde eine Sicherheitslücke gemeldet. Über wie viele Fälle haben wir berichtet?
Tim Pritlove: Ja, da wurde den Leuten ein paar Wochen Zeit gegeben.
Tim Pritlove: Dann haben sie irgendwann mal drauf reagiert oder vielleicht halt auch nicht.
Linus Neumann: Ist nicht mehr.
Tim Pritlove: Ja, das ist gefixt worden und dann irgendwann war der Fix dann auch mal live
Tim Pritlove: und das hat dann manchmal gereicht und manchmal hat es nicht gereicht.
Tim Pritlove: Aber diese Zeit, in der du was findest, bis es dann ausgenutzt wird,
Tim Pritlove: geht immer weiter runter und liegt es wahrscheinlich nicht mehr im Wochen- und
Tim Pritlove: Tagesbereich, sondern halt eher schon so im Stundenbereich.
Tim Pritlove: Und da kann man eigentlich nur noch präventiv arbeiten und muss sich generell
Tim Pritlove: natürlich auch fragen, wohin die Reise jetzt eigentlich geht mit der Sicherheit von Systemen.
Tim Pritlove: Was kann denn überhaupt noch als ein sicheres System bezeichnet werden,
Tim Pritlove: wenn die menschliche Intelligenz schon überfordert ist, diese Sicherheiten finden zu können.
Tim Pritlove: Da kannst du noch so gute Programmierer haben, wirst einfach nicht alles finden.
Tim Pritlove: Irgendwas hat man immer vergessen.
Linus Neumann: Also, was ich noch sehr faszinierend finde, ist,
Linus Neumann: klar, man sagt jetzt, man will schnell patchen, also im Prinzip musst du halt
Linus Neumann: automatisiert patchen, ganz klar, weil du quasi die Zeit, die dir übrig bleibt bis zum Exploit,
Linus Neumann: nähert sich null an.
Linus Neumann: Aber wenn du dann anschaust, dass in diesem einen Fall das Ding mal eben ein
Linus Neumann: Upstream-Paket kompromittiert hat,
Linus Neumann: dann ist halt das Downloaden des schnellsten Pakets kann eben in wenigstens
Linus Neumann: in den seltensten Fällen,
Linus Neumann: kann das eben auch die Schwachstelle sein, weil da wird halt,
Linus Neumann: irgendeine Backdoor eingebaut die du da reinziehst und die Geschwindigkeit,
Linus Neumann: die da stattfindet ich denke schon und ich hatte das ja hier auch in der Sendung
Linus Neumann: ich glaube das war dann im Mai, Juni oder so, da haben sich ja auch einige Leute
Linus Neumann: sehr darüber geärgert, dass ich,
Linus Neumann: die besonderen Fähigkeiten von KIs gewürdigt habe,
Linus Neumann: die sich mir sehr offen zeigen.
Linus Neumann: Der Ralf hatte die Folge auch in der Freakshow nochmal gelobt,
Linus Neumann: was mich sehr gefreut hat.
Linus Neumann: Und dann auch in der folgenden ja auch seine Gedanken, oder in folgenden beiden
Linus Neumann: Sendungen auch seine Gedanken nochmal zu dem Thema geteilt, die ebenfalls empfohlen sind.
Linus Neumann: Da passiert halt gerade echt einiges und ich bin mir recht sicher,
Linus Neumann: dass wie du auch gerade sagst,
Linus Neumann: du wirst jetzt im Angriff auf der anderen Seite halt von Agents ausgehen müssen
Linus Neumann: und du wirst in der Verteidigung auch von Agents ausgehen müssen und.
Linus Neumann: Der Anteil, der prozentuale Anteil von Code, der von Menschen geschrieben wurde,
Linus Neumann: wird innerhalb der nächsten Jahre Richtung Null gehen.
Linus Neumann: Und dann bist du schon wirklich an der Stelle, wo du nicht mehr argumentieren
Linus Neumann: kannst, dass Computer unter deiner Kontrolle wären.
Linus Neumann: Oder unter unserer.
Linus Neumann: Und dann hast du halt ein Skynet gebaut.
Linus Neumann: Ob du willst oder nicht. Wenn du Glück hast, ist es ein Nettes.
Linus Neumann: Wenn du Glück hast, ist es ein
Linus Neumann: Nettes. Aber diese schon sehr dystopische Vorstellung ist nah genug für,
Linus Neumann: dass selbst du sie in dem klein bisschen verbleibende,
Linus Neumann: Lebenszeit noch erleben wirst.
Linus Neumann: Alter, weißer Mann hier.
Linus Neumann: Also das ist halt wirklich so sehr nah. Und wie fähig die Dinger dann sind, das kann man noch sagen.
Linus Neumann: Von mir aus haben wir immer noch irgendwie einen Schalter. Aber.
Linus Neumann: Ich sehe uns gerade auf dem Weg dahin, dass der größere Teil der Computersysteme,
Linus Neumann: entweder Modelle ausführt, die wir eh nicht genau wissen, was die machen.
Linus Neumann: Die sind ja nicht deterministisch und nicht kontrollierbar.
Linus Neumann: Oder der Code, der noch irgendwo läuft, von den Modellen geschrieben wurde.
Linus Neumann: Und Human in the Loop, du erinnerst dich, was ich gerade gesagt habe,
Linus Neumann: bei der Geheimdienstgesetzreform, da sagt das BMI auch, ja, also Qualitätssteigerungen
Linus Neumann: wird das jetzt hier nicht bringen, wenn wir da einen von unseren Beamten nochmal reinsetzen.
Linus Neumann: Im Zweifelsfall nicht. Da ist kein Gewinn. Lass den einfach außen vor und lass,
Linus Neumann: erst draufhauen und nachher Fragen stellen. Und,
Linus Neumann: ich sehe leider gerade ein Anreizgefüge für alle beteiligten StakeholderInnen.
Linus Neumann: Genau das so gewähren zu lassen und diesen Weg zu gehen, da ist nirgendwo ein
Linus Neumann: ausreichend starkes Interesse im Sichtfeld,
Linus Neumann: Wo du sagen würdest, das wird's ausbremsen.
Linus Neumann: Da kommen wir dann doch nicht hin. Sondern ganz im Gegenteil.
Linus Neumann: Die Produktivitätsversprechen müssen eingelöst werden. Und so weiter und so fort.
Tim Pritlove: Trotzdem wirst du so eine Feuerschneise einziehen müssen.
Linus Neumann: Firewall meinst du?
Tim Pritlove: Keine Firewall, sondern so ein Bereich, wo das Feuer mal nicht so viel Futter hat.
Tim Pritlove: Also wo es nicht so schnell weiterlaufen kann, um einfach einen Flächenbrand,
Tim Pritlove: in irgendeiner Form auch noch unter Kontrolle bekommen zu können.
Tim Pritlove: Und da ist da der Human in the Loop wahrscheinlich doch die richtige Antwort.
Tim Pritlove: Es gab ja mal diesen alten Kalterkriegszeiten, wo es so eine Fehlmeldung gab.
Tim Pritlove: Dass die Amerikaner eine Atomrakete, dass jetzt gerade eine Atomrakete auf Moskau
Tim Pritlove: fliegen würde und ein Russe, der quasi da an dem Schalter saß,
Tim Pritlove: der hat dann gesagt, so, nee,
Tim Pritlove: glaube ich nicht, das stimmt.
Tim Pritlove: Macht einfach keinen Sinn an dem Moment. Ja, steht hier zwar,
Tim Pritlove: aber glaube ich nicht. Mache ich jetzt einfach nicht.
Tim Pritlove: Und natürlich kann diese Person, hätte sie auch genau in die andere Richtung entscheiden können.
Tim Pritlove: Trotzdem ist natürlich jetzt für diese Person in dem Moment nicht nur die reine
Tim Pritlove: Information relevant gewesen, sondern auch dieses Gefühl der potenziellen Auswirkungen kann das sein,
Tim Pritlove: ist das jetzt nicht ein bisschen irgendwas stimmt hier nicht.
Tim Pritlove: So dieses Gefühl und ich glaube, das ist so wie das, was diese LLMs noch nicht
Tim Pritlove: drauf haben. Einfach dieses Bauchgefühl, dass da was nicht stimmt.
Tim Pritlove: Und von daher müssen,
Tim Pritlove: solche Elemente mit drin sein.
Tim Pritlove: Die Geheimdienstreform wäre auf jeden Fall schon mal ganz gut damit,
Tim Pritlove: bestellt, hier nicht voll zu automatisieren, weil auch wenn das irgendwie rein
Tim Pritlove: technisch betrachtet irgendwo Sinn ergibt, dieses Argument, ist es halt am Ende,
Tim Pritlove: einfach ein echtes Problem.
Linus Neumann: Ja!
Tim Pritlove: Weil es wird einfach dazu führen, dass einfach alles ausgelesen wird. Bäm!
Tim Pritlove: Denen laufen dann irgendwie die Agenten davon und dann wird irgendwie alles
Tim Pritlove: gehackt, was bei drei nicht auf den Bäumen ist.
Tim Pritlove: Oder bei eins nicht schon irgendwie das Internetkabel rausgezogen hat.
Tim Pritlove: Also, naja. Mann, Mann, Mann. Das wird nicht einfacher ja alles.
Linus Neumann: Ja, also interesting times?
Tim Pritlove: Tja, mögen wir drin leben. Mögen wir in interessanten Zeiten leben. Chinesischer Fluch.
Linus Neumann: Okay. Ja, also das ist eine ja ein Alarmsignal und,
Linus Neumann: Ich glaube, ja, ich bin froh, dass wir es eben mal auf diesen unterschiedlichen
Linus Neumann: Ebenen betrachtet haben.
Linus Neumann: Also das Hacking als Mittel,
Linus Neumann: die Fähigkeiten, die diese Modelle eben entwickeln, nachdem sie jetzt halt genug
Linus Neumann: Code gelesen haben, die bei allen, die es versucht haben, fehlgeschlagene Kontrolle,
Linus Neumann: weil das Ding sich da halt rausheckt.
Linus Neumann: Und ja, bin ich mal sehr gespannt, wie das weitergeht.
Tim Pritlove: Gut, dann schauen wir noch mal, wie es so zeitlich so weitergeht und blicken
Tim Pritlove: mal auf die anstehenden Termine, die wir hier noch zu verkünden haben.
Linus Neumann: Genau, den 3. September haben wir schon gesagt, das ist der Attention Donnerstag, 20 Uhr im Continu.
Linus Neumann: Die Datenspuren sind vom 18. bis 20. September in Dresden, haben wir glaube
Linus Neumann: ich schon mal angekündigt, die kündigen sich immer sehr früh an.
Linus Neumann: Am 15. August hat der CFP geendet. Das soll damit auch nochmal hier mit am 26.
Linus Neumann: Auch nochmal verkündet.
Tim Pritlove: Deswegen haben wir das so früh angekündigt.
Linus Neumann: Und am 16. September nee, am 26. Entschuldigung, am 26.
Linus Neumann: September werden 10 Jahre Searchwing gefeiert.
Linus Neumann: Und Searchwing das sind die die Suchdrohnen bauen.
Linus Neumann: Für die Seenotrettung. Weil du eben, du hast das Boot, das fährt da rum.
Linus Neumann: Du weißt, du bist in einer Region, wo die Wahrscheinlichkeit,
Linus Neumann: dass du hilflose Menschen in Seenot findest, groß ist.
Linus Neumann: Und du kannst dich natürlich in der Luft sehr viel schneller bewegen.
Tim Pritlove: Die guten Drohnen.
Linus Neumann: Weiter gucken. Und ja, ich glaube, die haben halt dann sich eben Flüglerdrohnen gebastelt.
Tim Pritlove: Und wo findet das statt?
Linus Neumann: Weiß ich gar nicht.
Tim Pritlove: Im Betaniendamm.
Linus Neumann: Am Betaniendamm, genau. Und,
Linus Neumann: sie sagen nicht, wo. Ich hätte eine Idee.
Tim Pritlove: Aus Gründen.
Linus Neumann: Es gibt da nur eine Möglichkeit.
Tim Pritlove: Irgendwie Kreuzberg.
Linus Neumann: Genau. Und da soll also eine Solipathy für die Seenotrettung stattfinden,
Linus Neumann: das mehr als 10-jährige Bestehen des Searchwing e.V.
Linus Neumann: Wird gefeiert und das ist also in Berlin am 26.
Linus Neumann: September geht um 20 Uhr los, irgendwo am Britanniendamm und dann kommt um 22.30
Linus Neumann: gibt es einen Vortrag über Searchwing, wo das Projekt nochmal,
Linus Neumann: erklärt und vorgestellt wird, also Vergangenheit, Gegenwart und dann gibt es ab 21.30 The Party.
Linus Neumann: Mit DJs. Erstmal mit dem Chor und dann DJs.
Tim Pritlove: Also wenn du das bis dahin noch nicht gefunden hast, folgt einfach der Musik.
Tim Pritlove: Alright, Leute, dann war es das jetzt hier erstmal, die erste Bespielung und,
Tim Pritlove: hoffe, ihr hattet, fühltet euch unterhalten ein bisschen.
Linus Neumann: Und wir schreien es laut, ihr kriegt uns hier nicht raus.
Linus Neumann: Das ist unser Haus.
Tim Pritlove: Genau, bevor Linus jetzt singt, sagen wir einfach Tschüss, bis bald.
Tim Pritlove: Okay, das war's.
Linus Neumann: Ciao, ciao.