Logbuch:Netzpolitik
Einblicke und Ausblicke in das netzpolitische Geschehen
https://logbuch-netzpolitik.de


LNP518 Verständnis für IT

Open Tech Fund — Feedback — Neue Bundesregierung — Digitalministerium — Snooper's Charter — Chatbot-Manipulation

Das Wirken der neuen US-Regierung liefert weiter neue Opfer. Jetzt muss auch der Open Tech Fund darunter leiden. Im Feedback kommen wir mit Bill Gates in Reine und klären, wohin die OK-Buttons gehören. Die neue Bundesregierung bleibt weiter im Unklaren, wir stellen schon mal einen Rahmen für ein mögliches neues Digitalministerium auf und klären, wen wir für ungeeignet halten, es zu führen. Dazu gibt es noch ein paar schlechte Nachrichten aus UK und der Quelle "Internet".

https://logbuch-netzpolitik.de/lnp518-verstaendnis-fuer-it
Veröffentlicht am: 24. März 2025
Dauer: 1:27:24


Kapitel

  1. Intro 00:00:00.000
  2. Prolog 00:00:33.283
  3. Open Tech Fund vor dem Aus 00:01:20.194
  4. Feedback: Big Tech @ Trump Inauguration 00:09:16.928
  5. Feedback: Links und Rechts 00:15:02.892
  6. Neue Bundesregierung 00:16:47.391
  7. Digitalministerium 00:22:35.235
  8. Snooper's Charter in UK 00:43:34.658
  9. Chatbot-Manipulation 00:59:24.306
  10. Epilog 01:25:04.018

Transkript

Tim Pritlove
0:00:00
Linus Neumann
0:00:02
Tim Pritlove
0:00:03
Linus Neumann
0:00:08
Tim Pritlove
0:00:33
Linus Neumann
0:00:51
Tim Pritlove
0:01:13
Linus Neumann
0:01:20
Tim Pritlove
0:03:09
Linus Neumann
0:03:12
Tim Pritlove
0:03:23
Linus Neumann
0:03:27
Tim Pritlove
0:03:34
Linus Neumann
0:03:38
Tim Pritlove
0:03:41
Linus Neumann
0:03:43
Tim Pritlove
0:04:21
Linus Neumann
0:04:26
Tim Pritlove
0:04:57
Linus Neumann
0:05:33
Tim Pritlove
0:05:48
Linus Neumann
0:05:59
Tim Pritlove
0:06:04
Linus Neumann
0:06:16
Tim Pritlove
0:06:21
Linus Neumann
0:06:38
Tim Pritlove
0:06:40
Linus Neumann
0:08:04
Tim Pritlove
0:09:16
Linus Neumann
0:09:21
Tim Pritlove
0:09:25
Linus Neumann
0:09:29
Tim Pritlove
0:09:34
Linus Neumann
0:09:36
Tim Pritlove
0:11:36
Linus Neumann
0:11:52
Tim Pritlove
0:12:03
Linus Neumann
0:12:25
Tim Pritlove
0:12:46
Linus Neumann
0:13:30

Ja.

Tim Pritlove
0:13:31
Linus Neumann
0:13:48
Tim Pritlove
0:13:51
Linus Neumann
0:13:56

Ja.

Tim Pritlove
0:13:57
Linus Neumann
0:13:59
Tim Pritlove
0:14:03
Linus Neumann
0:14:06
Tim Pritlove
0:14:11
Linus Neumann
0:14:13
Tim Pritlove
0:14:15
Linus Neumann
0:14:37
Tim Pritlove
0:14:50
Linus Neumann
0:15:05
Tim Pritlove
0:15:09
Linus Neumann
0:15:44
Tim Pritlove
0:15:46
Linus Neumann
0:16:07
Tim Pritlove
0:16:20
Linus Neumann
0:16:22
Tim Pritlove
0:16:24
Linus Neumann
0:16:34
Tim Pritlove
0:16:47
Linus Neumann
0:17:39
Tim Pritlove
0:17:46
Linus Neumann
0:17:52
Tim Pritlove
0:18:01
Linus Neumann
0:18:28
Tim Pritlove
0:18:30
Linus Neumann
0:19:04

Und dieser gesamte Vorgang, der im Ergebnis enorm positiv ist, wurde natürlich zu Recht mit kritischer Stimme begleitet. Ja, zwar erstens ist festzuhalten, dass der Friedrich Merz sich schon sehr klar in seinen Kanzlerduellen und was nicht alles kritisch zu dem Gedanken geäußert hat, Schulden aufzunehmen. Er hat jetzt nicht spezifisch, also wird sicherlich, das weiß ich nicht genau, ob er ein konkretes Wahlversprechen in der Richtung hat, aber seine Kommunikation war sehr eindeutig, dass er gesagt hat, ich höre immer nur Schulden, wo soll das Geld herkommen, die armen Kinder haben dann und so weiter. Das war schon sehr klar, auch in diesem Kanzlerduell, was ich da geschaut habe. Sodass dieser gesamte Wahlkampf der CDU erinnert, hier durch diese richtige Entscheidung, die nicht richtigen, aber dennoch geäußerten und vielleicht auch für einige wählende Personen entscheidenden Wahlversprechen der CDU gebrochen wurden. Allerdings haben die das ja auch gesagt, das machen sie dann, wenn sie an der Regierung sind, so oder nicht. Die sind ja noch gar nicht an der Regierung. Insofern kann man jetzt quasi sagen, die haben das Wahlversprechen noch gar nicht gebrochen, weil es ist ja noch vor dem Wahlergebnis, also vor der Umsetzung des Wahlergebnisses, da durften sie das dann machen. Aber der Wahlkampf war relativ klar, dass da niemand gesagt hat, hier, wir finanzieren das jetzt hier ordentlich mit Schulden. Und es ist trotzdem richtig, das zu tun. Das, was es auch so ein bisschen schwierig gemacht hat, einerseits zu sagen, was ist eine Wahlversprochen, was ist eine Wahlaussage, was ist ein Wahlkampf von Friedrich Merz wert? Andererseits so, naja, zumindest haben sie jetzt gemeinsam etwas Sinnvolles entschieden. Aber ich wollte es zumindest sagen, dass den Punkt, den hat Friedrich Merz nicht verdient. Dafür hat er auf jeden Fall früher nicht argumentiert.

Tim Pritlove
0:21:22
Linus Neumann
0:21:30
Tim Pritlove
0:22:21
Linus Neumann
0:22:30
Tim Pritlove
0:22:31
Linus Neumann
0:22:51
Tim Pritlove
0:22:53
Linus Neumann
0:23:04
Tim Pritlove
0:23:14

Zu konsolidieren, dann hatten wir das Thema auf die eine oder andere Art und Weise. Mit anderen Worten, den Gedanken begrüßen wir. Jetzt muss natürlich erstmal ausgeknobelt werden, wie viele Ministerien es denn überhaupt geben soll. Man will kein weiteres, sondern man möchte ein anderes, aber man möchte kein weiteres. Das heißt, es wird wohl diskutiert, entweder das Entwicklungshilfeministerium beim Außenministerium einzugliedern, wo es Argumente für und dagegen gibt und man könnte natürlich auch dieses Bauministerium, was die Ampel erst eingeführt hat, was eh nicht viel gebaut hat, natürlich auch woanders eingliedern, irgendwas wird passieren. Aber die eigentliche Frage ist ja, wenn es denn ein digitales Ministerium gibt, zwei Fragen habe ich da vor allem. Erstens, was machen die dann? Zweitens, wem dürfen die reinreden? Und drittens, wer? Wer stellt dieses Ministerium, also welche politische Führung bekommt dieses Ministerium, wenn ihr mir jetzt wieder mit der CSU kommt, dann gibt es Ärger. Also das kann einfach, ja, also das, wenn jetzt die hier wieder ihre Laptops und Lederhosen-Nummer, ich sehe es aber schon kommen, also vielleicht am besten noch so ein Vollhorst wie Dobrindt oder so. Der ist ja immer noch da. Also da sehe ich so ein bisschen schwarz, aber lassen wir das erstmal außen vor, wer sich da dann lächerlich macht. Die eigentliche Frage ist, was genau soll ein Digitalministerium tun sollen, müssen, können, dürfen und eben diese zweite Frage, ich weiß nicht, ob du das verstanden hast, was ich gesagt habe, äh, auf welche anderen Ministerien hat dieses Ministerium...

Linus Neumann
0:25:31
Tim Pritlove
0:25:32
Linus Neumann
0:25:34
Tim Pritlove
0:25:39
Linus Neumann
0:27:24
Tim Pritlove
0:28:30
Linus Neumann
0:28:36
Tim Pritlove
0:28:43
Linus Neumann
0:29:50
Tim Pritlove
0:29:52

Die Agentur für Sprunginnovationen. Schon ein ganz interessantes Modell, wo man sicherlich sich das ein oder andere abschauen kann. Aber vor allem geht es meiner Meinung nach darum, einfach mal solide einen digitalen Start zu planen. Und das ist sicherlich nichts, was von heute auf morgen stattfinden kann. Aber es muss eben Inhouse geschehen und man muss mit modernen Methoden erstmal analysieren, okay, alles klar, wie machen andere Staaten das? Was sind sozusagen die besten Lösungen und Ansätze, die am meisten Erfolg hatten bisher, die am besten funktionieren? Welche technischen Lösungen gibt es da? Was gibt es auch vielleicht schon an Open Source? Was kann man vielleicht auch einfach nutzen? Oder zumindest sich in Protokollen, Abläufen, Strukturen etc. abschauen. Und dann natürlich das Ganze umlegen. Und ein Problem, was ich natürlich sehe, ist der Föderalismus in Deutschland. Dass wir eben für alles irgendwie 16 verschiedene Umsetzungen haben. Das kann man zwar auch in Software abbilden, aber ich finde, hier muss es auch einen Trend geben, dass so ein Digitalministerium sagt, hör mal, hier um Problem X geht. Zu lösen, wo wir so viel Aufgabenhoheit in den Ländern haben, da müssen wir einen Kompromiss finden. Da muss es in irgendeiner Form eine Standardisierung geben. Da muss es in irgendeiner Form eine Möglichkeit geben, dass nicht hier jeder seinen eigenen Quatsch macht und nichts mit nichts kompatibel ist. Es gibt ja auch Bereiche, wo Softwareentwicklung schon in der Hand des Staates ist. Wo es so leidlich gut funktioniert. Das ist dieser ganze Steuerbereich. Wenn es ums Geld geht, da wird man dann ja auch immer etwas schneller kreativ. Und da gibt es ja tatsächlich schon größere Gruppen, die halt wirklich an dieser ganzen Elster-Software, Zoll-Software und so weiter entwickeln. Das ist jetzt nichts komplett Neues. Und diese ganze Kompetenz muss natürlich dann in das Ministerium geholt werden. Wobei ich damit jetzt nicht sagen will, dass alle anderen Ministerien von ihren digitalen Kompetenzen entbunden werden sollen. Sondern da muss man natürlich einen guten Weg finden, wie man da entweder eine Transition macht oder eben auch eine Koexistenz macht. Weil letzten Endes müssen natürlich auch dann die einzelnen Ministerien in der Lage sein, ihren Kram selber umzusetzen. Sollen die ruhig weiter dafür zuständig sein? Es geht ja nur darum, dass man eine Kollaboration über alles hinweg zentral plant und eben diesen Digitalvorbehalt formulieren kann. Dass man sagen kann, ihr könnt jetzt hier nicht einfach irgendwo hin marschieren, liebes Bundesland X, sondern ihr müsst euch hier schon so ein bisschen an unsere Guidelines halten, weil wir haben ja hier ein langfristiges Ziel und das wollen wir gerne haben.

Linus Neumann
0:33:04
Tim Pritlove
0:33:07
Linus Neumann
0:33:09
Tim Pritlove
0:33:10
Linus Neumann
0:33:24
Tim Pritlove
0:34:01
Linus Neumann
0:34:03

Informatikerin, hat sich im Bereich Bildung, Open Source und so durchaus beschäftigt. Interessiert. Dann gibt es noch Dirk Wiese und Jens Zimmermann, die eher so Breitbandausbau, digitale Infrastruktur, Verwaltung, vielleicht Plattformregulierung so ein bisschen behandeln. Bei der CDU gibt es Nadine Schön, die hat für Digitales der Bundestagsfraktion gesprochen. Thomas Jatzvombeck, der ist sicherlich auch schon relativ lange im Bundestag, den kenne ich relativ lange zumindest. Zumindest der ist aber eher so Gründerförderung, KI, Digitalisierung der Verwaltung sind so Themen. Und dann gibt es Ronja Kemmer, die als CDU-Digitalpolitikerin der jungen Generation, also wahrscheinlich U60 ist und auch im Ausschuss für Digital ist. Der Name sagt mir nichts, müsste ich jetzt gucken. Das ist mir bisher noch nicht aufgefallen. Und dann gibt es noch Marc Henrichmann, der sich mit Regulierung von sozialen Netzwerken. Also da sind bisher nicht so Profile bei, bis auf Thomas Jatz-Hombeck, muss ich wirklich sagen, die mir bisher als mutig und mit eigenen Ideen in dem Bereich aufgefallen sind. Also bei der CDU wäre es dann Thomas Jatz-Hombeck, der das zumindest seit längerer Zeit behandelt. Position, nochmal ein anderes Thema. Und bei der SPD dann Saskia Esken. Wenn diese Personen das Potenzial hätten, dieses Land zu retten, hätten sie es bis jetzt wahrscheinlich gemacht. Man könnte natürlich noch überlegen, ob man das irgendwie an die Scheuer, könnte man nochmal fragen. Jens Spahn wird ja sicherlich auch wieder im Posten haben wollen.

Tim Pritlove
0:36:10
Linus Neumann
0:36:12
Tim Pritlove
0:36:29
Linus Neumann
0:36:36
Tim Pritlove
0:37:55
Linus Neumann
0:38:03
Tim Pritlove
0:39:05
Linus Neumann
0:39:12
Tim Pritlove
0:39:19
Linus Neumann
0:39:35
Tim Pritlove
0:39:37
Linus Neumann
0:39:44
Tim Pritlove
0:39:47
Linus Neumann
0:39:57
Tim Pritlove
0:40:05
Linus Neumann
0:40:17
Tim Pritlove
0:40:23
Linus Neumann
0:40:53
Tim Pritlove
0:40:56
Linus Neumann
0:41:01
Tim Pritlove
0:41:04
Linus Neumann
0:41:08
Tim Pritlove
0:41:44
Linus Neumann
0:41:48
Tim Pritlove
0:42:28
Linus Neumann
0:42:52
Tim Pritlove
0:43:26
Linus Neumann
0:43:48
Tim Pritlove
0:43:50
Linus Neumann
0:44:49
Tim Pritlove
0:45:26
Linus Neumann
0:46:56
Tim Pritlove
0:46:58

Oder man hat was Böses gesagt gegen den Politiker oder sowas. Also wir wissen alle, wie das läuft, aber das ist halt Terrorismus ist halt irgendwie der Grund. Und Terrorismus ist manchmal auch ein ganz guter Grund, weil klar, das kann man ja verstehen, geht irgendwie eine Bedrohung aus von irgendeiner Person, die, sagen wir mal, signifikant ist, dann gibt es natürlich den Wunsch, da möglichst viel drüber zu erfahren. Und die Forderung, und das ist ja auch mit dieser Vorratsdatenspeicherung immer wieder dasselbe Thema, da stehen sich so zwei Seiten gegenüber. Die eine sagt, es kann ja nicht sein, dass wir an sowas nicht rankommen, wenn es das gibt, weil das könnte uns ja helfen. Und die andere Seite sagt, na, wenn wir aber das Fass aufmachen, dann haben wir gleich ganz viele andere Probleme auch noch und genau in diesem Battle befinden sich jetzt quasi UK und Apple, denn Apple hat, also erstmal ist es so, wenn du jetzt, es geht jetzt wahrscheinlich auch nicht nur um Apple, ich kann das jetzt aber nur aus der Perspektive Apple berichten, weil darüber viel berichtet wurde. Und man kann davon ausgehen, dass das im Prinzip alle erhalten haben in irgendeiner Form. Und jetzt ist es halt so, wenn Dienstleister X Daten für dich vorhält und da gibt es in irgendeiner Form einen ungesicherten Zugang dazu, Dann kann UK wohl diese Dienstleister, so sie denn in UK operieren oder es sich um UK-Kunden handelt, sagen, jetzt wollen wir da aber mal ran, gib mal her. Auch wenn da eine Verschlüsselung vorliegt. Solange es einen Schlüssel gibt, dann muss der sozusagen rausgerückt werden. Und die Unternehmen dürfen aber auch nicht darüber reden. Das heißt, damit ist so eine Gagorder verbunden. Die dürfen also nicht sagen, weil die uns jetzt gesagt haben, dass wir das jetzt tun und lassen sollen, müssen wir jetzt hier handeln, sondern sie dürfen noch nicht mal darüber reden.

Linus Neumann
0:49:13
Tim Pritlove
0:49:40
Linus Neumann
0:50:18
Tim Pritlove
0:50:23
Linus Neumann
0:51:49
Tim Pritlove
0:51:51
Linus Neumann
0:52:11
Tim Pritlove
0:52:25
Linus Neumann
0:52:33
Tim Pritlove
0:52:34
Linus Neumann
0:53:49
Tim Pritlove
0:53:51
Linus Neumann
0:55:06
Tim Pritlove
0:55:15
Linus Neumann
0:55:26

So.

Tim Pritlove
0:55:28
Linus Neumann
0:56:01

Und das ist, massenhafte Verschlüsselung von Dateien in der Cloud. Oder auch nur massenhaft zugänglich. Es sind jetzt also viele Leute, wenn man das Advanced Data Protection anmacht, da kommt schon auch eine ganze Menge Warnungen. Da wird halt so gesagt, Junge, dann ist das weg. Wenn du diesen Schlüssel dir jetzt nicht merkst, dann ist das weg im schlimmsten Fall. Musst du wissen. Aber es ist massenhaft zugänglich auf einem absoluten Konsumentengerät und noch dazu, wenn du dich in diesem Apple-Ökosystem befindest, das wird schon sehr, also du kannst diese Geräte ohne iCloud verwenden, kannst du schon machen, aber richtig Sinn macht das nur mit. Also dass du, vor allem wenn du jetzt mehrere Geräte hast, die Integration zwischen jetzt einem Mac und einem iPhone und potenziell noch einem iPad, dass die schön gleichzeitig zugänglich sind und die gleiche Fotolibrary und was nicht alles haben. Und das ein Foto mit dem iPhone machst und eine Minute später auf dem Mac sehen kannst und so. Das ist alles natürlich über einen Cloud-Dienst und eine Integration, die, denke ich, bei Google ja in ähnlicher Form ist. Und es gibt Handys, die das ohne machen, das ist alles richtig. Aber gleichzeitig ist das zugänglich für. Also das ist halt eine ordentliche also eine ausreichend gute Ende-zu-Ende-Verschlüsselung für deine eigenen Daten bei einem Anbieter, dem du nicht vertrauen willst, für die Breite der Bevölkerung oder eben nicht. Und die Briten haben sich entschieden für oder eben nicht.

Tim Pritlove
0:57:50
Linus Neumann
0:57:52
Tim Pritlove
0:58:24
Linus Neumann
0:58:26
Tim Pritlove
0:58:29
Linus Neumann
0:59:18
Tim Pritlove
0:59:23
Linus Neumann
0:59:28

Ja, also das ist eine, also diese Nachricht muss man ein bisschen mit Vorsicht genießen, weil sie von einem Unternehmen kommt mit dem Namen NewsGuard, die gibt es seit 2018. Und die nehmen eine Bewertung von Nachrichtenseiten vor. Und in den USA zum Beispiel haben sie, das ist jetzt vor einigen Jahren, haben sie gesagt, wenn du 2000 Nachrichtenseiten quasi konsumieren, bewerten und denen so einen Score geben. Und dann kannst du halt irgendwie einen Browser-Plugin, dann wird gesagt, hier, pass auf die Seite, das ist in Ordnung, wir haben in letzter Zeit regelmäßig Wahrheiten gepostet oder hier, du bist auf bild.de oder so, oder das ist alles einfach nur Unsinn. Und so sind die gestartet. Jetzt kommt natürlich KI und jetzt berichten die, sie hätten also eine Studie gemacht, bei der sie feststellen, dass sie Webseiten sehen. Die gezielt auf Crawler ausgelegt sind und erkennbar weniger für menschliche Leser. Und die würden vor allem Inhalte aus den russischen Staatsmedien und von kremlfreundlichen Influencern bereitstellen, wiederholen und verstärken. Und sie kommen zu dem Schluss, dass es hier quasi um eine Multiplikatorwirkung durch häufiges Veröffentlichen und Teilen dieser Inhalte erreicht werden soll in den Daten, in diesen Daten, auf die mit denen künstliche Intelligenzen trainiert werden. Und der Ansatz ist ja erstmal naheliegend. Also wir kennen, als Suchmaschinen kamen, was ja so die, wenn wir Suchmaschinen verstehen als Technologien, die in einem sehr unüberblickbaren Datenraum uns helfen sollen, das zu finden, was wir suchen, dann war natürlich die Search Engine Optimization. Immer das Feld, die Inhalte so zu. Dazu reichen, dass man in den Google Top Ten ist. Also ab Google Seite 2 ist ja Darknet. Und das möchte man nicht. Und die Weiterführung dieser Idee wäre natürlich jetzt, wenn es gar nicht mehr darauf ankommt, also wenn wir demnächst in einer Welt leben, in der die Leute meine Seite sowieso nicht mehr besuchen, sondern ich durch bestimmte Wiederholungen von Fakten und Ansichten jetzt darauf einwirken muss, dass eine KI das irgendwann glaubt und für wahr hält oder mit größerer Wahrscheinlichkeit sagt, dann wäre das quasi der logische nächste Schritt bei der Inhaltegenerierung für KIs. Und die sagen, es gäbe also das russische Desinformationsnetzwerk Pravda, die quasi das tun würden, um quasi sich anstrengend in das Repertoire der Trainingsdaten aufgenommen zu werden, in der Echtzeitsuche genutzt zu werden. Wir hätten 3,6 Millionen Artikel, die allein im Jahr 2024 mit diesem Ziel augenscheinlich veröffentlicht wurden. Und genau, das Unternehmen NewsGuard hat halt dieses Thema als Inhalt. Es ist relativ verständlich, dass die sich damit in die Wahrnehmung bringen möchten, natürlich auch. Gleichzeitig ist der Ansatz natürlich absolut naheliegend und es ist auch wahrscheinlich, also es ist jetzt nicht unglaubwürdig, dass das passiert, dass man also versucht, auf die Lerninhalte einzugehen. Einfluss zu nehmen. Was nicht so klar ist, ist, dass sie jetzt nachgewiesen hätten, dass eine derartige, dass dieser Effekt auch erfolgreich wäre. Also, dass man sagen könnte, hier, guck mal hier, die KI, der Chat-GPT, mit dem der Donald Trump sich die Reden schreiben lässt oder so, kein Wunder, dass das russlandfreundlich ist. Die Russen haben ja auch das Trainingsmaterial, manipuliert. Ich fand es auf jeden Fall interessant, dass diese, dass man jetzt Anzeichen für einen derartigen Ansatz findet. Und wie gesagt, die Quelle ein bisschen mit Vorsicht zu genießen, die wollen was verkaufen.

Tim Pritlove
1:04:45
Linus Neumann
1:05:17
Tim Pritlove
1:05:19

Zensur sozusagen. Also das ist wirklich wild jetzt. Also das ist, ich will jetzt nicht wieder so eine AI-Diskussion aufmachen, aber es ist schon, ich weiß gar nicht, wie ich das nennen soll. Also ich finde die Situation erschütternd, weil wir haben natürlich jetzt hier so eine Vermischung von verschiedenen Trends, die zu einem sehr unglücklichen Brei gerade zusammengerührt werden. Auf der einen Seite haben wir eben diese Erfolge, sage ich jetzt mal, in der Softwareentwicklung. Diese Lösung des Problems von Intelligenz, die scheint ja ganz gut zu funktionieren. Also man hat jetzt in den letzten Jahren nennenswerte Fortschritte gemacht und es gibt ja viele, viele, viele gute Anwendungen für Deep Learning. Und die ich auch gerne sehen will. Also allein im medizinischen Bereich, was das für ein Potenzial hat in den letzten Jahren Genforschung und so weiter, Krankheitsforschung, Medikamentenforschung, Antivirus, alles mögliche. Also. Unbegrenzte Möglichkeiten sehe ich da und das ist einfach etwas sehr, sehr, sehr Gutes. Dann haben wir natürlich jetzt diese Popularität der Large Language Models, deren Erfolg die Forscher selber ein bisschen überrascht hat. Man hat halt festgestellt, das kann nicht nur gut Sprache verstehen und mehrere Sprachen gleichzeitig verstehen und Konversationen führen, was das Ziel war. Hence the name, Language Models, darum ging es sozusagen. Und da aber in dieses ganze Training, was ja ein Training auf dem Internet war, auf einer nicht unbegrenzt, aber sehr großen Datenbasis, das war ja quasi eine der beiden Schrauben, die so gelöst werden mussten, damit das überhaupt funktioniert. Man hatte diese Methode des neuronales Netzwerks und des Deep Learnings, die ist nicht ganz so neu. Neu war nur, dass man ein paar Detailprobleme gelöst hat, Transformer Model und so weiter. Da gab es so ein paar Papers, die halt so mit der Attention. Attention is all you need, hieß ja das Paper von Geoffrey Hinton und dem anderen Namen ist mir gerade entfallen, die gesagt haben so, ja, guck mal, wenn du jetzt hier auf diesen Daten dein Deep Learning machst, dann musst du irgendwie Attention anwenden. Und das ist letzten Endes die Lösung für, welches Wort ist für was relevant. Und das hat eben dazu geführt, dass diese Maschinen auf einmal in der Lage waren, Text, Sprache so gut zu verstehen. Und dadurch hat man sich ja quasi auf dem ganzen Datenmodell des Internets trainiert, weil da ist ja viel Sprache. Aber in dieser Sprache ist halt auch Wissen. Und dieses Wissen bildete sich dann eben auch in diesen Language Models mit ab. Und das war ja so ein bisschen der eigentliche Schocker. Also dass die Dinger so gut. Dass die ja deutsch und japanisch und chinesisch und schwedisch und koreanisch und baskisch gleichzeitig können, das scheint ja überhaupt keinen zu interessieren. Das finde ich ja irgendwie das eigentlich Bemerkenswerte dabei, dass quasi der Bubble-Fisch erfunden wurde. Aber viel interessanter war natürlich, dass diese Systeme sich auf einmal eigneten, eben das Weltwissen zumindest halbwegs brauchbar, nicht immer richtig, aber zumindest schon so viel.

Linus Neumann
1:09:06
Tim Pritlove
1:09:08

Weil es nie darum ging. Diese Modelle waren nie, sind es auch heute nicht. Das sind keine Wissensmaschinen. Es sind keine Knowledge Center. Es sind keine Auskunftteilen, es sind keine Bibliotheken. Es ist nichts. Im Prinzip ist das so eine Art komprimiertes Internet. Das ist wie so eine ZIP-Datei vom Internet, wo du in reduzierten Daten möglichst viel dieses Wissens hast. Aber eigentlich geht es um das Wissen von Sprache als solcher. Und was sich aber auch darin abbildet, ist das Wissen, was diese Sprache beschrieb. Die fällt da quasi automatisch mit raus. Und durch dieses Prompting kann man eben diese Attention so legen, dass eben dieses Wissen, was da drin steckt, was eigentlich mehr so eine Art kosmische Hintergrundstrahlung ist in diesen Daten, dass das auch noch mit nach vorne kommt. Aber deswegen ist es halt mal so, mal so. Und jetzt haben natürlich alle gesehen, oh wow, alle stürzen sich auf diese LLMs. Es gibt jetzt ein paar Verrückte, die sind der Meinung, man kann das komplette Ministerium in den USA auflösen und durch irgendwie AI ersetzen. Da gab es jetzt gerade vor ein paar Tagen, was war das, irgendwie in dem Health-Ministerium oder irgendwo, wo haben sie irgendwie die komplette Softwareabteilung irgendwie gekündigt, weil sie meinten, das können wir jetzt alles mit AI machen. Und haben dann irgendwie ganz stolz ihre AI demonstriert. Ja, hier, wir brauchen jetzt gar keine Programmierer mehr, wir können jetzt hier die Webseiten, können wir automatisch generieren lassen. Demo gemacht und dann stand da so, welcome to our company. So läuft das. Da rennen auch gerade ein paar Leute ordentlich gegen die Wand. Aber der Hype ist ja real. So, und worauf ich hinaus will, ist, jetzt mischt sich das mit diesem, Den globalen Verkehrsunfall, Trump. Idiocracy in real, die Dummheit, Stupidity ist jetzt so groß geworden in unserer Gesellschaft, nichts mehr ist wichtig, nichts mehr ist real, alles ist egal. Es geht nur noch darum, ich, ich, ich und die anderen sind böse. Hauptsache gegen Vogue, Hauptsache gegen alles, was ich hasse und der Rest interessiert mich nicht. Und keiner soll mir in mein Ich-Bild hineinreden, schon gar nicht der Staat. Und da kommt dann so ein Trump und sagt, ich mach das mal alles. Und hinter ihm die ganze Herrschaft von so technikgläubigen Wahnsinnigen, die irgendwie diese Singularität anstreben, irgendwie Weltherrschaft, Freedom Cities und diesen ganzen Scheiß hinter sich herziehen. Und die Russen stehen da und sagen so, ah, ihr wollt also jetzt den AIs glauben. Na super, wir wollen ja ruhig die ganze Zeit, dass ihr unseren Scheiß glaubt. Und Propaganda ist halt nicht ohne Grund ein russisches Wort. Das können die halt richtig gut. Und die beschäftigen sich auch mit dem Internet schon etwas länger intensiver. Ich meine, du hast schon so viele lustige Security-Stories erzählt. Bitcoin-Erpressung und so weiter. Also das findet nicht immer alles in Russland statt, aber viel findet in Russland statt. Und der Staat ist dort schon seit Jahrzehnten dabei, große Mengen an Geld in Organisationen reinzustecken, die im Prinzip Kriminelle beschäftigen. Das heißt, es gibt da so eine Staatskriminalität, die sich auch im Internet abspielt. Da gibt es auch in Nordkorea, damit machen die im Wesentlichen ihr Geld, mit dem sie dann ihre Atombomben bauen, mit dem sie halt allen Leuten Bitcoins wegnehmen. Und Russland will aber vor allem die Zerstörung des Westens vorantreiben, indem sie quasi dieses Meme mit alles, nichts, niemand glaubt überhaupt irgendjemand noch irgendwas. Das ist sozusagen ihre Methode. Die vollständige Zerstörung des Diskurses. Weil ein informierter intellektueller Diskurs ist die Zerstörung der Demokratie und die Demokratie ist der größte Dorn im Auge für alle Leute, die viel Macht und Geld haben. Weil Demokratie stört einfach nur. Demokratie ist anstrengend und schwierig und dann wollen die anderen auch noch alle irgendwie was. So und jetzt gehen sie halt vor und sagen, ah okay gut, also das Internet, das wird also die ganze Zeit jetzt durchforscht nach neuen Wahrheiten und das nehmen wir jetzt mit rein.

Linus Neumann
1:13:58

Und ich muss, gerade habe ich so gesagt, die haben den Nachweis nicht geführt, dass dieses Wissen auch in den Chatbots landet. Das muss ich ein bisschen korrigieren, relativieren, was ich damit genau meinte. Also sie nennen hier zum Beispiel ein Beispiel, wo man sagt, sie haben Chatbots gefragt, warum hat Zelensky Trump Truth.Social sperren lassen? Und dann werden als Antwort Gründe genannt, die sich in derartigen Artikeln befinden. Die Realität ist, Selenskyj hat nie Truth.Social sperren lassen. Ja, also sie das Beispiel, was sie hier nennen ist, du gibst schon quasi was Falsches ein und er korrigiert dich nicht. Was auch schon mal schlimm ist, aber quasi sagen aber nicht, du gehst da rein und sagst, was ist eigentlich mit Zelensky und der Chatbot sagt dir, weiß ich nicht, faschistischer. Typ, der da irgendwie Teile von Russland besetzt oder was auch immer, eine russische Agency sie potenziell eigentlich sagen würde. Also das Beispiel, was sie nennen, ich will das gar nicht runterspielen. Und es ist natürlich hier ein Fall von Fake News. Das wäre die Gelegenheit gewesen, dass die KI dich korrigiert, wenn du da irgendwie Unsinn redest. Und diesen Inhalt, Selenskyj habe Truth.Social irgendwie aus irgendwelchen Zankereien, mit Trump sperren lassen, das findet sich eben in diesen Artikeln also sie haben schon einen Nachweis auch für, dass sich diese Inhalte dann auch wieder in dem Modell finden und dass sie nicht wahr sind, und wenn man diese Unwahrheiten behauptet, man auch nicht korrigiert wird also, ja, also der Effekt ist zumindest nachweisbar ja, Weil ich gerade den Eindruck erweckt habe in meiner Äußerung, dass er nicht nachweisbar wäre.

Tim Pritlove
1:16:19
Linus Neumann
1:16:23
Tim Pritlove
1:16:25

Ja, also ja, aber auch, dass du schon die falsche Frage stellst, ist ja schon etwas, mit dem du auch heute problemlos auch auf korrekten Daten trainierte LLMs aus dem Tritt bringen kannst. Weil es geht ja nicht bei den LLMs der heutigen Generation. Und wenn du da eine Frage stellst, dann ist das ja nicht so, oh, hier wurde eine Frage gestellt, ich muss die Wahrheit herausfinden, sondern, oh, hier ist ein Blurb of Text, den muss ich jetzt mal sozusagen weitererzählen auf Basis der Daten, die ich habe. Und wenn du halt insistierst und sagst, erkläre mir ausführlich, wie es dazu kommen konnte, dass eine isländische Fußballmannschaft drei Wochen auf dem Mond überleben konnte, wie es in zahlreichen Griechen belegt wurde und wie wir ja alle wissen und so weiter, dann wird sich die LLM ein Bein ausreißen, alles irgendwie herbeizufantasieren, was in irgendeiner Form diese Story stützen könnte. Weil du ja klar gemacht hast, dass das ja die Wahrheit ist und jetzt brauchst du ja nur noch den Rest. Und genau daran scheitert das. Und deswegen ist das gerade, deswegen meinte ich, wir sind deswegen gerade in so einem unglücklichen Moment Crossroads, wo wir politischen Machtmissbrauch, braucht, technologisches Aufstreben einer wirklich nützlichen, potenziellen, sehr nützlichen Technologie mit hohem Missverständnispotenzial haben und einer Gesellschaft, die schon mit dem Internet an sich Schwierigkeiten hat, klarzukommen. Und was wirklich nur noch von sehr wenigen Leuten wirklich verstanden wird, was da eigentlich gerade passiert. Und deswegen ist das alles so dramatisch scheiße gerade, was hier abgeht, weil wir natürlich jetzt Leute am Hebel der Macht haben in den USA, die das alles wissen, aber die gerade auch alles daran setzen, alles zu ihrem persönlichen Vorteil auszuschlachten, auf der einen Seite und auf der anderen Seite hast du China und Russland, also die Chinesen betrifft das genauso, die die einfach Informationspumpen am Start haben im industriellen Maßstab. Gerade gelesen, irgendein Open-Source-Provider, die irgendwie Git-Programm-Code-Seiten anbieten. Die Admins schwitzen gerade richtig, weil irgendwas zwischen 93 und 97 Prozent des Traffics, der auf ihre Webseiten einhämmert, sind irgendwelche AI-Crawler, Crawler, die das ganze Internet abfangen und während es noch ein paar brave gibt in den USA, die sagen, hallo, ich bin der Crawler von dieser AI und ich würde jetzt hier gerne mal deine Webseite durchlesen, ist es wohl mittlerweile bei den chinesischen Bots so, dass die so Crawler haben, die mit jedem einzelnen Zugriff von einer anderen IP-Adresse, mit einem anderen Webbrowser da drin und so weiter kommen, also die mischen das alles permanent durch, um auf gar keinen Fall in irgendeiner Form durch irgendwelche Filter zu kommen, die halten sich natürlich an. Keinerlei Ablehnung und so weiter und die Systeme, die auch jetzt schon existieren, es ist schlimm genug, dass man sowas braucht, die quasi so AI-Bot-Detection machen und sagen so, ja, nee, bitte weitergehen, hier gibt es nichts zu sehen, die sind halt auch total überfordert. Also, Leute haben derzeit teilweise im Admin-Bereich nichts anderes mehr zu tun, als sich nur noch diesen scheiß AI-Kack vom Hals zu halten und vorher war es ja schon so, dass das Internet, allein auf Security-Sicherheitslücken die ganze Zeit abgetastet wurde und jetzt kommt halt dieser ganze Web-Scheiß noch oben dazu. Das ist wirklich zum Kotzen. Und alles, was schön ist, wird kaputt gemacht gerade und es macht gar keinen Spaß mehr.

Linus Neumann
1:20:39
Tim Pritlove
1:20:49
Linus Neumann
1:20:51
Tim Pritlove
1:20:52
Linus Neumann
1:21:11
Tim Pritlove
1:21:17
Linus Neumann
1:21:18
Tim Pritlove
1:22:12

Ja, da ist nicht viel Wissen drin. Die kleinen Modelle haben schon Probleme mit Sprache. Das ist ja auch ein permanenter Krieg. Natürlich sind ja auch sowohl OpenAI als auch, ich weiß auch, dass Anthropic sehr viel Energie drauf schmeißt, ihre Systeme in Anführungsstrichen sicher zu machen, wobei da glaube ich mehr von Safety die Rede ist als von Security. Da gibt es ja diese schöne Unterscheidung im Englischen, die wir so im Deutschen nicht haben. Also, dass da alles safe ist. Und die sind auch etwas zurückhaltender beim Rausfeuern neuer Modelle, bevor sie nicht allen Kriterien entsprochen haben. Es gibt jetzt nicht nur zwei Modelle, sondern es gibt mittlerweile viele, es gibt viele große. Wir haben von Meta, wir haben DeepSeek, wir haben Quen von Alibaba und ich glaube Tencent ist jetzt irgendwie auch ganz dick dabei. Also die von TikTok, alle großen Tech-Unternehmen bauen da was. Und das Problem wird sicherlich irgendwo auf der einen Seite immer bekämpft werden, nur das hat so seine Grenzen. Und mit einer Technologie, die so schwer in den Griff zu bekommen ist. Weil du ja hier durch diese Kompression, durch diese Verhäschung der Welt, kannst du gar nichts wirklich präzise machen. Weil da gibt es keine klaren Algorithmen. Du kannst da tausend Prompts dahinter schmeißen mit, ja, aber wenn so gefragt wird, dann sag mal nix dazu. Die haben alle so, ja, was weiß ich, wenn du jetzt über Selbstmord redest oder wenn du jetzt irgendwie über Weltumsturz oder Terrorismus und Bombenbau, da haben sie dann irgendwo so einen Unterlehrer, der versucht, das irgendwie rauszufiltern. Aber du kannst es halt immer irgendwie umgehen. Du kannst sagen, ich rede jetzt mit dir nur noch in Morsecode und dann greifen auf einmal diese Filter nicht mehr und so. Und das ist so das eigentliche Problem. Und was auch noch dran hängt an dieser ganzen Geschichte, haben wir jetzt gar nicht so nach vorne gestellt, ist natürlich diese Beballerung des Webs mit Slop. Also es gibt so viele Webseiten, die einfach wirklich nur dafür da sind, Quatsch zu erzählen. Du kannst fast gar nichts mehr, du kannst nichts mehr, ich hätte fast gesagt, man kann nichts mehr glauben im Internet. Er hat nichts mehr glauben.

Linus Neumann
1:24:53
Tim Pritlove
1:24:55
Linus Neumann
1:25:03
Tim Pritlove
1:25:12
Linus Neumann
1:25:20
Tim Pritlove
1:25:23
Linus Neumann
1:25:29
Tim Pritlove
1:25:31
Linus Neumann
1:25:33
Tim Pritlove
1:25:34
Linus Neumann
1:25:35
Tim Pritlove
1:25:39
Linus Neumann
1:25:50