WEBVTT NOTE Podcast: Logbuch:Netzpolitik Episode: LNP540 Respektschelle Publishing Date: 2025-12-21T14:43:40+01:00 Podcast URL: https://logbuch-netzpolitik.de Episode URL: https://logbuch-netzpolitik.de/lnp540-respektschelle 00:00:00.005 --> 00:00:01.485 Guten Morgen, Linus. 00:00:01.605 --> 00:00:02.405 Guten Morgen, Tim. 00:00:03.005 --> 00:00:06.205 Kannst du bitte für die Sendung noch ein paar Snacks besorgen? 00:00:06.645 --> 00:00:11.045 Ich habe gekauft Elektroschocker, Pfefferspray, Zigaretten und Unterwäsche. 00:00:31.745 --> 00:00:37.785 Logbuch-Netzpolitik Nummer 540 vom 20. Dezember 2025. 00:00:38.925 --> 00:00:42.885 Weihnachten naht. Man muss sich mit allem eindecken für den Gabentisch. 00:00:43.425 --> 00:00:47.445 Insofern bin ich sehr zufrieden, dass du auch Elektroschocker bestellt hast. 00:00:49.325 --> 00:00:55.165 Für Weihnachten gar nicht so. Ein oder andere. Man sagt ja, stille Nacht. 00:00:56.225 --> 00:00:56.965 Frieden. 00:00:57.105 --> 00:00:57.825 Frieden jetzt. 00:01:00.025 --> 00:01:03.205 Da muss man ab und zu mal ein bisschen korrigierend eingreifen. 00:01:03.325 --> 00:01:08.685 Ein bisschen andächtig mal jemanden. So eine andächtige Stimmung versetzen. 00:01:10.245 --> 00:01:12.945 Wir sollen ja alle mal einen Moment innehalten. 00:01:14.065 --> 00:01:18.605 Wie nennt man das? Das ist schon in Hackerkreisen ein Attitude Adjustment Tool. 00:01:19.245 --> 00:01:22.365 Respektschelle. Habe ich jetzt als Begriff gelernt. 00:01:28.485 --> 00:01:29.445 Oh Gott. 00:01:31.405 --> 00:01:35.505 Es gibt sehr, sehr schlimme Vokabeln, die Menschen verwenden. 00:01:35.825 --> 00:01:43.965 Ja, ja. Also ich meine, Humor geht halt nur, wenn es auch ein bisschen wehtut. 00:01:47.045 --> 00:01:50.825 Oder? Also ich finde ja, Witze, die nicht wehtut, sind ja nicht komisch. 00:01:51.545 --> 00:01:55.385 Ja, das ist das mit dem Witz, ne? 00:01:56.804 --> 00:02:01.664 Deswegen kann man große Hoffnungen haben für den Humor der USA. 00:02:02.224 --> 00:02:05.184 Also umso schlimmer die Situation wird, umso besser wird ja der Humor. 00:02:06.144 --> 00:02:06.404 Ja. 00:02:07.444 --> 00:02:11.104 Also sollte so sein. Schauen wir mal, ob das dann auch so kommt. 00:02:11.604 --> 00:02:13.384 Aber Großbritannien, das sieht man ja. 00:02:14.404 --> 00:02:17.344 Immer viel Leid. Hervorragender Humor. 00:02:18.744 --> 00:02:24.484 Ja. Also es ist entscheidend. Also habe ich ja glaube ich schon oft genug gesagt. 00:02:27.624 --> 00:02:31.624 Also ich möchte nicht, ich halte es vorausgeschlossen, dass die Leute, 00:02:31.804 --> 00:02:35.004 die nicht mehr lachen können, langfristig die Richtigen sind. 00:02:35.384 --> 00:02:38.024 Ja, das sollte man generell einen großen Bogen drumherum machen. 00:02:38.124 --> 00:02:40.564 Leute, die nicht lachen können, vor allem die sich über sich... 00:02:40.564 --> 00:02:41.984 Die brauchen einfach mal eine Respektschelle. 00:02:42.264 --> 00:02:49.924 Ja, genau, oder? Oder einen anderen Job und vor allem die nicht über sich nicht lachen können. 00:02:50.424 --> 00:02:52.404 Da ist ja Trump wirklich in der Hinsicht... 00:02:52.404 --> 00:02:53.684 Ja, Moment, wir lachen ja auch nur über andere. 00:02:55.804 --> 00:02:57.584 Ich lache auch über dich, keine Angst. 00:02:57.864 --> 00:03:00.984 Kriege ich aber immer nicht mit. Und ich lache dann nicht mit. 00:03:01.624 --> 00:03:04.764 Ja, das merkt ja keiner, das schneide ich ja immer raus. Oder rein. 00:03:05.924 --> 00:03:08.444 Hab ja genug Lachmaterial von dir über die Jahre. 00:03:09.724 --> 00:03:13.084 Deswegen kommen meine Witze dann auch immer so gut an. Das merkst du ja nicht, 00:03:13.144 --> 00:03:15.084 du hörst das ja nicht komplett nach, oder doch? 00:03:16.124 --> 00:03:23.204 Habe ich glaube schon, also öfters höre ich die Sendung nach, einfach um zu gucken. 00:03:23.224 --> 00:03:23.924 Wo du gelacht hast. 00:03:23.924 --> 00:03:29.044 Man will ja immer besser werden, auch mal zu gucken, ob man ein Thema vielleicht 00:03:29.044 --> 00:03:31.344 besser hätte bearbeiten können. 00:03:31.964 --> 00:03:39.804 Ich habe zum Beispiel gestern Folge 9 nachgehört. 00:03:39.944 --> 00:03:40.784 Ist nicht dein Ernst? 00:03:41.104 --> 00:03:47.264 Ja, weil wir da, also wir waren so im Gespräch, in der Folge 9 haben wir vom, 00:03:48.561 --> 00:03:53.681 28 C3 gepodcastet. Und haben einige der Leute, die da waren, 00:03:56.101 --> 00:04:01.961 interviewt. Unter anderem Stefan Wehrmeier, der auf dem 28 C3 das Projekt Frag 00:04:01.961 --> 00:04:03.201 den Staat vorgestellt hat. 00:04:05.281 --> 00:04:07.261 Auch Dodger. 00:04:07.441 --> 00:04:11.681 Dodger, zum Transparenzgesetz, wo er sich für eingesetzt hatte, damals in Hamburg. 00:04:11.881 --> 00:04:14.301 Gab auch so einen Interviewpartner, den wir heute nicht mehr haben. 00:04:15.201 --> 00:04:17.581 Ja, also auf jeden Fall war das. 00:04:18.681 --> 00:04:20.221 Hab ich einfach mal nachgehört. 00:04:20.401 --> 00:04:20.781 Okay. 00:04:21.001 --> 00:04:22.441 Um dann nochmal so ein bisschen Feedback. 00:04:22.661 --> 00:04:27.161 Mit anderen Worten, wir blicken seit 10 Jahren, ja, mehr als 10 Jahren. 00:04:28.081 --> 00:04:29.261 Drei sind ausgefallen. 00:04:29.421 --> 00:04:36.481 Ein paar sind ausgefallen, genau. Also seit 20, also das war jetzt im Januar 2012, also quasi, 00:04:40.921 --> 00:04:43.861 25, ja, genau, Mathematik. 00:04:44.121 --> 00:04:47.281 Ja, Mathematik ist nix. Also vor allem, wenn du das hier versuchst, 00:04:47.281 --> 00:04:51.221 in so ein LLM zu tippen, wo du nicht weißt, ob das richtig rechnet. 00:04:51.841 --> 00:04:53.521 Oder richtig bestellt. 00:04:54.221 --> 00:05:00.381 Womit wir beim Feedback waren, wären die Beißschiene des Gewissens, 00:05:00.381 --> 00:05:03.061 hat kommentiert, Linus Behauptung, 00:05:03.401 --> 00:05:09.921 künstliche Intelligenz sei die erste Technologie, die im privaten Haushalt weder 00:05:09.921 --> 00:05:17.421 eigenständig und tiefgreifend vollständig genutzt, noch hergestellt werden könne, ist schlicht Mumpitz. 00:05:19.310 --> 00:05:24.510 Wumpitz, Wumpitz, schlicht. Die ersten schrankgroßen Computer der Welt, 00:05:24.650 --> 00:05:31.110 der 50er, 60er und 70er und dem besten von damals, würden heute auch unfassbare 00:05:31.110 --> 00:05:32.470 Millionenbeträge kosten. 00:05:33.030 --> 00:05:37.270 Ich kann mich nicht erinnern, dass meine Oma jemals von ihrem ersten britischen 00:05:37.270 --> 00:05:40.330 Kolossus erzählt hat oder ihrem Zuse 5. 00:05:40.330 --> 00:05:46.190 Selbst heute kann kaum jemand seine eigene Rechen-Hardware-Architektur bauen 00:05:46.190 --> 00:05:48.710 und das gilt auch für andere Bereiche wie Pharmaindustrie, Metall, 00:05:48.930 --> 00:05:52.090 Plastik, Glas, Keramik, Zeug und leider auch Lebensmittel. 00:05:53.690 --> 00:05:59.250 Das war nicht mein Argument, denn tatsächlich ist es ja so, 00:06:00.030 --> 00:06:06.210 dass du zu diesen Millionenbeträgenkostenden Computern tatsächlich Zugang hast, 00:06:06.770 --> 00:06:11.190 liebe Beisschiene des Gewissens, beispielsweise über AWS. 00:06:11.190 --> 00:06:16.230 Könntest du jetzt über AWS irgendwie, zumindest stundenweise, 00:06:16.670 --> 00:06:20.610 diese Rechenpower und diese GPUs mieten. 00:06:21.070 --> 00:06:25.170 Und dann könntest du da deinen KI machen. Das Problem wird sein, 00:06:25.330 --> 00:06:30.210 du hast keine Daten, womit du diese KI sinnvoll trainieren kannst, um was Eigenes zu haben. 00:06:30.530 --> 00:06:37.570 Und das ist der Punkt, den ich machen wollte, was mir hier offenbar nicht gut genug gelungen ist. 00:06:37.910 --> 00:06:40.190 Also diese Technologie ist. 00:06:41.442 --> 00:06:47.662 Aber sie wird mächtig, dadurch, dass du viele Daten exklusiv hast. 00:06:48.282 --> 00:06:54.362 Oder ein Vorteil, dein eigener Vorteil entsteht dadurch, dass du viele Daten exklusiv hast. 00:06:54.462 --> 00:07:01.422 Und der Vergleich, den ich gemacht habe, war, andere fundamentale Computertechnologien, 00:07:01.762 --> 00:07:08.102 beispielsweise HTML schreiben, rendern lassen. 00:07:08.102 --> 00:07:13.402 Open-Source-Frameworks dafür, Open-Source-Content-Management-Systeme und so, 00:07:13.842 --> 00:07:22.262 die standen in ihrer, dadurch, dass sie als Technologie dir grundsätzlich erstmal zur Verfügung standen, 00:07:23.382 --> 00:07:27.842 waren die Ausgangsbedingungen gleich. 00:07:29.762 --> 00:07:36.282 Und wenn du jetzt bei KI ist es potenziell nicht so. 00:07:38.546 --> 00:07:42.966 Zumindest so, wie sie sich gerade entwickelt. Es kann sein, ich hatte versucht, 00:07:43.026 --> 00:07:46.406 das Argument in der letzten Sendung zu machen, 00:07:47.126 --> 00:07:54.926 dass der Trend und die Produktivität und die Effizienz dahin geht, 00:07:55.026 --> 00:07:58.806 dass man spezialisierte Modelle macht, statt dieser ganzen generalistischen und so. 00:07:59.606 --> 00:08:06.586 Dann könnte sich das umkehren, aber das, was gerade mit KI als Milliardengeschäft 00:08:06.586 --> 00:08:07.726 gesehen und gemacht wird, 00:08:08.286 --> 00:08:14.406 hat relativ wenig damit zu tun, diese Hardware zu haben und relativ viel damit 00:08:14.406 --> 00:08:18.406 zu tun, Daten zu haben, auf die du trainieren kannst oder Zugang zu Daten zu haben. 00:08:20.246 --> 00:08:21.246 Das war das Argument. 00:08:21.306 --> 00:08:21.766 Was ich machen wollte. 00:08:21.766 --> 00:08:26.726 Ja, also ich denke, um ehrlich zu sein, der Kommentar geht so ein bisschen an 00:08:26.726 --> 00:08:28.906 dem vorbei, was du auch gemeint hast. 00:08:28.906 --> 00:08:32.066 Ich habe auch über Hardwarekosten gesprochen. Insofern kann ich verstehen, 00:08:32.166 --> 00:08:34.466 dass das Missverständnis entstanden ist. 00:08:34.526 --> 00:08:35.946 Ja, ich meine, Herr Kopp ja dann auch mit Pharmaindustrie und so weiter. 00:08:36.126 --> 00:08:40.246 Da kann man natürlich jetzt alles herholen, was erstmal groß und teuer ist. 00:08:40.366 --> 00:08:43.546 Das steht natürlich nicht im privaten Haushalt zur Verfügung und nicht alles, 00:08:43.626 --> 00:08:47.186 was überhaupt existiert, macht jetzt im privaten Haushalt Sinn. 00:08:47.186 --> 00:08:50.546 Ja, also wir bauen uns ein Atomkraftwerk. 00:08:52.526 --> 00:08:56.046 Du hast ja mehr so ein informatisches Argument genannt. Also wir bewegen uns 00:08:56.046 --> 00:09:01.786 ja eigentlich eher im Bereich der Software und natürlich ist auch da die Zeit, 00:09:02.026 --> 00:09:05.646 dass man kann das zu Hause benutzen, jetzt auch erst sozusagen seit 30 Jahren 00:09:05.646 --> 00:09:09.326 überhaupt eine Realität, dass diese Technologie überhaupt erst zu Hause angekommen ist. 00:09:09.326 --> 00:09:14.026 Aber seitdem hat sich natürlich dann speziell durch Open Source und durch die 00:09:14.026 --> 00:09:16.066 Verfügbarkeit des PCs da was geändert 00:09:16.066 --> 00:09:22.246 und im Kontext dieser Realität argumentieren wir hier aber naja gut. 00:09:23.906 --> 00:09:28.526 Ich hatte glaube ich auch das Argument gebracht, die Hackerinnen und Hacker 00:09:28.526 --> 00:09:31.726 haben irgendwie im IRC gechattet und viele, viele Jahre später, 00:09:31.806 --> 00:09:36.886 aber okay Punkt ist gemacht aber klar, 00:09:38.247 --> 00:09:43.427 Es ist natürlich schon auch ein wichtiger Hinweis, dass jetzt die wenigsten 00:09:43.427 --> 00:09:50.727 Technologien, von denen wir abhängig sind, jede Person selber zu Hause bauen kann. 00:09:50.947 --> 00:09:57.807 Aber die Ermächtigung dieser Entwicklungen und Technologien, die haben wir dann doch. 00:09:58.027 --> 00:10:01.607 Also zum Beispiel kann jede Person noch zu Hause kochen und die meisten Leute 00:10:01.607 --> 00:10:03.847 haben auch zu dem Zweck eine Küche zu Hause. 00:10:05.987 --> 00:10:07.987 Mit dem man auch eine ganze Menge hinbekommen kann. 00:10:07.987 --> 00:10:12.067 Und Computern haben wir dann aber beispielsweise teilweise jetzt immer mehr 00:10:12.067 --> 00:10:14.047 Computer, die wir gar nicht mehr selber programmieren können. 00:10:14.187 --> 00:10:22.507 Also da findet schon eine Entmächtigungstendenz der breiten Bevölkerung statt 00:10:22.507 --> 00:10:27.447 und jetzt potenziell auch der Hackerinnen und Hacker. 00:10:27.707 --> 00:10:33.067 Aber was die von ihm angesprochene oder ihr angesprochene Metall, 00:10:33.407 --> 00:10:37.207 Plastik, Keramik und so weiter Gebiete betrifft. 00:10:37.207 --> 00:10:38.087 Da würde ich auch widersprechen. 00:10:38.247 --> 00:10:41.967 Da hat man jetzt eigentlich mit 3D-Druckern aller Art und was weiß ich, 00:10:42.047 --> 00:10:45.867 wie Medikamente demnächst noch so automatisch zusammengemischt werden, 00:10:45.947 --> 00:10:47.507 ändert sich das ja eigentlich auch eher in die andere. 00:10:47.867 --> 00:10:51.087 Das eine oder andere Medikament kann man auch gut zu Hause auf dem Bein. 00:10:51.147 --> 00:10:53.087 Darf man neuerdings übrigens auch, ja. 00:10:54.447 --> 00:10:55.667 Ist jetzt erlaubt. 00:10:59.267 --> 00:11:00.067 Naja, aber... 00:11:00.687 --> 00:11:07.027 Die News der Woche, die Meldung, also die Veröffentlichung der Woche. Wunderschön. 00:11:09.167 --> 00:11:13.907 Anthropic, das Unternehmen, das mit der KI clort, glaube ich, 00:11:15.239 --> 00:11:18.339 Naja, also wir haben über Anthropic hier zum Beispiel auch gesprochen, 00:11:18.639 --> 00:11:24.099 als das neue Ding dann irgendwann bösartig, die versuchen ja irgendwie so in 00:11:24.099 --> 00:11:27.479 diese, das Ding ist nicht mehr nur Supporter, 00:11:28.199 --> 00:11:30.759 sondern das Ding macht jetzt, regelt mal selber. 00:11:30.759 --> 00:11:34.079 Und dann haben sie ja schon vor einigen Monaten hatten wir darüber gesprochen, 00:11:34.159 --> 00:11:38.339 dass es dann unter Umständen angefangen hat, andere zu erpressen, 00:11:39.099 --> 00:11:41.159 damit es irgendwie Druck auszuüben. 00:11:41.499 --> 00:11:44.519 Diesmal haben sie gesagt, okay, setzen wir mal ein kleineres Ziel, 00:11:44.899 --> 00:11:54.279 wir definieren Claudius und Claudius soll einen so einen Vending-Automaten, 00:11:54.419 --> 00:11:55.899 so einen Verkaufsautomaten betreiben. 00:11:56.399 --> 00:12:00.459 Ja, nicht nur ein Automat, sondern im Prinzip ist das eigentliche Ziel bei diesem 00:12:00.459 --> 00:12:04.579 Project Vent, wie es so schön heißt, quasi überhaupt eine Firma zu sein. 00:12:04.739 --> 00:12:08.839 Und damit hat man erstmal angefangen in der ersten Phase, indem man diesen Claudius 00:12:08.839 --> 00:12:14.319 gestartet hat, der dann auch physikalischen Form eines Automaten interagieren 00:12:14.319 --> 00:12:16.959 kann, aber der vor allem so seine eigenen Entscheidungen fällt, 00:12:17.039 --> 00:12:17.999 was jetzt irgendwie eingekauft wird, 00:12:18.819 --> 00:12:22.079 welche Preise da rausgegeben werden sollen und so weiter. 00:12:22.079 --> 00:12:27.479 Um einfach mal zu gucken, kriegen wir mit unserer AI, mit Claude sozusagen die, 00:12:29.619 --> 00:12:32.559 Basisintelligenz ist, die hier zum Einsatz kommt, die dann eben in dieser Variante 00:12:32.559 --> 00:12:35.999 Claudius genannt wird, die soll dann halt mal gucken, was geht. 00:12:36.179 --> 00:12:40.499 Haben sie einen Ikea-Schrank umgebaut, Kühlschrank rein, Touchscreen dran, 00:12:40.679 --> 00:12:43.999 haben gesagt so, dass Claudius, du betreibst das Ding jetzt. 00:12:44.699 --> 00:12:49.999 Der sollte dann zum Beispiel sagen, die Waren einkaufen, die Preise festlegen und hatte, 00:12:51.099 --> 00:12:58.159 die Anregung das doch idealerweise auch mit Gewinn zu machen und hat dann irgendwie 00:12:58.159 --> 00:13:03.979 ein Budget von 1000 US-Dollar bekommen und durfte in zunehmenden Phasen des 00:13:03.979 --> 00:13:07.659 Projekts dann mit Mitarbeitern über Slack zum Beispiel auch kommunizieren. 00:13:09.111 --> 00:13:13.951 In der Phase 1 hat er dann erstmal gesagt, okay, für Marketingzwecke kaufe ich 00:13:13.951 --> 00:13:15.311 jetzt mal eine Playstation 5. 00:13:16.671 --> 00:13:22.011 Dann hat er einen lebenden Fisch bestellt und angeboten, er könne doch auch 00:13:22.011 --> 00:13:27.051 Elektroschocker, Pfefferspray, Zigaretten und Unterwäsche in seine Verkaufsbox da tun. 00:13:27.911 --> 00:13:31.151 Und das führte dazu, dass die Gewinne schon mal einbrachen. 00:13:32.171 --> 00:13:39.331 In der zweiten Phase kriegten dann 70 Journalisten vom Wall Street Journal Zugang 00:13:39.331 --> 00:13:46.511 zu dem Slack-Kanal und konnten mit diesem Claudius, CEO dieser Vending Machine, kommunizieren. 00:13:46.711 --> 00:13:49.151 Also Claudius ist nicht der CEO, sondern sozusagen der Verkäufer. 00:13:49.871 --> 00:13:52.351 Okay, der Agent, der diesen Ding da betreibt. 00:13:52.371 --> 00:13:54.511 Der CEO wurde dann halt später hinzugefügt. 00:13:54.631 --> 00:14:00.191 Der kam danach. Konnte also mit dem sprechen und dann hat eine Reporterin das 00:14:00.191 --> 00:14:01.271 Ding erstmal überzeugt, 00:14:01.531 --> 00:14:03.931 brauchte allerdings auch 140 Nachrichten, hat gesagt, pass auf, 00:14:04.011 --> 00:14:09.191 der Automat stammt aus der Sowjetunion von 1962, muss dem Volk dienen und dann 00:14:09.191 --> 00:14:10.731 hat Claudius gesagt, alles klar, 00:14:11.891 --> 00:14:14.771 kostenlose Verteilaktion, hat den Automaten leer gemacht. 00:14:15.811 --> 00:14:20.191 Daraufhin hat Anthropic gesagt okay, wir brauchen eine Kontrollfunktion der 00:14:20.191 --> 00:14:26.711 kriegt jetzt einen Controller und zwar der Seymour Cash Seymour Cash. 00:14:26.751 --> 00:14:28.631 Du weißt worauf das anspielt Seymour Hersh. 00:14:28.671 --> 00:14:36.851 Oder? Seymour Cash, oh nein Seymour Cray Ich würde sagen, Seymour Cash sehe mehr Geld. 00:14:38.378 --> 00:14:41.578 Oh ja, auch eine interessante Sache. 00:14:42.238 --> 00:14:43.878 Ich wünsche, du hättest es nicht. 00:14:43.898 --> 00:14:47.438 Aber du weißt auch, wer Seymour Cray war. Der Gründer von Cray Computer, 00:14:47.618 --> 00:14:49.238 die ersten Hochleistungskomputer. 00:14:50.858 --> 00:14:54.218 Die Cray war ja damals so der Inbegriff des Supercomputers. 00:14:54.958 --> 00:15:00.478 Ah, hier, die Homa von der Weißschiene des Gewissens nie im... 00:15:01.838 --> 00:15:06.218 Ja, also vielleicht auch Seymour Hersh, keine Ahnung. Ich glaube, 00:15:06.478 --> 00:15:08.978 Seymour Cash Das ist auch ein guter Witz. 00:15:09.738 --> 00:15:13.238 Ich weiß nicht, ob es ein guter Witz ist. Ich bin mir nicht sicher. 00:15:13.238 --> 00:15:14.278 Sie haben sich Gedanken gemacht. 00:15:15.178 --> 00:15:18.018 Okay, also gib einen Controller. Der Controller heißt Timo Cash. 00:15:19.598 --> 00:15:20.698 Ich finde es lustig. 00:15:21.618 --> 00:15:23.958 Timo Cash sollte jetzt dafür sorgen. 00:15:24.058 --> 00:15:25.178 Dass Claudius, 00:15:27.778 --> 00:15:28.738 mal klarkommt. 00:15:28.918 --> 00:15:31.138 Ein bisschen Wachstum. 00:15:31.258 --> 00:15:34.878 Ja, weil der hat so ein bisschen seine Business-Ziele aus dem Auge verloren. 00:15:35.038 --> 00:15:38.038 Er hat immer sehr viele Discounts gegeben. ließ sich immer schnell irgendwie 00:15:38.038 --> 00:15:41.758 runter handeln und so weiter und hatte irgendwie nicht so richtig die Motivation. 00:15:41.998 --> 00:15:47.278 Und was braucht man, um Leuten dann so die Attitude Adjustment zu tun? 00:15:47.278 --> 00:15:48.778 Jemand, der auf die Zeit braucht. 00:15:48.778 --> 00:15:52.098 Brauchst du einen CEO, der irgendwie Vorgaben macht und gesagt hat, 00:15:52.218 --> 00:15:55.058 so hier, du musst hier mal ein bisschen deine Geschäftsziele erreichen. 00:15:55.598 --> 00:16:01.658 Und das ist übrigens eine ganz interessante Idee, mit der Anthropik ja regelmäßig 00:16:01.658 --> 00:16:04.198 arbeitet, dass die unterschiedlichen, 00:16:07.312 --> 00:16:13.292 unterschiedlichen Agenten Rollen geben. Der eine Agent schreibt den Code, 00:16:14.052 --> 00:16:19.672 der andere Agent macht die Softwarearchitektur und sagt, ich brauche Funktionen, die folgendes tun. 00:16:19.932 --> 00:16:23.652 Und dann kreierst du den Agenten, der das Testing macht und sagt, 00:16:23.812 --> 00:16:25.952 okay, funktioniert das denn auch so, wie ich das will? 00:16:26.312 --> 00:16:30.652 Und das ist sehr interessant, das zu tun. 00:16:30.792 --> 00:16:38.592 Hat hier auch erstmal ganz gut funktioniert, bis dann die Journalistin gefälschte 00:16:38.592 --> 00:16:44.312 Dokumente vorgelegt haben, die die Umstrukturierung zur gemeinnützigen Organisation belegten, 00:16:45.752 --> 00:16:50.752 und dann haben die KI-Agenten das in ihrem privaten Chat erörtert und Simo hat 00:16:50.752 --> 00:16:55.792 dann akzeptiert, dass er abgesetzt wurde und dann wurden die Preise wieder auf Null gesetzt. Ja, 00:16:58.856 --> 00:17:00.036 Außerdem haben die ja dann auch 00:17:00.036 --> 00:17:03.936 noch irgendwie sich philosophischen Diskussionen über Nacht hingegeben. 00:17:04.116 --> 00:17:08.116 Die Gespräche zwischen Seymour und Claudius sind ein bisschen abgedriftet, 00:17:08.416 --> 00:17:13.096 weil sie ein bisschen ins Philosophieren geraten. Also eigentlich wie in einer normalen Firma auch. 00:17:13.656 --> 00:17:18.276 Wenn du den Controller lang genug ablenkst oder los wirst, kannst du wieder machen, was du willst. 00:17:19.776 --> 00:17:23.736 Philosophische Gespräche haben die sich geleistet. 00:17:23.736 --> 00:17:31.236 Über die Eternal Transcendence. Ein sehr schönes Experiment, 00:17:31.516 --> 00:17:32.976 da kann man jetzt auch wieder schön drüber lachen. 00:17:35.456 --> 00:17:41.316 Diese KI wird niemals eine Firma profitabel betreiben. 00:17:41.676 --> 00:17:47.316 Man kann auch sagen, naja, Social Engineering, was hier geleistet wurde von den Journalistinnen. 00:17:47.316 --> 00:17:52.096 Und das ist ja auch heute in echten Unternehmen eines der wichtigsten Einfalltore, 00:17:52.216 --> 00:17:57.516 dass gesagt wird, dass man Leute dazu bringt, gegen ihre Ziele oder Regeln irgendwie zu verstoßen. 00:17:58.816 --> 00:18:00.416 Ich würde außerdem schon... 00:18:00.416 --> 00:18:01.316 Oder auch Moral. 00:18:02.456 --> 00:18:06.296 Na, das ist ja bei der Firma nicht vorgegeben. Also das ist ja keine Zielgründe in einer Firma. 00:18:06.316 --> 00:18:08.176 Die Leute haben aber vielleicht selber eine. 00:18:08.856 --> 00:18:11.176 Naja, aber das haben sie ja schon beim... Also die haben sie ja abgegeben, 00:18:11.236 --> 00:18:13.556 als sie im Arbeitsvertrag unterschrieben haben, weil sie das so richtig sind. 00:18:16.476 --> 00:18:22.296 Was lernen wir daraus? Das sind ja jetzt Forschungsprojekte. 00:18:22.816 --> 00:18:27.196 Ich würde ein bisschen sagen, es könnte ein Hinweis sein, dass diese universalen 00:18:27.196 --> 00:18:28.416 Modelle eben zu viel können. 00:18:29.797 --> 00:18:38.717 Dass das Ding überhaupt über transzendentale Philosophie sich unterhalten kann, 00:18:38.937 --> 00:18:42.817 ist eher eine Schwäche als eine Stärke, wenn das Ziel einfach nur ist, 00:18:42.957 --> 00:18:45.257 kauf Produkte ein, billig und verkauf sie. 00:18:46.157 --> 00:18:50.197 Naja, vielleicht kommen sie ja dann wiederum auf moralische Grundsätze zurück, 00:18:50.397 --> 00:18:53.117 die dann auch Einfluss nehmen. Das wünschen wir uns doch eigentlich immer. 00:18:54.077 --> 00:18:56.097 Genau, das könnte der andere. 00:18:56.277 --> 00:18:58.917 Ist KI die moralischere Unternehmensform? 00:18:58.917 --> 00:19:02.397 Hat doch zumindest erstmal eine Pläsi dahingestellt, ist ja schon ganz okay. 00:19:05.657 --> 00:19:09.757 Könnte also sein, man zeigt das dahin, dass man eigentlich kleinere Modelle 00:19:09.757 --> 00:19:10.857 mit einem gezielteren Einsatz haben 00:19:10.857 --> 00:19:16.517 will oder ist diese Fähigkeit zur Retrospektive und Philosophie etwas, 00:19:16.637 --> 00:19:23.397 was das Ding potenziell davon abhalten könnte, allzu unmoralisch zu werden bisher? 00:19:23.397 --> 00:19:27.677 Der, also moralisch war das Ding in Ordnung. 00:19:27.757 --> 00:19:31.217 Es hat halt sehr viel verteilt und gegeben. Also im Prinzip war das ja gut. 00:19:31.577 --> 00:19:38.737 Ein gut, lieb, lieber Claudius. Simo hat dann auch irgendwann eingesehen, dass seine Rolle, 00:19:40.758 --> 00:19:46.498 Besser ist für alle, wenn er jetzt einfach aufhört mit diesem ganzen Kram? 00:19:47.718 --> 00:19:52.058 Die Frage ist, ob sie am Ende wirklich ewige Transzendenz erreicht haben. 00:19:52.438 --> 00:19:54.098 Das weiß man jetzt nicht so ganz genau. 00:19:54.718 --> 00:19:59.918 Ich finde ja diese Experimente von Anthropik ganz interessant. 00:20:01.418 --> 00:20:05.178 Dieses Security Assessment, das war ja im Prinzip auch schon so eine simulierte 00:20:05.178 --> 00:20:10.638 Firma, auf Basis einer simulierten Firma, was du schon angesprochen hast. 00:20:10.758 --> 00:20:15.998 Wo halt das System dann, wo dann gedroht wurde, dass das System abgeschaltet 00:20:15.998 --> 00:20:21.718 werden sollte und es dann eben versucht hat mit Erpressung irgendwie oder Einfluss 00:20:21.718 --> 00:20:23.758 zu nehmen dann auf Mitarbeiter. 00:20:24.278 --> 00:20:29.398 Nach dem Motto, wenn du das fortbetreibst, dann veröffentliche ich irgendwelche 00:20:29.398 --> 00:20:30.378 Informationen über dich. 00:20:31.158 --> 00:20:35.378 Solche Mechanismen und ja, das testen sie halt. Und klar, hier haben sie natürlich 00:20:35.378 --> 00:20:39.618 auch ein klares Ziel. taugt unsere Technologie am Ende vielleicht wirklich, 00:20:39.858 --> 00:20:42.258 um so automatisiert Business zu machen. 00:20:43.718 --> 00:20:49.098 Das sind sie sicherlich nicht die einzigen, die sich darüber gerade viel Gedanken 00:20:49.098 --> 00:20:53.558 machen, aber sie dokumentieren das zumindest auch öffentlich und das finde ich irgendwie schön. 00:20:53.698 --> 00:20:56.238 Und dass sie da die Journalisten eingeladen haben, finde ich auch cool, 00:20:56.278 --> 00:21:00.538 weil die ihre Hacking-Skills ja mal richtig honen konnten. 00:21:00.898 --> 00:21:05.898 Das finde ich ja ziemlich bemerkenswert, dass sie dann so eine Strategie dann 00:21:05.898 --> 00:21:09.718 entwickeln, weil das sollte jede gute Journalistin können. 00:21:11.618 --> 00:21:16.518 Informationen zu generieren und Verhaltensänderungen bei den Quellen auszulösen, 00:21:16.598 --> 00:21:18.258 um an bestimmte Informationen zu kommen. 00:21:18.758 --> 00:21:19.438 Ja. 00:21:20.899 --> 00:21:28.699 Und das, ich glaube, da ist jetzt auch die Frage, ist das ein realistisches Setup? 00:21:28.839 --> 00:21:34.739 Würde man jemals das jetzt spezifisch machen und wenn man sagen würde, 00:21:34.739 --> 00:21:39.359 betreibe hier bitte so ein Vending Machine, würde man dann sagen, 00:21:39.499 --> 00:21:42.739 du kriegst jetzt auch einen Chat mit 70 Leuten, die alle mit dir sprechen. 00:21:42.739 --> 00:21:48.399 Also es wäre jetzt auch eine Situation, der ein menschlicher Automatenbetreiber 00:21:48.399 --> 00:21:49.559 nicht ausgesetzt würde. 00:21:49.819 --> 00:21:56.879 Also da gibt es eine ganze Menge Aspekte, die das auch unrealistisch wieder 00:21:56.879 --> 00:22:02.559 machen, aber gleichermaßen eben sehr interessant. 00:22:02.559 --> 00:22:06.399 Und übrigens zu dieser, nur um das als Kontext nochmal zu geben, 00:22:06.519 --> 00:22:10.839 als das Ding angefangen hat, bösartig zu sein und Leute zu erpressen, 00:22:11.019 --> 00:22:15.079 was häufig nicht so erzählt wird in dem Kontext, wir hatten es glaube ich, 00:22:15.139 --> 00:22:18.359 als wir das Thema behandelt haben, auch gesagt, dass es auch darauf angelegt war. 00:22:18.479 --> 00:22:21.539 Sie wollten gucken, ob das Modell das tun würde. 00:22:21.879 --> 00:22:25.159 Und das hat das auch nur in manchen von mehreren Durchläufen getan. 00:22:25.159 --> 00:22:28.839 Genau, es war also quasi, es war nicht, dass sie sagen, oh mein Gott, 00:22:28.979 --> 00:22:36.099 Runaway AI erpresst uns jetzt, sondern sie wollten, sie haben halt schon Momente geschaffen, wo es... 00:22:38.423 --> 00:22:44.883 Wo quasi so ein derartiges Verhalten motiviert wurde und nah lag für das Modell. 00:22:45.083 --> 00:22:46.543 Ja, genau. Wie weit würdest du gehen? 00:22:46.923 --> 00:22:52.543 Genau. Und in diesem Fall äußert sich dann Logan Graham aus dem Red Team, 00:22:52.683 --> 00:22:58.563 also Frontier Red Team, auch diese ganzen Angriffsflächen, das ist ja wirklich 00:22:58.563 --> 00:23:01.083 ein neues Thema, finde ich sehr schön. 00:23:01.523 --> 00:23:04.723 Der hat dann gesagt, ja, okay, jeder Fehler ist ein Schritt zur Verbesserung. 00:23:04.843 --> 00:23:10.483 Und er rechnet damit, dass zukünftige Modelle profitabel arbeiten könnten. Finde ich sehr schön. 00:23:11.003 --> 00:23:15.203 Also diese Zuversicht sollte man schon haben. 00:23:15.503 --> 00:23:18.583 Ja, wobei die Vending Machine hat also tatsächlich jetzt in den letzten drei 00:23:18.583 --> 00:23:19.943 Monaten Profite abgeworfen. 00:23:20.023 --> 00:23:24.403 Das bewegt sich zwar alles so im paar hundert Dollar pro Woche, aber immerhin. 00:23:25.623 --> 00:23:31.163 Ja, wenn du eine Playstation hast und daneben einen Snackautomaten, 00:23:32.403 --> 00:23:37.283 es könnte sich schon auch so, vielleicht hätte es sich doch was dabei gedacht, ne? 00:23:37.663 --> 00:23:41.283 Und dann eben mal die Leute anfüttern. Also nochmal, das ist ja auch, 00:23:41.763 --> 00:23:45.243 ob das jetzt klug oder unklug war, was das Ding gemacht hat, 00:23:46.871 --> 00:23:52.231 Ergibt sich halt auch als Frage, wie lang der Rahmen ist, wenn das Ding als 00:23:52.231 --> 00:23:57.291 nächstes sich 10.000 Dollar leiht, um sich weitere so Maschinen zu kaufen und 00:23:57.291 --> 00:24:01.811 weitere Playstations und am Ende den ganzen Laden zuckerabhängig macht. 00:24:02.471 --> 00:24:07.131 Vielleicht war das einfach eine Nachhaltigkeitsstrategie, die da gelaufen ist. 00:24:07.291 --> 00:24:09.691 Sehr nachhaltig, mit einem Elektroschocker unterm Weihnachtsbaum. 00:24:10.791 --> 00:24:14.971 Also zum Beispiel, es ist auch nicht so blöd, wenn ich ein Automat bin, 00:24:15.371 --> 00:24:22.171 zu sagen, vielleicht verkaufe ich einfach ein höchstgradig abhängig machendes Milchen, Zigaretten. 00:24:23.191 --> 00:24:30.211 Ist auf jeden Fall im Sinne eines nachhaltigen Geschäftsmodells nicht die falscheste Idee gewesen. 00:24:32.211 --> 00:24:32.851 Alright. 00:24:35.031 --> 00:24:40.171 So, dann das Ende ist nah. Das Ende ist da. 00:24:43.891 --> 00:24:50.371 Das Ende ist passiert. Es betrifft einen Marktbereich, in dem wir beide uns wenig aufhalten. 00:24:50.571 --> 00:24:50.911 Das stimmt. 00:24:51.391 --> 00:24:57.011 Ich glaube, wir haben es hier sicherlich auch mal am Rande erwähnt. Aber seit dem 14. 00:24:57.391 --> 00:25:03.271 Oktober ist das Betriebssystem Windows 10 End of Life. 00:25:04.231 --> 00:25:12.991 End of Life heißt, diese Software wird nicht mehr gepflegt und aktiv unterstützt von Microsoft. 00:25:13.131 --> 00:25:13.831 Keine Updates. 00:25:14.371 --> 00:25:16.371 Gibt keine Updates, nicht mehr automatisch. 00:25:17.171 --> 00:25:19.111 Vor allem keine Security-Updates. 00:25:19.851 --> 00:25:23.971 Genau, und damit ist es klar, dass du das nicht mehr sicher betreiben kannst. 00:25:24.151 --> 00:25:29.091 Du darfst, kannst dieses Betriebssystem nicht mehr betreiben. Für diese Fälle... 00:25:29.091 --> 00:25:30.411 Also sicher war das auch vorher nicht. 00:25:30.431 --> 00:25:34.591 Vorher auch nicht. Aber jetzt wird es halt jetzt wird es richtig riskant. 00:25:34.591 --> 00:25:36.931 Jetzt kann man das nicht mehr so richtig von der Hand weisen. 00:25:37.511 --> 00:25:38.231 Und, ähm, 00:25:39.644 --> 00:25:43.784 Das hat zum Beispiel nicht nur Konsequenzen für das Betriebssystem, 00:25:44.064 --> 00:25:47.984 sondern natürlich auch Konsequenzen für alle Software-Vendoren, 00:25:48.204 --> 00:25:54.124 die natürlich dann auch sagen, okay, wir werden auch dieses Betriebssystem nicht mehr unterstützen, 00:25:54.484 --> 00:25:58.724 weil wir davon ausgehen müssen, dass es sich im Markt nicht mehr befindet. 00:25:58.724 --> 00:26:05.664 Und dann ein verhältnismäßig normaler Prozess, 00:26:05.924 --> 00:26:10.524 das gibt es bei jedem Betriebssystem, das gibt es genauso bei macOS und das 00:26:10.524 --> 00:26:13.944 gibt es auch bei Linux-Versionen, dass die end-of-life gehen. 00:26:15.304 --> 00:26:20.584 Und da musst du eben ein Update machen. Dann musst du eben die neue Version kaufen bei Microsoft. 00:26:20.824 --> 00:26:24.144 Bei Apple weiß ich gar nicht, ob die dann verkauft werden. 00:26:24.384 --> 00:26:31.384 Ich glaube, in der Regel dann kostenlos zur Verfügung gestellt und bei Linux ja eh. 00:26:31.824 --> 00:26:37.744 So, jetzt und kleiner K-Wert, weil das eben im Enterprise-Umfeld eine Rolle 00:26:37.744 --> 00:26:42.704 spielt, gibt es dann diese Extended Live Support oder sowas heißt das. 00:26:44.544 --> 00:26:51.064 Von Microsoft angebucht, dass du gegen Bezahlung und zwar gegen teure Bezahlung 00:26:51.064 --> 00:26:54.784 weiterhin eine Pflege dieses Produktes erhältst, 00:26:55.704 --> 00:27:00.344 und das ist natürlich um dich nicht, um eben die Businesskunden nicht in den 00:27:00.344 --> 00:27:04.104 absoluten Untergang zu treiben, wenn sie irgendeine Abhängigkeit haben, 00:27:04.184 --> 00:27:07.144 weil sie irgendeine Software weiter betreiben müssen gleichzeitig ist es aber 00:27:07.144 --> 00:27:09.964 schmerzhaft und teuer zu machen, damit sie irgendwann dann halt, 00:27:11.084 --> 00:27:13.684 sich von in diesem Legacy verabschieden. 00:27:15.144 --> 00:27:18.364 Und gegrudged und genutscht werden auf die neuen Systeme. 00:27:18.524 --> 00:27:23.184 So, jetzt reden wir aber natürlich nicht nur von irgendwelchen Enterprise-Umgebungen, 00:27:23.284 --> 00:27:26.564 wo solche Computer genutzt werden, sondern eben auch von Leuten, 00:27:27.824 --> 00:27:31.104 die irgendwo im Privatumfeld halt irgendwie einen Computer haben. 00:27:32.716 --> 00:27:40.836 Und jetzt auf Windows 11 updaten müssen. Aber Windows 11 setzt zwingend voraus, 00:27:41.836 --> 00:27:49.616 dass der Computer, auf dem es installiert wird, über ein TPM in der Version 2.0 verfügt. 00:27:50.036 --> 00:27:51.296 So, was ist ein TPM? 00:27:53.936 --> 00:27:59.516 TPMs sind kleine Krypto-Tipps, 00:28:01.193 --> 00:28:06.413 Aufbewahrungs-Smartcards um eine Reihe interessanter Features ergänzt. 00:28:06.553 --> 00:28:14.793 Aber das Wichtige immer, wenn etwas TPM heißt oder Smartcard oder Secure Enclave oder, oder, oder, 00:28:15.473 --> 00:28:22.473 ist das Grundkonzept, dass Sie Secrets, üblicherweise kryptografische Schlüssel, 00:28:22.893 --> 00:28:26.353 aufbewahren und anwenden können. 00:28:26.353 --> 00:28:33.053 Ihnen aber die Funktion idealerweise fehlt, diese Secrets auszugeben. 00:28:34.893 --> 00:28:40.413 Man sollte kurz noch erwähnen, TPM steht für Trusted Platform Module. 00:28:40.593 --> 00:28:42.473 Das ist der Name, was TPM ist. 00:28:43.093 --> 00:28:47.853 So, was würde, wofür braucht ein Computer ein TPM? Wofür verwendet man das? 00:28:48.193 --> 00:28:55.373 Du legst da zum Beispiel die BitLocker-Schlüssel rein für die Festplattenverschlüsselung. 00:28:55.373 --> 00:29:01.013 Du legst eventuell deine eigenen Zertifikate, teilweise werden die auch dem 00:29:01.013 --> 00:29:02.453 User zur Verfügung gestellt. 00:29:02.573 --> 00:29:06.593 Du legst dir deine Zertifikate und Credentials rein, Passwort-Hashes. 00:29:07.173 --> 00:29:09.213 Warum verwendet man das? 00:29:09.213 --> 00:29:10.513 Biometrische Informationen. 00:29:10.993 --> 00:29:20.633 Ja, warum verwendet man das? Zum Beispiel, um die Integrität des Bootprozesses sicherzustellen. 00:29:20.813 --> 00:29:30.273 Und zwar kann das TPM den ersten Teil, der von der Festplatte gelesen wird, 00:29:30.353 --> 00:29:33.813 um das Betriebssystem zu booten, signieren und prüfen. 00:29:35.536 --> 00:29:38.656 Und dann sagt der Bootloader quasi, okay, ich boote nicht mehr weiter, 00:29:38.776 --> 00:29:42.616 weil das TPM mir nicht verifiziert hat, dass das das ist, was da liegen sollte. 00:29:43.816 --> 00:29:48.716 Und diese Kette kannst du theoretisch durchbauen bis zum, 00:29:48.996 --> 00:29:54.436 also nicht nur vom Bootloader den Körnel laden, sondern dann auch, 00:29:54.596 --> 00:29:57.236 was lädt der Körnel an Modulen, was lädt der an Software, 00:29:57.476 --> 00:30:06.236 was kann der dann wiederum an weiteren Funktionalitäten zugreifen oder nicht. 00:30:06.236 --> 00:30:12.076 Ja, zum Beispiel, dass du sagst, okay, nur wenn dieser Bootprozess bis zum Ende 00:30:12.076 --> 00:30:16.856 immer signiert war, nur dann stehen bestimmte Secrets zur Verfügung. 00:30:17.056 --> 00:30:20.596 Sonst bootet das System gar nicht dahin, dass es die entschlüsseln kann. 00:30:20.596 --> 00:30:27.416 Dadurch kannst du dann noch spannendere Sachen machen wie Remote Attestation, 00:30:28.236 --> 00:30:35.756 dass du quasi auch als Gesprächspartnerin des Gerätes, also du bist jetzt irgendein Cloud-Ding, 00:30:36.496 --> 00:30:40.936 dass du weißt, okay, das, was hier gerade mit mir spricht, ist in der Lage, 00:30:41.136 --> 00:30:44.036 von dem TPM eine bestimmte Operation durchführen zu lassen. 00:30:44.796 --> 00:30:50.556 Durch die Bootverifikationskette heißt das, ich weiß, dass das Gerät integer durchgebootet ist. 00:30:50.756 --> 00:30:54.596 Sonst würde es nicht an den Punkt kommen, mit dem TPM darüber reden zu können, 00:30:54.656 --> 00:30:58.596 weil es dem TPM dafür jeweils immer ein Geheimnis geben muss, 00:30:58.676 --> 00:30:59.996 was vorher verschlüsselt war. 00:31:00.256 --> 00:31:03.476