LNP527 Es wird auch ohne AI alles ganz schlimm werden

Veröffentlicht am 25. Juni 2025 von Tim Pritlove

Wir reden über Künstliche Intelligenz

Das AI-Thema hat die Welt fest im Griff und auch diesen Podcast. Aber gerade weil es auch eine allgegenwärtige Diskussion ist wollen wir in einer dialogischen Herleitung auch mal unsere Gedanken sortieren und mit Euch unsere Einschätzungen über Chancen und Risiken, Nutzen und Unsinn und das Wohl und Wehe dieses technologischen Durchbruchs teilen.

Linus Neumann

Tim Pritlove

Für diese Episode von Logbuch:Netzpolitik liegt auch ein vollständiges Transkript mit Zeitmarken und Sprecheridentifikation vor.

Bitte beachten: das Transkript wurde automatisiert erzeugt und wurde nicht nachträglich gegengelesen oder korrigiert. Dieser Prozess ist nicht sonderlich genau und das Ergebnis enthält daher mit Sicherheit eine Reihe von Fehlern. Im Zweifel gilt immer das in der Sendung aufgezeichnete gesprochene Wort. Formate: HTML, WEBVTT.

Transkript

Tim Pritlove 0:00:00

Buenos Dias, Linus.

Linus Neumann 0:00:02

Buenos Dias, Tim.

Tim Pritlove 0:00:04

Heute haben wir historien divertidas und educativer über die Artificial Intelligence,ohne den raten und ohne den Elefanten.

Linus Neumann 0:00:14

Das war Spanisch.

Tim Pritlove 0:00:38

Logbuch Netzpolitik Nummer 527 vom 24.Juni 2025.Und keiner von uns ist jetzt der Elefant und keiner ist die Maus.

Linus Neumann 0:00:53

Keiner ist die Maus.

Tim Pritlove 0:00:54

Das hätten wir schon mal unter uns ein bisschen auslosen können, oder?

Linus Neumann 0:01:00

Du hattest ja den Ralf Kaspers schon mal in Forschergeist und den Armin Maywald in CRE.Das ist ja quasi dann die Mausrede fanden.

Tim Pritlove 0:01:12

Genau, die beiden. Die Mausrede fanden, genau. Da ist auch klar, wer wer ist.

Linus Neumann 0:01:23

Ja.

Tim Pritlove 0:01:24

Ein interessantes Universum, muss man sagen. Also es ist auf jeden Fall,wahrhaft ein wahrhaftes deutsches Kulturgut, das kann man echt nicht anders darstellen und das,kann man auch mit den Lobpreisungen und Kulturreferenzen nicht gar nicht zuwenig irgendwie leisten.

Linus Neumann 0:01:47

Ja, sollen wir jetzt schon verraten, warum wir ein Maus-Intro haben?

Tim Pritlove 0:01:51

Ja, weil du rumgeprollt hast auf den Kanälen.

Linus Neumann 0:01:56

Ich habe die höchste Auszeichnung, die für einen Erklärer, die einen Erklärerbekommen kann, habe ich erlangt.

Tim Pritlove 0:02:08

Ich habe da durchgescrollt, ich habe keinen Dinos gesehen.

Linus Neumann 0:02:15

Also das gibt es ja wohl nicht. Also in der aktuellen Maus vom 22.Du hast wahrscheinlich unten geguckt. Ich stehe aber unter Ralf Kaspers.Ralf Kaspers, Linus Neumann, Jannis Quer. Im Abspann der aktuellen Maul.

Tim Pritlove 0:02:32

Ja, da steht dein Name. Ich dachte ja, du tauchst ja jetzt auch auf und sagstein Sprüchlein auf oder erklärst irgendwas.

Linus Neumann 0:02:39

Ich war die Maus!

Tim Pritlove 0:02:40

Im Mauskostüm.

Linus Neumann 0:02:42

Hast du mich nicht erkannt? Es war außerdem...

Tim Pritlove 0:02:47

Ich hatte kurz bei Sean das Schaf, hatte ich so ein bisschen meine Frage.

Linus Neumann 0:02:50

Es war außerdem die,Sendung mit einem coolsten Mauselefanten,Zwischenspieler, das war nach dem Beitrag, an dem Jannis und ich mitgewirkthatten, wo die Zahlen durchlaufen, diese Cybermaus und Cyberelefanten,die flippen immer so Bits und dann verändern sie sich. Also herausragend.Jannis und ich haben an dem Skript ein bisschen mitgewirkt, was in der SendungKünstliche Intelligenz vermittelt.Janis ist ein Arbeitskollege von mir und Freund von mir, der dieses mit demMachine Learning studiert hat.Und wir haben beide ein bisschen an dem sehr wenig zu dem Skript beigetragen.Ich hatte auch eigentlich nicht gedacht, dass wir am Ende dafür einen Creditbekommen würden, aber der Ralf hat ja extra geschrieben, hier,jetzt kommt die Sendung und guck die.Und dann haben wir natürlich geguckt und erst später wurde ich darauf aufmerksamgemacht, dass wir in den Credits sind.Das ist irre. Also es ist wirklich, da kannst dir gar nicht vorstellen,wie wir uns ein Loch im Bauch gefreut haben.

Tim Pritlove 0:04:02

Das ist echt lustig. Den ganzen Tag quillst du aus allen Tagesschau-Sendungenraus, aber wenn du mal bei meiner Maus im Abspann stehst, das ist dann sozusagen der Peak.Okay, ich kann das auch nachvollziehen.

Linus Neumann 0:04:17

Also das ist einfach, das ist dann doch, ja, Ja, das ist schon,das ist schon, ja, muss ich echt sagen, freue mich.Also es ist auf jeden Fall große, große Freude für uns alle.Jannis hat Familie, was meinst du, wie der jetzt dasteht? Also der ist ja jetzt einfach der King.Schon ganz gut. Und übrigens auch so Freunde, von denen du lange nichts gehörthast. Ich hab dich im Mausabspann gesehen.Du lest im Mausabspann.

Tim Pritlove 0:04:47

Das ist bemerkenswert. Es ist doch schön, dass da überhaupt noch Fernsehen gegucktwird, dass das Programm sozusagen noch verfolgt wird.Ich weiß nicht, so richtig sicher kann man sich da ja nicht unbedingt immer sein.

Linus Neumann 0:05:01

Bei der Maus schon. Das ist ein angestammtes Ding.Ja, da habe ich sehr gefreut.

Tim Pritlove 0:05:09

Und mit wem hast du dann zusammengearbeitet? Hast du direkt mit dem Ralf Kaspers zusammengearbeitet?

Linus Neumann 0:05:14

Genau, ja, also der Ralf macht ja auch andere Szenen, Quarks und Kaspers zum Beispiel, wo THS und ich,schon vor war es auch bald das ist auch schon wieder 16 ne, 6,7 Jahre her ne, 9 Jahre her und er war ja auch zum Beispiel auf dem CCC Camp und dadurch haben wir,einen losen Austausch immer mal wieder zu Themenunternehmen auch mal irgendwie,dass er sagte, wir wollen KI erklären und gib doch mal Feedback und dann habenwir da ein bisschen was zu gesagt und,das ist auch schon länger her und wie gesagt, der Beitrag war jetzt auch nicht,fundamental, aber offenbar,ausreichend groß, dass wir da gewürdigt wurden und das hat Janis und ich sehr mit Stolz gefüllt.

Tim Pritlove 0:06:04

Ja, er hat auch einen Vortrag gehalten, auf dem Camp damals und das kann erauch gerne mal auf dem Kongress machen.

Linus Neumann 0:06:10

Ja, ich glaube Kongress, das ist das übliche Problem.Das klassische Problem, ungünstiger Zeitpunkt zwischen den Jahren und Camp habeich natürlich auch die letzten beiden Male angeklopft, da hat er dann auch wiederirgendeine fadenscheinige Ausrede präsentiert.Fadenscheinig.

Tim Pritlove 0:06:32

Na gut. Gut. Aber weil wir so jetzt, oder weil du jetzt vor allem so im Schwungbist, werden wir dann auch nochmal ein bisschen erklären, wie das ist eigentlich so.Mit dem KI, weil das bewegt ja die Leute, das bewegt auch unsere Kommentareund das bewegt die Öffentlichkeit und das aus gutem Grund.

Linus Neumann 0:06:56

Genau. Aber wir machen trotzdem unser Housekeeping, wenn wir jetzt eh schondie Maus vorgenommen haben.Ich war außerdem letzte Woche in der Sendung Apokalypse und Filterkaffee,obwohl ich ja wirklich keinen Filterkaffee trinke,habe ich auch in der Sendung Eisenhardt Espresso getrunken mit Jagoda Marinitsch,die ja auch den Podcast Freiheit Deluxe macht, in dem ich vor einiger Zeit auchmal zu Gast war und wir haben da auch eine schöne Unterhaltung gehabt.Mich ebenfalls gefreut.

Tim Pritlove 0:07:34

Warst du auch mal gespannt sozusagen.

Linus Neumann 0:07:35

Also ich muss sagen, die Maus scheint dann doch nochmal mehr Reichweite zu habenvon dem Feedback, was bei mir ankam.Und vor allem, also ein Maus-Abspannserwähnung kriegt mehr Feedback,das bei mir ankommt, als eine Apokalypse und Filterkaffee, wo auch schon Feedback kommt, aber ja.

Tim Pritlove 0:07:55

Warten wir mal ab, was passiert, wenn die Maus erst bei Logbuch-Netzpolitikist. dann ist richtig Alarm.

Linus Neumann 0:08:03

Wenn wir uns ja hier auf das Board legen. Ach ne, du hast mir da andere Sachen drauf gemacht. Okay.

Tim Pritlove 0:08:10

Wir sollten aber auch noch kurz das Feedback der letzten Sendung huldigen.Es gab ein paar interessante Informationen, zum Beispiel von Kipfal,der unsere Postleitzahl Konfusion mit österreichischen Postleitzahlen,korrigiert und schreibt, man kann schon anhand der Postleitzahlen die WienerGemeindebezirke identifizieren. Sie sind durchnummeriert vom 1.Bezirk Innere Stadt bis zum 23.Bezirk Leasing. Und in den entsprechenden Postleitzahlen findet sich das inder 2. und 3. Ziffer wieder.1 0 1 0 entspricht also dem 1. Bezirk und 1 2 3 0 dem 23. Bezirk.In Wien beginnen die Postleitzahlen immer mit 1 als 1. Ziffer.Die vierte Ziffer stünde für das Bestimmungspostamt innerhalb des jeweiligen Bezirks.Im Alltag lautet die letzte Ziffer innerhalb Wiens aber fast immer 0.Warum das so ist, hinterfrage ich gerade zum ersten Mal.Vermutlich ist das der Einfachheit beim Adressieren geschuldet.Ja, liebe Grüße aus 1170. Das ist welcher Bezirk?

Linus Neumann 0:09:19

17. Ach, Messerschaft.

Tim Pritlove 0:09:21

Du bist einfach klar und in der Birne und einfach dabei. Linus,das muss ich jetzt mal anerkennend feststellen.

Linus Neumann 0:09:29

Ja, also beknackte Zähler, also ich meine 1170 ist das in meiner Wahrnehmung,aber offenbar ist es 1170 gesprochen.

Tim Pritlove 0:09:37

Ja, 1170 und wenn man richtig was ist im 17.Bezirk und eine richtig große Nummer ist, dann kann man vielleicht auch nochmaleine eigene Postleitzahl beantragen.Das ist sozusagen nochmal ein neues Live-Go, jetzt wo das mit der Sendung mit der Maus durch ist.

Linus Neumann 0:09:54

Ach so.

Tim Pritlove 0:09:54

Eine eigene Postleitzahl in Wien.

Linus Neumann 0:09:57

1, 3, 3, 7 wäre meine Postleitzahl.

Tim Pritlove 0:10:01

Also ich hätte, ja, ich weiß nicht, 23. Bezirk finde ich ja ganz geil.Also für 1, 2, 3, 5 würde ich mich durchaus bewerben.Keine Ahnung, wie das in Leasing so ist.Aber Leasing machen ja heutzutage viele Leute, habe ich gehört.Das ist durchaus populär.

Linus Neumann 0:10:20

Ja, verstehe.

Tim Pritlove 0:10:22

Stefan hat noch einen Kommentar zu unseren Ausführungen zur National Guard.Mir war schon in der Sendung so ein bisschen alles durcheinander.Du hast mich ja auch da die ganze Zeit korrigiert, weil ich hatte immer so dasGefühl, so National Guard, das ist doch eher so eine lokale Geschichte in den USA.Ja, ist auch so. Stefan sagt, die National Guards sind die Milizen der Bundesstaaten.Die haben in der Tat auch Luftwaffen und so weiter, aber sie sind separat vonder United States Army, also dem Heer und United States Air Force des Bundes.Sie unterstehen den jeweiligen Gouverneuren, die sind auch im Irak und so weiter dabei.Der Präsident kann beim jeweiligen Gouverneurtruppen anfragen.Donald Trump hat aber wieder ein Notfallgesetz ausgenutzt, um sie gegen denWillen des Gouverneurs loszuschicken. Das ist sozusagen hier die eigentliche Information.Die ich auch nicht so richtig mitbekommen habe. Aber dann klärt sich zumindestmein komisches Gefühl, was ich in dem Moment hatte.

Linus Neumann 0:11:23

Okay, also kommandiert von der staatlichen Exekutive, nicht von der Bundesexekutive.

Tim Pritlove 0:11:31

Genau, die werden halt gerufen, wenn große Katastrophen sind.Gewaltbrand und so weiter oder Unruhen gerne, aber das ist halt eigentlich derCall vom jeweiligen Gouverneur,was in dem Fall halt ein demokratischer Gouverneur gewesen wäre,in dem Fall Kalifornien, aber Trump hat wieder irgendein Notfallgesetz aktiviertund gesagt, ja hier Notfall,und selber das Kommando übernommen,wie es ja jetzt schon mehrfach passiert ist, auch mit den Zöllen und jetzt eben auch mit dem,mit dem Einsatz im Iran.

Linus Neumann 0:12:07

Ja, doppelt geschmacklos.Ja, aber ist auch schon wieder vorbei, gab ja dann direkt das nächste Thema.Aber wir sollen nicht so viel über Iran, Israel und Trump sprechen.Deswegen machen wir das jetzt nicht.

Tim Pritlove 0:12:24

Genau. So, historias divertidas y educativas haben wir jetzt noch.

Linus Neumann 0:12:32

Ja. Über,Intelligencia artificial. Wir wollten ein bisschen die Gelegenheit nutzen,der Themenarmut, es ist ja nichts los in der Welt, über das wir reden dürfen in dieser Sendung.

Tim Pritlove 0:12:48

Das ist richtig. Wir müssen echt schlau sein.

Linus Neumann 0:12:52

Deswegen nutzen wir die Gelegenheit, weil ein bisschen auf diese KI-Sache zu blicken, zurückzublicken, vorauszublicken, weil wir zwar immer wiederhier Entwicklungen in der Netzpolitik und in der KI behandeln,aber noch nicht so die gelegenen oder ich glaube, Zeit ist,jetzt mal ein bisschen zu schauen, was ist das eigentlich für eine Technologie, die es da gibt?Was macht sie aus und wie wird sie eventuell das Netz und die Gesellschaften beeinträchtigen?Oder beeinflussen, formen oder herausfordern.

Tim Pritlove 0:13:35

Ja, und wie soll man dazu stehen auch? Und das sind ja, glaube ich,auch Fragen, die sich wirklich viele stellen derzeit.Also nahezu alle. Also selten so ein Technologiethema erlebt,vielleicht mit der Ausnahme von Internet,wo es auf einmal unmittelbar alle betraf, aber vor allem unmittelbar alle so beschäftigt hat.Und vielleicht ist es sogar hier noch mehr als bei anderen Sachen.

Linus Neumann 0:14:04

Ich würde sagen, es ist mehr, weil beim Internet gibt es ja schon Leute,das hatten wir auch vor einigen Wochen oder Monaten in der Sendung,die Eisenharte Offliner sind und die das jetzt einfach noch aussitzen.Bis es ausfällt oder so.

Tim Pritlove 0:14:24

Es gibt sicherlich auch bei Eisenharten Nicht-Intelligenzler,die das jetzt auch aussetzen.

Linus Neumann 0:14:31

Okay, also wir haben eine Technologie. Du hast das hier in der Sendung ja auchschon mehrmals dargestellt, was das Besondere jetzt eigentlich am Computer ist.Wir hatten vorher eine Welt, in der wir,Unsere Regeln formuliert haben in Programmen und den Computer diese Regeln haben anwenden lassen.Dann haben wir immer komplexere Strukturen geschaffen, Programme,Umgebungen, Datenumgebungen, dass das Thema Fehler in unseren Logiken ein großes wurde.Dass wir also so komplexe Programme geschaffen haben, dass wir mitunter Jahrzehntedamit beschäftigt sind, darin alle Fehler zu finden.Aber das waren immer ein endlicher Satz an Regeln, der da zur Anwendung kam,den Menschen geschrieben haben, der in seiner Komplexität vielleicht schnelldas Verständnis eines einzelnen Menschen in seiner Gänze schon übertraf.Aber wir können in einem jeden Programm sagen, hier ist die Regel und die mussanders oder die führt hier zu einem Fehler.Wir haben mit der KI nun eine Technologie,die aus potenziell chaotischen Daten großer Menge Regeln deduzieren kann,also ableiten kann, indem sie versucht,sich den in diesen Daten verborgenen Regeln am besten anzupassen und möglichst das zu reproduzieren,was da drin ist, ohne dabei notwendigerweise die Regeln explizit zu machen.Wir brauchen also für ein Problem, das wir mit KI gut lösen können, drei Dinge.Daten in großer Menge, die möglichst gut gelabelt sind.Wir brauchen darin nicht triviale Zusammenhänge, Weil die trivialen Zusammenhänge,die können wir mit einfachen Regeln ergründen.Und wir brauchen irgendein Gütekriterium, mit dem wir entscheiden können,ob eine Lösung richtig oder falsch oder noch besser, eine Lösung besser als die andere ist.Und wenn wir diese drei Dinge haben, große Menge Daten,nicht triviale Zusammenhänge und eine Möglichkeit, die Güte einer Lösung zuevaluieren, dann haben wir ein Problem, was für KI generell geeignet ist.Hätten wir die Daten nicht in großer Menge, haben wir nicht genug Lernmaterial,ist der Zusammenhang trivial, machen wir es mit einfacher Mathematik.Und wenn wir kein Evaluationskriterium haben, kein Gütekriterium,bei dem wir der KI zurückmelden können, das war jetzt gut oder besser oder schlechterals das andere, dann kann sie nicht lernen.Diese drei Dinge brauchen wir also und dann können wir eine Technologie mitmassenhaft Daten füttern und ihr das Feedback geben und sie passt sich automatisch an.Das heißt, die Intelligenz ist nicht wirklich in dem Ergebnis,also in der Antwort, die wir auf unsere Frage bekommen, sondern Intelligenzist eigentlich das Lernen.Auch beim Menschen ja so.Nichts, was sich nicht weiter entwickelt, adaptieren und lernen kann,würden wir als intelligent bezeichnen. Entsprechend sagen wir auch, das ist Smart Home.Da bin ich ja schlauer. Ja, stimmt. Weil du das Smart Home programmiert hast,dass es irgendwie die den Rollladen runter macht, wenn der Vorhang aufgeht.Und deswegen ist das Smart Home jetzt dumm.Aber es kann halt nicht automatisch lernen.Und diese Technologie haben wir jetzt. Was machen wir damit?Wir geben dem Ding Datensätze, lassen Regeln deduzieren, von denen wir selbernicht mehr wissen, was sie sind, dass dieses Ding auch nicht mehr explizit machen kann.Und dann lassen wir es dieses deduzierte Wissen anwenden.Und meistens tun wir uns dann freuen, weil es sogar jetzt mit uns spricht.Und diese Technologie wenden wir jetzt möglichst auf alles Mögliche an, gerade,primär auf viele Daten und stellen fest, keine Ahnung, das kann jetzt sprechen,das hat so eine Wikipedia,die snackt so ein Modell dann irgendwie an einem Vormittag durch und weiß einfachalles, was da drin steht, kann nicht nur einzelnes Wissen darin,zitieren, sondern kann auch Bezüge zwischen diesem Wissen darstellen und daist schon was wirklich Irres entstanden.Kann man sich übrigens, ach hier, von Jannis auch CCC-Vorträge anschauen,von Jannis Quer und auch von anderen.Wir haben das auf dem Kongress und auf dem Camp von den unterschiedlichsten,Expertinnen und Experten dieses Phänomen beleuchten lassen.Und damit gehen wir jetzt auf die Mainscheid los.

Tim Pritlove 0:19:45

Mhm.Ja, also es ist wirklich bemerkenswert und es ist vor allem auch bemerkenswert,wie schnell die Entwicklung nach wie vor ist.Also ich meine, wir haben jetzt ungefähr so zwei Jahre der akuten öffentlichenWahrnehmung, glaube ich, durch. Zähle ich richtig?Und Leute, die, sagen wir mal, ein bisschen mehr schon die Nase im Wind hatten,verfolgen das vielleicht so seit fünf Jahren, dass so diese ersten Durchbrüchesich wirklich angedeutet haben.Also man hat ja einige Fortschritte erzielt.Machine Learning, was ja hier die technische Basis ist,hat schon vor längerer Zeit einfachere Dinge ermöglicht, sodass, was weiß ich,in deinem Fotoalbum konntest du auf einmal nach Motorrad suchen und ohne dass du es eingegeben hast.Tauchen auf einmal Fotos auf, wo auch ein Motorrad drin ist.Weil diese ganzen einfachen Bilderkennungsalgorithmen schon sehr früh,also Algorithmus, vielleicht das falsche Wort,also diese Machine Learning Technologien, die halt auf so etwas angewendet wurden,das hat schon relativ früh gute Ergebnisse erzielt.Aber das eigentliche, der heilige Gral bei der ganzen Forschung der künstlichenIntelligenz, die jetzt so 75 Jahre alt ist ungefähr,war ja eigentlich dieses Sprache, menschliche Sprache verstehen und so der Benchmarkwar so ein bisschen, man merkt nicht mehr, dass man mit dem Computer redet,weil der ganze Dialog so flüssig abläuft.Es gab ja so frühe Werke, wie dieses Elisa-Programm, was das so eher durch einpaar Tricks schon mal versucht hat.Und Leute sind auch schon damals ein bisschen drauf reingefallen,auf dieses so, ja, einfach mal mit einer Gegenfrage antworten,wenn man nicht mehr weiter weiß und so weiter.Das war natürlich noch kein echtes Verstehen, hat aber auch schon mal gezeigt,wie wenig ich es manchmal brauche, um einen auch schon glauben zu lassen,man hätte es mit Intelligenz zu tun.Nur durch dieses intensive Machine Learning und vor allem durch das Steigerndieser Datenmenge immer mehr Daten heranziehen.Das Internet kam dazu, das Internet ist extrem gewachsen, unheimlich Wikipedia, andere Datenquellen.Auf einmal war so viel Zeug da, dass sich gezeigt hat, dass diese Algorithmen,das habe ich schon wieder Algorithmus gesagt, dass diese Methodik.Dazu führt, dass es auf einmal exponentiell alles viel besser funktioniert,umso mehr Daten man heranzieht.Also während sich am Anfang so ein Funktionieren abgezeichnet hat,aber es noch große Schwankungen hatte, wurde es auf einmal super flexibel undsuper powerful, wenn man erstmal so eine gewisse Datenmenge überschritten hat.Und das hat natürlich dann dieses Rennen ausgelöst. Auf einmal war Sprache gelöst.Auf einmal war so Übersetzen von der einen Sprache in die andere Sprache,da redet heute schon fast keiner mehr drüber, dass so Computer auf einmal alles übersetzen können.Ja, das sprengt immer noch meinen Kopf, weil das halt schon sehr klar zeigt, dass,hier die Systeme, die technischen Systeme einen Prozess auf einmal automatischnachgebildet haben, der eben sonst nur in unseren Gehirnen entsteht und dasist schon mal, sagen wir mal,die erste irre Geschichte eigentlich in dieser ganzen,Technologie. Ja, und jetzt sehen wir halt.

Linus Neumann 0:23:33

Dass immer noch mehr kommt. Eso solo puede hacerlo la inteligencia artificial.

Tim Pritlove 0:23:39

So einfach ist das.

Linus Neumann 0:23:40

Das kann nur künstliche Intelligenz.

Tim Pritlove 0:23:46

Ja, aber das ist, denke ich, muss man immer wieder auch sagen,so was hat KI jemals für uns getan.Und auf einmal haben wir den Babelfisch erfunden.

Linus Neumann 0:24:00

Der auch damals schon in der Vorhersage nicht als besonders gute Idee in dieGeschichte der Menschheit eingegangen ist.Aber natürlich eine Billion-Dollar-Idea war.Und so entsteht jetzt der Hype-Cycle. Alle wollen mitmachen,alle wollen investieren.Und es wird jetzt natürlich gesucht nach dem.Und ja, nach der Möglichkeit, damit große Dinge zu lösen.Und interessanterweise, da gibt es dann viele Naysayer und Kritiker und so,die dann so am Rande sitzen und sagen, ja, das kann ja alles viel besser,das ist alles ein Papagei hier und so.Aber mit dieser Technologie wollt ihr hier meinen Job ersetzen als CustomerSupport Mitarbeiter für ein mittelständisches Unternehmen.Das hat ja gar kein Spezialwissen von der Technologie, über die ich hier spreche.Und dann lässt das Ding mal irgendwie ein Ei kochen und danach kann es haltdieses Wissen aus einem Manual sehr, sehr gut wiedergeben.Gleichzeitig sehen wir den Aktienkurs von Nvidia, der natürlich irgendwie skyrocketed,wie man so schön sagt, seit vielen Jahren.Weil man einen unglaublichen Bedarf an der Lern- und Anwendungshardware prognostiziert.Dann bricht alles zusammen, weil die Chinesen sagen, guck mal hier,wir haben das auf sanktionierte Althardware mit sehr viel weniger Aufwand hinbekommen, was Gutes zu bauen.Dann steigt der Kurs wieder, weil man sagt, ja meine Güte, jetzt können wirnoch viel mehr machen, weil wir exponentielle Verbesserungen von KI wahrnehmen.Und irgendwo auf diesem Hype-Cycle bewegen wir uns jetzt mit einem im weitestenTeilen der Gesellschaft soverbreiteten Gedanken, ja cool, dann mache ich das halt demnächst mit KI.Dann lasse ich mir meine E-Mails freundlicher machen oder übersetzen.Vielleicht schreibe ich bessere Schriftstücke schneller oder vielleicht programmiereich mit dieser Sache, was ja glaube ich das ist, was du am meisten anwendest, Tim.Dass du KI als Supporter in der Programmierung.

Tim Pritlove 0:26:22

Ja, das ist einfach, also da machen sich glaube ich auch viele Leute noch garkeine Vorstellung, was das für ein Game Changer ist.Also das ist wirklich krass.Also da finde ich überhaupt gar keine Worte für.Das ist einfach so irre. Also viele veräppeln das ja auch schnell und tun esab so mit ja, wenn die, immer so dieses Bild mit jemand, der keine Ahnung hat,kann jetzt programmieren.Das geht natürlich schief, weil man.Schon in diesem Namen Assistent steckt ja drin, dass du eben auch noch eineeigene Kompetenz mitführen musst.Von daher sind diese Systeme tatsächlich am nützlichsten für Leute,die ohnehin schon ein bisschen was drauf haben.Und man wird nicht unmittelbar abgelöst, aber es ist natürlich so,dass wir mehr Player sehen werden,die mit AI-Assistenten auf einmal so totalen Turbo anschmeißen können.Das merkt man gerade bei der Programmierung schnell.Also wenn man mal so rumfragt, unter anderem Programmierern,die so das ernsthaft betreiben.Alle machen da ihre Schritte, weil es einfach Prozesse vereinfacht,die vorher zeitintensiv waren,aber die nicht die eigentliche Programmierarbeit so sehr geprägt haben.Also dieses Kreative, dieses ich muss mir jetzt wirklich, ich muss jetzt dasBig Picture liefern und ich muss irgendwie ein Systemdesign finden,in dem eine Lösung für ein bestimmtes Problem sich abbildet,das da musste man 90% der Zeit noch mit Gerüstbau verbringen,um überhaupt erstmal die Voraussetzungen zu schaffen,diese Ideen dann wirklich auch einzuleiten.Aber mit diesen AI Coding Assistance fällt sehr viel von diesem Gerüstbau einfach weg.Und man kann schnell Ergebnisse erzielen, schaut drüber, sagt,okay, passt, läuft so. Man kann das Eigentliche vornehmen und das wird wirklich eine Menge ändern.

Linus Neumann 0:28:44

Also das, wofür man vorher Mitarbeiter brauchte.

Tim Pritlove 0:28:48

Ich weiß nicht, ob Mitarbeiter da immer so geholfen haben, weil das ist… Nee.

Linus Neumann 0:28:54

Eben nicht.

Tim Pritlove 0:28:57

Und ja, ich meine, schlechte Software haben wir ja nun auch schon genug gehabt.Ich meine, das führt ja hier, sagen wir mal, die Hälfte unserer Sendungen sind.Irgendwie fehlerhafte Systeme, die nicht ordentlich ihre Security überdachthaben, wo das ganze Systemdesign nicht ist,wo einfach nur fahrlässig gehandelt wurde oder wo einfach der ganze Prozess völlig verkackt ist.Gerade wenn es so staatliche Dienstleistungen und so weiter betrifft,wo man einfach immer wieder auf Software stößt, die einfach,unnötig kompliziert und clumsy ist und sowas kann man sich jetzt vielleichtmal ein bisschen abschütteln hoffe ich.

Linus Neumann 0:29:40

Vielleicht in dem Kontext nur nochmal kurz, warum wird ausgerechnet das Programmierenso schnell von einer KI verarbeitet und abgenommen?Naja, Programmierer haben seit jeher mit Computern gearbeitet und haben dortihren Code gespeichert,kommentiert und üblicherweise auch in Versionierungssystemen nachgehalten.Das heißt, wenn du jetzt so etwas wie GitHub oder so als Datenbasis hast oderandere Softwareprojekte, dann haben die nicht nur die Dimension,dass du sie von oben nach unten lesen kannst und die Kommentare.Sondern dass du in den, die Älteren von uns erinnern sich vielleicht an Subversionoder sowas, aber eigentlich heutzutage alles mit Git, dass du in einem Repositoryauch die zeitliche Dimension hast.Wo dann nicht nur der Code kommentiert ist, sondern auch, welches Feature einspezifischer Commit jetzt gerade, welches Problem der gelöst hat,welche Verbesserung herbeigeführt hat.Das heißt, das ordentliche Arbeiten der Programmiererinnen hat auch eine perfekteDatenbasis zum Anlernen einer künstlichen Intelligenz geschaffen.Und deswegen kannst du, du hast halt hier viel Daten,weil das Ergebnis Daten sind und du hast außerdem noch iterative Verbesserungenund damit natürlich einen komplexen Datensatz mit Evaluationskriterien und einer klaren Bewertung,ist was besser geworden oder nicht.Und damit natürlich eine sehr gute Datenbasis für so ein neuronales Modell.

Tim Pritlove 0:31:28

Und nicht nur aus der Datenbasis heraus, sondern du hast es ja beim Poemierenauch mit formalen Sprachen zu tun, die dann auch überprüft und übersetzt werden.Das heißt, wenn irgendeine Änderung von einem Compiler, der das dann in laufendemCode übersetzen soll, einfach Fehler festgestellt werden, gibt es dann ebenfür die AIs ja auch diese Rückmeldung, dieses nee, so geht es nicht.Das heißt, die Dinger können sich selber verbessern.Wir hatten ja auch schon mal darüber gesprochen, über die ersten Systeme,als man noch versucht hat, Schach und dann Go vor allem zu spielen.AlphaGo war glaube ich das erste System, was sich quasi selbst trainiert hat,indem es eben einfach die ganze Zeit mit sich selbst Go gespielt hat und dabeipermanent ja immer die Belohnung gab mit, das hat zum Erfolg geführt,das hat nicht zum Erfolg geführt.Und beim Programmieren ist es halt ein bisschen ähnlich,dass die Systeme sich halt hier selber pimpen können und das werden wir sicherlichin Zukunft noch häufiger sehen, dass man einfach die Modelle sich gegenseitig trainieren lässt.

Linus Neumann 0:32:31

Und jetzt müssen wir uns überlegen, in welchen anderen Bereichen gibt es vielleichtnoch nicht ganz so viele Daten und werden jetzt Daten gesammelt.Ich finde, diese Programmierung ist auch ein Beispiel für, sagen wir mal,spezialisierte Modelle.Da gibt es dann, was weiß ich, so ein, keine Ahnung, Modell für C-Code, für C-Sharp.Du kennst dich da besser aus.

Tim Pritlove 0:33:01

Diese weniger auf einzelne Programmiersprachen optimiert, sondern eher auf Programmieren als solches.Was da alles dazu beiträgt, kann ich nicht beantworten, aber es gibt ein paarModelle, also das sind auch alles Large Language Models, die eben besondersgeeignet sind und auch als solche,bekannt gegeben werden, dass sie fürs Programmieren besonders gut sind.

Linus Neumann 0:33:28

Aber man kann sich mit denen auch unterhalten?

Tim Pritlove 0:33:30

Jaja, also Claude Sonnet ist so ein ganz normaler LLM, damit kannst du einfacheine ganz normale Konversation führen, also dieser Claude Desktop,das ist ja quasi so die Alternative von Anthropic, alle kennen halt ChatGPT und die Apps,Claude ist halt im Prinzip dasselbe von Anthropic und das Modell des Populärsist halt dieses Sonnet-Modell, was einfach sehr gut trainiert wurde für Programmierung.Und das macht derzeit, würde ich auch sagen, den Großteil des Marktes aus,aber diese Anteile können sich sehr schnell verschieben.Also auch Google hat da natürlich was im Game, auch OpenAI, also wer da dieNase vorn hat, das kann sich sehr schnell ändern und da ist noch sehr viel Bewegung drin.Was ich aber auch noch hinzufügen möchte,ich weiß gar nicht, wie ich das da ausdrücken soll, aber,Aber man kriegt da schon, also der Grad an Verständnis, den man mit diesen Modellenhat für die Aufgaben, die man lösen möchte beim Programmieren,ist schon wirklich irre.Also es ist einfach wirklich krass. Man kann jetzt wirklich...Ein Projekt damit starten, indem man sich vielleicht erstmal eine halbe Stundemit diesem Modell über die Ziele einigt und sich einfach Ideen liefern lässtund die dann durchspricht und dann sagt so,nee, das würde ich immer gerne nicht so machen, ich möchte mich gerne mehr darauf konzentrieren.Und man kann also permanent seine Ideen immer wieder refinen,neu bearbeiten oder wie man so schön sagt, refaktorieren, also immer wiedersozusagen auf ein anderes Gedankenmodell umstellen,bis einem das dann gefällt und dann mit diesen Plänen losmarschieren.Und ich habe halt einfach wirklich langsam so den Eindruck,dass das, ich will es nicht Bewusstsein sagen, aber dass da einfach diese Intelligenz,die sich darin abbildet, die ist so krass,dass ich das Gefühl habe, ich rede einfach mit jemandem, der das Programmierenals solches wirklich verstanden hat.

Linus Neumann 0:35:46

Und ich denke, das muss man an dieser Stelle auch einfach mal sagen, hat es ja auch.Ja, also wenn wir das jetzt mal auf eine andere Ebene heben,das wird ja den Beruf der Programmiererin dann doch sehr nachhaltig verändern,weil in einer Welt,in der Menschen in einem Cloud Sonnet eine Ansprechpartnerin haben,die zu jeder Tages- und Nachtzeit perfekt mit ihnen über ihr Code und ihr Projektreden kann und mit der sie das entwickeln kann,Das wird sicherlich schon dazu führen, dass sich diese Leute potenziell fragenwerden, warum soll ich hier eigentlich noch Leute anstellen und denen das beibringen?Und wenn das nicht mehr passiert, stellt sich die Frage, wer wird denn dannirgendwann noch in der Lage sein, besser als dieses Ding zu trainieren?Oder spielen die dann auch alle wie AlphaGo gegen sich programmieren und werdeneinfach nur immer besser? und die menschliche Fähigkeit wird obsolet in diesem Bereich.

Tim Pritlove 0:36:55

Ja, also wir werden es auch erleben, dass diese Systeme sich halt selber ausdenken,welche Software man schreiben könnte und das dann auch einfach alleine tun.

Linus Neumann 0:37:08

Ja, gegen uns.

Tim Pritlove 0:37:11

Oder für uns.

Linus Neumann 0:37:15

Aber das, was sich da herannaht in nur so kurzer Zeit, ist auf jeden Fall,und das ist jetzt auch nur in diesem einen Bereich, den Tim da jetzt mal geschildert hat,in vielen anderen Bereichen wird das sicherlich dann zu ähnlichen fürchterlichenEffekten führen oder erschreckenden Aspekten.Klana ist ja ein Unternehmen, wo der CEO sehr früh angekündigt hat,gesagt hat alles klar, wir halbieren jetzt hier die Belegschaft und ich will das alles von,KI machen lassen ich denke, der hat dann noch relativ früh, wenn ich mich nichttäusche oder auch andere Unternehmen, haben dann nochmal einen Schritt zurückgemacht und gesagt okay,scheint so zu sein, dass wir das jetzt nicht hinkriegen, die alle sofort durch ein Chatbot zu ersetzen.Wir brauchen die dann doch wieder, aber ich denke, man kann hier sehr klar davonausgehen, dass die Menschen, die jetzt noch arbeiten, jetzt halt ein Modelltrainieren und dass das Setup geschaffen wurde.Oder alles klar, wir bezahlen euch hier noch pro Stunde für eure Arbeit.Aber alles, was hier rein und raus geht, das wird in so ein Modell gefüttert.Und da arbeitet ihr quasi nur daran, so ein Modell, also noch mehr Lernmaterialfür so ein Modell zu schaffen, damit ihr hier irgendwann wegautomatisiert seid.Und diese Automatisierung, das, was wir jetzt so langsam den Weg gegangen sindvon der KI als Supporterin für Tim, der seine Programme da bastelt,Und hin zu einer kommerziellen kapitalistischen Nutzung,wo Tim jetzt schon als Beispiel in der Lage ist,Programme zu schreiben, die er sonst alleine nicht in der Lage gewesen wäreund damit auch eventuell hier ein Output liefern kann,dass vielleicht einen traditionellen durchschnittlichen Programmierer übertrifftund bald vielleicht auch das Output eines traditionellen Unternehmens übertrifft.Der Schritt ist nicht mehr weit, dass der Tim da halt auch nicht mehr sitzen muss.Du arbeitest gerade an deiner eigenen Abschaffung.

Tim Pritlove 0:39:37

Davor habe ich zum Beispiel überhaupt gar keine Angst, also auch nicht durchautomatisch generierte Podcasts.

Linus Neumann 0:39:45

Ja, ah, das ist, das finde ich einen spannenden Exkurs, den wir an der Stellemal machen können, wo wir jetzt sagen,kreatives schaffen, da hatte ich auch mit der Jago da kurz in dem Podcast drüber gesprochen, wo.Dann ja Texte geschrieben werden. Es wurde dann ein Experiment besprochen,da sollten Leute Aufsätze schreiben und die einen haben die halt mit Chat-GPTgemacht oder durften Chat-GPT zur Hilfe nehmen und die anderen mussten es selber machen.Und in der wiederholten Anwendung wurde dann festgestellt, dass die mit Chat-GPTgenerierten Aufsätze von Unabhängigendann als, ja, irgendwie dann am Ende liebloser wahrgenommen wurden.Und ich bin mir nicht so sicher also wir haben ja schon vor einiger Zeit hierüber dieses mit KI generierte Bild gesprochen was bei Sotheby's dann irgendwie so einen hohen Wert,erzielt hat in der Versteigerung ich habe sicherlich auch mal darüber gesprochendass hier Beethovens 10.Symphonie, die ja nicht fertig gemacht hatte, die hatten sie dann irgendwiemit einer KI fertig gemacht und aufgeführt Und das war trotzdem natürlich schönund hat ja seine emotionale Wirkung trotzdem auf Menschen.Und ich weiß wirklich nicht,ob sich dieses, das ist von einem echten Menschen noch so lange als emotionalesKriterium auch für uns halten wird. Wie blickst du darauf?

Tim Pritlove 0:41:25

Und meinst du jetzt spezifisch den Kunstbereich?

Linus Neumann 0:41:30

Es gibt noch einen zweiten Bereich, den ich danach berühren würde.Das wäre der Bereich Psychologie und Therapie. Aber lass uns vielleicht erstmalin Schönheit schaffen. Also Hackerethik.Man kann mit einem Computer Kunst und Schönheit schaffen.Vielleicht ist das, der Computer kann Kunst und Schönheit schaffen.

Tim Pritlove 0:41:50

Also ich meine, ein Kunstwerk, also natürlich ist das hervorragende Kunst,wenn jemand das erste Mal mit KI so ein Kunstwerk erschafft,weil dann war es halt neu.Und Kunst, die Aufgabe von Kunst ist meiner Meinung nach auch immer das Neue,mit dem Neuen zu spielen und sich neue Dinge einfallen zu lassen,was man miteinander kombinieren kann.Und das wird meiner Auffassung nach auch so bleiben,weil das eben so die originäre Qualität des Menschen an der Stelle ist,auch so eine Randomness zu generieren, die sich nicht unbedingt daran orientiert,was die anderen Daten jetzt gesagt haben,wie das zu sein hat, sondern wo einfach die neue Idee ja jenseits sich dessenbewegt, wie es bisher immer war, sondern die ja im eigentlichen Sinne Neues,also dass die Maschinen wirklich Neues produzieren können und nicht nur quasidas intelligent nachäffen, was bisher schon getan wurde, das muss ich noch zeigen.

Linus Neumann 0:43:01

Okay, aber jetzt ist da sagst du jetzt Kunst, okay da ist aber auch schon irgendwie einen starken,Kunstbegriff oder ein Kunstbegriff voller hoher Achtung für die Kunst Was istdenn was runterstufen auf einfach nur kreativ Ist jetzt kein Kunst,ist jetzt nicht Picasso aber.

Tim Pritlove 0:43:20

Ich denke Kreativität.

Linus Neumann 0:43:22

Und Kunst.

Tim Pritlove 0:43:22

Das steht im Zusammenhang also nicht exklusiv für Kunst,Kunst ist schon eben, finde ich, ein kreativer Output, der eben auch nicht unbedingtgeleitet ist von irgendeinem klaren Ziel.Also wo es nicht um Geld verdienen geht oder Dinge reparieren, normale Vorgänge.Kunst kann immer für sich dastehen und reflektiert diese Welt und bringt neue Ideen.Ich meine, man hat es ja auch in der Literatur, die Science-Fiction ist sozusagenimmer vorneweg und liefert uns eigentlich so ein bisschen auch den Weg in die Zukunft.Also alles, was entsteht, war auch irgendwann mal Science-Fiction und war zudem Zeitpunkt im Prinzip Kunst.Also auch ein Science-Fiction-Buch ist in dem Sinne für mich halt Kunst undso eine Urform kreativen Denkens.Natürlich kannst du dir jetzt von so einem Large-Language-Model auch irgendeinenScience-Fiction-Roman zusammenschreiben, aber ob der wirklich mit bahnbrechendenIdeen daherkommt, das werden wir noch sehen.Ich will es nicht auslesen.

Linus Neumann 0:44:36

Okay, aber dann lass uns trotzdem mal bei der kreativen Leistung bleiben.Also eine Geschichte, ein Musikstück, nicht notwendigerweise Kunst.Wirst du das immer abwertend? Glaubst du, dass das niemals auf dich die emotionaleWirkung haben wird, die etwas von einem Menschen Geschaffenes haben wird?Glaubst du, dass es nie die Qualität erreichen kann, die etwas von einem Menschen Geschaffenes hat?

Tim Pritlove 0:45:06

Es kann die Qualität erreichen, definitiv. Also ich habe jetzt schon irgendwie,es ging hier gerade irgendwie dieses erste,es gab so ein Album rum, was komplett KI erzeugt wurde und wo einfach niemand mehr sagen würde,Das klingt jetzt nicht wirklich wie so eine Aufnahme aus den 50er Jahren,wo irgendwie so eine Band Jazz spielt.Also das ist schon möglich, das zu erzeugen.Wir werden natürlich als Menschen auch immer den Bezug zu Menschen haben wollen.Für uns ist bei Musik ist es ja auch die Identifikation oder die Bezugnahmeauf einen Künstler gehört jaauch mit dazu wir haben auch oft das schon gehabt, früher so Milli Vanilli,die sozusagen das Objekt waren in der Öffentlichkeit mit ihrer Musik wo sichdann später rausgestellt hat, das war dann doch wieder nur alles von Frank Farian,teilweise auch gesungen und sie waren eigentlich gar nicht die Schöpfer dieser Musik.Du hast auch oft auch schon so Bands, die ja sozusagen wirklich nur noch Darbieterund Verkäufer eigentlich einer bestimmten Musik sind, die vollständig von anderenLeuten produziert wird.Funktioniert dann,Teilweise eben auch schon. Da können wir uns jetzt ein bisschen verrennen, glaube ich.Wir kommen auch ein bisschen weiter weg von dem, was vielleicht KI ist.Aber ich glaube, dass der Bezug zu realen Personen weiterhin eine große Rolle spielen wird,auch wenn wir jetzt erstmal eine Phase erleben werden, wo everything KI generiertsein wird und bis wir es dann nicht mehr ertragen können.

Linus Neumann 0:46:57

Das finde ich dann, okay, was ich mich tatsächlich, also wenn wir mal diesenGedanken, der Bezug zu einem Menschen, wenn wir den jetzt mal weiter gehen.Psychotherapie. Nehmen wir mal Psychotherapie als Beispiel.Sehr enge, tiefe, emotionale Verbindung, Thematik, die man mit Menschen eingehen muss.Und jetzt hast du auf der, wenn du jetzt die Frage stellst, wird denn so eineKI jemals eine Therapeutin ersetzen können?Oder wird dieses Verhältnis dem Computer immer fernbleiben, dass er es nie erreichen kann?Und ich glaube, die Antwort ist hier super einfach. Therapien funktionierenüblicherweise nach wissenschaftlichen Manualen, also wenn es vernünftige Therapien sind.Das heißt, der Mensch, der da mit dir die Therapie macht, geht eh nur in einen Modus.Und muss außerdem sehr sensibel für deine Emotionen sein und sehr gut seineeigenen unter Kontrolle haben.Das schafft der Mensch nur so und so viele Stunden am Tag, professionell.Er wird dabei Schwankungen in seiner Leistungsfähigkeit haben.Durch eigene Belastung, viel gegessen, wenig gegessen, letzte Nacht gesoffen,gerade vom Partner oder von der Partnerin getrennt.Oder einfach letzte Sitzung war mit irgendeinem Arsch, mit dem komme ich nicht zurecht.Das heißt, da hast du eine unglaubliche Schwankung, auch in der Passung zwischen,Therapeutin und Patientin und so.Und jetzt kannst du sagen, alles klar, red einfach mal hier mit diesem Modell.Das hat die Stimme, die du haben willst. Wenn die Stimme dir nicht gefällt,stellst du den ein bisschen höher, ein bisschen tiefer.Du kannst ihn einstellen. Heute brauche ich jemanden, der sehr einfühlsam istoder ein bisschen strenger.Er ist einfach ein Slider und du kannst mit dem so viele Therapiestunden machen, wie du willst.Ich finde das und ist auch jederzeit da, ist halt nicht gerade ein Termin,wenn du in einer Notsituation bist und gerade einen therapeutischen Bezug brauchst.Finde ich absolut naheliegend, dass das, was da vielleicht an menschlicher Nähedurch einen echten Menschen noch vielleicht eine Rolle spielt,auf jeden Fall durch die Verfügbarkeit, Dauer, Professionalität,auf jeden Fall wettgemacht wird.Es mag sein, dass sich dann besonders reiche Menschen noch so einen eigenen Shrink leisten.Der hat ein Büro oder so eine Couch und der kommt vorbei oder so.Der ist gut angezogen oder die.Den leisten wir uns noch so. Aber die Menge der Bevölkerung,natürlich wirst du die mit so einer KI dann da irgendwie abklären.

Tim Pritlove 0:49:51

Und findest du das? Wie findest du das?

Linus Neumann 0:49:57

Ich,und ist diese Idee im Raum, wie geht es mir damit?Du fühlst dich in deiner Sache sehr...Das ist für mich jetzt erstmal ohne Bewertung eine Betrachtung der Situation,oder eine Betrachtung, wo ich denke, wie sich das entwickeln wird.Wenn wir uns die katastrophale Unterversorgung der Menschen mit psychotherapeutischem Support anschauen,dann denke ich, dass das ein positiver Ausblick ist, ehrlich gesagt.Du darfst auch nicht vergessen, eine Therapeutin kann auch ebenfalls eine Patientin ablehnen.Da hast du natürlich auch noch mal einen selektiven Bias.Wenn die Leute, die sich zur Therapeutin ausbilden lassen, Die finden dann ihreeigenen Schwerpunkte und vielleicht liegen die nicht da, wo der Bedarf ist bei den Menschen.Potenziell bestimmte Bilder sind sehr viel einfacher zu therapieren oder sehrviel angenehmer für dich vielleicht als andere.Das kann man alles durch den Einsatz von neuronalen Modellen auf jeden Falldie Versorgungslage verbessern.

Tim Pritlove 0:51:19

Da wird natürlich auch schnell die Frage kommen, sind dann diese Empfehlungen auch die richtigen?Wir haben ja durchaus auch die Möglichkeit, dass solche,Systeme durch das falsche Training oder durch einen falsch geführten Dialogauch schnell in einen ganz anderen Geisteszustand versetzt werden können.Wir hatten ganz zu Beginn, als alle noch so fröhlich am Experimentieren warenund keiner was Böses vermutet hat, hat ja Microsoft mal dieses Thai-Experimentauf Twitter gestartet, so eine AI, so hallo, ich bin's,redet mal mit mir, ich lerne dabei.Und es hat glaube ich 24 Stunden gebraucht und die freundliche Thai-virtuellePerson wurde zum Vollnazi.

Linus Neumann 0:52:13

Ja,da würde ich im Prinzip, dem würde ich entgegenhalten, ein bisschen wie autonomes Fahren.Ja, wir sagen, das betrachten wir jetzt als Schwierigkeit, wenn da computergesteuerteAutos rumfahren und nachher jemanden überfahren.Mag sein, dass das ein Problem ist.Aktuell werden die Leute von besoffenen Menschen überfahren,die irgendwie Autorennen fahren wollen oder beim Rechtsabbiegen nicht gucken,was eine der Basic-Regeln ist.Wenn wir am Ende feststellen, dass computergesteuerte Fahrzeuge unterm Strichweniger Leute töten, dann ist das erstmal gut.Und dann werden wir uns sehr wohl damit anfreunden und werden uns genauso darangewöhnen, dass uns ein Roboter das Kind überfahren hat, wie wir uns daran gewöhnen,dass ein Betrunkener ein Kind überfahren hat.Nämlich überhaupt nicht im konkreten Fall.Aber als Gesellschaft nehmen wir das ja problemlos hin, dass das passiert.Und ich denke, dass da eben in der großen Zahl die Entwicklung dann doch hingehen würde.Der Einzelfall ist immer konkret und schmerzhaft und die unterm Strich sagen,es ist halt besser so als andersrum.

Tim Pritlove 0:53:33

Tausend Leute konnten gerettet werden durch automatisierte Psychotherapie diezwei, drei, die zum vollständigen Durchdrehen gebracht wurden.

Linus Neumann 0:53:43

Es ist ja nicht so, als würden heute überleg mal, wie viele Psychotherapiennicht mit dem gewünschten Ergebnis enden das wird dann heute,das ist dann eben das wird dann so hingenommen,ah ja, konnten wir nicht helfen keine Ahnung, wir haben wirklich viel Psychotherapiegemacht hat ja wenig funktioniert, der ist immer noch depressiv für die Person.Ja, kannst du nichts machen, muss irgendwas anderes sein.Also ich überziehe das jetzt mal.Also heute verzeihen wir ja auch sehr viele Fehler.

Tim Pritlove 0:54:16

Ich denke, wenn es um technische Lösungen geht, die sozusagen vollautomatisiertsind, dann gibt es irgendwie auch einen höheren Wunsch, das sozusagen perfekt zu machen.Während wir bei Menschen halt irgendwie immer ein Auge zudrücken,weil wir eben auch wissen, dass wir eben nicht perfekt sein können.Bei der Technik hat man zumindest die Hoffnung, dass sie irgendwie perfekt funktionierenkann, auch wenn das eigentlich auch immer regelmäßig nicht stattfindet.

Linus Neumann 0:54:43

Also meine These wäre, bei vielen Aufgaben, die wir Menschen,die wir nur Menschen zutrauen, stellen diese Menschen einer KI keine besonders hohe Hürde.Naja Ich sag das gerade sehr also absichtlich natürlich auch mal ein bisschen,provokativ und ich freue mich auch, dass wir da so in diese Diskussion eintretenMir wäre es auch lieber, wenn das menschliche Schaffen noch lange,wichtiger bleibt und auch seinen Wert erhält.Ich fürchte nur, dass es halt so viel Nachfrage gibt und so viel Bedarf an Dingen,dass selbst wenn KI nur die 80-Prozent-Lösung ist, dass sie eben doch in der Regel helfen wird.Schau mal an, wie viele... Also es gibt doch schon vor vielen Jahren gab eszum Beispiel diesen Film Hör, wo ein Mann sich in so ein KI im Ohr,oder was ist das? Ich weiß gar nicht genau, wo diese KI ist.

Tim Pritlove 0:55:57

Auf seinem Computer.

Linus Neumann 0:55:59

Auf seinem Computer. Verliebt er sich. Und dann, das war gar nicht vorgesehen,dass er sich da rein verliebt, haben sie irgendwie die KI war zu emotional eingestellt,scheiße, so war nicht vorgesehen.Produktfehler, ja kacke, jetzt hat er sich da rein verliebt.Katastrophale Konsequenzen für den Menschen. Gleichzeitig haben wir,was in anderen Ländern inzwischen als Epidemie anerkannt ist, der Einsamkeit,dass viele Menschen allein sind und keine nicht genug emotionalen Austauschmit anderen Menschen haben.Dadurch, dass es quasi als Krankheitssymptom anerkannt, dass du vereinsamstmit den fürchterlichen Konsequenzen, die das auf deine Emotionen,auf deine Intelligenz, auf deinen Input hat.Kannst du potenziell mal versuchen, damit zu lösen.Und da kann ich mir schon vorstellen, dass die Leute sagen, nee,nee, nee, ich will lieber hier ohne Menschen vereinsamen, als mit einer KI michunterhalten und vielleicht noch ein bisschen Input bekommen.Weiß ich nicht, wie lange da noch dieser Stolz der Menschheit erhalten bleibt.

Tim Pritlove 0:57:20

Also ich meine, solche Fälle hat es auch schon gegeben, auch tragische,also wo sich so Verliebtheitssituationen abgespielt haben, die teilweise dannaber auch zum Selbstmord geführt haben, aus Verzweiflung.Das sind auch keine schönen Geschichten. Ich habe Schwierigkeiten,mich da überhaupt so zu äußern, weil für mich das, ich weiß nicht,könntest du dich in den KI verdienen?Ich glaube, wir sind der Technik irgendwie zu nah,als dass wir auch nur auf die Idee kommen würden, dass da was ist,was sich unserer wirklich, wirklich annimmt.Wir würden, glaube ich, dieses Misstrauen gegenüber der Technik,das würden wir nie loswerden.

Linus Neumann 0:58:11

Das mag sein. Ich würde, also sag nie, nie. Und ich glaube,also verlieben ist so ein Thema. Da spielen ja auch andere Faktoren,pheromonische Faktoren und sowas eine Rolle. Aber,überleg mal, wie viele Menschen über lange Zeiträume,Fernbeziehungen, Brieffreundschaften und sonstiges führen. Das wäre jetzt nicht das...Und da halt auch Beziehungen herstellen. Schau dir an, dass du... Das wäre ein breites,Phänomen, dieses, wie fehlt gerade der Name, Love Scamming oder was,wo im Prinzip irgendwelche Leute,quasi, also irgendwelche Typen, 20 Tinder-Profile von hübschen afrikanischenoder asiatischen Frauen unterhalten und es schaffen, dass sich,in der Regel dann einsame ältere Männer,in sie verlieben. Da gibt es ein paar Fotos.

Tim Pritlove 0:59:22

Weil sie denken, es handelt sich um wirkliche Menschen.

Linus Neumann 0:59:26

Ja, aber auch, weil sie ja offenbar einen hohen Bedarf nach Nähe haben,der für dessen Befriedigung sich oder für dessen Stillung sich jetzt so einTinder-Profil eignet, was ein Mensch, den man noch nie gesehen hat.Die sagen ja alle, ich habe mich in diese Frau verliebt. Ich will die jetztnach Hasse nicht gesehen holen, diemuss jetzt irgendwie fliegen von dem Flughafen, wo sie sagt, nach hier.Also das funktioniert ja. Ich will nur sagen, es ist in dem Menschen drin,sich in etwas, was man nicht anfassen kann, was nach allem menschlichen Ermessennur ein paar Zeilen Text in der Dating-App sind, zu verlieben.

Tim Pritlove 1:00:11

Klar, solange die Hoffnung da ist, dass es eben nicht nur ein paar Zeilen in der Dating-App sind.Das wird sicherlich jetzt noch krasser werden, wenn auch die Videogeneratorensich in demselben Maße verbessern, wie es derzeit schon den Anschein macht.Ja, dass also solche Echtzeit,Videotelefonate auf einmal so real werden, dass du Schwierigkeiten hast,das noch zu unterscheiden.Da sind wir ja auch teilweise schon, es gab ja schon mehrfach auch solche Scamsin irgendwelchen Videokonferenzen, wo also,Realtime-Avatare zum Einsatz kamen, die sich ausgegeben haben,als wäre es jetzt hier irgendwie Chef von Unternehmen und dann gab es halt Anweisungen,die dann ausgeführt wurden und dann war das Geld überwiesen.Weil Chef hat das ja gesagt in der Videokonferenz.

Linus Neumann 1:01:05

In der WhatsApp-Audio-Nachricht oder so.Also ich will da niemandem in die Parade fahren, aber ich könnte mir auch vorstellen,dass einzelne dieser Fälle,Vielleicht auch nur sehr günstige Ausrede waren.

Tim Pritlove 1:01:20

Das kann auch sein. Aber das ist immer genau mein Problem.Man weiß schon wieder mal überhaupt nicht mehr und es kommt schnell dieser Ersatz,was soll man noch glauben? Wem kann man noch trauen?Und das, da werden wir sicherlich noch drauf kommen, dieses große,dieses, wie soll ich sagen, diese Zurückhaltung und auch diese Angst vor dieserganzen AI ist, die wir wahrnehmen,finde ich eben auch teilweise berechtigt, weil es einfach das generelle Gefühldes Misstrauens noch weiter verstärkt.Und das ist glaube ich wahrscheinlich überhaupt das größte Problem,was wir derzeit in der Gesellschaft haben.Dass die Leute einfach das Vertrauen in alles verlieren.In Beziehungen, in den Staat, in Institutionen aller Art.Und die natürlich dann schnell auch ausgenutzt werden von Leuten,die sagen, ja, hier haben wir dir doch schon immer gesagt, wähl uns,dann wird wieder alles gut.

Linus Neumann 1:02:27

Ja, alles so wie früher, wo es viel besser war.Gut, jetzt haben wir die kreative, menschliche Komponente, den Realitätsverlust.Wir müssen uns vielleicht auch noch ein bisschen vor den, und ich sehe,ich bin mal wieder echt erstaunt, wie viele Bezüge wir hier zur Hackerethik haben.Die Hackerethik, alle Informationen müssen frei sein. Du hast die Bezüge zuMisstrauerautoritäten, fördere Dezentralisierung.Man kann mit einem Computer Kunst und Schönheit schaffen, Computer können deinLeben zum Besseren verändern,aber auch Mülle nicht in den Daten anderer Leute, öffentliche Daten nutzen,private Daten schützen, hat schon seine Bezüge hier.Der Gedanke, der Misstraue, Autoritäten fördere Dezentralisierung,der spielt für mich bei dieser ganzen KI-Geschichte auch nochmal eine großeRolle. Ich will mal ein Beispiel geben.Von uns beiden hier regelmäßig besprochen, Google. Wer will denn noch Suche?Also Suche muss ja wohl echt mal vorbei sein.Menschen kommen doch nicht ins Internet, um das zu navigieren und sich irgendwiedie zehn besten Seiten anzeigen zu lassen, sondern sie wollen entweder die Antwortauf eine Frage finden oder etwas kaufen.Und das, du willst die Antwort auf eine Frage finden, dafür hat Google dir bisvor kurzem einfach zehn Seiten gegeben, dann konntest du mal gucken, ob das da steht.Und wenn du was kaufen wolltest, haben sie dir eine Anzeige geschaltet und damitihr Geld verdient, dass du das dann gekauft hast.Es beginnt nun langsam auch bei Google, Perplexity waren früher da dass du nurnoch eine Frage stellst, eine Antwort bekommst und ein paar Quellenangaben dazu,stellt sich natürlich schon die Frage wer will denn warum soll ich in 10 Jahrennoch eine Webseite machen um irgendeine KI zu füttern,Besucht doch eh keiner mehr. Wer weiß, ob in zehn Jahren noch jemand einen Browser hat.Also schon denkbar, dass sich das Ökosystem Internet sehr fundamental ändert.

Tim Pritlove 1:04:53

Oh ja, also vor allem was so Finanzierungsmodelle betrifft, wird sich nochmaleiniges im Kreis drehen.

Linus Neumann 1:05:01

Da bin ich auch mal gespannt, wie lange das noch dauert, bis,diese Modelle noch Geld kosten und dass es da keinen werbefinanzierten Free-Tier gibt.Das denke ich, wird auch nicht mehr so lange dauern.Oder auch, dass dann so ein Modell darauf optimiert wird, eben nicht,dass es dir die besten Antworten gibt, sondern dass es dir am meisten verkauft.So ein Portemonnaie-Trainer.So eine Art Chat-GPT,Basic ChatGPT Free Premium funktioniert nur weiter, wenn du jetzt hier diesesPaar Schuhe auch kaufst, dann kriegst du noch mal 10 extra Fragen,was du noch kaufen sollst, gratis.

Tim Pritlove 1:05:43

Ich meinte jetzt weniger die Geschäftsmodelle dieser AI-Betreiber als vielmehrdie Geschäftsmodelle von allen anderen Teilnehmern im Internet.Die sind nämlich durchaus in Gefahr auf die verschiedensten Arten und Weisen.

Linus Neumann 1:05:57

Oh, du meinst zum Beispiel Anbieter jetzt von Nachrichtenseiten oder was. Ja.

Tim Pritlove 1:06:07

Ja.

Linus Neumann 1:06:10

Auch, wir hatten das ja hier vor kurzem behandelt, diese Diskussionen zwischen,New York oder diese rechtlichen Auseinandersetzungen zwischen New York Timesund Open AI über die Nutzung ihrer Inhalte und so.

Tim Pritlove 1:06:25

Ja, und auch generell die Frage, ich meine, auf der einen Seite,wollen wir irgendwie keine Werbung mehr überall angezeigt bekommen.Werbung ist aber dann doch das, was diese ganzen Nachrichtensysteme am Leben erhält, schon immer.Also auch früher haben ja Zeitungen, gut teilweise auch noch durch den Verkauf,aber eben vor allem durch die geschalteten Anzeigen und dieses Bereitstelleneiner Öffentlichkeit, die sozusagen so ein Medium ja hat,aber wenn jetzt das Wissen quasi überall eingesammelt und nur noch an einzelnenStellen herauskanalisiert wird, dann gibt es diese ganzen Öffentlichkeiten aufeinmal gar nicht mehr, die man verkaufen kann.Und das ist für viele ein Problem,auch im Softwarebereich sind auch so Open-Source-Finanzierungen,die sich teilweise eben durch Webseiten, wo Dokumentation,Support angeboten wird,refinanziert haben.Also damit sozusagen den wesentlichen Betreibern bestimmter Libraries,Systeme, Frameworks, Programme damit sozusagen Geld zugespielt haben.Auch das ist natürlich durch diese allwissenden Systeme, die Dokumentation automatischbereitstellen, werden also auch diese Eyeballs nicht mehr generiert.Und von daher ist das schon ein Problem und man muss sich eben fragen,wie sehr wird sich das Internet dadurch jetzt nochmal weiter zentralisieren,obwohl wir ja schon heute das Gefühl haben, dass es das schon weitgehend getan hat.Jetzt kann es sein, dass da auch nochmal der Turbo eingeschaltet wird.

Linus Neumann 1:08:28

Ja, und dann stellt sich auch die Frage, wer generiert denn dann,also auf welchem Weg und warum werden überhaupt noch neue Inhalte für diese Systeme generiert, ne?

Tim Pritlove 1:08:38

Also auch das hat wieder viele Dimensionen.Also erstmal, wo soll sozusagen der eigentliche neue Content herkommen,wenn er nicht mehr von Menschen erschafft wird, sondern nur noch von den Maschinen.Also irgendwann hat sich dasdann ja auch ausgelernt. Jetzt haben wir natürlich auch noch das Problem,dass jetzt schon mit AI noch auf Basis des aktuell funktionierenden Aufmerksamkeitsprinzipsdes Internet dadurch natürlich Geld gemacht werden soll,indem man so Flooding the Zone mäßig so viel Slop generiert.Es gibt da ganz viele Webseiten und es werden quasi Nachrichtenmedien simuliertaus AI-generierten Content,die dann wiederum die Quelle sind für die nächste AI und alle erzählen sichaber eigentlich nur noch Unsinn, weil es eigentlich nur noch im Hintergrund darum geht,die aktuellen Bezahlkanäle abzugreifen und schnell die Hand aufzuhalten. Mac Money Fast.Dabei kann aber durchaus sein, dass sich eben dieses System selber zerstört.Und zwar sowohl unsere wirtschaftlichen Systeme existierender realer Webseitenund der damit verbundenen Organisationen und Akteure.Als eben auch, dass die AI-Systeme sich damit selbst zerstören,weil sie gar keinen richtigen Content mehr wahrnehmen, sondern eigentlich sich selber fressen.So ein bisschen wie mit BSE,wo die Kühe dann auf einmal diese Kreuzfeld-Jakob-Krankheit,diesen Rinderwahnsinn entwickelt haben,weil sie sich sozusagen selbst gefressen haben, weil sie halt Kuhfleisch irgendwiezu essen bekommen haben.Und ein ähnliches Drama steht natürlich jetzt auch diesen Systemen bevor,die sich jetzt verbessern wollen, indem sie immer von allem immer mehr haben,aber das Ganze immer mehr, was rumliegt, sind sie selbst und damit fressen siesich selber auf und dann funktioniert das Ganze vielleicht auch nicht mehr.

Linus Neumann 1:10:39

Da wird sich dann die Weitsicht von Google will eat itself von übermorgen nochmal,also da kannst du dann wirklich mal Weitsicht erkennen.

Tim Pritlove 1:10:49

Das sind die Künstler, die wirklich die Zukunft vorher sagen, habe ich doch gesagt.

Linus Neumann 1:10:58

Ja, also die Frage, gibt es denn dann, also das finde ich auch zum Beispiel sehr interessant.Sehr interessant. Also okay, Menschheit geht hin, erfindet Computer,fängt an Daten zu machen.Also sagt, wir speichern jetzt was und dann bauen wir immer größere Speichersysteme,immer bessere Computer, verdaten alles.Fitness-Tracker, wahrscheinlich die Apple Watch hat 4 GB,irgendwelchen Quatsch verdartet. Wir erfassen alles, was noch nicht erfasstwurde, muss erfasst werden.Gibt einen Scanner, wir müssen jetzt die Bibliothek hier durchscannen und so.Wir müssen alles erfassen und alles.Mach mal noch ein Foto, mach mal noch ein Foto, bis die AI auf einmal Videos machen kann.Was ich spannend finde, ist, wie viel gibt es eigentlich?Wie viele Daten gibt es noch, die noch nicht erfasst wurden?Du erkennst ja schon, dass die großen KI-Betreiber sich so Daten kaufen.Also Reddit zum Beispiel als ein Nischenforum oder als das Forum der Nischen.Der Wert von Reddit sind die menschlichen Beiträge, die dort stattgefunden habenund weiter stattfinden. Der Wert von Reddit ist, dass man damit eine KI trainieren kann.Und daraufhin haben die das Ding ja auch sehr früh dann eben umgebaut oder umentwickeltvom Geschäftsmodell her.Das heißt, es findet jetzt schon dieser Wettlauf statt, wo man noch Daten bekommen kann.Und ich frage mich, fängt der gerade an oder ist der bald vorbei,weil alle Daten dann verkauft wurden und erfasst wurden?

Tim Pritlove 1:12:47

Ja, also das ist ein echtes Problem. Wo kommt dieses Mehr an Daten jetzt her?Also an realen und vor allem an menschlichem Input.Also Reddit ist deshalb ein Wert, weil da noch echte Menschen diskutieren.In gewisser Hinsicht. Das ist auch weg.

Linus Neumann 1:13:09

Automatik.

Tim Pritlove 1:13:10

Ja, da bin ich mir jetzt auch nicht so sicher, ob das sozusagen auch noch allesechte Menschen sind, die da diskutieren.

Linus Neumann 1:13:16

Das wäre für mich echt ein Traum also wenn ich einfach nicht mehr diskutierenmüsste, sondern einfach so den Chat-GPT-Premium einfach so bam,ich baller dich jetzt weg, ich hau jetzt, ich werfe einen Zwanni und deine,komische Free-KI da die wird jetzt an dem Boden,diskutiert in diesem Forum der Flame-War ist meiner, ich werfe einfach nur Geldnach das würde ich als Entlastung empfinden man.

Tim Pritlove 1:13:43

Merkt aber auf jeden Fall,diese unbegrenzte Expansion, von der glaube ich derzeit noch viele träumen unddie ja so ein bisschen im Raum steht mit so, wo soll das alles noch führen,die Modelle werden immer besser,kann durchaus sein, dass wir da schnell an neue Grenzen, dass wir sehen,dass die an neue Grenzen stoßen.Wo jetzt noch gar nicht so klar ist, wie die dann dann überwunden werden könnenund ob die auch so ohne weiteres überwunden werden können.Ich glaube, da hat noch keiner so eine richtig gute Antwort drauf.Und es muss auch natürlich die Frage gestellt werden, ist die derzeit dominanteTechnologie von Large Language Models auch noch beliebig.Verbesserungsfähig? Oder braucht es noch mal einen weiteren großen technologischenDurchbruch jenseits der LargeLanguage Models, um eben wirklich zuverlässiges Reasoning zu bekommen,was ja so ein Schlagwort ist derzeit, dass Modelle jetzt,Reasoning-Modelle sind, weil sie sozusagen dann über jeden ihrer Schritte nochmalmit sich selber nochmal nachdenken und so, aber es sind eigentlich alles immernur so Kaskaden von LLMs, die über LLMs nachdenken.Das ist auch ein interessanter Gedanke ist, dass diese ganzen Systeme eigentlichdie ganze Zeit nur mit sich selbst beschäftigen, um irgendwie sich zu verbessern, aber dabei dann den,Kontakt mit der realen Welt auch irgendwie zurücklassen.

Linus Neumann 1:15:28

Ich bin, also es gibt ja dann noch diesen Pfad, dass man denkt,okay, ja, die spezifischen Datenmengen, also okay, das Ding kann reden, ist in Ordnung,aber was ist jetzt zum Beispiel irgendwelche Medizinforschung,Gene erforschen oder so, dass man da jetzt noch Daten reinwirft,um da verborgene Zusammenhänge drin zu finden und dann machen wir Forschung, Forschung mit KI,dass jetzt vielleicht diese,Fähigkeit, dass das Ding sprechen kann,sich am Ende als das für die Menschheit in ihrer Abschaffung noch am wenigstenbeeindruckende Feature war.Dass das Ding dann irgendwann keine Ahnung,was es noch zu erforschen gibt oder zu entwickeln oder zu generieren gibt,dass da dann der Irrsinn erst noch kommt und dass wir uns auf dieses Sprechenso viel eingebildet haben,und auf die Manipulation unseres Verhaltens und sich das aber quasi noch alseine der leichtesten Übungen herausstellt.

Tim Pritlove 1:16:39

Also ich meine, was Medizin ist, hast du das Stichwort mal genannt,was Medizin betrifft und spezielldie Genforschung oder sagen wir mal die Proteinforschung vor allem angeht,da erwarte ich ehrlich gesagt auch die größten, den größten Nutzen von der ganzenTechnologie derzeit, weil ich glaube,da ist die Technologie gerade wirklich in der Lage.Dinge zu entschlüsseln, die uns bisher komplett verborgen geblieben sind.Du hast es ja eingangs so schön erklärt.KI ist die Technologie, die es schafft, aus diffusen Daten,sagen wir mal frei übersetzt, Schlüsse zu Die dann im Idealfall auch überprüfbarsind und man hat das ja gesehen mit diesem AlphaFold-Projekt,sicherlich eine der interessantesten Aktionen von Google,die ja mal eben diese komplette Proteinforschung innerhalb weniger Jahre komplettauf den Kopf gestellt hat.Also man hat ewige Zeit probiert, Voraussagen darüber zu machen,okay, welcher genetische Code wird jetzt in, was kommt da für ein Protein-Bayer raus?Also wer da vielleicht in der Terminologie-Welt nicht ganz so fest ist,also Proteine sind ja sozusagen der wichtigste Baustein unseres Lebens.Also wir sind voll mit diesen Proteinen und die Proteinen sind im Prinzip alles so kleine Maschinen.Und sehr komplex eben aus diesen...Aminosäuren zusammengesetzt und wenn man halt sagt, okay, hier ist ein Bauplanfür so ein Protein, dann hat man zwar so eine lange Kette, die man beschreibenkann, aber man wusste eben nicht,wenn diese Kette dann zusammengebaut wird,wie faltet sich das dann real dreidimensional zusammen und was entsteht daraus für ein Mechanismus?Und wenn man das eben gut vorhersagen kann, dann kann man eben vielleicht denKörper selber einen Protein bauen lassen, der dann eben Krebszellen bekämpft.Das ist ja so im Wesentlichen der heilige Gral, wo ja auch viele jetzt gerade am Forschen sind.Es war halt bisher einfach überhaupt kaum möglich, mit Software diese Vorhersageauch nur so annähernd zu machen.Es gab da so einen Wettbewerb, was gerade nicht wieder heißt,aber wo dann sozusagen einmal im Jahr immer alle Systeme verglichen wurden undman kam halt irgendwie nie über irgendeinen bestimmten Prozentsatz hinaus,weiß nicht genau, wo der lag, 30, 40 Prozent oder so.Und dann kam halt irgendwie Alpha Fold und das Ganze ging dann KI-basiert undmittlerweile sind wir eben schon weit über 90 Prozent und es ist halt jetztwirklich vorhersagbar.Das heißt, da ist gerade ein Prozess gestartet worden, wo ich davon ausgehe,dass wir in den nächsten 5 bis 10 Jahren enorme Fortschritte sehen werden immedizinischen Bereich.Und es gibt sicherlich noch sehr viele andere Bereiche der Wissenschaft,die auf eine ähnliche Art und Weise da vorangebracht werden können,wie zum Beispiel auch die ganze Wissenschaft an sich, weil all das Wissen liegtja mehr oder weniger formal in diesen Papers da.Und natürlich bemühen sich jetzt auch KI-Systeme, das Wissen aus diesen Papersherauszuziehen und weiterzuentwickeln, was ja eigentlich so die typische wissenschaftliche Methode auch ist.Nur, dass wir natürlich jetzt auch wieder die Kriegsgewinnler haben wollen,die dann eben ihre Papers von der KI schreiben lassen und das geht alles garnicht, aber sie wollen den Ruhm haben, in irgendeinem Paper veröffentlicht zuwerden und damit dann auch wieder den Brunnen vergiften.Ich bin da ein bisschen abgeschweift jetzt gerade.

Linus Neumann 1:20:50

Also spannend auf jeden Fall, was wir über das Leben der Menschen und der Tiereund der Pflanzen und ihrer Krankheiten und Verletzlichkeiten in der Biologieim weitesten Sinne da gibt es auf jeden Fall noch einiges an Wissen,was wir noch nicht haben bin mal gespannt,ob die Daten dafür,da sind oder ob wir noch viel mehr vermessen müssen, noch viel mehr von unserfassen müssen, um Korrelationen festzustellen.Mal gucken, was da noch kommt. Aber ich würde dir zustimmen,dass in diesem Bereich sicherlich mithilfe dieser großen,Korrelationsanalysen noch einiges hoffentlich für uns getan wird.

Tim Pritlove 1:21:40

Löst meine Probleme, KI!

Linus Neumann 1:21:43

Die,eine weitere Betrachtung, die ich bei all dem immer noch sehe,ist halt Zentralisierung.Wir haben gerade gesagt, so Google, die KI als das Interface zur Interaktion zur Menschheit.Wir sind bis ins Verlieben gegangen.Wovon wir nicht gesprochen haben, ist, dass wir potenziell in Zukunft irgendwiemehrere KIs nutzen würden, sondern wir gehen eigentlich schon davon aus,dass wir halt eine haben werden, wo wir potenziell sogar ein bisschen das Risikogehen, dass wir uns in sie verlieben.Vielleicht bis als Lebensende mit ihr glücklich werden.Bis das unser Tod uns scheidet. Und die KI jemandem anderen,nur noch von vielen anderen geliebt wird.Nein, tatsächlich erkennen wir ja jetzt schon, dass.Also Beispiele. Microsoft hat in seine M365 Services schon direkt jetzt diesen Co-Piloten eingebaut.Das heißt, sie warten nicht darauf, dass irgendjemand anders macht oder so,sondern das wird jetzt einfach ausgerollt. das ist Teil der Subscription oderkann man eben sich mit dazu klicken oder so, ich habe keine Ahnung,wie der ein Pricing-Modell ist.Das heißt, Microsoft ist von einem Unternehmen, das MS-DOS auf Disketten als Produkt verkauft hat,zu einem Unternehmen geworden, das Microsoft Windows auf CD-ROMs verkauft hat,zu einem Unternehmen geworden,was Microsoft Windows Lizenzen verkauft und Updates unterzieht,was ein Office-Produkt wieder als Kiste im Mediamarkt verkauft hat, zu etwas,was jetzt letztendlich eine Subscription für ein Ökosystem ist,wo du ein Unternehmen drin abbildest.Der Personal Computer dient nur noch als Fenster in diese Cloud-Welt.Die Dateien auf deinem eigenen Computer haben zu folgen, ist eigentlich einvermessener Anspruch, der immer unsinniger wird.Und demnächst hast du dann eben auch die KI in dem Sharepoint lauern,die aus deiner Arbeit lernt und die immer mehr der Prozesse,die für dein Unternehmen potenziell relevant sind.Natürlich auch abbilden soll und wird.Und wenn wir vielleicht vor ein paar Jahren von einem Login-Effekt gesprochenhaben, weil du jetzt irgendwie dein Unternehmen mit Excel und Microsoft machstund jetzt nicht mehr wechseln kannst auf was weiß ich, Open Office oder was auch immer,das die freie Welt noch für dich bereithält.Wirst du vielleicht in zehn Jahren mit der KI irgendeines Unternehmens,was du als Service, und das ist das Entscheidende, die sind alle von einem Software,ist in den letzten zehn Jahren ungefähr, würde ich sagen,von einem Produkt zu einem Service geworden.Dir wird nicht mehr unbedingt angeboten, dass du jetzt, also ja,für so ein Nintendo, für so eine Switch kannst du dir ein Spiel kaufen.Einmalig. Aber vieles andere wird dir doch als Subscription angeboten.Hier die, wie heißt das? Photoshop.Früher als Produkt, kann sich ja keiner leisten.600 Euro kostet so ein Photoshop. Wenn der Illustrator und so dabei haben,2.000, 3.000 Euro, das kriegst du ja nie.Er hat ja keine Privatperson gehabt. heute 10 Euro, zack, geklickt.Ich zahle seit Jahren 10 Euro im Monat für Photoshop, nutze das nicht.Am Ende haben die mehr Geld von mir bekommen, als sie jemals hätten von mir erwarten können.Es ist ein Service, den ich subscribe. Es ist bei mir so, ich könnte die Photoshop.Subscription kündigen, wenn mein Vater nicht ab und zu mal Photoshop bräuchte.Aber da ist also schon der Login jetzt. Ich riskiere hier unstimmig mit meinemVater, wenn ich jetzt da aufhöre, Adobe Geld nachzuwerfen.Wenn ich im Unternehmen bin, ist der Login-Effekt klar, dass ich da eigentlich nicht mehr rauskomme.Und wenn die jetzt auch noch eine KI da ausrollen, dann wird das demnächst nichtmehr nur der Login-Effekt für die Kollaboration sein, sondern potenziell meinganzes Geschäftsmodell sich bei denen abbilden.

Tim Pritlove 1:26:13

Aber ich würde sogar sagen, in dem Fall ist der Login-Effekt vielleicht gar nicht mal so groß, weil.Der Login ist ja immer noch, um mal beim Photoshop-Beispiel zu bleiben,es ist ja eigentlich die Kernfunktion dieser Software und ihre Datenformate,die hier dich dabei hält.Auch wenn es natürlich Alternativen gibt zu Photoshop, das ist nochmal eine ganz andere Sache.Der KI-Teil selber wiederum wird allerdings von wirklich sehr vielen anderen auch dargeboten.Und es gibt auch in zunehmendem Maße einen, ich will jetzt nicht Open Sourcesagen, aber ein offeneres Nutzungsmodell.Es gibt ja tonnenweise Systeme, also zum Beispiel das Lama von Meta ist ja frei verfügbar.Ja, man kann sich das fertig trainierte Modell herunterladen und theoretischauf seinem eigenen Computer laufen lassen.Nur der Nutzen, den wir heute aus den großen Systemen online ziehen.Der entsteht ja auch dadurch, dass die erstmal sehr große Modelle haben,die kann ich mir auch herunterladen, aber dann eben, wenn ich eine Anfrage mache,dass eben auch auf so viele Computer gleichzeitig verteilt wird, diese Anfrage,dass die Antwort auch sehr schnell da ist.Weil eben sehr viel Speicher erforderlich ist für einen kurzen Moment.Und für so einen kurzen Moment kaufe ich mir ja nicht irgendwie einen Computerfür 15.000 Euro, der das dann in halbwegs acceptabler Zeit für mich vielleichtauch noch machen könnte.Mal ganz davon abgesehen, dass diese Modelle ja auch am laufenden Meter aktualisiertwerden und immer auf dem neuesten Stand sind.Aber grundsätzlich sind die Leistungen, die diese ganzen Modelle und Anbietermachen, sehr vergleichbar.Man kann relativ easy sagen, ich mache das jetzt mit Chat-GPT,ach das Ergebnis hat mir jetzt nicht gefallen, dann mache ich das jetzt mal mit Gemini,passt jetzt auch nicht so richtig, dann gehe ich mal dahin und perspektivisch,vielleicht unterschätzen wir das auch noch,kann es sehr wohl sein, dass wir auch mit den Leistungen der Computer schnelljetzt in so einen Bereich kommen, wo moderne,trainierte Systeme good enough sind und dann eben mal nicht unbedingt mehr beieinem zentralen Dienst.Sich diese Dienstleistung abholen muss, weil die dann eben wiederum von denComputern auch durchaus auch lokal angefertigt werden zu können.Das ist ein bisschen unklar, aber könnte sein.

Linus Neumann 1:28:50

Du hast natürlich jetzt mit Photoshop dir das Beispiel genommen.Klar, da wird dann ein Bild generiert oder was.Das ist irgendwie einfacher...Sich da vorzustellen, dass man da in eine Konkurrenzsituation geht.Aber nimm mal ein Microsoft-Beispiel. Du hast jetzt,ich benutze das nicht, aber ich lese das dann, hast du irgendwie Microsoft Cloud,das benutze ich sogar, dann kannst du irgendwie kollaborieren und so.Deine Dokumente sind in einem Sharepoint. Jetzt rollt Microsoft aus,der Sharepoint hat jetzt AI.Und dieses, schreib mal, du meinst doch nicht ernsthaft, dass du in einem Jahrnoch Chats-GPT sagen musst, schreib mal bitte eine freundliche E-Mail und diedann in Outlook-Copy-Pasten musst,wo du dann oben noch mitpastest, hier ist eine freundliche E-Mail ohne die Schimpfwortean das Arschloch, mit dem du hier schmeicheln möchtest.Das ist ja dann alles vorbei. Das heißt, die Frage ist, garantiert wird das integriert.Apple hat es ja jetzt mit diesem Apple Intelligence schon getan, dass sie das machen.Und entsprechend wird Microsoft, so wie du heute mit deinem Cloud deine Programme schreibst,wirst du potenziell mit Microsoft dann Word dann andere Prozesse abbilden.Und es gibt ja Unternehmen, die tatsächlich Prozesse damit abbilden,nicht einzelne Arbeitsergebnisse. Also Beispiel, schreib mal bitte eine Rechnung.Ja, Rechnungsnummer. Das wäre jetzt eine triviale Aufgabe, dass so ein System,Microsoft Cloud-System dann sagt, das ist übrigens die Rechnung mit der Nummerso und so und wahrscheinlich soll die an den Kunden so und so gehen,der bei dir im Projekt-Tracker ja jetzt gerade auf Abschlussphase ist.Du hast ja übrigens auch gestern die Mail geschickt mit dem Endergebnis an denKunden und übrigens soll ich das mal direkt noch in der Buchhaltung machen unddann hast du Prozesse nicht nur abgebildet in diesem System,sondern vielleicht auch allein in diesem System etabliert.Und dann hast du ja einen ganz anderen Login in beispielsweise jetzt hier soeine Microsoft Cloud, in der eine ganze Reihe Unternehmen, sei es mit Excel,sei es mit Word, ihre Geschäftsprozesse abbilden.

Tim Pritlove 1:31:13

Ja, aber das ist ja nicht mehr und nicht signifikant anders,als du heute schon deinen Login mit SAP hast, wo genau diese Geschäftsprozesseauch schon abgebildet sind.Also es fügt dem jetzt nicht eine neue Qualität hinzu, es ziehen nur alle mit, jetzt auch mit AI.Aber das macht nicht wirklich was anderes daraus.

Linus Neumann 1:31:36

Ich, jein. Also du hast recht. Erstmal nicht.Der Login-Effekt ist der gleiche. Aber aktuell bilden Leute mit SAP Geschäftsprozesse ab.Noch nicht SAP für die Leute Geschäftsprozesse.Das ist ja das, was dann der nächste Schritt sein wird.Das Beispiel, was ich gerade nannte, war, heute musst du noch selber sagen,verbinde bitte diese Datenbank mit der und wenn hier in dem Excel jemand einträgt,ich habe heute gearbeitet,dann bucht das auf den Kunden. Das musst du selber bauen.Klassisches Beispiel. Und kriegt auch nie einer fertig hin. Klassisches Beispielvon komplexen Daten mit dann am Ende doch relativ klaren Zusammenhängen,an denen ein bisschen Abfolgen sind.So was wie, wolltest du nicht mal diesem Kunden jetzt eine Rechnung schreiben,das ist ein Schritt davon entfernt, dass sie auch einfach rausgeht.Und dann hättest du natürlich einen anderen Login-Effekt, als dass du alle deineDaten da reingetragen hast. sondern auch, dass das Ding jetzt.Eine aktive Rolle in der Abbildung deiner Geschäftsprozesse spielt.Und du potenziell sagst, naja, okay, wenn ich hier nochmal rauswandere,wenn ich jetzt alle meine Daten aus diesem Sharepoint nehme und versuche diebei SAP oder bei sonst was, dannmuss ich ja damit rechnen, dass keine Rechnungen mehr geschickt werden.Also weißt du, was ich meine? Dass du das,Nicht nur der einzelne Arbeitsschritt und deine Daten sich dort abbilden,sondern Prozesse, die abgenommen wurden und die quasi Geisel sind deiner Subscription.

Tim Pritlove 1:33:21

Ja, aber auch genau diese, in Anführungsstrichen, intelligenten Prozesse könnendann wiederum von anderen Systemen auch sehr viel einfacher übernommen werden,weil ich halt das sozusagen einfach da genauso automatisieren kann.Also am Ende sind diese, die Agenten, ich sag es mal anders,die Agenten sind derzeit noch wichtiger als die AI selbst.Also wenn wir von solchen Systemen reden mit, ich benutze die AI,um den Request des Menschen zu verstehen oder um Prozesse, die ich gerne abgebildetsehen möchte, zu beschreiben und dann wird die von dem System ausgeführt.Das nennt man ja Tool Use derzeit in dieser AI-Sprache.Das ist auch beim Programmieren so. Ich kann halt sagen, ja,hier ist ein blöder Fehler.Guck doch mal, wie der Code vor einer Woche aussah. Dann benutzt er das ToolGit und guckt dann eben in der Historie nach und dann wird eben wirklich so eine mechanische,also ein deterministisches System wird von der AI benutzt.Und in gewisser Hinsicht ist eben auch die Automatisierung der Firma mit SAPoder irgendwas Vergleichbarem genauso.Das AI ist oben so ein Sahne-Layer obendrauf, der mich eben besser versteht,wo ich eben ohne komplizierte User-Interfaceseinfach mit normaler Sprache beschreiben kann, was ich will.Aber der eigentliche Wert geht schon noch von dem Tool darunter aus.Also ich bin da ein bisschen, sehe deinen Punkt.Natürlich gibt es hier auch Login-Gefahren, aber ich sehe keine qualitativ anderen Gefahren als die,die wir von dem Non-AI-Code derzeit auch schon haben und sehr viel davon hängtderzeit auch vor allem von dem Non-AI-Code ab und weniger von dem AI-Code.Also das würde mich jetzt nicht ganz so beunruhigen und ob jetzt die großenAnbieter sich dauerhaft ihre Vorteile so erhalten können,das wird glaube ich noch sehr von dem Innovationspace der nächsten Jahre abhängen,weil ich einfach sehr viel mehr Disruptionspotenzial in dieser ganzen Entwicklung sehe,dass neue Player auf einmal auf den Markt kommen.Ich meine, von OpenAI haben wir alle vor fünf Jahren nichts gehört, nichts gewusst.Und auf einmal reißen die aber an dem bestehenden System dann doch ganz erheblich mit dran.Ob sie Erfolg haben werden, werden wir sehen, aber zumindest sind sie auf einmalda und kamen mehr oder weniger aus dem Nichts.Und ich denke, hier ist noch sehr viel Potenzial für weitere neue Player undes muss sich nicht unbedingt das aktuelle System etablieren.

Linus Neumann 1:36:11

Also da freut mich dein seltener Optimismus. Ich denke, der Login ist heute schon da.Und wie gesagt, dieses Geschäftsprozess abbilden würde ich da als das Paradebeispiel dafür sehen.Du hast eh schon einen Login und jetzt wird der einfach noch,auf die Weise verschärft, dass du eine ganze Menge nützlicher Funktionen hast,dass du Agency bekommst in diesen in einfachen Geschäftsprozessen,Optimierungsvorschläge anfangs kommen, irgendwann Optimierungen stattfindenund ganze Bereiche mit denen man heute vielleicht noch Menschen beschäftigt,weg optimiert werden als Teil einer Tool-Subscription.Und jetzt gehst du jetzt, das Spannende ist, da, wo du gerade arbeitest,da lieferst du die Daten für diese Automatisierung.Da ist der Vorsprung. Und dann, wenn du die Subscription hast und dann nochvielleicht dann bezahlst du eigentlich dafür, eine KI zu nutzen und gleichzeitig.Sie zu verbessern. Ich glaube, das ist ein unschlagbares,Modell für diese, ja, für die, fürs Geldverdienen, für Zentralisierung, für die.Diese KI einerseits einer Breite an Menschen zur Verfügung zu stellen,gleichzeitig aus der Breite der Daten, die sich da die Gesamtzeit ändern,dafür zu sorgen, dass diese KI auch immer besser wird und gleichzeitig einekolossale Abhängigkeit zu führen.Und ich sehe, wenn ich mir anschaue, wie locked in ich bin in dem Apple-Universum,was nicht mehr passieren oder sagen wir mal so,was nur unter Aufwendung großer Urlaube oder unbezahlter Urlaube möglich ist,ist meine Flucht aus dem Apple-Ökosystem.Und ich glaube, was für viele Unternehmen gar nicht mehr möglich ist,schon ohne KI, ist irgendwie die Flucht aus dem Microsoft-Ökosystem.Ich vermute, du unterschätzt die Bedeutung von Microsoft Office für Unternehmen und Unternehmen.Das Potenzial der automatischen Abbildung und Optimierung der Prozesse, die sie damit spielen.Das wäre meine Vermutung und das ist ein Privileg, weil du mit dieser Scheiße nichts zu tun hast.

Tim Pritlove 1:39:03

Nein, nein, nein.Ich habe ja gesagt, der eigentliche Wert ist das Tool derzeit noch und dassOffice eine große Bedeutung hat, das ist jetzt für mich keine News.Ich meine, ich benutze es kurz und lang nicht. Ich habe diesen Login nicht,Aber es ist mir schon klar, dass die meisten natürlich bei Microsoft sehr verheiratetsind und teilweise eben auch bei Apple, ganz klar, weil sie eben diese Tools machen.Ich sage ja nur, AI ist derzeit für Microsoft eher eine Notwendigkeit, dass sie das einbauen,weil die Technologie es eben anderen erlauben würde, auch mit weniger ausgeprägtenTools einiges zu kompensieren durch eben solche Techniken.Weil da eine neue Nachfrage entsteht und man quasi das User-Interface auf einmalnormale Sprache werden kann, beziehungsweise es sehr viel einfacher ist,jetzt auch solche User-Interfaces bereitzustellen,die eben Leuten da einen Migrationspfad aufmachen können.Aber das müssen wir ja auch nicht weiter vertiefen, das wird sich dann zeigen.Auf jeden Fall, ich glaube, hier ist einfach viel in Bewegung derzeit und neuePlayer haben durchaus eine Chance.Ob die gewinnen werden, keine Ahnung, aber es ist auf jeden Fall eine spannende Zeit.Immer wenn man denkt, die Player im großen Spiel des Netzes und der Technologiesind festgelegt auf die nächsten 30 Jahre,stirbt einer oder kommt wieder ein Neuer mit rein, der die Regeln wieder neu schreibt.

Linus Neumann 1:40:36

Okay, sagen wir mal also nehmen wir an, da kommt ein Neuer und darf die Regelnneu schreiben das mag sein, da gab es noch, also wäre ja schön wenn Microsoftdann doch nochmal sein Ende findet, ja,aber es wird einen neuen, also es wird,eine weiter zentralisierte Welt werden, weil von allem, was wir jetzt gesprochenhaben wir reden da wenig,wir reden da vielleicht von Potenzialen und so, wir reden vielleicht davon dassjemand anders das Rennen macht Aber wir reden nicht davon, dass das in eineDiversität und Heterogenität der Services, Interfaces,Infrastrukturen und Beitragenden geht, sondern dass alles, von dem wir gesprochenhaben, geht in eine weitere Zentralisierung.

Tim Pritlove 1:41:25

Ja,stellt sich generell natürlich so ein bisschen die Frage, wer profitiert jetzteigentlich am meisten von diesen ganzen Bewegungen.Und natürlich ist so Information Processing und Informationen,diffuse Informationen verwerten das natürlich auch so klassische Geheimdiensttätigkeit, sag ich mal.Es war schon immer die Aufgabe eines Geheimdienstes oder sagen wir mal einesNachrichtendienstes, um es etwas vorsichtiger auszudrücken.Ein Nachrichtendienst soll aus diffusen Daten Intelligence erzeugen.

Linus Neumann 1:42:18

Informationsvorsprünge.

Tim Pritlove 1:42:19

Ja, das ist das, was die Central Intelligence Agency im Wesentlichen macht.Die hat überall ihre Nase drin und liest überall mit und schaut sich alles anund hat ihre Kontakte und ihre Informanten und ihre Satellitensysteme und ihreQuellen und all das läuft dann halt irgendwo zusammen.Und dann versucht man aus diesem ganzen Datenfuß irgendwie relevante Informationenherauszuziehen, mit denen man was anfangen kann.Das ist sozusagen die Aufgabe eines Nachrichtendienstes.Und es war schon immer so mit der Überwachung, dass die Ausbreitung von Überwachung,wir haben ja glaube ich immer eine Weile lang auch geglaubt,dass man irgendwie so mit moralischen Argumenten,politischen Argumenten Überwachung aufhalten kann, aber eigentlich ist es nur eine Geldfrage.In dem Moment, wo alles billiger wird, dann wird einfach,Einfach der Regler ganz nach oben gedreht und gesagt, kostet ja nichts mehr,können wir also hier maximal ausbauen.Das haben wir mit Kameraüberwachung gesehen, generell mit der Überwachung des öffentlichen Raums.Wir haben es im Internet gesehen. Ja, da hält man dann einfach mal sein Rohrdirekt an das große Internetrohr der Zixe,der Internet-Exchanges ran und liest einfach mal alles mit und schreibt einfacherstmal alles mit. Einfach erstmal wegschreiben.Für irgendwas wird das schon gut sein. Was die Speicherhalte hergeben.Ah, Festplatten sind noch billiger geworden, man kann noch mehr abspeichern,beziehungsweise die Computer werden schneller, man kann noch mehr in Realtimediese Daten bereits analysieren, man muss sie gar nicht mehr wegschreiben.All diese ganzen Faktoren, die mit dem Fortschritt der Technologie kommen undmit sinkenden Preisen führen mehr oder weniger automatisch dazu,dass eben solche Auswertungen gemacht werden.Und natürlich ist jetzt auch AI in diesem Machtspiel dann ganz vorneweg,weil Datenanalyse ist schon irgendwie immer das Ding gewesen.Der Klassiker ist ja so ein bisschen dieses IBM Watson. Ich habe da selber niemitgearbeitet und hatte das auch noch nie vor der Nase wirklich.Ich weiß nicht, ob du das mal gesehen hast, aber das war ja schon früher immerso ein bisschen dieses System, was dafür gemacht war, diffuse Daten zu analysieren.Was weiß ich, man füttert das dann mit Banküberweisungen von ganz vielen Bankenund versucht irgendwie herauszubekommen, ob da irgendwelche Wischiwaschi.Geldwäschesysteme am Start sind, sowas zum Beispiel. Und,Und ganz klar, das sind natürlich Sachen, da ist eben die AI-Technologie,das Machine Learning perfekt dafür.Und deswegen sind, glaube ich, auch die Anbieter, die sich in diesem Toolingjetzt spezialisieren, besonders weit vorne.Wie zum Beispiel Herr Thiel, der windige Financier dieser ganzen Tech-Bubble,mit seinem Palantir-Unternehmen, die Software herstellen, die irgendwie allePolizisten haben wollen.

Linus Neumann 1:45:27

Ja, bei uns regelmäßig behandelt,eine Software zur Verbindung der Datenquellen auf die Polizei grundsätzlich Zugriff hat,die aber, auch das ist ein Thema, was wir regelmäßig wiederholen,nicht notwendigerweise gleiche Unique Identifiers haben.Wir haben keine einheitliche Personen-Kennziffer in Deutschland und entsprechendgibt es eine ganze Reihe Datenmengen, Datenbanken, die grundsätzlich dem Staat zur Verfügung stehen,aber die zu meistern dem einzelnen Polizeimitarbeiter oder der Mitarbeiterin relativ schwer fällt.Palantir ein Produkt, was genau das ermöglichen soll.Uneinheitliche, wilde Datenbanken vielleicht ein bisschen fuzzy,stochastisch zur Verbindung bringen und so die Möglichkeit bieten,diesen Datenschatz und seine darin schlummernden Erkenntnisse einheitlich adressierenund darin suchen zu können.Das ist nur ein Beispiel, Peter Thiel, nun wirklich kein Demokrat,ein bekennender Antidemokrat,der sehr eigentümliche Ansichten und Ziele hat.Und als derjenige klar bekannt ist, der J.D.Vance den aktuellen US-Vizepräsidenten dort installiert hat.Das ist ein Zögling von ihm. Und er hat dann irgendwie dafür gesorgt,dass das der Vizepräsident von Donald Trump wurde.Ja, obwohl eine ganze Menge Leute sich vorher sehr bemüht haben,in diesen Arsch zu kriechen, hat der Peter Thiel das geschafft,das zu positionieren und er verfolgt da sehr klare, konkrete Ziele.Und naja, von dem kaufen wir jetzt unsere polizeilichen Überwachungssoftware. Nächstes Thema.

Tim Pritlove 1:47:51

Ja, ich meine gut, man kauft ja nicht unbedingt gleich seine Lebenseinstellungen mit dazu.Zeigt sich nur, dass also wirklich auch ein paar sehr windige Leute mit im Spiel sind.Und auch Elon Musk, der ja auch nicht gerade den Popularitätswettbewerb gewonnenhat in diesem Jahr, ist mit seinem,Grog, also eine XAI heißt die Firma, Grog ist das Modell, was sie da produzieren,mit dabei und es macht vor allem auch den Eindruck,dass da auch diese wie soll man diese Leute überhaupt nennen, diese,technlibertären Protofaschisten.

Linus Neumann 1:48:32

Ich glaube Technofaschisten Also ich finde das eine Verunglimpfung von Techno,deswegen würde ich eher sagen Tech-Faschisten oder Tech-Bros.Wie hat es die Anke Domscheit-Berg hat so einen wunderschönen Titel für ihren Vortrag bei der Fusion.Jetzt ist das Programm ja öffentlich.Deswegen kann ich jetzt ja auch daraus zitieren. Lass mich mal kurz schauen,wo habe ich es denn? Nicht, dass ich das jetzt hier,falsch zitiere. Eine Zukunft ohne digitale Monopole, Tech-Bro-Milliardäre undihre kapitalistische Kackscheißer.

Tim Pritlove 1:49:19

Ja, Tech Pro. Genau, also diese Leute auf jeden Fall, die ja eine wirklich merkwürdigeAgenda verfolgen, die also sehr undemokratisch ist.Die wollen ja ihre Freedom Cities haben, die wollen irgendwie entbunden seinvon diesem ganzen demokratischen Regelspiel,die wollen einfach machen und das ist so ein bisschen auch einfach so eine Traumweltmit dem Recht des Stärkeren und sehr wenig Anderem.

Linus Neumann 1:49:50

Also wir haben auf jeden Fall wirklich ein sehr ausbaufähiges Verständnis des Begriffs Freiheit.Der Begriff wird ja seit jeher von vielen Leuten sehr wild verzerrt in alle Richtungen.Ja, sei es die Freiheit im Rahmen der Corona-Pandemie, sei es die Freiheit,andere Menschen zu diskriminieren und fertig zu machen und das ist schon allessehr… Junge Freiheit zum Beispiel.Ein sehr strapazierter Begriff.

Tim Pritlove 1:50:24

Absolut.

Linus Neumann 1:50:25

Aber auch auf dieser sehr strapazierten Skala der Freiheit rangiert halt soein Peter Thiel wirklich…,Auf einer stark verzerrten, am sehr stark verzerrten Meta-Ende nochmal, ja.

Tim Pritlove 1:50:40

Genau, und dieser Traum von irgendwie so einer Singularität irgendwie,also die sind ja wirklich in so einem fast religiösen Wahnzustand auch unterwegsund da spielt halt AI irgendwie auch die ganze Zeit irgendwie eine Rolle.Das ist so ihr Werkzeug für alles.Mit diesem bekloppten Doge-Projekt, wo er nun Gott sei Dank rausgeschmissenwurde, aber ich glaube, die Organisation gibt es immer noch.

Linus Neumann 1:51:02

Er hat seine Zeit da ja formal beendet.

Tim Pritlove 1:51:07

Auf jeden Fall sind die da mit seinen ganzen jungen Hackern da reingerauscht,haben irgendwie Daten des Staates gezogen ohne Ende, um das dann in ihre AI reinzuschmeißen.Das ist so ein bisschen dieser Ansatz. Darauf wollte ich eigentlich hinaus.Es gibt auch Leute, die das so als Werkzeug der Macht einsetzen.Und das halte ich für ausgesprochen bedrohlich, diesen ganzen Prozess,auch wenn man ihn natürlich nicht kontrollieren kann.Und ja, alle werden das jetzt tun.Vielleicht muss man auch noch mal über militärische Aspekte reden.

Linus Neumann 1:51:44

Ja, also die geopolitischen Abhängigkeiten, in die wir Europa ja ohnehin schon begeben.Also schaut ihr an, also das Mobilfunknetz in Deutschland wird,man kann mit eigenen europäischen Komponenten keinen...Kein konkurrenzfähiges Mobilfunknetz mehr bauen.Wir können Computer nicht bauen ohne starke Abhängigkeiten auf Taiwan.USA bauen unter Anleitung von Elon Musk mit Starlink ein weltumspannendes Internet,was sie sicherlich nicht machen, dass du und ich in unseren Wohnwagen am Wochenendeein bisschen was runterladen können,sondern was sie machen, damit sie weltweit ihre Drohnen unter Kontrolle haben,ohne auf das Internet eines anderen sich verlassen zu müssen.Wir haben Microsoft, das zumindest in der westlichen Welt auf jeden Fall dieEnterprise-IT dominiert.Wir haben Google, was lange Zeit unser Fenster zur Realität da draußen war.Und schon in der letzten Sendung haben wir ja diesen schönen Titel souveränoder souverän verkackt untergebracht.Und das wird natürlich mit dieser Technologie der künstlichen Intelligenz,dem Heben von Datenschätzen als Prozess jetzt nicht geschwächt.Und da sehe ich.Auf jeden Fall noch die eine oder andere Herausforderung, wenn Menschen,die diese Technologien bauen, so drauf sind wie Mark Zuckerberg, Peter Thiel,Elon Musk, da könnte noch eine ganze Menge ethischer Traumvorstellungen, die wir haben,nochmal auf dem Weg in die goldenen 20er nochmal einer kritischen Prüfung unterzogen werden.

Tim Pritlove 1:54:01

Ich sage da mal nichts zu.

Linus Neumann 1:54:07

Tja, wir könnten mal über eine, also das sind ja, das sind Gedanken,die, glaube ich, deren Zeit jetzt in meiner Wahrnehmung dann schon gekommen ist.Sollte es, also vielleicht werden wir nicht alle arbeitslos.Oder vielleicht dauert das noch ein bisschen, bis wir alle arbeitslos werden.Auf jeden Fall, selbst wenn wir nicht alle arbeitsloswerden wird es starke Produktivitätsgewinne geben in den Tätigkeiten mit denenwir uns heute noch beschäftigen und der Begriff der Automatisierungsdividendewurde glaube ich auch von Leuten im CCC damals sehr stark schon vor langer Zeitgeprägt dass man sich mal darüber Gedanken macht wie wir,als Gesellschaften von diesen ganzen Effizienzgewinnen profitieren,statt dass einzelne Unternehmen, Shareholder oder Einzelfaschisten.Da jetzt die Machtkonzentration, die Kapitalkonzentration erfahren und nutzen können.Und vor dem Kontext hin, vor dem Kontext verstehe ich auch, warum die vielleichtgerade lieber daran arbeiten, dass die Welt sich zersplittert,und nicht auf, ja, sag ich mal, eine globalisierte Zukunft hinsteuert,dass du halt Ach, ich weiß auch nicht.Ach, genug für heute. Das war's.Kommen wir noch zu einer guten Nachricht. Heute hat es in Berlin nicht mehrganz so stark geregnet wie gestern.Und die Züge fahren wieder.

Tim Pritlove 1:55:56

Das soll eine gute Nachricht sein. Ein bisschen mehr Regen könnte auch helfen.Ja, genau. Also ihr merkt schon, das war auch so eine ungerichtete Diskussion.Wir wollten nicht auf irgendwas hinaus.Es gibt jetzt hier keine Pointe, sondern wir wollten einfach ein bisschen,wie sagt man so schön, Food for Thought liefern.Mal auch so ein bisschen selber abwerfen, was eigentlich bei uns so im Kopfherumkreist und ich denke, ihr werdet da auch noch eine ganze Menge hinzuzufügen haben.Grundsätzlich möchte ich aber noch anmerken,Dieser Kulturpessimismus, den wir in Deutschland so gerne pflegen,der ist meiner Meinung nach jetzt auch nicht so angemessen.Es ist einfach wieder ein signifikanter Technologieschub, den wir hier erleben.Es gibt definitiv ein Vor- und ein Nach-AI-Moment in der Geschichte und dieÄnderungen werden umwälzend sein. Aber das war halt auch mit den anderen Technologie-Dingen so.Also was Telefon, Strom, Telefon, Computer an sich, Internet.Smartphone und jetzt eben auch AI, was das alles für Änderungen bewirkt hat.Ich werde manchmal irre, wenn ich einfach so ein bisschen älter werde und dannso dieses, wie war es vor 30 Jahren, wie war es vor 40 Jahren,wenn man so diese Realität mal daneben hält, womit wir uns heute beschäftigen.Die Änderungen sind so krass, also würde ich mein Ich von vor 30 Jahren mitder heutigen Technologieentwicklung und der damit verbundenen gesellschaftlichenEntwicklung konfrontieren,dann wäre die Differenz einfach enorm und für mein damaliges Ich kaum zu verstehen.Aber in gewisser Hinsicht ist es jetzt auch nicht so, dass man irgendwie nichtleben könnte oder dass Dinge nicht auch besser geworden sind.Es ist immer ein bisschen schwierig, wenn man gerade so eine globale Situationhat, in der die Dinge sich jetzt auch erstmal wieder so gefühlt verschlechtern.Mehr Krieg oder der Krieg ist näher, mehr Krieg ist es eigentlich gar nicht,es ist eigentlich weniger Krieg, aber der Krieg ist uns einfach näher.Unser politisches System scheint sehr viel mehr in Auflösung und Desorientierunggefangen zu sein, als es sich vielleicht vor 30 Jahren angefühlt hat.Trotzdem sind solche Unsicherheiten auch immer wieder da und gehen auch immer wieder weg.Und es gibt eben verschiedenste Sinuswellen, die nicht alle auf der gleichenPhase sind von Sachen, die sich verbessern und verschlechtern.Von daher teile ich einfach diese Weltuntergangsstimmung generell nicht.Und ich bin auch nicht bereit, sie jetzt an diese Technologie ranzupacken undzu sagen, ja, wegen AI wird jetzt alles ganz schlimm werden.

Linus Neumann 1:59:10

Nee, das wird auch ohne AI ganz schlimm werden.

Tim Pritlove 1:59:17

Ja, ich meine, das ist immer die Frage, wie schaut man drauf?Ja, wir werden alle arbeitslos. Das kann auch einen positiven Aspekt haben.

Linus Neumann 1:59:24

Wollen wir doch alle ja.

Tim Pritlove 1:59:25

Wenn wir die ganze Zeit arbeiten. Also, ja, am Ende, wir wollen natürlich weiter existieren.Wir wollen eine Gesellschaft haben, die nicht auseinander trifft.Ich glaube, das ist das, glaube ich, was wir alle unterschreiben würden.Das ist das, was ich persönlich am schlimmsten finde.Alle politischen Bewegungen, egal ob sie jetzt auf technologischer Entwicklungbasieren oder eben aus rein gesellschaftlichen Entwicklungen heraus,aber alles was dazu führt, dass die Unterschiede in der Gesellschaft stärker auseinander driften.Das halte ich für schlecht. Und alles, was man dazu nutzen kann,um diese Differenzen wieder zusammenzubringen, das halte ich für gut.Und das kann man irgendwie mit der einen und mit der anderen Technologie machenund manchmal geschieht es auch automatisch einfach aus einem Wandel heraus,der dann eben einfach von,ja vielleicht auch mal von Langeweile getragen ist, weil Leute dann einfachgar keinen Bock mehr haben, sich mit Computern und AIs zu unterhalten,sondern einfach ganz bewusst auf einmal andere Dinge wieder mehr wertschätzen.Und so gibt es immer wieder so ein Bounceback. Deswegen wird schon nicht alles so schlimm werden.

Linus Neumann 2:00:39

Ich würde auch wirklich sagen, dass das ja auch wirklich eine ganz,also eine wirklich faszinierende Technologie ist.Das dürfen wir bei all dem nicht vergessen.

Tim Pritlove 2:00:50

Als Nerd bin ich begeistert.

Linus Neumann 2:00:54

Und vielleicht kann ich hier einen kleinen Text zitieren, den ein paar Leutevor vielen Jahren formuliert haben, als eine neue Technologie drohte,alle Bereiche des Lebens zu durchdringen.Der Text wurde irgendwann so im August,September 1981 in der Tageszeitung Die Taten formuliert und ich werde ihn jetztleicht verändert vortragen, Dass die innere Sicherheit erst durch KI-Einsatz möglich wird,glauben die Mächtigen heute alle.Dass KI nicht streikt, setzt sich als Erkenntnis langsam auch beim mittleren Unternehmen durch.Dass durch KI-Einsatz das Telefon noch schöner wird, glaubt die Telekom heutemit ihrem KI-System in Feldversuchen beweisen zu müssen.Dass der KI-Assistent nun in Deutschland dem Netflix-gesättigten BMW-Fahrerangedreht werden soll, wird durch die nun einsetzenden Anzeigenkampagnen klar.Dass sich mit neuronalen Modellen trotz alledem sinnvolle Sachen machen lassen,die keine zentralisierten Großorganisationen erfordern, glauben wir.Damit wir als KI-Freaks nicht länger unkoordiniert vor uns hinwuseln,tun wir was und treffen uns.

Tim Pritlove 2:02:34

Hervorragend.Ja, was soll man dazu noch sagen?

Linus Neumann 2:02:45

Tschüss.

Tim Pritlove 2:02:46

Tschüss sagen wir einfach. Ich glaube auch, Leute.Das war's. Wir wünschen euch eine entspannte Woche und wir hören uns bald wieder. Bis bald.

Linus Neumann 2:02:56

Bis bald.

Shownotes

Prolog

Forschergeist: FG086 Klugscheißen im Fernsehen
CRE: Technik, Kultur, Gesellschaft: CRE223 Die Sendung mit der Maus
media.ccc.de: Kissing – Heiße Tipps und Techniken

Sendung mit der Maus

www.ardmediathek.de: Die Sendung mit der Maus vom 22.06.2025 – hier anschauen
23.social: Lifetime Achievement

Apokalypse und Filterkaffee

Apokalypse & Filterkaffee: Disco-Krabbe (mit Jagoda Marinić & Linus Neumann)

Feedback

Wiener Postleitzahlen

Logbuch:Netzpolitik: LNP526 Souverän verkackt – Kommentar von kipferl

National Guard

Logbuch:Netzpolitik: LNP526 Souverän verkackt – Kommentar von Stephan
Wikipedia (en): California National Guard

Künstliche Intelligenz

media.ccc.de: Hacking Neural Networks
media.ccc.de: Demystifying AI
www.ccc.de: CCC | Hackerethik
www.spiegel.de: Kunstprojekt Ubermorgen.com: Wie sich Google selbst auffressen soll
berlin.ccc.de: Gründungsdoku des Chaos Computer Club
CRE: Technik, Kultur, Gesellschaft: CRE077 TUWAT.TXT

76 Gedanken zu „LNP527 Es wird auch ohne AI alles ganz schlimm werden“

Tom sagte am 25. Juni 2025 um 17:49 Uhr :

Euer Podcast wird klanglich immer dumpfer.
Für Tim drehe ich schon lange den Bass raus, jetzt muss ich für Linus weiter nachregeln, sonst fallen mir die Ohren ab oder ich hör nix.
Ist nur bei diesem Podcast so.
Vermutlich nicht Absicht, sondern einen Check wert?

Antworten ↓
- Dr. Med sagte am 25. Juni 2025 um 21:11 Uhr :
  
  Die Herren werden älter und ihre Stimmen tiefer. Ein völlig natürlicher Prozess.
  
  Dem Thema dieser Sendung geschuldet habe ich mich jedoch zusätzlich fachlich beraten lassen.
  Ich: „Wird im Alter die Stimme tiefer?“
  KI: „Ja, im Alter kann die Stimme tiefer werden. Dies geschieht aufgrund von Veränderungen im Körper, insbesondere in den Stimmbändern und der Kehlkopfstruktur. Mit zunehmendem Alter verlieren die Stimmbänder an Elastizität und Dicke, was zu einer tieferen und oft raueren Stimme führen kann. Bei Männern ist dieser Effekt in der Regel ausgeprägter, da ihre Stimmen in der Jugend oft tiefer sind und im Alter noch weiter absinken können.“
  
  Antworten ↓
  - Dr. Jodocus Kwak sagte am 26. Juni 2025 um 11:06 Uhr :
    
    Du meinst, die hatten kürzlich ihren Stimmbruch?
    
    Antworten ↓
- Christian sagte am 28. Juni 2025 um 19:46 Uhr :
  
  Tim klingt ein bisschen nach verstopfter Nase, darüberhinaus kann ich spontan keinen signifikanten Unterschied zu einer zufällig fewählten Folge aus 2023 und 2024 heraushören.
  Hast du vielleicht einen Klangverbesserer aktiv? Das Dolby-Feature an meinem Smartphone sorgt z.B. dafür das der Klang ständig lauter und wieder leiser wird. Ich fall immer wieder darauf rein, weil zunächst alles gefälliger klingt bis mir dann dieser nervige Bug auffällt.
  
  Antworten ↓
Christian Berger sagte am 25. Juni 2025 um 19:14 Uhr :

Also meine Befürchtung bei der Nutzung von KI beim Programmieren ist, dass das falsche Problem gelöst wird. Das Problem beim Programmieren ist ja nicht, möglichst viel Programmcode zu erstellen, sondern ein Problem mit möglichst wenig und simplen Programmcode zu lösen.

Ich glaube nicht, dass das die Produktivität erhöhen wird. Wir schreiben heute noch simple CRUD-Anwendungen jedes mal neu… und das obwohl dBase und Delphi das schon vor > 30 Jahren generalisiert haben. Es scheint so zu sein, dass jede hypothetische Produktivitätssteigerung direkt dadurch aufgefressen wird, dass man sich neue Steine in den Weg legt. Effektiv wurde in der Vergangenheit der Personalressourceneinsatz nicht kleiner. Dafür gibt es aber immer mehr „Boilerplate-Code“, der vom Editor geschrieben wird… und gleichzeitig ausgeblendet… weil man den eigentlich nicht bräuchte, wenn die Programmierung nur halbwegs brauchbar wäre.

Antworten ↓
- Tim Pritlove sagte am 25. Juni 2025 um 22:37 Uhr :
  
  Gerade Refaktorierung wird durch die Tools wirklich viel einfacher. Das sollte – wenn richtig benutzt – eine Menge unnötigen Code killen können (und in die Zukunft, Stichwort Ablösung von Legacy Systemen).
  
  Wer immer noch zu viel CRUD und API-Code neu machen muss sollte sich vielleicht mal mit deklarativen Application Frameworks und funktionalen Programmiersprachen beschäftigen. Da wird dann vieles einfach aus der Daten-Beschreibung heraus generiert.
  
  Antworten ↓
  - Enton sagte am 27. Juni 2025 um 13:57 Uhr :
    
    „Claude 4 just refactored my entire codebase in one call.
    
    25 tool invocations. 3,000+ new lines. 12 brand new files.
    
    It modularized everything. Broke up monoliths. Cleaned up spaghetti.
    
    None of it worked.
    But boy was it beautiful.“ @vasumanmoza
    
    https://nitter.net/vasumanmoza/status/1926487201463832863
    
    Antworten ↓
- Pornault Preau d'Oucente sagte am 28. Juni 2025 um 16:34 Uhr :
  
  Wir setzen bei uns in der Firma KI selektiv in unseren Projekten ein und nutzen dafür angepasste GPTs. Der KI wird also zunächst beigebracht, wie sie bestimmte Probleme zu lösen hat. Dann kann man ihr das Konzept (das der Berater geschrieben hat) geben und erhält bspw. die benötigten Datenbankänderungen oder Unittests. Das funktioniert gut und beschleunigt die Programmierung. Die KI hat das Konzept eben viel schneller gelesen und entsprechenden Code nach Vorgabe erstellt, als ich das könnte. Selbst, wenn im Konzept z.B. eine Datenbanktabelle genau beschrieben wäre, würde ich länger als die KI brauchen (und seien es nur fünf Minuten), aber das ist gar nicht notwendig, weil bspw. Datentypen aufgrund des Allgemeinwissens des GPTs korrekt ermittelt werden.
  
  Allgemeines Programmieren mag da mehr Probleme bereiten. Mir reicht es oft, dass ich alternative Implementierungsideen durch den Quelltext, den die KI erzeugt hat, erhalte.
  
  Code kommentieren funktioniert für mich auch recht gut. Den fertigen Code gebe ich der KI und bekomme ihn mit Kommentaren zurück. Spart auch Zeit und wenn ich Methoden ändere, fehlt nicht nachher der zusätzlich eingebaute Parameter oder ein vorher richtiger Kommentar ist auf einmal irreführend.
  
  Dass „möglichst wenig“ der richtige Ansatz ist, glaube ich nicht. Gut les- und wartbarer Code ist nicht unbedingt wenig Code. Performanter Code ist nicht unbedingt wenig Code. Aber mit Sicherheit kann man eine KI auch anweisen mit möglichst wenig und einfachem Code auszukommen. Wichtig finde ich, dass ich den Code verstehe, den eine KI oder irgendein anderes Tool erzeugt.
  
  Last but not least: KI wird in Zukunft wohl kaum schlechter werden oder stagnieren. Was sie heute noch nicht kann, wird sie vielleicht bald schon sehr gut können. Man sollte sich damit auseinandersetzen, weil es nicht irgendwann *PUFF* macht und es keine KIs mehr gibt. Obwohl, könnte schon passieren, aber ob es dann noch Menschen gibt? Naja, das wird aber erst nach den Goldenen Zwanzigern passieren!
  
  Antworten ↓
Jan sagte am 25. Juni 2025 um 21:18 Uhr :

Ich hätte mir etwas mehr Reflektiertheit beim Thema KI gewünscht. Tim hat die AI-Kool-Aid scheinbar wirklich in einem Zug runtergestürzt. Ich schreib z.B. auch professionell Software und die Produktivitätsgewinne sind für mich und meine Kolleg*innen vernachlässigbar. Das bestätigt auch die Studienlage (https://doi.org/10.3386/w33777). Ich verbringe dann halt Zeit im Q&A mit meinem Modell, statt mich tatsächlich mit den Fundamentals meiner Systemarchitektur zu beschäftigen. Mit dem Nachteil, dass ich den Slop hinterher ohnehin nochmal genau lesen und verstehen muss, weil es kein Modell gibt, das auf perfekter Software trainiert wurde (gibts die eigentlich?) und ich mit Exploits, Slopsquatting, etc. oder einfach Slop rechnen muss. Für eine bessere Code Auto-Completion reichts vielleicht gerade noch.

Dem gegenüber steht ein unethischer, fundmental ausbeuterischer Trainingsprozess, der in industriellem Maßstab öffentliche (aber unfreie) und proprietäre Informationen nutzt, um mit einem absurden Energiebedarf Modelle zu trainieren, die dann von prekärbeschäftigten Menschen (häufig aus dem globalen Süden) in Gig-Work-Arbeit – feingetunt werden. Die Kirsche oben drauf ist dann, dass die Produktivitätsgewinne der feuchte Träum eines jeden Kapitalisten sind, um Arbeitszeit weiter zu verdichten, den menschlichen Einfluss am Produktionsprozess auf eine Kontrollfunktion zu reduzieren und Arbeiter*innen immer effizienter auszubeuten. Cool, wenigstens haben wir jetzt lustige AI-Meme-Bildchen à la „Conni dealt Bubble Tea auf dem Pausenhof“.

Ich empfehle das Buch „The AI Con“ von Emily M. Bender & Alex Hanna zu Hype-Kalibrierung.

Antworten ↓
- Tim Pritlove sagte am 25. Juni 2025 um 22:33 Uhr :
  
  Produktivitätsgewinne sind wirtschaftliche Normalität und haben bisher immer zu mehr Wohlstand geführt. Das ganze automatisch immer als Ausbeutung zu deuten hat Tradition, macht es aber nicht wahrer. Ich sage nicht, es wird nicht zu schmerzlichen Disruptionen kommen, aber so war das bisher bei allen Technologieumbrüchen.
  
  Dass Deine Ausbeute beim Coden so schlecht ist mag vielleicht auch was mit Sprache und Environment zu tun. Ich brauche allerdings kein Cool-Aid zu schlürfen um zu sehen, wie viel leichter sich Software entwickeln lässt. Da würde ich dem Thema durchaus noch mal eine zweite und dritte Chance einräumen an Deiner Stelle.
  
  Antworten ↓
  - Sebastian sagte am 27. Juni 2025 um 12:04 Uhr :
    
    Sorry, Tim, aber die Behauptung, dass „Produktivitätsgewinne immer zu mehr Wohlstand führen“, ist so absurd verkürzt, dass sich mir die Fußnägel aufrollen.
    
    Auch dein Versuch, die faktisch stattfindende Ausbeutung von Milliarden Menschen (ganz zu schweigen von anderen Lebensformen und ganzen Ökosystemen), die uns zusehends an den Rand diverser globaler Katastrophen führt, als irgendwie doofe aber notwendige Begleiterscheinung technologischer Entwicklungen vom Tisch zu wischen, ist TINA-Rhetorik par excellence.
    
    Alles, was Jan schreibt, lässt sich ja durch Fakten stützen oder zumindest plausibel kontextualisieren. Seinen Kommentar ohne irgendeinen inhaltlichen Bezug so abzukanzeln, nach dem Motto: „Du hast das nur noch nicht richtig verstanden, du nutzt die falschen Sprachen und Environments, du musst dem Thema nur noch 2, 3, 5, 8, 13… Chancen einräumen“ usw., wird der Komplexität der Sachlage nicht ansatzweise gerecht.
    
    Klar, ein Kommentar zu einem Kommentar zu einem Podcast ist vielleicht nicht der beste Ort, um das Thema differenziert zu betrachten, aber ein wenig mehr Reflektiertheit und etwas weniger „Kool-Aid“ hätte ich hier trotzdem erwartet.
    
    Antworten ↓
    - Michel sagte am 28. Juni 2025 um 06:03 Uhr :
      
      Wann und Wo haben Produktivitätsgewinne nicht zu mehr Wohlstand geführt ?
      
      Antworten ↓
      - Sebastian sagte am 28. Juni 2025 um 16:27 Uhr :
        
        Ich habe nicht geschrieben, dass Produktivitätsgewinne nicht zu mehr Wohlstand führen. Ich habe geschrieben, dass ich es für absurd verkürzt halte, Wohlstand ausschließlich ökonomisch zu framen, um diese Verkürzung dann als Strohmann-Argument gegen die völlig legitimen und plausiblen Einwände von Jan ins Feld zu führen (die ich im Großen und Ganzen teile).
        
        Mehr „Produktivität“ führt nur dann automatisch zu mehr „Wohlstand“, wenn wir neben den ökonomischen Bedeutungsebenen rigoros alle anderen Aspekte ausblenden, die sich sonst noch unter diesen Konzepten subsumieren lassen.
        
        Ist Wohlstand nicht auch sauberes Wasser, Freiheit, Sicherheit, Verteilungsgerechtigkeit, Artenvielfalt, grüne Innenstädte, gesunde Korallenriffe und Fischpopulationen, medizinische Versorgung, Teilhabe, Solidarität, Bildung, Kultur und Demokratie, um nur eine beliebige Auswahl zu nennen?
        
        Die aktuellen gesamtgesellschaftlichen Entwicklungen zeigen m.E. sehr klar, dass ein bis zur Unkenntlichkeit verkürzter ökonomischer Wohlstandsbegriff nicht Teil der Lösung ist, sondern die Ursache einer enormen Bandbreite von Problemen – Probleme, die uns alle unmittelbar betreffen und die im Gegensatz zu ökonomischen Abwägungen nicht verhandelbar sind.
        
        Vor dem Hintergrund des Podcast-Themas lautet meine Gegenfrage:
        
        Welche weniger stark verkürzten Definitionen von Wohlstand und Produktivität könnten wir anlegen, um im Sinne einer lebenswerteren Zukunft für uns alle eine möglichst offene Debatte über technologische Entwicklungen zu führen?
        
        Antworten ↓
      - Sebastian sagte am 28. Juni 2025 um 18:52 Uhr :
        
        Das Problem an einem rein ökonomischen Wohlstandsbegriff ist, dass er suggeriert, wir würden reicher, während wir in Wahrheit die Welt (und damit uns selbst) immer ärmer machen.
        
        —
        
        Zugegeben, das ist jetzt schon ziemlich off-topic. Trotzdem denke ich, dass sich diese These auch auf die technologischen Entwicklung im Umfeld der (generativen) KI beziehen lässt.
        
        Abschließend möchte ich noch meine etwas vollmundige Kritik an Tims Kommentar relativieren. Wenn ein Podcast es schafft, solche Debatten loszutreten, hat er bei mir ja im Grunde schon gewonnen.
        
        Antworten ↓
  - Maximilian Blum sagte am 2. Juli 2025 um 04:56 Uhr :
    
    Ist schon gewagtes Argument von Tim. Die erwähnten “ schmerzlichen Disruptionen“ sind doch genau die Gestalt aufgetretener Ausbeutung. Darauf mit einem – das war halt schon immer so, kann man nix machen – zu antworten, ist schon hart neoliberaler Sprech den ich Tim jetzt so nicht zugetraut hätte. Natürlich kann man da was machen, Wirtschaft und Eigentum an Produktionsmitteln lassen sich so organisieren, dass die schmerzliche Disruption verringert oder im Idealfall sogar völlig aufgelöst wird. Das bedeutet im Umkehrschluss nicht, dass Produktivitätszuwächse in antikapitalistischen Systemen immer frei von Ausbeutung sind. Ausbeutung kann auch sein, wenn es so wie in der DDR ist, dass Volkseigentum und „arbeite mit, plane mit, regiere mit“ zwar auf dem Papier stehen, in der Praxis aber von autoritären Elementen überlagert werden. Und am Ende die neue Werkzeugmaschine in den Westen exportiert wird, damit die KoKo dem Honecker einen Fuhrpark aus gepanzerten Citroen CX oder wahlweise Volvo-Stretch-Limousinen schenken kann. Und selbst wenn man sich diesen dreisten Verriss nicht geleistet hätte, wäre es immer noch Ausbeutung gewesen weil politische Macht missbraucht wurde um die Freiheitsrechte der Arbeiter*innen einzuschränken. Höre dies, sage das, reise nur dorthin, kleide dich so usw. usf. Ausbeutung ist Machtmissbrauch, generell. Man wird sie also nie ganz auf Null bekommen, vermutlich. Aber man kann sehr wohl Einfluss darauf nehmen, wie groß sie ist. Auch und gerade bei Produktivitätszuwächsen.
    
    Antworten ↓
    - Matthias sagte am 2. Juli 2025 um 05:25 Uhr :
      
      Ohne das ganze linke Geschwurbel würde hier auch echt was fehlen.
      
      Antworten ↓
Dr. Med sagte am 25. Juni 2025 um 21:32 Uhr :

Das Thema Psychotherapie durch KI finde ich gruselig und auch interessant, zumindest als Ergänzung. Wäre das nicht mal ein spannendes Thema für einen CRE mit einem Psychotherapeuten als Gast?

Antworten ↓
- Martina sagte am 26. Juni 2025 um 09:35 Uhr :
  
  sehr gute Idee, fände ich auch sehr interessant!
  
  Antworten ↓
  - Martina sagte am 26. Juni 2025 um 13:50 Uhr :
    
    …Besonders, weil ich bisher bei „Unterhaltungen“ mit KI nie das Gefühl hatte, sowas wie ein menschliches Gegenüber zu haben. Zu artifiziel, unterwürfig und blutleer waren mir stets die Antworten. Das kann ein Grund sein, warum es für programmieren und Texte formulieren prima funktioniert. Wie Tim sagt, als Assisstent. Sowas wie „mich verlieben“ oder das Gefühl haben, als Mensch ernst genommen zu werde ist mir noch nicht untergekommen. Kann sein, dass es dran liegt dass ich nur Gratismodelle verwende. Es scheinen aber Menschen ja bereits jetzt mit persönlichem Gewinn mit KI zu plaudern – da wäre ein professioneller Blick darauf hochinteressant.
    
    Antworten ↓
    - Yesno sagte am 1. Juli 2025 um 16:44 Uhr :
      
      Ich fand Sesame AI schon ziemlich gut bis jetzt.
      
      Antworten ↓
LehrenDesAlltags sagte am 25. Juni 2025 um 22:58 Uhr :

Danke, dass ihr das Thema aufgenommen habt.
Zum Thema KI und Beziehung hier ein Hinweis zu einer Reportage:
https://www.ardmediathek.de/video/Y3JpZDovL3N3ci5kZS9hZXgvbzIyMzAyODE/
Ähnliche kamen die letzten Tage auch auf verschiedenen Platzformen und Zeitschriften. Falls diese konkrete nicht zusagt.

Außerdem gab es zum Thema KI, Therapie und Abhängigkeiten (von der AI und dem Unternehmens-/Finanzierungsmodell) ja vor ein paar Jahren schon den Fall von Replika, bei dem Tausende Nutzende bei der zwischenzeitlichen Abstellung von der KI in Nöte gerieten.

Ich frage mich dazu: welche Kompetenzen benötigen Menschen eigentlich zukünftig, um mit diesen Phänomenen umgehen zu können und den technischen Entwicklungen nicht hilflos ausgeliefert zu sein, sondern selbstreflektiert bewusst mit ihnen als Tool umzugehen?

Antworten ↓
MythendesAlltags sagte am 26. Juni 2025 um 01:40 Uhr :

Ich werf mal das Phänomen (GPT) Model collapse ein.
https://www.nature.com/articles/s41586-024-07566-y
„Otherwise, it may become increasingly difficult to train newer versions of LLMs without access to data that were crawled from the Internet before the mass adoption of the technology or direct access to data generated by humans at scale.“
Ob dieser Effekt auch durch das Training mit Wissen aus Mensch-LLM Kooperationen auftritt bleibt abzuwarten, ist aber momentan nicht auszuschließen.
Was deswegen absehbar bleiben wird ist die eklatante Menschenrechtslage in der Annotierung/QA der Modelle, aber auch die Copyright-Problematiken werden wohl weiter eskalieren. War das nicht mal CCC Kernthema? Wo ist das hindiffundiert?

Absolut gar nicht angesprochen wurden die Implikationen durch eskalierenden Ressourcenverbrauch bei weiterem Rollout und der direkte Zielkonflikt mit der Transformation weg von einer primär fossilen Energieerzeugnung (Metalle (auch Batterien für USV Anlagen), Notstromaggregate, Kunststoffe, Ressourcen zur Bebauung, Kühlmittel, Feuerlöschmittel, zusätzlich zum Wasser- und Stromverbrauch, to list a few). Hier kann man echt mal die Frage stellen: Ist es das uns wert? In welchen Anwendungsbereichen wäre der Einsatz gerechtfertigt?

Was ist aus der Norm „Keine technischen Lösungen für soziale Probleme“ zu propagieren geworden?
Klar, kann man versuchen hier bspw. im Thema Einsamkeitspandemie einen technischen Hotfix zu sehen. Aber was passiert mit unserer Gesellschaft, wenn wir KI hier ohne Gegenangebot und -bewegung zulassen?

Antworten ↓
Lealexandra sagte am 26. Juni 2025 um 08:26 Uhr :

Zum Thema Psychotherapie hat Linus gesagt, dass diese idealerweise nach evidenzbasierten Manualen stattfindet. Das ist für die Verhaltenstherapie im Prinzip richtig, allerdings muss ich aus eigener Erfahrung berichten (und habe dies von vielen Kolleg:innen ebenfalls gehört), dass es selten möglich ist, eine manualisierte Therapie „nach Plan“ durchzuziehen, da ja die meisten Patient:innen zwischen den Sitzungen viel erleben und sich auch die generelle Problemlage ständig ändern kann. Da muss man als Therapeut:in oft improvisieren können und ad hoc überlegen, was denn in der neuen Situation sinnvoll wäre (es geht also um situative Flexibilität). Ich bin nicht sicher, ob KI dies so leisten könnte.
Zudem gibt es Studien, die belegen, dass die Therapieform (also VT, TP,…) und die Inhalte (z.B. Cognitive Behavioural Therapy,…) wohl weniger oder höchstens genauso relevant sind hinsichtlich Therapieerfolg als bestimmte Merkmale/Fähigkeiten der Therapeut:in hinsichtlich Empathie, Wertschätzung,…. Auch Humor in der Psychotherapie hat sich als ein wirksames Mittel erwiesen, und da es schon jetzt Kolleg:innen gibt, die sich mit dem Einsatz von Humor schwertun, bin ich nicht sicher wie gut das mit KI laufen würde. Ebenso was „echte“ Empathie, Wertschätzung….betrifft.

Antworten ↓
- Noah sagte am 26. Juni 2025 um 11:25 Uhr :
  
  Dazu ergänzend:
  Die menschliche Psyche ist komplex und messy, voller Untiefen und Überraschungen und dadurch nicht operationalisierbar. Eine klassische, isolierte Angsterkrankung bei einem ausreichend intelligenten und motivierten Menschen wird man sicher mit einer Therapie-KI zufriedenstellend behandeln können, aber in der Praxis sind solche Fälle selten. Fast immer behandeln wir Komorbiditäten mit hochindividuellen Persönlichkeitsfaktoren, die durch gängige Diagnosesysteme und Manuale nur unzureichend beschrieben werden können. Diese dienen als Orientierung, mehr aber auch nicht. Sicher wird KI besser sein als keine Therapie oder eine schlechte und vielleicht sogar noch als eine durchschnittliche. Aber herausfordernd sind ja die Grenzfälle und Situationen, wo es eben nicht planmäßig läuft. Ich könnte mir die KI gut als Ergänzung für den Therapeuten vorstellen, sodass beide dann quasi im Tandem auftreten, der Mensch erstellt Diagnose und Therapieplan, die KI weist auf mögliche Fallstricke hin, evaluiert den Therapieverlauf, ist für den Patienten zwischen den Sitzungen ansprechbar, kann Hausaufgaben nachverfolgen usw. Allgemein würde ich sagen, dass der Mensch nicht ersetzbar ist, aber sich ersetzbar machen kann, indem er schon vorauseilend Arbeitsprozesse ins Maschinelle reduziert. Da geht einiges verloren und da sollten wir uns nicht unter Wert verkaufen ;)
  
  Antworten ↓
  - Simone sagte am 26. Juni 2025 um 20:04 Uhr :
    
    uA die Uni Mannheim forscht seit paar Jahren schon zu ergänzenden Verfahren von Chatbots in der Therapie. Was ich bedenklicher finde: In der offenen Jugendarbeit hab ich mitbekommen, dass Kinder/Jugendliche dies nun intensiv nutzen. Egal, wo man fragt, alle kennen es. Gleichzeitig wird die Technologie aber weder verstanden noch die Dialoge hinterfragt. Eltern sind da auch komplett außen vor.
    Was passiert mit den Daten? Ist das nicht auch grad bei so closed Systemen in chatGPT auch ein potentieller Desinformations-/Radikalisierungsvektor? Denkbar und technisch umsetzbar ist dies ja definitiv.
    
    Antworten ↓
Dirion sagte am 26. Juni 2025 um 08:34 Uhr :

Hallo,

schöne etwas andere Folge im der versucht wird ein grösseres Bild zu zeichnen. Gerne immer mal wieder einstreuen.

Zu KI in Medizin: Auch beim Theme Krebserkennung über Bildgebende Verfahren oder molekularbiologische Analysedaten wird es sicherlich grössere Fortschritte geben, dazu ein Artikelder Tagesschau Redaktion:
https://www.tagesschau.de/wissen/ki-tumore-krebs-100.html

Am ende noch eine sxhlecjte naxhricjt für mögliche Weihnachtsgeschenke. Auch für die Nintendo Switch (2) scheint der Trend der Freigabe des Spiels über Cloud/ Download ebenfalls nicht halt zu machen. Das gro ddr Spiele wird so weit ich es recherchiert habe, nicht physisch geliefert. https://nplusx.de/articles/4907-welche-switch-2-spiele-sind-komplett-physisch-erhaltlich
https://www.pcgameshardware.de/Nintendo-Switch-2-Konsolen-280469/News/Physische-Versionen-aufgewertete-Spiele-Ueberraschung-1469886/

Nichts bleibt verschont, nicht mal Super Mario…

Beste Grüsse

Antworten ↓
Martina sagte am 26. Juni 2025 um 09:47 Uhr :

Den einführenden Worten, wie KI funktioniert, konnte ich nicht ganz folgen. Deshalb habe ich dann die Sendung mit der Maus angeschaut.
Danach habe ich darüber hinaus auch die Spanisch- und Schafanspielungen verstanden.

Danke!

Antworten ↓
Schwerdfeger sagte am 26. Juni 2025 um 10:59 Uhr :

Tolle Betrachtung des Themas! Wie Kurze CRE Folge. <3

Bezüglich Psychotherapie: ich experimentiere momentan damit mein Tagebuch in Ausschnitten von Zeiträumen in ein LLM zu füttern. Momentan verwende ich die Lokalen Modelle Gemma-3-27b-it und Mistral Small 3.1 bzw. werde jetzt mistral-small-3.2 testen in LM Studio. (Danke an Tim für den LM studio Tip!)
Am Prompt und Systemprompt feile ich natürlich noch (mit LLM Hilfe).
Wenn jemand einen Ratschlag hat nehme ich den gerne?? :)
Die Erläuterung von Linus fand ich schon mal sehr aufschlussreich.

Mein Tagebuch diktiere ich fast nur noch in mein iPhone/Mac (DayOne app) was ohne Maschine lerneng auch nicht möglich wäre.

Antworten ↓
Schnuddelbuddel sagte am 26. Juni 2025 um 11:30 Uhr :

Tim!

Du hattest mal in LNP | FS eine KI-Installation vorgestellt, die du selbst gesehen hattest, bei der man eine Matrix aus Streichholzschachteln (vielleicht 30×20) mit Zettelchen (Anweisungen) und bunten Kügelchen (oder ähnlichem) gefüllt hatte. Besucher der Installation sollten ein Schächtelchen öffnen und der Anweisung gemäß Kügelchen in andere Schächtelchen legen. Im Laufe der Zeit sortierten sich die Zettel und Kügelchen so, dass man am Ende mit dem ganzen Ding zwei Zahlen addieren konnte, oder so. Man wollte zeigen, wie scheinbar kleine unabhängige Prozesse in ihrer Gesamtheit einen höheren Zweck erfüllen können. So wie die großen LLMs auch funktionieren, man schmeist unmengen Zeug auf ein Gerüst und plötzlich macht es die Augen auf und fragt wo es ist und wer wir sind.

Kannst du dich daran erinnern? Ich finde das nicht mehr bei dir, weil auch die Textsuchfunktion deiner Podcastseiten be…scheiden ausgelegt ist. Ich würde gerne noch einmal den genauen Aufbau der Installation nachvollziehen können.

Antworten ↓
- Pornault Preau d'Oucente sagte am 28. Juni 2025 um 16:50 Uhr :
  
  https://freakshow.fm/fs208-ich-zahl-alles
  
  Antworten ↓
Lupino sagte am 26. Juni 2025 um 11:56 Uhr :

Woher kommt eigentlich diese Annahme, dass „KI“ emergentes Wissen generieren könne, also Wissen, das nicht in den Trainingsdaten enthalten war, die „KI“ aber trotzdem aus dem zum Training verwendeten Daten „erschließen“ konnte? Müssten wir dafür nicht wissen, welche Informationen *nicht* in den Trainigsdaten enthalten waren? Wie können wir das wissen, wenn mittlerweile das komplette Internet zum Training von „KI“s verwendet wird?

Antworten ↓
- Linus sagte am 26. Juni 2025 um 19:26 Uhr :
  
  Diese Annahme beruht auf der Fähigkeit von neuronalen machine learning Modellen, Zusammenhänge in unstrukturierten Daten zu finden.
  
  Klassische statistische Datenauswertungen müssen immer erst für die Fragestellung entsprechende Daten aufbereiten.
  
  Du kannst dir ML wie eine explorative (statt gezielte) riesige riesige riesige multi-variate Regressionsanalyse auf einem rieeeeesigen Datensatz vorstellen.
  
  Ähnlich wie im diskutierten Beispiel, dass Palantir alle „herkömmlich“ inkompatiblen Datenbanken, die keinen unique key / identifier haben, zusammenwürfelt.
  
  Natürlich auch mit allerlei Scheinkorrelationen, aber eben auch mit einigen echten.
  
  Antworten ↓
  - Lupino sagte am 30. Juni 2025 um 01:09 Uhr :
    
    also mit anderen Worten: Die „KI“ halluziniert eigentlich ständig, nur kommt es gelegentlich vor, dass manche dieser Halluzinationen zufällig mit der reellen Welt korrelieren.
    
    Wobei sich mir gleich die nächste Frage anschließt: Stellt die Maschine diese Zusammenhänge her, oder wir, die wir ihren Output interpretieren?
    
    Antworten ↓
Chris sagte am 26. Juni 2025 um 12:36 Uhr :

Beim Thema KI habe ich als Softwareentwickler keine Angst, dass ich in naher Zukunft ersetzt werde.
Ich nutze KI ausgiebig und sehe es als sehr gutes Werkzeug. Wir sind und werden noch eine Weile in der Phase sein, in der wir herausfinden müssen, wie dieses Werkzeug am besten einzusetzen ist.
KI kann sehr viel ersetzen was heutzutage jeder Junior erledigt. Der Junior von morgen, nutzt KI und löst komplexere Aufgaben bzw. quantitativ mehr Aufgaben.
KI hat aber auch eine Schwäche, die schwer herauszubekommen ist. Das Ergebnis basiert auf den eingegebene Daten/Wissen. In alten/historischen Softwareprojekten ist diese Datenbasis ein Mix aus „guten“ und „schlechten“ Bestandteilen. Die Kunst ist es nun, der KI beizubringen diese Beiden von einander zu trennen. Das kann beliebig komplex werden.
Je mehr KI-generierte Software dann auf KI-generierter Software basiert, verschlimmert sich das Problem.
Unsere Aufgabe wird es also immer mehr, zu entscheiden, ob das KI-Ergebnis eine korrekte Lösung für das gegeben Problem ist. Dafür müssen wir immer noch das Problem und die Lösung verstehen.
Die Lösung kann natürlich auch ein Programm sein, dessen Quellcode ich nicht mehr lese. Dann muss ich „irgendwie“ anders entscheiden, ob de Lösung korrekt ist.

Besonders der Beruf Softwareentwickler war schon immer von schnellem Wandel betrofffen. In der Ausbildung/Studium habe ich Dinge gelernt, die direkt danach komplett obsolte geworden sind. Wir mussten uns schon immer stetig anpassen und das ist mit KI nichts anderes.

Antworten ↓
Johannes sagte am 26. Juni 2025 um 15:10 Uhr :

Ich fühle mich auch oft einsam und rede seit einiger Zeit mit ChatGPT über meine Probleme und Sorgen, wohl wissend das der Computer nicht WIRKLICH empathisch ist. Helfen tut es mir auf jeden fall, vor allem wenn man sonst eh niemanden hat der mit einem redet.

Antworten ↓
- Christian sagte am 28. Juni 2025 um 18:27 Uhr :
  
  Ohne Fan von KI zu sein, kann ich mir trotzdem gut vorstellen, dass es bei leichten psychischen Problemen helfen kann. Die Alternative bisher war, dass solche Personen erst gar keine Therapie oder sonstige Hilfe bekommen haben. Zudem besteht hier in der Theorie weniger Gefahr sich rechtfertigen oder Schämen zu müssen. Andererseits füttert man zweifelhafte Unternehmen mit seinen intimsten Gedanken ohne den Hauch einer Kontrolle, was damit geschieht.
  
  Problematisch bleibt letztlich, dass die KI keine professionelle Hilfe einleiten wird, wenn es zu einer Diagnose kommt. Daher sollte möglichst eine spezialisierte KI statt einer generellen für „Seelsorge“ zum Einsatz kommen.
  
  Antworten ↓
Mo sagte am 26. Juni 2025 um 21:16 Uhr :

Die Wikipedia Seite zu The Lord Of The Rings zu Palantir:
> The stones were an unreliable guide to action, since what was not shown could be more important than what was selectively presented. A risk lay in the fact that users with sufficient power could choose what to show and what to conceal to other stones

Und *danach* ist die Überwachungssoftware benannt, die für uns Big Data – sorry – AI – machen soll, um uns vor Gefahren zu warnen. Ich sehe da wieder einen gefährlichen Linksruck in Deutschlands Zukunft, dem man begegnen muss.

Bei DeepSeek gabs mal kurz einen lichten Moment, wo Leute festgestellt haben, dass bei „tiananmen square“ keine dollen Antworten kamen, weil das entsprechend trainiert wurde. Ich glaube, da fehlt aber der logische Schluss, dass die LLMs aus dem Land des Kapitalistischen Endzustands genauso manipuliert werden können, um Themen jeder Art in dem Licht auszugeben, wie es den Besitzern der gewaltigen Daten- und Grafikkartenmengen eben am besten passt.

Wenn wir Glück haben, sind die LLMs der Zukunft einfach schlecht, weil das weg-lobotomieren des „woke mind virus“ dann zu viel Kollateralschaden verursacht. Aber selbst dann werden immer noch super viele Bilder und Videos generiert werden, die alleine die politische Meinung lenken können – siehe auch John Olivers letzten Beitrag in Last Week Tonight.

Schon jetzt werden die Bilder von Videos von der Jan6 Attacke auf Capitol mit „ja, die Demokraten haben das KI generiert!“ abgetan.

Ich finde es bei dieser Aussicht fast belanglos, ob man sich jetzt Code schneller schreiben lassen kann. Das Holodeck bei Star Trek hat auch immer toll Geometrie aus gesprochenen Prompts generiert. Schön, wenn man die „Eugenics Wars“ schon hinter sich hat.

Antworten ↓
chris sagte am 26. Juni 2025 um 22:00 Uhr :

beste folge ever ! danke euch beiden !

Antworten ↓
NGC-Ollie sagte am 26. Juni 2025 um 23:01 Uhr :

Ich komme im Moment ganz gut durch den KI-Hype indem ich mich bei jedem Bullshit-Bingo frage: „Kann ein guter Text/Bildgenerator dieses Problem für mich lösen? Hilft Statistik? Kennt die Mehrheit der Leute vielleicht eine Lösung?“ Hilft oft, z.B.: Ausformulieren: OK, Vorschläge in E-Mails : Ok, Programmcode: OK, Wissensfragen: Meh, nur wenn statistisch relevant, fiktionale Geschichte erfinden: OK, Podcasttitelbild mit einer größeren Maus und einem kleineren Elefanten: Meh, weil statistisch nicht sehr realistisch, Statistische Aufgaben lösen: Ohja, gerne. Wir sind noch in der „Alle Probleme sind ein Nagel für meine Hammerlösung“-Phase, ich halte es da mit Linus Torvalds („90% Hype, 10% Realität“)

Antworten ↓
Mymla sagte am 26. Juni 2025 um 23:25 Uhr :

Sehr interessante Folge. Mir fehlt hier aber wie so oft das Nachdenken darüber, wieviel Energie bzw welche physischen (fossilen) Ressourcen dabei verschwendet werden. Wo soll die ganze Energie herkommen, wenn jedes noch so kleine Problem mit KI gelöst wird, und sie zudem noch ohne jedes Maß zur Unterhaltung eingesetzt wird? Wir haben ja jetzt schon einen Energieverbrauch über jedes vernünftige und nachhaltige Maß hinaus, wozu das Internet auch ohne KI schon viel beigetragen hat.

Antworten ↓
- Christian sagte am 28. Juni 2025 um 18:16 Uhr :
  
  Die Energie wird zukünftig vor allem aus Thorium-Reaktoren und konventiellen Kernkraftwerken kommen außer vielleicht dort, wo Wasser-, Wind- und Solarkraft regional massiv im Übermaß vorhanden sind.
  
  Antworten ↓
Axel sagte am 26. Juni 2025 um 23:59 Uhr :

Ich finde es gut, dass Tim in dem Beitrag auch mal kritisch auf einen Punkt zu sprechen kommt: Immer mehr AI-Output wird gleichzeitig auch wieder AI-Input – und was das für die Systeme bedeuten kann!
Wo sind die Grenzen? Kann dadurch sogar eine Degeneration der Modelle stattfinden? Falls ja, wo ist der Kipppunkt?
Und der Vergleich zum Rinderwahnsinn/BSE passt ganz gut.
Ich hatte diese Problematik vor Jahren schon „Wissensinzucht“ genannt – schön, dass es jetzt endlich mal jemand anspricht.

Auch wenn ich AI bereits selber in meinen (Berufs)Alltag integriert habe (coding), bin ich trotzdem skeptisch auf die Frage: „kann AI neues Wissen schaffen oder entwickeln?“
Natürlich können die Modelle sehr gut mit bisher gelerntem umgehen (Code, Papers, Wikis, Literatur etc), aber wirklich echtes, neues Wissen schaffen?

In der Medizin beispielsweise sind viele Entdeckungen Zufallsfunde. So wie der Betablocker Propranolol hauptsächlich zur Behandlung von Herz-Kreislauf-Erkrankungen eingesetzt wird und dabei nur zufällig entdeckt wurde, dass dieser Wirkstoff auch das Wachstum eines Hämangioms (Blutschwämmchen) verlangsamen oder stoppen und sogar zu einer Verkleinerung führen kann. Etwas vergleichbares kann ich mir bei AI derzeit nicht vorstellen.

Antworten ↓
knrkstrr sagte am 27. Juni 2025 um 08:52 Uhr :

Zum Thema Misstrauen über einer Psycho-AI denke ich, das ähnlich wie bei anderen technischen Errungenschaften anfangs Misstrauen herrscht, aber dann eine Gewöhungsphase eintritt und das häufige positiv Ergebnisse Vertrauen aufbauen. Beispiele Waschmaschine, Auto oder ChatGPT. Waschmaschinen brauchten noch ein Glasfenster, aber wer würde heutzutage bei einer Waschmaschine noch sagen, das die Waschmaschine die Kleidung zerstört? Oder das wenn ich in ein „normales“ Auto einsteige Geschwindigkeitskrankheiten bekomme oder sofort sterbe weil die Bremse nicht geht. Als letztes ChatGPT, es wird zwar immer wieder vor den Halluzinationen gewarnt, aber das scheint den Erfolg als Ablöse der Google Suche nicht abzuschwächen.

Antworten ↓
Livia Weigel sagte am 27. Juni 2025 um 15:32 Uhr :

Hallo ihr lieben,
Ich finde es schön, dass ihr euch dem Thema annehmet. Zu euren Gedanken in meinem Fachbereich (Wissenschaft) muss ich jedoch sagen, dass ihr ein grob falsches Bild vermittelt.

Das Wissen in den Papern mit denen LLM Trainiert werden geht NICHT in die LLM über. Zwei entscheidende Knackpunkte:
1. Texte aus werden in Tokens übersetzt, daraus Wahrscheinlichkeiten ausgerechnet. Was ein LLM ausspuckt, kommt also nicht auf inhaltliche Richtigkeit, sondern Häufigkeit drauf an. Es ist nicht der Volltext (und das darin enthaltene Wissen) enthalten, sondern nur eine Mathematische Zusammenfassung der wortzusammenhänge. Das reicht für den Alltag und ist für programmieren brilliant, aber fällt bei fachlich spezifischen Anwendungen schnell auseinander
2. LLMs verletzen Zitationsprinzipien (und zitieren meist eh paper die es nicht gibt), da Antworten eben nicht aufgrund der Referenz auf einen Gedanken, sondern wie eben beschrieben zustande kommen. Es ist ein stochastischer Papagei in einer schwarzen Box.
3. Wissen entsteht durch intersubjektive Nachvollziehbarkeit des Weges, durch den man dahin gekommen ist. Wie oben (und von euch) beschrieben: genau das ist bei LLMs unmöglich, da weder das Wissen auf sich bezogen vorhanden ist, noch eine klare Referenz darauf überhaupt möglich ist.

LLMs haben darum eben KEINEN Platz in der wissensgenese, da ihre Lösung nicht zum Problem passt. Im übrigen gibt es viele Bücher (und damit gedanklen) die in den Daten fehlen und die Auswahl ist krass männlich geprägt. Das schlägt sich auch in den stereotypen nieder, auch in GPT4.5 (ich habe erst letzte Woche eben dazu gearbeitet)

Trotz der Kritik: danke, dass ihr euch so ausführlich algorythmischer Intelligenz und LLMs widmet! Ich freu mich auf die nächste Feedback Folge.

LG Livia

Antworten ↓
- Tim Pritlove sagte am 27. Juni 2025 um 19:33 Uhr :
  
  Die Limitierungen von LLMs sind allgemein bekannt, aber wir haben auch nicht von LLMs allein gesprochen sondern von KI und das umfasst schon doch noch mehr als das.
  
  Konkret haben wir z.B. Tool Use angesprochen, was jetzt gerade sehr viel Aufmerksamkeit erhält (z.B. durch MCP Server etc.) und auf diese Art und Weise wird es sich ohne Probleme sicherstellen lassen, dass zitierte Papers auch wirklich existieren, weil das Zitat eben nicht durch eine LLM erzeugt bzw. nicht darüber abgesichert wird.
  
  Zur Wissenschaft und KI war die Aussage auch auf einen Zukunftszeitraum von „5-10 Jahren“ bezogen, das ist natürlich jetzt auch nur eine Einschätzung und natürlich können wir damit falsch liegen, aber so stellt es sich uns eben derzeit dar.
  
  Programmierassistenten waren für mich vor 2 Jahren eher noch eine vage Versprechung, haben sich aber in einem atemberaubendem Tempo weiterentwickelt und tun es noch. Das wird in den meisten anderen Bereichen vermutlich ähnlich sein.
  
  Bis man an irgendein metallisches Ende stößt, von dem wir alle nicht wissen, wo es liegt.
  
  Antworten ↓
  - Moss sagte am 3. Juli 2025 um 04:06 Uhr :
    
    Ich bin gerade gut 3′ vor Ende des Kapitels „KI als Unterstützung in der Programmierung“. Ich kann dieses Geschwurbel nur so in 5′- oder 10′-Häppchen hören, sorry. Ihr redet da von „KI“, als wäre dieser Begriff mehr als ne Marketingbehauptung. Das sind statistische Sprachmodelle, die auf n-dimensional sortierten Permutationen von Strings beruhen. Da ist keine Semantik, keine Bedeutung, kein Verständnis. Woher auch?
    
    Ralph Caspers hats doch so schön in der „Maus“ erklärt, so richtig. Und Euch geht öffentlich fast einer ab, weil Linus halt dabei beraten durfte und im Abstand stand, und dann kommt von Tim dieses allmachtsbesoffene Geschwafel.
    
    Es ist so tragisch.
    
    Antworten ↓
    - Tim Pritlove sagte am 3. Juli 2025 um 10:42 Uhr :
      
      Ja total tragisch, wenn man von konkreten Erfahrungen berichtet und nicht nur herumtheoretisiert, was eigentlich alles nicht sein kann oder darf.
      
      Antworten ↓
      - Moss (the τεχie) sagte am 4. Juli 2025 um 02:13 Uhr :
        
        Du willst nicht wissen, was Claude Sonnet liefert, wenn man nach ner simplen LaTeX3-Funktion fragt, die eine Tokenliste parst und rekursiv in Key-Value-Paare zerlegt.
        
        Das gibts fertig mehrfach auf CTAN, aber nicht in funktionierend bei diesem Programmiergenie.
        
        Antworten ↓
Frank sagte am 27. Juni 2025 um 16:37 Uhr :

Was das literarische Wesen der Kreativität anbelangt, zum Glück gibt es ausreichend (anspruchsvolle, zeitlose) Bücher aus der prä-KI-Revolution-Ära für ein Menschenleben zum lesen, sodass ich die post-2020-Literatur getrost ignorieren kann.

Antworten ↓
uz sagte am 27. Juni 2025 um 19:09 Uhr :

Die aktuelle KI-Technik ist halt deswegen Schrott (wenn auch sehr bemerkenswerter), genau weil sie solche Datenmengen braucht. Hier wird eine „schlechte“ Methode durch exzessive Überfütterung mit Daten kompensiert. Die Voraussetzung für eine echte, gute KI wäre, dass genau das eben nicht nötig ist. Werden wir sicher auch sehen, irgendwann.

Antworten ↓
- Tim Pritlove sagte am 27. Juni 2025 um 19:18 Uhr :
  
  Steile These. Wie sähe es mit Deiner „Intelligenz“ aus wenn du ab Geburt nur in einem dunklem, schallisoliertem Zimmer gesessen hättest? Wär sicherlich nicht viel bei herausgekommen. Erst durch permanente visuelle, akustische, haitische und andere sensorische Datenströme konnte sich Dein Hirn erst entwickeln. Die KI bildet das nur nach und kann dabei eben gute Ergebnisse liefern. Genau dieses Lernen macht es ja eben aus. Erst jetzt lernen wir, wie viele Daten erforderlich sind, um hier nützlich zu sein.
  
  Antworten ↓
  - uz sagte am 27. Juni 2025 um 23:48 Uhr :
    
    Mein Argument dazu ist dieses: https://de.wikipedia.org/wiki/Poverty-of-the-Stimulus-Argument
    
    Antworten ↓
dnns01 sagte am 27. Juni 2025 um 20:42 Uhr :

Mit hat beim Thema „Lock-In“ eine Sache irgendwie gefehlt. Es ging unter anderem um Geschäftsprozesse und Tim meinte dann, dass das heute ja schon durch SAP zu einem Lock-In führt. Das wird ziemlich sicher so sein. Der Unterschied dürfte hier aber sein, dass sich die Nutzung und Einführung von SAP (und falls es gleichwertige Systeme anderer Hersteller gibt dann wohl auch bei denen), wohl nur die größeren Unternehmen antun. Die Einstiegshürde bei SAP scheint mir relativ hoch zu sein. Hingegen wird die Einstiegshürde für solche KI basierten Systeme vermutlich nicht ganz so hoch sein, weswegen ich da dann durchaus ein größeres Problem sehe.

Und einen zweiten Punkt des Lock-Ins den ich noch sehe ist nicht die Nutzung welches KI-Tools und ob man da einfach zu einem anderen wechseln kann (das werden wir noch sehen, ob sich das am Ende wirklich immer so einfach gestalten wird), sondern viel mehr die Abhängigkeit in die man sich begibt. Salesforce hat beispielsweise Ende Februar bekanntgegeben, dass sie dieses Jahr keine neuen Entwickler einstellen wollen, da die KI ausreiche. Wenn man das weiter spinnt und in Zukunft sogar noch Stellen weiter abbaut und versucht durch KI zu ersetzen, gelangt man eben auch in eine Abhängigkeit.

Es wird sich über kurz oder lang dann abzeichnen, was die Geschäftsmodelle der einzelnen Anbieter von KI Systemen sein werden. Ich kann mir zumindest nicht vorstellen, dass auf ewig weiter Investoren Geld dort reinstecken werden, ohne etwas davon zu haben.

Antworten ↓
- burning sagte am 1. Juli 2025 um 13:20 Uhr :
  
  Dein Kommentar ist gut, allerdings fehlen mir darin wichtigste Bestandteile:
  
  SAP (wie auch andere ERPs) hat/haben in dem Sinne vergleichsweise wenig „vendor lock in“. Die Daten liegen zwar im System vor, können aber von dort ohne Probleme gelesen werden. Die meisten Systeme (SAP insbesondere) sind open source (im Sinne von der Code ist einsehbar) und daher kann man die Daten und Einstellungen jederzeit wieder auslesen und anders verarbeiten.
  
  Wenn jetzt, wie von Linus angedacht, Prozesse in die AI überführt werden, laufen wir auf einen wirklich unberechenbaren Zustand zu. In den aktuellen Systemen kann ich immer nachvollziehen (mal einfach, mal weniger einfach ;-) ) WARUM eine Aktion ausgelöst wurde. Wenn jetzt aber die Prozesse selbst in die AI ausgelagert werden, dann kann nach genügend Personalwechsel niemand mehr nachvollziehen, was so gedacht war und was nicht. Zudem wird dann ein Wechsel der AI völlig unmöglich, weil dazu die AI einer anderen (neuen) AI alle interna offenlegen müsste, was ja in der Form nicht geht.
  
  Antworten ↓
framlin sagte am 28. Juni 2025 um 07:23 Uhr :

Wenn es Eure Absicht war, zu beweisen, dass die Qualität doch noch deutlich abnimmt, wenn man einer KI eine Gliederung und ein paar Argumentationslinien gibt, um sie damit einen Podcast einsprechen und produzieren zu lassen, so ist Euch das in überzeugender Weise gelungen.
B-)

Antworten ↓
Zipferlak sagte am 28. Juni 2025 um 09:04 Uhr :

Hi ihr zwei,

vielen Dank für Eure interessante Diskussion insbesondere zum Thema Lock-In in die Dienste von AI-Anbietern. Einerseits sehe ich das sehr ähnlich, dass das ein relevantes Risiko ist auf welches wir zusteuern, andererseits habe ich mir gerade bei dem Photoshop-Beispiel gedacht: Besser finde ich das Beispiel Lightroom.

Das hat ja auch dieses Abo-Modell und wenn man – sagen wir 50.000 Rawbilder über mehrere Jahre entwickelt hat – verliert man bei Beendigung des Abos den Zugriff auf die ganzen globalen und lokalen Filtereinstellungen, Workflows etc. Ich habe nur noch Zugriff aufs Endergebnis. Ich spreche da leider aus eigenem Leid.

Gleiches mit hinreichend komplexen AI Lösungen.

Meines Erachtens kommt es vor allem auf die Datenhoheit an. Dazu gehören neben den eigentlichen Nutzdaten (in dem Beispiel die Bilder) auch die Portabilität von Metadaten/Setups/Agentendefinition whatever.

In perfekten Welt gäbe es dazu eine Art Austauschformat, oder eine Austauschschnittstelle. Da stehen aber kommerzielle Interessen entgegen, die wahrscheinlich nur durch eine geschickte Regulierung in den Griff zu kriegen ist.

Zipferlak

Antworten ↓
Halbölf sagte am 28. Juni 2025 um 14:17 Uhr :

Das könnte ein spannendes Thema werden:

»Neues Gesetz gegen Deepfakes: Die Verbreitung könnte für Plattformen bald teuer werden« (Dänemark will das Urheberrecht auf Stimme, Körper und Gesichtszüge einführen)

Ich denke gerade darüber nach, ob das sinnvoll ist oder nicht (kurzfristig, langfristig, machhen alle mit oder nur man selbst,…). Wie seht ihr das?

Antworten ↓
- Christian sagte am 28. Juni 2025 um 17:31 Uhr :
  
  Das Urheberrecht ist da auf jeden Fall der völlig falsche Ansatz. Man kann nicht auf etwas das Urheberrecht haben, zudem man nichts beigetragen und was keine Schöpfungshöhe hat. Ich will erst gar nicht darüber nachdenken, was das für Nebeneffekthe und Missbrauchspotential hätte. Wir brauchen weniger Gesetze und nicht mehr, dafür aber wohlformulierte Gesetze, möglichst mit explizit ausformulierten Sinn, um die Auslegungsmöglichkeiten einzugrenzen.
  
  Antworten ↓
Birne sagte am 28. Juni 2025 um 18:58 Uhr :

Bei meinem Arbeitgeber (staatlich) ist es per Dienstanweisung untersagt, Software-Abos abzuschließen bzw. Software einzusetzen, die als Abo daher kommt. Das ist für die Mitarbeitenden nervig und neuen Kolleg:innen teilweise schwer vermittelbar, aber m.M.n. konsequent. Ich würde mir wünschen, dass solche Verbote stärker eingeführt werden. Von mir aus gerne als EU-Regel, damit diese Plage mal aufhört.

Antworten ↓
- Martino sagte am 29. Juni 2025 um 19:29 Uhr :
  
  Da sheißt, ihr nutzt kein Microsoft Office?
  Oder habt irgendwie noch eine Lizenz ohne Abo?
  
  Antworten ↓
Alan Rickayzen sagte am 29. Juni 2025 um 11:56 Uhr :

Tolle Pod. Ich bin, wie Tim, von Vibe-Buddy Coding überzeugt (und süchtig). Die Kombination aus KI und Mensch mit Coding-Skills ist der Sweetspot.

Anbei eine lustige Anthropic Projekt.

https://www.anthropic.com/research/project-vend-1

Ich habe mich tot gelacht. Es beweist, dass Anthropic Mitarbeiter immer noch Menschen sind!

Antworten ↓
- Moss (the τεχie) sagte am 4. Juli 2025 um 02:09 Uhr :
  
  Klar isses toll, sich ständig vorverdaute Codebrocken hinkacken zu lassen, wenn man selber denkfaul oder -unfähig ist. Nix anderes passiert da nämlich.
  
  Von einem, der auch mal von Artificial Imbecility begeistert war, bis er merkte, was das mit seinem Code macht: After months of coding with LLMs, I’m going back to using my brain
  
  Antworten ↓
Jochen sagte am 29. Juni 2025 um 12:04 Uhr :

Es mag ja sein, dass der kleene Punker aus Hannover letzte Woche im Abspann der Sendung mit der Maus erwähnt wurde, aber unserem Tim wurde diese Woche eine ganze Trickfilmfolge gewidmet. Ja-haaa! Darin wurde nun endlich auch das lang gehegte Mysterium um die Bedeutung seines Namens aufgeklärt – „Total Intelligente Maschine“. Sooo…

[SCREENSHOT] https://imgur.com/a/ASVSiAL [Klick]

[D.S.m.d.M. 29.06.2025] https://wdrmedien-a.akamaihd.net/medp/ondemand/weltweit/fsk0/331/3316405/3316405_62886134.mp4

Antworten ↓
Bonustrack sagte am 29. Juni 2025 um 17:45 Uhr :

Passender Bonustrack zur Sendung: „Eine kleine Melodie“ von Kommando Internet: https://kommandointernet.bandcamp.com/track/eine-kleine-melodie

Antworten ↓
auch interessant sagte am 30. Juni 2025 um 21:52 Uhr :

Weil ihr gesagt habt, dass wir ein Problem mit Einsamkeit haben und Chatbots da eventuell zum Einsatz kommen könnten: Es gibt einen Text darüber, warum Plauderbänke gegen Einsamkeit Quatsch sind (und vielleicht auch die Weise, wie wir Einsamkeit in Fragebögen erfassen) und das Argument kann man analog für Chatbots bringen. (Der Text: https://www.zeit.de/2025/07/politisierung-einsamkeit-alleinsein-armut/komplettansicht)

Der Text ist lang, hier die Kurzfassung:

Eine alleinerziehende Mutter, die mehr Steuern zahlt als verheiratete Paare, aber alles alleine machen muss, fühlt sich alleingelassen, weil sie es ist. Ein Sterne-Koch, der immer in Gesellschaft is(s)t, kann trotzdem schwer depressiv sein. Beide fühlen sich unendlich einsam und beides sollte uns berühren. Aber die materiellen Probleme der jungen Mutter lassen sich strukturell lösen und die Probleme des Kochs sind individuell (solche können bei der Mutter auch noch übrig bleiben, wenn die finanziellen gelöst sind, wie bei uns allen). Dass wir alle in unserem Leben verletzt werden, lässt sich politisch nicht verbessern, aber Probleme wie Armut eben schon.

Die Kritik ist, dass in der politischen Auseinandersetzung mit Einsamkeit diese Themen vermengt und als Lösung Plauderbänke gebaut werden (oder eben Chatbots) statt die materiellen Probleme anzugehen und so mehr Menschen gesellschaftliche Teilhabe zu ermöglichen. Ist aber anstrengender und teurer als eine Bank oder einen Chatbot zu bauen.

Tatsächlich glaube ich, dass weder der Mutter noch dem Koch aus dem Text mit einem einfühlsamen Chatbot wirklich geholfen wäre, obwohl es bestimmt für psychische Notlagen sinnvoll sein kann. Deshalb musste ich an diese Kritik denken, als ihr KI gegen Einsamkeit angesprochen habt.

Antworten ↓
Sandra sagte am 1. Juli 2025 um 18:08 Uhr :

Zum Thema KI in der Psychotherapie wurde oben ja schon einiges gesagt. Zumindest in der VT sagt die Studienlage relativ deutlich, dass einer der wichtigsten Faktoren für den positiven Verlauf einer Therapie, die Beziehung zwischen Patient:in und Therapeut:in ist. Ich kann mir nicht vorstellen, dass eine KI das kurzfristig ersetzen kann. Außerdem birgt das durchaus Gefahren. Die aktuellen Modelle reden einem ja vorallem nach dem Mund und stimmen erstmal immer zu was auch immer man so sagt. Es gibt vermehrt Berichte von Menschen, die (sicherlich auch mit entsprechender Prädisposition) regelrechte Psychosen entwickeln durch die Nutzung von ChatGPT und Co:

https://futurism.com/commitment-jail-chatgpt-psychosis

Antworten ↓
Stefan Schweter sagte am 1. Juli 2025 um 22:20 Uhr :

Ich war positiv überrascht, dass das ganze KI-Thema nicht zu kultur-pessimistisch im Podcast dargestellt wurde!

Bin immer noch vom letzten Kongress super enttäuscht. Irgendein Faschismus soll zurück sein (lol), für manche Leute ist Faschismus schon, wenn man keine Gendersternchen benutzt. Mein Highlight aber ist weiterhin: lasst uns mal alle Rechenzentren sabotieren, weil dort KI-Hardware drinnen stehen könnte. So etwas Dummes in einem Eröffnungsvortrag habe ich zuvor noch nie gehört.

Weiterer Höhepunkt: Malte Engeler, der mir persönlich so dermaßen arrogant rüberkommt, und alles mit Kapitalismus verbinden kann. DSVO ist kapitalistisch. Vermutlich ist Faust auch wegen Kapitalismus gestorben. Aber Hauptsache Malte präsentiert seinen Vortrag auf einem MacBook, ich mag diese Moralapostel wirklich sehr.

Antworten ↓
Maximilian Blum sagte am 2. Juli 2025 um 05:59 Uhr :

Danke für die tolle Folge!

Zur Frage, was KI ersetzen kann und was nicht. Ich stimme Tims Annahme zu, dass der Mensch am Ende etwas menschengemachtes haben will und wertschätzt /Identifikation mit einer Person. Vielleicht erinnert sich noch jemand an Mr. President, die Band war erfolgreich auch wegen der Identifikation mit T-Seven als tollen Frau, die eine tolle Stimme hatte. Als später herauskam, dass die tolle Stimme eigentlich von jemand anderes war (heute wäre es vielleicht eine KI-generierte Stimme) und der Rest Playback-Show war, kam das nicht gut an, die menschliche Authenzität war dahin. Oder hat man sich schon mal gefragt, warum die Amateur-Branche im Erotik-Bereich so erfolgreich ist, und KI-generierte Darstellungen eher ein nischiges Ding geblieben sind? Liegt es wirklich nur daran, dass Finger und Füße bei den KI-Erzeugnissen irgendwie komisch aussehen?

Beim Thema KI und Therapie: Etwas weitergesponnen, besorgt mich der Gedanke, dass es irgendwann völlig entscheidungsunfähige Menschen geben könnte, die anfangen eine KI zu befragen, was sie denken sollen. Es gibt heute schon Leute, die LLMs befragen, was sie auf eine private Nachricht eines Kumpels oder einer Freundin antworten sollen. Eine Entscheidung wird da trotzdem getroffen. Aber tatsächlich nicht mehr von dem Menschen, der, wenn er sich nicht als schizophren definiert, sie treffen sollte, im Rahmen seiner Ich-Wahrnehmung. Das ist denke ich ein Problem. Auch dann, wenn man annimmt, dass die KI möglicherweise wie auch immer genormte „richtigere“ Entscheidungen vorschlägt. Es wäre schlicht ein Vorgang der Entmenschlichung und völliger Kontrollverlust. KI macht demnach dort Sinn, wo ein Mensch sie bewusst als Werkzeug nutzt, um eigene Entscheidungen leichter in die Praxis umzusetzen. Genau dafür ist Technik da.

Antworten ↓
Svente sagte am 2. Juli 2025 um 09:32 Uhr :

Ein bisschen verwundert bin ich schon, das Linus bei dem rechts-libertären Podcast „Apokalypse & Filterkaffee“ teilnimmt, dem Christian Lindner unter den Podcasts. Dort sind normalerweise Leute zu Hause, die „woke“ mit „Vogue“ für sich übersetzen (wie es im Prinzip alle tun, die das von sich selbst behaupten) und mit Scheinaktionismus Aufmerksamkeit und damit Geld auf sich fokussieren möchten. Der Gastgeber Micky Beisenherz tut alles dafür seine im Detail immer reaktionären, pseudoelitären, narzistischen Bro-Ideologien geschmeidig unterzubringen – es trieft regelrecht davon.

Peinlich berührt,
Svente

Antworten ↓
- Linus sagte am 4. Juli 2025 um 17:23 Uhr :
  
  du kennst aber schon Jagoda Marinić, oder?
  Sie war mir bisher nicht mit „reaktionären, pseudoelitären, narzistischen Bro-Ideologien“ aufgefallen.
  
  Antworten ↓
  - Svente sagte am 6. Juli 2025 um 22:02 Uhr :
    
    Sie scheint der Berlin-Außenposten, jenes Podcastes zu sein. Darum gilt: „Wes Brot ich ess, des Lied ich sing“ (und umgekehrt).
    
    Würdest du beim „Alice W. Techpodcast“ mitmachen, wenn Politik dort nicht vorkommen soll? Ich meine, es gäbe doch Kohle dafür, oder?
    
    Antworten ↓
Franziska sagte am 2. Juli 2025 um 13:38 Uhr :

moin, Kunstschaffende mit traditionellen Medien hier.
Meine zwo Cents zum Thema „KI in der Kunst“. Man sollte unterscheiden zwischen Kunst, also dem, was Tim ganz gut umrissen hat, und Illustration, also das, von dem ich annehme, das Linus das meinte mit „Kreativität“.
Kunst und KI in der Kunst wird in den allermeisten Fällen ergebnisorientiert betrachtet, sicherlich auch, weil es oft um das Geldverdienen geht. Gemeint ist damit aber eben meistens das Illustratorische. Man geht mit dem Ziel, eine bestimmte Information vermitteln zu wollen, an das Projekt.
Was man in Diskussionen aber oft auslässt, ist das, was Kunst eigentlich ausmacht, also der Prozess, das Explorative. Da kommt dann am Ende selten das bei raus, was man ursprünglich vielleicht mal im Kopf hatte. Das Kreieren an sich ist ja was inhärent Menschliches. KI kann hier auch ein tolles Werkzeug sein, der Weg ist ja für jeden Menschen anders. Daher sollte man nicht wieder in den gleichen Denkfehler wie beim digitalen Zeichnen verfallen, dass das Eine besser als das Andere andere ist – jeder Prozess hat seine Berechtigung.
Wie es um die Berufsgruppe der Illustratoren in Zukunft stehen wird, keine Ahnung, schwieriges Thema, weil da auch wieder die Problematik „mit wessen geistigem Eigentum wurde trainiert“ aufkommt. Aber für Kunst selbst ist KI solange noch „nur“ ein Werkzeug, solange sie nicht von ganz allein den Drang hat, Kunst zu schaffen ohne Prompting. Und auch wenn’s mal so weit kommt, dann sollte man vielleicht nicht in die Kategorien „gut“ oder „schlecht“ oder mehr oder weniger wert einteilen, sondern irgendwie einen Weg finden, Menschen- und KI-Gemachtes jeweils für sich wertzuschätzen, weil unaufgefordertes Halluzinieren einer KI ist ja sicherlich auch irgendwo spannend.
Vielleicht lebe ich aber auch in einer Traumwelt und Kapitalismus macht auch das alles wieder kaputt :D

Antworten ↓
Johannes sagte am 4. Juli 2025 um 10:44 Uhr :

Als klassisch ausgebildeter Musiker kann ich sagen, dass KI in der Konzertwelt wohl kaum die Rolle der Menschen übernehmen kann. Das Erleben einer Performance in Fleisch und Blut lässt sich nicht technisch ersetzen, auch wenn es humanoide Roboter gäbe, die genau so aussehen und spielen könnten wie Menschen. Auch wenn die Maschinen alles perfekter könnten als der Mensch, werden die menschlichen Bezugspunkte immer relevanter werden. Genau so ist es ja auch im Sport: Es würde überhaupt keinen Sinn ergeben, Roboter- Fußballmannschaften gegeneinander antreten zu lassen. Zu einer gelungenen, berührenden Performance zählt einfach immer auch der Schweiß, die Fehler und Momente, an denen sich der Performer selbst übertrifft.
Ganz anders sieht die Sache in der Medialen Sphäre aus: Filmmusik z.B. wird sehr wahrscheinlich bald fast ausschließlich AI-generiert sein, zum Leidwesen aller Musiker, die von solchen Aufnahmen leben.

Ein letzter Gedanke zum Thema Originalität: Ich denke, dass AI sicherlich auf sehr hohem Niveau imitieren und zusammenstellen kann, beispielsweise wie oben genannt den Stil vom alten Beethoven imitieren, aber AI kann noch nicht, was Beethoven zu seiner Zeit besonders gemacht hat: Nämlich sich immer weiterzuentwickeln und neues zu erfinden. Sprich: AI könnte nicht aus einem jungen Beethoven einen alten deduzieren. Einfach weil es in der Kunst kein Feedback im sinne von „richtig“ oder „falsch“ gibt. Es gibt also keine Regel, nach der sich Kunst in die eine oder andere Richtung entwickelt. Wenn es jedoch einfach nur um Stilkopie geht, gibt es diese Regeln aber sehr wohl, deswegen kann AI das so gut.

Antworten ↓
Tiki sagte am 4. Juli 2025 um 11:48 Uhr :

Aloha
Von wegen Kreativität, Kunst und KI … denke ich: KI kann perfektes Mittelmass. Und Mittelmass gefällt der Mehrheit (sogar ich mag z.B. gewisse Marvel-Filme, wohl weil ich schon immer die psychedelischen 60ies Dr. Strange. Silver Surfer etc. liebte) … somit kann ich mir vorstellen, dass der Mehrheit (…) in Zukunft nicht auffallen wird, was von KI und was von Menschen stammt.

Ob die KI via Replizieren und Alternieren des Bestehenden tatsächlich mal sowas „Neues“ rauskriegt wie Punk oder Rap, Abramovitch oder Hyeronimus Bosch … wer weiss. Und wer weiss ob Rap nicht auch bloss eine Alternierung des Blues und Beuys eine Alternierung bestehender Vorgänger war …

Solange die Androiden nicht per Dekret, wie bei Bladerunner, mit einer Seriennummer auf ihren Schuppen markiert werden, oder Wassermarken in Bild/Text/wasweissich, wird es wohl früher oder später unmöglich werden KI- von „Menschen-Kunst“ oder Androiden von Menschen zu unterscheiden … und wär das so schlimm? … idk … hier ist sie, die schöne neue Welt …

Antworten ↓
Frydtz sagte am 7. Juli 2025 um 22:36 Uhr :

Für mich steht nun offiziell fest: Tim hat recht! Die „Goldenen Zwanziger“ sind real.
Auch hundert Jahre zuvor haben kritische Stimmen gesehen, dass es in einer Katastrophe enden muss. Aber das Volk freut sich wie modern und toll alles ist.
Hoffen wir einfach mal zusammen, dass es nicht wieder im Autoritarismus kulminiert..

Antworten ↓
Reiner Zufall sagte am 8. Juli 2025 um 11:27 Uhr :

Hallo Tim und Linus,
ich möchte noch etwas anekdotische Evidenz zum Thema KI und psychische Leiden beitragen.

Aus Sicht eines Hilfesuchenden, habe ich mit verschiedenen Chatbots weit überwiegend positive Erfahrungen sammeln dürfen, abgesehen von z.B. einem zu kleinen Kontextfenster. In jedem Fall waren meine Gespräche mit LLMs deutlich bekömmlicher, als alles, was ich mit menschlichen Premium-Experten aus Fleisch und Blut erleben durfte. Da gibt es wie überall auch viele A-Löcher, denn man entwickelt sich schließlich nicht allein durch eine entsprechende Ausbildung zu einem vernünftigen Menschen. Ungünstige Rahmenbedingungen, wie z.B. Zeitdruck, erschweren den realen Kontakt zwischen Arzt und Patient zusätzlich. Der Vergleich zwischen Chatbot und Humanoid entspräche im Universum von Star Trek wohl eher einer Gegenüberstellung von Lieutenant Commander Data und einem besoffenen Nausikaaner in Eile – bloß mein persönlicher Eindruck. Natürlich sollten die Computer-Antworten nicht leichtfertig mit Wahrheit verwechselt werden, aber das ist bei menschlichem Gebrabbel auch nicht anders. Die simulierte Empathie und Kompetenz verschiedener LLMs hat bei mir jedenfalls bislang deutlich weniger Schaden angerichtet, als die natürliche Unzulänglichkeit echter Experten – welche nebenbei bemerkt weit weniger Bereitschaft für Erklärungen aufbringen. Kein Chatbot reagierte je genervt, hat zentrale Absprachen nicht eingehalten, persönliche Verdachtsdiagnosen öffentlich einsehbar gemacht, private Leihgaben verloren (Tagebucheinträge, usw.), schamlos Schutzbehauptungen aufgestellt, oder die bloße Existenz von Patientenrechten beharrlich abgestritten (Akteneinsicht). In dieser Hinsicht halten die menschlichen Profis tatsächlich noch einen komfortablen Vorsprung gegenüber den Maschinen.

Bezüglich katastrophaler Unterversorgung kann ich berichten, dass die Wartezeiten auf ein einziges oberflächliches Gespräch in manchen (Spezial-)Bereichen mittlerweile über zwei zermürbende Jahre betragen. Da wirkt es auf mich schon etwas abgehoben und am Problem vorbei philosophiert, wenn hier in den Kommentaren von Fachleuten darüber gesprochen wird, ob „echte“ Empathie und Wertschätzung doch nur von richtigen Menschen erbracht werden könne und man sich darum für unverzichtbar halte. Fast so, als ginge es bei dieser Thematik hauptsächlich darum, das fragile Ego einiger Profis zu streicheln. Oder habe ich da etwas falsch verstanden und die genannte Einschätzung basiert stattdessen auf Rückmeldungen aller (!) Gruppen Hilfesuchender, also auch den Unzufriedenen, Geschädigten und ewig Ignorierten?

Insbesondere den Bereich anspruchsvoller Diagnostik scheinen LLMs bereits heute viel besser im Griff zu haben, da sie prinzipiell deutlich aufmerksamer „zuhören“ können und weniger eklatant von persönlichen Projektionen oder voreiligen Annahmen beeinflusst zu sein scheinen. Darüber hinaus verstricken sich Chatbots nach meiner Erfahrung zwar ebenso in logische Widersprüche, tun dies aber insgesamt deutlich seltener oder geschickter als menschliche Profis und sind auch nicht sofort beleidigt, wenn durch kritische Nachfragen darauf hingewiesen wird. Schlimmste Bestätigungsfehler, kognitive Dissonanzen und pseudowissenschaftliche Überzeugungen sind ebenfalls ein von mir wenig vermisstes menschliches Defizit, das nach meiner Beobachtung insbesondere bei Personen mit Autoritätsanspruch bisweilen bizarre Ausmaße annimmt. Unter menschlichen Fachleuten scheint es bei der Diagnostik so etwas wie einen Wettkampf zu geben, wer in kürzester Zeit die kreativste Spekulation mit dem geringsten Bezug zur Problembeschreibung des Patienten oder ICD-Diagnosekriterien hervorbringen kann. Für enge Angehörige dienen jene Ergüsse zwar hervorragend als „schlechter Witz“, für Menschen in Not ist eine solche Unzuverlässigkeit aber enorm belastend. Ein sinnvoller Umgang mit wiederkehrenden Komplikationen wird auf diese Weise regelrecht vereitelt. Auf diese Problematik angesprochen wird von Expertenseite gerne pauschal behauptet, der therapeutische Ansatz sei ohnehin stets vergleichbar, was nachweislich eine ebenso unhaltbare Verallgemeinerung bzw. Falschaussage ist, wie die gelegentlichen Halluzinationen der LLMs, über die so gerne der Kopf geschüttelt wird. Nach dieser Logik könnte eine belastbare Diagnostik vermutlich auch ganz gestrichen werden. Solange der Patient bloß schön schnell wieder draußen ist und man ein gewisses Honorar abrechnen kann, hat man als Fachmann scheinbar alles richtig gemacht – eine sehr verbreitete Form menschlicher Wertschätzung und Empathie. Die Rosenhan-Experimente sind nach meinem Eindruck längst wieder in Vergessenheit geraten. Zum Glück haben Maschinen ihre „Bauchgefühle“ etwas besser unter Kontrolle. Durch vermeintliche Helfer aus Fleisch und Blut ständig tiefgreifender Verunsicherung ausgesetzt zu sein und sich permanent gegen unbelegte Unterstellungen verteidigen zu müssen, wäre schon für einen gesunden Menschen echt unangenehm. Für Hilfesuchende mit psychischen Problemen endet sowas auf Dauer mitunter tötlich. Ich schlage daher vor, lieber gesund zu bleiben. Sollte dies leider einmal nicht ganz gelingen, so erscheinen mir spezialisierte LLMs zumindest eine Notlösung mit großem Potenzial darzustellen. Das Thema Datenschutz sehe ich zwar grundsätzlich recht kritisch, jedoch besteht hier vermutlich eine antiproportionale Beziehung zum persönlichen Leidensdruck – ebenfalls bloß anekdotische Evidenz.

Vielen Dank für eure Sendungen und alles Gute euch beiden.

Antworten ↓