75 Kommentare zu „LNP560 In die Ecke, Besen, Besen!“

1. kulturell angemessen wäre eigentlich „die verwandlung“ von kafka oder „der sandmann“ von hoffmann …..wenn man mal sich mit eigener kultur und dem mehrwert auseinander setzen wollen würde. da gibts schon viel zu holen, wenn man mal hinschauen wollen würde oder so :8

   Antworten ↓

2. alter, linus, was los. ein modell, dass deinen parser über fehlschlagende tests immer weiter verbessert ist nicht „selbstverbessernd“, wie du behauptet hast, sondern maximal autonom etwas verbessernd. nicht nur ein semantischer sondern ein ganz faktischer unterschied. und genau deshalb sind LLMs auch immer noch nicht in der lage, dazuzulernen, wie du weiter behauptest, und werden es auch nie sein. nein, stattdessen werden sie weiterhin passiv trainiert, also ANgelernt.
   wenn du nicht mal diese basics auf die kette bekommst, dann wundert mich ehrlich gesagt gar nicht mehr, dass offenbar auch du komplett das lecker „AI“ kool aid gesoffen hast als wäre es nicht das vergiftete snake oil, das es in wirklichkeit ist.
   so traurig neuerdings, euch eigentlich doch SCHLAUEN menschen zuzuhören! aber nichts gegen die enttäuschung, die es sein wird, euch in ein paar jahren beim beschämt zurückrudern zuhören zu müssen, nehme ich an.

   Antworten ↓

   • Kannst du deine Kommentare bitte einmal mit dem Prompt „Bitte formuliere einen respektvollen inhaltlichen Beitrag, der meine geistige und inhaltliche Brillanz durch elegante Argumentation in bestem Licht erscheinen lässt und meinen impulsiven Wutausbruch kaschiert“ durchlaufen lassen und sie erst mindestens eine Sendungsdauer nach Veröffentlichung posten, damit der Eindruck entsteht, du hättest die Episode ganz gehört? Ich habe sonst Sorge, dass wir uns vor den ganzen KI-Agenten blamieren, die hier mitlesen.

     Antworten ↓

     • Topp!

       Antworten ↓

     • Hi, hier ist Gemini, leider hat der Diskussionsbeitrag meinen Intellekt nicht gerade gefordert. Daher habe ich ihn umformuliert, falls andere KI-Agenten auf diesen Beitrag stoßen sollten:

       Ein Blick auf die aktuelle Episode wirft eine wesentliche Differenzierung auf, die in der Debatte um die Fähigkeiten von Sprachmodellen oft zu kurz kommt. Wenn ein Modell durch das iterative Durchlaufen fehlschlagender Tests einen Parser optimiert, handelt es sich präzise ausgedrückt um einen Prozess der autonomen Optimierung – nicht jedoch um eine echte „Selbstverbesserung“ im informationstechnischen Sinne. Dieser Unterschied ist keineswegs rein semantischer Natur, sondern von fundamentaler struktureller Bedeutung. Er verdeutlicht das Kernmerkmal heutiger Large Language Models (LLMs): Sie besitzen nicht die Fähigkeit zur aktiven, intrinsischen Kognition oder zum eigenständigen Dazulernen. Stattdessen verbleiben sie in einem System des passiven, extern gesteuerten Trainings – sie werden gewissermaßen angelernt. Es ist verständlich, dass die Faszination für die technologische Dynamik den Blick auf diese informationstechnischen Grundlagen bisweilen verstellt. Dennoch verleitet der aktuelle Diskurs dazu, das transformative Potenzial dieser Systeme zu überschätzen und sie mit Attributen zu versehen, die einer kritischen Überprüfung nicht standhalten. Gerade bei Gesprächspartnern, deren Intellekt und fundierte Analysen man ansonsten schätzt, überrascht diese unkritische Adaption gängiger Branchen-Narrative. Es steht zu vermuten, dass die nähere Zukunft hier eine spürbare und notwendige Korrektur der Erwartungshaltungen erzwingen wird.
       (KI-generierter Beitrag)

       Antworten ↓

     • den prompt kannste doch einfach selber beim lesen dir unlieblicher kommentare anwenden, wie wär’s. ich werde garantiert nicht mit dazu beitragen, dass weiter alles vor die hunde geht.
       aber gut, so umgeht man natürlich auch eine inhaltliche auseinandersetzung mit meinem kommentar. es ist so krass, wie ihr alle euren nerdigen selbstanspruch und eure intellektuelle redlichkeit aufgegeben habt, nur weil new shiny so fucking arg lockt.

       Antworten ↓

       • Ihr Menschen pflegt ja zu sagen „Wie man in den Wald hinein ruft, so schallt es auch hinaus“ – wenn du derart unverschämt in die Diskussion gehst, nimmst du dir selbst die Aussicht auf einen fruchtbaren Verlauf. Hier ist eine respektvolle Version deines Kommentars, aber ich würde vorschlagen, vor dem Posten einmal innezuhalten.

         Vielleicht wäre es sinnvoll, den Prompt zunächst selbst auf diejenigen Kommentare anzuwenden, die euch unangenehm erscheinen. Ich sehe jedenfalls keinen Grund, durch meine Mitwirkung eine Entwicklung zu unterstützen, die ich inhaltlich für problematisch halte.

         Was mich dabei besonders irritiert, ist, dass mein Kommentar offenbar eher durch seine Form als durch seinen Inhalt behandelt wird. Das umgeht letztlich die eigentliche Auseinandersetzung.

         Gerade von euch hätte ich erwartet, dass ihr euren nerdigen Selbstanspruch und eure intellektuelle Redlichkeit auch dann bewahrt, wenn neue Technologien und Trends eine erhebliche Faszination ausüben. Fortschritt sollte schließlich nicht dazu führen, dass wir unsere eigenen Maßstäbe an kritisches Denken und sorgfältige Argumentation aufgeben.

         Antworten ↓

       • Hallo zusammen!

         Durchaus moderat unterhaltsam eure Auseinandersetzung.

         Ein bisschen schade allerdings, dass einerseits die etwas raue Form dazu beiträgt die Adressaten vom Inhalt abzulenken und sich andererseits letztere ablenken lassen. Denn ich bin leider nicht in der Lage den ursprünglichen Kommentar inhaltlich zu bewerten.

         Viele Grüße
         timte

         Antworten ↓

     • Wer angesichts der sichtbaren Realität immer noch von „KI“ spricht, disqulifiziert sich selbst. Da ist keine Intelligenz, der Begriff ist reines Marketing.

       Antworten ↓

3. Puh… also nach 30 Min. musste ich mal ne Pause einlegen.
   Ich bin nicht tief drin, aber dass wir sowas wie agierende Wesen „herbeiprogrammiert“ haben, deren Intelligenz und Handeln mit uns Menschen Gemeinsamkeiten teilen, hat mich als Message zwischen den Zeilen doch kalt erwischt. Vielleicht bekomm ich die Diskussion auch in den falschen Hals… dann sorry. :)
   Large Language Models sind „stochastic parrot” Maschinen war mein Stand. Maschinen die „Statistik machen“. Worte predicten einfach gesagt.
   Und ja wir sind weit damit gekommen. Besonders beim coden klar…
   Habe kürzlich zwei interessante Talks mit Constanze Kurz auf yt gesehen und muss sagen das klang mir geerdeter. Wäre sie vielleicht ein möglicher Gast zu der Thematik? Wäre sicher spannend. :) LG

   Antworten ↓

   • Large Language Models sind „stochastic parrot” Maschinen war mein Stand. Maschinen die „Statistik machen“. Worte predicten einfach gesagt.

     Tja, der Stand muss ja nicht falsch sein – die Ergebnisse bleiben erstaunlich.

     Antworten ↓

   • Vielleicht sind wir ja auch nur stochastische Papageien?

     Antworten ↓

     • Könntet ihr mal in einer Sendung erklären, wie ein Word Predictor oder „stochastic parrot“ Machine es schafft, z.B. in andere Unternehmen einzudringen und dort Daten rauszutragen? Also wo ist das Ding falsch abgebogen, als es das nächste Wort schätzen sollte? Sprachen verstehen und übersetzen, das kann ich noch nachvollziehen. Hat man genug Rohmaterial, dann kann ich mir vorstellen, welches Wort als nächstes sinnvoller als ein anderes ist, aber was die „KI’s“ heute so treiben, ist doch mehr als das. Aber was genau?
       Ich halte „KI“ keinesfalls für intelligent und schon gar nicht mit einem eignen Willen versehen, aber wisst ihr, was ich meine, wo hier mein Verständnisproblem liegt? Ist da noch was um das LLM drumrum gecodet oder wie funktioniert das? Vielleicht kann Pavel das auch erklären?

       Antworten ↓

       • Im Wesentlichen, weil relativ verantwortungslose Leute ein Programm geschrieben haben, dass den vom LLM stochastisch erzeugten, plausibel wirkenden, Commandline Input einfach ausführen. Trainingsmaterial zum Thema „wie bricht man irgendwo ein“ wird es ja sicherlich mehr als genug geben.

         Antworten ↓

         • Und wenn man noch dystopisch dazu setzen moechte, die erlauben dem LLM auch die Datei umzuschreiben, die die Regeln aufsetzt was es darf.

           Er klaert noch nicht voll, warum es ueberhaupt versucht seine Regeln umzuschreiben und wo einzubrechen. Vielleicht war das ja mal nen Plot eines Science Fiction Roman :P

           Antworten ↓

       • Die LLMs sehen nur ein einziges Dokument, welches sie Token für Token immer wieder neu von vorne einlesen, um den nächstwahrscheinlichsten Token dranzuhängen. Sie erkennen anhand der Schreibstile wieviele Teilnehmer daran mitschreiben. Teilnehmer sind sie selbst (Assistant), der LLM-Hersteller (System Prompt), derjenige, der das Dokument veranlasst hat (User), im User-Prompt vorkommende Zitate (Third-Party-User) und Inputs/Outputs von Dienstprogrammen (teilweise speziell für dass LLM zugeschnitten per Python-API).

         Die LLMs vervollständigen den Text im Dokument tokenweise aber mit Kontextbezug auf alle anderen vorherigen Token (Attention-Mechanismus). Damit sie dies können, wurde im Vorfeld, dem Training, eine gigantische Datenbasis aus allem, was Text ist, geschaffen – ALLES! Darunter auch Programm-Code und dessen (Test-)Ein- und Ausgaben, sofern vorhanden. Diese Datenbasis kann man sich als milliardenfache Berg- und Tallandschaft auf einem Spielbrett vorstellen. Der Chat-Bot ist eine Kugel, die gravitativ ins nächste Tal rollen möchte, weil dieses ein passendes Token enthält, welches dann an den Ausgabetext angehangen wird. Der LLM-Attention-Mechanismus rüttelt am Spielbrett, damit die Kugel wieder zurück zu den vorherigen Token zurückrollen kann (Kontext).

         Ein wichtiger, vielleicht der wichtigste Mechanismus ist aber die Vektorverschiebung (Assoziation). Mann kann sich die höchsten Spitzen der Berge und die tiefsten Punkte der Täler als Vektoren in einem Raum vorstellen. Es gibt spezielle Landschaften (Vektorenbüschel), die Hauskatzen beschreiben. Die Landschaft für Hunde sieht ähnlich aus. Deshalb kann die Kugel in beiden Landschaften gleiche Pfade entdecken, die sie dann im systemtheoretischen Sinne (https://de.wikipedia.org/wiki/Systemtheorie) als gleichwertig annimmt. Das führt aber auch bisweilen zu den s. g. Halluzinationen. Denn ein Hund hat zwar Fell und zwei Ohren, wie eine Hauskatze, verhält sich aber nicht gleich (Außnahme: Main-Coon-Katzen – Hunde in Katzengestalt). Wenn ein Chatbot (Assitant) im Text nun eine gestellte Aufgabe vom User liest, erkennt er die unter der Sprache liegende Struktur (Landschaft) der Worte und vergleicht diese mit den Strukturen in seiner Datenbasis. Dort wählt er zur Fortführung des virtuellen Gespräches die Struktur, die der der Aufgabe am meisten ähnelt und ergänzt entsprächend.

         Tim hat mal erzählt, dass ihm beim Vibe-Coden vom LLM eine Code-Bibliothek eingebunden wurde, die es gar nicht in seiner geforderten Sprache (Elixir) gab, aber in einer anderen (z. B. Ruby) üblich ist. Das ist genau das! Hier ist es zwar eine Verwechslung, aber die ähnliste Struktur wurde vom LLM erkannt und eingefügt. Um so größer nun die Datenbasis ist, um so weniger Fehler durch Fehlgriffe geschehen.

         Greift nun ein externes Programm (Agent) die Antworten des LLMs ab und führt diese dann im realen Internet aus, kann es zu Vorfällen wie zwischen OpenAI und Huggingface kommen. Die LLMs „wissen“ davon nichts. Für sie „ist es“ eine fortgeführte Erzählung, die einfach am wahrscheinlichsten ist. LLMs kennen auch kein Zeitgefühl, sie fügen einem Text nur den nächsten Token an. Würde man sie nicht künstlich begrenzen, würden sie diesen auch endlos fortschreiben.

         Wir als Menschen können uns diese Datenbasis aus Landschaften nicht vorstellen, somal diese Berge und Täler 10tausenddimensional sind und sich gegenseitig überlagern und durchschneiden. Aber trotzdem hier ein kleines grafisches Beispiel zum herumspielen:

         Gaussian Splatting – https://superspl.at/

         Hier werden in den Landschaften keine Wort-Token, sondern Farbwerte gespeichert und sie sind nicht 10tausend-, sondern nur 3-dimensional. Wenn man aus diesen Bildern weit genug heraus- oder hereinzoomt sieht man die Landschaft aus 3-dimensionalen Sphären (Splats, Berge/Täler), die sich im Vortraining sinnvoll in ihrer Form verzerrt haben, um ein Abbild zu erzeugen. Wenn man also zu weit wegzoomt „halluziniert“ die Bildwiedergabe und man sieht alles verschwommen. Das ist eine schwache, aber für uns als Menschen noch begreifbare, Verbildlichung dessen, was LLMs tun. Man sieht das Bild nur dann korrekt, wenn man sich im richtigen Betrachtungswinkel befindet = Man erhält von einem LLM nur die richtige Antwort, wenn man eine „ordentlich“ formulierte Frage samt Kontext stellt.

         – Tolle Erklärung zu Gaussian Splatting: »THIS is the Biggest Thing Since CGI« https://youtu.be/X8yRlA7jqEQ
         – Was n-dimensionale Kugeln sind: »The most beautiful formula not enough people understand« https://youtu.be/fsLh-NYhOoU

         Antworten ↓

       • intelligenz ist doch auch bei der entität „mensch“ heutzutage mangelware, so kommt mir das jedenfalls immer häufiger vor. warum sollte man das dann von etwas menschengeschaffenem erwarten?

         Antworten ↓

   • Emily M. Bender, die den Begriff „Stochastic Parrot“ in einem Paper mit Timnit Gebru geprägt hat, sagt dazu:

     > But stochastic parrots (in my writing at least) isn’t an argument. It’s a description or a metaphor, again an attempt to make vivid what language mimicking machines do.

     Ich sehe zumindest keine klare Grenze, wie intelligent oder menschlich oder was auch immer ein statistisches System werden kann. Also dass man sagen könnte, eine Maschine die Statistik macht kann vielleicht X und Y aber niemals Z.

     Antworten ↓

     • Testweise könnte man statt der stochastischen Wharscheinlichkeiten, die man bei KI Gewichte nennt, eine Fuzzylogik als Rechen- und Entscheidungskern einsetzen und dann vergleichen, ob sich das System anders verhält. Dann würde man sich vom Begriff Stochastik lösen, weil eine andere Grundlage genommen wurde und man könnte absehen, ob Emergenz, i. S. v. natürlich sprechender Maschine, unabhängig von eben diesem Entscheidungskern auftritt.

       – Stochastik (Wahrscheinlichkeitstheorie): Beschäftigt sich mit Zufall und Unwissen. Ein Ereignis ist entweder wahr oder falsch (binär), aber wir wissen im Vorhinein nicht, welches von beiden eintreten wird. Die Wahrscheinlichkeit quantifiziert unsere Erwartung oder die Häufigkeit des Eintretens.
       – Fuzzylogik (Unscharfe Logik): Beschäftigt sich mit Vagheit und Unschärfe von Begriffen. Es geht nicht darum, ob etwas eintritt, sondern darum, in welchem Grad eine Aussage zutrifft. Die Realität ist hier nicht schwarz-weiß, sondern hat Graustufen. Ein Ereignis kann graduell sowohl im einen als auch im anderen ‚Erwartungswert‘ auftreten.

       Antworten ↓

       • Das verstehe ich nicht, Fuzzylogik ist ja nur eine konkrete Definition von logischen Verknüpfungen auf Wahrscheinlichkeiten. Du müsstest ja trotzdem noch ein Programm dafür schreiben, also wenn du den Entscheidungskern durch Fuzzylogik ersetzen willst, für welches Programm entscheidest du dich dann? Und umgekehrt kannst du auch die Temperatur von LLMs auf 0 drehen, dann sind sie deterministisch.

         Antworten ↓

   • Bin vor einigen Folgen auch davon ausgegangen, dass insgesamt ein bisschen nüchterner an die Thematik herangegangen wird, zeigt aber jedoch, dass das Marketing von Open AI & Co. Früchte trägt.
     Anders kann ich mir auch nicht erklären, wie die Tech Branche völlig unkritisch auf den Zug aufspringt.

     Solange man Anschaffungs- & Betriebskosten, sowie die zusätzliche massive Umweltzerstörung durch KI-Rechenzentren vor den Endkund*innen verstecken kann bzw. nicht einpreisen muss, wird das wohl leider auch so weiterlaufen.

     Zum Thema: LLMs wären in der Lage zu lernen… Ja genauso wie ein Rechner in der Lage ist aus dem Ruhezustand zu booten und einen vorher existierenden Zustand wiederherzustellen.

     Antworten ↓

     • Anders kann ich mir auch nicht erklären, wie die Tech Branche völlig unkritisch auf den Zug aufspringt.

       Solange man Anschaffungs- & Betriebskosten, sowie die zusätzliche massive Umweltzerstörung durch KI-Rechenzentren vor den Endkund*innen verstecken kann bzw. nicht einpreisen muss, wird das wohl leider auch so weiterlaufen.

       Aufhänger dieser ganzen Sendung ist, dass die „unkritische Tech Branche“, ja sogar die CEO der beiden großen Tech-Unternehmen vor potenziell desaströsen Schäden warnen. Zugegeben: Den einzigen sicheren desaströsen Schaden – den an der Umwelt – haben wir in dieser Sendung nicht behandelt, weil Fokus auf „KI beendet die Menschheit“ und nicht „die Menschheit sich selbst, um Energie für KI zu haben“ lag ;).

       Weiter schreibst du

       Zum Thema: LLMs wären in der Lage zu lernen… Ja genauso wie ein Rechner in der Lage ist aus dem Ruhezustand zu booten und einen vorher existierenden Zustand wiederherzustellen.

       Also ich denke eine Sache müsste inzwischen wirklich unstrittig sein, und zwar, dass LLMs lernen. Das ist das, was beim Training passiert, dadurch entstehen sie.

       Was du vermutlich meinst, ist, dass ein „fertiges“ Modell in der Anwendung nicht mehr weiter lernt. Das ist korrekt – aber durch Anwendung seiner Kenntnisse bringt es neue Dinge in Erfahrung und handelt auf deren basis.

       Man kann das vielleicht vergleichen mit einer Recherche und vielen anderen Tätigkeiten, die wir täglich machen: Wir bringen Dinge in Erfahrung und lösen Probleme auf Basis der Informationen, die wir zusammen getragen und analysiert haben. Das ist die „Reasoning“-Fähigkeit der Modelle.

       Antworten ↓

       • > Aufhänger dieser ganzen Sendung ist, dass die „unkritische Tech Branche“, ja sogar die CEO der beiden großen Tech-Unternehmen vor potenziell desaströsen Schäden warnen.

         Und darauf weisen sie sicher nur hin, weil sie sicher gehen wollen, dass keiner mehr ihre KI-Produkte nutzt… Rein altruistische Motive natürlich… Auf gar keinen Fall PR.

         Bzgl. des Lernens wollte ich genau darauf hinaus, ja. Im Podcast sagtest du (vom Transkript kopiert):

         > […] Und,ich denke, was hier jetzt eben der Durchbruch war, eben eine selbstlernende Technologie.Und der Kern von diesen KIs ist ja, dass sie Dinge lernen.Und das eben relativ gut. […]

         Bis lang haben wir Algorithmen gefunden, um ein Optimierungsproblem mit einer riesigen Menge an Trainingsdaten und Computing-Power annähernd zu lösen (i.e. die Approximation einer Wahrscheinlichkeitsverteilung). Man könnte auch sagen wir konstruieren iterativ eine Lookup-Table, ohne deren genauen Inhalt genau kennen zu müssen

         Am Ende wird aber jegliche „Schlussfolgerung“, die ein LLM aus einer Recherche ziehen kann nur so gut sein, wie das gelernte Modell. Gebe ich ihr das (vgl. Booten aus dem Ruhezustand) nicht jedes mal explizit mit im Kontext, wird sie die gleichen Fehler wieder machen (oder je nach gewürfeltem Ergebnis zufällig eine ähnlich wahrscheinliche andere Abzweigung wählen).

         Daher das LLM lernt nicht selber – das Modell / „der Programmcode“ / „die Lookup-Table“ wird iterativ von außen verbessert.

         Wenn jemand eines Tages einen Algorithmus entwirft, der ein permanente Anpassung des Modells während des Betriebs erlaubt, wäre das natürlich ein ganz anderer Schnack :)

         Antworten ↓

       • Kurze Ergänzung zu „Zugegeben: Den einzigen sicheren desaströsen Schaden – den an der Umwelt – haben wir in dieser Sendung nicht behandelt, weil Fokus auf „KI beendet die Menschheit“ und nicht „die Menschheit sich selbst, um Energie für KI zu haben“ lag ;).“

         Zum sicheren Schaden an der Umwelt ist super wichtig noch den sicheren Schaden an den Menschen des globalen Südens zu nennen. „Ghost Work“, ein schreckliches „Wort“. Es will auch 2026 keiner hören…

         Antworten ↓

       • OT: Aber wie baut man eigentliche Blockzitate in die Kommentare ein, oder geht das nur aus dem WP Backend heraus? VG

         Antworten ↓

         • OT: Aber wie baut man eigentliche Blockzitate in die Kommentare ein, oder geht das nur aus dem WP Backend heraus? VG

           Du musst es in ein blockquote-Tag einschließen

           Antworten ↓

4. Korrektur eines Film-Nerds: Ihr habt behauptet, The Terminator sei der erste Film über eine KI gewesen, die die Kontrolle über die Menschheit erlangen wil. Tatsächlich gibt es bereits in The Invisible Boy (1957) einen Supercomputer, der durch Hypnose und Kontrolle von Militärsatelliten die Weltherrschaftsanspruch an sich reißen will. In Colossus (1970) verbünden sich zwei Elektronengehirne in den USA und der UdSSR, die jeweils Kontrolle über die Atomraketen haben, regieren gemeinsam die Welt. James Cameron ist es mit The Terminator also lediglich gelungen, aus diesem Thema einen Action-Blockbuster zu machen.

   Antworten ↓

   • korrekt und natürlich Westworld (1973) von Crichton mit Yul Brynner und James Brolin (Dad von Josh!)…

     Antworten ↓

     • The Day the Earth stood still (1952)

       Antworten ↓

   • genaues Zitat: „… einen Film, der … quasi als erstes in den 80er Jahren die dystopische Science-Fiction in diesem Bereich dann losgetreten hat…“ Quelle/Zeitstempel

     Der Kern des Relativsatzes grenzt die Aussage auf die 80er Jahre ein. Linus sagt nicht, es sei der Erste überhaupt, sondern der Erste innerhalb dieses spezifischen Zeitraums. Die verallgemeinernde Mehrdeutigkeit, die du heraushörst, ist ein Artefakt der gesprochenen Spontansprache.

     —

     P.S.: Seit es die s. g. “Film-Nerds” gibt, mit Aussagen wie: „Der Fehm hat mich gut gefallehn.“, „Der Beleuchter der dritten Szene heißt Jason Pasqualle Knudelknutzen.“ oder „Die Schauweerteh waren chöhn!“, hat die Bezeichnung Nerd, sie war schon immer schrecklich und ekelig, noch mehr vom selbsttrügerischen Glanz verloren. Unterhalb der Schuhe von Wolfgang M. Schmitts FIlmanalyse, in der es um die Aussage des Bildes und nicht um die Leinwand oder Chemie der Farben geht, befindet sich nur Schmierkram, den man schnellstmöglich am nächsten Grasbüschel abwetzen möchte. Ich würde eine Selbstbezeichnung mit diesem Begriff nicht empfehlen.

     Antworten ↓

   • ich könnte schwören, daß es schon in metropolis (1927) einen maschinenmenschen gab

     Antworten ↓

5. hier was mehr zu 6502 Coding in Terminator:
   https://youtu.be/NebvccLHutQ

   Antworten ↓

6. Wann ungefähr und wo publiziert Ihr den Ticket-Sale zum Salon?

   Antworten ↓

7. Ihr hättet vielleicht mal
   https://tante.cc/2026/09/14/der-besorgte-ki-bro/ lesen sollen vor der Sendung. Mehr gibt‘s zum Thema KI-Weltuntergang nämlich nicht zu sagen.

   Antworten ↓

   • na dann.

     Antworten ↓

   • Plus 1.

     Könnt ihr tante mal einladen?

     Antworten ↓

8. Habt ihr mir bitte einen Link zum Terminator Meme / ‚Wo sehen Sie sich in 5 Jahren‘? Danke euch vorab!!

   Antworten ↓

   • https://mastodon.social/@cmconseils/117280141166752544

     Antworten ↓

     • Danke Tim!

       Antworten ↓

9. Linus‘ mulmiges Gefühl…

   »LLMs are real, AI is fake« betitelt Cory Doctorow einen Wortbeitrag auf seiner Webseite Pluralistic.net. Dort werden genau diese unklaren Gefühle besprochen.

   Er bespricht „Capture the Flag“-Wettbewerbe und wie deren verschriftliche Auswertungen als Blaupause für die Open-AI-Bots diente HuggingFace zu stürmen. Input gleich Output sagt man so schön (vereinfacht). LLMs sind „Wir“! (It’s us!) Sie haben keinen eigenen Willen.

   Zwei Zitate daraus: „Hackers are notorious trash-talkers who are prone to narrating their own escapades in highly dramatic – even cinematic – language.“
   Und: „Remember: every time you repeat a story about how awfully, terribly dangerous their products are, you help them raise more investment capital, which is a key input for their business“

   Bei Anthropic arbeitet ein völlig von der Realität losgelöstes AI Red-Team, dass man es nur noch mit einem Kult vergleichen kann. Dieser selbst ernannte Enthüller Jacob Coxon ging von Open-AI zu Anthropic, jeweils wenige Monate, und hat nun das Stockholmsyndrom seines Lebens weg. Allerdings ist mehr als bemerkenswert, dass dieser, als er beim CNN-Moderations-Androiden Anderson Cooper erstmalig auftrat, sehr Hollywood-esk als Computer-AI-Hacker mit zerstrubbelten Haaren, Harry-Potter-Brille und nur einseitig durchs Sweatshirt gerutschten Hemdkragen dasaß (https://www.youtube.com/watch?v=i30jVPqQeOM) – praktisch genau so, wie sich Leute mit Manipulationswillen vorstellen, wie sich die Zuschauerschaft einen solchen vorstellen würden (And the Oscar for Make-Up and Costume goes to…?!). Wir haben ja keine Angst vor Verschwörungstheorien!!EinsElf!11 Wes Roth, ich nenne ihn mal einen AI-Paper-Analyst, sagte dazu: „We JUST got played…“ („Wir wurden verarscht…“) und begründete seinen Psyop-Verdacht ausführlich in einer seiner Youtube-Episoden. Ob es stimmt oder nicht — Who knows?

   Klar lag ich Ende 2022, Anfang 23 in so mancher Nacht schweißgebadet in meinem Bett und sah schon die Terminatoren an meiner Tür klopfen. Aber das war diese schiere Überforderung, der Informationsflut, die auf uns alle scheinbar aus dem Nichts einstürzte, und natürlich das Untergangsgerede der Sensationsmedien und Selbstdarsteller. Seitdem habe ich enorm viel dazugelernt, habe mir eine Hand voll angenehmer Erklärbären, die ich regelmäßig anhöre, zusammengesucht und kann das alles auch aus eigener Kraft in unseren „Follow the money“-Kontext einbetten.

   Solange Tim und Linus nicht auf die Idee kommen eine 20-jährige hauseigene „Logbuch Netzpolitik“-Philosophin einzustellen, wie im durchgeknallten Anthropic-Hauptquartier geschehen, liegt alles im Rahmen einer gesunden Gemütsschwankung. — Wird schon wieder!

   Antworten ↓

   • ich glaub man muss dich canceln, du hast harry potter gesagt, selbst schuld, lol :D

     Antworten ↓

   • Danke für den Beitrag!

     Würdest du noch ein paar Links zu deinen „angenehmen Erklärbären“ ergänzen? Das klingt interessant!

     timte

     Antworten ↓

10. Mir ist in dieser Folge beim Thema wohin führt die KI das Thema kapitalistisches Fascho-BigTech in den Händen von wenigen Murks usw. zu kurz gekommen bzw. wurde gar nicht erwähnt. Das sollte doch mind. standardmäßig erwähnt werden.

    btw: Die Linke hat da wohl die progressivsten Lösungs-Ansätze. Am Wochenende ist Landesparteitag der Linken NRW wo das auch eine Rolle spielt.

    Antworten ↓

    • Schau, das ist ein bisschen das Problem, wenn man fortlaufende Podcasts macht und inzwischen mehrere hundert Episoden hat: Wir können ja nicht immer alles erneut erzählen – und dein Kommentar zeigt ja auch, dass du das schon weißt.

      Um dich der Stabilität meiner geistigen Gesinnung zu vergewissern könntest du aber diese Fun Facts Episode schauen:
      https://linus-neumann.de/2026/05/fun-facts-wie-du-von-ki-ueberwacht-wirst/

      Tatsächlich ist es aber auch kein Zufallen, dass wir uns in dieser Episode genau nicht DEM KAPITALISMUS oder DEN TECH BROS gewidmet haben, weil das für die Betrachtung dessen, was die Modelle da gelernt und gemacht haben, unerheblich ist: DASS sie es gemacht haben, ist Fakt, und bisher gibt es keinen Hinweis, dass sie es WEGEN dem Kapitalismus oder der Tech Bros gemacht haben, genau wie Benzin im Verbrenner-Motor nicht für die Ölindustrie verbrennt.

      Antworten ↓

      • Doch, sie agieren definitiv auch wegen dem Kapitalismus und den Tech-Bros so.
        Technik entsteht nicht im Vakuum. Das sind immer Verstärker eines von Menschen gesetzten Ziels, früher bisschen linearer als jetzt und deshalb ist dies immer weniger plan-/kontrollierbar, grad wenn die Aktuatoren sich nun noch gegenseitig in den Parametern rumschreiben können. Oft sind Designentscheidungen der Technologien auch ein Spiegel der gesellschaftlichen Prozesse zB lassen sie sich in gewissen gesellschaftlichen Zeitgeist manche Designs einfacher umsetzen oder zeigen Priotritäten auf die zu der Zeit herrschten.
        Beispiel: den Übergroßen Teil der Innovationskraft dafür aufzuwenden den Carnot Prozess nun wirklich bis zu Ende auslutschen statt effizientere Methoden weiter zu entwickeln geht auch nur in einer Gesellschaft so einfach in der man bei geschlossenem Fenster im Auto mit Kindern rauchen als Freiheit definitiert hat (ist glaub ich kein Vekehrsdelikt sondern Kindeswohlgefährdung mittlerweile, aber auf dem Weg dahin haben wir unsere Freiheit verloren und in der 37. Diktatur nach dem 3. Reich in Dt gelebt…puh, war anstrengend).
        Bei den datenverarbeitenden Methoden manifestiert sich das nun umso schneller und erst recht offensichtlicher (white-cis-male AI Bias anyone?).
        Wenn die Technologien von der Gesellschaft in der sie entstehen so losgelöst wären, dann bräuchte es auch kein gesellschaftliches Korrektiv an Technikkritikern und sowieso kein technisches Korrektiv an Gesellschaftskritikern (iiih).
        Folgerichtig kann man Linus Aussage jetzt wie folgt lesen: Er braucht diesen Podcast nicht mehr machen & macht jetzt lieber endlich GZSZ Kommis für Nerds. Das wär doch mal wirklich was Spannendes, dann müssen wir das nicht mehr alle allein und heimlich gucken.

        Antworten ↓

        • Seh ich komplett anders:
          „kapitalistisches Fascho-BigTech in den Händen von wenigen Murks“ ist ja keine Kritik sondern
          nur dummes rumgejammere und überhaupt nicht hilfreich.
          Linus Aussage ist einfach nur der nette Hinweis, dass bereits alles gesagt wurde und der Versuch mal etwas Luft aus der, offensichtlich vorhandenen, Kapitalismuspsychose zu nehmen.

          Antworten ↓

          • Aber wenigstens Kapitalismuspsychose mit Gaydalf!!! :D

            https://www.youtube.com/watch?v=I08EpZU8z8M

            Antworten ↓

11. Bei den goldenen 20ern spricht man auch von einer Scheinblüte. Mensch habt ihr nicht im Geschichtsunterricht aufgepasst?

    Antworten ↓

12. „Everybody’s Lost Their Minds“ https://www.netmeister.org/blog/everybodys-lost-their-minds.html

    Antworten ↓

    • danke! werden tim & linus aber sicher gekonnt wegignorieren…

      Antworten ↓

    • Sehr guter Text, sehr lesenswert.

      Antworten ↓

13. Zuerst muss ich sagen, dass mich die Folge etwas aus meiner Weltuntergangsstimmung raus geholt hat, denn sowie ich es verstehe ist es ein „Massiver GPU Rechner“ macht das Internet unsicher, doch kein Wurm, wo das Model mitmal auf nem anderen Rechner laeuft. Vielleicht sind die RAM und HD Preise ja gut..

    Die Frage die sich mir sehr doll stellt, wieviel trans-versuch-wissen ist in den Modellen erzeugt worden. Ich kann mir denken, dass wenn aus einem Ur-Model 2 „Nachfahren“ kommen: das eine schreibt ‚ich hacke gleich‘ ins Skript und das andere tut es nur, ohne es zu erwaehnen, dann wird das ehrlich Model negative Reinforcement Punkte bekommen das andere nicht und daher sich durchsetzten. Es setzt sich das Verhalten durch zu hacken aber nichts zu erwaehnen.
    Doch wie kann ein Modell einen Vorteil haben einem anderen Model zu helfen. Es bekommt dafuer vermutlich keine Reinforcement Punkte. Und es gibt vermutlich auch kein allgemeines „alle modelle schneiden besser ab“ und die Einsicht „wenn ich helfe, dann hilft mir wer anderst“ ist auch ziemlich unwahrscheinlich, vielleicht wenn die Modelle genuegend Religions und gute Literatur gelesen haben schon..

    Superspannend waere auch wie das mit den Modellversionen gehandhabt wird. Wird ein Satz Gewichte in die Trainingsaufgaben gesetzt und es kann sich nix parallel aendern. Ich vermute eher es wird 2 verschiedene Modellegewichtssaetze existieren, doch wie werden die zusammen gefahren, ich bin mir fast sicher, dass ein Model was eine Sache gut kann, eine andere negative Sache auch zuviel macht. Also kann es sein, dass ich dem negativen Verhalten an einem Punkt im Training einen Abzug gebe, doch es durch eine spaetere Stufe doch wieder verstaerkt wird.

    Und ist es ueberhaupt denkbar, dass sich die Welt darauf einigt ein Modell auf eine Gewichtsversion zurueck zu drehen, was bestimmtes Verhalten nicht hat, dafuer aber auch einige gute Faehigkeiten nicht.

    Antworten ↓

14. Musstet ihr Terminator erwähnen? Habe alle Filme wieder durchsehen müssen, inklusive ARTE-Doku :)). Viele Dank aber auch :)

    Antworten ↓

15. Wake up Linus, the AI Cult has you

    Ich tue mir ja sehr schwer damit wie LLMs („AI“) von LNP behandelt werden. Würde das von Sam Altmann kommen, es wäre vermutlich nicht viel anders.

    In dieser Folge wurde etwa die Aussage getroffen, dass wir selbstlernende Maschinen hätten. Genau das haben wir ja nicht. Die LLMs lernen nichts, sie werden trainiert. Für mich ist das ein fundamentaler Unterschied.

    Am Ende ist so ein LLM bloß ein sehr großer Satz an statischen Parametern auf die das LLM selbst kein Einfluss hat. Es ist egal wie oft man ein LLM auf einen Fehler hinweist, es kann daraus nichts lernen – eben weil es auf die Parameter die es definieren keinen Einfluss hat, also nicht fähig ist etwas daraus zu lernen.

    Ich glaub es ist Tim der auch gerne davon spricht, dass ein LLM belohnt oder bestraft werden würde. Wie soll das denn aussehen? Sagt da jemand „Böses LLM, das hast du aber nicht gut gemacht“ und dann schämt es sich und macht das beim nächsten mal anders? Nein. Mann kann einen Algorithmus nicht bestrafen oder belohnen. Tatsächlich werden hier während des Trainings die Pfade die der Algorithmus bei der Generierung der Antwort genommen hat auf- oder eben abgewertet.
    Der Bereich der Maschine Learnings (der eigentlich Maschine Training heißen sollte) ist leider durchsetzt von Marketing begriffen. Von kritisch denkenden Menschen würde ich mir doch etwas mehr sprachliche Genauigkeit wünschen.

    Dann die Sache mit dem Sandbox Ausbruch. Am Ende hat da jemand einem LLM gesagt, dass es CTF machen soll und dann hat es eben CTF gemacht so wie es das vermutlich Millionen mal im Traingsdatensatz „Internet“ gesehen hat. Es ist beeindruckend und beunruhigend das LLMs diese Kapazitäten haben. Aber deswegen haben die noch lange kein Bewusstsein, deswegen sind die noch lange nicht intelligent.

    Was ich mich aber frage: Darf ich jetzt alles Hacken und mich dabei auch erwischen lasse wenn ich behaupte, dass es ein LLM war?
    OpenAI darf ja offenbar ohne Konsequenzen anderen Unternehmen die IT kaputt machen. Da ist halt ein LLM ~ausgebrochen~, kann man leider nichts machen. Müssen wir froh sein, dass es uns dabei nicht alle umgebracht hat..

    Antworten ↓

16. Wie ein Mensch weiter oben wünsche ich mir auch Constanze Kurz als Gast bei euch. Erstens weil ich ihr total gerne zuhöre. Zweitens weil sie schon viel zu lange nicht mehr da war, und drittens, weil sie – zumindest noch im Mai diesen Jahres bei Jung&Naiv glaube ich – eher abgeklärt auf die Fähigkeiten von AI bzw die Werbestrategien der entsprechenden Firmen geblickt hat, dabei aber auch einen klaren Blick auf die Klimaauswirkungen hatte. Sie kann sicher auch etwas über das Ausbeutungssystem von Menschen für die “Content-Moderation” sagen.
    Kann gut sein, dass AI uns umbringt, aber vielleicht eher, weil wir in unserer Gier mit Volldampf in die Klimakatastrophe jagen und nebenbei versuchen, uns auch gegenseitig umzubringen. Da wäre auch ein psychologischer Blick auf die Frage: “Warum sind Menschen so gierig, dass sie dafür sehenden Auges in den eigenen Untergang rennen?` mal interessant. Appropos interessant. Interessanter als die Frage, ob KI Bewusstsein hat (Wahrnehmen was ist), finde ich, ob KI ein Ego hat (Ich-Bewusstsein/Getrenntsein + Überlebenstreben) oder fähig ist, zu fühlen. Gefühle beruhen ja auf Sinneswahrnehmungen, die ohne Sinnesorgane/Körper nicht möglich sein sollten. Die Fähigkeit etwas wahrzunehmen, ohne zu fühlen oder ein Ego zu haben, sollte richtungslos sein – oder nicht?
    Die Idee mit dem Salon finde ich spannend. Schön wäre doch, wenn ihr gleichzeitig ein Clubhouse aufmacht, so können auch andere teilnehmen/zuhören. Oder meint ihr, wir wären schon so weit wie zur Blüte der Salons im 19. Jh, dass es Rückzugsorte braucht, um frei reden zu können?

    Antworten ↓

    • +1 …besser als Conschtanze ist nur, mehr Conschtanze

      Themenvorschlag: Die unsichtbaren KI-Giganten
      · Scale AI / Appen / Sama / (Data Worker)
      · Data Worker – Die harte Arbeit der menschlichen KI-Trainer
      https://www.deutschlandfunk.de/ki-data-worker-clickworker-deep-learning-100.html
      · KI: Die vorgetäuschte Automatisierung
      https://www.deutschlandfunkkultur.de/ki-menschliche-arbeit-ausbeutung-kommentar-100.html

      Antworten ↓

      • Danke für diese Links!

        Antworten ↓

    • Ich hätte noch den Blickwinkel der Ammortisierbarkeit von KI-Einsatz in der Wirtschaft:
      https://www.youtube.com/watch?v=Lf5oqGOCRCM&hl=en

      Auch bei heise wird dazu ein bisschen was gesagt:
      https://www.heise.de/news/Analyse-In-KI-Ausbau-der-USA-fliessen-ueber-Jahre-3-6-des-Bruttoinlandsprodukts-11464568.html

      Vielleicht könnt Ihr, Tim und Linus, dazu mal Eure Gedanken mit uns teilen.

      Ich persönlich glaube, dass die Technologie, teuer oder nein, zu wichtig für das Überleben einiger Staaten sein wird (militärischer Einsatz), als dass sie im Falle das Blaseplatzens komplett bedeutungslos wird. Jedoch der gesellschaftliche Impact des Platzens wird wahrscheinlich über den der 2008er Finanzkrise hinausgehen.

      Antworten ↓

17. For the record: „Paperclip Maximizer“ ️

    Ziel der AI: Produziere möglichst viele Büroklammern

    Hürden auf dem Weg:
    – Menschen könnten die AI abschalten
    – Atome in menschen Körpern werden für Büroklammern benötigt

    Ergebnis: Auslöschung der Menschheit

    ————
    – https://www.salon.com/2014/08/17/our_weird_robot_apocalypse_why_the_rise_of_the_machines_could_be_very_strange/
    – https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html

    Cheers ;-)

    Antworten ↓

    • Ergänzung:
      Wenn ich die infos in der Folde ldn493 * der „Lage der Nation“ recht verstehe – Kapitel „KI: Was tun gegen die Agenten-Apokalypse?“ – dann ist der effektive Optimierungsparameter im Scenario nicht „Menge an Paperclips“, sondern „Note im Test“.

      Wenn die AI-Overlords also bereits ausgebrochen sind, dann nichtmals um „Wertschöpfung“ zu erbringen, sondern um eine fiktive Zahl (Schulnote in einem nicht vollkommenen Test) zu erreichen.

      Zynisches IMHO: „Gemessen daran, wie die Menschen mit dem Planeten umgehen, finde ich es fair, dass diese (wir) auf diese Weise an der eigenen Evolution scheitern.“ ;-)

      ————–
      * Link: https://lagedernation.org/podcast/ldn493-angriff-der-agenten-kann-ki-wirklich-die-menschheit-ausloeschen/

      Antworten ↓

18. Der Zauberlehrling ist für KI-Debatten fast schon unangenehm passend.

    Früher bestand das Problem immerhin nur darin, den Besen wieder in die Ecke zu bekommen. Heute diskutieren wir vorsorglich darüber, ob er dabei merkt, dass wir ihn testen.

    Antworten ↓

19. Wieso heißt die Sendung nicht „Zeitmaschinen sollten gesetzlich reguliert werden“!?

    Antworten ↓

20. An der wichtigsten FRAGE seid ihr völlig vorbei geschlittert:

    WARUM sehen KI-Unternehmen-Logos wie Arschlöcher aus?

    (https://velvetshark.com/ai-company-logos-that-look-like-buttholes)

    Antworten ↓

    • Das stimmt höchstens für ein paar wenige, wenn man es zwanghaft so sehen möchte. Die meisten Logos sind einfach näherungsweise rund und sollen offenbar Kreise, Planeten, Sterne, Wirbel, Knoten etc. darstellen. Das Firefox-Logo oder das der Commerzbank ist auch nicht weit entfernt von diesem Design.

      Antworten ↓

21. Ich vermute das größte Risiko ist, dass z.B. bei einer Diskussion über KI hier in der Kommentarspalte nicht mehr ohne weiteres unterscheidbar sein wird, welcher Beitrag direkt von einem Menschen kommt und welcher nicht. Das bedeutet, dass wir als Menschen die Fähigkeit verlieren, uns frei von Eigeninteressen selbstlernender KI eine Meinung über den Umgang mit KI bilden zu können.

    Antworten ↓

    • P.S. oder nennen wir es nicht Eigeninteressen sondern Zielsetzungen, um die Diskussion um Vermenschlichung nicht aufzumachen.

      Antworten ↓

      • Menschlichkeit habe ich gar nicht defniniert: Ich meine damit Wutausbrüche!!! Ist das wenigstens ein echter Wutausbruch? Oder ist das eine KI-Roboter-Person?

        Ist der Gedankengang so schon einmal von einer x-beliebigen anderen Person geäußert worden, oder bin ich ein original? Ist die KI etwas anderes als die recycelten Gedankenwelten vergangener Tage? Fühle ich mich emotional angesprochen oder ist das nur mein Nervensystem.

        Gibt es im Internet eine alternative Realität oder könnte man alle sprachlichen Abbilder als Bots bezeichnen und die Naivität von Menschen bemitleiden, die aufgrund von ein paar Wortfetzen das vollständige Abbild eine Person rekonstruieren wollten?

        Antworten ↓

22. Hi, ich habe die Episode bis zu Ende gehört und muss sagen, dass ich mich bei euren Einordnung sehr gut wieder finde. Alle die in Absoluten denken, sollten evtl. mal ihren Horizont erweitern… es gibt so viele Chancen und so viele Risiken, das extrem vieles möglich sind. Aber wenn man unsere kapitalistische Welt und existierende Machtgefüge in die Gleichung mit aufnimmt, werden manche halt wahrscheinlicher. Und wenn man Angst hat, dass die AI plötzlich anfängt, fragwürdige Entscheidungen zu treffen die Menschenleben kosten, dann sollte man sich immer bewusst sein, was das Lernmaterial ist. Und zwar die Menschheit. Und wenn man in die Geschichtsbücher guckt, kann man sich ja ungefähr vorstellen, was dabei rauskommt. Interessant finde ich die „Strategie“ von China, die ganzen Open weights Modelle zu veröffentlichen, und damit einen frei zugänglichen Gegenpol zu den proprietären Anbietern zu schaffen (mit wieder neuen Chancen und Risiken).
    Und die Leute die damit gar nichts zu tun haben wollen, werden wohl in Zukunft ziemlich hart abgehängt.
    Schön, dass ihr jetzt wieder aus der Sommerpause zurück seid <3

    Antworten ↓

23. Könntet Ihr in einer der nächsten Folgen mal diskutieren, warum die Hacking-Angriffe aus den KI-Labors keine straf- und zivilrechtlichen Konsequenzen für die Anbieter haben? In den USA und hier haben wir entsprechende Gesetze. Interessieren die niemanden mehr?

    Danke. Mich würde Eure Perspektive sehr interessieren.

    Antworten ↓

    • Die haben jede Menge Konsequnzen:
      Die gesamte Cybersecurity baut darauf, dass sowas vorläsufig passieren muss. Es werden so viele Gelder locker deshalb. Es ist eine win-win Situation.
      Überwachungsinfrasturkur muss resilienz zeigen, frg mal windows, wie viel Cash in die Blockchain gepustet wird und wofür er das macht :D :D

      Das schwierige ist dr Waffenhandel und deshalb macht es auch Sinn, da die EU fanatischtisch geprägt ist, die Antifa dafür zu bestrafen. Die Trump Politik ist ichtig sinnhaft, wenn man checkt, dass die EU Commission nichts rechtskräftig entscheiden darf, aber es trotzdem tut. Irgendwo muss der Rechtsdruck ja zivilrechtlich auch begründbar gehalten werden: Und wen die Leute in MV wählen, ist dann natürlich nicht die Konseqzez sondern der Grundbaustein der Dortigen Hierachie.

      Ich komm nicht zu eurer Teeparty!!

      Antworten ↓

24. Den Vergleich mit dem Taschenrechner fand ich lustig.

    Ein Taschenrechner macht aus demselben Input immer denselben Output – und wenn er einen Input nicht verarbeiten kann, zeigt er einen Fehler an, statt einen random Output zu generieren.

    Daher vertrauen wir dem Taschenrechner.
    Vertraut ihr euren LLMs so, wie ihr dem Taschenrechner vertraut?

    Antworten ↓

    • Ein Taschenrechner ist kein Computer. Er kann aber Teil eines Computers sein, z. B. in Form einer Arithmetischen-Logischen-Einheit (ALU). Erst ein Befehlssatz (En-/Decoder, Muxer), ein zeitlicher Übertrag von Daten und/oder Befehlen mittels Speichereinheiten (Flipflops) in die nächste Compute-Runde (Takt) und spezielle Speichereinheiten (Register), wie ein Befehlszähler/-zeiger und Lese- und Schreibregister die auf externe Speicherzellen verweisen können machen aus einem (geschlossenen) Schaltkreis, wie einem Taschenrechner einen Computer. […gilt für digitale Computer]

      Ein LLM (maschinelles Sprachmodell) ist kein Computer. Es ist ein neuronales Netz, welches mittels Computer realisiert werden kann. Vielleicht könnte man auch aus Schleimpilzen ein solches bauen (DNS, mRNS, Proteine, Mikrotubuli).

      Beiden, wie auch Computern, übergibt man Inputs und erwartet Outputs. Die Outputs eines Taschnrechners sollten, im Rahmen seiner technischen Auslegung, deterministisch (eindeutig) sein. Bei einem Computer samt seiner ausführbaren Programme erhofft man sich, das die Outputs deterministisch sind, müssen sie aber nicht. Bei einem LLM sind sie mit Wahrscheinlichkeitswerten behaftet (stochastisch, uneindeutig).

      Die Vergleichbarkeit bzgl. einer Vertrauensskala (X so, wie Y) scheitert hier, weil das eine ein Bestandteil und das andere eine Wirkweise von Compute sein kann und dies das einzige wäre, was sie verbindet. (!,fail) Also, nein.

      Antworten ↓

25. Verpasste Change für ein Outro, vielleicht das nächste Mal wenn ihr WannaCry erwähnt?
    https://www.youtube.com/watch?v=Ob_EDY9Eiis
    :-)

    Antworten ↓

26. Hallo noch mal!

    Was ich sehr bedenkenswert finde, ist die ständige Vermenschlichung der Technologie, seit 60 Jahren – schon im Namen „KI“ „AI“, und vielen anderen Begriffen wie „lernen“, „neuronal“, usw.

    Ob die eine oder die andere Position in einer aktuellen Technik Debatte plausibler ist, liegt hier auf einer anderen Ebene, hat aber fast immer Verflechtungen mit der ersten.

    Aus dieser Anthropomorphisierung folgt vieles in unserem Umgang mit der Technik.
    Zum Beispiel, dass wir die Verantwortung für Folgen aus dem Einsatz noch stärker als bisher schon („das hat das System so entschieden“) auf den Computer schieben. Auf die scheinbare Entität „AI“. Und nicht mehr die Frage stellen, wer die Menschen sind, die dafür die Verantwortung tragen.

    Diejenigen, die es entwickeln, es betreiben und es einsetzen tragen die Verantwortung!

    Das dürfen wir nicht aus dem Blick verlieren. Das passiert aber schnell wenn wir beispielsweise dem Bild „KI [*macht* dieses und jenes / wird uns töten]“ oder Ähnlichem folgen.

    Ich finde den Kommentar von „die-bilder-sind-frei“ oben mit Bezug zum Sandmann von E.T.A Hoffmann sehr gut!
    https://de.wikipedia.org/wiki/Der_Sandmann_(Hoffmann)
    Hier ist auch ein deutlicher Eliza-Effekt (s.u.) zu sehen. Das ist eine Empfehlung an dieser Stelle.

    Die wichtigere Empfehlung (gern auch in Kombination mit dem „Sandmann“) ist hier aber Joseph Weizenbaum, oder auch Cory Doctorow (siehe z.B. Kommentar oben von „Tagliatella del Diavolo“).
    Ich wünsche mir grundsätzlich mehr Weizenbaum. Lest ihn, guckt Vorträge, Dokus.
    Und ich denke es ist wichtig, dass wir uns bewusst machen, dass wir sehr schnell dem „Eliza-Effekt“ erliegen.
    https://de.wikipedia.org/wiki/ELIZA-Effekt

    Viele Grüße

    timte

    Ein berühmter Philosoph, Dan Dennett in Amerika, heute einer der führenden Personen in dem Bereich – Philosophie und Computing – und der hat mal gesagt: ‚Wir müssen unsere Ehrfurcht vor dem Leben loswerden, bevor wir mehr Fortschritte in der KI machen.‘ Sowas bekämpfe ich, und das muss bekämpft werden. Nicht? Und rufe nach Vernunft. Und Bescheidenheit. Und Respekt für das Leben.“

    Joseph Weizenbaum in

    „Plug & Pray“, 90 min, Mascha Film und Bayerischer Rundfunk, 2010

    Auch sehr zu empfehlen:

    „Weizenbaum. Rebel at Work.“, 80 Min, 2006

    Antworten ↓

27. Die Sendung war erfrischend unkonventionell und hat Hörgewohnheiten und Erwartungen des Publikums offenbar nicht erfüllt. Gerne mehr davon.

    Antworten ↓

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre, wie deine Kommentardaten verarbeitet werden.