Matthias Spielkamp
Aber das meine ich. In diesem ersten Workshop, ne, damals wo das geprägt wurde, da ging's tatsächlich dadrum, dass die sozusagen den den Workshop machen um den machen zu können, brauchten die halt äh Förderung und deswegen.Ein Grund war, dass dieser Begriff halt so knackig ist.Den dazu prägen. Und ähm und das zieht sich so ein bisschen durch, weil wir haben natürlich dann so eine Vermenschlichung auch, die auch von vielen Seiten kritisiert wird von uns auch, weil,diese vermeintliche Intelligenz der Maschine hat halt mit menschlicher Intelligenz echt eigentlich nix zu tun, ne? Ähm aber klar, wir brauchen immer auch solche,und Analogien und ne, um uns eine Vorstellung zu machen. Das Problem ist dann aber, dass diese Vorstellungen mitunter einfach auch falsch sind und dann,so eine auf so eine falsche Fährte führen. Und das ist meiner Ansicht nach bei dieser ganzen KI Diskussion passiert, weil,Nachdem dieser sogenannte KI Winter dann vorbei war, also viele schiefgegangen ist und äh Leute dann auch äh massiv dadrunter gelitten haben,weil die einen halt große Versprechungen gemacht haben, die nicht eingehalten werden konnten und die anderen, die vielleicht etwas klüger auch unterwegs waren, ihre Forschungsförderung dadurch verloren haben. Irgendwann kam dann dieser Wendepunkt und dann ging auf einmal doch wieder ganz viel, ne?Und.Dann haben sowohl Wissenschaftler innen als auch ähm die äh kommerziellen Anbieter halt einen Riesen-Wind gemacht und haben wieder angefangen mit diesen Halsversprechungen, ne? So also,KI kann alles, ne? Magische äh Technologie und wir können jedes Problem damit lösen. Das hat wiederum dazu geführt.Dass Leute auch gesagt haben, ja, da sind aber auch massive Risiken damit verbunden, ja und was ja auch stimmt.Und auf der einen Seite, es ist ja auch, es sind ja auch tolle Sachen, die da entwickelt werden. Du hast das Beispiel gegeben von Übersetzung und so, ne? Da ist man einfach irgendwann an Grenzen gekommen ohne Machine Learning und und die sind dann überwunden worden dadurch und das ist ja auch geil, ja? So und dann,haben die anderen aber eben diese Risiken äh beschrieben,und das ist auch äh häufig absolut gerechtfertigt und dann kommt halt irgendwann die Politik auf den Plan und sieht also, oh, da muss irgendwie was gemacht werden, ne? Und,Gibt es einen Streit darüber? Also wir haben gegründet, als es noch einen eigentlichen relativ großen Streit darüber gab,sollte man jetzt versuchen KI zu regulieren, also was eigentlich nur ein Forschungsfeld beschreibt und gar kein so richtig.Umreisbarer Begriff ist,oder sollte man nicht in verschiedenen Sektoren schauen, was sind die Auswirkungen vom Einsatz solcher Systeme, wie etwa beim automatisierten Fahren, wie in einer Gesundheits äh Vorsorge, in der Diagnostik,und so weiter. Sollte man nicht lieber dadrauf gucken und sich nicht so sehr an diesem KI-Begriff festhalten.Und dann ist äh Ursula von der Leyen gekommen, ist EU-Kommissarin geworden, musste also Handlungsfähigkeit beweisen und hat sich hingestellt und hat gesagt, innerhalb der ersten 100 Tage meiner.Regierungszeit werde ich um meine Amtszeit werde ich Regulierungsvorschläge für künstliche Intelligenz vorlegen ne und all die sich mit dem Thema auskennen haben so entweder leer geguckt oder die Hände überm Kopf zusammengeschlagen.So gedacht, ach du Scheiße.Und in der Europäischen Kommission äh hat wahrscheinlich der ein oder andere so einen Halbherzinfarkt bekommen, weil die natürlich dann immer wissen, was das bedeutet, ne, also keine Wochenenden mehr die nächsten äh drei Monate.Und so weiter, ne? Und ähm ja und dann und das konnten sie natürlich nicht einhalten, das Versprechen, aber wenigstens haben sie dann so eine Art, dann gab's eine Expertenkommission und dann ach nee, Entschuldigung, die gab's vorherdann wurde so ein so ein Weißbuch wurde verfasst,damit konnte man dann zumindest argumentieren, man hat das eingehalten, diesen Zeitplan, ne und aus dem Weißbuch ist dann nachher dieser AI Act entstanden und neÄhm ich hoffe, das wird jetzt nicht zu äh ausschweifend, aber wodrauf ich halt hinaus will. Jetzt haben wir halt, ist, du hast den Zauberlehrling schon äh genannt als Beispiel heute. Das ist also KI ist in dem Sinne auch.Ne? Wir haben uns was geschaffen.Bei dem man mit Fug und Recht drüber streiten kann, ob's das überhaupt gibt, ja? Aber jetzt ist es da, denn wenn wir erstmal eine Regulierung für etwas haben, dann gibt's das natürlich auch,oder ein Regulierungsvorschlag. Und wir hätten das ja tatsächlich ganz gerne, wenn wir von diesem KI-Begriff quasi wieder wegkämen,Aber wir glauben auch, dass der Zug in dem Sinne abgefahren ist, weil.Wir jetzt auch das Problem haben, natürlich könnten wir sagen, wir brauchen keine keine KI-Verordnung, dann würde aber auch das Positive, was da durchaus drinsteht, natürlich mit über die Wupper gehen.Und äh und und da ist man dann einfach in der normativen Kraft des faktischen einfach mal komplett gefangen.Und äh und und das ist halt die so eine Art äh Halbe Antwort dadrauf, ne, weil die andere Hälfte ist natürlich so, ja.Was glaubt man denn, was was diese Systeme leisten können und jetzt hatten wir ja gerade diese Woche erst die Geschichte von diesem Google Jana.Der meint, er hat also jetzt erkannt, dass der Chatbot tatsächlich ein Bewusstsein hat und so einen Quark, ne.Denkst du also auch okay, ist das jetzt ein Marketing-Gag, ne? Ist das also alles äh ist das gecastet oder was ist denn das jetzt wieder für ein Quatsch, ne?Aber.
Hallo, wenn sich jemand Wohngeld oder sonstige Leistungen erschleicht, gehört diese Person für mich in die Kategorie „Betrüger“ und nicht in die der „sozial Schwächsten“.
Viele Grüße,
Christoph (ein treuer Hörer)
Vielen Dank für die Arbeit von AlgorithmWatch und diese Folge.
Ich glaube jedoch, dass noch ein ganz aktueller Punkt gefehlt hat: Die in der EU-Kommission debattierte Chatkontrolle ist ebenso ein automatisiertes System, dass durch perceptual Hashing in allen Messengerdiensten darüber entscheiden soll, ob Inhalte als illegal eingestuft und ausgeleitet werden sollen.
Davon abgesehen, dass man aus den Hashes teilweise die Bilder rekonstruieren kann (https://www.anishathalye.com/2021/12/20/inverting-photodna), lassen sich Bilder so manipulieren, dass sie beliebigen Hashes entsprechen. Daraus ergibt sich ein bunter Strauß an Attacken (https://eprint.iacr.org/2021/1531.pdf). U.a. kann man auch harmlose Fotos in den Index illegale Hashes injecten.
Weil das Thema der Steuerprüfung nur kurz angerissen würde:
Das wird schon sehr lang so gemacht und ist noch relativ unproblematisch.
An sich ist das eine reine Plausibilitätsprüfung im Sinne von „Spenden bis x% des Einkommens sind plausibel“. Was ich dabei wichtig finde: Als auffällig markierte Werte gehen dann einfach in die Überprüfung durch einen menschlichen Sachbearbeiter. Man war also so klug nicht den Algorithmus etwas ablehnen zu lassen.
Die Schwellen zur manuellen Prüfung sind relativ sensibel.
Gespart wird dadurch nur der Teil der beim früheren Sachbearbeiter auch ein reines Überfliegen war.
Das Betrugspotenzial ist eher gering. Solang man die Schwellwerte nicht kommuniziert kann das kaum missbraucht werden. Im Sinne der Transparenz könnte man die grundlegende Funktion durchaus öffentlicher kommunzieren. Die Schwellwerte zu verschweigen finde ich da nicht schlimm.
Nein, das ist ein Riesenproblem. Diese Grenzen sind unter Steuerberatern bekannt, vielleicht stehen sie auch in Steuerspartipbücher. Damit können Leute mit Geld (oder die sich da reinfuchsen können) viele solcher Dinge ausnutzen, der Normalo zahlt dann dafür.
Das hat natürlich wenig mit Algorithmen an sich, sondern mit unserem Steuersystem zu tun.
Psychologie von Corona – Massenpsychose und Massenformation (Interview Mattias Desmet)
Das Interview ist interessant.
Es zeigt gut, dass man den Kult nicht überzeugen kann, aber zumindest Grausamkeiten gegen Menschen, die dem Narrativ nicht folgen möchten, verhindern kann. Also Zensur ist der Schlüssel. Wenn so etwas wie ein Wahrheitsministerium oder Zensur eingeführt wird, dann ist es Zeit zu fliehen.
Danke für eine sehr interessante Folge. Mir ist aufgefallen, dass der Aspekt der Zementierung von gesellschaftlichen Realitäten ziemlich untergegangen ist. Wie ihr angesprochen habt so haben Entscheidungen von Algorithmen durchaus das Potential besser als menschliche Entscheidungen zu sein, z.B. nicht zu diskriminieren. Wenn die Algorithmen allerdings mit Daten trainiert werden, die die Diskriminierung direkt oder auch indirekt enthalten, so werden die gesellschaftlichen Realitäten unabänderlich. Wie dieses Problem angegangen werden kann ist mir nicht ganz klar. Eine Art des Vergessens ist notwendig, aber die muss sich auch in einem Verlernen in den Algorithmen äussern. Wie man sowas implementiert und reguliert ohne von vorn anfangen zu müssen würde mich interessieren.
„Wenn die SCHUFA ihren Algorithmus offenlegen würde, dann würde der Algorithmus unsere Handlungen bestimmen (da wir uns danach richten würden), und das wollen wir ja auch nicht“ ist IMNSHO Quatsch: Der Algorithmus existiert und greift in unser Leben ein, ob er öffentlich ist oder nicht. Und wenn der Algorithmus den Score reduziert wenn eine dritte Kreditkarte bestellt wird, dann tut er das auch ob er öffentlich ist oder nicht, aber nur wenn er öffentlich ist kann es eine Debatte geben ob wir das wollen oder nicht.
Wenn der Algorithmus öffentlich ist, wird sich natürlich niemand die dritte Kreditkarte bestellen. Stattdessen wird die Überschuldung dann anders gehandhabt. Damit ist der Schufa-Algorithmus wertlos.
Dass die Schufa das nicht will, ist klar.
Man muss jedoch anerkennen, dass in diesem Szenario natürlich auch der ganze Schufa-Score Banken etc. weniger bis gar nicht verwendet werden wird.
Wollen wir das? Schwierige Frage, auf die ich keine Antwort habe.
Was jedoch nicht passieren wird, ist, dass wir einen gesellschaftlich definierten Score bekommen, der zukünftig von allen verwendet wird. Dafür wird ein solcher Score, insb. gegenüber privatwirtschaftlicher Konkurrenz (sofern noch vorhanden), viel zu schlecht (d.h. unprofitabel) sein.
Auf den Telefon-CDs der Post bzw. Telekom ging doch damals in den 90ern auch schon reverse-Lookup mit dem Tool „tbb“.
Zumindest für die CD’s ohne Verschlüsselung ging das. Danach hatte der Autor des Tools keine Lust mehr auf den Extra-Aufwand.
Neben dem Reverse-Lookup war das Tool einfach deswegen schon gut, weil man unter Linux auf der Kommandozeile normale Lookups machen konnte.
Kein Windows oder Wine notwendig für eine Telefonbuchsuche.