WEBVTT NOTE Podcast: Logbuch:Netzpolitik Episode: LNP432 AlgorithmWatch Publishing Date: 2022-06-17T23:19:14+02:00 Podcast URL: https://logbuch-netzpolitik.de Episode URL: https://logbuch-netzpolitik.de/lnp432-algorithmwatch 00:00:00.005 --> 00:00:01.562 Guten Morgen Matthias. 00:00:00.006 --> 00:00:02.385 Guten. 00:00:23.207 --> 00:00:37.039 Logbuch-Netzpolitik Nummer 432 vom 17. Juni 222 und die Advanced Hörer und wir haben ja eigentlich nur äh Advanced Hörerinnen und Hörer, die wissen schon, Linus ist heute nicht da 00:00:36.961 --> 00:00:43.469 denn der hat was Besseres zu tun. Für mich eine gute Gelegenheit ein äh 00:00:43.337 --> 00:00:54.231 Spezial einzuwerfen, was Sie schon ganz lange auf meiner Liste habe und äh von dem ich erst vor ein paar Tagen, als wir das dann ausgemacht haben, äh erst so richtig begriffen habe, wie gut das auch 00:00:54.033 --> 00:01:00.432 gerade passt. Also sage ich erstmal hallo, Matthias. Herzlich willkommen bei Netzpolitik. 00:01:01.430 --> 00:01:06.874 Genau, Matthias Spielkamp und du bist ähm den äh Netzbewegten, 00:01:06.905 --> 00:01:15.581 sicherlich schon seit längerem auf die ein oder andere Art und Weise ein Begriff, denn du turnzt ja nun in dieser Landschaft auch schon ganz schön lange rum, ne? 00:01:16.369 --> 00:01:18.081 Bin auch so ein alter Sack, genau. 00:01:17.817 --> 00:01:23.658 Ich weiß gar nicht, wann hast du denn so angefangen, aktiv zu werden. 00:01:24.271 --> 00:01:26.428 Ich würd sagen zweitausenddrei. 00:01:26.494 --> 00:01:33.783 Aha und das war dann schon zum Thema Urheberrecht oder war das noch was anderes? 00:01:33.795 --> 00:01:40.561 Genau, so würde ich das sagen. Also jetzt aus dieser Perspektive der Hörerinnen und Hörer von dem Logbuch. Ich habe schon, 00:01:40.838 --> 00:01:54.328 Internet länger zu tun, da habe ich im Studium schon von erfahren, weil ich das Vergnügen hatte in den USA zu studieren und das sah auch schon 1995 eine Rolle spielte oder 94 sogar schon in meinem Studium und ich habe dann auch äh schon, 00:01:54.563 --> 00:02:05.342 zum Beispiel Workshops zu dem Thema gegeben, aber dass ich jetzt so netzpolitisch auf eine Art aktiv wurde, das war dann so um 203 rum zu diesem Thema äh Urheberrecht. 00:02:05.691 --> 00:02:06.995 Copyright Wars. 00:02:06.887 --> 00:02:21.771 Und es ist übrigens ich habe grad mal nachgeschaut, schon fast 12 Jahre her, dass wir uns zu diesem Thema mal im Rahmen eines CRE unterhalten haben. CRE einhundertvierundsechzig, wo wir äh in zwei Stunden diese diese ganze Problematik der Urheberrechts 00:02:22.276 --> 00:02:36.842 Regulierung und Definition und so weiter durchgenudelt haben und ich hatte damals schon so den Eindruck, Alter, das ist äh ein Thema, da kann man sich echt die Zähne dran ausbeißen. Wie kann man da überhaupt so lange dranbleiben? Und du bist ja dann noch sehr lange dran geblieben, oder? 00:02:37.227 --> 00:02:39.660 Ja, also jetzt, wann war das? Wann haben wir uns. 00:02:39.360 --> 00:02:41.595 Oktober 20 10. 00:02:42.166 --> 00:02:48.433 Ja okay, da war ich dann schon noch eine Weile dabei. Ja, ja, ja, doch. Fühlt sich an, als sei es gestern gewesen. 00:02:48.133 --> 00:02:54.935 Auf jeden Fall hast du hast du das mehr als eine Dekade lang äh begleitet das Thema. 00:02:55.152 --> 00:02:57.904 Bis ich dann völlig entnervt aufgegeben habe. 00:02:57.754 --> 00:03:08.828 Aber darum soll's heute nicht gehen, sondern du hast ja jetzt ähm jetzt hätte ich fast gesagt, die Seiten gewechselt. Das ist äh natürlich nicht der Fall, sondern äh du hast dich eines anderen Themenraums äh 00:03:08.733 --> 00:03:17.049 angenommen und jetzt erzähl mir doch mal wie es dazu kam, dass äh du dich mit Algorithmen auseinandersetzen wolltest. 00:03:17.548 --> 00:03:29.325 Ja, tatsächlich hat's ziemlich viel mit dem zu tun, was ich vorher gemacht habe. Ich habe einmal ein großes ähm große Lust gehabt, dieses ganze Internet da zu erkunden und und zu verstehen, 00:03:29.566 --> 00:03:35.190 habe das aber am Anfang überhaupt nicht als so ein wichtiges Politikfeld begriffen. Also es war mir. 00:03:35.563 --> 00:03:40.556 Natürlich theoretisch irgendwie klar, ne, dass das, was Weltveränderndes sein würde, aber, 00:03:40.689 --> 00:03:51.943 Äh ich hatte nicht selber den Anspruch das mitzugestalten, sondern eher zu nutzen. Ich habe dann so zum Beispiel fürn und Journalisten Seminare dazu gemacht, wie sie am besten, 00:03:52.202 --> 00:04:03.667 suchen online und recherchieren und wie sie auch ihre Webseiten konzipieren, damit die Informationen gut rüberkommen und erst als ich aber angefangen habe mit diesem Urheberrecht rumzumachen, da habe ich verstanden, 00:04:03.782 --> 00:04:09.183 wahnsinnig politisch das Ganze ist und was die Regulierung für einen Einfluss da drauf hat, 00:04:09.370 --> 00:04:15.986 und natürlich welcher welchen Einfluss auch die Digitalisierung selber auf die Regulierung hat, ne? Und ähm. 00:04:16.491 --> 00:04:26.976 In dem ganzen Zusammenhang habe ich mich dann viel mit der Zukunft des Journalismus beschäftigt welche Geschäftsmodelle können überhaupt noch funktionieren unter solchen Bedingungen und dergleichen mehr und dann, 00:04:27.181 --> 00:04:29.356 kam eben auch irgendwann dieses Thema, 00:04:29.591 --> 00:04:39.343 Roboterjournalismus auf, ja? Also das wird jetzt dann alles automatisch gemacht und wir verlieren alle unsere Jobs, weil irgendwelche Maschinen die Texte schreiben und, 00:04:39.590 --> 00:04:50.496 Das fand ich durchaus so interessant im Sinne von okay, was steckt dahinter und habe eine Veranstaltungsreihe dazu äh kuratiert, wie man heutzutage so schön sagt und, 00:04:50.737 --> 00:05:02.568 Ähm habe dann aber doch auch ziemlich schnell festgestellt, boah, das Thema ist eigentlich ziemlich uninteressant, weil ähm so viel wird da nicht passieren. Also da wird eine Menge passieren, aber es ist nicht wirklich relevant, weil ähm. 00:05:03.079 --> 00:05:14.610 Also komme ich gleich nochmal drauf, warum das auch zum Teil jedenfalls ein Irrtum war, aber jedenfalls ist es nicht relevant in dem Sinne. Die Journalisten werden alle ihre Jobs verlieren, sondern was halt automatisiert wird, sind so Standard. 00:05:15.019 --> 00:05:22.326 Texte wie Wetterbericht, Sport Reportage, also Reportage noch nicht mal, sondern äh Spielbericht und. 00:05:22.993 --> 00:05:25.517 Jetzt Börsennachrichten oder so was in der Art, 00:05:25.793 --> 00:05:34.771 Und in dem Zusammenhang habe ich aber eben auch auf dieses Feld sozusagen Automatisierung und Algorithmen mehr geschaut und dann bin ich übern Text gestolpert, der, 00:05:34.861 --> 00:05:40.984 eben sehr viel verändert hat für mich und er heißt 00:05:40.864 --> 00:05:45.971 Boxes von Nikolas Diakopolus, einem Amerikaner, also ähm, 00:05:46.224 --> 00:05:54.528 wie wie man durch Journalismus, Algorithmen zur Rechenschaft ziehen kann ähm und wie man eben solche, 00:05:54.715 --> 00:05:58.428 untersucht. Das war der Titel und das waren, 00:05:58.513 --> 00:06:12.279 keinen jetzt irgendwie äh sechzigseitiges Ding, sondern ungefähr so zwanzig, 25 Seiten, aber der hat's halt geschafft, sehr gut auf den Punkt zu bringen, warum er der Ansicht ist, dass es zu den Aufgaben von Journalistinnen und Journalisten gehören sollte, 00:06:12.316 --> 00:06:18.577 sich diese Automatisierungsprozesse anzuschauen, weil die eben gesellschaftlich eine hohe Relevanz haben und weil, 00:06:18.745 --> 00:06:26.965 genauso wie der Journalismus die Aufgabe hat die Regierenden zu überprüfen, die ähm Unternehmen, also, 00:06:26.984 --> 00:06:39.032 sozusagen die Mächtigen, the powers at be dazu gehören dann eben auch zunehmend solche automatisierten Verfahren und das hat mich total überzeugt und dann habe ich gedacht, gut, also jetzt habe ich gefunden, was mein, 00:06:39.140 --> 00:06:42.102 Was meine Perspektive da drauf ist und mein Ansatz. 00:06:41.850 --> 00:06:48.153 Ich erinnere mich jetzt, wo du das erwähnst, dass dass es mal so eine Zeit gab, wo wir so dieses ganze oh, 00:06:48.244 --> 00:06:55.701 Computer äh erfassen jetzt sozusagen verfassen die Artikel, ja, dass das so eine. 00:06:56.002 --> 00:07:02.052 Weiß ich nicht, so eine so eine ja so ein so ein Szenario war, was so äh herumgekickt wurde, aber 00:07:02.023 --> 00:07:09.582 das gibt's ja in dem Sinne auch, aber es hat eigentlich nie wirklich äh große Relevanz gehabt und letztlich hast du ja den Spieß umgedreht und gesagt, das ist eigentlich mehr 00:07:09.402 --> 00:07:27.825 mir eine Aufgabe für den Journalismus sich mit dem Thema als solchen zu beschäftigen und jetzt nicht so sehr, dass jetzt der Journalismus unmittelbar von diesem Algorithmus selbst bedroht wird, sondern es ist einfach eine Gesamtaufgabe für die Gesellschaft und damit natürlich auch für den Journalismus einfach wacher äh auf die Probleme zu schauen, die Algorithmen und, 00:07:27.982 --> 00:07:34.543 quasi also Systeme, Computersysteme ähm ja was die für einen Schatten werfen auf auf unsere Welt. 00:07:34.982 --> 00:07:43.479 Ja genau, also ähm ich habe ja gesagt, ein bisschen habe ich mich geirrt, weil ich schon finde, dass man diese Automatisierung eben auch für richtig gute 00:07:43.467 --> 00:07:55.563 nutzen kann. Äh zum Beispiel habe ich mal ein Projekt auch mitgegründet, das es immer noch gibt, das heißt mobilsicher Punkt DE. Da geht's um Berichterstattung äh über Sicherheit bei Mobil 00:07:55.558 --> 00:08:05.448 ähm devices, ne? Also anfangs auch Tablets noch am Ende waren's dann schon nur noch Smartphones und da äh haben die Kollegen, da war ich dann schon nicht mehr so 00:08:05.376 --> 00:08:12.100 stark dabei. Ähm Kolleginnen und Kollegen haben ein System entwickelt, mit dem automatisiert überprüft wird, welche Daten, 00:08:12.269 --> 00:08:21.751 die ähm Apps an Server senden. Äh also richtig dynamisch. Das heißt wirklich, wenn die im Betrieb sind, das ist schon sehr besonders, ne und, 00:08:21.847 --> 00:08:29.598 Was Sie dann auch gemacht haben, das war dann schon meine Idee. Ich habe die nicht umgesetzt, aber was ich dadran dann eben auch so einen richtig geilen Aspekt fand war, 00:08:29.683 --> 00:08:38.360 dass man, wenn man dann wirklich das skalieren kann, wenn man viele hundert solcher Apps überprüfen kann, dass man natürlich mitm Schreiben der Artikel nicht mehr hinterherkommt. 00:08:38.715 --> 00:08:44.669 Ne, dieser Berichte darüber, dass diese Berichte dann aber schon ähnlich standardisiert werden können wie halt ein Wetterbericht, 00:08:44.898 --> 00:08:52.325 und tatsächlich ist dann ein Teil von diesem Angebot eben auch, dass diese Testberichte automatisiert verfasst werden. 00:08:52.752 --> 00:09:03.411 Und da kann man auch auf eine Art den Spieß umdrehen und sagen, da kann man dann mit Automatisierung auch mal was erreichen, was man eben sonst mit vertretbarem Aufwand nicht erreichen können. 00:09:03.484 --> 00:09:06.801 Könnte und dann auch mal eben diesen, 00:09:07.005 --> 00:09:14.288 äh Risiken ähm Zahlen auf der einen Seite, ne, wir werden da also über Häuf mit tausenden von Apps, 00:09:14.403 --> 00:09:18.206 Kann man dann auch mit solchen Mitteln zumindest versuchen, beizukommen. 00:09:18.855 --> 00:09:31.606 Aber ja, du hast schon recht, also insgesamt diese ganze Frage nach der Automatisierung das war wird massiv eingesetzt heute. Katalogtexte, Reiseberichte und so weiter. Das ist also inzwischen total normal geworden. 00:09:31.781 --> 00:09:35.386 Läuft aber eher unter Database Publishing, so habe ich das äh. 00:09:35.086 --> 00:09:46.653 Ja genau und und da würde ich schon auch in Anspruch nehmen, dass ich mich da dass ich mein Urteil da nicht so revidieren muss, also für den Journalismus den wir als Journalismus verstehen, hat das nicht so wahnsinnige Auswirkungen gehabt. 00:09:46.713 --> 00:09:47.302 Ja 00:09:47.747 --> 00:10:02.306 Ich glaube, die eigentliche Gefahr, die so ein bisschen im Raum war damals, als wir noch alles für möglich hielten, äh nur nicht das, was wirklich passiert. Ähm war so dieses so, ah, jetzt jetzt kommt so die Intelligenz und versucht irgendwie hier die Welt zu interpretieren. 00:10:02.325 --> 00:10:10.238 Ja und äh dem dem menschlichen Hirn wird jetzt hier die Entscheidung entzogen. Ich glaube, das war so ein bisschen die Kimera im Raum, ne. 00:10:10.209 --> 00:10:11.398 Mhm, genau. 00:10:11.110 --> 00:10:23.110 Ja gut, aber letzten Endes ähm ja, hast du dich dann einem spezifischen äh Thema eben diese Algorithmen äh dann zugewandt. 00:10:24.625 --> 00:10:34.539 Und dann kam's zur Gründung von wie das hat ja dann auch nicht so lange gedauert glaube ich von der ersten Idee bis bis du dann da gelandet bist. 00:10:34.678 --> 00:10:45.638 Nee, das ging also also ja das war folgendermaßen. Ich habe dann ähm mit Lorenz Mazart, einem jemanden, der ja sicherlich in der Szene auch sehr gut bekannt ist. 00:10:45.626 --> 00:10:46.948 Journalist, genau. 00:10:46.059 --> 00:10:58.575 Journalist gearbeitet hat, genau, ne ähm habe ich dann rumgehirnt und es gab damals eine Ausschreibung von Erfolgswagenstiftung zu Datenjournalismus und wir haben uns die angeguckt und wir fanden halt beide. 00:10:59.201 --> 00:11:05.378 Ey, nee. Da da äh das ist eigentlich. 00:11:05.865 --> 00:11:15.196 Äh auserforscht, wenn man so will. Ja also man kann da ganz tolle Ideen entwickeln und konkrete Anwendungen, 00:11:15.227 --> 00:11:17.864 auch sich einfallen lassen 00:11:17.721 --> 00:11:31.860 dass man da jetzt so eine große Ausschreibung macht und sagt, wir müssen uns jetzt da einen Journalismus angucken, in so einer Kombination aus Wissenschaft und Journalismus. Da haben wir beide gedacht, das kommt eigentlich sechs Jahre zu spät, wie so vieles in Deutschland. 00:11:31.944 --> 00:11:37.472 Muss so zweitausend äh vierzehn, 2015 gewesen sein, ne? Und ähm. 00:11:37.899 --> 00:11:44.467 Dann haben wir aber gedacht, okay, wir probieren einfach was anderes. Wir schreiben einen Antrag. 00:11:45.032 --> 00:11:54.340 Indem wir eigentlich Augustic Countability Reporting machen und dann aber sagen, auch mit Daten journalistischen Mitteln und in der Daten journalistischen Aufbereitung. 00:11:55.115 --> 00:12:02.362 Und das haben wir auch gemacht. Also wir haben den Antrag geschrieben zusammen mit ein paar Kollegen und Kolleginnen und, 00:12:02.560 --> 00:12:05.829 ist abgelehnt worden, ja und meiner Ansicht nach. 00:12:06.142 --> 00:12:20.497 Haben die einfach nicht kapiert was wir wollten. Kann man natürlich immer sagen ja äh ihr wart einfach zu blöd, dass gut genug aufzuschreiben, dass sie das verstehen konnten. Da könnte ich jetzt viel drüber reden ähm aber jedenfalls haben wir das Geld nicht bekommen, 00:12:20.696 --> 00:12:23.796 Wir haben beim Schreiben dieses Antrags und beim, 00:12:24.085 --> 00:12:32.467 davon, was wir eigentlich machen wollten, haben wir schon gemerkt, wow, da steckt echt was drin. Und dann war es Lorenz, der damals. 00:12:32.816 --> 00:12:45.867 Dieser Idee kam, ich behaupte ja immer, es gibt eine E-Mail, die wir aber beide nicht finden können. Er meinte, er hat mir das nur am Telefon erzählt. Jedenfalls hat er ähm den Twitter handle Elvis im Watch gesichert und die Domain Elgarison Watch Punkt ORG. 00:12:46.667 --> 00:12:54.112 Als ich das gehört habe, habe ich gedacht, ja, genau, jetzt weiß ich, weiß ich, womit ich die nächsten Jahre meine meine Zeit verbringen will. 00:12:53.812 --> 00:13:02.849 Bevor wir darauf kommen, äh kurz noch zu diesem Datenjournalismus, weil ich finde es ja an sich war das dann doch eine sehr äh produktive Zeit. Also das äh 00:13:02.717 --> 00:13:13.785 musste vielleicht nicht weiter erforscht werden, aber wenn ich mir jetzt so anschaue was in den letzten zwei Jahren gerade in Bezug auf die Coronaberichterstattung ähm mittlerweile Standard geworden ist, ne 00:13:13.708 --> 00:13:23.646 wie sehr Daten auch tatsächlich die journalistische Arbeit jetzt äh prägen, indem halt genau drauf geschaut wird, die Medienhäuser entsprechende. 00:13:23.983 --> 00:13:35.664 Ähm Tools äh haben, ne, also da Auswertungsketten äh zu bauen in der Lage sind, brauchbare Visualisierung, interaktive Visualisierung, Teil der Berichterstattung sind. Das ist schon ein Schritt nach vorne. 00:13:36.007 --> 00:13:42.238 Auf jeden Fall. Ich das wäre jetzt, ich will da nicht missverstanden werden. Vielleicht habe ich mich nicht gut genug ausgedrückt. Ich äh, 00:13:42.299 --> 00:13:48.175 sage nicht das mit dem Datenjournalismus ist alles Quatsch. Im Gegenteil, ich habe mich ja selber damit beschäftigt, habe selber versucht auch in, 00:13:48.260 --> 00:13:59.526 Seminaren und Workshops dafür zu werben, dass Journalistinnen und Journalisten da aktiver werden. Ich finde das eine tolle Entwicklung. Ich bin eben der Ansicht, dass zu dem Zeitpunkt, als die Volkswagenstiftung diese Ausschreibung gemacht hat, 00:13:59.563 --> 00:14:07.416 da äh die einfach ihr Geld auf was anderes hätten verwenden sollen, weil da ähm die der. 00:14:07.158 --> 00:14:09.417 Da war der Zug schön aus dem Bahnhof, ne? 00:14:09.117 --> 00:14:20.750 Ja der war so, der war schon so erwachsen der Datenjournalismus, dass es das eigentlich nicht mehr brauchte. Die hätten das fünf Jahre früher machen müssen, ja und deswegen haben wir gesagt, wir reichen da was anderes ein. 00:14:21.935 --> 00:14:35.755 Okay und dann war quasi der Name Algorishm Watch geboren. Damals gab's ja eine Menge äh Watch Blogs. Das war so glaube ich so ein bisschen die Zeit, so CDU-Watch hier und weiß nicht, gab noch so diverse alles musste auf einmal beobachtet werden. 00:14:36.158 --> 00:14:42.221 Jetzt wird sozusagen zurücküberwacht. Ja und Ivorism Watch schaut auf Algorithmen. 00:14:42.017 --> 00:14:47.689 Genau. Ja, also wir haben ja natürlich da geborgt, ähm ich ich weiß auch gar nicht, 00:14:47.894 --> 00:14:58.722 Vielleicht finden andere das auch irgendwie ein bisschen banal, weil wie du richtig sagst, es gab ja Human Rights Watch schon und Abgeordneten Watch gab es schon und Foodwatch gab es schon, hätte er sagen können, oh Alter, das ist doch abgeschmackt, 00:14:58.812 --> 00:15:03.908 aber irgendwie hat's für mich funktioniert, ja. Ich habe da drauf geguckt und habe gedacht. 00:15:04.401 --> 00:15:10.680 Werden Leute verstehen und da werden Leute also in einer bestimmten Community natürlich erstmal nicht in einer großen Öffentlichkeit, ne, aber in. 00:15:10.380 --> 00:15:11.816 Hab's gleich verstanden. 00:15:11.762 --> 00:15:17.086 Ja, ne und es geht vielen so und das war natürlich eine Chance, weil, 00:15:17.356 --> 00:15:26.892 Schon jetzt lange genug da zu dem Zeitpunkt auch in dieser Zivilgesellschaft und Gemeinnützigkeit unterwegs war, dass ich wusste, man braucht halt eine coole Story, 00:15:26.965 --> 00:15:32.901 um auch Geldgeber zu überzeugen, dass da Musik drin ist, denn die braucht man. Ich wollte das nicht, 00:15:33.022 --> 00:15:41.122 sage immer, ich, ich, ne, aber ich ist schon völlig klar. Wir haben das in dem Team gemacht, aber was für mich wichtig ist und war. 00:15:41.489 --> 00:15:45.070 Ich war einfach fest davon überzeugt, dass wir das nicht als so eine Art. 00:15:45.479 --> 00:15:58.680 Grasrudes ähm äh hier ehrenamtliche Initiative machen sollten. Das war nötig am Anfang, weil dir natürlich am Anfang niemand Geld dafür gibt. Aber es war von Anfang an das Ziel, dass wir da draußen eine, 00:15:58.861 --> 00:16:12.291 professionell agierende, finanzierte Organisationen machen, die den Leuten, die da arbeiten, Geld dafür bezahlen kann, dass die da arbeiten, weil es nämlich sonst einfach versackt, ja. Es gibt viele, 00:16:12.568 --> 00:16:18.288 gut gemeinte äh Initiativen, die von richtig guten Leuten gemacht werden. 00:16:18.853 --> 00:16:28.107 Ich finde das dann wirklich auch oft schade zu sehen, wie die so vor sich hin mickern und zeigt da nicht irgendwie mit dem Finger drauf und sage, die sind doof, sondern es hat einfach was damit zu tun, 00:16:28.281 --> 00:16:37.823 dass dann da die Leute fehlen, die sagen, ja aber ich setze mich halt auf den Hintern und schreibe irgendwelche Förderanträge, denn das macht den meisten Leuten keinen Spaß, aber wenn man's nicht macht, 00:16:38.076 --> 00:16:42.907 dann ähm ja bleibt's eben häufig so ein vor sich hin kreblen. 00:16:42.835 --> 00:16:48.501 Mhm. Das heißt, das ist dann auch eure primäre Finanzierungsmethode, Förderung. 00:16:48.814 --> 00:16:56.127 Bisher ja, genau. Also wir haben dann angefangen Anträge zu schreiben und da will ich auch durchaus mal loben. Äh damals war, 00:16:56.320 --> 00:17:05.255 Konrad Lischka, den glaube ich auch in der Szene noch viele kennen, der ja ein ziemlich äh prominenter Journalist war, der über Netzpolitik geschrieben hat. Ähm. 00:17:05.580 --> 00:17:14.238 Der war gerade zur Bertelsmann Stiftung gewechselt und hat da so ein Feld zur Digitalpolitik ausgearbeitet und der hat denen dort, 00:17:14.479 --> 00:17:21.852 Flow ins Ohr gesetzt, dass das mit den Algorithmen auch ein Thema ist und das eine Organisation ist, die man unterstützen sollte. 00:17:22.183 --> 00:17:24.778 Und solche Leute sind da halt wahnsinnig wichtig. 00:17:25.350 --> 00:17:33.305 Man da so jemanden hat, der das kapiert und äh eine Art Mentoring übernimmt in diese Organisationen auch hinein. 00:17:33.648 --> 00:17:39.434 Denn wenn man da keine Verbündeten hat, dann ähm ja, ist es extrem schwierig. Und. 00:17:39.771 --> 00:17:50.389 War halt äh von der Bertelsmann Stiftung und von der Hans-Böckler-Stiftung, die eine ähm grade so eine Forschungsausschreibung gemacht hatten zu Digitalisierung, Arbeit. Das waren halt die ersten. 00:17:51.050 --> 00:18:03.140 Ähm Gelder, die wir bekommen haben und die haben's uns ermöglicht eben, ja, uns selber zu bezahlen und auch Angestellte zu bezahlen und da mal so anzufangen, so eine richtige Organisation aufzubauen. 00:18:03.050 --> 00:18:16.619 Mhm. Und die ist auch gar nicht so klein. Also ihr habt äh ein relativ großes Team, wenn man eurer Webseite glauben darf. Da sind auf jeden Fall viele Köpfe äh genannt. Wissen, dass sie alles jetzt hauptamtliche Mitarbeiter oder wie setzt sich das zusammen? 00:18:16.895 --> 00:18:25.860 Ja, tatsächlich, also wir wir schwindeln da nicht, ne und schreiben da quasi noch den den irgendwie äh äh keine Ahnung irgendwelche freiberuflichen, 00:18:25.981 --> 00:18:39.032 Leute da drauf mit zwei Ausnahmen ähm und zwar der Andreas Eisenhower, der ist äh bei uns, der macht so Buchhaltungssachen und so. Das ist freiberuflich und Fabio, ein ganz toller Italiener, der auch in Italien richtig prominent ist, ist so ein. 00:18:39.712 --> 00:18:53.670 So mit 60.000 Twitter-Followern, äh der war lange angestellt bei uns und äh er ist aber nach Italien zurückgegangen und im Moment ist er bearbeitet ja für uns auch freiberuflicher Basis. Aber die anderen, die da drauf stehen, sind wirklich alles Angestellte von. 00:18:53.479 --> 00:19:01.266 Mhm. Ah, ich zähle siebenundzwanzig Leute. Das ist ja schon äh ist ja schon fast ein mittelständisches Unternehmen. 00:19:01.723 --> 00:19:06.422 Ja mit dem mit dem entsprechenden äh Verwaltungsaufwand, der da dran hängt und. 00:19:06.122 --> 00:19:12.930 Der aktivistische Mittelstand. Nee, ich finde das, ich finde das ja super. Ich meine äh wir kennen ja auch 00:19:12.744 --> 00:19:25.386 die Erfolgsgeschichte von Netzpolitik org, die sich ja quasi so genau aus dieser äh freiwilligen Arbeit heraus äh gestartet äh haben, aber dann halt auch in zunehmenden Maße äh diese Finanzierungsproblematik reingekommen sind. 00:19:25.261 --> 00:19:29.701 Kraft seiner Popularität und Professionalität ist es ihr auch gelungen, aber 00:19:29.611 --> 00:19:36.100 halt auch viele Beispiele, wo das eben dann nicht funktioniert hat und der ganze Aktivismus so ein bisschen äh wieder dahinsiegt. 00:19:37.579 --> 00:19:51.117 Das ist also eine gemeinnützige GmbH, damit wir's mal gesagt haben, ne, dass es äh so ist es aufgestellt und ja und ihr äh widmet euch der Beobachtung, ja ich weiß nicht, ich will jetzt nicht immer nur das Wort Algorithmen 00:19:50.937 --> 00:20:00.497 bemühen, weil ich finde, dass allein drückt wahrscheinlich ja auch gar nicht aus, worauf ihr den Blick habt. Was was sind denn eure, 00:20:00.504 --> 00:20:08.838 Themen, also wie geht ihr jetzt sozusagen an die Arbeit äh heran? Wie wie wie blickt ihr auf dieses Feld und wie organisiert ihr euch da? 00:20:09.199 --> 00:20:17.184 Das ist natürlich völlig richtig und äh ich kann mir schon vorstellen, dass auch manche, die da grad zuhören, so innerlich ein bisschen die Augen verdrehen, 00:20:17.485 --> 00:20:30.050 ne, so oh Algorithmen, ne und dann vielleicht auch KI und wat ein Unsinn, äh die äh weil ja doch das auch häufig sehr unspezifisch verwendet wird. Das ist natürlich eine Metapher, ne? Das ist ja klar. 00:20:30.201 --> 00:20:36.606 Also äh klar gibt es Algorithmen und wir beschäftigen uns auch mit denen aber ähm was. 00:20:37.105 --> 00:20:41.131 Für uns der Gegenstand ist unserer Beobachtung, ist das, was wir. 00:20:41.582 --> 00:20:49.411 Beschreiben oder benennen mit automatisierte Entscheidungssysteme, automatisien making Systems, ne? Und das ist natürlich auch ziemlich abstrakt. 00:20:49.718 --> 00:20:57.866 Aber was wir versuchen damit zum Ausdruck zu bringen, das ist halt ein Begriff, der in einer gewissen äh Wissenschaftscommunity auch schon ziemlich lange etabliert ist, 00:20:57.992 --> 00:21:06.994 dass es Systeme gibt, an die halt menschliche Entscheidungen im Grunde genommen ausgelagert werden. Da können wir ja vielleicht gleich nochmal ein bisschen genauer drüber reden und, 00:21:07.012 --> 00:21:15.929 Damit wird auch ein Teil von menschlicher Autonomie an die abgetreten und das ist etwas, was eben weitreichende Auswirkungen haben kann in der Gesellschaft und da, 00:21:16.170 --> 00:21:26.084 wo wollen wir eben diese Watchdock Organisation sein? Und wir haben das in vier Felder aufgeteilt, thematisch. Das eine ist ähm ADM, nenne ich's jetzt mal einfach, Abkürzung, 00:21:26.283 --> 00:21:33.338 in der öffentlichen Hand, ja, also wenn die Verwaltung das verwendet, Verwaltung heißt durchaus auch in dem Fall Sicherheitsbehörden. 00:21:33.939 --> 00:21:40.290 Aber schon auch die ganz normale Verwaltung in Anführungszeichen, es muss also nicht nur um Geheimdienste und Polizei gehen. 00:21:40.663 --> 00:21:42.343 Der Staat an sich, ne. 00:21:42.111 --> 00:21:43.379 Der Staat, genau. 00:21:44.317 --> 00:21:56.562 Ne ähm und dann äh ADM ähm äh in der äh in the publix vier das ist sehr schwer auf Deutsch zu übersetzen. Wir haben uns mal dann geeinigt auf öffentliche Meinungsbildung. 00:21:57.068 --> 00:22:07.848 Da geht es dann um die großen Plattformen. Da geht's dann eben um äh Facebook und YouTube und TikTok und Twitter und so weiter und wie die Algorithmen und solche Systeme verwenden, 00:22:08.058 --> 00:22:14.728 was das für eine Bedeutung hat für uns und dann ADM am Arbeitsplatz. Ähm das ist, 00:22:14.939 --> 00:22:24.132 für uns im Moment nicht so, das möchten wir schon auch noch ändern, aber im Moment nicht so diese dieses ähm Gigwork und Plattformwork, so Uber und ähm. 00:22:24.439 --> 00:22:33.909 Gorillas und so, sondern eher ähm was dann unter dem Begriff äh People Analytics häufig läuft, Systeme, mit denen man. 00:22:34.252 --> 00:22:40.068 Die Performance von Menschen überwachen kann, versuchen kann, auch sie zu steuern und so weiter und so fort. 00:22:40.567 --> 00:22:50.644 Das vierte und letzte ist dann Nachhaltigkeit und das ist natürlich auch ein sehr schwammiger Begriff, weil einerseits unter Nachhaltigkeit alles fällt, ja, also wenn man den. 00:22:51.089 --> 00:22:59.153 UN-Begriff äh vereinte Nationen, ne und Nachhaltigkeitsziele anguckt, dann hat man da 17 verschiedene und da ist im Grunde genommen alles drunter. 00:22:59.556 --> 00:23:13.316 Und gleichzeitig denken viele Leute über Nachhaltigkeit nur an Energieverbrauch und für uns ist diese Nachhaltigkeit von den Systemen eben fokussiert auf tatsächlich Energieverbrauch aber auch Arbeitsbedingungen die dazu, 00:23:13.485 --> 00:23:17.565 die die im Zusammenhang stehen damit, dass solche Systeme erzeugt werden, 00:23:17.716 --> 00:23:31.139 Und ähm auch also soziale und und ähm ökonomische Kriterien. Ja und das sind die vier Arbeitsfelder, bei denen wir gesagt haben, da müssen wir uns mal drauf fokussieren. Ich will vielleicht noch einen Satz sagen, das hört sich ja so an, so das ist ja irgendwie alles, 00:23:31.164 --> 00:23:32.798 das stimmt längst nicht, 00:23:32.900 --> 00:23:47.201 Äh ich wenn man zum Beispiel sagt äh hier ähm Gesundheit äh Mobilität ne, automatisiertes Fahren ähm autonome Waffen und so weiter. Da gibt's also schon zahlreiche Felder, bei denen wir sagen, 00:23:47.376 --> 00:23:52.976 Kümmern wir uns nicht drum, nicht weil wir das uninteressant fänden, sondern weil wir einfach uns fokussieren müssen. 00:23:53.313 --> 00:24:03.041 Nur um dem vielleicht manchmal entsteht der Eindruck, das ist doch quasi alles, aber das ist längst nicht alles, wo drum wir uns kümmern könnten, hm? Sondern äh schon auch eine Beschränkung. 00:24:03.571 --> 00:24:10.961 Ja, ist ein weites Feld und ich denke mal, es gibt auch eine ganze Menge äh Überschneidungen zwischen diesen Bereichen und äh letzten Endes. 00:24:11.292 --> 00:24:20.191 Dreht sich die Uhr ja auch weiter, also die die Themen erweitern sich ja in gewisser Hinsicht von äh alleine mit Military fahren wir jetzt hier gar nicht erst äh. 00:24:19.891 --> 00:24:21.543 Nee. 00:24:21.622 --> 00:24:33.405 Äh vielleicht ist das auch mal eine ganz gute Idee, das vielleicht auch mal nach diesen äh vier groben Kategorien weiter zu befassen. Vielleicht kannst du ja mal so ein paar Beispiele äh nennen 00:24:33.286 --> 00:24:39.042 Womit ihr euch dann dann jeweils konkret beschäftigt. Also ja Automats sind 00:24:38.952 --> 00:24:46.860 äh ADM mal als Begriff und äh los geht's halt mit der öffentlichen Hand, also Public äh Sektor. 00:24:46.878 --> 00:24:50.471 Sagen wir mal so ein bisschen auch der Klassiker, ne? So äh, 00:24:50.622 --> 00:24:59.274 wie sagte wow so schön so private Daten äh schützen öffentliche Daten nützen so und beim Nutzen dieser öffentlichen Daten ähm ja 00:24:59.070 --> 00:25:05.854 wird ja auch alles zusammen äh gerührt, aber jetzt kommen wir ja quasi, also wenn du sagst ADM dann ist das ja, 00:25:05.951 --> 00:25:18.065 ja okay, Algorithmen spielen dann eine Rolle, ne, aber ist natürlich auch schon mal generell die Frage, welche Daten werden überhaupt herangezogen und wie werden sie dann ausgewertet und vor allem sehe ich halt den Punkt so, welche, 00:25:18.167 --> 00:25:32.180 Wirkmächtigkeit und Rechtskraft hat letzten Endes das, was äh eben die automatisierten Systeme schon mal äh vorauswerten und was wird dann einfach nur noch mit einem Stempel abgesegnet und und wer ist dann schuld, ne? 00:25:32.739 --> 00:25:42.473 Ja, also da hast du schon einen ganz guten Abriss gegeben, auf jeden Fall. Es ist eben so, dass ähm in der öffentlichen Hand ja, 00:25:42.594 --> 00:25:50.940 Bei uns jetzt in Deutschland die Digitalisierung nicht sehr weit vorangeschritten ist und viele aus dieser Szene bemängeln das ja auch. Wir wollen ja eigentlich, 00:25:50.953 --> 00:25:56.024 alle eine viel bessere, besser aufgestellte öffentliche Hand, was Digitalisierung angeht, 00:25:56.097 --> 00:26:04.887 ja nur jetzt auf die Coronapandemie zurückblicken und ne ähm man kann ja gar nicht mehr drüber lachen über die Faxgeräte in den Gesundheitsämtern. 00:26:05.200 --> 00:26:15.475 Das ist ja ein Trauerspiel, ne? So und auf der anderen Seite ist es aber so, dass dort, wo die Verwaltung sich stärker schon digitalisiert hat und automatisiert hat, dass eben. 00:26:15.969 --> 00:26:24.339 Massiv Probleme entstehen. Hm Beispiele etwa äh sind die Niederlande, wo die einfach. 00:26:24.778 --> 00:26:27.530 Echt einen anderen Umgang haben. Das kann man schon so sagen. 00:26:28.167 --> 00:26:40.791 Ähm da gibt es nicht so viel kritische Beobachtung und dann werden eben so Systeme entwickelt wie ja SYRI, das ist auch so ein risk äh so ein Risikomanagementsystem. 00:26:41.976 --> 00:26:51.920 Das ist nicht äh lang eingesetzt worden, aber es ist ausprobiert worden, bis es dann auch durch ein Gerichtsverfahren gestoppt wurde und da wurde zum Beispiel versucht, einfach ganz viele Daten zusammenzuwerfen, 00:26:52.137 --> 00:26:58.236 um dann mit Hilfe von einem so einem Automatisierungssystem, Analysesystem kann man's natürlich auch nennen, 00:26:58.387 --> 00:27:05.609 herauszufinden, ob zum Beispiel jemand Sozialleistungsbetrug begeht. Ja, so als Beispiel, da hat jemand eine, 00:27:05.838 --> 00:27:17.976 Wohnung äh also er hat eine er hat eine Meldeadresse und ähm bekommt jetzt also zum Beispiel eine Wohnsubvention dafür und dann stellen die fest über die Daten vom. 00:27:18.367 --> 00:27:29.243 Wasserwerk, das sauber gar kein Wasser verbraucht wird. Ja und offenbar wohnt der Typ oder die Frau dann woanders und kassiert aber dafür Subventionen und dann wird da eingegriffen, 00:27:29.471 --> 00:27:33.353 Das ist halt schon so ein natürlich ein Beispiel dafür. 00:27:33.894 --> 00:27:43.646 Wie äh zum einen versucht wird, ja so eine Art äh Überwachungssystem einzurichten, das dann auch noch automatisiert Ergebnisse ausspuckt, 00:27:43.917 --> 00:27:55.496 und auf der also was was wir problematisch finden und auf der anderen Seite ist es auch ein typischer Fall davon, dass solche Systeme häufig verwendet werden, also erstmal ausprobiert werden, wenn man so will, an den Schwächsten der Bevölkerung. 00:27:56.164 --> 00:28:07.887 Und äh in in Holland. Also das System hat schon einige Schlagzeilen gemacht. Da hat's dann auch ein Gerichtsverfahren gegeben. Das ist auch erstmal ausgesetzt worden. Ähm wird aber weiterverfolgt von den Behörden, 00:28:08.140 --> 00:28:15.681 Gab's aber noch in vielen drastischeren Fall, da ist nämlich auch mit so einem automatisierten System ähm sind. 00:28:16.000 --> 00:28:28.005 Ähm Kindergeldzahlungen zurückgefordert worden und das war in ganz vielen Fällen vollständig ungerechtfertigt und es waren auch Summen, die waren sehr hoch und da sind Leute wirklich in extreme Existenzängste gekommen. Es soll sogar. 00:28:28.631 --> 00:28:40.234 Selbstmorde gegeben haben aus dem Grund, weil die Leute halt irgendwelche hochrenten Nachforderungen, also Rückforderungen bekommen haben und gedacht haben, das werde ich nie leisten können, ja und ich sehe da keinen Ausweg, 00:28:40.421 --> 00:28:47.084 Solche Beispiele sieht, dann muss man natürlich sagen, das gibt's alles in Deutschland nicht, das ist gut, dass das so ist, ja, aber es hat. 00:28:47.734 --> 00:28:58.363 Wahrscheinlich noch nicht so wahnsinnig viel damit zu tun, dass die deutsche Verwaltung so super ethisch ist, sondern dass einfach noch nicht so viel digitalisiert ist und dass noch nicht so viele Ideen entwickelt wurden. Also ich will damit jetzt nicht sagen. 00:28:59.025 --> 00:29:04.913 Ich habe die alle in Verdacht, dass die solche schlimmen Systeme entwickeln wollen. Es ist ja auch häufig, 00:29:05.082 --> 00:29:15.813 bei diesem Kindergeld ähm Ding ist es ja meistens auch ein Fehler. Das ist ja da steckt ja keine Absicht dahinter, dass jetzt jemand dafür sorgen will, dass das passiert, 00:29:16.042 --> 00:29:18.932 aber ähm es fehlt eben an. 00:29:19.353 --> 00:29:27.020 Aufmerksamkeit und Sensibilität dafür und es fehlt an Mechanismen, um dafür zu sorgen, dass das nicht schief geht, 00:29:27.273 --> 00:29:36.106 Und das ist halt unser Anliegen. Wir wollen Digitalisierung, ja, aber sie muss halt so gemacht werden, dass das nicht passieren darf äh kann. 00:29:35.806 --> 00:29:41.412 Du möchtest Digitalisierung mit menschlichem Anschätzen? 00:29:38.582 --> 00:29:48.389 Genau, ja. Nein, wir möchten nicht nur menschliches Antlitz, ne, sondern wir möchten, dass die Rechte der Menschen äh geachtet werden. 00:29:48.449 --> 00:29:58.917 Schon klar. Ja ich sehe gerade, die Jury ist dann auch vom äh europäischen Menschen äh äh Rechte Gerichtshof äh gestoppt worden. 00:29:59.320 --> 00:30:08.645 Nee, das war schon ein Gericht in den in den Niederlanden, aber der äh europäische Menschenrechtsgerichtshof äh also die die haben da drauf verwiesen, dass 00:30:08.538 --> 00:30:17.947 dass äh also jetzt oh es kann das ist eine Weile her nicht, dass ich jetzt was Falsches sage, aber ich meine der äh Menschenrechtsgerichtshof hätte sich nicht damit befasst, 00:30:18.086 --> 00:30:24.623 haben nur die Argumentation äh aufgegriffen, von dort zu sagen ähm das ist eben, 00:30:24.792 --> 00:30:30.128 eine ähm Privatsphäre ähm äh ein Privatsphäre eingriff, was in dem Fall, 00:30:30.236 --> 00:30:35.632 der damit mit der Menschenrechtskonvention nicht in Übereinstimmung ist. So habe ich das in Erin. 00:30:35.332 --> 00:30:41.154 Ja, ich sehe jetzt hier grad einen Bericht, dass es da durchaus ein äh Urteil in Den Haag äh vom. 00:30:41.365 --> 00:30:46.358 Das meine ich. Das ist ein holländisches richtig. Das ist ein holländisches äh ähm Gericht gewesen. 00:30:46.058 --> 00:30:54.332 Genau das ist das ist das ist nicht mit den Menschenrechten äh quasi konform läuft so äh das genauso rum. 00:30:54.447 --> 00:31:02.499 Ja, ne? Es ist äh ja, das ist äh interessant, ne, weil das natürlich auch alles so ein potentieller Zauber-Lehrlings- äh Moment sein kann, ne. Also wir wünschen 00:31:02.295 --> 00:31:15.574 immer irgendwie, dass der Besen schön automatisch tanzt und warum läuft denn das nicht, aber äh wenn er dann halt anfängt äh durchzudrehen und man weiß nicht mehr, wie man die Maschine stoppen kann, dann ist es uns natürlich dann auch nicht recht und äh insofern 00:31:15.419 --> 00:31:19.522 ist vielleicht manchmal die schleichende Digitalisierung gar nicht so schlecht 00:31:19.312 --> 00:31:30.086 weil äh es nicht unbedingt äh besser wird. Und das ist natürlich immer diese klassische Abwägung, ne zwischen Chancen und Risiken, die wir immer äh haben bei der äh Anwendung von Technologie. 00:31:30.549 --> 00:31:40.241 Äh die sich natürlich hier dann auch äh niederschlägt. Okay, das war jetzt ein Beispiel aus Holland. Gab's denn auch schon äh ein entsprechendes Thema in Deutschland? Vermutlich ja, ne? 00:31:39.996 --> 00:31:47.567 Ja also äh so was eben nicht, ne, dass da wirklich schon so sozusagen äh hier die, 00:31:47.783 --> 00:31:55.499 die die durchschnittlichen deutschen oder in Deutschland lebenden Menschen davon betroffen gewesen wären, was in, 00:31:55.691 --> 00:32:05.432 aber eben passiert ist, das werden einige ja auch kennen durch vor allen Dingen Berichterstattung bei Netzpolitik ist, äh dass das BAMF, also das ähm ähm. 00:32:06.111 --> 00:32:20.160 Bundesamt für äh äh Migration und und Flüchtlinge äh so eine automatische Dialekterkennung verwendet, die hochumstritten ist, ne? Weil da ist auch eben äh so ist, dass das wissenschaftlich gesehen auf echt, 00:32:20.299 --> 00:32:26.019 tönernen Füßen steht, ja, dann gibt es predictive Policing in Deutschland, in vielen Bundesländern, 00:32:26.278 --> 00:32:30.309 wird das eingesetzt. Das ist diese Idee, dass man jetzt nicht, 00:32:30.508 --> 00:32:45.320 individuelle Straftäter innen identifizieren kann, sondern dass man versucht durch statistische Methoden und eben auch und so weiter auf Grundlage von vorliegenden Kriminalitätsdaten rauszufinden, wo werden jetzt in Zukunft mehr, 00:32:45.609 --> 00:32:52.753 Verbrechen begangen, zum Beispiel Autodiebstahl, Einbruch und dergleichen und dann wird dort eben verstärkt patrouilliert. 00:32:53.060 --> 00:33:01.761 Könnte man ja auch erst mal sagen. Ist doch eine wahnsinnig gute Idee, ne, aber ich glaube, mit ein bisschen fantasiefallen einem auch sofort mögliche Probleme ein, 00:33:01.923 --> 00:33:14.662 dann eben zum sogenannten Overpolicing kommt und so einen selbstverstärkenden Effekt hat, da wo Kriminalität schon ein bisschen höher ist, wird halt stärker patrouilliert, dann wird mehr Kriminalität entdeckt als woanders, wo nicht patrouilliert wird, ne und dann, 00:33:14.759 --> 00:33:20.984 man so eine Ghettobildung, also um es jetzt mal wirklich ein bisschen zuzuspitzen, aber um den Mechanismus zu beschreiben. 00:33:22.066 --> 00:33:28.519 Das passiert in Deutschland schon und es werden auch in Deutschland automatisiert äh Steuerbescheide erlassen und. 00:33:29.264 --> 00:33:34.131 Das ist zum Beispiel eine ganz interessante Geschichte, weil man da auch sagen muss. 00:33:34.775 --> 00:33:44.852 Wir haben ja viele Forderungen eben in erster Linie nach Transparenz, ne, dass es ganz wichtig ist, dass man weiß, wo das verwendet wird und auch auf welche Art und Weise und dass da natürlich ein typisches Argument ist, 00:33:44.954 --> 00:33:50.560 also bei den Sicherheitsbehörden, die sagen natürlich auch immer, wir können da keine Auskunft drüber geben und das ist hochumstritten, 00:33:50.795 --> 00:33:57.315 da würden glaube ich viele in der Szene sagen ja ja das ist immer so vorgeschützt ne? Die wollen nur einfach nicht gestört werden, 00:33:57.501 --> 00:34:09.741 jetzt zum Beispiel bei den ähm bei den Steuerbescheiden ist es ja auch so, dass die keine Transparenz wirklich darüber herstellen wollen, weil das ja auch genau zu diesem Gaming-the-System Effekt führen könnte. 00:34:09.621 --> 00:34:13.359 Wenn man weiß, wie der Algorithmus funktioniert, dann kann man ihn auch leichter umgehen. 00:34:13.539 --> 00:34:24.884 Richtig, so ist es, ne, so Stichwort äh oder oder Methode Serge Engine Optimization, ne? Je besser du weißt, wie der Googlesuchalgorithmus funktioniert, desto besser kannst du deine eigene Website platzieren und so wäre das natürlich dort auch. 00:34:24.884 --> 00:34:33.892 Mhm. Ja dann äh dann kriegt SEO eine ganz neue Bedeutung, weil das ja so so Steuer äh Optimierung äh ist sozusagen, ne. 00:34:32.901 --> 00:34:36.950 Genau. Ja, SBO, Steuerbescheid, ob. 00:34:36.939 --> 00:34:43.536 Ja ja und ich meine in gewisser Hinsicht wird das ja auch. 00:34:43.843 --> 00:34:48.788 Schon so gemacht. Ich meine, Leute, die sich gut im Steuerrecht auskennen, ne, äh. 00:34:48.518 --> 00:34:50.380 Genau so ist es. Ja ja, genau. 00:34:49.215 --> 00:34:59.965 Rechtsanwälte et cetera, Steuerberater, die kennen natürlich diese ganzen Lücken und wir hatten das ja hier so mit Cum-Ex und solchen äh Vorfällen ja auch. Also es gibt ja schon immer Leute, die. 00:35:00.542 --> 00:35:06.851 Ihr Geld damit äh wie soll ich sagen, ganz gut beisammenhalten, um's mal zurückhaltend auszudrücken 00:35:06.683 --> 00:35:20.714 äh weil sie eben das System gut kennen. Das ist ja in dem Sinne auch nicht verboten, das System gut äh zu kennen. Bloß in dem Moment, wo es ja large, Scale und automatisiert ist, äh hat das natürlich gleich ganz andere Auswirkungen. 00:35:21.118 --> 00:35:27.679 Ja äh und das ist aber ein guter Punkt, weil man hier ja zum Beispiel sogar argumentieren könnte, 00:35:27.926 --> 00:35:41.356 dass die dass es da eine eine von diesen Möglichkeiten gibt. Es gibt ja viele, die sagen, ja aber man kann doch die Gerechtigkeit äh und die Diskriminierungsfreiheit und so weiter kann man ja verbessern durch automatisierte Systeme. 00:35:41.813 --> 00:35:49.942 Das würden wir eben auch prinzipiell immer sagen, ja, ja, das stimmt, ja, nur leider finden wir so wenig Beispiele dafür, wo das tatsächlich gemacht wird und gelingt, 00:35:50.159 --> 00:36:02.988 und bei den bei der Steuergeschichte ist es ja so, da gibt es ja ein Potenzial. Ich meine, wir beklagen uns dadrüber, dass solche Systeme häufig angewendet werden, wie ich eben beschrieben habe, äh auf vor allen Dingen eben, 00:36:03.199 --> 00:36:12.951 ähm benachteiligte Gruppen und Menschen. Und bei dieser ähm Steuerüberprüfung da wäre ja die Chance da. 00:36:13.300 --> 00:36:21.760 Leuten auf die Schliche zu kommen, ne, die versuchen also mit unerlaubten Methoden, die äh das zu optimieren. 00:36:22.151 --> 00:36:28.641 Gleichzeitig ist aber auch dann wieder ein sehr gutes Beispiel dafür. Da mache ich noch mal ein großes Fass auf, aber das ist notwendig. 00:36:29.152 --> 00:36:38.123 Dass man jetzt auch nicht den Fehler machen darf, immer nur dann zum Beispiel auf diese Systeme und auf diese Technik draufzugucken denn du hast es selber angesprochen. 00:36:38.640 --> 00:36:50.333 Vieles von dem, was zur Steuervermeidung gemacht wird, ist legal, aber du kannst es nur dann ausnutzen, wenn du erstens schon sowieso viel Geld hast, wenn du Möglichkeiten hast, zum Beispiel, was weiß ich, deine Gewinne inne, 00:36:50.490 --> 00:36:54.168 GmbH auszulagern oder weiß der Kuckuck, was es alles für Tricks gibt. 00:36:54.600 --> 00:37:04.257 Dem wird man natürlich nicht Herr werden, wenn man dann eine eine tolle Automatisierte ähm äh Software hat. 00:37:04.642 --> 00:37:09.304 Die sozusagen Betrug erkennt, weil der nach dem Motto was ist, 00:37:09.545 --> 00:37:21.563 was ist es, eine Bank auszurauben, dagegen eine Bank zu gründen, ne? Wenn man natürlich gleichzeitig sagen kann, ich habe hier ganz andere Methoden, ähm das System auszunutzen und die sind alle völlig legal. 00:37:22.651 --> 00:37:31.796 Solche Algorithmen, also ich habe natürlich da auch keinen Einblick. Äh ist alles so ein bisschen äh hören sagen, aber es gibt ja so ein paar Klassiker, ne, also dass man, 00:37:31.887 --> 00:37:34.524 Steuererklärung, Buchhaltung, 00:37:34.573 --> 00:37:44.481 Zum Beispiel äh also wenn man jetzt so eine Bilanz hat oder so oder halt auch wirklich mal alle Buchungen äh durchgeht und einzeln überprüft, dann kann man ja also äh statistische Häufungen von Endziffern 00:37:44.320 --> 00:37:50.322 machen und solche äh Sachen, ne, die schon mal so erste Hinweise äh liefern für hier könnte ein Anfangsverdacht, 00:37:50.461 --> 00:38:01.379 vorliegen. Das ist ja sicherlich an der Stelle auch eine ganz sinnvolle Sache, um überhaupt erst mal professionelle äh Untersucher solcher äh Dokumente dann äh 00:38:01.253 --> 00:38:07.148 auf eine Fährte zu schicken, aber ist natürlich ganz was anderes, wenn das vollständig so läuft. Du hast jetzt gesagt, es gibt 00:38:07.034 --> 00:38:12.772 das schon voll automatisierte Steuerbescheide. Was was gibt es da schon? 00:38:13.511 --> 00:38:19.971 Es werden in Deutschland äh Steuerbescheide automatisiert erstellt. Also du gibst deine Steuererklärung ab und da guckt kein Mensch mehr drauf, 00:38:20.236 --> 00:38:25.187 sondern du bekommst irgendwann Bescheid und der ist im Grunde genommen von von einer Maschine erstellt worden. 00:38:25.752 --> 00:38:38.707 Und äh da da sagen wir eben auch, das ist prinzipiell erstmal gar nicht problematisch, weil äh jetzt in dem konkreten Fall etwas garantiert ist, wofür wir uns woanders immer einsetzen, nämlich dass es. 00:38:39.471 --> 00:38:47.438 Ausreichende Widerspruchsmöglichkeiten gibt, ne? Also ich meine guck dir das aus der Nutzerperspektive an. Du bekommst deinen Steuerbescheid und, 00:38:47.697 --> 00:38:57.660 kennst ja normalerweise den Sachbearbeiter oder die Sachbearbeiterin auch nicht, die den erstellt hat und dann ist es halt deine Aufgabe, dir den anzugucken und zu überlegen, ob der jetzt in Ordnung ist oder ob da Fehler gemacht wurden, 00:38:57.889 --> 00:39:07.521 Wenn du aber der Ansicht bist, dass das der Fall ist, dann kannst du, hast du eben auch ein Verfahren, ja? Das heißt, du legst da einen Widerspruch ein und dann muss das geprüft werden und so weiter. 00:39:07.629 --> 00:39:20.386 Und wir sehen halt das Problem, dass es in vielen Fällen, wo so eine Automatisierung stattfindet, diese vernünftigen Verfahren nicht gibt. Es gibt keine Transparenz darüber, dass das gemacht wird und du weißt auch gar nicht, wie du Widerspruch einlegen sollst. 00:39:20.609 --> 00:39:22.591 Das ist bei dem Steuersystem. 00:39:23.199 --> 00:39:31.641 Ja, ich will das jetzt nicht in zu rosigen äh Tönen malen, aber äh das ist schon in Ordnung, weil ähm, 00:39:31.846 --> 00:39:38.984 du guckst ja dann da drauf und stellst fest, da ist irgendwas nicht in Ordnung und dann legst du einen Widerspruch an, dann guckt sich das auch ein Mensch an. 00:39:39.796 --> 00:39:42.343 Da sagen wir, ist in Ordnung, kann man machen. 00:39:43.251 --> 00:39:51.507 Wir hatten auch bei Lobby äh schon ja auch ab und zu mal nach Österreich. Da gab's ja diesen äh Fall mit diesem ähm hieß das äh. 00:39:51.207 --> 00:39:52.457 AMS, Algori. 00:39:52.157 --> 00:40:03.075 Genau, HMS in diesem Jobcenter genau, wo so Leute quasi für bestimmte Qualifikationen vorausgewählt wurden durch so einen, 00:40:03.153 --> 00:40:10.069 äh System Machine und KI müssen wir sicherlich auch nochmal, 00:40:10.111 --> 00:40:22.832 sprechen, aber hier konkret, das ist ja dann auch unter die Räder gekommen das System, weil das irgendwie einfach im Prinzip ja auch immer so diesen diesen inneliegenden den diese Datenwelten dann äh haben, nur noch verstärkt hat. 00:40:23.530 --> 00:40:31.005 Ja, es war sehr umstritten, es war ganz interessant, weil das auch in Österreich wirklich mal Schlagzeilen gemacht hat. Ja, so normalerweise. 00:40:31.967 --> 00:40:40.102 Sowas ja nicht auf die Titelseiten, aber dieses AMS-Ding, das war schon ganz schön umstritten. Und ähm und das liegt da dran, dass. 00:40:40.884 --> 00:40:53.893 Halt die Leute, die sich das angeschaut haben mit einem kritischen Blick gesagt haben, da läuft was falsch und zwar ähm gibt es da so ein Punktesystem und das Ziel erstmal zu nennen. Es ging dadrum, rauszufinden. 00:40:54.284 --> 00:41:06.903 Ob Menschen zur Wiedereingliederung in den Arbeitsmarkt, wie es so schön heißt, bestimmte Förderungen bekommen sollten, also etwa Fortbildung und keine Ahnung äh Bewerbungstrainings und so was, ne, so wie es das ja hier auch gibt. 00:41:07.600 --> 00:41:16.782 Dann haben die versucht, das insofern zu automatisieren, dass sie ähm auf so einer Datenanalyse eben versucht haben rauszufinden. 00:41:17.113 --> 00:41:26.751 Wer hat denn jetzt sehr, sehr gute Chancen wieder sich zu integrieren, also wieder einen Job zu finden? Die bekommen keine Leistung. Wer hat ganz lausige Chancen? Die bekommen auch keine Leistung, weil, 00:41:26.866 --> 00:41:30.615 man hat nicht genug Geld, um allen was zu geben, ne? Ist die Argumentation, 00:41:30.705 --> 00:41:43.330 Also sucht man sich die raus, bei denen das Potenzial am größten ist und beziehungsweise dann eben auch die das Verhältnis, ne, weil das Potenzial äh ist natürlich bei den bei der ersten Gruppe am größten, aber die muss man dann eben auch nicht unterstützen, 00:41:43.577 --> 00:41:44.195 und. 00:41:44.568 --> 00:41:53.605 Dann kam halt raus, dass zum Beispiel Frauen ähm so eine Art Negativpunkt bekommen haben oder einen Punktabzug dafür, dass sie, 00:41:53.900 --> 00:42:02.841 Leistungen erbringen müssen, also dass sie halt zum Beispiel auf Kinder aufpassen und dergleichen, ja? Und das wurde aber bei Männern nicht äh gemacht und. 00:42:03.485 --> 00:42:13.658 Da hat man natürlich sofort den Eindruck, hey, da wird also genau die Diskriminierung, die in der Gesellschaft sowieso schon da ist, wird da nicht wird da zum einen widergespiegelt und zum anderen dadurch auch noch verstärkt. 00:42:14.067 --> 00:42:27.569 Macher dieses Systems, die haben das mit Zähnen und Clown verteidigt und ich finde den Fall deshalb interessant, weil ich es auch gar nicht so eindeutig finde, weil einerseits war sozusagen klar, dass da diskriminiert wurde und dass das auch nicht geht. 00:42:28.447 --> 00:42:38.427 Auf der anderen Seite haben die aber immer argumentiert, ja, aber wir haben begrenzte Ressourcen und was wir versuchen, ist eben diese Optimierung und am Ende. 00:42:39.040 --> 00:42:45.259 Ist kein, also sozusagen, es ist dieser Unterschied zwischen Disprit Treatment und Disprit Impact, wie die Amerikaner das. 00:42:45.596 --> 00:42:49.658 Also du du hast ähm einerseits eine Ungleichbehandlung, 00:42:49.760 --> 00:42:56.250 aber du hast nicht ein ungleiches Ergebnis. Also du hast kein diskriminierendes Ergebnis. War, wie gesagt, die Behauptung der Macher. 00:42:56.545 --> 00:43:07.427 Das Ding ist nie eingesetzt worden, weil es erst diesen ganzen Streit gab und Gerichtsverfahren da drum und dann Corona kam und man dann die Grenze sozusagen Datenbasis auf den Müll werfen konnte. 00:43:07.758 --> 00:43:17.654 Weil das auf einmal alles nicht mehr stimmte. Und ähm deswegen ja ist der Streit für mich tatsächlich so ein bisschen offen, muss ich sagen. Also auch wenn. 00:43:17.979 --> 00:43:23.898 Viele in der Szene so ganz, dass so ganz eindeutig finden, ich finde es weiterhin nicht so ganz eindeutig. 00:43:24.457 --> 00:43:29.300 Aber ähm ja, es war ein gutes Beispiel, ne, für so einen Streit, der da entstehen kann. 00:43:29.757 --> 00:43:34.696 Sicherlich auch ein gutes Beispiel für Streit, der auch noch äh kommen wird. Also ich meine, das ist so 00:43:34.582 --> 00:43:48.372 jetzt nicht der letzte Ansatz gewesen sein und du hast schon Recht. Ich meine, dieser Wunsch nach Optimierung bei manchen Themen versuche ich auch oft mich immer so in diese Situation äh zu versetzen, so was würde ich denn eigentlich gerne haben, 00:43:48.463 --> 00:43:50.950 Wenn ich jetzt morgen Bundeskanzler bin. 00:43:50.801 --> 00:43:53.300 Mhm, das ist eine super Übung, finde ich auch. 00:43:53.000 --> 00:43:55.253 Und äh 00:43:55.139 --> 00:44:04.681 das Erste, was mir sozusagen in den Sinn käme, wäre, ich möchte jetzt gerne mal solide Daten haben dadrüber, was unser Staat eigentlich genau tut. 00:44:05.150 --> 00:44:13.028 Und selbstverständlich aus dieser Perspektive möchte man natürlich möglichst viele, möglichst detaillierte Daten, die 00:44:12.938 --> 00:44:26.410 möglichst alles umfassen haben. Nicht, dass man das alles sofort anfassen kann und so weiter, aber äh es ist ja äh auch eine Erfahrung, wenn man jetzt so wie wie wir ja so aus dieser Computer äh Netzprägung herauskommen, 00:44:26.705 --> 00:44:39.618 Aber erstmal sagt so, ja, dass dass man die Daten anschauen und äh dann analysieren wir das so ein bisschen, ja, Stichwort auch äh Datenjournalismus, so das Relevante äh äh aus den aus den Basisdaten herausfinden, um dann, 00:44:39.649 --> 00:44:44.593 eine Entscheidung zu fällen, die halt auch in ist. 00:44:45.093 --> 00:45:00.746 Davon ausgehen, dass die Daten dann auch korrekt erhoben sind et cetera, das ist natürlich nochmal andere Problematik und warum dann eben auch nicht den nächsten Schritt gehen und sagen, ja gut, so das das sind alles sehr viele Daten, die ändern sich am laufenden Meter, äh da kommt die ganze Zeit was dazu 00:45:00.560 --> 00:45:15.594 können uns nicht immer wieder äh viel Zeit nehmen, um sie sich in Gänze anzuschauen, dann sind sie schon wieder veraltet in dem Moment, wo wir die ersten Schlüsse gezogen haben. Das schreit ja in gewisser Hinsicht nach Automatisierung. Also es ist ja ein valides Ziel. 00:45:15.450 --> 00:45:21.477 Solche Systeme auch zu haben, aber die eigentliche Frage ist, in welchem Rahmen, 00:45:21.760 --> 00:45:28.069 Sollen sie halt, also auch in welchem Rechtsrahmen sollen sie eigentlich auch laufen und gibt's da irgendwo, 00:45:28.088 --> 00:45:36.932 moralisch ethische äh Grenzen, die man nicht überschreiten darf, ne. Das ist ja eigentlich der sofort aufkommende Fragenkatalog. 00:45:37.540 --> 00:45:44.756 Exakt und der ist natürlich auch nicht einfach zu beantworten oder er ist abschließend sowieso nicht zu beantworten. 00:45:45.382 --> 00:45:55.657 Ähm aber ich will's mal aufgreifen. Also das eine ist eben, du hast es selber gesagt, nur man möchte eigentlich viele Daten haben. Ich fand das so ganz interessant, die Piratenpartei hat bei der letzten Bundestagswahl. 00:45:55.970 --> 00:46:02.994 Ich kann das jetzt nicht exakt hersagen, aber ungefähr so meine ähm mein Geschlecht geht den Staat nichts an. 00:46:03.487 --> 00:46:05.137 Ja. 00:46:04.010 --> 00:46:05.944 Dran erinnern, an solche Plakate, ne. 00:46:06.359 --> 00:46:15.781 Und äh die also meine Vermutung ist Wald, ne, dass das so gedacht war, wie äh hört mal, das ist meine Privatsphäre. Ihr haltet euch da bitte raus und. 00:46:16.130 --> 00:46:25.582 Ähm ja ich möchte jetzt nicht dann zum Beispiel diskriminiert werden, weil ich eine Lesbe bin oder weil ich ein Schwuler bin oder weil ich irgendwie Trans bin oder sowas. 00:46:26.153 --> 00:46:29.950 Aber meiner Ansicht nach ist das total verkorkst, weil ähm. 00:46:30.816 --> 00:46:42.329 Wie soll man denn antidiskriminierung sozusagen äh also zum Beispiel aktivistisch betreiben oder auch äh von staatlicher Seite, wie soll man für eine größere Gerechtigkeit sorgen, wenn man die Informationen nicht hat. 00:46:42.714 --> 00:46:49.552 Also, wie kann ich denn rausfinden, wie zum Beispiel ähm also ob etwa Frauen am in Führungspositionen, 00:46:49.811 --> 00:46:59.269 benachteiligt werden, wenn ich weder die also wenn ich sozusagen einerseits nicht nicht erheben darf ähm welchen Geschlecht jetzt die Führungsperson ist. 00:46:59.906 --> 00:47:04.232 Und dann dadrauf keine Entscheidung treffen kann. Das ist ein Dilemma. 00:47:04.539 --> 00:47:18.840 Ich sage jetzt auch nicht, das ist einfach alles total leicht aufzulösen. Das ist es nämlich nicht, ne? Wenn wir das so bei diesem ganzen racial Profiling zum Beispiel sehen, bei der Polizei, ja in anderen Ländern werden halt ganz klare Daten erhoben ähm. 00:47:19.454 --> 00:47:32.781 Nach zum Beispiel ähm Fmisity, ne, also die Polizei kontrolliert und die muss dann auch dokumentieren, war das jetzt eine schwarze Person oder war das war sie Spanic oder so was in der Art, 00:47:32.908 --> 00:47:36.339 Wird in Deutschland nicht gemacht und ähm man. 00:47:36.730 --> 00:47:50.442 Neigt glaube ich dazu, sofort zu sagen, ja aber das ist doch auch irgendwie eine diskriminierende äh Policy, die da betrieben wird, aber auf der anderen Seite kriegt man auf die Art und Weise natürlich auch raus, wie die Polizei gehandelt hat und dann konnte man rausfinden, dass in New York etwa, 00:47:50.569 --> 00:47:58.722 ein totales Oberpolicing stattgefunden hat, also nicht, dass das jetzt eine Überraschung war, aber man konnte es eben auch empirisch belegen, ja, dass ein totales Oberpolicing von, 00:47:58.873 --> 00:48:06.120 Blacks und Hispinics ähm passiert ist, ne? Die also dauernd äh auf der Straße angehalten und durchsucht wurden. 00:48:06.342 --> 00:48:16.978 Ähm und das den tatsächlichen ähm also den tatsächlichen Gefahren, wenn ich das jetzt mal so nennen will, überhaupt nie entsprochen hat, ne? Weil bei den Leuten wurde halt überwiegend nix gefunden, ne. 00:48:17.760 --> 00:48:25.871 So und das das ist schon verdammt schwierig und und dann kommt natürlich noch mal einer oben drauf, wie du sagst, so wo wollen wir denn aber auch. 00:48:26.250 --> 00:48:32.560 Sagen, wo ist denn eine Grenze zum Beispiel dafür, ähm solche Entscheidungen. 00:48:33.275 --> 00:48:39.404 Solchen computational äh oder systems zu unterstützen. 00:48:40.143 --> 00:48:50.070 Ich glaube zum Beispiel, dass viele von uns sagen würden, wir möchten nicht, sogar wenn man jetzt einen guten Case dafür machen könnte, dass die. 00:48:50.503 --> 00:48:51.596 Urteile. 00:48:52.030 --> 00:49:01.283 Er ist ein bisschen schwierig, will mich da nicht verplappern sozusagen, aber das Urteile zum Beispiel gerechter würden, wollten wir trotzdem. 00:49:02.107 --> 00:49:10.555 Gesellschaft nicht, dass ähm Computer, Entscheidungen ähm also zum Beispiel hier äh in in Strafsachen entscheiden. 00:49:11.553 --> 00:49:13.133 Würden wir sagen, das muss, 00:49:13.223 --> 00:49:27.212 einfach Menschen überlassen bleiben, ne? So äh da kann man jetzt lange drüber streiten. Also wenn du jetzt zum Beispiel anderer Ansicht wärst, dann könnten wir uns die nächsten drei Stunden da äh drüber unterhalten, ne, wie gerechtfertigt das ist oder nicht und so weiter. Ich will nur mal sagen, 00:49:27.303 --> 00:49:34.213 Das sind natürlich Fragen, mit denen wir uns beschäftigen müssen und wenn die dann so ein nicht ganz so eindeutig sind. 00:49:35.192 --> 00:49:38.527 Dann wird es natürlich schwierig. Also soll jetzt. 00:49:39.267 --> 00:49:48.130 Score, darüber mitentscheiden, ob äh ich einen Kredit bekomme oder nicht oder soll, dass der. 00:49:48.557 --> 00:49:59.114 Arbeiter oder Berater oder die Beraterin in der Bank nur auf der Grundlage eines persönlichen Gesprächs und der Information, die ich gebe und so weiter dann entscheidend. Ne, also dies. 00:49:59.890 --> 00:50:09.612 Schufa äh Prinzip oder die Frage danach, ne. Das äh sind keine Fragen, die einfach zu beantworten sind in den meisten Fällen. 00:50:09.787 --> 00:50:14.041 Also Schufa nehme ich mal an, habt ihr auch äh als Dauerthema wahrscheinlich. 00:50:14.870 --> 00:50:24.773 Viel zu wenig, ehrlich gesagt. Also wir haben viel zu wenig Zeit äh dadrauf, die wir dadrauf verwenden können. Wir denken immer wieder, 00:50:24.870 --> 00:50:30.055 Güte, ja, muss man sich doch nochmal wieder angucken. Jetzt wird sie vielleicht verkauft und, 00:50:30.080 --> 00:50:40.925 wo gehen dann die Daten hin und was hat sich denn eigentlich geändert seit unserer Open SCHUFA Kampagne und nix, ne? Justizministerin hat gesagt, das muss viel besser überwacht werden, was wurde getan? Gar nichts, 00:50:41.160 --> 00:50:49.759 war aber auch unsere eigene Schuld, weil wir eben nicht hinterher waren, ne ähm und das ja, aber tatsächlich, das ist schon echt so ein Dauerthema. 00:50:49.843 --> 00:51:04.108 Saß du jetzt so nebenbei, ich glaube, wir hatten das auch bei Lokbruch irgendwann mal hier zum Thema open Schuhfahrer, habt ihr Daten gesammelt ne und äh das war ja ein Projekt von euch und der äh UKF der Open Knowledge äh Foundation. 00:51:04.511 --> 00:51:07.828 Sogar in Grimma online äh Wort fast bekommen. 00:51:07.582 --> 00:51:08.741 Fast bekommen, genau. 00:51:08.441 --> 00:51:10.995 Das bedeuten mag, aber. 00:51:10.695 --> 00:51:11.860 Waren nominiert. 00:51:11.860 --> 00:51:17.292 Genau. Da habt ihr Daten äh Spenden gesucht. Das ist ja sozusagen auch eine Methode, mit der ihr arbeitet. 00:51:17.509 --> 00:51:26.528 Mhm genau. Ja also das ist schon so eine Methode, die wir, glaube ich, da können wir durchaus für uns in Anspruch nehmen, dass wir die geprägt haben. Also wir haben die nicht erfunden, aber. 00:51:26.949 --> 00:51:38.624 Wir sagen eben ähm wir wollen uns natürlich dann zur Wehr setzen, indem wir Daten einsammeln, von denen dann zum Beispiel Unternehmen auch gar nicht wollen, dass die eingesammelt werden von irgendjemand anderem. 00:51:38.980 --> 00:51:47.343 Um dann mal zu gucken, ob denn alles mit rechten Dingen zugeht. Und oben Schufa fand ich, war ein gutes Beispiel, weil die Datenanalyse selber. 00:51:47.915 --> 00:51:58.562 War ähm jetzt nicht so, die ist nicht so gelungen, wie wir uns das gewünscht haben. Da waren technische Probleme dabei, da waren Probleme in der Kampagne dabei, also die ist insgesamt gut gelaufen, aber, 00:51:58.707 --> 00:52:04.644 Es ist eben auch jetzt nicht wirklich überraschend gewesen für uns, aber wir mussten's natürlich trotzdem ausprobieren, 00:52:04.674 --> 00:52:16.866 meisten Leute, die da mitgemacht haben, die ihre Daten gespendet haben, sind natürlich auch aus einer bestimmten Blase und sind jetzt eher Leute, die zum Beispiel keine finanziellen Schwierigkeiten haben und keine schlechten Scores bei der Schufa und so und dann kann man, 00:52:17.095 --> 00:52:18.921 auch weniger rausfinden. 00:52:19.499 --> 00:52:32.940 Was war zum Beispiel rausgefunden haben ist, dass äh die unterschiedliche Softwaresysteme verwenden und die Datenhaltung ist nicht gut und äh vor allen Dingen haben wir aber auch rausgefunden, dass die Aufsicht nicht funktioniert über die Schufa, ne? Also, 00:52:33.199 --> 00:52:44.700 hessische Datenschutzbehörde ist dafür zuständig und die war also zu dem Zeitpunkt so was von verschnarcht und nachlässig. Also das war schon mit so eigentlich die ähm. 00:52:45.361 --> 00:52:50.793 Ja, die die größte Kritik, die wir da am Ende hatten, ne und ja, 00:52:51.292 --> 00:52:59.705 aber eben leider so, dass äh unserer Ansicht nach sich da nicht genug getan hat, aber wir waren noch sehr sehr neu zu dem Zeitpunkt und. 00:53:00.120 --> 00:53:08.220 Hatten wirklich einfach auch nicht die Ressourcen dann hinterher, ne, die Kampagne war gut gelaufen. Wir hatten eine Menge Aufmerksamkeit bekommen. 00:53:08.581 --> 00:53:11.909 Und dann hat sich eben damals die ähm. 00:53:12.306 --> 00:53:27.004 Äh Barley, die Justizministerin war, auch dazu geäußert und hat gesagt, da muss sich was ändern, aber dann hätten wir natürlich aktiv werden müssen und denen ständig auf den Füßen stehen und sagen, dann lass uns hier Gespräche führen und konkret werden und dazu hatten wir einfach nicht die Power. 00:53:28.315 --> 00:53:43.229 Lassen wir mal kurz bei der Schuhfarbe bleiben, weil ich finde das äh erstmal ist es ja sozusagen auch schon sehr alt, also Schufa gibt's ja schon seit ewig äh Kiten und ähm ich glaube viele Leute äh wissen auch gar nicht, dass es so privat äh rechtlich organisiert ist, aber im, 00:53:43.253 --> 00:53:49.922 quasi so für das gesamte wirtschaftliche Leben, also damit sozusagen für jeden in der Gesellschaft 00:53:49.713 --> 00:54:02.343 potenziell äh eine Chance und ein Problem darstellen kann, ne? Also da gibt's ja auf der einen Seite natürlich die persönliche Bewertung, aber auf der anderen Seite eben auch so dieses, was so nebenbei abfällt so wohnst du in einem Gebiet, wo 00:54:02.308 --> 00:54:14.957 viele Leute ein Problem haben und so, ne, dann kannst du ja dann auch schon äh mit in die Bredouille äh kommen, bis hin dann eben zu diesem klassischen Kafka äh Problem ja Schufa sales no 00:54:14.782 --> 00:54:22.155 aber jetzt würdest du halt gerne wissen warum eigentlich und dann sagen sie es dir halt eigentlich auch nicht wirklich. 00:54:21.970 --> 00:54:31.680 Weil sie ja dadurch dann quasi ihren Algorithmus veröffentlichen müssten. Wenn sie das aber tun, dann wiederum 00:54:31.656 --> 00:54:33.837 Das Problem, dass dann 00:54:33.741 --> 00:54:42.478 dieses Gaming natürlich äh losgeht und die Leute wissen, aha okay, so berechnet sich der Score, hier ist der Bug, äh jetzt kann ich das auch aktiv umgehen. 00:54:43.410 --> 00:54:50.662 Da sind wir bei diesem schwierigen oder vielschichtigen Thema Transparenz, ne? Also zum einen würde ich schon sagen, ähm. 00:54:51.360 --> 00:54:58.216 Ein ganz großes Problem bei diesen, wie du's ja eben gut beschrieben hast. Kafka Esken äh Erfahrung mit der Schufa, 00:54:58.222 --> 00:55:12.601 nicht so sehr im Algorithmus, sondern einfach in deren Datenhaltung. Also da kann man jetzt sagen, das macht auch einen Algorithmus, ne? Also das stimmt schon, aber es geht nicht so sehr um den Score selber, sondern es geht dadrum, dass die einfach echt lausig äh äh lausige Informationen zum Teil haben. 00:55:12.674 --> 00:55:18.695 Dadurch Namen verwechselt werden und dann ne solche Geschichten und dann rennste eben tatsächlich von, 00:55:18.936 --> 00:55:25.900 Pontius zu Pilatus und versuchst das in Ordnung zu bringen und die Bank sagt, das muss die Schufa machen und die Schufa sagt, das muss die Bank machen und so weiter. 00:55:26.615 --> 00:55:30.647 Und du bist also völlig hilflos dem Gegenüber. Und ähm 00:55:30.581 --> 00:55:44.870 die die Frage danach, wieviel man aber über solche Systeme äh veröffentlichen kann, ohne dann dieser Manipulation Tür und Tor zu öffnen, die ist auch wiederum nicht so leicht zu beantworten. Wir finden eben schon, dass sehr viel mehr darüber, 00:55:45.033 --> 00:55:53.150