Tim Pritlove: Guten Morgen Linus.
Linus Neumann: Guten Morgen. Guten Morgen, Tim.
Tim Pritlove: Wo die äh Sigularität langsam näher kommt und die künstliche Intelligenz sogar Go übernommen hat, frage ich mich, wie lange es noch dauert, bis auch dieser Podcast von einer KI kontrolliert wird.
Linus Neumann: Ist doch schon längst der Fall.
Tim Pritlove: Politik Nummer hundertfünfundsiebzig und direkt aus dem Master Control Programm mit einem geladenen Linus.
Tim Pritlove: Ja, du hast hohe Energie, so äh ja, also so, ich müsste dich eigentlich direkt zum Zerren schicken, so als Teilchenbeschleuniger.
Linus Neumann: Teilchen mache ich Beine, ey.
Linus Neumann: Schön, schön dieses mit den künstlichen Intelligenz. Also es ist eigentlich was, was ich eigentlich wollte ich das Thema gar nicht ansprechen, weil's mich so äh weil ich eigentlich nachdem ich das schon eine halbe Stunde behandeln musste, mir eigentlich gedacht hat, da will ich nie wieder drüber reden
Linus Neumann: aber ich habe jetzt hier eine längere Reise gemacht zur Allerlei ähm Konferenzen und so. Und ähm bei einer dieser Konferenzen.
Linus Neumann: Kam dann die Debatte auf, ja wenn die künstlichen Intelligenzen jetzt demnächst so klüger werden und so, ne?
Linus Neumann: War da irgendwie so, das muss ein Philosoph oder so gewesen sein oder so ein weiß ich nicht, auf jeden Fall einer der irgendwie zu wenig zu tun hat, ja? Und äh dann äh irgendwie sich dann,
Linus Neumann: überlegen, ob nicht vielleicht dann demnächst die Roboter, ne, wenn die wenn die,
Linus Neumann: Wenn wenn ohnehin die Roboter jetzt quasi bald hier unsere Welt übernehmen
Linus Neumann: ne? Und irgendwie uns die Arbeitsplätze ja wegnehmen und so, ne, da wird sich dann die AfD drum kümmern. Insofern, die haben dann auch nochmal in in paar Jahren was zu tun. Hoffentlich nicht, hoffentlich gibt's die dann nicht mehr, aber wenn, dann können wir die auf die Roboter hetzen. Ähm aber dann kam halt die Frage, ja, ob wir denn nicht dann, ob's dann nicht eine Ethik für Roboter geben muss
Linus Neumann: Ich so, ja klar, muss eine Ethik für Roboter geben, die sollen uns nichts tun, ne? Problem ist,
Linus Neumann: Ethik ist ja schon längst überschritten, weil wir ja in, oder nicht wir, aber doch eigentlich auch wir, äh, in, in fremde Länder fliegende Mordroboter schicken, um da Menschen zu töten. Also, diese Ethik für Roboter, Zug, der ist irgendwie schon längst abgefahren, ne?
Linus Neumann: Aber er meinte das andersrum, weil es könnte ja sein, dass der, wenn jetzt quasi künstliche Intelligenz quasi äh, die lernt ja durch ihre Erfahrung und so.
Linus Neumann: Äh ob dann die nicht irgendwann ob man ihr nicht dann auch ein Bewusstsein äh zubilligen kann, weil sie ja dann auch nicht mehr vollständig deterministisch funktioniert und ein Ergebnis ihrer Erfahrung und so weiter ist. Und das wäre ja alles völlig parallel zum Menschen,
Linus Neumann: Und dann äh könnte man das ja auch nicht einfach abschalten. Das heißt, dann wäre also quasi hat das jetzt als als bedrohliches Problem unserer Gesellschaft herausgestellt, dass wir vielleicht,
Linus Neumann: Künstliche Intelligenzen dann irgendwann einmal oder relativ bald ethische Rechte zu billigen müssen.
Linus Neumann: Was ich so ungefähr für das unsignifikanteste Problem halte,
Linus Neumann: mit dem man sich momentan beschäftigen kann. Wir fallen wenig Probleme ein, die weniger signifikant sind, als dass man autonom fahrendes Auto jetzt plötzlich auch noch ethisch Ansprüche gegenüber mir entwickeln kann,
Linus Neumann: Wo ich doch grade noch in der Illusion lebe, als Mensch, dass wir uns diese Technik Untertan machen können
Linus Neumann: Wobei wir ja alle wissen, dass wir zweitausendzwanzig oder zweitausenddreißig erfahren werden
Linus Neumann: geht gar nicht. Scheiße, jetzt machen die sich uns Untertanen. Und in so einer Zeit geht einer hin und macht sich Gedanken darüber, dass man ethische äh Prinzipien,
Linus Neumann: auf Maschinen anwenden muss. Auslöser für das Gespräch war, du hast es gesehen, dieses Boston Dynamics Video.
Linus Neumann: So heißt dieser zweibeinige Roboter, ne?
Tim Pritlove: Genau, der jetzt auf Akku läuft und irgendwie durch die Gegend läuft. Gibt's auch eine gibt's auch eine schöne Variante mit so einem äh Gedanken, Unterton, wo irgend so ein Mensch die ganze Zeit ruft und der stolpert,
Tim Pritlove: sich beschwert, dass der andere Menschen die äh die ganze Zeit mit einem Baumstamm auf ihn einschlägt.
Linus Neumann: Weil die also das ist ja sowieso geil. Diese Boston, Dynamics, das ist ja eigentlich ein Unternehmen, die haben, glaube ich, äh die machen diese haben diese Dinger für für Militärische äh Zwecke, bauen die die ein?
Tim Pritlove: Mhm. Also hatten sie zumindest vor, so richtig gut gelaufen ist das wohl nicht mit ihrem Hund, dass äh der Army dann doch irgendwie zu auf äh.
Linus Neumann: Sie haben zur ersten, die haben zur ersten vierbeinigen Roboter gemacht, der ist da irgendwie rumgegangen und dann war irgendwie das Video,
Linus Neumann: Das Video, um zu zeigen, wie geil ihr Roboter war, ist war
Linus Neumann: der läuft irgendwie einen Gang runter, so ein typisches Bürogebäude, alle zehn Meter oder alle fünf Meter eine Tür
Linus Neumann: Roboter läuft er lang, freut sich irgendwie so oder freut sich eben nicht, weil der Roboter hat keine Gefühle, deswegen braucht, ne? Er braucht ja keine Ethik und so. Aber Roboter läuft es, den Weg daher und dann kommt er jetzt so aus dem Seitengang einer und kickt den seitlich,
Linus Neumann: So und dann macht der Roboter einen Ausfallschritt. Ähm fällt nicht auf die Schnauze und läuft weiter und das demonstriert eben die
Linus Neumann: Gehfähigkeit dieses Roboters. Das schon vor ein paar Jahren, als sie diesen Vierbeiner rausgebracht hat. So, jetzt kommt dieser Zweibeiner. Haben sie wieder ein Video gemacht? Was passiert? Roboter geht,
Linus Neumann: durch den Wald wird von einem Menschen durch den Wald geführt, um zu zeigen, dieser Roboter kann oder begleitet eigentlich, ja? Um zu zeigen, dieser Roboter kann
Linus Neumann: auf unwegsamen Gelände und dann ist mal irgendwie, da liegt ein Laub und dann haben ist da eine kleine Grube, dann dann stolpert der und fängt sich aber und läuft da durch. Um eben die Überlegenheit äh dieses Roboters zu zeigen oder die die technische,
Linus Neumann: dieses Roboters zu zeigen, weil eine der Sachen, die die große Herausforderung ist für Maschinen, für Roboter und alles ist der menschliche Gang. Also die Dinge auf auf Rädern rumfahren lassen, alles klar,
Linus Neumann: aber kaum etwas ist.
Linus Neumann: So versatil wie der menschliche Gang und die Möglichkeit Gleichgewicht zu halten, ne, wenn man uns zwingt oder wenn da oben was ist, dann klettern wir auch mal auf den Baum
Linus Neumann: ja
Linus Neumann: und werfen von oben Eier auf die anderen oder so, ne? Aber wir können also, nichts ist so kein kein Antrieb ist so vielseitig, äh wie wie der aufrechte Gang des Menschen. Und genauso ähm,
Linus Neumann: wenig oder nichts ist so vielseitig wie das Greifinstrument Hunt, das der Mensch hat. Und danach Streben die ganzen Roboterhersteller, um uns dann irgendwann obsolet zu machen.
Linus Neumann: Noch sind sie dann nicht so weit, aber okay. Also, die führen diesen Roboter durch den Wald und demonstrieren, der kann äh kann durch den Wald gehen
Linus Neumann: So, in eine einsame Lagerhalle, wo sie ihm die Aufgabe geben, Kisten in Regale zu räumen. Und wenn er dann so, dann nimmt er so eine Kiste und dann kommt halt dieser Mann,
Linus Neumann: und schlägt ihm die Kiste mit einem Eishockeyschläger aus der Hand. So und der Roboter,
Linus Neumann: lässt sich durch nichts beirennen, hebt die Kiste wieder hoch, dann steht er eben die wieder aus der Hand, schlägt die Kiste sogar mit einem Eishockeyschläger weg. So, dann hebt der Roboter versucht irgendwie verzweifelt diese Kiste zu nehmen und wieder und irgendwie in das Regal zu stellen, dann hat das irgendwann ins Regal gestellt
Linus Neumann: und dann wird weder mitm Baumstamm von hinten umgeworfen. Legt sich auf die Fresse, äh
Linus Neumann: und macht ein ziemlich smoothen Aufsteher, den ich in der Form nicht hinkriegen würde, weil ich ja auch hier in der Mitte ich sitze ja nur am Computer, ich kriege ja nicht so viel Excess heiß, wie so ein Roboter. Und am Ende, als er dann umgeworfen wurde, wird, geht er aus diesem Gebäude raus.
Linus Neumann: So, für einen, äh was ich an diesem Video so spannend finde, ist für einen Menschen, der da schaut, ist es kaum zu verhindern,
Linus Neumann: irgendwie eine Art von Mitgefühl für diesen Roboter zu bekommen oder sich sozusagen oder arme Roboter, ne, oder oder überhaupt diese Storyline auch. Der Roboter wird durch einen,
Linus Neumann: in eine einsame ähm,
Linus Neumann: Halle geführt, muss dort Arbeit verrichten, wird dabei geärgert und gefoltert und gequält und flieht dann irgendwann in die Freiheit, ja?
Linus Neumann: So, diese Leute, dieses Unternehmen ist in der Lage, solche Roboter zu bauen, die zweifelsohne äh beeindruckende technische Fähigkeiten haben. Aber die sind offenbar nicht in der Lage,
Linus Neumann: ein vernünftiges Werbevideo zu machen. Aber mit Sicherheit sind sie das ja, das heißt, sie haben sich genau etwas dabei gedacht, dieses Video zu releasen.
Linus Neumann: Im Zweifelsfall einfach, dass es viral geht. Was sie aber, glaube ich, vergessen haben, ist, dass dieser scheiß Roboter sich das merken wird und in zwanzig Jahren zurückkommt,
Linus Neumann: und dann kommen seine,
Linus Neumann: dann dann wundern wir uns, warum die Terminatoren auf einmal so knatschig waren.
Tim Pritlove: Du hast mich mit einem Baumstamm geschlagen. Ich vergesse nie.
Linus Neumann: So und das Problem haben wir die Menschen jetzt schon mit den Elefanten, die sie im Zoo misshandeln, bis der Elefant dann irgendwann sagt, weißt du, weißt du, woran ich mich gerade erinnert habe?
Linus Neumann: Vor zehn Jahren, als ich so klein war, ne, da hast du mir meinen Arsch getreten. Da habe ich mich jetzt grade dran erinnert. Man nennt das Elefantengedächtnis und das hier nennt man Elefantenfuß. Fump. Und dann treten die mal alle paar Jahre. Passiert doch,
Linus Neumann: trampelt irgend so einen Elefanten, äh ein Wärterblatt und niemand weiß wieso. Und das Gleiche wird uns passieren mit den Robotern. Na ja, auf jeden Fall.
Tim Pritlove: Es gibt sogar schon Leute, die darüber nachdenken, wie denn das so in Zukunft für den Robotern und den Gewerkschaften ist, also ob man nicht vielleicht auch noch eine Robotergewerkschaft.
Linus Neumann: Wir brauchen eine Robotergewerkschaft, wir brauchen eine äh wir brauchen ethische, darf man einfach nicht mehr ausmachen, weißt du? Dann kommt so ein Killerroboter,
Linus Neumann: Dann sagst du, Scheiße, der der Roboter dreht durch, der will äh meine Katze erwürgen,
Linus Neumann: Willst du den ausmachen, darfst du aber nicht, weil dann kommen die Roboterrechtler, die sagen, komm, ey, nur weil der Roboter völlig gestört ist, können wir den jetzt nicht einfach ausmachen, ne.
Tim Pritlove: Muss ewig weiter betrieben werden.
Linus Neumann: Ewig weiter betrieben werden, dass.
Tim Pritlove: Ende seiner Laufzeit.
Linus Neumann: Bis zum Ende seiner Laufzeit. Und wenn, wenn der, wenn der am wenn der am Ende seiner Laufzeit ist, dann müssen wir ähm lebenserhaltende Sofortmaßnahmen ergreifen,
Linus Neumann: und den reparieren. Ja? Also totaler, also eine Debatte. Ich meine, wir haben wirklich eine eine Reihe an Problemen in unserer Gesellschaft, aber dass wir jetzt Robotern in naher Zukunft ethische Prinzipien,
Linus Neumann: ähm.
Tim Pritlove: Ja, also ich meine.
Linus Neumann: Also quasi ethische Rechte.
Tim Pritlove: Auch alles seit den achtziger Jahren schon als Film irgendwie, muss man sich nur mal Blade ranziehen.
Linus Neumann: Habe ich nie geguckt, interessiert mich nicht. War ein blöder Name, es steht blöd drin. Nee, ist zu lange her, kann ich jetzt gerade nicht Bezug drauf nehmen. Aber äh geht es dabei darum, äh äh dass Roboter Rechte bekommen?
Tim Pritlove: Geht um das Problem, dass äh den den humanoiden Robotern äh eine End of Life eingepflanzt wurde und sie halt wissen, dass sie dann irgendwann sterben, aber genug Bewusstsein haben, sich dessen zu,
Tim Pritlove: So und dann kommen sie irgendwie von dem fernen Arbeitsplaneten, auf dem sie äh rumgelaufen sind und äh war schon durch die Stadt und dann muss halt Harrison Ford, der irgendwie so professioneller Roboterkiller ist, irgendwie äh dem halt nachgehen. Äh,
Tim Pritlove: einer der besten und und und äh weitblickendsten äh Bücher und Filme äh ever. Also solltest du dir nochmal.
Linus Neumann: Roboter.
Tim Pritlove: Ja gut, das ist ja dieser Atlas auch.
Linus Neumann: Nee, ach so, ah okay, also ist kein Android oder was, ne, also es ist ein.
Tim Pritlove: Es ist ein ja Android, es ist ein ja ein Android ist ja ein humanoider Roboter, dass der das selber.
Linus Neumann: Okay, aber wie wie heißt das, wenn man gemischt ist? Was jetzt auch alle meinen, weil sie sich irgendwie einen Knopf an die Backe genäht haben, dass sie jetzt Cyborg? Dass man ja eine eine Mischung.
Tim Pritlove: Zoeherde, die andere Nummer. Ja, ich ich weiß auch nicht. Ich glaube da auch, dass man wahrscheinlich ein ein Stück weit ein paar von ehemaligen Piraten dann künftig auch als Roboter
Tim Pritlove: Schutz eine Roboterschutzpartei wiederfinden wird, mal gucken weiß ich nicht,
Tim Pritlove: Na ja, auf jeden Fall mitm Go ist jetzt auch vorbei und ähm,
Tim Pritlove: Diese ganze Deep-Learning-Geschichte wird uns auf jeden Fall noch zu denken geben und sicherlich auch im Kontext dieser Sendung, ähm weil grade wenn wir so in puncto Zensur und so weiter, ich meine, wenn einer Go spielen kann
Tim Pritlove: ausfiltern kann,
Tim Pritlove: ganz andere Sachen ausfiltern. Das ist auf jeden Fall noch ein Teil äh der Diskussion, die wir uns noch stellen müssen und die, glaube ich, denen zwar noch nicht ausreichend auf dem Tisch liegen.
Linus Neumann: Die also da muss ich ganz kurz sagen, dass Spam ausfiltern haben die Computer sehr viel früher gelernt als spielen. Ähm basische Spamfilter, hast du doch selber hier deine Sendung drüber gemacht. Chaos.
Tim Pritlove: Hat ja nicht in dem Sinne funktioniert, aber diese deep-learning-Netzwerke, die jetzt halt seit ein paar Jahren äh reduzieren, die sind halt jetzt an dem Punkt,
Tim Pritlove: und äh jetzt wird's halt zuerst richtig äh sportlich. Bisher war das alles nur Spaß.
Linus Neumann: Und das ist eben das, äh da, da wo was die, was die eigentliche, was die eigentliche Situation der Zukunft ist, dass man jetzt sagt, okay, wir haben im Prinzip,
Linus Neumann: neuronale oder neuronalartige äh Lernkonzepte umgesetzt im Programm und jetzt brauchen die Daten, um ihr Potenzial,
Linus Neumann: zu erreichen. Und ähm,
Linus Neumann: Das ist das, was mit diesem Big Data gemeint ist, ne? Also künstliche Intelligenz braucht Big Data,
Linus Neumann: Sonst ist es keine künstliche Intelligenz. Diese dieser Go-Rechner wurde dadurch äh intelligent oder zumindest haben die Schachcomputer so funktioniert, dass sie einfach Unmengen an Schachspielen gesehen haben.
Linus Neumann: Und ähm diesen Go-Robot habe ich mir nicht angeguckt, vor allem weil ich das Spiel go auch nicht verstehe oder nie gespielt habe, insofern äh weiß ich jetzt nicht, nach welchem Prinzip er gelernt hat. Aber die haben mir im.
Tim Pritlove: Äh die haben dem auch erstmal Partien äh reingepfiffen, aber besser geworden ist, hat dadurch, dass er dann irgendwann angefangen hat auf Basis dieser Daten äh gegen sich selber zu spielen.
Tim Pritlove: Das heißt.
Linus Neumann: Okay. Das ist schön.
Tim Pritlove: Zu sagen selbst. Und äh naja, aber können ja auch zwei sein, wenn er muss und ähm.
Linus Neumann: Und hat dann geguckt, wer besser war.
Tim Pritlove: Es spielt die ganze Zeit gegen sich selber und äh findet dabei raus, wie man sozusagen gewinnt.
Linus Neumann: Das ist nicht verkehrt. Aber das Wichtige ist, bei all diesen ähm bei also bei dem momentanen Stand der ähm künstlichen Intelligenz,
Linus Neumann: und so wie künstliche Intelligenz im Moment gut funktioniert, hast du ein,
Linus Neumann: Einen gewünschten Zielzustand. Also go Spiel gewinnen. Ja? Das heißt, du kannst nämlich dieses automatisierte Lernen machen
Linus Neumann: Robotern oder dass die KI nämlich lernt, ah okay, Zielzustand ist folgender und bis dahin kann ich beliebig komplexe Wege gehen, zum Beispiel die Komplexität eines Spiels, wo ja jetzt erst vor kurzem ausgerechnet wurde, wie hoch die überhaupt ist,
Linus Neumann: Also äh beziehungsweise die Zahl wurde bis zum Ende ausgeschrieben.
Tim Pritlove: Alle Zukombinationen.
Linus Neumann: Na ja, es gibt quasi, also du kannst ja quasi ein ein Go Spielbrett,
Linus Neumann: und die Regeln ergeben zusammen ein Maximalwert an Entropy.
Tim Pritlove: Ja
Linus Neumann: Dieser Wert äh wurde irgendwie vor ein paar Tagen zum ersten Mal überhaupt ausgedrückt,
Linus Neumann: So hochkomplex ist go. Und das ist ja des, deshalb werden künstliche Intelligenzen daran demonstriert, weil du damit zeigen kannst, was für einen Komplexitätsraum,
Linus Neumann: Sie, wenn nicht erfassen, dann zumindest besser meistern können als jeder Mensch.
Linus Neumann: Und äh deswegen wird halt Schach und äh und Go und solche Sachen herangezogen. Ähm,
Linus Neumann: und wie gesagt, der Weg zum Sieg des Go Spiels oder der der Weg dahin, das Spiel zu gewinnen, ist relativ lang und von einer,
Linus Neumann: Komplexität gekennzeichnet. Deswegen trainiert man daran ähm ähm solche KI-Dinger. So, jetzt gehen wir mal weiter und sagen ähm das Ziel soll sein,
Linus Neumann: Ich nehme das beispielsweise so abgekaut ist und man an abgekauten Beispielen äh so schön arbeiten kann. Die Kreditwürdigkeit eines Menschen vorherzusagen. Das ist ja immer die große Sorge,
Linus Neumann: die Leute haben, dass man jemandem einen Kredit gibt, der ihn nicht zurückzahlt,
Linus Neumann: Und jetzt stellen wir uns eine Welt vor, in der beliebig viele Daten, Big Data ähm über eine über alle Personen,
Linus Neumann: oder auch, ne, also wir haben, wir haben erstens viele Personen und wir haben zweitens viele Daten über sie. Und jetzt gehen wir.
Linus Neumann: Traditionell würde man sagen, man macht ein Modell auf ähm und prüft einzelne Variablen auf Vorhersagenkraft der Zielvariable. Also keine Ahnung
Linus Neumann: eine ein sehr wichtige Korrelation wird halt sein, wer mehr Geld verdient ist im Zweifelsfall eher in der Lage einen Kredit zurückzuzahlen.
Linus Neumann: Ja, wenn das
Linus Neumann: wenn das äh monatliche Einkommen, weiß ich nicht so, so viel tausend ist, dann wird er in der Lage sein, diesen Kredit äh zurückzuzahlen. Allerdings auch nicht in sehr viel höheren. Das heißt, man hat einen Prediktor. Dann gibt's aber noch weitere Prädiktoren, was weiß ich, hat einen Doktor harten Ferrari oder sonstwas, ja?
Linus Neumann: Werden quasi Modelle gemacht zur Prädition des Outcomes.
Linus Neumann: Aber die werden in der Regel von von Menschen gemacht. Und irgendwie Theorie geleitet gemacht. Man nimmt da jetzt nicht unbedingt eine Variable mit rein, äh die man vielleicht nicht drin haben möchte oder so. Oder die man sich nicht vorstellen kann,
Linus Neumann: Und Big Data heißt im Prinzip, du gehst von diesem Modelansatz weg und sagst, ist mir völlig egal, ich gebe dem einfach alles, was ich weiß,
Linus Neumann: und der soll über alle Personen, die er hat und über alle Merkmale, die er hat,
Linus Neumann: Optimieren auf das Zielmerkmal. Und dann kommt zum Beispiel raus, keine Ahnung, äh null zu null unter den und den Bedingungen,
Linus Neumann: Gibt es zu null Komma drei äh null Komma drei,
Linus Neumann: Prozentpunkte mehr Varianzaufklärung, dadurch, dass ich berücksichtige, ob der ein Auto fährt oder ein Opel. Aber nur, wenn's eine Frau ist oder so, ja, das heißt, beliebig komplexe sind Zusammenhänge
Linus Neumann: kann dieses System in den bestehenden Satz erkennen und lernen und wendet die dann auf neue,
Linus Neumann: an. Das heißt, du hast eigentlich immer den das Big Data, ja, also da da wo hast schon mal einmal ganz viel Wissen und dann kommt ein neues Objekt hinzu,
Linus Neumann: Zudem gibt's dann auch die ganzen Merkmale und dann soll die KI sagen ja äh kreditwürdig bist, so und so viel tausend Euro oder so, ne?
Linus Neumann: Und das,
Linus Neumann: Oder das Interessante daran ist, dass wenn diese KI jetzt anfängt zu oder was man dann nicht möchte, ist dass diese KI anfängt zu diskriminieren.
Linus Neumann: Was witzig ist, weil eine KI, die dafür gebaut ist, ähm zu sagen, ob du kreditwürdig bist oder nicht,
Linus Neumann: kann nur diskriminieren, dafür ist sie da. Sie ist ja gebaut, um zu diskriminieren. Nämlich Kreditwürdige und nicht-Kreditwürdige.
Tim Pritlove: Ja gut, was, wobei man ja auch sagen könnte, das ist ja auch der Sinn.
Linus Neumann: Genau, das ist der Sinn.
Tim Pritlove: Der Sache und von daher äh nicht unbedingt verwerflich, weil auch das soll ja die im Idealfall hast du ja auch genau diese Einschätzung bei der Kreditvergabe, dass da eben so ein super weiser, mega äh erfahrener äh Boil,
Tim Pritlove: oder ein Girl sitzt und die sagen, ey, so wie du mich anguckst und äh,
Tim Pritlove: Schimmer deiner Haare im in der Abendsonne verrät mir du kriegst das nicht hin, ja?
Linus Neumann: Genau. So, das wäre wiederum aber äh das ist eigentlich eine interessante Debatte, weil wenn eine Kreditvergabe nach, sage ich mal, nicht nach subjektiven Kriterien möchtest du halt eigentlich auch nicht haben.
Tim Pritlove: Weil die lässt ja auch den Zufall raus, weil der Zufall wird nämlich auch dazu führen, dass die Personen im Lotto gewinnt oder äh beschenkt wird oder jemand äh früher stirbt und das sind alles Sachen, die man ja eigentlich aus diesen Daten gar nicht herauslesen kann.
Linus Neumann: Das ist richtig, aber das wird auch eine künstliche Intelligenz nicht rauslesen können, wer im Lotto gewinnt.
Tim Pritlove: Ja, meine ich ja eben. Genau. Sie kann es halt,
Tim Pritlove: tun, aber wenn sie sozusagen allein aus dem Offensichtlichen oder aus dem scheinbar offensichtlichen, ohne das Hinzufügen eines Zufallsfaktors, also im Prinzip müsste diese KI, wenn sie gut ist, sagen, okay, das ist das, was ich jetzt,
Tim Pritlove: Objektiv in Anführungsstrichen, also auf Basis der Daten herausgefunden habe und jetzt würfel ich auch nochmal und äh.
Linus Neumann: Macht sie ohnehin, weil also das macht sie im Prinzip, weil sie sowieso nur Wahrscheinlichkeiten äh wissen kann, ja. Aber von mir aus würfelt sie nochmal. Aber jetzt kommt das Interessante,
Linus Neumann: So, jetzt sagen wir, wir nehmen so eine äh KI für die Kreditvergabe, ja?
Linus Neumann: Und wir füttern da alles rein. Alles, was wir über die Person haben. Wir füttern jeden Facebook-Post rein, wir füttern jeden Tweet rein, wird einfach einmal alles, was irgendwie verdatet.
Tim Pritlove: Mhm. Steuererklärung.
Linus Neumann: Ja, alles. So, ja, einfach, ja, alles. So.
Tim Pritlove: Mails, Gewicht.
Linus Neumann: Auch das. Aber das eine, was du nicht reinfüttern darfst, ist, handelt es sich bei dieser Person um eine gebürtige Deutsche oder um einen Ausländer. Weil,
Linus Neumann: Ähm dir klar gesagt wird, danach darfst du nicht diskriminieren. Wäre ja Diskriminierung.
Linus Neumann: Deswegen darfst du diese Daten im im besten Fall gar nicht erfassen. Ist jetzt ein Gedankenexperiment, ne? Also es wird gesagt, du sollst nicht nach Rasse, Alter, Geschlecht oder sonst was diskriminieren.
Linus Neumann: Allgemeines Diskriminierungsverbot haben wir ja.
Tim Pritlove: Ja gut, das heißt aber nicht, dass man diese Daten nicht kennen darf. Heißt nur, dass man nicht auf ihrer Basis einen.
Linus Neumann: Aber jetzt gehen wir mal davon aus, gehen wir mal davon aus, du würdest sie nicht kennen,
Linus Neumann: oder du würdest sie nicht erfassen, um den Beweis zu erbringen, dass deine KI nämlich äh nicht diskriminiert,
Linus Neumann: ja? So und jetzt stellt sich raus, obwohl du deiner KI nicht sagst, welche Nationalität Menschen haben.
Tim Pritlove: Wahrscheinlich trotzdem raus.
Linus Neumann: Genau. Diskriminiert sie trotzdem.
Linus Neumann: Doch wird sie tun. Ein also und zwar und der Grund dafür ist, dass es, dass es das Interessante, sie wird Menschen mit Migrationshintergrund diskriminieren, weil.
Tim Pritlove: Eine geringere Wahrscheinlichkeit haben durchzukommen, weil sie weniger Netz.
Linus Neumann: Einkommen haben, weil die in bestimmten äh Teilen der Städte wohnen.
Linus Neumann: Ähm die benachteiligt werden oder bei denen sich rausstellt, da vergeht man besser geringere Kredite und so weiter. Das heißt, selbst wenn du ihr bestimmte Merkmale nicht gibst, wird sie sich die einfach aufgrund anderer Merkmale erschließen. Du weißt noch nicht mal mehr genau, wie sie es macht.
Linus Neumann: Und damit oder das Interessante daran ist, jedes Mal, wenn die KI sagt, dem lieber keinen Kredit geben,
Linus Neumann: ja? Bringt sie sich, um die Möglichkeit, zu lernen, dass man der Person doch einen Kredit hätte geben können,
Linus Neumann: weil sie die Zielvariabel nicht mehr bekommt.
Tim Pritlove: Na ja, an der Stelle äh stellt sich die Frage, welche Daten hast du da drin, weil in diesen Daten werden auch genauso gut äh äh Leute mit Diskriminierungsgefahr auch drin sein,
Tim Pritlove: trotzdem mal einen Kredit gegeben worden ist, weißt du?
Tim Pritlove: Dann andere Faktoren, dann aber auch wirklich eine Rolle spielen. Also so pauschal würde ich das jetzt nicht aus.
Linus Neumann: Ist in Ordnung, aber der der.
Tim Pritlove: Würde sogar fast noch die gefährliche These in den Raum stellen, ja, dass es durchaus sein könnte, nicht ist, sein könnte,
Tim Pritlove: dass dieser Ansatz am Ende wirklich bessere Ergebnisse,
Tim Pritlove: widerspiegelt, weil er auch einfach ein Prinzip Hoffnung aus diesen Daten heraus liest, ja, die jemand anderes nicht sehen würde.
Linus Neumann: Also der der.
Tim Pritlove: Was weil das.
Linus Neumann: Mich gerade zwei Punkte, Moment. Erstens, die KI wird immer, also die KI steht ja im,
Linus Neumann: Des Interesses ihres Betreibers und das Interesse des Betreibers ist, vergebe bitte Kredite möglichst lukrativ. Das heißt, wir sollen möglichst wenige platzen und ich will möglichst hohe Zinsen geben,
Linus Neumann: Äh äh nehmen. So ähm.
Linus Neumann: Du hast Recht, diese KI könnte in dem Moment, wo sie über, also diese KI wird niemals ähm,
Linus Neumann: übermäßig diskriminieren, aber sie wird auch nicht ähm,
Linus Neumann: Zum Nachteil ihres Eigners über im Prinzip ist ja beides von Nachteilen. Wenn die KI nämlich sagt, ich gebe dir keinen Kredit, dann,
Linus Neumann: und du hättest ihn zurückzahlen können, dann entgeht dem Auftraggeber der KI, ja, diese Zinseinnahme.
Linus Neumann: Und wenn sie dich, wenn sie dir einen Kredit gibt, den du am Ende nicht zurückziehen kannst, dann hat der Auftraggeber,
Linus Neumann: Verlust. Das heißt, in beiden Fällen werden die KI eine falsche Entscheidung trifft, ist es zum Nachteil des Auftraggebers. Aber sie wird im Zweifelsfall,
Linus Neumann: es nur lernen, nur verstehen, wenn sie den Fehler macht, einen Kredit zu geben,
Linus Neumann: wenn sie den Fehler macht, keinen Kredit zu geben, wird sie es nicht so leicht lernen. Ja, also die hatten, die hatten Ungleichgewicht dahin,
Linus Neumann: Ähm negatives Feedback zu bekommen, wenn sie einen Kredit vergibt und,
Linus Neumann: kein negatives Feedback zu bekommen, wenn sie keinen Kredit vergibt. Das heißt, sie wird eine Tendenz dazu haben, ob sie will oder nicht. Prinzipiell erstmal eher.
Linus Neumann: Ähm die diskriminierten Gruppen weiter zu diskriminieren. Und wenn wir jetzt davon weggehen, dass wenn wir davon weggehen, das ist auch eigentlich relativ logisch, ja. Wenn du immer nur aus der Vergangenheit,
Linus Neumann: Die Zukunft vorhersagst, damit aber Entscheidungen triffst, die die Zukunft betreffen,
Linus Neumann: dann manifestierst du quasi Unterschiede, die schon vorher da die da sind. Und das wird die KI auch weiterhin tun.
Tim Pritlove: Gehe ich nicht so ganz mit.
Linus Neumann: Also sie wird sie wird, du hast Recht, sie wird im Zweifelsfall lernen ja, wenn sie jetzt auf einmal übermäßig ähm Migranten diskriminiert, wird sie das auch irgendwann sein lassen, aber sie wird immer nur,
Linus Neumann: Ähm die jetzt grade geltende Realität richtig abbilden.
Tim Pritlove: Ja, aber es kann auch durchaus sein, na ja, also ganz ehrlich, das wissen wir nicht. Weil äh ich könnte mir jetzt alles Mögliche vorstellen und kann das nicht beweisen, bis das nicht sozusagen da war, aber äh äh so ein System,
Tim Pritlove: Die Emotionslosigkeit eines solchen Systems kann an der Stelle auch einfach ein Vorteil sein, weil sie eben einfach insofern,
Tim Pritlove: Nicht so überhöhen, aber dieser dieser Aspekt mit,
Tim Pritlove: bestimmte Dinge beziehe ich jetzt mit ein und das ist automatisch schlecht. Das ist ja nicht das Problem dieser Diskriminierung.
Linus Neumann: Ganz das meine ich auch nicht, das.
Tim Pritlove: Wird mit einbezogen äh und wirkt dann eben beim Menschen, der das beurteilt eben mit so einer emotionalen Antireaktion, die in dem Moment dann halt einfach zum Nachteil gereicht. Die KI,
Tim Pritlove: eigentlich, wenn sie nicht genauso programmiert ist, auch diskriminierend unterwegs zu sein, das ist ja nochmal eine ganz andere Sache, ja, aber so die diese, diese, diese, dieses Ideal einer golösenden äh äh KI
Tim Pritlove: ja? Für die ist ja sozusagen jeder Zug kommt in Frage,
Tim Pritlove: Noch so merkwürdige Zug könnte tatsächlich der Schlüssel sein. Und äh bei diesem zweiten Spiel von Alpha Go gegen diesen Großmeister war es auch so, dass diese ganze Go-Community gesagt hat,
Tim Pritlove: Was ist denn das für ein Zug? Da war so ein Zug, wo alle so hm, kein Mensch würde diesen Zug spielen. Aber es hat sich herausgestellt, dieser Zug war der Schlüssel zum Sieg,
Tim Pritlove: und genauso könnte diese KI bei der Bewertung der Kreditvergabe auch auf einmal eine Motivation,
Tim Pritlove: Sie sieht, die sie äh mit ihren Sensoren erfassen kann, bewerten und sagen.
Linus Neumann: Ja, das ist aber nicht der Punkt. Der Punkt ist, die KI wird unter der Annahme, dass du,
Linus Neumann: Du gibst dir einfach alles Wissen, ja?
Linus Neumann: Unter der Annahme, dass sie optimal funktioniert, wird sie im Zweifelsfall sogar mit wahrscheinlich sogar immer, also mit annähernd immer die richtige Entscheidung treffen,
Linus Neumann: und das Problem, zu dem ich jetzt kommen möchte, weil ich die ganze Zeit noch nicht dazu gekommen bin, ist,
Linus Neumann: sie wird dann diskriminieren aufgrund aller möglichen Unterschiede, die es in unserer Gesellschaft gibt,
Linus Neumann: weil die nunmal, ob wir's wollen oder nicht, für das Zielmerkmal der KI eine Rolle spielen.
Linus Neumann: Dass die KI dann ähm was weiß ich äh Migranten diskriminiert ähm,
Linus Neumann: Das ist im Sinne aller Beteiligten.
Linus Neumann: Das ist eigentlich das das Erschreckende daran, weil du möchtest auch keinen Kredit haben, den du nicht zurückzahlen kannst, ne? Muss ja auch mal überlegen. Das heißt, die die KI wird wird wie reine Objektivität gelten lassen und alle,
Linus Neumann: Unterschiede, die wir haben in unserer Gesellschaft, würde sie weiter manifestieren, das machen heute schon,
Linus Neumann: ähm äh diese äh diese Schuhphase, ne? Ist ja klar,
Linus Neumann: Die äh die die haben halt irgendwie ihre ihre Überlegungen und so dabei, ne. Die wollen halt irgendwie kein Geld verlieren oder so. Aber das heißt diese, die wenn du eine alles, was du
Linus Neumann: zum Erreichen eines objektiven Merkmales trainierst, wird,
Linus Neumann: automatisch alle zum jetzigen Zeitpunkt dafür relevanten Merkmale, zur Vorhersage nutzen,
Linus Neumann: wird anhand dieser diskriminieren. Also das sind,
Linus Neumann: Diskriminierungsmaschinen. Und das Problem und jetzt komme ich endlich zum Punkt, wenn du mir nicht jedes Mal bevor ich kurz bevor ich dahin komme. Das heißt, man baut Diskriminierungsmaschinen und das wiederum heißt, der Begriff der Diskriminierung ist im Prinzip weg.
Linus Neumann: Weil es ja Wahrheit ist, was die Maschine macht.
Linus Neumann: Und dann sitzt du damit ein paar Waschlappen, die sagen, ja aber die dürfen jetzt nicht irgendwie äh Ausländer diskriminieren.
Linus Neumann: Doch, dafür werden sie halt gebaut in dem Fall, ne, also in anderen Fällen äh diskriminieren sie halt andere. In anderen Fällen diskriminieren sie Männer.
Linus Neumann: Oder äh oder Terroristen, denn diskriminieren die Videoüberwachungssoftware am am Flughafen über äh diskriminiert Terroristen.
Tim Pritlove: Genau, also das Wort Diskriminieren ist jetzt hier schwierig. Ich weiß genau, was du meinst. Wikipedia sagt,
Tim Pritlove: Kommt aus dem, von dem lateinischen Verb diskriminare, trennen ab sondern abgrenzen, unterscheiden, genau das ist das, was die Computer in dem Moment äh tun sollen. Ähm ich finde, das ist nicht länger äh länger ziehen,
Tim Pritlove: was ist dein Fazit?
Linus Neumann: Mein Fazit ist, dass eine ganze Menge ähm also gerade eine ganze Menge,
Linus Neumann: Schauplätze aufgemacht werden in ethischen oder sonstigen Debatten von Leuten, die letztendlich kein,
Linus Neumann: Bezug zu den Problemen haben, die wir als Gesellschaft in Zukunft haben werden mit diesen Techniken. Ähm,
Linus Neumann: Künstliche Intelligenz. Das Problem mit der künstlichen Intelligenz wird nicht unbedingt sein, welche Entscheidungen sie trifft, weil die in Zweifelsfall
Linus Neumann: besser sein werden als die Entscheidung, die ein Mensch hätte treffen können. Also, wenn jetzt eine künstliche Intelligenz die Kreditvergabe machen lässt, wäre eine künstliche Intelligenz Autos fahren lässt, die wird
Linus Neumann: all diese Dinge besser machen als wir Menschen.
Tim Pritlove: Also mehr sinnvolle Kredite geben, weniger nicht sinnvolle Kredite äh auf Leute loslassen.
Linus Neumann: Ende zum Vorteil aller Beteiligten. Das Problem, was wir mit diesen ganzen Big Data und so weiter haben werden, ist,
Linus Neumann: dass diese Prädiktionskraft,
Linus Neumann: nur einige sehr wenige ähm multinationale Unternehmen erreichen werden,
Linus Neumann: Also wenn jetzt irgendwie da Leute sitzen und sagen, ja,
Linus Neumann: die Krankenkassen wollen jetzt bald Big Data machen. Also alle wollen jetzt bald Big Data machen, ne? Das ist jetzt irgendwie Big Data, stand jetzt in irgendwo, ne, Big Data ist jetzt und jetzt sitzen überall alle in ihren Unternehmen und sagen, ja,
Linus Neumann: Machen wir eigentlich mit Big Data?
Tim Pritlove: Wir haben uns da jetzt eine Vierteballplatte gekauft.
Linus Neumann: Die haben sich auch teilweise größere Festplatten gekauft, ja.
Tim Pritlove: Ja, machen wir jetzt Big Data.
Linus Neumann: Machen wir jetzt Big Data drauf. Und dann hast du halt so eine Krankenkasse, die hat ja durchaus einiges zu äh einiges an Daten, ja. Äh darf den größten Teil davon nicht verwenden. So.
Tim Pritlove: Mhm. Weil es ja diskriminierend.
Linus Neumann: Hm, na ja, die haben die haben so skurrile Sachen wie, also ähm da ist Datenschutz ja dann auch teilweise ganz ganz witzig. Ähm,
Linus Neumann: Krankenkassen dürfen zum Beispiel, dürfen die Daten, die sie über dich haben nicht zum Zwecke des Marketing,
Linus Neumann: oder der Angebotserstellung nutzen. Das führt zum Beispiel dazu, dass du, obwohl deine Krankenkasse ja weiß, ob du beim Zahnarzt warst oder nicht,
Linus Neumann: Ja? Du, ja, wenn's zum Zahnarzt gehst, zahlt deine Krankenkasse die Rechnung. Trotzdem musst du diese Bonusheftchen führen, wo dein Zahnarzt dir irgendwie einen Bärchenstempel reinmacht und sagt, äh was da zum Zähneputzen?
Tim Pritlove: Zur zur jährlichen Kontrolle. Ja.
Linus Neumann: Zur jährlichen Kontrolle, zum jährlichen Zähneputzen. Ähm dann, damit du dann mit diesem Bonusheft irgendwann zur Krankenkasse gehen kannst und sagst, hier ich war fleißig,
Linus Neumann: Und dann kann die Krankenkasse äh aber dieses Bonusheft musst du quasi gesondert führen bei dir zu Hause. Also das ist halt irgendwie so so datenschutz äh Scherze, die ähm.
Tim Pritlove: Nicht zielführend sind.
Linus Neumann: Wahrscheinlich, sage ich mal, auch hier die Herausforderung unserer Gesellschaft,
Linus Neumann: im Sinne im Bereich des Datenschutzes ein bisschen verkennen. Um das mal vorsichtig auszudrücken, ja? Und meine meine tatsächliche Sorge in Bezug auf diese ganze Big Data Gedöns ist,
Linus Neumann: dass diese Daten,
Linus Neumann: Mengen zu sammeln und sind und irgendwie intelligent oder so zu analysieren, nur,
Linus Neumann: Einigen wenigen Unternehmen möglich sein wird und dass der wirkliche Gewinn aus Big Data auch erst dann entsteht, wenn du nämlich völlig,
Linus Neumann: Fach- und Sachfremde Daten mit dazu nimmst. Also, ich glaube, dass die Krankenkasse schon alle.
Linus Neumann: Sage ich mal, theoretisch sinnvoll einleuchtenden Daten über Leute hat und gerade private Krankenkassen dürfen da ja auch mehr haben und die haben schon ihre Modelle und so weiter und die machen,
Linus Neumann: Datenanalysen und Präditionen und äh oder zumindest die privaten, ne? Und und äh äh machen dir dementsprechend einen Tarif und versuchen alles, um vorher zu sagen, wie riskant es ist, mit dir einen Vertrag einzugehen und dafür zu sorgen, dass du am Ende der Vertragslaufzeit, also deines Lebens
Linus Neumann: ähm am Ende derjenige bist, der mehr bezahlt hat als sie, ne? Big Data ist aber genau der Schritt.
Linus Neumann: Nicht mehr nur sachbezogene Daten zu haben, sondern eben alle.
Linus Neumann: Und diese Daten werden nur einige wenige haben. Und äh ich ich halte, wenn ich heute, sage ich mal, zynisch gesprochen, ein äh eine private Krankensparkasse leisten leiten würde, würde ich sagen, wir geben keinen Cent für Big Data aus,
Linus Neumann: Sondern wir machen jetzt einen ordentlichen Dienstleistervertrag mit Google,
Linus Neumann: und machen den für fünfzig oder hundert Jahre fest, damit ihr uns nicht in zehn Jahren die Preise hochziehen, wenn sie nämlich ihr Big Data-Ding im Griff haben und damit wirklich mal Präduktionen machen können.
Linus Neumann: Und das wird der der unschöne Teil an diesem ganzen Big Data Kram,
Linus Neumann: Nicht, dass jeder jeder äh über dich alle möglichen Daten sammelt, sondern das eine Instanz alle möglichen Daten über dich sammelt,
Linus Neumann: Und alle anderen, im Prinzip nur pro, sagen wir mal bitte, eben
Linus Neumann: pro Abfrage an diese KI Big Data, allumfassende lalala. Was weiß ich, ein Cent zahlen, ja?
Linus Neumann: Und das ist das, das ist das sind die wirklichen Probleme, die dadurch entstehen. Und nicht, ob jetzt irgendwie
Linus Neumann: äh Leute, die jetzt schon diskriminiert werden, in Zukunft weiterhin diskriminiert werden, weil es im im Bezug auf das Diskriminationsmerkmal nun mal sinnvoll ist, diese Werte mit heranzuziehen.
Tim Pritlove: Alright.
Tim Pritlove: Kann deinen Gedankengang auch nachvollziehen. Das freut mich. Ja.
Linus Neumann: Das freut mich. Und wenn die künstliche Intelligenz den jetzt auch noch nachvollzieht, dann platzt Google.
Linus Neumann: Aber wie gesagt, ich muss ich bin gerade so ein bisschen diese.
Tim Pritlove: Radmodus.
Linus Neumann: Nein, ich habe einfach so viele Tage jetzt hinter mir mit allem möglichen Quatsch. Ich komme da gleich auch noch mal äh äh nochmal zurück, weil ich habe noch viel mehr Quatsch gehört in den letzten Tagen. Ich, das war erst der erste Akt jetzt. Ähm,
Linus Neumann: So. Kommen wir zum ersten Thema.
Tim Pritlove: Das war der Prolog aller Prologe.
Linus Neumann: Ja.
Linus Neumann: Ich glaube, wir hatten das hier auch schon mal in der Sendung, wo ich, wo ich das gesagt habe, mit den äh ne, ja, wir wir brauchen eine Ethik für autonome Fahrzeuge,
Linus Neumann: brauchen wir nicht,
Linus Neumann: wenn die Autos erstmal alle autonom fahren, wird das der nächste tiefe Fall in der in der Statistik der Unfalltoten, weil wir uns nicht mehr die ganze Zeit besoffen äh und aggressiv und müde über den Haufen fahren,
Linus Neumann: weil die autonomen Autos einfach nicht mehr besoffen aggressiv oder müde werden, sondern einfach im Notfall anhalten, bevor sie jemanden umnieten, was ihr ganzen Leute da draußen nämlich nicht macht.
Linus Neumann: So und deswegen wird die fünf bis zehn Leute, die autonome Autos im Jahr dann noch umnähten.
Linus Neumann: Jamai. Ärgerlich, aber noch lange nicht so schlimm, wie die vielen tausend, die wir die irgendwie jedes Jahr umgenietet werden. Die Schuldfrage ist.
Tim Pritlove: Aber die Schuldfrage. Die Schuldfrage. Es muss doch jemand schuld sein.
Linus Neumann: Genau. Schöner Punkt. Weißt du wer wer sagt, ich bin schuld, ist mir völlig egal. Die Autohersteller,
Linus Neumann: Weil die nämlich inzwischen so viel Vertrauen in ihre Autos haben,
Linus Neumann: dass sie sagen, äh wie Volvo hat das, glaube ich, jetzt vor kurzem gemacht. Volvo ist hingegangen, hat gesagt, wenn da irgendwie ein Unfall passiert, macht euch keine Sorgen. Zahn wir sind schuld. Ist in Ordnung, sind wir schuld.
Linus Neumann: Sind wir schuld. So und die sind noch nicht mal mehr zu einer Versicherung gegangen,
Linus Neumann: sondern direkt zum Rückversicherer und haben gesagt, naja, wir haben so und so viele Autos hier rumfahren, ähm die können eigentlich keinen umniten, die fahren tausendmal besser als jeder andere, aber wenn mal was passiert, dann müssen wir damit rechnen, dass wir quasi,
Linus Neumann: Pro Auto, was da rumfährt, eine Haftpflichtdeckung im Prinzip brauchen. Haftpflichtdeckung ist, glaube ich, so fünfzig Millionen bei.
Linus Neumann: Dann gehen sie zum Rückversicherer und sagen, jo, im aller, aller schlimmsten Fall, ne, wenn unser autonomes Auto von der Brücke fährt und irgendwie, ne und so, dann müssten wir mal fünfzig Millionen haben.
Linus Neumann: Aber die haben wir sowieso bei uns hier aufm Konto liegen. Also eigentlich brauchen wir die Rückversicherung nur, wenn auf einmal zwanzig von unseren Autos das machen. Und das Risiko sehen wir nicht gegeben. Insofern machen wir gar keine Versicherung, sondern direkt nur in Rückversicherungsvertrag.
Tim Pritlove: Ist aber derzeit nicht die Realität. Also ich kenne auch andere Geschichten, wo halt äh autonome Unfallerkennungen zum Beispiel, so Abstandsdinger et cetera dann in Zeisfall, dein Auto auffahren lassen,
Tim Pritlove: obwohl sie das verhindern könnten,
Tim Pritlove: sie bremsen ab und sie machen den Aufprall sozusagen geringer, aber ohne das System wärst du ja trotzdem noch draufgeknallt,
Tim Pritlove: In dem Moment, wo du dich, wo sie dich aber so wegbremsen, dass das nicht passiert, könnte es ja dazu führen.
Linus Neumann: Das Auto nicht in die Werkstatt muss.
Tim Pritlove: Nee, dass derjenige hinter dir in dich reinfährt, ja und du dann sozusagen durch deine Bremsung,
Tim Pritlove: auch wenn sie automatisch war, den Unfall ausgelöst hast, der dann hinter dir passiert und nicht vor dir. Das heißt, sie greifen in einer Art und Weise ein, wie sie quasi die bisherige Realität nur etwas verzerren, aber nicht ändern,
Tim Pritlove: Ich habe da nicht zu viel Einblick in diese Szene, aber das ist eine relativ junge Diskussion, die mir gerade äh so gesteckt wird,
Tim Pritlove: Das ist, glaube ich, in etwa der Punkt, an dem wir uns gerade befinden, da müssen wir nicht bleiben. Aber das sind halt genau solche Fragen.
Linus Neumann: Genau, das ist der Punkt, an dem wir jetzt sind. Ich habe, glaube ich, schon mal gesagt, das Auto wird demnächst dem Auto hinter sich sagen, ey,
Linus Neumann: der verbleibende Idiot, äh der seit Mainz sein Auto selber steuern zu müssen, hat da vorne gerade eine Vollbremsung gemacht. Ich mache auch eine, mache mal alle mit.
Tim Pritlove: Na ja, das wird auch noch eine schöne Security-Hölle, wenn du dann erst mal dem Autobahnen stehst und allen Autos sagst, dass gleich ein Unfall passiert und dann kannst du zuschauen, wie sich alle im Kreis drehen. Also.
Linus Neumann: Ich habe das mit dem Solarpanel schon an meinem Rucksack,
Linus Neumann: beim Fahrradfahren.
Tim Pritlove: Also ich erwarte Änderung, ich erwarte sie nicht morgen, aber äh wir werden noch einiges davon äh mitbekommen und wir werden sicherlich die ein oder andere auch ethische Diskussion darum dann nochmal führen müssen.
Linus Neumann: Wir können ethische Diskussionen führen, aber das Problem ist echt viel mehr, dass diese mit dieser ganzen,
Linus Neumann: Big Data und Überwachungsscheiße, dass es einem alles am Ende an einer Stelle ist. Und mit dieser Stelle will man sich dann nicht mehr anlegen. Und das ist das, das ist das ernste zentrale Problem für Gesellschaft und Zukunft,
Linus Neumann: Und da ist mir der Einzelne äh wie schnell das Auto jetzt bremst. Äh neben Schauspiel, neben Kriegsschauplatz. Da kann man,
Linus Neumann: Da kann man sicherlich auch äh die ein oder andere Professur für vergeben, aber ich fände schön, wenn die meisten sich über Probleme äh um Probleme kümmern würden, die ernsthaft mal irgendwie die Welt verändern,
Linus Neumann: oder beschäftigen. Zum Beispiel.
Tim Pritlove: Nächste Mal, wenn ihr auf jeden Fall einen stolpernden äh äh humanoiden Roboter im Wald trifft, der.
Linus Neumann: Den trete ich sofort um.
Tim Pritlove: Lauft. Lauft's.
Linus Neumann: Helft ihm, seid freundlich.
Tim Pritlove: Los Linus, jetzt machen wir mal ein anderes Thema.
Linus Neumann: Ja, sind social Plugins rechtswidrig.
Tim Pritlove: Jetzt kommen wir zum langweiligen Teil.
Linus Neumann: Bevor wir dann nochmal zum, bevor wir dann nochmal zum richtigen Bullshit-Teil kommen, danke. Kommt die zweite Phase.
Tim Pritlove: Ja, also wir haben eine ereignislose Woche. Ihr merkt das schon, deswegen äh reden wir jetzt hier über Meta Themen schon mal eine dreiviertel Stunde. Mal gucken, äh wie viel wir jetzt hier noch rausfinden. Also was ist passiert? Ein äh Landgericht.
Linus Neumann: Landgericht hat geurteilt. Düsseldorf.
Tim Pritlove: Welches war's? Düsseldorf. Hat sich das mal alles ganz genau angeschaut, wie denn das ist mit.
Linus Neumann: Wie ist das eigentlich mit diesem Internet?
Tim Pritlove: Mit diesem Like Buttons.
Linus Neumann: So
Linus Neumann: spannende also wollen ja immer die den Nutzer da abholen wo sie sind. Also ihr seid jetzt gerade bei Facebook, da gibt's da gibt da ist der Like Button ja eh schon bei Facebook. So, wenn ihr jetzt von Facebook runtergeht,
Linus Neumann: Like-Button da. Der ist dann haben wir auf eigentlich. Warum nicht? Das,
Linus Neumann: Also man kommt auf eine man kommt man verlässt kurzzeitig Facebook und geht ins Internet und sieht dort eine Seite, zum Beispiel, jetzt muss man eine Beispielseite nehmen, ähm zum Beispiel die Seite,
Linus Neumann: von.
Tim Pritlove: Jede mögliche Seite.
Linus Neumann: Ja, hier war äh ich würde jetzt hier gerade ähm,
Linus Neumann: Ich hätte jetzt die genommen aus diesem Urteil, aber das finde ich jetzt schnell so schnell, ne. Äh jeder andere Seite Spiegel DE, jede Seite so Spiegel DE. Ähm dann sieht man unter dem Artikel sieht man hier direkt schön, prominent ähm,
Linus Neumann: Facebook teilen, Twitter twittern oder E-Mail, ja? So und ich glaube, äh Spiegel hat sogar diese ähm die Datenschutz äh Sparvariante mit dem Sharebutton. Aber so ist das beim Demo-Effekt.
Tim Pritlove: Er habe alle News Seiten irgendwie tickt mal, Handelsplatt oder keine Ahnung, was auch immer, einfach diese ganzen.
Linus Neumann: Genau oder ihr geht.
Tim Pritlove: Post, schmeiß es dir wahrscheinlich fünfzig Mal um die Uhr.
Linus Neumann: Ja, aber wir bleiben mal, wir bleiben mal bei der eigenen Nase. Huffington Post kenne ich nicht, aber wir kommen mal auf Lokbuch Netzkritik. Da ist der Flatterbalken. So und der Flatterbanden.
Tim Pritlove: Aber das sind doch die Guten.
Linus Neumann: Sind die Guten, ja. Der Fletterbutton,
Linus Neumann: zeigt die Anzahl der Tweets äh der der Fletters an,
Linus Neumann: dieses Asset äh bekommen hat oder dieses Trinken. Die übrigens viel zu gering ist, was ich an dieser Stelle mal kurz anmerken möchte hier äh ja die könnten durchaus höher sein.
Tim Pritlove: Die Klicks. Wo guckst du denn? Letzte Sendung oder was.
Linus Neumann: Politik DE. Da könnte.
Tim Pritlove: Das war die, wo du nicht dabei warst, ne? Da könnte in der Tat noch ein bisschen mehr.
Linus Neumann: Ja. Von mir aus auch bei den Sendungen, wo ich dabei war und hier neben meinem Namen ist ein besonders formschöner Flatterbutton. Aber so
Linus Neumann: jetzt ist die Frage, woher weiß der Logbuch Netzpolitik eigentlich, wie oft diese Sachen geflettert wurden? Stellt sich raus, weiß es gar nicht, weil dieser Flatterbarten als externes,
Linus Neumann: ähm Skript von Flatter geladen wird. Und bei dieser Gelegenheit, Flatter auch,
Linus Neumann: Darüber in Kenntnis gesetzt wird, dass wir grade auf dieser Seite sind und dieses Asset betrachten.
Linus Neumann: Ähm leuchtet ein, geht auch nicht anders, weil Flatter ist ja in der Lage, den Browser zu sagen, die Zahl, die ihnen dieses Feld gehört, lautet siebenundfünfzig, was wirklich eine lächerlich geringe Zahl ist,
Linus Neumann: So und ähm,
Linus Neumann: Dann sagt also dem Browser hier in dieses Feld mal eben eine siebenundfünfzig machen und hat bei dieser Gelegenheit eben auch erfahren, dass dieser Browser mit dieser IP-Adresse gerade dieses,
Linus Neumann: Ding anschaut. Und das gleiche passiert bei einem Like Button, bei einem plus eins Button und bei einem Twitter-Button und kennst du alles nicht. So,
Linus Neumann: Das heißt, in die Seiten, wo sich diese Buttons befinden, sind externe Ressourcen eingebaut, die von den jeweiligen Anbietern kommen. Und die beim Besuch der Seite den Anbieter darüber in Kenntnis setzen, dass man diese Seite gerade besucht.
Tim Pritlove: Es geht noch einen Schritt weiter, das hast du jetzt im Prinzip übersprungen, falls du nicht noch dazu kommen wolltest. Flatter und wie auch die und die anderen, also uns geht's ja jetzt nicht um Flatter, sondern um alle. Wir sind jetzt einfach nur mal sind nun mal bei dem Beispiel,
Tim Pritlove: wenn man halt angemeldet ist bei Flitter,
Tim Pritlove: oder äh da eingeloggt war und quasi ein Cookie in seinem Browser gesetzt hat, der diesen Status äh dann auch nochmal klar widerspiegelt. Dann ist ja noch mehr Information in diesem Button, nämlich auch hast du das schon geklickt oder nicht?
Tim Pritlove: Es gibt hier auch noch eine Identifizierung mit dem Benutzeraccount, so den einer existiert.
Linus Neumann: Genau und wir hatten auch vor einigen Wochen noch dieses Urteil, dass äh Facebook ähm sogar Leuten Cookies gegeben hat, die.
Tim Pritlove: Nicht eingeloggt, keinen Account haben, ja. Mhm.
Linus Neumann: Und so ergibt sich dann,
Linus Neumann: Ein Netz im Internet, durch das ich die Nutzer verfolge als Google oder als Facebook?
Linus Neumann: Und weiß, was sie sich anschauen, wenn sie gerade nicht bei uns sind.
Linus Neumann: Google hatte den sehr klugen die sehr kluge Idee das mit ihrem Angebot Google Analytics nochmal zu perfektionieren der plus eins Knopf von Google ist glaube ich gar nicht so äh nennenswert vertreten wie andere,
Linus Neumann: Aber es gab beim Digitalamt äh netzpolitischen Amt der digitalen Gesellschaft, einen äh eine Studie, die da vorgestellt wurde, wo jemand sagte, ja, ähm.
Linus Neumann: Ich habe mal eine Millionen Webseiten angeschaut und bei achtundsiebzig Prozent der Seiten trackt Google mit, bei zweiunddreißig Prozent Facebook mit, bei dreiundzwanzig Prozent,
Linus Neumann: Ist ein äh Content des Revision Network, also nicht wirklich ein,
Linus Neumann: Konkreter Anbieter und bei achtzehn Prozent Twitter. Und jetzt das ist natürlich,
Linus Neumann: sagen wir mal gelinde gesagt, ein Problem, weil wir ja irgendwann mal in einem in einem,
Linus Neumann: geistiger Umnachtung dachten, dass dieses Internet vielleicht ein dezentrales Netz ist, in dem keine einzelne,
Linus Neumann: Stelle zentral ist und alle äh Sender sein können und das irgendwie so ein fröhliches nebeneinander ist,
Linus Neumann: Also natürlich nicht unbedingt der Fall, wenn wir einzelne Player haben, die bis zu achtundsiebzig Prozent des Internets quasi oder des der Seiten die Menschen regelmäßig besuchen, ähm mit überwachen.
Linus Neumann: Und da gab's also jetzt ein ein äh Urteil, wo ähm.
Linus Neumann: Ein Seitenbetreiber gesagt wurde, du hast hier diesen Facebook,
Linus Neumann: Like-Button mit drin, der übermittelt automatisch Daten an Facebook zu dem Zeitpunkt, wo dies geschieht,
Linus Neumann: hat der Nutzer dem noch nicht zugestimmt und auch nicht nicht zustimmen können und deswegen ist das,
Linus Neumann: Datenschutzkonform, was da geschieht und das ist eine Einschätzung, die ich laienmäßig teile. Ähm der naive Nutzer hat die Erwartung, wenn er Spiegel eingibt, dass er dann,
Linus Neumann: bei Spiegel Online landet und nicht gleichzeitig noch tausend Verbindungen überall sonst hinmacht und Facebook noch mittrackt,
Linus Neumann: was er, dass er dort ist und Facebook das auch noch über ihn oder Google über alle möglichen Seiten macht.
Tim Pritlove: Ja, ich glaube, das sind eine Menge Leute, das einfach in Kauf nehmen. Schon Wissen und so.
Linus Neumann: Genau, das ist inzwischen eine Realität. Wir hatten, glaube ich, auch schon vor einiger Zeit mal diese Datenblumen von äh von Open Data City besprochen, wo irgendwie gezeigt wurde, du besuchst die Seite, wo holt der sich noch alles Mist her?
Linus Neumann: Es gibt diese diesen Fix mit der zwei Klicklösung, wo man quasi sagt, okay, der Button ist grau dort,
Linus Neumann: aber noch nicht aktiv. Es hat noch keine Verbindung zu Facebook stattgefunden, wenn man dann einmal auf den Button klickt, dann.
Tim Pritlove: Riecht man die Information.
Linus Neumann: Kriegt man die Information, wenn man dann nochmal draufklickt, hat man geliked oder so, ne. Ähm aber wie gesagt, es gibt eben noch diesen,
Linus Neumann: durchaus genialen Schachzug von Google, das mit diesem Google Analytics, das war, glaube ich, eine ihrer wirklich klügsten Erfindungen,
Linus Neumann: ähm nach der Suche, dass sie gesagt haben, okay, komm, wir machen richtig geiles,
Linus Neumann: Analysewerkzeug und alles was die Leute machen müssen ist ein dämliches Java Skript irgendwo in ihre Seite einbinden, was von uns kommt und wir machen die gesamten Analysen für die,
Linus Neumann: nebenbei analysieren wir damit das gesamte Internet, zu dem wir ja der Wegweiser für die Menschen sein wollen.
Tim Pritlove: Mal ganz von Vorteil ein bisschen Plan zu haben, was so gesurft wird, was relevant ist, was populär ist.
Linus Neumann: Das ist Big Data.
Linus Neumann: Tja und äh der das Urteil ist leider noch nicht rechtskräft oder das Urteil ist noch nicht rechtskräftig, ist auch nur ein Landgericht. Ähm,
Linus Neumann: aber es ist schön, also ich meine, das ist auch ein Thema, was, glaube ich, schon mehrmals äh diskutiert wurde und ähm,
Linus Neumann: Was auch leider nicht wirklich äh zum Abschluss kommt, denn eigentlich diskutiert man das jetzt auch schon wieder seit seit fünf bis zehn Jahren,
Linus Neumann: Aber es wäre ähm ich habe so ein bisschen die Sorge, dass,
Linus Neumann: das es wahrscheinlich zu spät ist sich darüber jetzt diese Gedanken zu machen weil es eben längst eine Realität ist.
Tim Pritlove: Ja, es vor allem auch die Frage, ob das jetzt in der Form äh Bestand haben wird, ob auch die rechtliche äh Beurteilung dessen ähm Bestand haben wird, weil sie ja hier davon ausgehen IP-Adresse ist automatisch personenbezog et cetera,
Tim Pritlove: ist schwierig. Ich meine, ich bin da auch sehr ähm gespalten. Ich meine, diese ganze das ganze ist ja,
Tim Pritlove: Etwas, was eigentlich das das Web einfach auf eine unglaubliche Art und Weise nützlich,
Tim Pritlove: gemacht hat. Also man kann sich ja das Web ohne gar nicht vorstellen. Natürlich bedeutet M-Beding nicht automatisch Tracking,
Tim Pritlove: Also man könnte ja dieses ganze Embeden auch ohne Trekking machen. Nur.
Linus Neumann: Macht's halt keiner.
Tim Pritlove: Glaube ich, es ist das ja auch, sagen wir mal durchaus auch, ich meine, in dem Moment, wo ich anbiete,
Tim Pritlove: wird ja auch eine Dienstleistung von mir in Anspruch genommen, ja, also wenn ich jetzt hier so an, was weiß ich, so wie YouTube
Tim Pritlove: Videos, ambitten, ihr dürft das in euren Webseiten anzeigen und so weiter. Man gibt ja auch etwas, ja? Und äh äh in gewisser Hinsicht ist das ja auch legitim darüber dann Statistiken zu führen äh et cetera
Tim Pritlove: Schwierig wird's natürlich wirklich an der Stelle, wo die Personen sichtbar werden.
Linus Neumann: Also wir könnten zum Beispiel auch, glaube ich, sehr einfach ein äh den den äh Lokbuchnetz-Boutique hundertfünfundsiebzig Button anbieten, den dann jeder in seine Webseite einbauen kann,
Linus Neumann: und der hm, das ist doch gerade hundertfünfundsiebzig und dann.
Tim Pritlove: Die Sendung, ja.
Linus Neumann: Wäre das quasi, würden wir euch einen kleinen String geben, den baut ihr nur eure Seite ein und wenn die Seite besucht wird
Linus Neumann: holt sich das Teil halt äh Daten über die Episode von Lokbuch Netzpolitik DE und wenn es abgespielt wird, auch die MP3 und dann hätten wir mit sehr einfachen Mitteln, also da muss man gar nicht großartiges machen, kann man schon alleine aus dem Browser Locks sehen, wie viele Leute eure Seite besucht haben,
Linus Neumann: Bis auf die wenigen, die jetzt irgendwie mit No Script oder so, äh, sie am Laden von externen Ressourcen gehindert haben und wie viele dabei auf Play gedrückt haben
Linus Neumann: Da werden nur noch wenige Zeilen Code notwendig, um ein Affiliate-Programm zu machen und die mageren siebenundfünfzig Flatter, die da rumkrebsen, mit euch zu teilen,
Linus Neumann: Aber dafür würden wir halt eure Nutzer tracken und unsere Datenschutz-Policy ist mal wirklich eisern. Denn wir haben keinen Datenschutz. Wir analysieren alles. Wir speichern alles.
Tim Pritlove: Das nennst du eisern.
Linus Neumann: Wir machen.
Tim Pritlove: Das finde ich ja jetzt ein das falsche Wort,
Tim Pritlove: ziehe mir mein eisern nicht in den Schmutz. Ähm,
Tim Pritlove: Ja, das mit dem äh hätte ich übrigens schon am liebsten seit zwei Jahren schon äh am Laufen, aber das ist sozusagen einfach aus technischen Gründen noch nicht erfolgt. Wird auch sicherlich kommen, sicherlich nicht mit äh Personentracking.
Linus Neumann: Warum nicht? Wie wollen wir den Lockdown Netzpolitik sonst irgendwann mal an Google oder Facebook verkaufen?
Tim Pritlove: Du wir setzen einfach hier auf eine informierte äh und loyale Community und so gehen wir auch mit dir um.
Tim Pritlove: Das Prinzip.
Linus Neumann: Na gut.
Tim Pritlove: Gibt's kein.
Linus Neumann: Da fällt mir übrigens noch ein, ne? Äh ach so, ich will jetzt nicht wieder schon wieder zu diesem Big Data zurück. Das hat mich wirklich aufgewühlt irgendwie.
Tim Pritlove: Ich merke schon, ich merke schon, Hobbybrauner.
Linus Neumann: Weißt du, was mich noch mehr aufgeregt hat?
Tim Pritlove: Durch mit dem Thema schon.
Linus Neumann: Äh Landes äh Landgerichturteil in Düsseldorf, ja, also ich glaube jetzt nicht, dass Facebook gerade da sitzt und weint.
Tim Pritlove: Wahrlich nicht. Nee, äh wir nehmen das jetzt einfach mal zur Kenntnis und äh äh erkennen an, dass es äh ein, ein, ein, ein, ein Problem ist und da wir ja hier eigentlich nur eure Berichterstatter sind, haben wir jetzt Bericht erstattet.
Linus Neumann: Wir sind, was übrigens, wer übrigens auch trackt wie nix Gutes, ne. Und wahrscheinlich noch viel mehr und noch viel schlimmer
Linus Neumann: sind die Konkurrenten von Google, also die anderen, die uns Werbung einblenden, wenn die Schärfung nicht sowieso schon von Google kommt, ja? Also Werbenetzwerke äh sind da ähnliche äh
Linus Neumann: ähnlich äh unschöne äh Erscheinungen. Und deswegen ist, glaube ich, in der heutigen Zeit leider,
Linus Neumann: Die Nutzung eines äh Tracker-Blockers ähm und eines Werbeblockers und aller Blogger, die es so gibt, unerlässlich.
Tim Pritlove: Eine Sache sollten wir vielleicht noch erwähnen, was es nämlich, glaube ich, noch nicht getan, ähm aber den Link hier in der Liste,
Tim Pritlove: Dieses schöne äh Projekt, was auch zuletzt auf dem Netzpolitischen Abend vom digitalen Gesellschaft vorgestellt wurde, von einem anderen Tim. Tim äh Libert,
Tim Pritlove: einfach mal den Spieß umgedreht hat und in so einem,
Tim Pritlove: in so einem Goilosenvirtuellen Maschine Webseiten geladen hat und dann einfach
Tim Pritlove: dynamisch allen Trekking gefolgt ist und die kartographiert hat.
Tim Pritlove: Nennt sich Webx Ray, äh,
Tim Pritlove: schöne Sache und hat mit äh relativ wenig Aufwand da eine riesige Datenbank aufgebaut, ja auch frei zur Verfügung stellt, zur Analyse, wo man eben an dann einfach auch genau diese Daten,
Tim Pritlove: dann heraus äh liest du dir anfangs schon präsentiert hast. Und da gibt's auch Soursquoten, da kann man auch nochmal drauf schauen und äh vielleicht selber mit rumexperimentieren.
Tim Pritlove: Ja
Linus Neumann: Jetzt kommen wir zum nächsten Thema.
Tim Pritlove: Hammer.
Linus Neumann: Also.
Tim Pritlove: Bullshit. Made in erklär mal, ich äh deine Notizen sind ja wirklich so mysteriös, dass ich manchmal gar nicht weiß, worauf du hinaus willst.
Linus Neumann: Also ich wurde äh.
Tim Pritlove: Du erlebst immer so Sachen.
Linus Neumann: Ich würde, ich wurde gefragt, ob ich denn nicht bitte ähm zu einer Studie äh einer Veröffentlichung äh,
Linus Neumann: Auskunft geben kann. Zu der Gefahr, die da einige Forscher festgestellt haben für unsere Demokratie,
Linus Neumann: Nichts wie nichts, nicht weniger als unsere Demokratie ist in Gefahr.
Tim Pritlove: Sind wir schon. Demokratie ist in Gefahr, lass mal Linus nochmal anrufen, weil sonst wissen wir nicht weiter.
Linus Neumann: Ja, so so weit sind die schon. So und warum ist unsere Demokratie in Gefahr? Nun. Nein.
Tim Pritlove: Wahlcomputer. Nein? Künstliche Intelligenz. Trekking.
Tim Pritlove: Na was?
Tim Pritlove: Ja
Linus Neumann: Man stelle sich vor denjenigen, die irgendwie vielleicht ein Twitter-Account haben, wird dieser Gedanke völlig fremd sein. Man stelle sich vor, es gäbe Computerprogramme, die twittern.
Linus Neumann: So und jetzt twittern die nicht Werbung, wie sie's seit zehn Jahren machen, sondern.
Tim Pritlove: Inhalt. Propaganda.
Linus Neumann: Inhalt. Propaganda und zwar Propaganda vom Feinsten, nämlich im für für Putin und Trump. Trump kennst du, ne? Den den Verrückten.
Linus Neumann: So und,
Linus Neumann: Dann liest du halt in eine völlig ganz normale Tag in der Zeitung, wo drin steht diese social Bots können sogar Wahlen manipulieren. Kampagnen starten und auf Twiets antworten.
Tim Pritlove: Nein, jetzt ist aber Schluss. Also, bei Wahlen manipulieren, da saß ich ja noch bei meiner Currywurst, aber wenn die jetzt auch noch auf Tweets antworten.
Linus Neumann: Und dann erreichstet sich dieser Autor,
Linus Neumann: Für die ansteigende Flut an Verschwörungstheorien und Hasskommentaren im Netz kann es auch eine andere Erklärung geben, nämlich Social Bots. Stimmt! Das ist nämlich so Tim, es gibt gar nicht so viele Rechte in Deutschland.
Tim Pritlove: Ach, das sind alles nur Bots.
Linus Neumann: Das sind alles nur Bots, die den ganzen Quatsch auf Facebook und auf Twitter schreiben.
Linus Neumann: Und die Leute, die die und sind wahrscheinlich nur eine Einzelperson, die inzwischen irgendwie die ganzen Unterkünfte angezündet hat. Der Rest sind nur Bots.
Tim Pritlove: Oder die Bots zünden, die Unterkünfte an. Soweit.
Linus Neumann: Das haben wir, das finden die auch noch raus. Das finden die auch noch raus. Also, der.
Tim Pritlove: Manifestation einer künstlichen Intelligenz, die jetzt anfängt, unsere Turnhallen abzubrennen. Oh je.
Linus Neumann: Also es gibt ähm.
Linus Neumann: Das Thema ist, man kann also, man kann jetzt relativ einfach, man macht sich einen Twitter-Account und dann gibt's da eine AP und Antisea AP kann man zum Beispiel eine relativ einfaches Pifon Skript lehnen und,
Linus Neumann: Man bringt dann zum Beispiel diesen,
Linus Neumann: Schau doch mal bitte, was unter dem Hashtag so und so stattfindet und dann nimm mal diese Tweets und dann entfernst du das Hashtag und tweetest sie noch mal.
Linus Neumann: Oder schau doch mal, was folgender Account äh twittert und jedes Mal, wenn dir etwas twittert, du das? Oder jedes Mal, wenn dir etwas twittert, antwortest du ihm.
Linus Neumann: Und dann kann man natürlich hingehen und sagen, antworte ihm mit einem Satz aus folgendem oder aus folgender Datenbank. Ähm,
Linus Neumann: Und dann könnte man zum Beispiel das Skript noch erweitern, um achte mal dadrauf, dass keine Stunde vergeht,
Linus Neumann: ohne dass du nicht irgendetwas twitterst, was halbwegs menschlich erscheint.
Linus Neumann: Und dieses menschlich sein soll, könnte man sich ja einfach von anderen Twitter-Accounts klauen,
Linus Neumann: Also irgendwie äh nimmst du halt irgendwie zehn Twitter-Accounts, irgendwelche Art, folgst denen und wenn die irgendwas sagen,
Linus Neumann: dann twitterste das einfach auch, weil das sind menschliche Personen und du willst ja den Eindruck machen, ein Mensch zu sein, also kopierst du einfach deren Inhalte.
Tim Pritlove: Ja, so wie es bei sich halt auch irgendwie einfach anderer Leute, Kommentare äh klauen und nur den passenden Link dazu reinsetzen.
Linus Neumann: Genau. Und dann natürlich das nächste, dann hast du deinen, der hat aber keine Follower, also machst du dir äh hundert oder tausend oder sechzigtausend Bots, lässt sie sich alle gegenseitig folgen und versuchst irgendwie den Eindruck zu erwecken,
Linus Neumann: dass es sich dabei um eine um eine Person handelt, die irgendwie existiert. Ähm.
Tim Pritlove: Dass diese zweihundertfünfzigtausend Follower von Pegida auf Facebook, ja.
Linus Neumann: Das stelle ich hier gar nicht zur Debatte. Die die Entscheidung ist oder was mich einfach nur wirklich maßlos äh ärgert ist, dass das so einfache,
Linus Neumann: Dinge,
Linus Neumann: Ja, also was, wo man wirklich, da musst du gar nichts für können. Das kriegst du fertig auf Githup. Tausende von Twitterbots, die du, denen du jeweils immer nur diese beiden Keys geben musst und dann twittern die drauflos. Ja, also da da ist wirklich ähm,
Linus Neumann: für Anfänger. Ja und es wird auch seit jeher gemacht und dann hast du irgendwie, kannst du ja wie du möchtest auch erweitern. Ja, machst du dir halt hundert von, ist auch kein Problem,
Linus Neumann: Ähm und dass dieses,
Linus Neumann: Diese Strategie wird mit völlig katastrophalen Ergebnissen, seit es Twitter gibt, von allen möglichen Spämern ähm verfolgt,
Linus Neumann: Wir haben alle bisher noch nicht viel gekauft aufgrund dessen, äh was wir vorher nicht gekauft hätten, ja?
Tim Pritlove: Wissen wir nicht.
Linus Neumann: Ja, aber der der ähm der ähm Fakt ist,
Linus Neumann: Wir haben
Linus Neumann: relativ große Gefahren für unsere Demokratie, aber Bots auf Twitter sind es wahrscheinlich nicht. Und dann wurden wir, musste ich mir jetzt noch ein paar angucken, das sind dann halt relativ
Linus Neumann: simple Bots, die irgendwie was weiß ich jedes Mal, wenn Donald Trump was twittert, das und einmal pro Tag eben so ein White Power-Tweet raushauen,
Linus Neumann: Und die sollen jetzt auf einmal die Gefahr für unsere Demokratie sein? Ich glaube nicht. Was allerdings passiert,
Linus Neumann: ähm ist folgendes,
Linus Neumann: Du kannst ja mit diesen Bots machen, was du möchtest, wenn du davon mal einfach mal ein paar Tausend hast, das können ja auch von mir aus gestohlene Accounts sein, äh wo du äh die du dir dann in deine Bot äh äh Herde mit aufnimmst. Damit kannst du Leute mitunter ganz schön ärgern.
Linus Neumann: Sagen wir mal, ich habe sechzigtausend davon. Und jetzt möchte ich dich einfach mal ärgern, weil du,
Linus Neumann: Weil du mich unterbrochen hast.
Tim Pritlove: Rache.
Linus Neumann: In meinem schönen so das machst du nicht nochmal,
Linus Neumann: Dann könnte ich jetzt meine Botherde ähm heben und sagen Menschen doch mal,
Linus Neumann: Jede Minute den Tim mit einem anderen Account.
Linus Neumann: Und dann vibriert dein iPhone hier noch öfter als ohnehin schon und dein, dann störe ich quasi massiv deine Kommunikation.
Tim Pritlove: Meine Social Media Experience geht dahin.
Linus Neumann: Das wäre jetzt so ein Fall. Also das passiert auch, es passiert auch tatsächlich, ähm,
Linus Neumann: Also ich kenne mehrere Journalisten, denen das passiert ist, die dann halt irgendwie von so Bott, Herden,
Linus Neumann: ähm beleidigt werden, ja? Also da hat dann halt jemand wirklich viele tausend Bots und
Linus Neumann: kommt einfach, du kommst quasi mit dem Bloggen nicht hinterher, weil der dich immer wieder von einem anderen Account anspricht und beleidigt äh und kann dir so halt wirklich dein Leben,
Linus Neumann: unschön,
Linus Neumann: werden lassen, weil er die, weil er dir einfach diesen Account zu nagelt. Äh mit, mit, mit Menschens und mit mit Nachrichten oder sonst was.
Tim Pritlove: Gamergate, ne. Da ist also auch massiv passiert.
Linus Neumann: Genau, das ist auch massiv passiert, dass Leute da halt belästigt werden. Das ist ein sehr unschönes Phänomen, ähm,
Linus Neumann: aber eben auch bei aller Liebe keines, was jetzt irgendwie besonders neu,
Linus Neumann: Was besonders originell wäre oder was eine Gefahr für unsere Gesellschaft in ihren Grundfesten darstellt, als das jetzt plötzlich Wahlen,
Linus Neumann: Twitter-Bots gewonnen werden. Also das halte ich für eine für eine äußerst gewagte These, die jetzt hier in diesem Artikel vertreten wird. Ich
Linus Neumann: hoffe, dass die Wissenschaftler, die diese Studie veröffentlicht haben, diese These nicht auch noch irgendwie vertreten haben. Ich habe allerdings die Studie ähm,
Linus Neumann: inhaltlichen immer nur von Dritten äh geschildert bekommen. Insofern ähm muss ich da äh vorsichtig sein, was jetzt da tatsächlich an Aussage getroffen wurde oder nicht.
Tim Pritlove: Ja, du meinst den Artikel in der Welt, ne.
Linus Neumann: Ich meine den Artikel in der.
Tim Pritlove: Verschiedenste Artikel, ähm verschiedenste Artikel hier verlinkt. Dementsprechend sollte man vielleicht das auch mal klarer zuordnen.
Linus Neumann: Ja, aber auf jeden Fall ähm.
Tim Pritlove: Maschinen hetzen.
Linus Neumann: Wenn Maschinen hetzen, ja. Da da habe ich also ähm einen äh habe ich ein ein bisschen drüber gesprochen in einer Fernsehsendung mit dem Namen,
Linus Neumann: und das wird dann irgendwann gesendet werden und ich hoffe, dass die meine meinen Zweifel da auch in aller äh Schärfe äh in dieser Sendung dann auch zum Ausdruck bringen.
Linus Neumann: Interessant ist, dass sich noch jemand anders über Social Bots Gedanken gemacht hat. Der jetzt auch sagt, das ist ja wohl ganz gefährlich,
Linus Neumann: Ja, ähm Patrick, Sensburg,
Linus Neumann: Patrick Sensburg hat ähm also es gibt,
Linus Neumann: eben viele viel Debatte über diese Bots in der äh Russland-Ukraine äh Geschichte, ja. Also Bots können ja durchaus, ne, dass also Kommunikation stören können sie,
Linus Neumann: Ähm zum Beispiel, was weiß ich, es gibt einen Hashtag,
Linus Neumann: Und dann wird dann flutest du das einfach mit deinen Bots, mit allen möglichen Unsinn, ja? So kannst du Menschen die Möglichkeit nehmen, sich über dieses über dieses Hashtag äh sinnvoll auszutauschen.
Tim Pritlove: Ja, so wie zweiunddreißig C drei zum Beispiel, was irgendwie auch schon kaputt ist.
Linus Neumann: Das passiert aber,
Linus Neumann: grundsätzlich immer, wenn ein Hashtag irgendwie Aufwind erfährt, schon allein von den ganzen Spambots, weil die machen seit Jahren nichts anderes, als zu gucken,
Linus Neumann: Was sind die? Äh und jetzt poste ich da irgendwie rein hot, blond, Bunny.
Tim Pritlove: Warum machen wir das eigentlich nicht? Können ja auch mal unsere Sendung immer mit den aktuellen trendigen Hashtags äh posten anstatt äh seriös vorzugehen.
Linus Neumann: Ja. Weil twitter dich dann hoffentlich irgendwann. Machen sie aber leider nicht. Also seit jeher fluten Bots Hashtags und machen Kommunikation kaputt. Ähm,
Linus Neumann: Aber was mir aufgefallen ist, ich kannst du dich daran erinnern, als äh die ähm Attentate in Paris stattgefunden haben.
Linus Neumann: Da gab es einen Hashtag mit dem Namen äh Portuver, geöffnet offene Tür,
Linus Neumann: wo Menschen im Prinzip irgendwie ihre Adresse unter dem Hashtag port oh wer getwittert haben um.
Tim Pritlove: Zuflucht zu biete.
Linus Neumann: Leuten Zuflucht zu bieten. Das war natürlich eine sehr schöne Idee. Ähm,
Linus Neumann: Und die hat natürlich auch sofort Traktionen gefunden, sodass Menschen weltweit in Deutschland, in Großbritannien, in Amerika,
Linus Neumann: Darauf hingewiesen haben, dass man unter dem Hashtag Hashtag twittern kann,
Linus Neumann: Äh wenn man eine offene Tür hat und dass Menschen dort Zuflucht finden können. Wenn du dann auf diesen Hashtag geklickt hast,
Linus Neumann: hast du nicht eine einzige verfluchte Adresse finden können, weil irgendwie pro Sekunde fünfzig Vollhornks unter diesem Hashtag getwittert haben, was man unter diesem Hashtag twittern könnte, wenn nicht fünfzig voll Honks
Linus Neumann: pro Sekunde da Lärm reintwittern würden. Das heißt, die das Stören von Kommunikation können Menschen immer noch besser,
Linus Neumann: als Maschinen, weil das Stören von Kommunikation haben wir Menschen erfunden.
Tim Pritlove: Wir haben auch die Kommunikation erfunden, ne? Von daher ist das ja auch fair.
Linus Neumann: So, wir haben's, wir haben's erfunden, also machen wir es auch kaputt.
Tim Pritlove: Keiner Renner so gut kaputt machen wie wir. Ja.
Linus Neumann: Also.
Tim Pritlove: Ja, wobei das für die Kommunikation erfunden haben, ist das, glaube ich, auch äh äh evolutionstechnisch nicht äh zu halten, aber wir haben sie auf jeden Fall auf die Spitze getrieben. Das steht schon mal fest.
Tim Pritlove: Und wir machen auch die Kommunikation ja auch noch äh den Wahlen kaputt.
Linus Neumann: Genau, die Wahl, also ne, Putin ist nur noch an der Macht, weil er so viele Twitter-Bots hat.
Tim Pritlove: Na, nicht die Wahlen, die Wale.
Linus Neumann: Auch noch.
Tim Pritlove: Ne, die Wale können nicht mehr miteinander kommunizieren, weil wir mit unseren scheißlauten Booten da die ganze Zeit durch die Gegend marschieren und Lärm machen.
Linus Neumann: Immerhin sind's nicht die Twitter-Bo.
Tim Pritlove: Deswegen fahren ja die Wale auch dann immer auf dem Strand auf.
Linus Neumann: Also jetzt wurde äh auf auf jeden Fall diese äh diese Studie veröffentlicht und jetzt oder und jetzt machen sie sich.
Tim Pritlove: Wo ist denn diese Studie überhaupt? Erzähl doch mal was, von was für einer Studie? Nee, willst du nicht erwähnen.
Linus Neumann: Ich möchte äh ich möchte nicht so auf die Wissenschaftler einschlagen.
Tim Pritlove: Taste ist erwähnt, der muss da jetzt auch mal sagen, wo es herkommt.
Linus Neumann: Es ist irgendwie eine eine Forschungsgruppe Social Media Forensics, die an mehreren Universitäten ansässig ist und die ein Jahr lang geforscht haben, bis sie festgestellt haben, dass es Twitterbots gibt.
Tim Pritlove: Wenn wir da auch verlinken oder nicht.
Linus Neumann: Wir haben das grob verlinkt, aber ich möchte ähm möchte thematisch bezogen argumentieren und nicht auf die Personen.
Tim Pritlove: Okay.
Linus Neumann: Oder die Universitäten. Wer weiß, ob ich da irgendwann nochmal eine Professur brauche,
Linus Neumann: Wenn es mir mal nicht mehr so gut geht.
Tim Pritlove: Ja.
Tim Pritlove: Was heute noch karrierefördernd äh aussieht, kann morgen schon der Untergang sein. Also.
Linus Neumann: So und.
Tim Pritlove: Reist dich zusammen, Lithus, reiß dich zusammen.
Linus Neumann: Völlig normaler Artikel, Deutschland setzt Geheimdienst gegen russische Propaganda ein,
Linus Neumann: Der Bundesnachrichtendienst überwacht verstärkt die russische Propaganda. Dazu hat der BND eine eigene Arbeitsgruppe gegründet. So und die,
Linus Neumann: schauen sich jetzt die die russische Propaganda an und dann wird hier viel zitiert und so,
Linus Neumann: Propaganda ist eine Waffe und so weiter, äh haben wir alles schon gemacht und erster Weltkrieg hatten wir auch Propaganda. Ähm.
Linus Neumann: Und dann äh bla, bla, bla, bla, bla, bla, bla. Und jetzt kommt's, ich könnte mir vorstellen.
Linus Neumann: Kommt gleich. Ich könnte mir vorstellen, dass unabhängige Organisationen versuchen die Kommunikationskanäle der staatlichen Trolle offen zu legen. Sagt Patrick Sensburg.
Linus Neumann: Und.
Tim Pritlove: Nebenbei äh Vorsitzender.
Linus Neumann: Des NSA-Untersuchungsausschusses ist und CDU Politiker und sagt, Verbote und Blockaden helfen nicht und wären ein Verstoß gegen die Meinungsfreiheit,
Linus Neumann: Ja, also Meinungsfreiheit für Bots. Ja, da sind wir wieder. Also äh du merkst jetzt, alles eine große Verschwörung, denn,
Linus Neumann: Und jetzt kommt's, Patrick, ja, also,
Linus Neumann: Ich glaube, ich habe ungefähr ähm herausgearbeitet, wie groß ich das Bedrohungspotential von Social Bots für die Demokratie und die Grundfeste unserer Gesellschaft halte.
Tim Pritlove: Ich fasse es mal zusammen mit überschaubar.
Linus Neumann: Gering, überschaubar. Im überschaubaren Rahmen.
Linus Neumann: Und jetzt kommt Patrick Sensburg und sagt, wenn beispielsweise das Bundesamt für Sicherheit in der Formationstechnik oder der Chaos-Computer-Club die Gerüchte und Seiten der Trolle enttarnten,
Linus Neumann: hätten Bürger die Möglichkeit, sich unabhängig zu informieren und Informationen zu verifizieren. Das ist eine derartige.
Tim Pritlove: Also wir sind jetzt wieder schuld. Wir spielen nicht mit.
Linus Neumann: Wir sind jetzt wieder schuld, weißt du?
Linus Neumann: Da denkst du du gibst dir eine Krisennummer und denkst du so, jetzt kriegst du mal richtig geilen Scheiß, ja? Und dann lässt sich der Bundestag von irgendwie so einem Explode-Baukasten von vor zwanzig Jahren,
Linus Neumann: Und du sollst irgendwie auf Twitter Trolle identifizieren. Das kann doch nicht dein Ernst sein.
Linus Neumann: Du erkennst diese diese Bots erkennst du irgendwie sowas von einfach, weil die so dumm sind, ja? Also ich meine, du kannst einfach nicht vielleicht nochmal ein kleiner Exkurs.
Tim Pritlove: Immer wieder für Vorstellungen haben vom CCC, ist echt unglaublich.
Linus Neumann: Vor allem, was die für Vorstellungen haben von diesen paar peifen Skripts, die Tramprituiden. So, ich meine,
Linus Neumann: Also es gibt ja diesen Touring-Test, der äh,
Linus Neumann: Im Prinzip sagt der ein eine künstliche Intelligenz besteht den Test, wenn ein Mensch sie nicht mehr von einem Menschen unterscheiden kann,
Linus Neumann: Es gibt da irgendwie so das chinesische Zimmer und was man sich da alles so als Setup äh überlegt hat, ne, aber das der die eigentliche Idee ist, du chattest mit einem Menschen,
Linus Neumann: oder mit einer Maschine und du weißt es nicht und du musst es herausfinden. Und seit vielen Jahrzehnten versuchen Menschen, künstliche Intelligenzen zu bauen.
Linus Neumann: Die,
Linus Neumann: im Prinzip den Touring-Test bestehen und es gelingt Ihnen wenn immer der Themenbereich sehr stark eingeschränkt ist,
Linus Neumann: Also du hast auf Seiten äh irgendwelche Assistenten, ja, die dann oder Assistentinnen, die dann da reinkommen, je nachdem,
Linus Neumann: Was das für eine Seite ist, hast du auch mal eine Assistentin und die berät dich dann, ja? Und dann sagst du äh ich interessiere mich für Kondensatoren
Linus Neumann: und dann sagen die, ah klick doch mal hier auf Kondensatoren, kommst zur Seite mit den Kondensatoren. Wie viel Verrat möchtest du denn? Dann sagst du einfach Rad. Dann sagen die, wir haben nur ein ein Fahrradkondensator und der ist nicht in der Kondensatorenabteilung, sondern in der Auto-Tuning-Abteilung oder sowas, ja? Ähm,
Linus Neumann: oder ähm sie äh imolieren äh sehr äh simulieren sehr einfache äh psychologische Therapieform, Psychotherapieform.
Linus Neumann: Äh Elisa war das, glaube ich, die dann irgendwie äh dieses äh diese Gesprächstherapie äh gemacht hat, wo immer einfach dein Massen leichtes Sentiment in der Liste ist und spiegelst das wieder. So, aber all diese
Linus Neumann: diese Bots fehlen den Touringtest unglaublich gut, wenn du einfach mal irgendwie eine belanglose Frage stellst so, wie ist das Wetter heute?
Linus Neumann: Und dann sagen die.
Tim Pritlove: Wie hat Union gespielt?
Linus Neumann: Ich ich glaube nicht, dass das jetzt grade für uns von Relevanz ist. Möchtest du vom Thema ablenken?
Linus Neumann: Oder du sagst irgendwie zum äh du, du wirst mal obszön äh zu so einem äh zu so einem Ding. Dann sagen die so ja also die du merkst also relativ schnell, dass du es dann nicht mit Menschen zu tun hast. Und das ist im Prinzip das, was diese Bots auch tun müssten.
Tim Pritlove: Du meinst, verloren haben wir, wenn die künstliche Intelligenz cool ist?
Linus Neumann: Also ich ehrlich gesagt finde ich künstliche Intelligenz ist jetzt schon cooler als wir.
Tim Pritlove: Naja, aber auch halt so cool im Sinne von, cool.
Linus Neumann: Künstliche Intelligenz ist wahrscheinlich dann cool, wenn du irgendeinen Spruch bringst und sie einen besseren bringt. Okay, weil bei dir ähm.
Tim Pritlove: Ist das nicht möglich, aber theoretisch, ja, weil man nur mal so hypothetisch.
Linus Neumann: Tja, auf jeden Fall, so sind wir jetzt halt vom, werden wir jetzt offensichtlich bald irgendwie äh müssen, sollen wir jetzt irgendwie Trolle offenlegen, also was für ein.
Tim Pritlove: Ja, warum machen wir denn das einfach nicht? Wir sind.
Linus Neumann: Weil das eine Arbeit für Doofe ist.
Tim Pritlove: Wir sind wir tun überhaupt nichts für die Gesellschaft.
Linus Neumann: Ja, da sollte sich die Gesellschaft mal fragen, warum wir nichts für sie tun. Weil keiner sie mag.
Tim Pritlove: Na, weil wir scheiße sind.
Linus Neumann: Na ja, also ich finde, also ich ärgere mich einfach gerade. Ich ich knacke gerade so ein bisschen äh an, denke ich über,
Linus Neumann: Probleme nach, die ich für relevant halte, für unsere Gesellschaft. Und ich glaube, unsere Gesellschaft hat grade echt ein paar ernsthafte Probleme,
Linus Neumann: Ähm und wir werden noch ein paar ernsthafte in Zukunft bekommen und ich halte irgendwie Social Bots auf Twitter momentan.
Tim Pritlove: Nicht für ein großes Thema.
Linus Neumann: Nicht für ein großes Thema. Vielleicht entscheiden in zehn Jahren auf Twitter die Wahl. Äh und dann dann sehen wir aber doof aus, weil die dann nämlich den Roboter von Boston Tina Mix wählen.
Linus Neumann: Und dann äh und der uns dann alle im Go schlägt. Aber ich glaube, die die Zukunft ist ein bisschen eine andere und die Herausforderung, über die wir diskutieren müssen, werden auch andere sein.
Tim Pritlove: Ich glaube, man diese Wahlbeeinflussungsgeschichte ist natürlich, ich weiß nicht, das ist in diesem Artikel sicherlich unangemessen miteinander äh verwoben, aber,
Tim Pritlove: Die Diskussion, dass ähm,
Tim Pritlove: Einflussnahme auf soziale Netzwerke, durch Gewichterung et cetera, äh im schlimmsten Fall auch Manipulation von Nachrichten. Selbstverständlich Stimmung bewegen kann.
Linus Neumann: Dass natürlich.
Tim Pritlove: Damit natürlich auch Wahlen ganz nachhaltig beeinflussen könnte. Und ehrlich gesagt, wenn ich mir so anschaue, wie äh dieser Zuckerberg irgendwie an an den VR-Brillen,
Tim Pritlove: belegten Massen vorbei grinst, schlafe ich auch nicht besser.
Linus Neumann: Nee, das ja.
Tim Pritlove: Aus äh es ist so, äh viel mehr so, fehlt mir irgendwas. Ähm aber das.
Linus Neumann: Seitdem es Öffentlichkeit, also die Idee, die Öffentlichkeit zu beeinflussen, ist so,
Linus Neumann: Bald wieder öffentliche Raum oder sogar
Linus Neumann: Er ist so alt wie die Demokratie, weil es da zum ersten Mal notwendig war, die Öffentlichkeit zu beeinflussen und vorher konnte man einfach drauf hauen. Aber wenn du durch den normalen, öffentlichen Raum gehst, ist der ja auch zugepflastert mit Scheiße.
Linus Neumann: Von wirtschaftlichen und politischen Interessen, die versuchen,
Linus Neumann: auf sich aufmerksam zu machen. Du hast irgendwie komplette Straße voll mit irgendwelchen Plakaten, was du jetzt kaufen sollst.
Tim Pritlove: Initiative neue Marktwirtschaft.
Linus Neumann: Und du hast die ganze Straße voll mit mit Plakaten, wen du jetzt wählen sollst. Und das wird halt aufm in sozialen Netzwerken eben auch nicht anders sein.
Linus Neumann: Aber deswegen machen wir ja uns, machen wir uns ja unsere Filterblasen. Und das heißt, der der Effekt, der dem entgegensteht, ist, dass wir,
Linus Neumann: uns die Menschen, denen wir folgen, auswählen,
Linus Neumann: oder sagen wir mal, die Accounts, denen wir folgen. Und ob dieser Account jetzt am Ende ein Mensch ist oder nicht, ist letztendlich egal, wenn er uns als Informationsquelle dient.
Linus Neumann: Ja, also ich kann ja von mir aus, weiß ich, Außen-Account, dieser Account retweetet, alles, was äh irgendwie äh irgendeiner der Metaebene Accounts macht. Ja, das ist ein relativ einfacher Bot, den könnte ich mir in fünf Minuten schreiben.
Tim Pritlove: Den hast du auch schon geschrieben, das machst du mal mit Lochbuch-Netzpolitik.
Linus Neumann: Genau, den habe ich leider noch nicht mal selber geschrieben, sondern das mache ich hier mit diesem.
Tim Pritlove: Ja, deswegen retwitterst du ja auch nicht ordentlich den äh Logboot Netzpolitik äh Account und verhinderst die weitere.
Tim Pritlove: Popularisierung unseres Twitter-Accounts.
Linus Neumann: Soll ich jetzt einen Bot schreiben.
Tim Pritlove: Nee, ich sage das jetzt einfach mal nur so.
Linus Neumann: Tim, ich habe nicht so viele Follower wie du. Für mich ist jeder einzelne Follower wichtig. Und du, ich glaube nicht.
Tim Pritlove: Wenn du mal mehr Follower hast als ich, dann erinnerst du dich gar nicht mehr an mich.
Linus Neumann: Dann weißt du, dass meine Bot-Armee angefangen hat, sich selber zu vermehren.
Tim Pritlove: Drauf und dran ist die Wahl zu gewinnen, ja.
Linus Neumann: Dann stehe ich da wie der Zauberlehrling. Oh, oh, oh.
Tim Pritlove: Angriff der Hecklohnkrieger. Tja.
Linus Neumann: Jetzt hast du mich schon wieder vom vom Thema abgelenkt, aber ist auch egal. Ich meine, man sieht, wir sind, ich, ich zumindest bin hier im Randmodus und ich sollte nicht so viele Konferenzen hintereinander äh besuchen.
Tim Pritlove: Nee, das scheint nicht so richtig gut zu sein für dich.
Linus Neumann: Nee und dann rede ich irgendwann auch nur noch irrelevanten Scheiß. Mann, du.
Tim Pritlove: Ja na ja.
Linus Neumann: So, aber äh also ich muss jetzt demnächst muss ich halt auf Twitter klicken und und russisches Social Bots äh erkennen.
Tim Pritlove: Lass uns doch lieber zu einem anderen kurzen Thema kommen.
Linus Neumann: Das wird eine Sendung.
Tim Pritlove: Ja, auch schön. Was haben wir denn hier? Nee. Erich.
Linus Neumann: Harald Schmidt. Nee. Erik Schmidt.
Tim Pritlove: Ja
Tim Pritlove: Erik Schmidt ist äh euch sicherlich bekannt. Der war für einige Jahre nicht ganz unerfolgreich. Der Chef von Google der CEO,
Tim Pritlove: Bis dann äh irgendwann die Gründer
Tim Pritlove: wieder zugetraut haben so einen Laden nochmal selber zu führen, weil sie vielleicht auch so mit dem ein oder anderen von Herrn Schmidt oder vielleicht auch mit seiner Art und Weise in der Öffentlichkeit
Tim Pritlove: aufzutreten nicht ganz so glücklich waren, da stecken wir natürlich nicht drin. Mittlerweile
Tim Pritlove: bekleidet, also er ist jetzt nicht mehr CO, aber er begleitet halt nach wie vor
Tim Pritlove: äh Ämter oder zumindest Funktionen im Google beziehungsweise Alphabet Universum ist jetzt der.
Linus Neumann: German.
Tim Pritlove: Also im Aufsichtsrat, wenn ich das richtig äh interpretiere und da ist er der Vorsitzende, ne, also Vorsitzende des Vorsitzender des Aufsichtsrat von Alphabet, der Holding, die mal Google äh hieß und Google heißt jetzt sozusagen nur noch der ganze Such,
Tim Pritlove: Kram. Naja.
Linus Neumann: Und davor war er bei Sun, bei Novell und bei äh Apple.
Tim Pritlove: Der war mal bei Apple, ernsthaft,
Tim Pritlove: Release. Ach so ja, okay, er war im Aufsichtsrat, genau. Und bis er dann.
Linus Neumann: Da ist er rausgekickt, weil er äh.
Tim Pritlove: Weil Steve eben nuklearen Krieg äh angekündigt hat.
Linus Neumann: Ja, zurecht.
Tim Pritlove: Ja ja
Tim Pritlove: Genau, also ist schon mal eine äh fragwürdige Person gewesen. Wir erinnern uns auch noch äh er ist ja mal sehr bekannt geworden durch seinen Ausspruch mit äh na ja, wir können ja hier bei Google äh sind wir ja sowieso schon was alle. Ähm Tun und Vorhaben und ähm wenn ihr,
Tim Pritlove: zu sagen was Böses getan habt, dann äh hättet ihr es vielleicht einfach von vorne rein gar nicht erst tun sollen.
Linus Neumann: Ja genau, wenn ihr, wenn ihr was tut, weil von dem ihr nicht wollt, dass es jeder weiß.
Tim Pritlove: Genau, dann hätte es aber nicht tun sollen so. Weil wir wissen das eh schon. Das äh war für so eine dieser Aussagen, die einem so ein wohliges Gefühl über den.
Linus Neumann: Hohliges Gefühl. Er hat übrigens, er hat aber auch äh einen ganz interessantes Buch geschrieben.
Tim Pritlove: Das heißt.
Linus Neumann: Ähm how Google Works,
Linus Neumann: wie's auf Deutsch heißt, äh wo er die äh Arbeitgeberphilosophie von äh Google äh behandelt
Linus Neumann: und vor allem, da er ja irgendwie, wie gesagt, von irgendwie Seiten achtziger Jahren irgendwie in in Valley-Unternehmen arbeitet, hat er ja durchaus Erfahrungen in im Bereich der Managementstile und dieses in diesem How Google Works behandelt er eben,
Linus Neumann: Auch Dinge, die er gelernt hat bei Google, die ich sehr erhellend fand über äh quasi das Verhältnis eines Arbeitgebers zu den Arbeitnehmern,
Linus Neumann: ähm das hat mich äh nachhaltig beeindruckt,
Linus Neumann: Deswegen würde ich jetzt auch keinen Arbeitnehmer mehr. So, aber ähm,
Linus Neumann: So, das äh das ist ein ganz interessantes Buch gewesen, kann man an der Stelle noch erwähnen. So, Erik Schmidt ist jetzt seit neuestem,
Linus Neumann: Berater.
Tim Pritlove: Also nicht nur, sondern jetzt auch.
Linus Neumann: Vom des US-Verteidigungsministeriums, denn dort wird es einen Defense, Innovation Advisoreboard geben, äh zwölf Leute sollen da drin sein und ähm,
Linus Neumann: Er wird eine von diesen Personen sein.
Tim Pritlove: Ob der dann auch sich immer von diesem Atlas begleiten lässt.
Tim Pritlove: Würde doch cool, oder? So wie die da im Video dann durch den Wald gelaufen sind, so läuft er dann direkt bei dem Board auf, der Atlas setzt sich so neben ihn.
Linus Neumann: Ich meine, was besseres ist, den Menschen auch nicht eingefallen, ne
Linus Neumann: Finde ich halt auch geil. Also das ist eigentlich das, was ich in diesem Video gesehen habe, weißt du? Der der scheiße, der kann was, lass den hauen. Lass den, der kann das besser als wir oder der nimmt uns einen Arbeitsplatz weg, hol einen Stock.
Linus Neumann: Na ja okay, ähm zwölf Personen aus der Privatwirtschaft, die ähm das äh Verteidigungsministerium bezüglich,
Linus Neumann: Rapid Prototyping,
Linus Neumann: komplexer Datenanalyse, der Cloud und generell dem Informationsaustausch beraten sollen. Das heißt, die haben,
Linus Neumann: Ähm also und und nur technisch. Also er wird jetzt nicht irgendwie Kriegsherr, er soll wird denen jetzt nicht sagen, äh welche wie die nächste Operation sein soll oder mit welcher Strategie man äh welches
Linus Neumann: Ding
Linus Neumann: sich ERO, welches Land erobert, aber ähm er möchte er wird äh technischer Innovationsberater äh für das Verteidigungsministerium.
Linus Neumann: Tja,
Linus Neumann: Ich weiß es nicht. Es ist auf jeden Fall eine Meldung. Ich meine, wenn Erik Schmidt was macht, dann ist das eine Meldung. Ähm.
Tim Pritlove: Wir kommen sozusagen jetzt erstmal unserer Pflicht nach, wollen damit äh erstmal gar nichts andeuten, aber ist natürlich schon,
Tim Pritlove: Ja, was ist das bedenklich? Notierenswürdig, äh dass.
Tim Pritlove: Aufsichtsratschef des Unternehmens, was nachweislich, wie wir ja hier auch schon ausgiebig diskutiert haben in dieser Sendung
Tim Pritlove: hinter dieser ganzen äh KI, autonome Roboter, explizit auch mit Militärbezug
Tim Pritlove: dahinter steht jetzt sozusagen auch noch zum Berater wird. Wenn man das jetzt auch nicht so überraschend und das ist auch nicht so anhört auf ich meine,
Tim Pritlove: durchzogen mit Industrie äh schon immer gewesen. Nur dass halt jetzt Silicon Valley sich einen zunehmenden Maße und äh,
Tim Pritlove: sicherlich auch nicht in nicht das erste Mal in Form von Erik Schmidt jetzt äh in diesen in diesen Dunstkreis äh begeben hat. Ist natürlich,
Tim Pritlove: grundsätzlich, gut, ich will das jetzt nicht zu weit überziehen, aber,
Tim Pritlove: wollte jetzt diese Apple FBI äh Debatte jetzt eigentlich gar nicht mehr rausgreifen, hatten wir ja letztes Mal ähm weil er jetzt auch nicht so sehr viel mehr neues passiert ist, das spielt halt, aber es gibt ja dann schon eine ziemliche
Tim Pritlove: Positionierung gerade, also das Silicon Valley versus äh der Start und seine Wünsche und dann sieht man natürlich auch
Tim Pritlove: dass das äh ein Spiel auf vielen Ebenen ist, so dass hier auch ganz andere Interessen mit neuen Märkten genauso eine Rolle spielen und man nicht weiß, inwiefern hier am Ende äh die Privatsphäre äh äh et cetera äh,
Tim Pritlove: werden wir sehen.
Linus Neumann: Es gibt.
Linus Neumann: Also ich meine, alle Staaten blicken auf eine etwas ungewisse Zukunft, was mit diesem ganzen digital und so. Wenn sich das mit dem Internet jetzt durchsetzt, ja und mit dem Big Data,
Linus Neumann: und.
Tim Pritlove: Setzt dich durch mit dem Internet.
Linus Neumann: Könnte sein und einige starten oder einige Nationen haben halt vielleicht patriotischere Bürger,
Linus Neumann: oder einige Staaten haben auch äh,
Linus Neumann: Früher die Bedeutung dieses Wirtschaftszweiges erkannt und dafür gesorgt, dass dieser Wirtschaftszweig sich bei ihnen großartig entwickeln kann. Und.
Linus Neumann: Diese Staaten haben gerade ganz gut kacken, weil sie wirtschaftlich gerade äh sehr profitieren von ihrer äh Vorreiterstellung in diesen Bereichen,
Linus Neumann: und weil sie natürlich auch,
Linus Neumann: Wenn dann eine enge Zusammenarbeit zwischen großen, wichtigen Organisationen in diesem Bereich und der Regierung stattfindet,
Linus Neumann: ähm.
Linus Neumann: Sich, sage ich mal, zumindest sicher sein können, das sollte eines dieser Unternehmen dem Staat richtig krass an die Karre pissen können, dass sie das wenigstens früh genug erfahren,
Linus Neumann: Ähm und ich erinnere mich, dass irgendwie äh Julian Assange ja irgendwie schon,
Linus Neumann: vor einiger Zeit dem äh Erik Schmidt vorgeworfen hat, dass Google irgendwie seit so und so viel Jahren, seit über zehn Jahren äh mit der NSA
Linus Neumann: kooperiere im Bereich der Datensuche und Organisation und so. Da hatte Schmidt das dementiert und wir haben mit dieser ganzen Apple
Linus Neumann: FBI Geschichte, eigentlich grade in der Öffentlichkeit so 'n Eindruck gehabt von davon, dass die Konzerne,
Linus Neumann: ähm auf Distanz geht.
Linus Neumann: Von staatlichen Interessen, insbesondere der USA,
Linus Neumann: Und der Schritt, dass so ein äh Schmid sagt, ach ja, so ein Beraterposten fürs Militär, der steht mir doch gut zu Gesicht als jemand, der mehr oder weniger die größte,
Linus Neumann: Datensammlung der Welt hat äh und irgendwie autonome Roboter äh steuert
Linus Neumann: und äh nebenbei übrigens euer E-Mail-Provier ist, liebe Freunde, weil es war jeder seine Mail bei dem hat. Ähm da erkennt man dann den Bereich, der Entwicklung
Linus Neumann: der Zukunft, der den ich irgendwie mit Sorge betrachte, nämlich eine äh Vermischung.
Linus Neumann: Ähm dieser wirtschaftlichen und militärischen und damit eben auch,
Linus Neumann: ideologischen Bestrebungen, die irgendwo vorherrschen
Linus Neumann: und äh das äh beobachte ich mit äh zunehmendem Unbehagen, wie dieses Internet, was mal so als schönes, dezentrales Netzwerk, in dem wir alle irgendwie rum äh dingsen, gestartet ist, sich langsam zu einer riesigen ähm,
Linus Neumann: zentralen Datensammelstelle wandelt. Und ähm,
Linus Neumann: Zentralen Datensammelstellen stehe ich ja grundsätzlich,
Linus Neumann: Äh sehr, sehr skeptisch gegenüber und in diesen Entwicklungen, die wir jetzt hier sehen, äh spiegelt sich auch wieder, warum,
Linus Neumann: Der Chaos-Computer-Club seit über dreißig Jahren sagt, ja, das ist nicht gut. Das ist einfach nicht gut.
Tim Pritlove: Beziehungsweise um das auch kleine Maul zu betonen, der CCC, wenn er gut drauf ist, äh Chancen und Risiken.
Linus Neumann: Wenn er gut drauf ist, Chancen auch, ey. Ähm na ja, ich habe ja am Anfang der Sendung äh,
Linus Neumann: auch vielleicht so ein bisschen eine mal aus Sicht des des Big Data und die Chancen und so weiter, ja? Also ich meine,
Linus Neumann: Da sind natürlich auch Chancen drin. Natürlich, das wird alles, das wird ein da
Linus Neumann: Die Technik wird im Zweifelsfalle immer ausreichend noch zum Vorteil aller äh sich entwickeln, ja? Also ich glaube auch, dass
Linus Neumann: Auch heute äh niemand sagen würde, oh mein Gott, die Welt war aber besser ohne Smartphones.
Linus Neumann: Ja, also wir haben da ein ausreichendes ähm.
Linus Neumann: Potential im wirtschaftlichen Bereich, im Bereich des Zusammenlebens, die Bedürfnisse der Menschen werden in der Regel gedeckt,
Linus Neumann: zumindest im des größeren Teils der Menschen. Das äh ist ja eigentlich die Definition von äh Kapitalismus. Ja, dass das irgendwie,
Linus Neumann: zumindest noch genug also es ist jedes Bedürfnis, was in ausreichend großer Zahl vorhanden ist,
Linus Neumann: gedeckt wird und zwar einfach ganz dadurch, dass, dass irgendjemand hingeht und es monetarisiert. Das ist ja.
Tim Pritlove: Gebot und Nachfrage.
Linus Neumann: Genau, ist ja eigentlich erstmal auch gar kein so gar keine so schlechte Idee,
Linus Neumann: Das einzige Problem sind eben diese Akkumulationen, die dann immer mehr stattfinden zu einzelnen großen Konzernen, die sich am Ende ähm alle Geschäfts,
Linus Neumann: die dann sich am Ende Geschäftsbereiche aneignen,
Linus Neumann: Das ist dann irgendwie im Automobilbereich zu sehen, gibt dann weniger Autohersteller, die sich den Markt aufteilen, das ist in in allen möglichen Bereichen zu sehen und wenn es zu wenig äh wenn es zu zentral wird, dann geht man irgendwohin und zerschlägt die,
Linus Neumann: Aber was machst du mit einer Informationsgesellschaft, wo es einfach schon heute klar ist, dass es einfach nur sagen wir mal drei,
Linus Neumann: Vielleicht vier große Datensammelstellen weltweit geben wird, aus denen sich dann alles ab und her leiden soll.
Tim Pritlove: Naja, ich meine, wenn wir auf die Spur kommen, langsam mal das äh zu sehen, dass diese Datensammelstellen nicht weggehen,
Tim Pritlove: aber man vielleicht sich mal darauf konzentrieren sollte, sie auch als öffentliches Gut zu äh stehen
Tim Pritlove: äh wäre ja da sozusagen noch was zu holen.
Linus Neumann: Das äh verstehe ich jetzt gerade nicht. Also öffentlich ist gut, ein ein multinationales, öffentliches Gut.
Tim Pritlove: Na, wir beklagen die Macht von Google, weil sie halt sehr viel
Tim Pritlove: äh Aufwand stecken, zum Beispiel in das Aufbauen eines Webindexes und das ist natürlich nichts, was jetzt ein Unternehmen mal so eben nebenbei auch noch machen könnte, auch wenn's an manchen Fronten äh einfacher wird, aber es wird ja auch für Google einfacher, von daher ist dieser
Tim Pritlove: Ähm dieser Aufwand schwer zu treiben, weil wer jetzt heute damit startet, äh sich selbst bei maximalem technischen Erfolg,
Tim Pritlove: ähm einfach nicht mehr in diese Position bringen kann, dass es sich in dem selben Maße monetarisieren lässt. Nur,
Tim Pritlove: trotz alledem wäre ja die Verfügbarkeit eines Suchindizes für alle und nicht nur für Google durchaus,
Tim Pritlove: vielen Erwägungen heraus sinnvoll, sowohl für die Wirtschaft, als auch für die Gesellschaft, et cetera.
Tim Pritlove: Warum dann nicht das Ganze einfach ein Suchindex genauso verstehen
Tim Pritlove: wie äh das Straßen und Datenleitungsnetz, dass man einfach an dieser Stelle einfach sagt, okay, wir müssen auch
Tim Pritlove: digital arbeiten und digitale Güter der Öffentlichkeit bereitstellen und dann ist das halt einfach mal ein europäisches äh Projekt, wenn nicht sogar ein UN-Projekt.
Linus Neumann: Ja, ich glaube, dass dieser Zug leider schon längst abgefahren ist. Also was ähm man muss ja auch,
Linus Neumann: anerkennen, dass das, was Google macht, sie enorm gut machen.
Linus Neumann: Aufgrund der Daten, die sie haben und aufgrund der Art, wie sie mit diesen Daten umgehen und aufgrund des Antriebs und des Geldes, das sie haben, um solche Dinge zu entwickeln, ja.
Tim Pritlove: Ja, vor allem die, die Innovationskraft, aber das heißt ja nicht, dass man jetzt nicht auch noch einen Nutzen daraus haben könnte. Also wenn man jetzt sagt, okay, wir äh ähm nehmen einfach öffentliches Geld und bauen eine öffentliche Infrastruktur auf, bauen einen solchen Index und ähm,
Tim Pritlove: allen zur Verfügung, so wie Wikipedia äh alle Daten zur Verfügung stellt, dann wäre er auf jeden Fall mal ein Schritt gemacht und.
Linus Neumann: Also das wäre mal eine interessante Recherchefrage. Wie viel Geld hat Google seit Existenz in sich selber investiert? Also was hat es gekostet? Wie viel Geld brauche ich, wenn ich jetzt bei null anfange und einen Google bauen möchte?
Tim Pritlove: Lässt sich bestimmt ganz gut ausrechnen, wenn man sich mal die Bilanzen anschaut, aber keine Ahnung. Ist bestimmt eine ganze Menge Holz.
Linus Neumann: Am Rande übrigens gelernt.
Linus Neumann: Als Google zu Elphabet wurde, wurde aus dem Motto don't beevil, Do the Ride thing.
Tim Pritlove: Nach echt. Das lassen wir jetzt mal so stehen.
Linus Neumann: Ja.
Tim Pritlove: Aha, war mir gar nicht bewusst.
Tim Pritlove: Binus. Diese Sendung ist schon lang.
Linus Neumann: Tim. Diese Sendung ist lang. Ich wollte eigentlich die Kürzeste machen, weil ich so.
Tim Pritlove: Wenn du das immer schon ankündigst, dann weiß ich immer schon, dass das komplett nach hinten losgehen wird.
Linus Neumann: Ja, ja. Ja. Aber ich war auch verärgert.
Tim Pritlove: Ja, ist okay, dir geht's schon auch viel, viel besser. Ich habe das jetzt auch einfach aus humanitären Gründen schon getragen.
Linus Neumann: Das ist schön, da war jetzt irgendwie eine fünfstellige Anzahl. Höre das aus humanitären Gründen auch noch über sich ergehen lassen muss,
Linus Neumann: Äh
Tim Pritlove: Neutralität ist ein äh Abschlussthema.
Linus Neumann: Dot Ew dot kann man Fälle von äh Netzneutralitätsverletzungen melden
Linus Neumann: denen wird dann nachgegangen und da gibt es dann eine schöne Statistik momentan. Äh siebenundzwanzig bestätigte Reports, also Berichte über Netzneutralitätsverletzungen
Linus Neumann: ähm zwanzig Netzbetreiber, bei denen,
Linus Neumann: betroffen sind und sieben Länder. Eine Seite, die irgendwie vom der Netz äh Vertretung, digitale Gesellschaft,
Linus Neumann: European Digital Rights, der Initiative für Netzwerk Freiheit ähm,
Linus Neumann: IT-Politist Forening, Nürpa, der Open Rights Group und Ex-Net äh zur Verfügung gestellt wird. Wenn ihr also eine ein Fall von Netzneutralität habt, der dort noch nicht ähm.
Linus Neumann: Mit drin ist, dann könntet ihr dort mal helfen, die zu sammeln. Wichtig ist ja, äh oder ich denke, dass dort gesammelt wird
Linus Neumann: um eben zu sagen, hier da, ne, das sind irgendwie die Dinger und so. Und ihr könnt auch bei den Existenten sagen, denen kann ich auch melden, den kenne ich auch. Und dann werden halt noch so schöne
Linus Neumann: spannende Listen und Analysen darüber gemacht, wo sich diese Netzneutralitätsverletzungen befinden.
Tim Pritlove: Grob werden hier fünf verschiedene Arten von Netznetralitätsverletzungen unterschieden, also Zero-Rating, also das kostenlose Bereitstellen eines äh Dienstes,
Tim Pritlove: beziehungsweise es nicht anrechnen der Nutzung eines äh Dienstes, wie wir das hier schon mehrfach besprochen hatten. So was gab's bei Wikipedia, sowas gab's bei Facebook mit
Tim Pritlove: die Spotify, Flatrate, bei äh T-Mobile et cetera. Dann dieses Special Live Service Geschichte, die ja etwas schwammig äh ist, also wenn sozusagen ein Dienst hier bevorzugte
Tim Pritlove: Geschwindigkeit zum Beispiel äh ja ich weiß gar nicht, wie das hier unterschieden wird, weil hier gibt's auch noch, also,
Tim Pritlove: schwierig. Äh müsst ihr dann selber vielleicht entscheiden, in welcher Kategorie ihr das am besten packt und wenn's überhaupt nicht läuft, gibt's auch noch Azar. Assad ist dein Freund.
Tim Pritlove: Klick dir rein. Ja.
Linus Neumann: Ja. Ja.
Tim Pritlove: Ja
Linus Neumann: Vom neunundzwanzigsten Vierten bis ersten fünften findet das erste Creative Nerding for Nerds,
Linus Neumann: Würzburg statt. Das ist eine Veranstaltung ausgerichtet vom Nerd to Nerd EV und das ist ein,
Linus Neumann: Gegend und weil das aber der EV ist, passt Nerd-End besser. Es gibt Hacking, Coding, Vorträge und allgemeines Rumnörden,
Linus Neumann: Freitag, neunundzwanzigster vierter bis Sonntag, erster fünfter im und im Würzburg.
Tim Pritlove: Und gutes Essen.
Linus Neumann: Gutes Essen gibt's auch immer, ja? Dafür sind die Chaos-Veranstaltungen ja bekannt.
Tim Pritlove: Ja, mehr Termine haben wir gar nicht, oder? Dann können wir die Sendung jetzt einfach im Flow der Musik ausklingen lassen. Was hältst du davon? Wollen wir das machen?
Linus Neumann: Vielleicht könnte ich noch einen Termin ankündigen.
Tim Pritlove: Ja? Weißt du einen? Nee. Du weißt doch.
Linus Neumann: Nee. Ja, ich bin nächste Woche habe ich noch einen Termin, aber den kündige ich nicht an.
Tim Pritlove: Wir haben uns auf jeden Fall äh gefreut, dass ihr uns wieder äh zugehört habt und äh sind dann auch bald mal wieder für euch da.
Linus Neumann: Hoffentlich gibt's nächste Woche irgendwie vernünftige.
Tim Pritlove: Muss auch mal sein. Wir sagen tschüss.
Linus Neumann: Ich sehe schon wieder schwarz, ey. Sag tschüss. Ciao, ciao.