Logbuch:Netzpolitik
Einblicke und Ausblicke in das netzpolitische Geschehen
https://logbuch-netzpolitik.de


LNP338 Corona Tracking App

Ein Logbuch:Netzpolitik Spezial zur Diskussion um das Tracking zur Bekämpfung der Corona-Krise

Seit Wochen gibt es eine Diskussion, welche digitale Infrastruktur (und auf welche Weise) dazu taugen könnte, schnell und zuverlässig ein Warnsystem zu etablieren, dass einen weiteren und wiederholten Ausbruch des Corona-Virus verhindern könnte. Lange wurde der Chimäre nachgestiegen, man könne in den Mobilfunknetz Bewegungsdaten sammeln und auswerten.

In dieser Ausgabe legen wir da, warum das nicht funktionieren kann und auf welche Art man stattdessen mittels einer verhältnismäßig leicht zu entwickelnden App für Smartphones das Problem einerseits sehr effizient, andererseits aber auch maximal datensparsam und privatsphäreschützend umsetzen könnte.

Es bietet sich der Gesellschaft hier eine einmalige Gelegenheit einmal alles richtig zu machen und die Vorteile des offenen Entwicklungsprinzips zu nutzen, um eine solche Lösung nicht nur schnell sondern auch nachhaltig und günstig umzusetzen.

https://logbuch-netzpolitik.de/lnp338-corona-tracking-app
Veröffentlicht am: 31. März 2020
Dauer: 1:34:00


Kapitel

  1. Intro 00:00:00.000
  2. Prolog 00:00:35.936
  3. Von Mäusen und Masken 00:02:00.716
  4. Corona Tracking App 00:14:59.415
  5. Epilog 01:28:28.488
  6. Bonus Track 01:31:15.188

Transkript

Tim Pritlove
0:00:00
Linus Neumann
0:00:01
Tim Pritlove
0:00:03
Linus Neumann
0:00:07
Tim Pritlove
0:00:35
Linus Neumann
0:00:54
Tim Pritlove
0:00:55
Linus Neumann
0:01:00
Tim Pritlove
0:01:30
Linus Neumann
0:01:33
Tim Pritlove
0:01:35
Linus Neumann
0:01:41
Tim Pritlove
0:01:44
Linus Neumann
0:01:49
Tim Pritlove
0:01:55
Linus Neumann
0:02:15
Tim Pritlove
0:02:35
Linus Neumann
0:02:39

Ne

Tim Pritlove
0:02:40
Linus Neumann
0:02:43
Tim Pritlove
0:02:44
Linus Neumann
0:02:46
Tim Pritlove
0:03:16
Linus Neumann
0:03:23
Tim Pritlove
0:03:24
Linus Neumann
0:03:30
Tim Pritlove
0:03:37
Linus Neumann
0:03:51
Tim Pritlove
0:04:10
Linus Neumann
0:04:13

Viren und so weiter ne aber wenn ich mir diese ausbreitung kurven anschaue dann gibt es drei länder in denen diese ausbreitung des kurve erstaunlich, wenig ansteigt und eines dieser länder ist japan das andere ist glaube ich südkorea und das dritte ist glaube ich singapur und. In diesen ländern ist es üblich bei dem kleinsten husten was irgendwo jemand geäußert hat sich eine mundschutz maske aufzuziehen, und ich verrate ja normalerweise nicht wo ich meine zeit verbringe. Aber in japan habe ich sie schon mal verbracht und wenn in japan irgendwie es heißt es gibt einen corona virus dann haben rucki zucki neunzig prozent der leute so eine mundschutz maske vom gesicht und, diese. Diese rede die überall wiederholt wurde in den letzten monaten dass eine maske nichts bringen würde für leute um sich selber zu schützen. Sondern allenfalls in dem fall dass bereits infizierte personen eine solche maske tragen die ist doch irgendwie mal wieder klassisch nur aus einer perspektive gedacht weil wenn man wie in japan zum beispiel oder in vielen anderen asiatischen ländern eine situation hat in der in zum beispiel im öffentlichen personennahverkehr neunzig prozent der menschen so eine maske tragen dann habe ich ja jetzt als potenziell nicht-infizierte person nicht nur meine maske die mich schützt sondern eben auch die der vielen anderen personen die eine tragen das heißt also eine person mit maske hustet. Der erste teil der tropfen bleibt in die gesagt die groben stückchen bleiben in ihrer maske hängen. Und der rest hat noch eine gute chance in meiner maske hängen zu bleiben und ich bin sehr erstaunt wie lange sich in deutschland in auf allen kanälen inklusive übrigens auch hier des. Des unantastbare christian droste in dem ich jedes jedes mal also selten habe ich einen podcast so entgegengefiebert dass ich wirklich schon so auf die uhr gucke um fünf nach zwölf und denke so jetzt langsam wird's mal zeit also, nach wie vor.

Tim Pritlove
0:06:39
Linus Neumann
0:06:43
Tim Pritlove
0:07:12

Na gut man muss jetzt erstmal, dazu mal zwei zwei sachen also erst mal diese schöne kurve die darum geht mit hier die masken länder sind alle unten und so weiter der grund dafür dass die so weit unten sind sind nicht die masken sondern der grund sind die ganzen anderen maßnahmen die die sofort ergriffen haben leute sofort auf fieber testen am eingang gleich quarantäne sofort nachgehen die hatten auch alle schon teams aufgesetzt um halt diese ganzen kontakte so sofort nach zu recherchieren etcetera also die liste ist sehr lang, diese grafik so mit so einer einfachen korrelation zu interpretieren ist, glaube ich an der stelle nicht nicht hilfreich ja das andere ding ist natürlich stimmt was du sagst ja nur der der glaube die maske würde, viel helfen beim nicht infiziert werden ist halt schwierig, aber du hast natürlich recht und das sehe ich auch ganz genauso es ist halt, einerseits hilft man sozusagen dabei wenn man selber nicht wenn wenn man selber infiziert ist was man ja nicht weiß. Weil man ja die symptome erst später bekommt ja dass dass man die wahrscheinlichkeit senkt andere leute oder eben auch gegenstände etcetera in irgendeiner form mit seinem virus zu benetzen, ein ganz anderer interessanter effekt allerdings ist der da wir ja in deutschland immer noch so dieses problem haben dass es eben nicht so sehr als als freundlichkeit gesehen wird wenn leute das tragen sondern man sozusagen sofort und ausgrenzung phänomen hat mit, da ist wohl jemand krank worum es ja nicht primär geht dabei, dass man automatisch wenn man eine maske trägt auch den abstand bekommt im supermarkt den man, gerne haben möchte und allein deshalb ist schon cool ne und natürlich ganz hipster style die schicken masken ich habe mir jetzt auch mal eine größere timing davon produziert, das ist natürlich jetzt auch erfährt eine modische aufwertung also bis vor kurzem kannst du ja nicht nein du kannst ja nicht in irgendeinem späti gehen maskiert, du bist ja gleich von bullen rausgetragen ja der der drückt er sofort unterm unterm tisch auf den roten knopf und wenn du da.

Linus Neumann
0:09:38
Tim Pritlove
0:09:44
Linus Neumann
0:10:08
Tim Pritlove
0:10:23
Linus Neumann
0:10:26
Tim Pritlove
0:11:47
Linus Neumann
0:11:54
Tim Pritlove
0:11:55
Linus Neumann
0:12:01
Tim Pritlove
0:12:31
Linus Neumann
0:12:41
Tim Pritlove
0:12:43
Linus Neumann
0:12:47
Tim Pritlove
0:12:48
Linus Neumann
0:13:14
Tim Pritlove
0:13:18
Linus Neumann
0:13:57
Tim Pritlove
0:14:02
Linus Neumann
0:14:47
Tim Pritlove
0:14:50
Linus Neumann
0:14:59
Tim Pritlove
0:15:08
Linus Neumann
0:15:13
Tim Pritlove
0:16:32
Linus Neumann
0:16:33

Schätzchen gemacht haben ja insofern dass den kommentar sollte ich dem kommentierenden zu ehren dann auch nochmal in den shownotes haben. Schreibe mir erst mal noch kurz auf so und um diesen aspekt. Zu würdigen es ist es natürlich wünschenswert zu früh wie möglich potenziell infizierte. Informieren zu können dass sie sich bitte in heim ins bett begeben ja und aufhören anderen ins gesicht zu spucken. Natürlich auch in ermangelung einer. Einfachen schnelltest möglichkeit die wir alle morgens mittags abends zuhause machen würden oder so etwas so jetzt so hat sich jetzt also der wie ich denke zunächst einmal legitime anspruch entwickelt doch mal zu überlegen, wie es denn möglich wäre zu tracken wer. Mit wer wann oder mit wem eine person kontakt hatte und. Ich denke so man es leuchtet jetzt erstmal ein dass das potenziell ein sehr guten effekt haben könnte, weil man eben potenziell infizierte menschen früher irgendwie ruhig stellen könnte. Und die ersten ideen die es dazu gab. Waren letztendlich so von jens spahn. Angeregt so eine vollumfassende änderung des infektionsschutz gesetzes so ich will bitte, vollumfängliches location tracking haben damit ich im zweifelsfall die gesamte bevölkerung, so tracke und wenn dann wenn ich sehe eine person ist infiziert dann gehe ich quasi deren weg zurück und weiß und alle die jemals irgendwo zur gleichen zeit am gleichen ort waren werden dann informiert so, die sehr naive vorstellung hier und. Ruckzuck hatten wir jetzt eine sehr stark eskalierende debatte um tracking die zum glück auch darin mündete das jens spahn diesen, diese idee erstmal zurückgezogen hat ja also nach, stand jetzt ist das nicht mehr teil seiner idee für die ausweitung aber er hat die wie gesagt auch nur zurückgestellt und. Ich würde jetzt gerne mal kurz erläutern. Oder ein bisschen dabei helfen diese debatte mal zu versachlichen und zielgerichtet zu führen denn das einzige was uns ja wirklich interessiert ist. Ob in einem fraglichen zeitraum der maximal tee minus vierzehn tage ist, weil ich glaube üblicher der durchschnittliche wartest du ja eine woche bis du symptome hast also gehen wir mal ein bisschen martin of obendrauf bist du bei maximal vierzehn tage die du rückblickend gucken muss, wann seit wann du dich potenziell infiziert hast oder ansteckend warst welche kontakte du in diesem zeitraum hattest und, du brauchst aber auch nicht es ist dafür relativ unerheblich wo du diese kontakte hattest und wann es ist erstmal nur erheblich dass du diese kontakte überhaupt hattest. Und. Jetzt werden hier begriffe wie standortdaten bewegungsstark und kontaktdaten sehr wild gemischt also würde ich mal auf dröseln was jeweils gemeint ist also standortdaten. Bestehen im prinzip aus drei aspekten nämlich erstens person x war zum zeitpunkt t. An standort a ja und am person x war am zeitpunkt t plus eins. Am ort b und das wäre jetzt einfach eine reihe untereinander also letztendlich ein gps lok, dieser person und dieses gps rock hätte jetzt eine sample rate wo man also sagt okay so oft, wird das abgegriffen was weiß ich alle fünf sekunden alle zehn sekunden alle halbe stunde ja.

Tim Pritlove
0:21:03
Linus Neumann
0:21:22
Tim Pritlove
0:22:07
Linus Neumann
0:22:40

Richtig und das ist jetzt immer noch nur ps und du hast einen wichtigen aspekt angesprochen die ortung an unserem mobiltelefon funktioniert tatsächlich, genauer dadurch und insbesondere in städten genauer dadurch, das ist hier so viele wlands gibt denn es wurde einfach einmal sehr genau vermessen. Und dieses konzept wird laufend einfach aktualisiert wenn wir mal ein gesichertes p signal haben, welche wlands empfangen wir denn dort mit welcher stärke und das hier jetzt in keine ahnung bei mir im haus wahrscheinlich irgendwie vierzig wlan es gibt die ich empfange die ich alle mit einer unterschiedlichen stärke empfange die für diesen ort charakteristisch ist lässt sich diese signal genauigkeit durch wlan noch aufwerten aber es ist. Wird nicht genauer als einen meter im zweifelsfall noch viel ungenauer was aber als kontakt jetzt hier in diesem rahmen definiert ist ist ja zwei personen sind sich ein anderthalb meter oder näher, also auf anderthalb meter nah und zwar für einen längeren zeitraum von ich glaube das war jetzt hier fünfzehn minuten ist jetzt die definition ja. Das interessante ist wenn unsere messungen genauigkeit schon ein meter ist dann heißt das zwei personen, können am gleichen ort sein ja die können sagen wir mal sich sehr nahe sein wie man nur wenigen leuten nahe ist. Und trotzdem ein signal von insgesamt zwei meter entfernung haben, weil die abweichungen die durchschnittliche abweichung eben bis zu einem meter sein kann die können sich aber genauso gut, sagen wir mal zwei meter voneinander entfernt sein oder drei meter, und trotzdem als kontakt gewertet werden weil ihre abweichungen ebenso groß ist das heißt wir wollen wenn wir nun aus diesen location daten ein kontakt haben wollen, brauchen wir ja von zwei leuten jeweils einen standort datum und sagen dann okay alles klar. Die waren jetzt hier sich so nah und der messe die messung genauigkeit schon mit gps ist zu groß um das überhaupt religion feststellen zu können.

Tim Pritlove
0:24:57
Linus Neumann
0:25:17
Tim Pritlove
0:25:34
Linus Neumann
0:26:00
Tim Pritlove
0:27:05
Linus Neumann
0:27:19
Tim Pritlove
0:27:25
Linus Neumann
0:27:37
Tim Pritlove
0:27:58
Linus Neumann
0:28:07

Komm direkt die bäume so also du hast du hast quasi allein schon wegen der messung genauigkeit sind die daten komplett disqualifiziert dazu kommt noch das riesenproblem dass du unglaublich privatsphäre sensible daten da sammelst ja. Also so viel ist zu standortdaten zu sagen jetzt haben natürlich einige werden feststellen dass wir uns ich glaube vor zwei drei sendungen noch relativ entspannt dazu geäußert haben, dass das robert-koch-institut bewegungs daten von der deutschen telekom und ich glaube auch von otto bekommen hat. Woran was ist hier der unterschied diese bewegungs- daten. Sind die basieren auf standortdaten und zwar standortdaten die von den mobilfunknetzen. Generiert werden über letztendlich in welcher funkzelle sich eine person aufgehalten hat und mit welcher signalstärke sie dort angekommen ist dazu ist relevant zu wissen dass eine, funkzelle immer in drei sektoren a hundertzwanzig grad aufgeteilt ist das heißt, wenn ihr in einer funkzelle eingebucht seid weiß die auch in ungefähr in welcher richtung ihr seid und die weiß dann auch wie stark das signal ist, und wenn man das jetzt über einen zeitraum macht, und ihr bewegt euch dann ist natürlich relativ einfach erkenntlich welchen weg ihr im zweifelsfall gegangen seid, das klassische beispiel was es hierzu gibt ist zitiere ich jedes mal diese da die vorratsdaten von malte spitz, die michael krall vor inzwischen ich weiß nicht wie viel jahren damals für zeit online mit seinem team ausgewertet und visualisiert hat wo es dann irgendwie so etwas ging dann konnte man sehen malte spitz fährt mit dem ice von. Was weiß ich berlin nach hannover und das ist, zwar sind die daten nicht so genau aber es gibt da nix insofern fährt er wahrscheinlich dort lang und malte spitze des abends zuhause weil er ist wieder in dieser funkzelle eingebucht mit der stärke und so weiter und so fort so, diese daten, neben dem mobilfunkanbieter und aggregieren die aggregieren heißt man fügt mehrere daten zusammen und zwar dass sie aussagen treffen können wie, in einem zeitraum delta haben sich ende personen von, bereich a zu bereich b bewegt ja man könnte also zum beispiel eine aussage treffen wie. Zwischen sechs uhr und neun uhr haben sich fünfhundert personen von bernau nach berlin mitte bewegt genau ist im norden von berlin so eine ja, brandenburg vor ort und da könnte jetzt zum beispiel sein dass es fünfhundert personen gibt die morgens aus bernau nach berlin mitte fahren vielleicht sind's mehr vielleicht sind weniger.

Tim Pritlove
0:31:13
Linus Neumann
0:31:20
Tim Pritlove
0:32:22
Linus Neumann
0:33:08
Tim Pritlove
0:34:18
Linus Neumann
0:34:45

Richtig und da kommt jetzt der dritte die dritte art datum ins spiel das sind jetzt eben die kontaktdaten das was wir eigentlich haben wollen. Die werden jetzt definiert als person a und person b. Hatten zum zeitpunkt tee für ein zeitraum länger als delta kontakt. Und man könnte jetzt sogar diesen zeitpunkt tee sogar auch noch wegnehmen ja weil das einzige was wirklich interessiert im infektionsbad zeitraum hatten diese beiden personen. Für einen ausreichend langen zeitraum kontakt kontakt definiert als sind sich ausreichend nahe gekommen. Ja das ist das ist ein prinzip sind sich ausreichend nahe gekommen und dann wird eben auf die zeit geschaut und das ist der einzige der wirklich relevante messwert also weder bei standortdaten noch bei bewegungs daten haben wir das haben wir das da drin sondern versuchen uns das, irgendwie sehr anstrengend aus ungeeignete daten irgendwie heraus zu kratzen. Gleichzeitig ist eben an welchem ort das. Dieser kontakt stattgefunden hat und wo die beiden personen davor und danach waren ist absolut uninteressant wie gesagt es ist sogar uninteressant wann das war warum sollte das also erfasst werden. Und hier gibt es jetzt eine reihe an sehr interessanten konzepten. Die es ermöglichen einfach mal nur die kontakte zu erfassen. Bevor ich auf das was ich für am klügsten halte eingehe würde ich noch kurz sagen dass. Also eines der konzepte die ich gesehen habe ist, personen die sich kontaktieren mal am anfang irgendwie gegenseitig so ein q codes kennen ja und dann speichert die app jo hier ne also linus und tim treffen sich dürfen wir ja gar nicht aber würden wir jetzt machen ne. In einer corona freien welt und. Dann zeigen wir uns gegenseitig einen qr-code auf unserem handy und speichern quasi diese app hilft uns uns zu merken dass wir uns getroffen haben, hat natürlich die ganzen offensichtlichen fehler das macht er einen tag dann hast du keinen bock mehr und so weiter und so fort aber nehmen wir das mal ganz kurz als beispiel bevor ich auf die, auf den auf die bluetooth lösung eingehe die ich für sehr viel klüger halte wir haben nämlich jetzt noch ein weiteres, problem nämlich die speicherung dieser daten, die konzepte die man jetzt so von den überwachungs- freunden und freundinnen hört sehen im prinzip vor das zentral, standortdaten gespeichert werden beispiel jens spahn ideen hier mobilfunknetze gibt mir einfach einmal alles ja. Wir haben da also diese ganze menge irrelevante daten wo die person überhaupt gar keinen kontakt hat und wir haben, dsgvo probleme und natürlich dann auch noch für gesundheitsdaten wenn sich jetzt eine person als infiziert herausstellt noch noch weitere probleme. Also was wir brauchen um so etwas sinnvoll zu machen ist dass die daten dezentral vorgehalten werden damit es keine zentrale überwachung gibt und anonym und zwar auf eine weise anonym das. Dass du auch nicht nachher anonymisieren kannst. Und wenn man das jetzt mal übersetzt heißt dezentralität jede person die daten sammelt sammelt diese daten erstmal nur für sich selbst also auf ihrem eigenen gerät und gibt dir nicht automatisiert irgendwo anders hin weiter.

Tim Pritlove
0:38:41
Linus Neumann
0:38:47

Zumindest keine besonders große anonymität heißt die daten die du über andere personen sammelst. Sind nicht geeignet andere personen zu anonymisieren. Und die daten die du über dich selber sammelst sind nicht geeignet dich zu dir anonymisieren. So also ist letztendlich der datensatz muss zu jedem zeitpunkt an jeder stelle irgendwie anonym sein jeder einzelne datenpunkte du hast es anonym und jeder einzelne daten punkt den du anderen gibst ist anonym. Und datensparsamkeit würde halt bedeuten, dass du jetzt nur in dem fall das du infiziert bist werden diese daten ja überhaupt gebraucht wir, hätten ja jetzt hier bei so einem full take location tracking hätten wir jetzt von was weiß ich sechzig millionen mobilfunk nutzerinnen in deutschland diese kompletten bewegungs- daten und standortdaten. Und den größeren teil davon würden wir nie brauchen weil letztendlich ja nur die kontakte zählen so und. Die die datensparsamkeit bestünde also darin dass nur die daten die für eine infektion. Für einen potenziellen infektionsweg kontakt geeignet sind weitergegeben werden aber auch dann weder die identität der infizierten person noch die identität ihrer kontaktperson preisgeben, klingt natürlich jetzt erstmal so ungefähr vollständig unmöglich. Aber es gibt eine wie ich finde äußerst elegante lösungen die viele verschiedene vorschläge für solche apps auch. Implementieren und umsetzen ich habe das vielleicht fokussiere mich jetzt mal hier auf. Konzepte die im rahmen des wir versus virus hecke von. Ja entwickelt und vorgestellt wurden wir wirsing virus merkt man auch dass so eine so ein kriegst du auch nur im homeoffice wo du nicht mit anderen redest und das niemals aussprechen muss. Schreib's dir einfach in deinen e-mails wir machen wir was es virus und alle so bohren liest sich gut aber aussprechen kannst es nicht oder kannst du es aussprechen.

Tim Pritlove
0:41:14
Linus Neumann
0:41:19
Tim Pritlove
0:41:22
Linus Neumann
0:41:29
Tim Pritlove
0:42:38
Linus Neumann
0:42:43
Tim Pritlove
0:42:59
Linus Neumann
0:43:08
Tim Pritlove
0:43:10
Linus Neumann
0:43:38
Tim Pritlove
0:43:41
Linus Neumann
0:43:43
Tim Pritlove
0:44:02
Linus Neumann
0:44:04
Tim Pritlove
0:45:45
Linus Neumann
0:45:50
Tim Pritlove
0:46:12
Linus Neumann
0:46:29
Tim Pritlove
0:46:35
Linus Neumann
0:46:40

Ja

Tim Pritlove
0:46:41
Linus Neumann
0:46:44
Tim Pritlove
0:46:46
Linus Neumann
0:46:51
Tim Pritlove
0:46:57
Linus Neumann
0:47:02

Jetzt in der zeit wo das handy keine biegen sendet lauscht es ob es vielleicht beacons empfängt von anderen handys. Und wenn es einen empfängt schätzt es anhand der signalstärke den abstand. Und die reichweite von diesem bluetooth beacons ist sehr gering, und wenn es den jetzt empfängt und sagt die signalstärke ist ausreichend dann speichert das handy diesen code bei sich und sagt hier ne ich habe jetzt am ende nämlich zwei tabellen in der einen steht diese codes habe ich gesendet. Und in der anderen steht diese codes habe ich empfangen. Da sich jetzt der code den ich von der anderen person empfange mit der ich jetzt gerade gegenüber sitze bald wieder ändern wird habe ich keine informationen die mir. Helfen diese person weiter zu tracken und ich habe tatsächlich auch keine daher keine personen gebundene daten erfasst. Ich bin also nicht in der lage die andere person längere zeit zu tracken maximal, könnte ich die andere person dreißig minuten tracken und das auch nur wenn ich ohnehin in ihrer nähe bleibe ja das heißt, wenn ihr der person einfach so hinterhergeht könnt ihr die besser tracken als wenn ihr es mit der app macht ja hinterhergehen müsstet ihr auf jeden fall. So zu dem zeitpunkt hat unser handy also einmal eine liste an der an den codes dies gesendet hat und einmal eine liste an den kurz die sie dieses empfangen hat wohlgemerkt man könnte jetzt hingehen und sagen es ist sogar völlig egal wann sie die empfangen hat. Und es ist völlig egal wo jetzt kommt der schwarze tag an dem ich als infiziert diagnostiziert werde. Jetzt den waren knopf drücken muss für die menschen mit denen ich kontakt hatte. Ja ich bin jetzt von mir aus eine woche lang hier von corona party zu corona party gegangen jetzt kommt das böse erwachen ja und jetzt mache ich folgendes ich. Veröffentliche an einer zentralen stelle alle codes die ich je gesendet habe. Und man könnte jetzt noch bei einer der apps war das auch bedacht dass es natürlich blöd wäre wenn leute das trollen man könnte jetzt also zum beispiel auch sagen dass quasi die bestätigung dass diese codes, infiziert sind muss von einer ärztin zum beispiel signiert worden sein das wäre jetzt nochmal so ein extra um dieses system jetzt auch gegen trolling resistent zu machen aber, entscheidend ist jetzt werden alle codes die ich gesendet habe für die welt veröffentlicht und alle leute die diese app haben laden sich regelmäßig die neuen codes runter. Die als infiziert markiert wurden.

Tim Pritlove
0:50:03
Linus Neumann
0:50:05
Tim Pritlove
0:50:44
Linus Neumann
0:50:50
Tim Pritlove
0:50:53
Linus Neumann
0:50:55
Tim Pritlove
0:51:02
Linus Neumann
0:51:04

Ist nicht viel aber wir sehen exponentielles wachstum bei den infektionen es werden auf jeden fall jeden tag ein paar neue codes die dazukämen ja aber ist auch in ordnung jetzt du sendest also alle kotze du je gesendet hast. In dem zeitraum seitdem du die app installiert hast oder maximal vierzehn tage oder seitdem dem frühesten zeitpunkt an dem du infiziert worden könnten sein könntest veröffentlichst du jetzt und alle nutzerinnen dieser app. Laden sich diese liste der als infektiös markierten codes herunter. Es gibt also einen zentralen server der hat nur diese codes der weiß aber nicht von wem sind die, der weiß zum beispiel nicht unbedingt die, siebenhundertneun codes die ich jetzt hier was weiß ich heute bekommen habe sind die alle von einer person oder sind die von zwei personen oder sind die von drei ja der weiß nur dieser cord wurde diagnostiziert als wurde ausgesendet von einer kranken person dieser server weiß auch nicht wer diesen code empfangen hat. Das wissen jeweils nur die geräte. Ihrer trägerinnen die nehme ich jetzt sich immer die liste der infizierten codes runterladen, und dann auf ihrer in ihrer datenbank gucken bei den leuten die ich getroffen habe war da jemals dieser code dabei, und das heißt diese codes haben nur informationswert für die person mit denen ich kontakt hatte und sie könnten. So sein dass sie ohne ort ohne aussage über ort oder zeit oder person. Veröffentlicht werden und die die die handys selber das auch nicht wissen jetzt geht also mein handy hin lädt sich zum zeitpunkt. Was weiß ich am am ersten april siebenhundert neue codes runter vergleich die mit ihrer datenbank und stellt fest oh shit. Ich habe bei fünf von diesen siebenhundert coachen treffer. Und die informationen die damit einher gibt geht wäre also nun ich habe offenbar. Entweder mit fünf unterschiedlichen infizierten personen jeweils eine viertelstunde zusammengesessen oder länger länger oder maximal dreißig minuten. Oder ich habe mit einer person insgesamt. Fünf halbe stunden zusammengesessen zweieinhalb stunden ja man könnte also sagen noch nicht einmal das kann aus diesen daten rekonstruiert werden weil dein handy weiß ja nur ein code wurde maximal dreißig minuten gesendet. Ich habe auf jeden fall fünf davon gesehen es können also entweder fünf halbe stunden mit einer mit jeweils unterschiedlichen infizierten personen oder zweieinhalb stunden mit einer infizierten person gewesen sein ist aber auch egal weil was mich hier interessiert ist meine exposé, zu einer infizierten person. Dass ich diesen code in meinem handy habe sagt ich hatte exporter und du könntest also jetzt in dem moment noch nicht mal aus deinen daten rekonstruieren wer diese person ist dein handy sagt dir aber tim. Ab in die metaebene du kommst da erstmal jetzt nicht mehr raus es sei denn du musst im krankenhaus.

Tim Pritlove
0:54:40
Linus Neumann
0:54:42
Tim Pritlove
0:55:51

Für, die leute denen das jetzt vielleicht ein bisschen zu viel server datenprotokolle anonymisiert aldi krypto und geheim und so weiter, war, lass mich mal versuchen ganz einfaches gleichnis zu machen du wirst mir sicherlich gleich ein paar floors in der darstellung nachweisen können aber einfach um es mal ganz einfach zu machen man bewegt sich durch die welt. Stellt euch vor überall wo er ein wenig verweilt ja wo er sozusagen bei leuten seid legt ihr, so insgeheim immer so ein kärtchen ab und da schreibt ja immer so irgendein neu ausgedacht das wort drauf bezaubert hinter, und nach einer bestimmten zeit. Verschwindet diese tinte auch wieder und die karte ist sozusagen nicht dich und genauso wo du dich dann ebenso aufhältst kannst du solche kärtchen eben auch entsprechend einsammeln. Und wenn dann halt später sich herausstellt dass irgendjemand der diese kärtchen verteilt hat irgendwie befallen ist von diesem virus da werden halt all diese kärtchen die alle diese worte die auf diese kärtchen drauf geschrieben hat in den letzten zwei wochen werden dann irgendwie in der zeitung veröffentlicht und da kann man das dann nachschlagen und sieht man was das kälbchen das habe ich doch gesehen so und dann weiß man man war halt in der nähe dieser person, das ist eine sehr einfache darstellung aber es macht im prinzip die denkweise dieses prinzip erstmal klar dein telefon signalisiert die ganze zeit so hier war jemand dann und dann so und wer das in dem moment gehört hat merkt sich das und wenn dann halt zwei wochen später oder maximal zwei wochen später klar wird ist es wichtig sich genau an diesem moment nochmal zu erinnern dann kriegt man das über das internet einfach in die app reingesteckt und die fängt an brot zu leuchten und damit geht man dann zum test und sagt hier app hat gesagt ich soll mir mal testen lassen test mich mal und schon hast du das stäbchen im hals. Aber so kann man dann eben doch ganz gut nachvollziehen was passiert ist und man hat jetzt nicht, unmittelbaren schaden davon wenn man's nicht benutzt aber man hat halt unter umständen etwas davon wenn man's benutzt aber man hat auch keinen nachteil davon wenn man's benutzt zumindest keinen nachteil in datenschutz rechtlicher hinsicht und die ganze, infrastruktur dafür ist auch verhältnismäßig einfach man muss eigentlich nur eine app ordentlich machen und so ein ziemlich überschaubares backend dafür bauen für diese ganzen datenaustausch und eben dass es auch trollfest ist wie du schon richtig gesagt hast man muss natürlich verhindern dass jetzt einfach irgendwelche leute sich da irgendwie durch menschenmassen durchlaufen und dann ja ich bin infiziert ich bin infiziert in die in die welt schreien das muss natürlich in irgendeiner form sichergestellt sein dass bevor diese daten veröffentlicht werden da eben auch jemand mal drauf geschaut hat und gesagt hat okay das ist jetzt hier auch wirklich ein vorfall der, der war es so und der stattgefunden hat und wir signieren das dann entsprechend ab.

Linus Neumann
0:58:41

Also ich meine jetzt einfacher angriff auf ein solches system wäre ich mit dem handy was nicht alle, dreißig minuten sein code ändert sondern alle drei alle sekunde ja dann kann ich also in dreißig minuten ein. Vielzahl an codes aussenden und wenn ich dann diese vielzahl an codes als infiziert markiere, das sind menschen die nur wenige sekunden in meiner nähe waren denken dann sie wären länger in meiner in meiner nähe gewesen ja aber das sind alles sage ich mal details wir wollen ja gerade über das datenschutz und privacy konzept hier reden und, da denke ich hatte hat dieses konzept eine sehr große eleganz dadurch dass eben die öffentlich verfügbaren informationen nur für diejenigen. Interpretierbar sind die sie angehen. Und das ist schon eine sehr eine sehr elegante lösung ja sind wie gesagt relativ viele drauf gekommen ich habe in dem, wir virus hackerthon vier gesehen die das gemacht haben ich hatte dann auch schon, angeregt dass diese gruppen sich doch verein sollen das haben sie aber glaube ich schon gemacht bevor die überhaupt jemals diese anregung gehört haben was ich selber verstanden haben dass sie viermal an dem ein sehr ähnlichen konzept arbeiten und in der lage sind durch gebündelt ihrer kräfte das schneller zu erreichen. Und man könnte jetzt sogar noch sagen ok pass auf wer jetzt kein smartphone hat könnte noch so einen code mit sich rumschleppen. Und dann wird eben nicht der inhalt des qr-codes gespeichert sondern auf den qr-code nochmal eine operation angewendet ja das hätte natürlich wer jetzt das wäre dann nur für die leute die kein smartphone haben aber trotzdem mitmachen wollen die könnten natürlich nicht informiert werden aber also es wäre jetzt irgendwie sogar noch so ein vorarlberg denkbar.

Tim Pritlove
1:00:41

Ich will nochmal kurz sagen warum es relativ wichtig finde dass diese app tatsächlich auch den standort ermittelt. Erstmal ist es ja wie mit allen apps den du sozusagen standort gibt also solange dieser standort nicht nach außen gelassen wird ist es erstmal okay ja das heißt es geht darum dass du für dich selber zu speichern und in dem moment wo die app halt auch noch den standort hätte könnte sie eben mit jedem empfangen denn bieten mit jedem empfangen einen code auch noch den ort und die zeit abspeichern, hat natürlich den großen vorteil dass wenn du jetzt diese informationen bekommst person x die du nie kennen wirst stand mal in deiner nähe dass du in dem moment halt weißt. An dem tag an dem ort, und das kann halt jetzt irgendwo auf dem platz auf der straße in der öffentlichkeit im supermarkt gewesen sein da hilft dir das dann auch nicht groß weiter außer dass du, einschätzen kannst wie gefährlich ist wohl ist sichern solchen orten aufzuhalten aber es könnte ja auch sein dass es eben irgendein treffen mit freunden gewesen ist und dass du dann in dem moment auch alle anderen warnen kannst, die an diesem treffen teilgenommen haben die jetzt vielleicht nicht mit dieser app rumgelaufen sind weil die natürlich dann auch potentiell davon betroffen sind also insofern wäre der nutzen schon erheblich und wenn man die app halt ordentlich programmiert und diesen standort natürlich nicht mit hochlädt also nicht in lesbarer form zumindest sehe ich da halt auch kein problem auch wenn es immer gut ist natürlich maximal daten sparsam zu sein aber an der stelle sind das meiner meinung nach einfach daten die einfach dann sehr sinnvoll wären.

Linus Neumann
1:02:24
Tim Pritlove
1:03:13
Linus Neumann
1:03:18
Tim Pritlove
1:03:21
Linus Neumann
1:04:17
Tim Pritlove
1:04:23

Laptop ist dann halt irgendwie aus, so das deswegen benutze ich jetzt auch bewusst dieses beispiel aber die modernen laptops sind halt in der lage auch in diesem zuge geklappten zustand immer noch so ein becken auszusenden das heißt alle naselang machen die halt piep, mit so einem bluetooth code und dann ist es dasselbe prinzip da wird so einen code der sich permanent ändert ausgesendet. Und wenn andere apple die weißes den höheren leiten sie den ohne zu wissen worauf der zeigt, an und da ist es natürlich jetzt ein anderes prinzip ja aber von der, technik die sie zum einsatz kommt es halt vergleichbar an den apple server weiter und die können dann sozusagen zuordnen a das gehört zu dieser idee und wenn ich dann sage wo ist mein laptop geblieben dann sagen die ja hier standortdaten da zack, und also die verwenden sozusagen dieselbe technologie und auch ähnliche prinzipien mit sich permanent ändern und kurz damit eben niemand der dieses birken sieht weiß was das ist und das was da auch ist und dann kriegt er auch keine angezeigt mit da liegt ein laptop im im sofa sondern es läuft einfach alles um hintergrund man benutzt quasi alle anderen telefone und geräte einfach so als datenstaus absauger ohne dass die wissen was sie da machen das heißt es ist auch technik von der ich mir sehr wohl vorstellen könnte dass sie relativ zeitnah mindestens bei apple tendenziell auch, in andere telefone einzug halten könnte, dass man also zumindest die basis dafür die technische basis in irgendeiner form liegt oder es einfacher macht so ein tracking durchzuführen.

Linus Neumann
1:06:05
Tim Pritlove
1:06:26
Linus Neumann
1:06:38

Das ist wahrscheinlich sogar das größte problem was kein problem ist bin ich von mehreren leuten gefragt worden ja aber dann muss ich doch dann verbinden sich die geräte die ganze zeit per bluetooth mit was anderem und ich habe gehört ich soll bluetooth aus meiner mit meinem gerät sicherer ist. Also es ist natürlich nicht auszuschließen dass ich in dem bluetooth, eures handys irgendwo eine schwachstelle befindet die aus nutzbar ist es ist allerdings dann doch relativ unwahrscheinlich dass ihr ausgerechnet darüber gewohnt werdet ja. Die entscheidende sache bei wird etwas gehackt oder nicht ist im prinzip. Die komplexität wie mit daten umgegangen wird und was wir hier hätten wir hätten eine einfache broadcast nachricht das handy sendet die also, so oder so und reagiert. Quasi nicht auf irgendeine antwort also dass das protokoll ist so so unter komplex wie es nur sein kann nämlich ich sende ein bieten aus mir ist völlig egal es muss auch keine antworten ich sende den einfach. Jede zeiteinheit und damit endet auch das protokoll ja man würde natürlich diesen biegen jetzt generieren im üblicherweise würde man sich jetzt irgendwie ein geheimnis nehmen und eine ableitung funktion die aus der uhrzeit. Dem geheimnis ein jeweiligen bieten macht dann ändert er sich eben auch alle halbe stunde oder eine halbe minute oder was auch immer wieder jetzt festlegen. Die empfangsraum richtung ist auch nur ich empfange den bieten das sind ein paar beide mit denen muss ich nichts anderes machen, als sie in meine datenbank speichern auch das eine okay sorry, empfangene daten in eine datenbank speichern ist etwas was seit vielen jahrzehnten von leuten falsch gemacht, nennt sich aber gehen wir mal davon aus dass die programmierer, das jetzt mal auf die kette gekriegt haben dann wäre auch hier die angriffs- oberfläche ebenso gering wie sie nur sein kann ja also es wird jetzt es wäre ja keine komplexeren weiteren verarbeitung auf diese daten, durchgeführt das heißt wir hätten hier ein protokoll einfacher und mit geringerer angriffs- oberfläche kannst du das gar nicht mehr machen. Und es hat nichts mit pairing oder bluetooth cranking oder mein bluetooth-gerät ist jetzt sichtbar zu tun alle diese funktionen vor denen euch vor zwanzig jahren mal gesagt wurde das ist aber jetzt falsch sondern es ist wirklich, ein ein broadcast bieten der jetzt mit verschlüsselung und sonstigen scherzen überhaupt nichts zu tun hat es ist quasi eine, andere funktionalität modernerer bluetooth standards auch mal einfach einfach was zu senden und einfach mal was zu empfangen. Insofern die angriffsfläche die hier entsteht halte ich für äußerst äußerst gering. Aufgrund der absolut geringen komplexität dieses gesamte protokoll ist halt nichts damit zu tun dass ihr irgendwie pairing bereit seid auf euren bluetooth-gerät oder auch das senden dieser beacons wird relativ wenig strom verbrauchen ich weiß nicht genau wie es mit dem empfang ist ja also es, könnte durchaus sein dass das empfang dieser beacons durchaus ein bisschen strom verbraucht aber, auf jeden fall nicht so viel dass das gerät jetzt unbrauchbar wird es gibt eine reihe an. Bemerkungen die ich dazu noch kurz machen muss es gibt minimale änderungen die man an diesem konzept machen könnte. Wodurch dass eben nicht mehr dieser dezentralität und anonymität entsprechen würde beispielsweise wenn ich sage ich ändere den code nicht regelmäßig. Schon habe ich location tracking über mehrere orte und tage und habe letztendlich mein handy in einen peilsender verwandelt. Oder, wenn ich sage die daten werden jetzt nicht dezentral gespeichert wer weiß wie viele leute ihr handy irgendwie hinfallen lassen oder so sondern wir schicken dir mal lieber direkt an den server schon hätte ich nämlich eine zentrales zentrales tracking von auch nicht infizierten personen. Und natürlich wird ja hier auch diskutiert das ist eine frage die mir von den journalistinnen in dem bereich viel gestellt wurde ja kann das denn aber klappen wenn es freiwillig ist meine antwort darauf wäre, es kann nur klappen wenn es freiwillig ist, und es kann auch nur klappen wenn es so daten sparsam wie möglich ist denn würde man jetzt eine andere art von app machen die irgendwie auch nur ein bild an daten irgendwo speichert oder hin sendet was nicht notwendig ist. Insbesondere an andere sendet was nicht notwendig ist dann könnt ihr eure app braucht ihr gar nicht erst zu programmieren wird sich, aus guten gründen ohnehin niemand installieren insofern. Entscheidender faktor nur freiwillig und nur in der höchsten anonymität und datensparsamkeit kann aus so einer etwas werden es gibt eine reihe an, noch verbesserungen dafür zu sorgen dass daten vielleicht trotzdem schon mal verschlüsselt irgendwohin geleitet werden und du erst am ende quasi. Den kita zu freigibst das sind alles interaktionen die dieses konzept. Vielleicht ein bisschen stabiler machen, vielleicht auch verbessern die aber an den grundfragen der anonymität nichts verbessern oder nichts ändern nichts verschlechtern und nichts verbessern deswegen würde ich es jetzt mal im rahmen der einfachheit. Hier an dieser stelle nicht diskutieren.

Tim Pritlove
1:12:43

Jetzt natürlich die frage wer hat jetzt die autorität und die entscheidungsmacht um dieses projekt auch durchzuführen weil es ist ja auch klar es dürfte nur eine. Geben es macht keinen sinn wenn jetzt zehn verschiedene korona tracking apps rauskommen weil es würde im zweifelsfall nur dazu führen dass sie alle in kompatibel zueinander sind alle nicht die notwendige aufmerksamkeit bekommen etcetera, und es wäre natürlich auch sinnvoll dafür zu sorgen dass diese app möglichst schnell fehlerfrei ist, weil man kann jetzt auch nicht davon ausgehen wenn die app releast wird dass da schon alles stimmt da kann sein dass irgendwie was mit der anonymität daneben geht da kann sein dass irgendwie daten falsch übermittelt werden dass sie später nicht zugeordnet werden können dass die ganzen daten sozusagen nutzlos werden sicherheits- allgemeiner art und natürlich das typische bedient das funktioniert das auch crashers nicht etcetera p p mit worten ein hoher bedarf an eine hohe qualität und wo wirklich mal viele augen sehr schnell drauf schauen müssen meine auffassung nach kann so eine app nur. Open source entwickelt werden denn die muss sozusagen da darf an sich kein geheimnis drin sein sonst, ist es irgendwie vorbei die app muss das richtige tun auf die richtige art und weise und durch dieses richtige funktionsprinzip sicher sein und nicht weil da irgendwas drin ist was keiner sehen darf und wenn es dann einer sieht denn es ist nicht mehr sicher und auf der basis ließe sich das halt schon entwickeln von daher wäre es halt eigentlich ganz sinnvoll wenn man jetzt, zum beispiel diese ganzen teams die mehr oder weniger dieselbe idee verfolgen zusammenschweißt und auch noch andere leute mit einsteigen konsequentes ding in der öffentlichkeit entwickelt das ding konsequent auch in der öffentlichkeit testet. Erstmal so einen testlauf macht keine ahnung denn es muss ja jetzt auch nicht sein also diese diese app ist ja gar nicht mal nur. Nützlich jetzt. Also sie wäre es jetzt auch schon gar keine frage aber sie wird noch sehr viel nützlicher werden unter dem aspekt dass wir ja, diese lok down situation auch möglichst schnell wieder beenden wollen und wir alle ein großes interesse daran haben, unsere freiheit wieder zurück zu erlangen ein wirtschaftsbetriebe wieder hinzubekommen und eben möglichst viel von dem wieder tun zu können. Was wir bisher immer getan haben, ohne uns erneut zu gefährden weil es ist ja klar in dem moment wo wir anfangen die schulen wieder aufzumachen die kitas wieder aufzumachen die bars wieder zu eröffnen tanzveranstaltungen haben stammkneipen geöffnet werden etcetera und diese ganze nähe wieder ermöglicht wird und dann wahrscheinlich auch von vielen leuten gesucht wird müssen wir natürlich. Unheimlich aufpassen dass wenn ich sofort wieder in dieselbe scheiße reinkommen sprich genau dann ist es extrem wertvoll wenn möglichst jedes telefon diese app fährt das könnte zu der meist installierten und meist benutzten app, ever werden und dass die dann quasi aktiv ist und in dem moment wo jemand sich infiziert. Man sehr sehr sehr schnell an die leute die informationen heran bringt hier du könntest theoretisch gefährdet sein. Begib dich mal in untersuchung.

Linus Neumann
1:16:20
Tim Pritlove
1:16:25

Ja aber das das hätte dann die möglichkeit dem sehr schnell her zu werden das zu container, ohne gleich wieder sagen zu müssen sorry wir haben keinen überblick und wir wissen nicht wo der virus überall lauert, ihr wisst alle wieder in die hütte und dann kostet das wieder aber millionen und ballons und was nicht alles weil das ist jetzt sicherlich ein zustand die wir in der form nur genau ein einziges mal machen können, deswegen ist ja auch sinnvoll ihm jetzt erstmal so lange durchzuhalten wie es auch nur irgendwie durchzuhalten ist dann, umzuschalten in einen modus ok wir versuchen wieder unser normales leben zu leben aber wir wissen alle dass wenn wir. Beide ziele erreichen wollen nämlich auf der einen seite diesen angriff quasi kontrollierbar zu halten. Und aber trotzdem in stellung zu sein bis es wirklich dann mal zu einer kompletten durchsurchung gekommen ist weil irgendwie müssen wir den virus verbreiten nur eben nicht so schnell das heißt im umkehrschluss, das ist ein zustand der muss zwei oder drei jahre anhalten, und deswegen ist es fast das beste überhaupt mit so einer app rumzulaufen in der tasche um dann eben so ein alarmsystem zu haben um immer sofort sagen zu können ok hier ist uns mal wieder einer durchgerutscht da müssen wir gucken da müssen wir container, es ist nicht so schlimm das jetzt unbedingt leute krank geworden sind das wird ohnehin passieren wichtig ist nur dass es nicht zu viele gleichzeitig sind damit das gesundheitssystem mitkommt und dass wir auch insgesamt den prozess verlangsamen können um den wettlauf zu einer therapie zu einem medikament etcetera alles was sich da demnächst hoffentlich bald ergeben wird um den wettlauf eben nicht zu verlieren.

Linus Neumann
1:18:07
Tim Pritlove
1:18:23
Linus Neumann
1:18:25
Tim Pritlove
1:18:35
Linus Neumann
1:18:52
Tim Pritlove
1:18:58
Linus Neumann
1:19:23

Okay jetzt bin ich gespannt es gäbe also jetzt endlich mal ein. Vorschlag hinter denen, der größere teil der datenschützer oder ich glaube die datenschützer sowieso ich habe jetzt gerade noch eine sendung gesehen würde ich über twitter darauf hingewiesen aktuelle stunde wo. Auch der ulrich kelber der datenschutzbeauftragte sich dazu äußert was eben die rahmenbedingungen für so eine, app wären die das akzeptabel machen würden erteilt da die ansicht, ich habe dann auch ja später auch durch twitter wir fahren dass es auf netzpolitik org gestern abend auch ein, artikel veröffentlicht wurde indem wir ebenfalls dieses konzept dargestellt und gelobt wird. Wir haben, jetzt im wir wirsing irgendwie ansätze das umzusetzen und jetzt stehen endlich mal alle zeichen in die richtung einer, datenschutz freundlichen app und ich muss wirklich sagen das ist. Nicht häufig so dass sich eine derartig kluge datensammlung. Ohne zentrale überwachung so kompromisslos realisieren lässt ja also man hätte jetzt hier ja dürfen wir nicht vergessen am ende die daten der höchsten qualität nämlich. Zwei personen nur die kontaktdaten und nur die relevanten kontaktdaten werden sie trotzdem vollständig anonym und dezentral die zentral gesammelt und veröffentlichen informationen sind, vollständig an und vollständig anonymisiert und wir könnten quasi. Mit einer zentralisiertes massenüberwachung. Noch nicht einmal ein so gutes ergebnis bekommen ja also eine zentralisierte massenüberwachung würde ich hatte es ja eingangs ausgeführt zu schlechteren ergebnissen führen und das ist jetzt schon tatsächlich. Ja nicht häufig so dass man eine so krasse überlegenheit auch von radikaler anonymisierung hat. Insofern fände ich das schon wirklich würde mich das echt mit großer freude füllen wenn das in der form, gemäß dieser prinzipien umgesetzt würde und ich hätte dann auch keine bedenken eine solche app zu installieren ich denke dann wird es auch vielen menschen ähnlich gehen. Das ist nicht häufig so dass dass sich solche gelegenheiten bieten.

Tim Pritlove
1:22:18
Linus Neumann
1:22:22
Tim Pritlove
1:23:10
Linus Neumann
1:24:22
Tim Pritlove
1:24:28
Linus Neumann
1:24:31
Tim Pritlove
1:24:57
Linus Neumann
1:25:19
Tim Pritlove
1:25:24
Linus Neumann
1:25:44
Tim Pritlove
1:27:01
Linus Neumann
1:27:45
Tim Pritlove
1:28:18
Linus Neumann
1:28:25
Tim Pritlove
1:30:05
Linus Neumann
1:30:07
Tim Pritlove
1:30:10
Linus Neumann
1:30:19
Tim Pritlove
1:30:31
Linus Neumann
1:30:57
Tim Pritlove
1:31:02
Linus Neumann
1:31:12