„Der Körper ist keine Black Box“

Die Forscher*innen der EFF schlussfolgern, dass viele der Apps in kurzer Zeit programmiert werden, oftmals nur wenige Funktionen beinhalten und so zwar zu wenig komplex sind, um unbeabsichtigte Sicherheitslücken zu beinhalten, gleichzeitig aber nicht geeignet sind, um sich medizinisch beraten zu lassen. Ein Eindruck, den auch die Programmiererin Julia Friesel teilt: Gemeinsam mit dem Bloody Health Kollektiv arbeitet sie derzeit an der Open-Source Zyklus-Tracking-App „drip“. Aus der eigenen Erfahrung mit unterschiedlichen Zyklus-Tracking-Apps und im Rahmen der Recherche für die Entwicklung der eigenen App weiß sie, dass ein Großteil der Apps reines „Clickbait“ betreiben. Das bedeutet: Der beliebte Markt rund um das Zyklus-Tracking wird mit Apps gefüllt, die sich in erster Linie an der Kaufkraft der Nutzer*innen und weniger an medizinischer Aufklärung orientieren: Das heißt: Minimale Funktionen, dafür maximale Werbeeinschaltungen, die oftmals an die Zyklusphasen und die dadurch vermeintliche Empfänglichkeit für bestimmte Produkte angepasst werden.

Klar ist aber auch, dass das Anzeigen von personalisierter Werbung nur eines von vielen möglichen Szenarien ist, die mit der Sammlung sensibler Gesundheitsdaten wie Menstruations- oder Schwangerschaftsdaten einhergehen. „Ich halte es für problematisch, nicht zu wissen, was für ein Potential noch in der Zukunft liegt und wie diese Daten in anderen politischen oder ökonomischen Umständen verwendet werden könnten. Manchmal ist die Zukunft ja auch schon hier, nur weiß man es oft nicht“, sagt Friesel.

Ein Hinweis darauf, wie diese Zukunft aussehen könnte, sei das Beispiel der Apps Ovia Pregnancy und Ovia Fertility, so Friesel weiter: In den USA bieten manche Unternehmen ihren Arbeitnehmerinnen bereits an, diese Apps zu verwenden und die Daten in aggregierter Form mit der HR-Abteilung des Unternehmens zu teilen. Der Vorteil für die Frauen: Sie erhalten pro Tag einen Dollar als Entschädigung. Der Vorteil für die Unternehmen: Die Gesundheitsausgaben sollen minimiert und eine langfristigere Planung gewährleistet werden. Das Problem dabei: Frauen werden bereits jetzt aufgrund möglicher Schwangerschaften am Arbeitsmarkt diskriminiert. Dass diese Diskriminierung durch das zusätzliche Wissen der Unternehmen weiter vorangetrieben wird, kann nicht ausgeschlossen werden.

„Letztendlich basiert diese Selbstvermessung auf einem Optimierungsgedanken: Wie kann ich Menschen ausbeuten, ohne sie an den Rand des Burn-Outs zu bringen? Wie kann ich Menschen aussortieren, die problematische Werte aufweisen?“, fasst auch Weber eine der Problematiken zusammen. Dabei werden gleichzeitig „behavioristische Phantasmen“ bedient, wie Weber es nennt: „Menschen werden durch Algorithmen in eine Richtung geschubst – ohne darüber zu sprechen, was ein richtiges Verhalten ist“, so die Mediensoziologin weiter.

Vielmehr sind es die Algorithmen selbst, die durch die Vorannahmen der Entwickler*innen Normen und Auffassungen von einem richtigen und falschen Verhalten produzieren. Zum Beispiel dadurch, dass die Vorstellung eines gesunden weiblichen Zyklus durch die Daten der Nutzer*innen generiert werden können. Nutzer*innen, die zu einem großen Teil aus den USA oder Europa stammen, die tendenziell einer bestimmten Altersgruppe zugehören und aus einem bestimmten sozioökonomischen Milieu kommen. Repräsentative Aussagen über einen gesunden Körper zu treffen, ist so kaum möglich. Andererseits gibt auch die Mustererkennung der Big-Data-Anwendungen Normen vor: „Diese Muster fallen nicht vom Himmel. Dafür muss ich Kategorien formulieren. Diese werden zwar nicht politisch wahrgenommen. Die Entscheidungen, welche Kategorien relevant sind und welche Kategorien ich vergleiche, sind aber sehr wohl politisch “, erklärt Weber.

Eine Möglichkeit sich der teils ungewissen, teils doch schon sichtbaren Zukunft zu entziehen: Selbst tätig werden, indem eine eigene und vor allem neutrale Plattform geschaffen und bekannt gemacht wird. Weber denkt dabei an eine Art „digitales feministisches Gesundheitszentrum“. Wissen soll dort ebenso ausgetauscht werden wie die gesammelten Daten, um aus einer feministischen kritischen Perspektive digitale Gesundheitsdiskurse mitzugestalten.

Oder aber: Man sammelt gar keine Daten. Diesen Ansatz verfolgt „drip“. Die produzierten Daten werden weder mit jemandem geteilt, noch in einer Cloud gespeichert. Sie bleiben im Gerät, allein für den eigenen Gebrauch. Die Motivation von Julia Friesel, diese Open-Source-App zu entwickeln, speist sich aus der eigenen Praxis: Sie verwendet schon länger die symptothermale Methode als Verhütungsmethode, zu Beginn mit Stift und Papier und später mit einer der Tracking-Apps. Erst nach einiger Zeit las sie die Allgemeinen Geschäftsbedingungen dieser App. Was mit den aufgezeichneten Daten passiert, wusste sie nach dem Lesen jedoch nicht.

Nur wenige Zeit später, wurde sie selbst aktiv: Gemeinsam mit Tina Baumann und Marie Kochsiek, die die Idee zur App hatte, entstand das Bloody Health Kollektiv und die Beta-Version von „drip“. Für Friesel nicht nur ein lehrreicher, sondern auch ein emanzipierender Prozess: „Wir haben jetzt die Möglichkeit, die Dinge so zu bauen, wie wir sie haben wollen. Also uns nicht defensiv nur gegen Datensammel-Geschäftsmodelle zu wehren, sondern aktiv eigene Schwerpunkte zu setzen.“

Das beginnt schon bei einem genderneutralen Design. Traditionelle Rollenklischees werden mit der App bewusst durchkreuzt, Körperprozesse klar benannt. Schwarz-Blau und ein Blutstropfen. Statt rosa Farbumgebung, Blumen und Schmetterlingen oder auch sexy Frauen-Silhouetten. „Für mich ist das ein komischer Blick von außen“, beschreibt Friesel ihr Gefühl, „aber ich erwarte mir eine seriöse Ansprache. Es geht um meinen Körper und meine Gesundheitsdaten, da möchte ich mich ernst genommen fühlen“.

Hinzu kommt die Sprache innerhalb vieler Apps, die oft verschämt wirkt und kaum klare Worte findet, manchmal auch normalisierende Tendenzen hat. Zum Beispiel, wenn die App suggeriert, dass fehlende Lust auf Sex ein Fehler sei, den es zu beheben gilt, oder in der Eingabemaske ganz klar von Normwerten ausgegangen wird, die nicht auf alle Nutzer*innen zutreffen.

Das US-amerikanische Unternehmen “Fitbit” bietet unterschiedliche Tracking-Apps und Wearables an, unter anderem auch eine Zyklus-Tracking-App. Allerdings beschränkt das Unternehmen die maximale Zeitdauer der Periode auf zehn Tage. Viele User*innen kritisierten das Unternehmen, unter anderem auf Twitter (zum Durchlesen der einzelnen Tweets auf die Icons links klicken).

Friesel fügt aber auch hinzu, dass es durchaus Apps gibt, die Vielfalt nicht nur berücksichtigen, sondern ganz bewusst aufzeigen, dass es unterschiedliche Körper gibt. In dieser Vielfalt ordnet sich auch „drip“ ein. Menschen mit unterschiedlichen Geschlechtsidentitäten, Lebensumständen, Körpern oder Herkünften werden versucht mitzudenken – doch teils fehlen Zugang und Ressourcen. Eine ständige Weiterentwicklung der App durch das Feedback der Nutzer*innen soll helfen, sich in diesem Bereich zu verbessern.

Wichtig ist dem Bloody Health Kollektiv auch, dass die Nutzer*innen ihren Körper selbst verstehen lernen und nicht abhängig von einer App sind. Algorithmen werden daher transparent gemacht und die Nutzer*innen dazu ermutigt, selbst mitzudenken. Eine weitere bewusste Schwerpunktsetzung, die sich in vielen anderen Zyklus-Apps nicht findet: „Diese Apps vermitteln oft den Eindruck, dass man sie brauchen würde, um den schwierigen Körper zu verstehen. Aber der Körper ist keine Black Box, die nur durch einen tollen Algorithmus verstehbar wird“, sagt Friesel.

Eine Suggestion, mit der versucht wird, das Geschäft mit den Daten weiter voranzutreiben, die aber auch Entscheidungen an den scheinbar neutralen und unpolitischen Algorithmus auslagern soll, erklärt auch Jutta Weber: „Das ist eine Legitimationsstrategie, dass man sich zurückziehen und sagen kann, der Algorithmus lieferte bestimmte Ergebnisse und darauf richten wir unser Handeln aus. Den rationalen Fähigkeiten der Menschen wird immer weniger vertraut“.