02.04.2024

Teaser image to Get to know MCML Junior Member Maximiliane Windl

Get to know MCML Junior Member Maximiliane Windl

Created during the first MCMLxDJS-Workshop

Maximiliane Windl’s research focuses on understanding and mitigating privacy concerns in ubiquitous computing systems.Her main concern is one thing: how can people become more aware of what data these devices are constantly collecting?

This article was written by Lennart Glaser from the Deutsche Journalistenschule (DJS). It was created in a workshop together with DJS. Talented journalism students met some of MCML`s junior researchers and got a glimpse of their work. The result: One article about the research of each junior member that took part at the workshop written by one journalism student. We will upload one article each Tuesday. Stay tuned for some more insights.


„Die Menschen müssen wieder die Kontrolle übernehmen“

Maximiliane Windl forscht am Munich Center for Machine Learning (MCML) zu intelligenten Assistenten im Haushalt. Ihr geht es vor allem um eins: Wie können sich Menschen bewusster werden, welche Daten diese Geräte ständig sammeln?

Zuallererst: Ja, ich nutze selbst auch smarte Geräte. Zwar nicht in meiner Wohnung, dafür in meiner Hosentasche und sogar an meinem Handgelenk. Und ja, ich finde es auch cool, wenn ich im Winter nach Hause komme und weiß, meine Wohnung ist schon warm, weil mein smarter Thermostat das für mich eingestellt hat. Da bin ich ganz pragmatisch. Ich mache mir darüber aber auch viele Gedanken. Dass ich mit meinen Daten für die Services bezahlen muss, das weiß ich – und das ist es mir wert, solange ich Nutzen aus solchen Geräten ziehe.

Mich beschäftigt aber, dass sich viele Menschen darüber kaum Gedanken machen. Sprachassistenten, smarte Lampen oder intelligente Waschmaschinen finden sich inzwischen in vielen Wohnungen. Solange diese nur zu Hause in einem Heimnetzwerk miteinander verbunden sind, ist das nicht besonders besorgniserregend, weil die gesammelten Daten nicht nach außen dringen. Wenn die Geräte aber mit dem Internet verbunden sind, können diese Daten abgegriffen und verwertet werden. Vielen Menschen ist gar nicht bewusst, wie viele und welche Daten so weitergegeben werden. Und auch nicht, für welchen Zweck.

In meiner Forschung geht es mir deshalb vor allem um den Aspekt der Privatsphäre. Mein Ziel ist es, ein Bewusstsein für Datenschutz zu schaffen und zu erforschen, wie man Menschen vor unbewusster Datenweitergabe in den eigenen vier Wänden schützen kann. Im Rahmen einer Studie habe ich deshalb ein System entwickelt, mit dem Menschen einen Überblick bekommen, wo in ihrer Wohnung welche Daten gesammelt werden.

Natürlich ist nicht jede Datenweitergabe per se schlecht. Auch wir am Munich Center for Machine Learning benötigen in unserer Forschung Daten, um unsere Algorithmen zu trainieren. Je mehr Daten dafür zur Verfügung stehen, umso besser können unsere Systeme lernen. Wichtig ist aber, dass die Menschen, von denen die Daten stammen, die Kontrolle darüber haben, welche Daten gesammelt und weitergegeben werden.

In einem Experiment haben mein Team und ich deshalb untersucht, wie smarte Geräte Daten in den Wohnungen unserer Studienteilnehmer*innen sammeln. Dafür haben wir jeweils den Grundriss der Wohnungen auf einem Holzbrett eingezeichnet. Mit kleinen Pins haben wir darauf markiert, wo in der Wohnung sich welches Smart-Home-Gerät befindet und hervorgehoben, auf welche Weise es Daten sammelt. Die Holzbretter haben wir dann sechs Wochen lang im Eingangsbereich der Wohnungen unserer Studienteilnehmer*innen platziert, sodass sie für die Bewohner*innen und vor allem für alle Besucher*innen gut sichtbar waren. Unser Ziel war es, zu messen, welche Reaktionen unser Holzbrett hervorrufen würde.

Um zu bestimmen, was unsere Testpersonen erlebt haben, haben wir sie in Interviews dazu befragt, am Anfang und am Ende des Versuchs. Aus den Gesprächen haben wir gelernt, dass tatsächlich fast alle, die während unseres Experiments bei unseren Testpersonen zu Gast waren, auch die Holzbretter in deren Wohnungen bemerkt haben. Viele haben angefangen, die auf dem Holzbrett markierten Geräten in der Wohnung zu testen und zu prüfen, wie sensibel diese Geräte reagieren, zum Beispiel auf Sprachbefehle. Manche der Besucher*innen haben deshalb sogar gesagt, dass sie sich durch die Geräte unwohl fühlen und die Versuchsteilnehmer*innen gebeten, sie für die Zeit ihres Besuches auszuschalten. Ohne das Holzbrett wäre den Besucher*innen gar nicht aufgefallen, wie viele Daten während des Besuchs ohne ihr Wissen gesammelt werden.

Mit unserer Forschung haben wir gezeigt, wie groß die Diskrepanz ist zwischen dem Wunsch nach Datenschutz und dem fehlenden Bewusstsein, welche Daten eigentlich über uns gesammelt werden. Klar, natürlich vereinfachen Smart-Home-Geräte in unserem Alltag vieles. Wir brauchen aber eine Möglichkeit, den Menschen Kontrolle über die Daten zu geben, die dafür im Gegenzug gesammelt werden.

Unser Holzbrett könnte dafür eine Art Vorreiter sein. Bei meiner Forschung habe ich gelernt, dass physische Hinweise helfen können, Aufmerksamkeit dafür zu schaffen, wie smarte Geräte Daten sammeln. Ich könnte mir zum Beispiel vorstellen, dass dabei schon ein kleines Gerät mit einem Kippschalter helfen könnte, das auf Wunsch das Mikrofon eines smarten Speakers verschließt und bedeckt. Eine Art sichtbarer Ohrenschutz für den Lautsprecher sozusagen. So könnten sich die Nutzer*innen schützen und gleichzeitig ihr Bewusstsein trainieren.

Ich verstehe, wenn Menschen sagen, man müsste stattdessen eigentlich die Unternehmen in die Pflicht nehmen, die diese Geräte herstellen. Ich bin auch der Meinung: In einer perfekten Welt wären sich diese Unternehmen bewusst, dass Datenschutz an erster Stelle steht. In der Realität werden die Unternehmen aber immer Wege finden, jegliche Form der Regulierung zu umgehen. Der Handel mit Daten – das ist eben deren Geschäftsmodell. Deshalb braucht es solche Erfindungen wie unser Holzbrett, bis wir eine andere gute Lösung gefunden haben, um die Daten zu schützen und den Menschen ihr Wohlbefinden zurückzugeben.


02.04.2024


Related

Link to Get to know MCML Junior Member Lukas Gosch

08.04.2024

Get to know MCML Junior Member Lukas Gosch

Lukas Gosch conducts research on how quickly - or slowly - AI algorithms react to changes. We will upload one article each Tuesday.


Link to Get to know MCML Junior Member Leon Hetzel

26.03.2024

Get to know MCML Junior Member Leon Hetzel

Article by Leonie Fischer (DJS) about MCML Junior Member Leon Hetzel, who developed an algorithm to significantly increase the efficiency of drug production


Link to Get to know MCML Junior Member Lisa Wimmer

18.03.2024

Get to know MCML Junior Member Lisa Wimmer

Article by Celine Schuster (DJS) about MCML Junior Member Lisa Wimmer, who improves model predictions by supplementing them with a reliable statement about their …


Link to Get to know MCML Junior Member Martin Binder

11.03.2024

Get to know MCML Junior Member Martin Binder

Article by Caroline Drees (DJS) about MCML Junior Member Martin Binder, who improves algorithms and makes them easily accessible to everyone.


Link to Our Director Daniel Rückert on how datasecurity in AI in medicine can be realized

06.03.2024

Our Director Daniel Rückert on how datasecurity in AI in medicine can be realized

Our Director Daniel Rückert strives to train medical AI in a way that ensures both patient data privacy and the impartiality of the AI in diagnosis.