02.04.2024

Teaser image to Get to know MCML Junior Member Maximiliane Windl

Get to know MCML Junior Member Maximiliane Windl

Created during the first MCMLxDJS-Workshop

Maximiliane Windl’s research focuses on understanding and mitigating privacy concerns in ubiquitous computing systems.Her main concern is one thing: how can people become more aware of what data these devices are constantly collecting?

This article was written by Lennart Glaser from the Deutsche Journalistenschule (DJS). It was created in a workshop together with DJS. Talented journalism students met some of MCML`s junior researchers and got a glimpse of their work. The result: One article about the research of each junior member that took part at the workshop written by one journalism student. We will upload one article each Tuesday. Stay tuned for some more insights.


„Die Menschen müssen wieder die Kontrolle übernehmen“

Maximiliane Windl forscht am Munich Center for Machine Learning (MCML) zu intelligenten Assistenten im Haushalt. Ihr geht es vor allem um eins: Wie können sich Menschen bewusster werden, welche Daten diese Geräte ständig sammeln?

Zuallererst: Ja, ich nutze selbst auch smarte Geräte. Zwar nicht in meiner Wohnung, dafür in meiner Hosentasche und sogar an meinem Handgelenk. Und ja, ich finde es auch cool, wenn ich im Winter nach Hause komme und weiß, meine Wohnung ist schon warm, weil mein smarter Thermostat das für mich eingestellt hat. Da bin ich ganz pragmatisch. Ich mache mir darüber aber auch viele Gedanken. Dass ich mit meinen Daten für die Services bezahlen muss, das weiß ich – und das ist es mir wert, solange ich Nutzen aus solchen Geräten ziehe.

Mich beschäftigt aber, dass sich viele Menschen darüber kaum Gedanken machen. Sprachassistenten, smarte Lampen oder intelligente Waschmaschinen finden sich inzwischen in vielen Wohnungen. Solange diese nur zu Hause in einem Heimnetzwerk miteinander verbunden sind, ist das nicht besonders besorgniserregend, weil die gesammelten Daten nicht nach außen dringen. Wenn die Geräte aber mit dem Internet verbunden sind, können diese Daten abgegriffen und verwertet werden. Vielen Menschen ist gar nicht bewusst, wie viele und welche Daten so weitergegeben werden. Und auch nicht, für welchen Zweck.

In meiner Forschung geht es mir deshalb vor allem um den Aspekt der Privatsphäre. Mein Ziel ist es, ein Bewusstsein für Datenschutz zu schaffen und zu erforschen, wie man Menschen vor unbewusster Datenweitergabe in den eigenen vier Wänden schützen kann. Im Rahmen einer Studie habe ich deshalb ein System entwickelt, mit dem Menschen einen Überblick bekommen, wo in ihrer Wohnung welche Daten gesammelt werden.

Natürlich ist nicht jede Datenweitergabe per se schlecht. Auch wir am Munich Center for Machine Learning benötigen in unserer Forschung Daten, um unsere Algorithmen zu trainieren. Je mehr Daten dafür zur Verfügung stehen, umso besser können unsere Systeme lernen. Wichtig ist aber, dass die Menschen, von denen die Daten stammen, die Kontrolle darüber haben, welche Daten gesammelt und weitergegeben werden.

In einem Experiment haben mein Team und ich deshalb untersucht, wie smarte Geräte Daten in den Wohnungen unserer Studienteilnehmer*innen sammeln. Dafür haben wir jeweils den Grundriss der Wohnungen auf einem Holzbrett eingezeichnet. Mit kleinen Pins haben wir darauf markiert, wo in der Wohnung sich welches Smart-Home-Gerät befindet und hervorgehoben, auf welche Weise es Daten sammelt. Die Holzbretter haben wir dann sechs Wochen lang im Eingangsbereich der Wohnungen unserer Studienteilnehmer*innen platziert, sodass sie für die Bewohner*innen und vor allem für alle Besucher*innen gut sichtbar waren. Unser Ziel war es, zu messen, welche Reaktionen unser Holzbrett hervorrufen würde.

Um zu bestimmen, was unsere Testpersonen erlebt haben, haben wir sie in Interviews dazu befragt, am Anfang und am Ende des Versuchs. Aus den Gesprächen haben wir gelernt, dass tatsächlich fast alle, die während unseres Experiments bei unseren Testpersonen zu Gast waren, auch die Holzbretter in deren Wohnungen bemerkt haben. Viele haben angefangen, die auf dem Holzbrett markierten Geräten in der Wohnung zu testen und zu prüfen, wie sensibel diese Geräte reagieren, zum Beispiel auf Sprachbefehle. Manche der Besucher*innen haben deshalb sogar gesagt, dass sie sich durch die Geräte unwohl fühlen und die Versuchsteilnehmer*innen gebeten, sie für die Zeit ihres Besuches auszuschalten. Ohne das Holzbrett wäre den Besucher*innen gar nicht aufgefallen, wie viele Daten während des Besuchs ohne ihr Wissen gesammelt werden.

Mit unserer Forschung haben wir gezeigt, wie groß die Diskrepanz ist zwischen dem Wunsch nach Datenschutz und dem fehlenden Bewusstsein, welche Daten eigentlich über uns gesammelt werden. Klar, natürlich vereinfachen Smart-Home-Geräte in unserem Alltag vieles. Wir brauchen aber eine Möglichkeit, den Menschen Kontrolle über die Daten zu geben, die dafür im Gegenzug gesammelt werden.

Unser Holzbrett könnte dafür eine Art Vorreiter sein. Bei meiner Forschung habe ich gelernt, dass physische Hinweise helfen können, Aufmerksamkeit dafür zu schaffen, wie smarte Geräte Daten sammeln. Ich könnte mir zum Beispiel vorstellen, dass dabei schon ein kleines Gerät mit einem Kippschalter helfen könnte, das auf Wunsch das Mikrofon eines smarten Speakers verschließt und bedeckt. Eine Art sichtbarer Ohrenschutz für den Lautsprecher sozusagen. So könnten sich die Nutzer*innen schützen und gleichzeitig ihr Bewusstsein trainieren.

Ich verstehe, wenn Menschen sagen, man müsste stattdessen eigentlich die Unternehmen in die Pflicht nehmen, die diese Geräte herstellen. Ich bin auch der Meinung: In einer perfekten Welt wären sich diese Unternehmen bewusst, dass Datenschutz an erster Stelle steht. In der Realität werden die Unternehmen aber immer Wege finden, jegliche Form der Regulierung zu umgehen. Der Handel mit Daten – das ist eben deren Geschäftsmodell. Deshalb braucht es solche Erfindungen wie unser Holzbrett, bis wir eine andere gute Lösung gefunden haben, um die Daten zu schützen und den Menschen ihr Wohlbefinden zurückzugeben.


02.04.2024


Related

Link to Our PI Sven Nyholm about AI in government services

10.07.2024

Our PI Sven Nyholm about AI in government services

Is AI a potentially effective way to improve government services? To answer this question, this BBC article considers the critical views of our PI, Sven Nyholm.


Link to How the Meta Algorithm Influences Election Advertising

27.06.2024

How the Meta Algorithm Influences Election Advertising

Our PI Stefan Feuerriegel and his team conducted a large-scale study on the topic of election advertising.


Link to MCML Director Daniel Cremers about his new method to create precise 3D reconstructions

21.06.2024

MCML Director Daniel Cremers about his new method to create precise 3D reconstructions

This TUM News article covers the latest research results of our Director Daniel Cremers. He and his team have succeeded in creating precise 3D reconstructions using only …


Link to Our PI Björn Ommer about AI in medicine and healtcare

12.06.2024

Our PI Björn Ommer about AI in medicine and healtcare

Our PI Björn Ommer was a guest on Gert Scobel's show to talk about AI in medicine and healthcare.


Link to Our PI Nassir Navab on robotic ultrasound systems

12.06.2024

Our PI Nassir Navab on robotic ultrasound systems

This article highlights the work of our PI Nassir Navab on robotic ultrasound systems.