02.04.2024

Teaser image to Get to know MCML Junior Member Maximiliane Windl

Get to Know MCML Junior Member Maximiliane Windl

Created During the First MCMLxDJS-Workshop

MCML Junior Member Maximiliane Windl’s research focuses on understanding and mitigating privacy concerns in ubiquitous computing systems. Her main concern is one thing: how can people become more aware of what data these devices are constantly collecting?

This article was written by Lennart Glaser from the Deutsche Journalistenschule (DJS). It was created in a workshop together with DJS. Talented journalism students met some of MCML`s junior researchers and got a glimpse of their work. The result: One article about the research of each junior member that took part at the workshop written by one journalism student. We will upload one article each Tuesday. Stay tuned for some more insights.


„Die Menschen müssen wieder die Kontrolle übernehmen“

Maximiliane Windl forscht am Munich Center for Machine Learning (MCML) zu intelligenten Assistenten im Haushalt. Ihr geht es vor allem um eins: Wie können sich Menschen bewusster werden, welche Daten diese Geräte ständig sammeln?

Zuallererst: Ja, ich nutze selbst auch smarte Geräte. Zwar nicht in meiner Wohnung, dafür in meiner Hosentasche und sogar an meinem Handgelenk. Und ja, ich finde es auch cool, wenn ich im Winter nach Hause komme und weiß, meine Wohnung ist schon warm, weil mein smarter Thermostat das für mich eingestellt hat. Da bin ich ganz pragmatisch. Ich mache mir darüber aber auch viele Gedanken. Dass ich mit meinen Daten für die Services bezahlen muss, das weiß ich – und das ist es mir wert, solange ich Nutzen aus solchen Geräten ziehe.

Mich beschäftigt aber, dass sich viele Menschen darüber kaum Gedanken machen. Sprachassistenten, smarte Lampen oder intelligente Waschmaschinen finden sich inzwischen in vielen Wohnungen. Solange diese nur zu Hause in einem Heimnetzwerk miteinander verbunden sind, ist das nicht besonders besorgniserregend, weil die gesammelten Daten nicht nach außen dringen. Wenn die Geräte aber mit dem Internet verbunden sind, können diese Daten abgegriffen und verwertet werden. Vielen Menschen ist gar nicht bewusst, wie viele und welche Daten so weitergegeben werden. Und auch nicht, für welchen Zweck.

In meiner Forschung geht es mir deshalb vor allem um den Aspekt der Privatsphäre. Mein Ziel ist es, ein Bewusstsein für Datenschutz zu schaffen und zu erforschen, wie man Menschen vor unbewusster Datenweitergabe in den eigenen vier Wänden schützen kann. Im Rahmen einer Studie habe ich deshalb ein System entwickelt, mit dem Menschen einen Überblick bekommen, wo in ihrer Wohnung welche Daten gesammelt werden.

Natürlich ist nicht jede Datenweitergabe per se schlecht. Auch wir am Munich Center for Machine Learning benötigen in unserer Forschung Daten, um unsere Algorithmen zu trainieren. Je mehr Daten dafür zur Verfügung stehen, umso besser können unsere Systeme lernen. Wichtig ist aber, dass die Menschen, von denen die Daten stammen, die Kontrolle darüber haben, welche Daten gesammelt und weitergegeben werden.

In einem Experiment haben mein Team und ich deshalb untersucht, wie smarte Geräte Daten in den Wohnungen unserer Studienteilnehmer*innen sammeln. Dafür haben wir jeweils den Grundriss der Wohnungen auf einem Holzbrett eingezeichnet. Mit kleinen Pins haben wir darauf markiert, wo in der Wohnung sich welches Smart-Home-Gerät befindet und hervorgehoben, auf welche Weise es Daten sammelt. Die Holzbretter haben wir dann sechs Wochen lang im Eingangsbereich der Wohnungen unserer Studienteilnehmer*innen platziert, sodass sie für die Bewohner*innen und vor allem für alle Besucher*innen gut sichtbar waren. Unser Ziel war es, zu messen, welche Reaktionen unser Holzbrett hervorrufen würde.

Um zu bestimmen, was unsere Testpersonen erlebt haben, haben wir sie in Interviews dazu befragt, am Anfang und am Ende des Versuchs. Aus den Gesprächen haben wir gelernt, dass tatsächlich fast alle, die während unseres Experiments bei unseren Testpersonen zu Gast waren, auch die Holzbretter in deren Wohnungen bemerkt haben. Viele haben angefangen, die auf dem Holzbrett markierten Geräten in der Wohnung zu testen und zu prüfen, wie sensibel diese Geräte reagieren, zum Beispiel auf Sprachbefehle. Manche der Besucher*innen haben deshalb sogar gesagt, dass sie sich durch die Geräte unwohl fühlen und die Versuchsteilnehmer*innen gebeten, sie für die Zeit ihres Besuches auszuschalten. Ohne das Holzbrett wäre den Besucher*innen gar nicht aufgefallen, wie viele Daten während des Besuchs ohne ihr Wissen gesammelt werden.

Mit unserer Forschung haben wir gezeigt, wie groß die Diskrepanz ist zwischen dem Wunsch nach Datenschutz und dem fehlenden Bewusstsein, welche Daten eigentlich über uns gesammelt werden. Klar, natürlich vereinfachen Smart-Home-Geräte in unserem Alltag vieles. Wir brauchen aber eine Möglichkeit, den Menschen Kontrolle über die Daten zu geben, die dafür im Gegenzug gesammelt werden.

Unser Holzbrett könnte dafür eine Art Vorreiter sein. Bei meiner Forschung habe ich gelernt, dass physische Hinweise helfen können, Aufmerksamkeit dafür zu schaffen, wie smarte Geräte Daten sammeln. Ich könnte mir zum Beispiel vorstellen, dass dabei schon ein kleines Gerät mit einem Kippschalter helfen könnte, das auf Wunsch das Mikrofon eines smarten Speakers verschließt und bedeckt. Eine Art sichtbarer Ohrenschutz für den Lautsprecher sozusagen. So könnten sich die Nutzer*innen schützen und gleichzeitig ihr Bewusstsein trainieren.

Ich verstehe, wenn Menschen sagen, man müsste stattdessen eigentlich die Unternehmen in die Pflicht nehmen, die diese Geräte herstellen. Ich bin auch der Meinung: In einer perfekten Welt wären sich diese Unternehmen bewusst, dass Datenschutz an erster Stelle steht. In der Realität werden die Unternehmen aber immer Wege finden, jegliche Form der Regulierung zu umgehen. Der Handel mit Daten – das ist eben deren Geschäftsmodell. Deshalb braucht es solche Erfindungen wie unser Holzbrett, bis wir eine andere gute Lösung gefunden haben, um die Daten zu schützen und den Menschen ihr Wohlbefinden zurückzugeben.


02.04.2024


Subscribe to RSS News feed

Related

Link to What Words Reveal: Analyzing Language in the Trump–Harris 2024 Debate

26.06.2025

What Words Reveal: Analyzing Language in the Trump–Harris 2024 Debate

Philipp Wicke's study analyzes Sept 10, 2024 Trump-Harris debate, exploring how party lines shape differing linguistic strategies to sway voters.

Link to When Clinical Expertise Meets AI Innovation – with Michael Ingrisch

25.06.2025

When Clinical Expertise Meets AI Innovation – With Michael Ingrisch

The new research film features Michael Ingrisch, who shows how AI and clinical expertise can solve real challenges in radiology together.

Link to Autonomous Driving: From Infinite Possibilities to Safe Decisions— with Matthias Althoff

23.06.2025

Autonomous Driving: From Infinite Possibilities to Safe Decisions— With Matthias Althoff

The new research film features Matthias Althoff explaining how his team verifies autonomous vehicle safety using EDGAR and rigorous testing.

Link to Zooming In On Moments: ReVisionLLM for Long-Form Video Understanding

20.06.2025

Zooming in on Moments: ReVisionLLM for Long-Form Video Understanding

Tanveer Hannan and colleagues introduce ReVisionLLM, an AI model that mimics human skimming to accurately find key moments in long videos.

Link to Why Causal Reasoning is Crucial for Reliable AI Decisions

12.06.2025

Why Causal Reasoning Is Crucial for Reliable AI Decisions

Christoph Kern and colleagues show why causal reasoning is key for AI to make reliable, real-world decisions—not just predictions.