Gleich zu Beginn machte die Direktorin des Oxford Internet Institute klar: „Ich bin nicht gegen die neuen Technologien – sie sind wichtig und hilfreich, aber es gibt Risiken.“ Diese sind nicht neu, wie ein Blick in die Geschichte zeigt: Ob bei der Einführung des linearen Fernsehens oder des Telefons – immer wieder wurden neue Technologien von schlimmsten Befürchtungen begleitet. Doch weder haben sich die Menschen in geistig abwesende Zombies vor dem Fernsehbildschirm verwandelt, noch verbringen Frauen ihre Tage nur noch mit Tratschen am Telefon, wie es die frühe moralische Panikmache vermuten ließ. Laut Nash war die Einführung des Personal Computers Anfang der 2000er der entscheidende Schritt zum digitalen Menschen. Allerdings konnten die Eltern damals noch leicht kontrollieren, was die Kinder am PC trieben, denn sie hatten oft ein einziges gemeinsam genutztes Gerät.

Mobile Daten und Informationen Überall

Das änderte sich im Jahr 2010: Die Welt wurde mobil. Genauer gesagt, der Konsum von Informationen. Losgelöst von einem festen Ort konnten nun überall Daten empfangen werden: in der Küche, in der Schule oder im Bus. Fortan war es für die Eltern kaum noch möglich, die Mediennutzung ihrer Kinder im Auge zu behalten. Der nächste Evolutionsschritt waren Smart Toys und Dienste wie Alexa. Für Nash war dies wegweisend: „Es werden jetzt keine Bildschirme mehr benötigt.“ Das klingt doch nach einer heilen Welt, oder? „Das Problem bei diesen Technologien ist, dass sie persönliche, teilweise sogar intime Daten sammeln“, erklärt die Forscherin.

Digitale Helfer wurden in Kinderausstattung und Kleidungsstücken implementiert, zum Beispiel in intelligente Kinderbetten oder Windeln. In Kindersocken waren Sensoren zur Überwachung von Bewegung, Temperatur und Blutdruck eingearbeitet. So sollten Warnsignale des plötzlichen Kindstodes erkannt werden. Um Teenager im Auge zu behalten, verwenden viele Familien Programme zur Standorterkennung. Mithilfe der zugehörigen App können Eltern ihre Kinder überwachen. Big parents are watching you. „Eltern sollten ihre Kinder darüber informieren, wenn sie diese Anwendung einsetzen“, sagt Nash. Denn wenn sie das nicht tun, könnte dies als mangelndes Vertrauen wahrgenommen werden. Wer möchte schon ohne sein Wissen überwacht werden?

KI im Klassenzimmer

Auch im Bildungsbereich werden Apps eingesetzt. Mit Lernplattformen wie Duolingo Max können Kinder einerseits gezielt gefördert werden, andererseits werden auch Daten über Leistungsfähigkeit und Lernverhalten gesammelt. Nash sieht hier Risiken: „Durch diese gesammelten digitalen Spuren entsteht ein algorithmisches Kind, was Konsequenzen für die Zukunft haben kann, wenn diese Daten in Bildungsentscheidungen einbezogen werden.“ Das Gleiche gilt für den KI-Einsatz in Schulen, denn dabei entsteht kein vollumfängliches Bild der Kinder. „Es wird nur ein Bild ihres innerschulischen Verhaltens erstellt, nicht ihres familiären Hintergrunds.“ Kindern aus prekären Verhältnissen werde so früh die Chance auf eine bessere Zukunft verbaut.

Zum Abschluss gab Victoria Nash noch einen Ausblick auf die aktuelle und zukünftige Forschung des Oxford Internet Instituts. Dazu gehören der Einfluss von KI auf die mentale Gesundheit und die Interaktion von Kindern mit Chatbots. Und nach der Vorlesung ist es auch kein Wunder, was Nash besonders am Herzen liegt: „Das Thema Regulierung steht ganz oben auf der Agenda. Wie können wir einen sicheren Raum für unsere Daten schaffen?“ Wir freuen uns schon auf die nächste Open Lecture und sind gespannt auf die Antworten.