Katharina Simbeck widmet sich in ihrem Beitrag ebenfalls dem Schnittfeld von Bildung und KI, legt dabei aber den Fokus auf Fairness und Diskriminierung durch Machine Learning im Kontext von Learning Analytics. Durch die Verwendung von digitalen Lernmaterialien und Lernmanagementsystemen entstehen über verschiedene Datenpraktiken immer mehr Daten über Lernende, Lehrende und Lernprozesse, welche schließlich ausgewertet und für unterschiedliche Zwecke genutzt werden können. Hieran schließt nicht nur ein bestimmtes Bildungsverständnis an, sondern auch die grundlegende Frage, inwiefern digitale Technologien die Beziehung von Lehrenden und Lernenden untereinander und zum Lernen überhaupt beeinflussen. Es geht damit um die Implikationen von Learning Analytics und die adäquate Erfassung von Lernerfolgen. Dabei ist es, so Simbeck, weder nötig noch möglich, dass Lehrende und Lernende im Bildungsbereich eingesetzte KI-Systeme im Detail verstehen, nachvollziehen oder überprüfen können, da die Systeme große Datenmengen, die sich kontinuierlich ändern verwenden und die dahinter liegenden Modelle und Algorithmen auch für Expert*innen nur mit großem Zeitaufwand nachvollziehbar sind. Für viele Anwendungsgebiete ist es jedoch notwendig, die Ausgaben des Systems, also die Einflussfaktoren auf den Output verstehen zu können, um diese zu akzeptieren oder gegebenenfalls auch korrigieren zu können. Wenngleich Lehrende, Lernende und Entscheidungsträger*innen im Bildungssystem nicht über umfangreiches Spezial- und Expert*innenwissen der Technologien und Methoden verfügen müssen, sollten sie sich jedoch bewusst sein, dass den Chancen, die sich durch datengetriebene Verfahren ergeben, eine Reihe von Herausforderungen gegenüberstehen. Diese Herausforderungen betreffen zum einen Datenschutz, Transparenz und die informierte Möglichkeit, auf die Datenverarbeitung zu verzichten. Dementsprechend ergeben sich auch Herausforderungen hinsichtlich der Transparenz und Diskriminierungsfreiheit der eingesetzten Systeme, die sich entlang der Fragen abbilden, ob oder inwieweit die Daten hinsichtlich verschiedener Merkmale, wie Gender, sozialen Gruppen oder beispielsweise auch Migrationshintergrund unverzerrt sind.