Communicative AI in Education – from bias to trust

Vortrag von Prof. Andreas Breiter zum Wandel von Kommunikation in Bildungskontextenim Rahmen des Netzwerkes „AI and Data use in Education (AID-E)“ an der University of Twente

Am 15. und 16.5.2023 fand ein Workshop im Rahmen des Netzwerkes „AI and Data use in Education (AID-E)“ an der University of Twente statt. Am zweiten Tag hielt Prof. Andreas Breiter einen Vortrag zum Wandel von Kommunikation in Bildungskontexten. Dies ergänzte sich hervorragend mit dem Workshop-Input von Prof. Alex Bowers vom Teacher’s College der Columbia University in New York.

Im Kern des Vortrags stand die Frage, welche Maßnahmen existieren und welche möglich sind, um Bias in den KI-Systemen für Bildungskontexte zu reduzieren. Bias in der „Machine Learning Pipeline“ kann in sechs Unterbereiche unterteilt werden (nach Suresh & Guttag, 2021): Historical, Representational, Measurement, Aggregation, Evaluation, Deployment. Anhand eines aktuellen Projektes IMPACT an der Universität Bremen mit fünf weiteren deutschen Universitäten, an dem auch Kolleg:innen des ifib beteiligt sind, werden Beispiele für Bias vorgestellt. Zum einen wird deutlich, das bestimmte Diskriminierungen in den Daten nur dadurch aufgehoben werden können, wenn weitere (insbesondere personenbezogene) Daten gesammelt werden – das ist keine sozialverträgliche Lösung. Weitere Ansätze lassen sich mit dem „Explicability turn” (Farrow 2023) umschreiben. Das umfasst den Versuch mit Hilfe unterschiedlicher Methoden Transparenz zu schaffen und die Funktionsweise der Algorithmen zu erklären. Aus den Erfahrungen im IMPACT-Projekt wird abgeleitet, dass eine Verbreitung von AI-Systemen in Bildungsinstitutionen in die jeweiligen organisatorischen, sozialen Kontexte eingebettet werden müssen und hierfür eine entsprechende Governance geschaffen werden muss. Hierbei konnte auch auf die Ergebnisse aus unserem Projekt All-Is-Data zurückgegriffen werden, denn ein Schlüsselelement wurde in der Diskussion immer wieder angesprochen: „Datenbildung“.

Foto von Jason Leung auf Unsplash

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert