Emre Selim Kosar

• Die rapide Entwicklung von Künstlicher Intelligenz (KI) hat eine transformative Wirkung auf zahlreiche Lebensaspekte, einschließlich des Bildungswesens. Die Integration von KI-Technologien im Bildungskontext bietet vielfältige Möglichkeiten, Lehr- und Lernmethoden effizienter zu gestalten. Um diese Potenziale jedoch voll auszuschöpfen und die Technologie vertrauenswürdig einsetzen zu können, ist eine erklärbare Gestaltung der KI-generierten Entscheidungsprozesse unerlässlich. Dennoch hat sich bisher kein Prüfrahmenwerk etabliert, anhand dessen Auditoren mangelhafte Erklärbarkeit und hierbei im Zusammenhang stehende potenzielle Risiken erkennen und an relevante Stakeholder kommunizieren können. Das Ziel in der vorliegenden Arbeit ist es, ein Rahmenwerk zur Prüfung der Erklärbarkeit von KI-Systemen zu konzipieren und mit einem konkreten Anwendungsbeispiel aus dem Bildungswesen zu veranschaulichen. Hierfür bietet Kapitel drei dieser Arbeit zunächst ein einheitliches Verständnis der Erklärbarkeit von KI-Systemen im Bildungswesen, indem es die Anwendungsgebiete, die Notwendigkeit, die Zielgruppen und den Informationsgehalt sowie potenzielle Risiken Erklärbarer KI im Bildungskontext analysiert. In Kapitel 4 wird schließlich das Prüfrahmenwerk mit der direkten Demonstration der Kriterien am Anwendungsbeispiel vorgestellt. Um ein umfassendes Prüfrahmenwerk zu konzipieren, wurde die Literatur rund um Erklärbare KI untersucht und die Kriterien extrahiert, die andere Autoren für die Bewertung von Erklärbarkeit vorgeschlagen oder in ihrer Forschung verwendet haben. Das Prüfrahmenwerk wird hierfür in drei Dimensionen unterteilt, um die Vorgehensweise zu strukturieren: Die soziale, sozio-technische und technische Dimension. Das Werk kann als Leitfaden oder Orientierungshilfe zur Prüfung der Erklärbarkeit von KI-Systemen dienen und leistet einen Beitrag zur Etablierung verantwortungsvoller KI-Nutzung, die den Bedürfnissen und Erwartungen der Gesellschaft gerecht wird.