IT:U bringt vertrauenswürdige KI in Oberösterreichs Schulen

Mit Beginn des Schuljahres 2026/27 haben die Interdisciplinary Transformation University Austria (IT:U), 506.ai und INCHSTONE das Forschungsprojekt TRUST-AI4Schools gestartet. An fünf Partnerschulen in Oberösterreich lernen Schülerinnen und Schüler von der Volksschule bis zur Oberstufe, wie sie kritisch und verantwortungsvoll mit künstlicher Intelligenz umgehen. Bis Herbst 2028 sind über 60 Workshops geplant.

„Universitäten tragen Verantwortung dafür, dass wissenschaftliche Erkenntnisse für Menschen nutzbar werden. Mit TRUST-AI4Schools schaffen wir für Schüler:innen die Möglichkeit, KI selbst zu erproben, ihre Chancen und Grenzen zu hinterfragen und den Umgang mit ihr aktiv mitzugestalten“, erklärt Stefanie Lindstaedt, Gründungspräsidentin der IT:U.

Drei Säulen: Verstehen, entwickeln, anwenden

Die Workshops bauen auf drei Säulen auf. Zunächst erkunden die Teilnehmenden, wie KI-Systeme Antworten generieren und weshalb dabei Fehler auftreten können. In der zweiten Phase entwickeln sie altersgerecht eigene KI-Anwendungen, formulieren Anfragen und untersuchen, wie verschiedene Quellen und Eingaben die Resultate verändern.

In der dritten Phase arbeiten die Kinder mit konkreten Beispielen und Daten wie Bildern, werten diese mithilfe von KI aus und überprüfen die Ergebnisse kritisch. So wird erfahrbar, wie KI aus Daten lernt, worauf ihre Ausgaben basieren und wie verlässlich diese sind.

„Wer KI-Ergebnisse beurteilen will, muss verstehen, wie Daten, Fragestellung und System zusammenwirken. Wenn Schülerinnen und Schüler selbst Daten erheben und mit KI auswerten, können sie diesen Zusammenhang untersuchen. Sie lernen, welche Aussagen durch ihre Daten gestützt sind und wo die Aussagekraft endet“, erläutert Bernd Resch, Professor für GeoSocial AI an der IT:U und wissenschaftlicher Supervisor des Projekts.

Gerhard Kürner, CEO und Gründer von 506.ai, betont: „Nicht der Zugang zu KI entscheidet über die Zukunft junger Menschen, sondern der Umgang damit: prüfen, einordnen, nachfragen. Das lernt sich nicht irgendwann später, sondern jetzt, in der Schule. Deshalb geben wir Schulen eine geschützte Umgebung, in der jede Antwort ihre Quelle zeigt, ohne Klarnamen und DSGVO-konform. Eine KI ist nur so gut wie die Quellen, die sie bekommt.“

Sieben Fragen zu vertrauenswürdiger KI

Die Formate orientieren sich an den Anforderungen der Ethikleitlinien für vertrauenswürdige KI, die eine von der Europäischen Kommission eingesetzte Expertengruppe entwickelt hat. Daraus werden altersgerechte Fragen abgeleitet.

Ein Schwerpunkt liegt auf Chancengerechtigkeit und Diversität. Die Angebote berücksichtigen verschiedene Vorkenntnisse, Perspektiven und Lebenswelten.

„Durch unsere anwendungsorientierten Workshops möchten wir Kindern helfen zu verstehen: KI ist ein Werkzeug, kein Ersatz für das eigene Denken. Menschliches Urteilsvermögen bleibt unersetzlich. Deshalb legen wir besonderen Wert darauf, selbstständiges Denken, Kreativität und einen verantwortungsvollen Umgang mit KI zu fördern“, sagt Sindhuja Enzinger, CEO von INCHSTONE und Diversity Lead des Projekts.

Wissenschaftliche Begleitung und Unterrichtsmaterialien

Die IT:U untersucht, wie sich die KI-Kompetenz der Teilnehmenden während des Projekts verändert. Dabei geht es vor allem darum, falsche oder erfundene Antworten einer KI zu erkennen. Man nennt sie Halluzinationen. Die Teilnehmenden sollen außerdem lernen, Ergebnisse gut begründet zu beurteilen und KI verantwortungsvoll zu nutzen. Die Klassen werden während der gesamten Projektdauer betreut. Was dabei herauskommt, hilft bei der Verbesserung der Workshops. Es wird auch in wissenschaftlichen Veröffentlichungen und in frei zugänglichen Unterrichtsmaterialien verwendet.

„Blindes Vertrauen in KI ist genauso wenig zielführend wie pauschale Ablehnung. Schülerinnen und Schüler lernen, nachzufragen, Quellen zu prüfen und selbst zu entscheiden, wann sie einer Antwort folgen, und wann nicht. Wie sich ihre KI-Kompetenz und ihr Verständnis für einen verantwortungsvollen Umgang mit KI dabei entwickeln, untersuchen wir wissenschaftlich“, schließt Heidrun Mühle, Projektleiterin von TRUST-AI4Schools an der IT:U.

TRUST-AI4Schools läuft bis September 2028 und wird im FFG-geförderten Programm „Talente regional 2025“ aus Mitteln des Bundesministeriums für Innovation, Mobilität und Infrastruktur (BMIMI) gefördert.

Quelle: OTS