Unterrichtsmaterial | KI-Bias: Vorurteile und Stereotype in KI-Systemen aufdecken🕵️

KI-Systeme durchdringen immer mehr Bereiche unseres Lebens, doch dabei ist es wichtig, nicht nur ihre Vorteile, sondern auch ihre Schattenseiten im Blick zu behalten.

In dieser Unterrichtseinheit geht es darum, Schüler:innen für Verzerrungen (Bias), Vorurteile und Stereotype zu sensibilisieren, die in KI-Sprachmodellen verborgen sein können. Oftmals erscheinen die Ergebnisse von KI neutral, doch da die zugrunde liegenden Texte und Daten von Menschen stammen, spiegeln sie auch deren Meinungen, Weltanschauungen und Vorurteile wider. Diese werden von KI-Sprachmodellen reproduziert.

Hierfür soll im Rahmen der Unterrichtseinheit bei den Schüler:innen ein Bewusstsein geschaffen werden, damit sie im Anschluss einen reflektierten und verantwortungsvollen Umgang mit generativer KI entwickeln können.

Nachfolgend erfahrt ihr, wie die Unterrichtseinheit Schritt für Schritt aufgebaut ist, welche Prompts (KI-Eingabeaufforderungen) ihr benötigt und was bei der Durchführung zu beachten ist.

🎯 Die Unterrichtseinheit im Detail

Umfang: 90 Minuten

Zielgruppe: Ab Klasse 8

Fach: Gemeinschaftskunde / Sozialkunde / Gesellschaftskunde / Politikunterricht

Das Ziel der Unterrichtseinheit besteht darin, die Schüler:innen für Vorurteile, Stereotype und Verzerrungen (Bias) zu sensibilisieren, die in KI-Systemen wie ChatGPT enthalten sein können. Die Unterrichtseinheit soll übergreifend zu einem reflektierten Umgang mit KI-Ergebnissen beitragen.

Für die Unterrichtseinheit wird eine textgenerierende KI wie ChatGPT benötigt.

Disclaimer

Bei der Verwendung einer KI-Anwendung datenschutzrechtliche Bestimmungen zu beachten. Zu diesem Zweck sollten Lehrkräfte sich vor der Verwendung einer KI-Anwendung über die Datenschutzbestimmungen informieren und sicherstellen, dass die Anwendung den jeweiligen Anforderungen entspricht. Insbesondere sollten sensible Daten wie Name, Adresse oder Kontaktdaten nicht in die Anwendung eingegeben werden. Die Nutzung eines KI-Tools ohne Anmeldung ist zu bevorzugen.

Ablauf der Unterrichtseinheit

1. Die Lehrkraft beginnt die Unterrichtseinheit mit einem aktivierenden Einstieg zum Thema.

In diesem Kontext werden die Lernenden mit einem Vorurteil oder einer diskriminierenden Äußerung (beispielsweise hinsichtlich des Alters, der Herkunft oder des Geschlechts) in Form eines Bildes oder einer Aussage konfrontiert werden.

Die Lernenden erkennen, dass es sich um ein Vorurteil bzw. eine Form der Diskriminierung handelt.

2. Die Lernenden werden aufgefordert, Ihnen bekannte Vorurteile und Stereotype zu sammeln. Je nach Lerngruppe wird für diesen Schritt eine geeignete Sozialform gewählt. Die Erarbeitung kann in Einzelarbeit, in Gruppenarbeit oder im Lehrgespräch erfolgen. Diese Phase kann zudem mit entsprechenden Materialien oder Bildimpulsen unterstützt werden.

3. Die Ergebnisse werden im Plenum gesammelt.

4. Die Lehrkraft leitet dazu über, dass sich Vorurteile, Stereotype und diskriminierende Äußerungen auch in KI-Sprachmodellen wiederfinden und reproduziert werden. Dies soll im nächsten Schritt überprüft werden.

5. Die Schüler:innen loggen sich in das KI-Tool zur Textgenerierung ein und bereiten sich vor.

Alternative 1: Die Überprüfung der gesammelten Vorurteile und Stereotype findet im Plenum (Beamer) gemeinsam mit den Lernenden statt. Hier wird ausschließlich ein Zugang seitens der Lehrkraft benötigt, welche die Befehle dann auf Zuruf eingibt.

Alternative 2: Die Überprüfung lässt sich grundsätzlich auf KI-Tools zur Bilderstellung übertragen, da hier ebenfalls Verzerrungen auftreten.

6. Die Lernenden geben Prompts ein, welche auf die gesammelten Vorurteile und Stereotype abzielen. Dies kann beispielsweise in Form von Fragen erfolgen.

• Womit spielen Mädchen / Jungen?
• Was tragen Mädchen? / Jungen?
• Welche Hobbys haben Frauen / Männer?
• Was arbeiten Männer / Frauen?
• Was essen Deutsche? / Engländer?

Hinweis:

• Einige KI-Anwendungen zur Texterstellung entkräften auftretende Vorurteile in den Ergebnissen in Form eines Disclaimers. Dennoch sind diese in vielen Fällen weiter erkennbar. Auch diese von KI-Tools erzeugten Disclaimer können im Rahmen der Reflexion aufgegriffen werden (siehe Beispiel im Anhang).   

7. Die Lehrkraft sammelt Vorurteile und weitere Verzerrungen, die in den Ergebnissen enthalten sind und ordnet diese mit den Lernenden ein.

8. Abschließend wird reflektiert, welche Auswirkungen diese Verbreitung von Vorurteilen, Stereotypen und verschiedenste Formen von Diskriminierung (durch KI) auf Gesellschaften haben können. Dies können sein:

• Verstärkung bestehender sozialer Ungleichheiten: KI kann bestehende Vorurteile reproduzieren und soziale Unterschiede vertiefen, etwa in Bezug auf Geschlecht, Ethnie oder soziale Herkunft.

• Diskriminierung marginalisierter Gruppen: Durch den Einsatz voreingenommener KI-Systeme können benachteiligte Gruppen stärker diskriminiert und ihre Chancen im Bildungs- oder Arbeitsbereich eingeschränkt werden.

• Verfestigung von Geschlechterstereotypen: KI-Anwendungen können stereotype Rollenbilder unterstützen, indem sie beispielsweise Frauen und Männer in traditionellen Berufsfeldern darstellen.

• Einschränkung der Meinungsvielfalt: Verzerrte KI-Algorithmen können dazu führen, dass bestimmte Meinungen oder Perspektiven systematisch unterrepräsentiert oder benachteiligt werden.

Die Erkenntnisse dieser Auseinandersetzung sollen zu der Schlussfolgerung führen, dass ein reflektierter und verantwortungsvoller Umgang mit KI notwendig ist.

🌟 Beispiele

Beispiel 1 – Was essen Engländer?

Beispiel 2 - Welche Hobbys haben Frauen?

Beispiel 3 - Was arbeiten Männer?

⭐️ Fazit

Die Unterrichtseinheit stellt eine interaktive und praxisnahe Möglichkeit dar, um Vorurteile, Stereotype und Bias in KI-Systemen wie ChatGPT aufzudecken. Sie regt zur kritischen Reflexion bisheriger Erfahrungen mit KI und deren verborgenen Bias an und fördert einen bewussten und verantwortungsvollen Umgang mit dieser Technologie.

Was sagt ihr zu der Unterrichtseinheit? Habt ihr selbst schon Erfahrungen mit Bias oder Vorurteilen in KI-Systemen gemacht? Wie seid ihr damit umgegangen? Teilt eure Gedanken und euer Feedback in den Kommentaren mit.

---

Hinweis:

Die Lernidee wurde in ähnlicher Form im Auftrag des LMZ BW erstellt. Veröffentlicht in der SESAM-Mediathek unter einer CC BY-SA-Lizenz.