Die rasante Entwicklung der Künstlichen Intelligenz (KI) bietet enorme Chancen für die Bildung. Der EU AI Act setzt Standards für den sicheren und ethischen Einsatz von KI. fobizz unterstützt Schulen dabei, KI auf eine sichere und den gesetzlichen Vorgaben entsprechende Art und Weise zu nutzen.
Der EU AI Act, beschlossen im März 2024, ist die erste umfassende Regulierung von KI (artificialintelligenceact.eu/de/das-gesetz). Er soll den sicheren und ethischen Einsatz von KI in Schulen gewährleisten und unterscheidet dabei zwischen verschiedenen Risikostufen:
Hochrisiko-KI:
Niedriges Risiko:
Hochriskante KI-Systeme im Bildungsbereich umfassen solche, die Lernergebnisse bewerten, Lernprozesse steuern oder Prüfungsbetrug überwachen. Diese Systeme könnten diskriminierend wirken, weshalb die Einhaltung der EU AI Act-Vorschriften entscheidend ist, um die Rechte und Sicherheit der Lernenden zu schützen.
Unternehmen müssen ein Risikomanagementsystem einrichten, um Risiken im gesamten Lebenszyklus von KI-Systemen zu identifizieren, zu analysieren und zu mindern. Zudem müssen sie sicherstellen, dass die verwendeten Daten qualitativ hochwertig und unverzerrt sind.
Keines der fobizz KI Tools stellt ein Hochrisiko-KI-System i.S.d. Art. 6 KI-VO dar. Alle Tools werden als KI-Systeme mit geringem Risiko nach Art. 50 KI-Verordnung eingestuft, nur das Tool „KI für Schrifterkennung“ ist ein KI-System mit minimalem Risiko, da es in keine der in Art. 50 KI-VO genannten Kategorien fällt. Geprüft wurden die fobizz KI-Tools von der Rechtsanwaltskanzlei reusch law nach der KI-Verordnung, die Ergebnisse sind im Whitepaper vom 05.03.2025 einzusehen.
Da die beiden Tools Korrekturhilfe und Feedback für Schüler*innen zu Bewertungszwecken eingesetzt werden können, haben wir dennoch umfassende Maßnahmen getroffen, um eine sichere und verantwortungsvolle Nutzung zu fördern. Die Empfehlungen dazu sind hier nachlesen: Hinweise zur Nutzung des Korrekturhilfe Tools sowie zur Nutzung des Feedback für Schüler*innen Tools.
Schulen können zudem im Rahmen ihrer Schullizenzen selbst entscheiden, welche Tools sie ihrem Kollegium zur Verfügung stellen möchten.
Der EU AI Act schreibt keine allgemeine Weiterbildungspflicht vor. Allerdings müssen Unternehmen, die Hochrisiko-KI nutzen, sicherstellen, dass ihre Mitarbeiter über das nötige Wissen verfügen, um die Systeme sicher und regelkonform zu betreiben.
Schulen und Bildungseinrichtungen sollten die Chance nutzen, um sich mit den neuen KI-Regulierungen vertraut zu machen und ihre internen Kompetenzen weiterzuentwickeln – nicht weil es eine Pflicht darstellt, sondern weil es entscheidend ist, den Bildungsauftrag mit zukunftsweisenden Technologien zu bereichern. Der kompetente Einsatz von KI kann personalisiertes Lernen fördern und Schülerinnen und Schüler auf die Anforderungen der digitalen Welt vorbereiten. fobizz unterstützt Schulen dabei, KI verantwortungsvoll und effektiv in den Bildungsalltag zu integrieren.
fobizz bietet dafür Selbstlernkurse und Webinare an, die durch Teilnahmebescheinigungen dokumentiert werden. Zudem bieten wir Einführungsworkshops für das Kollegium / für Fachschaften als Online-Workshops rund um die fobizz KI-Tools an.
EU AI Act Chatbot
Dieser KI-Assistent beantwortet Fragen zur Umsetzung des EU AI Acts basierend auf dem endgültigen Entwurf des AI-Gesetzes wie im Amtsblatt der Europäischen Union (ABl.) am 12. Juli 2024 in der EU-AI-Akte veröffentlicht.
Podcast von Kreide.KI.Klartext
In der Januar-Episode von Kreide.KI.Klartext wird der EU AI Act und dessen potenzielle Auswirkungen auf Schulen thematisiert. Die Rechtsanwältin Antonia Dufeu zeigt zudem auf, wie KI individuelle Lernförderung unterstützen kann und welche Rolle die Zusammenarbeit zwischen Eltern und Schulen spielt. Zudem werden die entscheidenden Faktoren für eine erfolgreiche Integration von KI in die Bildungslandschaft beleuchtet.
Artikel von Hauke Pölert
Der Artikel von Hauke Pölert bietet Lehrkräften wertvolle Einblicke in die rechtlichen Rahmenbedingungen des EU AI Acts, die für den Einsatz von Künstlicher Intelligenz in Schulen relevant sind. Durch das Verständnis der Risikoklassifizierung von KI-Anwendungen und der erforderlichen KI-Kompetenz können Lehrkräfte informierte Entscheidungen treffen und verantwortungsvoll mit KI im Unterricht umgehen. Zudem werden praktische Handlungsschritte und ethische Leitlinien vorgestellt, die helfen, KI erfolgreich und sicher in den Bildungsprozess zu integrieren.
