Die rasante Entwicklung der Künstlichen Intelligenz (KI) bietet enorme Chancen für die Bildung. Der EU AI Act setzt Standards für den sicheren und ethischen Einsatz von KI. fobizz unterstützt Schulen dabei, KI auf eine sichere und den gesetzlichen Vorgaben entsprechende Art und Weise zu nutzen.
Der EU AI Act, beschlossen im März 2024, ist die erste umfassende Regulierung von KI (artificialintelligenceact.eu/de/das-gesetz). Er gewährleistet den sicheren und ethischen Einsatz von KI in Schulen über zwei Schritte:
Ab dem 2. Februar 2025 müssen Schulen sicherstellen, dass ihr Personal für den verantwortungsvollen Einsatz von KI-Systemen geschult ist. Diese Schulungen müssen dokumentiert werden, um die Erfüllung der EU AI Act-Anforderungen nachzuweisen. fobizz bietet dafür Selbstlernkurse und Webinare an, die durch Teilnahmebescheinigungen dokumentiert werden. Zudem bieten wir Einführungsworkshops für das Kollegium / für Fachschaften als Online-Workshops rund um die fobizz KI-Tools an.
Hochriskante KI-Systeme im Bildungsbereich umfassen solche, die Lernergebnisse bewerten, Lernprozesse steuern oder Prüfungsbetrug überwachen. Diese Systeme könnten diskriminierend wirken, weshalb die Einhaltung der EU AI Act-Vorschriften entscheidend ist, um die Rechte und Sicherheit der Lernenden zu schützen.
Unternehmen müssen ein Risikomanagementsystem einrichten, um Risiken im gesamten Lebenszyklus von KI-Systemen zu identifizieren, zu analysieren und zu mindern. Zudem müssen sie sicherstellen, dass die verwendeten Daten qualitativ hochwertig und unverzerrt sind.
Die fobizz KI-Tools werden größtenteils als minimal bis begrenzt risikoreich eingestuft. Nur die Tools „KI Korrekturhilfe“ und „Feedback für Schüler*innen“ gelten als hochriskant. Schulen können im Rahmen ihrer Schullizenzen selbst entscheiden, ob sie ihrem Kollegium diese Tools zur Verfügung stellen möchten oder nicht.
EU AI Act Chatbot
Dieser KI-Assistent beantwortet Fragen zur Umsetzung des EU AI Acts basierend auf dem endgültigen Entwurf des AI-Gesetzes wie im Amtsblatt der Europäischen Union (ABl.) am 12. Juli 2024 in der EU-AI-Akte veröffentlicht.
