De wereld staat niet stil als het gaat om de ontwikkelingen van AI.

De Europese AI Act, die op 1 augustus 2024 in werking is getreden, is een verordening die regels stelt voor de ontwikkeling en het gebruik van kunstmatige intelligentie (AI) binnen de Europese Unie. Het doel is om een verantwoorde en betrouwbare inzet van AI te bevorderen, waarbij de veiligheid en fundamentele rechten van burgers worden beschermd.

Belangrijke kenmerken van de AI Act:

Risicogebaseerde benadering: AI-systemen worden ingedeeld op basis van het risico dat ze vormen voor de samenleving:
- Onaanvaardbaar risico: AI-toepassingen die een bedreiging vormen voor de veiligheid of fundamentele rechten zijn verboden.
- Hoog risico: Deze systemen, zoals die gebruikt in kritieke infrastructuur of rechtshandhaving, moeten voldoen aan strikte eisen op het gebied van transparantie, veiligheid en menselijk toezicht.
- Beperkt risico: Voor deze AI-systemen gelden specifieke transparantieverplichtingen.
- Minimaal risico: De meeste AI-toepassingen vallen in deze categorie en zijn vrijgesteld van aanvullende verplichtingen.
Transparantie en toezicht: Er wordt een Europees AI-bureau opgericht dat toezicht houdt op de naleving van de verordening en samenwerking tussen lidstaten bevordert.
Sancties bij overtreding: Bij niet-naleving kunnen aanzienlijke boetes worden opgelegd, oplopend tot 35 miljoen euro of 7% van de wereldwijde jaaromzet van het bedrijf.

De AI Act is de eerste uitgebreide wetgeving op het gebied van AI en dient als voorbeeld voor andere regio’s wereldwijd. Het biedt een kader voor innovatie binnen duidelijke ethische en juridische grenzen, met als doel het vertrouwen van burgers in AI-technologieën te vergroten.

Drie tips van Kennisnet om onderwijs te ontwikkelen in het AI tijdperk.

Tip 1: Ontwikkel digitale geletterdheid

Leerlingen moeten conform de nieuwe concept–kerndoelen beschikken over praktische vaardigheden en digitale informatievaardigheden om AI in te zetten. En daarnaast overvaardigheden die hen mediawijs maken. Hierdoor kunnen zij bewuste keuzes maken en denkstrategieën ontwikkelen om AI te doorgronden en hun handelen erop aan te passen. Ze leren vervolgens dat het mogelijk is om invloed uit te oefenen op de ontwikkeling van AI. Schenk aandacht aan drie punten binnen het leergebied van digitale geletterdheid:

Basiskennis en vaardigheden om met AI om te gaan. Dit heeft een leerling nodig om zelfredzaam te kunnen zijn, maar ook om AI creatief in te zetten.

Praktische en verdiepende kennis en vaardigheden rond AI. Dit is essentieel voor een kritische blik op digitale ontwikkelingen.

Beschouwing op het effect van AI op iemands persoonlijke leven en op de samenleving. Daardoor krijgen kennis en vaardigheden voor een leerling ook echt betekenis. Op basis daarvan kan deze bepalen hoe je AI kunt benutten om de samenleving mede vorm te geven.

Tip 2: Zorg voor constructieve afstemming tussen het leerdoel, de leeractiviteiten en de toets

De leerinhoud is af te leiden van de vastgestelde leerdoelen, aangevuld met de doelen die de school belangrijk vindt. Zolang de kerndoelen en examenprogramma’s nog niet zijn aangepast, bereiden leraren hun leerlingen zo goed mogelijk voor op het behalen van de huidige kerndoelen en eindtermen. AI is een van middelen die zij hiervoor kunnen gebruiken. Zo kan generatieve AI helpen de inhoud voor leerlingen te personaliseren en te differentiëren, bijvoorbeeld door:

leerdoelen aan te scherpen op basis van de inhoud en deze op kwaliteit te controleren
interactief lesmateriaal te maken, zoals experimenten, interactieve verhalen of spellen die de betrokkenheid en het begrip van leerlingen vergroten
beeldmaterialen te genereren die de leerstof verduidelijken en verrijken
opdrachten te creëren die niet onderhevig zijn aan AI-fraude en die differentiëren op niveau, zodat leerlingen kunnen leren op eigen tempo
AI-assistenten in te zetten die leerlingen kunnen ondersteunen met virtuele gesprekken
rubrics te maken op basis van niveau, onderwerp en de gewenste beoordelingsschalen
feedback en suggesties te geven, door bij gemaakte opdrachten te wijzen op sterke punten en verbeterpunten

Als je als leraar AI wil inzetten, moet er altijd een goede afstemming zijn tussen het doel, de leeractiviteiten en de toets. Verander je bijvoorbeeld iets in leeractiviteiten, dan moet de toetsing daar ook op worden aangepast.

Tip 3: Herontwerp de manier van toetsing

Scholen merken nu al dat bepaalde toetsvormen met de komst van AI ter discussie staan. De afgelopen tijd is er veel aandacht uitgegaan naar leerlingen die AI-inhoud zonder goedkeuring kopieerden en het presenteerden alsof zij deze zelf hadden geschreven. Er zijn weliswaar detectietools, maar die kunnen valse uitkomsten geven. Het is daarom belangrijk om met leerlingen in gesprek te gaan als de leraar fraude vermoedt.

Leraren en leerlingen moeten weten wanneer én hoe zij AI kunnen gebruiken om toetsen te maken en opdrachten uit te voeren. Belangrijk daarbij is dat leraren hun eigen toetspraktijken en verwachtingen onderzoeken om de kans op plagiaat te verkleinen. Wanneer is AI wel toegestaan en wanneer niet? Kies bijvoorbeeld voor één van de volgende niveaus bij het uitzetten van een opdracht:

Niveau 1: Geen AI. Deze opdracht moet volledig zonder AI gemaakt worden.
Niveau 2: Idee/structuur. AI mag gebruikt worden om ideeën op te doen of om structuur te vinden. De ingeleverde opdracht mag geen AI bevatten.
Niveau 3: Bewerken. AI mag gebruikt worden om de opdracht te verbeteren en te bewerken. AI mag geen nieuwe inhoud creëren. Eigen origineel werk moet worden toegevoegd.
Niveau 4: Aanvullen. AI mag gebruikt worden om delen van de opdracht te maken. Het moet duidelijk worden aangegeven waar dit gebeurt.
Niveau 5: Volledig AI. De technologie is vrij te gebruiken bij het genereren van teksten en andere producten. De leerling hoeft in principe niet expliciet aan te geven welk deel van het eindproduct afkomstig is van AI.

Vooral bij niveau 5 is de vraag: hoe ga je uitkomsten en opdrachten beoordelen als je het gebruik van AI vrijgeeft? In dat geval zal een AI-gegenereerd antwoord meestal onderdeel zijn van een bredere opdracht, waarbij niet alleen het eindproduct wordt getoetst, maar ook de ontwikkeling van (andere) kennis en vaardigheden bij de opdracht.

Bij toetsing op niveau 5 kun je dan denken aan:

Toetsing in een persoonlijke context, bijvoorbeeld via een mondelinge toelichting op het product dat (deels) door AI is geproduceerd.
De leerling kritisch laten nadenken over de kwaliteit en bruikbaarheid van een AI-gegeneerde oplossing. AI begrijpt vaak de context van een probleem niet, de mens wel.
Een eerste opdrachtuitwerking via AI, waarna leerlingen deze beoordelen, verbeteren en daar verslag over uitbrengen.