Artikel 5 december 2019

Ethiek AdviesRaad buigt zich over Artificiële Intelligentie in het onderwijs

Kind onder de tafel met ipad

“Hoe maken we op een goede manier gebruik van de mogelijkheden van Artificiële Intelligentie (AI) in het primair onderwijs?” Die vraag stond centraal tijdens de tweede bijeenkomst van de Ethiek AdviesRaad op 4 november 2019. Geen makkelijke opgave, volgens de leden van de Raad. Maar toch kwamen ze met een helder advies: denk vanuit onderwijswaarden, zet in op bewustwording en organisatiekracht binnen de sector én leer van andere sectoren.

In mei 2019 kwam de Ethiek Adviesraad voor het eerst bijeen. Doel van deze Raad is meer zicht krijgen op de kansen, mogelijkheden en bedreigingen rond de inzet van technologie in het onderwijs en het verder op gang brengen van de bewustwording hierover. Deze tweede bijeenkomst startte met een interactieve lezing door Inge Molenaar, lid van de Raad en onderzoeker aan de Radbouduniversiteit, over de rol van Artificiële Intelligentie in het onderwijs. En dat riep onderstaande drie vraagstukken op.

Vraagstuk 1 .  Wat leveren we in door de inzet van AI? En wat levert het op?

Inge Molenaar sprak over de relatie tussen privacy en functionaliteit. Mensen zijn bereid om een groot deel van hun privacy op te geven wanneer ze daar iets voor terugkrijgen. Als Google ons helpt bij het vinden van de weg nemen we voor lief dat onze locatiegegevens met Google worden gedeeld. Maar wat betekent dat voor het onderwijs? Stellen we ons wel genoeg de vraag wat technologie bijdraagt aan de onderwijskwaliteit en wat we daarvoor inleveren?

Miniatuur
Dit model laat de relatie tussen privacy en functionaliteit zien. Hoe meer functionaliteit we er voor terugkrijgen, hoe meer we bereid zijn privacy in te leveren.

Volgens de Raad moeten we minder vanuit techniek, en meer vanuit onderwijs en waarden denken. Hoe kan AI het onderwijs verbeteren? Waarvoor willen we het inzetten? En aan welke waarden zou AI kunnen bijdragen? Is dat bijvoorbeeld het bevorderen van gelijke kansen, zorgen dat ieder kind gezien wordt, of het creëren van een veilige omgeving? Vanuit die basis kunnen we sturing geven aan de ontwikkelingen. 

Advies van de Raad: stel je als sector de vraag aan welke onderwijswaarden AI kan bijdragen, en waar niet.

Zo zorg je ervoor dat de kansen van AI benut worden en je als sector zelf sturing geeft aan de technologische ontwikkelingen.

Vraagstuk 2. Weten we voldoende over hoe algoritmes werken?

Systemen die draaien op kunstmatige intelligentie baseren zich op algoritmes (een reeks van instructies die leidt tot een bepaald resultaat). Vaak wordt hierbij de claim gemaakt dat dit de objectiviteit bevordert. Een algoritme heeft geen last van menselijke voorkeuren of vooroordelen, en zou daarmee gelijke kansen bevorderen. Maar is dat wel zo? Volgens Inge Molenaar is dat zeker niet vanzelfsprekend. 

Neem bijvoorbeeld standaard oefensoftware die ook gebruikt wordt door kinderen met ADHD. Deze kinderen antwoorden vaak in eerste instantie impulsief, om vervolgens het antwoord aan te willen passen. Maar bijna alle adaptieve leermiddelen die we nu kennen kijken alleen naar de eerste antwoorden. Dit zou tot gevolg kunnen hebben dat kinderen met ADHD onder hun niveau worden ingeschat.

Inge Molenaar pleit voor aandacht voor AI-literacy: het leren over hoe AI en bijbehorende algoritmes werken. Als je als school of leraar met AI werkt, moet je een basiskennis over de techniek hebben. Om zo in te kunnen schatten of wat de AI doet overeenkomt met jouw visie op onderwijs. Ook is het van belang dat bedrijven die systemen ontwerpen transparant zijn over de techniek en de data die verzameld wordt. Zo wordt ethisch omgaan met AI een gedeelde verantwoordelijkheid.

Advies van de Raad: zet in op kennis en bewustwording over AI binnen de onderwijssector.

Om goed om te gaan met AI is kennis nodig. Kennis over hoe systemen werken én bewustzijn over wat de risico’s zijn.

Vraagstuk 3. Bij wie ligt de verantwoordelijkheid voor een zorgvuldige inzet van AI?

De manier waarop AI wordt ingezet of gereguleerd, verschilt per land en is vaak gekoppeld aan de heersende ideologie van dat land. Zo is er in China veel aandacht voor collectieve opbrengsten van AI en is privacy daar veel minder een issue dan in Europa. In Frankrijk, waar de invloed van de regering op het onderwijs groot is, wordt de inzet van AI ook op nationaal niveau gereguleerd. De Raad twijfelt of dat in Nederland, met onze cultuur van onderwijsvrijheid, ook mogelijk of wenselijk is. Tegelijkertijd vindt de Raad dat we niet van individuele scholen of besturen kunnen verwachten dat zij de techniek volledig doorgronden en op gelijke voet in gesprek gaan met leveranciers. We zullen dus in de sector samen moeten werken. Een goed voorbeeld hiervan is de inkoopcoöperatie SIVON.

Voor een leerling is het vrijwel helemaal onmogelijk om je aan de techniek te onttrekken, stelt Inge Molenaar. In het onderwijs heb je geen mogelijkheid tot individuele opt-out: de keuze om niet aan de technologie mee te doen. Als je school met Google software aan de slag gaat, maar je als ouder niet wil dat je kind een Google-account krijgt, dan sta je uiteindelijk alleen. Overstappen naar een andere school is dan vaak de enige mogelijkheid.

Het delen van de verantwoordelijkheid is noodzakelijk volgens de Raad. Van ouders, tot leraren, schoolbesturen en beleidsmakers. Alleen door als sector samen te werken, kunnen we op alle niveaus sturing geven aan de ontwikkelingen. Hierbij kunnen we ook leren van initiatieven uit andere sectoren. Als voorbeeld noemt de Raad de set aan data-principes die zijn opgesteld rondom 'Smart Cities'. Deze zijn bottum-up ontwikkeld door gemeenten en worden ondersteund door de VNG. Ook wordt de aanpak van Nuts in de zorg genoemd. Dit community-initiatief bouwt, na de problemen rondom het Electronische Patiëntendossier, zelf aan een alternatieve infrastructuur voor de zorg.

Advies van de Raad: werk samen om sturing te kunnen geven.

Sturing geven aan technologische ontwikkelingen kan niemand alleen. We moeten hier als sector de krachten bundelen en de verantwoordelijkheid op alle niveaus oppakken. Kijk hierbij ook naar initiatieven uit andere sectoren.

Eerste stappen zijn gezet

Toine Maes (Kennisnet) en Anko van Hoepen (PO-Raad) sluiten de bijeenkomst af met een korte reflectie. Beiden geven aan het gesprek over dit onderwerp bijzonder waardevol te vinden. Maar tegelijkertijd voelen zij nu des te meer de urgentie om actie te ondernemen. Er lopen verschillende initiatieven die goed aansluiten bij de adviezen van de Raad. Zo worden er een publicatie over ethiek en digitalisering en een praktische gesprekstool voor besturen ontwikkeld die bij moeten gaan dragen aan kennis en bewustwording over dit thema. Met inkoopcoöperatie SIVON zijn stappen gezet in het bundelen van de krachten.

Maar het is nog niet genoeg. Toine Maes is getriggerd door de dataprincipes die gemeenten hebben opgesteld voor 'Smart Cities' en wil daar verder naar kijken. Anko van Hoepen wil nog meer antwoord op waar voor de onderwijssector de toegevoegde waarde van technologie zit: waar willen we dat AI aan bijdraagt? Om zo beter te kunnen sturen en de techniek echt vóór het onderwijs te laten werken.

Lees ook dit interview met universitair docent Inge Molenaar

Eerder interviewden we Inge Molenaar over hoe zij kijkt naar rol van AI in het onderwijs. Met veel voorbeelden van hoe AI nu en in de toekomst ingezet kan worden. Lees het interview

De Ethiek Adviesraad kent een wisselende samenstelling. Tijdens deze bijeenkomst waren de volgende leden aanwezig: José van Dijck (Universiteit Utrecht), Bart Karstens (Rathenau Instituut), Joop Berding (persoonlijke titel), Inge Molenaar (Radboud Universiteit), Pedro De Bruyckere (Hogeschool Gent/Universiteit Leiden).

Verder waren aanwezig: Toine Maes (Kennisnet), Anko van Hoepen (PO-Raad), Peter de Visser (bestuurder Stad en Esch), Erwin Bomas (Kennisnet), Remco Pijpers (Kennisnet), Roel van Hulten (VO-raad), Stijn Temmen (PO-Raad), Marijne Tesser (PO-Raad).