AI als hulpmiddel voor onderwijs

Mogelijkheden van chatbots

Bijna alle studenten gebruiken taalmodellen zoals ChatGPT in hun onderwijs. Het populairste gebruik van chatbots is om ideeën te genereren. Grommé legt uit dat studenten het ook leuk vinden om een chatbot te gebruiken om te reflecteren op hun werk. “Meestal is het niet hun idee om een eindproduct te genereren, maar om het te betrekken bij vele stappen in het schrijven. ChatGPT werkt als een spiegel voor hun werk.”

Een ander voordeel is dat AI bijdraagt aan efficiënter werken. Ripoll Gonzalez zegt dat “het mogelijk is om een chatbot te trainen op een specifieke dataset. Je zou dan op trefwoorden kunnen zoeken om snel naar specifieke informatie te scannen, wat tijd bespaart. Dit kan helpen bij meer technische aspecten van bijvoorbeeld literatuuronderzoek”, hoewel beiden het erover eens zijn dat het ook nadelen heeft. Grommé wijst erop dat “deze manier van werken overeenkomt met het idee dat we sneller moeten werken en minder moeite in ons werk moeten steken. Maar ik betwijfel of we voldoening kunnen halen uit deze manier van werken.”

Plagiaat is een van de grootste zorgen

Veel studenten vragen zich af hoe ze AI op een integere en veilige manier kunnen gebruiken. Plagiaat is een van hun grootste zorgen. “Het ethisch gebruik van Generative AI is niet alleen een zorg voor studenten, maar ook voor academici”, zegt Ripoll Gonzalez. “Ik zou ChatGPT kunnen gebruiken om te helpen met suggesties om mijn teksten te verbeteren, maar niet om ideeën te genereren. Studenten doen dit waarschijnlijk ook. Maar wanneer de plagiaatsoftware AI-gebruik detecteert, is het voor ons alleen wel moeilijk om in te schatten of het werk dat ze inleveren wel echt hun eigen idee is of dat het volledig door AI gegenereerd is.

AI als echokamer

Een ander nadeel, volgens Ripoll Gonzalez, is dat ChatGPT een echokamer is. Chatbots zijn geneigd om de meningen van hun gebruikers te ‘echoën’. Dit houdt in dat chatbots onze eigen vooroordelen bevestigen. Vaak stellen mensen chatbots heel specifieke vragen, in tegenstelling tot traditionele zoekmachines waar mensen eerder op trefwoorden zoeken. Een volledige vraag kan onbedoeld een vooroordeel bevatten. Aangezien chatbots getraind worden om aanwijzingen uit vragen te halen, kun je een antwoord verwachten dat jouw standpunt weerspiegelt. “In dit geval kan taal tegen je worden gebruikt”, zegt Ripoll Gonzalez.

Grommé voegt eraan toe dat “deze chatbots ook bevooroordeeld kunnen zijn omdat ze door mensen getraind zijn. Ze leren van de data die mensen erin stoppen en hun uitkomsten zullen vooroordelen bevatten als de data dat ook is.” Ripoll Gonzalez gaat nog iets verder op dit onderwerp in door erop te wijzen dat “er ook nog de vraag is welke informatie het taalmodel krijgt en of we de privacy en het auteursrecht van gegevens respecteren. Bijvoorbeeld wanneer studenten ChatGPT gebruiken om gegevens van interviews te verwerken als onderdeel van hun afstudeerprojecten. Dit is een epistemologische kwestie, die onze relatie met technologie herdefinieert als zowel gebruikers als scheppers van kennis.”

Niet alle kennis is beschikbaar op internet

Een ander nadeel, volgens Ripoll Gonzalez, is dat we de misvatting hebben dat alles beschikbaar is op het internet. “Maar dat is niet waar. Inheemse kennis staat bijvoorbeeld niet op internet. Onze studenten moeten er niet zomaar op vertrouwen dat wat er op internet staat voldoende is.” De meeste informatie op het internet komt uit het Noorden. “Dit doet me ook denken aan deze ethische kwestie van de betaalde omgeving van ChatGPT”, zegt Grommé. “Betaalde diensten geven je toegang tot betere bronnen dan je medestudenten in andere landen of andere delen van de wereld die niet betalen. Over het algemeen hebben universiteiten in het noorden van de wereld meer geld. Dit leidt tot ongelijkheden in kennis tussen verschillende universiteiten en landen.” Ongelijkheid kan ontstaan tussen studenten omdat sommigen zich betaalde toegang kunnen veroorloven en anderen niet. Daarnaast kan ongelijkheid ontstaan tussen universiteiten omdat rijkere universiteiten zich licenties voor op maat gemaakte AI-toepassingen kunnen veroorloven.

Richtlijnen maken

Grommé legt uit dat studenten zich over het algemeen bewust zijn van de ethische kwesties met betrekking tot AI in het onderwijs. “Ze zijn zich bewust van de mogelijke schendingen van het auteursrecht, de eventuele vooroordelen in data, dat bronnen door elkaar gehaald kunnen worden, dat particuliere bedrijven proberen te profiteren van wat wij doen, etc.” Ze ziet dat studenten bereid zijn om er verantwoordelijkheid voor te nemen als we er open en transparante gesprekken over blijven voeren. “Op deze manier kunnen we een aantal richtlijnen opstellen die we kunnen gebruiken en samen kunnen blijven ontwikkelen. We denken dat het voeren van open gesprekken met de studenten over het gebruik van AI in het onderwijs daarom belangrijk is.”

AI reguleren is moeilijk (Collingridge dilemma)

Elke technologische verandering brengt zowel vooruitgang als problemen met zich mee. Hybride werkafspraken en videobellen, bijvoorbeeld, hebben onze normen voor hoe we samenwerken en wat we van elkaar verwachten veranderd. Wel moet er nog regelgeving worden ontwikkeld rondom deze veranderingen. Hetzelfde geldt voor bijna alle innovaties, inclusief AI. Het is mogelijk om nieuwe technologieën te reguleren, maar het is wel moeilijk om te weten wat het effect van de technologie zal zijn. Zodra het effect duidelijk is en de technologie is ingebed in de samenleving, wordt het moeilijker om het te veranderen. Dit wordt het Collingridge Dilemma genoemd.

AI reguleren is erg moeilijk, legt Grommé uit. “Onze normen veranderen al door de technologie voordat we de regels maken. En als we de regels maken, passen ze niet meer bij de normen”, legt ze uit. Het is mogelijk om een bepaalde technologie succesvol te reguleren als deze nog jong en impopulair is. “Daarom moeten we snel handelen en met elkaar blijven praten”.

Na het opsommen van al deze nadelen is het essentieel om het belang van open gesprekken te benadrukken. “Samen met studenten, maar ook met andere universiteiten. Misschien zelfs met chatbotontwikkelaars”. Op deze manier kunnen we onze studenten begeleiden bij een verantwoord gebruik. ChatGPT is al ingebed in de maatschappij. Daarom is het essentieel om het als universiteit te reguleren en duidelijke richtlijnen te creëren”, zegt Grommé.