AI-tutors zijn geen leraren

AI-tutors? Herstructureer het world wide web en laat de onderwijzer in zijn waarde.  

In Star Wars II – Attack of the Clones loopt Obi-Wan Kenobi de bibliotheek binnen van een futuristische stad om op zoek te gaan naar een sterrenstelsel. Hij vraagt de bibliothecaris of ze hem kan helpen. Samen zoeken ze de coördinaten van het sterrenstelsel op in het archief van de bibliotheek. Zonder succes. Het sterrenstelsel bestaat niet. Obi-Wan suggereert dat het archief misschien incompleet is. De bibliothecaris reageert opgewonden: 'Als iets niet te vinden is in ons archief, bestaat het niet.'  

De wereldwijde bibliotheek aan kennis te vinden op het world wide web heeft recentelijk een nieuwe digitale bibliothecaris aangesteld onder de naam ChatGPT waarmee kinderen veelvuldig contact hebben. En niet alleen voor kennis. Met grenzeloos charisma en inlevingsvermogen zijn de chatbots bereid het huiswerk van onze kinderen te maken. Ze nemen nu naast bibliothecaris ook de rol in van docent over. Nu al worden kinderen op verschillende scholen 'persoonlijk' begeleidt door chatbots genoemd 'AI-tutors' die zo de taken van opgeleide docenten overnemen (1). Ook docenten worden steeds meer begeleid in het maken van lessen door dezelfde chatbots. Sal Khan – CEO van Khan Academy; een online AI-educatie platform (2) – gelooft dat deze wending een positieve transformatie zal brengen in het onderwijs. 

Terug in Star Wars is Obi-Wan niet tevreden met het antwoord dat de bibliothecaris hem geeft. Hij zoekt zijn meester Yoda op die op dat moment een groepje leerlingen onderwijst. Yoda spiegelt zijn vraag naar de leerlingen toe en maakt een grap: 'Hoe gênant dat Obi-Wan een planeet is kwijtgeraakt!' Samen met de leerlingen kijken Obi-Wan en Yoda naar een hologram van het universum met daarin de plek waar het sterrenstelsel zou moeten zijn. Yoda vraagt: 'Hoe kan het zijn dat dit sterrenstelsel er niet is? Als we naar de zwaartekracht kijken in dit deel van het universum zou er een planeet moeten zijn.' Hij laat een stilte vallen. Een leerling antwoord: 'Meester, iemand heeft het sterrenstelsel verwijderd uit het archief.'

Heeft de bibliothecaris een fout gemaakt? Dat chatbots fouten kunnen maken is bekend. Ze opereren met large language models die statistische analyses uitvoeren op alle antwoorden op jouw vraag die te vinden zijn op het world wide web. In deze analyses worden fouten gemaakt die 'hallucinaties' worden genoemd (3). Problematischer nog is dat de modellen niet goed van fout kunnen onderscheiden. Als jij vraagt hoeveel dagen er in de week zijn zegt ChatGPT dat er zeven dagen in de week zijn omdat dat het antwoord is het algoritme het meest heeft gevonden. Als wij massaal posten dat er acht dagen in de week zijn, zal dat op den duur het nieuwe antwoord worden, ook al is het fout. Maar goed. Fouten maken we allemaal. En ook ik vind het soms moeilijk om goed van fout te onderscheiden in mijn rol als docent. Gelukkig is het vermijden van fouten en het perfect onderscheiden van goed van fout niet het doel van onderwijs. Wat dan wel?  

Als docent help ik de eikel een eik te worden (4) en begeleid ik de eik bij het schieten van wortels in aarde die hij deelt met andere eiken, populieren en dennen in het bos. De eikel die een eik wordt kan alleen maar een eik kan worden. Belangrijk hierbij is dat de eikel nog niet weet dat hij een eik gaat worden. En niemand weet dat. Ik niet en de chatbots niet. Alleen het kind zelf kan daarachter komen. Kunnen AI-tutors daarbij helpen?  

De bibliothecaris in de futuristische stad helpt Obi-Wan door aan te geven dat zijn antwoord hier niet te vinden is. Dus gaat hij naar zijn meester Yoda. Yoda heeft ook geen antwoord en stelt daarom een vraag. Daarbij is het cruciaal hoe hij de vraag stelt. Hij gebruikt humor en bouwt voort op de relatie die hij heeft met Obi-Wan en de jonge leerlingen. Ze willen van hem leren. Ze willen zijn vraag beantwoorden. Ze willen nadenken. En dus volgt er een antwoord.  

Willen leerlingen leren van een AI-tutor waarmee ze geen persoonlijke band hebben? Ik betwijfel het. De techno-optimistische volwassene die het world wide web wil doorspitten met AI heeft al intrinsieke motivatie gevonden. Kinderen nog niet. Zij hebben rolmodellen nodig die hen raken in het hart en zo mogelijke paden uitstippelen. Oude eiken, populieren of dennen die stralen van passie en uitnodigen tot verbinding.  

Na het antwoord van de leerling reist Obi-Wan af naar de coördinaten van de verloren planeet en treft daar inderdaad een planeet aan. Hij ontdekt dat iemand de bibliotheek heeft gehackt en het sterrenstelsel heeft verwijderd met kwade bedoelingen. Het antwoord op zijn vraag vindt hij zelf door op reis te gaan en onderweg meerdere bronnen te raadplegen. Een heuse pelgrimstocht.  

Terug naar de hamvraag: heeft AI een positieve rol te spelen in het overdragen van kennis aan nieuwe generaties? Het bos waar we met zijn allen in leven is gigantisch complex. We hebben er sinds het begin der tijden enorm veel kennis over verworven en niemand beschikt al deze kennis. Een bibliothecaris van het world wide web kan deze kennis ordenen en aan ons beschikbaar stellen. AI zou ons daarbij kunnen helpen, maar kan niet bijdragen aan nieuwe kennis. Bovendien is AI geen artificial wisdom. AI-tutors beschikken niet over de wijsheid om aan te voelen wat een kind nodig heeft bij het maken van zijn, haar of hun pelgrimstocht. Dit is een intuïtief proces gefundeerd op relatie en het ongrijpbare van het moment.  

Hoe gaat de toekomst er dan uit zien? Star Wars laat zien dat gemeenschappelijke bibliotheken noodzakelijk blijven om kennis op te slaan en aan te bieden. Net als bibliothecarissen die correct in incorrect van elkaar kunnen onderscheiden. AI zou ons kunnen helpen het world wide web te ordenen en te integreren in bestaande bibliotheekstructuren, maar zou niet eindverantwoordelijk mogen zijn. Laten we daarom een nieuwe generatie aan bibliothecarissen opleiden die AI kunnen begeleiden in het ordenen van onze wereldwijde archieven. Deze reorganisatie zal drie positieve effecten hebben.  

Ten eerste geef je een metamorfose aan een nobel beroep met een grote ethische verantwoordelijkheid. Het lijkt me waanzinnig uitdagend om het world wide web te ordenen als bibliothecaris of archivist. Hoe beoordeel je of een bron wel of niet opgenomen wordt in een nieuw nationaal, Europees of wereldwijd archief? Hoe zet je AI in om dit archief te organiseren in domeinen? Daar gaan jaren in zitten en zullen veel mensen voor nodig zijn. 

Zeker nu het echt een zootje begint te worden online.  

Ten tweede maak je kennis weer een gemeenschappelijk goed op een plek waar mensen elkaar kunnen treffen en van elkaar kunnen leren – online of offline. Dit biedt niet alleen een heelmiddel voor de toenemende polarisatie in de maatschappij. Ook biedt het een uitstekende kans om eindelijk afscheid te nemen van de paywall in academia. Geef alle bibliotheken toegang tot alle wetenschappelijke kennis met de voorwaarde dat bibliothecarissen ethisch verantwoord omgaan met deze kennis en mensen de kennis niet kunnen doorspelen buiten de bibliotheek.  

Ten derde biedt de integratie van bibliotheken met AI de mogelijkheid om de energieconsumptie van AI te reguleren. Nu gebruikt iedereen elke dag AI en het is niet te pijlen hoeveel energie daarvoor gebruikt wordt. Dat het veel energie kost is duidelijk en dat dat niet duurzaam is ook (5). Als je het gebruik van AI inperkt tot gemeenschappelijke bibliotheken kunnen we als gemeenschap bepalen wanneer een grens bereikt is in ons energieverbruik. 

En de onderwijzer? Hou AI buiten het klaslokaal. Organiseer bibliotheeklessen met de bibliothecaris om leerlingen te instrueren in het gebruik van AI bij bronnenonderzoek in een gecontroleerde omgeving waar goed van fout wordt onderscheiden. Geef ook de onderwijzer de mogelijkheid om bij te spijkeren in deze bibliotheek. Maar laat de onderwijzer in zijn waarde als begeleider van de pelgrimstocht van een nieuwe generatie.  

Yoda is geraakt door het antwoord van de leerling op het mysterie van de verloren planeet. 'De geest van een kind is werkelijk wonderschoon. Het kind heeft gelijk.' Mensen krijgen energie van elkaar. Yoda krijgt energie van het kind dat met een prachtig out of the box antwoord komt. Het kind krijgt energie van de waardering die hij krijgt van Obi-Wan en Yoda. Het is een symbiotische relatie gefundeerd op de aloude wijsheid van ons bestaan. De relatie tussen een AI-tutor en een kind is dat niet.