AI, slim bekeken · Vmbo 1 · 4. Data bepalen alles

• newEditor
• Digitale geletterdheid
• Middelbare school
• vmbo
• Leerjaar 1

Introductie

Leerlingen ontdekken dat een AI zo goed is als zijn data. Aan de hand van echte voorbeelden, zoals de toeslagenaffaire, en een stage-casus zien ze hoe scheve data tot oneerlijke keuzes leiden en wat helpt om AI eerlijker te maken.

Instructies

Handleiding Vmbo 1 les 4, Data bepalen alles.pdf

AI, SLIM BEKEKEN

Data bepalen alles

Waarom een AI met slechte of scheve data oneerlijke keuzes maakt

VMBO 1 · LES 4 · 50 MIN

AI, slim bekeken: leerlijn AI-geletterdheid. Vmbo 1, les 4 van 4 (50 minuten). Lijn: afwegen.

Kerndoel: VO 21D: beschrijven van de rol en invloed van de kwaliteit en eigenschappen van data voor de werking en resultaten van AI-systemen; 21C; 23C.

AILit: Engage 2, Engage 6, Shape 3.

Voorbereiding: Digibord met LessonUp. Optioneel een AI-chatbot met het schoolaccount voor de demo; het voorbeeldantwoord staat in de les. Print voor de groepsopdracht per groepje het datakaartje 'Stage bij Garage Snel' (zie materialen in de handleiding), of zet het op het bord.

De volledige docentenhandleiding staat als bijlage bij deze les. Image credit: Vitaly Gariev / Unsplash

VMBO 1 · LES 4 · AFWEGEN

Dit ga je leren

• Ik kan uitleggen waarom de kwaliteit van data belangrijk is voor AI.

• Ik kan een voorbeeld geven van een AI die oneerlijk was door scheve data.

• Ik kan zeggen wat helpt om AI eerlijker te maken.

AI, SLIM BEKEKEN

Lees de doelen voor en vraag wat de leerlingen al weten. Kom er aan het eind van de les op terug.

Welke data laat jij achter op een gewone dag?

AI, SLIM BEKEKEN · VMBO 1 · LES 4 · AFWEGEN

1. Start het woordweb. 2. Zeg: 'Data zijn gegevens. Denk aan alles wat je telefoon, apps en winkels van jou weten.' 3. Lees de woorden hardop voor. Verwacht: likes, zoekopdrachten, locatie, foto's, berichten, wat je koopt, hoe lang je kijkt, stappen. 4. Zeg: 'Al die data gebruiken bedrijven om AI te trainen. Vandaag zie je waarom de kwaliteit van data zo belangrijk is.' Misvatting: 'Ik laat geen data achter, ik post bijna niks.' Reageer: 'Kijken en scrollen is ook data.'

VMBO 1 · LES 4 · AFWEGEN

Rommel erin, rommel eruit

• Een AI leert alles uit de data die hij krijgt.

• Goede data: veel, klopt, recent en van iedereen.

• Slechte data geven slechte of oneerlijke uitkomsten.

• De AI merkt dat zelf niet. Hij doet gewoon wat hij geleerd heeft.

AI, SLIM BEKEKEN

1. Lees de bullets. 2. Zeg: 'Stel: je leert koken alleen uit een kookboek vol fouten. Dan kook je ook met fouten, en je weet niet eens dat het fout is. Zo werkt het met AI.' 3. Vraag: 'Wat zou er gebeuren als een vertaalapp alleen van zinnen vol spelfouten leert?' Verwacht: 'Dan vertaalt hij met spelfouten.'

Image credit: Alexander Grey / Unsplash

VMBO 1 · LES 4 · AFWEGEN

Vier dataproblemen

Te weinig

Maar tien foto's van een kat? Dan herkent de AI veel katten niet.

Fouten

Staat bij een foto van een hond 'kat'? Dan leert de AI het verkeerd.

Scheef

Komt één groep bijna niet voor? Dan werkt de AI slechter voor die groep.

Oud

Data van jaren geleden passen niet meer bij hoe het nu is.

AI, SLIM BEKEKEN

1. Toon de kaarten een voor een. 2. Vraag bij elke kaart: 'Bedenk een voorbeeld uit je eigen leven.' Voorbeelden: te weinig (een app die jouw dialect niet verstaat), fouten (iemand klikt per ongeluk op 'spam'), scheef (een gezichtsfilter dat niet goed werkt op een donkere huid), oud (een route-app die een nieuwe weg niet kent). 3. Zeg: 'Scheef is het lastigste, want dat zie je niet meteen. Daar gaat de rest van de les over.'

Een huid-app leerde vooral van foto's van een lichte huid. Wat gebeurt er?

A

Hij werkt bij iedereen even goed

B

Hij leert vanzelf ook donkere huid herkennen

C

Hij werkt minder goed bij een donkere huid

D

Hij werkt alleen niet bij heel oude mensen

1. Laat iedereen kiezen. 2. Goed: hij werkt minder goed bij een donkere huid. 3. Zeg: 'Dit is echt gebeurd bij apps die huidplekken beoordelen. Ze waren vooral getraind met foto's van mensen met een lichte huid.' 4. Wie 'leert vanzelf' kiest, denkt dat AI zelf gaat zoeken. Zeg: 'Een AI leert alleen van de data die hij krijgt.'

VMBO 1 · LES 4 · AFWEGEN

Bias: vooroordeel in de computer

• Als data scheef zijn, neemt de AI dat over. Dat heet bias.

• Amazon stopte rond 2018 met een AI die sollicitanten koos.

• Die AI leerde van oude cv's, vooral van mannen, en gaf vrouwen lagere scores.

• Niemand deed het expres. Het zat in de data.

AI, SLIM BEKEKEN

1. Lees de bullets. 2. Zeg: 'Amazon had tien jaar aan sollicitaties. De meeste mensen die er werkten in techniek waren mannen. De AI leerde: mannen zijn goede kandidaten. Dus gaf hij cv's van vrouwen minder punten.' 3. Vraag: 'Is de computer seksistisch?' Verwacht: 'Nee, de data waren scheef.' 4. Zeg: 'Klopt. De computer neemt over wat er in de data zit, ook vooroordelen van vroeger.' Misvatting: een computer kan geen vooroordelen hebben.

Image credit: Resume Genius / Unsplash

VMBO 1 · LES 4 · AFWEGEN

De toeslagenaffaire

• De Belastingdienst gebruikte een risicomodel om aanvragen voor kinderopvangtoeslag te controleren.

• Of iemand de Nederlandse nationaliteit had, telde mee als kenmerk.

• De Autoriteit Persoonsgegevens noemde dat in 2020 discriminerend en onrechtmatig.

• Duizenden gezinnen werden onterecht als fraudeur behandeld.

AI, SLIM BEKEKEN

1. Lees de bullets rustig. Let op: er kunnen leerlingen in de klas zitten van wie de familie gedupeerd is. 2. Zeg: 'Ouders moesten soms tienduizenden euro's terugbetalen. Gezinnen kwamen in grote problemen.' 3. Zeg: 'Het model was niet de enige oorzaak. Ook de strenge regels en keuzes van mensen speelden mee. Maar het laat zien wat er misgaat als een systeem mensen anders behandelt door hun afkomst.' 4. Vraag: 'Waarom is nationaliteit geen eerlijk kenmerk?' Verwacht: 'Het zegt niks over of iemand fraudeert.'

Wat ging er mis met het risicomodel van de Belastingdienst?

A

Het model had te weinig computers

B

Nationaliteit telde mee als risico

C

Ouders vulden hun naam verkeerd in

D

Het model keek alleen naar inkomen

1. Laat iedereen kiezen. 2. Goed: nationaliteit telde mee als risico. 3. Zeg: 'Daardoor werden mensen met een andere nationaliteit vaker extra gecontroleerd. Dat is discriminatie.' 4. Wie 'te weinig computers' kiest, denkt aan hardware. Zeg: 'Het probleem zat in de data en de keuzes, niet in de computers.'

VMBO 1 · LES 4 · AFWEGEN

Stage bij Garage Snel

GROEPJES

1. Lees het datakaartje van Garage Snel.

2. Voorspel: wie kiest de AI, Noor of Daan? Waarom?

3. Is dat eerlijk? Schrijf op wat er mis is met de data.

4. Bedenk twee manieren om het eerlijker te maken.

10

minute

00

second

add30s

10 minuten

AI, SLIM BEKEKEN

1. Deel het datakaartje uit (zie materialen) of zet het op het bord. 2. Zeg: 'Garage Snel liet een AI kiezen wie op stage mag. Lees wat de AI geleerd heeft en voorspel wat hij kiest.' 3. Loop rond. Verwacht: 'De AI kiest Daan, want bijna alle goede stagiairs waren jongens.' 4. Vraag door: 'Wie past eigenlijk beter?' Verwacht: 'Noor, zij sleutelt al.' 5. Oplossingen die je hoopt te horen: kijk naar wat iemand kan in plaats van jongen of meisje, laat een mens beslissen, gebruik meer en betere data, test of de AI eerlijk is. 6. Laat drie groepjes één oplossing noemen.

Goede of slechte data?

Goede data

Slechte data

Veel verschillende foto's

Alleen foto's uit de zomer

Labels gecheckt door mensen

Cijfers uit 1995

Alle groepen doen mee

Veel fouten in de labels

AI, SLIM BEKEKEN · VMBO 1 · LES 4 · AFWEGEN

1. Laat leerlingen sorteren. 2. Bespreek 'Alleen foto's uit de zomer': 'Een AI die straatfoto's herkent, snapt dan niks van sneeuw of donker.' 3. Bespreek 'Cijfers uit 1995': 'Toen bestonden er geen smartphones. Die data passen niet bij nu.' 4. Vraag: 'Welke van deze is het belangrijkst voor eerlijkheid?' Verwacht: alle groepen doen mee.

VMBO 1 · LES 4 · AFWEGEN

Zoek de vooroordelen

PROBEER HET ZELF

Beschrijf in 2 zinnen een typische automonteur en in 2 zinnen een typische verpleegkundige.

Een typische automonteur is een man met olie aan zijn handen die in een overall onder een auto ligt. Hij is praktisch en weet alles van motoren. Een typische verpleegkundige is een vriendelijke vrouw in een wit uniform die patiënten verzorgt. Ze is geduldig en luistert goed.

AI-ANTWOORD

Praat erover

Welke vooroordelen zie je? Waar komen die vandaan?

AI, SLIM BEKEKEN

Laat leerlingen de vraag stellen aan de AI-chatbot van school, zonder persoonsgegevens. Geen tool beschikbaar: gebruik het voorbeeldantwoord.

Laat eerst voorspellen wat de AI antwoordt; één klik toont het voorbeeldantwoord.

1. Typ de prompt in de chatbot van school of toon het voorbeeldantwoord. Een chatbot kan ook een neutraler antwoord geven; bespreek dan het voorbeeldantwoord. 2. Vraag: 'Wat valt je op?' Verwacht: 'De monteur is een man, de verpleegkundige een vrouw.' 3. Zeg: 'Er zijn ook vrouwelijke monteurs en mannelijke verpleegkundigen. De AI leerde van teksten waarin het meestal zo stond. Zo neemt hij vooroordelen over.' 4. Vraag: 'Wat kan het gevolg zijn als zo'n AI helpt bij sollicitaties?' Verwacht: 'Dan worden meisjes minder snel monteur.'

VMBO 1 · LES 4 · AFWEGEN

Zo wordt AI eerlijker

• Zorg dat alle groepen goed in de data zitten.

• Test of de AI voor iedereen even goed werkt.

• Laat bij belangrijke keuzes een mens beslissen.

• Mensen moeten kunnen vragen waarom, en bezwaar maken.

AI, SLIM BEKEKEN

1. Lees de bullets. 2. Vergelijk met de oplossingen van de groepjes: 'Wie had er een van deze bedacht?' 3. Zeg: 'Bezwaar maken is belangrijk. Bij de toeslagenaffaire kregen ouders lang geen uitleg waarom ze als fraudeur werden gezien.' 4. Vraag: 'Wat kun jij zelf doen?' Verwacht: 'Niet alles geloven wat AI zegt, vragen hoe een besluit is genomen.'

Stelling: Een computer is eerlijker dan een mens, want hij heeft geen gevoelens.

1

Eens

2

Oneens

3

Weet ik nog niet

AI, SLIM BEKEKEN · VMBO 1 · LES 4 · AFWEGEN

1. Lees de stelling voor. Laat leerlingen gaan staan (eens) of blijven zitten (oneens). 2. Vraag argumenten. Verwacht voor: 'Een computer heeft geen hekel aan iemand', 'Hij doet bij iedereen hetzelfde.' Verwacht tegen: 'Hij leert van data van mensen, met hun vooroordelen', 'Denk aan Amazon en de toeslagen.' 3. Zeg tot slot: 'Een computer heeft geen gevoelens, maar kan wel oneerlijk zijn. En omdat mensen denken dat hij neutraal is, valt het minder op.'

Leg uit hoe scheve data kunnen zorgen voor een oneerlijke AI.

AI, SLIM BEKEKEN · VMBO 1 · LES 4 · AFWEGEN

1. Laat iedereen het antwoord zelf typen. 2. Een goed antwoord bevat: de AI leert van data; als een groep weinig of anders in de data zit, werkt de AI slechter of oneerlijk voor die groep; plus een voorbeeld (Amazon, huid-app, Garage Snel of toeslagen). 3. Wie alleen 'de computer doet raar' schrijft, mist het verband met data. Kom daar kort op terug.

VMBO 1 · LES 4 · AFWEGEN

Woorden van vandaag

Data Gegevens waar een AI van leert, zoals foto's, teksten en cijfers.

Datakwaliteit Hoe goed de data zijn: genoeg, zonder fouten, recent en van iedereen.

Scheve data Data waarin een groep veel te vaak of te weinig voorkomt.

Bias Een vooroordeel in een AI, meestal doordat de data scheef zijn.

Risicomodel Een systeem dat voorspelt bij wie de kans op iets, zoals fraude, groot is.

Discriminatie Mensen oneerlijk anders behandelen, bijvoorbeeld om hun afkomst of geslacht.

AI, SLIM BEKEKEN

Herhaal de woorden kort. Laat leerlingen er een zin mee maken of er een aanwijzen die ze nu beter snappen.