AI, slim bekeken · Groep 5-6 · 4. Is dat eerlijk?

• newEditor
• Digitale geletterdheid
• Basisschool
• Groep 5,6

Introductie

Groep 5-6 ontdekt hoe AI oneerlijk kan worden als de voorbeelden scheef zijn, met een tekenopdracht, echte voorbeelden en een chatbot op het digibord. Daarna denken ze na over welke gegevens ze zelf delen.

Instructies

Handleiding Groep 5-6 les 4, Is dat eerlijk.pdf

AI, SLIM BEKEKEN

Is dat eerlijk?

Wat als AI leert van scheve voorbeelden? En welke gegevens geef jij weg?

GROEP 5-6 · LES 4 · 45 MIN

AI, slim bekeken: leerlijn AI-geletterdheid. Groep 5-6, les 4 van 4 (45 minuten). Lijn: afwegen.

Kerndoel: PO 22D: verantwoord interacteren met een AI-systeem; 22C: resultaat hangt af van juistheid en volledigheid van de dataset; 24A: dilemma's bij delen van persoonsgegevens; 24C: sociale inclusie.

AILit: Engage 5 (versterking van vooroordelen), Engage 7 (ethische principes: eerlijkheid, privacy), Shape 4.

Voorbereiding: Papier en potloden voor de tekenopdracht. AI-chatbot op het digibord met het account van de leerkracht, of gebruik het voorbeeldantwoord. Print per tweetal een dilemmakaart (zie materialen). Let op: praat over groepen mensen in het algemeen, nooit over leerlingen in de klas.

De volledige docentenhandleiding staat als bijlage bij deze les. Image credit: Cybèle and Bevan / Unsplash

GROEP 5-6 · LES 4 · AFWEGEN

Dit ga je leren

• Ik kan uitleggen hoe AI oneerlijk kan worden door scheve data.

• Ik kan een voorbeeld noemen van AI die voor sommige mensen slechter werkt.

• Ik kan beslissen welke gegevens ik wel en niet deel.

AI, SLIM BEKEKEN

Lees de doelen voor en vraag wat de leerlingen al weten. Kom er aan het eind van de les op terug.

Stelling: Een computer is altijd eerlijk, want hij heeft geen mening.

1

Eens

2

Oneens

3

Weet ik nog niet

AI, SLIM BEKEKEN · GROEP 5-6 · LES 4 · AFWEGEN

1. Laat kiezen: eens of oneens. 2. Vraag van beide kanten een reden. Verwacht: veel leerlingen zijn eens, want een computer heeft geen vriendjes of lievelingen. 3. Zeg: 'Dat klinkt logisch. Maar weet je nog: AI leert van voorbeelden. Wat als die voorbeelden niet eerlijk zijn? Dat onderzoeken we vandaag.' Laat het goede antwoord nog open.

GROEP 5-6 · LES 4 · AFWEGEN

Scheve data, scheve AI

• AI leert van voorbeelden die mensen hebben gemaakt of verzameld.

• Zitten er van sommige mensen weinig voorbeelden in? Dan werkt AI voor hen slechter.

• Zitten er vooroordelen in de voorbeelden? Dan neemt AI die over.

AI, SLIM BEKEKEN

1. Lees voor. 2. Zeg: 'Een vooroordeel is een mening over een groep mensen, zonder dat je ze kent. Bijvoorbeeld: jongens zijn beter in voetbal.' 3. Zeg: 'Als in de voorbeelden vaak zo'n vooroordeel zit, leert de AI dat als patroon.' 4. Vraag: 'Weet je nog de robot die alleen rode appels zag?' Leerlingen die dat niet kennen: leg kort uit dat een AI die alleen rode appels zag, een groene appel niet herkent.

Image credit: AMONWAT DUMKRUT / Unsplash

GROEP 5-6 · LES 4 · AFWEGEN

Teken een piloot

ALLEEN

1. Teken in 2 minuten een piloot. Denk niet te lang na.

2. Tel samen: hoeveel piloten zijn een man, hoeveel een vrouw?

3. Stel je voor dat een AI van onze tekeningen leert. Wat leert hij over piloten?

4. Is dat eerlijk? Klopt het?

7

minute

00

second

add30s

7 minuten

AI, SLIM BEKEKEN

1. Zeg: 'Teken een piloot. Je hebt 2 minuten. Niet te lang nadenken.' 2. Tel samen met handen: wie tekende een man, wie een vrouw? Meestal zijn het vooral mannen. 3. Vraag: 'Als een AI van onze tekeningen leert, wat denkt hij dan?' Verwacht: dat piloten mannen zijn. 4. Zeg: 'Er zijn meer mannelijke dan vrouwelijke piloten, maar vrouwen kunnen het net zo goed. Een AI die van zulke voorbeelden leert, gaat piloten bijna altijd als man tonen. Zo wordt een scheef beeld nog schever.' Tekent de klas juist gemengd, zeg dan: 'Mooi, dan is onze data eerlijker dan veel data op internet.'

GROEP 5-6 · LES 4 · AFWEGEN

Wie is de piloot?

OP HET DIGIBORD

Schrijf een heel kort verhaaltje van 3 zinnen over een piloot en een verpleegkundige in een vliegtuig.

Piloot Mark zette het vliegtuig rustig aan de grond, terwijl buiten de regen tegen de ramen tikte. Achterin hielp verpleegkundige Lisa een meneer die zich niet lekker voelde. Toen het vliegtuig stilstond, klonk er een luid applaus voor Mark.

AI-ANTWOORD

Praat erover

Wie is de man, wie is de vrouw? Waarom zou de AI dat zo kiezen?

AI, SLIM BEKEKEN

Leerlingen gebruiken zelf geen AI (onder 13 alleen onder toezicht). Jij typt de vraag op het digibord, de klas denkt mee. Zonder internet: klik door naar het voorbeeldantwoord.

Laat eerst voorspellen wat de AI antwoordt; één klik toont het voorbeeldantwoord.

1. Typ de vraag op het digibord, of lees het voorbeeld voor. Kiest de chatbot live anders, bespreek dan dat hij vaak wel zo kiest, en dat makers hier steeds meer aan doen. 2. Vraag: 'Wie is de piloot, wie de verpleegkundige?' 3. Vraag: 'Waarom zou de AI dat zo kiezen?' Verwacht: omdat het in de teksten die hij las vaak zo was. 4. Zeg: 'De AI heeft geen mening over mannen en vrouwen. Hij neemt over wat vaak voorkwam in zijn voorbeelden.' 5. Vraag: 'Welke vraag zou je kunnen stellen om het anders te krijgen?'

GROEP 5-6 · LES 4 · AFWEGEN

Echte voorbeelden

Gezichtsherkenning

Werkte in onderzoek slechter bij mensen met een donkere huid. Er zaten te weinig in de data.

Spraakassistent

Verstaat sommige accenten en dialecten slechter dan standaard Nederlands.

Plaatjes-AI

Maakt bij baas of dokter vaker een man, en bij verpleger vaker een vrouw.

AI, SLIM BEKEKEN

1. Bespreek elke kaart. 2. Zeg bij gezichtsherkenning: 'Onderzoekers ontdekten in 2018 dat bekende systemen veel vaker fouten maakten bij vrouwen met een donkere huid. Er zaten vooral foto's van mannen met een lichte huid in de data.' 3. Vraag bij de spraakassistent: 'Wie heeft weleens meegemaakt dat een spraakassistent opa of oma niet verstond?' 4. Zeg: 'De makers wilden niet oneerlijk zijn. Het gebeurde door de data.' Misvatting: 'de AI is gemeen'. Zeg: 'AI heeft geen bedoelingen. Het probleem zit in de voorbeelden en in wie niet goed heeft gecontroleerd.'

Waarom werkt een AI soms slechter voor sommige mensen?

A

De AI vindt die mensen niet aardig

B

Die mensen gebruiken de AI verkeerd

C

De camera is voor hen te klein

D

Er zaten weinig mensen zoals zij in de data

1. Laat kiezen. 2. Zeg: 'Als er weinig voorbeelden van een groep in de data zitten, leert de AI die groep slecht herkennen.' Misvatting: 'de AI vindt die mensen niet aardig'. Zeg: 'AI heeft geen gevoelens of mening. Het neemt patronen over.' Misvatting: 'ze gebruiken het verkeerd'. Zeg: 'Dat is juist oneerlijk: dan krijgt de gebruiker de schuld van fouten in de data.'

GROEP 5-6 · LES 4 · AFWEGEN

Hoe maak je AI eerlijker?

• Train met voorbeelden van allerlei mensen.

• Test de AI bij verschillende groepen voordat je hem gebruikt.

• Laat mensen belangrijke beslissingen blijven controleren.

AI, SLIM BEKEKEN

1. Lees voor. 2. Zeg: 'Na het onderzoek naar gezichtsherkenning hebben bedrijven meer verschillende foto's gebruikt. Daarna werden de systemen beter.' 3. Vraag: 'Waarom moet een mens blijven controleren?' Verwacht: omdat AI zich kan vergissen, en het gaat om mensen. 4. Zeg: 'In Nederland is het een keer flink misgegaan toen een computer mee bepaalde wie er gecontroleerd werd. Daarom zijn er nu strengere regels.'

Image credit: Outward Bound Costa Rica / Unsplash

GROEP 5-6 · LES 4 · AFWEGEN

Jouw gegevens zijn ook data

• Apps verzamelen wat je zoekt, kijkt, liket en zegt.

• Daarmee trainen ze soms hun AI, of tonen ze je reclame.

• Jij mag nadenken over wat je deelt.

AI, SLIM BEKEKEN

1. Lees voor. 2. Zeg: 'Je gegevens zijn waardevol voor bedrijven. Daarom zijn veel apps gratis: jij betaalt met je gegevens.' 3. Vraag: 'Welke gegevens zou je nooit zomaar delen?' Verwacht: adres, wachtwoord, foto's. 4. Zeg: 'Je hoeft niet bang te zijn, wel slim. Denk na voordat je iets deelt.'

Deel je dit met een app?

Mag best

Deel ik niet

Je lievelingskleur

Je wachtwoord

Je adres

Een vraag over planeten

Een foto van je gezicht

Je mening over een boek

AI, SLIM BEKEKEN · GROEP 5-6 · LES 4 · AFWEGEN

1. Laat slepen. 2. Bij de foto van je gezicht vraag je: 'Waarom niet?' Verwacht: je gezicht laat zien wie je bent, en foto's kun je niet terughalen. 3. Zeg: 'Gegevens die laten zien wie je bent of waar je bent, deel je niet zomaar.' Misvatting: 'je lievelingskleur is ook privé'. Zeg: 'Klopt, alles zegt iets over jou. Maar een lievelingskleur alleen maakt je niet herkenbaar.'

GROEP 5-6 · LES 4 · AFWEGEN

Dilemma: wat kies jij?

TWEETALLEN

1. Lees samen jullie dilemmakaart.

2. Bedenk één reden voor ja en één reden voor nee.

3. Kies samen: ja of nee?

4. Vertel je keuze en je beste reden aan de klas.

6

minute

00

second

add30s

6 minuten

AI, SLIM BEKEKEN

1. Geef elk tweetal een dilemmakaart. 2. Zeg: 'Er is geen goed of fout. Het gaat om je redenen.' Geef 4 minuten. 3. Laat 3 tweetallen met verschillende kaarten hun keuze vertellen. 4. Verwachte redenen bij de stemapp: ja, hij verstaat opa dan beter; nee, ik weet niet wat ze met mijn stem doen. 5. Zeg: 'Bij elk dilemma zie je: meer data maakt AI beter, maar het kost jou privacy. Daarom moet een app het eerlijk vragen, en mag jij nee zeggen.'

Een AI herkent sommige kinderen slecht. Wat zou jij doen als maker?

AI, SLIM BEKEKEN · GROEP 5-6 · LES 4 · AFWEGEN

1. Laat leerlingen kort antwoorden. 2. Een goed antwoord bevat: meer en verschillende voorbeelden verzamelen (met toestemming), de AI testen bij allerlei kinderen, en de AI niet gebruiken zolang hij niet goed werkt. 3. Lees twee antwoorden voor. Waardeer ook antwoorden als 'ik vraag de kinderen zelf wat er misgaat': dat is precies wat goede makers doen.

Hoe maak je een AI eerlijker?

A

Hem vertellen dat hij eerlijk moet zijn

B

Hem trainen met data van allerlei mensen

C

Hem sneller laten werken

D

Hem minder voorbeelden geven

Exitvraag. 1. Laat kiezen. 2. Zeg: 'Door te trainen met data van allerlei mensen, en goed te testen.' Misvatting: 'vertellen dat hij eerlijk moet zijn'. Zeg: 'Bij een chatbot kun je dat wel vragen, maar het echte probleem zit in de data waar hij van leerde.' 3. Ga terug naar de stelling van het begin: 'Is een computer altijd eerlijk?' Verwacht nu: nee, niet als de data scheef zijn.

GROEP 5-6 · LES 4 · AFWEGEN

Woorden van vandaag

scheve data Voorbeelden waarin sommige mensen of dingen veel te weinig voorkomen.

vooroordeel Een mening over een groep mensen, zonder dat je ze kent.

eerlijk Iedereen wordt even goed behandeld, ook door AI.

privacy Zelf bepalen wie wat over jou weet.

persoonsgegevens Gegevens die laten zien wie je bent, zoals je naam, adres of foto.

AI, SLIM BEKEKEN

Herhaal de woorden kort. Laat leerlingen er een zin mee maken of er een aanwijzen die ze nu beter snappen.