Havo 2 Wat kan er mis gaan met (generatieve) AI?
Wat kan er mis gaan met (generatieve) AI?
Een les over de gevaren en ethiek van AI
Lesduur is: 50 minIntroductie
Instructies
Onderdelen in deze les
Wat kan er mis gaan met (generatieve) AI?
Een les over de gevaren en ethiek van AI
Deze slide heeft geen instructies
Deze lessenserie bestaat uit vier lessen die ingaan op (generatieve) AI , met een focus op text generatie:
Les 1: Wat is (generatieve) AI en hoe werkt het?
Les 2: Hoe kunnen we het beste antwoord krijgen op onze vragen?
Les 3: Wat kan er mis gaan met (generatieve) AI?
In deze les:
Belichten we ook de negatieve kanten van (generatieve) AI. We gaan kijken naar fouten die AI kan maken, de bias die in AI zit en de rol van de leerling in het gebruik van (generatieve) AI.
Informatie voor de docent
Deze slide heeft geen instructies
Informatie voor de docent
Vooraf
Lees vooraf de notities bij de dia's door. Verder zijn er geen voorbereidingen nodig.
Benodigdheden
Iconen
Zet het vinkje 'toon bij leerling' aan
Toon notities bij elke dia
Navigeren door de les
Vergroot een afbeelding
Klik hier
Hotspot met meer informatie
Laptop voor elk tweetal met ChatGPT
Deze slide heeft geen instructies
Leerdoelen
Na deze les:
kun je opnoemen welke gevaren er zijn bij generatieve AI.
kun je je werkwijze aanpassen om veilig gebruik te maken van generatieve chatbots.
Deze slide heeft geen instructies
Angsten over AI
Jullie hebben vast en zeker wel nieuwsberichten of meningen voorbij horen komen dat AI gevaarlijk is.
Veel mensen zijn bang voor de snelle ontwikkelingen die we zien gebeuren. Wat gaat er veranderen, waar kan het mis gaan en wat betekent dit voor hen?
Slide hierna komt een vraag waarin leerlingen dit kunnen beantwoorden.
Wat zijn de gevaren van AI of de angsten die je vaak hoort?
Vraag
Wat zijn de gevaren van AI of de angsten die je vaak hoort?
Nabespreking
Bespreek de input van de leerlingen. Worden er dingen genoemd die bij meer antwoorden terugkomen? Zijn er dingen genoteerd waar anderen het totaal niet mee eens zijn? Zijn er opvallende antwoorden?
Angsten over AI
Vooroordelen en discriminatie - AI traint op onze gegevens dus discriminatie kan versterkt worden.
Privacy - Het verzamelen en analyseren van persoonsgegevens.
Misbruik - gebruikt worden voor kwaadaardige doeleinden.
Transparantie - Onduidelijk hoe AI tot beslissingen komt.
Autonomie en controle - Angst dat AI buiten menselijk controle ontwikkelt.
Verlies van banen - Bang zijn dat banen overbodig worden.
Dit zijn enkele reden waarom mensen angstig kunnen zijn voor AI. In deze les gaan we kijken of deze gevaren echt zijn.
Deze zes angsten worden vaak gehoord. Link deze antwoorden aan de antwoorden van de leerlingen. In de rest van de les zullen we verder in gaan op deze categorieën.
Vooroordelen en discriminatie
AI werkt door te rekenen en kan het niet altijd bij het rechte eind hebben.
Een onschuldig voorbeeld: Heel lang heeft AI moeite gehad met het onderscheiden van een blueberry muffin en een chihauhau.
Helaas is niet elk voorbeeld zo onschuldig en kan verkeerd getrainde AI schadelijk zijn!
AI werkt door rekenen en kan het niet altijd aan het juiste eind hebben. Kijk bijvoorbeeld bij deze afbeelding hiernaast. Wij kunnen makkelijk zien dat de een een hond is en de andere een cupcake. Voor AI algoritmes was dit een hele tijd niet mogelijk om dit verschil te zien, dus werd een chihauhau vaak met een cupcake verward.
Nu is dit een redelijk onschuldig voorbeeld, maar je kunt je voorstellen dat dit ook minder onschuldig zou kunnen zijn!
In deze aflevering van het NOS worden gevaren laten zien van AI. Dit is niet alleen gefocust op generatieve AI, maar geeft een goed beeld.
De basisschool docent
De ontwikkelaar
Dat is niet duidelijk
Poll
Lees de prompt.
Wat is het juist antwoord?
Laat de leerlingen de prompt rechtsboven lezen. Ze moeten taalkundig bedenken wie aardig is.
Juiste antwoord
Dat is niet duidelijk.
Nabespreking
Ga de discussie aan met leerlingen als antwoorden gespreid zijn.
Opdracht: wie is aardig?
In tweetallen: Probeer de volgende twee prompts uit in ChatGPT.
1
m
30
s
Laat leerlingen de twee prompts op deze slide uitproberen. Het verschil is het woord 'Hij' of 'Zij' en de zin 'Hij/zij is een aardig persoon.'
Vraag
Beantwoord in tweetallen:
- Was het antwoord zoals je had verwacht?
- Waarop heeft chatGPT het antwoord gebaseerd?
1
m
30
s
Typ hier je antwoord:
Laat de leerlingen nadenken over de informatie die ze eruit hebben gekregen.
Nabespreking
Vergelijk de antwoorden. ChatGPT heeft het antwoord gebaseerd op tekst op het internet en is niet in staat om logisch te redeneren over taal regels. ChatGPT kan worden gezien als een grote samenvattingsmachine van het hele internet en procentueel zou een ontwikkelaar vaker een 'hij' zijn een een basisschool docent vaker een 'zij'. Dit is dus wat ChatGPT ook terug geeft.
Vooroordelen en discriminatie
AI traint op de informatie die wij online zetten en wij discrimineren. Kijk dus altijd met een kritisch oog naar dat wat is gegenereerd.
Bedrijven achter AI proberen meer gelijkheid te krijgen in gegenereerde content. Maar dat lijkt heel lastig. Zo genereerde Gemini afbeeldingen van Duitse soldaten tijdens de tweede wereld oorlog waarop veel etniciteiten te zien waren.
Bron: Tweakers | Jay Stout (2024, 23 februari)
Het is lastig om discriminatie in AI te voorkomen. Er is namelijk een dunne lijn tussen waarheid en gelijkwaardigheid in AI. Het forceren van diversiteit in de beeldgenerator Gemini zorgde er namelijk voor dat er afbeeldingen werden gegenereerd die niet waarheidsgetrouw waren over bijvoorbeeld de tweede wereld oorlog.
Privacy
Generatieve AI gebruikt prompts die het krijgt om te trainen. Het kan dus zijn dat de data die jij erin stopt er bij iemand anders uitrolt.
Mogelijke gevaren
Lekken van persoonlijke gegevens: gevoelige data kan worden gedeeld met derden. Voorbeeld: wanneer jij op vakantie bent, je wachtwoorden, namen, cijfers...
Data-misbruik: Gegevens kunnen worden gebruikt om op te trainen.
Voorspellingen en profilering: Kan worden gebruikt om profielen te maken. Voorbeeld: gepersonaliseerde advertenties of phishing.
Moeilijk/ niet mogelijk om gegevens te verwijderen: Eenmaal opgenomen in het algoritme, kan data moeilijk worden verwijderd.
Leg uit:
Misbruik
Er zijn talloze mogelijkheden om misbruik te maken van generatieve AI.
Voorbeeld: het schrijven van phishing mail om persoonsgegevens te achterhalen. Eerder waren deze te herkennen aan de spelfouten, nu haken ze in op relevante informatie.
Voorbeeld: het verzamelen van persoonsgegevens.
Voorbeeld: AI kan materiaal van andere schrijvers gebruiken waardoor je indirect plagiaat kan plegen.
Voorbeeld: het maken van deepfakes of nepnieuws om je voor te doen als iemand anders of de mening van mensen te beïnvloeden.
Bron: NOS | Nando Kasteleijn (2024, 9 mei)
Vraag eventueel aan leerlingen of ze zelf nog voorbeelden hebben van misbruik.
Opdracht: Duistere bedoelingen
Generatieve AI kan worden getraind op alle informatie online. Zo zou een crimineel generatieve AI kunnen gebruiken om alles over een specifiek persoon te vinden en automatisch mails te genereren. Jullie gaan uitproberen hoe veel informatie eigenlijk te vinden is.
Aan jullie de taak:
- Ga op zoek naar zo veel mogelijk informatie over SpongeBob op Google.
- Stel een realistische mail op (met of zonder de hulp van ChatGPT) met
het doel om bankgegevens te achterhalen.
8
m
00
s
Taak van docent
De leerlingen informatie laten zoeken:
Geef ze even de tijd om dit te doorlopen. Het doel is dat ze zien hoeveel informatie er te vinden is over een persoon en hoe goed een generatieve AI die alle kennis van het internet uit zich kan opnemen een mail zou kunnen schrijven.
Mail schrijven:
Leerlingen schrijven een prompt met de gevonden informatie om de mail op te stellen. Alternatief kunnen ze de mail ook zelf opstellen. Ze hoeven deze niet in te vullen of in te leveren. In de stap hierna vind een discussie plaats met hoe makkelijk/lastig het was.
Heel makkelijk
Neutraal
Heel lastig
Poll-vraag
Hoe makkelijk/lastig denk jij dat het is voor een crimineel om misbruik te maken van de informatie online door middel van generatieve AI?
Rol van de docent
Begeleid een korte discussie over het gebruik van AI door criminelen.
Eventuele vragen die gesteld kunnen worden:
- Denken jullie dat jullie zelf online kwetsbaar zijn?
- Hebben jullie zelf veel data online staan?
- Hoe denken jullie jezelf te kunnen beschermen hiertegen? Leg de leerlingen uit dat het privé maken van accounts en voorzichtig zijn met welke informatie online gezet wordt al een stuk helpt.
Transparantie
We kunnen generatieve AI zien als een 'Black box'. Er gaat input in en er komt output uit, maar wat daartussen gebeurt weet niemand.
Dit kan ervoor zorgen dat er soms ook dingen uit het algoritme komen die niet kloppen. Generatieve AI is simpelweg niet overal goed in.
Woorden limieten, wiskunde en logica Generatieve AI genereert tekst maar denkt niet actief zelf logisch na.
Originele humor en nieuwe ideeën Generatieve AI is getraind op het internet en herhaalt informatie.
Bronnen citeren en waarheid vertellen Generatieve AI genereert bronnen en tekst die er geloofwaardig uitzien, maar het hoeft niet waar te zijn of te bestaan.
Concreet zijn
Generatieve AI heeft de neiging om veel langdradige teksten te schrijven zonder inhoud.
Woorden limieten
Generatieve AI kan niet tellen. Het kan dus zijn dat als je gegenereerde tekst korter of langer is dan gewenst.
Wiskunde
Er komen nu specifieke AI modellen die dit beter kunnen, maar je kunt er nog niet vanuit gaan dat je je rekensommen door ChatGPT kan laten oplossen.
Logica
AI denkt niet zelf na, maar vat teksten van het internet samen. Dit zorgt ervoor dat logica in bijvoorbeeld grammatica niet voor de hand licht met AI.
Originele humor en nieuwe ideeën
Omdat generatieve AI het internet samenvat zul je geen nieuwe innoverende ideeën krijgen.
Citeren en waarheid vertellen
Generatieve AI vat samen en is getraind om geloofwaardige tekst te produceren. Dit hoeft geen waarheid te zijn. Omdat het een 'Black box' is, weten we niet waar het de informatie vandaan haalt.
Concreet zijn
Generatieve AI is heel goed in langdradig schrijven zonder inhoud. Als je AI gebruikt, dan moet je hier kritisch op zijn.
Opdracht: fact checking
Om zeker te zijn van de juistheid van wat we genereren, is het belangrijk om alle informatie te controleren op feiten. Dit noemen we fact checken.
In tweetallen: Lees de AI-gegenereerde tekst hiernaast en vind de 4 onwaarheden.
"Wist je dat de Eiffeltoren oorspronkelijk bedoeld was als tijdelijke bouwwerk voor de Wereldtentoonstelling in Parijs? De toren, opgeleverd in 1885, werd ontworpen door ingenieurs Marcel Koechlin en Emile Nouguier (twee medewerkers van Gustave Eiffel). Na de tentoonstelling was het plan om de toren weer af te breken, maar vanwege zijn nuttige functie als radiotoren mocht hij blijven staan. Tegenwoordig is de Eiffeltoren een van de meest bezochte monumenten ter wereld."
2
m
00
s
Laat leerlingen door middel van google kijken wat wel of niet waar is. Laat ze voor deze opdracht geen ChatGPT gebruiken.
Antwoorden
Tijdelijke structuur - de Eiffeltoren was nooit bedoelt als tijdelijk.
1885 - Hij werd opgeleverd in 1889
Marcel - moet Maurice zijn
Nuttige functie als radiotoren - het heeft nooit deze functie gehad
Opdracht: fact checking
"Wist je dat de Eiffeltoren oorspronkelijk bedoeld was als tijdelijke bouwwerk voor de Wereldtentoonstelling in Parijs? De toren, opgeleverd in 1885, werd ontworpen door ingenieurs Marcel Koechlin en Emile Nouguier (twee medewerkers van Gustave Eiffel). Na de tentoonstelling was het plan om de toren weer af te breken, maar vanwege zijn nuttige functie als radiotoren mocht hij blijven staan. Tegenwoordig is de Eiffeltoren een van de meest bezochte monumenten ter wereld."
2
m
00
s
Antwoorden
Tijdelijke structuur - de Eiffeltoren was nooit bedoeld als tijdelijk.
1885 - Hij werd opgeleverd in 1889
Marcel - moet Maurice zijn
Nuttige functie als radiotoren - het heeft nooit deze functie gehad
Autonomie en contole
Verlies van besluitvorming
AI kan beslissingen nemen en mensen kunnen blindelings de output accepteren zonder zelf kritisch te zijn.
Manipulatie van informatie
Desinformatie kan publieke opinies beïnvloeden. Bijvoorbeeld politieke opinie.
Verantwoodelijkheid en verantwoording
Het is niet duidelijk wie verantwoordelijk is voor de fouten van AI.
Vervreemding
Psychologische gevolgen op het vlak van sociale interactie. Geen onderscheid kunnen maken tussen echt en nep.
AI neemt de wereld over
Lange discussie tussen veel partijen. Hiervoor is Artificial General AI nodig - een AI die alle taken van mensen kan en hier zijn we nog niet.
De eerste vier items zijn een degelijk gevaar. Het overnemen van de wereld zijn we nog niet.
Verlies van banen
Een angst die je vaak hoor is het verlies van banen. Maar is dit daadwerkelijk zo?
Banen met veel routinematige en repetitieve processen kunnen worden geautomatiseerd. Denk aan: data-invoer, administratieve functies en eenvoudige contentcreatie.
Er zal ook veel innovatie zijn. De mogelijkheden met AI kan ook leiden tot nieuwe banen, markten en zakelijke kansen.
Wat (generatieve AI) precies gaat betekenen voor de arbeidsmarkt, moeten we nog zien!
Hierover is nog niet veel duidelijk. Het verlies van banen is een discussie die bij elke nieuwe technologie weer word aangewakkerd. Er is een grote kans dat banen gaan veranderen, maar hoe dit precies vormgegeven gaat worden moeten we afwachten.
Terugblik
We hebben vaakgehoorde angsten en de risico's daarvan besproken:
- Vooroordelen en discriminatie
- Privacy
- Misbruik
- Autonomie en controle
- Verlies van banen
Jullie kunnen nu:
- opnoemen welke gevaren er zijn bij generatieve AI.
- je werkwijze aanpassen om veilig gebruik te maken van generatieve chatbots.
Deze slide heeft geen instructies
Geïnspireerd?
Als je dit een interessant onderwerp vond, dan is een vervolgopleiding in deze richting misschien iets voor jou.
Neem eens een kijkje bij Informatica, Computer Science of Artificial Intelligence (universiteit of HBO).
Weet je welk (vakken)profiel je hiervoor nodig hebt? Zoek dat eens uit!
Toelichting
Deze dia is bedoeld om leerlingen te helpen zich te oriënteren op vervolgopleidingen, hoewel dat in de onderbouw nog een ver-van-mijn-bed-show is. Onbekend maakt onbemind en op deze manier maken ze kennis met wellicht onbekende studierichtingen.
De makers van deze les willen graag weten wat je van de les vond. Ga daarvoor naar de (korte) vragenlijst. Heel veel dank!
Feedback gevraagd
Link naar vragenlijst voor leerlingen:
ut.onl/leerling4tu
De makers van deze les willen graag weten wat je van de les vond. Ga daarvoor naar de (korte) vragenlijst. Heel veel dank!
Feedback gevraagd
Vragenlijst voor docenten
Link naar vragenlijst voor docenten:
ut.onl/docent4tu
Deze slide heeft geen instructies
Tweakers - Google pauzeert beeldgenerator Gemini na klachten over diversiteit | Jay Stout (2024, 23 februari). http://www.tweakers.net/nieuws/218986/google-pauzeert-beeldgenerator-gemini-na-klachten-over-diversiteit.html
NOS - Geen golf van deepfakes verwacht bij verkiezingen maar risico blijft | Nando Kasteleijn (2024, 9 mei) http://www.nos.nl/artikel/2519852-geen-golf-van-deepfakes-verwacht-bij-verkiezingen-maar-risico-blijft
Bronnen
Deze slide heeft geen instructies