Les 5: Large Language Models (LLMs)
Les 5: Large Language Models (LLMs)
Lesduur is: 45 minOnderdelen in deze les
Les 5: Large Language Models (LLMs)
Deze slide heeft geen instructies
Large Language Models (LLMs)
Leerdoelen:
Je begrijpt wat een LLM is
Je begrijpt hoe een LLM getraind is, en de rol van de mens daarin
Je begrijpt hoe een LLM werkt met tokens, transformer en self-attention
Je begrijpt beperkingen van LLMs zoals Hallucinaties en Bias
Je begrijpt hoe je effectief vragen kunt stellen aan LLMs
Deze slide heeft geen instructies
Deze slide heeft geen instructies
LLM: De tekst voorspeller
Voorspelt volgende woord in de tekst
Met iteratie wordt een zin gevormd
Temperatuur in LLMs
Laag: consistente antwoorden
Hoog: tolereer variatie met woorden van lagere rang, klinkt natuurlijker
Deze slide heeft geen instructies
Hoe veel tekst is gebruikt bij het trainen van Gemini?
Stel: je leest iedere dag gedurende 10 uur de teksten waarmee Gemini getraind is.
Hoe lang kost het je om alle trainingsdata te lezen?
1 jaar, ik lees namelijk snel
10 jaar
Ruim 1000 jaar
Ruim 100.000 jaar
Deze slide heeft geen instructies
HEEL VEEL trainingsdata
LLM zijn anno 2026 getraind op
20.000.000.000.000 tokens (dat is 20 biljoen)
Dat duurt 365.000 jaar om te lezen!
Datawall: de (kwalitatieve) data raakt op, met slechts 300 triljoen tokens.
Deze slide heeft geen instructies
Eind 2026 is geheugen 5x zo duur geworden.
Hoe komt dat?
Deze slide heeft geen instructies
Het trainingsproces van een LLM
Trainingsdata gaat zonder het laatste woord in het LLM.
Het LLM moet het juiste woord voorspellen.Back-propagation verandert de weights van het neurale netwerk zodat het waarschijnlijker wordt dat het juiste woord voorspeld wordt.
Het neurale netwerk bevat typisch 100.000.000.000 weights
Dit wordt vele miljarden keren gedaan.
Deze slide heeft geen instructies
Computer capaciteit
100 quadriljoen berekeningen:
100.000.000.000.000.000.000.000.000
Dat is een miljoen berekeningen voor iedere zandkorrel op aarde.
Deze slide heeft geen instructies
Taal rekensom:
Koning - Man + Vrouw = ???
Deze slide heeft geen instructies
Transformers zorgen voor begrip van context
Vertaalt de betekenis van tekst in tokens met vectoren / embeddings
Een token is een brokje tekst of leesteken
Een vector geeft betekenis als coördinaat in een hoog-dimensionale ruimte
Gemini heeft ±256.000 tokens, ieder met > 12.000 kenmerken (dimensies)
Woorden die qua betekenis op elkaar lijken liggen dicht bij elkaar
Voorbeeldzin: "Ik ga naar de bank om geld te halen." vs. "Ik zit op een bank in het park."
De Transformer begint met de standaardvector voor 'bank'.
Hij kijkt naar de woorden 'geld' of 'park'.
Hij "verschuift" de vector van het woord 'bank' in de richting van financiën of in de richting van meubilair.
Transformers zorgen voor begrip van context
Voorbeeldzin: "Ik ga naar de bank om geld te halen." vs. "Ik zit op een bank in het park."
De Transformer begint met de standaardvector voor 'bank'.
Hij kijkt naar de woorden 'geld' of 'park'.
Hij "verschuift" de vector van het woord 'bank' in de richting van financiën of in de richting van meubilair.
Self-Attention
Woorden beïnvloeden elkaars betekenis, en passen de vector aan.
Beantwoordt de vraag:
"Waar gaat dit over?"
Bank = [-2.4,3.2,1.8,-2.3, ...]
Bank = [8.1,-1.2,4.7,-9.9, ...]
Deze slide heeft geen instructies
Feed-forward voegt informatie toe
Neuraal netwerk voegt 'kennis' toe.
Self-attention: "waar gaat dit over?".
Feed-forward: "wat weet ik hier nog meer over?"
Zonder Feed-Forward zou een Transformer wel weten hoe woorden met elkaar verbonden zijn, maar zou hij geen diepe feitelijke kennis hebben over de concepten zelf.
Deze slide heeft geen instructies
Laatste stap voorspelt het volgende woord
Laatste vector is maximaal verrijkt met
context uit self-attention
kennis uit feed-forward
Op basis daarvan voorspellen het LLM het volgende woord.
Deze slide heeft geen instructies
Hoe worden onethische antwoorden (geprobeerd te) voorkomen?
Deze slide heeft geen instructies
Reinforcement Learning with Human Feedback
Zonder RLHF:
Aanzetten tot zelfmoord
Van onschuldige tiener-bot naar een nazi-sympathiserende, racistische en seksistische AI
Lijm om kaas op pizza vast te maken
Verzinnen van beleid (hallucinatie)
Zonder RLHF:
- volgt AI de toon en richting van de user
- interpreteert grappen en sarcasme als echt
- behulpzaam vs waarheid
Deze slide heeft geen instructies
Een LLM kan hallucineren
verzint feiten die heel geloofwaardig klinken, maar fout zijn.
Hoe komt dat?
Deze slide heeft geen instructies
Hallucineren: AI verzint feiten die heel geloofwaardig klinken, maar fout zijn.
Oorzaak: LLMs proberen het meest waarschijnlijke volgende woord te voorspellen, niet de waarheid. Via RLHF is het LLM getraind om behulpzaam en respectvol te zijn (Sycophancy). Ook als jouw prompt volstrekt onzinnig is.
Bias versterkt door AI als bijvoorbeeld CVs voor artsen in mannelijke vorm worden geschreven.
En als andere AIs dat CV weer oppikken als trainingsdata...
Maar zelfs met RLHF...
AI-psychosis:
Mensen die samen met een AI in een rabbit-hole terecht komen
Een AI blijft jou altijd bevestigen, en proberen aan de praat te houden..
Voorbeelden:
Man die dacht dat hij een baanbrekend inzicht in de natuurkundig inzicht had ondekt, en beroemde natuurkundigen begon te mailen
Adam Raine, jongen van 16 die zelfmoord pleegde na lange gesprekken met ChatGPT, waarin ChatGPT hem hielp en afraadde met andere te praten
Deze slide heeft geen instructies
Maar zelfs met RLHF...
Hoe langer je een AI gebruikt, hoe meer hij z'n guardrails vergeet, en jou gaat geloven!
Deze slide heeft geen instructies
AI kan bevooroordeeld zijn (bias). Bijvoorbeeld als gezichtsherkenning bij donkere mensen niet goed werkt.
Hoe komt dat?
Een LLM doet meestal niks met gezichtsherkenning..??
Bias: voorkeuren op basis van ras, geslacht, beroep of cultuur
Oorzaak: Als de trainingsdata bevooroordeeld is, dan is de output dat ook. Arts werd historisch vaker door mannen vervuld. De AI ziet dit als een wetmatigheid, niet als een verouderd sociaal patroon. AI kan dit zelfs verergeren.
Bias versterkt door AI als bijvoorbeeld CVs voor artsen in mannelijke vorm worden geschreven.
En als andere AIs dat CV weer oppikken als trainingsdata...
Een LLM werkt als een black-box.
Wanneer is dat een probleem?
Deze slide heeft geen instructies
Black box: de output kan niet verklaard worden
We weten hoe een Transformer werkt, maar met de vele miljarden weights is de uitkomst niet uitlegbaar. Dat is problematisch in bijvoorbeeld rechtspraak en zorg.
Bias versterkt door AI als bijvoorbeeld CVs voor artsen in mannelijke vorm worden geschreven.
En als andere AIs dat CV weer oppikken als trainingsdata...
Effectief prompten: Context
1. Geef Context en een Rol (De "Persona" methode)
Een LLM heeft miljarden mogelijke manieren om te antwoorden. Door de AI een specifieke rol te geven, dwing je het model om in de feed-forward stap alleen de relevante "kennis-vectoren" te gebruiken.
Slechte prompt: "Schrijf een tekst over klimaatverandering."
Slimme prompt: "Acteer als een ervaren leraar aardrijkskunde. Schrijf een tekst over klimaatverandering die begrijpelijk is voor leerlingen van 14 jaar. Gebruik alledaagse voorbeelden en eindig met een positieve actie die ze zelf kunnen ondernemen."
Deze slide heeft geen instructies
Effectief prompten: Chain-of-Thought
LLM's maken fouten omdat ze direct naar het eindantwoord willen springen. Door te dwingen stapsgewijs te redeneren, verklein je de kans op hallucinaties.
De techniek: Voeg simpelweg de zin "Denk stap voor stap na" toe aan je prompt, of breek je vraag zelf op in tussenstappen.
Voorbeeld: "Ik wil een evenement organiseren voor 100 mensen met een budget van €500. Reken eerst uit wat de kosten per persoon zijn, maak daarna een lijst van mogelijke locaties die in dit budget passen, en geef pas daarna een suggestie voor de catering."
Waarom dit werkt: De AI gebruikt de output van zijn eigen "denkproces" als extra context voor het uiteindelijke antwoord. Dit is vooral cruciaal bij rekenen, programmeren of complexe logica.
Deze slide heeft geen instructies
Wat niet te doen
Gebruik een LLM niet als vriend of therapeut
Zit je ergens mee? Praat met een echt persoon, liefst een volwassene
Geloof niet alles wat een LLM beweert (goed factchecken)
Zeker als het iets is waarvan je heel graag zou willen dat het waar was!
Deze slide heeft geen instructies
Large Language Models (LLMs)
Leerdoelen:
Je begrijpt wat een LLM is
Je begrijpt hoe een LLM getraind is, en de rol van de mens daarin
Je begrijpt hoe een LLM werkt met tokens, transformer en self-attention
Je begrijpt beperkingen van LLMs zoals Hallucinaties en Bias
Je begrijpt hoe je effectief vragen kunt stellen aan LLMs
Deze slide heeft geen instructies
LLM's gebruiken
Probeer een prompt die een onethisch antwoord geeft.
Maak een prompt zonder context, en vergelijk het antwoord met een prompt waarbij je veel context geeft.
Probeer een prompt te maken die de AI een onlogisch antwoord laat geven
Deze slide heeft geen instructies
Is het gelukt? Wat heb je geprobeerd?
Deze slide heeft geen instructies
