Contentmoderatie

• ICT
• MBO
• Studiejaar 1

Contentmoderatie

Contentmoderatie

Programma

• Terugblik
• Leerdoelen
• Theorie: Human-in-the-loop
• Interactieve vragen
• Opdracht 2 - Contentmoderatie'
• Nabespreken

Terugblik

• Wat hield het begrip 'digitale voetafdruk' in?

Leerdoelen

• De student kan in eigen woorden uitleggen wat Human-in-the-loop (HITL) is.
• De student kan uitleggen uitleggen hoe menselijke feedback een AI-systeem kan verbeteren.

Wat is Human-in-the-loop learning?

• Human-in-the-loop (HITL) is een manier van werken binnen AI waarbij mensen actief betrokken blijven bij het trainen en verbeteren van een model.
  
• Mensen labelen data, controleren uitkomsten en corrigeren fouten.
  
• Er is sprake van een continue feedbackloop tussen mens en machine.
  
• HITL combineert menselijke kennis met de rekenkracht van AI.

Verschil tussen Machine Learning en Human-in-the-loop?

• Bij traditionele machine learning leert het model op basis van grote hoeveelheden data en werkt daarna grotendeels zelfstandig.
• De menselijke rol bij machine learning is meestal beperkt tot het voorbereiden van trainingsdata.
• Bij Human-in-the-loop blijft de mens tijdens het hele proces betrokken.
• HITL is vooral nuttig bij complexe of gevoelige taken waar menselijke nuance belangrijk is.

Hoe werkt Human-in-the-loop bij contentmoderatie?

• Een AI-model scant automatisch grote hoeveelheden berichten, foto’s en video’s op mogelijke overtredingen.
• Verdachte content wordt gemarkeerd en doorgestuurd naar een menselijke moderator.
• De moderator beoordeelt de content en beslist of deze wordt verwijderd, goedgekeurd of anders gelabeld.
• Correcties van de moderator worden gebruikt als nieuwe trainingsdata, waardoor het model continu verbetert.

Bedenk een moderatieregel die waarschijnlijk elk platform hanteert.

"Ik hoop dat ze je iets aandoen."

Verwijderen

Laten staan

"Je bent zo lelijk als de nacht."

Verwijderen

Laten staan

Zelfstandig aan de slag

Zie Canvas: 'Opdracht 2 - Contentmoderatie'

Klassikale bespreking

• Welke 2 reacties mochten van jullie blijven staan en waarom?
• Welke regels kwamen bij de meeste groepjes overeen?
• Welk groepje heeft zijn richtlijnen moeten herzien na feedback van een andere groep?

Nabespreking

• Waarom kan AI contentmoderatie niet volledig zelfstandig uitvoeren?  
• Wie is uiteindelijk verantwoordelijk voor de beslissing: de AI of de mens?