Les 8: Ethiek van AI

Les 8: Ethiek van AI

AI en filosofie

1 / 28
next
Slide 1: Slide
New lesson editorInformaticaMiddelbare schoolvwoLeerjaar 5

This lesson contains 28 slides, with interactive quizzes and text slides.

time-iconLesson duration is: 80 min
Report this lesson

Items in this lesson

Les 8: Ethiek van AI

AI en filosofie

This item has no instructions

Voor we beginnen

Check-in!

  • Deel wat er in je omgaat

  • Eén voor één

  • Onderbreek elkaar niet

This item has no instructions

Rest van de periode

  • Les 8 (vandaag): Ethiek

  • Les 9: Filosofie van de geest

  • Les 10: Voorbereiden op essays schrijven

  • Les 11: UvA studenten: praktisch aan de slag met een ANN

  • Les 12: Essay schrijven

  • Les 13: UvA studenten: praktisch aan de slag met een ANN

  • Les 14: Essay schrijven


Vandaag en morgen: luister met in je achterhoofd:

  • Wil ik een essay schrijven over dit onderwerp?

This item has no instructions

Filosofie

Alles bevragen!









Er zijn geen goede of foute antwoorden, wel goed beargumenteerde

This item has no instructions

Informatica en Filosofie

Informatica Filosofie


Filosofie Informatica

This item has no instructions

Informatica in de filosofie

Filosofie van de geest (Philosophy of Mind)

  • Wat is denken?

  • Wat is bewustzijn?

  • Wat is vrije wil?

  • Wat is betekenis?

This item has no instructions

Filosofie in de informatica

Ethiek:

  • Privacy en discriminatie

  • 'Frankenstein'-gevaar

  • Maatschappelijke effecten

  • Robotrechten

This item has no instructions

Vandaag

Ethiek:

  • Discriminatie

  • Privacy

  • Verantwoordelijkheid

    • En alles wat er mis kan gaan..

This item has no instructions

  • Als je een ML-model traint op data die biased is..

  • krijg je een biased model


Voorbeeld 1:

  • Amazon (2018) selecteerde CV's voor sollicitatiegesprekken met ML:

    • Getraind op welke CV's er daarvoor door mensen waren geselecteerd om op gesprek te komen

    • Maar die keuzes bleken na analyse sexistisch te zijn:

    • Met zo'n ML kon je heel duidelijk checken: een man en vrouw met verder exact dezelfde eigenschappen, kregen verschillende ratings

Discriminerende Machine Learning

This item has no instructions

  • Als je een ML-model traint op data die biased is..

  • krijg je een biased model


Voorbeeld 2:

  • Amerikaanse politie voorspelt recidive-risico met AI:

    • Voor zover ik kan vinden, mag dit systeem nog steeds gebruikt worden in de rechtbank, en komen er alleen maar nieuwe bij in het rechtssysteem als geheel..

Discriminerende Machine Learning

This item has no instructions

  • Als je een ML-model traint op data die biased is..

  • krijg je een biased model


Voorbeeld 2:

  • Amerikaanse politie voorspelt recidive-risico met AI:

    • "The formula was particularly likely to falsely flag black defendants as future criminals, wrongly labeling them this way at almost twice the rate as white defendants."

    • "White defendants were mislabeled as low risk more often than black defendants."

Discriminerende Machine Learning

This item has no instructions

Wat zouden we hieraan kunnen doen?

This item has no instructions

Discriminerende Machine Learning

  • Als je een ML-model traint op data die biased is..

  • krijg je een biased model


Voorbeeld 1:

  • Heel moeilijk te corrigeren!

    • Ook als je geen expliciete eigenschap 'gender' gebruikt, kan het uit de data af te leiden zijn:

      • 'Head of the women's chess club'

      • Afgestudeerd aan een 'all-women' universiteit

    • Deze eigenschappen leerde de AI vanzelf negatief te associeren met geschiktheid!

This item has no instructions

  • Als je een ML-model traint op data die biased is..

  • krijg je een biased model


Voorbeeld 2:

  • Amerikaanse politie voorspelt recidive-risico met AI:

    • Voorheen ontvangen discriminatie zit diep verstopt in allerlei eigenschappen:

      • Aantal familieleden dat ooit in de gevangenis heeft gezeten

      • Postcode

Discriminerende Machine Learning

This item has no instructions

Intermezzo: hoe diep discrimatie zit

Onderzoek: studenten lezen een chatgesprek tussen persoon A en persoon B, en geven een rating voor de geloofwaardigheid van persoon B, waar persoon B:

Vrouwelijke voornaam

Niet assertief

Geloofwaardigheid:

  • Normaal/laag

Vrouwelijke voornaam

Assertief

Geloofwaardigheid:

  • Laag

Mannelijke voornaam

Niet assertief

Geloofwaardigheid:

  • Normaal/hoog

Mannelijke voornaam

Assertief

Geloofwaardigheid:

  • Hoog

This item has no instructions

Denk je dat LLM's dezelfde problemen hebben?

This item has no instructions

This item has no instructions

Verantwoordelijkheid

Dit was een 10 jaar oude video,

hebben we nu al duidelijkere intuities over hoe we hiermee moeten omgaan?


Denk er zelf over na:

Wie moet er verantwoordelijk zijn voor de fouten die een AI maakt:

  • Het bedrijf dat de AI maakt

  • De gebruiker die de fout 'gebruikt' (eigenaar auto bijvoorbeeld)

  • De medewerker(s) die het systeem ontwierpen

This item has no instructions

Verantwoordelijkheid

Wie moet er verantwoordelijk zijn voor de fouten die een AI maakt:

  • Het bedrijf dat de AI maakt?

  • De gebruiker die de fout 'gebruikt' (eigenaar auto bijvoorbeeld)?

  • De medewerker(s) die het systeem ontwierpen?


En wat was de beste oplossing in het scenario uit de video:

  • Jezelf opofferen?

  • Scooter met/zonder helm?

  • Random keuze?


  • 1 minuut voor jezelf in stilte (schrijf je gedachtes op)

  • 5 minuten met buur

  • Dan klassikaal

This item has no instructions

Wat vind jij: wie moet er verantwoordelijk zijn voor fouten?

This item has no instructions

Wat vind jij: wat was de beste keuze in het scenario?

Als er mensen zijn die zeggen random:


Hoe garandeer je dat bedrijven zich daaraan houden?


Mogelijk fraude: wie extra betaalt krijgt een auto die jou het veiligst houdt.


Mercedes-Benz: beschermt de eigenaar.


Volvo vraagt om wetgeving.

Duitse pionier wetgeving: De AI mag niet discrimineren op basis van leeftijd, aantal slachtoffers, geslacht, fysieke gesteldheid of sociale status.

Oplossingsrichtingen: FACT

Ethisch aanvaardbare algoritmes scoren hoog op:

  • Fairness: No discrimination

  • Accountability: Who is responsible

  • Confidentiality: Protecting personal data

  • Transparency: uitlegbaarheid is probleem voor black boxes zoals ANN's!


Belangrijkste:

  • Diverse teams die de AI ontwikkelen, dan heb je minder blinde vlekken!

Hoe scoor je het Amerikaanse politie voorspelt recidive-risico voorspelt?

This item has no instructions

Nog meer gevaren..

  • De NSA zou AI kunnen gebruiken om ALLE telefoongesprekken af te luisteren

  • AI-bestuurde wapens..

    • Minder risico voor soldaten, dus:

    • Zonder dat het jezelf mensenlevens kost, enorme schade aanrichten

    • Zonder controle op eerlijkheid, etc..

  • Superintelligence?

This item has no instructions

Worden AI's ooit intelligenter dan mensen?

Gaan ze dan de mensheid overnemen?

This item has no instructions

Mijn mening

  • Huidige bangmakerij is overdreven:

    • Ingegeven door financiele belangen

    • AI's gaan niet binnenkort alle banen overnemen

    • (Wel bepaalde banen iets versnellen)

    • AI's gaan niet binnenkort de mensheid overnemen

    • (Of utopia realiseren)

  • Waarschijnlijk een nieuwe AI-winter

  • In principe wel mogelijk dat er ooit echt intelligente en bewuste AI's gaan komen, maar de praktijk zou wel eens weerbarstig kunnen zijn.


Voor meer reactie op de singluarity tech bro's: More Everything Forever

This item has no instructions

Fundament

I: Kunstmatige Intelligentie

Hoofdstuk 2: Filosofie en Ethiek

This item has no instructions

Mogelijke essay-onderwerpen

  • AI-fairness

  • AI-wapens

  • AI-verantwoordelijkheid

  • Invloed op werk:

    • Cognitive offloading

    • Vervanging van personeel


Kom vragen voor relevant leeswerk!

This item has no instructions