Les 8: Ethiek van AI

• newEditor
• Informatica
• Middelbare school
• vwo
• Leerjaar 5

Les 8: Ethiek van AI

AI en filosofie

Voor we beginnen

Check-in!

• Deel wat er in je omgaat

• Eén voor één

• Onderbreek elkaar niet

Rest van de periode

• Les 8 (vandaag): Ethiek

• Les 9: Filosofie van de geest

• Les 10: Voorbereiden op essays schrijven

• Les 11: UvA studenten: praktisch aan de slag met een ANN

• Les 12: Essay schrijven

• Les 13: UvA studenten: praktisch aan de slag met een ANN

• Les 14: Essay schrijven

Vandaag en morgen: luister met in je achterhoofd:

• Wil ik een essay schrijven over dit onderwerp?

Filosofie

Alles bevragen!

Er zijn geen goede of foute antwoorden, wel goed beargumenteerde

Informatica en Filosofie

Informatica Filosofie

Filosofie Informatica

Informatica in de filosofie

Filosofie van de geest (Philosophy of Mind)

• Wat is denken?

• Wat is bewustzijn?

• Wat is vrije wil?

• Wat is betekenis?

Filosofie in de informatica

Ethiek:

• Privacy en discriminatie

• 'Frankenstein'-gevaar

• Maatschappelijke effecten

• Robotrechten

Vandaag

Ethiek:

• Discriminatie

• Privacy

• Verantwoordelijkheid

  • En alles wat er mis kan gaan..

• Als je een ML-model traint op data die biased is..

• krijg je een biased model

Voorbeeld 1:

• Amazon (2018) selecteerde CV's voor sollicitatiegesprekken met ML:

  • Getraind op welke CV's er daarvoor door mensen waren geselecteerd om op gesprek te komen

  • Maar die keuzes bleken na analyse sexistisch te zijn:

  • Met zo'n ML kon je heel duidelijk checken: een man en vrouw met verder exact dezelfde eigenschappen, kregen verschillende ratings

Discriminerende Machine Learning

• Als je een ML-model traint op data die biased is..

• krijg je een biased model

Voorbeeld 2:

• Amerikaanse politie voorspelt recidive-risico met AI:

  • Voor zover ik kan vinden, mag dit systeem nog steeds gebruikt worden in de rechtbank, en komen er alleen maar nieuwe bij in het rechtssysteem als geheel..

Discriminerende Machine Learning

Bron: ProPublica

• Als je een ML-model traint op data die biased is..

• krijg je een biased model

Voorbeeld 2:

• Amerikaanse politie voorspelt recidive-risico met AI:

  • "The formula was particularly likely to falsely flag black defendants as future criminals, wrongly labeling them this way at almost twice the rate as white defendants."

  • "White defendants were mislabeled as low risk more often than black defendants."

Discriminerende Machine Learning

Bron: ProPublica

Wat zouden we hieraan kunnen doen?

Discriminerende Machine Learning

• Als je een ML-model traint op data die biased is..

• krijg je een biased model

Voorbeeld 1:

• Heel moeilijk te corrigeren!

  • Ook als je geen expliciete eigenschap 'gender' gebruikt, kan het uit de data af te leiden zijn:

    • 'Head of the women's chess club'

    • Afgestudeerd aan een 'all-women' universiteit

  • Deze eigenschappen leerde de AI vanzelf negatief te associeren met geschiktheid!

Bron: Reuters

• Als je een ML-model traint op data die biased is..

• krijg je een biased model

Voorbeeld 2:

• Amerikaanse politie voorspelt recidive-risico met AI:

  • Voorheen ontvangen discriminatie zit diep verstopt in allerlei eigenschappen:

    • Aantal familieleden dat ooit in de gevangenis heeft gezeten

    • Postcode

Discriminerende Machine Learning

Bron: ProPublica

Intermezzo: hoe diep discrimatie zit

Onderzoek: studenten lezen een chatgesprek tussen persoon A en persoon B, en geven een rating voor de geloofwaardigheid van persoon B, waar persoon B:

Vrouwelijke voornaam

Niet assertief

Geloofwaardigheid:

• Normaal/laag

Vrouwelijke voornaam

Assertief

Geloofwaardigheid:

• Laag

Mannelijke voornaam

Niet assertief

Geloofwaardigheid:

• Normaal/hoog

Mannelijke voornaam

Assertief

Geloofwaardigheid:

• Hoog

Bron: Whistling Vivaldi

Denk je dat LLM's dezelfde problemen hebben?

Ja, natuurlijk...

Bronnen:

• https://hai.stanford.edu/news/covert-racism-ai-how-language-models-are-reinforcing-outdated-stereotypes

• https://www.unesco.org/en/articles/generative-ai-unesco-study-reveals-alarming-evidence-regressive-gender-stereotypes

Verantwoordelijkheid

Dit was een 10 jaar oude video,

hebben we nu al duidelijkere intuities over hoe we hiermee moeten omgaan?

Denk er zelf over na:

Wie moet er verantwoordelijk zijn voor de fouten die een AI maakt:

• Het bedrijf dat de AI maakt

• De gebruiker die de fout 'gebruikt' (eigenaar auto bijvoorbeeld)

• De medewerker(s) die het systeem ontwierpen

Verantwoordelijkheid

Wie moet er verantwoordelijk zijn voor de fouten die een AI maakt:

• Het bedrijf dat de AI maakt?

• De gebruiker die de fout 'gebruikt' (eigenaar auto bijvoorbeeld)?

• De medewerker(s) die het systeem ontwierpen?

En wat was de beste oplossing in het scenario uit de video:

• Jezelf opofferen?

• Scooter met/zonder helm?

• Random keuze?

• 1 minuut voor jezelf in stilte (schrijf je gedachtes op)

• 5 minuten met buur

• Dan klassikaal

Wat vind jij: wie moet er verantwoordelijk zijn voor fouten?

Wat vind jij: wat was de beste keuze in het scenario?

Als er mensen zijn die zeggen random:

Hoe garandeer je dat bedrijven zich daaraan houden?

Mogelijk fraude: wie extra betaalt krijgt een auto die jou het veiligst houdt.

Mercedes-Benz: beschermt de eigenaar.

Volvo vraagt om wetgeving.

Duitse pionier wetgeving: De AI mag niet discrimineren op basis van leeftijd, aantal slachtoffers, geslacht, fysieke gesteldheid of sociale status.

Oplossingsrichtingen: FACT

Ethisch aanvaardbare algoritmes scoren hoog op:

• Fairness: No discrimination

• Accountability: Who is responsible

• Confidentiality: Protecting personal data

• Transparency: uitlegbaarheid is probleem voor black boxes zoals ANN's!

Belangrijkste:

• Diverse teams die de AI ontwikkelen, dan heb je minder blinde vlekken!

Hoe scoor je het Amerikaanse politie voorspelt recidive-risico voorspelt?

Nog meer gevaren..

• De NSA zou AI kunnen gebruiken om ALLE telefoongesprekken af te luisteren

• AI-bestuurde wapens..

  • Minder risico voor soldaten, dus:

  • Zonder dat het jezelf mensenlevens kost, enorme schade aanrichten

  • Zonder controle op eerlijkheid, etc..

• Superintelligence?

Worden AI's ooit intelligenter dan mensen?

Gaan ze dan de mensheid overnemen?

Mijn mening

• Huidige bangmakerij is overdreven:

  • Ingegeven door financiele belangen

  • AI's gaan niet binnenkort alle banen overnemen

  • (Wel bepaalde banen iets versnellen)

  • AI's gaan niet binnenkort de mensheid overnemen

  • (Of utopia realiseren)

• Waarschijnlijk een nieuwe AI-winter

• In principe wel mogelijk dat er ooit echt intelligente en bewuste AI's gaan komen, maar de praktijk zou wel eens weerbarstig kunnen zijn.

Voor meer reactie op de singluarity tech bro's: More Everything Forever

Fundament

I: Kunstmatige Intelligentie

Hoofdstuk 2: Filosofie en Ethiek

Mogelijke essay-onderwerpen

• AI-fairness

• AI-wapens

• AI-verantwoordelijkheid

• Invloed op werk:

  • Cognitive offloading

  • Vervanging van personeel

Kom vragen voor relevant leeswerk!