Ongewenste effecten van kunstmatige intelligentie

Verzinsels en discriminatie

Bij nieuwe techniek kunnen er ongewenste effecten zijn voor privacy en mensenrechten. Dat geldt ook voor kunstmatige intelligentie (AI). 

Zo werkt gezichtsherkenning niet altijd goed bij mensen met een donkere huid. Heb je een donkere huid, dan loop je het risico dat je wordt uitgesloten van bepaalde diensten.

Het College voor de Rechten van de Mens oordeelde eind 2022 dat de VU bepaalde studenten mogelijk discrimineerde omdat bij hen de verplichte gezichtsherkenningssoftware niet goed werkte. Met meer training had deze vorm van AI beter gewerkt. Er moet ook altijd een plan-B zijn als een geautomatiseerde taak niet goed werkt.

Verzinsels

ChatGPT maakt nog veel fouten en dat kan nare persooonlijke gevolgen hebben. Je kunt bijvoorbeeld ChatGPT vragen iemands carrière te beschrijven. Een groep vrouwelijke medewerkers bij techbedrijven ontdekte dat ChatGPT hen een burnout had toegedicht. Het algoritme had dit verzonnen omdat het (waarschijnlijk) relatief vaak voorkomt in deze industrie.

Zulke slordigheid hoort misschien bij de beginfase van AI. ChatGPT vraagt dan ook zulke fouten door te geven. Maar als je de chatbot niet corrigeert blijft hij dus onzin over jou en andere onderwerpen spuien.

Verraderlijke 'vriend'

Via Snapchat kregen gebruikers in april 2023 spontaan een AI-chatbot op hun schermpje. Deze 'My AI' chatbot doet zich voor als een vriend en geeft tips en suggesties die niet zijn afgestemd op de leeftijd van de gebruiker. Dit kan gevaarlijke situaties opleveren voor kinderen die nog niet goed kunnen beoordelen wat echt is en wat niet. 

AI-missers

Deze voorbeelden van 'AI-missers' kun je nog als kinderziekten zien. Klaarblijkelijk koos de ontwikkelaar voor snelheid boven zorgvuldigheid. Maar consumenten kunnen door slordige AI ernstig benadeeld worden. Daarom zijn duidelijke AI-regels nodig.  

Transparantie is belangrijk

Consumenten moeten een sterkere rechtspositie krijgen op AI-gebied: 

• Consumenten hebben recht op transparantie, uitleg en bezwaar maken. Zo houden ze controle over hun gegevens en kunnen ze zich verzetten tegen oneerlijke beslissingen door AI.
• De overheid is verantwoordelijk voor de wettelijke naleving van regels en toezicht. De overheid moet actief invulling geven aan die taak.
• Consumenten hebben recht op openbare handhaving als er negatieve gevolgen zijn door AI.
• Producenten moeten AI-aangedreven producten gedurende de hele levenscyclus (digitaal) veilig houden.

In 2024 werd de Europese Verordening voor AI aangenomen (de 'AI Act'). De Consumentenbond heeft input gegeven aan deze wet. Niet al onze punten zijn verwerkt, maar belangrijke zaken wel. Zoals dat aanbieders transparant moeten zijn over hun AI-gebruik. De AI Act wordt de komende jaren stapsgewijs ingevoerd. We blijven met onze Europese zusterorganisaties de uitwerking en invoering op de voet volgen.       

Wat is AI?

Artificial Intelligence (AI) is een geautomatiseerd systeem dat taken uitvoert waar vroeger menselijke intelligentie voor nodig was. 

AI-systemen werken met in software beschreven algoritmen (instructiereeksen). De systemen herkennen patronen en nemen dan zelf beslissingen. En net zoals mensen worden ze door te oefenen steeds beter.

AI (Artificial Intelligence) vind je al lange tijd in alledaagse toepassingen. Apps op je telefoon zoals Apple Foto’s en Google Foto’s gebruiken AI om objecten in foto’s te herkennen. Ze koppelen automatisch labels als ‘fiets’ en ‘motor’ aan je foto’s. Zo vind je je afbeeldingen met zulke voertuigen snel terug.

De apps doen ook aan gezichtsherkenning. Als je bij 1 foto een naam opgeeft, zoekt de app zelf uit op welke foto’s die persoon nog meer staat.

Sinds vrij recent kunnen AI-toepassingen ook teksten, beeld en geluid gereneren. Dit heet 'generatieve AI'. De bekendste toepassing is ChatGPT.     

Zelf aan de slag

Door het enorme succes van ChatGPT zijn er online vele honderden AI-toepassingen beschikbaar gekomen. Wil je er zelf ook mee aan de slag? In een aparte AI-sectie op onze site bespreken we 20 AI-tools die echt wat voorstellen. Lees vooraf onze vuistregels voor veilig gebruik van AI. Zo voorkom je allerlei (privacy) problemen. 

Meer weten? Doe de cursus

Ben je geïnteresseerd in het onderwerp 'AI' en wil je er meer over weten? Doe dan de Nationale AI-cursus.

Deze cursus is onder andere opgezet door Jim Stolze. Hij is oud lid van de Raad van Toezicht van de Consumentenbond. Als je de cursus hebt gedaan, krijg je een certificaat.

Er is ook een AI-cursus voor kinderen: de Nationale AI-cursus - Junior.