Ongewenste effecten van kunstmatige intelligentie

Verzinsels en discriminatie

Bij nieuwe techniek kunnen er ongewenste effecten zijn voor privacy en mensenrechten. Dat geldt ook voor kunstmatige intelligentie (AI). 

Zo werkt gezichtsherkenning niet altijd goed bij mensen met een donkere huid. Heb je een donkere huid, dan loop je het risico dat je wordt uitgesloten van bepaalde diensten.

Het College voor de Rechten van de Mens oordeelde eind 2022 dat de VU bepaalde studenten mogelijk discrimineerde omdat bij hen de verplichte gezichtsherkenningssoftware niet goed werkte. Met meer training had deze vorm van AI beter gewerkt. Er moet ook altijd een plan-B zijn als een geautomatiseerde taak niet goed werkt.

Verzinsels

ChatGPT maakt nog veel fouten en dat kan nare persooonlijke gevolgen hebben. Je kunt bijvoorbeeld ChatGPT vragen iemands carrière te beschrijven. Een groep vrouwelijke medewerkers bij techbedrijven ontdekte dat ChatGPT hen een burnout had toegedicht. Het algoritme had dit verzonnen omdat het (waarschijnlijk) relatief vaak voorkomt in deze industrie.

Zulke slordigheid hoort misschien bij de beginfase van AI. ChatGPT vraagt dan ook zulke fouten door te geven. Maar als je de chatbot niet corrigeert blijft hij dus onzin over jou en andere onderwerpen spuien.

Verraderlijke 'vriend'

Via Snapchat kregen gebruikers in april spontaan een AI-chatbot op hun schermpje. Deze 'My AI' chatbot doet zich voor als een vriend en geeft tips en suggesties die niet zijn afgestemd op de leeftijd van de gebruiker. Dit kan gevaarlijke situaties opleveren voor kinderen die nog niet goed kunnen beoordelen wat echt is en wat niet. 

AI-plannen bij winstgedreven bedrijven

Veel AI-toepassingen komen uit de koker van grote techbedrijven die geld willen verdienen. Sommige hebben een bedenkelijke reputatie op het gebied van mensenrechten en privacybescherming, als je kijkt naar hun gedrag. 

Meta

Het moederbedrijf van Facebook, WhatsApp en Instagram, kondigde onlangs AI-chatbots aan voor WhatsApp en Messenger. Meta's reputatie geeft reden tot zorgen. Het nieuwste schandaal (in een hele reeks) is dat het advertentie-algoritme van Facebook vacatures specifiek aan mannen of vrouwen toont.

Zo verscheen bij een steekproef een baan als receptionist bij bijna 7700 vrouwen in de tijdlijn en bij slechts 200 mannen. En een vacature voor een monteur werd aan ruim 6900 mannen getoond en aan nog geen 300 vrouwen. Dit is schadelijk en discriminerend. Het is belangrijk dat Facebook zijn huidige algoritmes op orde brengt voor het nieuwe generatieve AI-technologie introduceert.

Klarna

Deze achterafbetaalservice kreeg in 2022 een forse boete omdat het niet voldeed aan de privacywet. Het Zweedse bedrijf heeft onlangs een samenwerking aangekondigd met OpenAI. Het heeft plannen om ChatGPT in zijn diensten te integreren om een ‘zeer persoonlijke en intuïtieve winkelervaring te geven door samengestelde aanbevelingen te doen’.

Het is essentieel dat de Autoriteit Consumenten & Markt (ACM) toegang heeft tot alle beoordelingssystemen die consumenten bereiken. Dit is onmogelijk als OpenAI (de serviceprovider van Klarna) niet de juiste informatie geeft.  

Transparantie is nodig

Consumenten moeten een sterkere rechtspositie krijgen op AI-gebied: 

• Consumenten hebben recht op transparantie, uitleg en bezwaar maken. Zo houden ze controle over hun gegevens en kunnen ze zich verzetten tegen oneerlijke beslissingen door AI.
• De overheid is verantwoordelijk voor de wettelijke naleving van regels en toezicht. De overheid moet actief invulling geven aan die taak.
• Consumenten hebben recht op openbare handhaving als er negatieve gevolgen zijn door AI.
• Producenten moeten AI-aangedreven producten gedurende de hele levenscyclus (digitaal) veilig houden.

Er komt een Europese Verordening voor AI aan. De Consumentenbond geeft input voor deze plannen. We willen dat de hierboven genoemde punten straks in de wet staan.

Wat is AI?

Artificial Intelligence (AI) is een geautomatiseerd systeem dat taken uitvoert waar vroeger menselijke intelligentie voor nodig was. 

AI-systemen werken met in software beschreven algoritmen (instructiereeksen). De systemen herkennen patronen en nemen dan zelf beslissingen. En net zoals mensen worden ze door te oefenen steeds beter.

AI (Artificial Intelligence) vind je al lange tijd in alledaagse toepassingen. Apps op je telefoon zoals Apple Foto’s en Google Foto’s gebruiken AI om objecten in foto’s te herkennen. Ze koppelen automatisch labels als ‘fiets’ en ‘motor’ aan je foto’s. Zo vind je je afbeeldingen met zulke voertuigen snel terug.

De apps doen ook aan gezichtsherkenning. Als je bij 1 foto een naam opgeeft, zoekt de app zelf uit op welke foto’s die persoon nog meer staat.

Gaat AI banen kosten? 

Je hebt mensen nodig om de uitkomsten van AI te checken. Voor het compleet vervangen van een werknemer van vlees en bloed is ‘generieke AI’ nodig dat zelfstandig beslissingen op allerlei gebieden maakt. En dat onder wisselende omstandigheden. Dat vraagt onder andere creativiteit, logisch redeneren en communicatieve vaardigheden. Er is nog geen AI-systeem dat dit allemaal combineert.

Wel kunnen robots een deel van eenvoudig, uitvoerend werk overnemen. Denk aan surveillancediensten, klantenservices (chatbots) en bezorgwerk. In Los Angeles rijden al bezorgrobots over straat. 

Ook ontstaan er nieuwe banen voor mensen die AI ontwikkelen en toepassen. Eenvoudig repeterend werk zal wel verdwijnen door automatisering.

ChatGPT

De bliksemsnel populair geworden AI-chatbot ChatGPT is pas sinds november 2022 voor het brede publiek beschikbaar. De robot geeft antwoord op allerlei vragen en baseert zich op miljoenen geïndexeerde webpagina’s. De ‘antwoordmachine’ genereert tekst en is een vorm van 'generatieve AI'.

ChatGPT biedt gemak ten opzichte van een zoekmachine als Google. Die levert je alleen de webpagina’s waar je zelf het antwoord moet vinden.

De nieuwste versie van ChatGPT (4.0) is voorjaar 2023 opgenomen in zoekmachine Bing.

ChatGPT maakt nog wel fouten. Hij weeft met een waarschijnlijkheidsalgoritme teksten aan elkaar, maar 'begrijpt' niet echt wat hij daarmee zegt. Ook baseert hij zijn antwoord soms op verouderde informatie.

ChatGPT is veelzijdig. Hij kan onder andere: 

• Teksten schrijven (in een stijl naar wens).
• Teksten herschrijven (in een stijl naar wens).
• Teksten samenvatten.
• Computercode genereren en verbeteren. 

Dall-E en Midjourney

De kracht van AI-technologie wordt ook duidelijk bij tekst-naar-beeld-diensten als Dall-E en Midjourney. Die zetten een beschrijving van een persoon, dier, object of scene om naar een afbeelding. Dat is inmiddels bijna fotorealistisch. Ook plaatjesgeneratoren zijn een vorm van 'generatieve AI'. 

Roemrucht is de foto van de paus die een witte Puffer-jas draagt (een slaapzak-achtige jas). En het in de boeien slaan van oud-president Trump. Beide zaken zijn niet gebeurd. Kijk je goed naar de vingers van personen, dan zie je dat de beelden kunstmatig zijn. Helemaal perfect is de generatieve AI nog niet.

Nog meer AI

• Detectie van huidkanker (bijvoorbeeld met de app SkinVision).
• Google Translate (deze tool begrijpt inmiddels hele zinnen).
• Persoonlijke aanbevelingen in streamingdiensten.
• Persoonlijke assistenten zoals Siri of Cortana.
• Synthetische stemmen die artikelen voorlezen.
• Spraak omzetten naar tekst (transcriptie).
• Zelfrijdende auto’s.

Meer weten? Doe de cursus

Ben je geïnteresseerd in het onderwerp 'AI' en wil je er meer over weten? Doe dan de Nationale AI-cursus.

Deze cursus is onder andere opgezet door Jim Stolze. Hij is oud lid van de Raad van Toezicht van de Consumentenbond. Als je de cursus hebt gedaan, krijg je een certificaat.

Er is ook een AI-cursus voor kinderen: de Nationale AI-cursus - Junior.