Ongewenste effecten van kunstmatige intelligentie

Dankzij AI (artificiële intelligentie) maken online diensten als Chat-GPT en Midjourney indrukwekkende teksten en afbeeldingen. AI biedt fantastische mogelijkheden, maar er zijn ook ongewenste effecten.Verzinsels en discriminatie Bij nieuwe techniek kunnen er ongewenste effecten zijn voor privacy en mensenrechten. Dat geldt ook voor kunstmatige intelligentie (AI). Zo werkt gezichtsherkenning niet altijd goed bij mensen met een donkere huid. Heb je een donkere huid, dan loop je het risico dat je wordt uitgesloten van bepaalde diensten. Het College voor de Rechten van de Mens oordeelde eind 2022 dat de VU bepaalde studenten mogelijk discrimineerde omdat bij hen de verplichte gezichtsherkenningssoftware niet goed werkte. Met meer training had deze vorm van AI waarschijnlijk beter gewerkt. Er moet ook altijd een plan-B zijn als een geautomatiseerde taak niet goed werkt. Overigens heeft het College voor de Rechten van de Mens in tweede instantie bepaald dat de de discriminatie niet bewezen kon worden. Volgens het college staat alleen vast dat de VU niet goed met de klacht was omgegaan. Verzinsels ChatGPT maakt nog veel fouten en dat kan nare persoonlijke gevolgen hebben. Je kunt bijvoorbeeld ChatGPT vragen iemands carrière te beschrijven. Een groep vrouwelijke medewerkers bij techbedrijven ontdekte dat ChatGPT hen een burnout had toegedicht. Het algoritme had dit verzonnen omdat het (waarschijnlijk) relatief vaak voorkomt in deze industrie. ChatGPT genereert soms slordige, niet kloppende antwoorden. Het staat er ook bij vermeld: 'antwoorden kunnen fouten bevatten'. De dienst vraagt deze door te geven. Maar als je de chatbot niet corrigeert blijft hij dus onzin over jou en andere onderwerpen spuien. Het is ook niet zeker dat ChatGPT iets met jouw feedback doet. Verraderlijke 'vriend' Via Snapchat kregen gebruikers in april 2023 spontaan een AI-chatbot op hun schermpje. Deze 'My AI' chatbot doet zich voor als een vriend en geeft tips en suggesties die niet zijn afgestemd op de leeftijd van de gebruiker. Dit kan gevaarlijke situaties opleveren voor kinderen die nog niet goed kunnen beoordelen wat echt is en wat niet. AI-missers Deze voorbeelden van 'AI-missers' kun je deels nog als kinderziekten zien. Klaarblijkelijk koos de ontwikkelaar voor snelheid boven zorgvuldigheid. Maar consumenten kunnen door slordige AI ernstig benadeeld worden. Daarom zijn duidelijke AI-regels nodig. Transparantie is belangrijk Consumenten moeten een sterkere rechtspositie krijgen op AI-gebied: Consumenten hebben recht op transparantie, uitleg en bezwaar maken. Zo houden ze controle over hun gegevens en kunnen ze zich verzetten tegen oneerlijke beslissingen door AI. De overheid is verantwoordelijk voor de wettelijke naleving van regels en toezicht. De overheid moet actief invulling geven aan die taak. Consumenten hebben recht op openbare handhaving als er negatieve gevolgen zijn door AI. Producenten moeten AI-aangedreven producten gedurende de hele levenscyclus (digitaal) veilig houden. In 2024 werd de Europese Verordening voor AI aangenomen (de 'AI Act'). De Consumentenbond heeft input gegeven aan deze wet. Niet al onze punten zijn verwerkt, maar belangrijke zaken wel. Zoals dat aanbieders transparant moeten zijn over hun AI-gebruik. De AI Act wordt sinds de wet werd aangenomen stapsgewijs ingevoerd. We blijven met onze Europese zusterorganisaties de uitwerking en invoering op de voet volgen. promo kader Wat is AI? Artificial Intelligence (AI) is een geautomatiseerd systeem dat taken uitvoert waar vroeger menselijke intelligentie voor nodig was. AI-systemen werken met in software beschreven algoritmen (instructiereeksen). De systemen herkennen patronen en nemen dan zelf beslissingen. En net zoals mensen worden ze door te oefenen steeds beter. AI (Artificial Intelligence) vind je al lange tijd in alledaagse toepassingen. Apps op je telefoon zoals Apple Foto’s en Google Foto’s gebruiken AI om objecten in foto’s te herkennen. Ze koppelen automatisch labels als ‘fiets’ en ‘motor’ aan je foto’s. Zo vind je je afbeeldingen met zulke voertuigen snel terug. De apps doen ook aan gezichtsherkenning. Als je bij 1 foto een naam opgeeft, zoekt de app zelf uit op welke foto’s die persoon nog meer staat. Sinds vrij recent kunnen AI-toepassingen ook teksten, beeld en geluid gereneren. Dit heet 'generatieve AI'. De bekendste toepassing is ChatGPT. Zelf aan de slag Door het enorme succes van ChatGPT zijn er online vele honderden AI-toepassingen beschikbaar gekomen. Wil je er zelf ook mee aan de slag? In een aparte AI-sectie op onze site bespreken we 20 AI-tools die echt wat voorstellen. Lees vooraf onze vuistregels voor veilig gebruik van AI. Zo voorkom je allerlei (privacy) problemen. Meer weten? Doe de cursus Ben je geïnteresseerd in het onderwerp 'AI' en wil je er meer over weten? Doe dan de Nationale AI-cursus. Deze cursus is onder andere opgezet door Jim Stolze. Hij is oud lid van de Raad van Toezicht van de Consumentenbond. Als je de cursus hebt gedaan, krijg je een certificaat.

Ongewenste effecten van kunstmatige intelligentie

Lees verder

Nieuw & interessant

Webwinkels verplichten account onnodig

Cookies weigeren vaak te lastig

Nieuwe regels moeten online platforms veiliger maken

Blijf op de hoogte

Service & Contact

Over ons

Doe mee

Boeken & Bladen