Welke invloed heeft kunstmatige intelligentie (AI) op kinderen?

Wat is AI?

AI staat voor artificiële (of kunstmatige) intelligentie. AI geeft computergestuurde machines en apparaten de mogelijkheid zelfstandig problemen op te lossen. Dus zonder tussenkomst van een mens.

Algoritmen

AI-systemen werken met in software beschreven algoritmen (instructiereeksen). De systemen herkennen patronen en nemen dan zelf beslissingen. En net zoals mensen, worden zij door te oefenen steeds beter.

De techniek staat al op je telefoon

AI vind je al in alledaagse toepassingen. De apps Apple Foto’s en Google Foto’s gebruiken AI om objecten in foto’s te herkennen. Zoek in deze apps maar eens naar ‘fiets’ in je fotogalerij. De software heeft de fietsen in jouw foto’s automatisch herkend dankzij kunstmatige intelligentie.

Apple Foto’s en Google Photo doen aan ook gezichtsherkenning. Als je bij 1 foto een naam opgeeft, zal de app zelf uitzoeken op welke foto’s die persoon nog meer staat.

Meer voorbeelden AI-toepassingen

• Persoonlijke tips in Netflix en Spotify.
• Je filmpjes-overzicht in TikTok of Instagram (Reels).
• Google Translate (deze tool begrijpt inmiddels hele zinnen).
• Persoonlijke assistenten als Siri of Cortana.
• Zelfrijdende auto’s.
• Automatisch schakelende lantaarnpalen.

Kinderen en AI

Kinderen zijn extra kwetsbaar. Daarom verdienen ze altijd bescherming tegen manipulatie en oneerlijk gedrag door bedrijven. Helaas zorgt AI juist voor extra risico's bij de jongste consumenten.

Zo slaan slimme poppen persoonlijke gesprekken op. De maker van de pop kan deze gegevens gebruiken om producten beter te maken. Maar ook om reclame te optimaliseren. Kinderen zijn zich vaak niet bewust van dit soort dataverzamelingtrucs. Zo kunnen ze hun privacy prijsgeven voor een heel fout doel. Namelijk persoonlijke reclame voor kinderen.

Sociale media zijn verslavend door slimme algoritmes. Die laten foto’s en filmpjes zien die gebruikers leuk vinden. En die blijven daardoor zo lang mogelijk op het platform. Zo kan er meer aan reclame verdiend worden. Maar te veel achter de telefoon of tablet zitten is heel ongezond!

Een ander risico van gepersonaliseerde media is dat kinderen veel van hetzelfde zien en horen. Ze belanden in een zogeheten filterbubbel met eenzijdige informatie.

Ouders en AI

Als ouder kun je je kind helpen de risico’s van AI te verminderen:

• Probeer AI eerst zelf te begrijpen en een beeld te hebben van de kansen en mogelijke risico’s. Dat kan bijvoorbeeld door het volgen van een cursus over AI. Dit soort cursussen zijn er ook voor kinderen.
• Praat met kinderen over de kansen en risico’s van AI. Vraag welke sociale media-apps op hun telefoon staan en welke foto’s en video’s ze zoal zien in hun ‘feed’. Vraag ook hoeveel uur ze ongeveer aan alle sociale media kwijt zijn. Zien ze aanbiedingen van vloggers of reclame afgestemd op hun voorkeuren? Bespreek ook eens een politiek geladen maatschappelijk onderwerp (vlees eten, opvang van vluchtelingen). Check hoe ze daarover denken en waar ze hun mening vandaan hebben.
• Laat je kind(eren) kijken naar kinderprogramma’s en films over robots. Denk aan tekenfilms als Disney-Pixars Wall-E of laat ze er verhalen over lezen. Dit kan helpen om met kinderen in gesprek te gaan over AI.

Discriminatie

AI leidt soms zelfs tot regelrechte discriminatie. Facebook maakte in 2021 excuses voor een incident. Bij een video met donkere mannen stond de automatische aanbeveling om ‘meer video’s met apen’ te bekijken. Elk AI-systeem moet ‘getraind’ worden om zulke ongewenste effecten te corrigeren.

Kennis ontbreekt

Waar AI in de fout gaat kunnen consumenten klagen bij de aanbieder. Maar consumenten weten op dit moment niet eens dat ze onderdeel zijn van een ‘geautomatiseerde besluitvorming’. Het ministerie van Justitie en Veiligheid deed onderzoek onder gebruikers van dating-apps. Het blijkt dat de meeste mensen niet weten dat een algoritme verantwoordelijk is voor de matches.

Transparantie is nodig

Consumenten moeten een sterkere rechtspositie krijgen op AI-gebied:

• Consumenten hebben recht op transparantie, uitleg en het maken van bezwaar. Zo houden ze controle over hun gegevens. Ook kunnen ze zich verzetten tegen oneerlijke beslissingen door AI.
• Kinderen verdienen extra bescherming. Ze mogen niet worden blootgesteld aan persoonlijke reclame.
• De overheid is verantwoordelijk voor de wettelijke naleving van regels en toezicht. De overheid moet actief invulling geven aan die taak.
• Consumenten hebben recht op openbare handhaving als er negatieve gevolgen zijn door AI.
• Producenten moeten AI-aangedreven producten tijdens hun hele levenscyclus (digitaal) veilig houden.

Er komt een Europese Verordening voor AI aan. De Consumentenbond geeft input voor deze plannen. We willen dat de hierboven genoemde punten straks in de wet verwerkt zijn.

Meldpunt Dupe van je data 

Bedrijven verzamelen en verwerken steeds meer persoonlijke gegevens. Dat doen zij om klanten beter te helpen en om nieuwe klanten te winnen. Maar de gegevens kunnen ook gebruikt worden om mensen uit te sluiten. Dat kan heel goed de uitkomst zijn van een algoritme. Soms werkt deze met verkeerde informatie en dan heb je recht op inzage.   

Ga naar het meldpunt Dupe van je data