icon-menu logo_footer preds symbol-afrader symbol-bestekoop symbol-besteuittest

Welke invloed heeft kunstmatige intelligentie (AI) op kinderen?

Steeds vaker hoor je over artificiële of kunstmatige intelligentie. Maar wat is het nu eigenlijk? En hoe voorkom je dat AI-toepassingen verkeerd uitpakken. Je wilt niet dat algoritmen je kind manipuleren. En dat gebeurt wel als je als ouder of verzorger niet in actie komt.
Irene Joris

Irene Joris   Expert ElektronicaGepubliceerd op:20 mei 2022

privacy-ai

Wat is AI?

AI staat voor artificiële of kunstmatige intelligentie. AI geeft computergestuurde machines en apparaten de mogelijkheid zelfstandig problemen op te lossen. Dus zonder tussenkomst van een mens.

Algoritme

AI-systemen werken met in software beschreven algoritmen (instructiereeksen). De systemen herkennen patronen en nemen dan zelf beslissingen. En net zoals mensen, worden zij door te oefenen steeds beter.

De techniek staat al op je telefoon

AI vind je al in alledaagse toepassingen. De apps Apple Foto’s en Google Foto’s gebruiken AI om objecten in foto’s te herkennen. Zoek in deze apps maar eens naar ‘fiets’ in je fotogalerij. De software herkent de fietsen in jouw foto’s automatisch dankzij kunstmatige intelligentie.

Apple Foto’s en Google Photo doen aan ook gezichtsherkenning. Als je bij 1 foto een naam opgeeft, zal de app zelf uitzoeken op welke foto’s die persoon nog meer staat.

Meer voorbeelden AI-toepassingen

  • Persoonlijke tips in Netflix en Spotify.
  • Je filmpjes-overzicht in TikTok of Instagram (Reels).
  • Google Translate (deze tool begrijpt inmiddels hele zinnen).
  • Persoonlijke assistenten als Siri of Cortana.
  • Zelfrijdende auto’s.
  • Automatisch schakelende lantaarnpalen.

Kinderen en AI

Kinderen zijn extra kwetsbaar. Daarom verdienen ze altijd bescherming tegen manipulatie en oneerlijk gedrag door bedrijven. Helaas zorgt AI juist voor extra risico's bij de jongste consumenten.

Zo slaan slimme poppen persoonlijke gesprekken op. De maker van de pop kan deze gegevens gebruiken om producten beter te maken. Maar ook om reclame te verbeteren. Kinderen zijn zich vaak niet bewust van dit soort dataverzamelingtrucs. Zo kunnen ze hun privacy prijsgeven voor een heel fout doel. Namelijk persoonlijke reclame voor kinderen.

Slimme algoritmes

Sociale media zijn verslavend door slimme algoritmes. Die laten foto’s en filmpjes zien die gebruikers leuk vinden. En die blijven daardoor zo lang mogelijk op het platform. Zo kan er meer aan reclame verdiend worden. Maar te veel achter de telefoon of tablet zitten is heel ongezond!

Een ander risico van gepersonaliseerde media is dat kinderen veel van hetzelfde zien en horen. Ze belanden in een zogeheten filterbubbel met eenzijdige informatie.

Ouders en AI

Als ouder kun je je kind helpen de risico’s van AI te verminderen:

  • Probeer AI eerst zelf te begrijpen en een beeld te hebben van de kansen en mogelijke risico’s. Dat kan bijvoorbeeld door het volgen van een cursus over AI. Dit soort cursussen zijn er ook voor kinderen.
  • Praat met kinderen over de kansen en risico’s van AI. Vraag welke sociale media-apps op hun telefoon staan en welke foto’s en video’s ze zoal zien in hun ‘feed’. Vraag ook hoeveel uur ze ongeveer aan alle sociale media kwijt zijn. Zien ze aanbiedingen van vloggers of reclame afgestemd op hun voorkeuren? Bespreek ook eens een politiek geladen maatschappelijk onderwerp (vlees eten, opvang van vluchtelingen). Check hoe ze daarover denken en waar ze hun mening vandaan hebben.
  • Laat je kind(eren) kijken naar kinderprogramma’s en films over robots. Denk aan tekenfilms als Disney-Pixars Wall-E of laat ze er verhalen over lezen. Dit kan helpen om met kinderen in gesprek te gaan over AI.

Discriminatie

AI leidt soms zelfs tot regelrechte discriminatie. Facebook maakte in 2021 excuses voor een incident. Bij een video met donkere mannen stond de automatische aanbeveling om ‘meer video’s met apen’ te bekijken. Elk AI-systeem moet ‘getraind’ worden om zulke ongewenste effecten te corrigeren.

Kennis ontbreekt

Waar AI in de fout gaat kunnen consumenten klagen bij de aanbieder. Maar consumenten weten op dit moment niet eens dat ze onderdeel zijn van een ‘geautomatiseerde besluitvorming’. Het ministerie van Justitie en Veiligheid deed onderzoek onder gebruikers van dating-apps. Het blijkt dat de meeste mensen niet weten dat een algoritme verantwoordelijk is voor de matches.

Transparantie is nodig

Consumenten moeten een sterkere rechtspositie krijgen op AI-gebied:

  • Consumenten hebben recht op transparantie, uitleg en het maken van bezwaar. Zo houden ze controle over hun gegevens. Ook kunnen ze zich verzetten tegen oneerlijke beslissingen door AI.
  • Kinderen verdienen extra bescherming. Ze mogen niet worden blootgesteld aan persoonlijke reclame.
  • De overheid is verantwoordelijk voor de wettelijke naleving van regels en toezicht. De overheid moet actief invulling geven aan die taak.
  • Consumenten hebben recht op openbare handhaving als er negatieve gevolgen zijn door AI.
  • Producenten moeten AI-aangedreven producten tijdens hun hele levenscyclus (digitaal) veilig houden.

Er komt een Europese Verordening voor AI aan. De Consumentenbond geeft input voor deze plannen. We willen dat de hierboven genoemde punten straks in de wet verwerkt zijn.

Meldpunt Dupe van je data 

Bedrijven verzamelen en verwerken steeds meer persoonlijke gegevens. Dat doen zij om klanten beter te helpen en om nieuwe klanten te winnen. Maar de gegevens kunnen ook gebruikt worden om mensen uit te sluiten. Dat kan heel goed de uitkomst zijn van een algoritme. Soms werkt deze met verkeerde informatie en dan heb je recht op inzage.   

Ga naar het meldpunt Dupe van je data

Nieuw & interessant

  • blokkeer-app-voor-kind
    19 apr.

    In-app aankopen beveiligen

    Veel apps kun je gratis installeren. Binnenin de app moet je voor bepaalde inhoud vaak betalen. Hoe beveilig je deze aankopen?
  • beeldFB-2-1200x800px
    Nieuws | 15 mrt.

    Consumentenbond en DPS winnen privacyzaak tegen Facebook en starten nieuwe zaak

    De Consumentenbond en de Data Privacy Stichting (DPS) hebben de rechtszaak over de bescherming van privacyrechten tegen Facebook gewonnen. Met de uitspraak is de weg vrij voor een schadevergoeding voor Nederlandse consumenten. Daarnaast beginnen de Consumentenbond en DPS direct een nieuwe zaak tegen Facebook.
  • Veilig online opgroeien
    24 nov.

    Apps pushen kinderen om geld uit te geven

    De game-apps Brawl Stars, Clash Royale, Minecraft en Roblox gebruiken allerlei trucjes om kinderen aankopen te laten doen in de app. Wij vinden dit niet kunnen. Kinderen kunnen zo niet veilig online opgroeien.
  • Fitbit_1200x800
    Nieuws | 24 nov.

    Gratis games zetten kinderen onder druk om aankopen te doen

    Gratis games voor smartphones maken het vaak moeilijk of zelfs onmogelijk om zonder aankopen binnen het spel verder te komen. Daarmee zetten spelmakers kinderen onder druk. Dat blijkt uit een steekproef van de Consumentenbond, die wil dat de toezichthouder ingrijpt.