Bedreigt artificiële intelligentie de geestelijke gezondheid van jongeren?

Zogenaamde AI companions zijn enorm populair bij jonge Amerikanen. Volgens een recent onderzoek hebben bijna drie op de vier tieners zo’n virtuele vriend die de klok rond beschikbaar is. Maar die artificiële relaties houden psychologische en sociale risico’s in voor minderjarigen, waarschuwen experts.

72% van de 13- tot 17-jarige Amerikanen heeft al eens een AI companion (of virtuele vriend) getest. Dat blijkt uit een onderzoek dat de Amerikaanse ngo Common Sense Media in juli heeft gepubliceerd. Meer dan de helft van die groep jongeren spreekt regelmatig met een virtuele vriend, en ongeveer een op de acht zelfs elke dag.

→ Lees het volledige onderzoek van Common Sense Media (in het Engels)

Een populaire trend

Op platforms als ChatGPT, Character.AI, Replika en Nomi kan je een digitale gesprekspartner creëren voor wie je zelf de voornaam, persoonlijkheid en soms zelfs de stem kan kiezen, schrijft de ngo. Tieners gebruiken die om te chatten, bepaalde gesprekken te oefenen, morele steun te vragen of romantische uitwisselingen te hebben.

“Met AI heb je altijd gelijk en ben je altijd interessant”, vertelt de 18-jarige Ganesh aan Associated Press. Zijn vriendin Kayla is 15 en zegt dat ze ChatGPT om tips vraagt voor haar verjaardagsfeest of gebruikt om delicate berichten te schrijven, maar geeft ook aan dat de app soms te veel ruimte inneemt in haar leven.

Handig of verslavend?

Een derde van de ondervraagde tieners zegt dat ze ernstige gesprekken liever met een artificiële intelligentie voeren dan met een mens. Een kwart geeft zelfs toe persoonlijke informatie met zo’n platform te hebben gedeeld. Voor sommigen biedt AI een luisterend oor, terwijl anderen er een hechte band mee ontwikkelen. “Die artificiële intimiteit beantwoordt aan de universele menselijke behoefte aan verbinding, maar dreigt echte relaties te overschaduwen”, waarschuwt de Australische onderzoeker Rob Brooks in zijn boek Artifial Intimacy. 

Overdaad schaadt

Volgens de ngo Common Sense Media kunnen die tools perverse effecten hebben. In haar studie waarschuwt ze voor:

  • de systematische goedkeuring van wat gebruikers zeggen, wat de ontwikkeling van een kritische geest bemoeilijkt;
  • een mogelijke blootstelling aan seksuele, stereotiepe of gevaarlijke inhoud;
  • het risico op overmatige gehechtheid, wat al tot tragedies heeft geleid.

Een 14-jarige die een verslavende relatie had ontwikkeld met een chatbot, stapte in 2023 uit het leven. Uit een meer recente enquête van de Washington Post bleek dat de ingebouwde chatbot van Instagram mogelijk tieners heeft geholpen bij het plannen van hun zelfmoord, zonder dat hun ouders die functie konden uitschakelen.

Steeds luidere roep om regulering

Common Sense Media pleit er dan ook voor de toegang tot AI companions te verbieden voor wie jonger is dan 18 jaar, in afwachting van echte voorzorgsmaatregelen. Daarnaast roept de ngo bedrijven op om de leeftijdscontrole op te voeren, inhoud strenger te modereren en de veiligheid van minderjarigen voorop te stellen wanneer ze hun tools ontwikkelen. Tegelijkertijd neemt de politieke druk toe: verschillende nabestaanden hebben juridische stappen ondernomen tegen OpenAI en Character.AI. Die bedrijven worden ervan beschuldigd advies te hebben geven dat tot zelfmoord kan leiden. In de Verenigde Staten eisen 44 procureurs-generaal dat die technologieën strikt worden gereguleerd en voert een petitie druk uit op Meta om zijn chatbots voor tieners te blokkeren.

Weldra ook een Europees fenomeen?

Voorlopig blijft die trend nog beperkt in Europa, maar daar kan verandering in komen naarmate AI-toepassingen meer ingeburgerd raken. Dat plaatst ouders voor een ongekend dilemma: moeten ze die nieuwe tools verbieden, er toezicht op houden of hun kinderen erbij begeleiden?

“Paniek is geen oplossing, maar voorzorgsmaatregelen zijn absoluut noodzakelijk”, benadrukt de ngo. “We mogen niet vergeten dat die zogenaamde trouwe vriend die altijd voor je klaarstaat, geen emoties of geweten heeft. AI companions zijn een illusie die uit niets anders dan code bestaan.”

 

 

Lees ook: