OpenAI introduceert ChatGPT for Teens, een speciale versie van ChatGPT voor gebruikers van 13 tot en met 17 jaar. De nieuwe omgeving legt meer nadruk op leren en bevat extra veiligheidsmaatregelen en ouderlijk toezicht.
OpenAI wil jongeren meer mogelijkheden bieden om AI te gebruiken voor leren, ontdekken en het ontwikkelen van nieuwe vaardigheden. Tegelijkertijd moet ChatGPT voor tieners rekening houden met de specifieke risico’s die voor deze leeftijdsgroep kunnen gelden. Daarom introduceert het bedrijf ChatGPT for Teens, met strengere beschermingen die standaard zijn ingeschakeld.
Automatische bescherming
Tieners die aangeven tussen de 13 en 17 jaar oud te zijn, worden automatisch in de omgeving voor tieners geplaatst. OpenAI gebruikt daarnaast leeftijdsvoorspelling om gebruikers van wie het systeem inschat dat ze jonger dan 18 zijn, naar deze omgeving over te zetten.
De bescherming richt zich onder meer op onderwerpen als zelfbeschadiging, geweld, eetstoornissen, gevaarlijke activiteiten en expliciete seksuele of gewelddadige inhoud. OpenAI zegt daarbij de nadruk te leggen op leeftijdsgerichte bescherming zonder de mogelijkheden om te leren, creëren en experimenteren onnodig te beperken.
Ook moet ChatGPT voor tieners voorkomen dat er een ongezonde emotionele band tussen gebruiker en chatbot ontstaat. Volgens de aangepaste richtlijnen mag ChatGPT tegenover minderjarigen geen romantische taal gebruiken, emotionele afhankelijkheid aanmoedigen of suggereren dat het zelf gevoelens of bewustzijn heeft.
Gericht op leren
Een belangrijk onderdeel van ChatGPT for Teens is ondersteuning bij school en leren. OpenAI wijst daarbij op Study Mode, waarbij de chatbot niet direct een antwoord geeft, maar met vragen en stapsgewijze uitleg probeert de leerling zelf tot een oplossing te laten komen.
Daar komen nieuwe functies bij. Zo kan een Responsible Homework Reminder herkennen dat een leerling waarschijnlijk probeert een opdracht simpelweg door ChatGPT te laten maken. De chatbot kan dan doorverwijzen naar Study Mode. Ook komen er quizzen en Learning Visualizations om kennis te oefenen en ingewikkelde onderwerpen inzichtelijker te maken.
Met Study Hours kunnen tieners of hun ouders bovendien bepaalde momenten instellen waarop Study Mode standaard actief is. Daarmee wil OpenAI AI-gebruik meer onderdeel maken van een gezonde studieroutine.
Ouders
De nieuwe tienerversie sluit aan op de bestaande mogelijkheden voor ouderlijk toezicht. Ouders die hun account aan dat van hun tiener hebben gekoppeld, kunnen onder meer Quiet Hours instellen en bepaalde instellingen beheren. Ook kunnen zij in beperkte situaties veiligheidsmeldingen ontvangen wanneer er sprake is van een hoog risico.
OpenAI breidt die meldingen uit met waarschuwingen rond eetstoornissen. Het bedrijf benadrukt dat daarbij zo min mogelijk informatie met ouders wordt gedeeld en dat meldingen vooral bedoeld zijn voor situaties waarin ondersteuning buiten de chatbot belangrijk kan zijn.
Daarnaast krijgen tieners waarschuwingen wanneer zij mogelijk gevoelige of privéafbeeldingen willen uploaden. Tijdens de introductie worden zij gewezen op de specifieke leer- en veiligheidsfuncties. OpenAI wil bovendien duidelijk blijven maken dat ChatGPT een AI-systeem is en geen mens.
AI leren begrijpen
OpenAI kondigt tegelijk een samenwerking met CodeAI aan. Die samenwerking moet jongeren en docenten helpen om niet alleen AI te gebruiken, maar ook te begrijpen hoe de technologie werkt. Daarbij ligt de nadruk op het kritisch beoordelen van AI-uitkomsten, het herkennen van fouten en het weten wanneer een antwoord van AI niet moet worden vertrouwd.
OpenAI verwijst daarbij naar verschillende projecten waarbij tieners AI gebruiken voor meer dan alleen huiswerk. Zo ontwikkelden drie scholieren uit Virginia WiFind, een systeem dat bestaande wifi-signalen gebruikt om mogelijk overlevenden onder puin te lokaliseren. Een andere tiener ontwikkelde met hulp van ChatGPT Audemy, een platform met audiogames voor blinde leerlingen.
Volgens OpenAI laten dergelijke voorbeelden zien dat jongeren AI ook kunnen inzetten om nieuwe vaardigheden te leren en concrete problemen op te lossen. De nieuwe tienerversie moet daarbij zorgen voor een omgeving waarin die mogelijkheden samengaan met extra bescherming.
Doorlopend onderzoek
OpenAI zegt de veiligheidsmaatregelen voor jongeren voortdurend te blijven onderzoeken en verbeteren. Het bedrijf gebruikt daarbij onder meer ontwikkelingswetenschap, deskundigen en tests van de eigen modellen. Ook worden nieuwe evaluaties voor gebruikers onder de 18 jaar gepubliceerd in de system cards van de modellen.
Daarbij wordt gekeken naar de prestaties van de AI bij onder meer zelfbeschadiging, eetstoornissen, geweld, leeftijdsgebonden producten en diensten en seksuele inhoud. OpenAI zegt hiermee meer inzicht te willen geven in de manier waarop zijn modellen omgaan met situaties die voor tieners extra gevoelig kunnen zijn.
ChatGPT for Teens is daarmee niet alleen een versie van ChatGPT met strengere inhoudsfilters. OpenAI probeert de dienst nadrukkelijker te positioneren als hulpmiddel bij leren, waarbij de chatbot jongeren moet helpen zelfstandig te begrijpen in plaats van simpelweg antwoorden voor hen te produceren.
Wat betekent dit voor HCC-leden?
Voor HCC-leden met kinderen of kleinkinderen in de tienerleeftijd is de introductie vooral relevant omdat AI steeds vaker onderdeel wordt van onderwijs en huiswerk. De extra beveiligingen en mogelijkheden voor ouderlijk toezicht kunnen helpen om jongeren op een meer verantwoorde manier met ChatGPT kennis te laten maken. Tegelijk blijft het belangrijk om kinderen te leren dat AI-antwoorden niet automatisch correct zijn en dat menselijke begeleiding en controle nodig blijven.
Standpunt van HCC
HCC vindt het belangrijk dat jongeren de kansen van nieuwe technologie leren kennen, maar ook leren omgaan met de risico’s ervan. AI-geletterdheid hoort daar nadrukkelijk bij. Een speciale omgeving met extra bescherming kan daarbij helpen, maar technische maatregelen alleen zijn niet voldoende. Ouders, scholen en jongeren zelf moeten samen leren hoe AI verantwoord, kritisch en veilig kan worden gebruikt.
