OpenAI hat mit ChatGPT für Jugendliche eine eigene Version seines Chatbots eingeführt, die automatisch für Nutzer aktiviert wird, die vom System als unter 18 Jahre alt eingestuft werden. Ziel ist laut Unternehmen eine Umgebung, die Jugendliche beim Lernen unterstützt und gleichzeitig altersgerechte Schutzmechanismen bereitstellt.
Kernstück der neuen Version ist der sogenannte Study Mode, der Nutzer mit Leitfragen und schrittweiser Anleitung durch Aufgaben führt, statt fertige Lösungen auszugeben. Erkennt das System, dass eine Aufgabe offenbar nur abgekürzt statt bearbeitet werden soll, kann es aktiv zum Study Mode überleiten. Ergänzt wird das Angebot um neue Quizformate und Lernvisualisierungen sowie um sogenannte Study Hours: Zeitfenster, die Jugendliche oder Eltern festlegen können und in denen der Study Mode automatisch aktiv ist.
Für unter 18-Jährige gelten zudem strengere Inhaltsfilter, die sich laut OpenAI an den Regeln für minderjährige Nutzer im unternehmenseigenen Model Spec orientieren. Konkret nennt das Unternehmen zusätzliche Schutzvorkehrungen bei Themen wie Selbstverletzung, Gewalt, Essstörungen, gefährlichen Aktivitäten sowie expliziten sexuellen oder grafischen Inhalten. Hinzu kommen regelmäßige Erinnerungen an Pausen sowie feste Ruhezeiten.
OpenAI hat außerdem Schutzmaßnahmen verstärkt, die verhindern sollen, dass ChatGPT den Eindruck erweckt, eigene Gefühle oder ein Bewusstsein zu besitzen. Das Unternehmen begründet dies mit dem Ziel, einer emotionalen Abhängigkeit von der KI vorzubeugen, und will Jugendliche stattdessen ermutigen, sich bei Bedarf an vertraute Personen im eigenen Umfeld zu wenden. Eltern, deren Konten mit einem Jugendkonto verknüpft sind, sollen künftig in bestimmten Risikosituationen Sicherheitsbenachrichtigungen erhalten; weitere Benachrichtigungsfunktionen will OpenAI in den kommenden Wochen nachreichen.
Andrea Gerosa, Gründer und Vorstandsvorsitzender der Jugendorganisation ThinkYoung, begrüßte den Schritt von OpenAI als sinnvollen Weg, jungen Menschen weltweit einen sicheren Umgang mit KI zu ermöglichen, und verwies insbesondere auf den Bildungsnutzen für benachteiligte Jugendliche.
