Wie sicher ist die Nutzung von Character.AI für Kinder?

In den letzten Jahren sind virtuelle Assistenten und KI-basierte Interaktionsplattformen immer populärer geworden. Plattformen wie Character.AI üben dabei auch auf Kinder eine große Faszination aus. Denn dort können Nutzer*innen mit allerlei Charakteren kommunizieren, die von Künstlicher Intelligenz (KI) gesteuert werden. Wir erklären, was Eltern und pädagogische Fachkräfte über Character.AI wissen müssen, um Kinder kompetent zu begleiten.

Bei Character.AI handelt es sich um eine Plattform, die es Nutzer*innen ermöglicht, mit einer Vielzahl von virtuellen Charakteren zu interagieren. Dabei kann aus einer schier endlosen Zahl unterschiedlicher Charaktere ausgewählt werden. Beispielsweise stehen historische Persönlichkeiten, Fantasiegestalten oder auch digitale Versionen von fiktiven Charakteren aus Filmen und Serien zur Verfügung. Nutzer*innen können diese KI-Charaktere nach Belieben ansprechen und mit ihnen in Dialog treten. Die Interaktion findet dabei über ein Chatfenster statt und ist aktuell meist auf den Austausch mit nur einem Charakter beschränkt. Es besteht auch die Möglichkeit, sich die Antworten des Charakters von einer KI-generierten Stimme vorlesen zu lassen. Zudem werden zunehmend Elemente aus anderen KI-Bereichen integriert. So können Charaktere beispielsweise mit einem KI-generierten Bild versehen und ihre Avatare animiert werden.

Die große Zahl von Charakteren auf der Plattform resultiert aus der Tatsache, dass alle Nutzer*innen Charaktere erstellen und für die Öffentlichkeit zugänglich machen können. Dafür müssen lediglich einige Felder in einem Editor ausgefüllt werden, zum Beispiel ein Lebenslauf des Charakters. Den Rest übernimmt die KI.

Die Gespräche können ein einfaches Hin und Her von Fragen und Antworten sein, aber auch komplexe Szenarien, die eher wie ein interaktiver Roman wirken. Hierbei ist insbesondere die Qualität der Charaktergestaltung und der verwendeten Prompts von entscheidender Bedeutung.

Mehr erfahren auf der Quelle: https://www.klicksafe.de/news/wie-sicher-ist-die-nutzung-von-characterai-fuer-kinder