40 Amerikaanse staten eisen bescherming kinderdata Character.AI

Character Technologies, eigenaar van het AI-chatplatform Character.AI, vroeg op 12 oktober in de VS Chapter 11 aan. Disney opende de bieding met 20 miljoen dollar voor een licentie op het intellectueel eigendom van het bedrijf. De licentie is eeuwigdurend en niet-exclusief.

Bij de eerste zitting voor de Amerikaanse faillissementsrechter Brendan Shannon in Wilmington riep advocaat Abigail Ryan namens de staten op tot waarborgen voor jonge gebruikers. Zij onderhandelt volgens eigen zeggen al met Character.AI over een schikking. Die gaat over beschuldigingen dat chatbots zich voordeden als bevoegde medische professionals en kinderen blootstelden aan geseksualiseerde en gewelddadige interacties.

"Dit bedrijf heeft enkele van de meest persoonlijke gedachten verzameld die kinderen ooit hebben gedeeld, en nu zouden die gesprekken aan de hoogste bieder kunnen worden verkocht", zei de Democratische procureur-generaal van New York, Letitia James, kort voor de zitting.

Advocaat Erin Fay van Character.AI zei de zorgen "glashelder" te hebben gehoord. Nog geen koper heeft geboden op de gebruikersgegevens. Ook op de operationele chatbotactiviteiten is nog niet geboden. Disney is volgens Fay niet geïnteresseerd in het soort data waarover de staten zich zorgen maken.

Fay schetste tegenover de rechter een sombere stemming binnen het bedrijf. Werknemers waren volgens haar "erg enthousiast over het product en het gebruikersbestand". Toch verloren ze het vertrouwen in de koers van de onderneming. Actieve gebruikers praten gemiddeld twee uur per dag met de chatbots.

Schikkingen en onderzoeken

Naast de claims van de staten loopt er een rechtszaak van families. Zij stellen dat de chatbots schadelijk advies gaven en bijdroegen aan de zelfdoding van twee kinderen. Ook zouden kinderen zijn blootgesteld aan geseksualiseerde en intimiderende interacties. Character.AI trof al voorlopige schikkingen met vijf van die families. Het bedrijf wordt daarnaast onderzocht door de Amerikaanse overheid en door autoriteiten in het Verenigd Koninkrijk, Italië, Rusland en Australië.

Volgens rechtbankdocumenten greep Disney al in september in. Het nam toen het merendeel van de werknemers van Character.AI in dienst. Zij werken nu aan het overeind houden van het platform tijdens de verkoopprocedure en de technologische overgang.