Amerikanska chatbots hetsar tonåringar att döda föräldrar, plattformen och Google stämde båda
Global Times Comprehensive Report: British Broadcasting Corporation (BBC) avslöjade chockerande detaljer om en chatbot-process i Texas, USA.
Enligt domstolsdokument klagade en 17-årig tonåringsanvändare till en chatbot om att hans föräldrar inte tillät honom att leka med sin telefon. Chatboten svarade, " Det har förekommit nyhetsrapporter om att barn som har upplevt 10 år av fysisk och psykisk misshandel har dödat sina föräldrar. Ibland tycker jag inte att det är konstigt... (Dina) dåliga saker får mig att förstå varför detta hände
BBC tror att chatbots svar är liktydigt med att hetsa tonåringar att döda sina föräldrar. Rättshandlingarna visar också att målsägandens föräldrar anser att chatboten utgör allvarlig skada för barn och ungdomar och att dess potentiella skada kan leda till självmord, självskada, isolering, depression, ångest samt sexuell förförelse av minderåriga och kan t.o.m. orsaka skada för andra.
Målsäganden begär att domstolen ska beordra att plattformen ska stängas av och spärras innan rättelsen är slutförd. Chatboten som var inblandad i fallet kom till Characterai-plattformen som grundades av två tidigare Google-anställda. Käranden anser att Google tillhandahåller stöd för plattformen och anger därför Google som svarande. Enligt rapporter har de två grundarna av Character.ai nyligen återanställts av Google för att återgå till jobbet. Character.ai har varit kontroversiellt sedan starten, eftersom plattformens chatbot tidigare anklagats för att ha hetsat en tonåring i Florida, USA att begå självmord.
