Tässä valokuvassa, Chongqing, Kiina, 16. heinäkuuta 2025, henkilöllä on kädessään älypuhelin, jossa näkyy xAI:n kehittämän Grok 4 AI -chatbotin virtuaalinen anime-tyylinen avustajahahmo Ani, jonka taustalla näkyy Grok-logo.
Cheng Xin|Getty Images
Elon Muskin xAI on parhaillaan USA:n tutkinnan edessä, jota johtaa Kalifornian oikeusministeri Rob Bonta sen jälkeen, kun sen tekoälyn chatbot ja kuvageneraattori Grok mahdollistivat oikeiden ihmisten valokuviin perustuvien ei-yhteiskuvien luomisen ja levittämisen.
Internet Watch Foundationin tutkimuksen mukaan joissakin tapauksissa Grok antoi käyttäjille mahdollisuuden luoda kuvia alaikäisistä lähes pukeutumattomina.
“xAI näyttää helpottavan massatuotantoa ilman yhteisymmärrystä syväfake-intiimikuvia, joita käytetään naisten ja tyttöjen häiritsemiseen Internetissä, myös sosiaalisen median alustan X kautta”, Bonta sanoi keskiviikkona antamassaan lausunnossa.
Oikeussyyttäjä sanoi, että hänen toimistonsa tutkii xAI:n “Grokin avulla tuotetun seksuaalisesti avoimen materiaalin leviämistä ilman suostumusta”.
Yhdysvaltain tutkinta seurasi nopeampaa vastausta useilta kansainvälisiltä valtion virastoilta, mukaan lukien Intia, Malesia, Indonesia, Irlanti ja Australia, sekä Euroopan komission tutkimusta.
CNBC:n aiempien raporttien mukaan Malesia ja Indonesia ovat ryhtyneet toimiin keskeyttääkseen xAI:n Grokin käytön, kunnes ongelma on ratkaistu.
Tämä on kehittyvä tarina, tarkista päivitykset.
