Nikolas Kokovlis | Nurphoto | Getty Images
Hollantilainen tuomioistuin on kieltänyt Elon Muskin xAI:n ja sen chatbotin Grokin luomasta tekoälyllä luotuja kuvia aikuisista ja lapsista, mikä lisää yhtiöön kohdistuvaa kasvavaa oikeudellista painetta.
Amsterdamin käräjäoikeus antoi torstaina lain, joka kielsi xAI:ta luomasta ja levittämästä seksuaalisia kuvia, “joissa ihmiset riisutaan osittain tai kokonaan alasti ilman, että he olisivat antaneet tähän nimenomaista lupaa”, ilmenee Googlen käännöksestä oikeuden lausunnosta..
Tuomio, joka on ensimmäinen lajissaan Grokia vastaan Euroopassa, ulottuu lasten seksuaalista hyväksikäyttöä koskevaan materiaaliin ja estää alustaa X, joka tunnettiin aiemmin nimellä Twitter, tarjoamasta Grokia toimintona alueella. xAI:ta uhkaa 100 000 euron (115 000 dollarin) sakko jokaisesta tuomion noudattamatta jättämisestä, ja enimmäissakko on 10 miljoonaa euroa.
Kanteen nosti hollantilainen voittoa tavoittelematon ryhmä Offlimits, joka taistelee verkossa tapahtuvaa seksuaalista hyväksikäyttöä, erityisesti lapsiin ja nuoriin kohdistuvaa hyväksikäyttöä vastaan. Lisäksi xAI määrättiin maksamaan Offlimitsille 2,2 miljoonan euron oikeudenkäyntikulut 14 päivän kuluessa.
“Tuomari veti selvän rajan eilen: teknologia ei ole lisenssi ihmisoikeuksien loukkaamiseen verkossa”, Robbert Hoving, Offlimitsin toimitusjohtaja, sanoi lausunnossaan. “On myös hienoa, että Euroopassa äänestettiin eilen Nudify-työkalujen kieltämisestä. Se on kaksinkertainen juhla, koska se on tärkeää. Sinun pitäisi nauttia samoista verkkooikeuksista kaikissa Euroopan maissa.”
CNBC pyysi xAI:ta kommentoimaan päätöstä, mutta ei ole vielä saanut vastausta.
Center for Countering Digital Hate (CCDH) mukaan Grok loi arviolta kolme miljoonaa seksualisoitua kuvaa 29. joulukuuta ja 9. tammikuuta 2026 välisenä aikana. Se havaitsi, että yli 23 000 näistä kuvista näytti kuvaavan lapsia.
xAI muutti tammikuussa estämään Grokia luomasta seksualisoituja kuvia oikeista ihmisistä X:ssä tammikuussa, ja rajoitus koskee kaikkia käyttäjiä, myös maksullisia tilaajia. Offlimits kuitenkin havaitsi, että rajoitukset ohitettiin helposti, ja tuomari katsoi, että sen toimenpiteet eivät riittäneet suojaamaan käyttäjiä asianmukaisesti.
xAI:ta vastaan on nostettu lukuisia oikeusjuttuja, ja Baltimoresta tuli tiistaina ensimmäinen Yhdysvaltain suurkaupunki, joka haastaa yrityksen oikeuteen kaupungin kuluttajansuojalakien rikkomisesta ja Grokin ja X:n petollisen markkinoinnista käyttäjille turvallisina.
Valituksessa mainittiin “laita hänet bikineihin” -trendi, jossa Grokia käytettiin muiden ihmisten kuvien alastomuuttamiseen. Myös xAI:n toimitusjohtaja Musk osallistui jakamalla kuvan itsestään Grokin luomissa bikineissä.
Lisäksi kolme Tennesseessä asuvaa teini-ikäistä haastoi xAI:n oikeuteen viime viikolla, kun Grok loi sisältöä, joka esitti heidät seksuaalisissa asennoissa ja skenaarioissa.
Samaan aikaan Euroopan komissio käynnisti tammikuussa xAI:ta koskevan tutkimuksen, joka koskee lasten ja muiden henkilöiden seksuaalista materiaalia ilman yhteisymmärrystä, ja sitä tutkitaan digitaalipalvelulain (DSA) nojalla.
Ison-Britannian verkkoturvallisuuden sääntelyviranomaiset Ofcom ja Information Commissioner’s Office ovat käynnistäneet omat erilliset tutkimuksensa X:stä ja seksualisoitujen kuvien levittämisestä ilman suostumusta.
Vaikka laajempaa päätöstä ei ole pantu täytäntöön kaikkialla Euroopassa, Kaakkois-Aasian maat Malesia ja Indonesia estivät pääsyn Grokiin tammikuussa, koska se tuotti ei-sopimukseen perustuvaa seksuaalista sisältöä “X Corp:n toistuvien epäonnistumisten vuoksi” tekoälytyökaluun liittyvien riskien korjaamisessa.
