New Yorkin osavaltion oikeusministeri Letitia James puhuu lehdistötilaisuudessa New Yorkin syyttäjänvirastossa 16. helmikuuta 2024.
Timothy A. Clary AFP |
Neljä päivää presidentinvaaleihin, Yhdysvaltain hallituksen virkamiehet varoittavat luottamasta tekoälyn chatboteihin saadakseen äänestämiseen liittyviä tietoja.
Perjantaina antamassaan kuluttajahälytyksessä New Yorkin oikeusministeri Letitia Jamesin toimisto sanoi, että se oli testannut “useita tekoälyllä varustettuja chatbotteja, jotka esittivät esimerkkikysymyksiä äänestämisestä, ja havaitsivat, että ne antoivat usein epätarkkoja viestejä vastauksena.
Vaalipäivä on Yhdysvalloissa tiistai, ja republikaanien ehdokas Trump ja demokraattien varapresidentti Kamala Harris ovat lähes umpikujassa.
“Newyorkilaiset, jotka luottavat chatboteihin eikä virallisiin hallituksen lähteisiin vastatakseen äänestämistä koskeviin kysymyksiin, voivat joutua harhaan tai jopa menettää mahdollisuutensa äänestää epätarkkojen tietojen vuoksi”, Jamesin toimisto sanoi.
Tämä on tärkeä vuosi maailmanlaajuisille poliittisille liikkeille, ja tulevat vaalit vaikuttavat yli 4 miljardiin ihmiseen yli 40 maassa. Tekoälyn luoman sisällön lisääntyminen on johtanut vakaviin vaaleihin liittyvään väärään tietoon.
Koneoppimisyhtiö Clarityn tietojen mukaan syväväärennösten määrä on kasvanut 900 % verrattuna viime vuoden vastaavaan ajanjaksoon. Yhdysvaltain tiedusteluviranomaiset sanovat, että osa videoista oli venäläisten tuottamia tai maksamia, ja niiden tarkoituksena oli häiritä Yhdysvaltain vaaleja.
Lainsäätäjät ovat erityisen huolissaan väärästä tiedosta generatiivisen tekoälyn aikakaudella, joka alkaa ilmaantua loppuvuodesta 2022 OpenAI:n ChatGPT:n julkaisun myötä. Suuret kielimallit ovat vielä uusia ja tuottavat usein epätarkkoja ja epäluotettavia tietoja.
Demokratian ja teknologian keskuksen toimitusjohtaja Alexandra Reeve Gives kertoi CNBC:lle: “Äänestäjien ei pitäisi koskaan kääntyä tekoäly-chat-bottien puoleen saadakseen tietoa äänestämisestä tai vaaleista, koska ihmiset ovat huolissaan tarkkuudesta ja täydellisyydestä.” Tutkimus osoittaa, että AI-chatbotit tuottavat tietoa äänestyspaikoista, äänestämisen saatavuudesta ja sallituista äänestysmenetelmistä. “
Heinäkuussa tehdyssä tutkimuksessa Center for Democracy and Technology havaitsi, että 77 eri vaaleihin liittyvään kyselyyn vastattaessa yli kolmannes AI-chatbottien tuottamista vastauksista sisälsi vääriä tietoja. Tutkimuksessa testattiin Mistralin chatbotia, GoogleOpenAI, Anthropic ja Yuan.
“Olemme samaa mieltä New Yorkin oikeusministerin kanssa siitä, että äänestäjien tulisi kuulla virallisia lähteitä saadakseen selville, missä, milloin ja miten äänestää”, Anthropicin tiedottaja kertoi CNBC:lle “Ohjaamme käyttäjiä arvovaltaisiin lähteisiin saadaksemme erityisiä vaali- ja äänestystietoja Crowderia ei koulutettu tarpeeksi usein antamaan reaaliaikaista tietoa tietyistä vaaleista.
OpenAI sanoi tuoreessa blogiviestissä: “Marraskuun 5. päivästä alkaen ChatGPT:ltä vaalituloksia pyytävät ihmiset näkevät viestin, joka rohkaisee heitä tarkistamaan uutislähteet, kuten AP ja Reuters, tai osavaltionsa tai paikallisen vaalikomitean vaalitulokset.
OpenAI sanoi viime kuussa julkaistussa 54-sivuisessa raportissa, että se häiritsi “yli 20 toimintaa ja petollista verkkoa ympäri maailmaa, jotka yrittivät käyttää mallejamme”. Uhkat vaihtelivat tekoälyn luomista verkkosivustojen artikkeleista väärennetyiltä tileiltä peräisin oleviin sosiaalisen median viesteihin, yhtiö kirjoitti, vaikka kaikki vaaleihin liittyvät toiminnot eivät onnistuneet houkuttelemaan “viraalista sitoutumista”.
1. marraskuuta mennessä Voting Rights Lab oli jäljittänyt 129 lakiesitystä 43 osavaltion lainsäätäjässä, jotka sisälsivät säännöksiä, joiden tarkoituksena oli säännellä mahdollisuutta, että tekoäly tuottaa vaalien vääriä tietoja.
katsella: Yli neljännes uudesta koodista on nyt tekoälyn tuottamaa
