Laajat kielimallit voivat auttaa ääriliikkeitä rekrytoimaan jäseniä. Pysyykö tekoäly asiallisena, vai syntyykö meille ihmisryhmiä ja kulttuureita jakavia tekoälykuplia?

Generatiivinen tekoäly tuntuu tulevan nyt kaikkialle. Olen itse tehnyt eri tekoälypalveluilla lähinnä tämän blogin kuvia ja erilaisia käännöksiä, mutta jos tarkoitusperät ovat synkemmät, tekoäly taipuu moneen.

Niegeriassa esimerkiksi niin sanotut nigerialaiskirjeet ovat saaneet uutta puhtia syväväärennöksistä, kun varsin aidon kuuloiset koneäänet soittelevat ihmisille ja yrityksille.

Britanniassa taas on huolestuttu siitä, että tekoälyä voi käyttää terroristien rekrytoimiseen, kertoo BBC. Esimerkiksi viattoman oloista Character.ai-sovellusta voi käyttää niin, että juttelee AI:n kehittämän William Shakespearen tai Socrateksen kanssa – mutta voi siellä jutella myös AI-tekoisten Isis-terroristijärjestön johtajien kanssa. Kun brittiläinen lakiasiantuntija kokeili palvelua, botti yritti rekrytoida häntä terroristiksi. Hän itsekin loi Osama bin Laden -hahmon.

Nyt kun kokeilin, palvelun sisältöä oli siivottu, ja Isis-haulla löytyy lähinnä Egyptin jumalatar. Osamaa ei näkynyt.

Tuo palvelu on lähinnä humoristinen ja mahdollisesti ihan hyvä tapa oppia vähän historiaa. Briteissä on kuitenkin herännyt aito huoli siitä, että terroristijärjestöt voisivat ottaa generatiivisen tekoälyn mukaan tehostamaan ajatustensa leviämistä ja jäsenien rekrytointia.

Yhdysvaltalainen ajatushautomo on myös selvittänyt eri tapoja, miten laajoja kielimalleja voisi käyttää turvallisuusuhkien luomiseen. Jos on tarpeeksi ovela, voi tutkimuksen mukaan olemassa oleviakin kielimalleja huijata ja kiertää niiden turvallisuusasetukset. Näin tekoälyä voi käyttää apuna ohjelmien suunnittelemiseen, propagandan levittämiseen ja koulutukseen.

Syntyykö maailmaan tekoälyjä eri kuplille?

On myös mahdollista, että eri yhteiskunnalliset liikkeet luovat omia tekoälyjään. Tai itse asiassa niin jo tapahtuu. Wired-lehden laajassa jutussa kerrotaan äärioikeistolaisten suosiossa olevasta Gab-palvelusta, jolla on oma hahmojen luontiohjelmansa Gab AI.

Se sanoo olevansa sensuroimaton ja ilman vääristymiä. Poliittisen spektrin oikealla laidalla nimittäin ajatellaan lehden mukaan, että ”perinteiset” generatiiviset tekoälyt ovat kallellaan liberaaliin suuntaan, ja että niiden sisältöä sensuroidaan. Äskettäin Googlen Gemini-palvelu menikin vähän överiksi poliittisessa korrektiudessaan, kun se teki mustaihoisia natsisotilaita pyrkiessään huolehtimaan ihmisjoukkojen moninaisuudesta.

Oikean laidan Gab AI -palvelussa ei sievistellä. Siellä pääsee juttelemaan ”Osama bin Ladenin”, ”Stalinin” tai ”Hitlerin” kanssa. Yksikään ei kuulemma kadu mitään. Hahmot jäävät nopeasti junnaamaan paikoilleen, mutta kai nekin kehittyvät ja oppivat perustelemaan tekojaan yhä paremmin. Jos olisi jo valmiiksi kallellaan siihen suuntaan, onnistuisiko jompikumpi herroista suostuttelemaan itselleen uudeksi seuraajaksi?

Syvenevätkö kaikukammiot?

Vaikuttaa siltä, että ihmiset alkavat käyttää tekoälyä yhä enemmän hakukoneena. Vaikka tekoälyt vielä puhuvatkin välillä mitä sattuu, ne paranevat koko ajan.

Suuret yritykset kiinnittävät huomiota stereotypioihin ja vääristymiin, joita niiden mallit saattavat suoltaa.

Mutta jos näitä palveluja on kohtuullisen helppoa luoda, niin nähdäänkö pian lisääkin tekoälyn kuplautumista? Tuleeko tarjolle Kiinan tai Pohjois-Korean generatiivinen tekoäly, tai jokaisen vähänkään isomman aatesuunnan ja uskonnon omat palvelut? Kuinka neutraalisti ne kertovat maailmasta ja ”faktoista”?

Vajaat kymmenen vuotta sitten alettiin puhua kaikukammioista. Niillä tarkoitetaan sosiaalisen median tai internetin paikkoja, joissa samanmieliset saavat tukea ajatuksilleen.

Pelkona voisi siis olla, että tekoäly luo vielä voimakkaammat kaikukammiot, ja tekoälyllä luodut ideologit pääsevät levittämään vaarallista propagandaansa.

Aika pian onneksi todettiin, että vaikka kaikukammioita on, ihmiset eivät usko niihin täysin ja saavat netistä muutakin tietoa.

Eli ehkä ihmiset osaavat lukea tekoälyä ja ymmärtävät olla lähdekriittisiä? Moni osannee lukea tekoälyn juttuja kuin kaunokirjallisuutta. Olihan minustakin jonkin aikaa mielenkiintoista rupatella ”Hitlerin” kanssa.

Mutta vähän toki huolestuttaa, että kun maailmassa rajat vahvistuvat ja railot syvenevät, tekoäly tekee aidoista korkeampia ja kuiluista syvempiä.

Kuva luotu Midjourney-tekoälyllä.