Nigeriassa tapettiin kesällä ainakin tusinan verran ihmisiä osittain somessa levinneiden väärien kuvien tähden, kertoi BBC loppuvuodesta.
Kyseessä olivat kuvat tapetuista ihmisistä ja palaneista kodeista, joiden väitettiin liittyvän sellaiseen, että muslimit tappoivat kristittyjä Nigerian Gashisin maakunnassa. Se ei ollut totta. Gashisissa oli kyllä ollut väkivaltaisuuksia tuolloin, mutta kuvat olivat vanhoja netissä kiertäneitä otoksia, joilla tässä yhteydessä vain lietsottiin lisää väkivaltaa.
Kun BBC kertoi tästä Facebookille, väärää tietoa levittäneen miehen tili suljettiin. Kävi ilmi, että Facebookin Nigerian alihankkijalla oli töissä neljä ihmistä, jotka tarkastavat sisällön oikeellisuutta. Maassa on 24 miljoonaa Facebookin käyttäjää.
Tapaus kuulostaa Long Playn aiemmin viime vuonna raportoimasta tapauksesta, jossa Myanmarissa Facebookin yksityisviesteinä levisi kiertokirjeitä, joissa lietsottiin väkivaltaa. Myanmarilaisjärjestöjen mukaan Facebookilla ei ainakaan tuolloin ollut yhtään burmankielistä moderaattoria palkkalistoillaan, vaan sisällön seuraamisen hoiti algoritmi.
Järjestöt ilmoittivat viesteistä Facebookille, ja ne lopulta estettiin.
* * *
Teknologia kehittyy huimaa vauhtia, ja jo nyt voidaan tekoälyn avulla luoda aidon oloisia videoita ja ääninauhoja, joissa esimerkiksi poliitikot tai toisen etnisen ryhmän edustajat saadaan tekemään tai sanomaan mitä vain. Katsokaa vaikka tänne tai tänne.
Ilmeisesti myös puhelinsoittoja voidaan feikata niin, että kuulostaa siltä kuin joku tuttu soittaisi ja puhuisi jotain aivan höpöjä.
Voimme siis pian astua erittäin kuumottavien valeuutisten aikaan. Ainakin kaksi suurta käyttötarkoitusta tulee mieleen, johon ihmiskunta tätä tietokoneiden uskomatonta taitoa tulee hyödyntämään: porno ja vihanlietsonta.
Kansankiihottamisessa liioittelua ja lietsontaa on käytetty varmasti aina. Itse kirjoitin toiseen romaaniini siitä, kuinka Mosambikin sisällissota sai ison ”innoituksensa” Muedan verilöylystä. Portugalilaiset siirtomaaisännät ampuivat vuonna 1960 väkijoukkoon ja tappoivat monia ihmisiä. Tämän verran tiedetään varmasti. Uhrien määrästä sen sijaan kiistellään.
Virallinen historiankirjoitus (joka aikanaan lietsoi ihmiset sotaan) puhuu kuudesta sadasta tapetusta. Vaikka sen ”tiedon” takana on sisällissodan toinen osapuoli, esimerkiksi uutistoimisto AFP raportoi siitä täytenä totuutena. Tutkijoiden mukaan uhreja saattoi todellisuudessa olla vain joitakin kymmeniä. Kukaan ei tiedä varmaksi, kaikki perustuu huhuihin.
Eli osattiin sitä käyttää hyperbolaa ennenkin. Jatkossa osataan vielä paremmin.
Kenen sitten pitäisi puuttua liioitteluun ja lietsontaan? Köyhien maiden hallituksilla ei sellaiseen resursseja ole, enkä nyt muutenkaan ole täysin varma, ovatko monien köyhien maiden pyrkimykset rajoittaa sosiaalista mediaa kovinkaan hyvä juttu. Tai siis olen varma: kauhean huono juttu ovat.
Facebookilla ja kumppaneilla ei välttämättä ole kovin suurta intressiä suitsia käyttäjiään. Mutta kai se niiden homma olisi. Vaikka sitten lainsäädännöllä pakottaen.