Vihapuhe, spämmi ja muut asiattomuudet ovat häirinneet nettikeskusteluja jo vuosia – ja ongelma on ollut kasvava. Suomen suurimmassa keskusteluyhteisössä haasteeseen tartuttiin pilotoimalla uutta Utopia Moderatoria, jonka teknologia perustuu koneoppimiseen ja tilastollisiin jakaumiin. Utopia Moderator tarkastelee kirjoitusta kokonaisuutena ja pystyy tunnistamaan sen semanttisen sisällön. Tämä on huima edistysaskel verrattuna yksittäisiä sanoja tai sanontoja seuloviin spämmisuodattimiin.

Automaatio parantaa palvelutasoa

Suomi24 Keskusteluihin tulee keskimäärin lähes 20 000 viestiä vuorokaudessa. Osa niistä on asiattomia. Ihmisvoimin on kyetty moderoimaan asiattomiksi ilmoitetut ja suodattimiin jääneet kirjoitukset, mutta keinoälyn avulla pystytään käymään läpi moninkertaisia massoja, kymmeniätuhansia kirjoituksia päivässä. Koneäly työskentelee väsymättä ja tasalaatuisesti vuoden jokaisena päivänä, ja sen avulla moderoinnin palvelutasoa on onnistuttu parantamaan.

Myös yhteisö on ottanut automaatiomoderoinnin pääasiassa hyvin vastaan, vaikka kaikkia sen tulo ei ole miellyttänyt. Käyttäjien aktiivisuus auttaa tekoälyn optimoinnissa, ja on vain hyvä että sitä testataan, koetellaan ja yritetään kiertää.

Taustalla valtava määrä dataa

Jotta tekoäly tietää mitä pitää tehdä, täytyy se sille opettaa. Opetusaineistoksi koottiin suuri määrä ihmisten tekemiä moderointipäätöksiä – sekä asiallisia että poistettuja kirjoituksia. Tätä aineistoa ja siitä saatuja oppeja tekoäly hyödyntää moderoidessaan uusia kommentteja . Mikäli se ei pysty riittävällä varmuudella ratkaisemaan, mitä kirjoitukselle pitäisi tehdä, siirtyy kirjoitus moderointijonoon ja ihminen tekee päätöksen. 

Huomioi nämä kolme asiaa, kun otat tekoälyn avuksesi moderointiin:

  • Tekoäly ei korvaa ihmisälyä

Tekoäly oppii jäljittelemään ihmisen toimia, mutta se ei kuitenkaan ymmärrä sisältöjä samalla tavalla kuin ihminen. Kaikki asiattomuudet eivät jää sen seulaan, vaan perinteistä ilmiantoihin perustuvaa moderointia tarvitaan edelleen.

  • Opeta tekoäly huolella

Tekoäly on tasan niin älykäs kuin sille annettu opetusmateriaali. Jos opetusaineistossa on epäloogisuuksia tai virheellisiä ratkaisuja, tekoäly jäljittelee myös niitä.

  • Suurin osa ratkaisuista osuu oikeaan, mutta kaikkea se ei vielä hoksaa

Tekoälyn touhuja on hyvä pitää silmällä, sillä välillä se poistaa myös viestejä, joista moderoija ei löydä poistoperustetta. Tällöin on syytä tarkistaa, onko opetusmateriaalissa epäloogisuuksia. Uutta opetusaineistoa kertyy jokaisesta moderoijan tekemästä ratkaisusta, ja sillä varmistetaan, että tekoäly pysyy linjauksista ajan tasalla ja oppii jatkuvasti.


 

Kommentit 0

Subscribe to Email Updates