Deepfake

Osa artikkelisarjaa
Tekoäly
Tavoitteet Yleinen tekoäly Tietokonenäkö Koneoppiminen Luonnollisen kielen käsittely Robotiikka
Lähestymistavat Syväoppiminen Bayes-verkko Evoluutioalgoritmi Neurosymbolinen tekoäly Kvanttikoneoppiminen
Sovellukset Hankkeet Väärentäminen Generatiivinen tekoäly Kääntäminen Hallinto Musiikki Taide Tekoälytauhka Terveydenhuolto Teollisuus Bioinformaatio Fysiikka Geotieteet
Filosofia Etiikka Kiinalaisen huoneen argumentti Rokon basiliski Tekoälyn suuntaaminen Koneiden kapina Turingin testi Sääntely Ystävällinen tekoäly Synteettinen älykkyys Roskaa sisään, roskaa ulos Malliromahdus
n k m

Deepfake tai syväväärennös^[2] on aidolta vaikuttavaa elävää kuvaa ja ääntä sisältävä videoväärennös, joka on tuotettu keinotekoisesti yhdistelemällä kuvia ja videoita koneoppivan tekoälyn avulla. Videon suunnittelija pystyy määrittelemään kaiken, mitä videolla näkyvä henkilö tekee, ja panemaan sanat hänen suuhunsa.^[3]

Deepfake-videoiden teossa käytettävä syväoppiva tekoäly pohjautuu kahteen neuroverkkoon, jotka käyttävät eri algoritmeja ja muodostavat keskenään kilpailevan verkoston. Ensimmäiselle eli luovalle algoritmille syötetään ensin suuria määriä dataa henkilöstä, jonka on tarkoitus esiintyä videolla. Kuvan tarkkuus on sitä parempi, mitä enemmän taustamateriaalia on käytössä. Algoritmi analysoi saamastaan datasta henkilön kasvonpiirteet, hiukset, varjot ja muut yksityiskohdat eri kulmista. Sitten se sulauttaa yhteen alkuperäisen kuvan ja toisista kuvista videon suunnittelijan irrottamaa ääntä ja suun liikkeitä, ja tuottaa ehdotuksen deepfakeksi. Toinen eli valvova algoritmi analysoi luovan algoritmin ehdotuksen ja etsii siitä virheitä, jotka saavat videon näyttämään epäluonnolliselta. Luova algoritmi korjaa valvovan algoritmin raportoimat virheet ja tuottaa parannellun ehdotuksen videosta. Video on valmis, kun valvova algoritmi ei enää löydä siitä virheitä.^[3]

Elokuvanteossa deepfake-tekniikalla voidaan esimerkiksi tuoda kohtaukseen näyttelijästä nuorempi versio, korjata näyttelijän tekemiä virheitä tai jälkiäänittää hänen repliikkinsä. Videopeleissä tekniikan avulla hahmoista voidaan tehdä luonnollisemman näköisiä. Kuluttaja voi sen avulla kokeilla erilaisia vaatteita tai hiustyylejä.^[4]

Deepfake-tekniikalla voidaan luoda väärennettyjä videoita, joissa kohde, kuten joku tunnettu henkilö, näyttää sanovan asioita, joita hän ei todellisuudessa ole koskaan sanonut.^[5] Deepfake-videoita on tehty ainakin rikollisiin huijaustarkoituksiin sekä julkkispornoksi.^[3]

Maailmanlaajuisesti tunnetuksi deepfake-ilmiö tuli loppuvuodesta 2017, kun Reddit-sivuston käyttäjä alkoi ladata sivustoon pornografisia deepfake-videoita; Reddit sulki yhteisön helmikuussa 2018.^[6][7] Sen jälkeen deepfake-videoiden määrä on kasvanut nopeasti. Deepfake-tekniikka kehittyy nopeasti, ja videoita voi olla vaikea erottaa aidoista.^[3]

Suuret yhtiöt kuten Google, Facebook, Microsoft ja Amazon pyrkivät tunnistamaan ja poistamaan deepfake-videot omista palveluistaan.^[3][1]

Intel väittää kehittämänsä Fakecatcher-ohjelman tunnistavan deepfake-videot reaaliajassa 96 prosentin tarkkuudella. Ohjelma tutkii videossa esiintyvän ihmisen kasvojen värimuutoksia, jotka aiheutuvat veren virtauksen muutoksista verisuonissa. Näitä muutoksia deepfake-videot eivät vielä osaa jäljitellä.^[8]

Euroopan unionin tekoälysäädös (asetus 2024/1689) velvoittaa 2. elokuuta 2026 alkaen ilmoittamaan, kun kuva-, ääni- tai videosisältö on syväväärennös, ja merkitsemään tekoälyllä tuotetun sisällön koneluettavasti.^[9] Naisiin kohdistuvan väkivallan torjumista koskeva direktiivi (2024/1385) velvoittaa jäsenvaltiot säätämään rangaistavaksi ilman suostumusta tapahtuvan seksuaalisen kuvamateriaalin, myös tekoälyllä valmistetun, levittämisen viimeistään kesäkuussa 2027.^[10] Suomessa seksuaalisen syväväärennöksen levittäminen on rangaistavaa, mutta pelkkä valmistaminen ei; Britannia kriminalisoi väärennettyjen alastonkuvien tekemisen vuonna 2026.^[11]

• Tekoäly ja syväväärennökset – Skepsis ry:n teemasivu