ASV senatori pieprasa atbildes no sociālo mediju gigantiem: kā tiks apturēta seksualizēto deepfake satura plūsma?
Digitālās laikmeta ēnā aug jauns un bīstams fenomens, kas apdraud privātumu, drošību un garīgo veselību. ASV Senātā vairāki senatori ir pacēluši balsi, pieprasot no lielākajiem tehnoloģiju uzņēmumiem skaidru atbildi – ko viņi dara, lai apturētu seksualizēto deepfake videomateriālu izplatību savās platformās? Vēstule, kas nosūtīta uzņēmumu X, Meta, Alphabet, Snap, Reddit un TikTok vadītājiem, ir skaidrs signāls: laiks tukšiem solījumiem ir beidzies, tagad ir jārāda pierādījumi.
Kas ir deepfake un kāpēc tas ir tik bīstams?
Deepfake tehnoloģija, kas balstīta uz mākslīgo intelektu, ļauj hiperreālistiski uzklāt jebkura cilvēka seju uz cita personāža ķermeņa videomateriālā. Ja sākumā šī tehnoloģija izraisīja izbrīnu, tad ātri vien tā kļuva par vardarbības un izmantošanas ieroci. Seksualizēti deepfake video, kurās bez atļaujas tiek izmantotas cilvēku sejas, ir īpaši nežēlīga kibervardības forma. Tās var iznīcināt reputāciju, izraisīt smagas psiholoģiskas traumas un bieži vien ir mērķtiecīgi vērstas pret sievietēm, lai tās pazemotu, iebiedētu vai izspiestu.
Senatoru prasības: nevis vārdi, bet pierādījumi
Vēstulē, ko parakstījuši senatori no abām partijām, uzsvērts, ka platformām jābūt proaktīvām. Senatori nepiekrīt vienkāršai reakcijai pēc fakta, kad kaitējums jau ir nodarīts. Viņu prasības ir konkrētas:
* Jāsniedz detalizēta informācija par esošajiem iekšējiem noteikumiem un tehniskajiem aizsardzības mehānismiem, kas novērš šāda satura izplatīšanu.
* Jāizklāsta, kā tiek īstenota šo politiku izpilde un kādi resursi tam tiek atvēlēti.
* Jāprecizē, kādi soļi tiek veikti, lai palīdzētu upuriem – no satura ātras noņemšanas līdz tiesiskam atbalstam.
* Jārada skaidrs plāns nākotnei, kā uzlabot tehnoloģijas un sadarbību, lai apkarotu šo draudu.
Platformu atbildība un esošie izaicinājumi
Lai gan lielākajai daļai platformu ir politika pret nepiekrišanas balstītu intīmo saturu, deepfake tehnoloģija apsteidz regulējumu. Kļūstot arvien pieejamākai un kvalitatīvākai, šādu materiālu radīšana un izplatīšana ir kļuvusi par masu problēmu. Moderatori ar milzīgu satura plūsmu bieži vien nespēj laikus atpazīt visus pārkāpumus, it īpaši, ja saturs tiek ātri izplatīts slēptos kanālos vai privātajās grupās.
Kāda varētu būt nākotne bez stingras kontroles?
Ja šī problēma paliks nekontrolēta, sekas varētu būt postošas sabiedrībai. Ticība digitālajai informācijai var pilnībā sagrūt. Jebkurš var kļūt par mērķi, un upuru psiholoģiskais cīņas ceļš bieži ir vientuļš un sarežģīts. Turklāt šāda satura brīva cirkulēšana normalizē digitālo seksuālo vardarbību un pastiprina jau esošās nevienlīdzības.
Ko šis prasījums nozīmē lietotājiem Latvijā un visā pasaulē?
Šis ASV senatoru solis ir signāls visai pasaulei, ieskaitot Latviju. Tas parāda, ka digitālās drošības un ētikas jautājumi kļūst par globālu politisko prioritāti. Latvijas lietotājiem tas atgādina par nepieciešamību būt vērīgiem: kritiski izvērtēt saturu, neizplatīt aizdomīgus materiālus un ziņot platformām par pārkāpumiem. Tas arī mudina vietējos likumdevējus apsvērt stingrāku regulējumu, kas aizsargātu iedzīvotājus no digitālās vardarbības.
Cīņa pret seksualizētiem deepfake materiāliem ir sarežģīta, taču ASV senatoru pieeja liecina, ka spiediens uz tehnoloģiju gigantiem pieaug. Nākamais solis būs vērot, kā uzņēmumi reaģēs – vai viņi patiešām iesaistīsies cīņā ar šo ļaunprātīgo tehnoloģijas izmantošanu, vai arī to atbildes paliks tikai pieklājīgas formas pēc. Viena ir skaidra: lietotāju drošība digitālajā vidē vairs nevar būt otrajā plānā.