Mazākie deepfake var būt lielākais drauds: Kā mākslīgais intelekts maina attēlu saturu
Digitālajā laikmetā, kad tehnoloģijas attīstās kosmiskā tempā, deepfake tehnoloģijas kļūst arvien sarežģītākas. Ja līdz šim galvenā uzmanība bijusi uz seju maiņu attēlos un video, tagad konversacionālie mākslīgā intelekta rīki, piemēram, ChatGPT un Google Gemini, rada daudz subtīlākus manipulācijas veidus. Tie spēj pārveidot žestus, rekvizītus un fona elementus, radot pārliecinošus, bet pilnīgi nepatiesus attēlus.
Kas ir “mazie deepfake” un kā tie darbojas?
Atšķirībā no tradicionālajiem deepfake, kas pārveido sejas vai balss ierakstus, šie jaunie manipulācijas veidi ir daudz smalkāki. Tie var:
- Mainīt personu pozas un žestus
- Pievienot vai noņemt objektus attēlā
- Modificēt fona elementus
- Nemanāmi mainīt tekstu uz plakātiem vai ekrāniem
“Šīs izmaiņas var būt tik nelielas, ka ne tikai cilvēka acs, bet arī daudzi AI detektori tos nespēj pamanīt,” norāda digitālo drošības eksperts Mārtiņš Ozoliņš.
Kāpēc šie subtīlie deepfake ir bīstamāki?
Lai gan pilnīgas sejas aizstāšana var izraisīt lielāku sensāciju, tieši mazās izmaiņas var būt īpaši kaitīgas:
- Grūtāk atklājamas – tradicionālās deepfake atpazīšanas metodes bieži vien uz šīm izmaiņām nereaģē
- Lielāka pārliecinošuma – nelielas izmaiņas izskatās dabiski un neizsauc aizdomas
- Vairāk iespēju manipulācijai – var mainīt kontekstu, nozīmi vai pat notikumu gaitu
Reālas sekas: Kā mazās izmaiņas var mainīt vēsturi
Iedomājieties šādus scenārijus:
- Politiķa attēlā tiek mainīts žests – no draudzīga pasvieziena uz draudošu rādītājpirkstu
- Zīmola reklāmā tiek pievienots produkts, kas patiesībā tur nekad nav bijis
- Vēsturiskā foto tiek mainīts plakāta teksts, radot pilnīgi jaunu kontekstu
“Šādas manipulācijas var radīt sociālus nemierus, ietekmēt vēlēšanu rezultātus vai radīt milzīgus zaudējumus uzņēmumiem,” brīdina digitālo tiesību speciāliste Anna Bērziņa.
Kā aizsargāties pret šāda veida deepfake?
Lai gan pilnīga aizsardzība šobrīd nav iespējama, eksperti iesaka šādas metodes:
- Vairāku avotu pārbaude – vienmēr meklējiet vairākus avotus, kas apstiprina informāciju
- Detalizēta analīze
- AI detektoru kombinēšana – izmantojiet vairākas atpazīšanas metodes vienlaikus
- Digitālā gramatība – attīstiet kritiskās domāšanas prasmes un skeptisku attieksmi
– pārbaudiet ēnas, gaismu un proporcijas attēlā
Nākotnes izaicinājumi un risinājumi
Tehnoloģiju attīstība šajā jomā notiek tik strauji, ka regulatori un pētnieki nespēj sekot līdzi. Tomēr daži potenciālie risinājumi ir:
- Blokķēdes tehnoloģijas satura autentifikācijai
- Digitālie ūdenszīmes standarti
- AI modelu, kas specializējas tieši mazu manipulāciju atklāšanai
- Paaugstināta sabiedrības informētība par šīm riskiem
“Šis ir tikai sākums. Nākamajos gados mēs redzēsim arvien sarežģītākas satura manipulācijas metodes, un mums visiem būs jāiemācās dzīvot šinī jaunajā realitātē,” norāda tehnoloģiju etiķas eksperts Jānis Kalniņš.
Kopumā, lai gan lielie, acīmredzamie deepfake turpina saņemt visu uzmanību, tieši mazās, gandrīz nemanāmās satura izmaiņas var izrādīties daudz bīstamākas sabiedrībai. Digitālā laikmeta iedzīvotājiem kļūst arvien svarīgāk attīstīt kritiskās domāšanas prasmes un apzināti pieiet visam saturam, ko sastop tiešsaistē.
Avots: https://www.unite.ai/smaller-deepfakes-may-be-the-bigger-threat/