CivitAI pastiprina deepfake noteikumus Mastercard un Visa spiediena rezultātā
AI tehnoloģiju straujā attīstība ir radījusi ne tikai jaunas iespējas, bet arī ētiskas dilemmas. Viens no aktuālākajiem piemēriem ir CivitAI, populārākā AI modeļu repository platforma, kura nesen pastiprināja savus noteikumus attiecībā uz deepfake saturu. Šīs izmaiņas notikušas maksājumu apstrādes gigantu Mastercard un Visa spiediena rezultātā.
Kāpēc CivitAI mainīja politiku?
CivitAI ilgu laiku bija pazīstama kā vieta, kur lietotāji varēja brīvi dalīties ar dažādiem AI modeļiem, tostarp arī tādiem, kas ļāva veidot deepfake saturu ar slavenu personu sejām. Tomēr pēdējā laikā platforma saskārās ar spēcīgu kritiku no maksājumu apstrādes kompānijām.
Mastercard un Visa izteica bažas par iespējamo kaitējumu, ko šāds saturs varētu nodarīt. Maksājumu pakalpojumu sniedzēji draudēja pārtraukt sadarbību ar CivitAI, ja tas neievies stingrākus satura kontroles mehānismus. Šis spiediens lika platformai rīkoties.
Kas mainījās platformas noteikumos?
Galvenās izmaiņas CivitAI lietošanas noteikumos (TOS) ietver:
– Pilnīgu aizliegumu NSFW saturam (saturs, kas nav piemērots darba vidē)
– Ierobežojumus celebritu LoRAs modeļu izmantošanai
– Stingrāku satura moderāciju un autortiesību pārkāpumu pārbaudi
– Iespēju bloķēt lietotājus, kas pārkāpj noteikumus
Kas ir LoRAs un kāpēc tie bija problēma?
LoRA (Low-Rank Adaptation) tehnoloģija ir īpašs veids, kā pielāgot lielus AI modeļus, lai tie reproducētu konkrētus stilu vai personas pazīmes. CivitAI lietotāji aktīvi izmantoja šo tehnoloģiju, lai radītu saturu ar slavenu personu sejām, bieži vien bez viņu piekrišanas.
Šāda satura popularitāte platformā bija kļuvusi par galveno problēmas avotu, jo tas:
– Pārkāpa personu privātumu
– Radīja iespēju izmantot slavenības tēlu maldinošiem mērķiem
– Varētu kaitēt reputācijai un karjerai
Kā reaģēja lietotāju kopiena?
Izmaiņas platformā izraisīja sajaukta rakstura reakcijas. Daži lietotāji atbalstīja izmaiņas, uzsverot ētiskās aizsardzības nepieciešamību. Citi izteica neapmierinātību, apgalvojot, ka tas ierobežo radošo brīvību un AI tehnoloģiju attīstību.
Populārākie kritikas punkti ietver:
– Pārāk stingrus ierobežojumus
– Neskaidrus noteikumus par to, kas ir pieļaujams
– Baumas, ka platforma varētu pilnībā aizliegt visu NSFW saturu nākotnē
Kādas ir nākotnes perspektīvas?
AI tehnoloģiju un īpaši deepfake jomas regulējums joprojām atrodas attīstības stadijā. CivitAI gadījums parāda, ka pat lielākās platformas ir pakļautas ārējam spiedienam, it īpaši, ja runa ir par maksājumu plūsmu.
Eksperti paredz, ka nākamajos gados:
– Citas līdzīgas platformas varētu sekot CivitAI piemēram
– Tiks izstrādāti globālāki standarti deepfake satura regulēšanai
– Maksājumu procesoru loma satura moderācijā pieaugs
Kā tas ietekmēs AI nozari kopumā?
Šīs izmaiņas var radīt būtisku ietekmi uz visu AI nozari. No vienas puses, tas var veicināt atbildīgāku tehnoloģiju izmantošanu. No otras puses, var radīt bažas par pārlieku stingru regulējumu, kas varētu kavēt inovācijas.
Galvenie aspekti, kas jāņem vērā:
– Līdzsvars starp radošo brīvību un ētisku atbildību
– Maksājumu procesoru ietekme uz interneta satura politiku
– Slavenību un parasto cilvēku tiesību aizsardzība digitālajā vidē
CivitAI gadījums noteikti nebūs pēdējais, kad maksājumu kompānijas izmantos savu ietekmi, lai veidotu digitālās platformas satura politiku. Tas rada jaunu diskusiju par to, kam pieder galīgā vara internetā – tehnoloģiju uzņēmumiem, finanšu institūcijām vai patiesībā lietotājiem.
Avots: https://www.unite.ai/civitai-tightens-deepfake-rules-under-pressure-from-mastercard-and-visa/