OpenAI ievieš vecuma noteikšanu: Kā ChatGPT tagad aizsargās pusaudžus un pieaugušos
Mākslīgā intelekta līdera OpenAI nākamais solis drošības jomā ir tieši šāds – viņi aktīvi strādā pie sistēmas, kas spēs paredzēt lietotāja vecumu, lai automātiski piemērotu atbilstošus drošības ierobežojumus. Mērķis ir skaidrs: nodrošināt drošāku videņu pusaudžiem, vienlaikus saglabājot pilnu funkcionalitāti pieaugušajiem. Šis jaunums, kas ietver arī pašu foto pārbaudi pieaugušo kontu apstiprināšanai, iezīmē jaunu ēru attiecībās starp cilvēkiem un valodas modeļiem.
Kāpēc vecuma noteikšana ir nākamais lielais solis AI drošībā?
Līdz šim ChatGPT un līdzīgi instrumenti ir paļāvušies galvenokārt uz lietotāja pašuzdošanos, lai noteiktu vecumu, vai arī ir izmantojuši vispārīgus satura filtrus. Taču, kā liecina pieredze, šāda pieeja ne vienmēr ir efektīva. OpenAI jaunā sistēma paredzēta, lai proaktīvi identificētu kontus, kas, iespējams, pieder personām, jaunākām par 18 gadiem, un automātiski tiem piemērotu stingrākus drošības ierobežojumus – tā sauktās “pusaudžu aizsardzības”.
Tas nozīmē, ka, pat ja jauns lietotājs mēģinās izvairīties no vecuma norādīšanas, sistēma, analizējot lietošanas raksturu, sarunu saturu un citus faktorus, varēs izdarīt pamatotu pieņēmumu. Šāda aizsardzība darbojas fonā, nepārtraucot lietošanas pieredzi, bet tā ir kritiski svarīga, lai pasargātu jauniešus no iespējami kaitīga vai nepiemērota satura.
Pašu foto verifikācija: Drošības atslēga pieaugušajiem
Savukārt pieaugušajiem lietotājiem, kuri vēlas piekļūt pilnībai bez ierobežojumiem, tiks piedāvāta papildu verifikācijas iespēja. OpenAI plāno ieviest pašu foto (selfie) pārbaudi, izmantojot uzticamus trešo pušu partnerus. Šis process darbojas līdzīgi kā verifikācija citos pakalpojumos: lietotājs augšupielādē sevis fotogrāfiju, un speciāla tehnoloģija to pārbauda, lai apstiprinātu, ka konts pieder pieaugušam cilvēkam.
Svarīgi atzīmēt, ka, kā uzsver uzņēmums, pašu foto netiks izmantots, lai apmācītu AI modeļus. Tā vienīgais mērķis ir vecuma verifikācija. Pēc pārbaudes foto tiks izdzēsts, lai nodrošinātu privātumu. Šī metode ļauj efektīvi atšķirt pieaugušos no nepilngadīgajiem, sniedzot pirmajiem pilnu piekļuvi, bet otros automātiski iekļaujot aizsargātājā vidē.
Kā šīs izmaiņas ietekmēs jūsu ChatGPT pieredzi?
Ja esat pieaugušais lietotājs, kurš veicis verifikāciju, jūs, visticamāk, pārmaiņas nepamanīsit. Jums būs pieejama pilna ChatGPT funkcionalitāte saskaņā ar jūsu abonēšanas plānu. Tomēr, ja sistēma novērtēs jūsu kontu kā “iespējami nepilngadīga”, jūs saskarsities ar papildu ierobežojumiem.
Šie ierobežojumi var ietvert:
* **Stingrāku satura filtrēšanu:** Atbildes uz jautājumiem, kas skar jūtīgas tēmas, varētu būt ierobežotākas vai pavirzītas uz drošākiem skaidrojumiem.
* **Ierobežotu piekļuvi funkcijām:** Dažas uzlabotās iespējas vai integrācijas varētu būt nav pieejamas.
* **Pastiprinātu brīdinājumu sistēmu:** Sistēma varētu sniegt vairāk norādījumu un brīdinājumu par drošu lietošanu.
Privātums un etika: Vai mums ir jāuztraucas?
Jebkura jauna tehnoloģija, it īpaši tāda, kas saistīta ar personas datiem un biometriju, rada pamatotus jautājumus par privātumu. OpenAI apstiprina, ka viņu pieeja ir veidota, ņemot vērā šīs bažas. Vecuma noteikšana, kas nav balstīta uz pašu foto, notiek, izmantojot anonimus signālus un raksturus, nevis tieši identificējot lietotāju.
Pašu foto verifikācija tiks veikta, izmantojot specializētus, no valsts reģistriem atkarīgus partnerus, kuri specializējas identitātes pārbaudē. Pats uzņēmums neuzglabās jūsu biometriskos datus. Tomēr lietotājiem būs jāizvērtē šis kompromiss starp ērtībām un papildu personas datu iesniegšanu.
Nākotnes perspektīvas: AI kā atbildīgs sabiedrotais
OpenAI šis gājiens ir daļa no plašākas tendences AI nozarē – pārejas no reaktīvām drošības pasākumiem uz proaktīviem. Tā vietā, lai tikai reaģētu uz kaitīgu saturu pēc tam, kad tas ir radīts, sistēmas mēģina to novērst jau piekļuves līmenī, pielāgojoties lietotājam.
Šī attīstība liecina, ka vadošie AI radītāji sāk uztvert nopietnāk savu sociālo atbildību. Ieviešot šādus rīkus, tie ne tikai cenšas atbilst pastiprinošajiem tiesību aktu prasībumiem visā pasaulē, bet arī aktīvi veido uzticamības pamatu ar sabiedrību. Nākotnē varam gaidīt vēl sarežģītākus kontekstuālos filtrus un vecuma piemērotas interfeisa pielāgošanas, kas padarīs AI palīgus patīkamākus un drošākus visām vecuma grupām.
OpenAI jaunie drošības kontroles ir vairāk nekā tikai tehniskas uzlabošanas – tā ir paziņojums par to, ka AI integrācija mūsu ikdienā prasa nepārtrauktu uzmanību un atbildīgu attieksmi, lai tehnoloģija kalpotu kā drošs un pozitīvs spēks ikviena dzīvē.
Avots: https://www.testingcatalog.com/openai-introduces-age-prediction-for-chatgpt-safety-controls/