Intervija ar Lea Demelius: Diferenciālās privātās pētniecības izpēte

Intervija ar pētnieci

Šajā interviju sērijā mēs iepazīstinām ar dažiem AAAI/SIGAI Doctoral Consortium dalībniekiem, lai uzzinātu vairāk par viņu pētījumiem. Doktorantūras konsorcijs sniedz iespēju PhD studentiem apspriest un izpētīt savus pētnieciskos interesējumus un karjeras mērķus starpdisciplinārā darbnīcā kopā ar pieredzējušu pētnieku grupu. Jaunākajā intervijā mēs klausāmies Lēas Demeliusas stāstījumā, kura pēta diferenciālo privātumu.

Pastāsti mazliet par savu doktora disertāciju – kur tu studē un kāda ir tava pētījuma tēma?

Es studēju Gracas Tehniskajā universitātē Austrijā. Mans pētījums koncentrējas uz diferenciālo privātumu, kas plaši tiek uzskatīts par modernāko risinājumu privātuma aizsardzībai datu analīzē un mašīnmācīšanās. Es pētu kompromisus un sinerģijas, kas rodas starp dažādām uzticama AI prasībām – jo īpaši privātumu un taisnīgumu, ar mērķi veicināt atbildīgu mašīnmācīšanās modeļu ieviešanu un izgaismot praktiskās un sociālās sekas, integrējot diferenciālo privātumu reālās sistēmās.

Vai varētu sniegt pārskatu par pētījumiem, kurus esi veikusi savas doktora studiju laikā?

Doktora studiju sākumā es veicu plašu literatūras analīzi par jaunākajiem sasniegumiem diferenciālās privātuma jomā dziļajā mācīšanās. Pēc ilga un rūpīga pārskata procesa rezultāti tagad ir publicēti ACM Computing Surveys. Es arī strādāju pie privātuma un drošības AI vispār, koncentrējoties uz datu aizsardzību aprēķinu laikā, kas ietver ne tikai diferenciālo privātumu, bet arī citas privātumu uzlabojošas tehnoloģijas, piemēram, homomorfo šifrēšanu, daudzpusēju aprēķinu un federatīvo mācīšanos.

Literatūras analīzes laikā es atklāju interesantu pētījumu virzienu, kas parādīja, ka diferenciālajai privātumai ir nevienmērīga ietekme uz modeļa precizitāti. Lai gan kompromiss starp privātumu un lietderību – piemēram, kopējo precizitāti – ir labi pazīstams izaicinājums, šie pētījumi parāda, ka privātuma aizsardzības pastiprināšana mašīnmācīšanās modeļos ar diferenciālo privātumu atšķirīgi ietekmē noteiktas apakšgrupas, radot nopietnas taisnīguma problēmas. Šis kompromiss starp privātumu un taisnīgumu ir daudz mazāk izpētīts, tāpēc es nolēmu adresēt dažus atklātos jautājumus. Jo īpaši es pārbaudīju, kā izvēle a) metrikām un b) hiperparametriem ietekmē šo kompromisu.

Vai ir kāds tavu pētījumu aspekts, kas tevi ir īpaši interesējis?

Man patīk, ka mans pētījums mudina mani domāt ļoti tehniski un loģiski – galu galā diferenciālā privātums ir stingrs matemātisks ietvars – vienlaikus paturot prātā plašāku sociāli tehnoloģisko kontekstu, ņemot vērā gan tehnoloģiju sociālās sekas, gan sabiedrības cerības attiecībā uz privātumu un taisnīgumu.

Kādi ir tavi plāni turpināt pētījumus doktora studiju laikā – kādus aspektus tu plāno pētīt tālāk?

Es plānoju turpināt pētīt kompromisus starp (diferenciālo) privātumu, lietderību un taisnīgumu. Turklāt mani interesē praktiski uzbrukumi jutīgiem datiem un mašīnmācīšanās modeļiem, jo tie var gan palīdzēt lēmumu pieņemšanā par šo kompromisu līdzsvaru, gan atklāt jaunas ievainojamības, kas prasa jaunus risinājumus. Ilgtermiņā es varētu paplašināt savus pētījumus uz citiem uzticama AI aspektiem, piemēram, skaidrojamību vai robustumu, kur arī pastāv interesanti kompromisi un potenciālas sinerģijas.

Kas tevi mudināja studēt AI?

Sākumā mani motivēja galvenokārt fascinācija par jaunajām tehnoloģijām un iespējām, ko AI atnesa. Man ļoti gribējās saprast, kā darbojas mašīnmācīšanās modeļi un kā tos var uzlabot. Bet es ātri sapratu, ka doktora studijām man ar to nepietiks. Es gribu strādāt pie kaut kā, kas mani ne tikai fascinē, bet arī nāk par labu sabiedrībai. Ņemot vērā AI modeļu plašo izmantošanu mūsdienās, es uzskatu, ka ir ļoti svarīgi izstrādāt tehniskus risinājumus, kas uzlabo AI uzticamību, piemēram, uzlabojot privātumu un taisnīgumu, bet arī robustumu un skaidrojamību. Ar saviem pētījumiem es vēlos veicināt mašīnmācīšanās sistēmu ieviešanu, kas vairāk atbilst ētiskajiem principiem un sabiedrības vajadzībām.

Kādu padomu tu dotu kādam, kas domā par doktora studijām šajā jomā?

Tavs vadītājs un komanda ir galvenais. Pārliecinies, ka varat labi sadarboties: Sekot līdzi tik strauji attīstītai jomai kā AI būs daudz vieglāk kopā. Un atceries, ka katra doktora studiju gaita ir atšķirīga, ir tik daudz ietekmējošu faktoru – gan tavā kontolē, gan ārpus tās, tāpēc izvairies pārāk daudz salīdzināt savu ceļojumu ar citiem.

Vai varētu pastāstīt kādu interesantu (ne saistītu ar AI) faktu par sevi?

Man ļoti patīk dziedāt, it īpaši kopā ar citiem. Pārceloties uz Graci, es izveidoju a capella ansambli, un esmu Štīrijas jaunatnes kora dalībniece. Mana ģimene arī mīl dziedāt, kad mēs visi satiekamies kopā.

Par Lēu

Lēa Demeliusa ir PhD studente Gracas Tehniskajā universitātē (Austrija) un Know Center Research GmbH. Viņas pētījumi ir vērsti uz atbildīgu AI, koncentrējoties uz diferenciālo privātumu un taisnīgumu. Viņu īpaši interesē kompromisi un sinerģijas, kas rodas starp dažādām uzticama AI prasībām, kā arī praktiskās un sociālās sekas, integrējot diferenciālo privātumu reālās sistēmās.

https://aihub.org/