Kāpēc AI ētika sākas pie dizaina galda? Saruna ar pētnieku Tomaszu Hollaneku
Mūsdienās, kad mākslīgais intelekts (MI) iespiežas ikvienā mūsu dzīves aspektā – no sociālajiem tīkliem līdz medicīnai un tiesu sistēmai – arvien aktuālāks kļūst jautājums par to, kāds ir šīs tehnoloģijas “raksturs”. Kas nosaka, vai tā būs taisnīga, droša un iekļaujoša? Populārais podcasta “The Good Robot” (Labais Robots) vadītājas Eleanor Drage un Kerry McInerney nesen aicināja pie mikrofonā pētnieku Tomaszu Hollaneku no Leverhulme Centra par Nākotnes Intelektu Kembridžas Universitātē, lai diskutētu par, iespējams, visnozīmīgāko, bet bieži vien aizmirsto faktoru: dizaineru lomu AI ētikas veidošanā.
Šī saruna izgaismo svarīgu patiesību: ētiskie principi mākslīgajā intelektā netiek vienkārši “pievienoti” pēc tam, kad sistēma jau ir izstrādāta. Tie ir iestrādāti jau no paša sākuma, un tieši dizaineri – tie, kas veido saskarnes, lietotāju pieredzi un sistēmas arhitektūru – ir galvenie “vārtu sargi”, kas nosaka, kādas vērtības un aizspriedumi tiks iekodēti tehnoloģijā.
Ne tikai inženieru darbs: Kāpēc dizaineri ir ētikas pirmā līnija?
Tradicionāli, runājot par AI attīstību, uzmanība tiek pievērsta algoritmiem, datu kopām un skaitļošanas jaudai. Tomāšs Hollaneks podcastā uzsver, ka šī ir nepilnīga attēla redzēšana. Dizaineri ir tie, kas tulko sarežģītās tehniskās iespējas par konkrētām lietām, ar kurām cilvēki mijiedarbojas ikdienā.
Iedomājieties rīku darba intervijām, kas automātiski novērtē kandidātus. Inženieris izveido mašīnmācīšanās modeli, bet tieši dizainera izvēlētie parametri – kādas atbildes tiek vērtētas kā “labas”, kāds interfeiss tiek rādīts personāla atlases speciālistam, kādi dati tiek vizualizēti – nosaka, vai sistēma netīšām diskriminēs pret noteiktām demogrāfiskām grupām. Dizainers izlemj, kas ir “redzams” sistēmai un lietotājam, un kas paliek “neredzams” tumšajā kastē.
No koncepta līdz sekām: Dizaina lēmumu ētiskā svars
Katrs, šķietami niecīgs, dizaina lēmums var nest lielas ētiskas sekas. Hollaneks piemin piemērus:
* Noklusējuma iestatījumi: Vai noklusējuma valoda vai demogrāfiskais profils sistēmā atspoguļo dominējošo vairākumu, liekot mazākumiem pielāgoties?
* Saskarnes ierobežojumi: Vai lietotājam tiek dots iespēja redzēt, kāpēc tika pieņemts noteikts lēmums (skaidrojama AI), vai arī sistēma paliek noslēpumaina un neuzskatāma?
* Vārdu un attēlu izvēle: Kādu leksikonu un vizuālo valodu izmanto, lai aprakstītu sistēmas darbību? Vai tā ir militarizēta (“mērķis”, “uzbrukums”), vai arī līdzcietīga un palīdzīga?
Dizaineri, pats to neapzinoties, var pastiprināt sociālos stereotipus. Ja attēlu ģenerējošā AI tiek apmācīta uz datiem, kuros noteiktas profesijas saistītas ar noteiktu dzimumu, un dizainers neizveido mehānismus šīs kļūdas labošanai, sistēma būs bīstama jau no savas būtības.
Dizaineris kā starpnieks: Tulkojot starp tehnoloģiju un sabiedrību
Viena no galvenajām Tomasza Hollaneka domu līnijām ir tā, ka dizaineri darbojas kā starpnieki starp tehniskajiem iespējām un sociālajām vajadzībām
. Viņi ir tilti, kam jāizjautā ne tikai “ko mēs varam izdarīt?”, bet arī “ko mums vajadzētu izdarīt?” un “kāpēc?”. Lai veiksmīgi pildītu šo lomu, dizaineriem ir jābūt: Podcastā tiek minēti daži praktiski pieejas, kā dizaineri var kļūt par aktīviem AI ētikas aģentiem: Saruna podcastā “The Good Robot” ar Tomaszu Hollaneku beidzas ar optimistisku notu. Lai gan izaicinājumi ir milzīgi, pastāv arvien lielāka apzināšanās par to, ka tehnoloģiju attīstība nevar būt tikai tehnisku speciālistu monopols. Veidojas jauna starpplatformu sadarbības kultūra, kurā ētiķi, sociologi, juristi un dizaineri strādā kopā ar inženieriem jau no projekta rasēšanas dēļa. Dizainerim ir unikāla vara – ietekmēt, kā miljardiem cilvēku ikdienā uztvers un izmantos mākslīgo intelektu. Izmantojot šo varu atbildīgi, viņi var kļūt par vienu no spēcīgākajiem sabiedroto frontē, kas cīnās par taisnīgāku, drošāku un vairāk cilvēkiem draudzīgu tehnoloģiju nākotni. Kā norāda Hollaneks, labs AI dizains nav tikai par ērtībām un estētiku; tas ir par demokrātiju, tiesībām un cilvēka cieņu digitālajā laikmetā. Tāpēc, nākamreiz, kad domājat par AI ētiku, atcerieties – tā nerodas tikai laboratorijās ar kodu. Tā dzimst pie dizaina galda, starp prototipiem, personas un plūsmas diagrammām. Tieši tur tiek likti pirmie ētiskās nākotnes pamatakmeņi.
* Starpplatformu kompetentiem: Jāsaprot ne tikai lietotāju pieredzes (UX) pamati, bet arī pamatzināšanas par to, kā darbojas algoritmi, kādi ir datu pārsvaru riski un kādas ir sociālās nevienlīdzības struktūras.
* Dažādu perspektīvu meklētājiem: Dizaina process nevar notiek burbuļā. Ir aktīvi jāiesaista cilvēki ar dažādu pieredzi, kultūru, spējām un sociālo stāvokli, lai pārbaudītu pieņēmumus un identificētu potenciālus kaitējumus.
* Jautājumu uzdotājiem: Viņu pienākums ir izaicināt biznesa prasības un tehniskos ierobežojumus ar ētiskiem jautājumiem: “Kuru šī funkcija var iespējami aizskart?”, “Vai mēs varam to izdarīt godīgāk?”Praktiski instrumenti: Kā dizaineri var ieguldīt labākā AI?
1. Ētiskie scenāriji un “kļūmju izspēle”: Organizēt sesijas, kurās modelē sistēmas izmantošanu ekstrēmos vai ļaunprātīgos apstākļos, lai atklātu iespējamos ētiskos trūkumus.
2. Datu auditi pirms dizaina: Pirms sākt zīmēt skices, pieprasīt ieskatu datu kopās, uz kurām tiks apmācīts AI. Vai tajās ir pārstāvēti dažādi cilvēki? Vai ir kādi acīmredzami aizspriedumi?
3. Iekļaujoša testēšana: Piesaistīt dažādas testētāju grupas jau agrīnajos prototipa posmos, nevis tikai pēdējā brīdī pirms palaišanas.
4. Dokumentēšana un pārredzamība: Izstrādāt praksi, kurā dizaina lēmumi un to pamatojumi (kāpēc šis elements izskatās tieši tā) tiek dokumentēti un pieejami pārskatīšanai.Nākotne: Veidojot atbildīgāku AI kultūru kopā