Piegādātājs izslēgts no DoorDash: Vai mākslīgais intelekts kļuva par krāpšanas līdzgaitnieku?
Kādu laiku atpakaļ sociālo mediju platformās izplatījās dīvains stāsts: klients, gaidījis savu ēdienu piegādi, saņēma paziņojumu, ka pasūtījums ir piegādāts, un pat foto, kas it kā apliecināja piegādi viņa mājas durvīs. Tomēr foto bija tik nepilnīgs, ka tas uzreiz izraisīja aizdomas. Kā izrādījās, aizdomas bija pamatotas – un aiz tām slēpās mākslā intelekta tehnoloģija. Pārtikas piegādes gigants DoorDash ir apstiprinājis, ka ir izslēdzis piegādātāju, kurš, iespējams, izmantojis ģeneratīvo mākslīgo intelektu, lai apkrāptu sistēmu un nepiegādātu pasūtījumu.
Šis incidents izceļ ne tikai atsevišķa kurjera neētiskas darbības, bet arī rada svarīgus jautājumus par tehnoloģiju lomu ikdienas pakalpojumos, uzticēšanos automatizētai verifikācijai un jauniem krāpšanas riskiem, ko rada AI pieejamība.
Kā norisa krāpšana ar AI palīdzību?
Pamata mehānisms, ko izmanto DoorDash un līdzīgi pakalpojumi, ir diezgan vienkāršs: piegādātājam ierodoties pie klienta, viņam jānofotografē piegādātais pasūtījums pie durvīm un jāiesniedz foto lietojumprogrammā kā pierādījums par veikto piegādi. Šis foto tiek nosūtīts klientam un kalpo kā digitāls kvīts.
Apgādātais piegādātājs, acīmredzot negribēdys patiesībā veikt piegādi, izmantoja vienu no daudzajiem publiski pieejamiem ģeneratīvā AI rīkiem, kas spēj radīt fotoreālistiskus attēlus. Viņš, visticamāk, ievadīja aprakstu, piemēram, “ēdienu maisiņš pie koka durvīm vakarā”, un AI ģenerēja attēlu, kas atbilst šim aprakstam. Šo ģenerēto attēlu viņš augšupielādēja DoorDash sistēmā, it kā tas būtu īsts foto no piegādes vietas.
Kā klientam radās aizdomas?
Detaļa, kas nodeva krāpnieku, bija foto saturs. Ģenerētie attēli bieži vien ir nepilnīgi, ja tos skatās kritiski. Ziņojumos minēts, ka attēlā redzamās durvis neuzbūvē atbilstoši klienta mājai, vai arī apkārtne izskatījās “neīsta” – pārāk sterila, ar nepilnīgu gaismu vai nepazīstamiem elementiem. Klientam, kurš zina, kā izskatās viņa paša mājas durvis, tas bija acīmredzams signāls, ka kaut kas nav kārtībā. Viņš nekad nesaņēma savu pasūtījumu, un sūdzība tika nosūtīta uz DoorDash.
DoorDash reakcija un izmeklēšana
Pēc klienta sūdzības uzņēmums sāka izmeklēšanu. DoorDash pārstāvis paziņoja, ka pēc ieskata attēlā un papildu datu analīzes tika konstatēts, ka foto, visticamāk, ir bijis manipulēts vai ģenerēts, nevis uzņemts piegādes laikā. Uzņēmums uzsvēra, ka šāda veida krāpšana ir tiešs pārkāpums viņu pakalpojumu sniegšanas noteikumiem, kas aizliedz jebkādu maldinošu informācijas iesniegšanu.
Rezultātā konts, kas saistīts ar šo piegādātāju, tūlīt tika slēgts, un viņš vairs nevarēs strādāt platformā. DoorDash arī atzīmēja, ka viņi pastāvīgi uzlabo savus pārbaudes mehānismus, lai atklātu krāpšanu, tostarp izmantojot tehnoloģijas, kas var palīdzēt identificēt AI ģenerētu saturu.
Vai šis ir izolēts gadījums?
Lai gan šis ir viens no pirmajiem plaši medijos atspoguļotajiem gadījumiem ar AI izmantošanu piegādes pakalpojumu krāpšanai, eksperti brīdina, ka tas, visticamāk, nav pēdējais. Ģeneratīvā AI kļūst arvien pieejamāka un kvalitatīvāka, padarot šāda veida krāpšanu vienkāršāku. Tas rada izaicinājumu visai “koncerta ekonomikas” nozarei, kas paļaujas uz digitālu verifikāciju un savstarpēju uzticēšanos starp klientu, pakalpojumu sniedzēju un platformu.
Tehnoloģiskais sacīkstes ierocis: AI pret AI
Interesanti, ka risinājums šai jaunajai problēmai, iespējams, slēpjas tajā pašā tehnoloģijā. Daudzi tehnoloģiju uzņēmumi jau strādā pie AI dzinētiem rīkiem, kas spēj atklāt AI ģenerētu saturu. Šie detektori meklē nelikumības attēlos, tekstā un audio, piemēram, noteiktus raksturīgus rakstus, perfektu simetriju vai dīvainu troksni, kas cilvēka radītam saturam nav raksturīgs.
Nākotnē platformas, piemēram, DoorDash, Instacart vai Wolt, varētu ieviest šādas detekcijas rīkus tieši savā lietojumprogrammā, lai automātiski pārbaudītu augšupielādētos foto pirms to pieņemšanas. Tomēr šī ir pastāvīga sacīkste – AI ģenerēšanas rīki kļūst gudrāki, un arī to detektoriem ir jāattīstās.
Ko tas nozīmē klientiem un godīgiem piegādātājiem?
Parastajiem lietotājiem šis incidents ir atgādinājums palikt modriem. Ja saņemat piegādes apstiprinājumu ar foto, apskatiet to vērīgi. Vai durvis vai apkārtne atbilst jūsu mājai? Vai foto izskatās pārāk perfekti vai dīvaini? Ja rodas šaubas, nekavējoties sazinieties ar pakalpojumu sniedzēju.
Godīgiem piegādātājiem šādi negodīgi kolēģi rada sliktu reputāciju visai profesijai un var novest pie stingrākiem un iespējams apgrūtinošākiem verifikācijas procesiem visiem, piemēram, pieprasot ģeolokācijas datus reāllaikā vai vairākus foto leņķus.
Nākotnes izaicinājumi un etikas jautājumi
Šis notikums ir tikai neliels paraugs no plašākas parādības. Mākslīgais intelekts kļūst par spēcīgu rīku ne tikai produktivitātes celšanai, bet arī jaunu veidu krāpšanai. Tas liek pārdomāt, kā mēs veidojam uzticēšanās sistēmas digitālajā vidē. Vai pietiek ar vienu foto kā pierādījumu? Kāda ir platformu atbildība par to, lai novērstu šādas krāpšanas?
Atbilde slēpjas daudzslāņu pieejā: tehnoloģiskos uzlabojumos, skaidros noteikumos un sekās to pārkāpšanai, kā arī lietotāju izglītošanā. DoorDash rīcība šajā gadījumā – ātra izmeklēšana un konta slēgšana – ir pareizs solis, kas nosaka skaidru robežu.
Viens ir skaidrs: tehnoloģiju attīstība nepārtraukti radīs jaunus izaicinājumus, un mums visiem – pakalpojumu sniedzējiem, regulatori un patērētājiem – būs jāmācās ar tiem tikt galā, lai digitālā uzticēšanās nepārvērstos par naivu ticēšanu.