Google aptur medicīniskos AI pārskatus pēc maldinošu ieteikumu skandāla
Pēc žurnālistu atklājumiem, ka meklētājprogrammas mākslīgā intelekta (MI) sistēma sniedz potenciāli bīstamus ieteikumus par veselību, Google steidzīgi noņēmis tā sauktos “AI Overviews” jeb mākslīgā intelekta pārskatus noteiktiem medicīniskiem jautājumiem. Šis lēmums izpaužas kā atbilde uz The Guardian izmeklējumu, kas atklāja satraucošus modeļa trūkumus.
Kas notika? Kāpēc Google reaģēja tik ātri?
Visa situācija sākās, kad The Guardian žurnālisti pārbaudīja Google jaunākās MI funkcijas – automātiski ģenerētos atbilžu pārskatus, kas parādās meklēšanas rezultātu augšdaļā. Pārbaudes laikā tika konstatēts, ka atbildēs uz dažiem veselības un medicīnas jautājumiem tika sniegta nepilnīga, maldinoša vai pat bīstama informācija.
Google, saprotot iespējamo kaitējumu lietotāju veselībai un uzticamības zaudējumu, izvēlējās konservatīvu pieeju. Uzņēmums pagaidām pilnībā atslēdza AI pārskatu ģenerēšanu visiem jautājumiem, kas saistīti ar veselību, slimībām, zālēm un ārstēšanu. Meklējot šādus terminus, lietotāji vairs neredzēs MI ģenerēto kopsavilkumu, bet gan tradicionālos meklēšanas rezultātus no tīmekļa vietnēm.
Kādi bija konkrētie piemēri maldinošajai informācijai?
Lai gan Google oficiāli nav publicējis visu problemātisko piemēru sarakstu, The Guardian ziņo par vairākiem satraucošiem gadījumiem. Ziņojumā minēts, ka, meklējot informāciju par noteiktām nopietnām saslimšanām, AI sistēma dažreiz sniedza ieteikumus, kas nebija balstīti uz medicīniskiem pierādījumiem, vai arī tos varēja interpretēt kā pašārstēšanas veicināšanu bez ārsta konsultācijas. Tieši šāda veida kļūdas ir īpaši bīstamas, jo cilvēki, meklējot palīdzību veselības problēmu gadījumā, var būt īpaši uzņēmīgi un vieglticīgi.
Kāpēc MI kļūst parāk uzticīgs medicīnā?
Šis incidents izceļ vienu no lielākajām problēmām mākslīgā intelekta laikmetā – tā uzticamību jutīgās jomās. AI pārskati tiek ģenerēti, analizējot milzīgu datu apjomu no interneta, taču tieši šeit slēpjas būtiskākā problēma.
Trīs galvenie izaicinājumi:
**Pirmkārt, informācijas kvalitāte.** Internets ir pārblīvēts ar neprecīzu, novecojušu vai tieši maldinošu medicīnisku informāciju. MI modelim ir grūti atšķirt pārbaudītu zinātnisku pētījumu no anekdotiskiem pieredzes stāstiem vai pat apzinātas dezinformācijas.
**Otrkārt, konteksta trūkums.** Medicīna nekad nav melnbalta. To, kas ir piemērots vienam pacientam, var būt absolūti kontrindicēts citam. AI pārskats, kas sniedz īsu, vispārinātu atbildi, nevar ņemt vērā individuālo anamnēzi, alerģijas vai līdzās esošās slimības.
**Treškārt, atbildības jautājums.** Ja cilvēks sekot maldinošam MI ieteikumam un pasliktinās veselība, kas būs atbildīgs? Meklētājprogrammas uzņēmums, modeļa izstrādātāji vai pats lietotājs? Šī juridiskā miglāna liek tehnoloģiju gigantiem būt ārkārtīgi uzmanīgiem.
Ko tas nozīmē parastajiem lietotājiem Latvijā?
Latvijas lietotājiem šīs izmaiņas nozīmē, ka, meklējot informāciju par galvassāpēm, gripas simptomiem, zāļu devām vai hroniskām saslimšanām, viņi vairs neredzēs to īso MI ģenerēto atbildi rezultātu augšdaļā. Tas, pirmajā brīdī, var šķist kā solis atpakaļ ērtībās. Taču realitātē tas ir solis uz priekšu drošībā.
Jums tiks rādīti tieši tie meklēšanas rezultāti, kas nāk no tīmekļa vietnēm: oficiālām veselības iestāžu mājaslapām, pārbaudītiem medicīniskiem portāliem, zinātniskiem rakstiem vai pieredzes stāstiem forumos. Tas liek lietotājam patstāvīgi izvērtēt informācijas avotu ticamību, kas ir kritiski svarīga prasme digitālajā laikmetā.
Kā droši meklēt veselības informāciju tiešsaistē?
1. **Vienmēr verificējiet avotu.** Vai informācija nāk no oficiālas iestādes (piemēram, Veselības inspekcijas, Slimību profilakses un kontroles centra), reputācijas medicīniskās institūcijas vai sertificēta ārsta?
2. **Skatiet datumu.** Medicīnas zinātne attīstās ļoti ātri. Informācija, kas bija aktuāla pirms pieciem gadiem, šodien var būt novecojusi. Meklējiet jaunākos avotus.
3. **Izmantojiet vairākus avotus.** Nelietojiet tikai vienu rakstu vai vietni kā galīgo patiesību. Salīdziniet informāciju no vairākiem uzticamiem avotiem.
4. **Atcerieties: internets nav ārsts.** Tiešsaistes informācija ir tikai izglītojoša vai orientējoša. Diagnozi un ārstēšanas plānu var noteikt tikai kvalificēts ārsts personīgās konsultācijas laikā.
5. **Esiet skeptisks pret brīnumzālēm un pārāk vienkāršiem risinājumiem.** Ja kaut kas izklausās pārāk labi, lai būtu patiesība, tas, visticamāk, arī tā nav.
Nākotne: vai AI atgriezīsies medicīnas jomā?
Eksperti uzskata, ka šis nav AI aiziešanas gals medicīnas informācijas jomā, bet gan svarīgs pauze. Google un citi lielie spēlētāji noteikti strādās pie modeļu uzlabošanas, lai novērstu līdzīgas kļūdas nākotnē.
Iespējams, nākamās paaudzes MI rīki medicīnā būs daudz konservatīvāki – tie varētu vairāk uzsvērt nepieciešamību konsultēties ar speciālistu, norādīt tikai uz vispārīgiem faktiem no pārbaudītiem avotiem vai pat pilnībā atteikties sniegt ieteikumus, koncentrējoties tikai uz atbilstošo avotu meklēšanu un sakārtošanu.
Viens ir skaidrs: ceļš uz uzticamu un drošu mākslīgo intelektu jutīgās jomās ir daudz garāks un sarežģītāks, nekā daudzi sākotnēji iedomājās. Google šodienas solis ir spēcīgs atgādinājums, ka, attīstot inovācijas, drošībai un ētikai vienmēr jābūt pirmajā vietā – it īpaši, kad runa ir par cilvēku veselību un dzīvībām.
Avots: https://techcrunch.com/2026/01/11/google-removes-ai-overviews-for-certain-medical-queries/