ASV militārais komplekss vēlas neierobežotu piekļuvi AI tehnoloģijām kaujas operācijām
Kad runa ir par mākslīgo intelektu un nākotnes karadarbību, ASV Aizsardzības departaments ir gatavs pārkāpt ierastos uzskatus. Nesen atklāta informācija liecina, ka Pentagonā aktīvi meklē veidus, kā iegūt neierobežotu piekļuvi komerciālo AI uzņēmumu tehnoloģijām, lai tās integrētu visnoslēgtākajās militārajās sistēmās. Šis pieprasījums izraisa nopietnas diskusijas gan valsts iestādēs, gan to tehnoloģiju gigantu padomēs, kuru radījumi varētu mainīt kara veidu uz neatgriezenisku.
No pētniecības laboratorijas uz kaujas lauku: Pentagonā mainās prasības
Vēsturiski aizsardzības nozare sadarbojās ar speciālistiem, kuri izstrādāja risinājumus tieši militārajiem vajadzībām, ievērojot stingrus drošības protokolus. Tomēr pēdējo desmitgažu laikā inovācijas epicentrs ir pārvietojies uz komerciālo sektoru. Mākslīgais intelekts, mašīnmācīšanās un datu analīze attīstās ātrāk nekā jebkad privāto uzņēmumu, piemēram, OpenAI, Google DeepMind vai specializētu aizsardzības startupu, laboratorijās. ASV militārie stratēģi saprot, ka, lai saglabātu pārākumu, viņiem ir jāintegrē šīs jaunākās tehnoloģijas savās operācijās.
Bet šeit rodas galvenais šķērslis: lielākā daļa šo komerciālo AI uzņēmumu savos lietošanas noteikumos ir iekļāvuši ierobežojumus, kas aizliedz vai stingri regulē viņu tehnoloģiju izmantošanu nāvējošos autonomajos ieročos vai citās militārās jomās. Pentagonam tagad vajag ne tikai tehnoloģiju, bet arī atļauju to lietot bez šiem “ietikumiem”. Viņi vēlas, lai algoritmus, kas mācījušies no vispasaules interneta datiem, varētu izmantot reāllaika izlūkošanai, loģistikas optimizēcijai, kiberaizsardzībai un, iespējams, pat mērķu identificēšanai.
Kāpēc “bez ierobežojumiem”? Militārā vajadzība pretētika uzņēmumu vērtībām
Militārajiem stratēģiem šķietami ir skaidrs pamatojums. Karadarbība kļūst arvien sarežģītāka, un ātrums, ar kādu tiek pieņemti lēmumi, var izšķirt konflikta iznākumu. AI spēj apstrādāt milzīgus datu apjomus daudz ātrāk nekā cilvēks, identificēt modeļus un piedāvāt risinājumus. Ierobežojumi, kas traucē šīm sistēmām darboties pilnā potenciālā vai integrētās militārajās tīklos, tiek uztverti kā apdraudoši nacionālo drošību.
Taču otrā pusē stāv uzņēmumi un to inženieri, kuri ir veidojuši šīs tehnoloģijas. Daudzi no viņiem ir publiski izteikuši nopietnas bažas par AI lietošanu bruņojumā. Viņu bažas ietver:
* **Autonomo nāvējošo ieroču attīstība:** Vai AI varētu pilnībā kontrolēt ieročus bez “cilvēka kontroles”?
* **Neparedzamu sekļu risks:** Kā garantēt, ka sarežģīts algoritms kaujas laukā nepieņems kļūdainu lēmumu?
* **Uzņēmuma reputācija:** Sadarbība ar militāriem var atgrūst talantus un pārkāpt uzņēmuma deklarētās ētiskās vērtības.
* **Tehnoloģijas noplūdes draudi:** Integrējot tehnoloģiju noslēgtās sistēmās, uzņēmums var zaudēt kontroli pār tās turpmāko izmantošanu.
Uzņēmumu šķības: starp peļņu, principiem un patriotismu
Informācija norāda, ka šis Pentagonā pieprasījums ir izraisījis “nopietnas diskusijas padomēs”. Šī frāze slēpj iespējamo krīzi. Uzņēmumu vadītāji saskaras ar sarežģītu dilemmu.
Vienā pusē ir milzīgs finansiāls stimuls. Aizsardzības departamenta budžets ir milzīgs, un ilgtermiņa līgumi par AI pakalpojumiem varētu nodrošināt stabilus ieņēmumus uz gadu desmitiem. Turklāt pastāv arguments par patriotisko pienākumu – palīdzēt valsts drošībai.
Otrā pusē ir iekšējā kultūra un ētikas kodeksi. Daudzi darbinieki šajos uzņēmumos ir pievēlušies idejai par “AI par labu cilvēcei”. Viņu motivācija ir radīt tehnoloģijas, kas uzlabo dzīvi, nevis to apdraud. Pārcelt šo fokusu uz militāriem mērķiem var izraisīt iekšēju nemieru, darbinieku protestus un pat masveida atlaišanas, kā tas jau ir noticis citos tehnoloģiju gigantos, kas sadarbojās ar militārajiem.
Nākotnes aina: ko nozīmē šis virziens globālajai drošībai?
ASV iniciatīva, visticamāk, paātrinās globālo AI bruņošanās sacensības. Ja ASV iegūst pārākumu, arī citas lielvalstis, piemēram, Ķīna vai Krievija, pastiprinās savus centinus iegūt līdzīgas iespējas, iespējams, ar vēl mazākām ētiskām šķēršļiem. Tas rada vairākus būtiskus jautājumus:
1. **Regulēšanas trūkums:** Vai pastāv pietiekami spēcīgi starptautiski līgumi, kas regulē AI izmantošanu karadarbībā?
2. **Atbildības jautājums:** Ja autonomā sistēma, kuras pamatā ir komerciāls algoritms, pieņem fatālu lēmumu, kurš būs atbildīgs – militārpersona, uzņēmums vai algoritma veidotājs?
3. **Tehnoloģijas difūzija:** Vai šīs jaudīgās tehnoloģijas var nokļūt neparejās rokās, ja tās tiek integrētas militārajās sistēmās, kuras var uzlauzt?
Secinājums: Jauna laikmeta slieksnis
Pentagona vēlme pēc neierobežotas AI nav tikai tehnisks pieprasījums. Tas ir filosofisks un ētisks izaicinājums visai tehnoloģiju nozarei. Tas liek mums visiem padomāt: kur robežas starp inovāciju nacionālās drošības vārdā un atbildību par tehnoloģiju, kas var mainīt patiesību par karu un dzīvībām? Atbildes, ko komerciālie AI uzņēmumi sniegs šajās “padomes diskusijās”, veidos ne tikai viņu nākotni, bet arī nākotnes karadarbības raksturu. Vienīgais skaidrs ir tas, ka sacensības par AI pārākumu ir pilnā sparā, un tās vairs nenotiek tikai pētniecības laboratorijās, bet arī uzņēmumu padomju telpās un sabiedrības sirdsapziņā.