Več sto Googlovih raziskovalcev in inženirjev je podpisalo odprto pismo, v katerem od izvršnega direktorja Sundarja Pichaia zahtevajo, da podjetje zavrne zagotavljanje svojih sistemov umetne inteligence za tajna naročila ameriškega obrambnega ministrstva.
Po navedbah organizatorjev pisma je dokument zbral več kot 580 podpisov (drugi viri navajajo "okoli 600"), pri čemer sta približno dve tretjini soglašali z objavo svojih imen, tretjina pa je želela ostati anonimna.
Kaj konkretno zahtevajo zaposleni
V pismu, ki je bilo Pichaiju vročeno v ponedeljek, zaposleni pišejo, da jih motijo trenutna pogajanja med $GOOG in ameriškim obrambnim ministrstvom o uporabi sistemov Gemini/AI v zaupnih projektih. Kot strokovnjaki za umetno inteligenco opozarjajo, da ti sistemi "centralizirajo moč in delajo napake" ter da jim bližina tehnologije nalaga odgovornost, da opozorijo na najnevarnejše in etične načine uporabe.
Ključni odlomek v pismu glede na objavljene citate pravi, da je "edini način za zagotovitev, da Google ne bo povezan s takšno škodo, zavrnitev vseh zaupnih delovnih obremenitev" za vojsko. Zaposleni opozarjajo, da bi se umetna inteligenca sicer lahko uporabljala v avtonomnem orožju ali množičnem nadzoru brez njihove vednosti ali možnosti posredovanja.
Avtorji pisma utemeljujejo tudi tveganje za ugled: slaba odločitev na tej točki bi po njihovem mnenju lahko "nepopravljivo škodovala ugledu družbe Google, njenemu poslovanju in vlogi v svetu". Podjetje pisma javno še ni komentiralo, vendar po poročanju medijev že več tednov razmišlja o dogovoru s Pentagonom, ki bi nadgradil spor ministrstva s podjetjem Anthropic.
Kontekst: spor Pentagona s podjetjem Anthropic in "odprt prostor" za druga podjetja za umetno inteligenco
Napetosti glede uporabe umetne inteligence v vojski so se zaostrile, potem ko je ameriško obrambno ministrstvo podjetje Anthropic in njegov model Claude označilo za "tveganje v dobavni verigi" in ga začelo izločati iz vojaških projektov. Označitev je pomenila, da Pentagon in njegovi pogodbeniki Clauda ne smejo uporabljati v vojaških pogodbah, podjetje Anthropic pa se bori na sodiščih in trdi, da gre za povračilni ukrep, ker ni dovolilo uporabe umetne inteligence "za vse zakonite namene", vključno s popolnoma avtonomnim orožjem.
Sodišče je zaenkrat začasno preprečilo ministrstvu, da bi sprejelo nekatere ukrepe, vendar je Anthropic trenutno dejansko izključen iz obrambnih pogodb, kar ustvarja prostor za druge velike igralce - običajno Microsoft $MSFT, OpenAI ali samo Google. Po podatkih The Information se Pentagon pogovarja z Googlom o uporabi njegove umetne inteligence (Gemini) v tajnem okolju, kar bi delno zapolnilo luknjo, ki jo je zapustil Anthropic.
Zdaj se je osebje odzvalo: v pismu izrecno navaja, da "ne želi zapolniti praznine, ki jo je zapustil Anthropic", če to pomeni uporabo umetne inteligence v vprašljive vojaške namene. Po poročanju portala Gizmodo so med podpisniki ljudje iz skupin DeepMind, Google Cloud in drugih skupin, tj. tistih, ki se neposredno ukvarjajo z obsežnimi modeli in infrastrukturo.
Retrospektiva projekta Maven v letu 2018
Trenutna peticija se navezuje na prejšnje, zelo občutljivo poglavje v Googlovi zgodovini: protest proti projektu Maven iz leta 2018. Takrat je na tisoče zaposlenih nasprotovalo sodelovanju s Pentagonom pri uporabi strojnega učenja za analizo posnetkov dronov in izboljšanje ciljanja napadov, nekateri izmed njih pa so zaradi tega zapustili podjetje.
V pismu iz leta 2018 so takrat pozvali Google, naj se "ne ukvarja z vojno" in sprejme jasno politiko, da ne bo razvijal tehnologije za namene izvajanja bojnih operacij. Po ostrih notranjih kritikah podjetje ni podaljšalo pogodbe z Mavenom in obljubilo strožja etična načela umetne inteligence - na to tradicijo se sklicujejo današnji podpisniki.
S sedanjim pismom se tako preverja, kako resno Google misli s temi načeli v dobi generativne umetne inteligence, kjer se lahko modeli uporabljajo veliko širše - od obdelave podatkov in načrtovanja operacij do potencialno avtonomnih oborožitvenih sistemov.
Kaj je v igri za Google
S poslovnega vidika gre za občutljivo ravnovesje med donosnim, vendar z vidika ugleda tveganim segmentom "obrambne umetne inteligence" in podobo podjetja, ki želi delovati kot "odgovoren" akter na področju umetne inteligence. Vojaške in vladne pogodbe na področju UI lahko prinesejo dolgoročne pogodbe in stabilne prihodke, hkrati pa podjetje izpostavijo ostrim kritikam zaposlenih, javnosti in nekaterih tujih partnerjev.
Ponavljajoči se notranji upori lahko:
otežiti zaposlovanje vrhunskih raziskovalcev, ki pogosto izbirajo delodajalce tudi na podlagi etičnosti projektov
prisiliti vodstvo, da zavrne nekatere donosne pogodbe in s tem "prepusti" del trga konkurentom
ustvariti precedens: ko vodstvo popusti, bodo zaposleni pogosteje uporabljali podobna orodja (odprta pisma, peticije)
Za delničarje družbe Alphabet je zato bistveno spremljati dve vzporedni liniji: kako se bo razvijal spor med Pentagonom in Anthroposom (tj. kako veliko je splošno "okno priložnosti" pri obrambi umetne inteligence) in kakšen sklep bosta Pichai in vodstvo potegnila iz trenutnega notranjega pritiska. Kombinacija predpisov, ugleda in notranje kulture je tu lahko za vrednost podjetja enako pomembna kot sama tehnologija.