V Los Angelesu je porota odločila, da sta Meta in Google s tem, kako sta zasnovala Instagram in YouTube, prispevala k duševnim težavam 20 letne uporabnice, ki je aplikacije uporabljala na zasvojljiv način od otroštva. Sodba preoblikuje dolgoletno razpravo o „pametnem dizajnu“ v pravno vprašanje, kje potegniti črto med spodbujanjem vključenosti in odgovornostjo za nastanek odvisnosti.
Porota ni zgolj priznala, da družbena omrežja lahko škodujejo. Ugotovila je, da sta podjetji zavestno vgradili funkcije, ki zadržijo mlade na platformi, da sta bila seznanjena z nevarnostmi, nista jasno opozorila na tveganja in da povprečen uporabnik teh posledic ni mogel prepoznati, zato Meta in Google nosita odgovornost in morata plačati skupaj 6 milijonov dolarjev odškodnin. Za starše, šole in zvezne države v ZDA, ki pripravljajo na tisoče podobnih tožb, je to znak, da se takšna pravna strategija lahko izkaže za uspešno in da bodo poslovni modeli, zgrajeni na pozornosti, odslej pod povečanjem tudi na sodiščih.
Za kaj v resnici gre v tem sporu
Primer, imenovan JCCP 5255, je vključeval mlado žensko, ki je pri 10 letih začela uporabljati družabna omrežja in je v skladu s tožbo razvila "nevarno odvisnost" od njih, ki so jo spremljali tesnoba, depresija, samopoškodovanje in oslabljena samopodoba. Porota je ugotovila, da:
Meta in YouTube sta vedela za tveganja, povezana z zasnovo njunih platform
običajni uporabniki se teh tveganj niso zavedali
jih družbi kljub temu nista opozorili, čeprav bi to storil "razumni upravljavec
Tožnici in njeni materi je bilo skupaj prisojenih 6 milijonov dolarjev odškodnine in kazenske odškodnine. Meta $META in Alphabet $GOOG se nameravata pritožiti, tako da sodni postopek še zdaleč ni končan.
Kako so odvetniki obšli oddelek 230
Dolga leta je veljalo pravilo, da se tožbe proti spletnim mestom družabnih omrežij končajo na zidu, imenovanem oddelek 230. Ta zakon varuje internetna podjetja pred odgovornostjo za vsebino, ki jo objavijo uporabniki, in jim dovoljuje, da v "dobri veri" umirjajo tisto, kar se jim zdi škodljivo. Tradicionalni argument "vsebina na platformi je škodljiva za otroke" so sodišča večinoma hitro zavrnila.
Tokratpa so pravniki naredili preobrat: ne presojajo vsebine, temveč zasnovo. Njihov cilj je:
neskončno pomikanje
všečke in druge povratne informacije
obvestila
algoritmi, ki povečujejo vključenost
Pravi, da gre za aktivne oblikovalske odločitve in ne za pasivno gostovanje vsebine nekoga drugega. Če uničuje duševno zdravje, se po tej logiki oddelek 230 ne uporablja. To je konstrukcija, na kateri temelji sodba.
Svoboda govora proti odgovornosti algoritmov
Naslednji krog bitke bo potekal zaradi argumentov o svobodi govora. Pravni strokovnjaki pričakujejo, da bosta Meta in Google na tem gradila pritožbo:
Algoritmi ter način razvrščanja in prikazovanja vsebine
kot tudi oblikovanje vmesnika.
so oblika govora in zato zaščiteni z ustavo.
Če višja sodišča trdijo, da je podjetja mogoče tožiti na splošno zaradi izbire oblikovanja in algoritmov, obstaja nevarnost "učinka ohlajanja".
Ali bodo platforme postale veliko bolj previdne in omejile mehanizme zasvojenosti ali pa bodo začele agresivno filtrirati sporne teme, da bi zmanjšale pravno tveganje - s tem bodo zožile prostor za spletno razpravo.
Možno je, da bo spor na koncu končal na vrhovnem sodišču, ki bo moralo odločiti, kje je meja med tehnično zasnovo in zaščitenim govorom.
Tri možne smeri
1) Sodba bo v pritožbenem postopku potrjena
Če bo pritožbeno sodišče odločilo, da:
se člen 230 uporablja za algoritme in oblikovanje
ali da je tožba nedopusten poskus izogibanja zakonskemu varstvu
sodba ne bo obveljala in val drugih tožb bo znatno oslabel. Pravna strategija "napadimo oblikovanje" bo izgubila svoj čar in sodni spori se bodo vrnili k posamičnim primerom, ne pa k sistemskemu napadu na poslovni model. Za Meta in Alphabet bi to pomenilo, da bi pritisk na ugled ostal, vendar bi bilo pravno in finančno tveganje obvladljivo.
2) Sodba bo obveljala, vendar bo privedla le do postopnih sprememb
Druga možnost je, da sodišče ohrani možnost uveljavljanja odgovornosti za določene oblikovalske odločitve, vendar postavi visoko letvico:
Zahtevalo bo jasne dokaze o vzročni zvezi med značilnostjo in določeno škodo.
omejiti odgovornost na skrajne primere
V praksi bi to verjetno pomenilo:
več funkcij "dobrega počutja" (časovne omejitve, opomniki, močnejša orodja za vzgojo)
skrbnejše ravnanje z obvestili za najstnike
večjo preglednost algoritmov
Poslovni model, ki temelji na pozornosti, bi ostal v središču, vendar bi morala podjetja upoštevati stalne pravne stroške in stroške usklajevanja.
3) Sodba bo precedens za plaz tožb
Najhujši scenarij nastopi, če bodo višja sodišča to potrdila:
Oddelek 230 se ne uporablja za oblikovanje
podjetja so lahko odgovorna za "zasvojljivost" svojih izdelkov
in se kongres ne odloči spremeniti zakona v korist platform.
Rezultat:
Na tisoče podobnih tožb staršev, šol in držav.
Pritisk vlagateljev, da spremenijo izdelke tako, da zmanjšajo tveganje zasvojenosti (tudi za ceno manjše vključenosti)
Pravi posegi v algoritme in UX - omejitev neskončnega pomikanja, drugačne privzete nastavitve za mladoletnike
Tehnološke platforme bi se zakonito začele približevati "reguliranim izdelkom", kot sta tobak ali igre na srečo. To bi močno vplivalo na vrednotenje podjetij, mnogokratnike rasti in pričakovano dobičkonosnost.
Globalni pritisk: od Avstralije do Brazilije
Losangeleško sojenje ni osamljen dogodek. V drugih državah se že pojavljajo strožja pravila:
Avstralija je prepovedala uporabo spletnih strani družabnih omrežij za otroke, mlajše od 16 let.
Brazilija je prepovedala funkcije neskončnega pomikanja za določene skupine uporabnikov
Druge države razvijajo kombinacijo starostnih omejitev, obveznih elementov "varnosti že v zasnovi" in testov vpliva na duševno zdravje.
To odpira novo vprašanje: kako preveriti starost v praksi? Brez neke oblike identifikacije (npr. državnih ali zasebnih identifikacijskih sistemov) je zakone težko izvajati. Pri tem se pojavljajo pomisleki glede zasebnosti in tveganje napačne identifikacije, ko bi odrasli pomotoma preklopili na "otroški način" in bi morali dokazovati svojo starost.
Kaj lahko iz tega potegnemo
Sodba proti Meta in Googlu še ni revolucija, je pa prvi resen udarec za rešilni mehanizem digitalnega modela "čim več časa na spletu, tem bolje". Odločitve bodo sprejete v prihodnjih letih:
Ali bodo algoritmi in oblikovanje ostali pravno zaščiteni kot vsebina ali pa bodo postali področje, na katerem bodo podjetja posebej odgovorna za vpliv na zdravje uporabnikov, zlasti otrok in najstnikov.