Beijing Internet Court og digitalisering av Kinas rettsapparat

Kina har hatt flere prosjekter der målet har vært å integrere ny teknologi inn i domstolenes håndtering og administrasjon av tvistesaker. Dette arbeidet har pågått systematisk over flere år, og inngår som del av en større nasjonal domstolsreform. Dette har resultert i en digital transformasjon av deler av rettssystemet, som igjen har gitt Kina unik kunnskap og erfaringer knyttet til introduksjonen av nye plattformer og digitale verktøy for rettsvesenet.

I dette arbeidet har det vært en målsetning å effektivisere en rekke arbeidsprosesser, samtidig som det skal oppnås større grad av standardisering og økt kvalitet. Dette er igjen en del av Kinas overordnede satsning på AI-teknologi, og implementeringen i domstolene kan sees i lys av et større bilde der Kina nå tester ut AI-teknologi på en rekke ulike områder i samfunnet.

En særskilt domstol med navnet «Internet Court» ble først introdusert i Hangzhou i August 2017 og er et eksempel på hvordan Kina prøver ut nye løsninger. Dette ble starten på en offisiell kinesisk satsning på Online Dispute Resolution (ODR). Beijing Internet Court (BIC) som vi skal se litt nærmere på i denne artikkelen har vært i drift siden 9. september 2019, og har jurisdiksjon innenfor det geografiske området til Beijing, saklig begrenset til 11 ulike typer Internett-relaterte bransjeområder.^{(1)Guangzhou fikk en egen Internet Court i 2018, slik at man da fikk tilsammen tre separate digitale domstoler} BIC har tatt i bruk en egen web-basert plattform der partene kan gjennomføre hele saken uten noen gang å måtte møte opp i retten.

En rekke ulike tiltak er blitt gjennomført for å spre budskapet om digital saksbehandling og bruk av elektroniske bevis, blant annet en rap-video fra 2019 som ligger på nettsiden til Folkets Høyesterett. Her er det seks dommere fra Jiang’an distriktsdomstol i Wuhan, senteret i Hubeiprovinsen. Dette er samme Wuhan som først opplevde Corona-viruset på samme tid som denne rap-videon gikk viralt tidlig i desember måned 2019.^{(2)https://subsites.chinadaily.com.cn/supremepeoplescourt/2019-12/06/c_768306.htm} Vi ser dommerne i formell bekledning med kapper i rettslokalet, mens også med caps og solbriller mens de syngende/rappende forklarer den riktige måten å håndtere digitale bevis. De forklarer om bevis som logger fra WeChat, online kommunikasjon og Alipay. Tan Juan som var regissør for filmen er ansatt ved domstolens PR-avdeling og ønsket å vise at dommere også kan være kule. Han uttalte da videoen ble lansert:

Etter å ha sett denne filmen er det bare å oppfordre norske dommere til å følge etter. Dette er altså bare ett enkelt eksempel på en hel rekke tiltak der man legger til rette for en bredere kontakt mot publikum generelt og forsøker å bryte ned barrierer og fordommer som vanlige folk kan ha mot domstolenes formaliserte rolle i samfunnet.

BIC var tidlig ute med å introdusere en egen portal der saksøkeren kan registrere en profil og fremme krav på en enkel måte. Det er laget en egen video som forklarer prosessen – denne er absolutt verdt en titt.^{(3)https://english.bjinternetcourt.gov.cn/2019-05/09/c_158.htm}

Når saken registreres lager man først en brukerprofil via en QR-kode. Deretter kan du registrere saken og laste opp bevis. Dersom saken godkjennes og registreres hos domstolen vil saksøkte motta varsel elektronisk, hvorpå saksforberedelsen går videre. Selve hovedforhandlingen skjer digitalt og som regel allment tilgjengelig via en egen portal. Dommen fra BIC formidles også digitalt. Bevisene som lastes opp lagres i blokkjeden Tianping.

Som en del av Kinas fokus på å implementere ny teknologi i domstolene har det også vært en diskusjon rundt bruk av blokkjedesystemer for å håndtere bevis, registrering av informasjon, smartkontrakter og annen informasjon. 23. mai 2022 utstedte Folkets Høyesterett (The Supreme People’s Court of the People’s Republic of China^{(4)https://english.court.gov.cn/index.html domstolen har en egen engelsk nettside}) et eget skriv om blokkjedeapplikasjoner i domstolene: «The Opinions of the Supreme People’s Court on Strengthening Blockchain Application in the Judicial Field».^{(5)https://subsites.chinadaily.com.cn/supremepeoplescourt/2022-05/25/c_761407.htm} Det er fascinerende bare å lese introduksjonen til dette skrivet, som gjør det fullstendig klart at Kina har et langsiktig prosjekt om å integrere teknologi på et nasjonalt plan, og at domstolene utgjør bare en del av denne satsningen. Dette fremgår ikke minst ved at det vises til pålegg fra Kinas president Xi Jinping om aktivt å promotere bruken av blokkjedeteknologi for å forbedre nasjonale samfunnstjenester av ulik art:

Kinesiske domstoler har tidligere lagt vekt på mer tradisjonelle og formaliserte bevisregler, og i stor grad benyttet for eksempel notarialbekreftelser. Dette innebærer en del praktiske utfordringer knyttet til fysisk oppmøte hos notar, kostnader og ikke minst samlet tidsbruk. Beslutningen om aktivt å legge til rette for bruk av blokkjeder for å håndtere bevis kom i kjølvannet av flere saker der domstolene ble forelagt bevis sikret på denne måten Det ble i disse sakene lagt til grunn at dette var en effektiv og sikker form for bevisførsel. Med flere og flere slike saker var det naturlig å utvikle regler og retningslinjer for å samordne bruken av blokkjeder ved håndtering av bevis i tvistesakene. I september 2022 ble det lansert en ny versjon 2.0 av Tianping, som innebar en standardisering opp mot en separat blokkjede for registrering av åndsverk. Dette åpnet for at dataene i de to ulike systemene kunne samkjøres og verifiseres. På denne måten samkjøres og integreres blokkjeder i domstolene, og det er ikke vanskelig å se for seg flere slike konsolideringer fremover.

Kort tid etter denne oppdateringen av blokkjeden nedkom Folkets Høyesterett 8. desember 2022 med ytterlige et skriv for å ta digitaliseringen videre, «The Supreme People’s Court The Opinions on Regulating and Strengthening the Applications of Artificial Intelligence in the Judicial Fields». Her settes det klare mål om å innføre AI som en del av domstolsapparatet, og dette skal skje raskt:

Det beskrives konkrete grener og funksjoner innen rettsvesenet der AI gradvis skal avløse flere oppgaver fra både dommeren, partene og administrasjonen hos domstolen. Målsetningen er å overføre oppgaver fra dommeren til AI, samtidig som AI skal kunne gjøres jobben med større presisjon. Ved å avlaste dommerne frigjøres det etter planen tid til kvalitetskontroll tilbake fra dommeren, samtidig som behandlingstiden for den enkelte sak går ned. AI-systemene skal være utviklet innen 2025, og være klare for full implementering innen 2030. Som beskrevet ovenfor er det gjort en rekke eksperimenter innen digitalisering og innført AI-lignende teknologi ved flere bestemmelser. Forskjellen er altså at disse erfaringene nå skal brukes til å lage felles løsninger som skal tas i bruk på et generelt plan også hos de ordinære domstolene. Dette blir en spennende utvikling å følge fremover.

Beijing Internet Court avsa nylig en interessant AI-dom om åndsverk

BIC avsa 27. november 2023 en avgjørelse der det ble lagt til grunn at AI-genererte bilder utgjorde åndsverk i lovens forstand.^{(6)Li vs Lui: Beijing Internet Court (2023) Jing 0491 Min Chu 11279} Retten la avgjørende vekt på at det var et menneske som hadde utformet og definert parameterne for AI-modelleringen, og at bildene som ble generert således stammer fra en intellektuell og ikke minst menneskelig innsats. Det ble i denne sammenheng også lagt vekt på at bildene gjenspeiler det personlige uttrykket som lå i denne menneskelige innsatsen.

I denne spalten har jeg tidligere vist til flere avgjørelser fra blant annet USA, der det er lagt til grunn at AI-generert innhold ikke kvalifiserer til åndsverk fordi den menneskelige skapende innsats mangler.

Saksøker i saken var Li, som hadde fått laget et bilde ved bruk av AI-programmet Stable Diffusion. Slike bilder lages ved at brukeren først beskriver bildet, som deretter utformes av AI-programmet. Det brukeren skriver styrer med andre ord hvordan bildet skal se ut. Slikt samspill med en AI gjennom en ledetekst omtales gjerne på engelsk som «prompt engineering». Det krever en hel del erfaring og kunnskap å optimalisere denne måten å frembringe bilder på. I praksis vil brukeren ofte måtte gi tilbakemeldinger på bildet som skapes, slik at dette bearbeides og tilpasses helt til brukeren er fornøyd med resultatet. Under saken argumenterte LI med at denne form for iterativt arbeid har mye til felles med tradisjonell fotografering med manuelle kameraer. Han fremhevet at det må gjøres en rekke justeringer og tilpasninger for å oppnå det resultatet – og det bildet – som kunstneren vil frem til. Denne argumentasjonen var jeg innom i forrige nummer av Lov&Data, der jeg blant annet omtalte saken med Oscar Wilde hvor nettopp dette var et tema.

Bildet skulle i dette tilfellet forestille en japansk skolejente, og Li publiserte det ferdige bildet under tittelen «Spring Breeze Brings Tenderness—AI generated picture» ()^{(7)Oversettelsene er gjort med Google translate, der jeg får bedre presisjon på kinesisk til engelsk. Dette gjelder også de etterfølgende sitatene fra dommen} på plattformen Xiaohongshu. Dette en tjeneste som har mye til felles med Instagram, der brukerne kan legge ut og dele bilder. Det opprinnelige bildet Li publiserte så slik ut:

Dette bildet var altså sluttresultatet, men i dommen er det også vist til at Li gikk gjennom flere forsøk før han kom til dette resultatet. Underveis måtte han justere og tilpasse sine instrukser og beskrivelsen i ledeteksten til AI-programmet før han kom i mål.

Nedenfor er noen av de tidligere versjonene som han altså ikke var fornøyd med:

Bloggeren Liu kom over bildet fra Li og brukte dette på sin egen blogg på plattformen Baijiahao. Hun ønsket å illustrere diktet «Love in March among the Peach Blossoms» () som Liu selv hadde skrevet under brukernavnet «I am Yunkai Sunrise». Liu fjernet i denne forbindelse brukerinformasjonen til Li samt et vannmerke fra Xiaohongshu som var preget inn i bildet.

Behandlingen av saken ble kringkastet av China Central Television, og ble videre livestreamet på en rekke ulike digitale plattformer. Saken vekket altså et stort engasjement hos publikum. Som beskrevet ovenfor fant retten at det i dette tilfellet lå en skapende innsats i selve arbeidet med å beskrive bildet som ble skapt. Retten viste til fire rettslige vilkår for at bildet skulle falle inn under den kinesiske åndsverksloven: 1) Verket må ligge innenfor et av områdene litteratur, kunst eller vitenskap, 2) ha tilstrekkelig originalitet, 3) ha et særskilt uttrykk, og 4) være resultatet av en intellektuell frembringelse.

I forhold til det fjerde vilkåret viser retten i premissene til at slike bildeskapende AI-programmer som Stable Diffusion utgjør verktøy som den menneskelige bruker benytter for selv å skape sine verk. Samtidig påpeker BIC at det er en forventning knyttet til at den menneskelige skaper av AI-genererte bilder sørger for å merke bildene slik at det fremgår at de er laget av en AI. Fra rettens premisser ser vi at retten legger vekt på det som omtales som Li’s «investering» i arbeidet med å frembringe bildet:

I forhold til kriteriet om originalitet trekker retten også her på innsatsen fra Li knyttet til selve produksjonen av bildet. Retten fremhever at Li har skrevet inn over en rekke ulike varianter av ledeteksten for å få frem bildet, og at det var brukt ikke bare positive angivelser i denne prosessen, men også negative instrukser om elementer bildet ikke skulle inneholde. Gjennom prosessen med å skape bildet gjorde Li også flere tilpasninger og endringer for å få bildet slik han ønsket frem til det endelige resultatet. I avgjørelsen er det vist til hvordan ledeteksten brukes for å gi instrukser til AI-programmet, delvis rettet mot bildets utforming, men også mer mekaniske egenskaper som «extremely high quality highdetail RAW color photo […] highly detailed symmetrical attractive face». Retten legger vekt på denne arbeidsprosessen som dommeren mener resulterer i Li’s eget kunstneriske uttrykk:

Liu viste til at bildene som var blitt benyttet var helt sekundære i forhold til hovedinnholdet på bloggposten, som var diktet hun hadde laget selv. Hun fremhevet også at det ikke forelå noen kommersiell utnyttelse, slik at det uansett ikke kunne være aktuelt med en erstatning på 5.000 Yuan slik Li hadde krevd.

For saksøkte Liu innebar dommen at hun ble pålagt å utstede en offentlig unnskyldning til Li, samt betale 500 Yuan av kravet fra Li på 5000 Yuan. Beløpet på 500 yuan utgjør litt i underkant av 800 norske kroner. Hun ble også pålagt å betale sakskostnader til Li på totalt 50 yuan. Dommen kan i skrivende stund ankes og er altså ikke rettskraftig.

Det må med andre ord sondres mellom debatten om selvstendige frembringelser fra AI-programmer skal kunne få vern på den ene siden, og saker som dette der det er spørsmål om det er en tilstrekkelig menneskelig innsats som ligger til grunn for det verket som frembringes.

Denne saken fra BIC fremstår som konkret begrunnet, og Li hadde lagt stor vekt på å å forklare og fremheve alle de ulike kreative elementene i hans bidrag til frembringelsen av bildet. Hadde bildet vært direkte og umiddelbart laget av en AI uten slik skapende innsats fra brukeren av programmet, ligger det i analysen fra BIC at utfallet ville kunne ha blitt motsatt. Det er altså mulig at man i en slik situasjon ikke ville ha stått overfor et verneverdig åndsverk etter kinesisk rett. Det er også verdt å merke seg at denne saken skiller seg fra sakene med Thaler som jeg omtalte i forrige utgave av Lov&Data, ved at Thalers mål har vært å anerkjenne AI-programmet som skaper og rettighetshaver, og ikke den bakenforliggende menneskelige bruker og bidragsyter.

Det er også viktig å understreke at BIC her ikke legger til grunn at det ikke eksisterer et krav til menneskelig innsats. Tvert imot er dette et viktig premiss for rettens vurderinger. I dette tilfellet hadde Li dokumentert hele den skapende prosessen, og det er her retten lot seg overbevise om at det er dette menneskelige bidraget som har gitt det retten mener er et originalt åndsverk fra Li’s hånd. Det er i denne konteksten at retten ser på Stable Difusion som en AI med samme funksjon som en malepensel eller kamera – et verktøy som styres av den menneskelige skaper. Her er det også et viktig poeng at Li var i stand til å dokumentere at hans endelige utforming av ledeteksten alltid ville føre til at nøyaktig samme bilde ble produsert. Denne kompliserte listen med instruksjoner fra Li inneholdt som nevnt både positive og negative elementer, altså karakteristika som måtte være med eller måtte utelates fra bildet, samt en rekke bildetekniske forhold. Dersom Stable Diffusion med samme identiske ledetekst hadde levert ulike bilder, ville dette kunne blitt sett på som et tegn på at den menneskelige innsats hadde mindre betydning.

Det er likevel i disse konkrete sakene at det vil gås opp grenser og avklaringer for hva som er menneskelig innsats og hva som må legges hos våre nye AI-venner. Det må med andre ord sondres mellom debatten om selvstendige frembringelser fra AI-programmer skal kunne få vern på den ene siden, og saker som dette der det er spørsmål om det er en tilstrekkelig menneskelig innsats som ligger til grunn for det verket som frembringes.