Rapport från AddAI 2018 del 4 – digitala personer, en ny rättsfigur?

Den sista delen av Internetdagarna 2018 om Artificiell intelligens: det nya gränslandet, som anordnades av AddAI i måndags, fokuserade på den mycket intressanta frågeställningen om rättigheter för AI-system. I rättssystemet idag finns en uppdelning mellan juridiska och fysiska personer, men är det kanske dags att introducera en ny tredje rättsfigur för digitala personer?

Cecilia Magnusson Sjöberg, professor och ämnesföreståndare för rättsinformatik vid Stockholms universitet, inledde diskussionen med en överblick över sambandet mellan AI och juridik. Dels ger utveckling och användning av AI upphov till rent materiella IT-rättsliga frågor (t.ex. avseende ansvar, dataskydd, upphovsrätt osv) och dels ger AI som metod i sig upphov till frågor om etik, proaktiv rättstillämpning, övergripande ansvarsfrågor m.m. Finns det en bortre (etisk) gräns för vilka rättsliga överväganden och beslut som kan ske maskinellt? Hur kan juridiken fungera proaktivt genom att t.ex. redan från början bygga in principer för dataskydd i olika system och tillämpningar? Cecilia Magnusson Sjöberg poängterade att genom att identifiera detta skärningsområde mellan traditionell juridik och ett algoritmbaserat synsätt och lyfta dessa frågor finns det stor potential för ett gott AI-klimat framöver.

Dessa frågor är dock långt ifrån nya. Cecilia Magnusson Sjöberg visade bilden här till höger med inbjudan till Arbetsgruppen för ADB och Juridisk första seminarium 1968, där ämnet för dagen var ”Frågor om personlighetsskydd, rättssäkerhet och sekretess anknytande till användning av automatiska datamaskiner för hantering av olika slags persondata”, dvs samma frågor som vi brottas med idag, inte minst i ljuset av GDPR.

Redan tidigt dök även frågan om behovet av en särskild rättsfigur för system upp, vilket har förstärkts genom utvecklingen av AI och den ökade digitaliseringen i samhället. Behövs det ett nytt koncept för ansvarsfrågor i anledning härav, t.ex. för att kunna anföra ”system-besvär” för att överklaga ett automatiskt myndighetsbeslut? Går det även att tänka sig självgenererande lagstiftning framöver? Som Cecilia Magnusson Sjöberg uttryckte det lite försiktigt känns det ju onekligen lite annorlunda, men kanske finns det behov av att se över vissa grundläggande fundament i dagens lagstiftning som krav på förutsägbarhet?

I en mycket öppen och livfull paneldebatt diskuterades dessa frågor vidare av Stanley Greenstein, jur.dr. och universitetslektor i rättsinformatik vid Stockholms universitet, Nicklas Berild Lundblad, europachef Google, och Markus Bylund, strategichef för IT och digitalisering på Uppsala kommun.

Stanley Greenstein påpekade att det inte finns någon mall som kan hjälpa oss att avgöra om AI ska ses som en juridisk rättsfigur eller om det är människan bakom som ska stå ansvaret för AI:ns agerande. Det väcker också frågor om nationella rättstillämpningar och jurisdiktioner när system används globalt.

Nicklas Berild Lundblad refererade istället till Marvin Minskys citat “Humans will be lucky if superintelligent robots treat them as pets” och menade att vi kanske ska vara glada om vi får behålla vår status som rättsfigur framöver, kanske kommer begreppen fysisk och juridisk person helt att försvinna och bara ersättas av den digitala personens.

Cecilia Magnusson Sjöberg tog upp exemplet med ”Eget utrymme” som koncept, som har vuxit fram inom myndighetsförvaltningen, då författningstexten inte har räckt till för att hantera dessa frågor i digitaliseringens framfart. Kanske kan AI till och med ge större rättssäkerhet än tidigare? Dagens rättstillämpning med människor som dömer kanske inte alltid är hundra procent neutralt och förutsägbart, t.ex. finns det undersökningar som visar att domare dömer hårdare på eftermiddagen när de är trötta och hungriga, än på förmiddagen. Hur rättssäkert är det?

Markus Bylund kompletterade med liknande beslut från kommunen, t.ex. bygglovsansökningar som grundas på subjektiva uppfattningar som borde bli mer rättssäkra med AI-baserade beslut. Han menade dock att vi idag till mycket slängt bort logisk programmering för ett allt större fokus på AI och maskininlärning, där man inte kan härleda logiken bakom besluten. Härigenom har vi släppt ambitionen att förstå varför utfallet blir som det blir utan hänvisas till den underliggande datamängden, vilket försvårar för den som vill bestrida ett beslut eller utfall.

Nicklas Berild Lundblad påpekade också att AI-genererade beslut leder till att vi diskuterar underlaget för besluten mer, vilket ger större fokus på problem som fördomar och annat som redan finns i samhället idag, vilket också ökar rättssäkerheten. Historiskt fick forskningen pengar för att studera hur man kunde ersätta människor, inte för att utveckla människors förmåga. Idag kan vi släppa detta och istället för att fokusera på att AI ska ersätta människor fokusera på AI som komplement och den förstärkta rättshandlingsförmåga som tekniken ger. Detta ger dock i sin tur upphov till nya typer av frågeställningar från ansvars- och försäkringshåll, men även om äganderätt när det inte är datamängden i sig som är värdefull utan träningen av den.

Summa summarum fick vi med oss många intressanta nya juridiska frågeställningar att grubbla på och diskutera vidare när det gäller AI. Visst finns det stora utmaningar framöver, men slutsatsen från dagen var ändå den positiva inställning till framtiden som den övervägande delen av talarna förmedlade.

Många av frågeställningarna finns även samlade i den mycket spännande och intressanta boken “Människor och AI” som alla deltagare så generöst fick med sig hem efter dagen. Boken är framtagen av addAI och innehåller artiklar som reflekterar över vad utvecklingen inom AI kan innebära för oss alla från olika perspektiv.

Flertalet av artiklar belystes under Internetdagarna genom diskussionerna under dagen, bl. a. Cecilia Magnusson Sjöbergs artikel om digitala personer, Maria Nyström Agbacks diskussion om nya lagar behövs, Daniele Akenines överblick över det nya gränslandet, Micael Frideros analys om AI ger oss ett mänskligare eller omänskligare samhälle och Stefan Larsson artikel om sjyst AI, men en artikel som vi som verksamma inom legaltech-området gärna vill lyfta fram lite extra är Fredrik Svärds “Åtta biljoner anledningar för jurister att intressera sig för AI” som ger en mycket bra överblick över hur digitaliseringen och AI-utvecklingen kommer förändra juristbranschen. Mer information om boken finns här: Människor och AI

Läs alla rapporterna från Industridagarna här: