När algoritmer blir vittnen – och varför domstolarna svettas

Jag brukar säga att om en rävarunge kan hacka min frukostautomat, så är det dags att uppgradera säkerheten. Men nu står vi inför ett mycket större problem: våra domstolar hackas av matematiken. Algoritmer duger plötsligt som expertvittnen, och jurister runt om i världen försöker desperat lista ut om de ska behandla AI som en super-smart kollega eller en svårförståelig kaffemaskin med doktorsexamen. Spoiler: det blir kaos. Och precis som när min kusin Ragnar försökte lära sig baka surdegsbröd – det slutade med mycket prat om ”naturlig jäsning” och en brandvarnare som tjöt i tre timmar.

Just nu är detta brännhett av två skäl: För det första använder brottsbekämpningen redan AI för att analysera DNA, ballistik och till och med återställa raderade filer – men domstolarna vet inte riktigt hur de ska bedöma bevisen. För det andra har säkerhetsbrister i verktyg som OpenClaw visat att även ”smarta” system kan luras, precis som när jag en gång fick en katt att tro att den var osynlig genom att sätta en papperspåse på huvudet. Skillnaden? När en algoritm luras kan det leda till felaktiga fällande domar.

AI i rättssalen: Expert eller svart låda?

Traditionellt har domstolar förlitat sig på mänskliga experter – någon som kan förklara fingeravtryck eller blodstänk på ett sätt som en jury förstår. Men AI fungerar inte så. Den kan exempelvis:

Analysera DNA-blandningar som är för komplexa för människor (som när du försöker reda ut vem som åt den sista kanelbulle – fast med genetik).
Matcha handstilar med statistisk precision (slut på ”det där ser ut som min morbror Svens handstil”-argumentet).
Spåra kryptovalutatransaktioner som en blodhund på Red Bull (fast utan att behöva kissa på bevisen).

Problemet? AI:n är en ”svart låda” – även dess skapare kan inte alltid förklara varför den kom fram till ett visst svar. Det är som att fråga en korvförsäljare varför hans korv smakar bäst: ”Ja, det gör den bara.” I en rättssal där transparens är A och O blir det… knivigt. Domare i Indien har redan börjat kräva att AI-bevis måste ”översättas” av en människa först. Lite som när min farmor bad mig förklara hur TikTok fungerar, fast med högre insats.

Säkerhetshål som gör AI-bevis osäkra

Tänk dig att en åklagare lägger fram ett AI-genererat bevis som ”obevekligt” visar att den åtalade är skyldig. Imponerande! Till dess att det visar sig att verktyget som användes hade säkerhetsbrister som gjorde det möjligt att manipulera resultatet. Precis som när mitt gamla antivirusprogram trodde att alla PDF:er var virus (inklusive min mors receptsamling).

Nyligen upptäcktes sårbarheter i paket som OpenClaw (använt för policyhantering) som kunde låta angripare:

Bypassa säkerhetspolicys (som att smita förbi en vakt genom att säga ”jag är med i bandet”).
Ändra lokala konfigurationer (lite som när någon ställer om din termostat till 30 grader ”som ett skämt”).
Stjäla API-nycklar (vilket är lika kul som att låna någon annans tandborste).

Om sådana verktyg används för att generera bevis, hur kan vi då lita på att bevisen inte är manipulerade? Svaret är att vi inte kan – åtminstone inte utan bättre säkerhetsrutiner. Och just nu är det lite som att lita på att en katt vakar grädden.

Globalt kaos: Hur olika länder hanterar AI-bevis

Precis som med IKEA-möbler har olika länder helt olika tillvägagångssätt:

USA: Domare agerar ”portvakter” och bedömer om AI-bevis är tillförlitliga (lite som en sträng lärare som kollar om du verkligen har gjort läxan).
EU: Kräver transparens och mänsklig översyn för ”högrisk-AI” (som när min mor krävde att jag skulle visa henne alla mina skolprojekt innan de lämnades in).
Kina: Har redan integrerat AI i domstolarna för att föreslå domar (vilket låter effektivt tills du inser att algoritmen kanske har läst för många deckare).
Indien: Kämpar med att anpassa gamla lagar till ny teknik – lite som att försöka få en häst att förstå hur en Tesla fungerar.

Gemensamt för alla? Rädslan för ”automatiseringsbias” – tendensen att blint lita på vad en maskin säger. Och precis som när GPS:n säger ”sväng här” rakt ut i en sjö, kan det sluta illa.

Tricksies checklista: Så undviker du att AI-bevis blir ett juridiskt fiasko

Om du jobbar med tech, juridik eller bara är nyfiken på hur vi undviker att hamna i en dystopisk rättssal där robotar fäller domar, här är min lista:

Kräv transparens: Om ett verktyg används för att generera bevis, måste dess funktion och träningsdata kunna granskas. Inga ”hemliga ingredienser” som i KFC:s recept.
Validera oberoende: Låt en tredje part kontrollera algoritmen – precis som när du låter en kompis kolla om din nya dejtingprofil låter som en seriell mördare.
Dokumentera allt: AI:n måste logga sina steg så att en människa kan följa resonemanget. Inga ”den kändes säker”-beslut.
Uppdatera säkerheten: Se till att verktygen som används inte har kända sårbarheter (som att låsa dörren när du vet att nyckeln sitter kvar i låset utifrån).
Träna domare och jurister: De måste förstå grunderna i AI – annars är det som att be en bagare att operera en hjärt-lungmaskin.
Använd ”glaslåde”-principen: Istället för svarta lådor, kräv system där man kan se hur besluten tas (lite som när min far öppnade TV:n för att ”fixa” den – fast mer strukturerat).
Ha en plan B: Om AI:n strular eller hackas, måste det finnas ett manuellt alternativ. Precis som när strömmen går och du inser att du glömt hur man tänder en eld med flinta.

Nästa steg: Vad gör vi nu?

Det här är inte science fiction – det händer nu. Så här kan vi gå vidare:

Forensiska standarder: Skapa globala riktlinjer för hur AI-genererade bevis ska hanteras, så att inte varje land uppfinner hjulet på nytt (och fel).
Öka tech-kunskapen i rättsväsendet: Domare behöver inte bli kodare, men de måste förstå grunderna – annars är det som att döma en hackare med en jury som tror att ”the cloud” är en väderfenomen.
Reglera, men inte överreglera: Lagar måste hänga med i tekniken, men de får inte kväva innovation. Balansgången är svår – lite som att försöka gå på linje efter två kopp kaffe.
Testa, testa, testa: Innan AI verktyg används i rättssalar måste de stressas mer än en student under tentaveckan. Simulera attacker, felaktiga indata, och till och med dumma användare (som jag när jag försöker programmera).

Slutligen: Kom ihåg att AI är ett verktyg, inte en domare. Precis som en hammare kan bygga ett hus eller slå sönder en tumme, beror resultatet på vem som använder den – och hur. Så låt oss se till att vi inte bygger ett rättssystem där algoritmerna har mer makt än sunt förnuft. Annars hamnar vi snart i en värld där den som programmerar bäst också bestämmer vad som är rätt och fel. Och tro mig, du vill inte att jag ska vara den som skriver den koden.