přejít na obsah přejít na navigaci

Linux E X P R E S, Může uzavřený software rozhodovat o vině a trestu?

Veeam

Může uzavřený software rozhodovat o vině a trestu?

Paragraf

Soudy v některých státech začínají používat software, který prakticky rozhoduje o vině a o výši trestu. Jak se na používání takového softwaru dívat? A může mít tento software uzavřené zdrojové kódy? 


reklama

„Počítačové rozsudky“

Rozvoj technologií zasahuje do všech oblastí lidské činnosti. Výjimkou není ani právo, přestože je to oblast velmi konzervativní, kde jakékoli změny v drtivé většině případů probíhají velmi pomalu a jakékoli novinky jsou přijímány jen opatrně.

Soudnictví bylo dosud v rukou lidských soudců, kteří jsou samozřejmě už z lidské podstaty nedokonalí a omylní. I přes maximální snahu (která navíc nemusí být vždy přítomna, nemluvě o různých ovlivňujících činitelích, počínaje názory na určité věci až v extrémním případě po úplatky) se tedy stávají chyby a omyly, které jsou jen někdy napravovány dostupnými opravnými prostředky.

Proto se právě toto nabízí jako oblast, kde by nasazení technologií mohlo významně přispět ke zkvalitnění výsledků, tedy k přesnějším rozsudkům, více odpovídajícím zjištěnému stavu věci a právním předpisům. Od využití takovýchto nástrojů jako pomůcek se lze postupně dostat až do fáze, že budou stroje rozhodovat samostatně, zpočátku jednodušší věci a později i ty složitější.

Článek je zaměřen na trestní řízení před soudem, ale obdobná situace je u jiných druhů sporných řízení (obchodních, rodinných, pracovních…), ať už soudních, správních či rozhodčích, byť někdy požadavky nemusejí být tak přísné.

Je lepší stroj nebo člověk?

Stroj (myšleno dnes typicky počítač řízený programem, který vytvořili lidé na základě algoritmu, jenž je opět lidským dílem) má v rámci soudního nebo jiného rozhodovacího řízení celou řadu výhod. Není ovlivňován vnějšími vlivy („jak se ten den vyspí“) ani okolnostmi případu (třeba emotivními svědeckými výpověďmi), netrpí podjatostí (pokud tak není naprogramován), necítí lítost atd.

Na druhou stranu je stroj jen tak dokonalý, jak dokonale je naprogramován. Pokud se objeví něco, s čím se v jeho programu nepočítá, nelze předvídat, jak to dopadne. Nebo to třeba i předvídat lze, ale zjistí se to až ve chvíli, kdy už je pozdě.

Je jasné, že postupem času budou stroje stále dokonalejší. Pokud budeme věřit na technologickou singularitu, tak dokonce dříve či později nastane okamžik, kdy se stroje stanou chytřejší než lidé a pro svůj další rozvoj už nebudou lidi potřebovat. Zatím ale víme, že navzdory mnoha přednostem strojů je člověk přece jen dokonalejší.

Proto se jeví jako vhodné využívat „strojové souzení“ jen jako pomůcku pro lidské rozhodování. Jenže … tím stále ponecháváme v plném účinky zmíněné lidské nedostatky, které mohou strojem kvalitně připravený případ doslova zničit.

Aktuálně se v rukou strojů ponechávají většinou jen extrémně jednoduché věci, jako je třeba ukládání pokut za některé druhy dopravních přestupků (jízda na červenou nebo do zákazu vjezdu, překročení povolené rychlosti, nedodržení bezpečné vzdálenosti apod.). S tím, že pokud se obviněný odvolá, případ už pak posuzují lidé.

U nás jde většinou jen o automatizované posílání výzvy k zaplacení určené částky, což je první fáze řízení v případě detekce překročení nejvyšší povolené rychlosti. Pokud provozovatel vozidla nezaplatí, věc už do svých rukou přebírají úředníci.

Soudní software s uzavřenými zdrojovými kódy

Diskuse okolo softwaru, který rozhoduje „o vině a trestu“, se rozvinula v souvislosti s tím, že zdrojové kódy tohoto softwaru bývají uzavřené. Z pohledu firem, které takový software vyvíjejí, může být uzavřenost logická – firmy investují do vývoje algoritmů nemalé prostředky a proto si je chtějí chránit jako své know-how. Jenže z pohledu práva je uzavřenost zdrojových kódů problematická, a to hned z více důvodů.

Následující odstavce předpokládají právní stát, který respektuje všechny základní právní zásady a stejně tak i právo na spravedlivý proces, zejména ve smyslu Úmluvy o ochraně lidských práv a základních svobod.

Odůvodnění rozhodnutí

Přestože klíčovou částí rozsudku nebo jiného rozhodnutí je výroková část („o vině a trestu“), ta nemůže nikdy existovat sama o sobě. Musí na ni navazovat odůvodnění, proč a na základě čeho bylo takto rozhodnuto – a o to po stránce skutkové i právní. Pokud rozhoduje software, nelze odůvodnění vyslovit bez přesného popisu toho, jak tento software pracuje. Nejsou k tomu samozřejmě potřeba přímo zdrojové kódy, ale musí být odkryt algoritmus (veřejně, protože tak se rozsudek vyhlašuje).

Přezkoumatelnost rozhodnutí

Každé rozhodnutí musí být přezkoumatelné – formou různých opravných prostředků (odvolání, dovolání, kasační stížnost, různé formy námitek atd.). Nelze přezkoumávat něco, u čeho chybí část informací. Podobně jako musí být přezkoumatelné jednotlivé důkazy (například měřidla musejí být úředně ověřená), totéž se týká i softwaru, který se pro rozhodování používá. Výstup softwaru s uzavřenými zdrojovými kódy může být za určitých okolností přezkoumatelný, ale není tomu tak vždy (záleží na tom, co přesně software dělá).

Možnost přípravy obhajoby

V rámci trestního řízení má obviněný právo si připravit obhajobu, což nelze bez toho, aby získal všechny potřebné informace. Mezi tyto informace patří i to, jak bude probíhat strojové posuzování. Uzavřené zdrojové kódy jsou opět problém – přestože to lze obejít tím, že se kódy poskytnou jen obviněnému, ale otevřeny nebudou.

Možnost vyjádření se k důkazům

Přestože daný software není sám o sobě důkazem, s důkazy pracuje a proto má význam se ptát, jak nakládá a prováděnými důkazy i s vyjádřením k ním. Toto opět nutně nevyžaduje otevřenost zdrojových kódů, lze to nahradit vyčerpávající dokumentací.

Musejí být kódy otevřené?

Jak je vidět, uzavřenost zdrojových kódů je na překážku plnění požadavků právního státu. V některých situacích by zřejmě bylo možné řešit tyto problémy i jinak než úplným otevřením kódů (například přístup jen obviněného a advokáta se zákazem dalšího šíření, plus poskytnutí určitých informací o funkci softwaru), ale riziko „puštění se na tenký led“ je značné.

Uvidíme, jak se k tomu budou stavět příslušné rozhodovací orgány (tedy v našem případě Ústavní soud ČR a Evropský soud pro lidská práva) a jaké hranice pro nasazení strojového rozhodování vytyčí. Byla by škoda zcela odmítat zapojení strojů do justice, zároveň je ale na místě náležitá opatrnost a respekt vůči hodnotám právního státu.

Nahoru

(Jako ve škole)
Průměr: 1,33 | Hodnotilo: 3
 

Top články z OpenOffice.cz

Příspěvky

Může uzavřený software rozhodovat o vině a trestu?
Wrunx 5. 06. 2017, 21:48:44
 Odkaz 
Skvělý článek.
Napsal jsem dva odstavce věcí co mě k tomu napadly, ale neuložilo se to a vykoplo mě to na nějakou anglickou stránku že můj firewall něco nedovoluje. No nic. Už to znovu vymýšlet nebudu.
Takže vyberu jen jednu větu: strojové zdůvodnění bude patrně tak složité a rozsáhlé, že si vynutí strojový ověřovač. Neboli takový stroj/soudce naruby. Bez otevřenosti kódu to nepůjde.

Přidat názor

Nejsou podporovány žádné značky, komentáře jsou jen čistě textové. Více o diskuzích a pravidlech najdete v nápovědě.
Diskuzi můžete sledovat pomocí RSS kanálu rss



 
 

Lukáš Jelínek

Lukáš Jelínek

Šéfredaktor LinuxEXPRESu a OpenOffice.cz. Vystudoval FEL ČVUT v oboru Výpočetní technika. Žije v Kutné Hoře a podniká v oblasti informačních technologií. Ve volném čase rád fotografuje, natáčí a stříhá video, občas se věnuje powerkitingu a na prahu čtyřicítky začal hrát tenis.


  • Distribuce: Debian, Linux Mint
  • Grafické prostředí: KDE
  • Hodnocení autora: ***

| proč linux | blog