Ajalooline taust: e-valitsemise ja automatiseerimise areng Eestis

Eesti on olnud digitaalsete avalike teenuste vallas pioneer juba 2000ndate algusest, kui mudelid nagu X-Road lõid aluse riiklike infosüsteemide koostalitlusvõimele. 2010ndatel laienesid digitaalsed teenused identiteedi, maksustamise ja äriregistri valdkondadesse ning 2014. aasta e-Residentuuringud ja digitaalsed ID-lahendused lihtsustasid piiriülest ligipääsu teenustele. Selle tehnoloogilise evolutsiooni järel on avalikkuses suurenenud valmisolek automatiseeritud otsuste kasutamiseks, kuid samaaegselt on tekkinud küsimusi vastutusest, auditeerimisest ja järelevalvest. Ajalooline perspektiiv näitab, et õiguslik raamistik pidi uute tehnoloogiate kiirusega kohanema, sest tavalised haldus- ja tsiviilõiguslikud instrumentid ei pruugi katta automatiseeritud süsteemide eripära ega nende laiaulatust.

Euroopa regulatiivne raamistik ja AI määruse areng

Euroopa Komisjoni 2021. aasta ettepanek AI määruseks pani liikmesriikide ja institutsioonide päevakorda riskipõhise lähenemise, kus kõrge riskiga süsteemidele seatakse ranged nõuded. Avaliku sektori kasutuskohtadest on aruteludes rõhutatud, et suure mõjuga otsused, mida toetavad automaatsed süsteemid, vajavad nappimist, auditeerimist ja dokumenteerimist. Liidu tasandi regulatsioonid rõhutavad tehnilise vastavuse tagamist ning kontrollmehhanisme, mis sobituvad olemasolevate haldusprotseduuridega. Eesti kui aktiivne e-valitsemise osapool peab järgima nii liidu kui ka kohalikke õigusnorme, mis tähendab vajadust integreerida uued kohustused riigi infosüsteemide halduspõhimõtetesse. Praegustes poliitilistes läbirääkimistes on fookuses riskide proportsionaalsus, sertifitseerimismehhanismid ja kohustused avalikele asutustele.

Õiguslik vastutus ja halduskohtud: küsimused ja mudelid

Tehisintellekti kasutamisel avalikus halduses kerkib esile mitu vastutuse dimensiooni: kas vastutuse kanda peaks riik asutuse või tehnoloogiapakkuja tasandil, milline on kohtuasjade läbiviimise standard ja millised on õiguskaitsevahendid isikutele, keda otsus mõjutab. Traditsioonilised haldusõiguslikud vahendid, nagu otsuste tühistamine ja hüvitisnõuded, vajavad kohandamist, et käsitleda keerukaid algoritmilisi otsustamisprotsesse. Võimalikud mudelid hõlmavad selgete haldusvastutuse reeglite kehtestamist, tarnijate lepingulist vastutust ning regulatiivseid sanktsioone, kui auditid näitavad süsteemi nõuetele mittevastavust. Kohtulahendite ja haldusmenetluste tõhusus sõltub samuti sellest, kuidas tõestuskoormus ja transpaarsuse nõuded on seaduses püstitatud, sh millisel määral peab avalik sektor esitama loogika ja testide tulemused kohtule või järelevalveasutusele.

Avaliku sektori uued kohustused: auditeerimine ja hankepraktika

Avalik sektor peab integreerima uued kontrollmehhanismid oma hankesüsteemidesse ja infosüsteemide elutsüklisse. See hõlmab tehniliste ja organisatsiooniliste nõuete sätestamist tarnelepingutes — näiteks nõue auditeeritavusele, dokumenteerimisele, testimisandmestike läbipaistvusele ning jätkusuutlikkuse tagamisele. Regulatiivsed nõuded suunavad avalikku sektori ostjat sõlmima lepinguid, mis võimaldavad sõltumatuid auditeid ja tingimust, et süsteemid peavad olema välja lülitatavad või inimjärelevalve all. Hankepraktika peab arvestama nii tehnilise kontrolli kui ka vastutuse määratlusega, et tarnelepingud ei nihutaks vastutust ära ega tekiks lünka õiguskaitsevahendites.

Mõjud ühiskonnale ja institutsioonide valmisolek

Automatiseeritud otsused võivad suurendada valitsemise tõhusust, ent samal ajal tekitada pingeid usaldusväärsuse ja kaasatuse teemadel. Avaliku usalduse vähenemine võib tekkida siis, kui otsuste loogika ja vastutus ei ole arusaadavad ega kergesti kontrollitavad. Institutsiooniline valmisolek eeldab nii tehnilist võimekust kui ka haldusjärelevalve mehhanismide arendamist; käegakatsutavaks mitmepoolsuseks saavad sõltumatud auditid, järelevalveorgani pädevus ja koolitus ametnikele. Kaasav lähenemine, kus erinevad huvigrupid saavad osaleda regulatsioonide kujundamises ja pilotprojektide hindamises, aitab vähendada ootamatuid sotsiaalseid tagajärgi.

Praktilised soovitused poliitikakujundajatele

Eestis tuleks kaaluda mitmetasandilist lähenemist. Esiteks seaduse mõju hindamise ja riskiklassifikatsiooni kohustus, mis defineerib, millised avaliku sektori süsteemid vajavad rangemat kontrolli. Teiseks auditeeritavuse ja sertifitseerimise nõuded ning sõltumatud auditiasutused, mis suudavad kontrollida algoritmide toimimist ja auditilogisid. Kolmandaks hankelepingu standardklauselid, mis sätestavad vastutuse, remediatsiooni ja testimisnõuded. Neljandaks juurdepääs kaebuste menetlusprotsessile ja kiire erakorraline peatamine süsteemi puhul, kui ilmneb tõsine kahjuvõi eksimus. Lõpuks investeeringud avaliku sektori tugeva tehnilise ja juriidilise kompetentsi arendamisse tagavad, et seadused ei jää pelgalt paberi peale, vaid saavad igapäevase valitsemise tööriistadeks.

Kokkuvõttes nõuab riigi kasutuses oleva tehisintellekti õiguslik vastutus koordineeritud poliitikat, mis kombineerib tehnilise regulatsiooni, haldusõiguslikke instrumente ja selgeid vastutusraame. Eesti tugev digitaalse halduse maastik annab hea aluse innovatsioonile, kuid õigussüsteem peab tagama, et automatiseerimine ei kahanda avalikku huvi, õiguslikku turvalisust ega ametnike ja kodanike vahelist usaldust.