Historia ya matumizi ya teknolojia katika umma

Matumizi ya mifumo ya kompyuta kwa maamuzi ya umma yana mizizi yake tangu miaka ya 1960 na 1970, wakati mifumo ya kitaalamu na programu za kitaalam zilianza kutumika katika ukusanyaji wa data na utungaji wa sera. Katika miongo iliyofuata, serikali wengi ulimwenguni zilianza kuhamisha huduma za umma kwa mifumo ya elektroniki, ikiwemo mizania ya kodi, usimamizi wa faida za jamii na miundombinu ya utoaji vibali. Maendeleo ya hivi karibuni yamejikita katika matumizi ya teknolojia ya akili bandia (AI) ambayo inaweza kutabiri mwenendo, kufafanua hatari, au kuhakiki maombi kwa kasi zaidi kuliko mwanadamu. Uhamishaji huu uliibua maswali ya msingi kuhusu utatuzi wa maamuzi, uwazi wa taratibu na uwezo wa wananchi kupata ukaguzi wa kisheria.

Misingi ya kisheria na mabadiliko ya kisera

Katika ngazi ya kimataifa, misingi ya utawala wa AI imekuwa ikijengwa kupitia kanuni kama zile za OECD (2019) na Mapendekezo ya UNESCO kuhusu akili bandia (2021) ambazo zinasisitiza uwajibikaji, uwazi na ushirikishwaji wa wadau. Baraza la Umoja wa Ulaya lilipitisha makubaliano ya kitaasisi kuhusu Sheria ya AI (muhtasari wa makubaliano ya kisiasa 2023), ikitangaza mfumo wa hatari uliogawanya matumizi ya AI na kuweka vikwazo kwa mifumo yenye hatari kubwa kwa haki za msingi. Kwa upande wa kitaifa, baadhi ya serikali zimejiandaa kwa kuanzisha miongozo ya maamuzi ya kiotomatiki; mfano mmoja ni sera ya Kanada ya 2019 kuhusu maamuzi ya kiotomatiki katika idara za umma, ikijumuisha zana za tathmini ya athari za algorithimu. Mabadiliko haya ya kisera yanaonyesha mwelekeo wa kupima usalama wa huduma za umma dhidi ya uhuru wa kisheria wa mtu.

Maamuzi ya mahakama na uzoefu wa mipaka

Mahakama katika baadhi ya nchi zimeanza kuingilia ili kulielewa nafasi ya AI katika utendaji wa serikali. Mfano mkubwa ni maamuzi ya korti nchini Uholanzi kuhusu mfumo wa utambuzi wa hatari (SyRI) walioudakwa na mahakama ya wilaya mwaka 2020 kuwa ulikiuka sheria za msingi kwa sababu ya ukosefu wa uwazi na hatari ya ukatili wa mfumo dhidi ya jamii zilizo hatarini. Uamuzi huo umesisitiza kuwa matumizi ya teknolojia ya utabiri yanahitaji msingi wa kisheria wazi, tathmini za hatari na miundo ya ukaguzi huru. Hali kama hizi zinaonyesha namna mahakama zinavyoweza kutumika kama chombo la kulinda haki za raia dhidi ya maamuzi ya otomatiki yasiyo na uwazi.

Madhara ya kijamii na kiutendaji

Kuenea kwa AI katika taasisi za umma kuna faida kubwa za kimfumo: ufanisi wa utoaji huduma, kupunguza upungufu wa rasilimali, na kuboresha utoaji wa huduma kwa kutumia data za wakati halisi. Hata hivyo, kuna hatari za kuleta ubaguzi wa mfumo, kupunguza nafasi za ushauri wa kibinadamu, na kuunda mashine zisizoweza kueleweka (black box) ambazo zitapunguza uwezo wa raia kupata miongozo ya kisheria. Kwa jamii, athari hizi zinaweza kuonekana katika upungufu wa imani kwa taasisi za umma, maamuzi yasiyofaa ya kuondoa msaada wa kijamii kwa watu wenye mahitaji, na changamoto za kurekebisha makosa kwa wakati. Kwa hivyo, mchanganuo wa athari za kijamii unahitaji kuchanganya maarifa ya kitaaluma, ushahidi wa kisayansi na ushauri wa wadau.

Changamoto za utekelezaji wa udhibiti

Katika ngazi ya utekelezaji, serikali zinakutana na vikwazo vingi: upungufu wa uwezo wa kiufundi katika idara za umma, ukosefu wa wataalamu wa sheria na AI wanaoweza kushirikiana, na rasilimali za kifedha kwa ajili ya ukaguzi wa nje. Pia kuna tatizo la uwezo wa taasisi za ukaguzi wa ndani au mahakama kuhukumu masuala ya kiufundi kama miundo ya ujifunzaji wa mashine. Mfumo wa sheria unahitaji kujenga miundombinu ya tathmini (impact assessments), sheria za uwazi zinazolazimisha ufafanuzi wa maamuzi ya AI, na utaratibu wa ruksa wa kibinadamu pale inavyohitajika. Bila hatua hizi, hatimaye mabenchi ya AI yanaweza kufanya maamuzi yenye athari zisizorekebishwa kisheria.

Mapendekezo ya kisheria na kisera

Kuna njia za kisheria na kisera za kuzuia hatari na kufanikisha matumizi ya AI kwa manufaa ya umma. Kwanza, sheria za msingi za utumishi wa umma zinapaswa kusasishwa ili kujumuisha kanuni za uwazi, ufafanuzi wa wajibu wa kiutendaji na haki ya kugombea maamuzi ya kiotomatiki mbele ya mamlaka huru au mahakama. Pili, uteuzi wa mifumo yenye hatari kubwa unapaswa kuambatana na tathmini za athari za kimaadili na kijamii kabla ya upitishaji matumizi (pre-deployment impact assessments). Tatu, ni muhimu kuunda chombo huru cha ukaguzi cha kiteknolojia ndani ya serikali au kimtandao, chenye uwezo wa kuelewa na kuhukumu mifumo ya AI. Nne, fungu la ushirikishwaji wa raia linapaswa kuwekeza kwa elimu ya umma kuhusu jinsi maamuzi ya AI yanavyoathiri maisha yao na haki zao.

Hitimisho: mwelekeo wa sheria za baadaye

Matumizi ya AI katika huduma za umma ni mabadiliko wa kimfumo ambao unahitaji uwiano kati ya ufanisi wa huduma na ulinzi wa haki za kimsingi. Kulingana na sera na nyaraka za kimataifa kama zitajumuaziwa na UNESCO na OECD, pamoja na uzoefu wa maamuzi ya mahakama kama kesi ya Uholanzi, ni wazi kuwa mfumo wa udhibiti lazima uwe mseto wa sheria, miongozo ya kitaaluma na taasisi huru za ukaguzi. Serikali zinazotaka kutumia AI kwa manufaa ya umma zinahitaji kuwekeza katika mazingira ya kisheria yanayowezesha uwazi, uwajibikaji na upatikanaji wa njia za kusuluhisha mabishano. Kwa njia hiyo, maendeleo ya kiteknolojia yataweza kutumika bila kutesa misingi ya sheria na haki za raia.