Olulistes küsimustes vajab tehisaru enda kõrvale inimaru

Ellex Raidla Advokaadibüroo jurist Hegle Pärna ja vandeadvokaat Merlin Liis-Toomela selgitavad tehisintellekti määruse artiklite sarjas määruse erinevaid aspekte. Nad analüüsivad selle keerulise õigusakti detaile ning annavad ülevaate tehisarust endast. Käesolev artikkel on sarja kolmas osa. Tutvu artikli esimese sissejuhatava osaga siin ja teise osaga siin.

Sammuke lähemale kuulikindlale tehisarule

Tehisintellekti loodu võib olla kallutatud ning selle loodud sisu puhul tuleb võtta arvesse ka võimalikke eksimusi, mida tehisaru võib teha. Eksimuste vältimiseks ja n-ö kuulikindla tehisaru loomiseks on oluline aga inimjärelevalve, mis on ka antud määruse üks võtmeteemasid. Milline roll on inimesel otsustusprotsessi juures ja sellel, et tehisaru ei tegutseks üksipäini?

Autonoomsed otsused ja inimjärelevalve olulisus

Tehisintellekti süsteemid on üldjuhul loodud selleks, et aidata meil teha otsuseid või vähemalt abistada meid õigete otsusteni jõudmise teekonnal. Suuri ja võimekaid mudeleid on võimalik muuhulgas kasutada selleks, et valida aianduskeskusest kiiresti sobiv taim, leida sõbrale sünnipäevaks õige kink või koostada tuumajaama tuleohutuseeskirjad. Ilmselgelt ei ole kasutusvaldkonnad võrdse kaaluga oma tagajärgede poolest. Kui mudel valib iseseisvalt vale kingi, siis piirdub selle valiku tagajärg tõenäoliselt üksnes kerge pettumusega ning reaalset kahju tehisaru kasutajale eksimusest ilmselt ei teki. Olukord on sootuks erinev, kui tegemist on mõne eluliselt olulise valikuga, näiteks töökohale sobiva kandidaadi valimisega, kohtuotsuse langetamisega või suisa tervisealase otsusega – näiteks sobiva medikamendi või raviskeemi valimine.

Ükski tehisintellekti mudel ei ole täiuslik ning mudelid omandavad oskused neile antud treeningandmete põhjal. Kui andmed on mingit pidi kaldu või puudulikud, siis kajastub ka see anomaalia mudeli oskustes. Seega on teatud juhtudel mõistlik või isegi kohustuslik teostada inimjärelevalvet, eriti kui mõjutatud on isikute turvalisus, üldine heaolu või õigused.

Tehistaibu kallutatus võib väljenduda isegi eelnevalt mainitud lihtsamate ülesannete puhul. Näiteks leidis juba 2020. aastal aset juhtum, kus üks avalikkusele kättesaadavaks tehtud piltide paremaks muutmise mudel muutis kvaliteedi parandamise käigus kõik tumedanahalised inimesed heledanahalisteks inimesteks. Kuulsaim näide eeltoodust oli USA endise presidendi Obama pilt, mis levis sotsiaalmeedia platvormidel kulutulena. Konkreetne näide lõi elava diskussiooni inimjärjelevalve vajaduse üle juba mudelite treenimise etapis, kuna treeningandmestikud ei pruugi sisaldada alati piisavalt mitmekesiseid andmeid ning seega võivad süsteemid teha kallutatud otsuseid, mis võivad osutuda diskrimineerivaks.

Inimjärelevalve tagamine

Tehisintellekti süsteemid, mis on mõnel moel seotud kriitilise infrastruktuuriga (vesi, elektrivõrk jne) kasutavad üldjuhul human-in-the-loop (HITL) mudelit tehisintellekti rakendamisel. See tähendab, et mudel töötleb näiteks suures koguses andmeid ja annab soovitusi juhtimise parandamiseks, kuid kõik olulised otsused teeb alati inimene. Olukordades, kus tehisintellektist saadav kasu on suur, kuid valede otsuste puhul võib tekkida rahas või isegi inimeludes mõõdetav kahju, võimaldab HITL kasutamine võimalikke riske maandada.

Inimjärelevalve tagamisele annab hoogu juurde ka tulevane tehisintellekti määrus. Määruses on sihikule võetud peamiselt n-ö kõrge riskiga süsteemid, mille puhul on inimjärelevalve muudetud kohustuslikuks. Teisisõnu peavad mudeli kasutajad omama ülevaadet tehtud otsustest ning olema võimelised ka neid vajadusel peatama või muutma. Ka isikud, keda võivad sellised otsused mõjutada, peavad olema teadlikud, et otsuseid võidakse teha tehisintellekti süsteemi abil. Teatud kõrge riskiga mudelite puhul nõuab määrus isegi, et järelevalvet teostatakse ning iga tehistaibu tehtud otsust kinnitaks vähemalt kaks inimest. Näiteks juhul, kui süsteemi kasutatakse mõne haiguse diagnoosimiseks või hoopis välkkauplemiseks. Tehistaibu kasutamisel on seega möödapääsmatu vajadus ka inimese enda järelevalvel, mille tagamiseks peab mudeli kasutamisel võtma täiendavaid samme.

Artikkel ilmus 24.06.2024 Ärilehes.