Ali bomo zaradi umetne inteligence postali manj pametni?

Pogovor o | 17.07.2023, 09:59 Rok Mihevc

Sredi poletja, ko številni uživajo zaslužene počitnice in dopustniške dni, smo v redni tedenski oddaji Pogovor o odprli vprašanja s področja umetne inteligence. Naši gostje so zadevo razložili konkretno, preprosto in postavili kar nekaj etičnih in moralnih dilem: šolstvo in način učenja, postavljanje diagnoz in pravna odgovornost, kibernetska varnost, zloraba pri uporabi fotografij ali človeškega glasu, dezinformacije in vpliv na demokracijo ...

Hitrost razvoj prestrašila tudi ustanovitelje

Razvoj umetne inteligence je bliskovit in ne pozna počitnic.  Dejstvo je, da temu razvoju povprečen zemljan ne more v celoti slediti niti ga dobro razumeti. Ta hitrost je prestrašila celo tiste, ki so svojo kariero posvetili pripravi terena za ta preobrat. Umetna inteligenca bo spremenila naša življenja – na bolje in slabše – tako temeljito in tako hitro, da nam ne bo preostalo drugega, kot da pripravimo sebe in drug drugega na posledice. Tukaj je eden od nekaterih spletnih ponudnikov.

Dr. Bergant: Dejstva nas morajo strezniti

Dr. Tina Bregant, doktorica znanosti s področja nevrološke vede in specialistka pediatrije ter fizikalne in rehabilitacijske medicine poudarja:

»Najprej je potrebno preveriti verodostojnost podatkov, potem znati uporabiti samo tiste, ki nas zanimajo ter ob tem ohraniti koncentracijo in pozornost, kar pa je izjemno težko. To od naših možganov zahteva brezhibno delovanje, kar pa razvojno gledano ni vedno mogoče, saj se naši možgani oz. predfrontalni režnji razvijajo še v pozna dvajseta leta. Ta dejstva nas morajo strezniti in naše navdušenje nad UI postaviti na realno raven, še posebej na področju vzgoje in izobraževanja.«

Trampuž: Potreba po temeljiti regulaciji

Naš gost je bil tudi direktor podjetja CREApro, Mitja Trampuž, ki se svojo celotno kariero ukvarja z varnostjo v informacijski tehnologiji. Izpostavil je potrebo po temeljiti regulaciji in transparentnosti:

»Evropski parlament je že potrdil osnutek zakona o umetni inteligenci, AI Act, s katerim bo Evropska unija regulirala razvoj in uporabo umetne inteligence. Zakon je najobsežnejša regulacija umetne inteligence na svetu. Uvaja več varovalk in umetno inteligenco deli na več stopenj, odvisno od tveganja. Če bo to minimalno, uporaba ne bo omejena. Za omejeno tveganje večjih omejitev takisto ne bo, medtem ko bo umetna inteligenca z visokim tveganjem podvržena regulaciji. Obstaja še četrta kategorija, ki bo prepovedana. Sem sodijo na primer sistemi za avtomatično določanje kazni v sodnih postopkih. Zakonodaja prinaša še številne druge regulacije in obvladovanje tveganje za zdravje, varnost, okolje, temeljne pravice, demokracijo in vladavino prava.«

Primer: nekdo posname glas nekoga drugega, napiše obremenjujoč tekst za to osebo, in UI ta tekst prevede v glas tistega človeka. Tu se odpira vprašanje dokazov na sodišču...

Dr. Bračun: Vprašanje dokazov na sodišču

Dr. Franc Bračun prihaja iz NLB, kjer se ukvarja z upravljanjem s podatki in umetno inteligenco v vlogi glavne odgovorne osebe za podatke:

»UI vidim kot vsako drugo orodje. Ta tehnologija nam lahko prinese veliko dobrega in tudi veliko slabega. Zato je potrebno imeti pri njeni uporabi dobre namene zase in za druge. Lahko jih pa uporabljamo zato, da uničujemo drug drugega, kar se je v zgodovini že velikokrat potrdilo in je lahko zelo nevarno. Tako imamo npr. algoritme, ki znajo odčitati rentgenske slike in to storijo boljše kakor človek. A še vedno mora na koncu zdravnik sprejeti odločitev. Lahko pa UI uporabljamo v slabe namene. Primer: nekdo posname glas nekoga drugega, napiše obremenjujoč tekst za to osebo, in UI ta tekst prevede v glas tistega človeka. Tu se odpira vprašanje dokazov na sodišču...«

Celotnemu pogovoru lahko prisluhnete tukaj.