Maja MorelaMaja Morela
Miha MočnikMiha Močnik
Meta PotočnikMeta Potočnik
Umetna inteligenca (foto: pixabay)
Umetna inteligenca | (foto: pixabay)

Ali bomo zaradi umetne inteligence postali manj pametni?

Pogovor o | 17.07.2023, 09:59 Rok Mihevc

Sredi poletja, ko številni uživajo zaslužene počitnice in dopustniške dni, smo v redni tedenski oddaji Pogovor o odprli vprašanja s področja umetne inteligence. Naši gostje so zadevo razložili konkretno, preprosto in postavili kar nekaj etičnih in moralnih dilem: šolstvo in način učenja, postavljanje diagnoz in pravna odgovornost, kibernetska varnost, zloraba pri uporabi fotografij ali človeškega glasu, dezinformacije in vpliv na demokracijo ...

Hitrost razvoj prestrašila tudi ustanovitelje

Razvoj umetne inteligence je bliskovit in ne pozna počitnic.  Dejstvo je, da temu razvoju povprečen zemljan ne more v celoti slediti niti ga dobro razumeti. Ta hitrost je prestrašila celo tiste, ki so svojo kariero posvetili pripravi terena za ta preobrat. Umetna inteligenca bo spremenila naša življenja – na bolje in slabše – tako temeljito in tako hitro, da nam ne bo preostalo drugega, kot da pripravimo sebe in drug drugega na posledice. Tukaj je eden od nekaterih spletnih ponudnikov.

Dr. Bergant: Dejstva nas morajo strezniti

Dr. Tina Bregant, doktorica znanosti s področja nevrološke vede in specialistka pediatrije ter fizikalne in rehabilitacijske medicine poudarja:

»Najprej je potrebno preveriti verodostojnost podatkov, potem znati uporabiti samo tiste, ki nas zanimajo ter ob tem ohraniti koncentracijo in pozornost, kar pa je izjemno težko. To od naših možganov zahteva brezhibno delovanje, kar pa razvojno gledano ni vedno mogoče, saj se naši možgani oz. predfrontalni režnji razvijajo še v pozna dvajseta leta. Ta dejstva nas morajo strezniti in naše navdušenje nad UI postaviti na realno raven, še posebej na področju vzgoje in izobraževanja.«

Umetna inteligenca
Umetna inteligenca © pexels

Trampuž: Potreba po temeljiti regulaciji

Naš gost je bil tudi direktor podjetja CREApro, Mitja Trampuž, ki se svojo celotno kariero ukvarja z varnostjo v informacijski tehnologiji. Izpostavil je potrebo po temeljiti regulaciji in transparentnosti:

»Evropski parlament je že potrdil osnutek zakona o umetni inteligenci, AI Act, s katerim bo Evropska unija regulirala razvoj in uporabo umetne inteligence. Zakon je najobsežnejša regulacija umetne inteligence na svetu. Uvaja več varovalk in umetno inteligenco deli na več stopenj, odvisno od tveganja. Če bo to minimalno, uporaba ne bo omejena. Za omejeno tveganje večjih omejitev takisto ne bo, medtem ko bo umetna inteligenca z visokim tveganjem podvržena regulaciji. Obstaja še četrta kategorija, ki bo prepovedana. Sem sodijo na primer sistemi za avtomatično določanje kazni v sodnih postopkih. Zakonodaja prinaša še številne druge regulacije in obvladovanje tveganje za zdravje, varnost, okolje, temeljne pravice, demokracijo in vladavino prava.«

Primer: nekdo posname glas nekoga drugega, napiše obremenjujoč tekst za to osebo, in UI ta tekst prevede v glas tistega človeka. Tu se odpira vprašanje dokazov na sodišču...

Dr. Bračun: Vprašanje dokazov na sodišču

Dr. Franc Bračun prihaja iz NLB, kjer se ukvarja z upravljanjem s podatki in umetno inteligenco v vlogi glavne odgovorne osebe za podatke:

»UI vidim kot vsako drugo orodje. Ta tehnologija nam lahko prinese veliko dobrega in tudi veliko slabega. Zato je potrebno imeti pri njeni uporabi dobre namene zase in za druge. Lahko jih pa uporabljamo zato, da uničujemo drug drugega, kar se je v zgodovini že velikokrat potrdilo in je lahko zelo nevarno. Tako imamo npr. algoritme, ki znajo odčitati rentgenske slike in to storijo boljše kakor človek. A še vedno mora na koncu zdravnik sprejeti odločitev. Lahko pa UI uporabljamo v slabe namene. Primer: nekdo posname glas nekoga drugega, napiše obremenjujoč tekst za to osebo, in UI ta tekst prevede v glas tistega človeka. Tu se odpira vprašanje dokazov na sodišču...«

Mitja Trampuž, dr. Tina Bregant, dr. Franc Bračun
Mitja Trampuž, dr. Tina Bregant, dr. Franc Bračun

Celotnemu pogovoru lahko prisluhnete tukaj.

Pogovor o
Dr. Gabriel Kavčič (photo: Rok Mihevc) Dr. Gabriel Kavčič (photo: Rok Mihevc)

Hud cinizem

Predvidoma v prihodnjem tednu bo znano, kdaj bomo odločali o treh posvetovalnih referendumih, med katerimi bo tudi posvetovalni referendum o pomoči pri prostovoljnem končanju življenja. Moralni ...

Radio Ognjišče v Bohinju (photo: Rok Mihevc) Radio Ognjišče v Bohinju (photo: Rok Mihevc)

Konec dober, vse dobro!

V teh dneh smo že večkrat objavili, da smo pridobili vsa potrebna dovoljenja in bomo v četrtek, 18. aprila, znova začeli oddajati z Vogla. S tem bomo zaključili 17 let dolgo zgodbo, ki so jo žal ...

Peter Jančič (photo: STA) Peter Jančič (photo: STA)

Natikanje nagobčnika drugače mislečim

Spletni portal tednika Družina poroča, da je raziskovalec spolne vzgoje v šoli ter diplomirani mikrobiolog Tim Prezelj tožil novinarja Roka Blažiča zaradi sklopa objavljenih prispevkov o teoriji ...

Skrbno izbirajmo obutev.  (photo: PixaBay) Skrbno izbirajmo obutev.  (photo: PixaBay)

Zakaj je dobro kupovati obutev popoldne?

Vida Ozis je ustanoviteljica blagovne znamke AN.NIKA, je direktorica Centra medicinske pedikure, razvila je medicinsko sponko - vse ostale, ki so prisotne na domačem trgu, so iz uvoza. Večina si ...

Družine potrebujejo spodbud in medsebojne podpore ter zgledov.  (photo: lj_nadskofija) Družine potrebujejo spodbud in medsebojne podpore ter zgledov.  (photo: lj_nadskofija)

Vzemimo Boga zares

Živimo v duhovni shizofreniji, ki na prvi pogled ni prepoznavna. Na eni strani poudarjamo, kako imamo pravico izbrati lastni slog in stil življenja, kako je naša pravica izbira identitete, celo ...