Umetna inteligenca brez zavor | (foto: Fotografija je ustvarjena s pomočjo umetne inteligence)
Umetna inteligenca brez zavor
Slovenija Urh Sušnik
Razvoj umetne inteligence odpira vse več varnostnih in etičnih vprašanj, zakonodaja pa mu težko sledi. Direktor podjetja Viris in etični heker Milan Gabor je opozoril, da se tehnologija spreminja v mesecih ali celo tednih, medtem ko priprava novih pravil traja več let. Prav hitrost razvoja je zato izpostavil kot enega največjih izzivov.
Gabor je posebej opozoril na vse bolj samostojne sisteme oziroma tako imenovane UI-agente. Ti lahko na podlagi navodil sami izvajajo različne naloge in uporabljajo druga orodja. Po njegovih besedah zato ni več ključno samo vprašanje, kaj umetna inteligenca zmore, ampak tudi, kdo je odgovoren, če sistem naredi napako, poda napačen odgovor ali povzroči škodo.
Umetno inteligenco vse pogosteje uporabljajo tudi kibernetski kriminalci. Gabor je povedal, da so zaradi nje napadi postali hitrejši, cenejši in bolj prepričljivi. Med drugim je izpostavil bolj dovršena »phishing« sporočila, ponarejanje glasu in videa ter avtomatizirano socialno inženirstvo. Umetna inteligenca lahko napadalcem pomaga tudi pri iskanju ranljivosti in pripravi bolj zapletenih napadov.
Opozorila s strani ZN in Anthropicsa
Gabor je komentiral tudi opozorila, da bi bilo treba razvoj umetne inteligence upočasniti. Meni, da takšna opozorila velja jemati resno, vendar je opozoril, da upočasnitev razvoja v Evropi ali ZDA sama po sebi ne bi rešila problema, saj bi druge države lahko razvoj nadaljevale. Kot ključno je zato izpostavil, da bi morali varnostni mehanizmi, nadzor in odgovornost napredovati približno tako hitro kot sama tehnologija. K upočasnitvi so pozvali tudi velikani umetne inteligence Antrophics (Claude), pozivu pa sta se pridružila tudi direktorja Open AI (Chat-GPT) in X-a (Grok). Na drugi strani pa je ustanovitelj tehnološkega velikana Meta (Facebook...) zavrnil pozive k upočasnitvi ali zaustavitvi svetovnega razvoja UI.
Vpliv na okolje
Velik izziv je po njegovih besedah tudi poraba energije in vode. Za razvoj in delovanje naprednih modelov so potrebni zmogljivi podatkovni centri, njihove potrebe po računski moči pa hitro rastejo. Gabor je ocenil, da rast teh potreb trenutno prehiteva izboljšave učinkovitosti, zato bo vprašanje energetske in okoljske vzdržnosti v prihodnjih letih še pomembnejše.
Umetna inteligenca tako vse bolj posega v vsakdanje življenje, z njenim razvojem pa po Gaborjevem mnenju raste tudi potreba po ustrezni zaščiti. Kot je poudaril, mora regulacija slediti tehnologiji, sicer lahko varnostni mehanizmi zaostanejo za njenim razvojem.
