V svetu tehnologije že dolgo velja vodilo ameriškega divjega kapitalizma o disruptivnem delovanju. Gre za prakse, ko nove in nepredvidene storitve sunkovito vstopijo na trg in začnejo lomastiti med pravnimi sivinami. Prvi vzgib ameriških zakonodajalcev je običajno, da trgu prepustijo, da se uravna sam. V EU so zakonodajalci bolj pazljivi in že kmalu začnejo razmišljati o prenovi pravnih okvirjev. Umetna inteligenca je bila prva nova storitev, ki je nemudoma zganila zakonodajalce na obeh straneh Atlantika, a pot do dejanske uveljavitve novih pravil je bila dolga. V EU je s 1. avgustom končno začel veljati akt o umetni inteligenci, ki želi postaviti širši okvir pravil za odgovoren razvoj in uporabo umetne inteligence. Križem rok ne sedijo niti v ZDA, kjer sprejemajo posamezne zakone za zaščito pred konkretnimi oblikami zlorab umetne inteligence. Zanimivo je, da ukrepe za boj proti zlorabam spodbujajo tudi podjetja, ki sama razvijajo orodja, ki težave povzročajo.
Novi akt o umetni inteligenci je evropska komisija sicer predlagala že aprila 2021, evropski parlament in svet sta se o njem dogovorila decembra lani. Akt velja za vse razvijalce umetne inteligence, predpise pa razvršča glede na štiri stopnje tveganja. Ta segajo od nobenega tveganja do nesprejemljivega tveganja. Evropska komisija pravi, da za večino umetnointeligenčnih sistemov, kot so filtri za neželeno elektronsko pošto ali videoigre, ki temeljijo na umetni inteligenci, niso predvidene nobene obveznosti, vendar lahko podjetja prostovoljno sprejmejo dodatne kodekse ravnanja.
Sistemi, kot so klepetalni boti, morajo po drugi strani uporabnike jasno obvestiti, da so v stiku s strojem. To pride do izraza zlasti pri uporabi robotskih asistentov in robotskih odzivnikov za pogovor s strankami. Kdor si na napravo prenese aplikacijo pogovornega bota, verjetno že ve, da se ne pogovarja s pravim človekom. Čeprav zna biti glasovni pogovorni bot chatGPT v angleščini že šokantno manipulativen s slogom govora. Primerjave s filmom Her niso odveč.
Med umetnointeligenčne sisteme velikega tveganja sodi medicinska programska oprema, ki temelji na umetni inteligenci, ali umetnointeligenčni sistemi, ki se uporabljajo za kadrovanje. Takšni sistemi morajo imeti sisteme za zmanjševanje tveganja, visokokakovosten nabor podatkov, uporabnikom morajo posredovati jasne informacije, nad njimi pa mora bedeti tudi človeški nadzornik.
Sistemi umetne inteligence, ki vladam ali podjetjem omogočajo »družbeno točkovanje«, veljajo za očitno grožnjo temeljnim človekovim pravicam in so zato prepovedani.
Premalo stroga pravila
Čeprav akt že velja, imajo do uveljavitve posameznih zahtev podjetja na voljo daljše prehodno obdobje. Če tudi po preteku prehodnih obdobij pravil ne bodo upoštevala, bi jih lahko čakale globe do višine 7 odstotkov globalnega prometa. Posamezne države članice pa bodo morale do prihodnjega avgusta vzpostaviti nadzorne organe, ki bodo skrbeli za upoštevanje pravil v posamezni državi članici. Ker se EU zaveda očitkov, da je pogosto svetovni tehnološki policaj, namesto da bi bila inovator, je evropska komisija ob palici ponudila tudi korenček. Letos naj bi v razvoj umetne inteligence v EU vložila milijardo evrov. Do leta 2030 naj bi vložki na tem področju dosegli že 20 milijard evrov.
Odzivi na nova pravila so različni. Okoli 700 podjetij je že podpisalo zavezo, da jih bodo uveljavili pred predpisanimi roki. Drugi opozarjajo, da so zahteve na nekaterih področjih preveč splošne in nedorečene. Upajo, da se bo s prakso še kaj spremenilo. Spet tretji opozarjajo, da pravila niso dovolj stroga in so bolj naklonjena razvijalcem umetne inteligence kot ljudem, ki bodo morali s posledicami nove tehnologije živeti. Evropska civilnodružbena gibanja, med njimi tudi slovenski Danes je nov dan, so tako izrazila razočaranje, da EU z aktom ni ubrala pristopa, ki bi bolj temeljil na človekovih pravicah. Napovedujejo, da si bodo prizadevali za čim bolj smotrno implementacijo novih pravil.
Kapital proti kapitalu
V ZDA so minuli teden v obravnavo poslali predlog zakona, ki bi prepovedal ustvarjanje podob in glasu posameznikov s pomočjo umetne inteligence brez njihovega dovoljenja. Ameriške zakonodajalce so k pripravi akta spodbudile zlasti zgodbe o pesmih, ki so jih posamezniki ustvarili z umetno inteligenco in pri tem uporabili umetno ustvarjeni glas slavnih glasbenikov. Nekaj vode na mlin je napeljal tudi spor med igralko Scarlett Johansson in podjetjem OpenAI. Igralka podjetju očita, da so za svojo govorno asistentko kopirali njen glas iz filma Her. Podjetje to odločno zanika in pravi, da so za glas uporabili resnično osebo. No, glas sporne asistentke je nedvomno zelo podoben glasu Johanssonove. Med podporniki predloga so tudi sindikat ameriških igralcev ter televizijskih in radijskih ustvarjalcev, podjetje Disney, organizacije s področja ameriške glasbene industrije, agencije za iskanje talentov in mnogi drugi, ki bi jim uporaba umetne inteligence znala vzeti kruh.
Svoje ukrepe zoper zlorabe umetne inteligence je medtem predstavil tudi Google. Slednji se je spravil nad zelo perečo težavo lažnih fotografij ali posnetkov ljudi v intimnih scenarijih, ki so nastali z umetno inteligenco in brez dovoljenja »vpletenih«. Google pravi, da bodo z novimi orodji prizadeti lažje dosegli množični izbris spornih vsebin s spleta, tudi ko se bodo množično razširile. Prav tako Google napoveduje, da bodo strani, kjer se objavljajo takšne vsebine, potisnili globoko proti dnu rezultatov iskanj ter tako še otežili iskanje in širjenje spornih vsebin. Microsoft je medtem pritisnil na ameriške zakonodajalce, naj posodobijo zakonodajo, da bo ščitila pred goljufijami in zlorabami s pomočjo ponarejenih videoposnetkov ali fotografij.
