U prethodnom članku govorili smo o tome da poverenje postaje jedna od najvažnijih vrednosti u razvoju veštačke inteligencije.
Ali poverenje ne nastaje samo zahvaljujući kvalitetu tehnologije.
Ono se gradi i kroz jasna pravila, odgovornost, transparentnost i zajedničke standarde.
Upravo zato poslednjih godina svedočimo jednoj od najvećih promena u razvoju digitalne ekonomije.
Po prvi put države i međunarodne institucije ne postavljaju pitanje da li treba regulisati veštačku inteligenciju.
Pitanje je postalo:
Kako omogućiti razvoj AI tehnologija, a istovremeno zaštititi građane, kompanije i društvo od rizika koje one mogu doneti?
Od tehnološke fascinacije ka odgovornoj primeni
Razvoj generativne veštačke inteligencije pokazao je koliko brzo inteligentni sistemi mogu promeniti način na koji radimo, učimo i donosimo odluke.
Istovremeno, otvorena su i brojna pitanja.
Kako proveriti odluke AI sistema?
Ko je odgovoran ukoliko sistem pogreši?
Kako sprečiti diskriminaciju, zloupotrebu ili donošenje odluka koje nije moguće objasniti?
Kako zaštititi poslovne i lične podatke?
Odgovori na ova pitanja više nisu samo predmet stručnih rasprava.
Oni postaju deo regulatornog okvira koji će oblikovati budućnost digitalne transformacije.
Evropska unija postavlja nova pravila
Evropska unija je usvajanjem AI Act-a napravila prvi sveobuhvatni regulatorni okvir za veštačku inteligenciju.
Njegov cilj nije da uspori razvoj inovacija.
Naprotiv.
Osnovna ideja jeste da se razvoj AI podstiče, ali uz odgovarajući nivo bezbednosti, transparentnosti i odgovornosti.
AI Act uvodi pristup zasnovan na proceni rizika.
Što je veći mogući uticaj AI sistema na ljude, poslovanje ili društvo, to su veći zahtevi koje takav sistem mora da ispuni.
Na primer, sistemi koji učestvuju u donošenju odluka u oblastima kao što su zdravstvo, energetika, finansije ili kritična infrastruktura podležu znatno strožim pravilima od sistema namenjenih svakodnevnoj produktivnosti ili zabavi.
Šta to znači za kompanije?
Za mnoge kompanije najveća promena neće biti sama tehnologija.
Najveća promena biće način na koji će AI morati da se razvija, dokumentuje i koristi.
U praksi to znači da će organizacije sve više obraćati pažnju na:
- upravljanje rizicima;
- kvalitet podataka;
- tehničku dokumentaciju;
- mogućnost provere rezultata;
- ljudski nadzor;
- bezbednost sistema;
- zaštitu podataka;
- odgovorno upravljanje životnim ciklusom AI rešenja.
Drugim rečima, pitanje više neće biti samo:
„Da li naš AI radi?“
Već:
„Možemo li dokazati da radi odgovorno?“
Pouzdana veštačka inteligencija kao poslovna prednost
Mnoge kompanije još uvek regulatorne zahteve posmatraju kao dodatni trošak.
Međutim, dugoročno gledano, upravo odgovoran pristup može postati značajna konkurentska prednost.
Kompanija koja može da pokaže da njeni AI sistemi funkcionišu transparentno, da su rizici analizirani i da postoje odgovarajući mehanizmi kontrole, biće u boljoj poziciji da stekne poverenje kupaca, partnera i regulatora.
Poverenje postaje deo poslovne vrednosti.
Gde se u toj slici nalazi Strukturna inteligencija?
Jedan od razloga zbog kojih u ovom serijalu govorimo o Strukturnoj inteligenciji jeste činjenica da se u svetu sve više istražuju pristupi koji omogućavaju bolje razumevanje načina na koji inteligentni sistemi donose zaključke.
Strukturni modeli, kauzalno zaključivanje, formalne metode i drugi srodni pravci razvoja ne predstavljaju zamenu za postojeće AI tehnologije.
Ali mogu doprineti razvoju sistema koji su pregledniji, lakši za analizu i pogodniji za primene u oblastima u kojima su pouzdanost i odgovornost od posebnog značaja.
Upravo zbog toga smatramo da ove teme zaslužuju pažnju domaće stručne i poslovne javnosti.
Šta to znači za Srbiju?
Srbija već godinama razvija strateški okvir za primenu veštačke inteligencije i prati evropske trendove u ovoj oblasti.
Kako se domaće zakonodavstvo bude dalje usklađivalo sa evropskim pravilima, kompanije će sve više morati da razmišljaju ne samo o tome kako da uvedu AI, već i kako da njime odgovorno upravljaju.
To će zahtevati nova znanja.
Nove kompetencije.
Nove procese.
I novu kulturu upravljanja tehnologijom.
Uloga Udruženja e-Razvoj
Jedan od zadataka Udruženja e-Razvoj jeste da pomogne domaćoj poslovnoj zajednici da razume ove promene pre nego što one postanu svakodnevna obaveza.
Naš cilj nije da tumačimo zakone.
Naš cilj je da povezujemo tehnologiju, poslovanje i stručna znanja.
Kroz ovaj serijal želimo da otvorimo dijalog o tome kako će se razvijati pouzdana, odgovorna i transparentna veštačka inteligencija i kako se domaća privreda može na vreme pripremiti za promene koje dolaze.
Zaključak
Digitalna transformacija ulazi u novu fazu.
U narednim godinama uspeh neće zavisiti samo od toga ko raspolaže najmoćnijim AI modelima.
Podjednako će biti važno ko može da pokaže da njegove inteligentne sisteme karakterišu odgovornost, transparentnost i poverenje.
Evropski regulatorni okvir jasno pokazuje da budućnost veštačke inteligencije neće biti određena isključivo tehnološkim mogućnostima.
Biće određena i kvalitetom upravljanja tim tehnologijama.
Za kompanije koje na vreme razumeju ove promene to neće predstavljati prepreku.
Predstavljaće novu razvojnu priliku.
Prethodno objavljeno u serijalu
Deo 1
Strukturna inteligencija: Sledeći korak u razvoju veštačke inteligencije
Deo 2
Strukturna inteligencija i veliki jezički modeli: Zašto predviđanje nije isto što i razumevanje
Deo 3
Zašto Udruženje e-Razvoj otvara stručni dijalog o Strukturnoj inteligenciji
Deo 4
Poverenje postaje najvažnija valuta veštačke inteligencije
U sledećem nastavku
Deo 6
Od podataka do uzroka: Zašto kauzalno zaključivanje postaje sledeći izazov razvoja veštačke inteligencije
Preporučena literatura, standardi i relevantni izvori
- Regulation (EU) 2024/1689 – Artificial Intelligence Act.
- European Commission. White Paper on Artificial Intelligence: A European Approach to Excellence and Trust.
- NIST. Artificial Intelligence Risk Management Framework (AI RMF 1.0).
- ISO/IEC 42001:2023 – Artificial Intelligence Management System.
- OECD. OECD AI Principles.
Slobodan Krstić
Predsednik Udruženja e-Razvoj
https://erazvoj.com