U prethodnim nastavcima serijala govorili smo o tome zašto razvoj veštačke inteligencije ulazi u novu fazu i zbog čega sve više pažnje privlače pristupi koji nastoje da razumeju strukturu sistema, uzročno-posledične veze i način na koji nastaju odluke.
Međutim, postoji jedno pitanje koje će, po mom mišljenju, imati presudan uticaj na budućnost primene veštačke inteligencije.
To pitanje glasi:
Da li verujemo inteligentnom sistemu?
Na prvi pogled odgovor izgleda jednostavan.
Ako sistem daje dobre rezultate – verujemo mu.
Ali u poslovanju stvari nisu tako jednostavne.
Direktor kompanije ne donosi odluku samo na osnovu toga koliko je AI uspešan u proseku.
Njega zanima nešto mnogo važnije.
Može li tom sistemu poveriti poslovanje?
Kada AI postane deo odgovornosti
Veštačka inteligencija više nije tehnologija rezervisana za laboratorije i istraživačke centre.
Danas učestvuje u:
- analizi finansijskih rizika,
- upravljanju logističkim lancima,
- planiranju proizvodnje,
- medicinskoj dijagnostici,
- sajber bezbednosti,
- upravljanju energetskim sistemima,
- analizi saobraćaja,
- podršci donošenju poslovnih odluka.
U svim tim oblastima AI više nije samo pomoćni alat.
On postaje deo procesa odlučivanja.
A kada tehnologija učestvuje u donošenju odluka, pojavljuje se novo pitanje.
Ko preuzima odgovornost?
Poverenje nije isto što i tačnost
Često se smatra da će veštačka inteligencija steći poverenje kada postane dovoljno tačna.
Međutim, iskustvo pokazuje da poverenje ne nastaje samo iz visokog procenta uspešnih odgovora.
Poverenje nastaje kada možemo da razumemo:
- zbog čega je sistem doneo određeni zaključak;
- na kojim informacijama se zasniva;
- koje pretpostavke koristi;
- u kojim situacijama može pogrešiti;
- kako možemo proveriti njegov rezultat.
Drugim rečima…
Poverenje nije samo pitanje tačnosti.
Poverenje je pitanje razumevanja.
Zašto su „crne kutije“ postale problem
Veliki jezički modeli pokazali su impresivne mogućnosti u radu sa tekstom, znanjem i komunikacijom.
Ali upravo njihova složenost otvorila je novu dilemu.
Šta kada sistem ponudi odgovor koji deluje uverljivo, a nije moguće lako objasniti kako je do njega došao?
U svakodnevnim zadacima to često nije veliki problem.
Ali u oblastima kao što su energetika, finansije, zdravstvo ili upravljanje kritičnom infrastrukturom, takva neizvesnost može imati ozbiljne posledice.
Zato se poslednjih godina sve više govori o:
- Explainable AI,
- Trustworthy AI,
- AI Governance,
- upravljanju rizicima,
- ljudskom nadzoru nad inteligentnim sistemima.
Sve ove oblasti imaju zajednički cilj.
Izgraditi poverenje.
Poverenje postaje poslovna kategorija
Kompanije više neće birati AI rešenja samo na osnovu toga koliko su inovativna.
Sve više će ih zanimati:
- da li sistem može da se proveri;
- da li ispunjava regulatorne zahteve;
- da li omogućava audit;
- da li je moguće rekonstruisati način donošenja odluka;
- da li postoji odgovarajući nivo ljudskog nadzora.
Drugim rečima…
Poverenje postaje poslovna vrednost.
I možda upravo najvažnija konkurentska prednost u razvoju naredne generacije AI sistema.
Gde se u tome nalazi Strukturna inteligencija?
Strukturna inteligencija privlači pažnju upravo zato što pokušava da određene probleme modeluje kroz strukturu sistema, međusobne odnose i uzročno-posledične veze.
Takav pristup može doprineti razvoju inteligentnih sistema čije je zaključivanje preglednije i lakše za analizu u oblastima u kojima je to moguće.
To ne znači da će Strukturna inteligencija zameniti postojeće AI modele.
Niti znači da postoji jedno univerzalno rešenje za sve probleme.
Ali znači da razvoj AI više neće biti usmeren samo na povećanje broja parametara i količine podataka.
Jednako važna postaće pitanja:
- Kako sistem zaključuje?
- Kako proveravamo njegove odluke?
- Koliko mu možemo verovati?
Nova uloga stručne zajednice
Tehnologija sama po sebi ne gradi poverenje.
Poverenje grade ljudi.
Inženjeri koji razvijaju sisteme.
Kompanije koje ih odgovorno primenjuju.
Institucije koje postavljaju pravila.
Akademska zajednica koja ih kritički analizira.
I stručna udruženja koja otvaraju prostor za argumentovanu raspravu.
Upravo zato smatram da je danas važnije nego ikada da o budućnosti veštačke inteligencije razgovaramo otvoreno, bez senzacionalizma i bez podela na „pobednike“ i „gubitnike“.
Različiti AI pristupi neće se međusobno isključivati.
Naprotiv.
Vrlo je verovatno da će budućnost pripadati njihovoj saradnji.
Šta to znači za Srbiju?
Digitalna transformacija Srbije neće zavisiti samo od toga koliko ćemo brzo uvoditi nove tehnologije.
Jednako će zavisiti od toga koliko ćemo ih odgovorno koristiti.
Zato je važno da već danas razvijamo znanje o:
- pouzdanoj veštačkoj inteligenciji,
- transparentnim AI sistemima,
- upravljanju rizicima,
- proverljivim modelima odlučivanja,
- odgovornoj primeni AI u privredi i javnom sektoru.
To nije pitanje daleke budućnosti.
To je pitanje konkurentnosti naše privrede u godinama koje dolaze.
Zaključak
Veštačka inteligencija će nastaviti da napreduje velikom brzinom.
Modeli će postajati sve sposobniji.
Računarska snaga će rasti.
Količina podataka biće sve veća.
Ali nijedna od tih promena sama po sebi neće biti dovoljna.
Ključno pitanje biće:
Možemo li toj tehnologiji verovati?
Zato verujem da će naredna faza razvoja veštačke inteligencije biti određena ne samo njenim mogućnostima, već i sposobnošću da stekne poverenje ljudi koji je razvijaju, primenjuju i koriste.
Možda upravo zbog toga poverenje postaje najvažnija valuta veštačke inteligencije.
Prethodno objavljeno u serijalu
Deo 1
Strukturna inteligencija: Sledeći korak u razvoju veštačke inteligencije
Deo 2
Strukturna inteligencija i veliki jezički modeli: Zašto predviđanje nije isto što i razumevanje
Deo 3
Zašto Udruženje e-Razvoj otvara stručni dijalog o Strukturnoj inteligenciji
U sledećem nastavku
Deo 5
Pouzdana veštačka inteligencija i evropska regulativa: Kako se menjaju pravila digitalne transformacije
Preporučena literatura, standardi i relevantni izvori
- Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking.
- European Parliament. (2024). Regulation (EU) 2024/1689 – Artificial Intelligence Act.
- European Commission. (2020). White Paper on Artificial Intelligence: A European Approach to Excellence and Trust.
- NIST. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0).
- ISO/IEC 42001:2023. Artificial Intelligence — Management System.
Slobodan Krstić
Predsednik Udruženja e-Razvoj
https://erazvoj.com