CroAI na konferenciji SLO CRO komore o AI-ju u poslovanju

U prostorijama tvrtke Infobip održana je godišnja konferencija SLO CRO Gospodarske komore posvećena uvođenju umjetne inteligencije u poslovanje. Udrugu CroAI na ovom je događaju predstavljala Valentina Zadrija, koja je kroz raspravu s regionalnim stručnjacima secirala ključne tehničke i poslovne izazove s kojima se tvrtke susreću prilikom prebacivanja AI rješenja iz faze demo projekta u stvarnu produkciju.

Izazovi održavanja i lekcija vrijedna 1,3 milijuna dolara

Glavni fokus panela bio je na izgradnji internih LLM rješenja, orkestraciji AI agenata, infrastrukturi te smanjenju kompleksnosti dugoročnog održavanja sustava. Valentina Zadrija je posebno istaknula važnost postavljanja strogih zaštitnih mjera (guardrails) i definiranja jasnih tijekova rada.

„Bez odgovarajućih zaštitnih mjera i strukturiranih tijekova rada, mi zapravo gradimo samo prototipove, a ne produkcijski softver“, upozorila je Zadrija, naglasivši važnost sagledavanja šire, dugoročne slike pri odabiru AI arhitekture.

Kao plastičan primjer poslovnog i tehnološkog rizika naveden je Bloombergov financijski AI model. U njegov je razvoj uloženo procijenjenih 1,3 milijuna dolara, da bi ga samo mjesec dana nakon lansiranja performansama nadmašio generički GPT-4 – što je jasna pouka tvrtkama da pažljivo važu isplati li se razvijati vlastite modele iz temelja.

AI je tehnologija kao i svaka druga: Važnost vodstva i privatnosti podataka

Sudionici panela Mitja Trampuž, Petar Dučić i Grega Jerkič složili su se kako je ključno da vodstvo tvrtki razumije realne mogućnosti umjetne inteligencije, ali i potrebu za kontinuiranim praćenjem sustava nakon deploymenta. Istaknuto je da se u industriji mora prihvatiti mindset u kojem je AI tehnologija kao i svaka druga, što zahtijeva inženjersku disciplinu koja je ponekad nedostajala u akademskim istraživanjima bez praktične primjene.

Posebna pažnja posvećena je sigurnosti i privatnosti:

• Zadržavanje podataka unutar tvrtke: Raspravljalo se o specifičnim arhitekturama unutar kojih osjetljivi poslovni podaci pod nikakvim uvjetima ne smiju napustiti lokalno okruženje kompanije.

• Infrastrukturni kompromisi: Kako balansirati između performansi AI modela i strogih regulatornih te sigurnosnih zahtjeva.

Zahvaljujemo SLO CRO Gospodarskoj komori, Infobipu te organizatorima i inicijatorima (Saša Muminović, Vesna Vukšinić Zmaić, Aco Momčilović) na pokretanju ovih važnih regionalnih rasprava, kao i svim panelistima i predavačima na razmjeni neprocjenjivih iskustava iz prakse.