Na ovogodišnjoj konferenciji LegalTech, u organizaciji Buga i Mreže, poseban naglasak stavljen je na praktične primjene novih tehnologija, etička pitanja, sigurnost podataka i regulatorne izazove.

U vremenu kada umjetna inteligencija, automatizacija i digitalne platforme mijenjaju ne samo industrije, već i samu strukturu društva, pitanje pravne regulacije postaje ključno – tko zapravo donosi pravila i kako se pravna struka prilagođava novim okolnostima?

„Tehnologija mijenja pravila igre dok utakmica još traje. Povijest nas je naučila da postavljamo granice tehnologije, dok još imamo kontrolu. Nešto što je znanstvena fantastika sada, za dvije godine bi mogla biti stvarnost“, istakao je direktor konferencije i glavni urednik Mreže Oleg Maštruko na njenom otvaranju. Ukratko izdvajajući ključne karakteristike programa ovogodišnjeg LegalTecha Maštruko je podsjetio je da regulativa u digitalnom svijetu više ne dolazi unaprijed, nego retroaktivno, često s vremenskim kašnjenjem za tehnologijama koje su već duboko izmijenile poslovanje i živote.

Managing Partner odvjetničkog ureda Porobija & Špoljarić Marko Porobija održao je predavanje na temu In-House razvoj legal tech proizvoda – kako smo postali software developeri, a Business Operations Manager, Raverus d.o.o. Ivan Sušec, o temi Izdavanje računa: Od papira do fiskalizacije 2.0.

Marko Porobija  je svojem predavanju objasnio je kako su nakon mnogo godina neuspješnog traženja adekvatnog softvera za upravljanje uredom, odlučili razviti svoj software, te govorio o godinama iskustva na razvoju softvera i digitalizacije odvjetničkog ureda.

Ivan Sušec je predstavio novi zakon o fiskalizaciji koji donosi tektonske promjene za poslovanje svih poslovnih subjekata u Hrvatskoj. Naime, novim zakonom se uvodi obveza razmjene i fiskalizacije eRačuna u B2B odnose te obveza fiskalizacije svih računa u B2C odnosima. Sušec je istakao najvažnije novosti koje donosi zakon.

Umjesto planiranog predavanja Nataše Novaković iz Hrvatske udruge poslodavaca pod nazivom Zakon o radu - jučer, danas, sutra u kojemu trebala objasniti promjene u Zakonu i njegovom neuklapanju u suvremeno digitalno društvo, zbog iznenadne ozlijede predavačice održan je ad hoc panel u kojemu se razgovaralo o iskustvima primjene LLM alata prije svega u pravnim poslovima. U panelu su sudjelovali osim Olega Maštruka i Aco Momčilović, Marko Đuričić, Ivan Sušec, Mihael Mudrić, Davor Aničić i Luka Jakopović.

Aco Momčilović ukazao je na mogućnosti primjene modela generativne umjetne inteligencije prije svega kod informiranja o različitoj problematici kako bi se što kvalitetnije moglo sudjelovati o aktualnim temama o radnom pravu. Sudionici panela ukazali su na svoja iskustva korištenja LLM-ova kod različitih pravnih poslova te ukazali na važnost korištenja modela s pretplatom kao pouzdanijim rješenjem u odnosu na besplatne modele.

Ukazano je, među ostalim, i na problem halucinacije LLM modela koji su u prosjeku od 17 do 35 posto sadržaja koji generiraju te su se složili kako su greške koje mogu proizići iz takvih halucinacija jako skupi u pravnoj praksi

Izvanredni profesor Pravnog fakulteta Sveučilišta u Zagrebu Mihael Mudrić u predavanju NIST i ISO standardi za upravljanje rizikom UI sustava predstavio je osnove za uspostavu, implementaciju, održavanje i osnaživanje sustava upravljanja rizicima sustava umjetne inteligencije. Predavanje je temeljio na međunarodno priznatim standardima NIST AI RMF i ISO/IEC 42001.

LL.M. Harvard Law School Stefan Martinić  održao je predavanje pod nazivom Iza kulisa izrade Zakona o provedbi Uredbe o AI: pobjednici, gubitnici i svi ostali.

„U ime Hrvatske udruge za umjetnu inteligenciju (CroAI), nominiran sam kao jedini odvjetnik u Radnoj skupini za izradu hrvatskog zakona o provedbi EU Uredbe o umjetnoj inteligenciji, u ingerenciji Ministarstva pravosuđa, uprave i digitalne transformacije Republike Hrvatske“, rekao je Martinić te predstavio zanimljiv proces izrade prijedloga zakona, poteškoće izrade zbog različitih političkih, interesnih i ideoloških stajališta.

Na kraju predavanja predstavio je 11 konkretnih prijedloga koje je, u ime CroAI, pisano i usmeno iznio tijekom rada Radne skupine - prijedloga za koje vjeruje da su u interesu IT/AI zajednice i hrvatskog društva u cjelini.

Prijepodnevna panel rasprava s temom Tehnologija, pravo i budućnost – U potrazi za novom ravnotežom usmjerila se na pokušaj utvrđivanja pomirenja između inovacije i kontrole umjetne inteligencije, između kreativnosti tehnologije i njezine pravne ukroćenosti.

U panel raspravi su koju je moderirao osnivač Global AI Ethics Institutea Aco Momčilović sudjelovali su Managing Partner odvjetničkog društva Porobija & Špoljarić Marko Porobija, Tihana Ana Reljić iz Rezimea, partner odvjetničkog društva Hrdalo & Krnic Vlaho Hrdalo, te predavačica na Sveučilištu Algebra Bernays Ema Menđušić Škugor..

Ema Menđušić Škugor ukazala je na važnost globalne uloge Europe u globalnim tehnološkim trendovima i konkurentnosti kroz pravnu regulativu koja je obično globalno prihvaćena.

Na panelu se najviše razgovaralo o promjenama koje tehnologija donosi u samu pravnu profesiju i sudsku praksu. Pravna se praksa sve više demokratizirana zahvaljujući tehnološkim rješenjima ali u takvim procesima je i opasnost banaliziranja pravnih propisa i neuvažavanja stručnosti.

Nakon panel rasprave odvjetnica Natalija Babić  održala je predavanje pod nazivom Treba li pravo na kibernetičku sigurnost postati temeljno ljudsko pravo?, a osnivač i CEO Mikai Luka Jakopović predavanje AI bez halucinacija: Pravno istraživanje s potpunom kontrolom nad izvorima.

Natalija Babić predstavila je osnove zakonodavstva EU-a o cyber sigurnosti zasnovane su na temeljnom ljudskom pravu na sigurnost, no ustvrdila kako sve veća ovisnost društva o internetu dovodi do pitanja: je li vrijeme za definiranje i uspostavu novog ljudskog prava?

„Europska unija već je poduzela korake u tom smjeru Deklaracijom o digitalnim pravima i načelima za digitalno desetljeće koja naglašava digitalnu transformaciju usmjerenu na čovjeka i sigurnost." U predavanju je problematizirala nužnost uvođenja prava na kibernetičku sigurnost kao temeljnog ljudskog prava, s obzirom da sva prava u online svijetu počivaju na kibernetičkoj sigurnosti.

Luka Jakopović podsjetio je kako su u posljednjih godinu dana globalno odjeknuli slučajevi u kojima su odvjetnici sudovima citirali nepostojeće presude - uključujući poznati slučaj Mata protiv Avianca Airlines u SAD-u, gdje su podnesci temeljeni na fiktivnoj praksi generiranoj AI-em rezultirali sankcijama.
Rekao je kako je zbog toga razvijena platforma za pravna istraživanja s temeljnim principom „izvori na prvom mjestu“ – Mikai.  

„Svaki rezultat potkrijepljen je originalnim dokumentom, čime se eliminira rizik netočnih informacija. Umjesto generiranja odgovora, naš AI sustav – uključujući i chatbot – isključivo izdvaja relevantne dokumente i odlomke iz autentičnih sudskih odluka, s potpunim fokusom na izvorne tekstove“, objasnio je Jakopović.

Poslijepodnevni dio sedme Legaltech konferencije započeo je u formi razgovora

jedan na jedan s temom GDPR i AI Uredba: Što donosi budućnost za hrvatski AI sektor? s načelnicom sektora za EU, međunarodnu suradnju i pravne poslove AZOP-a Anamarijom Mladinić. Odvjetnik specijaliziran za pravo informacijskih tehnologija i zaštitu osobnih podataka Stefan Martinić kroz razgovor s načelnicom tražio prvenstveno odgovore o izazovima primjene GDPR-a u doba umjetne inteligencije.

U jeku priprema za sveobuhvatnu primjenu EU Uredbe o umjetnoj inteligenciji (AI Act), koja će trajno oblikovati razvoj i nadzor umjetne inteligencije u Europskoj uniji, Agencija za zaštitu osobnih podataka (AZOP) postaje ključni nacionalni akter u reguliranju umjetne inteligencije. Osim što je već proglašena nadležnim tijelom za zaštitu temeljnih prava u kontekstu korištenja AI sustava, očekuje se da AZOP preuzme i funkciju tržišnog nadzora nad provedbom same Uredbe.

Legal & Data Protection Specialist Marko Đuričić nastupio je predavanjem Terms & Conditions AI alata: 5 stvari koje morate znati prije nego kliknete ‘Accept’.

Ukazao je na potencijalne pravne zamke na koje se pristaje kada se koriste AI alati, što je prikazao kroz 5 konkretnih odredbi koje treba provjeriti u uvjetima korištenja. U predavanju se osvrnuo na pet tema: Tko je vlasnik sadržaja koji AI alat generira (tekst, slika, kod)?; Korisiti ili ne koristiti AI alate za pravne ili osjetljive teme – i što piše o tome u uvjetima?; Što se događa s upitima (promptovima) – ostaju li povjerljivi ili se koriste za treniranje AI-a i što to znači?; Tko snosi odgovornost ako AI alat pogriješi ili nanese štetu?; i Može li pružatelj alata promijeniti uvjete bez da vas obavijesti?

Osnivačica i direktorica LunarTech d.o.o. Gordana Mrković u temi Potencijali digitalne transformacije poslovanja u procesima prijenosa znanja u tvrtkama naglasila je kako u dobu ubrzanog tehnološkog rasta prijenosi znanja unutar timova postaju nezaobilazni zadaci onih koji žele slijediti promjene i osigurati brzu i efikasnu prilagodbu novim poslovnim potrebama.

„Jedna od najnovijih regulativa koja zahtjeva organizaciju internih edukacija u više od 3.000 tvrtki javnog i privatnog sektora u primjeni je od kraja prošle godine.1 Novi Zakon o kibernetičkoj sigurnosti propisuje tvrtkama obvezu uspostavljanja sustava obavezne, kontinuirane edukacije zaposlenika o osnovnim praksama kibernetičke higijene te podizanje svijesti o rizicima i kibernetičkim prijetnjama za sve zaposlene“, rekla je Mrković dodavši kako uređivanje poslovnih procesa kompanija i njihova reorganizacija u svrhu povećanja efikasnosti i transparentnosti rada te zadovoljstva zaposlenih i klijenata, primjenom suvremenih tehnoloških alata, osnovni su ciljevi digitalne transformacije poslovanja u svim poslovnim i radnim segmentima kompanija.

Petar Petrić, iz Petrić & Kajić Law Firm LLC, u predavanju Deepfake dokazi u suđenju otvorio je i konkretna i tehnička pitanja koja se zbog primjene digitalnih tehnologija sve češće pojavljuju u sudskoj praksi. Posebnu pažnju posvetio je digitalnoj forenzici i mogućnosti otkrivanja deepfake sadržaja, točnije, manipuliranih videozapisa ili fotografija koje mogu imati ozbiljne posljedice u pravnim postupcima.

CEO Parser compliance d.o.o. Marija Bošković Batarelo u predavanju AI i GDPR: između pravne sigurnosti i tehničke stvarnosti ukazala je na najvažnije izazove s kojima se pravnici susreću pri primjeni Opće uredbe o zaštiti podataka (GDPR) na sustave umjetne inteligencije (AI). Iznijela je, među ostalima, i svoje razmišljanje što donosi AI Act i kako se nadovezuje na GDPR. 

Na kraju konferencije osnivač yure.ai Luka Pavlović u predavanju Pravna (R)evolucija: Kako AI mijenja pravila igre istakao je kako umjetna inteligencija nije više budućnost, ona je već sada ključni faktor promjene u pravu. Kroz predavanje je analizirao kako AI redefinira način na koji pravnici rade: od istraživanja i analize dokumenata, do savjetovanja i automatizacije procesa.

Partneri i sponzori konferencije LegalTech 2025 su: Raverus d.o.o, odvjetničko društvo Porobija i Špoljarić, MIKAI, sveučilište Algebra Bernays, i medijski partneri Novi Informator i CroAI,