Izjava o transparentnosti prema Aktu o umjetnoj inteligenciji

Ova izjava objašnjava kako se platforma Digital Worker, čiji je operater Apex Academy d.o.o. (koje posluje pod nazivom Digital Apex), uvodi u skladu s Uredbom (EU) 2024/1689 („Akt o umjetnoj inteligenciji”). U njoj su opisani naša uloga, način na koji ispunjavamo obveze koje se na nas primjenjuju te što naručitelji moraju učiniti kako bi ostali usklađeni kada objavljuju agente. Ovaj dokument objavljen je i na engleskom jeziku; u slučaju razlike mjerodavna je hrvatska verzija.

1. Naša uloga prema Aktu o umjetnoj inteligenciji

Digital Worker je platforma na kojoj naručitelji izrađuju i koriste vlastite AI sustave (agente, aplikacije i tijekove rada) uz AI modele koje sami odaberu. Prema Aktu o umjetnoj inteligenciji:

• svaki je naručitelj subjekt koji uvodi sustav (deployer) za AI sustave koje izradi i koristi, a ujedno i njihov dobavljač kada takav sustav stavi na tržište ili u uporabu pod vlastitim imenom;
• mi smo subjekt koji uvodi sustav samo za AI sustave kojima sami upravljamo, uključujući slučajeve kada korištenje AI modela osiguravamo na temelju Narudžbenice;
• dobavljači temeljnih AI modela opće namjene (primjerice OpenAI ili Anthropic) snose obveze dobavljača modela; mi ne isporučujemo vlastite AI modele opće namjene.

Ne treniramo niti dodatno prilagođavamo (fine-tuning) temeljne modele na podacima naručitelja. Naručitelji zadržavaju kontrolu nad ponašanjem agenata putem uputa (promptova), konfiguracije alata i izvora za utemeljenje odgovora (grounding) kojima sami upravljaju.

2. Transparentnost prema članku 50. — chatbotovi i sintetički sadržaj

Prema članku 50., AI sustavi namijenjeni izravnoj interakciji s fizičkim osobama moraju te osobe obavijestiti da su u interakciji s AI sustavom, osim ako je to očito. Sintetički audiosadržaj, videosadržaj i slikovni sadržaj moraju biti označeni kao umjetno generirani.

Ugrađeni moduli (embeds) za razgovor i glasovnu komunikaciju platforme Digital Worker stoga prema zadanim postavkama prikazuju natpis o korištenju umjetne inteligencije, vidljiv svakom krajnjem korisniku prije prve razmjene poruka. Administrator može isključiti natpis; naručitelji to smiju učiniti samo kada je činjenica da je riječ o umjetnoj inteligenciji već očita iz okolnog konteksta (primjerice na stranici koja to iskustvo već predstavlja kao AI asistenta) te ostaju odgovorni za to da obavijest bude primjerena njihovu uvođenju sustava.

3. Zabranjene prakse

Platforma se ne smije koristiti za prakse zabranjene člankom 5. Akta o umjetnoj inteligenciji, uključujući:

• subliminalne tehnike ili manipulativne prakse koje bitno narušavaju ponašanje i uzrokuju štetu;
• iskorištavanje ranjivosti (dob, invaliditet, socijalni ili ekonomski položaj) koje uzrokuje štetu;
• društveno vrednovanje koje dovodi do neopravdanog ili nerazmjernog štetnog postupanja;
• daljinsku biometrijsku identifikaciju u stvarnom vremenu u javno dostupnim prostorima u svrhu kaznenog progona;
• prediktivno djelovanje policije koje se temelji isključivo na izradi profila;
• neciljano prikupljanje fotografija lica s interneta ili iz snimki CCTV-a;
• zaključivanje o emocijama na radnom mjestu ili u obrazovanju (osim iz sigurnosnih i medicinskih razloga);
• biometrijsku kategorizaciju kojom se zaključuje o rasi, političkim mišljenjima, vjerskim uvjerenjima, spolnoj orijentaciji ili članstvu u sindikatu.

Korištenje platforme za bilo što od navedenog predstavlja bitnu povredu naših Općih uvjeta korištenja usluge.

4. Visokorizični slučajevi uporabe umjetne inteligencije

Ako naručitelj uvede agenta u bilo kojem od visokorizičnih područja navedenih u Prilogu III. Akta o umjetnoj inteligenciji (npr. zapošljavanje, procjena kreditne sposobnosti, pristup osnovnim uslugama, ocjenjivanje u obrazovanju, kazneni progon, upravljanje migracijama), naručitelj je odgovoran za ispunjavanje obveza iz poglavlja III. koje se na njega primjenjuju kao na dobavljača (upravljanje rizicima, upravljanje podacima, ljudski nadzor, točnost, otpornost, kibernetička sigurnost, registracija) i kao na subjekt koji uvodi sustav (uključujući procjenu učinka na temeljna prava kada je to propisano člankom 27.).

Naručitelji koji planiraju visokorizično uvođenje trebali bi nam se obratiti na legal@apexacademy.hr kako bismo pisano potvrdili koje značajke platforme i dokumentaciju možemo osigurati kao potporu ispunjavanju tih obveza.

5. Klasifikacija rizika ugrađenih značajki

6. Ljudski nadzor

Svakog agenta na platformi nositelj računa može u bilo kojem trenutku pauzirati, zaustaviti ili izbrisati. Revizijski zapisnici bilježe radnje agenata radi naknadnog pregleda. Preporučujemo naručiteljima da konfiguriraju postupak eskalacije kako bi krajnji korisnici mogli zatražiti kontakt s čovjekom kada im AI agent ne može na odgovarajući način pomoći.

7. Točnost i otpornost

Izlazni rezultati temeljnih modela mogu biti netočni, nepotpuni ili zastarjeli. Naručitelji se bez ljudske provjere ne bi trebali oslanjati na izlazne rezultate umjetne inteligencije pri donošenju odluka s pravnim ili drugim značajnim učinkom na osobu. Kada platforma pruža ugrađeno utemeljenje odgovora (grounding), naručitelj je odgovoran za kvalitetu izvora podataka koje poveže.

8. Prijava zabrinutosti

Sigurnosne incidente, sumnje na povrede Akta o umjetnoj inteligenciji ili zabrinutosti u vezi s temeljnim pravima prijavite na legal@apexacademy.hr. Primitak prijave potvrdit ćemo u roku od pet radnih dana.