Regulativa i etika umjetne inteligencije
Piše Yasin TANIŞ

1. Zašto je regulativa umjetne inteligencije važna
Tehnologije umjetne inteligencije, među najvećim inovacijama 21. stoljeća, mijenjaju i osobne živote i poslovanje. Etički i pravni problemi koji prate tu promjenu ključan su čimbenik u oblikovanju budućnosti te tehnologije. Tvrtke, države i pojedinci moraju se baviti i rizicima i koristima umjetne inteligencije.
Nekoliko primjera:
- Talijanska zabrana ChatGPT-a otkrila je izazove privatnosti podataka.
- Amazonov algoritam za zapošljavanje pokrenuo je etičke rasprave zbog rodne pristranosti.
- Akt EU-a o umjetnoj inteligenciji postao je prvi sveobuhvatni zakon na svijetu koji uređuje visokorizične primjene UI-ja.
U ovom tekstu razmatramo gdje je danas regulativa umjetne inteligencije, kako razvijati UI na etičan način i kako se tvrtke mogu prilagoditi novim pravilima.
2. Akt EU-a o umjetnoj inteligenciji izbliza
Akt Europske unije o umjetnoj inteligenciji ističe se kao prva sveobuhvatna regulativa UI-ja na svijetu. Donesen 2024., mijenja pravila igre i za tvrtke u Europi i za tvrtke iz bilo kojeg dijela svijeta koje prodaju na tržištu EU-a. Primjenjuje pristup temeljen na riziku i dijeli sustave UI-ja u četiri razine: zabranjene, visokorizične, ograničeno rizične i minimalno rizične primjene.
Visokorizični sustavi
Ti se sustavi koriste u ključnim područjima koja izravno utječu na živote ljudi i moraju ispunjavati stroge zahtjeve nadzora i transparentnosti. Primjeri:
- Zdravstvo: algoritmi za dijagnostiku bolesti
- Financije: sustavi kreditnog bodovanja
- Zapošljavanje: alati za pregled životopisa i procjenu kandidata
Mehanizmi nadzora uključuju evidenciju podataka, objašnjivost modela i stalno praćenje. Algoritam za kreditno bodovanje u banci, primjerice, mora moći jasno dokumentirati zašto klijent nije dobio kredit.
Zabranjene primjene
Akt strogo zabranjuje primjene UI-ja koje su u suprotnosti s temeljnim vrijednostima društva, među kojima su:
- Sustavi društvenog bodovanja: sustavi koji boduju ponašanje građana
- Biometrijski masovni nadzor: neovlašteno prepoznavanje lica na javnim mjestima
- Subliminalna manipulacija: sustavi koji usmjeravaju ponašanje korisnika a da oni toga nisu svjesni
Ograničen i minimalan rizik
Kod ograničeno rizičnih sustava, poput chatbotova, glavna je obveza transparentnost: korisnik mora znati da razgovara s UI-jem. Minimalno rizični sustavi, poput UI-ja u igrama ili filtara neželjene pošte, uglavnom su slobodni; etička načela i tu su važna, ali je regulativa mnogo blaža.
Zahtjevi usklađenosti za tvrtke
Za visokorizične sustave Akt od tvrtki zahtijeva ove korake:
- Dokumentacija i transparentnost: za svaki model dokumenti koji opisuju korištene podatke, rad algoritma i moguće rizike.
- Neovisna revizija: visokorizične sustave trebaju redovito provjeravati neovisna tijela.
- Etička i tehnička izobrazba: zaposlenici, osobito tehnički timovi, trebaju proći izobrazbu o regulativi i etičkim načelima.
Kazne i nadzor
Tvrtke koje se ne usklade mogu se suočiti s ozbiljnim kaznama:
- Kazne temeljene na prometu: do 7 % globalnog godišnjeg prometa za najteža kršenja
- Obustava: kod teškog kršenja uporaba spornog sustava UI-ja može se zaustaviti
- Povlačenje: modeli koji ne ispunjavaju etičke ili tehničke standarde mogu se povući s tržišta
Te kazne mogu donijeti velike financijske i reputacijske gubitke. Dijagnostički algoritam koji daje pogrešne rezultate, primjerice, može uzdrmati povjerenje pacijenata i prerasti u ozbiljnu krizu ugleda.
3. Dva primjera iz prakse
Kako bismo pokazali kako regulativa i etika izgledaju u praksi, evo dvaju primjera iz financija i zdravstva. Riječ je o ilustrativnim scenarijima, a ne o stvarnim organizacijama.
Primjer 1: UI u financijama (izmišljena banka „XYZ Bank”)
XYZ Bank počinje koristiti algoritam temeljen na UI-ju za odluke o kreditima. Već u prvoj primjeni pokazuje se da je model pristran prema nekim demografskim skupinama.
Problem: model odbija zahtjeve poduzetnica mlađih od 35 godina 23 % češće nego zahtjeve poduzetnika. To znači i pravni rizik i gubitak povjerenja klijenata.
Rješenje:
- Analiza i čišćenje podataka: povijesni podaci se provjeravaju, pristranost se utvrđuje i popunjava se manjak podataka o poduzetnicama.
- Smanjenje pristranosti: u treniranju se primjenjuju metrike pravednosti.
- Stalno praćenje: tjedni nadzorni panel prati pomake (drift) u odlukama algoritma.
Rezultati:
- Pokazatelj demografskog pariteta raste s 0,82 na 0,96.
- Razlika u odobravanju kredita po spolu pada na 4 %.
- Performanse modela (AUC-ROC) ostaju na 87 %.
Primjer 2: UI u zdravstvu (izmišljena „Bolnica ABC”)
Bolnica ABC koristi model UI-ja za dijagnostiku. Ispostavlja se da podaci pacijenata nisu dovoljno zaštićeni, čime se krši GDPR (Opća uredba o zaštiti podataka).
Problem: podaci pacijenata čuvaju se na središnjem poslužitelju, što predstavlja otvoren rizik od povrede podataka.
Rješenje: bolnica prelazi na federirano učenje (federated learning):
- Podaci se obrađuju na lokalnim uređajima, pa središnja pohrana više nije potrebna.
- Model uči iz podataka na različitim uređajima, ali nijedan podatak ne napušta uređaj.
Rezultati:
- Sprječavaju se povrede privatnosti.
- Točnost modela raste s 91 % na 93 %.
- Sustav postaje usklađen s GDPR-om.
Ovi primjeri pokazuju kako usklađenost s regulativom i etikom može funkcionirati u stvarnom svijetu. Pogledajmo sada kako se ovakvi rezultati mogu ponoviti.
4. Okvir za etički razvoj umjetne inteligencije
Etički sustav UI-ja treba počivati na jasno definiranom okviru koji obuhvaća prikupljanje podataka, razvoj modela, praćenje i objašnjivost.
Etičke kontrolne točke u razvoju modela
Standardi prikupljanja i obrade podataka: podaci trebaju biti nepristrani, ažurni i reprezentativni, a osobni podaci moraju biti zaštićeni tijekom obrade. Osjetljive značajke kao što su spol ili dob mogu se, primjerice, ukloniti iz skupa podataka.
Otkrivanje i sprječavanje pristranosti: provjere pristranosti trebaju se provoditi tijekom treniranja. Kod u nastavku skicira kako bi takva provjera mogla izgledati:
# Bias test framework
from fairness_check import calculate_bias_metrics
bias_metrics = calculate_bias_metrics(data, protected_features=["gender", "ethnicity"])
Dobra praksa za objašnjivost: modeli trebaju biti lako razumljivi korisnicima i revizorima.
- Objasniti važnost značajki SHAP vrijednostima (SHapley Additive exPlanations)
- Za svaki model pripremiti detaljnu karticu modela:
model_card = {
"model_name": "Disease Predictor v1.0",
"description": "Hastalık teşhisi için kullanılan bir AI modeli",
"fairness_metrics": {"demographic_parity": 0.95},
"limitations": ["Sınırlı veri temsil durumu"]
}
Zahtjevi za dokumentaciju
Svaki sustav UI-ja zahtijeva detaljnu dokumentaciju:
- Izvori podataka i koraci obrade
- Parametri korišteni u treniranju
- Metrike pravednosti i performansi
- Uspostavljeni mehanizmi praćenja i revizije
Stalno praćenje i ažuriranje
Sustavi UI-ja nisu statični; performanse i etičku usklađenost treba redovito provjeravati:
- Uspostaviti praćenje u stvarnom vremenu.
- Dodati upozorenja za pad metrika performansi i pravednosti.
5. Situacija u Turskoj
Turska se nastoji uskladiti s međunarodnim standardima regulative i etike UI-ja. Postojeći okvir oblikuje ponajprije KVKK (Zakon o zaštiti osobnih podataka), a Akt EU-a o UI-ju postaje sve utjecajniji. Proces usklađivanja donosi i prilike i izazove.
Postojeći pravni okvir
Turska još nema poseban zakon o UI-ju, ali KVKK pruža važan okvir:
- KVKK, članak 4.: načela točnosti, ažurnosti i zakonitosti u obradi osobnih podataka
- KVKK, članak 6.: stroži uvjeti i izričita privola za posebne kategorije osobnih podataka
Sustavi UI-ja u zdravstvu, primjerice, moraju poštovati članak 6. kada obrađuju podatke pacijenata. Bankovni regulator BDDK i regulator telekomunikacija BTK također objavljuju smjernice o UI-ju u svojim sektorima.
Usklađivanje s Aktom EU-a o UI-ju
Turske tvrtke koje nude proizvode ili usluge na tržištu EU-a već podliježu Aktu, a zbog carinske unije s EU-om očekuje se da i turski propisi krenu u istom smjeru. To zahtijeva:
- Nove mehanizme nadzora u sektorima kao što su bankarstvo, telekomunikacije i zdravstvo
- Bolje procese transparentnosti i dokumentacije u tvrtkama
Očekivane promjene:
- Stroži protokoli zaštite podataka
- Obvezne neovisne revizije za visokorizične sustave
- Strukturne reforme kao što su etički odbori
Praksa po sektorima
- Bankarstvo: pravila regulatora BDDK o zaštiti podataka i transparentnosti algoritama ističu se u financijama; neke su banke počele angažirati neovisne treće strane za reviziju kreditnih algoritama.
- Zdravstvo: Ministarstvo zdravstva objavilo je smjernice o obradi podataka pacijenata pomoću UI-ja, a razvijaju se i postupci odobravanja kliničkih dijagnostičkih algoritama.
- Telekomunikacije: smjernice regulatora BTK zahtijevaju zaštitu podataka korisnika i standarde anonimizacije.
Ekosustav UI-ja u Turskoj brzo raste, ali potrebno je više rada na regulativi i etičkim standardima. Pogledajmo sada što tvrtke mogu učiniti kako bi se uskladile.
6. Preporuke za primjenu
Usklađivanje s regulativom i etikom zahtijeva i strateške i operativne korake. Evo vodiča.
Kontrolni popis usklađenosti
| Kontrolna točka | Opis | Obavljeno? |
|---|---|---|
| Izrađen popis podataka? | Jesu li utvrđeni svi izvori podataka koji se koriste? | ☐ |
| Postoji dokumentacija modela? | Jesu li tehnički detalji modela evidentirani? | ☐ |
| Provedena procjena rizika? | Je li za svaki sustav utvrđena razina rizika? | ☐ |
| Uspostavljen mehanizam revizije? | Funkcioniraju li stalno praćenje i revizija? | ☐ |
Ovakav popis čini usklađivanje sustavnim.
Metoda procjene rizika
Tvrtke trebaju procijeniti rizik sustava UI-ja koje upotrebljavaju. Primjer matrice rizika:
| Razina rizika | Primjer uporabe | Potrebne mjere |
|---|---|---|
| Visok rizik | Medicinska dijagnostika | Obvezan ljudski nadzor |
| Srednji rizik | Kreditno bodovanje | Redovita revizija |
| Nizak rizik | Sustavi preporuka | Osnovno praćenje |
Dijagnostički algoritam u bolnici, primjerice, treba svaki tjedan provjeravati uz ljudski nadzor.
Interna revizija i dokumentacija
Tvrtke trebaju detaljno dokumentirati cijeli životni ciklus svojih sustava UI-ja. Predložak dokumentacije treba obuhvatiti barem:
- Korištene izvore podataka
- Kako algoritam radi i odlučuje
- Procese etičke usklađenosti i smanjenja pristranosti
Ovakva dokumentacija olakšava revizije i smanjuje pravni rizik.
7. Dobra praksa i alati
Mnogi alati pomažu da sustavi UI-ja budu usklađeni i etični. Pomažu u ključnim područjima kao što su otkrivanje pristranosti, objašnjivost i stalno praćenje.
Alati za testiranje pristranosti
- IBM AI Fairness 360: tehnike otkrivanja i smanjenja pristranosti, osobito učinkovite kod modela za kreditno bodovanje i zapošljavanje.
- Google What-If Tool: vizualizira učinak odluka modela kroz testiranje scenarija, uz pristupačno sučelje.
- Microsoft Fairlearn: analizira metrike pravednosti i predlaže poboljšanja.
Primjer uporabe:
from aif360.datasets import BinaryLabelDataset
from aif360.metrics import BinaryLabelDatasetMetric
dataset = BinaryLabelDataset(df, 'target', protected_attribute_names=['gender'])
metric = BinaryLabelDatasetMetric(dataset)
print(metric.disparate_impact())
Ovi su alati ključni za pronalaženje i uklanjanje izvora pristranosti u modelima.
Alati za objašnjivost
Objašnjive odluke modela potrebne su i za povjerenje korisnika i za usklađenost.
- SHAP: pokazuje na kojim značajkama počiva odluka modela; široko se koristi u financijama i zdravstvu.
- LIME: daje lokalna objašnjenja za bilo koji model.
Primjer uporabe SHAP-a:
import shap
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(data)
shap.summary_plot(shap_values, data)
Sustavi praćenja
Stalno praćenje ključno je da sustavi ostanu učinkoviti i etički usklađeni.
- MLflow: prati treniranje, evaluaciju i uvođenje u rad te uočava promjene performansi.
- Weights & Biases: praćenje i vizualizacija u stvarnom vremenu, s upozorenjima o pomaku podataka (data drift).
- TensorBoard: prati metrike performansi tijekom treniranja.
Primjer provjere pomaka podataka:
from sklearn.metrics import roc_auc_score
# Eğitim ve gerçek zaman verileriyle performans karşılaştırma
auc_train = roc_auc_score(y_train, model.predict(X_train))
auc_live = roc_auc_score(y_live, model.predict(X_live))
if abs(auc_train - auc_live) > THRESHOLD:
print("Uyarı: Veri kayması tespit edildi!")
Predložak dokumentacije
Svaki model zahtijeva sveobuhvatnu dokumentaciju. Primjer kartice modela:
model_name: Credit Risk Predictor
version: 1.0.0
data_sources:
- source: Customer data (internal)
- update_frequency: Monthly
performance_metrics:
- accuracy: 89%
- fairness_score: 95%
ethical_considerations:
- bias_mitigation: Applied
- privacy_measures: Anonymized data
limitations:
- Rural data coverage limited
- Requires manual oversight for high-risk cases
Ovakav je dokument dragocjen i u regulatornim revizijama i u internim provjerama.
Okviri otvorenog koda
- TensorFlow Responsible AI: jača etičku usklađenost tijekom razvoja.
- PySyft: omogućuje federirano učenje uz zaštitu privatnosti podataka.
- Hugging Face Datasets: pristup skupovima podataka pripremljenima s obzirom na pravednost i raznolikost.
8. Zaključak i preporuke
Regulativa umjetne inteligencije i etička načela imaju temeljnu ulogu u tome da ta tehnologija ostvari svoj potencijal da živote promijeni nabolje. Pravila kao što je Akt EU-a o UI-ju ključan su korak prema transparentnom i odgovornom razvoju sustava. Za tvrtke usklađenost nije samo zakonska obveza nego i strateška prilika za izgradnju povjerenja klijenata i veću učinkovitost.
Budući trendovi
- Globalni etički standardi: Akt EU-a o UI-ju postat će model za druge zemlje, a slična se pravila očekuju i u zemljama poput Turske.
- Automatizirana usklađenost: širit će se automatizacija i alati za reviziju uz potporu UI-ja.
- Etika kao poslovna vrijednost: tvrtke koje prihvate etička načela steći će konkurentsku prednost zahvaljujući povjerenju potrošača.
Koraci koje možete poduzeti odmah
- Osigurajte zakonsku usklađenost: izradite plan u skladu s Aktom EU-a o UI-ju i KVKK-om.
- Osnujte etičke odbore: razjasnite odgovornosti od uprave do tehničkih timova.
- Koristite alate i okvire: ugradite provjere pristranosti, objašnjivost i praćenje u svoje procese.
- Organizirajte izobrazbu: podignite svijest zaposlenika o regulativi i etičkim načelima.
- Uspostavite stalnu reviziju: redovito provjeravajte performanse i etičku usklađenost sustava.
Završni savjeti
- Počnite odmah: umjesto da čekate savršen plan, krenite s onim što imate i poboljšavajte se usput.
- Cijenite dokumentaciju: dobri dokumenti smanjuju pravni rizik i poboljšavaju sustave.
- Stalno napredujte: sustavi UI-ja nisu statični, pa ih redovito preispitujte i ažurirajte.
- Budite uključivi: pobrinite se da sustavi budu pravedni i dostupni svima.
Pogovor i zahvala
Na početku projekta često vidite samo cilj; svaka teškoća i svaki uspjeh na putu donose nove poglede. U ovom tekstu, na kojem sam dugo i pažljivo radio, gledao sam dalje od tehničke strane UI-ja i dalje od pitanja „kako” i „što”, prema pitanju „zašto”. Taj me put iznova podsjećao koliko je dragocjena ljudska strana tehnologije.
Na tom putu nisam bio sam. Zahvaljujem svima iz industrije čiji se rad nalazi u izvorima, vizionarskim vođama i bezimenim junacima iza scene. Prava inovacija može nastati samo iz zajedničkog truda i zajedničke strasti. Za mene ovaj rad nije kraj nego novi početak, i nadam se da će to biti i za vas.
Izvori
- BBC News (2023). Italy blocks ChatGPT over privacy concerns. bbc.com
- Brookings Institution (2023). Algorithmic bias detection and mitigation: best practices and policies to reduce consumer harms. brookings.edu
- TechCrunch (2024). EU AI Act: everything you need to know. techcrunch.com
- ForeSee Medical. Medical algorithms in healthcare. foreseemed.com
- DergiPark. Yapay zekâ ve hukuk. dergipark.org.tr
- TestGorilla. Resume screening software guide. testgorilla.com
- DergiPark. Yapay zekâ regülasyonları. dergipark.org.tr
- Liberties. Pros and cons of facial recognition. liberties.eu
- ResearchGate. Subliminal uyarıcıların nöropsikolojisi. researchgate.net
- EU Artificial Intelligence Act, Article 13. artificialintelligenceact.eu
- B3Lab. Artificial intelligence audit. b3lab.org
- Türkiye Yapay Zekâ İnisiyatifi (2024). Yapay Zekâ Etik İlkeleri ve Hukuki Düzenlemeler Raporu. turkiye.ai
- BDDK, Bankacılık Düzenleme ve Denetleme Kurumu. bddk.org.tr
- T.C. Sağlık Bakanlığı. saglik.gov.tr
- BTK, Bilgi Teknolojileri ve İletişim Kurumu. btk.gov.tr
- IBM. AI Fairness 360. aif360.res.ibm.com
- Google Research. The What-If Tool: interactive probing of machine learning models. research.google
- Microsoft Research. Fairlearn: a toolkit for assessing and improving fairness in AI. microsoft.com
- C3 AI. LIME: Local Interpretable Model-Agnostic Explanations. c3.ai
- TensorFlow. Responsible AI. tensorflow.org
- OpenMined. PySyft. openmined.org
- Hugging Face. Datasets documentation. huggingface.co
- SHAP documentation. shap.readthedocs.io
- MLflow documentation. mlflow.org
- Weights & Biases documentation. docs.wandb.ai
- TensorBoard. tensorflow.org
- ELI5 documentation. eli5.readthedocs.io
- InterpretML documentation. interpret.ml
- AI Fairness 360 documentation. aif360.readthedocs.io

