Regulativa i etika umjetne inteligencije

Autor Yasin TANIŞ

Prvobitno objavljeno na Mediumu

Vaga pravde na robotskoj ruci, s linijama strujnih kola i zgradom suda u pozadini

1. Zašto je regulativa umjetne inteligencije važna

Tehnologije umjetne inteligencije, među najvećim inovacijama 21. stoljeća, mijenjaju i lične živote i poslovanje. Etički i pravni problemi koji prate tu promjenu ključni su za budućnost tehnologije. Kompanije, države i pojedinci moraju se baviti i rizicima i koristima umjetne inteligencije.

Nekoliko primjera:

U ovom tekstu razmatramo gdje je danas regulativa UI, kako razvijati UI na etičan način i kako se kompanije mogu prilagoditi novim pravilima.

2. Akt EU o umjetnoj inteligenciji izbliza

Akt Evropske unije o umjetnoj inteligenciji ističe se kao prva sveobuhvatna regulativa UI na svijetu. Usvojen 2024. godine, mijenja pravila igre i za kompanije u Evropi i za kompanije bilo gdje koje prodaju na tržištu EU. Zasniva se na procjeni rizika i dijeli sisteme UI u četiri nivoa: zabranjene, visokorizične, ograničeno rizične i minimalno rizične primjene.

Visokorizični sistemi

Ovi sistemi koriste se u ključnim oblastima koje direktno utječu na živote ljudi i moraju ispunjavati stroge zahtjeve nadzora i transparentnosti. Primjeri:

Mehanizmi nadzora uključuju evidenciju podataka, objašnjivost modela i stalno praćenje. Algoritam za kreditno bodovanje u banci, naprimjer, mora jasno dokumentirati zašto klijent nije dobio kredit.

Zabranjene primjene

Akt strogo zabranjuje primjene UI koje su u suprotnosti s osnovnim vrijednostima društva, među kojima su:

Ograničen i minimalan rizik

Kod ograničeno rizičnih sistema, poput chatbotova, glavna obaveza je transparentnost: korisnik mora znati da razgovara s UI. Minimalno rizični sistemi, poput UI u igrama ili filtera za neželjenu poštu, uglavnom su slobodni; etička načela i tu su važna, ali je regulativa mnogo blaža.

Zahtjevi usklađenosti za kompanije

Za visokorizične sisteme Akt od kompanija zahtijeva ove korake:

  1. Dokumentacija i transparentnost: za svaki model dokumenti koji opisuju korištene podatke, rad algoritma i moguće rizike.
  2. Nezavisna revizija: visokorizične sisteme redovno trebaju provjeravati nezavisna tijela.
  3. Etička i tehnička obuka: zaposleni, naročito tehnički timovi, trebaju proći obuku o regulativi i etičkim načelima.

Kazne i nadzor

Kompanije koje se ne usklade mogu se suočiti s ozbiljnim kaznama:

  • Kazne zasnovane na prometu: do 7 % globalnog godišnjeg prometa za najteža kršenja
  • Obustava: kod teškog kršenja upotreba spornog sistema UI može se zaustaviti
  • Povlačenje: modeli koji ne ispunjavaju etičke ili tehničke standarde mogu se povući s tržišta

Ove kazne mogu donijeti velike finansijske i reputacijske gubitke. Dijagnostički algoritam koji daje pogrešne rezultate, naprimjer, može uzdrmati povjerenje pacijenata i prerasti u ozbiljnu krizu ugleda.

3. Dva primjera iz prakse

Da bismo pokazali kako regulativa i etika izgledaju u praksi, evo dva primjera iz finansija i zdravstva. Riječ je o ilustrativnim scenarijima, a ne o stvarnim organizacijama.

Primjer 1: UI u finansijama (izmišljena „XYZ Bank“)

XYZ Bank počinje koristiti algoritam zasnovan na UI za odluke o kreditima. Već u prvoj primjeni pokazuje se da je model pristrasan prema nekim demografskim grupama.

Problem: model odbija zahtjeve poduzetnica mlađih od 35 godina 23 % češće nego zahtjeve poduzetnika. To znači i pravni rizik i gubitak povjerenja klijenata.

Rješenje:

  1. Analiza i čišćenje podataka: historijski podaci se provjeravaju, pristrasnost se utvrđuje i popunjava se manjak podataka o poduzetnicama.
  2. Smanjenje pristrasnosti: u obuci se koriste metrike pravičnosti.
  3. Stalno praćenje: sedmični kontrolni panel prati odstupanja u odlukama algoritma.

Rezultati:

  • Pokazatelj demografskog pariteta raste s 0,82 na 0,96.
  • Razlika u odobravanju kredita po spolu pada na 4 %.
  • Performanse modela (AUC-ROC) ostaju na 87 %.

Primjer 2: UI u zdravstvu (izmišljena „ABC bolnica“)

ABC bolnica koristi model UI za dijagnostiku. Ispostavlja se da podaci pacijenata nisu dovoljno zaštićeni, što krši GDPR (Opća uredba o zaštiti podataka).

Problem: podaci pacijenata čuvaju se na centralnom serveru, što je otvoren rizik od curenja podataka.

Rješenje: bolnica prelazi na federativno učenje (federated learning):

  • Podaci se obrađuju na lokalnim uređajima, pa centralno čuvanje više nije potrebno.
  • Model uči iz podataka na različitim uređajima, ali nijedan podatak ne napušta uređaj.

Rezultati:

  • Kršenja privatnosti su spriječena.
  • Tačnost modela raste s 91 % na 93 %.
  • Sistem postaje usklađen s GDPR-om.

Ovi primjeri pokazuju kako usklađenost s regulativom i etikom može funkcionirati u stvarnom svijetu. Pogledajmo sada kako se ovakvi rezultati mogu ponoviti.

4. Okvir za etički razvoj umjetne inteligencije

Etički sistem UI treba počivati na jasno definiranom okviru koji obuhvata prikupljanje podataka, razvoj modela, praćenje i objašnjivost.

Etičke kontrolne tačke u razvoju modela

Standardi prikupljanja i obrade podataka: podaci trebaju biti nepristrasni, ažurni i reprezentativni, a lični podaci moraju biti zaštićeni tokom obrade. Osjetljiva obilježja kao što su spol ili godine mogu se, naprimjer, ukloniti iz skupa podataka.

Otkrivanje i sprečavanje pristrasnosti: provjere pristrasnosti trebaju se izvoditi tokom obuke. Kod ispod skicira kako bi takva provjera mogla izgledati:

# Bias test framework
from fairness_check import calculate_bias_metrics
bias_metrics = calculate_bias_metrics(data, protected_features=["gender", "ethnicity"])

Dobra praksa za objašnjivost: modeli trebaju biti lako razumljivi korisnicima i revizorima.

  • Objasniti važnost obilježja SHAP vrijednostima (SHapley Additive exPlanations)
  • Za svaki model pripremiti detaljnu karticu modela:
model_card = {
    "model_name": "Disease Predictor v1.0",
    "description": "Hastalık teşhisi için kullanılan bir AI modeli",
    "fairness_metrics": {"demographic_parity": 0.95},
    "limitations": ["Sınırlı veri temsil durumu"]
}

Zahtjevi za dokumentaciju

Svaki sistem UI zahtijeva detaljnu dokumentaciju:

  • Izvori podataka i koraci obrade
  • Parametri korišteni u obuci
  • Metrike pravičnosti i performansi
  • Uspostavljeni mehanizmi praćenja i revizije

Stalno praćenje i ažuriranje

Sistemi UI nisu statični; performanse i etičku usklađenost treba redovno provjeravati:

  • Uspostaviti praćenje u realnom vremenu.
  • Dodati upozorenja za pad metrika performansi i pravičnosti.

5. Situacija u Turskoj

Turska se nastoji uskladiti s međunarodnim standardima regulative i etike UI. Postojeći okvir oblikuje prije svega KVKK (zakon o zaštiti ličnih podataka), a Akt EU o UI postaje sve utjecajniji. Proces usklađivanja donosi i prilike i izazove.

Postojeći pravni okvir

Turska još nema zakon posvećen UI, ali KVKK pruža važan okvir:

  1. KVKK, član 4: načela tačnosti, ažurnosti i zakonitosti u obradi ličnih podataka
  2. KVKK, član 6: stroži uvjeti i izričita saglasnost za posebne kategorije ličnih podataka

Sistemi UI u zdravstvu, naprimjer, moraju poštovati član 6 kada obrađuju podatke pacijenata. Bankarski regulator BDDK i regulator telekomunikacija BTK također objavljuju smjernice o UI u svojim sektorima.

Usklađivanje s Aktom EU o UI

Turske kompanije koje nude proizvode ili usluge na tržištu EU već podliježu Aktu, a zbog carinske unije s EU očekuje se da i turski propisi krenu u istom smjeru. To zahtijeva:

  • Nove mehanizme nadzora u sektorima kao što su bankarstvo, telekomunikacije i zdravstvo
  • Bolje procese transparentnosti i dokumentacije u kompanijama

Očekivane promjene:

  • Stroži protokoli zaštite podataka
  • Obavezne nezavisne revizije za visokorizične sisteme
  • Strukturne reforme kao što su etički odbori

Praksa po sektorima

  • Bankarstvo: pravila BDDK o zaštiti podataka i transparentnosti algoritama ističu se u finansijama; neke banke su počele angažirati nezavisne treće strane za reviziju kreditnih algoritama.
  • Zdravstvo: Ministarstvo zdravlja objavilo je smjernice o obradi podataka pacijenata pomoću UI, a razvijaju se i postupci odobravanja kliničkih dijagnostičkih algoritama.
  • Telekomunikacije: smjernice BTK zahtijevaju zaštitu podataka korisnika i standarde anonimizacije.

Ekosistem UI u Turskoj brzo raste, ali je potrebno više rada na regulativi i etičkim standardima. Pogledajmo sada šta kompanije mogu učiniti kako bi se uskladile.

6. Preporuke za primjenu

Usklađivanje s regulativom i etikom zahtijeva i strateške i operativne korake. Evo vodiča.

Kontrolna lista usklađenosti

Kontrolna tačkaOpisUrađeno?
Napravljen popis podataka?Jesu li utvrđeni svi izvori podataka koji se koriste?☐
Postoji dokumentacija modela?Jesu li tehnički detalji modela evidentirani?☐
Urađena procjena rizika?Je li za svaki sistem utvrđen nivo rizika?☐
Uspostavljen mehanizam revizije?Funkcioniraju li stalno praćenje i revizija?☐

Ovakva lista čini usklađivanje sistematičnim.

Metoda procjene rizika

Kompanije trebaju procijeniti sisteme UI koje koriste prema riziku. Primjer matrice rizika:

Nivo rizikaPrimjer upotrebePotrebne mjere
Visok rizikMedicinska dijagnostikaObavezan ljudski nadzor
Srednji rizikKreditno bodovanjeRedovna revizija
Nizak rizikSistemi preporukaOsnovno praćenje

Dijagnostički algoritam u bolnici, naprimjer, treba svake sedmice provjeravati uz ljudski nadzor.

Interna revizija i dokumentacija

Kompanije trebaju detaljno dokumentirati cijeli životni ciklus svojih sistema UI. Šablon dokumentacije treba obuhvatiti najmanje:

  • Korištene izvore podataka
  • Kako algoritam radi i odlučuje
  • Procese etičke usklađenosti i smanjenja pristrasnosti

Ovakva dokumentacija olakšava revizije i smanjuje pravni rizik.

7. Dobra praksa i alati

Mnogi alati pomažu da sistemi UI budu usklađeni i etični. Usmjeravaju ključne oblasti kao što su otkrivanje pristrasnosti, objašnjivost i stalno praćenje.

Alati za testiranje pristrasnosti

  • IBM AI Fairness 360: tehnike otkrivanja i smanjenja pristrasnosti, naročito djelotvorne kod kreditnog bodovanja i zapošljavanja.
  • Google What-If Tool: vizualizira utjecaj odluka modela kroz testiranje scenarija, uz pristupačan interfejs.
  • Microsoft Fairlearn: analizira metrike pravičnosti i predlaže poboljšanja.

Primjer upotrebe:

from aif360.datasets import BinaryLabelDataset
from aif360.metrics import BinaryLabelDatasetMetric
dataset = BinaryLabelDataset(df, 'target', protected_attribute_names=['gender'])
metric = BinaryLabelDatasetMetric(dataset)
print(metric.disparate_impact())

Ovi alati su ključni za pronalaženje i uklanjanje izvora pristrasnosti u modelima.

Alati za objašnjivost

Objašnjive odluke modela potrebne su i za povjerenje korisnika i za usklađenost.

  • SHAP: pokazuje na kojim obilježjima počiva odluka modela; široko se koristi u finansijama i zdravstvu.
  • LIME: daje lokalna objašnjenja za bilo koji model.

Primjer upotrebe SHAP-a:

import shap
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(data)
shap.summary_plot(shap_values, data)

Sistemi praćenja

Stalno praćenje je ključno da bi sistemi zadržali dobre performanse i ostali etički usklađeni.

  • MLflow: prati obuku, evaluaciju i puštanje u rad i uočava promjene performansi.
  • Weights & Biases: praćenje i vizualizacija u realnom vremenu, s upozorenjima o pomaku podataka (data drift).
  • TensorBoard: prati metrike performansi tokom obuke.

Primjer provjere pomaka podataka:

from sklearn.metrics import roc_auc_score
# Eğitim ve gerçek zaman verileriyle performans karşılaştırma
auc_train = roc_auc_score(y_train, model.predict(X_train))
auc_live = roc_auc_score(y_live, model.predict(X_live))
if abs(auc_train - auc_live) > THRESHOLD:
    print("Uyarı: Veri kayması tespit edildi!")

Šablon dokumentacije

Svaki model zahtijeva sveobuhvatnu dokumentaciju. Primjer kartice modela:

model_name: Credit Risk Predictor
version: 1.0.0
data_sources:
  - source: Customer data (internal)
  - update_frequency: Monthly
performance_metrics:
  - accuracy: 89%
  - fairness_score: 95%
ethical_considerations:
  - bias_mitigation: Applied
  - privacy_measures: Anonymized data
limitations:
  - Rural data coverage limited
  - Requires manual oversight for high-risk cases

Ovakav dokument je dragocjen i u regulatornim revizijama i u internim provjerama.

Okviri otvorenog koda

8. Zaključak i preporuke

Regulativa i etička načela imaju temeljnu ulogu u tome da tehnologija ostvari svoj potencijal da poboljša živote. Pravila kao što je Akt EU o UI predstavljaju ključan korak ka transparentnom i odgovornom razvoju sistema. Za kompanije usklađenost nije samo zakonska obaveza već i strateška prilika za povjerenje klijenata i efikasnost.

Budući trendovi

  1. Globalni etički standardi: Akt EU o UI postat će model za druge zemlje, a slična pravila očekuju se i u zemljama poput Turske.
  2. Automatizirana usklađenost: širit će se automatizacija i alati za reviziju uz podršku UI.
  3. Etika kao poslovna vrijednost: kompanije koje prihvate etička načela steći će konkurentsku prednost kroz povjerenje potrošača.

Koraci koje možete poduzeti odmah

  1. Osigurajte zakonsku usklađenost: napravite plan u skladu s Aktom EU o UI i KVKK-om.
  2. Osnujte etičke odbore: razjasnite odgovornosti od uprave do tehničkih timova.
  3. Koristite alate i okvire: ugradite provjere pristrasnosti, objašnjivost i praćenje u svoje procese.
  4. Organizirajte obuke: podignite svijest zaposlenih o regulativi i etičkim načelima.
  5. Uspostavite stalnu reviziju: redovno provjeravajte performanse i etičku usklađenost sistema.

Završni savjeti

  • Počnite odmah: umjesto čekanja savršenog plana, krenite s onim što imate i usavršavajte usput.
  • Cijenite dokumentaciju: dobri dokumenti smanjuju pravni rizik i poboljšavaju sisteme.
  • Stalno napredujte: sistemi UI nisu statični, pa ih redovno preispitujte i ažurirajte.
  • Budite inkluzivni: pobrinite se da sistemi budu pravični i dostupni svima.

Pogovor i zahvala

Na početku projekta često vidite samo cilj; svaka teškoća i svaki uspjeh na putu donose nove poglede. U ovom tekstu, na kojem sam dugo i pažljivo radio, gledao sam dalje od tehničke strane UI i dalje od pitanja „kako“ i „šta“, ka pitanju „zašto“. Taj put me je iznova podsjećao koliko je dragocjena ljudska strana tehnologije.

Na tom putu nisam bio sam. Zahvaljujem svima iz industrije čiji se rad nalazi u izvorima, vizionarskim liderima i bezimenim junacima iza scene. Prava inovacija može nastati samo iz zajedničkog truda i zajedničke strasti. Za mene ovaj rad nije kraj već novi početak, i nadam se da će to biti i za vas.

Izvori

  1. BBC News (2023). Italy blocks ChatGPT over privacy concerns. bbc.com
  2. Brookings Institution (2023). Algorithmic bias detection and mitigation: best practices and policies to reduce consumer harms. brookings.edu
  3. TechCrunch (2024). EU AI Act: everything you need to know. techcrunch.com
  4. ForeSee Medical. Medical algorithms in healthcare. foreseemed.com
  5. DergiPark. Yapay zekâ ve hukuk. dergipark.org.tr
  6. TestGorilla. Resume screening software guide. testgorilla.com
  7. DergiPark. Yapay zekâ regülasyonları. dergipark.org.tr
  8. Liberties. Pros and cons of facial recognition. liberties.eu
  9. ResearchGate. Subliminal uyarıcıların nöropsikolojisi. researchgate.net
  10. EU Artificial Intelligence Act, Article 13. artificialintelligenceact.eu
  11. B3Lab. Artificial intelligence audit. b3lab.org
  12. Türkiye Yapay Zekâ İnisiyatifi (2024). Yapay Zekâ Etik İlkeleri ve Hukuki Düzenlemeler Raporu. turkiye.ai
  13. BDDK, Bankacılık Düzenleme ve Denetleme Kurumu. bddk.org.tr
  14. T.C. Sağlık Bakanlığı. saglik.gov.tr
  15. BTK, Bilgi Teknolojileri ve İletişim Kurumu. btk.gov.tr
  16. IBM. AI Fairness 360. aif360.res.ibm.com
  17. Google Research. The What-If Tool: interactive probing of machine learning models. research.google
  18. Microsoft Research. Fairlearn: a toolkit for assessing and improving fairness in AI. microsoft.com
  19. C3 AI. LIME: Local Interpretable Model-Agnostic Explanations. c3.ai
  20. TensorFlow. Responsible AI. tensorflow.org
  21. OpenMined. PySyft. openmined.org
  22. Hugging Face. Datasets documentation. huggingface.co
  23. SHAP documentation. shap.readthedocs.io
  24. MLflow documentation. mlflow.org
  25. Weights & Biases documentation. docs.wandb.ai
  26. TensorBoard. tensorflow.org
  27. ELI5 documentation. eli5.readthedocs.io
  28. InterpretML documentation. interpret.ml
  29. AI Fairness 360 documentation. aif360.readthedocs.io