Regulativa i etika umjetne inteligencije

Piše Yasin TANIŞ

Izvorno objavljeno na Mediumu

Vaga pravde na robotskoj ruci, s linijama strujnih krugova i zgradom suda u pozadini

1. Zašto je regulativa umjetne inteligencije važna

Tehnologije umjetne inteligencije, među najvećim inovacijama 21. stoljeća, mijenjaju i osobne živote i poslovanje. Etički i pravni problemi koji prate tu promjenu ključan su čimbenik u oblikovanju budućnosti te tehnologije. Tvrtke, države i pojedinci moraju se baviti i rizicima i koristima umjetne inteligencije.

Nekoliko primjera:

U ovom tekstu razmatramo gdje je danas regulativa umjetne inteligencije, kako razvijati UI na etičan način i kako se tvrtke mogu prilagoditi novim pravilima.

2. Akt EU-a o umjetnoj inteligenciji izbliza

Akt Europske unije o umjetnoj inteligenciji ističe se kao prva sveobuhvatna regulativa UI-ja na svijetu. Donesen 2024., mijenja pravila igre i za tvrtke u Europi i za tvrtke iz bilo kojeg dijela svijeta koje prodaju na tržištu EU-a. Primjenjuje pristup temeljen na riziku i dijeli sustave UI-ja u četiri razine: zabranjene, visokorizične, ograničeno rizične i minimalno rizične primjene.

Visokorizični sustavi

Ti se sustavi koriste u ključnim područjima koja izravno utječu na živote ljudi i moraju ispunjavati stroge zahtjeve nadzora i transparentnosti. Primjeri:

Mehanizmi nadzora uključuju evidenciju podataka, objašnjivost modela i stalno praćenje. Algoritam za kreditno bodovanje u banci, primjerice, mora moći jasno dokumentirati zašto klijent nije dobio kredit.

Zabranjene primjene

Akt strogo zabranjuje primjene UI-ja koje su u suprotnosti s temeljnim vrijednostima društva, među kojima su:

Ograničen i minimalan rizik

Kod ograničeno rizičnih sustava, poput chatbotova, glavna je obveza transparentnost: korisnik mora znati da razgovara s UI-jem. Minimalno rizični sustavi, poput UI-ja u igrama ili filtara neželjene pošte, uglavnom su slobodni; etička načela i tu su važna, ali je regulativa mnogo blaža.

Zahtjevi usklađenosti za tvrtke

Za visokorizične sustave Akt od tvrtki zahtijeva ove korake:

  1. Dokumentacija i transparentnost: za svaki model dokumenti koji opisuju korištene podatke, rad algoritma i moguće rizike.
  2. Neovisna revizija: visokorizične sustave trebaju redovito provjeravati neovisna tijela.
  3. Etička i tehnička izobrazba: zaposlenici, osobito tehnički timovi, trebaju proći izobrazbu o regulativi i etičkim načelima.

Kazne i nadzor

Tvrtke koje se ne usklade mogu se suočiti s ozbiljnim kaznama:

  • Kazne temeljene na prometu: do 7 % globalnog godišnjeg prometa za najteža kršenja
  • Obustava: kod teškog kršenja uporaba spornog sustava UI-ja može se zaustaviti
  • Povlačenje: modeli koji ne ispunjavaju etičke ili tehničke standarde mogu se povući s tržišta

Te kazne mogu donijeti velike financijske i reputacijske gubitke. Dijagnostički algoritam koji daje pogrešne rezultate, primjerice, može uzdrmati povjerenje pacijenata i prerasti u ozbiljnu krizu ugleda.

3. Dva primjera iz prakse

Kako bismo pokazali kako regulativa i etika izgledaju u praksi, evo dvaju primjera iz financija i zdravstva. Riječ je o ilustrativnim scenarijima, a ne o stvarnim organizacijama.

Primjer 1: UI u financijama (izmišljena banka „XYZ Bank”)

XYZ Bank počinje koristiti algoritam temeljen na UI-ju za odluke o kreditima. Već u prvoj primjeni pokazuje se da je model pristran prema nekim demografskim skupinama.

Problem: model odbija zahtjeve poduzetnica mlađih od 35 godina 23 % češće nego zahtjeve poduzetnika. To znači i pravni rizik i gubitak povjerenja klijenata.

Rješenje:

  1. Analiza i čišćenje podataka: povijesni podaci se provjeravaju, pristranost se utvrđuje i popunjava se manjak podataka o poduzetnicama.
  2. Smanjenje pristranosti: u treniranju se primjenjuju metrike pravednosti.
  3. Stalno praćenje: tjedni nadzorni panel prati pomake (drift) u odlukama algoritma.

Rezultati:

  • Pokazatelj demografskog pariteta raste s 0,82 na 0,96.
  • Razlika u odobravanju kredita po spolu pada na 4 %.
  • Performanse modela (AUC-ROC) ostaju na 87 %.

Primjer 2: UI u zdravstvu (izmišljena „Bolnica ABC”)

Bolnica ABC koristi model UI-ja za dijagnostiku. Ispostavlja se da podaci pacijenata nisu dovoljno zaštićeni, čime se krši GDPR (Opća uredba o zaštiti podataka).

Problem: podaci pacijenata čuvaju se na središnjem poslužitelju, što predstavlja otvoren rizik od povrede podataka.

Rješenje: bolnica prelazi na federirano učenje (federated learning):

  • Podaci se obrađuju na lokalnim uređajima, pa središnja pohrana više nije potrebna.
  • Model uči iz podataka na različitim uređajima, ali nijedan podatak ne napušta uređaj.

Rezultati:

  • Sprječavaju se povrede privatnosti.
  • Točnost modela raste s 91 % na 93 %.
  • Sustav postaje usklađen s GDPR-om.

Ovi primjeri pokazuju kako usklađenost s regulativom i etikom može funkcionirati u stvarnom svijetu. Pogledajmo sada kako se ovakvi rezultati mogu ponoviti.

4. Okvir za etički razvoj umjetne inteligencije

Etički sustav UI-ja treba počivati na jasno definiranom okviru koji obuhvaća prikupljanje podataka, razvoj modela, praćenje i objašnjivost.

Etičke kontrolne točke u razvoju modela

Standardi prikupljanja i obrade podataka: podaci trebaju biti nepristrani, ažurni i reprezentativni, a osobni podaci moraju biti zaštićeni tijekom obrade. Osjetljive značajke kao što su spol ili dob mogu se, primjerice, ukloniti iz skupa podataka.

Otkrivanje i sprječavanje pristranosti: provjere pristranosti trebaju se provoditi tijekom treniranja. Kod u nastavku skicira kako bi takva provjera mogla izgledati:

# Bias test framework
from fairness_check import calculate_bias_metrics
bias_metrics = calculate_bias_metrics(data, protected_features=["gender", "ethnicity"])

Dobra praksa za objašnjivost: modeli trebaju biti lako razumljivi korisnicima i revizorima.

  • Objasniti važnost značajki SHAP vrijednostima (SHapley Additive exPlanations)
  • Za svaki model pripremiti detaljnu karticu modela:
model_card = {
    "model_name": "Disease Predictor v1.0",
    "description": "Hastalık teşhisi için kullanılan bir AI modeli",
    "fairness_metrics": {"demographic_parity": 0.95},
    "limitations": ["Sınırlı veri temsil durumu"]
}

Zahtjevi za dokumentaciju

Svaki sustav UI-ja zahtijeva detaljnu dokumentaciju:

  • Izvori podataka i koraci obrade
  • Parametri korišteni u treniranju
  • Metrike pravednosti i performansi
  • Uspostavljeni mehanizmi praćenja i revizije

Stalno praćenje i ažuriranje

Sustavi UI-ja nisu statični; performanse i etičku usklađenost treba redovito provjeravati:

  • Uspostaviti praćenje u stvarnom vremenu.
  • Dodati upozorenja za pad metrika performansi i pravednosti.

5. Situacija u Turskoj

Turska se nastoji uskladiti s međunarodnim standardima regulative i etike UI-ja. Postojeći okvir oblikuje ponajprije KVKK (Zakon o zaštiti osobnih podataka), a Akt EU-a o UI-ju postaje sve utjecajniji. Proces usklađivanja donosi i prilike i izazove.

Postojeći pravni okvir

Turska još nema poseban zakon o UI-ju, ali KVKK pruža važan okvir:

  1. KVKK, članak 4.: načela točnosti, ažurnosti i zakonitosti u obradi osobnih podataka
  2. KVKK, članak 6.: stroži uvjeti i izričita privola za posebne kategorije osobnih podataka

Sustavi UI-ja u zdravstvu, primjerice, moraju poštovati članak 6. kada obrađuju podatke pacijenata. Bankovni regulator BDDK i regulator telekomunikacija BTK također objavljuju smjernice o UI-ju u svojim sektorima.

Usklađivanje s Aktom EU-a o UI-ju

Turske tvrtke koje nude proizvode ili usluge na tržištu EU-a već podliježu Aktu, a zbog carinske unije s EU-om očekuje se da i turski propisi krenu u istom smjeru. To zahtijeva:

  • Nove mehanizme nadzora u sektorima kao što su bankarstvo, telekomunikacije i zdravstvo
  • Bolje procese transparentnosti i dokumentacije u tvrtkama

Očekivane promjene:

  • Stroži protokoli zaštite podataka
  • Obvezne neovisne revizije za visokorizične sustave
  • Strukturne reforme kao što su etički odbori

Praksa po sektorima

  • Bankarstvo: pravila regulatora BDDK o zaštiti podataka i transparentnosti algoritama ističu se u financijama; neke su banke počele angažirati neovisne treće strane za reviziju kreditnih algoritama.
  • Zdravstvo: Ministarstvo zdravstva objavilo je smjernice o obradi podataka pacijenata pomoću UI-ja, a razvijaju se i postupci odobravanja kliničkih dijagnostičkih algoritama.
  • Telekomunikacije: smjernice regulatora BTK zahtijevaju zaštitu podataka korisnika i standarde anonimizacije.

Ekosustav UI-ja u Turskoj brzo raste, ali potrebno je više rada na regulativi i etičkim standardima. Pogledajmo sada što tvrtke mogu učiniti kako bi se uskladile.

6. Preporuke za primjenu

Usklađivanje s regulativom i etikom zahtijeva i strateške i operativne korake. Evo vodiča.

Kontrolni popis usklađenosti

Kontrolna točkaOpisObavljeno?
Izrađen popis podataka?Jesu li utvrđeni svi izvori podataka koji se koriste?☐
Postoji dokumentacija modela?Jesu li tehnički detalji modela evidentirani?☐
Provedena procjena rizika?Je li za svaki sustav utvrđena razina rizika?☐
Uspostavljen mehanizam revizije?Funkcioniraju li stalno praćenje i revizija?☐

Ovakav popis čini usklađivanje sustavnim.

Metoda procjene rizika

Tvrtke trebaju procijeniti rizik sustava UI-ja koje upotrebljavaju. Primjer matrice rizika:

Razina rizikaPrimjer uporabePotrebne mjere
Visok rizikMedicinska dijagnostikaObvezan ljudski nadzor
Srednji rizikKreditno bodovanjeRedovita revizija
Nizak rizikSustavi preporukaOsnovno praćenje

Dijagnostički algoritam u bolnici, primjerice, treba svaki tjedan provjeravati uz ljudski nadzor.

Interna revizija i dokumentacija

Tvrtke trebaju detaljno dokumentirati cijeli životni ciklus svojih sustava UI-ja. Predložak dokumentacije treba obuhvatiti barem:

  • Korištene izvore podataka
  • Kako algoritam radi i odlučuje
  • Procese etičke usklađenosti i smanjenja pristranosti

Ovakva dokumentacija olakšava revizije i smanjuje pravni rizik.

7. Dobra praksa i alati

Mnogi alati pomažu da sustavi UI-ja budu usklađeni i etični. Pomažu u ključnim područjima kao što su otkrivanje pristranosti, objašnjivost i stalno praćenje.

Alati za testiranje pristranosti

  • IBM AI Fairness 360: tehnike otkrivanja i smanjenja pristranosti, osobito učinkovite kod modela za kreditno bodovanje i zapošljavanje.
  • Google What-If Tool: vizualizira učinak odluka modela kroz testiranje scenarija, uz pristupačno sučelje.
  • Microsoft Fairlearn: analizira metrike pravednosti i predlaže poboljšanja.

Primjer uporabe:

from aif360.datasets import BinaryLabelDataset
from aif360.metrics import BinaryLabelDatasetMetric
dataset = BinaryLabelDataset(df, 'target', protected_attribute_names=['gender'])
metric = BinaryLabelDatasetMetric(dataset)
print(metric.disparate_impact())

Ovi su alati ključni za pronalaženje i uklanjanje izvora pristranosti u modelima.

Alati za objašnjivost

Objašnjive odluke modela potrebne su i za povjerenje korisnika i za usklađenost.

  • SHAP: pokazuje na kojim značajkama počiva odluka modela; široko se koristi u financijama i zdravstvu.
  • LIME: daje lokalna objašnjenja za bilo koji model.

Primjer uporabe SHAP-a:

import shap
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(data)
shap.summary_plot(shap_values, data)

Sustavi praćenja

Stalno praćenje ključno je da sustavi ostanu učinkoviti i etički usklađeni.

  • MLflow: prati treniranje, evaluaciju i uvođenje u rad te uočava promjene performansi.
  • Weights & Biases: praćenje i vizualizacija u stvarnom vremenu, s upozorenjima o pomaku podataka (data drift).
  • TensorBoard: prati metrike performansi tijekom treniranja.

Primjer provjere pomaka podataka:

from sklearn.metrics import roc_auc_score
# Eğitim ve gerçek zaman verileriyle performans karşılaştırma
auc_train = roc_auc_score(y_train, model.predict(X_train))
auc_live = roc_auc_score(y_live, model.predict(X_live))
if abs(auc_train - auc_live) > THRESHOLD:
    print("Uyarı: Veri kayması tespit edildi!")

Predložak dokumentacije

Svaki model zahtijeva sveobuhvatnu dokumentaciju. Primjer kartice modela:

model_name: Credit Risk Predictor
version: 1.0.0
data_sources:
  - source: Customer data (internal)
  - update_frequency: Monthly
performance_metrics:
  - accuracy: 89%
  - fairness_score: 95%
ethical_considerations:
  - bias_mitigation: Applied
  - privacy_measures: Anonymized data
limitations:
  - Rural data coverage limited
  - Requires manual oversight for high-risk cases

Ovakav je dokument dragocjen i u regulatornim revizijama i u internim provjerama.

Okviri otvorenog koda

8. Zaključak i preporuke

Regulativa umjetne inteligencije i etička načela imaju temeljnu ulogu u tome da ta tehnologija ostvari svoj potencijal da živote promijeni nabolje. Pravila kao što je Akt EU-a o UI-ju ključan su korak prema transparentnom i odgovornom razvoju sustava. Za tvrtke usklađenost nije samo zakonska obveza nego i strateška prilika za izgradnju povjerenja klijenata i veću učinkovitost.

Budući trendovi

  1. Globalni etički standardi: Akt EU-a o UI-ju postat će model za druge zemlje, a slična se pravila očekuju i u zemljama poput Turske.
  2. Automatizirana usklađenost: širit će se automatizacija i alati za reviziju uz potporu UI-ja.
  3. Etika kao poslovna vrijednost: tvrtke koje prihvate etička načela steći će konkurentsku prednost zahvaljujući povjerenju potrošača.

Koraci koje možete poduzeti odmah

  1. Osigurajte zakonsku usklađenost: izradite plan u skladu s Aktom EU-a o UI-ju i KVKK-om.
  2. Osnujte etičke odbore: razjasnite odgovornosti od uprave do tehničkih timova.
  3. Koristite alate i okvire: ugradite provjere pristranosti, objašnjivost i praćenje u svoje procese.
  4. Organizirajte izobrazbu: podignite svijest zaposlenika o regulativi i etičkim načelima.
  5. Uspostavite stalnu reviziju: redovito provjeravajte performanse i etičku usklađenost sustava.

Završni savjeti

  • Počnite odmah: umjesto da čekate savršen plan, krenite s onim što imate i poboljšavajte se usput.
  • Cijenite dokumentaciju: dobri dokumenti smanjuju pravni rizik i poboljšavaju sustave.
  • Stalno napredujte: sustavi UI-ja nisu statični, pa ih redovito preispitujte i ažurirajte.
  • Budite uključivi: pobrinite se da sustavi budu pravedni i dostupni svima.

Pogovor i zahvala

Na početku projekta često vidite samo cilj; svaka teškoća i svaki uspjeh na putu donose nove poglede. U ovom tekstu, na kojem sam dugo i pažljivo radio, gledao sam dalje od tehničke strane UI-ja i dalje od pitanja „kako” i „što”, prema pitanju „zašto”. Taj me put iznova podsjećao koliko je dragocjena ljudska strana tehnologije.

Na tom putu nisam bio sam. Zahvaljujem svima iz industrije čiji se rad nalazi u izvorima, vizionarskim vođama i bezimenim junacima iza scene. Prava inovacija može nastati samo iz zajedničkog truda i zajedničke strasti. Za mene ovaj rad nije kraj nego novi početak, i nadam se da će to biti i za vas.

Izvori

  1. BBC News (2023). Italy blocks ChatGPT over privacy concerns. bbc.com
  2. Brookings Institution (2023). Algorithmic bias detection and mitigation: best practices and policies to reduce consumer harms. brookings.edu
  3. TechCrunch (2024). EU AI Act: everything you need to know. techcrunch.com
  4. ForeSee Medical. Medical algorithms in healthcare. foreseemed.com
  5. DergiPark. Yapay zekâ ve hukuk. dergipark.org.tr
  6. TestGorilla. Resume screening software guide. testgorilla.com
  7. DergiPark. Yapay zekâ regülasyonları. dergipark.org.tr
  8. Liberties. Pros and cons of facial recognition. liberties.eu
  9. ResearchGate. Subliminal uyarıcıların nöropsikolojisi. researchgate.net
  10. EU Artificial Intelligence Act, Article 13. artificialintelligenceact.eu
  11. B3Lab. Artificial intelligence audit. b3lab.org
  12. Türkiye Yapay Zekâ İnisiyatifi (2024). Yapay Zekâ Etik İlkeleri ve Hukuki Düzenlemeler Raporu. turkiye.ai
  13. BDDK, Bankacılık Düzenleme ve Denetleme Kurumu. bddk.org.tr
  14. T.C. Sağlık Bakanlığı. saglik.gov.tr
  15. BTK, Bilgi Teknolojileri ve İletişim Kurumu. btk.gov.tr
  16. IBM. AI Fairness 360. aif360.res.ibm.com
  17. Google Research. The What-If Tool: interactive probing of machine learning models. research.google
  18. Microsoft Research. Fairlearn: a toolkit for assessing and improving fairness in AI. microsoft.com
  19. C3 AI. LIME: Local Interpretable Model-Agnostic Explanations. c3.ai
  20. TensorFlow. Responsible AI. tensorflow.org
  21. OpenMined. PySyft. openmined.org
  22. Hugging Face. Datasets documentation. huggingface.co
  23. SHAP documentation. shap.readthedocs.io
  24. MLflow documentation. mlflow.org
  25. Weights & Biases documentation. docs.wandb.ai
  26. TensorBoard. tensorflow.org
  27. ELI5 documentation. eli5.readthedocs.io
  28. InterpretML documentation. interpret.ml
  29. AI Fairness 360 documentation. aif360.readthedocs.io