Regulativa i etika vještačke inteligencije

Piše Yasin TANIŞ

Prvobitno objavljeno na Mediumu

Vaga pravde na robotskoj ruci, s linijama strujnih kola i zgradom suda u pozadini

1. Zašto je regulativa vještačke inteligencije važna

Tehnologije vještačke inteligencije, među najvećim inovacijama 21. vijeka, mijenjaju i lične živote i poslovanje. Etički i pravni problemi koji prate tu promjenu ključni su činilac u oblikovanju budućnosti te tehnologije. Kompanije, države i pojedinci moraju se baviti i rizicima i koristima vještačke inteligencije.

Nekoliko primjera:

U ovom tekstu razmatramo dokle je danas stigla regulativa VI, kako razvijati VI na etičan način i kako se kompanije mogu prilagoditi novim pravilima.

2. Akt EU o vještačkoj inteligenciji izbliza

Akt Evropske unije o vještačkoj inteligenciji ističe se kao prva sveobuhvatna regulativa VI na svijetu. Usvojen 2024. godine, mijenja pravila igre i za kompanije u Evropi i za kompanije iz bilo kog dijela svijeta koje prodaju na tržištu EU. Primjenjuje pristup zasnovan na riziku i razvrstava sisteme VI u četiri nivoa: zabranjene, visokorizične, ograničeno rizične i minimalno rizične primjene.

Visokorizični sistemi

Ovi sistemi koriste se u ključnim oblastima koje direktno utiču na živote ljudi i moraju ispunjavati stroge zahtjeve nadzora i transparentnosti. Primjeri:

Mehanizmi nadzora uključuju evidenciju podataka, objašnjivost modela i stalno praćenje. Algoritam za kreditno bodovanje u banci, na primjer, mora moći jasno da dokumentuje zašto klijent nije dobio kredit.

Zabranjene primjene

Akt strogo zabranjuje primjene VI koje su u suprotnosti s osnovnim vrijednostima društva, među kojima su:

Ograničen i minimalan rizik

Kod ograničeno rizičnih sistema, poput četbotova, glavna obaveza je transparentnost: korisnik mora znati da razgovara s VI. Minimalno rizični sistemi, poput VI u igrama ili filtera za neželjenu poštu, uglavnom ostaju bez posebnih obaveza; etička načela i tu su važna, ali je regulativa mnogo blaža.

Zahtjevi usklađenosti za kompanije

Za visokorizične sisteme Akt od kompanija zahtijeva ove korake:

  1. Dokumentacija i transparentnost: za svaki model dokumenti koji opisuju korišćene podatke, rad algoritma i moguće rizike.
  2. Nezavisna revizija: visokorizične sisteme redovno treba da provjeravaju nezavisna tijela.
  3. Etička i tehnička obuka: zaposleni, naročito tehnički timovi, treba da prođu obuku o regulativi i etičkim načelima.

Kazne i nadzor

Kompanije koje se ne usklade mogu se suočiti s ozbiljnim kaznama:

  • Kazne zasnovane na prometu: do 7 % globalnog godišnjeg prometa za najteža kršenja
  • Obustava: kod teškog kršenja upotreba spornog sistema VI može se zaustaviti
  • Povlačenje: modeli koji ne ispunjavaju etičke ili tehničke standarde mogu se povući s tržišta

Ove kazne mogu donijeti velike finansijske i reputacione gubitke. Dijagnostički algoritam koji daje pogrešne rezultate, na primjer, može uzdrmati povjerenje pacijenata i prerasti u ozbiljnu krizu ugleda.

3. Dva primjera iz prakse

Da bismo pokazali kako regulativa i etika izgledaju u praksi, evo dva primjera iz finansija i zdravstva. Riječ je o ilustrativnim scenarijima, a ne o stvarnim organizacijama.

Primjer 1: VI u finansijama (izmišljena „XYZ Bank“)

XYZ Bank počinje da koristi algoritam zasnovan na VI za odluke o kreditima. Već u prvoj primjeni pokazuje se da je model pristrasan prema nekim demografskim grupama.

Problem: model odbija zahtjeve preduzetnica mlađih od 35 godina 23 % češće nego zahtjeve preduzetnika. To znači i pravni rizik i gubitak povjerenja klijenata.

Rješenje:

  1. Analiza i čišćenje podataka: istorijski podaci se provjeravaju, pristrasnost se utvrđuje i popunjava se manjak podataka o preduzetnicama.
  2. Smanjenje pristrasnosti: u obuci se koriste metrike pravičnosti.
  3. Stalno praćenje: sedmični kontrolni panel prati odstupanja u odlukama algoritma.

Rezultati:

  • Pokazatelj demografskog pariteta raste s 0,82 na 0,96.
  • Razlika u odobravanju kredita po polu pada na 4 %.
  • Performanse modela (AUC-ROC) ostaju na 87 %.

Primjer 2: VI u zdravstvu (izmišljena „ABC bolnica“)

ABC bolnica koristi model VI za dijagnostiku. Ispostavlja se da podaci pacijenata nijesu dovoljno zaštićeni, što krši GDPR (Opštu uredbu o zaštiti podataka).

Problem: podaci pacijenata čuvaju se na centralnom serveru, što je otvoren rizik od curenja podataka.

Rješenje: bolnica prelazi na federativno učenje (federated learning):

  • Podaci se obrađuju na lokalnim uređajima, pa centralno čuvanje više nije potrebno.
  • Model uči iz podataka na različitim uređajima, ali nijedan podatak ne napušta uređaj.

Rezultati:

  • Kršenja privatnosti su spriječena.
  • Tačnost modela raste s 91 % na 93 %.
  • Sistem postaje usklađen s GDPR-om.

Ovi primjeri pokazuju kako usklađenost s regulativom i etikom može funkcionisati u stvarnom svijetu. Pogledajmo sada kako se ovakvi rezultati mogu ponoviti.

4. Okvir za etički razvoj vještačke inteligencije

Etički sistem VI treba da počiva na jasno definisanom okviru koji obuhvata prikupljanje podataka, razvoj modela, praćenje i objašnjivost.

Etičke kontrolne tačke u razvoju modela

Standardi prikupljanja i obrade podataka: podaci treba da budu nepristrasni, ažurni i reprezentativni, a lični podaci moraju biti zaštićeni tokom obrade. Osjetljiva obilježja kao što su pol ili godine mogu se, na primjer, ukloniti iz skupa podataka.

Otkrivanje i sprečavanje pristrasnosti: provjere pristrasnosti treba da se izvode tokom obuke. Kod ispod skicira kako bi takva provjera mogla izgledati:

# Bias test framework
from fairness_check import calculate_bias_metrics
bias_metrics = calculate_bias_metrics(data, protected_features=["gender", "ethnicity"])

Dobra praksa za objašnjivost: modeli treba da budu lako razumljivi korisnicima i revizorima.

  • Objasniti važnost obilježja SHAP vrijednostima (SHapley Additive exPlanations)
  • Za svaki model pripremiti detaljnu karticu modela:
model_card = {
    "model_name": "Disease Predictor v1.0",
    "description": "Hastalık teşhisi için kullanılan bir AI modeli",
    "fairness_metrics": {"demographic_parity": 0.95},
    "limitations": ["Sınırlı veri temsil durumu"]
}

Zahtjevi za dokumentaciju

Svaki sistem VI zahtijeva detaljnu dokumentaciju:

  • Izvori podataka i koraci obrade
  • Parametri korišćeni u obuci
  • Metrike pravičnosti i performansi
  • Uspostavljeni mehanizmi praćenja i revizije

Stalno praćenje i ažuriranje

Sistemi VI nijesu statični; performanse i etičku usklađenost treba redovno provjeravati:

  • Uspostaviti praćenje u realnom vremenu.
  • Dodati upozorenja za pad metrika performansi i pravičnosti.

5. Situacija u Turskoj

Turska nastoji da se uskladi s međunarodnim standardima regulative i etike VI. Postojeći okvir oblikuje prije svega KVKK (Zakon o zaštiti ličnih podataka), a Akt EU o VI postaje sve uticajniji. Proces usklađivanja donosi i prilike i izazove.

Postojeći pravni okvir

Turska još nema zakon posvećen VI, ali KVKK pruža važan okvir:

  1. KVKK, član 4: načela tačnosti, ažurnosti i zakonitosti u obradi ličnih podataka
  2. KVKK, član 6: strožiji uslovi i izričita saglasnost za posebne kategorije ličnih podataka

Sistemi VI u zdravstvu, na primjer, moraju poštovati član 6 kada obrađuju podatke pacijenata. Bankarski regulator BDDK i regulator telekomunikacija BTK takođe objavljuju smjernice o VI u svojim sektorima.

Usklađivanje s Aktom EU o VI

Turske kompanije koje nude proizvode ili usluge na tržištu EU već podliježu Aktu, a zbog carinske unije s EU očekuje se da i turski propisi krenu u istom smjeru. To zahtijeva:

  • Nove mehanizme nadzora u sektorima kao što su bankarstvo, telekomunikacije i zdravstvo
  • Bolje procese transparentnosti i dokumentacije u kompanijama

Očekivane promjene:

  • Strožiji protokoli zaštite podataka
  • Obavezne nezavisne revizije za visokorizične sisteme
  • Strukturne reforme kao što su etički odbori

Praksa po sektorima

  • Bankarstvo: pravila BDDK o zaštiti podataka i transparentnosti algoritama ističu se u finansijama; neke banke su počele da angažuju nezavisne treće strane za reviziju kreditnih algoritama.
  • Zdravstvo: Ministarstvo zdravlja objavilo je smjernice o obradi podataka pacijenata pomoću VI, a razvijaju se i postupci odobravanja kliničkih dijagnostičkih algoritama.
  • Telekomunikacije: smjernice BTK zahtijevaju zaštitu podataka korisnika i standarde anonimizacije.

Ekosistem VI u Turskoj brzo raste, ali je potrebno više rada na regulativi i etičkim standardima. Pogledajmo sada šta kompanije mogu da učine kako bi se uskladile.

6. Preporuke za primjenu

Usklađivanje s regulativom i etikom zahtijeva i strateške i operativne korake. Evo vodiča.

Kontrolna lista usklađenosti

Kontrolna tačkaOpisUrađeno?
Napravljen popis podataka?Jesu li utvrđeni svi izvori podataka koji se koriste?☐
Postoji dokumentacija modela?Jesu li tehnički detalji modela evidentirani?☐
Urađena procjena rizika?Je li za svaki sistem utvrđen nivo rizika?☐
Uspostavljen mehanizam revizije?Funkcionišu li stalno praćenje i revizija?☐

Ovakva lista čini usklađivanje sistematičnim.

Metoda procjene rizika

Kompanije treba da procijene sisteme VI koje koriste prema riziku. Primjer matrice rizika:

Nivo rizikaPrimjer upotrebePotrebne mjere
Visok rizikMedicinska dijagnostikaObavezan ljudski nadzor
Srednji rizikKreditno bodovanjeRedovna revizija
Nizak rizikSistemi preporukaOsnovno praćenje

Dijagnostički algoritam u bolnici, na primjer, treba svake sedmice provjeravati uz ljudski nadzor.

Interna revizija i dokumentacija

Kompanije treba detaljno da dokumentuju cijeli životni ciklus svojih sistema VI. Šablon dokumentacije treba da obuhvati najmanje:

  • Korišćene izvore podataka
  • Kako algoritam radi i odlučuje
  • Procese etičke usklađenosti i smanjenja pristrasnosti

Ovakva dokumentacija olakšava revizije i smanjuje pravni rizik.

7. Dobra praksa i alati

Mnogi alati pomažu da sistemi VI budu usklađeni i etični. Pružaju smjernice u ključnim oblastima kao što su otkrivanje pristrasnosti, objašnjivost i stalno praćenje.

Alati za testiranje pristrasnosti

  • IBM AI Fairness 360: tehnike otkrivanja i smanjenja pristrasnosti, naročito djelotvorne kod modela za kreditno bodovanje i zapošljavanje.
  • Google What-If Tool: vizuelizuje uticaj odluka modela kroz testiranje scenarija, uz pristupačan interfejs.
  • Microsoft Fairlearn: analizira metrike pravičnosti i predlaže poboljšanja.

Primjer upotrebe:

from aif360.datasets import BinaryLabelDataset
from aif360.metrics import BinaryLabelDatasetMetric
dataset = BinaryLabelDataset(df, 'target', protected_attribute_names=['gender'])
metric = BinaryLabelDatasetMetric(dataset)
print(metric.disparate_impact())

Ovi alati su ključni za pronalaženje i uklanjanje izvora pristrasnosti u modelima.

Alati za objašnjivost

Objašnjive odluke modela potrebne su i za povjerenje korisnika i za usklađenost.

  • SHAP: pokazuje na kojim obilježjima počiva odluka modela; široko se koristi u finansijama i zdravstvu.
  • LIME: daje lokalna objašnjenja za bilo koji model.

Primjer upotrebe SHAP-a:

import shap
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(data)
shap.summary_plot(shap_values, data)

Sistemi praćenja

Stalno praćenje je ključno da bi sistemi zadržali dobre performanse i ostali etički usklađeni.

  • MLflow: prati obuku, evaluaciju i puštanje u rad i uočava promjene performansi.
  • Weights & Biases: praćenje i vizuelizacija u realnom vremenu, s upozorenjima o pomaku podataka (data drift).
  • TensorBoard: prati metrike performansi tokom obuke.

Primjer provjere pomaka podataka:

from sklearn.metrics import roc_auc_score
# Eğitim ve gerçek zaman verileriyle performans karşılaştırma
auc_train = roc_auc_score(y_train, model.predict(X_train))
auc_live = roc_auc_score(y_live, model.predict(X_live))
if abs(auc_train - auc_live) > THRESHOLD:
    print("Uyarı: Veri kayması tespit edildi!")

Šablon dokumentacije

Svaki model zahtijeva sveobuhvatnu dokumentaciju. Primjer kartice modela:

model_name: Credit Risk Predictor
version: 1.0.0
data_sources:
  - source: Customer data (internal)
  - update_frequency: Monthly
performance_metrics:
  - accuracy: 89%
  - fairness_score: 95%
ethical_considerations:
  - bias_mitigation: Applied
  - privacy_measures: Anonymized data
limitations:
  - Rural data coverage limited
  - Requires manual oversight for high-risk cases

Ovakav dokument je dragocjen i u regulatornim revizijama i u internim provjerama.

Okviri otvorenog koda

8. Zaključak i preporuke

Regulativa i etička načela imaju temeljnu ulogu u tome da tehnologija ostvari svoj potencijal da poboljša živote. Pravila poput Akta EU o VI predstavljaju ključan korak ka transparentnom i odgovornom razvoju sistema. Za kompanije usklađenost nije samo zakonska obaveza, nego i strateška prilika za izgradnju povjerenja klijenata i veću efikasnost.

Budući trendovi

  1. Globalni etički standardi: Akt EU o VI postaće model za druge zemlje, a slična pravila očekuju se i u zemljama poput Turske.
  2. Automatizovana usklađenost: širiće se automatizacija i alati za reviziju uz podršku VI.
  3. Etika kao poslovna vrijednost: kompanije koje prihvate etička načela steći će konkurentsku prednost kroz povjerenje potrošača.

Koraci koje možete preduzeti odmah

  1. Obezbijedite zakonsku usklađenost: napravite plan u skladu s Aktom EU o VI i KVKK-om.
  2. Osnujte etičke odbore: razjasnite odgovornosti od uprave do tehničkih timova.
  3. Koristite alate i okvire: ugradite provjere pristrasnosti, objašnjivost i praćenje u svoje procese.
  4. Organizujte obuke: podignite svijest zaposlenih o regulativi i etičkim načelima.
  5. Uspostavite stalnu reviziju: redovno provjeravajte performanse i etičku usklađenost sistema.

Završni savjeti

  • Počnite odmah: umjesto čekanja savršenog plana, krenite s onim što imate i poboljšavajte usput.
  • Cijenite dokumentaciju: dobri dokumenti smanjuju pravni rizik i poboljšavaju sisteme.
  • Stalno napredujte: sistemi VI nijesu statični, pa ih redovno preispitujte i ažurirajte.
  • Budite inkluzivni: postarajte se da sistemi budu pravični i dostupni svima.

Pogovor i zahvalnost

Na početku projekta često vidite samo cilj; svaka teškoća i svaki uspjeh na putu donose nove poglede. U ovom tekstu, na kojem sam dugo i pažljivo radio, gledao sam dalje od tehničke strane VI i dalje od pitanja „kako“ i „šta“, ka pitanju „zašto“. Taj put me je iznova podsjećao koliko je dragocjena ljudska strana tehnologije.

Na tom putu nijesam bio sam. Zahvaljujem svima iz industrije čiji se rad nalazi u izvorima, vizionarskim liderima i bezimenim junacima iza scene. Prava inovacija može nastati samo iz zajedničkog truda i zajedničke strasti. Za mene ovaj rad nije kraj, nego novi početak, i nadam se da će to biti i za vas.

Izvori

  1. BBC News (2023). Italy blocks ChatGPT over privacy concerns. bbc.com
  2. Brookings Institution (2023). Algorithmic bias detection and mitigation: best practices and policies to reduce consumer harms. brookings.edu
  3. TechCrunch (2024). EU AI Act: everything you need to know. techcrunch.com
  4. ForeSee Medical. Medical algorithms in healthcare. foreseemed.com
  5. DergiPark. Yapay zekâ ve hukuk. dergipark.org.tr
  6. TestGorilla. Resume screening software guide. testgorilla.com
  7. DergiPark. Yapay zekâ regülasyonları. dergipark.org.tr
  8. Liberties. Pros and cons of facial recognition. liberties.eu
  9. ResearchGate. Subliminal uyarıcıların nöropsikolojisi. researchgate.net
  10. EU Artificial Intelligence Act, Article 13. artificialintelligenceact.eu
  11. B3Lab. Artificial intelligence audit. b3lab.org
  12. Türkiye Yapay Zekâ İnisiyatifi (2024). Yapay Zekâ Etik İlkeleri ve Hukuki Düzenlemeler Raporu. turkiye.ai
  13. BDDK, Bankacılık Düzenleme ve Denetleme Kurumu. bddk.org.tr
  14. T.C. Sağlık Bakanlığı. saglik.gov.tr
  15. BTK, Bilgi Teknolojileri ve İletişim Kurumu. btk.gov.tr
  16. IBM. AI Fairness 360. aif360.res.ibm.com
  17. Google Research. The What-If Tool: interactive probing of machine learning models. research.google
  18. Microsoft Research. Fairlearn: a toolkit for assessing and improving fairness in AI. microsoft.com
  19. C3 AI. LIME: Local Interpretable Model-Agnostic Explanations. c3.ai
  20. TensorFlow. Responsible AI. tensorflow.org
  21. OpenMined. PySyft. openmined.org
  22. Hugging Face. Datasets documentation. huggingface.co
  23. SHAP documentation. shap.readthedocs.io
  24. MLflow documentation. mlflow.org
  25. Weights & Biases documentation. docs.wandb.ai
  26. TensorBoard. tensorflow.org
  27. ELI5 documentation. eli5.readthedocs.io
  28. InterpretML documentation. interpret.ml
  29. AI Fairness 360 documentation. aif360.readthedocs.io