Регулатива и етика вештачке интелигенције

Аутор Yasin TANIŞ

Првобитно објављено на Medium-у

Вага правде на роботској руци, с линијама струјних кола и зградом суда у позадини

1. Зашто је регулатива вештачке интелигенције важна

Технологије вештачке интелигенције, међу највећим иновацијама 21. века, мењају и личне животе и пословање. Етички и правни проблеми који прате ту промену кључни су чинилац у обликовању будућности ове технологије. Компаније, државе и појединци морају да се баве и ризицима и користима вештачке интелигенције.

Неколико примера:

У овом тексту разматрамо где је данас регулатива ВИ, како развијати ВИ на етичан начин и како се компаније могу прилагодити новим правилима.

2. Акт ЕУ о вештачкој интелигенцији изблиза

Акт Европске уније о вештачкој интелигенцији истиче се као прва свеобухватна регулатива ВИ на свету. Усвојен 2024. године, мења правила игре и за компаније у Европи и за компаније било где у свету које продају на тржишту ЕУ. Примењује приступ заснован на ризику и дели системе ВИ у четири нивоа: забрањене, високоризичне, ограничено ризичне и минимално ризичне примене.

Високоризични системи

Ови системи се користе у кључним областима које директно утичу на животе људи и морају да испуњавају строге захтеве надзора и транспарентности. Примери:

Механизми надзора укључују евиденцију података, објашњивост модела и стално праћење. Алгоритам за кредитно бодовање у банци, на пример, мора бити у стању да јасно документује зашто клијент није добио кредит.

Забрањене примене

Акт строго забрањује примене ВИ које су у супротности с основним вредностима друштва, међу којима су:

Ограничен и минималан ризик

Код ограничено ризичних система, попут четботова, главна обавеза је транспарентност: корисник мора да зна да разговара с ВИ. Минимално ризични системи, попут ВИ у играма или филтера нежељене поште, углавном су изузети од обавеза; етичка начела и ту су важна, али је регулатива много блажа.

Захтеви за усклађеност компанија

За високоризичне системе Акт од компанија захтева ове кораке:

  1. Документација и транспарентност: за сваки модел документи који описују коришћене податке, рад алгоритма и могуће ризике.
  2. Независна ревизија: независна тела треба редовно да врше ревизију високоризичних система.
  3. Етичка и техничка обука: запослени, нарочито технички тимови, треба да прођу обуку о регулативи и етичким начелима.

Казне и надзор

Компаније које се не ускладе могу се суочити с озбиљним казнама:

  • Казне засноване на промету: до 7 % глобалног годишњег промета за најтежа кршења
  • Обустава: код тешког кршења употреба спорног система ВИ може се зауставити
  • Повлачење: модели који не испуњавају етичке или техничке стандарде могу се повући с тржишта

Ове казне могу донети велике финансијске и репутационе губитке. Дијагностички алгоритам који даје погрешне резултате, на пример, може да уздрма поверење пацијената и прерасте у озбиљну кризу угледа.

3. Два примера из праксе

Да бисмо показали како регулатива и етика изгледају у пракси, ево два примера из финансија и здравства. Реч је о илустративним сценаријима, а не о стварним организацијама.

Пример 1: ВИ у финансијама (измишљена „XYZ Bank“)

XYZ Bank почиње да користи алгоритам заснован на ВИ за одлуке о кредитима. Већ у првој примени показује се да је модел пристрасан према одређеним демографским групама.

Проблем: модел одбија захтеве предузетница млађих од 35 година 23 % чешће него захтеве предузетника. То значи и правни ризик и губитак поверења клијената.

Решење:

  1. Анализа и чишћење података: историјски подаци се проверавају, пристрасност се утврђује и попуњава се недостатак података о предузетницама.
  2. Смањење пристрасности: у обуци се користе метрике праведности.
  3. Стално праћење: недељни контролни панел прати помаке (drift) у одлукама алгоритма.

Резултати:

  • Показатељ демографског паритета расте с 0,82 на 0,96.
  • Разлика у одобравању кредита по полу пада на 4 %.
  • Перформансе модела (AUC-ROC) остају на 87 %.

Пример 2: ВИ у здравству (измишљена „болница ABC“)

Болница ABC користи модел ВИ за дијагностику. Испоставља се да подаци пацијената нису довољно заштићени, супротно GDPR-у (Општој уредби о заштити података).

Проблем: подаци пацијената чувају се на централном серверу, што је отворен ризик од цурења података.

Решење: болница прелази на федеративно учење (federated learning):

  • Подаци се обрађују на локалним уређајима, па централно чување више није потребно.
  • Модел учи из података на различитим уређајима, али ниједан податак не напушта уређај.

Резултати:

  • Кршења приватности су спречена.
  • Тачност модела расте с 91 % на 93 %.
  • Систем постаје усклађен с GDPR-ом.

Ови примери показују како усклађеност с регулативом и етиком може да функционише у стварном свету. Погледајмо сада како се овакви резултати могу поновити.

4. Оквир за етички развој вештачке интелигенције

Етички систем ВИ треба да почива на јасно дефинисаном оквиру који обухвата прикупљање података, развој модела, праћење и објашњивост.

Етичке контролне тачке у развоју модела

Стандарди прикупљања и обраде података: подаци треба да буду непристрасни, ажурни и репрезентативни, а лични подаци морају бити заштићени током обраде. Осетљива обележја као што су пол или старост могу се, на пример, уклонити из скупа података.

Откривање и спречавање пристрасности: провере пристрасности треба да се изводе током обуке. Код испод скицира како би таква провера могла да изгледа:

# Bias test framework
from fairness_check import calculate_bias_metrics
bias_metrics = calculate_bias_metrics(data, protected_features=["gender", "ethnicity"])

Добра пракса за објашњивост: модели треба да буду лако разумљиви корисницима и ревизорима.

  • Објаснити важност обележја SHAP вредностима (SHapley Additive exPlanations)
  • За сваки модел припремити детаљну картицу модела:
model_card = {
    "model_name": "Disease Predictor v1.0",
    "description": "Hastalık teşhisi için kullanılan bir AI modeli",
    "fairness_metrics": {"demographic_parity": 0.95},
    "limitations": ["Sınırlı veri temsil durumu"]
}

Захтеви за документацију

Сваки систем ВИ захтева детаљну документацију:

  • Извори података и кораци обраде
  • Параметри коришћени у обуци
  • Метрике праведности и перформанси
  • Успостављени механизми праћења и ревизије

Стално праћење и ажурирање

Системи ВИ нису статични; перформансе и етичку усклађеност треба редовно проверавати:

  • Успоставити праћење у реалном времену.
  • Додати упозорења за пад метрика перформанси и праведности.

5. Стање у Турској

Турска настоји да се усклади с међународним стандардима регулативе и етике ВИ. Постојећи оквир обликује пре свега KVKK (Закон о заштити личних података), а Акт ЕУ о ВИ постаје све утицајнији. Процес усклађивања доноси и прилике и изазове.

Постојећи правни оквир

Турска још нема посебан закон о ВИ, али KVKK пружа важан оквир:

  1. KVKK, члан 4: начела тачности, ажурности и законитости у обради личних података
  2. KVKK, члан 6: строжи услови и изричит пристанак за посебне категорије личних података

Системи ВИ у здравству, на пример, морају да поштују члан 6 када обрађују податке пацијената. Банкарски регулатор BDDK и регулатор телекомуникација BTK такође објављују смернице о ВИ у својим секторима.

Усклађивање с Актом ЕУ о ВИ

Турске компаније које нуде производе или услуге на тржишту ЕУ већ подлежу Акту, а због царинске уније с ЕУ очекује се да и турски прописи крену у истом смеру. То захтева:

  • Нове механизме надзора у секторима као што су банкарство, телекомуникације и здравство
  • Боље процесе транспарентности и документације у компанијама

Очекиване промене:

  • Строжи протоколи заштите података
  • Обавезне независне ревизије за високоризичне системе
  • Структурне реформе као што су етички одбори

Пракса по секторима

  • Банкарство: правила BDDK о заштити података и транспарентности алгоритама истичу се у финансијама; неке банке су почеле да ангажују независне треће стране за ревизију кредитних алгоритама.
  • Здравство: Министарство здравља објавило је смернице о обради података пацијената помоћу ВИ, а развијају се и поступци одобравања клиничких дијагностичких алгоритама.
  • Телекомуникације: смернице BTK захтевају заштиту података корисника и стандарде анонимизације.

Екосистем ВИ у Турској брзо расте, али је потребно више рада на регулативи и етичким стандардима. Погледајмо сада шта компаније могу да учине да би се ускладиле.

6. Препоруке за примену

Усклађивање с регулативом и етиком захтева и стратешке и оперативне кораке. Ево водича.

Контролна листа усклађености

Контролна тачкаОписУрађено?
Направљен попис података?Да ли су утврђени сви извори података који се користе?☐
Постоји документација модела?Да ли су технички детаљи модела евидентирани?☐
Урађена процена ризика?Да ли је за сваки систем утврђен ниво ризика?☐
Успостављен механизам ревизије?Да ли функционишу стално праћење и ревизија?☐

Оваква листа чини усклађивање систематичним.

Метода процене ризика

Компаније треба да процене системе ВИ које користе према ризику. Пример матрице ризика:

Ниво ризикаПример употребеПотребне мере
Висок ризикМедицинска дијагностикаОбавезан људски надзор
Средњи ризикКредитно бодовањеРедовна ревизија
Низак ризикСистеми препорукаОсновно праћење

Дијагностички алгоритам у болници, на пример, треба сваке недеље проверавати уз људски надзор.

Интерна ревизија и документација

Компаније треба детаљно да документују цео животни циклус својих система ВИ. Шаблон документације треба да обухвати најмање:

  • Коришћене изворе података
  • Како алгоритам ради и одлучује
  • Процесе етичке усклађености и смањења пристрасности

Оваква документација олакшава ревизије и смањује правни ризик.

7. Добра пракса и алати

Многи алати помажу да системи ВИ буду усклађени и етични. Пружају смернице у кључним областима као што су откривање пристрасности, објашњивост и стално праћење.

Алати за тестирање пристрасности

  • IBM AI Fairness 360: технике откривања и смањења пристрасности, нарочито делотворне код модела за кредитно бодовање и запошљавање.
  • Google What-If Tool: визуелизује утицај одлука модела кроз тестирање сценарија, уз интерфејс једноставан за коришћење.
  • Microsoft Fairlearn: анализира метрике праведности и предлаже побољшања.

Пример употребе:

from aif360.datasets import BinaryLabelDataset
from aif360.metrics import BinaryLabelDatasetMetric
dataset = BinaryLabelDataset(df, 'target', protected_attribute_names=['gender'])
metric = BinaryLabelDatasetMetric(dataset)
print(metric.disparate_impact())

Ови алати су кључни за проналажење и уклањање извора пристрасности у моделима.

Алати за објашњивост

Објашњиве одлуке модела потребне су и за поверење корисника и за усклађеност.

  • SHAP: показује на којим обележјима почива одлука модела; широко се користи у финансијама и здравству.
  • LIME: даје локална објашњења за било који модел.

Пример употребе SHAP-а:

import shap
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(data)
shap.summary_plot(shap_values, data)

Системи праћења

Стално праћење је кључно да би системи задржали добре перформансе и етичку усклађеност.

  • MLflow: прати обуку, евалуацију и пуштање у рад и уочава промене перформанси.
  • Weights & Biases: праћење и визуелизација у реалном времену, с упозорењима о помаку података (data drift).
  • TensorBoard: прати метрике перформанси током обуке.

Пример провере помака података:

from sklearn.metrics import roc_auc_score
# Eğitim ve gerçek zaman verileriyle performans karşılaştırma
auc_train = roc_auc_score(y_train, model.predict(X_train))
auc_live = roc_auc_score(y_live, model.predict(X_live))
if abs(auc_train - auc_live) > THRESHOLD:
    print("Uyarı: Veri kayması tespit edildi!")

Шаблон документације

Сваки модел захтева свеобухватну документацију. Пример картице модела:

model_name: Credit Risk Predictor
version: 1.0.0
data_sources:
  - source: Customer data (internal)
  - update_frequency: Monthly
performance_metrics:
  - accuracy: 89%
  - fairness_score: 95%
ethical_considerations:
  - bias_mitigation: Applied
  - privacy_measures: Anonymized data
limitations:
  - Rural data coverage limited
  - Requires manual oversight for high-risk cases

Овакав документ је драгоцен и у регулаторним ревизијама и у интерним проверама.

Оквири отвореног кода

  • TensorFlow Responsible AI: јача етичку усклађеност током развоја.
  • PySyft: омогућава федеративно учење уз заштиту приватности података.
  • Hugging Face Datasets: приступ скуповима података припремљеним с обзиром на праведност и разноликост.

8. Закључак и препоруке

Регулатива ВИ и етичка начела имају темељну улогу у томе да технологија оствари свој потенцијал да побољша животе. Правила као што је Акт ЕУ о ВИ представљају кључан корак ка транспарентном и одговорном развоју система. За компаније усклађеност није само законска обавеза већ и стратешка прилика за изградњу поверења клијената и повећање ефикасности.

Будући трендови

  1. Глобални етички стандарди: Акт ЕУ о ВИ постаће модел за друге земље, а слична правила очекују се и у земљама попут Турске.
  2. Аутоматизована усклађеност: шириће се аутоматизација и алати за ревизију уз подршку ВИ.
  3. Етика као пословна вредност: компаније које прихвате етичка начела стећи ће конкурентску предност кроз поверење потрошача.

Кораци које можете предузети одмах

  1. Обезбедите законску усклађеност: направите план у складу с Актом ЕУ о ВИ и KVKK-ом.
  2. Оснујте етичке одборе: разјасните одговорности од највишег руководства до техничких тимова.
  3. Користите алате и оквире: уградите провере пристрасности, објашњивост и праћење у своје процесе.
  4. Организујте обуке: подигните свест запослених о регулативи и етичким начелима.
  5. Успоставите сталну ревизију: редовно проверавајте перформансе и етичку усклађеност система.

Завршни савети

  • Почните одмах: уместо чекања савршеног плана, крените с оним што имате и побољшавајте у ходу.
  • Цените документацију: добри документи смањују правни ризик и побољшавају системе.
  • Стално напредујте: системи ВИ нису статични, па их редовно преиспитујте и ажурирајте.
  • Будите инклузивни: постарајте се да системи буду праведни и доступни свима.

Поговор и захвалност

На почетку пројекта често видите само циљ; свака тешкоћа и сваки успех на путу доносе нове перспективе. У овом тексту, на којем сам дуго и пажљиво радио, гледао сам даље од техничке стране ВИ и даље од питања „како“ и „шта“, ка питању „зашто“. Тај пут ме је изнова подсећао колико је драгоцена људска страна технологије.

На том путу нисам био сам. Захваљујем свима из индустрије чији се рад налази у изворима, визионарским лидерима и безименим јунацима иза сцене. Права иновација може настати само из заједничког труда и заједничке страсти. За мене овај рад није крај већ нови почетак, и надам се да ће то бити и за вас.

Извори

  1. BBC News (2023). Italy blocks ChatGPT over privacy concerns. bbc.com
  2. Brookings Institution (2023). Algorithmic bias detection and mitigation: best practices and policies to reduce consumer harms. brookings.edu
  3. TechCrunch (2024). EU AI Act: everything you need to know. techcrunch.com
  4. ForeSee Medical. Medical algorithms in healthcare. foreseemed.com
  5. DergiPark. Yapay zekâ ve hukuk. dergipark.org.tr
  6. TestGorilla. Resume screening software guide. testgorilla.com
  7. DergiPark. Yapay zekâ regülasyonları. dergipark.org.tr
  8. Liberties. Pros and cons of facial recognition. liberties.eu
  9. ResearchGate. Subliminal uyarıcıların nöropsikolojisi. researchgate.net
  10. EU Artificial Intelligence Act, Article 13. artificialintelligenceact.eu
  11. B3Lab. Artificial intelligence audit. b3lab.org
  12. Türkiye Yapay Zekâ İnisiyatifi (2024). Yapay Zekâ Etik İlkeleri ve Hukuki Düzenlemeler Raporu. turkiye.ai
  13. BDDK, Bankacılık Düzenleme ve Denetleme Kurumu. bddk.org.tr
  14. T.C. Sağlık Bakanlığı. saglik.gov.tr
  15. BTK, Bilgi Teknolojileri ve İletişim Kurumu. btk.gov.tr
  16. IBM. AI Fairness 360. aif360.res.ibm.com
  17. Google Research. The What-If Tool: interactive probing of machine learning models. research.google
  18. Microsoft Research. Fairlearn: a toolkit for assessing and improving fairness in AI. microsoft.com
  19. C3 AI. LIME: Local Interpretable Model-Agnostic Explanations. c3.ai
  20. TensorFlow. Responsible AI. tensorflow.org
  21. OpenMined. PySyft. openmined.org
  22. Hugging Face. Datasets documentation. huggingface.co
  23. SHAP documentation. shap.readthedocs.io
  24. MLflow documentation. mlflow.org
  25. Weights & Biases documentation. docs.wandb.ai
  26. TensorBoard. tensorflow.org
  27. ELI5 documentation. eli5.readthedocs.io
  28. InterpretML documentation. interpret.ml
  29. AI Fairness 360 documentation. aif360.readthedocs.io