Регулатива и етика на вештачката интелигенција
Автор Yasin TANIŞ

1. Зошто е важна регулативата на вештачката интелигенција
Технологиите на вештачка интелигенција, меѓу најголемите иновации на 21 век, ги менуваат и личните животи и работењето. Етичките и правните проблеми што ја придружуваат таа промена се клучни за иднината на технологијата. Компаниите, државите и поединците мора да се справуваат и со ризиците и со придобивките од вештачката интелигенција.
Неколку примери:
- Италијанската забрана на ChatGPT ги откри предизвиците околу приватноста на податоците.
- Алгоритмот за вработување на Amazon поттикна етички дебати поради родова пристрасност.
- Актот на ЕУ за вештачка интелигенција стана првиот сеопфатен закон во светот што ги уредува високоризичните примени на ВИ.
Во овој текст разгледуваме каде е регулативата денес, како да се развива ВИ етички и како компаниите можат да се прилагодат на новите правила.
2. Актот на ЕУ за вештачка интелигенција одблиску
Актот на Европската унија за вештачка интелигенција се издвојува како прва сеопфатна регулатива на ВИ во светот. Донесен во 2024 година, ги менува правилата на играта и за компаниите во Европа и за компаниите од каде било што продаваат на пазарот на ЕУ. Има пристап заснован на ризик и ги дели системите на ВИ во четири нивоа: забранети, високоризични, ограничено ризични и минимално ризични примени.
Високоризични системи
Овие системи се користат во клучни области што директно влијаат врз животите на луѓето и мора да исполнуваат строги барања за надзор и транспарентност. Примери:
- Здравство: алгоритми за дијагностика на болести
- Финансии: системи за кредитно бодување
- Вработување: алатки за преглед на биографии и проценка на кандидати
Механизмите на надзор вклучуваат евиденција на податоци, објаснивост на моделот и постојано следење. Алгоритмот за кредитно бодување во банка, на пример, мора јасно да документира зошто клиентот не добил кредит.
Забранети примени
Актот строго ги забранува примените на ВИ што се спротивни на основните вредности на општеството, меѓу кои:
- Системи за општествено бодување: системи што го бодуваат однесувањето на граѓаните
- Биометриски масовен надзор: неовластено препознавање лица на јавни места
- Сублиминална манипулација: системи што го насочуваат однесувањето на корисниците без тие да бидат свесни за тоа
Ограничен и минимален ризик
Кај ограничено ризичните системи, како четботовите, главната обврска е транспарентноста: корисникот мора да знае дека разговара со ВИ. Минимално ризичните системи, како ВИ во игри или филтри за несакана пошта, главно се слободни; етичките начела и тука се важни, но регулативата е многу поблага.
Барања за усогласеност за компаниите
За високоризичните системи Актот од компаниите ги бара овие чекори:
- Документација и транспарентност: за секој модел документи што ги опишуваат користените податоци, работата на алгоритмот и можните ризици.
- Независна ревизија: високоризичните системи треба редовно да ги проверуваат независни тела.
- Етичка и техничка обука: вработените, особено техничките тимови, треба да поминат обука за регулативата и етичките начела.
Казни и надзор
Компаниите што нема да се усогласат може да се соочат со сериозни казни:
- Казни засновани на прометот: до 7 % од глобалниот годишен промет за најтешките прекршувања
- Запирање: при тешко прекршување употребата на спорниот систем на ВИ може да се запре
- Повлекување: моделите што не ги исполнуваат етичките или техничките стандарди можат да се повлечат од пазарот
Овие казни можат да донесат големи финансиски загуби и загуби на углед. Дијагностички алгоритам што дава погрешни резултати, на пример, може да ја разниша довербата на пациентите и да прерасне во сериозна криза на угледот.
3. Два примера од практиката
За да покажеме како регулативата и етиката изгледаат во практиката, еве два примера од финансиите и здравството. Станува збор за илустративни сценарија, а не за вистински организации.
Пример 1: ВИ во финансиите (измислена „XYZ Bank“)
XYZ Bank почнува да користи алгоритам заснован на ВИ за одлуки за кредити. Уште при првата примена се покажува дека моделот е пристрасен на штета на одредени демографски групи.
Проблем: моделот ги одбива барањата на жените претприемачи помлади од 35 години 23 % почесто од барањата на мажите. Тоа значи и правен ризик и загуба на довербата на клиентите.
Решение:
- Анализа и чистење на податоците: историските податоци се проверуваат, пристрасноста се утврдува и се пополнува недостигот од податоци за жените претприемачи.
- Намалување на пристрасноста: во обуката се користат метрики за праведност.
- Постојано следење: неделна контролна табла ги следи отстапувањата во одлуките на алгоритмот.
Резултати:
- Резултатот за демографски паритет расте од 0,82 на 0,96.
- Разликата во одобрувањето кредити по пол паѓа на 4 %.
- Перформансите на моделот (AUC-ROC) остануваат на 87 %.
Пример 2: ВИ во здравството (измислена „Болница ABC“)
Болницата ABC користи модел на ВИ за дијагностика. Се покажува дека податоците на пациентите не се доволно заштитени, што го прекршува GDPR (Општата уредба за заштита на податоците).
Проблем: податоците на пациентите се чуваат на централен сервер, што е отворен ризик од истекување на податоци.
Решение: болницата преминува на федеративно учење (federated learning):
- Податоците се обработуваат на локални уреди, па централното чување веќе не е потребно.
- Моделот учи од податоци на различни уреди, но ниеден податок не го напушта уредот.
Резултати:
- Прекршувањата на приватноста се спречени.
- Точноста на моделот расте од 91 % на 93 %.
- Системот станува усогласен со GDPR.
Овие примери покажуваат како усогласеноста со регулативата и етиката може да функционира во реалниот свет. Да видиме сега како ваквите резултати можат да се повторат.
4. Рамка за етички развој на вештачката интелигенција
Етичкиот систем на ВИ треба да почива на јасно дефинирана рамка што опфаќа собирање податоци, развој на моделот, следење и објаснивост.
Етички контролни точки во развојот на моделот
Стандарди за собирање и обработка на податоците: податоците треба да бидат непристрасни, ажурни и репрезентативни, а личните податоци мора да бидат заштитени при обработката. Чувствителните карактеристики како полот или возраста можат, на пример, да се отстранат од збирката.
Откривање и спречување пристрасност: проверките на пристрасност треба да се вршат за време на обуката. Кодот подолу скицира како може да изгледа таква проверка:
# Bias test framework
from fairness_check import calculate_bias_metrics
bias_metrics = calculate_bias_metrics(data, protected_features=["gender", "ethnicity"])
Добра практика за објаснивост: моделите треба да бидат лесно разбирливи за корисниците и ревизорите.
- Важноста на карактеристиките да се објасни со SHAP вредности (SHapley Additive exPlanations)
- За секој модел да се подготви детална картичка на моделот:
model_card = {
"model_name": "Disease Predictor v1.0",
"description": "Hastalık teşhisi için kullanılan bir AI modeli",
"fairness_metrics": {"demographic_parity": 0.95},
"limitations": ["Sınırlı veri temsil durumu"]
}
Барања за документација
Секој систем на ВИ бара детална документација:
- Извори на податоци и чекори на обработка
- Параметри користени во обуката
- Метрики за праведност и перформанси
- Воспоставени механизми за следење и ревизија
Постојано следење и ажурирање
Системите на ВИ не се статични; перформансите и етичката усогласеност треба редовно да се проверуваат:
- Да се воспостави следење во реално време.
- Да се додадат предупредувања за пад на метриките за перформанси и праведност.
5. Состојбата во Турција
Турција настојува да се усогласи со меѓународните стандарди за регулатива и етика на ВИ. Постојната рамка ја обликува пред сè KVKK (Законот за заштита на личните податоци), а Актот на ЕУ за ВИ станува сè повлијателен. Процесот на усогласување носи и можности и предизвици.
Постојна правна рамка
Турција сè уште нема закон посветен на ВИ, но KVKK дава важна рамка:
- KVKK, член 4: начела на точност, ажурност и законитост при обработката на личните податоци
- KVKK, член 6: построги услови и изречна согласност за посебни категории лични податоци
Системите на ВИ во здравството, на пример, мора да го почитуваат член 6 кога обработуваат податоци на пациенти. Банкарскиот регулатор BDDK и телекомуникацискиот регулатор BTK исто така објавуваат насоки за ВИ во своите сектори.
Усогласување со Актот на ЕУ за ВИ
Турските компании што нудат производи или услуги на пазарот на ЕУ веќе подлежат на Актот, а поради царинската унија со ЕУ се очекува и турските прописи да тргнат во истата насока. Тоа бара:
- Нови механизми за надзор во сектори како банкарството, телекомуникациите и здравството
- Подобри процеси на транспарентност и документација во компаниите
Очекувани промени:
- Построги протоколи за заштита на податоците
- Задолжителни независни ревизии за високоризичните системи
- Структурни реформи како етички одбори
Практика по сектори
- Банкарство: правилата на BDDK за заштита на податоците и транспарентност на алгоритмите се истакнуваат во финансиите; некои банки почнаа да ангажираат независни трети страни за ревизија на кредитните алгоритми.
- Здравство: Министерството за здравство објави насоки за обработка на податоци на пациенти со ВИ, а се развиваат и постапки за одобрување на клиничките дијагностички алгоритми.
- Телекомуникации: насоките на BTK бараат заштита на податоците на корисниците и стандарди за анонимизација.
Екосистемот на ВИ во Турција брзо расте, но е потребна повеќе работа на регулативата и етичките стандарди. Да видиме сега што можат да направат компаниите.
6. Препораки за примена
Усогласувањето со регулативата и етиката бара и стратешки и оперативни чекори. Еве водич.
Листа за проверка на усогласеноста
| Контролна точка | Опис | Завршено? |
|---|---|---|
| Направен попис на податоците? | Дали се утврдени сите извори на податоци што се користат? | ☐ |
| Постои документација на моделот? | Дали се евидентирани техничките детали на моделите? | ☐ |
| Направена проценка на ризикот? | Дали за секој систем е утврдено нивото на ризик? | ☐ |
| Воспоставен механизам за ревизија? | Дали функционираат постојаното следење и ревизијата? | ☐ |
Ваквата листа го прави усогласувањето систематско.
Метод за проценка на ризикот
Компаниите треба да ги проценат системите на ВИ што ги користат според ризикот. Пример за матрица на ризик:
| Ниво на ризик | Пример за употреба | Потребни мерки |
|---|---|---|
| Висок ризик | Медицинска дијагностика | Задолжителен човечки надзор |
| Среден ризик | Кредитно бодување | Редовна ревизија |
| Низок ризик | Системи за препораки | Основно следење |
Дијагностички алгоритам во болница, на пример, треба секоја недела да се проверува под човечки надзор.
Внатрешна ревизија и документација
Компаниите треба детално да го документираат целиот животен циклус на своите системи на ВИ. Шаблонот за документација треба да опфати најмалку:
- Користените извори на податоци
- Како работи алгоритмот и како одлучува
- Процесите на етичка усогласеност и намалување на пристрасноста
Ваквата документација ги олеснува ревизиите и го намалува правниот ризик.
7. Добра практика и алатки
Многу алатки помагаат системите на ВИ да бидат усогласени и етички. Тие даваат насоки во клучните области како откривањето пристрасност, објаснивоста и постојаното следење.
Алатки за тестирање пристрасност
- IBM AI Fairness 360: техники за откривање и намалување пристрасност, особено ефикасни кај моделите за кредитно бодување и вработување.
- Google What-If Tool: го визуелизира влијанието на одлуките на моделот преку тестирање сценарија, со интерфејс лесен за користење.
- Microsoft Fairlearn: ги анализира метриките за праведност и предлага подобрувања.
Пример за употреба:
from aif360.datasets import BinaryLabelDataset
from aif360.metrics import BinaryLabelDatasetMetric
dataset = BinaryLabelDataset(df, 'target', protected_attribute_names=['gender'])
metric = BinaryLabelDatasetMetric(dataset)
print(metric.disparate_impact())
Овие алатки се клучни за наоѓање и отстранување на изворите на пристрасност во моделите.
Алатки за објаснивост
Објасниви одлуки на моделот се потребни и за довербата на корисниците и за усогласеноста.
- SHAP: покажува на кои карактеристики почива одлуката на моделот; широко се користи во финансиите и здравството.
- LIME: дава локални објаснувања за кој било модел.
Пример за употреба на SHAP:
import shap
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(data)
shap.summary_plot(shap_values, data)
Системи за следење
Постојаното следење е клучно за системите да ги задржат перформансите и етичката усогласеност.
- MLflow: ги следи обуката, евалуацијата и пуштањето во работа и ги забележува промените во перформансите.
- Weights & Biases: следење и визуелизација во реално време, со предупредувања за поместување на податоците (data drift).
- TensorBoard: ги следи метриките за перформанси за време на обуката.
Пример за проверка на поместување на податоците:
from sklearn.metrics import roc_auc_score
# Eğitim ve gerçek zaman verileriyle performans karşılaştırma
auc_train = roc_auc_score(y_train, model.predict(X_train))
auc_live = roc_auc_score(y_live, model.predict(X_live))
if abs(auc_train - auc_live) > THRESHOLD:
print("Uyarı: Veri kayması tespit edildi!")
Шаблон за документација
Секој модел бара сеопфатна документација. Пример за картичка на модел:
model_name: Credit Risk Predictor
version: 1.0.0
data_sources:
- source: Customer data (internal)
- update_frequency: Monthly
performance_metrics:
- accuracy: 89%
- fairness_score: 95%
ethical_considerations:
- bias_mitigation: Applied
- privacy_measures: Anonymized data
limitations:
- Rural data coverage limited
- Requires manual oversight for high-risk cases
Ваков документ е драгоцен и при регулаторните ревизии и при внатрешните проверки.
Рамки со отворен код
- TensorFlow Responsible AI: ја зајакнува етичката усогласеност за време на развојот.
- PySyft: овозможува федеративно учење со заштита на приватноста на податоците.
- Hugging Face Datasets: пристап до збирки податоци подготвени со оглед на праведноста и разновидноста.
8. Заклучок и препораки
Регулативата и етичките начела имаат суштинска улога технологијата да го оствари својот потенцијал да ги подобри животите. Правилата како Актот на ЕУ за ВИ се клучен чекор кон транспарентен и одговорен развој на системите. За компаниите усогласеноста не е само законска обврска, туку и стратешка можност за градење доверба кај клиентите и за поголема ефикасност.
Идни трендови
- Глобални етички стандарди: Актот на ЕУ за ВИ ќе стане модел за другите земји, а слични правила се очекуваат и во земји како Турција.
- Автоматизирана усогласеност: ќе се шират автоматизацијата и алатките за ревизија со поддршка од ВИ.
- Етиката како деловна вредност: компаниите што ќе ги прифатат етичките начела ќе стекнат конкурентска предност преку довербата на потрошувачите.
Чекори што можете да ги преземете веднаш
- Обезбедете законска усогласеност: направете план во согласност со Актот на ЕУ за ВИ и KVKK.
- Основајте етички одбори: разјаснете ги одговорностите од управата до техничките тимови.
- Користете алатки и рамки: вградете проверки на пристрасност, објаснивост и следење во своите процеси.
- Организирајте обуки: подигнете ја свеста на вработените за регулативата и етичките начела.
- Воспоставете постојана ревизија: редовно проверувајте ги перформансите и етичката усогласеност на системите.
Завршни совети
- Почнете веднаш: наместо да чекате совршен план, тргнете со она што го имате и подобрувајте успат.
- Ценете ја документацијата: добрите документи го намалуваат правниот ризик и ги подобруваат системите.
- Постојано напредувајте: системите на ВИ не се статични, па редовно преиспитувајте ги и ажурирајте ги.
- Бидете инклузивни: погрижете се системите да бидат праведни и достапни за сите.
Поговор и благодарност
На почетокот на проектот често ја гледате само целта; секоја тешкотија и секој успех на патот носат нови погледи. Во овој текст, на кој долго и внимателно работев, погледнав подалеку од техничката страна на ВИ и подалеку од прашањата „како“ и „што“, кон прашањето „зошто“. Тој пат одново ме потсетуваше колку е драгоцена човечката страна на технологијата.
На тој пат не бев сам. Им благодарам на сите од индустријата чија работа е наведена во изворите, на визионерските лидери и на безимените херои зад сцената. Вистинската иновација може да произлезе само од заеднички труд и заедничка страст. За мене ова дело не е крај, туку нов почеток, и се надевам дека така ќе биде и за вас.
Извори
- BBC News (2023). Italy blocks ChatGPT over privacy concerns. bbc.com
- Brookings Institution (2023). Algorithmic bias detection and mitigation: best practices and policies to reduce consumer harms. brookings.edu
- TechCrunch (2024). EU AI Act: everything you need to know. techcrunch.com
- ForeSee Medical. Medical algorithms in healthcare. foreseemed.com
- DergiPark. Yapay zekâ ve hukuk. dergipark.org.tr
- TestGorilla. Resume screening software guide. testgorilla.com
- DergiPark. Yapay zekâ regülasyonları. dergipark.org.tr
- Liberties. Pros and cons of facial recognition. liberties.eu
- ResearchGate. Subliminal uyarıcıların nöropsikolojisi. researchgate.net
- EU Artificial Intelligence Act, Article 13. artificialintelligenceact.eu
- B3Lab. Artificial intelligence audit. b3lab.org
- Türkiye Yapay Zekâ İnisiyatifi (2024). Yapay Zekâ Etik İlkeleri ve Hukuki Düzenlemeler Raporu. turkiye.ai
- BDDK, Bankacılık Düzenleme ve Denetleme Kurumu. bddk.org.tr
- T.C. Sağlık Bakanlığı. saglik.gov.tr
- BTK, Bilgi Teknolojileri ve İletişim Kurumu. btk.gov.tr
- IBM. AI Fairness 360. aif360.res.ibm.com
- Google Research. The What-If Tool: interactive probing of machine learning models. research.google
- Microsoft Research. Fairlearn: a toolkit for assessing and improving fairness in AI. microsoft.com
- C3 AI. LIME: Local Interpretable Model-Agnostic Explanations. c3.ai
- TensorFlow. Responsible AI. tensorflow.org
- OpenMined. PySyft. openmined.org
- Hugging Face. Datasets documentation. huggingface.co
- SHAP documentation. shap.readthedocs.io
- MLflow documentation. mlflow.org
- Weights & Biases documentation. docs.wandb.ai
- TensorBoard. tensorflow.org
- ELI5 documentation. eli5.readthedocs.io
- InterpretML documentation. interpret.ml
- AI Fairness 360 documentation. aif360.readthedocs.io

