Rregullimi dhe etika e inteligjencës artificiale
Shkruar nga Yasin TANIŞ

1. Pse ka rëndësi rregullimi i inteligjencës artificiale
Teknologjitë e inteligjencës artificiale, ndër risitë më të mëdha të shekullit të 21-të, po transformojnë si jetën personale, ashtu edhe biznesin. Problemet etike dhe ligjore që e shoqërojnë këtë transformim janë vendimtare për të ardhmen e teknologjisë. Kompanitë, shtetet dhe individët duhet të merren si me përfitimet, ashtu edhe me rreziqet e AI-së.
Disa shembuj:
- Ndalimi i ChatGPT në Itali nxori në pah sfidat e privatësisë së të dhënave.
- Algoritmi i punësimit i Amazon ndezi debate etike për shkak të paragjykimit gjinor.
- Akti i BE-së për inteligjencën artificiale u bë ligji i parë gjithëpërfshirës në botë që rregullon zbatimet me rrezik të lartë të AI-së.
Në këtë artikull shohim ku qëndron rregullimi sot, si të zhvillohet AI në mënyrë etike dhe si mund t’u përshtaten kompanitë rregullave të reja.
2. Akti i BE-së për AI nga afër
Akti i Bashkimit Evropian për inteligjencën artificiale dallohet si rregullimi i parë gjithëpërfshirës i AI-së në botë. I miratuar në vitin 2024, ai ndryshon rregullat e lojës si për kompanitë në Evropë, ashtu edhe për kompanitë kudo që shesin në tregun e BE-së. Mbështetet në rrezikun dhe i ndan sistemet e AI-së në katër nivele: zbatime të ndaluara, me rrezik të lartë, me rrezik të kufizuar dhe me rrezik minimal.
Sistemet me rrezik të lartë
Këto sisteme përdoren në fusha kritike që ndikojnë drejtpërdrejt në jetën e njerëzve dhe duhet të plotësojnë kërkesa të rrepta mbikëqyrjeje dhe transparence. Shembuj:
- Shëndetësia: algoritme që diagnostikojnë sëmundje
- Financat: sisteme të vlerësimit të kreditit
- Punësimi: mjete për shqyrtimin e CV-ve dhe vlerësimin e kandidatëve
Mekanizmat e mbikëqyrjes përfshijnë regjistrat e të dhënave, shpjegueshmërinë e modelit dhe monitorimin e vazhdueshëm. Algoritmi i vlerësimit të kreditit i një banke, për shembull, duhet të dokumentojë qartë pse një klienti iu refuzua kredia.
Zbatimet e ndaluara
Akti ndalon rreptësisht zbatimet e AI-së që bien ndesh me vlerat themelore të shoqërisë, ndër to:
- Sistemet e pikëzimit social: sisteme që pikëzojnë sjelljen e qytetarëve
- Mbikëqyrja biometrike masive: njohja e paautorizuar e fytyrës në vende publike
- Manipulimi subliminal: sisteme që drejtojnë sjelljen e përdoruesve pa dijeninë e tyre
Rrezik i kufizuar dhe minimal
Te sistemet me rrezik të kufizuar, si chatbot-et, detyrimi kryesor është transparenca: përdoruesi duhet të dijë se po flet me një AI. Sistemet me rrezik minimal, si AI në lojëra ose filtrat e spam-it, lihen kryesisht të lira; parimet etike kanë rëndësi edhe këtu, por rregullimi është shumë më i lehtë.
Kërkesat e përputhshmërisë për kompanitë
Për sistemet me rrezik të lartë, Akti u kërkon kompanive këta hapa:
- Dokumentim dhe transparencë: për çdo model, dokumente që përshkruajnë të dhënat e përdorura, funksionimin e algoritmit dhe rreziqet e mundshme.
- Auditim i pavarur: sistemet me rrezik të lartë duhet të auditohen rregullisht nga organe të pavarura.
- Trajnim etik dhe teknik: punonjësit, sidomos ekipet teknike, duhet të trajnohen për rregullimin dhe parimet etike.
Gjobat dhe mbikëqyrja
Kompanitë që nuk i respektojnë rregullat mund të përballen me sanksione të rënda:
- Gjoba sipas qarkullimit: deri në 7 % të qarkullimit vjetor global për shkeljet më të rënda
- Pezullim: në shkelje të rënda, përdorimi i sistemit përkatës të AI-së mund të ndalet
- Tërheqje: modelet që nuk plotësojnë standardet etike ose teknike mund të tërhiqen nga tregu
Këto sanksione mund të sjellin humbje të mëdha financiare dhe reputacionale. Një algoritëm diagnostikues që jep rezultate të gabuara, për shembull, mund të lëkundë besimin e pacientëve dhe të kthehet në një krizë serioze reputacioni.
3. Dy shembuj nga praktika
Për të treguar si funksionojnë rregullimi dhe etika në praktikë, ja dy shembuj nga financat dhe shëndetësia. Ata përshkruajnë skenarë ilustrues, jo organizata reale.
Shembulli 1: AI në financa („XYZ Bank“ e trilluar)
XYZ Bank fillon të përdorë një algoritëm me AI për vendimet e kreditit. Që në zbatimin e parë del se modeli është i njëanshëm ndaj disa grupeve demografike.
Problemi: modeli refuzon aplikimet e sipërmarrëseve nën 35 vjeç 23 % më shpesh se ato të sipërmarrësve meshkuj. Kjo do të thotë rrezik ligjor dhe humbje e besimit të klientëve.
Zgjidhja:
- Analiza dhe pastrimi i të dhënave: të dhënat historike auditohen, paragjykimi identifikohet dhe mungesa e të dhënave për sipërmarrëset plotësohet.
- Zbutja e paragjykimit: në trajnim përdoren metrika të paanësisë.
- Monitorim i vazhdueshëm: një panel javor ndjek zhvendosjet në vendimet e algoritmit.
Rezultatet:
- Treguesi i paritetit demografik ngrihet nga 0,82 në 0,96.
- Diferenca gjinore në miratimin e kredive bie në 4 %.
- Performanca e modelit (AUC-ROC) mbetet në 87 %.
Shembulli 2: AI në shëndetësi („Spitali ABC“ i trilluar)
Spitali ABC përdor një model AI për diagnostikim. Del se të dhënat e pacientëve nuk mbrohen mjaftueshëm, në kundërshtim me GDPR (Rregulloren e Përgjithshme për Mbrojtjen e të Dhënave).
Problemi: të dhënat e pacientëve ruhen në një server qendror, një rrezik i hapur për rrjedhje të dhënash.
Zgjidhja: spitali kalon te mësimi i federuar (federated learning):
- Të dhënat përpunohen në pajisje lokale, ndaj ruajtja qendrore nuk nevojitet më.
- Modeli mëson nga të dhënat në pajisje të ndryshme, por asnjë e dhënë nuk del nga pajisja.
Rezultatet:
- Shkeljet e privatësisë parandalohen.
- Saktësia e modelit ngrihet nga 91 % në 93 %.
- Sistemi përputhet me GDPR-në.
Këta shembuj tregojnë si mund të funksionojë përputhshmëria me rregullimin dhe etikën në botën reale. Le të shohim si mund të përsëriten rezultate të tilla.
4. Një kornizë për zhvillimin etik të AI-së
Një sistem etik AI duhet të mbështetet në një kornizë të përcaktuar qartë që përfshin mbledhjen e të dhënave, zhvillimin e modelit, monitorimin dhe shpjegueshmërinë.
Pika kontrolli etike në zhvillimin e modelit
Standardet e mbledhjes dhe përpunimit të të dhënave: të dhënat duhet të jenë të paanshme, të përditësuara dhe përfaqësuese, dhe të dhënat personale duhet të mbrohen gjatë përpunimit. Veçori të ndjeshme si gjinia ose mosha mund të hiqen, për shembull, nga grupi i të dhënave.
Zbulimi dhe parandalimi i paragjykimit: kontrollet e paragjykimit duhet të bëhen gjatë trajnimit. Kodi më poshtë skicon si mund të duket një kontroll i tillë:
# Bias test framework
from fairness_check import calculate_bias_metrics
bias_metrics = calculate_bias_metrics(data, protected_features=["gender", "ethnicity"])
Praktika të mira për shpjegueshmërinë: modelet duhet të jenë lehtësisht të kuptueshme për përdoruesit dhe audituesit.
- Shpjegoni rëndësinë e veçorive me vlerat SHAP (SHapley Additive exPlanations)
- Përgatitni një kartë të detajuar modeli për çdo model:
model_card = {
"model_name": "Disease Predictor v1.0",
"description": "Hastalık teşhisi için kullanılan bir AI modeli",
"fairness_metrics": {"demographic_parity": 0.95},
"limitations": ["Sınırlı veri temsil durumu"]
}
Kërkesat për dokumentim
Çdo sistem AI ka nevojë për dokumentim të detajuar:
- Burimet e të dhënave dhe hapat e përpunimit
- Parametrat e përdorur në trajnim
- Metrikat e paanësisë dhe të performancës
- Mekanizmat ekzistues të monitorimit dhe auditimit
Monitorim dhe përditësim i vazhdueshëm
Sistemet e AI-së nuk janë statike; performanca dhe përputhshmëria etike duhet të kontrollohen rregullisht:
- Vendosni monitorim në kohë reale.
- Shtoni sinjalizime për rënie të metrikave të performancës dhe paanësisë.
5. Situata në Turqi
Turqia po përpiqet të përafrohet me standardet ndërkombëtare për rregullimin dhe etikën e AI-së. Korniza aktuale formësohet kryesisht nga KVKK (Ligji për Mbrojtjen e të Dhënave Personale), ndërsa Akti i BE-së për AI bëhet gjithnjë e më ndikues. Procesi i përafrimit sjell si mundësi, ashtu edhe sfida.
Korniza ligjore aktuale
Turqia nuk ka ende një ligj të posaçëm për AI-në, por KVKK ofron një kornizë të rëndësishme:
- KVKK, neni 4: parimet e saktësisë, përditësimit dhe ligjshmërisë në përpunimin e të dhënave personale
- KVKK, neni 6: kushte më të rrepta dhe pëlqim i shprehur për kategoritë e veçanta të të dhënave personale
Sistemet e AI-së në shëndetësi, për shembull, duhet të respektojnë nenin 6 kur përpunojnë të dhënat e pacientëve. Rregullatori bankar BDDK dhe rregullatori i telekomunikacionit BTK botojnë gjithashtu udhëzime për AI-në në sektorët e tyre.
Përafrimi me Aktin e BE-së për AI
Kompanitë turke që ofrojnë produkte ose shërbime në tregun e BE-së i nënshtrohen tashmë Aktit, dhe për shkak të bashkimit doganor me BE-në pritet që edhe legjislacioni turk të ecë në të njëjtin drejtim. Kjo kërkon:
- Mekanizma të rinj mbikëqyrjeje në sektorë si bankat, telekomunikacioni dhe shëndetësia
- Procese më të mira transparence dhe dokumentimi në kompani
Ndryshimet e pritshme:
- Protokolle më të rrepta për mbrojtjen e të dhënave
- Auditime të pavarura të detyrueshme për sistemet me rrezik të lartë
- Reforma strukturore si komitetet etike
Praktika sipas sektorëve
- Bankat: rregullat e BDDK për mbrojtjen e të dhënave dhe transparencën e algoritmeve dallohen në financa; disa banka kanë filluar t’u besojnë palëve të treta të pavarura auditimin e algoritmeve të kreditit.
- Shëndetësia: Ministria e Shëndetësisë ka botuar udhëzime për përpunimin e të dhënave të pacientëve me AI, dhe po zhvillohen procedura miratimi për algoritmet klinike diagnostikuese.
- Telekomunikacioni: udhëzimet e BTK kërkojnë mbrojtjen e të dhënave të klientëve dhe standarde anonimizimi.
Ekosistemi i AI-së në Turqi po rritet shpejt, por nevojitet më shumë punë për rregullimin dhe standardet etike. Le të shohim çfarë mund të bëjnë kompanitë.
6. Rekomandime për zbatimin
Përputhshmëria me rregullimin dhe etikën kërkon hapa strategjikë dhe operacionalë. Ja një udhëzues.
Lista e kontrollit të përputhshmërisë
| Pika e kontrollit | Përshkrimi | E kryer? |
|---|---|---|
| U bë inventari i të dhënave? | A janë identifikuar të gjitha burimet e të dhënave në përdorim? | ☐ |
| Ekziston dokumentimi i modelit? | A janë regjistruar detajet teknike të modeleve? | ☐ |
| U bë vlerësimi i rrezikut? | A është përcaktuar niveli i rrezikut për çdo sistem? | ☐ |
| U ngrit mekanizmi i auditimit? | A funksionojnë monitorimi i vazhdueshëm dhe auditimi? | ☐ |
Një listë e tillë e bën përputhshmërinë sistematike.
Metoda e vlerësimit të rrezikut
Kompanitë duhet t’i vlerësojnë sistemet e AI-së që përdorin sipas rrezikut. Shembull i një matrice rreziku:
| Niveli i rrezikut | Shembull përdorimi | Masat e nevojshme |
|---|---|---|
| Rrezik i lartë | Diagnostikim mjekësor | Mbikëqyrje njerëzore e detyrueshme |
| Rrezik i mesëm | Vlerësim krediti | Auditim i rregullt |
| Rrezik i ulët | Sisteme rekomandimi | Monitorim bazë |
Një algoritëm diagnostikues në spital, për shembull, duhet kontrolluar çdo javë nën mbikëqyrje njerëzore.
Auditimi i brendshëm dhe dokumentimi
Kompanitë duhet të dokumentojnë në detaj gjithë ciklin e jetës së sistemeve të tyre të AI-së. Një shabllon dokumentimi duhet të përfshijë të paktën:
- Burimet e të dhënave të përdorura
- Si funksionon dhe si vendos algoritmi
- Proceset e përputhshmërisë etike dhe të zbutjes së paragjykimit
Një dokumentim i tillë i lehtëson auditimet dhe ul rrezikun ligjor.
7. Praktika të mira dhe mjete
Shumë mjete ndihmojnë që sistemet e AI-së të jenë në përputhje me rregullat dhe etike. Ato japin udhëzim në fusha kritike si zbulimi i paragjykimit, shpjegueshmëria dhe monitorimi i vazhdueshëm.
Mjete për testimin e paragjykimit
- IBM AI Fairness 360: teknika për zbulimin dhe zbutjen e paragjykimit, veçanërisht efektive për modelet e vlerësimit të kreditit dhe të punësimit.
- Google What-If Tool: vizualizon efektin e vendimeve të modelit duke testuar skenarë, me një ndërfaqe të lehtë për përdoruesin.
- Microsoft Fairlearn: analizon metrikat e paanësisë dhe sugjeron përmirësime.
Shembull përdorimi:
from aif360.datasets import BinaryLabelDataset
from aif360.metrics import BinaryLabelDatasetMetric
dataset = BinaryLabelDataset(df, 'target', protected_attribute_names=['gender'])
metric = BinaryLabelDatasetMetric(dataset)
print(metric.disparate_impact())
Këto mjete janë vendimtare për gjetjen dhe heqjen e burimeve të paragjykimit në modele.
Mjete shpjegueshmërie
Shpjegueshmëria e vendimeve të modelit nevojitet si për besimin e përdoruesve, ashtu edhe për përputhshmërinë.
- SHAP: tregon mbi cilat veçori mbështetet vendimi i modelit; përdoret gjerësisht në financa dhe shëndetësi.
- LIME: jep shpjegime lokale për çdo model.
Shembull përdorimi i SHAP:
import shap
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(data)
shap.summary_plot(shap_values, data)
Sistemet e monitorimit
Monitorimi i vazhdueshëm është vendimtar që sistemet të ruajnë performancën dhe përputhshmërinë etike.
- MLflow: ndjek trajnimin, vlerësimin dhe vënien në përdorim dhe kap ndryshimet e performancës.
- Weights & Biases: monitorim dhe vizualizim në kohë reale, me sinjalizime për zhvendosjen e të dhënave (data drift).
- TensorBoard: ndjek metrikat e performancës gjatë trajnimit.
Shembull kontrolli për zhvendosjen e të dhënave:
from sklearn.metrics import roc_auc_score
# Eğitim ve gerçek zaman verileriyle performans karşılaştırma
auc_train = roc_auc_score(y_train, model.predict(X_train))
auc_live = roc_auc_score(y_live, model.predict(X_live))
if abs(auc_train - auc_live) > THRESHOLD:
print("Uyarı: Veri kayması tespit edildi!")
Shabllon dokumentimi
Çdo model ka nevojë për dokumentim të plotë. Shembull i një karte modeli:
model_name: Credit Risk Predictor
version: 1.0.0
data_sources:
- source: Customer data (internal)
- update_frequency: Monthly
performance_metrics:
- accuracy: 89%
- fairness_score: 95%
ethical_considerations:
- bias_mitigation: Applied
- privacy_measures: Anonymized data
limitations:
- Rural data coverage limited
- Requires manual oversight for high-risk cases
Një dokument i tillë është i vlefshëm si në auditimet rregullatore, ashtu edhe në shqyrtimet e brendshme.
Korniza me burim të hapur
- TensorFlow Responsible AI: forcon përputhshmërinë etike gjatë zhvillimit.
- PySyft: mundëson mësimin e federuar duke mbrojtur privatësinë e të dhënave.
- Hugging Face Datasets: qasje në grupe të dhënash të përgatitura duke pasur parasysh paanësinë dhe diversitetin.
8. Përfundim dhe rekomandime
Rregullimi i AI-së dhe parimet etike kanë një rol themelor që teknologjia të realizojë potencialin e saj për ta përmirësuar jetën. Rregulla si Akti i BE-së për AI janë një hap vendimtar drejt zhvillimit transparent dhe të përgjegjshëm të sistemeve. Për kompanitë, përputhshmëria nuk është vetëm detyrim ligjor, por edhe mundësi strategjike për të fituar besimin e klientëve dhe efikasitet.
Prirjet e ardhshme
- Standarde etike globale: Akti i BE-së për AI do të bëhet model për vende të tjera, dhe rregulla të ngjashme priten edhe në vende si Turqia.
- Përputhshmëri e automatizuar: do të përhapen automatizimi dhe mjetet e auditimit me ndihmën e AI-së.
- Etika si vlerë biznesi: kompanitë që përqafojnë parimet etike do të fitojnë epërsi konkurruese përmes besimit të konsumatorëve.
Hapa që mund t’i ndërmerrni menjëherë
- Siguroni përputhshmërinë ligjore: hartoni një plan në përputhje me Aktin e BE-së për AI dhe KVKK.
- Ngrini komitete etike: qartësoni përgjegjësitë nga drejtimi i lartë te ekipet teknike.
- Përdorni mjete dhe korniza: përfshini kontrollin e paragjykimit, shpjegueshmërinë dhe monitorimin në proceset tuaja.
- Organizoni trajnime: rrisni ndërgjegjësimin e punonjësve për rregullimin dhe parimet etike.
- Ngrini auditim të vazhdueshëm: kontrolloni rregullisht performancën dhe përputhshmërinë etike të sistemeve.
Këshilla përmbyllëse
- Filloni tani: në vend që të prisni një plan të përsosur, filloni me atë që keni dhe përmirësoni gjatë rrugës.
- Vlerësoni dokumentimin: dokumentet e mira ulin rrezikun ligjor dhe përmirësojnë sistemet.
- Përmirësoni vazhdimisht: sistemet e AI-së nuk janë statike, ndaj rishikojini dhe përditësojini rregullisht.
- Jini gjithëpërfshirës: sigurohuni që sistemet tuaja të jenë të paanshme dhe të arritshme për të gjithë.
Pasthënie dhe falënderim
Në fillim të një projekti shpesh shihni vetëm qëllimin; çdo vështirësi dhe çdo sukses gjatë rrugës sjellin këndvështrime të reja. Në këtë shkrim, mbi të cilin punova gjatë dhe me kujdes, shikova përtej anës teknike të AI-së dhe përtej pyetjeve „si“ dhe „çfarë“, drejt pyetjes „pse“. Kjo rrugë më kujtoi vazhdimisht sa e vlefshme është ana njerëzore e teknologjisë.
Nuk isha vetëm në këtë rrugë. Falënderoj të gjithë ata në industri, puna e të cilëve përmendet në burime, drejtuesit vizionarë dhe heronjtë pa emër prapa skenës. Risia e vërtetë mund të lindë vetëm nga përpjekja e përbashkët dhe pasioni i përbashkët. Për mua kjo punë nuk është fund, por një fillim i ri, dhe shpresoj të jetë e tillë edhe për ju.
Burimet
- BBC News (2023). Italy blocks ChatGPT over privacy concerns. bbc.com
- Brookings Institution (2023). Algorithmic bias detection and mitigation: best practices and policies to reduce consumer harms. brookings.edu
- TechCrunch (2024). EU AI Act: everything you need to know. techcrunch.com
- ForeSee Medical. Medical algorithms in healthcare. foreseemed.com
- DergiPark. Yapay zekâ ve hukuk. dergipark.org.tr
- TestGorilla. Resume screening software guide. testgorilla.com
- DergiPark. Yapay zekâ regülasyonları. dergipark.org.tr
- Liberties. Pros and cons of facial recognition. liberties.eu
- ResearchGate. Subliminal uyarıcıların nöropsikolojisi. researchgate.net
- EU Artificial Intelligence Act, Article 13. artificialintelligenceact.eu
- B3Lab. Artificial intelligence audit. b3lab.org
- Türkiye Yapay Zekâ İnisiyatifi (2024). Yapay Zekâ Etik İlkeleri ve Hukuki Düzenlemeler Raporu. turkiye.ai
- BDDK, Bankacılık Düzenleme ve Denetleme Kurumu. bddk.org.tr
- T.C. Sağlık Bakanlığı. saglik.gov.tr
- BTK, Bilgi Teknolojileri ve İletişim Kurumu. btk.gov.tr
- IBM. AI Fairness 360. aif360.res.ibm.com
- Google Research. The What-If Tool: interactive probing of machine learning models. research.google
- Microsoft Research. Fairlearn: a toolkit for assessing and improving fairness in AI. microsoft.com
- C3 AI. LIME: Local Interpretable Model-Agnostic Explanations. c3.ai
- TensorFlow. Responsible AI. tensorflow.org
- OpenMined. PySyft. openmined.org
- Hugging Face. Datasets documentation. huggingface.co
- SHAP documentation. shap.readthedocs.io
- MLflow documentation. mlflow.org
- Weights & Biases documentation. docs.wandb.ai
- TensorBoard. tensorflow.org
- ELI5 documentation. eli5.readthedocs.io
- InterpretML documentation. interpret.ml
- AI Fairness 360 documentation. aif360.readthedocs.io

