Yapay Zekâ Regülasyonları ve Etik

Yazan Yasin TANIŞ

İlk olarak Medium'da yayımlandı

Robot elinin üzerinde duran bir adalet terazisi; arka planda devre çizgileri ve bir mahkeme binası

1. Yapay zekâ regülasyonları neden önemli

Yapay zekâ teknolojileri, 21. yüzyılın en büyük yeniliklerinden biri olarak hem bireysel yaşamı hem de iş dünyasını dönüştürüyor. Bu dönüşüm sırasında ortaya çıkan etik ve yasal sorunlar ise teknolojinin geleceğini belirleyen kritik bir etken. Şirketler, devletler ve bireyler, yapay zekânın sağladığı faydaların yanında taşıdığı riskleri de ele almak zorunda.

Birkaç örnek:

Bu yazıda yapay zekâ regülasyonlarının bugünkü durumunu, etik yapay zekâ geliştirmenin yollarını ve şirketlerin bu yeni düzene nasıl uyum sağlayabileceğini ele alıyoruz.

2. AB Yapay Zekâ Yasası: yakından bakış

Avrupa Birliği'nin Yapay Zekâ Yasası, dünyadaki ilk kapsamlı yapay zekâ regülasyonu olarak dikkat çekiyor. 2024'te kabul edilen yasa, hem Avrupa'da hem de AB pazarına ürün sunan dünyanın her yerindeki şirketler için oyunu değiştiriyor. Yasa risk temelli bir yaklaşımla yapay zekâ sistemlerini dört katmana ayırıyor: yasaklanan, yüksek riskli, sınırlı riskli ve asgari riskli uygulamalar.

Yüksek riskli sistemler

Bu sistemler insan hayatını doğrudan etkileyen kritik alanlarda kullanılır ve sıkı denetim ile şeffaflık gerekliliklerine uymak zorundadır. Örnekler:

  • Sağlık: hastalık teşhisi yapan algoritmalar
  • Finans: kredi skorlama sistemleri
  • İşe alım: CV tarama ve aday değerlendirme araçları

Denetim mekanizmaları arasında veri kayıtları, modelin açıklanabilirliği ve sürekli izleme yer alıyor. Örneğin bir bankanın kredi skorlama algoritması, müşteriye neden kredi verilmediğini açıkça belgeleyebilmelidir.

Yasaklanan uygulamalar

Yasa, toplumun temel değerlerine aykırı yapay zekâ uygulamalarını kesin olarak yasaklıyor. Bunlar arasında:

Sınırlı ve asgari risk

Sohbet botları gibi sınırlı riskli sistemlerde başlıca yükümlülük şeffaflıktır: kullanıcı bir yapay zekâyla konuştuğunu bilmelidir. Oyun içi yapay zekâ ya da spam filtreleri gibi asgari riskli sistemler ise büyük ölçüde serbest bırakılıyor; etik ilkeler burada da önemli ama düzenleme çok daha hafif.

Şirketler için uyum gereksinimleri

Yasa, yüksek riskli sistemler için şirketlere şu adımları zorunlu kılıyor:

  1. Dokümantasyon ve şeffaflık: her model için kullanılan veriyi, algoritmanın işleyişini ve olası riskleri ayrıntılı anlatan belgeler hazırlanmalı.
  2. Bağımsız denetim: yüksek riskli sistemler düzenli olarak bağımsız kurumlarca denetlenmeli.
  3. Etik ve teknik eğitim: çalışanlar, özellikle teknik ekipler, regülasyonlar ve etik ilkeler konusunda eğitilmeli.

Yaptırımlar ve denetim

Kurallara uymayan şirketler ciddi yaptırımlarla karşılaşabilir:

  • Ciroya dayalı cezalar: en ağır ihlallerde şirketin küresel yıllık cirosunun %7'sine kadar
  • Faaliyetin durdurulması: ağır ihlalde ilgili yapay zekâ sisteminin kullanımı durdurulabilir
  • Piyasadan çekme: etik ya da teknik standartları karşılamayan modeller piyasadan çekilebilir

Bu yaptırımlar hem mali hem de itibar açısından büyük kayıplara yol açabilir. Örneğin yanlış sonuç üreten bir teşhis algoritması hasta güvenini sarsarak ciddi bir itibar krizine dönüşebilir.

3. Uygulamadan iki örnek

Regülasyonların ve etik ilkelerin pratikte nasıl karşılık bulduğunu göstermek için finans ve sağlıktan iki örnek ele alalım. Bu vakalar gerçek kurumları değil, ilkelerin nasıl uygulanabileceğini gösteren kurgusal örnekleri anlatıyor.

Örnek 1: finansta yapay zekâ (kurgusal "XYZ Bank")

XYZ Bank kredi değerlendirmede yapay zekâ tabanlı bir algoritma kullanmaya başlıyor. Ancak ilk uygulamada model bazı demografik gruplara karşı önyargılı davranıyor.

Sorun: Model, 35 yaş altındaki kadın girişimcilerin başvurularını erkek girişimcilere göre %23 daha sık reddediyor. Bu hem yasal risk hem de müşteri güveni kaybı demek.

Çözüm adımları:

  1. Veri analizi ve temizlik: geçmiş veriler denetleniyor, önyargı tespit ediliyor ve kadın girişimcilere dair veri eksikliği gideriliyor.
  2. Önyargı azaltma: model eğitiminde adalet (fairness) metrikleri kullanılıyor.
  3. Sürekli izleme: algoritmanın kararlarındaki sapmaları izlemek için haftalık bir gösterge paneli kuruluyor.

Sonuçlar:

  • Demografik eşitlik skoru 0,82'den 0,96'ya çıkıyor.
  • Cinsiyete göre kredi onay farkı %4'e iniyor.
  • Model performansı (AUC-ROC) %87 düzeyinde korunuyor.

Örnek 2: sağlıkta yapay zekâ (kurgusal "ABC Hastanesi")

ABC Hastanesi hastalık teşhisi için bir yapay zekâ modeli kullanıyor. Ancak hasta verilerinin yeterince korunmadığı ve GDPR'a (Genel Veri Koruma Tüzüğü) aykırı bir durum oluştuğu ortaya çıkıyor.

Sorun: Hasta verileri merkezi bir sunucuda tutuluyor ve bu, veri ihlallerine açık bir risk oluşturuyor.

Çözüm: Hastane federe öğrenmeye (federated learning) geçiyor:

  • Veriler yerel cihazlarda işleniyor; merkezi veri saklama ihtiyacı ortadan kalkıyor.
  • Model farklı cihazlardaki verilerden öğreniyor, ama hiçbir veri cihazdan dışarı çıkmıyor.

Sonuçlar:

  • Veri gizliliği ihlallerinin önü kesiliyor.
  • Modelin doğruluğu %91'den %93'e çıkıyor.
  • GDPR'a uyumlu bir sistem kuruluyor.

Bu örnekler, regülasyonlara ve etik ilkelere uyumun gerçek dünyada nasıl uygulanabileceğini gösteriyor. Şimdi bu tür sonuçların nasıl tekrarlanabileceğine bakalım.

4. Etik yapay zekâ geliştirme çerçevesi

Etik bir yapay zekâ sistemi, iyi tanımlanmış bir çerçeveye dayanmalıdır. Bu çerçeve veri toplama, model geliştirme, izleme ve açıklanabilirlik gibi aşamalardan oluşur.

Model geliştirmede etik kontrol noktaları

Veri toplama ve işleme standartları: Veri tarafsız, güncel ve temsil edici olmalı; işleme sırasında kişisel veriler korunmalı. Örneğin cinsiyet ya da yaş gibi hassas özellikler veri setinden çıkarılabilir.

Önyargıyı tespit etme ve önleme: Model eğitimi sırasında önyargı kontrol araçları kullanılmalı. Aşağıdaki kod, bu tür bir kontrolün nasıl görünebileceğine dair bir taslak:

# Bias test framework
from fairness_check import calculate_bias_metrics
bias_metrics = calculate_bias_metrics(data, protected_features=["gender", "ethnicity"])

Açıklanabilirlik için iyi uygulamalar: Modeller kullanıcılar ve denetçiler tarafından kolayca anlaşılabilmeli.

  • Özelliklerin önemini SHAP (SHapley Additive exPlanations) değerleriyle açıklamak
  • Her model için ayrıntılı bir model kartı hazırlamak:
model_card = {
    "model_name": "Disease Predictor v1.0",
    "description": "Hastalık teşhisi için kullanılan bir AI modeli",
    "fairness_metrics": {"demographic_parity": 0.95},
    "limitations": ["Sınırlı veri temsil durumu"]
}

Dokümantasyon gereksinimleri

Her yapay zekâ sistemi için ayrıntılı dokümantasyon hazırlanmalı:

  • Kullanılan veri kaynakları ve işleme adımları
  • Eğitimde kullanılan parametreler
  • Adalet ve performans metrikleri
  • Uygulanan izleme ve denetim mekanizmaları

Sürekli izleme ve güncelleme

Yapay zekâ sistemleri durağan değildir; performans ve etik uyum düzenli olarak kontrol edilmeli:

  • Gerçek zamanlı izleme sistemleri kurulmalı.
  • Performans ve adalet metriklerindeki düşüşler için alarm mekanizmaları eklenmeli.

5. Türkiye'deki durum

Türkiye, yapay zekâ regülasyonları ve etik uygulamalarda uluslararası standartlara uyum sağlamaya çalışıyor. Mevcut çerçeve büyük ölçüde KVKK (Kişisel Verilerin Korunması Kanunu) ile şekilleniyor; AB Yapay Zekâ Yasası da giderek daha belirleyici hâle geliyor. Bu uyum süreci hem fırsatlar hem de zorluklar barındırıyor.

Mevcut yasal çerçeve

Türkiye'de yapay zekâya özgü bir yasa henüz yok, ama KVKK önemli bir çerçeve sunuyor:

  1. KVKK madde 4: kişisel verilerin işlenmesinde doğruluk, güncellik ve hukuka uygunluk ilkeleri
  2. KVKK madde 6: özel nitelikli kişisel verilerin işlenmesinde daha sıkı koşullar ve açık rıza

Örneğin sağlıkta kullanılan yapay zekâ sistemleri, hasta verilerini işlerken KVKK'nın 6. maddesine uymak zorunda. Ayrıca BDDK (Bankacılık Düzenleme ve Denetleme Kurumu) ve BTK (Bilgi Teknolojileri ve İletişim Kurumu), kendi sektörlerinde yapay zekâ uygulamalarına ilişkin yönlendirmeler yayımlıyor.

AB Yapay Zekâ Yasası ile uyum

AB pazarına ürün ya da hizmet sunan Türk şirketleri bu yasaya zaten tabi; AB ile Gümrük Birliği ilişkisi nedeniyle Türkiye'nin kendi mevzuatını da bu yöne yaklaştırması bekleniyor. Bu durum:

  • Bankacılık, telekomünikasyon ve sağlık gibi sektörlerde yeni denetim mekanizmalarının kurulmasını
  • Şirketlerin şeffaflık ve dokümantasyon süreçlerini geliştirmesini gerektiriyor.

Beklenen değişiklikler:

  • Daha sıkı veri koruma protokolleri
  • Yüksek riskli sistemler için bağımsız denetim zorunluluğu
  • Etik kurulların oluşturulması gibi yapısal reformlar

Sektörel uygulamalar

  • Bankacılık: BDDK'nın veri koruma ve algoritma şeffaflığına dair düzenlemeleri finans sektöründe öne çıkıyor; bazı bankalar kredi algoritmalarını bağımsız üçüncü taraflara denetletmeye başladı.
  • Sağlık: Sağlık Bakanlığı, hasta verilerinin yapay zekâ ile işlenmesine yönelik kılavuzlar yayımladı; klinik teşhis algoritmaları için onay süreçleri geliştiriliyor.
  • Telekomünikasyon: BTK'nın yönlendirmeleri müşteri verilerinin korunmasını ve anonimleştirme standartlarının uygulanmasını şart koşuyor.

Türkiye'nin yapay zekâ ekosistemi hızla büyüyor, ama regülasyon ve etik standartlar konusunda daha fazla çalışmaya ihtiyaç var. Şimdi şirketlerin uyum sürecinde neler yapabileceğine bakalım.

6. Uygulama önerileri

Regülasyonlara ve etik ilkelere uyum için şirketlerin hem stratejik hem de operasyonel adımlar atması gerekiyor. İşte bu süreç için bir rehber.

Uyum kontrol listesi

Kontrol noktasıAçıklamaTamamlandı mı?
Veri envanteri çıkarıldı mı?Kullanılan tüm veri kaynakları belirlendi mi?☐
Model dokümantasyonu var mı?Modellerin teknik ayrıntıları kayıt altında mı?☐
Risk değerlendirmesi yapıldı mı?Sistemlerin risk sınıfı belirlendi mi?☐
Denetim mekanizması kuruldu mu?Sürekli izleme ve denetim süreçleri işliyor mu?☐

Bu liste uyum sürecini sistemli hâle getirir.

Risk değerlendirme yöntemi

Şirketler kullandıkları yapay zekâ sistemlerini risk temelinde değerlendirmeli. Örnek bir risk matrisi:

Risk sınıfıÖrnek kullanımGerekli önlemler
Yüksek riskSağlık teşhisiİnsan denetimi zorunlu
Orta riskKredi skorlamaDüzenli denetim
Düşük riskÖneri sistemleriTemel izleme

Örneğin bir hastanede kullanılan teşhis algoritması her hafta insan gözetimiyle kontrol edilmelidir.

İç denetim ve dokümantasyon

Şirketler yapay zekâ sistemlerinin tüm yaşam döngüsünü ayrıntılı biçimde belgelemeli. Bir dokümantasyon şablonu en azından şunları içermeli:

  • Kullanılan veri kaynakları
  • Algoritmanın işleyişi ve karar mekanizması
  • Etik uyum ve önyargı azaltma süreçleri

Bu tür ayrıntılı belgeler denetimi kolaylaştırır ve yasal riskleri azaltır.

7. İyi uygulamalar ve araçlar

Yapay zekâ sistemlerini hem regülasyonlara hem de etik ilkelere uygun hâle getirmek için kullanılabilecek pek çok araç var. Bu araçlar önyargı tespiti, açıklanabilirlik ve sürekli izleme gibi kritik alanlarda yol gösterir.

Önyargı test araçları

  • IBM AI Fairness 360: önyargı tespiti ve azaltma teknikleri sunar; özellikle kredi skorlama ve işe alım modellerinde etkilidir.
  • Google What-If Tool: farklı senaryoları deneyerek model kararlarının etkilerini görselleştirir; kullanıcı dostu bir arayüzü vardır.
  • Microsoft Fairlearn: adalet metriklerini analiz eder ve iyileştirme önerir.

Örnek kullanım:

from aif360.datasets import BinaryLabelDataset
from aif360.metrics import BinaryLabelDatasetMetric
dataset = BinaryLabelDataset(df, 'target', protected_attribute_names=['gender'])
metric = BinaryLabelDatasetMetric(dataset)
print(metric.disparate_impact())

Bu araçlar, modellerdeki önyargı kaynaklarını bulup gidermek için kritik önemdedir.

Açıklanabilirlik araçları

Model kararlarını açıklanabilir kılmak hem kullanıcı güveni hem de regülasyona uyum için gereklidir.

  • SHAP: modelin hangi özelliklere dayanarak karar verdiğini gösterir; finans ve sağlıkta yaygın kullanılır.
  • LIME: herhangi bir model için yerel açıklamalar üretir.

Örnek SHAP kullanımı:

import shap
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(data)
shap.summary_plot(shap_values, data)

İzleme sistemleri

Sürekli izleme, sistemlerin performansını ve etik uyumunu korumak için kritik bir süreçtir.

  • MLflow: model eğitimi, değerlendirme ve dağıtım süreçlerini izler, performanstaki değişiklikleri yakalar.
  • Weights & Biases: gerçek zamanlı izleme ve görselleştirme sunar, veri kaymasını (data drift) bildirir.
  • TensorBoard: eğitim sırasında performans metriklerini takip eder.

Örnek veri kayması tespiti:

from sklearn.metrics import roc_auc_score
# Eğitim ve gerçek zaman verileriyle performans karşılaştırma
auc_train = roc_auc_score(y_train, model.predict(X_train))
auc_live = roc_auc_score(y_live, model.predict(X_live))
if abs(auc_train - auc_live) > THRESHOLD:
    print("Uyarı: Veri kayması tespit edildi!")

Dokümantasyon şablonu

Her model için kapsamlı bir dokümantasyon hazırlanmalı. Örnek bir model kartı:

model_name: Credit Risk Predictor
version: 1.0.0
data_sources:
  - source: Customer data (internal)
  - update_frequency: Monthly
performance_metrics:
  - accuracy: 89%
  - fairness_score: 95%
ethical_considerations:
  - bias_mitigation: Applied
  - privacy_measures: Anonymized data
limitations:
  - Rural data coverage limited
  - Requires manual oversight for high-risk cases

Böyle bir belge hem regülasyon denetimlerinde hem de iç denetimde değerli bir araçtır.

Açık kaynak çerçeveler

  • TensorFlow Responsible AI: model geliştirme sırasında etik uyumu güçlendirir.
  • PySyft: veri gizliliğini koruyarak federe öğrenme uygulamalarını mümkün kılar.
  • Hugging Face Datasets: adalet ve çeşitlilik gözetilerek hazırlanmış veri setlerine erişim sağlar.

8. Sonuç ve öneriler

Yapay zekâ regülasyonları ve etik ilkeler, teknolojinin insan hayatını olumlu yönde dönüştürme potansiyelini gerçekleştirmesi için temel bir rol oynuyor. AB Yapay Zekâ Yasası gibi düzenlemeler, sistemlerin şeffaf ve sorumlu biçimde geliştirilmesi için kritik bir adım. Şirketler için uyum yalnızca yasal bir zorunluluk değil; müşteri güvenini ve iş verimliliğini artırmak için stratejik bir fırsat.

Gelecekteki eğilimler

  1. Etik standartların küreselleşmesi: AB Yapay Zekâ Yasası başka ülkeler için model olacak; Türkiye gibi ülkelerde de benzer düzenlemeler bekleniyor.
  2. Otomatik uyum sistemleri: uyumu sağlamak için otomasyon ve yapay zekâ destekli denetim araçları yaygınlaşacak.
  3. Etiğin iş değerine katkısı: etik ilkeleri benimseyen şirketler tüketici güvenini artırarak rekabet avantajı kazanacak.

Hemen atılabilecek adımlar

  1. Yasalara uyumu sağlayın: AB Yapay Zekâ Yasası ve KVKK'ya uygun bir uyum planı geliştirin.
  2. Etik kurullar oluşturun: üst yönetimden teknik ekiplere kadar sorumlulukları netleştirin.
  3. Araç ve çerçeveleri kullanın: önyargı kontrolü, açıklanabilirlik ve izleme araçlarını süreçlerinize katın.
  4. Eğitim programları düzenleyin: çalışanların regülasyonlar ve etik ilkeler konusundaki farkındalığını artırın.
  5. Sürekli denetim kurun: sistemlerin performansını ve etik uyumunu düzenli olarak kontrol edin.

Son tavsiyeler

  • Başlayın: kusursuz bir plan beklemek yerine mevcut süreçlerinizle başlayıp ilerledikçe iyileştirin.
  • Dokümantasyonu önemseyin: iyi belgeler hem yasal riskleri azaltır hem de sistemlerinizi iyileştirir.
  • Sürekli gelişin: yapay zekâ sistemleri durağan değildir; düzenli olarak gözden geçirin ve güncelleyin.
  • Kapsayıcı olun: sistemlerinizin herkes için adil ve erişilebilir olduğundan emin olun.

Sonsöz ve teşekkür

Bir projenin başında çoğu zaman yalnızca hedefi görürsünüz; yol boyunca karşılaşılan her zorluk ve her başarı ise yeni bakış açıları kazandırır. Uzun süredir üzerinde titizlikle çalıştığım bu yazıda, yapay zekânın yalnızca teknik yönüne değil, "nasıl" ve "ne" sorularının ötesinde "niçin" sorusuna odaklandım. Bu yolculuk, teknolojinin insani yönünün ne kadar değerli olduğunu bana tekrar tekrar hatırlattı.

Bu yolda yalnız değildim. Kaynaklarda emeği geçen tüm sektör çalışanlarına, vizyoner liderlere ve sahne arkasındaki adı bilinmeyen kahramanlara teşekkür ederim. Gerçek yenilik ancak ortak bir çabanın ve paylaşılan bir tutkunun ürünü olabilir. Bu çalışma benim için bir son değil, yeni bir başlangıç; umarım sizin için de öyle olur.

Kaynaklar

  1. BBC News (2023). Italy blocks ChatGPT over privacy concerns. bbc.com
  2. Brookings Institution (2023). Algorithmic bias detection and mitigation: best practices and policies to reduce consumer harms. brookings.edu
  3. TechCrunch (2024). EU AI Act: everything you need to know. techcrunch.com
  4. ForeSee Medical. Medical algorithms in healthcare. foreseemed.com
  5. DergiPark. Yapay zekâ ve hukuk. dergipark.org.tr
  6. TestGorilla. Resume screening software guide. testgorilla.com
  7. DergiPark. Yapay zekâ regülasyonları. dergipark.org.tr
  8. Liberties. Pros and cons of facial recognition. liberties.eu
  9. ResearchGate. Subliminal uyarıcıların nöropsikolojisi. researchgate.net
  10. EU Artificial Intelligence Act, Article 13. artificialintelligenceact.eu
  11. B3Lab. Artificial intelligence audit. b3lab.org
  12. Türkiye Yapay Zekâ İnisiyatifi (2024). Yapay Zekâ Etik İlkeleri ve Hukuki Düzenlemeler Raporu. turkiye.ai
  13. BDDK, Bankacılık Düzenleme ve Denetleme Kurumu. bddk.org.tr
  14. T.C. Sağlık Bakanlığı. saglik.gov.tr
  15. BTK, Bilgi Teknolojileri ve İletişim Kurumu. btk.gov.tr
  16. IBM. AI Fairness 360. aif360.res.ibm.com
  17. Google Research. The What-If Tool: interactive probing of machine learning models. research.google
  18. Microsoft Research. Fairlearn: a toolkit for assessing and improving fairness in AI. microsoft.com
  19. C3 AI. LIME: Local Interpretable Model-Agnostic Explanations. c3.ai
  20. TensorFlow. Responsible AI. tensorflow.org
  21. OpenMined. PySyft. openmined.org
  22. Hugging Face. Datasets documentation. huggingface.co
  23. SHAP documentation. shap.readthedocs.io
  24. MLflow documentation. mlflow.org
  25. Weights & Biases documentation. docs.wandb.ai
  26. TensorBoard. tensorflow.org
  27. ELI5 documentation. eli5.readthedocs.io
  28. InterpretML documentation. interpret.ml
  29. AI Fairness 360 documentation. aif360.readthedocs.io