--- title: "Pratikte Yapay Zeka Yönetişimi: Tıbbi ML için ISO/IEC 42001 Uygulamak" description: "ISO/IEC 42001 ve AB Yapay Zeka Yasası ilkelerinin tıbbi makine öğrenmesi sistemlerinde pratik kontrollere nasıl dönüştürülebileceği." date: "2026-07-04" tags: [Yapay Zeka Yönetişimi, ISO 42001, AB Yapay Zeka Yasası, Tıbbi Yapay Zeka, Sorumlu Yapay Zeka] keywords: [yapay zeka yönetişimi, ISO IEC 42001, AB Yapay Zeka Yasası, tıbbi makine öğrenmesi, sorumlu yapay zeka, model risk yönetimi] image: "/My.jpeg" imageAlt: "Murat Tut portfolyo görseli" aiSummary: "Bu yazı, yapay zeka yönetişimi ilkelerinin tıbbi makine öğrenmesi sistemlerinde nasıl somut yazılım pratiklerine dönüştüğünü açıklar: rol sahipliği, veri kalitesi kontrolleri, önyargı riski, açıklanabilirlik, dokümantasyon ve operasyonel izleme." --- *ISO/IEC 42001 standardı ve AB Yapay Zeka Yasası kısıtlarının tıbbi makine öğrenmesi odaklı bir eğitim platformuna nasıl entegre edilebileceğine dair pratik bir bakış.* Makine öğrenmesi sistemleri klinik karar destek süreçlerine yaklaştıkça daha sıkı düzenleyici gereksinimlerle karşılaşır: 1. **AB Yapay Zeka Yasası (Regulation 2024/1689)**: Tıbbi karar destek yazılımlarını yüksek riskli sistemler olarak sınıflandırır; veri kalitesi, önyargı denetimi ve açıklanabilirlik için kayıt tutulmasını zorunlu kılar. 2. **ISO/IEC 42001:2023**: Bir **Yapay Zeka Yönetim Sistemi (AIMS)** kurmak için gerekli kontrol alanlarını tanımlar. Bir sağlık yapay zekası eğitim platformu üzerinde çalışırken temel amaç, bu düzenleyici beklentileri yalnızca dokümanda bırakmak değil, doğrudan ürün tasarımına ve yazılım akışına çevirmekti. Bu yazı, politika seviyesindeki kısıtların yazılım özelliklerine nasıl dönüştürülebileceğini gösterir. --- ## 1. Yönetişim Rolleri (ISO 42001 Madde 5.3) ISO 42001, organizasyon içinde hesap verebilirlik çizgilerinin tanımlanmasını ister. Bunu pratik hale getirmek için Scrum rolleriyle uyumlu bir sorumluluk haritası kurulabilir: ``` ┌───────────────────────────────────────────────┐ │ Scrum / Uyum Rol Haritalaması │ ├───────────────────────┬───────────────────────┤ │ Scrum Rolü │ ISO 42001 Rolü │ ├───────────────────────┼───────────────────────┤ │ Product Owner │ AI System Owner │ │ Tech Lead │ Technical Lead │ │ Developer │ Data Steward │ │ QA Lead │ Ethics Reviewer │ └───────────────────────┴───────────────────────┘ ``` Bu rolleri netleştirmek, veri ön işleme ayarları veya eğitim/test bölünmeleri gibi her analitik kararın teknik ve etik açıdan bir sahibinin olmasını sağlar. --- ## 2. Doğruluk Paradoksunu Yönetmek (Annex A.6) ISO 42001'in önemli alanlarından biri **Veri Kalitesi (Annex A.6.2)** kontrolüdür. Klinik veri kümeleri çoğu zaman dengesizdir; örneğin hastaların yalnızca küçük bir bölümü aktif tanıya sahip olabilir. Böyle bir veri kümesinde model, her örneğe "negatif" diyerek yüksek doğruluk elde edebilir ama gerçek hasta vakalarını kaçırabilir. Buna **doğruluk paradoksu** denir. Bu sınıf dengesizliğini daha güvenli yönetmek için SMOTE, azınlık sınıfı sayısına göre uyarlanmalıdır: ```python from imblearn.over_sampling import SMOTE def apply_adaptive_smote(X_train, y_train): minority_count = sum(y_train == 1) if minority_count <= 1: return X_train, y_train # Azınlık örnek sayısına göre k-neighbors değerini ölçekle k = min(5, max(1, minority_count - 1)) smote = SMOTE(k_neighbors=k, random_state=42) return smote.fit_resample(X_train, y_train) ``` SMOTE yalnızca eğitim bölünmesine uygulanmalıdır. Test seti temiz kalırsa son metrikler gerçek klinik koşulları daha doğru temsil eder. --- ## 3. Alt Grup Önyargısı ve Performans Kalite Kapıları AB Yapay Zeka Yasası'nın 10. maddesi, yüksek riskli sistemlerde demografik gruplar arasında önyargı denetimini zorunlu hale getirir. Bir tıbbi ML sisteminde bu, model tahminlerini yaş veya cinsiyet gibi demografik özelliklere göre ayırıp her grup için duyarlılık değerini hesaplamak anlamına gelir: ```python from sklearn.metrics import recall_score def audit_demographic_bias(y_true, y_pred, demographic_col): group_scores = {} for group in demographic_col.unique(): mask = (demographic_col == group) # Duyarlılık: TP / (TP + FN) group_scores[group] = recall_score(y_true[mask], y_pred[mask]) # Alt gruplar arasında 10 yüzde puanı üzeri fark varsa uyarı üret sens_gap = max(group_scores.values()) - min(group_scores.values()) if sens_gap > 0.10: trigger_ui_warning(sens_gap) return group_scores ``` Alt gruplar arasındaki duyarlılık farkı **10 yüzde puanını** aşarsa sistem, klinik yapılandırma ekranında görünür bir uyarı üretmeli ve sorun çözülmeden dağıtımı engellemelidir. --- ## 4. Tıbbi Metrikleri Anlaşılır Hale Getirmek Teknik olmayan klinisyenlerin modelleri güvenli değerlendirebilmesi için veri bilimi metrikleri klinik kavramlarla eşleştirilmelidir: - **Duyarlılık (Recall)**: *Doğru yakalanan hasta vakaları.* $$\text{Sensitivity} = \frac{\text{TP}}{\text{TP} + \text{FN}}$$ - **Özgüllük (Specificity)**: *Doğru temizlenen sağlıklı vakalar.* $$\text{Specificity} = \frac{\text{TN}}{\text{TN} + \text{FP}}$$ - **Pozitif Öngörü Değeri (PPV/Precision)**: *Pozitif sonucun gerçekten hastalık gösterme olasılığı.* $$\text{PPV} = \frac{\text{TP}}{\text{TP} + \text{FP}}$$ - **Negatif Öngörü Değeri (NPV)**: *Negatif sonucun gerçekten hastalık olmadığını gösterme olasılığı.* $$\text{NPV} = \frac{\text{TN}}{\text{TN} + \text{FN}}$$ Bu formüller hasta sayılarıyla birlikte gösterildiğinde, örneğin "Bu model 100 aktif vakadan 12'sini kaçırdı" gibi, yapay zeka sisteminin sınırlamaları klinik kullanıcılar için daha görünür hale gelir. --- ## 5. Privacy by Design: Geçici Bellek Tıbbi hasta kayıtları KVKK ve GDPR gibi düzenlemeler nedeniyle sıkı veri saklama kurallarına tabidir. Veri sızıntısı riskini azaltmak için tıbbi yapay zeka uygulamalarında **kalıcı olmayan bellek mimarisi** tercih edilebilir: - **Veritabanına kayıt yok**: Yüklenen dosyalar FastAPI oturumları içinde bellekte işlenir. - **Otomatik süre dolumu**: Oturumlar 1 saatlik hareketsizlikten veya 4 saatlik üst zaman sınırından sonra silinir. --- ## Mühendislik Çıkarımları 1. **Duyarlılığa odaklanın**: Sağlık yapay zekasında ham doğruluk yanıltıcıdır. Kaçırılan tanıları azaltmak için recall öncelikli düşünülmelidir. 2. **Demografik alt grupları denetleyin**: Ortalama performansı iyi görünen bir model, belirli alt gruplarda ciddi önyargı gösterebilir. 3. **Veri saklamayı azaltın**: Kişisel verileri işleyen sistemlerde geçici ve kendini temizleyen bellek yapıları uyum yükünü azaltır.