Başlangıç noktası araç listesi değildir
Kuruluşlarda üretken yapay zekâ kullanımı çoğu zaman bireysel denemelerle başlar. Ancak kurumsal değer yaratan her kullanım; veri, karar, tedarikçi, insan gözetimi ve itibar riskleriyle birlikte değerlendirilmelidir. İlk envanterin amacı araçları yasaklamak değil, hangi kullanımın hangi güvenlik ve yönetişim kuralına ihtiyaç duyduğunu görünür kılmaktır.
ISO/IEC 42001, yapay zekâ yönetim sistemi için yayımlanmış uluslararası standarttır. Kuruluşun bağlamına göre amaç, risk yönetimi, sorumluluk ve sürekli iyileştirme düzeni kurmayı destekler.
Envantere eklenecek asgari alanlar
- Kullanım örneği ve beklenen iş sonucu
- Sistem veya araç adı; iç geliştirme, açık kaynak ya da üçüncü taraf durumu
- Veri sınıfı: herkese açık, kurum içi, kişisel veri, ticari sır veya özel nitelikli veri
- Model çıktısının kullanım biçimi: öneri, taslak, karar desteği veya otomatik işlem
- İnsan gözetimi ve nihai onay sorumlusu
- Etkilenen müşteri, çalışan, tedarikçi veya diğer ilgili taraflar
- Sağlayıcı, veri işleme konumu, sözleşme ve alt işleyen bilgisi
- Bilinen riskler, mevcut kontroller, açık aksiyonlar ve gözden geçirme tarihi
Önceliklendirme soruları
- Sistem kişisel veri, ticari sır veya müşteri bilgisi alıyor mu?
- Çıktı bir kişi hakkında önemli kararın parçası oluyor mu?
- Hatalı veya önyargılı çıktı güvenlik, hukuk, finans veya itibar etkisi yaratır mı?
- İnsan sonucu kontrol etmeden çıktı doğrudan yayımlanıyor veya uygulanıyor mu?
- Sağlayıcı değişikliği, model güncellemesi veya yeni entegrasyon kontrol ihtiyacını artırıyor mu?
İlk 30 gün için uygulanabilir plan
- Kullanılan araçları ve kritik kullanım örneklerini toplayın.
- Veri sınıflandırmasına göre kabul edilebilir kullanım kuralları yayınlayın.
- Yüksek riskli kullanımlar için insan onayı ve çıktı doğrulaması tanımlayın.
- Tedarikçi sözleşmesi, erişim, loglama ve saklama koşullarını gözden geçirin.
- Çalışanlara güvenli prompt, veri paylaşımı ve halüsinasyon farkındalığı eğitimi verin.
- Envanteri değişiklik yönetimi ve olay bildirim süreçlerine bağlayın.
Bir yapay zekâ envanteri, risk değerlendirmesi veya hukukî uygunluk görüşünün yerine geçmez. Kişisel veri, sektörel düzenleme ve yüksek etkili kullanım durumlarında ilgili uzmanlık değerlendirmesi gereklidir.
Kaynak ve sonraki adım
ISO/IEC 42001 resmî standard sayfası, yapay zekâ yönetim sistemi standardının kapsamını sunar. Kurumunuza özel YZ kullanım envanteri ve yönetişim atölyesi için eğitim başvurusu yapabilirsiniz.