Sorun prompt yazmak değil, veri kararını vermektir
Üretken yapay zekâ araçlarında en büyük başlangıç riski, çalışanların hangi veriyi paylaşabileceklerini bilmemesidir. Güvenli prompt yaklaşımı, yalnız “kişisel veri girmeyin” demekle kurulmaz; veri sınıfı, kullanım amacı, araç onayı ve insan doğrulamasını aynı akışta tanımlar.
Dört katmanlı koruma
- Kural: Herkese açık, kurum içi, gizli ve özel nitelikli veri için açık kullanım kuralları belirleyin.
- Araç: Onaylı araçları, kurumsal hesap koşullarını ve yasaklı entegrasyonları görünür kılın.
- İnsan: Çıktının doğrulanması, telif/atıf kontrolü ve yetkili onay rolünü tanımlayın.
- İzleme: Yüksek riskli kullanım örnekleri, istisnalar, olaylar ve değişiklikler için kayıt mekanizması kurun.
Güvenli kullanım örneği
Bir sözleşme taslağını özetletmek yerine, kişisel veri ve ticari sırları kaldırılmış bir metin üzerinden yapı önerisi istemek daha güvenli bir başlangıçtır. Çıktı, yetkili kişi tarafından kaynak metinle karşılaştırılmalı; otomatik olarak müşteriye veya kamuya gönderilmemelidir.
Kontrol listesi
- Kullanıcının veri sınıfını tanımasına yardımcı olan kısa karar ağacı var mı?
- Onaysız araçlar için teknik veya prosedürel sınır tanımlı mı?
- Yüksek etkili çıktılar için insan kontrolü zorunlu mu?
- Şüpheli paylaşım veya hatalı çıktı olayının nereye bildirileceği belli mi?
Kaynak ve sonraki adım
ISO/IEC 42001 resmî sayfası, yapay zekâ yönetim sistemi standardının kapsamını sunar. Kuruma özel kabul edilebilir YZ kullanımı ve farkındalık eğitimi için başvuru oluşturabilirsiniz.