Yapay zekâ ile tehdit modelleme

Yapay zekâ ile tehdit modelleme, bir yapay zekâ operatörünün bir özelliği bir saldırganın bakışıyla, kod yazılmadan önce ya da hemen sonra, baştan sona düşünmesidir. Böylece bariz suistimal yolları bir ihlalden sonra değil, tasarım aşamasında yüzeye çıkar. Değer, körü körüne güvendiğin bir güvenlik puanı değil; “bir ara güvenliği düşünmeliyiz” cümlesini, şimdi kontrol edilecek somut bir listeye çeviren yapılandırılmış bir ilk geçiştir.

Yapay zekâ ile tehdit modelleme somut olarak nedir?

Bir özelliği disiplinli bir çerçeveden geçirip her adımda “ne ters gidebilir?” diye sormaktır. Belirli bir değişiklik için yapay zekâ giriş noktalarını (güvenilmeyen verinin nereden girdiğini), korunmaya değer varlıkları (bir saldırganın ne isteyeceğini) ve bunlara karşı gerçekçi tehditleri haritalar: kimliği taklit etme, veriyi kurcalama, bilgi sızdırma, yetki yükseltme. Çıktı sıralanmış bir listedir: bu nasıl suistimal edilebilir, hangi yollar bir önleme değer, hangileri gürültü. İyi bir günde kıdemli bir mühendisin yaptığı disiplinli taramanın aynısı, ama yapay zekâ bunu birinin incelemeyi hatırladığı özelliklerde değil, her özellikte yapar. Geliştirici de yargısını boş bir sayfadan başlamak yerine bu sistem için gerçek olan tehditlere harcar.

Hangi özellikleri önce modellemek gerekir?

Güvenilmeyen girdinin değerli bir şeyle buluştuğu yerden başlayın. En yüksek getirili hedefler kimlik doğrulamaya, ödemeye, dosya yüklemeye ve kullanıcı adına işlem yapan herhangi bir endpoint’e dokunanlardır; çünkü tek bir atlanan yolun pahalıya patladığı yer burasıdır. Bir giriş akışı, bir ödeme, bir yönetici eylemi, gerçek bir iş tetikleyen bir webhook: bunlar yayınlanmadan önce bir model hak eder. Buna ihtiyaç duymayan iş, durağan, salt-okunur, sırsız yüzeydir; bir tanıtım sayfasını modellemek tiyatrodur. Atlanan bir tehdidin maliyetinin gerçek bir olay olduğu özellikleri önceliklendiririz ve düşük riskli yüzeyin daha hafif bir geçişle yetinmesini kabul ederiz.

Yapay zekâ ile tehdit modelleme nerede yetersiz kalır?

Gerçek sisteminizi bilmeyi gerektiren kısımlarda. Yapay zekâ makul tehditler sıralar ama girdilerinizden hangisinin gerçekten saldırgan kontrolünde olduğunu, hangi güven sınırlarının gerçek olduğunu ya da mimariniz göz önüne alındığında hangi önlemin kabul edilebilir olduğunu bilmez. Veri akışını yanlış okuduğu için geçerli olmayan bir tehdit üretebilir ve kendisine hiç söylenmemiş bir iş kuralına bağlı olan bir tehdidi kaçırabilir. Dürüst çerçeve şudur: yapay zekâ aday listesini üretir, bir insan onu gerçeklikle karşılaştırarak doğrular. Yapay zekânın modelini bitmiş analiz saymak, bir ekibin kalın bir belgeye ve yanlış bir güvenlik hissine kavuşma yoludur. Makine taslağı çıkarır; sistemi anlayan mühendis neyin doğru olduğuna karar verir.

Bunu bir tiyatroya dönüştürmeden nasıl yürütürsünüz?

Her tehdidi bir belgeye değil, bir karara bağlayın. Elli risk sıralayıp hiçbir şeyi değiştirmeyen bir tehdit modeli, hiç yapmamaktan kötüdür; çünkü sahte bir güven üretir. Tuttuğumuz disiplin şudur: belirlenen her tehdit üç durumdan birinde biter: giderildi (işte kod değişikliği), kabul edildi (işte riskin neden tolere edilebilir olduğu ve kimin onayladığı) ya da kapsam dışı (işte neden geçerli olmadığı). Modeli özelliği değiştirmek hâlâ ucuzken yürütün, gerçekçi yollarla sınırlı tutun ve kabul kararlarının sahibi bir insan olsun. Böylece model kimsenin okumadığı bir uyumluluk eseri değil, çalışan bir araç olur.

Bu, bir yapay zekâ build’ini dürüst tutan disiplindir: makinenin neyi geçirmesine izin verilip verilmeyeceğine karar veren korkuluklar. Disiplin & Metodoloji Kitine bakın. Geniş resim için yapay zekâ ile uygulama güvenliği sayfasından başlayın.