AI otomasyonunda güvenlik ve yetki sınırları
Araç kullanabilen AI agentlar için en az yetki, denetim izi ve veri sınırları nasıl tasarlanır?
AI otomasyonu güvenlik konusunu değiştirir çünkü sistem sadece bilgi göstermiyor olabilir. Araç seçiyor, değişiklik hazırlıyor, API çağırıyor ve gerçek iş kayıtlarını etkiliyor olabilir.
Bu AI agentlardan kaçmak gerektiği anlamına gelmez. Yetkilerin iş akışı kadar dikkatli tasarlanması gerektiği anlamına gelir.
En az yetkiyle başlayın
Agent sadece mevcut işi için gereken erişimi almalıdır. İlk iş akışı destek triage ise agentın ticketları ve hesap özetlerini okuması gerekebilir. Muhtemelen faturalamayı değiştirme, kayıt silme veya her müşteriye mesaj atma yetkisine ihtiyacı yoktur.
Okuma, taslak, onay, uygulama ve admin yetkilerini ayrı tutun. Geniş bir service account kullanmak kolaydır ama riski saklar ve denetimi zorlaştırır.
Veri erişimi ile aksiyon erişimini ayırın
Bağlam okumak ve durum değiştirmek farklı risklerdir. Birçok faydalı AI sistemi okuma erişimi ve taslak çıktıyla başlayabilir. Yazma yetkisi, inceleme verisi iş akışının güvenilir olduğunu gösterdikçe tek tek eklenebilir.
Bu aşamalı yaklaşım, ilk günden agenta gereksiz güç vermeden ekibin öğrenmesini sağlar.
Politikayı sadece prompta koymayın
Prompt talimatları yetki modeli değildir. Backend agentın hangi aracı çağırabileceğini, hangi kayıtlara dokunabileceğini, hangi kullanıcıların hangi aksiyonları isteyebileceğini ve nerede onay gerektiğini zorlamalıdır.
Bir iade manager onayı gerektiriyorsa bu kural uygulama mantığında yaşamalıdır. Prompt kuralı açıklayabilir ama onu uygulayan tek mekanizma olmamalıdır.
Anlamlı her aksiyonu denetleyin
Agent bir araç kullandığında işi kimin başlattığını, hangi verinin kullanıldığını, hangi aracın çağrıldığını, hangi parametrelerin gönderildiğini, neyin değiştiğini ve insan onayı olup olmadığını kaydedin.
Loglar gerekenden fazla hassas veri açığa çıkarmadan faydalı olmalıdır. Güvenlik ekipleri kanıt ister ama logun kendisi yeni bir veri sızıntısına dönüşmemelidir.
Geri alma ve sınırlama için tasarlayın
Bir yetkinin hızla kaldırılması gerekebileceğini varsayın. Feature flag, araç bazlı kapatma, kapsamlı kimlik bilgisi, oran sınırı ve kill switch kurun. Bir entegrasyon beklenmedik davrandığında veya politika değiştiğinde sınırlama önemlidir.
İyi AI otomasyon güvenliği korku temelli değildir. Operasyon disiplinidir: küçük yetkiler, açık sınırlar, güçlü kayıtlar ve hızlı geri alma.