Üretim AI agentları araçlardan önce iş akışı sınırlarına ihtiyaç duyar
Golub Softworks'ten, agentic AI sistemlerini kopuk araçlar ve belirsiz promptlar yerine gerçek operasyon sınırları etrafında tasarlamak üzerine pratik bir not.
Başarısız AI agent projelerinin çoğu model zayıf olduğu için başarısız olmaz. Agent çok belirsiz bir işin içine, fazla araçla, operasyon sınırı olmadan ve güvenilir bir tamamlanma tanımı olmadan bırakıldığı için başarısız olur.
Golub Softworks'te agentı üretim iş akışındaki bileşenlerden biri olarak ele alıyoruz. Faydalı soru "önce hangi modeli kullanalım?" değildir. Faydalı soru şudur: "Operasyonun hangi parçası güvenli şekilde devredilebilir, gözlemlenebilir, düzeltilebilir ve iyileştirilebilir?"
Prompttan değil işten başlayın
Uygulamadan önce manuel süreci bugün olduğu haliyle haritalayın:
- İşi kim başlatıyor?
- Kaynak veri hangi sistemlerde duruyor?
- Hangi kararlar deterministik, hangileri muhakeme istiyor?
- Agent doğrudan neyi değiştirebilir?
- Nerede insan onayı veya incelemesi gerekir?
- Görevin tamamlandığını hangi kanıt gösterir?
Bu haritalama çoğu zaman agentın beklenenden daha az araca ihtiyaç duyduğunu gösterir. Agentın daha temiz girdilere, daha küçük bir aksiyon yüzeyine ve daha güçlü toparlanma yollarına ihtiyacı vardır.
Sınırlar agentları güvenilir yapar
Üretim agentının net bir çalışma alanı olmalıdır. Örneğin iç destek triage agentı yeni talepleri sınıflandırabilir, hesap bağlamıyla zenginleştirebilir, ilk yanıt taslağını hazırlayabilir ve uç durumları insana yönlendirebilir. Aynı agent sessizce hesap verisini yeniden yazmamalı, faturalama durumunu değiştirmemeli ve müşterilerle onaysız iletişime geçmemelidir.
Bu sınır bir eksik değil. Sistemin yayına çıkabilmesini sağlayan şeydir. Dar alan gözlemlenebilir ve güvenilir olduğunda sıradaki alan bilinçli şekilde eklenebilir.
Çevre yazılım önemlidir
Agent tek başına nadiren ürünün tamamıdır. Güvenilir bir dağıtım genellikle şunlara ihtiyaç duyar:
- CRM, veritabanı, destek sistemi veya iç API için entegrasyon adaptörleri.
- İşin görünür ve yeniden denenebilir olması için kuyruk veya job modeli.
- Agentın ne okuduğunu, neye karar verdiğini ve neyi değiştirdiğini gösteren denetim kayıtları.
- Belirsiz veya yüksek etkili aksiyonlar için insan inceleme ekranları.
- Gecikme, hata oranı, insan devri oranı ve iş sonucu metrikleri.
Bu yüzden agentic AI işi hâlâ yazılım mühendisliği işidir. Model güçlüdür, fakat üretim değeri etrafındaki sistemden gelir.
Pratik bir ilk sürüm
İyi bir ilk sürüm, anlaşılabilecek kadar küçük ve değer yaratacak kadar önemli olmalıdır. Tekrarlanan hacmi olan, girdileri net ve sonucu ölçülebilir bir iş akışı seçin. Agentı ilk günden gözlemlenebilirlik, fallback davranışı ve insan inceleme yolu ile gönderin.
Sonra sistemi varsayımlarla değil, gerçek operasyon verisiyle iyileştirin. Agentic AI demo olmaktan bu şekilde çıkar ve gerçek kaldıraç haline gelir.