Ajan mı, Araç mı? Tanım ve Fark

Dün gölge AI’nin sorunu hakkında yazdık: ayrıntılı ve kişisel hesaplarıyla çalışan, organizasyonun kayıtlarında görünmeyen, kimsenin sorumlu olmadığı yapay zekalar. Bugün sorunun kökünün nerede yattığını soruyoruz: bir araç ile bir ajan arasında ne fark var?

Cevap, basit görünse de, organizasyonun AI stratejisini belirler.

Araç: Kişisel, Geçici, Sorumluluğu Kullanan Kişide

Bir araç, bir sekmede açıp sorudan cevaba ulaştığınız şeydir. Bir prompt yazarsınız, bir yanıt alırsınız. Sekmesini kapatırsınız ve devam edersiniz. Yarın ne yazıp ne alacağınızı, dün ne yaptığını hatırlamaz. Kullanıcı sizsiniz; sorumlusu da sizsiniz.

Bir araçın üstün tarafı, hızı ve basitliğidir. Herhangi bir cihazdan, kurumsal izin almadan, bulunduğunuz saniyede karar alıp sonuca ulaşabilirsiniz. Bu, şirket içinde çok çekici gelir, özellikle hızlı bir cevap gerekiyorsa. Ama bu çekicilik, aynı zamanda bir sorundur.

Araç, kurumsal veri ve kurumsal süreçe bağlı değildir. Müşteri verisini bir tarayıcı sekmesine yapıştırabilirsiniz; o veri bulut’ta kalacaktır. Bir kararı araçla alabilirsiniz; o karar hiçbir denetim mekanizmasından geçmemiş olur. Haftalarca, aylarca, yüzlerce çalışan bu şekilde çalışırsa, kurumun gerçek yapı ve kontrol yöntemleri şemada gösterilenden çok daha karmaşık ve gölge olur.

Ajan: Tanımlı, Kalıcı, Kontrol Edilebilir, Sorumluluğu Kayıtlı

Bir ajan ise daha fazlasıdır. Ajan, organizasyonda tanımlanan bir varlıktır.

Bir ajan’ın:

• Tanımı vardır. Hangi departmana ait olduğu, ne yapmakla görevli olduğu, raporlama hattı nedir — hepsi kayıtlıdır.
• Sorumluluğu vardır. Ajan’ın ürettiği her çıktının arkasında bir insan yönetici var. O yönetici, ajanın performansından, hatasından, risksinden sorumludur.
• Modeli ve becerileri vardır. Ajanın kullanacağı model, hangi harici sistemlere bağlanabilir, hangi veriyi işleyebilir — bunlar önceden seçilir ve belirtilir.
• Politikası vardır. Ajan, belirli kurallar çerçevesinde hareket eder: hangi veriye erişebilir, hangi işlemi yapabilir, hangi durumlarda durdurulmalıdır. Bu kurallar yazılıdır ve denetlenebilir.
• Ölçüsü vardır. Ajan’ın çalışması kaydedilir: ne zaman çalıştı, neyi ürettiği, ne kadar sürdü, hangi hata oluştuysa nedir — hepsi denetim için saklanır.

Bir ajan, bir sekmesi kapatılmayan, sürekli çalışan, her çalışması kayıt altına alınan, hatasında hesap verecek birisi tarafından yönetilen bir çalışan gibidir.

Ne Zaman Araç, Ne Zaman Ajan?

Kurumsal faaliyetin doğası belirler.

Araç yeterlidir:

• Kişisel, tek seferlik iş için (bir e-posta taslağı, bir hesaplama, hızlı bir arama)
• Denetime tabi olmayan, geri dönüş olmayan işlemler için
• Düşünme aracı, biriktirilmesi gerekmeyen bilgi için

Ajan gerekir:

• Sürekli, tekrarlayan işlemler için
• Kurumsal veri işleme için
• Uyum (compliance) kısıtlamaları olan işlemler için
• Geri dönüş imkanı veya denetim gerekli işlemler için
• Bir kurumsal süreci doğrudan etkileyen tüm işlemler için

Peki, kullandığınız şey araç mı, ajan mı? Cevap, basit: eğer bunu birden fazla kişi öğreniyorsa, öğrenince soru soruyorsa, yanlışsa düzeltiyorsa — ajan olması gerekiyor.

Dün gördüğümüz gölge AI senaryolarının tümü, bir araçla başlayan işin, kurumsal etki yaratıp da ajan’a dönüşmemesi sorunuydu. İK’daki 10 aday seçimi, finans’taki makro, müşteri verisini işleyen destek botu — bunların hepsi, keşfedildiğinde sürpriz olan, sorumlusu belli olmayan ajan’lardır.

Çözümün adımı, araç ile ajan arasındaki farkı tanıma olarak başlar. Ardından, kurumun her ajanını tanımlama, sorumluluk ataması ve kontrolünü sağlama gelir. Organizasyon şeması, bu sebeple, ajan düğümlerini de içermeli.

Yarın: Organizasyon şemasına neden ajanları da dahil etmeliyiz?