Şirketinizde Kaç AI Ajanı Çalışıyor?

Pazartesi sabahı, bir finans müdürünün ofisinden çıkan soru:

“Dün, bir öğrenci adayını değerlendirmek için Claude’a mülakata ait sahte veri yapıştırdım, CV analiz ettirttim. Sonra başka bir sistem admin, veri tabanı sorgularının optimize edilmesi için ChatGPT sekmesine komut girip sonuç aldı. Aynı gün, e-ticaret ekibi, ürün açıklamalarını otomatik üretmek için bir araç kurdu — tek seferliktir diye düşündüler, ama üç ay oldu hâla çalışıyor. Şirkette kaç tane bu tür yapay zeka kullanılıyor? Kimse bilmiyor.”

Bu soru, çoğu kurumsal ortamda sorulan bir soruya dönüşmüştür.

Gölge AI Nedir?

Yazılı politikası olmayan, sorumlusu belirsiz, kurumsal kayıtlara girmemiş yapay zeka kullanımları. Bunlar:

• Bireysel tarayıcı sekmelerindeki ChatGPT, Claude, Gemini oturumları. Her çalışan, her gün, kişisel hesabıyla bir dil modeline soru soruyor.
• Hızlı kurulan bir komut dosyası veya küçük otomasyon. Başlangıçta bir kişi yazıyor, sonra başkası kullanmaya başlıyor, hepsi ucu kapalı.
• İç platformlarda, birkaç satırla yazılan webhook veya bot. Bir slack kanalında “bu işi yapan bot var” diye bildiğimiz, ama spesifikasyonu yok, backup’ı yok, sahibi belli olmayan alet.
• Üçüncü taraf SaaS’lar aracılığıyla çalışan yapay zeka. Ödemeyi kim yapıyor? Veriler nereye gidiyor? Cevaplar muğlak.

Bunların ortak özelliği şudur: kullanılıyor, ama tanımlanmamış.

Muhasebe Sorunu

Gölge AI’nin en büyük sorunlarından üçü:

Veri Riski

Bir çalışan, müşteri verisini ChatGPT’e yapıştırır. Eller paydos olur, veri bulutta kalır. Eğer bu veri kişisel veya kurumsal gizli bilgi ise, şirket bir ihlal riski taşımıştır — ama kimse bilmez, hesap verilmez.

Sorumluluk Eksikliği

E-ticaret ekibi, ürün açıklamalarını otomatik ürettiğinde, bu açıklamalar müşterilere satış yapar. Bir açıklama yanlışsa, müşteri geri döner. Kimin kusuru? Sistemin mi, yazan AI’nın mı, bunu sağlayan müdürün mü? Tanımlı sorumluluk olmadığı için bu açıklıktan çıkmıyor.

İç Kontrol Kaybı

Üç ay, ay boyunca süren otomasyona hiç kimse bakmıyorsa, değişti mi, doğru mu, yavaşladı mı — hiç bilinmiyor. Eğer sistem hata üretiyorsa, o hatalar haftalarca yanında durabilir.

Boyut Farkı

“Tek seferliktir” diye düşünülen bir yazılı harita, altı ayda 10 kişi tarafından kullanılıyor. “Deneme” diye başlayan bir bot, şirkete 200 saatlik iş zaman kaydetmiş olabiliyor, ama onu yönetecek bütçe yok. “Kişisel hesap” diye açılan bir AI ön uç, gerçekte kurumsal karar almakta kullanılıyor.

Gölge AI’nin boyutu, kurumsal rakamlarla çok farklı. McKinsey 2024 raporuna göre, kurumsal denetim, en büyük şirketlerde, dış kullanımda kalan AI tahmin, sözleşmeli AI kullanımı kurumsal AI’tan 3 kat daha fazla. Yani, organizasyonun bildiği AI işleri, bilmediğinden küçük.

Başlangıç Adımı

Pazar günü başlamak için basit bir adım: kurum içinde, son üç ayda kullanılan yapay zeka aracı ve otomasyonlarını sorun.

• Kimler, neyi, neden kullanıyor?
• Hangileri bir kez, hangiler sürekli?
• Hangileri şirkete karar ettiren, hangiler şirketi aşan bir çıktı üretiyor?

Bu sorunun cevabı, gölge AI’nin çerçevesini bulmada yeterli olacaktır. Ardından, tanımlı olanlar ile tanımlanmayan alanlar arasında fark belirtmek, kontrol kurmak, sorumluluk atamak — bunlar, sonraki adımlardır.