Yapay zekâda mesele otomasyon değil, doğru denge

Yapay zekânın kurumlarda nasıl kullanıldığını araştırırken karşıma çıkan örneklerden biri Klarna oldu.

İsveç merkezli fintech şirketi, 2024'te yapay zekâ destekli müşteri hizmetleri asistanıyla dikkat çekici sonuçlar açıklamış. Klarna'ya göre asistan ilk ayında 2,3 milyon müşteri hizmetleri konuşması gerçekleştirmiş. Bu hacim, sohbetlerin yaklaşık üçte ikisine ve 700 tam zamanlı müşteri temsilcisinin iş yüküne eşdeğermiş. Şirket ayrıca çözüm süresinin 11 dakikadan 2 dakikanın altına indiğini ve tekrarlayan başvuruların yüzde 25 azaldığını açıklamış.

Klarna bir süre maliyet azaltmaya, çalışan sayısını düşürmeye ve yapay zekâ kullanımını artırmaya odaklanmış. 2025'te CEO Sebastian Siemiatkowski, maliyet hedefinin fazla öne çıktığını ve bunun hizmet kalitesini olumsuz etkilediğini kabul etmiş. Şirket daha sonra yapay zekâyı tamamen bırakmak yerine, gerektiğinde insan temsilciye erişimi yeniden öne çıkarmış.

Buradan "yapay zekâ başarısız oldu, insanlar geri döndü" sonucuna varmak kolay. Ancak bence mesele bu değil.

Klarna örneği, yapay zekânın standart ve yüksek hacimli talepleri hızlı biçimde yönetebildiğini; fakat verimlilik artışının müşteri deneyimi pahasına elde edilmemesi gerektiğini gösteriyor.

Her işlem otomasyona uygun değil

Yapay zekâ standart soruları yanıtlayabilir, bilgi toplayabilir ve bazı işlemleri tamamlayabilir. Ama her talep standart değildir. Bir ödeme itirazı, istisnai bir iade veya müşterinin kurallara uymayan özel bir durumu söz konusu olabilir. Kararın ciddi finansal veya hukuki sonuçları da olabilir. İnsan çalışan, her işlemi baştan sona yapan kişi olmak zorunda değil. Belirsizliğin ve riskin arttığı noktada devreye girmeli. Bunun için sistemin ne zaman duracağını, ne zaman insana başvuracağını ve hangi işlemleri yapamayacağını önceden tanımlamak gerekiyor.

Yetki arttıkça risk de artıyor.

Üretken yapay zekâ çoğunlukla cevap veren, metin hazırlayan veya analiz yapan bir araç olarak kullanılıyor. Ajanik yapay zekâ ise plan yapabiliyor, farklı araçları kullanabiliyor ve yetki sınırları içinde eyleme geçebiliyor. Üretken yapay zekâ hata yaptığında yanlış bir cevapla karşılaşabiliriz. Ajanik yapay zekâ hata yaptığında ise yanlış bir kayıt güncellenebilir veya hatalı bir işlem başlatılabilir.

Konu yalnızca yapay zekânın ne kadar güçlü olduğu değil; ona ne kadar yetki vereceğimiz.

Başarıyı nasıl ölçmeliyiz?

Kurumlar yalnızca "kaç işlemi yapay zekâ gerçekleştirdi?" sorusuna odaklanmamalı. Çözüm oranı, tekrar başvuru, şikâyet, insan temsilciye aktarım ve hatalı işlem oranları da izlenmeli.

Klarna vakasından çıkardığım sonuç şu: Teknik olarak otomatikleştirebildiğimiz her şeyi otomatikleştirmek, her zaman en iyi sonucu üretmiyor.

Asıl soru şu: Nerede yapay zekâ, nerede insan daha fazla değer yaratıyor?

#YapayZeka #GenerativeAI #AgenticAI #DijitalDonusum #AIGovernance