İçeriğe geç

Şirket sohbet botu neden fiyat, stok ve politika uyduruyor?

  • Anasayfa
  • Blog
  • Şirket sohbet botu neden fiyat, stok ve politika uyduruyor?
Şirket sohbet botu neden fiyat, stok ve politika uyduruyor?
Kısa cevap

Sohbet botunuz fiyat, iade politikası veya stok bilgisini kendinden emin bir dille yanlış veriyorsa sorun çoğu zaman modelin kendisi değil, modele verilen bağlamdır. Dil modelleri bilgi tabanında bulunmayan bir cevabı istatistiksel olarak en olası metinle doldurur; NIST bu davranışı “confabulation” (uydurma) olarak tanımlar. Kalıcı çözüm; temiz ve güncel kaynak veri, doğru parçalanmış ve hibrit aramayla çalışan bir RAG hattı, zorunlu kaynak gösterme, “bilmiyorum” deme izni ve düzenli ölçümdür.

Belirtiler: bot kendinden emin ama yanlış

  • Müşteriye “Bu üründe 30 gün koşulsuz iade hakkınız var.” gibi, yayımladığınız iade politikasında hiç bulunmayan bir cümle söylüyor.
  • Güncellenmiş bir ürün için eski fiyatı veriyor ya da iki farklı fiyat listesini karıştırıp hiçbir yerde geçmeyen üçüncü bir rakam üretiyor.
  • “Stokta mevcut, aynı gün kargoda.” diyor; oysa bot stok sistemine hiç bağlı değil.
  • Aynı soruyu iki kez sorduğunuzda birbiriyle çelişen iki cevap alıyorsunuz.
  • Kaynak istediğinizde var olmayan bir doküman adı ya da sayfa numarası gösteriyor.
  • Bir çalışan, yetkisi olmadığı bir belgedeki bilgiyi (maaş tablosu, teklif marjı gibi) bota sorarak öğrenebiliyor.

Kök neden: dil modeli neden uyduruyor?

NIST’in Temmuz 2024’te yayımladığı Üretken Yapay Zeka Profili (NIST AI 600-1), “confabulation” kavramını üretken yapay zekanın hatalı veya yanlış içeriği kendinden emin biçimde sunması olarak tanımlar ve bunun bu modellerin tasarımının doğal bir sonucu olduğunu belirtir: model, eğitim verisinin istatistiksel dağılımına yakın çıktılar üretir. Yani model bir veri tabanı gibi “kayıt bulunamadı” demez; akıcı ve inandırıcı bir cümle kurar. Şirketinize özgü fiyat, stok ve politika bilgisi modelin eğitim verisinde yoktur; bağlamda da yoksa boşluk tahminle doldurulur.

Bu sorunun bilinen cevabı RAG’dir (Retrieval-Augmented Generation, geri getirme destekli üretim). Lewis ve arkadaşlarının 2020 tarihli makalesi, modelin ağırlıklarında saklı “parametrik” belleği aranabilir bir doküman dizini olan “parametrik olmayan” bellekle birleştirdi; makaleye göre bu yaklaşım daha spesifik ve olgusal metin üretir ve cevabın hangi kaynağa dayandığını izlemeyi kolaylaştırır. Ancak RAG, geri getirdiği parçalar kadar iyidir. Kötü beslenen bir RAG, modeli yanlış bağlamla daha da kendinden emin hale getirir.

“PDF’lerimizi yükleyelim, yeter” neden çalışmaz?

  • Kötü parçalama (chunking): Tablolar satır satır bölünür, ürün adı bir parçada, fiyat başka bir parçada kalır. Model eşleştirmeyi tahminle yapar.
  • Eski ve çelişen dokümanlar: Geçen yılın fiyat listesi ile güncel liste aynı dizindedir; arama hangisini önce getirirse cevap ona göre şekillenir.
  • Geri getirme ıskası: Kullanıcı “iade” der, doküman “cayma hakkı” der. Microsoft’un Azure AI Search belgeleri, kullanıcı ifadesiyle doküman terminolojisinin uyuşmamasını RAG’in temel zorluklarından biri olarak sayar.
  • Canlı veri eksikliği: Stok ve fiyat gibi sürekli değişen bilgiler statik bir PDF’te değil, ERP’dedir. PDF yüklendiği an eskimeye başlar.
  • Erişim kontrolü yok: Tüm dokümanlar tek bir dizine atılırsa bot herkese her şeyi okuyabilir. Microsoft aynı belgede kullanıcıların yalnızca yetkili oldukları içeriği geri getirmesi gerektiğini, bunun da doküman düzeyinde güvenlik kırpmasıyla sağlandığını vurgular.
  • Talimat eksikliği: Sistem talimatı “yalnızca verilen kaynaklardan cevap ver, kaynakta yoksa bilmediğini söyle” demiyorsa model genel bilgisiyle boşluğu doldurur.

Adım adım çözüm: RAG’i doğru kurmak

  1. Soru envanteri çıkarın: Botun cevaplaması gereken soru türlerini listeleyin ve her biri için tek bir “doğru kaynak” belirleyin. Örneğin fiyat için ERP fiyat tablosu, iade için yayımlanmış politika sayfası, stok için canlı stok servisi.
  2. Kaynak veriyi temizleyin: Eski sürümleri dizinden çıkarın; her dokümana sürüm, yürürlük tarihi ve içerik sahibi bilgisi ekleyin. Çelişen iki doküman varsa bu kararı bot değil içerik sahibi vermelidir.
  3. Değişken veriyi araçla çekin: Fiyat ve stok gibi bilgiler için doküman yerine ERP’ye salt okunur bir API çağrısı (araç veya işlev çağırma) tanımlayın. Böylece model rakamı üretmez, sistemden okur.
  4. Parçalamayı içeriğin yapısına göre yapın: Başlık, bölüm ve tablo satırlarını bir arada tutun; her parçaya kaynak doküman adı, bölüm başlığı ve tarih meta verisi ekleyin.
  5. Hibrit arama ve yeniden sıralama kullanın: Anahtar kelime aramasını ve vektör aramasını birlikte çalıştırın, sonuçları anlamsal olarak yeniden sıralayın. İade, cayma ve geri gönderim gibi eş anlamlılar için bir sözlük ekleyin; düşük skorlu sonuçlar için minimum eşik belirleyin.
  6. Erişim kontrolünü sorgu anında uygulayın: Her parçaya izin meta verisi ekleyin ve sonuçları soruyu soran kullanıcının kimliğine göre filtreleyin.
  7. Sistem talimatını sıkılaştırın: Anthropic’in belgeleri, modele açıkça “bilmiyorum” deme izni vermenin, cevabı doğrudan alıntılarla temellendirmenin ve her iddiayı kaynakla doğrulatmanın halüsinasyonu azalttığını, ancak tamamen ortadan kaldırmadığını belirtir. Aşağıdaki gibi bir talimat iyi bir başlangıçtır.
  8. Değerlendirme seti oluşturun: Gerçek müşteri sorularından, kişisel verileri çıkarılmış ve doğru cevabı bilinen bir soru seti hazırlayın. Botun cevaplamaması gereken soruları da ekleyin. Her değişiklikten sonra seti çalıştırıp doğru cevap, doğru kaynak ve doğru “bilmiyorum” oranlarını karşılaştırın.
  9. Korkuluk ve insan onayı ekleyin: Fiyat teklifi, iade onayı veya sözleşme yorumu gibi taahhüt doğuran cevapları insan onayına yönlendirin. Cevaptaki rakamları kaynakla karşılaştıran basit bir çıkış kontrolü de ekleyin.
  10. Kayıt tutun: Soru, geri getirilen parçalar, verilen cevap ve kullanıcı geri bildirimi birlikte kaydedilsin. Böylece yanlış bir cevabın aramadan mı, kaynaktan mı, talimattan mı kaynaklandığını ayırabilirsiniz. Saklama süresini KVKK yükümlülüklerinize göre belirleyin.
Sen [Şirket] müşteri asistanısın.
- Yalnızca <kaynaklar> içindeki bilgilere dayanarak cevap ver.
- Her cümlenin sonunda kullandığın kaynağın kimliğini [kaynak-id] olarak yaz.
- Fiyat ve stok bilgisini yalnızca stok_fiyat_sorgula aracından al; tahmin etme.
- Kaynaklarda cevap yoksa şunu söyle: "Bu konuda doğrulanmış bilgim yok, sizi bir temsilcimize aktarıyorum."
- İade onayı, indirim veya sözleşme yorumu verme; bu talepleri temsilciye aktar.

Talimat tek başına yeterli değildir. Geri getirme yanlış parçayı getiriyorsa en iyi talimat bile yanlış cevabı kaynak göstererek verir. Önce arama kalitesini değerlendirme setiyle ölçün.

Kalıcı önlem

  • İçerik sahipliği: Her doküman grubunun bir sahibi olsun; doküman güncellendiğinde dizin artımlı olarak otomatik yenilensin.
  • Regresyon testi: Model sürümü, sistem talimatı veya parçalama ayarı değiştiğinde değerlendirme setini yeniden çalıştırın; sonuç düşerse yayına almayın.
  • Kaynaksız cevap raporu: Kaynak göstermeden verilen cevapları ve “bilmiyorum” cevaplarını haftalık raporlayın; bunlar eksik içeriğin listesidir.
  • Düzenli insan incelemesi: Konuşmalardan rastgele örnekler seçip bir uzmana kontrol ettirin. NIST AI RMF yaklaşımında olduğu gibi risk yönetimini tek seferlik değil sürekli bir süreç olarak ele alın.
  • Kullanıcıya şeffaflık: Botun bir yapay zeka asistanı olduğunu, hangi konularda yardımcı olabildiğini ve insan temsilciye nasıl ulaşılacağını açıkça belirtin.

Ne zaman uzman çağırmalı?

Bot müşterilere fiyat, stok veya sözleşme konusunda bilgi veriyorsa, verileriniz ERP ve dosya sunucusu gibi birden fazla sistemde dağınıksa ya da farklı yetki seviyelerinde çalışanlar aynı asistanı kullanıyorsa, bu iş bir prompt düzeltmesinden çok bir veri ve mimari projesidir. Denizli’deki işletmelerde sahada karşılaştığımız tablo da çoğunlukla budur: model iyi, kaynak veri dağınık. Workas, yapay zeka tabanlı iş çözümleri kapsamında kaynak verinin düzenlenmesi, ERP entegrasyonu, yetki kontrollü RAG kurulumu ve değerlendirme setinin hazırlanması konusunda destek verir.

Sıkça Sorulan Sorular

Daha büyük veya daha yeni bir model kullanmak halüsinasyonu çözer mi?

Tek başına çözmez. NIST, uydurmanın üretken modellerin tasarımının doğal bir sonucu olduğunu belirtir. Şirkete özgü bilgi bağlamda yoksa en iyi model de tahmin yürütür; asıl iyileşme doğru kaynak veri ve iyi geri getirmeyle gelir.

RAG ile ince ayar (fine-tuning) arasındaki fark nedir?

İnce ayar modelin üslubunu ve davranışını değiştirir; RAG ise her soruda güncel dokümanları bağlama ekler. Sık değişen fiyat, stok ve politika bilgisi için RAG ve araç çağırma daha uygundur, çünkü veri değiştiğinde modeli yeniden eğitmek gerekmez.

Bot “bilmiyorum” derse müşteri memnuniyeti düşmez mi?

Yanlış fiyat veya olmayan bir iade hakkı vaat etmek çok daha pahalıdır. “Bilmiyorum” cevabını bir temsilciye aktarma adımıyla birleştirirseniz müşteri yarı yolda kalmaz, siz de eksik içeriği tespit etmiş olursunuz.

Kaynak gösterme zorunluluğu uydurmayı tamamen engeller mi?

Hayır, ama cevabı denetlenebilir kılar. Anthropic de bu tekniklerin halüsinasyonu azalttığını ancak ortadan kaldırmadığını belirtir; kritik cevaplarda insan onayı ve çıkış kontrolü yine gerekir.

Kaynaklar

  1. Lewis et al. (2020) – Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (arXiv)
  2. NIST AI 600-1 – AI RMF: Generative Artificial Intelligence Profile
  3. Microsoft Learn – RAG and Generative AI (Azure AI Search)
  4. Anthropic – Reduce hallucinations

Hadi Başlayalım

Bizimle İşbirliği Yapın!

İşletmenizin BT ihtiyaçlarını birlikte planlayalım; size en uygun çözümü hızla sunalım.

x

Workas Yazılım Teknoloji, 2002'den bu yana Denizli'de işletmelere ERP, siber güvenlik, network, sunucu ve yedekleme, özel yazılım ve yapay zeka çözümleri sunar.

Adres
Kınıklı, Hüseyin Yılmaz Cd. No:67,
B Blok Z06, 20160 Pamukkale/Denizli
Bizimle İletişime Geçin
0549 669 99 06
0535 089 29 29
Çalışma Saatleri
Pzt - Cmt: 8.00 - 18.00