Ada
Gerçek Zamanlı Türkçe Yapay Zekâ Sesli Satış Asistanı
Operasyonel Problem
Bağlam ve Sektörel Dinamikler
Üretimdeki sesli yapay zekâ ürünlerinin çoğu İngilizce öncelikli ve yalnızca bulutta çalışıyor. Türk işletmeleri için iki şey önemli: doğal Türkçe konuşma ve müşteri görüşmelerini üçüncü taraf API'lere göndermeme seçeneği. Ada, ikisini de denemek için aşamalı sürümlerle (v0.1 → v0.2.2), telefon entegrasyonundan önce tarayıcıda çalışan bir teknik önizleme olarak geliştirildi.
Genel Bakış
Satış görüşmesi sıradan bir sohbet değildir: asistanın aşamalar arasında ilerlemesi, müşterinin söylediklerini hatırlaması ve lead'i puanlaması gerekir; altta hangi ses ve dil motoru olursa olsun tutarlı biçimde. Küçük yerel modeller, barındırılan gerçek zamanlı modellere göre talimat takibinde ve araç çağırmada çok daha az güvenilirdir; tur tabanlı yerel hat ise her aşamada gecikme ekler.
Sistem Mimarisi
Ada satış mantığını ses motorundan ayırır. Sağlayıcıdan bağımsız Satış Beyni (aşama makinesi, müşteri bağlamı, lead puanlama) bir IVoiceAgent soyutlamasının arkasında durur ve iki uygulaması vardır: satış verisini yerel araç çağrısıyla bildiren OpenAI Realtime ajanı ve süreç içi Silero VAD, faster-whisper STT, Ollama üzerinde Qwen3 8B ve Piper TTS'i zincirleyip satış verisini doğrulanmış bir JSON zarfıyla bildiren yerel ajan. Tarayıcı tek bir olay protokolü konuşur; yerel sağlayıcı eklendiğinde tarayıcı tarafında tek satır değişmedi.
┌───────────────────────────────────────────────────────────────────────────┐
│ TARAYICI İSTEMCİSİ (statik HTML/JS, derleme adımı yok) │
│ AudioWorklet mikrofon · iki yönde PCM16 mono 24 kHz │
│ Canlı hat durumu: Mik → WS → VAD → STT → LLM → TTS │
└─────────────────────────────────────┬─────────────────────────────────────┘
│ aynı kaynaklı WebSocket /ws/voice
▼
┌─────────────────────────────────────┴─────────────────────────────────────┐
│ ADA.API (ASP.NET Core 8) │
│ ├── IVoiceAgent: sağlayıcı ayardan seçilir, Yerel → OpenAI yedeği │
│ └── SATIŞ BEYNİ (sağlayıcıdan bağımsız) │
│ aşama makinesi · müşteri bağlamı · lead puanlama │
│ dört parçalı tek istem: kimlik · satış · davranış · uyum │
└─────────────────┬───────────────────────────────────────┬─────────────────┘
│ │
OpenAI │ │ Yerel (bulutsuz)
▼ ▼
┌─────────────────┴─────────────────┐ ┌─────────────────┴─────────────────┐
│ OPENAI REALTIME API │ │ Silero VAD süreç içi (ONNX) │
│ akışlı konuşma ⇄ konuşma │ │ faster-whisper STT (FastAPI) │
│ satış verisi araç çağrısıyla │ │ Ollama'da Qwen3 8B → JSON yanıt │
│ update_sales_context │ │ Piper TTS (kalıcı süreç) │
└───────────────────────────────────┘ └───────────────────────────────────┘AudioWorklet ile mikrofon sesini yakalar, PCM16 yanıtları çalar, hat aşamalarını ve tur başına gecikmeyi canlı gösterir
Aynı kaynaklı WebSocket aktarımı, sağlık kontrolleri ve açılışta doğrulanan ayarlarla sağlayıcı seçimi; API anahtarları tarayıcıya hiç ulaşmaz
İki sağlayıcının ortak kullandığı aşama makinesi, müşteri bağlamı ve lead puanlama; dört parçalı tek bir sistem istemiyle yönetilir
ONNX Runtime ile süreç içinde Silero VAD; faster-whisper ve kalıcı Piper süreci için FastAPI yan servisi; Ollama üzerinde Qwen3 8B
Mühendislik Kararları
Tek Satış Beyni, İki Ses Sağlayıcısı
Satış davranışı hangi ses motorunun çalıştığına bağlı olmamalı; yoksa her sağlayıcı değişikliğinde tüm görüşme yeniden test edilmek zorunda kalır.
Her sağlayıcı kendi protokolünü Ada'nın iç olay modeline çevirmek zorunda; buna karşılık satış mantığı bir kez test edilir ve tarayıcı istemcisi sağlayıcıdan bağımsız kalır.
Yerel Araç Çağrısı Yerine JSON Zarfı
Küçük bir yerel modelin araç çağırma güvenilirliği garanti değildir.
Yerel LLM her zaman {response, context_updates} biçiminde yanıt verir. Her alan kırpılır, uzunluğu sınırlanır ve doğrulanır; bozuk bir yanıt görüşmeyi sonlandırmak yerine düz konuşmaya düşer.
Model Seçimi Kıyaslama Testine Değil, Canlı Görüşmeye Göre
qwen3:1.7b, senaryolu kıyaslamada qwen3:8b'den yaklaşık 2 kat hızlıydı.
Canlı beş turluk görüşmede farklı sorulara aynı yanıtı verdi; bu yüzden varsayılan qwen3:8b kaldı: tur başına yaklaşık 2 sn daha yavaş ama tutarlı. qwen3:4b düşünme zincirini yanıta sızdırdı, phi3.5 ise bozuk Türkçe üretti.
Teknik Zorluklar ve Çözümler
Sessizce Çalışmayan Ses Algılama
Silero VAD, gerçek konuşma için hiçbir hata vermeden sıfıra yakın konuşma olasılığı döndürüyordu.
Güncel Silero ONNX sürümleri, her 512 örneklik çağrının başına önceki çağrıdan gelen 64 örneklik kayan bağlam penceresi eklenmesini bekliyor. Ada'nın .NET uygulaması bunu ekliyor ve resmî Python sarmalayıcısıyla karşılaştırılarak doğrulandı.
Yerel Hattın Tur Başına Gecikmesi
İlk yerel sürüm kararlı durumda tur başına yaklaşık 7,3 sn sürüyordu.
Her cümlede yeni Piper süreci başlatmak yerine tek süreç açık tutuldu (TTS −%32,8), kıyaslama sonrası STT Whisper small'dan base'e geçirildi (−%58,8), aşama bazlı süre kayıtları ve canlı gecikme paneli eklendi. Kararlı durum tur başına yaklaşık 5,9 sn'ye indi (−%19).
Teknoloji Yığını
- • ASP.NET Core 8
- • C#
- • WebSockets
- • Serilog
- • OpenAI Realtime API
- • Silero VAD
- • faster-whisper
- • Qwen3 8B (Ollama)
- • Piper TTS
- • Python
- • FastAPI
- • uvicorn
- • xUnit
Kritik Uygulama Detayları
- İki sağlayıcı için tek PCM16 24 kHz ikili veri ve JSON olay protokolü; yerel ajan yeniden örneklemeyi kendi içinde yapar
- Yerel katman çalışmıyorsa otomatik Yerel → OpenAI geçişi; her zaman kayda geçer, asla sessiz olmaz
- LLM, STT ve TTS durumunu ayrı ayrı bildiren /health/local-ai uç noktası
- Ses hiçbir yerde saklanmaz; yerel STT sesi yalnızca tek bir cümle süresince bellekte tutulur
Sistem Şeması & Ölçümler
Geliştirme ortamında ölçülen gerçek değerlerle sistem topolojisi.
Ada Ses Hattı: İki Sağlayıcı, Tek Satış Beyni
6 çekirdekli CPU ve RX 580 üzerinde ölçülen yerel tur: STT 824 ms, LLM 4.324 ms, TTS 739 ms; kararlı durumda tur başına yaklaşık 5,9 sn.
Sonuçlar ve Mevcut Durum
Uçtan uca Türkçe sesli satış görüşmeleri tarayıcıda iki sağlayıcıyla da çalışıyor. Telefon (SIP/Asterisk), CRM ve takvim entegrasyonu bu aşamada bilinçli olarak kapsam dışında.
Kazanılan Mimari Deneyimler
- 01.İş mantığını yapay zekâ sağlayıcısından bağımsız tutun; motor değiştirmek ürünü yeniden yazmak anlamına gelmemeli.
- 02.Küçük yerel modellere güvenilmez, savunmacı ayrıştırma gerekir: modelin döndürdüğü her alanı doğrulayın.
- 03.Gerçek görüşmelerde ölçün; kıyaslamadaki en hızlı model canlı görüşmede en iyisi değildi.