Sesli Yapay Zekâ/● Teknik Önizleme / Ar-Ge

Ada

Gerçek Zamanlı Türkçe Yapay Zekâ Sesli Satış Asistanı

Ses Sağlayıcısı
OpenAI + Local
Yerel Tur
~5.9 s
STT Gecikmesi
−58.8%
Dil
tr-TR
01 // CONTEXT & PROBLEM

Operasyonel Problem

Bağlam ve Sektörel Dinamikler

Üretimdeki sesli yapay zekâ ürünlerinin çoğu İngilizce öncelikli ve yalnızca bulutta çalışıyor. Türk işletmeleri için iki şey önemli: doğal Türkçe konuşma ve müşteri görüşmelerini üçüncü taraf API'lere göndermeme seçeneği. Ada, ikisini de denemek için aşamalı sürümlerle (v0.1 → v0.2.2), telefon entegrasyonundan önce tarayıcıda çalışan bir teknik önizleme olarak geliştirildi.

Genel Bakış

Satış görüşmesi sıradan bir sohbet değildir: asistanın aşamalar arasında ilerlemesi, müşterinin söylediklerini hatırlaması ve lead'i puanlaması gerekir; altta hangi ses ve dil motoru olursa olsun tutarlı biçimde. Küçük yerel modeller, barındırılan gerçek zamanlı modellere göre talimat takibinde ve araç çağırmada çok daha az güvenilirdir; tur tabanlı yerel hat ise her aşamada gecikme ekler.

02 // TOPOLOGY & ARCHITECTURE

Sistem Mimarisi

Ada satış mantığını ses motorundan ayırır. Sağlayıcıdan bağımsız Satış Beyni (aşama makinesi, müşteri bağlamı, lead puanlama) bir IVoiceAgent soyutlamasının arkasında durur ve iki uygulaması vardır: satış verisini yerel araç çağrısıyla bildiren OpenAI Realtime ajanı ve süreç içi Silero VAD, faster-whisper STT, Ollama üzerinde Qwen3 8B ve Piper TTS'i zincirleyip satış verisini doğrulanmış bir JSON zarfıyla bildiren yerel ajan. Tarayıcı tek bir olay protokolü konuşur; yerel sağlayıcı eklendiğinde tarayıcı tarafında tek satır değişmedi.

SYSTEM_DATA_FLOW_MAP
┌───────────────────────────────────────────────────────────────────────────┐
│ TARAYICI İSTEMCİSİ  (statik HTML/JS, derleme adımı yok)                   │
│ AudioWorklet mikrofon · iki yönde PCM16 mono 24 kHz                       │
│ Canlı hat durumu: Mik → WS → VAD → STT → LLM → TTS                        │
└─────────────────────────────────────┬─────────────────────────────────────┘
                                      │ aynı kaynaklı WebSocket  /ws/voice
                                      ▼
┌─────────────────────────────────────┴─────────────────────────────────────┐
│ ADA.API  (ASP.NET Core 8)                                                 │
│ ├── IVoiceAgent: sağlayıcı ayardan seçilir, Yerel → OpenAI yedeği         │
│ └── SATIŞ BEYNİ  (sağlayıcıdan bağımsız)                                  │
│     aşama makinesi · müşteri bağlamı · lead puanlama                      │
│     dört parçalı tek istem: kimlik · satış · davranış · uyum              │
└─────────────────┬───────────────────────────────────────┬─────────────────┘
                  │                                       │
           OpenAI │                                       │ Yerel (bulutsuz)
                  ▼                                       ▼
┌─────────────────┴─────────────────┐   ┌─────────────────┴─────────────────┐
│ OPENAI REALTIME API               │   │ Silero VAD   süreç içi (ONNX)     │
│ akışlı konuşma ⇄ konuşma          │   │ faster-whisper STT  (FastAPI)     │
│ satış verisi araç çağrısıyla      │   │ Ollama'da Qwen3 8B → JSON yanıt   │
│ update_sales_context              │   │ Piper TTS  (kalıcı süreç)         │
└───────────────────────────────────┘   └───────────────────────────────────┘
Tarayıcı İstemcisi01

AudioWorklet ile mikrofon sesini yakalar, PCM16 yanıtları çalar, hat aşamalarını ve tur başına gecikmeyi canlı gösterir

HTML/JS (derleme adımı yok)AudioWorkletWebSocket
Ada.Api02

Aynı kaynaklı WebSocket aktarımı, sağlık kontrolleri ve açılışta doğrulanan ayarlarla sağlayıcı seçimi; API anahtarları tarayıcıya hiç ulaşmaz

ASP.NET Core 8WebSocketsSerilog
Satış Beyni (Ada.Core)03

İki sağlayıcının ortak kullandığı aşama makinesi, müşteri bağlamı ve lead puanlama; dört parçalı tek bir sistem istemiyle yönetilir

C#xUnit
Yerel Yapay Zekâ Katmanı04

ONNX Runtime ile süreç içinde Silero VAD; faster-whisper ve kalıcı Piper süreci için FastAPI yan servisi; Ollama üzerinde Qwen3 8B

ONNX RuntimePython / FastAPIfaster-whisperPiperOllama
03 // TRADEOFF ANALYSIS

Mühendislik Kararları

Tek Satış Beyni, İki Ses Sağlayıcısı

Rationale

Satış davranışı hangi ses motorunun çalıştığına bağlı olmamalı; yoksa her sağlayıcı değişikliğinde tüm görüşme yeniden test edilmek zorunda kalır.

Değerlendirilen Ödünleşimler (Trade-offs)

Her sağlayıcı kendi protokolünü Ada'nın iç olay modeline çevirmek zorunda; buna karşılık satış mantığı bir kez test edilir ve tarayıcı istemcisi sağlayıcıdan bağımsız kalır.

Yerel Araç Çağrısı Yerine JSON Zarfı

Rationale

Küçük bir yerel modelin araç çağırma güvenilirliği garanti değildir.

Değerlendirilen Ödünleşimler (Trade-offs)

Yerel LLM her zaman {response, context_updates} biçiminde yanıt verir. Her alan kırpılır, uzunluğu sınırlanır ve doğrulanır; bozuk bir yanıt görüşmeyi sonlandırmak yerine düz konuşmaya düşer.

Model Seçimi Kıyaslama Testine Değil, Canlı Görüşmeye Göre

Rationale

qwen3:1.7b, senaryolu kıyaslamada qwen3:8b'den yaklaşık 2 kat hızlıydı.

Değerlendirilen Ödünleşimler (Trade-offs)

Canlı beş turluk görüşmede farklı sorulara aynı yanıtı verdi; bu yüzden varsayılan qwen3:8b kaldı: tur başına yaklaşık 2 sn daha yavaş ama tutarlı. qwen3:4b düşünme zincirini yanıta sızdırdı, phi3.5 ise bozuk Türkçe üretti.

04 // COMPLEXITY RESOLUTION

Teknik Zorluklar ve Çözümler

Sessizce Çalışmayan Ses Algılama

Silero VAD, gerçek konuşma için hiçbir hata vermeden sıfıra yakın konuşma olasılığı döndürüyordu.

↳ Engineered Solution

Güncel Silero ONNX sürümleri, her 512 örneklik çağrının başına önceki çağrıdan gelen 64 örneklik kayan bağlam penceresi eklenmesini bekliyor. Ada'nın .NET uygulaması bunu ekliyor ve resmî Python sarmalayıcısıyla karşılaştırılarak doğrulandı.

Yerel Hattın Tur Başına Gecikmesi

İlk yerel sürüm kararlı durumda tur başına yaklaşık 7,3 sn sürüyordu.

↳ Engineered Solution

Her cümlede yeni Piper süreci başlatmak yerine tek süreç açık tutuldu (TTS −%32,8), kıyaslama sonrası STT Whisper small'dan base'e geçirildi (−%58,8), aşama bazlı süre kayıtları ve canlı gecikme paneli eklendi. Kararlı durum tur başına yaklaşık 5,9 sn'ye indi (−%19).

05 // CODE & STACK

Teknoloji Yığını

Backend
  • • ASP.NET Core 8
  • • C#
  • • WebSockets
  • • Serilog
Bulut Ses
  • • OpenAI Realtime API
Yerel Ses
  • • Silero VAD
  • • faster-whisper
  • • Qwen3 8B (Ollama)
  • • Piper TTS
Yan Servis
  • • Python
  • • FastAPI
  • • uvicorn
Test
  • • xUnit

Kritik Uygulama Detayları

  • İki sağlayıcı için tek PCM16 24 kHz ikili veri ve JSON olay protokolü; yerel ajan yeniden örneklemeyi kendi içinde yapar
  • Yerel katman çalışmıyorsa otomatik Yerel → OpenAI geçişi; her zaman kayda geçer, asla sessiz olmaz
  • LLM, STT ve TTS durumunu ayrı ayrı bildiren /health/local-ai uç noktası
  • Ses hiçbir yerde saklanmaz; yerel STT sesi yalnızca tek bir cümle süresince bellekte tutulur
06 // PRODUCTION UI & SCREENSHOT EVIDENCE

Sistem Şeması & Ölçümler

Geliştirme ortamında ölçülen gerçek değerlerle sistem topolojisi.

https://ada.mbftech.internal
SYSTEM TOPOLOGY // VOICE PIPELINE
Ada Ses Hattı: İki Sağlayıcı, Tek Satış Beyni
Click to inspect full resolution

Ada Ses Hattı: İki Sağlayıcı, Tek Satış Beyni

6 çekirdekli CPU ve RX 580 üzerinde ölçülen yerel tur: STT 824 ms, LLM 4.324 ms, TTS 739 ms; kararlı durumda tur başına yaklaşık 5,9 sn.

FIGURE 01
07 // VERIFICATION & RESULTS

Sonuçlar ve Mevcut Durum

Teknik Önizleme (v0.2.2)

Uçtan uca Türkçe sesli satış görüşmeleri tarayıcıda iki sağlayıcıyla da çalışıyor. Telefon (SIP/Asterisk), CRM ve takvim entegrasyonu bu aşamada bilinçli olarak kapsam dışında.

↳ Yerel kararlı durum turu: ~5,9 sn (STT 824 ms · LLM 4.324 ms · TTS 739 ms)
↳ v0.2.1'e göre toplam tur gecikmesinde −%19
↳ Dört yerel LLM hız, JSON güvenilirliği ve Türkçe kalitesi açısından karşılaştırıldı

Kazanılan Mimari Deneyimler

  • 01.İş mantığını yapay zekâ sağlayıcısından bağımsız tutun; motor değiştirmek ürünü yeniden yazmak anlamına gelmemeli.
  • 02.Küçük yerel modellere güvenilmez, savunmacı ayrıştırma gerekir: modelin döndürdüğü her alanı doğrulayın.
  • 03.Gerçek görüşmelerde ölçün; kıyaslamadaki en hızlı model canlı görüşmede en iyisi değildi.