CCB
AI Solutions
Başarı Hikayelerine DönSağlık AI

Üretim Seviyesi Terapötik AI Platformu

Çok fazlı terapötik ajanlar, gerçek zamanlı kriz tespiti ve müşterinin AWS altyapısına kurulu tam veri sahipliği ile HIPAA uyumlu AI mental sağlık platformu.

~1.9s
İlk Token Yanıt
<850ms
Kriz Tespiti
%90
Maliyet Azaltma

Zorluk

Kritik Gereksinimler:

  • HIPAA Uyumluluğu: Sağlık verileri sıkı gizlilik ve güvenlik kontrolleri gerektiriyor
  • Gerçek Zamanlı Kriz Tespiti: İntihar düşüncelerini <1 saniyede tespit etmeli
  • Çok Fazlı Terapi: Kullanıcının duygusal durumuna göre konuşma stilini uyarlamalı (Vent → Reflect → Reframe)
  • Düşük Gecikme: Akış yanıtları doğal hissettirmeli (<2s ilk token)
  • Veri Sahipliği: Hasta verileri kontrollü ortamda kalmalı

Çözümümüz

Tamamen müşterinin AWS altyapısına deploy edilen üretim seviyesi terapötik AI platformu geliştirdik. Sistem, filtreleme işlemlerini (kriz tespiti, faz geçişleri) ajan mimarisiyle (duygu tespiti, pattern tanıma) ayıran bir hibrit mimari olarak tasarlandı.

Teknik Mimari

Çok Fazlı Ajan Sistemi

  • • Vent Fazı: Empatik dinleme, onaylama
  • • Reflect Fazı: Pattern tanıma, farkındalık
  • • Reframe Fazı: Perspektif değişimi, alternatifler
  • • Otomatik faz geçiş tespiti

İki Katmanlı Kriz Tespiti

  • • Katman 1: Regex patternleri (<50ms)
  • • Katman 2: LLM bağlamsal analiz (~800ms)
  • • 35+ kriz patterni (intihar, kendine zarar)
  • • Normal akışı engeller, kaynak sağlar

Hibrit Prompt İşleyici

  • • Kritik Yol: Kategori + Faz (engeller)
  • • Arka Plan: Duygular + Patternler (paralel)
  • • %38 gecikme iyileştirmesi
  • • Engellemeden zenginleştirme

Çift Depolama Mimarisi

  • • Redis: Oturum durumu (24s TTL, <1ms)
  • • DynamoDB: Konuşma geçmişi (kalıcı)
  • • Konuşmalar arası pattern takibi
  • • Fire-and-forget yazma (engellemeden)

Teknoloji Yığını

Çekirdek Framework

  • Python 3.12 + FastAPI (async/await)
  • LangChain (ajan orkestrasyon)
  • Pydantic (tip güvenli şemalar)

LLM Sağlayıcılar

  • AWS Bedrock (Haiku 4.5, Sonnet 4.5)
  • Anthropic Claude (yedek)
  • Prompt caching (%90 maliyet azaltma)

Depolama (Müşteri AWS)

  • Redis (ElastiCache) - Oturum durumu
  • DynamoDB - Konuşma geçmişi
  • Tüm veriler müşteri AWS hesabında kalıyor

Ana Özellikler

  • Server-Sent Events (SSE) streaming
  • CBT pattern tanıma (10 çarpıtma)
  • Çoklu thread konuşma desteği

Sonuçlar ve Etki

~1.9s
İlk Token Yanıt
Doğal his için 2s hedefinin altında
<850ms
Kriz Tespiti
1s hedefinin altında, hayat kurtaran hız
%100
Fonksiyon Çağrı Başarısı
Yapılandırılmış çıktı güvenilirliği

Önemli Başarılar

Prompt Caching ile %90 Maliyet Azaltma

Sistem promptlarını önbelleğe alarak aylık maliyetleri $500'dan ~$50'ye düşürdü (1.000 günlük kullanıcıda). Üretim iş yüklerinde %90 isabet oranı.

Hibrit Mimari ile %38 Gecikme İyileştirmesi

Terapötik yanıtı streaming yaparken arka plan analizini (duygular, patternler) paralel çalıştırarak İlk Byte'a Süreyi 7.5s'den 4.6s'ye düşürdü.

Tam Veri Sahipliği ve HIPAA Uyumluluğu

Tüm hasta verileri müşterinin AWS altyapısında depolanıyor (Redis ElastiCache + DynamoDB). Sıfır veri sızıntısı. HIPAA uyumluluk denetimleri için hazır.

Akıllı Çok Fazlı Terapi Sistemi

Kullanıcının duygusal durumuna göre konuşma stilini otomatik olarak uyarlıyor. Faz geçişlerini (Vent → Reflect → Reframe) %75 güven eşiğiyle tespit ediyor.

Konuşmalar Arası CBT Pattern Takibi

10 bilişsel çarpıtmayı (felaketleştirme, düşünce okuma, vb.) tespit ediyor ve zamanla sıklığını takip ediyor. Kullanıcıların tekrarlayan patternleri fark etmelerine yardımcı oluyor.

Veri Sahipliği: Kritik Faktörlerden Birisi

Hasta verilerini paylaşılan altyapıda depolayan SaaS mental sağlık platformlarının aksine, bu platform tamamen müşterinin AWS hesabı içinde deploy edildi. Bu şu anlama geliyor:

  • Hasta verileri asla ortamlarından çıkmıyor - Redis + DynamoDB'lerinde saklanıyor
  • HIPAA uyumluluğu hazır - üçüncü taraf veri paylaşımı endişesi yok
  • Müşteri tüm altyapının sahibi - veri saklama ve silme üzerinde tam kontrol
  • Vendor lock-in yok - Tüm sistem müşteri altyapısında kalıyor

Kendi Altyapınızda Kurulu AI Sistemlerine mi İhtiyacınız Var?

Tamamen AWS hesabınıza, GCP projenize veya Azure aboneliğinize deploy edilen üretim seviyesi AI çözümleri geliştiriyoruz. Verileriniz sizin kalır.

Projenizi GörüşünDaha Fazla Başarı Hikayesi