Yerelde çalışan AI agent nedir?
Yerelde çalışan AI agent, dil modelini bulut sunucuya değil senin cihazına çalıştırarak verinin makineden hiç çıkmamasını sağlayan ajandır. Llama 3.1, Qwen 2.5, Mistral gibi açık ağırlıklı modellerle çalışır. KVKK §9 yurt dışı aktarım meselesini doğrudan ortadan kaldırır; gecikme düşer, offline kullanım mümkün olur. Eğitim ve yayın gerektiğinde bulut eğitmenle hibrit kurgu mümkündür.
01Kimler için?
Yerel agent dört profili öne çıkartır:
- KVKK kapsamında veri işleyen kuruluş. Avukat, hekim, mali müşavir, sigorta, kamu — hassas veriyi makine dışına çıkartmamak zorunda.
- Saha çalışan profesyonel. İnternet aralıklı veya yavaş; offline çalışma şart.
- Latency-kritik iş. Sesli asistan, canlı kod tamamlama — bulut round-trip 200 ms+ gecikme yaratır.
- Maliyet hassasiyetinde yoğun kullanım. Aylık binlerce çağrı — yerel inference bedava.
02Nasıl çalışır?
Yerel ajan üç katmandan oluşur:
- Yerel inference. Modelin ağırlıkları cihazda; her sorgu burada işlenir. Apple Silicon (M1+), modern Windows GPU veya CUDA Linux yaygın.
- Yerel araç kullanımı. Dosya, e-posta, takvim, kendi yazdığın MCP server'lar — hepsi yerelde. Veri ajan-araç döngüsünde de makineden çıkmaz.
- Opsiyonel bulut eğitmen. Yetiştirme seansında ajanın zayıf tahminlerini büyük frontier model (Claude Opus, GPT-4) anonimleştirilmiş özetle eleştirir; ajanın tercih ve karar kuralları buna göre güncellenir.
Bu kurguda üretim verisi yerelde kalır; sadece eğitim örneği (PII maskelenmiş, özetlenmiş) seansta seçtiğin sağlayıcıya iner.
03Ilura ile nasıl yapılır?
Ilura'da "yerelde çalışan" sözünün en kısa hali: agent'ın iPhone'unda. Tekrarladığın roller için kişisel bir agent — bir iş arkadaşı — yetiştirirsin.
- Apple Intelligence cihaz-üstü. Agent'ın telefonunda düşünür; sorgu buluta gitmez. Model kurulumu, donanım hesabı, sunucu — hiçbiri sana düşmez.
- Veri iPhone'undan çıkmaz. Eğitim verin, hafıza, öğrettiğin her şey cihazında. KVKK §9 yurt dışı aktarım sorusu kökten küçülür.
- Yetiştir, öğret, yaşat. Tek cümleyle tanımlarsın, playbook'larla ve düzeltmelerinle (tercih, rutin, karar kuralı) öğretirsin, Siri ve Kısayollar üzerinden (desteklendiği yerde) çağırırsın. Sen çağırınca çalışır, çıktıyı sen onaylarsın; Ilura arka planda kendi başına başka uygulamaları yönetmez.
- Bulut bağımlılığı yok. Cihaz-üstü çalışmanın doğası gereği bulut kesintisi agent'ını durdurmaz.
04Sık sorulan sorular
Yerel ai agent bulut ajan'dan zayıf mı?
Yerel ajan için minimum donanım?
Internet olmadan çalışır mı?
Yerel ajan Türkçe ne kadar iyi?
Yerel ajan ChatGPT'den ucuz mu?
KVKK §9 yurt dışı aktarımı tamamen ortadan kalkıyor mu?
Yerel ajan ile cihaz-üstü (on-device) AI farkı?
05İlgili sayfalar
yanındayım — Ilura