Yapay zeka ajanları, son birkaç yılda dijital dünyanın en hızlı evrilen kategorilerinden biri haline geldi. Müşteri hizmetlerinden satış otomasyonuna, doküman analizden iç süreç asistanlarına kadar her sektörde "AI agent" tabanlı çözümler üretime alınıyor. Ancak bu tür projeleri başarıya götüren tek faktör model seçimi değildir; altta yatan sunucu, GPU, ağ, vektör veri tabanı ve depolama altyapısının doğru kurgulanması en az model kadar belirleyicidir. Yanlış altyapı kararı yüksek gecikme, beklenmedik maliyet, KVKK uyumsuzluğu veya ölçeklenememe gibi sorunlara yol açar. Bu rehberde AI ajanlarının çalışma modellerini, donanım gereksinimlerini, hangi hosting tipinin hangi senaryoya uyduğunu, maliyet yaklaşımlarını ve doğru karar için kritik kriterleri detaylı şekilde açıklıyoruz.
Yapay Zeka Ajanı (AI Agent) Nedir?
Yapay zeka ajanı, büyük dil modeli (LLM) tabanında çalışan, kullanıcı girdisini anlayan, dış araçları (API'ler, veri tabanları, hesaplama servisleri) çağırabilen ve bir hedefe ulaşmak için adım adım plan yapabilen yazılım sistemidir. Klasik chatbotlardan farklı olarak ajan; karar verir, araç kullanır, ara sonuçları değerlendirir ve gerekirse yeniden plan yapar. Tek seferde cevap üretmek yerine birden fazla LLM çağrısı ve araç kullanımı zincirleyebilir.
Yapay zeka ajanı, büyük dil modeli tabanında çalışan, araç kullanabilen ve hedefe ulaşmak için adım adım plan yapan otonom yazılım sistemidir.
AI Ajanlarının Çalıştırılma Modelleri
API Tabanlı (Bulut Sağlayıcı Üzerinden)
OpenAI, Anthropic, Google ve benzeri sağlayıcıların LLM API'lerini kullanan modeldir. Donanım yatırımı gerekmez; model sağlayıcı tarafında çalışır, sizin altyapınız yalnızca orkestrasyon, vektör veri tabanı, cache ve uygulama katmanını barındırır.
Uygundur: Hızlı prototip, düşük başlangıç maliyeti, küçük ve orta ölçekli trafik.
Dikkat edilmesi gerekenler: Veri sağlayıcıya gönderilir (KVKK ve hassas veri durumu değerlendirilmeli), API maliyeti trafiğe orantılı büyür, ağ gecikmesi kontrol edilemez, API kısıtlamaları iş sürekliliğini etkileyebilir.
Self-Hosted (Kendi Altyapınızda)
Açık kaynak veya lisanslı LLM'leri (örneğin Llama, Mistral, Qwen ailesinden modeller) kendi sunucularınızda çalıştırmak demektir. Tipik araçlar vLLM, Ollama, Text Generation Inference, llama.cpp gibi çalışma zamanlarıdır.
Uygundur: Veri egemenliği gerektiren senaryolar, yüksek hacimli kullanım, KVKK uyumu kritik kurumlar, gizli iç süreçleri otomatize eden ekipler.
Dikkat edilmesi gerekenler: GPU yatırımı veya GPU kiralama gerekir, model bakım ve güncellemeleri sizin sorumluluğunuzdadır, dağıtık ölçek planlaması daha karmaşıktır.
Hibrit (API + Yerel Bileşenler)
Hassas veri ve kişisel veri işleyen kısımları kendi altyapınızda, yüksek karmaşıklıkta dil işleme gerektiren bazı çağrıları ise dış API üzerinden çalıştırdığınız modeldir. Vektör veri tabanı, cache, uygulama sunucusu ve orkestrasyon yerel kalır; LLM çağrıları seçici olarak dış sağlayıcıya gider.
Uygundur: KVKK uyumu istenirken karmaşık LLM özelliklerine de ihtiyaç duyan kurumsal senaryolar.
AI Ajanları İçin Temel Bileşenler
Büyük Dil Modeli (LLM)
Ajanın akıl yürüten beynidir. Self-hosted senaryoda 7B, 13B, 70B parametreli açık ağırlık modeller yaygındır; API senaryosunda ise sağlayıcının sunduğu modeller kullanılır.
Vektör Veri Tabanı
Belgeleri, geçmiş konuşmaları ve bağlamı sayısal vektör temsiline çevirip hızla benzerlik arayan veri tabanıdır. PostgreSQL pgvector, Qdrant, Milvus, Weaviate gibi seçenekler yaygındır.
Bilgi Geri Çağırma Katmanı (RAG)
Ajanın doğru bağlamla cevap vermesini sağlayan retrieval augmented generation katmanıdır. Vektör veri tabanından ilgili belgeleri çeker, LLM'e bağlam olarak verir.
Araçlar ve Eylem Katmanı (Tool Use)
Ajanın dış dünyayla etkileşim kurmasını sağlayan araçlardır: e-posta gönderme, API çağrısı yapma, veri tabanı sorgulama, hesaplama, web araması.
Hafıza ve Oturum Yönetimi
Kullanıcının önceki konuşmalarını ve oturum durumunu saklayan katmandır. Genellikle Redis veya PostgreSQL üzerinde tutulur.
Orkestrasyon (LangChain, LangGraph, vb.)
Ajan akışını yöneten katmandır. Hangi adımın hangi sırayla, hangi araçla yapılacağını ve hatalı durumlarda nasıl davranılacağını tanımlar.
AI Ajanları İçin Donanım Gereksinimleri
GPU ve VRAM
Self-hosted LLM çalıştırmak için en kritik bileşendir. Modelin parametre sayısı ve nicemleme (quantization) seviyesi gereken VRAM'i belirler. Genel yaklaşım:
7B parametreli model, FP16: yaklaşık 14 GB VRAM.
7B parametreli model, 4-bit nicemleme: yaklaşık 4-6 GB VRAM.
13B parametreli model, FP16: yaklaşık 26 GB VRAM.
70B parametreli model, FP16: 140 GB üzeri VRAM (çoklu GPU gerektirir).
Modern AI sunucuları için NVIDIA H100, H200, A100, L40S, RTX 4090/5090 yaygın GPU tercihleridir. Çoklu GPU senaryolarında NVLink desteği önemlidir.
CPU
Modern bir AI uygulaması için yüksek çekirdek sayılı bir CPU, veri ön işleme, orkestrasyon, RAG retrieval ve eş zamanlı kullanıcı yönetimi için gereklidir. 16 ila 32 çekirdek tipik kurumsal başlangıç noktasıdır.
RAM
Ajan ve orkestrasyon katmanı için 32 GB başlangıç noktasıdır. Vektör veri tabanı boyutuna ve eş zamanlı oturum sayısına göre 64 GB ila 256 GB arası uygundur.
Depolama (NVMe SSD)
Model dosyaları (genellikle 10 ila 200 GB), vektör veri tabanı, log ve telemetri verisi için NVMe SSD tercih edilmelidir. Yüksek IOPS, RAG retrieval gecikmesini düşürür.
Ağ Bant Genişliği ve Gecikme
API tabanlı senaryoda dış sağlayıcıya çıkış gecikmesi kritik. Self-hosted senaryoda iç ağ trafiği (uygulama sunucusu, vektör DB, model sunucu arasında) düşük gecikmeli özel ağ üzerinde olmalıdır. Şubeler arası veya merkez-DC arası bağlantı varsa metro ethernet düşük gecikme avantajı sunar.
Inference ve Training: Hangisi Sizin Senaryonuz?
Inference, daha önce eğitilmiş bir modelin canlıda istek başına cevap üretmesidir. Üretim ortamı AI ajanlarının büyük çoğunluğu inference odaklıdır. Tipik gereksinim: bir veya birkaç güçlü GPU, yüksek RAM, NVMe SSD, düşük gecikmeli ağ.
Training (eğitim), yeni bir modelin sıfırdan veya mevcut bir modelin özelleştirilmiş veriyle ince ayar (fine-tuning) eğitilmesidir. Eğitim çok daha fazla GPU, çok daha fazla VRAM, yüksek hızlı dağıtık depolama ve uzun süre kaynak tahsisi gerektirir. Çoğu kurum için sürekli eğitim değil dönemsel ince ayar pratiktir.
Genel kural: Üretim AI ajanı kullanan kurumların çoğunluğu için inference odaklı altyapı yeterlidir; tam eğitim yalnızca model üretici kurumlar için gereklidir.
Hangi Hosting Tipi Sizin AI Ajanınız İçin Uygun?
Bulut Sunucu
Esnek vCPU, RAM ve disk ile başlangıç senaryoları, orkestrasyon katmanı, vektör veri tabanı barındırma ve API tabanlı AI ajanları için bulut sunucu uygundur. Trafik arttıkça kaynaklar dakikalar içinde ölçeklenir.
Uygundur: API tabanlı ajan, küçük ve orta ölçekli RAG, prototip, geliştirme ve test ortamları.
Sunucu Kiralama (Dedicated)
Fiziksel veya yüksek kapasiteli sanal sunucu kiralama; tutarlı yüksek performans, GPU ekleme imkanı, kurumsal SLA ve fiziksel kaynak izolasyonu sunar.
Uygundur: Self-hosted LLM, yüksek eş zamanlı kullanıcı sayısı, kurumsal SLA gerekleri, sürekli yoğun inference.
Sanal Veri Merkezi
vCPU, RAM, depolama ve ağ kaynaklarının bir bütün olarak yönetildiği kurumsal bulut çözümüdür. Çoklu sunucu, vektör DB, uygulama, cache ve orkestrasyon katmanlarını tek mantıksal çatı altında planlamak ister; KVKK uyumu önemli ve esnek ölçek gerekiyorsa idealdir.
Uygundur: Kurumsal AI projeleri, hassas veri senaryosu, çoklu mikroservis mimarisi, gelişmiş yedekleme ve felaket kurtarma ihtiyacı.
API Tabanlı Çözüm
Donanım barındırmadan, dış sağlayıcı API'lerini kullanarak ajan kurmak. Yerel altyapı yalnızca uygulama sunucusu, vektör veri tabanı ve orkestrasyon katmanını içerir; küçük bir bulut sunucu çoğu zaman yeterlidir.
Uygundur: Hızlı pazara çıkış, küçük ve orta ölçekli proje, hassas veri yoğunluğunun düşük olduğu senaryolar.
AI Ajanları Hosting Karşılaştırma Tablosu
| Kriter | Bulut Sunucu | Sunucu Kiralama | Sanal Veri Merkezi | API Tabanlı |
|---|---|---|---|---|
| Tipik kullanım | API tabanlı ajan, prototip | Self-hosted LLM, yüksek trafik | Çoklu katmanlı kurumsal AI | Donanımsız ajan |
| GPU desteği | Sınırlı veya ek hizmet | Tam destek | Tam destek | İlgili değil |
| Ölçeklenme | Esnek, anlık | Donanım kapasitesine bağlı | Kaynak havuzu içinde esnek | Sınırsız (sağlayıcı tarafında) |
| KVKK ve veri egemenliği | Türkiye lokasyonlu seçilirse uygun | Türkiye lokasyonlu seçilirse uygun | En güçlü kurumsal kontrol | Sağlayıcı politikasına bağlı |
| Maliyet modeli | Kullanım odaklı | Sabit aylık | Kaynak başına aylık | Token başına ücretlendirme |
| Yönetim yükü | Düşük | Orta | Orta | En düşük |
| İdeal başlangıç senaryosu | Küçük ekip, hızlı çıkış | Üretim trafiği, KVKK kritik | Kurumsal AI dönüşümü | MVP ve test |
AI ajanı projeniz için doğru altyapı kombinasyonundan emin değil misiniz? Uzman ekibimiz modelinizi, trafik beklentinizi ve KVKK gereksinimlerinizi birlikte değerlendirsin.
KVKK, Veri Egemenliği ve Türkiye Lokasyonu
AI ajanlarına müşteri verisi, çalışan verisi, finansal veri veya sağlık verisi giriyorsa KVKK uyumu kritik hale gelir. Self-hosted ve sanal veri merkezi senaryolarında verinin Türkiye lokasyonlu bir altyapıda işlenmesi yasal uyum sürecini sadeleştirir. API tabanlı çözümlerde sağlayıcının veri işleme politikası, veri saklama süreleri ve veri konumu net bilinmelidir.
Türkiye lokasyonlu bir veri merkezi seçmek; düşük gecikme, KVKK uyumu ve müşteri verisi şeffaflığı açısından üç önemli avantaj sunar.
AI Ajanlarının Maliyet Yaklaşımı 2026
| Kalem | Maliyet Yaklaşımı |
|---|---|
| API tabanlı LLM çağrısı | Token başına ücretlendirme, trafik kestirimine bağlı aylık fatura |
| Self-hosted GPU sunucu | GPU tipine ve sayısına bağlı sabit aylık |
| Bulut sunucu (uygulama, vektör DB) | vCPU, RAM, depolama kullanımına bağlı |
| Vektör veri tabanı | Veri hacmi ve sorgu sayısına bağlı |
| Cache (Redis) | RAM kapasitesine göre |
| Orkestrasyon ve uygulama sunucusu | Standart bulut sunucu maliyeti |
| Ağ trafiği | Aylık dahil paket veya kullanım başına |
| Yedekleme ve loglama | Depolama tabanlı |
Maliyet kontrolü için pratik öneriler: prompt'ları kısa tutun, cache katmanı kurun, RAG ile gereksiz token kullanımını azaltın, daha küçük modelleri ön süzgeç olarak kullanın, batch işleme imkanlarını değerlendirin.
AI Ajanı Kurulumunda Yapılan 7 Yaygın Hata
1. Model seçimini önceden netleştirmemek. Altyapı kararı modelin parametre sayısı ve nicemleme seviyesine bağlıdır.
2. RAG mimarisini geç düşünmek. Doğru bağlam olmadan ajan halüsinasyon yapar; vektör veri tabanı ve gömme stratejisi başlangıçta planlanmalıdır.
3. Hafıza ve oturum yönetimini ihmal etmek. Önceki konuşmaları hatırlamayan ajan kurumsal süreçlerde değer üretemez.
4. KVKK ve veri politikasını altyapı seçiminden sonra düşünmek. Yasal uyum altyapı planlamasının başlangıcında değerlendirilmelidir.
5. Gözlemlenebilirlik eksikliği. Logging, metrik ve izleme yoksa hatalı yanıtların kaynağını bulmak imkansız hale gelir.
6. Trafik tahminini düşük tutmak. Ajanlar tek istek için birden fazla LLM çağrısı yapar; token tüketimi kullanıcı sayısının doğrudan katı değildir.
7. Tek GPU sınırına güvenmek. Yüksek eş zamanlı kullanıcı senaryosunda tek GPU yetersiz kalır; yatay ölçek baştan planlanmalıdır.
DorukNet'in AI Ajanı Projeleri İçin Sunduğu Altyapı
DorukNet, Türkiye'nin köklü internet ve teknoloji markalarından biri olarak AI ajanlarının uygulama, vektör veri tabanı, orkestrasyon ve self-hosted LLM katmanları için altyapı çözümleri sunar. Kurumsal güvenlik tarafı için siber güvenlik çözümleri ve veri sürekliliği için tamamlayıcı hizmetler değerlendirilebilir.
Bulut sunucu. Esnek vCPU, RAM ve depolama ile uygulama, vektör DB ve orkestrasyon katmanları için ideal.
Sunucu kiralama. Yüksek performanslı ve tutarlı kaynak ihtiyaçları, self-hosted LLM ve dedicated inference için.
Veri merkezi ve sanal veri merkezi yaklaşımı. KVKK uyumu kritik kurumlar için Türkiye lokasyonlu, kurumsal SLA standardı. Fiziksel barındırma gereken senaryolarda sunucu barındırma veya rack kabin barındırma alternatif olarak değerlendirilebilir.
Yedekleme ve felaket kurtarma. Model dosyaları, vektör veri tabanı ve oturum verisi için düzenli yedek altyapısı.
Kurumsal SLA. Uptime garantisi ve hızlı müdahale ile üretim AI iş yükleri için güven katmanı.
Tek panelden yönetim. Domain, hosting, e-posta, SSL ve sunucu hizmetlerinin tamamı tek noktadan yönetilir.
7/24 Türkçe destek. Geliştirme ve üretim süreçlerinde yerel saatlerde uzman destek.
DorukNet; bulut sunucu, sunucu kiralama, sanal veri merkezi yaklaşımı, KVKK uyumlu Türkiye lokasyonlu altyapı, kurumsal SLA ve 7/24 Türkçe destekle AI ajanı projelerinin altyapı katmanını uçtan uca destekler.
Karar Anahtarı: AI Ajanı Altyapısı Nasıl Seçilir?
- Çalıştırma modeli: API, self-hosted veya hibrit (KVKK ve veri kararına göre)
- Donanım: Model parametre sayısı ve trafik beklentisi GPU ve RAM kararını belirler
- Hosting tipi: Prototip için bulut sunucu, üretim için sunucu kiralama, kurumsal mimari için sanal veri merkezi
- Vektör DB: Doğru veri tabanı seçimi (pgvector, Qdrant, Milvus, Weaviate)
- Hafıza: Redis kısa vadeli, PostgreSQL uzun vadeli
- Gözlemlenebilirlik: Tracing, metrik ve log katmanları üretim için zorunlu
- Lokasyon: KVKK uyumu için Türkiye lokasyonlu altyapı
- Destek: 7/24 Türkçe teknik destek
Sonuç: Doğru AI Altyapısını Nasıl Seçersiniz?
Doğru AI ajanı altyapısı seçimi; modelinizin nasıl çalışacağı (API, self-hosted, hibrit), trafik beklentiniz, KVKK gereksinimleriniz ve büyüme planınızla doğrudan ilişkilidir. API tabanlı ajan için küçük ve orta ölçekli bulut sunucu yeterlidir; self-hosted LLM için GPU destekli sunucu kiralama ve yüksek bant genişlikli iç ağ gereklidir; çoklu mikroservis ve KVKK kritik senaryolarda sanal veri merkezi mantığı en güçlü çözümdür. Hangi yolu seçerseniz seçin; vektör veri tabanı, cache, hafıza ve gözlemlenebilirlik katmanları altyapının ayrılmaz parçalarıdır. DorukNet, Türkiye lokasyonlu altyapısı, kurumsal SLA standardı, esnek ölçek seçenekleri ve 7/24 Türkçe teknik desteğiyle AI ajanı projenizin altyapı yolculuğunda yanınızdadır.
