Sözlü Anlatımlı GPU Kiralama Rehberi
Diyelim ki elinde bir model var:
- LLM denemek istiyorsun,
- ComfyUI ile görsel/video üretmek istiyorsun
- ya da sadece “GPU’lu bir Linux makineye sahip olayım, PyTorch kodumu çalıştırayım” diyorsun.
Ama kendi bilgisayarında güçlü GPU yok. İşte Vast.ai tam burada devreye giriyor.
Vast.ai’yi kısaca şöyle düşünebilirsin:
Dünyanın farklı yerlerindeki GPU’ları bir pazar yeri (marketplace) üzerinden sana kiralayan bir platform. Farklı sağlayıcılar (host’lar) makinelerini listeliyor, sen de ihtiyacına göre en uygun GPU’yu seçip kiralıyorsun.
1. Vast.ai’yi kafanda oturt: Ne bu, kime yarar?
Basit düşünelim:
- Vast.ai bir bulut GPU pazaryeri:
- Sen “müşteri” tarafındasın.
- GPU sahibi olanlar “host” tarafında.
- Platform, bu ikisini eşleştiriyor ve sana şu konularda avantaj sağlıyor:
- Farklı GPU tipleri (4090, 5090, H100, H200, vs.)
- Farklı fiyatlar (daha ucuz / daha pahalı seçenekler)
- Farklı kiralama türleri (on-demand, interruptible, reserved)
2. Adım 1 – Hesap açma ve kredi ekleme
İlk iş: hesap açmak ve kredi eklemek.
2.1. Kayıt olma
- Vast.ai sitesine gir.
- Sağ üstteki Login / Sign up benzeri butona tıkla.
- Açılan login penceresinde “Create account” / “Sign up” kısmına geç.
- E-mail adresini yaz → mailine gelen doğrulama linkine tıkla.
- Hesabın açıldı.
2.2. Kredi kartı veya kripto ile bakiye ekleme
Vast.ai, GPU kiralamayı önceden yüklediğin kredi üzerinden yapıyor. Yani önce hesabına para yüklüyorsun, sonra bu bakiyeden harcıyorsun.
- Menüden Billing / Add Credits kısmına gir.
- Ödeme yöntemleri:
- Kredi kartı (Stripe altyapısı)
- Kripto: Coinbase veya Crypto.com seçenekleri
- Yüklemek istediğin tutarı seç → Add credit’e bas.
Önemli: Vast.ai’de klasik anlamda “free tier” yok. Küçük bir depozito (örneğin 5$ gibi) ile başlıyorsun, sonra saniye bazlı ücretlendirme ile GPU kiralıyorsun.
2.3. Otomatik top-up (bakiye azaldığında otomatik yükleme)
Billing ekranında bir de auto top-up / auto-debit mantığı var:
- Bakiye belirlediğin eşik değerin altına düşünce,
- Kayıtlı kredi kartından otomatik olarak kredi yükleyebiliyor.
Bu özellikle uzun süre çalışan işler için önemli:
Bakiye sıfıra inerse, instances durduruluyor. (Silinmiyor ama GPU sonucu kesiliyor.)
3. Adım 2 – Dokümantasyonu aç, kaybolma
Vast.ai kullanırken dokümanları yanında açık tutmak çok iyi bir alışkanlık:
- QuickStart: Adım adım hesap ve ilk instance kurulumunu özetliyor.
- FAQ: “On-demand vs interruptible”, “Jupyter & SSH” gibi sık sorulan soruları yanıtlıyor.
- Guides:
- Image generation (ComfyUI vs)
- Audio transcription (Whisper)
- Jupyter & SSH bağlantı detayları
Vast.ai’ye her girişinde:
- Bir sekmede cloud.vast.ai,
- Bir sekmede docs.vast.ai açık olsun.
4. Adım 3 – Template kavramını anlamak
Vast.ai’de her makineyi “boş Ubuntu” olarak başlatmıyorsun.
Genelde bir template seçiyorsun.
Kısaca:
Template = GPU’lu makineyi hangi yazılımlarla, hangi ayarlarla başlatacağın.
Teknik olarak, içine Docker imajı vs. sarılmış bir “hazır ortam” gibi düşünebilirsin.
4.1. Popüler template örnekleri (videodakiyle uyumlu)
Vast’in search ekranında, “Templates” kısmında şunları göreceksin:
- NVIDIA CUDA / Base Image
- Genel amaçlı GPU işleri: kendi framework’ünü kurarsın.
- PyTorch (Vast)
- Jupyter, PyTorch vb. hazır yüklü geliyor.
- Notebook açıp direkt kod yazmak istiyorsan ideal.
- Linux Desktop (Ubuntu desktop)
- Tarayıcı üzerinden tam ekran sanal masaüstü deneyimi.
- ComfyUI
- Görsel / video üretimi için hazır ComfyUI ortamı.
- Whisper
- Ses → yazı transkripsiyon işleri için hazırlanan template’ler.
Ne seçmelisin?
- “Ben model eğitmek, notebook’ta kod yazmak istiyorum” → PyTorch template.
- “Ben ComfyUI ile görsel/video üreteceğim” → ComfyUI template.
- “Grafik arayüz, VS Code, tarayıcı, vs. istiyorum” → Linux Desktop template.
5. Adım 4 – Disk boyutu seçmek (ve gizli maliyet)
Template’i seçtin, şimdi sırada storage (disk) boyutu var.
Arayüzde genelde şöyle görürsün:
- “Disk size” alanı → örneğin 128 GB seçebilirsin.
- Disk fiyatını görmek için ilgili kısımda hover yaptığında:
- GPU fiyatı / saat
- Storage fiyatı / saat veya gün
- Toplam tahmini fiyat
Çok kritik nokta:
Instance’ı “stop” etsen bile storage ücreti işlemeye devam ediyor.
Yani makine stop’ta kalsa da disk orada durduğu için para yazıyor.
Bu yüzden:
- “Ben bu makineyi artık kullanmayacağım” diyorsan → Destroy et ki disk ücreti de dursun.
6. Adım 5 – GPU seçmek ve ilk instance’ını kiralamak
Template ve disk boyutunu belirledikten sonra, işin eğlenceli kısmına geliyoruz: GPU seçmek.
Search ekranında:
- Farklı GPU listesini görürsün: 4090, 5090, H100, H200 NVL, vs.
- Her satır bir makine (host’un ilanı).
Senin yapacağın:
- Template’i seç.
- Disk boyutunu ayarla.
- Listeden bütçene ve ihtiyacına uygun GPU’yu seç.
- “Rent” / “Create Instance” tarzı butona bas.
Bu işlemden sonra instance:
- Instances sayfasında “loading” → “running” durumuna geçer.
7. Adım 6 – Instances sayfasını anlamak
Instances ekranı, kiraladığın tüm makinelerin kontrol paneli gibi:
Buradan:
- Instance durumunu görürsün (loading / running / stopped).
- IP ve portlarını görebilirsin.
- “Open” butonuyla portalı açarsın.
- CPU, GPU, RAM, disk, süre, fiyat gibi bilgileri görürsün.
- Start / Stop / Reboot / Destroy gibi aksiyonlar alırsın.
7.1. Instance portalı
Bir instance’ın yanındaki Open butonuna bastığında:
- O makinaya özel bir “portal” sayfası açılır.
- Portal, template’e göre değişen servisleri gösterir:
- ComfyUI varsa onun linki
- Jupyter varsa linki
- Terminal
- Linux Desktop varsa VNC / web desktop linki
- Loglar (başlangıç logları, hata mesajları vs.)
Bu sayfa, “ben bu makineyi nasıl kullanacağım?” sorusunun cevabı gibi.
8. Adım 7 – Linux Desktop, ComfyUI ve PyTorch örnekleri
Üç tip instance üzerinden gidelim.
8.1. Linux Desktop template
- Portal → Open Desktop / benzeri bir link olur.
- Tıkladığında tarayıcı içinde tam ekran bir Linux masaüstü açılır.
- Sanki uzak bir Ubuntu makineye oturmuşsun gibi:
- Terminal açabilirsin
- Dosya gezgini kullanabilirsin
- Tarayıcı açabilirsin
8.2. ComfyUI template
ComfyUI instance’ında:
- Portal → ComfyUI linkine tıklarsın.
- ComfyUI arayüzü açılır:
- Node tabanlı workflow ekranı
- Stable Diffusion vb. modeller için hazır pipeline’lar kurabileceğin bir yapı
- Vast.ai, bu template’te genelde bazı standart modelleri önceden indiriyor.
- Portal’daki Logs kısmında model indirme sürecini görebilirsin.
Bu ortamda yaptığın her inference / render işlemi GPU’yu kullanır → saatlik/saniyelik fiyata yansır.
8.3. PyTorch template (Jupyter odaklı)
PyTorch template seçtiğinde:
- Portal’da Jupyter linki olur.
- Jupyter açıldığında:
- Notebook oluşturup Python/PyTorch kodu yazabilirsin.
- Üstten New → Terminal diyerek terminal açabilir,
- Buradan paket kurabilir, git clone yapabilirsin.
Ek olarak:
- Jupyter içinde Upload butonuyla dosya yükleyebilirsin (küçük boyutlar için).
- Büyük dosyalar için Jupyter yerine:
- SCP/SFTP
- S3 / GCS gibi cloud storage
- Vast CLI ile dosya kopyalama öneriliyor.
9. Adım 8 – SSH anahtarları ve bağlantı (kısaca)
Portal’da genelde bir de SSH bölümü görürsün:
- Vast.ai, instance’lara SSH ile bağlanmanı da destekliyor.
- Her instance için ayrı public key ekleyebilir, silebilirsin.
Genel mantık:
- Kendi bilgisayarında bir SSH key üret (varsa geç).
- Vast.ai portalındaki Keys kısmına public key’i ekle.
- Verilen
ssh user@ip -p port komutu ile bağlan.
10. Adım 9 – Stop vs Destroy ve fatura mantığı
Şimdi kritik maliyet kısmına gelelim. Vast.ai, saniye bazlı fiyat kesiyor; ama iki temel kalem var:
- GPU ücreti (instance running iken)
- Storage ücreti (instance hesabındayken, stop olsa bile)
10.1. Stop (durdurmak)
- Instance’ı Stop edersen:
- GPU artık ücret yazmaz.
- Ama disk (storage) yazmaya devam eder.
- Avantaj:
- Instance’ı sonra tekrar Start edip kaldığın yerden devam edebilirsin.
10.2. Destroy (silmek)
- Destroy edersen:
- GPU ücreti zaten durur.
- Disk de silindiği için storage ücreti de kesilir.
- Dezavantaj:
- Makinedeki tüm verin gider (yedeğini aldıysan sorun yok).
“İşin bitti mi?
- Veriyi yedekle,
- Instance’ı Destroy et.
- Yoksa storage ücreti sessiz sessiz akmaya devam eder.”
Billing ekranından hangi instance’ın ne kadar saat/dakika çalıştığını ve günlük maliyetini görebilirsin.
11. Adım 10 – Filtreleri kullanarak doğru makineyi seçmek
Search ekranı ilk bakışta karışık gelebilir ama filtreleri anlayınca iş çok kolaylaşıyor.
Şu filtreleri özellikle bil:
- GPU sayısı: 1, 2, 4, 8, 16 GPU vs.
- VRAM miktarı: LLM veya büyük model için önemli.
- Fiyat: Saatlik/saniyelik fiyat aralığı.
- Bandwith / internet hızları: Büyük veri indirip yükleyeceksen önemli.
- CPU, RAM: Eğitime veya inference hızına etkisi var.
- Rental type:
- On-demand: Kesintisiz, daha stabil, genelde biraz daha pahalı.
- Interruptible: Daha ucuz olabilir; ama host istendiğinde işi kesebilir.
- Reserved: Uzun süreli kiralama; ön ödemeli, daha ucuz (indirimli).
- Max duration (makine en az ne kadar süre açık kalabilir)
- 3 ay, 1 ay vs. uzun işler için bu önemli.
Filtre + sort kombinasyonu:
- VRAM + Fiyat → “En ucuza en çok VRAM veren kim?”
- FLOPs / GPU sayısı → “En güçlü makineler hangileri?”
12. Özet Checklist
Son olarak, Vast.ai’ye her girişte kullanabileceğin mini bir check-list bırakıyorum:
- Hesabın ve bakiyen:
- Bakiye yeterli mi?
- Auto top-up ayarın var mı?
- Use case’in:
- PyTorch / Jupyter mi? ComfyUI mi? Linux Desktop mı?
- Ona uygun template’i seç.
- Disk boyutu:
- Model + veri + log’lar için kabaca kaç GB gerekiyor?
- Gereksiz büyük seçme, ama çok da küçük kalmasın.
- GPU seçimi:
- VRAM, fiyat, rental type (on-demand vs interruptible vs reserved) filtrele.
- Instance kullanımı:
- Portal’dan Jupyter/ComfyUI/Desktop’i aç.
- İşini yap, log’ları takip et.
- İş bitince:
- Önemli dosyaları indir/yedekle (SCP, cloud storage vs.).
- Instance’ı Destroy et ki storage ücreti akmasın.
Kaynakça
- Vast.ai Quickstart Guide – Get Started
Vast.ai Documentation, QuickStart – Launch your first GPU instance in minutes.
Erişim: docs.vast.ai/documentation/get-started/quickstart (docs.vast.ai)
- Vast.ai Templates (PyTorch, CUDA, ComfyUI, Linux Desktop vb.)
Vast.ai Console, Templates – Recommended pre-built images for common workloads.
Erişim: cloud.vast.ai/templates (cloud.vast.ai)
- Finding & Renting Instances on Vast.ai
Vast.ai Documentation, Finding & Renting Instances – Search, filter and configure offers.
Erişim: docs.vast.ai/documentation/instances/choosing/find-and-rent (docs.vast.ai)
- Instance Types: On-Demand, Interruptible, Reserved
Vast.ai Documentation, Instance Types – Understand On-demand, Reserved, and Interruptible instances.
Erişim: docs.vast.ai/documentation/instances/choosing/instance-types (docs.vast.ai)
- Pricing & Billing Model (Per-second billing, storage ücretleri)
Vast.ai Main Site, Pricing – Flexible, per-second billing for GPU and storage.
Erişim: vast.ai/pricing (Vast AI)
- FAQ Overview (On-demand vs Interruptible, Jupyter & SSH, Security)
Vast.ai Documentation, FAQ Overview – Platform basics, rental types, Jupyter & SSH.
Erişim: docs.vast.ai/documentation/reference/faq (docs.vast.ai)
- Image Generation Guide (Stable Diffusion / ComfyUI)
Vast.ai Documentation, Running Image Generation on Vast.ai – A Complete Guide.
Erişim: docs.vast.ai/image-generation (docs.vast.ai)
- Video Generation Guide: Using ComfyUI on Vast.ai
Vast.ai Documentation, Video Generation Guide: Using ComfyUI on Vast.ai.
Erişim: docs.vast.ai/video-generation (docs.vast.ai)
- Audio to Text: Whisper ASR on Vast.ai
- Vast.ai Use Case, Scalable GPU Audio Transcription with Whisper & ASR.
Erişim: vast.ai/use-cases/audio-to-text-transcription (Vast AI)
- Vast.ai Documentation, Whisper ASR Guide – Using Whisper templates on Vast.ai.
Erişim: docs.vast.ai/whisper-asr-guide (docs.vast.ai)
- Search Filters ve API (GPU adı, FLOPs, bandwidth, süre filtreleri)
Vast.ai Documentation, search offers – API reference for filtering GPU offers.
Erişim: docs.vast.ai/api-reference/search/search-offers (docs.vast.ai)
- Vast CLI & Cloud Sync / Data Transfer
- Vast.ai Documentation, CLI – Overview & Quickstart.
Erişim: vastai-80aa3a82.mintlify.app/cli/get-started (vastai-80aa3a82.mintlify.app)
- Vast.ai Documentation, CLI Commands – cloud_copy & Cloud Sync.
Erişim: docs.vast.ai/cli/commands (docs.vast.ai)
- Vast.ai Genel Dokümantasyon Ana Sayfası
Vast.ai Documentation, Vast.ai Documentation – Affordable GPU Cloud Marketplace.
Erişim: docs.vast.ai (docs.vast.ai)
Kaynakça: