LM Studio ile yerel modeller
Bu bölümdeki her asistan bulutta bir öncü (frontier) model çalıştırır ve çoğu ücretlidir. LM Studio RhinoArtisan MCP'yi şunun üzerinde çalışan bir modelle denemenin yolu budur kendi makineniz: ücretsiz, çevrimdışı ve hiçbir şey bilgisayarınızdan çıkmaz.
Öncü modeller vs yerel modeller
Bir öncü model mevcut olan en büyük, en yetenekli modellerden biridir — Anthropic'in Claude'u, OpenAI'nin GPT'si, Google'ın Gemini'si. Büyük AI laboratuvarları tarafından hiçbir masaüstünün eşleşemeyeceği donanımlar üzerinde eğitilir ve çalıştırılırlar ve MCP'yi parlatan modeller bunlardır: uzun bir araç listesini takip eder, bir görevi tamamlamak için birkaç çağrıyı zincirler, hatalardan kurtulur ve mücevherat kelime dağarcığını söylenmeden anlarlar.
Bir yerel model daha küçük, açık ağırlıklı bir modeldir — Llama, Qwen, Mistral, Gemma veya gpt-oss aileleri — sıkıştırılmış (nicemlenmiş) böylece bir tüketici bilgisayarına sığar. Daha az parametre ve daha az hassasiyet daha az yetenek demektir: bir yerel model yanlış aracı seçebilir, bir argüman icat edebilir, birkaç adım sonra ipleri kaybedebilir veya uzun bir talimattan vazgeçebilir. En iyileri basit, tek adımlı istekleri iyi yönetir. Hiçbiri bir öncü modelle eşleşemez.
Parmak hesabı (kural): bir öncü modelin tek bir komutta yaptığı şeyi, bir yerel model birkaç kez gerektirebilir — veya hiç yapmayabilir.
Donanım
Yerel bir model tamamen makinenizde çalışır ve model ne kadar büyükse, araçları o kadar iyi takip eder ve o kadar fazla belleğe ihtiyaç duyar. Model belleğe sığmalıdır: Apple Silicon'da birleşik bellek, Windows'ta GPU belleği (VRAM). Eğer sığmazsa, LM Studio CPU'ya geri döner ve model kullanılamayacak kadar yavaşlar.
Genel bir uzlaşma olan 4-bit nicemlemede yaklaşık boyutlar:
| Model boyutu | İhtiyaç duyulan bellek | RhinoArtisan MCP ile ne beklenmeli |
|---|
| 7–9B parametre | ~5–6 GB | Basit tek adımlı görevler, sık hatalar |
| 14B | ~9–10 GB | Kısa sohbetler için kullanılabilir |
| 30B ve üzeri | 20 GB veya daha fazla | Yerel bir modelin bir öncü modele en çok yaklaştığı yer |
Nereye bakılmalı:
- LM Studio'nun sistem gereksinimleri — desteklenen çipler ve işletim sistemleri. Kısacası: macOS 14 veya daha yenisinde Apple Silicon (Intel Mac'ler desteklenmez), AVX2 veya ARM'li Windows x64, 16 GB RAM önerilir, Windows'ta en az 4 GB özel VRAM.
- LM Studio içindeki model sayfası — her indirme, indirmeden önce boyutunu ve makinenize sığıp sığmadığını gösterir.
- Bağlam (context) uzunluğu. RhinoArtisan şunları ortaya koyar 200'den fazla araç, ve sadece tanımları bile modelin bağlam penceresinden büyük bir dilim alır. Modeli, belleğinizin izin verdiği en büyük bağlamla yükleyin — 32k token veya daha fazlası — yoksa konuşma birkaç mesajdan sonra taşar. LM Studio'nun kendi belgeleri, Claude veya ChatGPT için oluşturulan MCP sunucularının “yerel modelinizi hızla yavaşlatabileceği” konusunda uyarır.
Kurulum
İhtiyacınız olanlar LM Studio 0.3.17 veya daha yenisi, şu rozete sahip bir model çekiç rozeti (doğal araç kullanımı — LM Studio bunu model tarayıcısında gösterir) ve RhinoArtisan 7 ile çalışan Rhino.
-
LM Studio'yu kurun ve çekiç rozeti olan bir model indirin. Makinenize uyan en büyüğünü seçin.
-
RhinoArtisan'ı tek tıkla kurulumla ekleyin: LM Studio'ya Ekle
Veya elle: açın Program sekmesini sağ kenar çubuğunda, seçin Kur → mcp.json Düzenle, ve ekleyin:
{
"mcpServers": {
"artisan": {
"url": "http://127.0.0.1:9280/mcp"
}
}
}
-
Modeli geniş bir bağlam uzunluğuyla yükleyin ve şunu açın artisan Program sekmesinden sohbetiniz için sunucuyu açın.
Farklı bir port mu kullanıyorsunuz? Eğer komutu çalıştırdığınızda Rhino başka bir adres yazdırdıysa ArtisanMcpStart Port=…, şunun yerine onu kullanın http://127.0.0.1:9280/mcp. Bkz. Portu değiştirme.
Deneyin
Rhino açıkken, sorun:
“1 karatlık yuvarlak bir elmas oluştur.”
LM Studio ilk seferde araç çağrısını onaylamanızı ister — bir kez veya her zaman izin verebilir ve bu izinleri daha sonra şunun altında yönetebilirsiniz Uygulama Ayarları → Araçlar & Entegrasyonlar. Taş Rhino görünüm pencerenizde belirir.
Ne beklenmeli
- Model hiçbir zaman bir araç çağırmıyor. Doğal araç desteği yok veya bağlam araç listesi için çok küçük. Çekiç rozetli ve daha geniş bağlamlı bir model deneyin.
- Yanlış aracı çağırıyor veya argümanlar icat ediyor. Bu, RhinoArtisan sorunu değil, modelin yeteneğidir. Daha büyük bir model yardımcı olur; eğer daha büyüğü sığmıyorsa, donanımınızın tavanına ulaşmışsınızdır.
- Her şey yavaş. Model GPU belleğine sığmıyor. Daha küçük bir model veya daha küçük bir nicemleme kullanın.
- Bir araç Rhino açıkken hata döndürüyor. Kontrol et Sorun giderme önce. Eğer aynı istek şuradan çalışıyorsa Claude Desktop ve yerel bir modelden başarısız oluyorsa, fark modeldir.