Lokalde Yapay Zeka AI Kullanmak
Kendi bilgisayarınızda yapay zeka kullanmak için OLLAMA, ANYTHINGLLM veya LMSTUDIO kullanılabilir. Bu uygulamalar kendi içinde birçok yapay zeka uygulaması barındırmaktadır.
https://ollama.com/ üzerinden OLLAMA programı bilgisayara indirilir. Bütün AI modelleri ollama tarafından desteklenir.
https://ollama.com/search (models) linkinden istenilen marka model LLM indirilebilir.
OLLAMA MODELS:
Örneğin https://ollama.com/library/deepseek-r1 linkinden:
ollama run deepseek-r1 (POPÜLER)
ollama run deepseek-r1:1.5b (Bu örnekte olduğu gibi r1 sonrasına parametre ekleyerek daha düşük parametreler kullanılabilir)
ollama run deepseek-r1:1.5b terminal cmd ekranına basılıp enter ile indirme işlemi başlatılır.
Farklı marka modeller de indirilip cmd terminalde kullanılabilir. Mustafa Dikmen ollama videosunu alttaki linkten izleyebilirsiniz, anythingllm hakkında bilgilerde içeriyor:
https://www.youtube.com/watch?v=-MSwiPRPvkE&t=80s
2- ANYTHINGLLM
AnythingLLM linkten indirilerek kullanılabilir: https://anythingllm.com/
Ollama'da olduğu gibi Anythingllm'de kendi içinde birçok ai model barındırmaktadır.
Modelinize ayarlar kısmından doküman, kod örneği vb. ekleyip AI eğitimi yapabilirsiniz.
Erhan Meydan anythingllm videosunda uygulamalı olarak bilgisayarınızda ai kullanımını öğrenebilirsiniz:
https://www.youtube.com/watch?v=KLiR1OdfciU&t=218
3- LMSTUDIO
LMSTUDIO linkten indirilerek kullanılabilir: https://lmstudio.ai/
Diğer ai uygulamalarında olduğu gibi LMSTUDIO'da kendi içinde birçok ai model barındırmaktadır.
Modelinize ayarlar kısmından doküman, kod örneği vb. ekleyip AI eğitimi yapabilirsiniz.
Efe Bozkurt Lmstudio videosunda uygulamalı olarak bilgisayarınızda ai kullanımını öğrenebilirsiniz:
https://www.youtube.com/watch?v=D9U4Utxn5kE
Not:
Eğer bilgisayarınızda 8gb ram varsa ai parametre seçiminiz 4b dan fazla olmamalı.
Eğer bilgisayarınızda 64gb ram varsa ai parametre seçiminiz 32b dan fazla olmamalı.
Yani lokalde ai işi yapmak istiyorsanız i9 işlemci, iyi bir ekran kartı (vram 12gb) ve en az 64 veya 128gb ramli bir bilgisayarınız olmalı.
Bu sayfadaki bilgiler zamanla güncelliğini kaybedebilir.
Yorumlar
Yorum Gönder