LLAMA Yapay Zeka Eğitiminin Elektronik Sektöründe Kullanılabilirliği - Fine Tuning Eğitimi Rehberi

 

2024 Yılını sonuna geldiğimiz bugünlerde teknoloji ile haşır neşir olan herkesin bir şekilde Chatgpt, Gemini vb. yapay zeka uygulamalarını kullandığını görüyoruz. Kimi zaman sorduğumuz sorulara verdiği cevaplar bizi memnun ederken bazen saçmaladı dediğimiz oldu. Yanlış veya saçma cevaplar vermesi genel bir yapısı olması nedeniyle ve verdiğimiz promptun net ve doğru yönlendirici olmaması nedeniyle olabiliyor. İngilizce sorularda daha doğru cevaplar verdiğide bir gerçek. Sonuçta bu ai uygulamalar henüz yeniler ve alınması gereken çok yol var.

Peki kendi sektörümüz olan elektronikte yapay zekayı en verimli ve doğru şekilde kullanmak için neler yapabiliriz. Öncelikle işin mutfağına girmek gerekiyor, ama çetrefilli bir yol  şimdilik. Tabi bu noktada ücretsiz ve açık kaynak kodlu LLMA AI kullanılabilir. Meta tarafından yayınlanan LLMA, Marc Zuckerberg'in hayatında yaptığı bu kadar hatadan (Seçimleri Cambridge Analytica eliyle manüpile etmek, kişisel verileri izinsiz kullanmak) sonra beni şaşırttı.

Özel bir alana yönelik AI eğitimi için iyi bir referans olabilecek bir videoyu youtube üzerinde yayın yapan Erhan Meydan tarafından yayınlandı. Bu videoda pdf veya başka formattaki bilgi içeren dokümanların ai'ye instruction, input ve response yapısı kurulduktan sonra paketlenmesi ve kullanılması anlatılıyor. Tabi paketleme öncesi doğru çalışıp çalışmadığının kontrol edileceği testlerde önemli. İşte bu noktada elektronikçilerin sürekli başvurduğu pdf formatındaki datasheetlerin ai uygulamasına öğretilip kullanılması mümkün görünüyor. 100'lerce sayfalık bir datasheetin veya elektronikle, yazılımla alakalı bir belgenin ai'ye öğretilmesi ve ai'nin bir asistan gibi kullanılabilmesi işleri hızlandırmanın yanısıra hata oranını da düşürecektir. Hatta pdf birleştirme yöntemiyle 10'larca elektronik malzeme datasheeti veya doküman birleştirilip paketleme de yapılabilir. Kendi işinize özel bilgi dokümanlarını da ai'ye öğretebilrsiniz. Hazırlanan bu paket kullanıcı tarafından kendi bilgisayarında da kullanılabiliyor.

AI Fine Tuning Eğitimi için kullanılacak bilgisayar ise dikkat edilmesi gereken bir konu. Bazı kullanıcılar video yorumlarında amd işlemcili bilgisayarlarda sorunlar yaşadıklarından bahsetmiş. Anladığım kadarıyla bu ai uygulamalar Intel ve M serisi işlemcilerde daha verimli çalışıyor. Ayrıca yüksek ram ve harddisk kapasitelerine ihtiyaç var. Kısaca sorunsuz render yapılabilen bir bilgisayar işe yarayacaktır. Erhan Meydan bütün testlerini M1 mac bilgisayar üzerinde gerçekleştirmiş ama windows kullanıcıları windowsun nazları ile  karşılaşabilir :-) tekrar tekrar kurulumlar ve hata gidermek için ilave çalışmalar gerekebilir.  Yinede AI alanında çalışma yapmak isteyenler için iyi bir başlangıç noktası olabilir. LLMA linux işletim sistemi ile de kullanılabiliyor.

AI Fine Tuning Eğitimi videosuna ve konu başlangıç dakikalarına alttaki linklerden ulaşılabilir.

https://youtu.be/nsl-1hb8Uxc?si=FFsXUUV0Ha3aWjLJ

00:00 Start 01:03 Unsloth ile Llama 3.1 Fine Tuning Eğitimi 01:58 Fine Tuning için Verileri Alpaca Formatında Hazırlamak 03:02 ChatGPT ile PDF verilerimi Alpaca Formatına Dönüştürme 04:41 Verileri Hugging Face'e Yüklemek 07:33 Unsloth ile Fine Tuning Eğitimi 12:34 Eğitilen Modeli GGUF Formatında Paketlemek 14:53 Modeli Ollama Üzerinden Kullanmak 16:11 Modeli LM Studio ile Kullanmak