Windows 11 PC'ye LLaMA 3 nasıl kurulur?

Llama 3, Meta'nın en son geniş dil modelidir. Sorularınızı çözmek, okul ödevleriniz ve projelerinizle ilgili yardım almak vb. gibi çeşitli amaçlar için kullanabilirsiniz. Llama 3'ü Windows 11 makinenize yerel olarak dağıtmak, onu istediğiniz zaman, hatta internet erişiminiz olmasa bile kullanmanıza yardımcı olacaktır. Bu makale size gösterir Windows 11 PC'ye Llama 3 nasıl kurulur .

Windows 11 PC'ye Llama 3 nasıl kurulur

Llama 3'ü Python aracılığıyla Windows 11 PC'ye yüklemek, teknik beceri ve bilgi gerektirir. Ancak bazı alternatif yöntemler, Llama 3'ü Windows 11 makinenize yerel olarak dağıtmanıza olanak tanır. Size bu yöntemleri göstereceğim.

Llama 3'ü Windows 11 PC'nize yüklemek için Komut İsteminde bazı komutları çalıştırmanız gerekir. Ancak bu yalnızca komut satırı sürümünü kullanmanıza izin verecektir. Web kullanıcı arayüzünü kullanmak istiyorsanız daha ileri adımlar atmanız gerekir. Size bu iki yöntemi de göstereceğim.

Llama 3'ü Windows 11 PC'ye CMD aracılığıyla dağıtın

Llama 3'ü Windows 11 PC'nize dağıtmak için Ollama'yı Windows makinenize yüklemeniz gerekir. Aynı adımlar aşağıdaki gibidir:

1. Ziyaret etmek Ollama'nın resmi web sitesi .
2. üzerine tıklayın İndirmek düğmesine basın ve ardından seçin Windows .
3. Şimdi, Windows için indirin Exe dosyasını PC'nize kaydetmek için düğmeye basın.
4. Ollama’yı makinenize kurmak için exe dosyasını çalıştırın.

Ollama cihazınıza yüklendikten sonra bilgisayarınızı yeniden başlatın. Arka planda çalışıyor olması gerekir. Bunu Sistem Tepsinizde görebilirsiniz. Şimdi Ollama web sitesindeki Modeller seçeneğine tıklayın. Farklı modellerini göreceksiniz.

Llama 3.1 aşağıdaki üç parametrede mevcuttur:

Windows 10 için ücretsiz film uygulamaları

• 8B
• 70B
• 405B

Sonuncusu en büyük parametredir ve açıkçası düşük seviyeli bir bilgisayarda çalıştırılamaz. Llama 3.2 aşağıdaki iki parametreye sahiptir:

ssd'nin Windows 10'da başarısız olup olmadığı nasıl anlaşılır

• 1B
• 3B

Bilgisayarınıza yüklemek istediğiniz Llama sürümüne tıklayın. Örneğin Llama 3.2'yi kurmak istiyorsanız Llama 3.2'ye tıklayın. Açılır menüden yüklemek istediğiniz parametreyi seçebilirsiniz. Bundan sonra yanındaki komutu kopyalayıp Komut istemine yapıştırın.

Size kolaylık sağlamak için her iki komutu da Llama 3.2 modeli için yazdım. Llama 3.2 3B modelini yüklemek için aşağıdaki komutu çalıştırın:

ollama run llama3.2:3b

Llama 3.2 1B modelini yüklemek için aşağıdaki komutu kullanın:

ollama run llama3.2:1b

Komut İstemi'ni açın, yukarıda belirtilen komutlardan herhangi birini yazın (gereksinimlerinize göre) ve tuşuna basın. Girmek . Gerekli dosyaların indirilmesi biraz zaman alacaktır. İndirme süresi aynı zamanda internet bağlantı hızınıza da bağlı olacaktır. Tamamlandıktan sonra göreceksiniz başarı Komut İstemi'ndeki mesaj.

Şimdi Llama 3.2 modelini kullanmak için mesajınızı yazın. Llama 3.1 modelini kurmak istiyorsanız Ollama web sitesinde bulunan komutları kullanın.

Komut İstemi'ni bir sonraki başlatışınızda, bilgisayarınızda Llama 3.1 veya 3.2'yi çalıştırmak için aynı komutu kullanın.

Llama 3'ü CMD aracılığıyla kurmanın bir dezavantajı vardır. Sohbet geçmişinizi kaydetmez. Ancak bunu yerel ana makineye dağıtırsanız sohbet geçmişiniz kaydedilir ve daha iyi bir Kullanıcı Arayüzü elde edersiniz. Bir sonraki yöntem bunun nasıl yapılacağını gösterir.

Windows 11'de Llama 3 Web Kullanıcı Arayüzünü dağıtma

Llama 3'ü bir web tarayıcısında kullanmak, daha iyi bir kullanıcı arayüzü sağlar ve ayrıca CMD penceresinde kullanmaya kıyasla sohbet geçmişini kaydeder. Size Llama 3'ü web tarayıcınızda nasıl dağıtacağınızı göstereceğim.

Web tarayıcınızda Llama 3'ü kullanabilmeniz için sisteminizde Ollama ve Docker aracılığıyla Llama 3'ün kurulu olması gerekmektedir. Henüz Llama 3'ü yüklemediyseniz Ollama'yı kullanarak yükleyin (yukarıda açıklandığı gibi). Şimdi Docker'ı buradan indirip yükleyin. resmi web sitesi .

Docker'ı yükledikten sonra başlatın ve bir hesap oluşturmak için kaydolun. Siz kaydoluncaya kadar Docker çalışmayacaktır. Kaydolduktan sonra Docker uygulamasında hesabınızda oturum açın. Docker'ı Sistem Tepsisine Küçültün. Arka planda Docker ve Ollama uygulamaları çalışıyor olmalıdır. Aksi takdirde Llama 3'ü web tarayıcınızda kullanamazsınız.

Şimdi Komut İstemi'ni açın, aşağıdaki komutu kopyalayın ve Komut İstemi'ne yapıştırın:

xbox windows 10'da nasıl arkadaş eklenir

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Yukarıdaki komutun gerekli kaynakları indirmesi biraz zaman alacaktır. Bu nedenle biraz sabırlı olun. Komutun tamamlanmasının ardından Docker'ı açın ve Konteynerler sol taraftan bölüm. 3000:8080 bağlantı noktasıyla otomatik olarak bir konteyner oluşturulduğunu göreceksiniz.

Windows 10'un başlangıçta son açık uygulamaları yeniden açması nasıl engellenir

3000:8080 bağlantı noktasına tıklayın. Bu, varsayılan web tarayıcınızda yeni bir sekme açacaktır. Şimdi Llama 3'ü web tarayıcınızda kullanmak için kaydolun ve oturum açın. Adres çubuğunu görürseniz göreceksiniz yerel ana bilgisayar:3000 bu, Llama 3'ün bilgisayarınızda yerel olarak barındırıldığı anlamına gelir. İnternet bağlantısı olmadan kullanabilirsiniz.

Açılır menüden Lama sohbet modelinizi seçin. Eğer Llama 3'ün daha fazla sohbet modelini eklemek istiyorsanız Ollama üzerinden gerekli komutları kullanarak yüklemeniz gerekmektedir. Bundan sonra model otomatik olarak web tarayıcınızda mevcut olacaktır.

Tüm sohbet geçmişiniz kaydedilecek ve sol taraftan erişilebilir olacaktır. Çıkmak istediğinizde web tarayıcınızda oturumunuzu kapatın. Bundan sonra Docker uygulamasını açın ve Durmak Docker'ı durdurmak için düğmeye basın. Artık Docker'ı kapatabilirsiniz.

Bir dahaki sefere web tarayıcınızda Llama 3'ü kullanmak istediğinizde Ollama ve Docker'ı başlatın, birkaç dakika bekleyin ve ardından localhost sunucusunu web tarayıcınızda açmak için Docker kapsayıcısındaki bağlantı noktasına tıklayın. Şimdi hesabınızda oturum açın ve Llama 3'ü kullanmaya başlayın.

Umarım bu yardımcı olur.

Llama 3 Windows'ta çalışabilir mi?

Bilgisayarınızın donanım yapılandırmasına bağlı olarak sisteminizde Llama 3'ü çalıştırabilirsiniz. 1B modeli en hafif olanıdır. Komut istemi aracılığıyla sisteminize yükleyebilir ve çalıştırabilirsiniz.

Llama 3 için ne kadar RAM'e ihtiyacım var?

Llama 3'ün en hafif modeli Llama 3.2 1B'dir. Sisteminizin Llama 3.2 1B modelini çalıştırabilmesi için 16 GB RAM'e sahip olması gerekmektedir. Buna ek olarak sisteminizin ağır hizmet tipi bir GPU'ya da sahip olması gerekir. Llama 3'ün daha yüksek modelleri daha fazla sistem kaynağı gerektirir.

Sonrakini oku : Leonardo Phoenix AI nasıl kullanılır? .