Sohbet botları, NVIDIA GPU tabanlı bulut sunucuları tarafından desteklenen her gün dünya çapında milyonlarca kişi tarafından kullanılıyor. Şimdi, bu çığır açan araçlar tarafından desteklenen Windows PC’lere geliyor.
En az 8 GB video rastgele erişim belleği (VRAM) veya daha yüksek içeren bir NVIDIA GeForce RTX 30 Serisi GPU ile kullanıcılar, bir chatbot’u kendi içerikleriyle kişiselleştirebilir ve yerel içerikle hızlandırabilir.
RTX Gücünü Sohbetlere Katın
RAG ve TensorRT-LLM ile GeForce RTX destekli Windows PC’nizi bir sohbet yapay zeka merkezine dönüştürün. Yerel dosyaları veri kümesi olarak kullanarak Mistral veya Llama 2 gibi büyük dil modellerine bağlayın. RTX hızlandırması sayesinde anında ve bağlamsal yanıtlar elde edin.
-Reklam-
Artık notlarınızı veya kaydedilmiş içeriğinizi aramak için saatlerce uğraşmanıza gerek yok! RTX ile Sohbet, yerel dosyalarınızı tarayarak aradığınız bilgileri anında bulmanıza yardımcı olur.
Basitçe bir soru yazın:
- “Las Vegas’tayken eşimin önerdiği restoran neydi?”
- “Geçen yılki pazarlama planında hangi hedeflere ulaştık?”
- “O tarih projesi için hangi kaynakları kullandım?”
RTX ile Sohbet, size anında ve bağlamsal bir şekilde yanıt verir.
Desteklenen Dosya Biçimleri:
- .txt
- .doc / .docx
- .xml
Uygulamayı kullanmak için:
- Uygulamayı içeren klasöre .txt, .pdf, .doc / .docx ve .xml dosyalarınızı ekleyin.
- Uygulamayı açın.
- Aracınız otomatik olarak dosyaları tarayacak ve kitaplığına yükleyecektir.
- Sorularınızı sormaya başlayın!
YouTube Entegrasyonu:
RTX ile Sohbet, YouTube videolarından ve oynatma listelerinden de bilgi içerebilir. Bir videonun URL’sini ekleyin ve sohbet botunuza bağlamsal sorgular için bu bilgileri kullanın.
Örnekler:
- Favori influencer’ınızın videolarından seyahat önerileri alın.
- En iyi eğitim kaynaklarına dayalı hızlı eğitimler ve nasıl yapılır kılavuzları edinin.
RTX ile Sohbet ile şunları yapabilirsiniz:
- Zaman kazanın ve aradığınız bilgileri daha hızlı bulun.
- Daha verimli olun ve notlarınızı ve kayıtlarınızı daha iyi organize edin.
- Bilgilerinizi daha kolay erişilebilir hale getirin.
- Sohbet botlarınızı daha güçlü ve bilgilendirici hale getirin.
RTX ile Sohbet, Windows RTX PC’lerde ve iş istasyonlarında yerel olarak çalıştığı için anında sonuçlar sunar. Kullanıcının verileri cihazdan hiç çıkmaz, bu da gizlilik ve güvenlik açısından büyük bir avantajdır.
Bulut tabanlı LLM hizmetlerinin aksine, RTX ile Sohbet:
- Hızlıdır: Yerel işlemleme sayesinde gecikme süresi minimumdur.
- Güvenlidir: Hassas veriler cihazda kalır ve üçüncü taraflara aktarılmaz.
- Yereldir: İnternet bağlantısına ihtiyaç duymadan çalışır.
Minimum Sistem Gereksinimleri:
- GPU: GeForce RTX 30 Serisi (en az 8 GB VRAM)
- İşletim Sistemi: Windows 10 veya 11
- NVIDIA Sürücüsü: En son sürüm
Bilinen Sorunlar:
- Farklı bir kurulum dizini seçildiğinde kurulum başarısız olabilir. Çözüm: Varsayılan kurulum dizinini kullanın (“C:\Users<kullanıcı adı>\AppData\Local\NVIDIA\ChatWithRTX”).
RTX ile LLM Tabanlı Uygulamaların Gücünü Keşfedin
RTX ile Sohbet, RTX GPU’ların LLM’leri (Büyük Dil Modelleri) nasıl hızlandırabileceğinin mükemmel bir örneğidir. Bu uygulama, GitHub’da bulunan TensorRT-LLM RAG geliştirici referans projesi kullanılarak geliştirilmiştir.
Geliştiricilere:
- TensorRT-LLM tarafından hızlandırılan RTX için kendi RAG tabanlı uygulamalarınızı oluşturmak ve dağıtmak için referans projemizi kullanın.
- LLM tabanlı uygulamalar geliştirme hakkında daha fazla bilgi edinin.
NVIDIA GTC’ye Katılın:
- 23 Şubat Cuma günü NVIDIA GTC’de devam eden geliştirici yarışmasına katılın ve üretken AI destekli bir Windows uygulaması veya NVIDIA RTX’te NVIDIA Üretken AI sunarak GeForce RTX 4090 GPU gibi ödüller kazanma şansı yakalayın.
