أطلقت شركة إنفيديا Nvidia إصدارًا تجريبياً من Chat with RTX، وهو تطبيق يتيح تشغيل بوت دردشة يعمل بالذكاء الاصطناعي خاص.
ويمكن تزويد هذا البوت بمقاطع فيديو يوتيوب YouTube ومستندات خاصة لإنشاء ملخصات والحصول على الإجابات ذات الصلة بناءً على هذه البيانات.
سيتم تشغيل كل شيء محليًا عبر جهاز كمبيوتر يتضمن وحدة معالجة رسومات RTX 30 أو 40 سلسلة مع ذاكرة VRAM سعة 8 جيجابايت على الأقل.
يمكن لتطبيق Chat with RTX التعامل مع مقاطع فيديو YouTube، من خلال إدخال عنوان URL، كما يمكن من خلاله البحث في النصوص عن إشارات محددة أو تلخيص مقطع فيديو بأكمله.
على سبيل المثال، قام برنامج الدردشة الآلي بعمل جيد في تلخيص استراتيجية Xbox Game Pass الكاملة لشركة Microsoft من خلال المستندات الداخلية التي تم الكشف عنها في التجربة.
ولكن لعل المشكلة في Chat with RTX هو أنه يبدو وكأنه عرض تجريبي مبكر للمطورين.
تقوم الدردشة مع RTX بشكل أساسي بتثبيت خادم ويب ومثيل Python على جهاز الكمبيوتر الخاص بالمستخدم، والذي يعمل بعد ذلك على الاستفادة من نماذج Mistral أو Llama 2 للاستعلام عن البيانات التي تغذيها.
ثم يستخدم نوى Tensor من Nvidia على وحدة معالجة الرسومات RTX لتسريع الأمر.
يبلغ حجم التطبيق 40 جيجابايت تقريبًا، ويستهلك مثيل Python حوالي 3 جيجابايت من ذاكرة الوصول العشوائي.
بمجرد تشغيله، يمكنك الوصول إلى Chat with RTX من المتصفح، بينما يتم تشغيل موجه الأوامر في الخلفية لإخراج ما تتم معالجته وأي رموز خطأ.
