Nvidia запустила чат-бота, который работает без интернета

Компания Nvidia, известная своими графическими процессорами, выпустила новый инструмент под названием Chat with RTX, который является перспективным чат-ботом на базе искусственного интеллекта

Фото: motionarray.com

После тестирования программы, издание The Verge оценило ее как не совсем совершенную, но все же полезную.

Что умеет чат-бот

Chat with RTX может обрабатывать видео на YouTube. Необходимо для этого ввести URL-адрес, и он сможет найти определенные упоминания в транскриптах или подытожить все видео в тексте.

За несколько секунд, уже были обнаружены неисправности при поиске сведений в транскрипциях видео, или же чат-бот использовал для поиска содержание другого ролика.

Chat with RTX также оказался полезным для обработки файлов различных форматов, включая TXT, PDF, DOC и DOCX. Утверждается, что системе Copilot от Microsoft сложно обрабатывать файлы, но чат-бот от Nvidia без проблем извлек всю необходимую информацию. Ответы также были почти мгновенными, без задержек, которые обычно наблюдаются при использовании облачных чат-ботов, таких как ChatGPT или Copilot.

Этот чат-бот также помог тестировщикам создать релевантный набор данных в Microsoft, который быстро обобщил всю стратегию компании.

Читайте також: Microsoft инвестирует в медиастартап и даст ему свой ИИ-бот: детали сделки

Технические характеристики

Chat with RTX основан на двух языковых моделях — Mistral и Llama 2. Этот инструмент работает непосредственно на вашем компьютере, поэтому нет необходимости подключаться к интернету. Главное условие — иметь операционную систему Windows, графический процессор RTX серий 30 или 40 с видеопамятью не менее 8 ГБ.

Что касается установки программы, это занимает около 30 минут и требует значительных ресурсов вашего ПК. Он весит почти 40 ГБ, а его экземпляр Python использует около 3 ГБ из 64 ГБ оперативной памяти. После запуска вы получаете доступ к Chat with RTX через браузер, а в фоновом режиме работает командная строка.

Важно отметить, что Chat with RTX пока является демоверсией для разработчиков и имеет свои ограничения и недостатки.

Скачать Chat with RTX можно бесплатно с официального сайта Nvidia.

Читайте також: Польский город вводит собственный стейблкоин

Ознакомьтесь с другими важными материалами:

ИИ создает документы для обхода проверок криптобирж

Сколько энергии будет потреблять ИИ в ближайшие годы — Morgan Stanley

Перспективы и регулирование ИИ в Украине: репортаж с IT Meets Tech