265
Nvidia представила чат-бот, работающий без интернета
— Технологии&Авто
Компания-производитель графических процессоров Nvidia представила новый инструмент Chat with RTX, являющийся многообещающим чат-ботом с искусственным интеллектом. The Verge протестировал программу и назвал ее немного «сырой», но полезной.
Что умеет чат-бот?
Chat with RTX может анализировать видео на YouTube. Просто введите URL-адрес, и он сможет найти определенные упоминания в транскриптах или суммировать все видео в текстовом виде.
Это требует считанных секунд, однако пока не все идеально, например, были обнаружены неисправности при поиске сведений в транскрипциях видео, или же чат-бот использовал для поиска содержание другого ролика.
«Вместо того чтобы искать в заметках или сохраненном содержимом, пользователи могут просто вводить запросы», — пишет Nvidia в блоге. «Например, можно спросить: „Какой ресторан рекомендовал мой партнер во время пребывания в Лас-Вегасе?“, и Chat with RTX просканирует локальные файлы, на которые указывает пользователь, и ответит с контекстом».
Chat with RTX использует Mistral, а также Llama 2 от Meta, Nvidia предупреждает, что скачивание всех необходимых файлов сможет занять от 50 до 100 ГБ памяти, пишет TechCrunch.
Сейчас Chat with RTX работает с текстовыми форматами, PDF, .doc, .docx и .xml. Также можно получить ответы на основе информации из YouTube.
Nvidia признает, что на релевантность ответов программы может влиять целый ряд факторов, в том числе формулировка вопроса, производительность выбранной модели и размер набора данных для точной настройки.
Технические требования
Chat with RTX основан на двух языковых моделях — Mistral и Llama 2. Этот инструмент работает непосредственно на вашем компьютере, поэтому нет необходимости подключаться к интернету. Главное условие — иметь операционную систему Windows, графический процессор RTX серий 30 или 40 с видеопамятью не менее 8 ГБ.
Что касается установки программы, это длится около 30 минут и требует больших ресурсов вашего ПК. Она весит около 40 ГБ, а его экземпляр Python использует около 3 ГБ из 64 ГБ оперативной памяти. После запуска вы получаете доступ к Chat with RTX через браузер, а в фоновом режиме работает командная строка.
Важно отметить, что Chat with RTX является демоверсией для разработчиков и имеет свои ограничения и недостатки.
Скачать Chat with RTX можно бесплатно с официального сайта Nvidia.
По материалам: Ain.Ua
Поделиться новостью
