311
Nvidia представила чат-бот, работающий без интернета
— Технологии&Авто
Компания-производитель графических процессоров Nvidia представила новый инструмент Chat with RTX, являющийся многообещающим чат-ботом с искусственным интеллектом. The Verge протестировал программу и назвал ее немного «сырой», но полезной.
Что умеет чат-бот?
Chat with RTX может анализировать видео на YouTube. Просто введите URL-адрес, и он сможет найти определенные упоминания в транскриптах или суммировать все видео в текстовом виде.
Это требует считанных секунд, однако пока не все идеально, например, были обнаружены неисправности при поиске сведений в транскрипциях видео, или же чат-бот использовал для поиска содержание другого ролика.
«Вместо того чтобы искать в заметках или сохраненном содержимом, пользователи могут просто вводить запросы», — пишет Nvidia в блоге. «Например, можно спросить: „Какой ресторан рекомендовал мой партнер во время пребывания в Лас-Вегасе?“, и Chat with RTX просканирует локальные файлы, на которые указывает пользователь, и ответит с контекстом».
Chat with RTX использует Mistral, а также Llama 2 от Meta, Nvidia предупреждает, что скачивание всех необходимых файлов сможет занять от 50 до 100 ГБ памяти, пишет TechCrunch.
Сейчас Chat with RTX работает с текстовыми форматами, PDF, .doc, .docx и .xml. Также можно получить ответы на основе информации из YouTube.
Nvidia признает, что на релевантность ответов программы может влиять целый ряд факторов, в том числе формулировка вопроса, производительность выбранной модели и размер набора данных для точной настройки.
Технические требования
Chat with RTX основан на двух языковых моделях — Mistral и Llama 2. Этот инструмент работает непосредственно на вашем компьютере, поэтому нет необходимости подключаться к интернету. Главное условие — иметь операционную систему Windows, графический процессор RTX серий 30 или 40 с видеопамятью не менее 8 ГБ.
Что касается установки программы, это длится около 30 минут и требует больших ресурсов вашего ПК. Она весит около 40 ГБ, а его экземпляр Python использует около 3 ГБ из 64 ГБ оперативной памяти. После запуска вы получаете доступ к Chat with RTX через браузер, а в фоновом режиме работает командная строка.
Важно отметить, что Chat with RTX является демоверсией для разработчиков и имеет свои ограничения и недостатки.
Скачать Chat with RTX можно бесплатно с официального сайта Nvidia.
По материалам:
Поделиться новостью
Также по теме
В каких регионах Украины купили больше всего автомобилей
Каждый второй украинец пользуется услугами «Дии»
Spotify запускает новую функцию, которая создает плейлисты по описанию пользователя
Zeekr показал семейный кроссовер мощностью более 1000 сил (фото)
Toyota отзывает около 162 тысяч авто
Только 20% компаний видят рост выручки благодаря ИИ, — исследование Deloitte
