Nvidia выпустила чат-бота Chat with RTX. Он работает только с видеокартами компании

Илья Сидоров avatar | 9
FavoriteLoading В закладки
Nvidia выпустила чат-бота Chat with RTX. Он работает только с видеокартами компании

Nvidia выпустила бета-версию своего чат-бота Chat with RTX.

Его главное преимущество заключается в том, что он работает локально на компьютере. Но для его запуска понадобится любая видеокарта Nvidia RTX 30-й или 40-й серии с минимум 8 ГБ видеопамяти.

Chat with RTX может делать расшифровки видео с YouTube, анализировать документы и выдавать краткое содержание, а также отвечать на вопросы.

Главным недостатком Chat with RTX является тот факт, что приложение очень тяжелое. На компьютер с Intel Core i9-14900K, видеокартой Nvidia RTX 4090 и 64 ГБ ОЗУ, приложение устанавливалось 30 минут и заняло 40 ГБ на диске. Также вместе с чат-ботом устанавливается Python, который в фоне потребляет 3 ГБ оперативной памяти.

После установки Chat with RTX работает в браузере, но все запросы обрабатывает на компьютере. Параллельно открывается командная строка, которая показывает коды ошибок.

Ещё Chat with RTX не запоминает контекст, поэтому не может поддерживать диалог. Но, вероятно, это исправят в будущих обновлениях. [The Verge]

1 Звезд2 Звезды3 Звезды4 Звезды5 Звезд (9 голосов, общий рейтинг: 4.56 из 5)
undefined
iPhones.ru
Nvidia выпустила бета-версию своего чат-бота Chat with RTX. Его главное преимущество заключается в том, что он работает локально на компьютере. Но для его запуска понадобится любая видеокарта Nvidia RTX 30-й или 40-й серии с минимум 8 ГБ видеопамяти. Chat with RTX может делать расшифровки видео с YouTube, анализировать документы и выдавать краткое содержание, а также...
Прокомментировать

🙈 Комментарии 9

  1. alexmaru avatar
    alexmaru13 февраля в 22:12
    0

    Нахера про это рассказывать тут? Для мака есть GPT4All, который так же использует Metal, и существует давным-давно.

    virtualinsanity avatar
    virtualinsanity14 февраля в 10:48
    1

    @alexmaru, Так это разные нейронки. GPT4Al еще и на CPU работает.

    eklektikos avatar
    eklektikos14 февраля в 10:50
    1

    @alexmaru, “тут”
    где тут? а о чем можно рассказывать?

    tinashe avatar
    tinashe14 февраля в 20:11
    0

    @alexmaru, то есть для вас не нормально то что «тут» рассказали о нейронке которая не имеет отношение к Apple устройствам а то что тут каждый раз публикуют хвастовство про жизнь в Канаде, Турции, США итд для вас нормально??? Это хотя бы около технологичная новость хоть и не про Apple. Ресурс давно скатился непонятно во что

  2. Dr.Plush avatar
    Dr.Plush13 февраля в 23:04
    1

    Это нормальное время установки для нейросеток которые качают с гита нужные файлы и модели качают

    Slater avatar
    Slater14 февраля в 1:07
    1

    @Dr.Plush, тсс.. чел пишет о том, о чем понятия не имеет))

  3. Andrey-lights avatar
    Andrey-lights14 февраля в 8:37
    0

    Ну и нахрен он такой всрался?)

    Andy Haskell avatar
    Andy Haskell14 февраля в 11:55
    0

    @Andrey-lights, локальный свой, без всяких утечек данных третьим лицам?

  4. Oleg R avatar
    Oleg R14 февраля в 12:05
    0

    “Работает локально на компьютере” и зачем-то льет гигабайты трафика в сеть. Знаем-знаем.

Вы должны авторизоваться или зарегистрироваться для комментирования.

Нашли орфографическую ошибку в новости?

Выделите ее мышью и нажмите Ctrl+Enter.

Как установить аватар в комментариях?

Ответ вот здесь