Nvidia выпустила бета-версию своего чат-бота Chat with RTX.
Его главное преимущество заключается в том, что он работает локально на компьютере. Но для его запуска понадобится любая видеокарта Nvidia RTX 30-й или 40-й серии с минимум 8 ГБ видеопамяти.
Chat with RTX может делать расшифровки видео с YouTube, анализировать документы и выдавать краткое содержание, а также отвечать на вопросы.
Главным недостатком Chat with RTX является тот факт, что приложение очень тяжелое. На компьютер с Intel Core i9-14900K, видеокартой Nvidia RTX 4090 и 64 ГБ ОЗУ, приложение устанавливалось 30 минут и заняло 40 ГБ на диске. Также вместе с чат-ботом устанавливается Python, который в фоне потребляет 3 ГБ оперативной памяти.
После установки Chat with RTX работает в браузере, но все запросы обрабатывает на компьютере. Параллельно открывается командная строка, которая показывает коды ошибок.
Ещё Chat with RTX не запоминает контекст, поэтому не может поддерживать диалог. Но, вероятно, это исправят в будущих обновлениях. [The Verge]
9 комментариев
Форум →Нахера про это рассказывать тут? Для мака есть GPT4All, который так же использует Metal, и существует давным-давно.
@alexmaru, Так это разные нейронки. GPT4Al еще и на CPU работает.
@alexmaru, “тут”
где тут? а о чем можно рассказывать?
@alexmaru, то есть для вас не нормально то что «тут» рассказали о нейронке которая не имеет отношение к Apple устройствам а то что тут каждый раз публикуют хвастовство про жизнь в Канаде, Турции, США итд для вас нормально??? Это хотя бы около технологичная новость хоть и не про Apple. Ресурс давно скатился непонятно во что
Это нормальное время установки для нейросеток которые качают с гита нужные файлы и модели качают
@Dr.Plush, тсс.. чел пишет о том, о чем понятия не имеет))
Ну и нахрен он такой всрался?)
@Andrey-lights, локальный свой, без всяких утечек данных третьим лицам?
“Работает локально на компьютере” и зачем-то льет гигабайты трафика в сеть. Знаем-знаем.
Нашли орфографическую ошибку в новости?
Выделите ее мышью и нажмите Ctrl+Enter.Как в macOS Sonoma удалить стандартную английскую раскладку клавиатуры
Как на iPad завершать приложения при помощи клавиатуры
Как убрать Skype, Viber, WhatsApp из истории звонков iPhone?
Экран iPhone X не включается, пока не завершится разговор
Как включить звуковой сигнал при включении и отключении iPhone
Почему на Mac время в ОС Windows отличается от времени macOS
Как скрыть новые кружочки сторис в Telegram
Почему удаленное ПО потребляет мобильный трафик на iPhone