Группа разработчиков создала чат-бот MLC LLM, который не требует интернета и работает на любом устройстве.
Для установки чат-бота на iOS потребуется приложение TestFlight. Скачать MLC LLM можно по ссылке, но установить его смогут только 9 тысяч пользователей.
Разработчики заявляют, что приложение работает на любом iPhone, iPad и iPod touch с iOS 13 и выше. Но на практике, для запуска MLC LLM нужно мощное устройство с большим количеством оперативной памяти.
Приложение весит 3 ГБ и во время работы очень сильно нагружает даже iPhone 14 Pro Max с 6 ГБ ОЗУ.
Главная особенность MLC LLM заключается в том, что ему не нужен интернет. Вся языковая модель и информационная база уже добавлена в приложение, а запросы обрабатываются на устройстве.
Пользователи могут общаться с MLC LLM в режиме диалога. Чат-бот понимает английский язык, но зачастую выдает обобщенные ответы. По этому показателю он сильно отстает от конкурентов, в том числе от ChatGPT. [Tom’s Hardware]
2 комментария
Форум →Всякие продвинутые LLM-вариации лучше конечно на ARM-маках гонять с 32+ ГБ памяти, результаты вполне неплохие на фоне ChatGPT 3.5. Тут совсем обрезок, конечно
Юзал, не зашло.
Нашли орфографическую ошибку в новости?
Выделите ее мышью и нажмите Ctrl+Enter.Как на iPhone откатиться с iOS 18 до iOS 17
Как создать дубликат приложения на iPhone?
На Mac пропадает Wi-Fi при подключении внешнего диска. Что делать?
Забыл контрольные вопросы Apple ID. Как их поменять?
Как в macOS Sequoia убрать зазоры между окнами приложений
Почему в macOS Monterey происходит утечка оперативной памяти
Почему при открытии заметок в iCloud через браузер требуется подтверждение на iPhone
Не работают работать звонки и сообщения на Mac после покупки нового айфона. Не работает связка Continuity