Apple разрабатывает генеративный искусственный интеллект под кодовым названием Ajax. Для его работы компания разработала революционный метод запуска больших языковых моделей (LLM) на айфоне, согласно недавно опубликованному исследованию.
ChatGPT и его аналоги обрабатывают информацию на серверах, и это принципиально отличается от позиции Apple, которая стремится перенести на устройства всю работу ИИ и машинного обучения. Но в случае с генеративным ИИ возникает сложность из-за того, что для его работы требуется очень много оперативной памяти, чего нет в айфонах.
Apple придумала, как обойти это ограничение. Компания предлагает хранить данные языковой модели во флэш-памяти — там же, где хранятся приложения и фотографии. Чтобы быстро анализировать и загружать данные, инженеры предлагают использовать два метода:
1. Повторно использовать уже обработанные данные. Например, вместо того, чтобы каждый раз загружать из флэш-памяти новые данные, языковая модель может повторно использовать некоторые из уже обработанных данных.
2. Эффективная группировка данных — позволит быстрее получать данные из флэш-памяти, тем сам самым увеличивая скорость распознания запросов и написания ответов. Этот метод подобен чтению книги большими кусками, а не по одному слову за раз.
Комбинация этих методов позволяет моделям искусственного интеллекта работать в два раза быстрее на уже существующих айфонах. Это также способствует снижению нагрузки на процессор в 4-5 раз и на графический чип в 20-25 раз.
Прорыв в скорости обработки данных позволит Apple хранить на айфонах генеративный ИИ. По слухам, Ajax оперирует 200 миллиардами параметров, что предполагает высокий уровень понимания сложности языка.
Кроме того, Ajax считается более функциональным, чем ChatGPT 3.5 предыдущего поколения. Однако будущие языковые модели OpenAI, вероятно, будут лучше, чем Ajax. [MacRumors]
10 комментариев