Войти

Или войди с помощью

От лаборатории в 40-х годах до ChatGPT. История нейросетей за 80 лет простыми словами

Дмитрий Борисов avatar |
От лаборатории в 40-х годах до ChatGPT. История нейросетей за 80 лет простыми словами

Несмотря на то, что я и сам писал пару текстов про нейросети и даже кое-чем пользовался (не по работе), я, наверное, последний человек из редакции, который заметил, как нейросети мягко захватили и полностью изменили интернет, кажется, безвозвратно.

А кто-нибудь вообще помнит, как и с чего оно начиналось? То, что там два раза исследования и разработка технологии дважды заходила в глухой тупик, и если бы не бум мощных видеокарт для геймеров, то, возможно, ничего бы и не случилось? Сегодня мы кратко и, так сказать, тезисно посмотрим на то, как зародился главный прорыв 21 века и во что он превратился в наши дни.

КРАТКО

  • Концепция зародилась еще в 1940х годах
    Небольшие, но важные шаги в конце 20 и начале 21 века
    Настоящий прорыв и Deep Learning
    А потом появился ChatGPT и началось
    Развитие нейросетей это пока что главный прорыв 21 века
  • Концепция зародилась еще в 1940х годах

    Номинально о машинах, что могут имитировать функции человеческого мозга и мышление по запросу, мечтали и говорили еще во времена Второй мировой войны. Первую математическую модель нейрона предложили в 1943 году ученые Уоррен Мак-Каллок и Уолтер Питтс, но тогда, естественно, дальше «бумажного» концепта никуда идея уйти не могла.

    Предком нейросетей можно считать персептрон, который разработал в конце 50-х Фрэнк Розенблатт, американский учёный в области психологии, нейрофизиологии и искусственного интеллекта.

    Персептрон — это базовая модель машинного обучения, разработанная для обучения компьютеров на различных данных. Его функционирование можно описать как простой механизм принятия решений. Основная задача персептрона — классифицировать объекты на две категории, например «да» или «нет», на основе нескольких входных параметров.

    Персептрон — это очень базовая модель, но она проложила путь к разработке более совершенных алгоритмов машинного обучения, которые используются сегодня. Однако, несмотря на то, что даже такая примитивная (с точки зрения нашего времени) модель мышления выглядела как что-то из будущего (шутки ли, компьютер помогал делать бинарный выбор, если ему заранее дать все вводные данные) — вычислительные возможности того времени, к сожалению, не смогли дать развить этот концепт дальше.

    ◦ Назад к содержанию ◬

    Небольшие, но важные шаги в конце 20 и начале 21 века

    Персептрон подвергся критике из-за его ограниченной способности решать задачи. Марвин Минский и Сеймур Паперт в своей книге «Персептрон», написанной в 1969 году, доказали, что персептрон не может справиться с кучей базовых задач и вообще хорош только как концепция.

    А улучшать и развивать ее было некому — Фрэнк Розенблатт умер в 1971, и никто так и не решился продолжить его разработки. Индустрия ушла от нейронного обучения и сосредоточилась непосредственно на развитии компьютеров и наращивании вычислительных мощностей. Долгое время попытки перенести хотя бы часть человеческого мышления на плату технических устройств казались бесполезными.

    В 1986 году был изобретен метод обратного распространения ошибки, который стал основой для машинного обучения. Нейросеть анализирует примеры, делает предположения и сравнивает их с реальностью. На основе ошибок она корректирует вес нейронов, что влияет на точность предсказаний. Этот процесс повторяется многократно, пока нейросеть не достигнет максимальной точности.

    За несколько лет нейросети научились распознавать геометрические фигуры на изображениях и понимать почерк человека. Но в 1980-е годы вычислительных мощностей было недостаточно для обработки больших объемов данных.

    Да. Развитие снова сильно замедлилось, и всё по той же самой причине — вычислительные машины и сами исследования было дорого использовать, а обслуживать еще дороже. Плюс у многих так или иначе развивался сильный скепсис к ИИ и такому формату общения человека с компьютером.

    Следующий серьезный импульс к развитию случился уже в 21 веке с приходом… мощных видеокарт для геймеров.

    ◦ Назад к содержанию ◬

    Настоящий прорыв и Deep Learning

    В так всеми обожаемых «нулевых» на рынке пользовательской электроники случился бум видеокарт и графических процессоров. Не в последнюю очередь его связывают с тем, что очень сильно двинулась вперед игровая индустрия и кино с применением компьютерной графики. Для ее обработки нужны были хорошие графические процессоры и большие вычислительные мощности.

    А еще это привело к одному популярному среди техногиков термину — Deep Learning. Если кратко (а сегодня, я повторяю, мы все пишем кратко), то это углубленный алгоритм обучения нейросети, который опирается на всю вычислительную мощность устройства, на котором алгоритм развернут.

    Исследования показали, что нейросети эффективно обучаются и прогнозируют на основе больших объемов данных. Интерес к этой технологии стремительно вырос, и за ним последовали значительные инвестиции.

    Благодаря развитию Deep Learning появились новые архитектуры, алгоритмы и инструменты для создания и обучения нейросетей. Это привело к их широкому применению в различных сферах.

    ◦ Назад к содержанию ◬

    А потом появился ChatGPT и началось

    В декабре 2015 года была основана некоммерческая организация OpenAI, которая по сути изменила наш мир навсегда. Уже 27 апреля 2016 года компания представила OpenAI Gym — платформу для разработки и сравнения алгоритмов обучения с подкреплением. Это своеобразная задача в области машинного обучения, где пользователю предоставляется среда с заданными правилами и агент, способный действовать в ней.

    Следующий значимый шаг был сделан в 2017 году, когда OpenAI представила ИИ-ботов для игры Dota 2. Эти боты не следуют жёстким алгоритмам, а принимают решения самостоятельно, опираясь на предварительно загруженные данные.

    28 мая 2020 года группа исследователей под руководством Дарио Амодея из OpenAI опубликовала научную статью, подробно описывающую алгоритм GPT-3. В статье был раскрыт принцип работы генеративной нейросети GPT-3, хотя на тот момент готового продукта ещё не существовало. Тем не менее, это привлекло значительные инвестиции, которые позволили в дальнейшем выпустить инновационный продукт.

    30 ноября 2022 года OpenAI представила ChatGPT — чат-бота с искусственным интеллектом, способного вести диалог на естественном языке. И вот она, точка, когда интернет изменился раз и навсегда. Спустя 2 месяца с релиза бот пробивает отметку в 100 миллионов пользователей, получив статус самого быстрорастущего онлайн-сервиса за всю историю. По слухам, в OpenAI сначала сами не предполагали, что сервис станет настолько популярным.

    Успех OpenAI дал сигнал другим компаниям: «Пора что-то делать». Например, 6 февраля 2023 года Google представила Bard — чат-бота на базе языковой модели LaMDA, предназначенный для ответов на вопросы пользователей в поисковой системе.

    Примерно в это же время Microsoft обновила свой основной поисковик Bing, интегрировав в него ИИ на основе ChatGPT. Новый Bing использует генеративный искусственный интеллект для веб-поиска, возвращая результаты в виде более длинных и информативных ответов, составленных из различных интернет-источников, вместо традиционного списка ссылок.

    Февраль 2023 года стал месяцем активных анонсов в области нейросетей. Помимо Google и Microsoft, «Яндекс» объявил о разработке собственной версии генеративной нейросети на базе языковой модели YaLM (Yet Another Language Model), которая получила предварительное название YaLM 2.0, позже изменённое на YandexGPT. В апреле того же года «Сбер» представил свою нейронную сеть с мемным названием GigaChat.

    ◦ Назад к содержанию ◬

    Развитие нейросетей это пока что главный прорыв 21 века

    И… вот мы здесь. Интернет, да и многое с приходом нейросетей изменилось навсегда. Если 20 век можно смело считать временем, когда родились компьютеры, то 21 век — это эпоха, когда у компьютеров появилось сознание.

    Хорошо это или плохо… вопрос, на самом деле, больше этический. И тут лично моё мнение — нейросети уже сейчас умеют больше, чем должны. И речь сейчас даже не о том, что интернет просто под завязку засорен текстами и картинками из DeepSeek и ChatGPT (ну, давайте пошутите в комментариях, давайте я не обижусь) разной степени качества.

    А речь больше про то, что на фоне видео из Sora 2, которые уже выглядят как что-то почти настоящее, на фоне миллиона дипфейков, которые уже надо с лупой рассматривать ради верификации, и на фоне массового помешательства людей на нейронках в принципе сейчас очень сложно фильтровать информацию. А главное — выделять из этого потока информации правду. Вот такой неожиданный вывод в статье с кратким обзором пути развития нейросетей. Ради него он, собственно, и затевался.

    С этой мыслью вас и оставляю. Хорошего дня!

    ◦ Назад к содержанию ◬

    👀Еще почитать

    Вы не представляете, как работает интернет в Северной Корее. Почти без сайтов и под полным контролем

    Когда не было Telegram. Куда и почему исчезли популярные мессенджеры и соцсети прошлого

    250 тысяч в месяц за занятия по Dota 2. Кто эти люди, кому реально платят за репетиторство

    15
    3
    2
    Что-то пошло не так
    2
    undefined
    iPhones.ru
    Несмотря на то, что я и сам писал пару текстов про нейросети и даже кое-чем пользовался (не по работе), я, наверное, последний человек из редакции, который заметил, как нейросети мягко захватили и полностью изменили интернет, кажется, безвозвратно. А кто-нибудь вообще помнит, как и с чего оно начиналось? То, что там два раза исследования и разработка...

    Войди и оставь комментарий

    Или войди с помощью

    <- Назад Забыли пароль? Войти
    Котик
    Котик
    Котик
    Котик
    Котик
    Котик
    Котик
    Котик
    Котик
    Котик
    Котик
    Котик
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер
    Мем стикер

    Какие правила в комментариях
    1. Cart avatar
      Cart 10 ноября в 12:46
      0

      А Тьюринг где? Мат часть них.я никто не знает…

      Войди на сайт, чтобы ответить
      Ответить
    2. nikolanidvora avatar
      nikolanidvora 10 ноября в 13:08
      0

      человек, который называет интеллект искусственным и заявляет что “у компьютеров появилось сознание” – с точки зрения эволюции абсолютно бесполезен и утратил какую-либо способность к развитию своих способностей. дальше уже не важно как он будет там рыпаться остаток дней, конец один – надгробная плита.)

      Войди на сайт, чтобы ответить
      Ответить
    Помни о правилах — если начал оффтопить, то не удивляйся потом.

    Нашли орфографическую ошибку в новости?

    Выделите ее мышью и нажмите Ctrl+Enter.