AlexNet в ImageNet

Відомості про подію

Дата події

2012

Дата на часовій осі

Дата події

Перевірка

Джерела зібрано автоматично · 11 вересня 2026 р.

Лінії

• Оцінювання
• Обчислення
• Теорія навчання

ID

evt-0007

• Алекс Крижевський
• Ілля Суцкевер
• Джеффрі Гінтон

Джерела

• першоджерело ImageNet Classification

  NeurIPS · Опубліковано 2012

• першоджерело Large Scale Visual Recognition Challenge 2012 (ILSVRC2012): results

  ImageNet (organisers of the challenge)

Пов’язані події

Раніше

• Пов’язано Випрямлені лінійні одиниці 2010посилається на цей запис

  AlexNet 2012 року використовує саме цю нелінійність.
• Пов’язано Перший ILSVRC 2010посилається на цей запис

  Змагання, яке AlexNet виграла 2012 року.
• Спирається на ImageNet 2009

  У роботі AlexNet мережу навчають і оцінюють на зображеннях ImageNet. Це пряме використання попереднього набору даних.

  • ImageNet Classification · NeurIPS
• Пов’язано Глибокі мережі на графічних процесорах 2009посилається на цей запис

  Рецепт, за яким через три роки навчили AlexNet.
• Спирається на CUDA стає загальнодоступною 2007

  Стаття про AlexNet описує навчання на GPU з використанням цієї платформи.

  • ImageNet Classification · NeurIPS
• Пов’язано Виявлення облич Віоли і Джонса 2001посилається на цей запис

  Ознаки тут задано вручну; згорткові мережі згодом їх вивчатимуть.
• Пов’язано LeNet-5 і MNIST 1998посилається на цей запис

  LeNet-5 і набір MNIST стали прямою основою для AlexNet.
• Пов’язано Згорткова мережа на поштових індексах 1989посилається на цей запис

  AlexNet 2012 року — та сама архітектура, збільшена і перенесена на графічний процесор.
• Пов’язано Неокогнітрон 1980посилається на цей запис

  Обидві моделі розпізнають зображення шарами локальних ознак; пізніша працювала на значно більших даних і GPU.

У той самий час

• Пов’язано Мережа Google, що знайшла котів 2012посилається на цей запис

  Два способи довести те саме того самого року: масштаб дає ознаки.
• Уможливлює Dropout 2012посилається на цей запис

  Стаття AlexNet (розділ 4.2) називає dropout нещодавно запропонованою технікою, застосовує його з імовірністю 0,5 у перших двох повнозв'язних шарах і пише, що без нього мережа суттєво перенавчається.

  • ImageNet Classification with Deep Convolutional Neural Networks · NeurIPS Proceedings

Пізніше

• Спирається на R-CNN: згорткова мережа знаходить об'єкти 2013посилається на цей запис

  R-CNN бере згорткову мережу Крижевського й співавторів, попередньо навчену на ILSVRC 2012, і донавчає її на регіонах для детекції.

  • Rich feature hierarchies for accurate object detection and semantic segmentation (arXiv:1311.2524v1) · arXiv
• Спирається на DQN грає в Atari 2013посилається на цей запис

  Стан подано пікселями екрана через згорткову мережу.

  • Playing Atari with Deep Reinforcement Learning · NIPS 2013 deep learning workshop
• Пов’язано Caffe 2014посилається на цей запис

  Архітектури на кшталт AlexNet стали доступні як готові моделі з вагами.
• Спирається на DeepFace: розпізнавання облич біля людського рівня 2014посилається на цей запис

  Стаття називає глибокі згорткові мережі Крижевського й співавторів тим, що зробило можливим її підхід.

  • DeepFace: Closing the Gap to Human-Level Performance in Face Verification · CVPR 2014 (CVF open access)
• Пов’язано Залишкові звʼязки (ResNet) 2015посилається на цей запис

  Обидві роботи стосуються глибоких згорткових мереж для зображень; пізніша знімає обмеження на глибину.
• Спирається на WaveNet 2016посилається на цей запис

  Модель побудовано на згортках, тільки причинних і з розширенням.

  • WaveNet: A generative model for raw audio · DeepMind
• Пов’язано Трансформер для зображень 2020посилається на цей запис

  Згортка, що панувала в зорі з 2012 року, виявилася необов'язковою за достатніх даних.