Глубокие нейронные сети в настоящее время являются одним из самых популярных методов интеллектуального анализа данных. Почти во всех предметных областях они показывают более качественные результаты, по сравнению с другими методами машинного обучения.

Отличительная особенность курса заключается в том, что он ориентирован на практическое использование нейронных сетей, а не изучение их внутреннего устройства. Для понимания курса не требуется глубокое знание математики. Курс рассчитан на программистов, способных успешно применять существующие библиотеки глубоких нейронных сетей для решения практических задач анализа изображений и текстов.

Обновление от 10.11.2017. Бэкенд Keras заменен на TensorFlow в связи с объявлением об прекращении разработки Theano. Все примеры кода теперь используют бэкенд TensorFlow. Рекомендуется заменить Theano на TensorFlow, а для новой установки сразу использовать TensorFlow.

Структура курса

Курс состоит из видеолекций и практических работ.

В лекциях изложены теоретические основы работы глубоких нейронных сетей и особенности их обучения, описаны популярные в настоящее время типы глубоких нейронных сетей (сверточные сети, сети долго-краткосрочной памяти (LSTM)), библиотеки для языка Python, реализующие глубокие нейронные сети (Keras, TensorFlow, Theano), а также методы использования глубоких нейронных сетей для анализа изображений и текстов.

Практические работы содержат задания для самостоятельного выполнения на анализ открытых наборов данных (MNIST, CIFAR-10 и IMDB Movie Review Dataset) с использованием глубоких нейронных сетей и примеры программ, которые можно использовать в качества образца.

Материалы курса

Основы обучения глубоких нейронных сетей

1. Введение.
2. Лекция “Искусственные нейронные сети”.
3. Лекция “Обучение нейронных сетей”.
4. Лекция “Библиотеки для глубокого обучения”.
5. Лекция “Распознавание рукописных цифр”.
6. Лекция “Анализ качества обучения нейронной сети”.
7. Практическая работа “Распознование рукописных цифр из набора данных MNIST на Keras” (ноутбук в Colaboratory).
8. Лекция “Решение задачи регрессии” (ноутбук в Colaboratory).
9. Лекция “Сохранение обученной нейронной сети”.
10. Лекция “Сверточные нейронные сети”.
11. Лекция “Распознавание объектов на изображениях”.
12. Практическая работа “Распознавание объектов на изображениях с помощью Keras” (ноутбук в Colaboratory).
13. Лекция “Рекуррентные нейронные сети”.
14. Лекция “Анализ текстов с помощью рекуррентных нейронных сетей”.
15. Практическая работа “Определение тональности отзывов на фильмы с помощью Keras” (ноутбук в Colaboratory).
16. Лекция “Использование GPU для ускорения обучения нейронной сети”.

Глубокие нейронные сети для задач компьютерного зрения

1. Лекция “Анализируем изображения с помощью нейронных сетей”.
2. Лекция “Предварительно обученные нейронные сети в Keras”.
3. Лекция “Как подготовить собственный набор изображений для обучения нейронной сети в Keras”.
4. Лекция “Перенос обучения (Transfer Learning)”.
5. Практика “Распознавание собак и кошек на изображениях”.
6. Лекция “Тонкая настройка нейронной сети (Fine Tuning)”.
7. Лекция “Анализ признаков, извлеченных нейросетью”.
8. Лекция “Дополнение данных (Data Augmentation)”.
9. Проект “Распознавание человека по лицу на фотографии”.

Анализ текстов с помощью глубоких нейронных сетей

Новый раздел, скоро будут подготовлены материалы.

Необходимое программное обеспечение

Используется библиотека Keras, а также TensorFlow или Theano в качестве вычислительного бэкенда.

Подборка материалов по нейронным сетям

Все библиотеки распространяются бесплатно.

Примеры кода протестированы на Python 3 и TensorFlow. Инструкции по установке Keras:

Также для запуска примеров кода можно использовать платформу Google Colaboratory, где все необходимые библиотеки уже установлены. Google предоставляет Colaboratory бесплатно.

Практические примеры использования глубоких нейронных сетей

1. Сверточная нейронная сеть для распознавания рукописных цифр MNIST.
2. Соревнования по распознаванию рукописных цифр MNIST на Kaggle.

Примеры программ

https://github.com/sozykin/dlpython_course.

Дополнительные материалы

1. Математика глубоких нейронных сетей. Список книг и статей для тех, кто хочет разобраться с математическими основами глубоких нейронных сетей.

Благодарности

При реализации проекта используются средства поддержки, выделенные в качестве гранта на основании конкурса, проведенного Общероссийской общественно-государственной просветительской организации «Российское общество «Знание».

Мир современных медиа — GENEFIS.RU > Авторские статьи > Нейросети для чайников

Нейросети для чайников

Дата: 01.09.2016      Просмотров: 36719      Теги:

Чтобы разобраться в проблеме, нужно узнать первопричину, которая кроется совсем на поверхности. Вспоминая Сару Коннор, с содроганием сердца понимаем, что некогда пионеры компьютерных разработок Уоррен Мак-Каллок и Уолтер Питтс преследовали корыстную цель создания первого Искусственного Интеллекта.

Нейронные сети – это электронный прототип самостоятельно обучаемой системы. Как и ребенок, нейросеть впитывает в себя информацию, пережевывает её, приобретает опыт и учится. В процессе обучения такая сеть развивается, растет и может делать собственные выводы и самостоятельно принимать решения.

Если мозг человека состоит из нейронов, то условно договоримся, что электронный нейрон – это некая воображаемая коробочка, у которой множество входных отверстий, а выходное – одно. Внутренний алгоритм нейрона определяется порядок обработки и анализа полученной информации и преобразования её в единый полезный ком знаний. В зависимости от того, насколько хорошо работают входы и выходы, вся система или соображает быстро, или, наоборот, может тормозить.

Важно: Как правило, в нейронных сетях используется аналоговая информация.

Повторимся, что входных потоков информации (по-научному эту связь первоначальной информации и наш “нейрон” называют синапсами) может быть множество, и все они носят разных характер и имеют неравную значимость. Например, человек воспринимает окружающий мир через органы зрения, осязания и обоняния. Логично, что зрение первостепеннее обоняния. Исходя из разных жизненных ситуаций мы используем определенные органы чувств: в полной темноте на первый план выходят осязание и слух. Синапсы у нейросетей по такой же аналогии в различных ситуациях будут иметь разную значимость, которую принято обозначать весом связи. При написании кода устанавливается минимальный порог прохождения информации. Если вес связи выше заданного значения, то результат проверки нейроном положительный (и равен единице в двоичной системе), если меньше – то отрицательный. Логично, что, чем выше задана планка, тем точнее будет работа нейросети, но тем дольше она будет проходить.

Чтобы нейронная сеть работала корректно, нужно потратить время на её обучение – это и есть главное отличие от простых программируемых алгоритмов. Как и маленькому ребенку, нейросети нужна начальная информационная база, но если написать первоначальный код корректно, то нейросеть уже сама сможет не просто делать верный выбор из имеющейся информации, но и строить самостоятельные предположения.

При написании первичного кода объяснять свои действия нужно буквально по пальцам. Если мы работаем, например, с изображениями, то на первом этапе значение для нас будет иметь её размер и класс. Если первая характеристика подскажет нам количество входов, то вторая поможет самой нейросети разобраться с информацией. В идеале, загрузив первичные данные и сопоставив топологию классов, нейросеть далее уже сама сможет классифицировать новую информацию. Допустим, мы решили загрузить изображение 3х5 пикселей. Простая арифметика нам подскажет, что входов будет: 3*5=15. А сама классификация определит общее количество выходов, т.е. нейронов. Другой пример: нейросети необходимо распознать букву “С”. Заданный порог – полное соответствие букве, для этого потребуется один нейрон с количеством входов, равных размеру изображения.

Допустим, что размер будет тот же 3х5 пикселей. Скармливая программе различные картинки букв или цифр, будем учить её определять изображение нужного нам символа.

Как и в любом обучении, ученика за неправильный ответ нужно наказывать, а за верный мы ничего давать не будем. Если верный ответ программа воспринимает как False, то увеличиваем вес входа на каждом синапсе. Если же, наоборот, при неверном результате программа считает результат положительным или True, то вычитаем вес из каждого входа в нейрон. Начать обучение логичнее со знакомства с нужным нам символом. Первый результат будет неверным, однако немного подкорректировав код, при дальнейшей работе программа будет работать корректно. Приведенный пример алгоритма построения кода для нейронной сети называется парцетроном.

Бывают и более сложные варианты работы нейросетей с возвратом неверных данных, их анализом и логическими выводами самой сети. Например, онлайн-предсказатель будущего вполне себе запрограммированная нейросеть. Такие проги способны обучаться как с учителем, так и без него, и носят название адаптивного резонанса. Их суть заключается в том, что у нейронов уже есть свои представления об ожидании о том, какую именно информацию они хотят получить и в каком виде. Между ожиданием и реальностью проходит тонкий порог так называемой бдительности нейронов, которая и помогает сети правильно классифицировать поступающую информацию и не упускать ни пикселя.

Фишка АР нейросети в том, что учится она самостоятельно с самого начала, самостоятельно определяет порог бдительности нейронов. Что, в свою очередь, играет роль при классифицировании информации: чем бдительнее сеть, тем она дотошнее.

Самые азы знаний о том, что такое нейросети, мы получили. Теперь попробуем обобщить полученную информацию.

Книги по Нейронным сетям, ИИ и машинному зрению?

Итак, нейросети – это электронный прототип мышлению человека. Они состоят из электронных нейронов и синапсов – потоков информации на входе и выходе из нейрона. Программируются нейросети по принципу обучения с учителем (программистом, который закачивает первичную информацию) или же самостоятельно (основываясь на предположения и ожидания от полученную информацию, которую определяет всё тот же программист). С помощью нейросети можно создать любую систему: от простого определения рисунка на пиксельных изображениях до психодиагностики и экономической аналитики.

Если вас не заметили, вы остаетесь ни с чем. Вам нужно чтобы вас заметили, но без криков и обмана.

Лео Бернетт

Стоит посетить

Реклама на сайте:приобретается здесь.

#Интернавт