Машинно обучение без Python, Anaconda и други гадини

Не, разбира се, че не говоря сериозно. Трябва да има ограничение за степента, до която е възможно да се опрости темата. Но за първите етапи, разбиране на основните понятия и бързо „навлизане“ в темата, може да е приемливо. И как да назовем правилно този материал (опции: „Машинно обучение за манекени“, „Анализ на данни от пелени“, „Алгоритми за най-малките“), ще обсъдим в края.

Към бизнеса. Написа няколко приложни програми в MS Excel за визуализиране и визуализиране на процесите, които се случват в различни методи за машинно обучение при анализиране на данни. В крайна сметка да видиш е да повярваш, както казват носителите на културата, разработила повечето от тези методи (между другото, не всички. Най-мощната „машина за поддържащи вектори“ или SVM, машина за поддържащи вектори е изобретение на нашият сънародник Владимир Вапник, Московски институт по мениджмънт (1963 г., между другото! Сега обаче той преподава и работи в САЩ).

Три файла за преглед

1. Групиране чрез k-средни

Проблеми от този вид се отнасят до „учене без надзор“, когато трябва да разделим изходните данни на някакъв предварително известен брой категории, но в същото време нямаме никакъв брой „правилни отговори“, трябва да ги извлечем от самите данни. Основният класически проблем за намиране на подвидове цветя на ириса (Роналд Фишър, 1936!), който се счита за първия признак на тази област на знанието, е от такова естество.

Методът е доста прост. Имаме набор от обекти, представени като вектори (набори от N числа). При ирисите това са набори от 4 числа, които характеризират цветето: съответно дължината и ширината на външните и вътрешните околоцветни сегменти (Ирисите на Фишер - Уикипедия.). Като разстояние или мярка за близост между обектите се избира обичайната декартова метрика.

Освен това произволно (или не произволно, вижте по-долу) се избират центровете на клъстерите и се изчисляват разстоянията от всеки обект до центровете на клъстерите. Всеки обект на дадена стъпка на итерация се маркира като принадлежащ към най-близкия център. След това центърът на всеки клъстер се прехвърля в средноаритметичната стойност на координатите на неговите членове (по аналогия с физиката се нарича още "център на масата") и процедурата се повтаря.

Процесът се сближава доста бързо. На снимките в две измерения изглежда така:

1. Първоначално произволно разпределение на точките на равнината и броя на клъстерите

2. Задаване на центрове на клъстери и присвояване на точки на техните клъстери

3. Прехвърляне на координатите на центровете на клъстерите, преизчисляване на принадлежността на точките до стабилизиране на центровете. Вижда се траекторията на движение на центъра на клъстера до крайната позиция.

По всяко време можете да зададете нови клъстерни центрове (без да генерирате ново разпределение на точки!) и да видите, че процесът на разделяне не винаги е недвусмислен. Математически това означава, че оптимизираната функция (сумата от квадратите на разстоянията от точките до центровете на техните клъстери) намираме не глобален, а локален минимум. Този проблем може да бъде преодолян или чрез неслучаен избор на начални центрове на клъстери, или чрез изброяване на възможните центрове (понякога е изгодно да ги поставите точно в една от точките, тогава поне има гаранция, че няма да вземете празни клъстери). Във всеки случай едно крайно множество винаги има инфимум.

Можете да играете с този файл на тази връзка (не забравяйте да активирате поддръжката на макроси. Файловете са проверени за вируси)

Описание на метода в Wikipedia − метод на k-средните

2. Апроксимация чрез полиноми и разбивка на данните. Преквалификация

Забележителен учен и популяризатор на науката за данни К.В. Воронцов говори накратко за методите за машинно обучение като „наука за рисуване на криви през точки“. В този пример ще намерим модел в данните, използвайки метода на най-малките квадрати.

Показана е техниката за разделяне на първоначалните данни на "обучение" и "контрол", както и такова явление като пренастройване или "повторна настройка" на данните. При правилно приближение ще имаме известна грешка в данните за обучение и малко по-голяма грешка в контролните данни. Ако е неправилно, фина настройка на тренировъчните данни и огромна грешка на контролните.

(Добре известен факт е, че чрез N точки е възможно да се начертае една крива от N-1 степен и този метод като цяло не дава желания резултат. Интерполационен полином на Лагранж в Wikipedia)

1. Задайте първоначалното разпределение

2. Разделяме точките на "обучение" и "контрол" в съотношение 70 към 30.

3. Начертаваме апроксимираща крива по тренировъчните точки, виждаме грешката, която дава на контролните данни

4. Начертаваме точна крива през тренировъчните точки и виждаме чудовищна грешка на контролните данни (и нула на тренировъчните, но какъв е смисълът?).

Разбира се, най-простата версия е показана с едно разделение на подмножества „обучение“ и „контрол“; в общия случай това се прави многократно за най-добро регулиране на коефициентите.

Файлът е достъпен тук, проверен от антивирусна програма. Активирайте макросите, за да работят правилно

3. Градиентно спускане и динамика на грешките

Тук ще има 4-измерен случай и линейна регресия. Коефициентите на линейна регресия ще бъдат определени стъпка по стъпка с помощта на метода на градиентно спускане, като първоначално всички коефициенти са нула. Отделна графика показва динамиката на намаляване на грешката, тъй като коефициентите се настройват все повече и повече. Възможно е да видите и четирите 2D проекции.

Ако зададем стъпката на спускане на градиента твърде голяма, тогава е ясно, че всеки път ще прескочим минимума и ще достигнем резултата с повече стъпки, въпреки че в крайна сметка пак ще стигнем (освен ако не забавим стъпката на спускане твърде много - тогава алгоритъмът ще отиде "в безпорядък"). И графиката на зависимостта на грешката от стъпката на итерация няма да бъде гладка, а „потрепваща“.

1. Генерирайте данни, задайте стъпката на градиентно спускане

2. С правилния избор на стъпката на градиентно спускане ние плавно и достатъчно бързо достигаме до минимум

3. Ако стъпката на спускане на градиента е избрана неправилно, пропускаме максимума, графиката на грешката е „потрепваща“, конвергенцията отнема по-голям брой стъпки

и

4. При напълно грешен избор на стъпката на спускане на градиента се отдалечаваме от минимума

(За да възпроизведете процеса при стойностите на стъпката на градиентно спускане, показани на снимките, поставете отметка в квадратчето „референтни данни“).

Файл - следвайте тази връзка, трябва да активирате макроси, няма вируси.

Според уважаемата общност, приемливо ли е подобно опростяване и метод на представяне на материала? Статията трябва ли да се преведе на английски?

Източник: www.habr.com