Python, Anaconda 및 기타 파충류가 없는 기계 학습

아뇨, 물론 저는 진지하지 않습니다. 주제를 단순화하는 데는 한계가 있어야 합니다. 그러나 첫 번째 단계에서는 기본 개념을 이해하고 주제에 빠르게 "입력"하는 것은 허용될 수 있습니다. 마지막에는 이 자료의 이름을 적절하게 지정하는 방법(옵션: "인형을 위한 기계 학습", "기저귀의 데이터 분석", "어린이를 위한 알고리즘")에 대해 논의하겠습니다.

요점까지. 데이터를 분석할 때 다양한 기계 학습 방법에서 발생하는 프로세스를 시각화하고 시각적으로 표현하기 위해 MS Excel에서 여러 응용 프로그램을 작성했습니다. 결국 보는 것은 믿는 것입니다. 문화 보유자들이 말했듯이 이러한 방법의 대부분을 개발했습니다(그런데 전부는 아닙니다. 가장 강력한 "지원 벡터 머신" 또는 SVM인 지원 벡터 머신은 다음의 발명품입니다. 우리 동포 Vladimir Vapnik, Moscow Institute of Management. 1963, 그런데 지금은 미국에서 가르치고 일하고 있습니다.

검토할 파일 XNUMX개

1. K-평균 클러스터링

이러한 유형의 문제는 초기 데이터를 미리 알려진 특정 수의 범주로 나누어야 하지만 "정답"이 많지 않아 데이터 자체에서 추출해야 하는 "비지도 학습"을 의미합니다. . 이 지식 분야의 첫 번째 징후로 간주되는 붓꽃의 아종을 찾는 근본적인 고전적 문제(Ronald Fisher, 1936!)는 바로 이러한 성격을 갖습니다.

방법은 매우 간단합니다. 벡터(N개 숫자 세트)로 표현된 객체 세트가 있습니다. 붓꽃에서 이것은 꽃을 특징짓는 4개의 숫자 세트입니다: 각각 꽃덮이의 외부 엽과 내부 엽의 길이와 너비(피셔 붓꽃 - Wikipedia). 일반적인 데카르트 측정법은 물체 간의 거리 또는 근접성을 측정하는 방법으로 선택됩니다.

다음으로 클러스터 중심이 무작위로 선택되고(또는 무작위가 아님, 아래 참조) 각 객체에서 클러스터 중심까지의 거리가 계산됩니다. 주어진 반복 단계의 각 객체는 가장 가까운 중심에 속하는 것으로 표시됩니다. 그런 다음 각 클러스터의 중심이 해당 구성원 좌표의 산술 평균으로 전송되고(물리학과 유사하게 이를 "질량 중심"이라고도 함) 절차가 반복됩니다.

프로세스는 매우 빠르게 수렴됩니다. XNUMX차원 그림에서는 다음과 같습니다.

1. 평면상의 점의 초기 무작위 분포 및 클러스터 수

2. 군집 중심을 지정하고 해당 군집에 점을 할당합니다.

3. 클러스터 중심의 좌표를 전송하고 중심이 안정화될 때까지 포인트의 소속을 다시 계산합니다. 최종 위치로 이동하는 클러스터 중심의 궤적이 표시됩니다.

언제든지 새로운 클러스터 중심을 설정할 수 있으며(새 포인트 분포를 생성하지 않고!) 분할 프로세스가 항상 명확하지는 않다는 것을 확인할 수 있습니다. 수학적으로 이는 최적화되는 함수(점에서 클러스터 중심까지의 거리 제곱의 합)에 대해 전역 최소값이 아니라 지역 최소값을 찾는다는 것을 의미합니다. 이 문제는 초기 군집 중심을 무작위로 선택하지 않거나 가능한 중심을 열거하여 극복할 수 있습니다. (때때로 클러스터 중심을 정확히 한 지점에 배치하는 것이 유리할 때도 있습니다. 그러면 적어도 비워지지 않을 것이라는 보장이 있습니다. 클러스터). 어쨌든, 유한 집합은 항상 극한을 갖습니다.

이 링크에서 이 파일을 가지고 플레이할 수 있습니다 (매크로 지원을 활성화하는 것을 잊지 마십시오. 파일에서 바이러스가 검사되었습니다.)

Wikipedia의 방법 설명 - k-평균 방법

2. 다항식에 의한 근사 및 데이터 분석. 재교육

뛰어난 과학자이자 데이터 과학의 대중화자인 K.V. Vorontsov는 기계 학습 방법을 "점을 통해 곡선을 그리는 과학"이라고 간략하게 설명합니다. 이 예에서는 최소 제곱법을 사용하여 데이터에서 패턴을 찾습니다.

소스 데이터를 '훈련'과 '통제'로 나누는 기술과 데이터를 재훈련하거나 '재조정'하는 현상이 나와 있습니다. 올바른 근사치를 사용하면 훈련 데이터에 특정 오류가 있고 제어 데이터에 약간 더 큰 오류가 발생합니다. 정확하지 않으면 훈련 데이터가 정확하게 조정되고 테스트 데이터에 큰 오류가 발생합니다.

(N개의 점을 통해 N-1차의 단일 곡선을 그릴 수 있다는 것은 잘 알려진 사실이며, 일반적인 경우 이 방법은 원하는 결과를 얻지 못합니다. Wikipedia의 라그랑주 보간 다항식)

1. 초기 분포 설정

2. 70대 30의 비율로 포인트를 '트레이닝'과 '컨트롤'로 나눕니다.

3. 훈련 포인트를 따라 근사 곡선을 그리고 제어 데이터에 나타나는 오류를 확인합니다.

4. 훈련 포인트를 통해 정확한 곡선을 그리고 제어 데이터에 엄청난 오류가 표시됩니다(훈련 데이터에는 XNUMX이 있지만 요점은 무엇입니까?).

물론 "훈련"과 "제어" 하위 집합으로 단일 분할을 수행하는 가장 간단한 옵션이 표시됩니다. 일반적으로 이는 계수를 가장 잘 조정하기 위해 여러 번 수행됩니다.

파일은 바이러스 백신으로 검사하여 여기에서 사용할 수 있습니다. 올바른 작동을 위해 매크로를 활성화하세요.

3. 경사하강법과 오류 변화의 동역학

4차원 사례와 선형 회귀가 있을 것입니다. 선형 회귀 계수는 경사하강법을 사용하여 단계적으로 결정되며, 초기에는 모든 계수가 2입니다. 별도의 그래프는 계수가 점점 더 정확하게 조정됨에 따라 오류 감소의 역학을 보여줍니다. XNUMX개의 XNUMX차원 투영을 모두 볼 수 있습니다.

경사 하강 단계를 너무 크게 설정하면 매번 최소값을 건너뛰고 더 많은 수의 단계에서 결과에 도달하지만 결국에는 여전히 도착하게 된다는 것을 알 수 있습니다(하강 단계를 너무 지연시키지 않는 한). 많이 - 그러면 알고리즘이 " 스페이드"로 진행됩니다. 그리고 반복 단계에 따른 오류 그래프는 매끄럽지 않고 "불규칙"합니다.

1. 데이터 생성, 경사하강법 단계 설정

2. 경사하강법 단계를 올바르게 선택하면 원활하고 빠르게 최소값에 도달합니다.

3. 경사하강법 단계를 잘못 선택하면 최대값을 초과하고 오류 그래프가 "불규칙"해지고 수렴에 더 많은 단계가 필요합니다.

и

4. 경사 하강 단계를 완전히 잘못 선택하면 최소값에서 멀어집니다.

(그림에 표시된 경사하강법 단계 값을 사용하여 과정을 재현하려면 "참조 데이터" 상자를 확인하세요.)

파일은 이 링크에 있습니다. 매크로를 활성화해야 하며 바이러스는 없습니다.

존경받는 커뮤니티에 따르면 이러한 단순화와 자료 제시 방법이 허용됩니까? 기사를 영어로 번역할 가치가 있나요?

출처 : habr.com