Python、Anaconda、その他の爬虫類を使用しない機械学習

いや、まあ、もちろん本気じゃないよ。 主題を単純化できる範囲には限界があるはずです。 ただし、基本的な概念を理解し、トピックにすぐに「入る」という最初の段階では、許容できるかもしれません。 このマテリアルに正しい名前を付ける方法については、最後に説明します (オプション: 「ダミーのための機械学習」、「おむつからのデータ分析」、「小さな子どものためのアルゴリズム」)。

ポイントへ。 データ分析時にさまざまな機械学習手法で発生するプロセスを視覚化および視覚的に表現するために、MS Excel でいくつかのアプリケーション プログラムを作成しました。 この文化の担い手たちが言うように、百聞は一見に如かずです (ちなみに、すべてではありません。最も強力な「サポート ベクター マシン」、つまり SVM、サポート ベクター マシンは、次の発明です)私たちの同胞であるウラジミール・ヴァプニク、モスクワ経営大学院教授。ちなみに 1963 年です! しかし、現在、彼は米国で教鞭をとり、働いています)。

レビュー用の XNUMX つのファイル

1. K 平均法クラスタリング

このタイプの問題は「教師なし学習」を指し、初期データを事前にわかっている特定の数のカテゴリーに分割する必要があるが、「正解」は無数にあるため、データ自体から正解を抽出する必要があります。 。 この分野の知識の最初の兆候と考えられている、アイリスの花の亜種を見つけるという古典的な基本的な問題 (Ronald Fisher、1936!) は、まさにこの性質のものです。

方法は非常に簡単です。 ベクトルとして表されるオブジェクトのセット (N 個の数値のセット) があります。 アヤメでは、これらは花を特徴付ける 4 つの数字のセットです。それぞれ、花被の外側の葉と内側の葉の長さと幅です (フィッシャーズアイリス - ウィキペディア）。 通常のデカルト メトリックは、オブジェクト間の距離、または近接度の尺度として選択されます。

次に、クラスターの中心がランダムに (またはランダムではない、以下を参照) 選択され、各オブジェクトからクラスターの中心までの距離が計算されます。 特定の反復ステップの各オブジェクトは、最も近い中心に属するものとしてマークされます。 次に、各クラスターの中心がそのメンバーの座標の算術平均に転送され (物理学からの類推により、「質量中心」とも呼ばれます)、この手順が繰り返されます。

プロセスは非常に早く収束します。 XNUMX 次元の写真では次のようになります。

1. 平面上の点の初期ランダム分布とクラスターの数

2. クラスターの中心を指定し、そのクラスターにポイントを割り当てる

3. クラスターの中心の座標を転送し、中心が安定するまで点の所属を再計算します。 クラスターの中心が最終位置に移動する軌跡が表示されます。

いつでも新しいクラスターの中心を設定でき (新しいポイントの分布を生成する必要はありません!)、分割プロセスが必ずしも明確ではないことを確認できます。 数学的には、これは、最適化されている関数 (点からクラスターの中心までの距離の二乗の合計) について、大域最小値ではなく局所最小値が見つかることを意味します。 この問題は、初期クラスターの中心をランダムに選択しないことによって、または可能性のある中心を列挙することによって克服できます (場合によっては、それらを点の XNUMX つに正確に配置することが有利である場合があります。そうすれば、少なくとも空にはならないという保証があります)クラスター）。 いずれにせよ、有限集合には常に下限値が存在します。

このリンクでこのファイルを再生できます (マクロサポートを有効にすることを忘れないでください。ファイルはウイルススキャンされています)

ウィキペディアでの方法の説明 - K 平均法

2. 多項式による近似とデータの内訳。 再訓練

著名な科学者でありデータサイエンスの普及者である K.V. ボロンツォフは、機械学習の手法を「点を通る曲線を描く科学」と簡単に説明しています。 この例では、最小二乗法を使用してデータ内のパターンを見つけます。

ソースデータを「トレーニング」と「コントロール」に分割する手法や、データを再トレーニングする「再調整」などの現象を示します。 正確な近似を行うと、トレーニング データには一定の誤差が生じ、制御データにはわずかに大きな誤差が生じます。 正しくないと、トレーニング データが正確に調整され、テスト データに大きな誤差が生じます。

(N 個の点を介して N-1 次の単一曲線を描くことができることはよく知られていますが、この方法では一般に望ましい結果が得られません。 ウィキペディアのラグランジュ補間多項式)

1. 初期分布を設定する

2. ポイントを「トレーニング」と「コントロール」の割合で70：30に分けます。

3. トレーニングポイントに沿って近似曲線を描き、それが制御データに与える誤差を確認します。

4. トレーニング ポイントを通る正確な曲線を描くと、コントロール データに巨大なエラーが表示されます (トレーニング データにはゼロが表示されますが、何が意味があるのでしょうか?)。

もちろん、ここでは「トレーニング」サブセットと「コントロール」サブセットに XNUMX 回分割する最も単純なオプションを示しています。一般的なケースでは、係数を最適に調整するためにこれが何度も行われます。

ウイルス対策でスキャンされたファイルはここから入手できます。 正しく動作させるためにマクロを有効にする

3. 勾配降下法と誤差変化のダイナミクス

4 次元の場合と線形回帰が存在します。 線形回帰係数は、勾配降下法を使用して段階的に決定されます。最初はすべての係数がゼロです。 別のグラフは、係数がより正確に調整されるにつれて誤差が減少するダイナミクスを示しています。 2 つの XNUMX 次元投影をすべて表示することができます。

勾配降下ステップを大きく設定しすぎると、毎回最小値をスキップし、より多くのステップで結果に到達しますが、最終的には依然として到達します (降下ステップを遅らせすぎない限り)。かなり - その場合、アルゴリズムは「スペード」で進みます)。 また、反復ステップに応じた誤差のグラフは滑らかではなく、「ぎくしゃく」したものになります。

1. データを生成し、勾配降下ステップを設定します

2. 勾配降下ステップを正しく選択すると、スムーズかつ迅速に最小値に到達します。

3. 勾配降下ステップが誤って選択された場合、最大値をオーバーシュートし、エラー グラフが「ぎくしゃく」し、収束に多くのステップがかかります。

и

4. 勾配降下ステップの選択を完全に誤ると、最小値から外れてしまいます。

(写真に示されている勾配降下ステップ値を使用してプロセスを再現するには、「参照データ」ボックスをチェックします)。

ファイルはこのリンクにあります。マクロを有効にする必要があります。ウイルスはありません。

尊敬されているコミュニティによれば、このような単純化と資料の提示方法は許容されるのでしょうか? その記事を英語に翻訳する価値はありますか?

出所： habr.com