ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਵਿੱਚ ਵਿਸ਼ੇਸ਼ਤਾ ਦੀ ਚੋਣ

ਹੇ ਹਬਰ!

ਅਸੀਂ Reksoft ਵਿਖੇ ਲੇਖ ਦਾ ਰੂਸੀ ਵਿੱਚ ਅਨੁਵਾਦ ਕੀਤਾ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਵਿੱਚ ਵਿਸ਼ੇਸ਼ਤਾ ਦੀ ਚੋਣ. ਅਸੀਂ ਆਸ ਕਰਦੇ ਹਾਂ ਕਿ ਇਹ ਵਿਸ਼ੇ ਵਿੱਚ ਦਿਲਚਸਪੀ ਰੱਖਣ ਵਾਲੇ ਹਰੇਕ ਲਈ ਲਾਭਦਾਇਕ ਹੋਵੇਗਾ।

ਅਸਲ ਸੰਸਾਰ ਵਿੱਚ, ਡੇਟਾ ਹਮੇਸ਼ਾਂ ਓਨਾ ਸਾਫ਼ ਨਹੀਂ ਹੁੰਦਾ ਜਿੰਨਾ ਵਪਾਰਕ ਗਾਹਕ ਕਦੇ-ਕਦੇ ਸੋਚਦੇ ਹਨ। ਇਹੀ ਕਾਰਨ ਹੈ ਕਿ ਡੇਟਾ ਮਾਈਨਿੰਗ ਅਤੇ ਡੇਟਾ ਰੈਂਗਲਿੰਗ ਦੀ ਮੰਗ ਹੈ. ਇਹ ਪੁੱਛਗਿੱਛ-ਸੰਰਚਨਾ ਵਾਲੇ ਡੇਟਾ ਵਿੱਚ ਗੁੰਮ ਹੋਏ ਮੁੱਲਾਂ ਅਤੇ ਪੈਟਰਨਾਂ ਦੀ ਪਛਾਣ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਦਾ ਹੈ ਜੋ ਮਨੁੱਖ ਪਛਾਣ ਨਹੀਂ ਸਕਦੇ ਹਨ। ਡੇਟਾ ਵਿੱਚ ਖੋਜੇ ਗਏ ਸਬੰਧਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਨਤੀਜਿਆਂ ਦੀ ਭਵਿੱਖਬਾਣੀ ਕਰਨ ਲਈ ਇਹਨਾਂ ਪੈਟਰਨਾਂ ਨੂੰ ਲੱਭਣ ਅਤੇ ਵਰਤਣ ਲਈ, ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਕੰਮ ਆਉਂਦੀ ਹੈ।

ਕਿਸੇ ਵੀ ਐਲਗੋਰਿਦਮ ਨੂੰ ਸਮਝਣ ਲਈ, ਤੁਹਾਨੂੰ ਡੇਟਾ ਵਿੱਚ ਸਾਰੇ ਵੇਰੀਏਬਲਾਂ ਨੂੰ ਵੇਖਣ ਅਤੇ ਇਹ ਪਤਾ ਲਗਾਉਣ ਦੀ ਲੋੜ ਹੈ ਕਿ ਉਹ ਵੇਰੀਏਬਲ ਕੀ ਦਰਸਾਉਂਦੇ ਹਨ। ਇਹ ਮਹੱਤਵਪੂਰਨ ਹੈ ਕਿਉਂਕਿ ਨਤੀਜਿਆਂ ਦੇ ਪਿੱਛੇ ਦਾ ਤਰਕ ਡੇਟਾ ਨੂੰ ਸਮਝਣ 'ਤੇ ਅਧਾਰਤ ਹੈ। ਜੇਕਰ ਡੇਟਾ ਵਿੱਚ 5 ਜਾਂ 50 ਵੇਰੀਏਬਲ ਹਨ, ਤਾਂ ਤੁਸੀਂ ਉਹਨਾਂ ਸਾਰਿਆਂ ਦੀ ਜਾਂਚ ਕਰ ਸਕਦੇ ਹੋ। ਜੇ ਉਹਨਾਂ ਵਿੱਚੋਂ 200 ਹਨ ਤਾਂ ਕੀ ਹੋਵੇਗਾ? ਫਿਰ ਹਰ ਇੱਕ ਵੇਰੀਏਬਲ ਦਾ ਅਧਿਐਨ ਕਰਨ ਲਈ ਕਾਫ਼ੀ ਸਮਾਂ ਨਹੀਂ ਹੋਵੇਗਾ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਕੁਝ ਐਲਗੋਰਿਦਮ ਸ਼੍ਰੇਣੀਬੱਧ ਡੇਟਾ ਲਈ ਕੰਮ ਨਹੀਂ ਕਰਦੇ ਹਨ, ਅਤੇ ਫਿਰ ਤੁਹਾਨੂੰ ਮਾਡਲ ਵਿੱਚ ਜੋੜਨ ਲਈ ਸਾਰੇ ਸ਼੍ਰੇਣੀਬੱਧ ਕਾਲਮਾਂ ਨੂੰ ਮਾਤਰਾਤਮਕ ਵੇਰੀਏਬਲ ਵਿੱਚ ਬਦਲਣਾ ਹੋਵੇਗਾ (ਉਹ ਗਿਣਾਤਮਕ ਲੱਗ ਸਕਦੇ ਹਨ, ਪਰ ਮੈਟ੍ਰਿਕਸ ਦਿਖਾਏਗਾ ਕਿ ਉਹ ਸ਼੍ਰੇਣੀਬੱਧ ਹਨ)। ਇਸ ਤਰ੍ਹਾਂ, ਵੇਰੀਏਬਲਾਂ ਦੀ ਗਿਣਤੀ ਵਧਦੀ ਹੈ, ਅਤੇ ਉਹਨਾਂ ਵਿੱਚੋਂ ਲਗਭਗ 500 ਹਨ। ਹੁਣ ਕੀ ਕਰਨਾ ਹੈ? ਕੋਈ ਸੋਚ ਸਕਦਾ ਹੈ ਕਿ ਇਸਦਾ ਜਵਾਬ ਆਯਾਮ ਨੂੰ ਘਟਾਉਣਾ ਹੋਵੇਗਾ. ਅਯਾਮੀ ਘਟਾਉਣ ਵਾਲੇ ਐਲਗੋਰਿਦਮ ਪੈਰਾਮੀਟਰਾਂ ਦੀ ਗਿਣਤੀ ਨੂੰ ਘਟਾਉਂਦੇ ਹਨ ਪਰ ਵਿਆਖਿਆਯੋਗਤਾ 'ਤੇ ਨਕਾਰਾਤਮਕ ਪ੍ਰਭਾਵ ਪਾਉਂਦੇ ਹਨ। ਉਦੋਂ ਕੀ ਜੇ ਹੋਰ ਤਕਨੀਕਾਂ ਹਨ ਜੋ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਨੂੰ ਖਤਮ ਕਰਦੀਆਂ ਹਨ ਜਦੋਂ ਕਿ ਬਾਕੀ ਬਚੀਆਂ ਨੂੰ ਸਮਝਣ ਅਤੇ ਵਿਆਖਿਆ ਕਰਨ ਵਿੱਚ ਆਸਾਨ ਬਣਾਉਂਦੀਆਂ ਹਨ?

ਇਸ ਗੱਲ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹੋਏ ਕਿ ਕੀ ਵਿਸ਼ਲੇਸ਼ਣ ਰਿਗਰੈਸ਼ਨ ਜਾਂ ਵਰਗੀਕਰਨ 'ਤੇ ਅਧਾਰਤ ਹੈ, ਵਿਸ਼ੇਸ਼ਤਾ ਚੋਣ ਐਲਗੋਰਿਦਮ ਵੱਖ-ਵੱਖ ਹੋ ਸਕਦੇ ਹਨ, ਪਰ ਉਹਨਾਂ ਦੇ ਲਾਗੂ ਕਰਨ ਦਾ ਮੁੱਖ ਵਿਚਾਰ ਉਹੀ ਰਹਿੰਦਾ ਹੈ।

ਬਹੁਤ ਜ਼ਿਆਦਾ ਸਬੰਧਿਤ ਵੇਰੀਏਬਲ

ਵੇਰੀਏਬਲ ਜੋ ਇੱਕ ਦੂਜੇ ਨਾਲ ਬਹੁਤ ਜ਼ਿਆਦਾ ਸਬੰਧ ਰੱਖਦੇ ਹਨ ਮਾਡਲ ਨੂੰ ਉਹੀ ਜਾਣਕਾਰੀ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ, ਇਸਲਈ ਉਹਨਾਂ ਸਾਰਿਆਂ ਨੂੰ ਵਿਸ਼ਲੇਸ਼ਣ ਲਈ ਵਰਤਣ ਦੀ ਕੋਈ ਲੋੜ ਨਹੀਂ ਹੈ। ਉਦਾਹਰਨ ਲਈ, ਜੇਕਰ ਇੱਕ ਡੇਟਾਸੈਟ ਵਿੱਚ "ਔਨਲਾਈਨ ਸਮਾਂ" ਅਤੇ "ਵਰਤਿਆ ਟ੍ਰੈਫਿਕ" ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਸ਼ਾਮਲ ਹੁੰਦੀਆਂ ਹਨ, ਤਾਂ ਅਸੀਂ ਇਹ ਮੰਨ ਸਕਦੇ ਹਾਂ ਕਿ ਉਹ ਕੁਝ ਹੱਦ ਤੱਕ ਸਬੰਧਿਤ ਹੋਣਗੇ, ਅਤੇ ਅਸੀਂ ਇੱਕ ਮਜ਼ਬੂਤ ​​ਸਬੰਧ ਦੇਖਾਂਗੇ ਭਾਵੇਂ ਅਸੀਂ ਇੱਕ ਨਿਰਪੱਖ ਡਾਟਾ ਨਮੂਨਾ ਚੁਣਦੇ ਹਾਂ। ਇਸ ਸਥਿਤੀ ਵਿੱਚ, ਮਾਡਲ ਵਿੱਚ ਇਹਨਾਂ ਵਿੱਚੋਂ ਸਿਰਫ ਇੱਕ ਵੇਰੀਏਬਲ ਦੀ ਲੋੜ ਹੈ। ਜੇਕਰ ਤੁਸੀਂ ਦੋਵਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋ, ਤਾਂ ਮਾਡਲ ਓਵਰਫਿੱਟ ਹੋ ਜਾਵੇਗਾ ਅਤੇ ਇੱਕ ਵਿਸ਼ੇਸ਼ ਵਿਸ਼ੇਸ਼ਤਾ ਪ੍ਰਤੀ ਪੱਖਪਾਤੀ ਹੋਵੇਗਾ।

ਪੀ-ਮੁੱਲ

ਲੀਨੀਅਰ ਰਿਗਰੈਸ਼ਨ ਵਰਗੇ ਐਲਗੋਰਿਦਮ ਵਿੱਚ, ਇੱਕ ਸ਼ੁਰੂਆਤੀ ਅੰਕੜਾ ਮਾਡਲ ਹਮੇਸ਼ਾ ਇੱਕ ਚੰਗਾ ਵਿਚਾਰ ਹੁੰਦਾ ਹੈ। ਇਹ ਉਹਨਾਂ ਦੇ ਪੀ-ਮੁੱਲਾਂ ਦੁਆਰਾ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੇ ਮਹੱਤਵ ਨੂੰ ਦਰਸਾਉਣ ਵਿੱਚ ਮਦਦ ਕਰਦਾ ਹੈ ਜੋ ਇਸ ਮਾਡਲ ਦੁਆਰਾ ਪ੍ਰਾਪਤ ਕੀਤੇ ਗਏ ਸਨ। ਮਹੱਤਤਾ ਦਾ ਪੱਧਰ ਨਿਰਧਾਰਤ ਕਰਨ ਤੋਂ ਬਾਅਦ, ਅਸੀਂ ਨਤੀਜੇ ਵਜੋਂ p-ਮੁੱਲਾਂ ਦੀ ਜਾਂਚ ਕਰਦੇ ਹਾਂ, ਅਤੇ ਜੇਕਰ ਕੋਈ ਮੁੱਲ ਨਿਰਧਾਰਤ ਮਹੱਤਤਾ ਪੱਧਰ ਤੋਂ ਹੇਠਾਂ ਹੈ, ਤਾਂ ਇਸ ਵਿਸ਼ੇਸ਼ਤਾ ਨੂੰ ਮਹੱਤਵਪੂਰਨ ਘੋਸ਼ਿਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਯਾਨੀ, ਇਸਦੇ ਮੁੱਲ ਵਿੱਚ ਤਬਦੀਲੀ ਸੰਭਾਵਤ ਤੌਰ 'ਤੇ ਮੁੱਲ ਵਿੱਚ ਤਬਦੀਲੀ ਲਿਆਵੇਗੀ। ਟੀਚਾ.

ਸਿੱਧੀ ਚੋਣ

ਅੱਗੇ ਦੀ ਚੋਣ ਇੱਕ ਤਕਨੀਕ ਹੈ ਜਿਸ ਵਿੱਚ ਪੜਾਅਵਾਰ ਰੀਗਰੈਸ਼ਨ ਨੂੰ ਲਾਗੂ ਕਰਨਾ ਸ਼ਾਮਲ ਹੁੰਦਾ ਹੈ। ਮਾਡਲ ਬਿਲਡਿੰਗ ਇੱਕ ਪੂਰਨ ਜ਼ੀਰੋ ਨਾਲ ਸ਼ੁਰੂ ਹੁੰਦੀ ਹੈ, ਯਾਨੀ ਕਿ ਇੱਕ ਖਾਲੀ ਮਾਡਲ, ਅਤੇ ਫਿਰ ਹਰੇਕ ਦੁਹਰਾਓ ਇੱਕ ਵੇਰੀਏਬਲ ਜੋੜਦਾ ਹੈ ਜੋ ਬਣਾਏ ਜਾ ਰਹੇ ਮਾਡਲ ਵਿੱਚ ਸੁਧਾਰ ਕਰਦਾ ਹੈ। ਮਾਡਲ ਵਿੱਚ ਕਿਹੜਾ ਵੇਰੀਏਬਲ ਜੋੜਿਆ ਜਾਂਦਾ ਹੈ ਇਸਦੀ ਮਹੱਤਤਾ ਦੁਆਰਾ ਨਿਰਧਾਰਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। ਇਸਦੀ ਗਣਨਾ ਵੱਖ-ਵੱਖ ਮਾਪਦੰਡਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ। ਸਭ ਤੋਂ ਆਮ ਤਰੀਕਾ ਹੈ ਸਾਰੇ ਵੇਰੀਏਬਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਮੂਲ ਅੰਕੜਾ ਮਾਡਲ ਵਿੱਚ ਪ੍ਰਾਪਤ ਕੀਤੇ p-ਮੁੱਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨਾ। ਕਈ ਵਾਰ ਅੱਗੇ ਦੀ ਚੋਣ ਇੱਕ ਮਾਡਲ ਨੂੰ ਓਵਰਫਿਟਿੰਗ ਕਰਨ ਦੀ ਅਗਵਾਈ ਕਰ ਸਕਦੀ ਹੈ ਕਿਉਂਕਿ ਮਾਡਲ ਵਿੱਚ ਬਹੁਤ ਜ਼ਿਆਦਾ ਸੰਬੰਧਤ ਵੇਰੀਏਬਲ ਹੋ ਸਕਦੇ ਹਨ, ਭਾਵੇਂ ਉਹ ਮਾਡਲ ਨੂੰ ਉਹੀ ਜਾਣਕਾਰੀ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ (ਪਰ ਮਾਡਲ ਅਜੇ ਵੀ ਸੁਧਾਰ ਦਿਖਾਉਂਦਾ ਹੈ)।

ਉਲਟ ਚੋਣ

ਉਲਟਾ ਚੋਣ ਵਿੱਚ ਗੁਣਾਂ ਦਾ ਕਦਮ-ਦਰ-ਕਦਮ ਖਾਤਮਾ ਵੀ ਸ਼ਾਮਲ ਹੁੰਦਾ ਹੈ, ਪਰ ਅੱਗੇ ਦੀ ਚੋਣ ਦੇ ਮੁਕਾਬਲੇ ਉਲਟ ਦਿਸ਼ਾ ਵਿੱਚ। ਇਸ ਸਥਿਤੀ ਵਿੱਚ, ਸ਼ੁਰੂਆਤੀ ਮਾਡਲ ਵਿੱਚ ਸਾਰੇ ਸੁਤੰਤਰ ਵੇਰੀਏਬਲ ਸ਼ਾਮਲ ਹੁੰਦੇ ਹਨ। ਵੇਰੀਏਬਲਾਂ ਨੂੰ ਫਿਰ ਹਟਾ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ (ਇੱਕ ਪ੍ਰਤੀ ਦੁਹਰਾਓ) ਜੇਕਰ ਉਹ ਹਰੇਕ ਦੁਹਰਾਅ ਵਿੱਚ ਨਵੇਂ ਰੀਗਰੈਸ਼ਨ ਮਾਡਲ ਵਿੱਚ ਮੁੱਲ ਦਾ ਯੋਗਦਾਨ ਨਹੀਂ ਦਿੰਦੇ ਹਨ। ਵਿਸ਼ੇਸ਼ਤਾ ਬੇਦਖਲੀ ਸ਼ੁਰੂਆਤੀ ਮਾਡਲ ਦੇ p-ਮੁੱਲਾਂ 'ਤੇ ਅਧਾਰਤ ਹੈ। ਬਹੁਤ ਜ਼ਿਆਦਾ ਸੰਬੰਧਤ ਵੇਰੀਏਬਲਾਂ ਨੂੰ ਹਟਾਉਣ ਵੇਲੇ ਇਸ ਵਿਧੀ ਵਿੱਚ ਅਨਿਸ਼ਚਿਤਤਾ ਵੀ ਹੁੰਦੀ ਹੈ।

ਆਵਰਤੀ ਵਿਸ਼ੇਸ਼ਤਾ ਦਾ ਖਾਤਮਾ

ਮਹੱਤਵਪੂਰਨ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੀ ਸਹੀ ਸੰਖਿਆ ਚੁਣਨ ਲਈ RFE ਇੱਕ ਵਿਆਪਕ ਤੌਰ 'ਤੇ ਵਰਤੀ ਜਾਂਦੀ ਤਕਨੀਕ/ਐਲਗੋਰਿਦਮ ਹੈ। ਕਈ ਵਾਰ ਢੰਗ ਦੀ ਵਰਤੋਂ ਨਤੀਜਿਆਂ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਨ ਵਾਲੀਆਂ "ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ" ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੀ ਵਿਆਖਿਆ ਕਰਨ ਲਈ ਕੀਤੀ ਜਾਂਦੀ ਹੈ; ਅਤੇ ਕਈ ਵਾਰ ਵੇਰੀਏਬਲਾਂ ਦੀ ਇੱਕ ਬਹੁਤ ਵੱਡੀ ਸੰਖਿਆ (ਲਗਭਗ 200-400) ਨੂੰ ਘਟਾਉਣ ਲਈ, ਅਤੇ ਸਿਰਫ ਉਹਨਾਂ ਨੂੰ ਹੀ ਬਰਕਰਾਰ ਰੱਖਿਆ ਜਾਂਦਾ ਹੈ ਜੋ ਮਾਡਲ ਵਿੱਚ ਘੱਟੋ-ਘੱਟ ਕੁਝ ਯੋਗਦਾਨ ਪਾਉਂਦੇ ਹਨ, ਅਤੇ ਬਾਕੀ ਸਾਰੇ ਬਾਹਰ ਰੱਖੇ ਜਾਂਦੇ ਹਨ। RFE ਇੱਕ ਰੈਂਕਿੰਗ ਸਿਸਟਮ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ। ਡਾਟਾ ਸੈੱਟ ਵਿੱਚ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਨੂੰ ਰੈਂਕ ਨਿਰਧਾਰਤ ਕੀਤਾ ਗਿਆ ਹੈ। ਇਹਨਾਂ ਰੈਂਕਾਂ ਦੀ ਵਰਤੋਂ ਉਹਨਾਂ ਵਿਚਕਾਰ ਸਮਰੂਪਤਾ ਅਤੇ ਮਾਡਲ ਵਿੱਚ ਉਹਨਾਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੀ ਮਹੱਤਤਾ ਦੇ ਅਧਾਰ ਤੇ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਨੂੰ ਮੁੜ-ਮੁੜ ਖਤਮ ਕਰਨ ਲਈ ਕੀਤੀ ਜਾਂਦੀ ਹੈ। ਦਰਜਾਬੰਦੀ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਤੋਂ ਇਲਾਵਾ, RFE ਇਹ ਦਰਸਾ ਸਕਦਾ ਹੈ ਕਿ ਕੀ ਇਹ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਮਹੱਤਵਪੂਰਨ ਹਨ ਜਾਂ ਨਹੀਂ ਵੀ ਦਿੱਤੀਆਂ ਗਈਆਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਲਈ (ਕਿਉਂਕਿ ਇਹ ਬਹੁਤ ਸੰਭਾਵਨਾ ਹੈ ਕਿ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੀ ਚੁਣੀ ਗਈ ਸੰਖਿਆ ਅਨੁਕੂਲ ਨਹੀਂ ਹੋ ਸਕਦੀ ਹੈ, ਅਤੇ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੀ ਅਨੁਕੂਲ ਸੰਖਿਆ ਜਾਂ ਤਾਂ ਹੋਰ ਵੀ ਹੋ ਸਕਦੀ ਹੈ। ਜਾਂ ਚੁਣੇ ਗਏ ਨੰਬਰ ਤੋਂ ਘੱਟ)।

ਵਿਸ਼ੇਸ਼ਤਾ ਮਹੱਤਵ ਚਿੱਤਰ

ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਐਲਗੋਰਿਦਮ ਦੀ ਵਿਆਖਿਆ ਦੀ ਗੱਲ ਕਰਦੇ ਸਮੇਂ, ਅਸੀਂ ਆਮ ਤੌਰ 'ਤੇ ਲੀਨੀਅਰ ਰਿਗਰੈਸ਼ਨ (ਜੋ ਤੁਹਾਨੂੰ p-ਮੁੱਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੇ ਮਹੱਤਵ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦੇ ਹਨ) ਅਤੇ ਨਿਰਣਾਇਕ ਰੁੱਖ (ਸ਼ਾਬਦਿਕ ਰੂਪ ਵਿੱਚ ਇੱਕ ਰੁੱਖ ਦੇ ਰੂਪ ਵਿੱਚ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੀ ਮਹੱਤਤਾ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹਨ, ਅਤੇ ਉਸੇ ਸਮੇਂ ਉਹਨਾਂ ਦਾ ਦਰਜਾਬੰਦੀ). ਦੂਜੇ ਪਾਸੇ, ਐਲਗੋਰਿਦਮ ਜਿਵੇਂ ਕਿ ਰੈਂਡਮ ਫੋਰੈਸਟ, ਲਾਈਟਜੀਬੀਐਮ ਅਤੇ ਐਕਸਜੀ ਬੂਸਟ ਅਕਸਰ ਵਿਸ਼ੇਸ਼ਤਾ ਮਹੱਤਤਾ ਡਾਇਗ੍ਰਾਮ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ, ਯਾਨੀ ਵੇਰੀਏਬਲ ਦਾ ਇੱਕ ਚਿੱਤਰ ਅਤੇ "ਉਨ੍ਹਾਂ ਦੇ ਮਹੱਤਵ ਸੰਖਿਆਵਾਂ" ਨੂੰ ਪਲਾਟ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। ਇਹ ਵਿਸ਼ੇਸ਼ ਤੌਰ 'ਤੇ ਲਾਭਦਾਇਕ ਹੁੰਦਾ ਹੈ ਜਦੋਂ ਤੁਹਾਨੂੰ ਕਾਰੋਬਾਰ 'ਤੇ ਉਹਨਾਂ ਦੇ ਪ੍ਰਭਾਵ ਦੇ ਸੰਦਰਭ ਵਿੱਚ ਗੁਣਾਂ ਦੇ ਮਹੱਤਵ ਲਈ ਇੱਕ ਢਾਂਚਾਗਤ ਤਰਕ ਪ੍ਰਦਾਨ ਕਰਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।

ਰੈਗੂਲਰਾਈਜ਼ੇਸ਼ਨ

ਪੱਖਪਾਤ ਅਤੇ ਵਿਭਿੰਨਤਾ ਵਿਚਕਾਰ ਸੰਤੁਲਨ ਨੂੰ ਨਿਯੰਤਰਿਤ ਕਰਨ ਲਈ ਨਿਯਮਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। ਪੱਖਪਾਤ ਦਰਸਾਉਂਦਾ ਹੈ ਕਿ ਮਾਡਲ ਨੇ ਸਿਖਲਾਈ ਡੇਟਾ ਸੈੱਟ 'ਤੇ ਕਿੰਨਾ ਜ਼ਿਆਦਾ ਫਿੱਟ ਕੀਤਾ ਹੈ। ਭਟਕਣਾ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ ਸਿਖਲਾਈ ਅਤੇ ਟੈਸਟ ਡੇਟਾਸੈਟਾਂ ਵਿਚਕਾਰ ਭਵਿੱਖਬਾਣੀਆਂ ਕਿੰਨੀਆਂ ਵੱਖਰੀਆਂ ਸਨ। ਆਦਰਸ਼ਕ ਤੌਰ 'ਤੇ, ਪੱਖਪਾਤ ਅਤੇ ਵਿਭਿੰਨਤਾ ਦੋਵੇਂ ਛੋਟੇ ਹੋਣੇ ਚਾਹੀਦੇ ਹਨ। ਇਹ ਉਹ ਥਾਂ ਹੈ ਜਿੱਥੇ ਰੈਗੂਲਰਾਈਜ਼ੇਸ਼ਨ ਬਚਾਅ ਲਈ ਆਉਂਦੀ ਹੈ! ਇੱਥੇ ਦੋ ਮੁੱਖ ਤਕਨੀਕਾਂ ਹਨ:

L1 ਰੈਗੂਲਰਾਈਜ਼ੇਸ਼ਨ - Lasso: Lasso ਮਾਡਲ ਲਈ ਉਹਨਾਂ ਦੀ ਮਹੱਤਤਾ ਨੂੰ ਬਦਲਣ ਲਈ ਮਾਡਲ ਵਜ਼ਨ ਨੂੰ ਸਜ਼ਾ ਦਿੰਦਾ ਹੈ ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਰੱਦ ਵੀ ਕਰ ਸਕਦਾ ਹੈ (ਜਿਵੇਂ ਕਿ ਅੰਤਿਮ ਮਾਡਲ ਤੋਂ ਉਹਨਾਂ ਵੇਰੀਏਬਲਾਂ ਨੂੰ ਹਟਾਓ)। ਆਮ ਤੌਰ 'ਤੇ, Lasso ਦੀ ਵਰਤੋਂ ਉਦੋਂ ਕੀਤੀ ਜਾਂਦੀ ਹੈ ਜਦੋਂ ਇੱਕ ਡੇਟਾਸੈਟ ਵਿੱਚ ਵੱਡੀ ਗਿਣਤੀ ਵਿੱਚ ਵੇਰੀਏਬਲ ਹੁੰਦੇ ਹਨ ਅਤੇ ਤੁਸੀਂ ਉਹਨਾਂ ਵਿੱਚੋਂ ਕੁਝ ਨੂੰ ਬਿਹਤਰ ਢੰਗ ਨਾਲ ਸਮਝਣ ਲਈ ਬਾਹਰ ਕੱਢਣਾ ਚਾਹੁੰਦੇ ਹੋ ਕਿ ਮਹੱਤਵਪੂਰਨ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਮਾਡਲ ਨੂੰ ਕਿਵੇਂ ਪ੍ਰਭਾਵਿਤ ਕਰਦੀਆਂ ਹਨ (ਭਾਵ, ਉਹ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਜੋ Lasso ਦੁਆਰਾ ਚੁਣੀਆਂ ਗਈਆਂ ਹਨ ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਮਹੱਤਵ ਦਿੱਤਾ ਗਿਆ ਹੈ)।

L2 ਰੈਗੂਲਰਾਈਜ਼ੇਸ਼ਨ - ਰਿਜ ਵਿਧੀ: ਰਿਜ ਦਾ ਕੰਮ ਸਾਰੇ ਵੇਰੀਏਬਲਾਂ ਨੂੰ ਸਟੋਰ ਕਰਨਾ ਹੈ ਅਤੇ ਉਸੇ ਸਮੇਂ ਮਾਡਲ ਦੀ ਕਾਰਗੁਜ਼ਾਰੀ ਵਿੱਚ ਉਹਨਾਂ ਦੇ ਯੋਗਦਾਨ ਦੇ ਅਧਾਰ ਤੇ ਉਹਨਾਂ ਨੂੰ ਮਹੱਤਵ ਦੇਣਾ ਹੈ। ਰਿਜ ਇੱਕ ਚੰਗਾ ਵਿਕਲਪ ਹੋਵੇਗਾ ਜੇਕਰ ਡੇਟਾਸੈਟ ਵਿੱਚ ਥੋੜ੍ਹੇ ਜਿਹੇ ਵੇਰੀਏਬਲ ਹੁੰਦੇ ਹਨ ਅਤੇ ਉਹ ਸਾਰੇ ਪ੍ਰਾਪਤ ਕੀਤੇ ਨਤੀਜਿਆਂ ਅਤੇ ਨਤੀਜਿਆਂ ਦੀ ਵਿਆਖਿਆ ਕਰਨ ਲਈ ਜ਼ਰੂਰੀ ਹੁੰਦੇ ਹਨ।

ਕਿਉਂਕਿ ਰਿਜ ਸਾਰੇ ਵੇਰੀਏਬਲਾਂ ਨੂੰ ਰੱਖਦਾ ਹੈ ਅਤੇ ਲਾਸੋ ਉਹਨਾਂ ਦੀ ਮਹੱਤਤਾ ਨੂੰ ਸਥਾਪਿਤ ਕਰਨ ਲਈ ਇੱਕ ਵਧੀਆ ਕੰਮ ਕਰਦਾ ਹੈ, ਇੱਕ ਐਲਗੋਰਿਦਮ ਵਿਕਸਿਤ ਕੀਤਾ ਗਿਆ ਸੀ ਜੋ ਦੋਨਾਂ ਨਿਯਮਿਤਕਰਣਾਂ ਦੀਆਂ ਸਭ ਤੋਂ ਵਧੀਆ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਨੂੰ ਜੋੜਦਾ ਹੈ, ਜਿਸਨੂੰ ਇਲਾਸਟਿਕ-ਨੈੱਟ ਕਿਹਾ ਜਾਂਦਾ ਹੈ।

ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਲਈ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੀ ਚੋਣ ਕਰਨ ਦੇ ਹੋਰ ਵੀ ਬਹੁਤ ਸਾਰੇ ਤਰੀਕੇ ਹਨ, ਪਰ ਮੁੱਖ ਵਿਚਾਰ ਹਮੇਸ਼ਾ ਇੱਕੋ ਜਿਹਾ ਹੁੰਦਾ ਹੈ: ਵੇਰੀਏਬਲਾਂ ਦੀ ਮਹੱਤਤਾ ਦਾ ਪ੍ਰਦਰਸ਼ਨ ਕਰੋ ਅਤੇ ਫਿਰ ਨਤੀਜੇ ਵਜੋਂ ਮਹੱਤਤਾ ਦੇ ਆਧਾਰ 'ਤੇ ਉਹਨਾਂ ਵਿੱਚੋਂ ਕੁਝ ਨੂੰ ਖਤਮ ਕਰੋ। ਮਹੱਤਵ ਇੱਕ ਬਹੁਤ ਹੀ ਵਿਅਕਤੀਗਤ ਸ਼ਬਦ ਹੈ, ਕਿਉਂਕਿ ਇਹ ਸਿਰਫ਼ ਇੱਕ ਨਹੀਂ ਹੈ, ਪਰ ਮੈਟ੍ਰਿਕਸ ਅਤੇ ਚਾਰਟਾਂ ਦਾ ਇੱਕ ਪੂਰਾ ਸਮੂਹ ਹੈ ਜੋ ਮੁੱਖ ਗੁਣਾਂ ਨੂੰ ਲੱਭਣ ਲਈ ਵਰਤਿਆ ਜਾ ਸਕਦਾ ਹੈ।

ਪੜ੍ਹਨ ਲਈ ਤੁਹਾਡਾ ਧੰਨਵਾਦ! ਖੁਸ਼ੀ ਦੀ ਸਿਖਲਾਈ!

ਸਰੋਤ: www.habr.com