ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਪੱਖਪਾਤ ਬਾਰੇ

tl; dr:

• ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਡੇਟਾ ਵਿੱਚ ਪੈਟਰਨਾਂ ਦੀ ਖੋਜ ਕਰਦੀ ਹੈ। ਪਰ ਨਕਲੀ ਬੁੱਧੀ "ਪੱਖਪਾਤੀ" ਹੋ ਸਕਦੀ ਹੈ - ਯਾਨੀ, ਉਹ ਪੈਟਰਨ ਲੱਭੋ ਜੋ ਗਲਤ ਹਨ। ਉਦਾਹਰਨ ਲਈ, ਇੱਕ ਫੋਟੋ-ਅਧਾਰਤ ਚਮੜੀ ਦੇ ਕੈਂਸਰ ਦਾ ਪਤਾ ਲਗਾਉਣ ਵਾਲੀ ਪ੍ਰਣਾਲੀ ਡਾਕਟਰ ਦੇ ਦਫ਼ਤਰ ਵਿੱਚ ਲਈਆਂ ਗਈਆਂ ਤਸਵੀਰਾਂ 'ਤੇ ਵਿਸ਼ੇਸ਼ ਧਿਆਨ ਦੇ ਸਕਦੀ ਹੈ। ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਨਹੀਂ ਕਰ ਸਕਦੀ ਸਮਝਣ ਲਈ: ਇਸਦੇ ਐਲਗੋਰਿਦਮ ਸਿਰਫ ਸੰਖਿਆਵਾਂ ਵਿੱਚ ਪੈਟਰਨਾਂ ਦੀ ਪਛਾਣ ਕਰਦੇ ਹਨ, ਅਤੇ ਜੇਕਰ ਡੇਟਾ ਪ੍ਰਤੀਨਿਧ ਨਹੀਂ ਹੈ, ਤਾਂ ਇਸਦੀ ਪ੍ਰਕਿਰਿਆ ਦਾ ਨਤੀਜਾ ਹੋਵੇਗਾ। ਅਤੇ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਦੇ ਬਹੁਤ ਮਕੈਨਿਕ ਦੇ ਕਾਰਨ ਅਜਿਹੇ ਬੱਗ ਨੂੰ ਫੜਨਾ ਮੁਸ਼ਕਲ ਹੋ ਸਕਦਾ ਹੈ।
• ਸਭ ਤੋਂ ਸਪੱਸ਼ਟ ਅਤੇ ਮੁਸ਼ਕਲ ਸਮੱਸਿਆ ਦਾ ਖੇਤਰ ਮਨੁੱਖੀ ਵਿਭਿੰਨਤਾ ਹੈ। ਬਹੁਤ ਸਾਰੇ ਕਾਰਨ ਹਨ ਕਿ ਲੋਕਾਂ ਬਾਰੇ ਡਾਟਾ ਇਕੱਠਾ ਕਰਨ ਦੇ ਪੜਾਅ 'ਤੇ ਵੀ ਨਿਰਪੱਖਤਾ ਗੁਆ ਸਕਦਾ ਹੈ। ਪਰ ਇਹ ਨਾ ਸੋਚੋ ਕਿ ਇਹ ਸਮੱਸਿਆ ਸਿਰਫ ਲੋਕਾਂ ਨੂੰ ਪ੍ਰਭਾਵਤ ਕਰਦੀ ਹੈ: ਬਿਲਕੁਲ ਉਹੀ ਮੁਸ਼ਕਲਾਂ ਪੈਦਾ ਹੁੰਦੀਆਂ ਹਨ ਜਦੋਂ ਕਿਸੇ ਗੋਦਾਮ ਜਾਂ ਅਸਫਲ ਗੈਸ ਟਰਬਾਈਨ ਵਿੱਚ ਹੜ੍ਹ ਦਾ ਪਤਾ ਲਗਾਉਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ ਜਾਂਦੀ ਹੈ। ਕੁਝ ਸਿਸਟਮ ਚਮੜੀ ਦੇ ਰੰਗ ਪ੍ਰਤੀ ਪੱਖਪਾਤੀ ਹੋ ਸਕਦੇ ਹਨ, ਦੂਸਰੇ ਸੀਮੇਂਸ ਸੈਂਸਰਾਂ ਪ੍ਰਤੀ ਪੱਖਪਾਤੀ ਹੋਣਗੇ।
• ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਲਈ ਅਜਿਹੀਆਂ ਸਮੱਸਿਆਵਾਂ ਨਵੀਆਂ ਨਹੀਂ ਹਨ, ਅਤੇ ਉਹ ਇਸ ਤੋਂ ਬਹੁਤ ਦੂਰ ਹਨ। ਕਿਸੇ ਵੀ ਗੁੰਝਲਦਾਰ ਢਾਂਚੇ ਵਿੱਚ ਗਲਤ ਧਾਰਨਾਵਾਂ ਬਣਾਈਆਂ ਜਾਂਦੀਆਂ ਹਨ, ਅਤੇ ਇਹ ਸਮਝਣਾ ਹਮੇਸ਼ਾ ਮੁਸ਼ਕਲ ਹੁੰਦਾ ਹੈ ਕਿ ਇੱਕ ਖਾਸ ਫੈਸਲਾ ਕਿਉਂ ਲਿਆ ਗਿਆ ਸੀ। ਸਾਨੂੰ ਇੱਕ ਵਿਆਪਕ ਤਰੀਕੇ ਨਾਲ ਇਸਦਾ ਮੁਕਾਬਲਾ ਕਰਨ ਦੀ ਲੋੜ ਹੈ: ਪੁਸ਼ਟੀਕਰਨ ਲਈ ਟੂਲ ਅਤੇ ਪ੍ਰਕਿਰਿਆਵਾਂ ਬਣਾਓ - ਅਤੇ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਸਿੱਖਿਅਤ ਕਰੋ ਤਾਂ ਜੋ ਉਹ AI ਸਿਫ਼ਾਰਸ਼ਾਂ ਦੀ ਅੰਨ੍ਹੇਵਾਹ ਪਾਲਣਾ ਨਾ ਕਰਨ। ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਕੁਝ ਚੀਜ਼ਾਂ ਸਾਡੇ ਨਾਲੋਂ ਬਹੁਤ ਵਧੀਆ ਕਰਦੀ ਹੈ - ਪਰ ਕੁੱਤੇ, ਉਦਾਹਰਨ ਲਈ, ਨਸ਼ੀਲੇ ਪਦਾਰਥਾਂ ਦਾ ਪਤਾ ਲਗਾਉਣ ਵਿੱਚ ਮਨੁੱਖਾਂ ਨਾਲੋਂ ਬਹੁਤ ਜ਼ਿਆਦਾ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਹੁੰਦੇ ਹਨ, ਜੋ ਉਹਨਾਂ ਨੂੰ ਗਵਾਹ ਵਜੋਂ ਵਰਤਣ ਅਤੇ ਉਹਨਾਂ ਦੀ ਗਵਾਹੀ ਦੇ ਅਧਾਰ ਤੇ ਨਿਰਣੇ ਕਰਨ ਦਾ ਕਾਰਨ ਨਹੀਂ ਹੈ। ਅਤੇ ਕੁੱਤੇ, ਤਰੀਕੇ ਨਾਲ, ਕਿਸੇ ਵੀ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਪ੍ਰਣਾਲੀ ਨਾਲੋਂ ਬਹੁਤ ਚੁਸਤ ਹੁੰਦੇ ਹਨ.

ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਅੱਜ ਦੇ ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਬੁਨਿਆਦੀ ਤਕਨਾਲੋਜੀ ਰੁਝਾਨਾਂ ਵਿੱਚੋਂ ਇੱਕ ਹੈ। ਇਹ ਉਹਨਾਂ ਪ੍ਰਮੁੱਖ ਤਰੀਕਿਆਂ ਵਿੱਚੋਂ ਇੱਕ ਹੈ ਜਿਸ ਵਿੱਚ ਤਕਨਾਲੋਜੀ ਅਗਲੇ ਦਹਾਕੇ ਵਿੱਚ ਸਾਡੇ ਆਲੇ ਦੁਆਲੇ ਦੀ ਦੁਨੀਆ ਨੂੰ ਬਦਲ ਦੇਵੇਗੀ। ਇਹਨਾਂ ਤਬਦੀਲੀਆਂ ਦੇ ਕੁਝ ਪਹਿਲੂ ਚਿੰਤਾ ਦਾ ਕਾਰਨ ਹਨ। ਉਦਾਹਰਨ ਲਈ, ਲੇਬਰ ਮਾਰਕੀਟ 'ਤੇ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਦਾ ਸੰਭਾਵੀ ਪ੍ਰਭਾਵ, ਜਾਂ ਅਨੈਤਿਕ ਉਦੇਸ਼ਾਂ ਲਈ ਇਸਦੀ ਵਰਤੋਂ (ਉਦਾਹਰਨ ਲਈ, ਤਾਨਾਸ਼ਾਹੀ ਸ਼ਾਸਨ ਦੁਆਰਾ)। ਇੱਕ ਹੋਰ ਸਮੱਸਿਆ ਹੈ ਜਿਸਨੂੰ ਇਹ ਪੋਸਟ ਸੰਬੋਧਿਤ ਕਰਦੀ ਹੈ: ਨਕਲੀ ਖੁਫੀਆ ਪੱਖਪਾਤ.

ਇਹ ਕੋਈ ਸੌਖੀ ਕਹਾਣੀ ਨਹੀਂ ਹੈ।

ਗੂਗਲ ਦਾ ਏਆਈ ਬਿੱਲੀਆਂ ਨੂੰ ਲੱਭ ਸਕਦਾ ਹੈ। 2012 ਦੀ ਇਹ ਖਬਰ ਉਸ ਸਮੇਂ ਕੁਝ ਖਾਸ ਸੀ।

"AI ਬਿਆਸ" ਕੀ ਹੈ?

"ਕੱਚਾ ਡੇਟਾ" ਇੱਕ ਆਕਸੀਮੋਰਨ ਅਤੇ ਇੱਕ ਬੁਰਾ ਵਿਚਾਰ ਹੈ; ਡਾਟਾ ਚੰਗੀ ਤਰ੍ਹਾਂ ਅਤੇ ਧਿਆਨ ਨਾਲ ਤਿਆਰ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ। - ਜੈਫਰੀ ਬੋਕਰ

ਕਿਤੇ 2013 ਤੋਂ ਪਹਿਲਾਂ, ਇੱਕ ਸਿਸਟਮ ਬਣਾਉਣ ਲਈ, ਜੋ ਕਹੋ, ਫੋਟੋਆਂ ਵਿੱਚ ਬਿੱਲੀਆਂ ਨੂੰ ਪਛਾਣਦਾ ਹੈ, ਤੁਹਾਨੂੰ ਲਾਜ਼ੀਕਲ ਕਦਮਾਂ ਦਾ ਵਰਣਨ ਕਰਨਾ ਪੈਂਦਾ ਸੀ। ਇੱਕ ਚਿੱਤਰ ਵਿੱਚ ਕੋਨਿਆਂ ਨੂੰ ਕਿਵੇਂ ਲੱਭਣਾ ਹੈ, ਅੱਖਾਂ ਨੂੰ ਪਛਾਣਨਾ ਹੈ, ਫਰ ਲਈ ਟੈਕਸਟ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕਰਨਾ ਹੈ, ਪੰਜਿਆਂ ਦੀ ਗਿਣਤੀ ਕਰਨਾ ਹੈ, ਅਤੇ ਹੋਰ ਬਹੁਤ ਕੁਝ। ਫਿਰ ਸਾਰੇ ਭਾਗਾਂ ਨੂੰ ਇਕੱਠੇ ਰੱਖੋ ਅਤੇ ਪਤਾ ਲਗਾਓ ਕਿ ਇਹ ਅਸਲ ਵਿੱਚ ਕੰਮ ਨਹੀਂ ਕਰਦਾ. ਇੱਕ ਮਕੈਨੀਕਲ ਘੋੜੇ ਵਾਂਗ - ਸਿਧਾਂਤਕ ਤੌਰ 'ਤੇ ਇਹ ਬਣਾਇਆ ਜਾ ਸਕਦਾ ਹੈ, ਪਰ ਅਭਿਆਸ ਵਿੱਚ ਇਹ ਵਰਣਨ ਕਰਨ ਲਈ ਬਹੁਤ ਗੁੰਝਲਦਾਰ ਹੈ। ਅੰਤਮ ਨਤੀਜਾ ਸੈਂਕੜੇ (ਜਾਂ ਹਜ਼ਾਰਾਂ) ਹੱਥ ਲਿਖਤ ਨਿਯਮ ਹੈ। ਅਤੇ ਇੱਕ ਵੀ ਕੰਮ ਕਰਨ ਵਾਲਾ ਮਾਡਲ ਨਹੀਂ.

ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਦੇ ਆਗਮਨ ਨਾਲ, ਅਸੀਂ ਕਿਸੇ ਖਾਸ ਵਸਤੂ ਦੀ ਪਛਾਣ ਕਰਨ ਲਈ "ਮੈਨੁਅਲ" ਨਿਯਮਾਂ ਦੀ ਵਰਤੋਂ ਬੰਦ ਕਰ ਦਿੱਤੀ ਹੈ। ਇਸਦੀ ਬਜਾਏ, ਅਸੀਂ “ਇਹ”, X, “ਹੋਰ”, Y ਦੇ ਇੱਕ ਹਜ਼ਾਰ ਨਮੂਨੇ ਲੈਂਦੇ ਹਾਂ, ਅਤੇ ਕੰਪਿਊਟਰ ਨੂੰ ਉਹਨਾਂ ਦੇ ਅੰਕੜਾ ਵਿਸ਼ਲੇਸ਼ਣ ਦੇ ਅਧਾਰ ਤੇ ਇੱਕ ਮਾਡਲ ਬਣਾਉਣ ਲਈ ਕਿਹਾ ਹੈ। ਅਸੀਂ ਫਿਰ ਇਸ ਮਾਡਲ ਨੂੰ ਕੁਝ ਨਮੂਨਾ ਡੇਟਾ ਦਿੰਦੇ ਹਾਂ ਅਤੇ ਇਹ ਕੁਝ ਸ਼ੁੱਧਤਾ ਨਾਲ ਨਿਰਧਾਰਤ ਕਰਦਾ ਹੈ ਕਿ ਇਹ ਸੈੱਟਾਂ ਵਿੱਚੋਂ ਇੱਕ ਵਿੱਚ ਫਿੱਟ ਹੈ ਜਾਂ ਨਹੀਂ। ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਮਨੁੱਖ ਦੁਆਰਾ ਲਿਖਣ ਦੀ ਬਜਾਏ ਡੇਟਾ ਤੋਂ ਇੱਕ ਮਾਡਲ ਤਿਆਰ ਕਰਦੀ ਹੈ। ਨਤੀਜੇ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਹਨ, ਖਾਸ ਕਰਕੇ ਚਿੱਤਰ ਅਤੇ ਪੈਟਰਨ ਮਾਨਤਾ ਦੇ ਖੇਤਰ ਵਿੱਚ, ਅਤੇ ਇਹੀ ਕਾਰਨ ਹੈ ਕਿ ਸਮੁੱਚਾ ਤਕਨੀਕੀ ਉਦਯੋਗ ਹੁਣ ਮਸ਼ੀਨ ਸਿਖਲਾਈ (ML) ਵੱਲ ਵਧ ਰਿਹਾ ਹੈ।

ਪਰ ਇਹ ਇੰਨਾ ਸੌਖਾ ਨਹੀਂ ਹੈ। ਅਸਲ ਸੰਸਾਰ ਵਿੱਚ, ਤੁਹਾਡੀਆਂ X ਜਾਂ Y ਦੀਆਂ ਹਜ਼ਾਰਾਂ ਉਦਾਹਰਣਾਂ ਵਿੱਚ A, B, J, L, O, R, ਅਤੇ L ਵੀ ਸ਼ਾਮਲ ਹਨ। ਇਹ ਸਮਾਨ ਰੂਪ ਵਿੱਚ ਵੰਡੇ ਨਹੀਂ ਜਾ ਸਕਦੇ ਹਨ, ਅਤੇ ਕੁਝ ਇੰਨੇ ਵਾਰ ਵਾਪਰ ਸਕਦੇ ਹਨ ਕਿ ਸਿਸਟਮ ਜ਼ਿਆਦਾ ਭੁਗਤਾਨ ਕਰੇਗਾ। ਉਹਨਾਂ ਚੀਜ਼ਾਂ ਵੱਲ ਧਿਆਨ ਦਿਓ ਜੋ ਤੁਹਾਡੀ ਦਿਲਚਸਪੀ ਰੱਖਦੇ ਹਨ।

ਅਭਿਆਸ ਵਿੱਚ ਇਸਦਾ ਕੀ ਅਰਥ ਹੈ? ਮੇਰੀ ਮਨਪਸੰਦ ਉਦਾਹਰਣ ਹੈ ਜਦੋਂ ਚਿੱਤਰ ਪਛਾਣ ਪ੍ਰਣਾਲੀਆਂ ਇੱਕ ਘਾਹ ਵਾਲੀ ਪਹਾੜੀ ਵੱਲ ਦੇਖੋ ਅਤੇ ਕਹੋ, "ਭੇਡ". ਇਹ ਸਪੱਸ਼ਟ ਹੈ ਕਿ ਕਿਉਂ: "ਭੇਡਾਂ" ਦੀਆਂ ਜ਼ਿਆਦਾਤਰ ਤਸਵੀਰਾਂ ਉਹਨਾਂ ਮੈਦਾਨਾਂ ਵਿੱਚ ਲਈਆਂ ਗਈਆਂ ਹਨ ਜਿੱਥੇ ਉਹ ਰਹਿੰਦੇ ਹਨ, ਅਤੇ ਇਹਨਾਂ ਚਿੱਤਰਾਂ ਵਿੱਚ ਘਾਹ ਛੋਟੀਆਂ ਚਿੱਟੀਆਂ ਫਲੱਫਾਂ ਨਾਲੋਂ ਬਹੁਤ ਜ਼ਿਆਦਾ ਜਗ੍ਹਾ ਲੈਂਦਾ ਹੈ, ਅਤੇ ਇਹ ਉਹ ਘਾਹ ਹੈ ਜਿਸਨੂੰ ਸਿਸਟਮ ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਮੰਨਦਾ ਹੈ। .

ਹੋਰ ਵੀ ਗੰਭੀਰ ਉਦਾਹਰਣਾਂ ਹਨ। ਇੱਕ ਹਾਲੀਆ ਡਰਾਫਟ ਫੋਟੋਆਂ ਵਿੱਚ ਚਮੜੀ ਦੇ ਕੈਂਸਰ ਦਾ ਪਤਾ ਲਗਾਉਣ ਲਈ। ਇਹ ਪਤਾ ਚਲਿਆ ਕਿ ਚਮੜੀ ਦੇ ਵਿਗਿਆਨੀ ਅਕਸਰ ਬਣਤਰ ਦੇ ਆਕਾਰ ਨੂੰ ਰਿਕਾਰਡ ਕਰਨ ਲਈ ਚਮੜੀ ਦੇ ਕੈਂਸਰ ਦੇ ਪ੍ਰਗਟਾਵੇ ਦੇ ਨਾਲ ਸ਼ਾਸਕ ਦੀ ਫੋਟੋ ਖਿੱਚਦੇ ਹਨ. ਸਿਹਤਮੰਦ ਚਮੜੀ ਦੀਆਂ ਉਦਾਹਰਣਾਂ ਦੀਆਂ ਤਸਵੀਰਾਂ ਵਿਚ ਕੋਈ ਸ਼ਾਸਕ ਨਹੀਂ ਹਨ. ਇੱਕ AI ਸਿਸਟਮ ਲਈ, ਅਜਿਹੇ ਸ਼ਾਸਕ (ਵਧੇਰੇ ਸਪਸ਼ਟ ਤੌਰ 'ਤੇ, ਪਿਕਸਲ ਜਿਨ੍ਹਾਂ ਨੂੰ ਅਸੀਂ "ਸ਼ਾਸਕ" ਵਜੋਂ ਪਰਿਭਾਸ਼ਤ ਕਰਦੇ ਹਾਂ) ਉਦਾਹਰਣਾਂ ਦੇ ਸੈੱਟਾਂ ਵਿੱਚ ਅੰਤਰ ਬਣ ਗਏ ਹਨ, ਅਤੇ ਕਈ ਵਾਰ ਚਮੜੀ 'ਤੇ ਇੱਕ ਛੋਟੇ ਧੱਫੜ ਨਾਲੋਂ ਵੀ ਵੱਧ ਮਹੱਤਵਪੂਰਨ ਹਨ। ਇਸ ਲਈ ਚਮੜੀ ਦੇ ਕੈਂਸਰ ਦੀ ਪਛਾਣ ਕਰਨ ਲਈ ਬਣਾਈ ਗਈ ਪ੍ਰਣਾਲੀ ਕਈ ਵਾਰ ਇਸ ਦੀ ਬਜਾਏ ਸ਼ਾਸਕਾਂ ਨੂੰ ਮਾਨਤਾ ਦਿੰਦੀ ਹੈ.

ਇੱਥੇ ਮੁੱਖ ਨੁਕਤਾ ਇਹ ਹੈ ਕਿ ਸਿਸਟਮ ਦੀ ਕੋਈ ਅਰਥ ਸਮਝ ਨਹੀਂ ਹੈ ਕਿ ਇਹ ਕੀ ਦੇਖ ਰਿਹਾ ਹੈ। ਅਸੀਂ ਪਿਕਸਲ ਦੇ ਇੱਕ ਸਮੂਹ ਨੂੰ ਦੇਖਦੇ ਹਾਂ ਅਤੇ ਉਹਨਾਂ ਵਿੱਚ ਇੱਕ ਭੇਡ, ਚਮੜੀ ਜਾਂ ਸ਼ਾਸਕ ਦੇਖਦੇ ਹਾਂ, ਪਰ ਸਿਸਟਮ ਸਿਰਫ ਇੱਕ ਨੰਬਰ ਰੇਖਾ ਹੈ। ਉਹ ਤਿੰਨ-ਅਯਾਮੀ ਸਪੇਸ ਨਹੀਂ ਦੇਖਦੀ, ਵਸਤੂਆਂ, ਟੈਕਸਟ ਜਾਂ ਭੇਡਾਂ ਨੂੰ ਨਹੀਂ ਦੇਖਦੀ। ਉਹ ਸਿਰਫ਼ ਡੇਟਾ ਵਿੱਚ ਪੈਟਰਨ ਦੇਖਦੀ ਹੈ।

ਅਜਿਹੀਆਂ ਸਮੱਸਿਆਵਾਂ ਦਾ ਨਿਦਾਨ ਕਰਨ ਵਿੱਚ ਮੁਸ਼ਕਲ ਇਹ ਹੈ ਕਿ ਨਿਊਰਲ ਨੈਟਵਰਕ (ਤੁਹਾਡੀ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਪ੍ਰਣਾਲੀ ਦੁਆਰਾ ਤਿਆਰ ਮਾਡਲ) ਵਿੱਚ ਹਜ਼ਾਰਾਂ ਸੈਂਕੜੇ ਹਜ਼ਾਰਾਂ ਨੋਡ ਸ਼ਾਮਲ ਹੁੰਦੇ ਹਨ। ਕਿਸੇ ਮਾਡਲ ਨੂੰ ਦੇਖਣ ਅਤੇ ਇਹ ਦੇਖਣ ਦਾ ਕੋਈ ਆਸਾਨ ਤਰੀਕਾ ਨਹੀਂ ਹੈ ਕਿ ਇਹ ਕਿਵੇਂ ਫੈਸਲਾ ਲੈਂਦਾ ਹੈ। ਅਜਿਹਾ ਤਰੀਕਾ ਹੋਣ ਦਾ ਮਤਲਬ ਇਹ ਹੋਵੇਗਾ ਕਿ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਦੀ ਵਰਤੋਂ ਕੀਤੇ ਬਿਨਾਂ, ਸਾਰੇ ਨਿਯਮਾਂ ਨੂੰ ਹੱਥੀਂ ਵਰਣਨ ਕਰਨ ਲਈ ਪ੍ਰਕਿਰਿਆ ਕਾਫ਼ੀ ਸਰਲ ਹੈ। ਲੋਕ ਚਿੰਤਾ ਕਰਦੇ ਹਨ ਕਿ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਇੱਕ ਬਲੈਕ ਬਾਕਸ ਬਣ ਗਈ ਹੈ। (ਮੈਂ ਥੋੜ੍ਹੀ ਦੇਰ ਬਾਅਦ ਦੱਸਾਂਗਾ ਕਿ ਇਹ ਤੁਲਨਾ ਅਜੇ ਵੀ ਬਹੁਤ ਜ਼ਿਆਦਾ ਕਿਉਂ ਹੈ।)

ਇਹ, ਆਮ ਸ਼ਬਦਾਂ ਵਿੱਚ, ਨਕਲੀ ਬੁੱਧੀ ਜਾਂ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਵਿੱਚ ਪੱਖਪਾਤ ਦੀ ਸਮੱਸਿਆ ਹੈ: ਡੇਟਾ ਵਿੱਚ ਪੈਟਰਨ ਲੱਭਣ ਲਈ ਇੱਕ ਸਿਸਟਮ ਗਲਤ ਪੈਟਰਨ ਲੱਭ ਸਕਦਾ ਹੈ, ਅਤੇ ਹੋ ਸਕਦਾ ਹੈ ਕਿ ਤੁਸੀਂ ਇਸ ਨੂੰ ਧਿਆਨ ਨਾ ਦਿਓ। ਇਹ ਤਕਨਾਲੋਜੀ ਦੀ ਇੱਕ ਬੁਨਿਆਦੀ ਵਿਸ਼ੇਸ਼ਤਾ ਹੈ, ਅਤੇ ਇਹ ਹਰ ਉਸ ਵਿਅਕਤੀ ਲਈ ਸਪੱਸ਼ਟ ਹੈ ਜੋ ਅਕਾਦਮਿਕ ਅਤੇ ਵੱਡੀਆਂ ਤਕਨੀਕੀ ਕੰਪਨੀਆਂ ਵਿੱਚ ਇਸਦੇ ਨਾਲ ਕੰਮ ਕਰਦਾ ਹੈ। ਪਰ ਇਸਦੇ ਨਤੀਜੇ ਗੁੰਝਲਦਾਰ ਹਨ, ਅਤੇ ਇਸ ਤਰ੍ਹਾਂ ਉਹਨਾਂ ਨਤੀਜਿਆਂ ਦੇ ਸਾਡੇ ਸੰਭਾਵੀ ਹੱਲ ਹਨ।

ਆਓ ਪਹਿਲਾਂ ਨਤੀਜਿਆਂ ਬਾਰੇ ਗੱਲ ਕਰੀਏ.

AI, ਸਾਡੇ ਲਈ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ, ਵੱਡੀ ਗਿਣਤੀ ਵਿੱਚ ਅਦ੍ਰਿਸ਼ਟ ਸੰਕੇਤਾਂ ਦੇ ਅਧਾਰ ਤੇ, ਲੋਕਾਂ ਦੀਆਂ ਕੁਝ ਸ਼੍ਰੇਣੀਆਂ ਦੇ ਹੱਕ ਵਿੱਚ ਚੋਣ ਕਰ ਸਕਦਾ ਹੈ

AI ਪੱਖਪਾਤ ਦੇ ਦ੍ਰਿਸ਼

ਸਭ ਤੋਂ ਸਪੱਸ਼ਟ ਅਤੇ ਡਰਾਉਣਾ, ਇਹ ਸਮੱਸਿਆ ਆਪਣੇ ਆਪ ਨੂੰ ਪ੍ਰਗਟ ਕਰ ਸਕਦੀ ਹੈ ਜਦੋਂ ਇਹ ਮਨੁੱਖੀ ਵਿਭਿੰਨਤਾ ਦੀ ਗੱਲ ਆਉਂਦੀ ਹੈ. ਹਾਲ ਹੀ ਵਿੱਚ ਇੱਕ ਅਫਵਾਹ ਸੀਕਿ ਐਮਾਜ਼ਾਨ ਨੇ ਨੌਕਰੀ ਦੇ ਉਮੀਦਵਾਰਾਂ ਦੀ ਸ਼ੁਰੂਆਤੀ ਸਕ੍ਰੀਨਿੰਗ ਲਈ ਇੱਕ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਪ੍ਰਣਾਲੀ ਬਣਾਉਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ। ਕਿਉਂਕਿ ਐਮਾਜ਼ਾਨ ਵਰਕਰਾਂ ਵਿੱਚ ਵਧੇਰੇ ਪੁਰਸ਼ ਹਨ, "ਸਫਲ ਭਰਤੀ" ਦੀਆਂ ਉਦਾਹਰਣਾਂ ਵੀ ਅਕਸਰ ਮਰਦ ਹਨ, ਅਤੇ ਸਿਸਟਮ ਦੁਆਰਾ ਸੁਝਾਏ ਗਏ ਰੈਜ਼ਿਊਮੇ ਦੀ ਚੋਣ ਵਿੱਚ ਵਧੇਰੇ ਪੁਰਸ਼ ਸਨ। ਐਮਾਜ਼ਾਨ ਨੇ ਇਸ ਨੂੰ ਦੇਖਿਆ ਅਤੇ ਸਿਸਟਮ ਨੂੰ ਉਤਪਾਦਨ ਵਿੱਚ ਜਾਰੀ ਨਹੀਂ ਕੀਤਾ।

ਇਸ ਉਦਾਹਰਣ ਵਿੱਚ ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਗੱਲ ਇਹ ਹੈ ਕਿ ਸਿਸਟਮ ਨੂੰ ਪੁਰਸ਼ ਬਿਨੈਕਾਰਾਂ ਦੇ ਪੱਖ ਵਿੱਚ ਅਫਵਾਹ ਸੀ, ਇਸ ਤੱਥ ਦੇ ਬਾਵਜੂਦ ਕਿ ਰੈਜ਼ਿਊਮੇ ਵਿੱਚ ਲਿੰਗ ਨਿਰਧਾਰਤ ਨਹੀਂ ਕੀਤਾ ਗਿਆ ਸੀ। ਸਿਸਟਮ ਨੇ "ਚੰਗੀਆਂ ਨੌਕਰੀਆਂ" ਦੀਆਂ ਉਦਾਹਰਣਾਂ ਵਿੱਚ ਹੋਰ ਨਮੂਨੇ ਦੇਖੇ: ਉਦਾਹਰਨ ਲਈ, ਔਰਤਾਂ ਪ੍ਰਾਪਤੀਆਂ ਦਾ ਵਰਣਨ ਕਰਨ ਲਈ ਖਾਸ ਸ਼ਬਦਾਂ ਦੀ ਵਰਤੋਂ ਕਰ ਸਕਦੀਆਂ ਹਨ, ਜਾਂ ਖਾਸ ਸ਼ੌਕ ਰੱਖ ਸਕਦੀਆਂ ਹਨ। ਬੇਸ਼ੱਕ, ਸਿਸਟਮ ਨੂੰ ਇਹ ਨਹੀਂ ਪਤਾ ਸੀ ਕਿ "ਹਾਕੀ" ਕੀ ਸੀ, ਜਾਂ "ਲੋਕ" ਕੌਣ ਸਨ, ਜਾਂ "ਸਫਲਤਾ" ਕੀ ਸੀ - ਇਸਨੇ ਬਸ ਪਾਠ ਦਾ ਅੰਕੜਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕੀਤਾ। ਪਰ ਜੋ ਨਮੂਨੇ ਉਸਨੇ ਦੇਖੇ ਹਨ ਉਹ ਸੰਭਾਵਤ ਤੌਰ 'ਤੇ ਮਨੁੱਖਾਂ ਦੁਆਰਾ ਅਣਦੇਖਿਆ ਜਾਣਗੇ, ਅਤੇ ਉਨ੍ਹਾਂ ਵਿੱਚੋਂ ਕੁਝ (ਉਦਾਹਰਣ ਵਜੋਂ, ਇਹ ਤੱਥ ਕਿ ਵੱਖ-ਵੱਖ ਲਿੰਗਾਂ ਦੇ ਲੋਕ ਸਫਲਤਾ ਨੂੰ ਵੱਖਰੇ ਢੰਗ ਨਾਲ ਬਿਆਨ ਕਰਦੇ ਹਨ) ਸ਼ਾਇਦ ਸਾਡੇ ਲਈ ਇਹ ਦੇਖਣਾ ਮੁਸ਼ਕਲ ਹੋਵੇਗਾ ਭਾਵੇਂ ਅਸੀਂ ਉਨ੍ਹਾਂ ਨੂੰ ਵੇਖੀਏ।

ਹੋਰ - ਬਦਤਰ. ਇੱਕ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਸਿਸਟਮ ਜੋ ਕਿ ਫਿੱਕੀ ਚਮੜੀ 'ਤੇ ਕੈਂਸਰ ਦਾ ਪਤਾ ਲਗਾਉਣ ਵਿੱਚ ਬਹੁਤ ਵਧੀਆ ਹੈ, ਹੋ ਸਕਦਾ ਹੈ ਕਿ ਗੂੜ੍ਹੀ ਚਮੜੀ 'ਤੇ ਚੰਗਾ ਪ੍ਰਦਰਸ਼ਨ ਨਾ ਕਰੇ, ਜਾਂ ਇਸਦੇ ਉਲਟ। ਜ਼ਰੂਰੀ ਤੌਰ 'ਤੇ ਪੱਖਪਾਤ ਦੇ ਕਾਰਨ ਨਹੀਂ, ਪਰ ਕਿਉਂਕਿ ਤੁਹਾਨੂੰ ਵੱਖ-ਵੱਖ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੀ ਚੋਣ ਕਰਦੇ ਹੋਏ, ਚਮੜੀ ਦੇ ਵੱਖਰੇ ਰੰਗ ਲਈ ਇੱਕ ਵੱਖਰਾ ਮਾਡਲ ਬਣਾਉਣ ਦੀ ਲੋੜ ਹੈ। ਚਿੱਤਰ ਮਾਨਤਾ ਵਰਗੇ ਤੰਗ ਖੇਤਰ ਵਿੱਚ ਵੀ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਬਦਲਿਆ ਨਹੀਂ ਜਾ ਸਕਦਾ ਹੈ। ਤੁਹਾਨੂੰ ਸਿਸਟਮ ਨੂੰ ਟਵੀਕ ਕਰਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਕਦੇ-ਕਦੇ ਸਿਰਫ਼ ਅਜ਼ਮਾਇਸ਼ ਅਤੇ ਗਲਤੀ ਦੇ ਮਾਧਿਅਮ ਨਾਲ, ਡਾਟਾ ਵਿੱਚ ਉਹਨਾਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ 'ਤੇ ਇੱਕ ਵਧੀਆ ਹੈਂਡਲ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ ਜਿਸ ਵਿੱਚ ਤੁਸੀਂ ਦਿਲਚਸਪੀ ਰੱਖਦੇ ਹੋ ਜਦੋਂ ਤੱਕ ਤੁਸੀਂ ਆਪਣੀ ਲੋੜੀਂਦੀ ਸ਼ੁੱਧਤਾ ਪ੍ਰਾਪਤ ਨਹੀਂ ਕਰਦੇ। ਪਰ ਜੋ ਤੁਸੀਂ ਧਿਆਨ ਨਹੀਂ ਦੇ ਸਕਦੇ ਹੋ ਉਹ ਇਹ ਹੈ ਕਿ ਸਿਸਟਮ ਇੱਕ ਸਮੂਹ ਦੇ ਨਾਲ 98% ਸਮਾਂ ਸਹੀ ਹੁੰਦਾ ਹੈ, ਅਤੇ ਦੂਜੇ ਨਾਲ ਸਿਰਫ 91% (ਮਨੁੱਖੀ ਵਿਸ਼ਲੇਸ਼ਣ ਨਾਲੋਂ ਵੀ ਵੱਧ ਸਹੀ) ਹੁੰਦਾ ਹੈ।

ਹੁਣ ਤੱਕ ਮੈਂ ਮੁੱਖ ਤੌਰ 'ਤੇ ਲੋਕਾਂ ਅਤੇ ਉਨ੍ਹਾਂ ਦੀਆਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਨਾਲ ਸਬੰਧਤ ਉਦਾਹਰਣਾਂ ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਹੈ। ਇਸ ਸਮੱਸਿਆ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਚਰਚਾ ਮੁੱਖ ਤੌਰ 'ਤੇ ਇਸ ਵਿਸ਼ੇ 'ਤੇ ਕੇਂਦਰਿਤ ਹੈ। ਪਰ ਇਹ ਸਮਝਣਾ ਮਹੱਤਵਪੂਰਨ ਹੈ ਕਿ ਲੋਕਾਂ ਪ੍ਰਤੀ ਪੱਖਪਾਤ ਸਮੱਸਿਆ ਦਾ ਸਿਰਫ ਹਿੱਸਾ ਹੈ। ਅਸੀਂ ਬਹੁਤ ਸਾਰੀਆਂ ਚੀਜ਼ਾਂ ਲਈ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਦੀ ਵਰਤੋਂ ਕਰਾਂਗੇ, ਅਤੇ ਨਮੂਨਾ ਲੈਣ ਦੀ ਗਲਤੀ ਉਹਨਾਂ ਸਾਰਿਆਂ ਲਈ ਢੁਕਵੀਂ ਹੋਵੇਗੀ। ਦੂਜੇ ਪਾਸੇ, ਜੇਕਰ ਤੁਸੀਂ ਲੋਕਾਂ ਨਾਲ ਕੰਮ ਕਰਦੇ ਹੋ, ਤਾਂ ਡੇਟਾ ਵਿੱਚ ਪੱਖਪਾਤ ਉਹਨਾਂ ਨਾਲ ਸਬੰਧਤ ਨਹੀਂ ਹੋ ਸਕਦਾ ਹੈ।

ਇਸ ਨੂੰ ਸਮਝਣ ਲਈ, ਆਓ ਚਮੜੀ ਦੇ ਕੈਂਸਰ ਦੀ ਉਦਾਹਰਨ ਵੱਲ ਵਾਪਸ ਆਓ ਅਤੇ ਸਿਸਟਮ ਦੀ ਅਸਫਲਤਾ ਲਈ ਤਿੰਨ ਕਾਲਪਨਿਕ ਸੰਭਾਵਨਾਵਾਂ 'ਤੇ ਵਿਚਾਰ ਕਰੀਏ।

1. ਲੋਕਾਂ ਦੀ ਵਿਭਿੰਨ ਵੰਡ: ਚਮੜੀ ਦੇ ਵੱਖੋ-ਵੱਖਰੇ ਰੰਗਾਂ ਦੀਆਂ ਤਸਵੀਰਾਂ ਦੀ ਇੱਕ ਅਸੰਤੁਲਿਤ ਸੰਖਿਆ, ਪਿਗਮੈਂਟੇਸ਼ਨ ਦੇ ਕਾਰਨ ਗਲਤ ਸਕਾਰਾਤਮਕ ਜਾਂ ਝੂਠੇ ਨਕਾਰਾਤਮਕ ਵੱਲ ਅਗਵਾਈ ਕਰਦੀ ਹੈ।
2. ਜਿਸ ਡੇਟਾ 'ਤੇ ਸਿਸਟਮ ਨੂੰ ਸਿਖਲਾਈ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ, ਉਸ ਵਿੱਚ ਅਕਸਰ ਵਾਪਰਨ ਵਾਲੀ ਅਤੇ ਵਿਭਿੰਨਤਾ ਨਾਲ ਵੰਡੀ ਜਾਣ ਵਾਲੀ ਵਿਸ਼ੇਸ਼ਤਾ ਹੁੰਦੀ ਹੈ ਜੋ ਲੋਕਾਂ ਨਾਲ ਜੁੜੀ ਨਹੀਂ ਹੁੰਦੀ ਹੈ ਅਤੇ ਇਸਦਾ ਕੋਈ ਡਾਇਗਨੌਸਟਿਕ ਮੁੱਲ ਨਹੀਂ ਹੁੰਦਾ ਹੈ: ਚਮੜੀ ਦੇ ਕੈਂਸਰ ਦੀਆਂ ਫੋਟੋਆਂ ਵਿੱਚ ਇੱਕ ਸ਼ਾਸਕ ਜਾਂ ਭੇਡਾਂ ਦੀਆਂ ਤਸਵੀਰਾਂ ਵਿੱਚ ਘਾਹ। ਇਸ ਸਥਿਤੀ ਵਿੱਚ, ਨਤੀਜਾ ਵੱਖਰਾ ਹੋਵੇਗਾ ਜੇਕਰ ਸਿਸਟਮ ਕਿਸੇ ਚੀਜ਼ ਦੇ ਚਿੱਤਰ ਵਿੱਚ ਪਿਕਸਲ ਲੱਭਦਾ ਹੈ ਜਿਸਨੂੰ ਮਨੁੱਖੀ ਅੱਖ "ਸ਼ਾਸਕ" ਵਜੋਂ ਪਛਾਣਦੀ ਹੈ।
3. ਡੇਟਾ ਵਿੱਚ ਇੱਕ ਤੀਜੀ-ਧਿਰ ਦੀ ਵਿਸ਼ੇਸ਼ਤਾ ਹੁੰਦੀ ਹੈ ਜਿਸਨੂੰ ਕੋਈ ਵਿਅਕਤੀ ਨਹੀਂ ਦੇਖ ਸਕਦਾ ਭਾਵੇਂ ਉਹ ਇਸਦੀ ਭਾਲ ਕਰਦਾ ਹੈ।

ਇਸਦਾ ਮਤਲੱਬ ਕੀ ਹੈ? ਅਸੀਂ ਇੱਕ ਤਰਜੀਹ ਜਾਣਦੇ ਹਾਂ ਕਿ ਡੇਟਾ ਲੋਕਾਂ ਦੇ ਵੱਖੋ-ਵੱਖਰੇ ਸਮੂਹਾਂ ਨੂੰ ਵੱਖਰੇ ਤੌਰ 'ਤੇ ਪੇਸ਼ ਕਰ ਸਕਦਾ ਹੈ, ਅਤੇ ਘੱਟੋ-ਘੱਟ ਅਸੀਂ ਅਜਿਹੇ ਅਪਵਾਦਾਂ ਨੂੰ ਲੱਭਣ ਦੀ ਯੋਜਨਾ ਬਣਾ ਸਕਦੇ ਹਾਂ। ਦੂਜੇ ਸ਼ਬਦਾਂ ਵਿਚ, ਇਹ ਮੰਨਣ ਦੇ ਬਹੁਤ ਸਾਰੇ ਸਮਾਜਿਕ ਕਾਰਨ ਹਨ ਕਿ ਲੋਕਾਂ ਦੇ ਸਮੂਹਾਂ ਬਾਰੇ ਡੇਟਾ ਪਹਿਲਾਂ ਹੀ ਕੁਝ ਪੱਖਪਾਤ ਰੱਖਦਾ ਹੈ। ਜੇਕਰ ਅਸੀਂ ਸ਼ਾਸਕ ਦੇ ਨਾਲ ਫੋਟੋ ਨੂੰ ਵੇਖੀਏ, ਤਾਂ ਸਾਨੂੰ ਇਹ ਸ਼ਾਸਕ ਦਿਖਾਈ ਦੇਵੇਗਾ - ਅਸੀਂ ਇਸਨੂੰ ਪਹਿਲਾਂ ਅਣਡਿੱਠ ਕਰ ਦਿੱਤਾ, ਇਹ ਜਾਣਦੇ ਹੋਏ ਕਿ ਇਸ ਨਾਲ ਕੋਈ ਫਰਕ ਨਹੀਂ ਪੈਂਦਾ, ਅਤੇ ਇਹ ਭੁੱਲ ਜਾਂਦੇ ਹਾਂ ਕਿ ਸਿਸਟਮ ਨੂੰ ਕੁਝ ਨਹੀਂ ਪਤਾ।

ਪਰ ਉਦੋਂ ਕੀ ਜੇ ਤੁਹਾਡੀਆਂ ਸਾਰੀਆਂ ਗੈਰ-ਸਿਹਤਮੰਦ ਚਮੜੀ ਦੀਆਂ ਫੋਟੋਆਂ ਕਿਸੇ ਦਫਤਰ ਵਿੱਚ ਪ੍ਰਕਾਸ਼ ਦੀ ਰੌਸ਼ਨੀ ਵਿੱਚ ਲਈਆਂ ਗਈਆਂ ਸਨ, ਅਤੇ ਤੁਹਾਡੀ ਸਿਹਤਮੰਦ ਚਮੜੀ ਫਲੋਰੋਸੈਂਟ ਰੋਸ਼ਨੀ ਵਿੱਚ ਲਈ ਗਈ ਸੀ? ਉਦੋਂ ਕੀ, ਜੇਕਰ ਤੁਸੀਂ ਸਿਹਤਮੰਦ ਚਮੜੀ ਦੀ ਸ਼ੂਟਿੰਗ ਪੂਰੀ ਕਰਨ ਤੋਂ ਬਾਅਦ, ਗੈਰ-ਸਿਹਤਮੰਦ ਚਮੜੀ ਨੂੰ ਸ਼ੂਟ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ, ਤੁਸੀਂ ਆਪਣੇ ਫ਼ੋਨ 'ਤੇ ਓਪਰੇਟਿੰਗ ਸਿਸਟਮ ਨੂੰ ਅੱਪਡੇਟ ਕੀਤਾ ਹੈ, ਅਤੇ ਐਪਲ ਜਾਂ ਗੂਗਲ ਨੇ ਸ਼ੋਰ ਘਟਾਉਣ ਵਾਲੇ ਐਲਗੋਰਿਦਮ ਨੂੰ ਥੋੜ੍ਹਾ ਬਦਲਿਆ ਹੈ? ਕੋਈ ਵਿਅਕਤੀ ਇਸ ਵੱਲ ਧਿਆਨ ਨਹੀਂ ਦੇ ਸਕਦਾ, ਭਾਵੇਂ ਉਹ ਅਜਿਹੀਆਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਨੂੰ ਕਿੰਨਾ ਵੀ ਲੱਭਦਾ ਹੈ. ਪਰ ਮਸ਼ੀਨ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲਾ ਸਿਸਟਮ ਇਸ ਨੂੰ ਤੁਰੰਤ ਦੇਖੇਗਾ ਅਤੇ ਵਰਤੇਗਾ। ਉਸ ਨੂੰ ਕੁਝ ਨਹੀਂ ਪਤਾ।

ਹੁਣ ਤੱਕ ਅਸੀਂ ਝੂਠੇ ਸਬੰਧਾਂ ਬਾਰੇ ਗੱਲ ਕੀਤੀ ਹੈ, ਪਰ ਇਹ ਵੀ ਹੋ ਸਕਦਾ ਹੈ ਕਿ ਡੇਟਾ ਸਹੀ ਹੋਵੇ ਅਤੇ ਨਤੀਜੇ ਸਹੀ ਹੋਣ, ਪਰ ਤੁਸੀਂ ਨੈਤਿਕ, ਕਾਨੂੰਨੀ, ਜਾਂ ਪ੍ਰਬੰਧਨ ਕਾਰਨਾਂ ਕਰਕੇ ਉਹਨਾਂ ਦੀ ਵਰਤੋਂ ਨਹੀਂ ਕਰਨਾ ਚਾਹੁੰਦੇ। ਕੁਝ ਅਧਿਕਾਰ ਖੇਤਰ, ਉਦਾਹਰਨ ਲਈ, ਔਰਤਾਂ ਨੂੰ ਉਹਨਾਂ ਦੇ ਬੀਮੇ 'ਤੇ ਛੋਟ ਪ੍ਰਾਪਤ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਨਹੀਂ ਦਿੰਦੇ ਹਨ, ਭਾਵੇਂ ਕਿ ਔਰਤਾਂ ਸੁਰੱਖਿਅਤ ਡਰਾਈਵਰ ਹੋ ਸਕਦੀਆਂ ਹਨ। ਅਸੀਂ ਆਸਾਨੀ ਨਾਲ ਇੱਕ ਅਜਿਹੀ ਪ੍ਰਣਾਲੀ ਦੀ ਕਲਪਨਾ ਕਰ ਸਕਦੇ ਹਾਂ ਜੋ, ਇਤਿਹਾਸਕ ਡੇਟਾ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕਰਦੇ ਸਮੇਂ, ਔਰਤਾਂ ਦੇ ਨਾਵਾਂ ਲਈ ਇੱਕ ਘੱਟ ਜੋਖਮ ਕਾਰਕ ਨਿਰਧਾਰਤ ਕਰੇਗੀ। ਠੀਕ ਹੈ, ਆਓ ਚੋਣ ਵਿੱਚੋਂ ਨਾਮ ਹਟਾ ਦੇਈਏ। ਪਰ ਐਮਾਜ਼ਾਨ ਦੀ ਉਦਾਹਰਨ ਯਾਦ ਰੱਖੋ: ਸਿਸਟਮ ਹੋਰ ਕਾਰਕਾਂ ਦੇ ਆਧਾਰ 'ਤੇ ਲਿੰਗ ਨਿਰਧਾਰਤ ਕਰ ਸਕਦਾ ਹੈ (ਭਾਵੇਂ ਕਿ ਇਹ ਨਹੀਂ ਜਾਣਦਾ ਕਿ ਲਿੰਗ ਕੀ ਹੈ, ਜਾਂ ਕਾਰ ਕੀ ਹੈ), ਅਤੇ ਤੁਸੀਂ ਇਸ ਨੂੰ ਉਦੋਂ ਤੱਕ ਨੋਟਿਸ ਨਹੀਂ ਕਰੋਗੇ ਜਦੋਂ ਤੱਕ ਰੈਗੂਲੇਟਰ ਤੁਹਾਡੇ ਟੈਰਿਫਾਂ ਦਾ ਪਿਛਾਖੜੀ ਢੰਗ ਨਾਲ ਵਿਸ਼ਲੇਸ਼ਣ ਨਹੀਂ ਕਰਦਾ। ਪੇਸ਼ਕਸ਼ ਕਰਦਾ ਹੈ ਅਤੇ ਤੁਹਾਨੂੰ ਚਾਰਜ ਕਰਦਾ ਹੈ ਤੁਹਾਨੂੰ ਜੁਰਮਾਨਾ ਕੀਤਾ ਜਾਵੇਗਾ।

ਅੰਤ ਵਿੱਚ, ਇਹ ਅਕਸਰ ਮੰਨਿਆ ਜਾਂਦਾ ਹੈ ਕਿ ਅਸੀਂ ਸਿਰਫ ਉਹਨਾਂ ਪ੍ਰੋਜੈਕਟਾਂ ਲਈ ਅਜਿਹੀਆਂ ਪ੍ਰਣਾਲੀਆਂ ਦੀ ਵਰਤੋਂ ਕਰਾਂਗੇ ਜਿਹਨਾਂ ਵਿੱਚ ਲੋਕ ਅਤੇ ਸਮਾਜਿਕ ਪਰਸਪਰ ਪ੍ਰਭਾਵ ਸ਼ਾਮਲ ਹੁੰਦਾ ਹੈ। ਇਹ ਗਲਤ ਹੈ। ਜੇਕਰ ਤੁਸੀਂ ਗੈਸ ਟਰਬਾਈਨਾਂ ਬਣਾਉਂਦੇ ਹੋ, ਤਾਂ ਤੁਸੀਂ ਸ਼ਾਇਦ ਆਪਣੇ ਉਤਪਾਦ (ਆਡੀਓ, ਵੀਡੀਓ, ਤਾਪਮਾਨ, ਅਤੇ ਕੋਈ ਵੀ ਹੋਰ ਸੈਂਸਰ ਡਾਟਾ ਤਿਆਰ ਕਰਦੇ ਹਨ ਜਿਸ ਨੂੰ ਮਸ਼ੀਨ ਬਣਾਉਣ ਲਈ ਬਹੁਤ ਆਸਾਨੀ ਨਾਲ ਅਨੁਕੂਲਿਤ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ) 'ਤੇ ਦਸਾਂ ਜਾਂ ਸੈਂਕੜੇ ਸੈਂਸਰਾਂ ਦੁਆਰਾ ਪ੍ਰਸਾਰਿਤ ਟੈਲੀਮੈਟਰੀ 'ਤੇ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਨੂੰ ਲਾਗੂ ਕਰਨਾ ਚਾਹੋਗੇ। ਸਿੱਖਣ ਦਾ ਮਾਡਲ). ਕਲਪਨਾਤਮਕ ਤੌਰ 'ਤੇ, ਤੁਸੀਂ ਕਹਿ ਸਕਦੇ ਹੋ, "ਇੱਥੇ ਇੱਕ ਹਜ਼ਾਰ ਟਰਬਾਈਨਾਂ ਦਾ ਡੇਟਾ ਹੈ ਜੋ ਅਸਫਲ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਫੇਲ੍ਹ ਹੋ ਗਿਆ ਸੀ, ਅਤੇ ਇੱਥੇ ਇੱਕ ਹਜ਼ਾਰ ਟਰਬਾਈਨਾਂ ਦਾ ਡੇਟਾ ਹੈ ਜੋ ਅਸਫਲ ਨਹੀਂ ਹੋਈਆਂ। ਇਹ ਦੱਸਣ ਲਈ ਇੱਕ ਮਾਡਲ ਬਣਾਓ ਕਿ ਉਹਨਾਂ ਵਿੱਚ ਕੀ ਅੰਤਰ ਹੈ।” ਖੈਰ, ਹੁਣ ਕਲਪਨਾ ਕਰੋ ਕਿ ਸੀਮੇਂਸ ਸੈਂਸਰ 75% ਖਰਾਬ ਟਰਬਾਈਨਾਂ 'ਤੇ ਸਥਾਪਿਤ ਕੀਤੇ ਗਏ ਹਨ, ਅਤੇ ਸਿਰਫ 12% ਚੰਗੀਆਂ (ਅਸਫਲਤਾਵਾਂ ਨਾਲ ਕੋਈ ਸਬੰਧ ਨਹੀਂ ਹੈ)। ਸਿਸਟਮ ਸੀਮੇਂਸ ਸੈਂਸਰਾਂ ਨਾਲ ਟਰਬਾਈਨਾਂ ਨੂੰ ਲੱਭਣ ਲਈ ਇੱਕ ਮਾਡਲ ਬਣਾਏਗਾ। ਓਹ!

ਤਸਵੀਰ — ਮੋਰਿਟਜ਼ ਹਾਰਡਟ, ਯੂਸੀ ਬਰਕਲੇ

ਏਆਈ ਬਿਆਸ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਨਾ

ਅਸੀਂ ਇਸ ਬਾਰੇ ਕੀ ਕਰ ਸਕਦੇ ਹਾਂ? ਤੁਸੀਂ ਤਿੰਨ ਕੋਣਾਂ ਤੋਂ ਮੁੱਦੇ ਤੱਕ ਪਹੁੰਚ ਕਰ ਸਕਦੇ ਹੋ:

1. ਸਿਸਟਮ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ ਲਈ ਡੇਟਾ ਨੂੰ ਇਕੱਤਰ ਕਰਨ ਅਤੇ ਪ੍ਰਬੰਧਨ ਵਿੱਚ ਵਿਧੀ ਸੰਬੰਧੀ ਕਠੋਰਤਾ।
2. ਮਾਡਲ ਵਿਵਹਾਰ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕਰਨ ਅਤੇ ਨਿਦਾਨ ਕਰਨ ਲਈ ਤਕਨੀਕੀ ਸਾਧਨ।
3. ਉਤਪਾਦਾਂ ਵਿੱਚ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਨੂੰ ਲਾਗੂ ਕਰਦੇ ਸਮੇਂ ਸਿਖਲਾਈ ਦਿਓ, ਸਿੱਖਿਆ ਦਿਓ ਅਤੇ ਸਾਵਧਾਨ ਰਹੋ।

ਮੋਲੀਅਰ ਦੀ ਕਿਤਾਬ "ਦ ਬੁਰਜੂਆ ਇਨ ਦ ਨੋਬਲਿਟੀ" ਵਿੱਚ ਇੱਕ ਮਜ਼ਾਕ ਹੈ: ਇੱਕ ਆਦਮੀ ਨੂੰ ਕਿਹਾ ਗਿਆ ਸੀ ਕਿ ਸਾਹਿਤ ਨੂੰ ਗੱਦ ਅਤੇ ਕਵਿਤਾ ਵਿੱਚ ਵੰਡਿਆ ਗਿਆ ਹੈ, ਅਤੇ ਉਸਨੂੰ ਇਹ ਜਾਣ ਕੇ ਖੁਸ਼ੀ ਹੋਈ ਕਿ ਉਹ ਆਪਣੀ ਸਾਰੀ ਉਮਰ ਗਦ ਵਿੱਚ ਬੋਲਦਾ ਰਿਹਾ ਹੈ, ਬਿਨਾਂ ਜਾਣੇ। ਸ਼ਾਇਦ ਅੱਜ ਅੰਕੜਾ ਵਿਗਿਆਨੀ ਇਸ ਤਰ੍ਹਾਂ ਮਹਿਸੂਸ ਕਰਦੇ ਹਨ: ਇਸ ਨੂੰ ਸਮਝੇ ਬਿਨਾਂ, ਉਨ੍ਹਾਂ ਨੇ ਆਪਣੇ ਕਰੀਅਰ ਨੂੰ ਨਕਲੀ ਬੁੱਧੀ ਅਤੇ ਨਮੂਨਾ ਲੈਣ ਦੀ ਗਲਤੀ ਲਈ ਸਮਰਪਿਤ ਕਰ ਦਿੱਤਾ ਹੈ। ਨਮੂਨਾ ਲੈਣ ਦੀ ਗਲਤੀ ਦੀ ਭਾਲ ਕਰਨਾ ਅਤੇ ਇਸ ਬਾਰੇ ਚਿੰਤਾ ਕਰਨਾ ਕੋਈ ਨਵੀਂ ਸਮੱਸਿਆ ਨਹੀਂ ਹੈ, ਸਾਨੂੰ ਇਸ ਦੇ ਹੱਲ ਲਈ ਯੋਜਨਾਬੱਧ ਤਰੀਕੇ ਨਾਲ ਪਹੁੰਚ ਕਰਨ ਦੀ ਲੋੜ ਹੈ। ਜਿਵੇਂ ਕਿ ਉੱਪਰ ਦੱਸਿਆ ਗਿਆ ਹੈ, ਕੁਝ ਮਾਮਲਿਆਂ ਵਿੱਚ ਲੋਕਾਂ ਦੇ ਡੇਟਾ ਨਾਲ ਸਬੰਧਤ ਸਮੱਸਿਆਵਾਂ ਦਾ ਅਧਿਐਨ ਕਰਕੇ ਅਜਿਹਾ ਕਰਨਾ ਅਸਲ ਵਿੱਚ ਆਸਾਨ ਹੈ। ਅਸੀਂ ਤਰਜੀਹੀ ਤੌਰ 'ਤੇ ਇਹ ਮੰਨਦੇ ਹਾਂ ਕਿ ਸਾਡੇ ਕੋਲ ਲੋਕਾਂ ਦੇ ਵੱਖ-ਵੱਖ ਸਮੂਹਾਂ ਬਾਰੇ ਪੱਖਪਾਤ ਹੋ ਸਕਦਾ ਹੈ, ਪਰ ਸਾਡੇ ਲਈ ਸੀਮੇਂਸ ਸੈਂਸਰਾਂ ਬਾਰੇ ਪੱਖਪਾਤ ਦੀ ਕਲਪਨਾ ਕਰਨਾ ਵੀ ਮੁਸ਼ਕਲ ਹੈ।

ਇਸ ਸਭ ਬਾਰੇ ਨਵਾਂ ਕੀ ਹੈ, ਬੇਸ਼ੱਕ, ਇਹ ਹੈ ਕਿ ਲੋਕ ਹੁਣ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਅੰਕੜਾ ਵਿਸ਼ਲੇਸ਼ਣ ਨਹੀਂ ਕਰਦੇ ਹਨ. ਇਹ ਉਹਨਾਂ ਮਸ਼ੀਨਾਂ ਦੁਆਰਾ ਕੀਤਾ ਜਾਂਦਾ ਹੈ ਜੋ ਵੱਡੇ, ਗੁੰਝਲਦਾਰ ਮਾਡਲ ਬਣਾਉਂਦੇ ਹਨ ਜਿਨ੍ਹਾਂ ਨੂੰ ਸਮਝਣਾ ਮੁਸ਼ਕਲ ਹੁੰਦਾ ਹੈ। ਪਾਰਦਰਸ਼ਤਾ ਦਾ ਮੁੱਦਾ ਪੱਖਪਾਤ ਦੀ ਸਮੱਸਿਆ ਦੇ ਮੁੱਖ ਪਹਿਲੂਆਂ ਵਿੱਚੋਂ ਇੱਕ ਹੈ। ਸਾਨੂੰ ਡਰ ਹੈ ਕਿ ਸਿਸਟਮ ਸਿਰਫ ਪੱਖਪਾਤੀ ਨਹੀਂ ਹੈ, ਪਰ ਇਹ ਕਿ ਇਸਦੇ ਪੱਖਪਾਤ ਦਾ ਪਤਾ ਲਗਾਉਣ ਦਾ ਕੋਈ ਤਰੀਕਾ ਨਹੀਂ ਹੈ, ਅਤੇ ਉਹ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਆਟੋਮੇਸ਼ਨ ਦੇ ਦੂਜੇ ਰੂਪਾਂ ਤੋਂ ਵੱਖਰੀ ਹੈ, ਜਿਸ ਵਿੱਚ ਸਪੱਸ਼ਟ ਤਰਕਪੂਰਨ ਕਦਮ ਸ਼ਾਮਲ ਹੋਣੇ ਚਾਹੀਦੇ ਹਨ ਜਿਨ੍ਹਾਂ ਦੀ ਜਾਂਚ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ।

ਇੱਥੇ ਦੋ ਸਮੱਸਿਆਵਾਂ ਹਨ। ਅਸੀਂ ਅਜੇ ਵੀ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਪ੍ਰਣਾਲੀਆਂ ਦਾ ਕਿਸੇ ਕਿਸਮ ਦਾ ਆਡਿਟ ਕਰਨ ਦੇ ਯੋਗ ਹੋ ਸਕਦੇ ਹਾਂ। ਅਤੇ ਕਿਸੇ ਹੋਰ ਪ੍ਰਣਾਲੀ ਦਾ ਆਡਿਟ ਕਰਨਾ ਅਸਲ ਵਿੱਚ ਕੋਈ ਆਸਾਨ ਨਹੀਂ ਹੈ.

ਸਭ ਤੋਂ ਪਹਿਲਾਂ, ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਦੇ ਖੇਤਰ ਵਿੱਚ ਆਧੁਨਿਕ ਖੋਜ ਦੇ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ਾਂ ਵਿੱਚੋਂ ਇੱਕ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਪ੍ਰਣਾਲੀਆਂ ਦੀ ਮਹੱਤਵਪੂਰਨ ਕਾਰਜਕੁਸ਼ਲਤਾ ਦੀ ਪਛਾਣ ਕਰਨ ਲਈ ਤਰੀਕਿਆਂ ਦੀ ਖੋਜ ਹੈ। ਉਸ ਨੇ ਕਿਹਾ, ਮਸ਼ੀਨ ਸਿਖਲਾਈ (ਇਸਦੀ ਮੌਜੂਦਾ ਸਥਿਤੀ ਵਿੱਚ) ਵਿਗਿਆਨ ਦਾ ਇੱਕ ਬਿਲਕੁਲ ਨਵਾਂ ਖੇਤਰ ਹੈ ਜੋ ਤੇਜ਼ੀ ਨਾਲ ਬਦਲ ਰਿਹਾ ਹੈ, ਇਸ ਲਈ ਇਹ ਨਾ ਸੋਚੋ ਕਿ ਜੋ ਚੀਜ਼ਾਂ ਅੱਜ ਅਸੰਭਵ ਹਨ ਉਹ ਜਲਦੀ ਹੀ ਅਸਲ ਨਹੀਂ ਬਣ ਸਕਦੀਆਂ। ਪ੍ਰੋਜੈਕਟ ਓਪਨਏਆਈ - ਇਸ ਦੀ ਇੱਕ ਦਿਲਚਸਪ ਉਦਾਹਰਨ.

ਦੂਜਾ, ਇਹ ਵਿਚਾਰ ਕਿ ਤੁਸੀਂ ਮੌਜੂਦਾ ਪ੍ਰਣਾਲੀਆਂ ਜਾਂ ਸੰਸਥਾਵਾਂ ਦੇ ਫੈਸਲੇ ਲੈਣ ਦੀ ਪ੍ਰਕਿਰਿਆ ਦੀ ਜਾਂਚ ਅਤੇ ਸਮਝ ਸਕਦੇ ਹੋ, ਸਿਧਾਂਤਕ ਤੌਰ 'ਤੇ ਚੰਗਾ ਹੈ, ਪਰ ਅਭਿਆਸ ਵਿੱਚ ਅਜਿਹਾ ਹੀ ਹੈ। ਇਹ ਸਮਝਣਾ ਆਸਾਨ ਨਹੀਂ ਹੈ ਕਿ ਵੱਡੇ ਸੰਗਠਨ ਵਿਚ ਫੈਸਲੇ ਕਿਵੇਂ ਲਏ ਜਾਂਦੇ ਹਨ। ਭਾਵੇਂ ਇੱਕ ਰਸਮੀ ਫੈਸਲਾ ਲੈਣ ਦੀ ਪ੍ਰਕਿਰਿਆ ਹੈ, ਇਹ ਇਹ ਨਹੀਂ ਦਰਸਾਉਂਦੀ ਕਿ ਲੋਕ ਅਸਲ ਵਿੱਚ ਕਿਵੇਂ ਗੱਲਬਾਤ ਕਰਦੇ ਹਨ, ਅਤੇ ਉਹਨਾਂ ਕੋਲ ਆਪਣੇ ਫੈਸਲੇ ਲੈਣ ਲਈ ਅਕਸਰ ਇੱਕ ਤਰਕਪੂਰਨ, ਯੋਜਨਾਬੱਧ ਪਹੁੰਚ ਨਹੀਂ ਹੁੰਦੀ ਹੈ। ਜਿਵੇਂ ਕਿ ਮੇਰੇ ਸਾਥੀ ਨੇ ਕਿਹਾ ਵਿਜੇ ਪਾਂਡੇ, ਲੋਕ ਵੀ ਬਲੈਕ ਬਾਕਸ ਹਨ.

ਕਈ ਓਵਰਲੈਪਿੰਗ ਕੰਪਨੀਆਂ ਅਤੇ ਸੰਸਥਾਵਾਂ ਵਿੱਚ ਇੱਕ ਹਜ਼ਾਰ ਲੋਕਾਂ ਨੂੰ ਲਓ, ਅਤੇ ਸਮੱਸਿਆ ਹੋਰ ਵੀ ਗੁੰਝਲਦਾਰ ਹੋ ਜਾਂਦੀ ਹੈ। ਅਸੀਂ ਇਸ ਤੱਥ ਤੋਂ ਬਾਅਦ ਜਾਣਦੇ ਹਾਂ ਕਿ ਪੁਲਾੜ ਸ਼ਟਲ ਵਾਪਸੀ 'ਤੇ ਟੁੱਟਣ ਦੀ ਕਿਸਮਤ ਸੀ, ਅਤੇ ਨਾਸਾ ਦੇ ਅੰਦਰ ਵਿਅਕਤੀਆਂ ਕੋਲ ਅਜਿਹੀ ਜਾਣਕਾਰੀ ਸੀ ਜਿਸ ਨੇ ਉਨ੍ਹਾਂ ਨੂੰ ਇਹ ਸੋਚਣ ਦਾ ਕਾਰਨ ਦਿੱਤਾ ਕਿ ਕੁਝ ਬੁਰਾ ਹੋ ਸਕਦਾ ਹੈ, ਪਰ ਸਿਸਟਮ ਆਮ ਤੌਰ 'ਤੇ ਮੈਨੂੰ ਇਹ ਨਹੀਂ ਪਤਾ ਸੀ। ਨਾਸਾ ਆਪਣੀ ਪਿਛਲੀ ਸ਼ਟਲ ਨੂੰ ਗੁਆਉਣ ਤੋਂ ਬਾਅਦ ਵੀ ਇਸੇ ਤਰ੍ਹਾਂ ਦੇ ਆਡਿਟ ਵਿੱਚੋਂ ਲੰਘਿਆ, ਅਤੇ ਫਿਰ ਵੀ ਇਸ ਨੇ ਬਹੁਤ ਹੀ ਸਮਾਨ ਕਾਰਨ ਕਰਕੇ ਇੱਕ ਹੋਰ ਗੁਆ ਦਿੱਤਾ। ਇਹ ਦਲੀਲ ਦੇਣਾ ਆਸਾਨ ਹੈ ਕਿ ਸੰਸਥਾਵਾਂ ਅਤੇ ਲੋਕ ਸਪੱਸ਼ਟ, ਤਰਕਪੂਰਨ ਨਿਯਮਾਂ ਦੀ ਪਾਲਣਾ ਕਰਦੇ ਹਨ ਜਿਨ੍ਹਾਂ ਦੀ ਜਾਂਚ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ, ਸਮਝੀ ਜਾ ਸਕਦੀ ਹੈ ਅਤੇ ਬਦਲਿਆ ਜਾ ਸਕਦਾ ਹੈ-ਪਰ ਤਜਰਬਾ ਕੁਝ ਹੋਰ ਸਾਬਤ ਕਰਦਾ ਹੈ। ਇਹ "ਗੋਸਪਲਨ ਦਾ ਭੁਲੇਖਾ".

ਮੈਂ ਅਕਸਰ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਦੀ ਤੁਲਨਾ ਡੇਟਾਬੇਸ ਨਾਲ ਕਰਦਾ ਹਾਂ, ਖਾਸ ਤੌਰ 'ਤੇ ਰਿਲੇਸ਼ਨਲ - ਇੱਕ ਨਵੀਂ ਬੁਨਿਆਦੀ ਤਕਨਾਲੋਜੀ ਜਿਸ ਨੇ ਕੰਪਿਊਟਰ ਵਿਗਿਆਨ ਅਤੇ ਇਸਦੇ ਆਲੇ ਦੁਆਲੇ ਦੇ ਸੰਸਾਰ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਬਦਲ ਦਿੱਤਾ ਹੈ, ਜੋ ਹਰ ਚੀਜ਼ ਦਾ ਹਿੱਸਾ ਬਣ ਗਈ ਹੈ, ਜਿਸਨੂੰ ਅਸੀਂ ਇਸ ਨੂੰ ਮਹਿਸੂਸ ਕੀਤੇ ਬਿਨਾਂ ਲਗਾਤਾਰ ਵਰਤਦੇ ਹਾਂ। ਡੇਟਾਬੇਸ ਵਿੱਚ ਵੀ ਸਮੱਸਿਆਵਾਂ ਹਨ, ਅਤੇ ਉਹ ਇੱਕ ਸਮਾਨ ਪ੍ਰਕਿਰਤੀ ਦੇ ਹਨ: ਸਿਸਟਮ ਨੂੰ ਮਾੜੀਆਂ ਧਾਰਨਾਵਾਂ ਜਾਂ ਮਾੜੇ ਡੇਟਾ 'ਤੇ ਬਣਾਇਆ ਜਾ ਸਕਦਾ ਹੈ, ਪਰ ਇਸ ਨੂੰ ਧਿਆਨ ਵਿੱਚ ਰੱਖਣਾ ਮੁਸ਼ਕਲ ਹੋਵੇਗਾ, ਅਤੇ ਸਿਸਟਮ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਲੋਕ ਬਿਨਾਂ ਸਵਾਲ ਪੁੱਛੇ ਉਹੀ ਕਰਨਗੇ ਜੋ ਇਹ ਉਨ੍ਹਾਂ ਨੂੰ ਦੱਸੇਗਾ। ਟੈਕਸ ਲੋਕਾਂ ਬਾਰੇ ਬਹੁਤ ਸਾਰੇ ਪੁਰਾਣੇ ਚੁਟਕਲੇ ਹਨ ਜੋ ਇੱਕ ਵਾਰ ਤੁਹਾਡੇ ਨਾਮ ਦੀ ਗਲਤ ਸਪੈਲਿੰਗ ਕਰਦੇ ਹਨ, ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਗਲਤੀ ਨੂੰ ਸੁਧਾਰਨ ਲਈ ਯਕੀਨ ਦਿਵਾਉਣਾ ਅਸਲ ਵਿੱਚ ਤੁਹਾਡਾ ਨਾਮ ਬਦਲਣ ਨਾਲੋਂ ਬਹੁਤ ਮੁਸ਼ਕਲ ਹੈ। ਇਸ ਬਾਰੇ ਸੋਚਣ ਦੇ ਬਹੁਤ ਸਾਰੇ ਤਰੀਕੇ ਹਨ, ਪਰ ਇਹ ਸਪੱਸ਼ਟ ਨਹੀਂ ਹੈ ਕਿ ਕਿਹੜਾ ਬਿਹਤਰ ਹੈ: SQL ਵਿੱਚ ਤਕਨੀਕੀ ਸਮੱਸਿਆ ਦੇ ਰੂਪ ਵਿੱਚ, ਜਾਂ ਇੱਕ Oracle ਰੀਲੀਜ਼ ਵਿੱਚ ਇੱਕ ਬੱਗ ਦੇ ਰੂਪ ਵਿੱਚ, ਜਾਂ ਨੌਕਰਸ਼ਾਹੀ ਸੰਸਥਾਵਾਂ ਦੀ ਅਸਫਲਤਾ ਦੇ ਰੂਪ ਵਿੱਚ? ਇੱਕ ਪ੍ਰਕਿਰਿਆ ਵਿੱਚ ਇੱਕ ਬੱਗ ਲੱਭਣਾ ਕਿੰਨਾ ਮੁਸ਼ਕਲ ਹੈ ਜਿਸ ਕਾਰਨ ਸਿਸਟਮ ਵਿੱਚ ਟਾਈਪੋ ਸੁਧਾਰ ਵਿਸ਼ੇਸ਼ਤਾ ਨਹੀਂ ਹੈ? ਕੀ ਲੋਕਾਂ ਦੀ ਸ਼ਿਕਾਇਤ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਇਸ ਦਾ ਪਤਾ ਲਗਾਇਆ ਜਾ ਸਕਦਾ ਸੀ?

ਇਸ ਸਮੱਸਿਆ ਨੂੰ ਕਹਾਣੀਆਂ ਦੁਆਰਾ ਹੋਰ ਵੀ ਅਸਾਨੀ ਨਾਲ ਦਰਸਾਇਆ ਗਿਆ ਹੈ ਜਦੋਂ ਡਰਾਈਵਰ ਨੈਵੀਗੇਟਰ ਵਿੱਚ ਪੁਰਾਣੇ ਡੇਟਾ ਦੇ ਕਾਰਨ ਨਦੀਆਂ ਵਿੱਚ ਡ੍ਰਾਈਵ ਕਰਦੇ ਹਨ। ਠੀਕ ਹੈ, ਨਕਸ਼ਿਆਂ ਨੂੰ ਲਗਾਤਾਰ ਅੱਪਡੇਟ ਕਰਨ ਦੀ ਲੋੜ ਹੈ। ਪਰ ਤੁਹਾਡੀ ਕਾਰ ਸਮੁੰਦਰ ਵਿੱਚ ਉਡਾਏ ਜਾਣ ਲਈ ਟੌਮਟੌਮ ਨੂੰ ਕਿੰਨਾ ਜ਼ਿੰਮੇਵਾਰ ਠਹਿਰਾਉਣਾ ਹੈ?

ਮੇਰੇ ਕਹਿਣ ਦਾ ਕਾਰਨ ਇਹ ਹੈ ਕਿ ਹਾਂ, ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਪੱਖਪਾਤ ਸਮੱਸਿਆਵਾਂ ਪੈਦਾ ਕਰੇਗਾ। ਪਰ ਇਹ ਸਮੱਸਿਆਵਾਂ ਉਹਨਾਂ ਵਰਗੀਆਂ ਹੀ ਹੋਣਗੀਆਂ ਜਿਹਨਾਂ ਦਾ ਅਸੀਂ ਅਤੀਤ ਵਿੱਚ ਸਾਹਮਣਾ ਕੀਤਾ ਹੈ, ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਦੇਖਿਆ ਜਾ ਸਕਦਾ ਹੈ ਅਤੇ ਹੱਲ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ (ਜਾਂ ਨਹੀਂ) ਜਿਵੇਂ ਕਿ ਅਸੀਂ ਅਤੀਤ ਵਿੱਚ ਕਰ ਸਕਦੇ ਸੀ। ਇਸ ਲਈ, ਇੱਕ ਦ੍ਰਿਸ਼ ਜਿਸ ਵਿੱਚ AI ਪੱਖਪਾਤ ਨੁਕਸਾਨ ਦਾ ਕਾਰਨ ਬਣਦਾ ਹੈ, ਇੱਕ ਵੱਡੀ ਸੰਸਥਾ ਵਿੱਚ ਕੰਮ ਕਰ ਰਹੇ ਸੀਨੀਅਰ ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ ਹੋਣ ਦੀ ਸੰਭਾਵਨਾ ਨਹੀਂ ਹੈ। ਜ਼ਿਆਦਾਤਰ ਸੰਭਾਵਨਾ ਹੈ, ਕੁਝ ਮਾਮੂਲੀ ਤਕਨਾਲੋਜੀ ਠੇਕੇਦਾਰ ਜਾਂ ਸੌਫਟਵੇਅਰ ਵਿਕਰੇਤਾ ਓਪਨ ਸੋਰਸ ਕੰਪੋਨੈਂਟਸ, ਲਾਇਬ੍ਰੇਰੀਆਂ ਅਤੇ ਟੂਲਸ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ ਆਪਣੇ ਗੋਡਿਆਂ 'ਤੇ ਕੁਝ ਲਿਖਣਗੇ ਜੋ ਉਹ ਨਹੀਂ ਸਮਝਦੇ. ਅਤੇ ਬਦਕਿਸਮਤ ਗਾਹਕ ਉਤਪਾਦ ਦੇ ਵੇਰਵੇ ਵਿੱਚ "ਨਕਲੀ ਬੁੱਧੀ" ਸ਼ਬਦ ਖਰੀਦੇਗਾ ਅਤੇ, ਬਿਨਾਂ ਕੋਈ ਸਵਾਲ ਪੁੱਛੇ, ਇਸਨੂੰ ਆਪਣੇ ਘੱਟ ਤਨਖਾਹ ਵਾਲੇ ਕਰਮਚਾਰੀਆਂ ਨੂੰ ਵੰਡ ਦੇਵੇਗਾ, ਉਹਨਾਂ ਨੂੰ ਉਹੀ ਕਰਨ ਦਾ ਆਦੇਸ਼ ਦੇਵੇਗਾ ਜੋ AI ਕਹਿੰਦਾ ਹੈ। ਇਹ ਬਿਲਕੁਲ ਉਹੀ ਹੈ ਜੋ ਡੇਟਾਬੇਸ ਨਾਲ ਹੋਇਆ ਹੈ. ਇਹ ਇੱਕ ਨਕਲੀ ਖੁਫੀਆ ਸਮੱਸਿਆ ਨਹੀਂ ਹੈ, ਜਾਂ ਇੱਕ ਸੌਫਟਵੇਅਰ ਸਮੱਸਿਆ ਵੀ ਨਹੀਂ ਹੈ। ਇਹ ਮਨੁੱਖੀ ਕਾਰਕ ਹੈ.

ਸਿੱਟਾ

ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਕੁਝ ਵੀ ਕਰ ਸਕਦੀ ਹੈ ਜੋ ਤੁਸੀਂ ਇੱਕ ਕੁੱਤੇ ਨੂੰ ਸਿਖਾ ਸਕਦੇ ਹੋ - ਪਰ ਤੁਸੀਂ ਕਦੇ ਵੀ ਇਹ ਯਕੀਨੀ ਨਹੀਂ ਹੋ ਸਕਦੇ ਕਿ ਤੁਸੀਂ ਕੁੱਤੇ ਨੂੰ ਕੀ ਸਿਖਾਇਆ ਹੈ।

ਮੈਂ ਅਕਸਰ ਮਹਿਸੂਸ ਕਰਦਾ ਹਾਂ ਕਿ "ਨਕਲੀ ਬੁੱਧੀ" ਸ਼ਬਦ ਸਿਰਫ ਇਸ ਤਰ੍ਹਾਂ ਦੀ ਗੱਲਬਾਤ ਦੇ ਰਾਹ ਵਿੱਚ ਆਉਂਦਾ ਹੈ। ਇਹ ਸ਼ਬਦ ਗਲਤ ਪ੍ਰਭਾਵ ਦਿੰਦਾ ਹੈ ਕਿ ਅਸੀਂ ਅਸਲ ਵਿੱਚ ਇਸਨੂੰ ਬਣਾਇਆ ਹੈ - ਇਹ ਬੁੱਧੀ. ਕਿ ਅਸੀਂ HAL9000 ਜਾਂ Skynet ਦੇ ਰਾਹ 'ਤੇ ਹਾਂ - ਕੁਝ ਅਜਿਹਾ ਜੋ ਅਸਲ ਵਿੱਚ ਸਮਝਦਾ ਹੈ. ਪਰ ਨਹੀਂ। ਇਹ ਸਿਰਫ਼ ਮਸ਼ੀਨਾਂ ਹਨ, ਅਤੇ ਇਹਨਾਂ ਦੀ ਤੁਲਨਾ ਵਾਸ਼ਿੰਗ ਮਸ਼ੀਨ ਨਾਲ ਕਰਨਾ ਬਹੁਤ ਜ਼ਿਆਦਾ ਸਹੀ ਹੈ। ਉਹ ਇੱਕ ਮਨੁੱਖ ਨਾਲੋਂ ਬਹੁਤ ਵਧੀਆ ਕੱਪੜੇ ਧੋਦੀ ਹੈ, ਪਰ ਜੇ ਤੁਸੀਂ ਉਸ ਵਿੱਚ ਲਾਂਡਰੀ ਦੀ ਬਜਾਏ ਪਕਵਾਨ ਪਾਉਂਦੇ ਹੋ, ਤਾਂ ਉਹ ... ਉਹਨਾਂ ਨੂੰ ਧੋ ਦੇਵੇਗੀ। ਬਰਤਨ ਵੀ ਸਾਫ਼ ਹੋ ਜਾਣਗੇ। ਪਰ ਇਹ ਉਹ ਨਹੀਂ ਹੋਵੇਗਾ ਜਿਸਦੀ ਤੁਸੀਂ ਉਮੀਦ ਕੀਤੀ ਸੀ, ਅਤੇ ਅਜਿਹਾ ਨਹੀਂ ਹੋਵੇਗਾ ਕਿਉਂਕਿ ਸਿਸਟਮ ਵਿੱਚ ਪਕਵਾਨਾਂ ਬਾਰੇ ਕੋਈ ਪੱਖਪਾਤ ਹੈ। ਵਾਸ਼ਿੰਗ ਮਸ਼ੀਨ ਇਹ ਨਹੀਂ ਜਾਣਦੀ ਕਿ ਪਕਵਾਨ ਕੀ ਹਨ ਜਾਂ ਕੱਪੜੇ ਕੀ ਹਨ - ਇਹ ਸਿਰਫ ਆਟੋਮੇਸ਼ਨ ਦੀ ਇੱਕ ਉਦਾਹਰਨ ਹੈ, ਸੰਕਲਪਿਕ ਤੌਰ 'ਤੇ ਇਸ ਤੋਂ ਵੱਖਰਾ ਨਹੀਂ ਕਿ ਪ੍ਰਕਿਰਿਆਵਾਂ ਪਹਿਲਾਂ ਕਿਵੇਂ ਸਵੈਚਾਲਿਤ ਹੁੰਦੀਆਂ ਸਨ।

ਭਾਵੇਂ ਅਸੀਂ ਕਾਰਾਂ, ਹਵਾਈ ਜਹਾਜ਼ਾਂ, ਜਾਂ ਡੇਟਾਬੇਸ ਬਾਰੇ ਗੱਲ ਕਰ ਰਹੇ ਹਾਂ, ਇਹ ਪ੍ਰਣਾਲੀਆਂ ਬਹੁਤ ਸ਼ਕਤੀਸ਼ਾਲੀ ਅਤੇ ਬਹੁਤ ਸੀਮਤ ਦੋਵੇਂ ਹੋਣਗੀਆਂ। ਉਹ ਪੂਰੀ ਤਰ੍ਹਾਂ ਇਸ ਗੱਲ 'ਤੇ ਨਿਰਭਰ ਕਰਨਗੇ ਕਿ ਲੋਕ ਇਨ੍ਹਾਂ ਪ੍ਰਣਾਲੀਆਂ ਦੀ ਵਰਤੋਂ ਕਿਵੇਂ ਕਰਦੇ ਹਨ, ਕੀ ਉਨ੍ਹਾਂ ਦੇ ਇਰਾਦੇ ਚੰਗੇ ਜਾਂ ਮਾੜੇ ਹਨ, ਅਤੇ ਉਹ ਕਿੰਨੀ ਕੁ ਸਮਝਦੇ ਹਨ ਕਿ ਉਹ ਕਿਵੇਂ ਕੰਮ ਕਰਦੇ ਹਨ।

ਇਸ ਲਈ, ਇਹ ਕਹਿਣਾ ਕਿ "ਨਕਲੀ ਬੁੱਧੀ ਗਣਿਤ ਹੈ, ਇਸ ਲਈ ਇਸ ਵਿੱਚ ਪੱਖਪਾਤ ਨਹੀਂ ਹੋ ਸਕਦਾ" ਪੂਰੀ ਤਰ੍ਹਾਂ ਗਲਤ ਹੈ। ਪਰ ਇਹ ਕਹਿਣਾ ਵੀ ਬਰਾਬਰ ਗਲਤ ਹੈ ਕਿ ਮਸ਼ੀਨ ਸਿਖਲਾਈ "ਪ੍ਰਕਿਰਤੀ ਵਿੱਚ ਵਿਅਕਤੀਗਤ" ਹੈ। ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਡੇਟਾ ਵਿੱਚ ਪੈਟਰਨ ਲੱਭਦੀ ਹੈ, ਅਤੇ ਇਹ ਕਿਹੜੇ ਪੈਟਰਨ ਲੱਭਦੀ ਹੈ ਇਹ ਡੇਟਾ ਉੱਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ, ਅਤੇ ਡੇਟਾ ਸਾਡੇ ਉੱਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ। ਜਿਵੇਂ ਅਸੀਂ ਉਨ੍ਹਾਂ ਨਾਲ ਕਰਦੇ ਹਾਂ। ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਕੁਝ ਚੀਜ਼ਾਂ ਸਾਡੇ ਨਾਲੋਂ ਬਹੁਤ ਵਧੀਆ ਕਰਦੀ ਹੈ - ਪਰ ਕੁੱਤੇ, ਉਦਾਹਰਨ ਲਈ, ਨਸ਼ੀਲੇ ਪਦਾਰਥਾਂ ਦਾ ਪਤਾ ਲਗਾਉਣ ਵਿੱਚ ਮਨੁੱਖਾਂ ਨਾਲੋਂ ਬਹੁਤ ਜ਼ਿਆਦਾ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਹੁੰਦੇ ਹਨ, ਜੋ ਉਹਨਾਂ ਨੂੰ ਗਵਾਹ ਵਜੋਂ ਵਰਤਣ ਅਤੇ ਉਹਨਾਂ ਦੀ ਗਵਾਹੀ ਦੇ ਅਧਾਰ ਤੇ ਨਿਰਣੇ ਕਰਨ ਦਾ ਕਾਰਨ ਨਹੀਂ ਹੈ। ਅਤੇ ਕੁੱਤੇ, ਤਰੀਕੇ ਨਾਲ, ਕਿਸੇ ਵੀ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਪ੍ਰਣਾਲੀ ਨਾਲੋਂ ਬਹੁਤ ਚੁਸਤ ਹੁੰਦੇ ਹਨ.

ਅਨੁਵਾਦ: ਡਾਇਨਾ ਲੈਟਸਕਾਯਾ.
ਸੰਪਾਦਨ: ਅਲੇਕਸੀ ਇਵਾਨੋਵ.
ਭਾਈਚਾਰਾ: @PonchikNews.

ਸਰੋਤ: www.habr.com