ስለ አርቲፊሻል ኢንተለጀንስ አድሎአዊነት

tl; dr:

• የማሽን መማር በመረጃ ውስጥ ቅጦችን ይፈልጋል። ነገር ግን አርቴፊሻል ኢንተለጀንስ “አድሎአዊ” ሊሆን ይችላል - ማለትም የተሳሳቱ ቅጦችን ይፈልጉ። ለምሳሌ በፎቶ ላይ የተመሰረተ የቆዳ ካንሰር መፈለጊያ ስርዓት በሀኪም ቢሮ ውስጥ ለሚነሱ ምስሎች ልዩ ትኩረት ሊሰጥ ይችላል. የማሽን መማር አይችልም። ተረዳ: የእሱ ስልተ ቀመሮች በቁጥሮች ውስጥ ቅጦችን ብቻ ይለያሉ, እና ውሂቡ የማይወክል ከሆነ, የእሱ ሂደት ውጤቱም እንዲሁ ይሆናል. እና በማሽን መማሪያ መካኒኮች ምክንያት እንደዚህ ያሉ ስህተቶችን መያዝ ከባድ ሊሆን ይችላል።
• በጣም ግልጽ እና አስጨናቂው የችግር አካባቢ የሰዎች ልዩነት ነው. በሰዎች ላይ ያለው መረጃ በስብስብ ደረጃም ቢሆን ተጨባጭነትን ሊያጣ የሚችልባቸው ብዙ ምክንያቶች አሉ። ነገር ግን ይህ ችግር በሰዎች ላይ ብቻ የሚጎዳ ነው ብለው አያስቡ-በመጋዘን ውስጥ ጎርፍ ወይም ያልተሳካ የጋዝ ተርባይን ለመለየት ሲሞክሩ በትክክል ተመሳሳይ ችግሮች ይነሳሉ ። አንዳንድ ስርዓቶች ለቆዳ ቀለም ያደላ ሊሆን ይችላል፣ሌሎች ደግሞ ለ Siemens ዳሳሾች ያደላሉ።
• እንደነዚህ ያሉት ችግሮች ለማሽን መማር አዲስ አይደሉም, እና እነሱ ለየት ያሉ አይደሉም. በማንኛውም ውስብስብ መዋቅር ውስጥ የተሳሳቱ ግምቶች ይደረጋሉ, እና ለምን የተለየ ውሳኔ እንደተደረገ መረዳት ሁልጊዜ አስቸጋሪ ነው. ይህንን ሁሉን አቀፍ በሆነ መንገድ መዋጋት አለብን፡ የማረጋገጫ መሳሪያዎችን እና ሂደቶችን ይፍጠሩ - እና ተጠቃሚዎች የ AI ምክሮችን በጭፍን እንዳይከተሉ ያስተምሩ። የማሽን መማር አንዳንድ ነገሮችን ከምንችለው በላይ ይሰራል - ነገር ግን ውሾች ለምሳሌ አደንዛዥ ዕፅን በመለየት ከሰዎች የበለጠ ውጤታማ ናቸው፣ ይህም እነሱን እንደ ምስክር ለመጠቀም እና በምስክርነታቸው መሰረት ፍርድ ለመስጠት ምክንያት አይደለም። እና ውሾች, በነገራችን ላይ, ከማንኛውም የማሽን መማሪያ ስርዓት የበለጠ ብልህ ናቸው.

የማሽን መማር ዛሬ በጣም አስፈላጊ ከሆኑ መሠረታዊ የቴክኖሎጂ አዝማሚያዎች አንዱ ነው። ይህ ቴክኖሎጂ በሚቀጥሉት አስርት ዓመታት ውስጥ በዙሪያችን ያለውን ዓለም ከሚቀይርባቸው ዋና ዋና መንገዶች አንዱ ነው. የእነዚህ ለውጦች አንዳንድ ገጽታዎች ለጭንቀት መንስኤ ናቸው. ለምሳሌ የማሽን መማር በሥራ ገበያ ላይ ሊያመጣ የሚችለው ተጽእኖ ወይም ለሥነ ምግባር የጎደላቸው ዓላማዎች (ለምሳሌ በአምባገነን መንግስታት) ጥቅም ላይ ይውላል። ይህ ልጥፍ የሚመለከተው ሌላ ችግር አለ፡- ሰው ሰራሽ የማሰብ ዝንባሌ.

ይህ ቀላል ታሪክ አይደለም።

የጉግል AI ድመቶችን ማግኘት ይችላል። ይህ የ2012 ዜና ያኔ ልዩ ነገር ነበር።

“AI Bias” ምንድን ነው?

"ጥሬ መረጃ" ሁለቱም ኦክሲሞሮን እና መጥፎ ሀሳብ ነው; መረጃ በደንብ እና በጥንቃቄ መዘጋጀት አለበት. - ጄፍሪ ቦከር

ከ 2013 በፊት የሆነ ቦታ, በፎቶግራፎች ውስጥ ድመቶችን የሚያውቅ ስርዓት ለመፍጠር, ምክንያታዊ እርምጃዎችን መግለፅ አለብዎት. በምስሉ ውስጥ ማዕዘኖችን እንዴት ማግኘት እንደሚቻል ፣ ዓይኖችን ይወቁ ፣ ሸካራማነቶችን ለፀጉር መተንተን ፣ መዳፎችን መቁጠር ፣ ወዘተ. ከዚያ ሁሉንም አካላት አንድ ላይ ሰብስቡ እና በትክክል እንደማይሰራ ይወቁ። ልክ እንደ ሜካኒካል ፈረስ - በንድፈ ሀሳብ ሊሠራ ይችላል, በተግባር ግን ለመግለጽ በጣም የተወሳሰበ ነው. የመጨረሻው ውጤት በመቶዎች (ወይም እንዲያውም በሺዎች የሚቆጠሩ) በእጅ የተጻፉ ህጎች ነው. እና አንድ ነጠላ ሞዴል አይደለም.

የማሽን መማር በመጣ ቁጥር አንድን የተወሰነ ነገር ለመለየት "በእጅ" ደንቦችን መጠቀም አቆምን. ይልቁንስ አንድ ሺህ የ “ይህ”፣ X፣ አንድ ሺህ “ሌላ”፣ Y ናሙናዎችን እንወስዳለን እና ኮምፒዩተሩ በእስታቲስቲካዊ ትንታኔያቸው ሞዴል እንዲገነባ እናደርጋለን። ከዚያ ለዚህ ሞዴል አንዳንድ የናሙና መረጃዎችን እንሰጠዋለን እና ከስብስቡ ውስጥ ለአንዱ የሚስማማ መሆኑን በትክክል ይወስናል። የማሽን መማር ሞዴልን ከሰው ከመፃፍ ይልቅ ከመረጃ ያመነጫል። ውጤቶቹ አስደናቂ ናቸው, በተለይም በምስል እና በስርዓተ-ጥለት እውቅና መስክ, እና ለዚያም ነው አጠቃላይ የቴክኖሎጂ ኢንዱስትሪ አሁን ወደ ማሽን ትምህርት (ኤም.ኤል.) እየተንቀሳቀሰ ያለው.

ግን ያን ያህል ቀላል አይደለም። በገሃዱ ዓለም፣ የእርስዎ በሺዎች የሚቆጠሩ የX ወይም Y ምሳሌዎች ኤ፣ ቢ፣ ጄ፣ ኤል፣ ኦ፣ አር እና ኤል እንኳ ይይዛሉ። እርስዎን ከሚስቡ ዕቃዎች ይልቅ ለእነሱ ትኩረት ይስጡ ።

ይህ በተግባር ምን ማለት ነው? የእኔ ተወዳጅ ምሳሌ የምስል ማወቂያ ሲስተሞች ነው። ሳር የተሞላውን ኮረብታ ተመልከት እና "በጎች" በል. ለምን እንደሆነ ግልጽ ነው-አብዛኞቹ የ "በጎች" ፎቶግራፎች በሚኖሩበት ሜዳ ላይ ይወሰዳሉ, እና በነዚህ ምስሎች ውስጥ ሣሩ ከትንሽ ነጭ ጥጥሮች የበለጠ ቦታ ይይዛል, እና ስርዓቱ በጣም አስፈላጊ እንደሆነ የሚመለከተው ሣር ነው. .

የበለጠ ከባድ ምሳሌዎች አሉ። አንድ የቅርብ ጊዜ ረቂቅ በፎቶግራፎች ውስጥ የቆዳ ካንሰርን ለመለየት. የቆዳ ስፔሻሊስቶች የቅርጻ ቅርጾችን መጠን ለመመዝገብ ብዙውን ጊዜ ገዥውን ከቆዳ ካንሰር ምልክቶች ጋር ፎቶግራፍ እንደሚያሳዩ ተገለጠ. በጤናማ ቆዳ ፎቶግራፎች ውስጥ ምንም ገዥዎች የሉም። ለ AI ስርዓት, እንደዚህ ያሉ ገዥዎች (በይበልጥ በትክክል, እንደ "ገዢ" የምንገልጻቸው ፒክስሎች) በምሳሌዎች ስብስቦች መካከል ካሉት ልዩነቶች ውስጥ አንዱ ሆኗል, እና አንዳንድ ጊዜ በቆዳው ላይ ካለው ትንሽ ሽፍታ የበለጠ አስፈላጊ ነው. ስለዚህ የቆዳ ካንሰርን ለመለየት የተፈጠረ ስርዓት አንዳንድ ጊዜ በምትኩ ገዥዎች እውቅና አግኝተዋል.

እዚህ ያለው ቁልፍ ነጥብ ስርዓቱ ምን እንደሚመለከት ምንም አይነት የትርጉም ግንዛቤ የለውም. የፒክሰሎች ስብስብን እንመለከታለን እና በግ, ቆዳ ወይም ገዥዎች ውስጥ እናያለን, ነገር ግን ስርዓቱ የቁጥር መስመር ብቻ ነው. እሷ ባለ ሶስት አቅጣጫዊ ቦታን አትመለከትም, እቃዎችን, ሸካራዎችን ወይም በጎችን አታይም. በመረጃው ውስጥ በቀላሉ ንድፎችን ታያለች።

እንደነዚህ ያሉትን ችግሮች ለመመርመር ያለው ችግር የነርቭ አውታረመረብ (በእርስዎ ማሽን መማሪያ ስርዓት የተፈጠረው ሞዴል) በሺዎች የሚቆጠሩ በመቶ ሺዎች የሚቆጠሩ ኖዶችን ያቀፈ ነው። ሞዴልን ለመመልከት እና እንዴት ውሳኔ እንደሚሰጥ ለማየት ቀላል መንገድ የለም. እንደዚህ አይነት መንገድ ማግኘቱ የማሽን መማርን ሳይጠቀሙ ሁሉንም ደንቦች በእጅ ለመግለጽ ሂደቱ ቀላል ነው ማለት ነው. ሰዎች የማሽን መማር የጥቁር ሳጥን ነገር ሆኗል ብለው ይጨነቃሉ። (ይህ ንጽጽር አሁንም በጣም ብዙ የሆነበትን ምክንያት ትንሽ ቆይቼ እገልጻለሁ።)

ይህ በአጠቃላይ አገላለጽ፣ በአርቴፊሻል ኢንተለጀንስ ወይም በማሽን መማር ላይ ያለው አድልዎ ችግር ነው፡ በመረጃ ውስጥ ቅጦችን ለማግኘት የሚያስችል ስርዓት የተሳሳቱ ንድፎችን ሊያገኝ ይችላል፣ እና ላያስተውሉት ይችላሉ። ይህ የቴክኖሎጂ መሰረታዊ ባህሪ ነው, እና በአካዳሚክ እና በትላልቅ የቴክኖሎጂ ኩባንያዎች ውስጥ ከእሱ ጋር ለሚሰሩ ሁሉ ግልጽ ነው. ነገር ግን መዘዙ ውስብስብ ነው፣ እናም ለእነዚያ መዘዞች የእኛ ሊሆኑ የሚችሉ መፍትሄዎችም እንዲሁ።

በመጀመሪያ ስለሚያስከትለው ውጤት እንነጋገር.

AI በተዘዋዋሪ ለእኛ ፣ በብዙ የማይታወቁ ምልክቶች ላይ በመመርኮዝ የተወሰኑ የሰዎች ምድቦችን የሚደግፍ ምርጫ ማድረግ ይችላል ።

AI Bias Scenarios

በጣም ግልጽ በሆነ እና በሚያስደነግጥ ሁኔታ, ይህ ችግር ወደ ሰብአዊ ልዩነት ሲመጣ እራሱን ያሳያል. ሰሞኑን የሚል ወሬ ነበር።አማዞን ለስራ እጩዎች የመጀመሪያ ማጣሪያ የማሽን መማሪያ ስርዓት ለመገንባት ሞክሯል። በአማዞን ሰራተኞች መካከል ብዙ ወንዶች ስላሉ፣ “የተሳካ ቅጥር” ምሳሌዎችም ብዙ ጊዜ ወንዶች ናቸው፣ እና በስርዓቱ የተጠቆሙትን የስራ መደቦች ምርጫ ላይ ብዙ ወንዶች ነበሩ። Amazon ይህንን አስተውሏል እና ስርዓቱን ወደ ምርት አልለቀቀውም.

በዚህ ምሳሌ ውስጥ በጣም አስፈላጊው ነገር ስርዓቱ በሪፖርቱ ላይ ምንም እንኳን ጾታ ባይገለጽም ወንድ አመልካቾችን እንደሚደግፍ ሲወራ ነበር. ስርዓቱ ሌሎች ንድፎችን በ"ጥሩ ቅጥር" ምሳሌዎች አይቷል፡ ለምሳሌ ሴቶች ስኬቶችን ለመግለጽ ልዩ ቃላትን ሊጠቀሙ ወይም ልዩ የትርፍ ጊዜ ማሳለፊያዎች ሊኖራቸው ይችላል። በእርግጥ ስርዓቱ “ሆኪ” ምን እንደ ሆነ ፣ ወይም “ሰዎች” እነማን እንደሆኑ ፣ ወይም “ስኬት” ምን እንደ ሆነ አላወቀም - በቀላሉ የጽሑፉን ስታቲስቲካዊ ትንታኔ አከናውኗል። ነገር ግን ያየቻቸው ዘይቤዎች በሰዎች ዘንድ ሳይስተዋል አይቀርም፣ እና አንዳንዶቹ (ለምሳሌ፣ የተለያየ ጾታ ያላቸው ሰዎች ስኬትን በተለያየ መንገድ መግለጻቸው) ብንመለከታቸው እንኳ ለማየት አስቸጋሪ ይሆንብናል።

ተጨማሪ - የከፋ. በገረጣ ቆዳ ላይ ካንሰርን ለማግኘት በጣም ጥሩ የሆነ የማሽን መማሪያ ስርዓት በጥቁር ቆዳ ላይ ጥሩ ላይሆን ይችላል ወይም በተቃራኒው። የግድ በአድልዎ ምክንያት አይደለም, ነገር ግን ምናልባት የተለያዩ ባህሪያትን በመምረጥ ለተለየ የቆዳ ቀለም የተለየ ሞዴል መገንባት ያስፈልግዎታል. የማሽን መማሪያ ስርዓቶች እንደ ምስል ማወቂያ ባሉ ጠባብ አካባቢ እንኳን ሊለዋወጡ አይችሉም። የሚፈልጉትን ትክክለኛነት እስኪያገኙ ድረስ በሚፈልጉት ውሂብ ውስጥ ያሉትን ባህሪያት በደንብ ለመያዝ ስርዓቱን አንዳንድ ጊዜ በሙከራ እና በስህተት ብቻ ማስተካከል ያስፈልግዎታል። ነገር ግን እርስዎ ሊያስተውሉት የማይችለው ነገር ስርዓቱ ከአንድ ቡድን ጋር 98% ትክክለኛ ነው, እና 91% ብቻ (ከሰው ልጅ ትንታኔ የበለጠ ትክክለኛ ነው) ከሌላው ጋር.

እስካሁን ድረስ ከሰዎች እና ባህሪያቸው ጋር የተያያዙ ምሳሌዎችን ተጠቅሜአለሁ። በዚህ ችግር ዙሪያ የሚደረገው ውይይት በዋናነት በዚህ ርዕስ ላይ ያተኩራል. ነገር ግን ለሰዎች ማዳላት የችግሩ አካል ብቻ መሆኑን መረዳት ያስፈልጋል። ለብዙ ነገሮች የማሽን መማሪያን እንጠቀማለን፣ እና የናሙና ስህተት ከሁሉም ጋር ጠቃሚ ይሆናል። በሌላ በኩል፣ ከሰዎች ጋር የምትሠራ ከሆነ፣ በመረጃው ውስጥ ያለው አድልኦ ከነሱ ጋር ላይገናኝ ይችላል።

ይህንን ለመረዳት ወደ የቆዳ ካንሰር ምሳሌ እንመለስና ለስርአት ውድቀት ሶስት መላምታዊ እድሎችን እንመልከት።

1. የተለያዩ የሰዎች ስርጭት: የተለያየ የቆዳ ቀለም ያላቸው ያልተመጣጠነ የፎቶግራፎች ብዛት, በቀለም ምክንያት ወደ የውሸት አወንታዊ ወይም የውሸት አሉታዊ ውጤቶች.
2. ስርዓቱ የሰለጠነበት መረጃ ከሰዎች ጋር ያልተገናኘ እና ምንም አይነት የምርመራ እሴት የሌለው በተደጋጋሚ የሚከሰት እና በተለያየ መልኩ የሚሰራጭ ባህሪይ ይዟል፡ የበግ ፎቶግራፎች ላይ የቆዳ ካንሰር ወይም የሳር ፎቶግራፍ ላይ ገዥ። በዚህ ሁኔታ ስርዓቱ የሰው ዓይን እንደ "ገዥ" በሚለይበት ነገር ምስል ውስጥ ፒክስሎችን ካገኘ ውጤቱ የተለየ ይሆናል.
3. መረጃው አንድ ሰው ቢፈልግ እንኳን ሊያየው የማይችለውን የሶስተኛ ወገን ባህሪ ይዟል.

ምን ማለት ነው? መረጃ የተለያዩ የሰዎች ቡድኖችን በተለየ መንገድ ሊወክል እንደሚችል አስቀድመን እናውቃለን፣ እና ቢያንስ እንደዚህ አይነት ልዩ ሁኔታዎችን ለመፈለግ ማቀድ እንችላለን። በሌላ አነጋገር፣ ስለ የሰዎች ስብስብ መረጃ አስቀድሞ አንዳንድ አድሎአዊ ጉዳዮችን እንደያዘ ለመገመት ብዙ ማህበራዊ ምክንያቶች አሉ። ፎቶውን ከገዥው ጋር ከተመለከትን, ይህንን ገዥ እናያለን - ምንም እንዳልሆነ እያወቅን, እና ስርዓቱ ምንም እንደማያውቅ በመዘንጋት በቀላሉ ችላ ብለን.

ነገር ግን ሁሉም ጤናማ ያልሆነ የቆዳ ፎቶዎችዎ በቢሮ ውስጥ በብርሃን ብርሃን ውስጥ ቢነሱ እና ጤናማ ቆዳዎ በፍሎረሰንት ብርሃን ቢወሰድስ? ጤናማ ቆዳ ተኩሰው ከጨረሱ በኋላ ጤናማ ያልሆነ ቆዳ ከመተኮሱ በፊት ኦፕሬቲንግ ሲስተምን በስልክዎ ላይ ካዘመኑት እና አፕል ወይም ጎግል የድምፅ ቅነሳ ስልተ ቀመርን በትንሹ ቢቀይሩስ? አንድ ሰው ምንም ያህል እንደነዚህ ያሉትን ባህሪያት ቢፈልግ ይህንን ሊያስተውለው አይችልም. ነገር ግን የማሽኑ አጠቃቀም ስርዓት ወዲያውኑ ይህንን አይቶ ይጠቀማል. ምንም አታውቅም።

እስካሁን ስለ አስመሳይ ግንኙነቶች ተነጋግረናል፣ ነገር ግን መረጃው ትክክል እና ውጤቶቹ ትክክል ሊሆኑ ይችላሉ፣ ነገር ግን ለሥነ ምግባራዊ፣ ህጋዊ እና የአስተዳደር ምክንያቶች ሊጠቀሙባቸው አይፈልጉም። አንዳንድ ክልሎች፣ ለምሳሌ፣ ሴቶች ከደህንነታቸው የተጠበቁ አሽከርካሪዎች ሊሆኑ ቢችሉም ሴቶች የመድን ዋስትናቸው ቅናሽ እንዲደረግላቸው አይፈቅዱም። ታሪካዊ መረጃዎችን በምንመረምርበት ጊዜ ለሴት ስሞች ዝቅተኛ ስጋት የሚፈጥር ስርዓት በቀላሉ መገመት እንችላለን። እሺ፣ ከምርጫው ውስጥ ስሞችን እናስወግድ። ነገር ግን የአማዞን ምሳሌን አስታውሱ፡ ስርዓቱ በሌሎች ነገሮች ላይ ተመስርቶ ጾታን ሊወስን ይችላል (ምንም እንኳን ጾታ ምን እንደሆነ ባያውቅም መኪና ምን እንደሆነ ባያውቅም) እና ተቆጣጣሪው ታሪፍዎን እንደገና እስኪመረምር ድረስ ይህን አያስተውሉም. አቅርበህ አስከፍልሃል።

በመጨረሻም, ብዙውን ጊዜ እንዲህ ያሉ ስርዓቶችን ሰዎችን እና ማህበራዊ ግንኙነቶችን ለሚያካትቱ ፕሮጀክቶች ብቻ እንጠቀማለን ተብሎ ይታሰባል. ይህ ስህተት ነው። የጋዝ ተርባይኖችን ከሠራህ ምናልባት የማሽን መማሪያን በቴሌሜትሪ በአሥር ወይም በመቶዎች በሚቆጠሩት በምርትህ ላይ በሚተላለፉ ሴንሰሮች (ድምጽ፣ ቪዲዮ፣ የሙቀት መጠን እና ሌሎች ማናቸውንም ሴንሰሮች ማሽን ለመፍጠር በቀላሉ የሚስማማ ውሂብ ያመነጫሉ)። የመማሪያ ሞዴል). በመላምት እንዲህ ማለት ትችላለህ፡- “ከሺህ ተርባይኖች ወድቀው ሳይወድቁ የጠፉ ተርባይኖች የተገኘ መረጃ ይኸውና ከሺህ ተርባይኖች ያልተሳኩ መረጃዎች እነሆ። በመካከላቸው ያለው ልዩነት ምን እንደሆነ ለማወቅ ሞዴል ይገንቡ። ደህና ፣ አሁን የ Siemens ዳሳሾች በ 75% መጥፎ ተርባይኖች ላይ ተጭነዋል ፣ እና ጥሩዎቹ 12% ብቻ (ከውድቀት ጋር ምንም ግንኙነት የለም) ብለው ያስቡ። ስርዓቱ ከ Siemens ዳሳሾች ጋር ተርባይኖችን ለማግኘት ሞዴል ይገነባል። ውይ!

ስዕል - ሞሪትዝ ሃርድት, ዩሲ በርክሌይ

AI Bias ማስተዳደር

በዚህ ጉዳይ ላይ ምን እናድርግ? ጉዳዩን በሶስት አቅጣጫዎች መቅረብ ይችላሉ-

1. ስርዓቱን ለማሰልጠን መረጃን ለመሰብሰብ እና ለማስተዳደር ዘዴያዊ ጥብቅነት።
2. የሞዴል ባህሪን ለመተንተን እና ለመመርመር ቴክኒካዊ መሳሪያዎች.
3. የማሽን ትምህርትን ወደ ምርቶች ሲተገብሩ ያሠለጥኑ፣ ያስተምሩ እና ይጠንቀቁ።

በሞሊየር መጽሃፍ ውስጥ አንድ ቀልድ አለ "The Bourgeois in the Nobility" አንድ ሰው ስነ-ጽሁፍ በስድ ንባብ እና በግጥም እንደሚከፋፈል ተነግሮት ነበር, እና እሱ ሳያውቅ በህይወቱ በሙሉ በስድ ንባብ ሲናገር እንደነበረ ሲያውቅ በጣም ተደስቷል. ዛሬ የስታቲስቲክስ ሊቃውንት የሚሰማቸው ይህ ነው፡ ሳያውቁት ስራቸውን ለሰው ሰራሽ የማሰብ እና የናሙና ስሕተት አሳልፈው ሰጥተዋል። የናሙና ስህተት መፈለግ እና ስለ እሱ መጨነቅ አዲስ ችግር አይደለም ፣ እኛ መፍትሄውን ስልታዊ በሆነ መንገድ መቅረብ አለብን። ከላይ እንደተጠቀሰው በአንዳንድ ሁኔታዎች ከሰዎች መረጃ ጋር የተያያዙ ችግሮችን በማጥናት ይህን ማድረግ ቀላል ነው. በተለያዩ የሰዎች ቡድኖች ላይ ጭፍን ጥላቻ ሊኖረን እንደሚችል እንገምታለን፣ ነገር ግን ስለ Siemens ዳሳሾች ጭፍን ጥላቻ እንኳን መገመት ለእኛ ከባድ ነው።

በእርግጥ የዚህ ሁሉ አዲስ ነገር ሰዎች ከአሁን በኋላ ስታቲስቲካዊ ትንታኔዎችን በቀጥታ አለማድረጋቸው ነው። ለመረዳት አስቸጋሪ የሆኑ ትላልቅ ውስብስብ ሞዴሎችን በሚፈጥሩ ማሽኖች ይከናወናል. የአድሎአዊነት ችግር ዋና ዋና ጉዳዮች አንዱ የግልጽነት ጉዳይ ነው። ስርዓቱ አድሏዊ ብቻ ሳይሆን አድሏዊነቱን የሚለይበት መንገድ አለመኖሩን እና የማሽን መማሪያ ከሌሎች አውቶሜሽን ዓይነቶች የተለየ ነው፣ ይህም ሊፈተኑ የሚችሉ ግልጽ ሎጂካዊ እርምጃዎችን ያቀፈ ነው ብለን እንፈራለን።

እዚህ ሁለት ችግሮች አሉ. አሁንም ቢሆን የማሽን መማሪያ ሥርዓቶችን አንዳንድ ዓይነት ኦዲት ማድረግ እንችል ይሆናል። እና ማንኛውንም ሌላ ስርዓት ኦዲት ማድረግ ቀላል አይደለም.

በመጀመሪያ ፣ በማሽን መማሪያ መስክ የዘመናዊ ምርምር አቅጣጫዎች አንዱ የማሽን መማሪያ ስርዓቶችን ጠቃሚ ተግባራትን ለመለየት ዘዴዎችን መፈለግ ነው። ያም ማለት፣ የማሽን መማር (አሁን ባለው ሁኔታ) በፍጥነት የሚለወጥ ሙሉ ለሙሉ አዲስ የሳይንስ ዘርፍ ነው፣ ስለሆነም ዛሬ የማይቻሉ ነገሮች በቅርቡ እውን ሊሆኑ አይችሉም ብለው አያስቡ። ፕሮጀክት OpenAI - የዚህ አስደሳች ምሳሌ።

ሁለተኛ፣ አንድ ሰው የነባር ስርዓቶችን ወይም ድርጅቶችን የውሳኔ አሰጣጥ ሂደት መፈተሽ እና መረዳት ይችላል የሚለው ሃሳብ በንድፈ ሀሳብ ጥሩ ነው፣ በተግባር ግን እንዲሁ። በአንድ ትልቅ ድርጅት ውስጥ እንዴት ውሳኔ እንደሚደረግ መረዳት ቀላል አይደለም. ምንም እንኳን መደበኛ የውሳኔ አሰጣጥ ሂደት ቢኖርም ፣ ሰዎች በትክክል እንዴት እንደሚገናኙ አያንፀባርቅም ፣ እና እነሱ ራሳቸው ብዙውን ጊዜ ውሳኔዎችን ለማድረግ አመክንዮአዊ ፣ ስልታዊ አቀራረብ የላቸውም። ባልደረባዬ እንዳለው ቪጃይ ፓንዴ, ሰዎች ደግሞ ጥቁር ሳጥኖች ናቸው.

በበርካታ ተደራራቢ ኩባንያዎች እና ተቋማት ውስጥ አንድ ሺህ ሰዎችን ይውሰዱ እና ችግሩ የበለጠ ውስብስብ ይሆናል። የጠፈር መንኮራኩር ተመልሶ ሊፈርስ እንደታቀደ እና በNASA ውስጥ ያሉ ግለሰቦች መጥፎ ነገር ሊከሰት ይችላል ብለው እንዲያስቡ ምክንያት የሰጣቸው መረጃ ነበራቸው ነገር ግን ስርዓቱ በአጠቃላይ ይህንን አላውቅም ነበር። ናሳ ከዚህ በፊት የነበረውን ማመላለሻ ከጠፋ በኋላ ተመሳሳይ ኦዲት አልፏል፣ ሆኖም ግን በተመሳሳይ ምክንያት ሌላውን አጥቷል። ድርጅቶች እና ሰዎች ሊፈተኑ፣ ሊረዱ እና ሊለወጡ የሚችሉ ግልጽ፣ ሎጂካዊ ህጎችን ይከተላሉ ብሎ መከራከር ቀላል ነው - ነገር ግን ልምድ በሌላ መልኩ ያረጋግጣል። ይህ "የጎስፕላን ማታለል».

ብዙ ጊዜ የማሽን መማርን ከመረጃ ቋቶች በተለይም ከግንኙነት ጋር አወዳድራለሁ - የኮምፒዩተር ሳይንስን እና በዙሪያው ያለውን ዓለም አቅም የለወጠ አዲስ መሠረታዊ ቴክኖሎጂ ሳናውቀው ያለማቋረጥ የምንጠቀመው የሁሉም ነገር አካል ሆኗል። የመረጃ ቋቶችም ችግር አለባቸው እና ተመሳሳይ ባህሪ አላቸው፡ ስርዓቱ በመጥፎ ግምቶች ወይም በመጥፎ ዳታ ላይ ሊገነባ ይችላል ነገር ግን ለማስተዋል አስቸጋሪ ይሆናል እና ስርዓቱን የሚጠቀሙ ሰዎች ጥያቄ ሳይጠይቁ ያዘዘውን ያደርጋሉ. በአንድ ወቅት ስምህን በስህተት የጻፉ በግብር ሰዎች ላይ ብዙ የቆዩ ቀልዶች አሉ እና ስህተቱን እንዲያስተካክሉ ማሳመን ስምህን ከመቀየር የበለጠ ከባድ ነው። ስለዚህ ጉዳይ ለማሰብ ብዙ መንገዶች አሉ ፣ ግን የትኛው የተሻለ እንደሆነ ግልፅ አይደለም-በ SQL ውስጥ እንደ ቴክኒካዊ ችግር ፣ ወይም በ Oracle መለቀቅ ላይ እንደ ስህተት ፣ ወይም የቢሮክራሲያዊ ተቋማት ውድቀት? ስርዓቱ የትየባ እርማት ባህሪ እንዳይኖረው ባደረገው ሂደት ውስጥ ስህተት ማግኘት ምን ያህል ከባድ ነው? ሰዎች ማጉረምረም ከመጀመራቸው በፊት ይህ ሊታወቅ ይችል ነበር?

ይህ ችግር በአሳሽ ውስጥ ባለው ጊዜ ያለፈበት መረጃ ምክንያት አሽከርካሪዎች ወደ ወንዞች ሲገቡ በተረት የበለጠ በቀላሉ ይገለጻል። እሺ፣ ካርታዎች ያለማቋረጥ መዘመን አለባቸው። ነገር ግን መኪናዎ ወደ ባህር በመውደቁ ምክንያት TomTom ተጠያቂው ምን ያህል ነው?

ይህን ያልኩበት ምክንያት አዎ፣ የማሽን መማር አድልዎ ችግር ይፈጥራል። ነገር ግን እነዚህ ችግሮች ከዚህ በፊት ካጋጠሙን ጋር ተመሳሳይ ይሆናሉ, እና ቀደም ባሉት ጊዜያት እንደቻልነው ሊገነዘቡ እና ሊፈቱ ይችላሉ (ወይም አይፈቱም). ስለዚህ, AI አድልዎ የሚያስከትልበት ሁኔታ በአንድ ትልቅ ድርጅት ውስጥ በሚሰሩ ከፍተኛ ተመራማሪዎች ላይ ሊከሰት አይችልም. ምናልባትም፣ አንዳንድ ቀላል የማይባሉ የቴክኖሎጂ ተቋራጮች ወይም የሶፍትዌር አቅራቢዎች ክፍት ምንጭ ክፍሎችን፣ ቤተ-መጻሕፍትን እና ያልገባቸውን መሳሪያዎች በመጠቀም ተንበርክከው የሆነ ነገር ይጽፋሉ። እና ዕድለኛ ያልሆነው ደንበኛ በምርቱ መግለጫ ውስጥ "ሰው ሰራሽ የማሰብ ችሎታ" የሚለውን ሐረግ ይገዛዋል እና ምንም አይነት ጥያቄ ሳይጠይቅ ዝቅተኛ ደመወዝ ለሚከፈላቸው ሰራተኞቹ ያሰራጫል, AI የሚናገረውን እንዲያደርጉ ያዝዛሉ. በመረጃ ቋቶች ላይ የተከሰተውም ይኸው ነው። ይህ የሰው ሰራሽ የማሰብ ችግር አይደለም፣ ወይም የሶፍትዌር ችግር እንኳን አይደለም። ይህ የሰው ልጅ ምክንያት ነው።

መደምደሚያ

የማሽን መማር ውሻን ማስተማር የምትችለውን ማንኛውንም ነገር ሊያደርግ ይችላል - ነገር ግን ውሻውን በትክክል ምን እንዳስተማርከው እርግጠኛ መሆን አትችልም።

ብዙውን ጊዜ "አርቴፊሻል ኢንተለጀንስ" የሚለው ቃል እንደዚህ ባሉ ንግግሮች ውስጥ ብቻ እንደሚገኝ ይሰማኛል. ይህ ቃል እኛ በትክክል እንደፈጠርነው የተሳሳተ ግንዛቤን ይሰጣል - ይህ ብልህነት። ወደ HAL9000 ወይም Skynet እየሄድን ነው - የሆነ ነገር ተረድቷል።. ግን አይደለም. እነዚህ ማሽኖች ብቻ ናቸው፣ እና እነሱን ከማጠቢያ ማሽን ጋር ማወዳደር የበለጠ ትክክል ነው። እሷ ከሰው በተሻለ ሁኔታ ታጥባለች ፣ ግን በልብስ ማጠቢያ ፋንታ እቃ ብታስገቡባት ፣ እሷ… ታጥባቸዋለች። ምግቦቹ እንኳን ንጹህ ይሆናሉ. ነገር ግን ይህ እርስዎ እንደጠበቁት አይሆንም, እና ይሄ አይሆንም, ምክንያቱም ስርዓቱ ምግብን በተመለከተ ምንም ዓይነት ጭፍን ጥላቻ አለው. የልብስ ማጠቢያ ማሽኑ ምግቦች ምን እንደሆኑ ወይም ልብሶች ምን እንደሆኑ አያውቅም - እሱ የአውቶሜሽን ምሳሌ ብቻ ነው ፣ በፅንሰ-ሀሳብ ደረጃ ሂደቶች ከዚህ በፊት አውቶማቲክ ሆነው ከነበሩበት ሁኔታ የተለየ አይደለም።

ስለ መኪናዎች፣ አውሮፕላኖች ወይም የውሂብ ጎታዎች እየተነጋገርን ያለነው እነዚህ ስርዓቶች ሁለቱም በጣም ኃይለኛ እና በጣም ውስን ይሆናሉ። ሰዎች እነዚህን ስርዓቶች እንዴት እንደሚጠቀሙ፣ አላማቸው ጥሩም ይሁን መጥፎ እና እንዴት እንደሚሰሩ ምን ያህል እንደሚረዱ ላይ ሙሉ በሙሉ ይወሰናል።

ስለዚህ "አርቴፊሻል ኢንተለጀንስ ሂሳብ ነው, ስለዚህ አድልዎ ሊኖረው አይችልም" ማለት ፍጹም ውሸት ነው. ነገር ግን የማሽን መማር “በተፈጥሮ ውስጥ ተገዥ ነው” ቢባልም እንዲሁ ውሸት ነው። የማሽን መማር በመረጃ ውስጥ ቅጦችን ያገኛል ፣ እና ምን ዓይነት ቅጦችን እንደሚያገኝ በመረጃው ላይ የተመሠረተ ነው ፣ እና ውሂቡ በእኛ ላይ የተመሠረተ ነው። ልክ ከእነሱ ጋር እንደምንሰራው. የማሽን መማር አንዳንድ ነገሮችን ከምንችለው በላይ ይሰራል - ነገር ግን ውሾች ለምሳሌ አደንዛዥ ዕፅን በመለየት ከሰዎች የበለጠ ውጤታማ ናቸው፣ ይህም እነሱን እንደ ምስክር ለመጠቀም እና በምስክርነታቸው መሰረት ፍርድ ለመስጠት ምክንያት አይደለም። እና ውሾች, በነገራችን ላይ, ከማንኛውም የማሽን መማሪያ ስርዓት የበለጠ ብልህ ናቸው.

ትርጉም: ዲያና ሌስካያ.
ማረም፡ አሌክሲ ኢቫኖቭ.
ማህበረሰብ፡ @PonchikNews.

ምንጭ: hab.com