tl; dr:
- Машины сургалт нь өгөгдлийн хэв маягийг хайдаг. Гэхдээ хиймэл оюун ухаан нь "хязгаарлалттай" байж болно, өөрөөр хэлбэл буруу хэв маягийг олох боломжтой. Жишээлбэл, гэрэл зурагт суурилсан арьсны хорт хавдрыг илрүүлэх систем нь эмчийн өрөөнд авсан зурагт онцгой анхаарал хандуулдаг. Машин сурах боломжгүй ойлгож байна: түүний алгоритмууд нь зөвхөн тоон дахь хэв маягийг тодорхойлдог бөгөөд хэрэв өгөгдөл нь төлөөлөхгүй бол түүнийг боловсруулах үр дүн ч мөн адил байх болно. Мөн ийм алдааг олж илрүүлэх нь машин сургалтын маш механик байдлаас шалтгаалан хэцүү байж болно.
- Хамгийн ойлгомжтой бөгөөд аймшигтай асуудал бол хүний олон талт байдал юм. Хүмүүсийн талаарх мэдээлэл цуглуулах шатандаа ч бодитой байдлаа алдах олон шалтгаан бий. Гэхдээ энэ асуудал нь зөвхөн хүмүүст л хамаатай гэж битгий бодоорой: агуулах дахь үер эсвэл эвдэрсэн хийн турбиныг илрүүлэх гэж оролдоход яг ижил хүндрэл гардаг. Зарим систем нь арьсны өнгөнд хазайсан байж магадгүй, бусад нь Siemens мэдрэгчтэй холбоотой байх болно.
- Иймэрхүү асуудал нь машин сургалтын хувьд шинэ зүйл биш бөгөөд тэдгээр нь үүнтэй ижил төстэй зүйл биш юм. Аливаа нарийн төвөгтэй бүтцэд буруу таамаглал дэвшүүлдэг бөгөөд яагаад тодорхой шийдвэр гаргасныг ойлгоход үргэлж хэцүү байдаг. Бид үүнтэй цогц байдлаар тэмцэх хэрэгтэй: баталгаажуулах арга хэрэгсэл, процессыг бий болгож, хэрэглэгчдийг хиймэл оюун ухааны зөвлөмжийг сохроор дагаж мөрдөхгүй байхын тулд сургах хэрэгтэй. Машины сургалт нь зарим зүйлийг биднээс хамаагүй дээр хийдэг боловч жишээ нь ноход хар тамхи илрүүлэхдээ хүнээс хамаагүй илүү үр дүнтэй байдаг нь тэднийг гэрч болгон ашиглаж, тэдний мэдүүлэгт үндэслэн дүгнэлт хийх шалтгаан биш юм. Дашрамд хэлэхэд нохой нь ямар ч машин сургалтын системээс хамаагүй ухаалаг байдаг.
Машины сургалт нь өнөөгийн технологийн үндсэн чиг хандлагын нэг юм. Энэ бол ойрын арван жилд технологи бидний эргэн тойрон дахь ертөнцийг өөрчлөх гол арга замуудын нэг юм. Эдгээр өөрчлөлтүүдийн зарим тал нь санаа зовоох шалтгаан болдог. Жишээлбэл, хөдөлмөрийн зах зээлд машин сургалтын боломжит нөлөөлөл, эсвэл түүнийг ёс зүйгүй зорилгоор ашиглах (жишээлбэл, авторитар дэглэмийн үед). Энэ нийтлэлд дурдсан өөр нэг асуудал байна: хиймэл оюун ухааны гажуудал.
Энэ бол амар түүх биш.
Google-ийн хиймэл оюун ухаан муур олох боломжтой. 2012 оны энэ мэдээ тухайн үед онцгой зүйл байсан.
"AI Bias" гэж юу вэ?
"Түүхий өгөгдөл" нь оксиморон бөгөөд муу санаа юм; Мэдээллийг сайтар, анхааралтай бэлтгэх ёстой. -Жеффри Бокер
2013 оноос өмнө хаа нэгтээ гэрэл зураг дээрх муурыг таних системийг бий болгохын тулд логик алхмуудыг тайлбарлах шаардлагатай байв. Зурган дээрх булангуудыг хэрхэн олох, нүдийг таних, үслэг эдлэлийн бүтцийг шинжлэх, сарвууг тоолох гэх мэт. Дараа нь бүх бүрэлдэхүүн хэсгүүдийг нэгтгэж, энэ нь үнэхээр ажиллахгүй байгааг олж мэдээрэй. Механик морьтой адилхан - онолын хувьд үүнийг хийж болно, гэхдээ практик дээр үүнийг тайлбарлахад хэтэрхий төвөгтэй байдаг. Эцсийн үр дүн нь хэдэн зуун (эсвэл хэдэн мянган) гараар бичсэн дүрэм юм. Мөн нэг ч ажилладаг загвар биш.
Машины сургалтын технологи бий болсноор бид тодорхой объектыг танихдаа "гарын авлагын" дүрмийг ашиглахаа больсон. Үүний оронд бид "энэ", Х-ийн мянган дээж, "бусад" Y-ийн мянган дээж авч, тэдгээрийн статистик дүн шинжилгээнд үндэслэн компьютерт загварыг бий болгодог. Дараа нь бид энэ загварт зарим түүвэр өгөгдлийг өгөх бөгөөд энэ нь багцуудын аль нэгэнд тохирох эсэхийг тодорхой нарийвчлалтайгаар тодорхойлдог. Машины сургалт нь хүний бичсэнээс бус өгөгдлөөс загвар үүсгэдэг. Үр дүн нь ялангуяа зураг, хэв маягийг таних тал дээр гайхалтай бөгөөд ийм учраас технологийн салбар бүхэлдээ машин сургалт (ML) руу шилжиж байна.
Гэхдээ энэ нь тийм ч энгийн зүйл биш юм. Бодит амьдрал дээр таны X эсвэл Y-ийн мянга мянган жишээнүүд нь A, B, J, L, O, R, тэр ч байтугай L-г агуулдаг. Эдгээр нь жигд тархаагүй байж болох бөгөөд зарим нь байнга тохиолддог тул систем илүү төлбөр төлөх болно. Таны сонирхсон зүйлээс илүүтэй тэдэнд анхаарлаа хандуулаарай.
Энэ нь практикт юу гэсэн үг вэ? Миний хамгийн дуртай жишээ бол зураг таних систем юм . Яагаад гэдэг нь ойлгомжтой: "хонь"-ын ихэнх жишээ гэрэл зургуудыг тэдний амьдардаг нугад авсан бөгөөд эдгээр зураг дээрх өвс нь жижиг цагаан хөвсгөрөөс хамаагүй их зай эзэлдэг бөгөөд систем нь өвсийг хамгийн чухал гэж үздэг. .
Илүү ноцтой жишээнүүд бий. Саяхан нэг гэрэл зураг дээр арьсны хорт хавдрыг илрүүлэхэд зориулагдсан. Арьс судлаачид формацийн хэмжээг бүртгэхийн тулд арьсны хорт хавдрын илрэлийн хамт захирагчийг ихэвчлэн гэрэл зураг авдаг нь тогтоогджээ. Эрүүл арьстай зурагнуудын жишээнд захирагч байхгүй. AI системийн хувьд ийм захирагч (илүү нарийвчлалтай, бидний "захирагч" гэж тодорхойлдог пикселүүд) нь жишээнүүдийн хоорондох ялгааны нэг болж, заримдаа арьсан дээрх жижиг тууралтаас илүү чухал байдаг. Тиймээс арьсны хорт хавдрыг тодорхойлохын тулд бий болгосон систем нь заримдаа удирдагчдыг хүлээн зөвшөөрдөг.
Энд байгаа гол зүйл бол систем нь юу харж байгаа талаар ямар ч семантик ойлголтгүй байгаа явдал юм. Бид пикселийн багцыг хараад хонь, арьс эсвэл захирагчийг хардаг боловч систем нь зөвхөн тооны шугам юм. Тэр гурван хэмжээст орон зайг хардаггүй, объект, бүтэц, хонийг хардаггүй. Тэр зүгээр л өгөгдөл дэх хэв маягийг хардаг.
Иймэрхүү асуудлуудыг оношлоход хэцүү байдаг нь мэдрэлийн сүлжээ (таны машин сургалтын системээр үүсгэгдсэн загвар) нь хэдэн мянган зуун мянган зангилаанаас бүрддэг. Загварыг судалж, хэрхэн шийдвэр гаргаж байгааг харах амаргүй арга байхгүй. Ийм аргатай байх нь машин сургалтыг ашиглахгүйгээр бүх дүрмийг гараар тайлбарлахад хангалттай энгийн үйл явц гэсэн үг юм. Хүмүүс машин сурах нь хар хайрцаг шиг зүйл болсон гэж санаа зовж байна. (Энэ харьцуулалт яагаад хэтэрхий их байдгийг би дараа нь тайлбарлах болно.)
Энэ нь ерөнхийд нь хиймэл оюун ухаан эсвэл машин сургалтын хэвшмэл байдлын асуудал юм: өгөгдлийн хэв маягийг олох систем нь буруу хэв маягийг олж магадгүй бөгөөд та үүнийг анзаарахгүй байж магадгүй юм. Энэ бол технологийн үндсэн шинж чанар бөгөөд энэ нь академи болон томоохон технологийн компаниудад түүнтэй хамтран ажилладаг бүх хүмүүст ойлгомжтой байдаг. Гэхдээ түүний үр дагавар нь нарийн төвөгтэй бөгөөд бидний эдгээр үр дагаврыг шийдвэрлэх боломжууд ч мөн адил юм.
Эхлээд үр дагаврын талаар ярилцъя.
AI нь бидний хувьд олон тооны үл үзэгдэх дохион дээр үндэслэн тодорхой ангиллын хүмүүсийн талд сонголт хийх боломжтой.
AI хэвийсэн хувилбарууд
Хамгийн ойлгомжтой бөгөөд аймшигтай нь энэ асуудал нь хүний олон янз байдлын тухай ярихад өөрөө илэрч болно. Саяхан Амазон ажил горилогчдыг анхан шатны шалгалтад зориулж машин сургалтын системийг бий болгохыг оролдсон. Амазоны ажилчдын дунд эрэгтэйчүүд олон байдаг тул "амжилттай ажилд авах" жишээнүүд нь ихэвчлэн эрэгтэйчүүд байдаг бөгөөд системээс санал болгосон анкет сонгоход илүү олон эрчүүд байсан. Амазон үүнийг анзаарч, уг системийг үйлдвэрлэлд нэвтрүүлээгүй.
Энэ жишээн дэх хамгийн чухал зүйл бол анкет дээр хүйсийг заагаагүй байсан ч эрэгтэй өргөдөл гаргагчдад давуу эрх олгох тухай цуурхал гарсан явдал юм. Систем нь "сайн ажилд авах" жишээн дээр бусад хэв маягийг олж харсан: жишээлбэл, эмэгтэйчүүд амжилтаа дүрслэхийн тулд тусгай үгсийг ашигладаг эсвэл тусгай хоббитой байж болно. Мэдээжийн хэрэг, систем нь "хоккей" гэж юу болох, "хүмүүс" гэж юу болохыг, эсвэл "амжилт" гэж юу болохыг мэддэггүй байсан - энэ нь зүгээр л текстийн статистик дүн шинжилгээ хийсэн. Гэхдээ түүний харсан хэв маяг нь хүмүүст анзаарагдахгүй байх магадлалтай бөгөөд тэдгээрийн заримыг нь (жишээлбэл, өөр өөр хүйсийн хүмүүс амжилтыг өөр өөрөөр дүрсэлдэг нь) бид тэднийг харсан ч олж харахад хэцүү байх болно.
Цаашид - илүү муу. Цайвар арьсанд хорт хавдрыг илрүүлэхэд маш сайн машин сургалтын систем нь бараан арьсанд тийм ч сайн ажиллахгүй, эсвэл эсрэгээрээ. Заавал хэвийсэн байдлаас биш, харин өөр өөр шинж чанарыг сонгохдоо өөр арьсны өнгөт зориулж тусдаа загвар гаргах шаардлагатай болдог. Машины сургалтын системийг дүрс таних гэх мэт нарийн хэсэгт ч сольж болохгүй. Та хүссэн нарийвчлалдаа хүрэх хүртлээ сонирхож буй өгөгдлийнхөө онцлогуудыг сайн ойлгохын тулд заримдаа туршилт, алдааны замаар системийг өөрчлөх хэрэгтэй. Гэхдээ таны анзаарахгүй байгаа зүйл бол систем нэг бүлэгт 98%, нөгөө бүлэгт ердөө 91% (хүний шинжилгээнээс ч илүү нарийвчлалтай) үнэн зөв байдаг.
Би одоог хүртэл хүмүүс болон тэдний шинж чанаруудтай холбоотой жишээг голчлон ашигласан. Энэ асуудлын эргэн тойрон дахь хэлэлцүүлэг голчлон энэ сэдэвт чиглэгддэг. Гэхдээ хүмүүстэй харьцах нь асуудлын зөвхөн нэг хэсэг гэдгийг ойлгох нь чухал юм. Бид маш олон зүйлд машин сургалтыг ашиглах бөгөөд түүвэрлэлтийн алдаа нь бүгдэд нь хамааралтай байх болно. Нөгөөтэйгүүр, хэрэв та хүмүүстэй ажилладаг бол өгөгдлийн гажуудал нь тэдэнтэй холбоогүй байж болно.
Үүнийг ойлгохын тулд арьсны хорт хавдрын жишээ рүү буцаж, системийн эвдрэлийн гурван таамаглалыг авч үзье.
- Хүмүүсийн нэг төрлийн бус тархалт: янз бүрийн арьсны өнгөний тэнцвэргүй тооны гэрэл зураг нь пигментацийн улмаас хуурамч эерэг эсвэл хуурамч сөрөг үр дагаварт хүргэдэг.
- Системийн сургалтанд хамрагдсан өгөгдөл нь хүмүүстэй холбоогүй, оношилгооны ач холбогдолгүй, байнга тохиолддог, янз бүрийн байдлаар тархсан шинж чанарыг агуулдаг: арьсны хорт хавдрын зураг дээрх захирагч эсвэл хонины гэрэл зураг дээрх өвс. Энэ тохиолдолд хүний нүд "захирагч" гэж тодорхойлсон ямар нэг зүйлийн дүрс дэх пикселийг систем олбол үр дүн нь өөр байх болно.
- Өгөгдөл нь хүн хайсан ч харж чадахгүй гуравдагч этгээдийн шинж чанарыг агуулдаг.
Энэ нь юу гэсэн үг вэ? Өгөгдөл нь янз бүрийн бүлгүүдийг өөр өөрөөр төлөөлж болохыг бид априори мэддэг бөгөөд хамгийн багадаа ийм үл хамаарах зүйлүүдийг хайж олохоор төлөвлөж болно. Өөрөөр хэлбэл, бүлэг хүмүүсийн талаарх мэдээлэлд аль хэдийн зарим нэг гажуудлыг агуулсан гэж үзэх нийгмийн олон шалтгаан бий. Хэрэв бид захирагчтай зургийг харвал бид энэ захирагчийг харах болно - бид өмнө нь үүнийг үл тоомсорлож, энэ нь хамаагүй гэдгийг мэдэж, систем нь юу ч мэдэхгүй гэдгийг мартсан.
Гэхдээ таны эрүүл бус арьсны бүх зургийг оффис дээр улайсгасан гэрлийн дор, эрүүл арьсыг чинь флюресцент гэрлийн дор авсан бол яах вэ? Хэрэв та эрүүл арьсаар зураг авч дууссаны дараа, эрүүл бус арьсаар зураг авахаасаа өмнө утасныхаа үйлдлийн системийг шинэчилсэн бол Apple эсвэл Google дуу чимээг бууруулах алгоритмыг бага зэрэг өөрчилсөн бол яах вэ? Хүн ийм шинж чанарыг хичнээн хайсан ч үүнийг анзаарч чадахгүй. Гэхдээ машин ашиглах систем үүнийг шууд харж, ашиглах болно. Тэр юу ч мэдэхгүй.
Одоогоор бид хуурамч хамаарлын талаар ярилцсан боловч өгөгдөл нь үнэн зөв, үр дүн нь зөв байж болох ч та үүнийг ёс зүй, хууль эрх зүй, удирдлагын шалтгаанаар ашиглахыг хүсэхгүй байна. Жишээлбэл, зарим улс орнуудад эмэгтэйчүүд илүү аюулгүй жолооч байж болох ч даатгалын хөнгөлөлт эдлэхийг зөвшөөрдөггүй. Түүхэн мэдээлэлд дүн шинжилгээ хийхдээ эмэгтэй нэрэнд бага эрсдэлтэй хүчин зүйл оноодог системийг бид амархан төсөөлж чадна. За, сонголтоос нэрийг хасъя. Гэхдээ Амазоны жишээг санаарай: систем нь бусад хүчин зүйл дээр үндэслэн хүйсийг тодорхойлох боломжтой (хүйс гэж юу болох, тэр байтугай машин гэж юу болохыг мэдэхгүй ч гэсэн) бөгөөд зохицуулагч таны тарифыг буцаан шинжлэх хүртэл та үүнийг анзаарахгүй. танд санал болгож, төлбөр төлөхөд та торгууль төлөх болно.
Эцэст нь бид ийм системийг зөвхөн хүмүүс болон нийгмийн харилцааг хамарсан төслүүдэд л ашиглах болно гэж үздэг. Энэ бол буруу. Хэрэв та хийн турбин хийвэл бүтээгдэхүүн дээрээ хэдэн арван эсвэл хэдэн зуун мэдрэгч (аудио, видео, температур болон бусад мэдрэгчүүд нь машин бүтээхэд хялбар дасан зохицож болох өгөгдлийг үүсгэдэг) дамжуулдаг телеметрт машин сурах аргыг ашиглахыг хүсэх байх. сургалтын загвар). Таамаглалаар та “Энд бүтэлгүйтэхээсээ өмнө бүтэлгүйтсэн мянган турбины мэдээлэл энд байна. Тэдний хооронд ямар ялгаа байгааг хэлэх загвар бүтээ." За, одоо Siemens мэдрэгчийг муу турбинуудын 75%, сайн турбинуудын дөнгөж 12% -д суурилуулсан гэж төсөөлөөд үз дээ (алдаатай холбоо байхгүй). Систем нь Siemens мэдрэгч бүхий турбинуудыг олох загвар бүтээх болно. Өө!
Зураг — Мориц Хардт, UC Berkeley
AI хазайлтыг удирдах
Бид энэ талаар юу хийж чадах вэ? Та асуудалд гурван өнцгөөс хандаж болно.
- Системийг сургах өгөгдөл цуглуулах, удирдах арга зүйн хатуу байдал.
- Загварын зан төлөвт дүн шинжилгээ хийх, оношлох техникийн хэрэгслүүд.
- Машин сургалтыг бүтээгдэхүүн болгон хэрэгжүүлэхдээ сургаж, сургаж, болгоомжтой байгаарай.
Мольерын "Язгууртны хөрөнгөтөн" номонд нэгэн онигоо байдаг: нэг хүнд уран зохиол зохиол, яруу найраг гэж хуваагддаг гэж хэлсэн бөгөөд тэрээр өөрийн мэдэлгүй бүх насаараа зохиолоор ярьж байснаа олж мэдээд маш их баяртай байв. Өнөөдөр статистикчид ийм бодолтой байгаа байх: тэд өөрсдөө ч мэдэлгүй өөрсдийн карьераа хиймэл оюун ухаан, түүвэрлэлтийн алдаанд зориулжээ. Түүвэрлэлтийн алдааг хайж, санаа зовох нь шинэ асуудал биш бөгөөд бид зөвхөн түүний шийдэлд системтэйгээр хандах хэрэгтэй. Дээр дурдсанчлан, зарим тохиолдолд хүмүүсийн мэдээлэлтэй холбоотой асуудлыг судлах замаар үүнийг хийхэд илүү хялбар байдаг. Бид янз бүрийн бүлгийн хүмүүсийн талаар өрөөсгөл ойлголттой байж магадгүй гэж априори таамаглаж байгаа боловч Siemens мэдрэгчүүдийн талаарх өрөөсгөл ойлголтыг төсөөлөхөд хэцүү байдаг.
Энэ бүхний шинэлэг зүйл гэвэл хүмүүс шууд статистик дүн шинжилгээ хийхээ больсон нь мэдээж. Үүнийг ойлгоход хэцүү том, нарийн төвөгтэй загваруудыг бий болгодог машинууд гүйцэтгэдэг. Ил тод байдлын асуудал бол өрөөсгөл байдлын асуудлын нэг гол асуудал юм. Систем нь зөвхөн нэг талыг барьсан биш, харин түүний хэвийсэн байдлыг илрүүлэх ямар ч арга байхгүй, машин сургалт нь шалгах боломжтой тодорхой логик алхмуудаас бүрдэх автоматжуулалтын бусад хэлбэрээс ялгаатай гэж бид эмээж байна.
Энд хоёр асуудал байна. Бид машин сургалтын системд ямар нэгэн аудит хийх боломжтой хэвээр байж магадгүй юм. Мөн бусад системд аудит хийх нь үнэндээ тийм ч хялбар биш юм.
Нэгдүгээрт, машин сургалтын орчин үеийн судалгааны нэг чиглэл бол машин сургалтын системийн чухал функцийг тодорхойлох аргуудыг хайх явдал юм. Машины сургалт (одоогийн байдлаар) нь шинжлэх ухааны цоо шинэ салбар бөгөөд маш хурдан өөрчлөгдөж байгаа тул өнөөдөр боломжгүй зүйл удахгүй бодит болж чадахгүй гэж битгий бодоорой. Төсөл - Үүний нэгэн сонирхолтой жишээ.
Хоёрдугаарт, одоо байгаа систем, байгууллагуудын шийдвэр гаргах үйл явцыг шалгаж, ойлгож чадна гэсэн санаа онолын хувьд сайн боловч практик дээр тийм юм. Томоохон байгууллагад шийдвэр хэрхэн гардагийг ойлгох нь тийм ч хялбар биш юм. Албан ёсны шийдвэр гаргах үйл явц байсан ч энэ нь хүмүүс хэрхэн харилцаж байгааг тусгадаггүй бөгөөд тэд өөрсдөө шийдвэр гаргахдаа логик, системчилсэн хандлагагүй байдаг. Манай хамтрагчийн хэлсэнчлэн , хүмүүс бас хар хайрцагнууд.
Давхардсан хэд хэдэн компани, институцид мянган хүнийг авбал асуудал бүр ч төвөгтэй болно. Сансрын хөлөг буцаж ирэхдээ задрах хувь тавилантай байсныг бид мэдэж байгаа бөгөөд НАСА-гийн хүмүүс ямар нэг муу зүйл тохиолдож магадгүй гэж бодох үндэслэл өгсөн мэдээлэлтэй байсан ч систем ерөнхийдөө Би үүнийг мэдээгүй. НАСА өмнөх хөлөг онгоцоо алдсаны дараа үүнтэй төстэй шалгалтанд хамрагдсан ч үүнтэй төстэй шалтгаанаар дахин нэгийг алдсан байна. Байгууллага, хүмүүс туршиж, ойлгож, өөрчилж болох ойлгомжтой, логик дүрэм журмыг дагаж мөрддөг гэдэгтэй маргахад хялбар байдаг, гэхдээ туршлага өөрөөр нотолж байна. Энэ "".
Би машин сургалтыг өгөгдлийн сантай, ялангуяа харилцааны технологитой харьцуулдаг - компьютерийн шинжлэх ухаан болон түүний эргэн тойрон дахь ертөнцийн чадавхийг өөрчилсөн, бүх зүйлийн нэг хэсэг болсон, бидний мэдэлгүйгээр байнга ашигладаг шинэ суурь технологи. Өгөгдлийн санд ч бас асуудал тулгардаг бөгөөд тэдгээр нь ижил төстэй шинж чанартай байдаг: систем нь муу таамаглал эсвэл муу өгөгдөл дээр бүтээгдсэн байж болох ч үүнийг анзаарахад хэцүү байх бөгөөд системийг ашиглаж буй хүмүүс асуулт асуухгүйгээр хэлсэн зүйлээ хийх болно. Нэгэн цагт таны нэрийг буруу бичсэн татварынхны тухай хуучны олон хошигнол байдаг бөгөөд тэднийг алдаагаа засахыг итгүүлэх нь таны нэрийг өөрчлөхөөс хамаагүй хэцүү байдаг. Энэ талаар бодох олон арга бий, гэхдээ аль нь илүү дээр вэ гэдэг нь тодорхойгүй байна: SQL-ийн техникийн асуудал уу, эсвэл Oracle-ийн хувилбарын алдаа уу, эсвэл хүнд сурталтай байгууллагуудын бүтэлгүйтэл үү? Системд үсгийн алдаа засах функц байхгүй болоход хүргэсэн процессын алдааг олоход хэр хэцүү вэ? Хүмүүс гомдоллож эхлэхээс өмнө үүнийг мэдэж болох уу?
Жолооч нар навигаторын хуучирсан өгөгдлөөс болж гол мөрөнд машин жолоодох үед энэ асуудлыг илүү энгийн байдлаар харуулсан болно. За, газрын зургийг байнга шинэчилж байх хэрэгтэй. Гэхдээ таны машин далайд унасанд TomTom хэр буруутай вэ?
Би үүнийг хэлж байгаа шалтгаан нь тийм ээ, машин сургалтын хэвийх нь асуудал үүсгэх болно. Гэхдээ эдгээр асуудлууд бидний өмнө тулгарч байсан асуудлуудтай төстэй байх бөгөөд тэдгээрийг анзаарч, шийдвэрлэх боломжтой (эсвэл үгүй) өнгөрсөн хугацаанд бидний хийж чаддаг байсан. Тиймээс хиймэл оюун ухаан нь хор хөнөөл учруулдаг хувилбар нь томоохон байгууллагад ажилладаг ахлах судлаачдад тохиолдох магадлал багатай юм. Зарим нэг ач холбогдолгүй технологийн гэрээлэгч эсвэл програм хангамжийн борлуулагчид өөрсдийн ойлгодоггүй нээлттэй эхийн бүрэлдэхүүн хэсэг, номын сан, хэрэглүүрийг ашиглан өвдөг сөгдөн ямар нэгэн зүйл бичих магадлалтай. Азгүй үйлчлүүлэгч нь бүтээгдэхүүний тайлбарт "хиймэл оюун ухаан" гэсэн хэллэгийг худалдаж аваад, ямар ч асуултгүйгээр бага цалинтай ажилчдадаа тарааж, хиймэл оюун ухааны хэлснийг хийхийг тушаана. Мэдээллийн сантай яг ийм зүйл тохиолдсон. Энэ бол хиймэл оюун ухааны асуудал, тэр ч байтугай програм хангамжийн асуудал биш юм. Энэ бол хүний хүчин зүйл.
дүгнэлт
Машины сургалт нь нохойд зааж чадах бүх зүйлийг хийж чадна, гэхдээ та нохойнд яг юу зааж өгсөнөө хэзээ ч мэдэхгүй.
Ийм ярианд "хиймэл оюун ухаан" гэсэн нэр томъёо л саад болдог юм шиг санагддаг. Энэ нэр томъёо нь бид үүнийг үнэхээр бүтээсэн гэсэн хуурамч сэтгэгдэл төрүүлдэг - энэ оюун ухаан. Бид HAL9000 эсвэл Skynet руу явж байгаа нь үнэхээр тийм зүйл юм ойлгодог. Гэхдээ үгүй. Эдгээр нь зүгээр л машинууд бөгөөд тэдгээрийг угаалгын машинтай харьцуулах нь илүү зөв юм. Тэр хүнээс хамаагүй дээр угаалга хийдэг, гэхдээ та түүнд угаалгын оронд аяга таваг тавьбал тэр ... угаах болно. Аяга таваг нь бүр цэвэрхэн болно. Гэхдээ энэ нь таны хүлээж байсан зүйл биш байх болно, учир нь энэ систем нь аяга тавагны талаар ямар ч буруу ойлголттой байдаг тул ийм зүйл болохгүй. Угаалгын машин нь аяга таваг, хувцас гэж юу болохыг мэддэггүй - энэ бол автоматжуулалтын жишээ бөгөөд өмнөх үйл явцыг хэрхэн автоматжуулж байснаас ялгаатай биш юм.
Бид машин, онгоц эсвэл мэдээллийн сангийн тухай ярьж байгаа эсэхээс үл хамааран эдгээр системүүд маш хүчирхэг бөгөөд маш хязгаарлагдмал байх болно. Эдгээр нь хүмүүс эдгээр системийг хэрхэн ашигладаг, тэдний санаа сайн эсвэл муу эсэх, хэрхэн ажилладагийг хэр зэрэг ойлгож байгаагаас бүрэн хамаарна.
Тиймээс “хиймэл оюун ухаан бол математик учраас өрөөсгөл ойлголттой байж болохгүй” гэдэг нь шал худлаа. Гэхдээ машин сурах нь "субъектив шинж чанартай" гэж хэлэх нь адилхан худал юм. Машины сургалт нь өгөгдлийн хэв маягийг олдог бөгөөд ямар хэв маягийг олох нь өгөгдлөөс хамаардаг ба өгөгдөл нь биднээс хамаарна. Яг л бидний тэдэнтэй хийдэг зүйл шиг. Машины сургалт нь зарим зүйлийг биднээс хамаагүй дээр хийдэг боловч жишээ нь ноход хар тамхи илрүүлэхдээ хүнээс хамаагүй илүү үр дүнтэй байдаг нь тэднийг гэрч болгон ашиглаж, тэдний мэдүүлэгт үндэслэн дүгнэлт хийх шалтгаан биш юм. Дашрамд хэлэхэд нохой нь ямар ч машин сургалтын системээс хамаагүй ухаалаг байдаг.
Орчуулга: .
Засварлах: .
Олон нийт: .
Эх сурвалж: www.habr.com