ხელოვნური ინტელექტის მიკერძოების შესახებ

tl; dr:

• მანქანური სწავლება ეძებს ნიმუშებს მონაცემებში. მაგრამ ხელოვნური ინტელექტი შეიძლება იყოს "მიკერძოებული" - ანუ, იპოვოთ შაბლონები, რომლებიც არასწორია. მაგალითად, ფოტოზე დაფუძნებულმა კანის კიბოს გამოვლენის სისტემამ შესაძლოა განსაკუთრებული ყურადღება მიაქციოს ექიმის კაბინეტში გადაღებულ სურათებს. მანქანათმცოდნეობა არ შეიძლება მესმის: მისი ალგორითმები მხოლოდ რიცხვებში იდენტიფიცირებენ შაბლონებს და თუ მონაცემები არ არის რეპრეზენტატიული, ასე იქნება მისი დამუშავების შედეგიც. და ასეთი შეცდომების დაჭერა შეიძლება რთული იყოს მანქანური სწავლის მექანიკის გამო.
• ყველაზე თვალსაჩინო და საშინელი პრობლემა ადამიანთა მრავალფეროვნებაა. არსებობს მრავალი მიზეზი, რის გამოც ადამიანების შესახებ მონაცემებმა შეიძლება დაკარგოს ობიექტურობა შეგროვების ეტაპზეც კი. მაგრამ არ იფიქროთ, რომ ეს პრობლემა მხოლოდ ადამიანებს ეხება: ზუსტად იგივე სირთულეები წარმოიქმნება საწყობში წყალდიდობის ან გაუმართავი გაზის ტურბინის გამოვლენისას. ზოგიერთი სისტემა შეიძლება იყოს მიკერძოებული კანის ფერის მიმართ, ზოგი კი მიკერძოებული იქნება Siemens-ის სენსორების მიმართ.
• ასეთი პრობლემები ახალი არ არის მანქანათმცოდნეობისთვის და ისინი შორს არიან მისთვის უნიკალური. არასწორი ვარაუდები კეთდება ნებისმიერ რთულ სტრუქტურაში და იმის გაგება, თუ რატომ იქნა მიღებული კონკრეტული გადაწყვეტილება, ყოველთვის რთულია. ჩვენ უნდა ვებრძოლოთ ამას ყოვლისმომცველი გზით: შევქმნათ ინსტრუმენტები და პროცესები გადამოწმებისთვის - და ვასწავლოთ მომხმარებლები ისე, რომ ისინი ბრმად არ დაიცვან ხელოვნური ინტელექტის რეკომენდაციები. მანქანური სწავლება ზოგს უკეთესად აკეთებს, ვიდრე ჩვენ შეგვიძლია - მაგრამ ძაღლები, მაგალითად, ბევრად უფრო ეფექტურია ვიდრე ადამიანები ნარკოტიკების აღმოჩენაში, რაც არ არის მიზეზი იმისა, რომ გამოვიყენოთ ისინი მოწმეებად და გამოვიტანოთ განაჩენი მათ ჩვენებებზე დაყრდნობით. და ძაღლები, სხვათა შორის, ბევრად უფრო ჭკვიანები არიან, ვიდრე მანქანური სწავლების ნებისმიერი სისტემა.

მანქანური სწავლება დღეს ერთ-ერთი ყველაზე მნიშვნელოვანი ფუნდამენტური ტექნოლოგიური ტენდენციაა. ეს არის ერთ-ერთი მთავარი გზა, რომლითაც ტექნოლოგია შეცვლის ჩვენს გარშემო არსებულ სამყაროს მომდევნო ათწლეულში. ამ ცვლილებების ზოგიერთი ასპექტი შეშფოთების მიზეზია. მაგალითად, მანქანათმცოდნეობის პოტენციური გავლენა შრომის ბაზარზე, ან მისი გამოყენება არაეთიკური მიზნებისთვის (მაგალითად, ავტორიტარული რეჟიმების მიერ). არის კიდევ ერთი პრობლემა, რომელსაც ეს პოსტი ეხება: ხელოვნური ინტელექტის მიკერძოება.

ეს არ არის მარტივი ამბავი.

Google-ის AI-ს შეუძლია კატების პოვნა. 2012 წლის ეს სიახლე მაშინ რაღაც განსაკუთრებული იყო.

რა არის "AI Bias"?

„ნედლი მონაცემები“ ოქსიმორონიცაა და ცუდი იდეაც; მონაცემები კარგად და ყურადღებით უნდა მომზადდეს. - ჯეფრი ბოკერი

სადღაც 2013 წლამდე, იმისთვის, რომ შეგექმნა სისტემა, რომელიც, ვთქვათ, კატებს ფოტოებში ამოიცნობს, ლოგიკური ნაბიჯების აღწერა მოგიწია. როგორ მოვძებნოთ კუთხეები სურათზე, ამოვიცნოთ თვალები, გავაანალიზოთ ბეწვის ტექსტურები, დავთვალოთ თათები და ა.შ. შემდეგ შეაერთეთ ყველა კომპონენტი და აღმოაჩენთ, რომ ეს ნამდვილად არ მუშაობს. ძალიან ჰგავს მექანიკურ ცხენს - თეორიულად მისი დამზადება შესაძლებელია, მაგრამ პრაქტიკაში მისი აღწერა ძალიან რთულია. საბოლოო შედეგი არის ასობით (ან თუნდაც ათასობით) ხელნაწერი წესი. და არც ერთი სამუშაო მოდელი.

მანქანათმცოდნეობის მოსვლასთან ერთად, ჩვენ შევწყვიტეთ კონკრეტული ობიექტის ამოცნობის „სახელმძღვანელო“ წესების გამოყენება. ამის ნაცვლად, ჩვენ ვიღებთ „ამ“-ის, X-ის, „სხვის“, Y-ის ათას ნიმუშს და კომპიუტერს ვაძლევთ მოდელის შექმნას მათი სტატისტიკური ანალიზის საფუძველზე. შემდეგ ჩვენ ვაძლევთ ამ მოდელს რამდენიმე ნიმუშის მონაცემს და ის გარკვეული სიზუსტით განსაზღვრავს, შეესაბამება თუ არა ერთ-ერთ კომპლექტს. მანქანური სწავლება წარმოქმნის მოდელს მონაცემებიდან და არა ადამიანისგან, რომელიც მას წერს. შედეგები შთამბეჭდავია, განსაკუთრებით გამოსახულების და შაბლონების ამოცნობის სფეროში და სწორედ ამიტომ, მთელი ტექნიკური ინდუსტრია ახლა მანქანურ სწავლაზე (ML) გადადის.

მაგრამ ეს არც ისე მარტივია. რეალურ სამყაროში, X ან Y-ის თქვენი ათასობით მაგალითი ასევე შეიცავს A, B, J, L, O, R და L. ისინი შეიძლება თანაბრად არ იყოს განაწილებული და ზოგიერთი შეიძლება მოხდეს ისე ხშირად, რომ სისტემა გადაიხდის მეტს. ყურადღება მიაქციე მათ, ვიდრე შენთვის საინტერესო ობიექტებს.

რას ნიშნავს ეს პრაქტიკაში? ჩემი საყვარელი მაგალითია გამოსახულების ამოცნობის სისტემები შეხედეთ ბალახიან გორაკს და თქვით "ცხვრები". გასაგებია, რატომაც: "ცხვრების" მაგალითების ფოტოების უმეტესობა გადაღებულია მდელოებზე, სადაც ისინი ცხოვრობენ, და ამ სურათებში ბალახი იკავებს ბევრად მეტ ადგილს, ვიდრე პატარა თეთრი ფუმფულა, და ეს არის ბალახი, რომელსაც სისტემა ყველაზე მნიშვნელოვანად თვლის. .

არის უფრო სერიოზული მაგალითები. ერთი ბოლო პროექტი კანის კიბოს გამოსავლენად ფოტოებში. გაირკვა, რომ დერმატოლოგები ხშირად იღებენ სახაზავს კანის კიბოს გამოვლინებებთან ერთად ფორმირების ზომის ჩასაწერად. ჯანსაღი კანის მაგალითებზე არ არის მმართველები. ხელოვნური ინტელექტის სისტემისთვის, ასეთი სახაზავები (უფრო ზუსტად, პიქსელები, რომლებსაც ჩვენ განვსაზღვრავთ, როგორც "მმართველად") გახდა ერთ-ერთი განსხვავება მაგალითების კომპლექტებს შორის და ზოგჯერ უფრო მნიშვნელოვანი, ვიდრე მცირე გამონაყარი კანზე. ასე რომ, სისტემა, რომელიც შეიქმნა კანის კიბოს იდენტიფიცირებისთვის, ზოგჯერ მმართველებს ცნობდა.

აქ მთავარი ის არის, რომ სისტემას არ აქვს სემანტიკური გაგება იმისა, თუ რას უყურებს. ჩვენ ვუყურებთ პიქსელების ერთობლიობას და მათში ვხედავთ ცხვარს, ტყავს ან მმართველებს, მაგრამ სისტემა მხოლოდ რიცხვითი წრფეა. ის ვერ ხედავს სამგანზომილებიან სივრცეს, ვერ ხედავს ობიექტებს, ტექსტურებს ან ცხვრებს. ის უბრალოდ ხედავს ნიმუშებს მონაცემებში.

ასეთი პრობლემების დიაგნოსტიკის სირთულე ის არის, რომ ნერვული ქსელი (მოდელი, რომელიც გენერირებულია თქვენი მანქანათმცოდნეობის სისტემის მიერ) შედგება ათასობით ასობით ათასი კვანძისგან. არ არსებობს მარტივი გზა, რომ შეხედოთ მოდელს და ნახოთ, როგორ იღებს ის გადაწყვეტილებას. ასეთი ხერხის არსებობა ნიშნავს, რომ პროცესი საკმარისად მარტივია ყველა წესის ხელით აღსაწერად, მანქანური სწავლების გამოყენების გარეშე. ხალხი წუხს, რომ მანქანათმცოდნეობა რაღაც შავ ყუთად იქცა. (ცოტა მოგვიანებით აგიხსნით, რატომ არის ეს შედარება ჯერ კიდევ ზედმეტი.)

ზოგადად, ეს არის მიკერძოების პრობლემა ხელოვნურ ინტელექტში ან მანქანათმცოდნეობაში: მონაცემების შაბლონების პოვნის სისტემამ შეიძლება აღმოაჩინოს არასწორი შაბლონები და თქვენ ვერ შეამჩნიოთ ეს. ეს ტექნოლოგიის ფუნდამენტური მახასიათებელია და ეს აშკარაა ყველასთვის, ვინც მუშაობს აკადემიაში და დიდ ტექნიკურ კომპანიებში. მაგრამ მისი შედეგები რთულია, ისევე როგორც ჩვენი შესაძლო გადაწყვეტილებები ამ შედეგებისგან.

ჯერ შედეგებზე ვისაუბროთ.

AI-ს შეუძლია, ჩვენთვის უპირობოდ, გააკეთოს არჩევანი ადამიანთა გარკვეული კატეგორიის სასარგებლოდ, დიდი რაოდენობით შეუმჩნეველი სიგნალების საფუძველზე.

AI მიკერძოებული სცენარები

ყველაზე აშკარა და შემზარავია, რომ ეს პრობლემა შეიძლება გამოვლინდეს, როდესაც საქმე ეხება ადამიანთა მრავალფეროვნებას. ცოტა ხნის წინ იყო ჭორირომ ამაზონი ცდილობდა შეექმნა მანქანათმცოდნეობის სისტემა სამუშაოს კანდიდატების საწყისი სკრინინგისთვის. ვინაიდან ამაზონის მუშაკებს შორის მეტი მამაკაცია, „წარმატებული დაქირავების“ მაგალითები ასევე უფრო ხშირად არის მამაკაცები და უფრო მეტი მამაკაცი იყო სისტემის მიერ შემოთავაზებული რეზიუმეების შერჩევაში. ამაზონმა შენიშნა ეს და არ გამოუშვა სისტემა წარმოებაში.

ამ მაგალითში ყველაზე მნიშვნელოვანი ის არის, რომ სისტემაში ჭორები ვრცელდებოდა მამრობითი სქესის განმცხადებლების სასარგებლოდ, მიუხედავად იმისა, რომ რეზიუმეში სქესი არ იყო მითითებული. სისტემა ხედავდა სხვა ნიმუშებს „კარგი დაქირავების“ მაგალითებში: მაგალითად, ქალებს შეუძლიათ გამოიყენონ სპეციალური სიტყვები მიღწევების აღსაწერად, ან ჰქონდეთ განსაკუთრებული ჰობი. რა თქმა უნდა, სისტემამ არ იცოდა რა იყო „ჰოკეი“, ან ვინ იყო „ხალხი“ ან რა იყო „წარმატება“ - მან უბრალოდ ჩაატარა ტექსტის სტატისტიკური ანალიზი. მაგრამ ის ნიმუშები, რომლებიც მან დაინახა, დიდი ალბათობით შეუმჩნეველი დარჩებოდა ადამიანებისთვის და ზოგიერთი მათგანი (მაგალითად, ის ფაქტი, რომ სხვადასხვა სქესის ადამიანები წარმატებას განსხვავებულად აღწერენ) ჩვენთვის ალბათ ძნელი შესამჩნევი იქნება, თუნდაც მათ შევხედოთ.

შემდგომი - უარესი. მანქანათმცოდნეობის სისტემა, რომელიც ძალიან კარგად იპოვის კიბოს ფერმკრთალ კანზე, შეიძლება არც ისე კარგად იმოქმედოს მუქ კანზე, ან პირიქით. არა აუცილებლად მიკერძოების გამო, არამედ იმიტომ, რომ თქვენ ალბათ გჭირდებათ ცალკე მოდელის აშენება სხვადასხვა კანის ფერისთვის, სხვადასხვა მახასიათებლების არჩევით. მანქანათმცოდნეობის სისტემები არ არის ურთიერთშემცვლელი ისეთ ვიწრო არეალშიც კი, როგორიცაა გამოსახულების ამოცნობა. თქვენ უნდა შეცვალოთ სისტემა, ზოგჯერ მხოლოდ საცდელი და შეცდომის გზით, რათა კარგად გაეცნოთ თქვენთვის საინტერესო მონაცემებს, სანამ არ მიაღწევთ სასურველ სიზუსტეს. მაგრამ ის, რაც შეიძლება ვერ შეამჩნიოთ, არის ის, რომ სისტემა ზუსტია შემთხვევების 98%-ში ერთ ჯგუფთან და მხოლოდ 91%-ში (თუნდაც უფრო ზუსტი ვიდრე ადამიანის ანალიზი) მეორესთან.

აქამდე ძირითადად გამოვიყენე მაგალითები, რომლებიც ეხება ადამიანებს და მათ მახასიათებლებს. ამ პრობლემის ირგვლივ მსჯელობა ძირითადად ამ თემაზეა ფოკუსირებული. მაგრამ მნიშვნელოვანია გვესმოდეს, რომ ადამიანების მიმართ მიკერძოება პრობლემის მხოლოდ ნაწილია. ჩვენ გამოვიყენებთ მანქანურ სწავლებას ბევრი რამისთვის და შერჩევის შეცდომა ყველა მათგანისთვის იქნება შესაბამისი. მეორეს მხრივ, თუ ადამიანებთან მუშაობთ, მონაცემების მიკერძოება შეიძლება მათთან არ იყოს დაკავშირებული.

ამის გასაგებად, დავუბრუნდეთ კანის კიბოს მაგალითს და განვიხილოთ სისტემის უკმარისობის სამი ჰიპოთეტური შესაძლებლობა.

1. ადამიანების ჰეტეროგენული განაწილება: კანის სხვადასხვა ტონის ფოტოების დაუბალანსებელი რაოდენობა, რაც იწვევს ცრუ პოზიტივს ან ცრუ ნეგატივს პიგმენტაციის გამო.
2. მონაცემები, რომლებზეც სისტემა გაწვრთნილი იყო, შეიცავს ხშირად წარმოქმნილ და ჰეტეროგენულად განაწილებულ მახასიათებელს, რომელიც არ არის დაკავშირებული ადამიანებთან და არ აქვს დიაგნოსტიკური მნიშვნელობა: სახაზავი კანის კიბოს ფოტოებში ან ბალახი ცხვრის ფოტოებში. ამ შემთხვევაში, შედეგი განსხვავებული იქნება, თუ სისტემა აღმოაჩენს პიქსელებს რაღაცის გამოსახულებაში, რომელსაც ადამიანის თვალი „მმართველად“ განსაზღვრავს.
3. მონაცემები შეიცავს მესამე მხარის მახასიათებელს, რომელსაც ადამიანი ვერ ხედავს თუნდაც ეძებს.

Რას ნიშნავს? ჩვენ აპრიორულად ვიცით, რომ მონაცემები შეიძლება განსხვავებულად წარმოადგენდეს ადამიანთა სხვადასხვა ჯგუფს და, სულ მცირე, შეგვიძლია დავგეგმოთ ასეთი გამონაკლისების ძებნა. სხვა სიტყვებით რომ ვთქვათ, არსებობს უამრავი სოციალური მიზეზი, რომ ვივარაუდოთ, რომ მონაცემები ადამიანთა ჯგუფების შესახებ უკვე შეიცავს გარკვეულ მიკერძოებას. თუ სახაზავთან ერთად ფოტოს დავაკვირდებით, დავინახავთ ამ სახაზავს - უბრალოდ, მანამდე ვაიგნორებდით, ვიცოდით, რომ ამას მნიშვნელობა არ აქვს და დავივიწყეთ, რომ სისტემამ არაფერი იცის.

მაგრამ რა მოხდება, თუ არაჯანსაღი კანის ყველა თქვენი ფოტო გადაღებულია ოფისში ინკანდესენტური შუქის ქვეშ, ხოლო თქვენი ჯანსაღი კანი გადაღებულია ფლუორესცენტური შუქის ქვეშ? რა მოხდება, თუ ჯანსაღი კანის გადაღების დასრულების შემდეგ, არაჯანსაღი კანის გადაღებამდე, განაახლეთ თქვენი ტელეფონის ოპერაციული სისტემა და Apple-მა ან Google-მა ოდნავ შეცვალეს ხმაურის შემცირების ალგორითმი? ადამიანი ამას ვერ ამჩნევს, რაც არ უნდა ეძებოს ასეთი თვისებები. მაგრამ მანქანა-გამოყენების სისტემა მაშინვე დაინახავს და გამოიყენებს ამას. მან არაფერი იცის.

აქამდე ჩვენ ვისაუბრეთ ყალბ კორელაციებზე, მაგრამ შეიძლება ასევე იყოს ის, რომ მონაცემები ზუსტი და შედეგები სწორია, მაგრამ თქვენ არ გსურთ მათი გამოყენება ეთიკური, სამართლებრივი ან მენეჯმენტის მიზეზების გამო. ზოგიერთი იურისდიქცია, მაგალითად, არ აძლევს ქალებს უფლებას მიიღონ ფასდაკლება მათ დაზღვევაზე, მიუხედავად იმისა, რომ ქალები შეიძლება იყვნენ უფრო უსაფრთხო მძღოლები. ჩვენ შეგვიძლია მარტივად წარმოვიდგინოთ სისტემა, რომელიც ისტორიული მონაცემების გაანალიზებისას ქალთა სახელებს უფრო დაბალ რისკფაქტორს მიანიჭებს. კარგი, მოდით ამოვიღოთ სახელები არჩევანიდან. მაგრამ გახსოვდეთ Amazon-ის მაგალითი: სისტემას შეუძლია განსაზღვროს სქესი სხვა ფაქტორებზე დაყრდნობით (მიუხედავად იმისა, რომ მან არ იცის რა არის სქესი, ან თუნდაც რა არის მანქანა) და თქვენ ამას ვერ შეამჩნევთ, სანამ მარეგულირებელი რეტროაქტიულად არ გაანალიზებს თქვენს ტარიფებს. შემოგთავაზებთ და დაგირიცხავთ დაჯარიმდებით.

და ბოლოს, ხშირად ვარაუდობენ, რომ ჩვენ გამოვიყენებთ ასეთ სისტემებს მხოლოდ იმ პროექტებისთვის, რომლებიც მოიცავს ადამიანებს და სოციალურ ინტერაქციას. ეს არასწორია. თუ თქვენ აწარმოებთ გაზის ტურბინებს, თქვენ მოგინდებათ მანქანური სწავლების გამოყენება ტელემეტრიაში, რომელიც გადაცემულია თქვენს პროდუქტზე ათობით ან ასობით სენსორებით (აუდიო, ვიდეო, ტემპერატურა და ნებისმიერი სხვა სენსორი აწარმოებს მონაცემებს, რომლებიც შეიძლება ძალიან ადვილად ადაპტირდეს მანქანის შესაქმნელად. სასწავლო მოდელი). ჰიპოთეტურად შეიძლება თქვათ: „აქ არის მონაცემები ათასი ტურბინიდან, რომლებიც წარუმატებლად წარიმართა, და აქ არის მონაცემები ათასი ტურბინიდან, რომლებიც არ ჩავარდა. შექმენით მოდელი, რომ გითხრათ, რა განსხვავებაა მათ შორის. ” აბა, ახლა წარმოიდგინეთ, რომ Siemens-ის სენსორები დაყენებულია ცუდი ტურბინების 75%-ზე და კარგზე მხოლოდ 12%-ზე (მარცხებთან კავშირი არ არის). სისტემა ააშენებს მოდელს Siemens-ის სენსორებით ტურბინების მოსაძებნად. უი!

სურათი - მორიც ჰარდტი, UC ბერკლი

AI მიკერძოების მართვა

რა შეგვიძლია ამის გაკეთება? შეგიძლიათ საკითხს სამი კუთხით მიუდგეთ:

1. მეთოდოლოგიური სიმკაცრე სისტემის მომზადების მონაცემების შეგროვებასა და მართვაში.
2. ტექნიკური ინსტრუმენტები მოდელის ქცევის ანალიზისა და დიაგნოსტიკისთვის.
3. ივარჯიშეთ, ისწავლეთ და იყავით ფრთხილად მანქანური სწავლების პროდუქტებში დანერგვისას.

მოლიერის წიგნში „ბურჟუა თავადაზნაურობაში“ არის ხუმრობა: ერთ კაცს უთხრეს, რომ ლიტერატურა იყოფა პროზასა და პოეზიად, და მას გაუხარდა, რომ აღმოაჩინა, რომ მთელი ცხოვრება პროზაულად ლაპარაკობდა, ისე რომ არ იცოდა. ალბათ ასე გრძნობენ დღეს სტატისტიკოსები: ამის გაცნობიერების გარეშე, მათ თავიანთი კარიერა მიუძღვნეს ხელოვნურ ინტელექტს და შერჩევის შეცდომებს. შერჩევის შეცდომის ძიება და ამაზე ფიქრი ახალი პრობლემა არ არის, უბრალოდ სისტემატურად უნდა მივუდგეთ მის გადაწყვეტას. როგორც ზემოთ აღინიშნა, ზოგიერთ შემთხვევაში ამის გაკეთება რეალურად უფრო ადვილია ადამიანების მონაცემებთან დაკავშირებული პრობლემების შესწავლით. ჩვენ აპრიორულად ვვარაუდობთ, რომ შეიძლება გვქონდეს ცრურწმენები ადამიანთა სხვადასხვა ჯგუფთან დაკავშირებით, მაგრამ ჩვენთვის რთულია წარმოვიდგინოთ ცრურწმენა Siemens-ის სენსორების მიმართ.

ამ ყველაფერში სიახლე, რა თქმა უნდა, არის ის, რომ ადამიანები სტატისტიკურ ანალიზს პირდაპირ აღარ აკეთებენ. მას ახორციელებენ მანქანები, რომლებიც ქმნიან დიდ, რთულ მოდელებს, რომლებიც რთული გასაგებია. გამჭვირვალობის საკითხი მიკერძოების პრობლემის ერთ-ერთი მთავარი ასპექტია. ჩვენ ვშიშობთ, რომ სისტემა არ არის მხოლოდ მიკერძოებული, არამედ არ არსებობს გზა მისი მიკერძოების აღმოსაჩენად, და რომ მანქანათმცოდნეობა განსხვავდება ავტომატიზაციის სხვა ფორმებისგან, რომლებიც უნდა შედგებოდეს მკაფიო ლოგიკური ნაბიჯებისგან, რომელთა ტესტირებაც შესაძლებელია.

აქ ორი პრობლემაა. ჩვენ ჯერ კიდევ შეგვიძლია ჩავატაროთ მანქანური სწავლების სისტემების გარკვეული სახის აუდიტი. და ნებისმიერი სხვა სისტემის აუდიტი რეალურად არ არის ადვილი.

პირველ რიგში, მანქანური სწავლების სფეროში თანამედროვე კვლევის ერთ-ერთი მიმართულებაა მანქანური სწავლების სისტემების მნიშვნელოვანი ფუნქციონირების იდენტიფიცირების მეთოდების ძიება. ამის თქმით, მანქანათმცოდნეობა (მისი ამჟამინდელი მდგომარეობით) მეცნიერების სრულიად ახალი სფეროა, რომელიც სწრაფად იცვლება, ასე რომ არ იფიქროთ, რომ ის, რაც დღეს შეუძლებელია, მალე ვერ გახდება საკმაოდ რეალური. პროექტი OpenAI - ამის საინტერესო მაგალითი.

მეორე, იდეა, რომ თქვენ შეგიძლიათ შეამოწმოთ და გაიგოთ არსებული სისტემების ან ორგანიზაციების გადაწყვეტილების მიღების პროცესი, თეორიულად კარგია, მაგრამ ასეა პრაქტიკაში. იმის გაგება, თუ როგორ მიიღება გადაწყვეტილებები დიდ ორგანიზაციაში, ადვილი არ არის. მაშინაც კი, თუ არსებობს გადაწყვეტილების მიღების ფორმალური პროცესი, ის არ ასახავს, ​​თუ როგორ ურთიერთობენ ადამიანები რეალურად და მათ თავად ხშირად არ აქვთ ლოგიკური, სისტემატური მიდგომა გადაწყვეტილების მიღებისას. როგორც ჩემმა კოლეგამ თქვა ვიჯაი პანდე, ხალხიც შავი ყუთებია.

აიღეთ ათასი ადამიანი რამდენიმე გადახურვის კომპანიასა და ინსტიტუტში და პრობლემა კიდევ უფრო რთული გახდება. ჩვენ ვიცით მას შემდეგ, რაც კოსმოსური შატლი განზრახული იყო დაშლილიყო დაბრუნების შემდეგ და NASA-ს წევრებს ჰქონდათ ინფორმაცია, რომელიც მათ აძლევდა საფუძველს იფიქრონ, რომ შესაძლოა რაიმე ცუდი მომხდარიყო, მაგრამ სისტემა საერთოდ ეს არ ვიცოდი. NASA-მ წინა შატლის დაკარგვის შემდეგაც კი გაიარა მსგავსი აუდიტი, მაგრამ მან დაკარგა კიდევ ერთი ძალიან მსგავსი მიზეზის გამო. ადვილია იმის მტკიცება, რომ ორგანიზაციები და ადამიანები მიჰყვებიან მკაფიო, ლოგიკურ წესებს, რომელთა გამოცდა, გაგება და შეცვლა შესაძლებელია, მაგრამ გამოცდილება საპირისპიროს ამტკიცებს. ეს "გოსპლანის ბოდვა".

მე ხშირად ვადარებ მანქანურ სწავლებას მონაცემთა ბაზებს, განსაკუთრებით რელაციურს - ახალ ფუნდამენტურ ტექნოლოგიას, რომელმაც შეცვალა კომპიუტერული მეცნიერების და მის გარშემო არსებული სამყაროს შესაძლებლობები, რაც გახდა ყველაფრის ნაწილი, რომელსაც ჩვენ მუდმივად ვიყენებთ ამის გაცნობიერების გარეშე. მონაცემთა ბაზებსაც აქვთ პრობლემები და ისინიც მსგავსი ხასიათისაა: სისტემა შეიძლება აგებული იყოს ცუდ ვარაუდებზე ან ცუდ მონაცემებზე, მაგრამ ძნელი შესამჩნევი იქნება და ადამიანები, რომლებიც სისტემას იყენებენ, გააკეთებენ იმას, რაც მათ ეუბნებიან კითხვების გარეშე. ბევრი ძველი ხუმრობაა საგადასახადო ადამიანებზე, რომლებმაც ოდესღაც არასწორად დაწერეს თქვენი სახელი და მათი დარწმუნება შეცდომის გამოსწორებაში ბევრად უფრო რთულია, ვიდრე რეალურად თქვენი სახელის შეცვლა. ამაზე ფიქრის მრავალი გზა არსებობს, მაგრამ გაუგებარია, რომელია უკეთესი: როგორც ტექნიკური პრობლემა SQL-ში, თუ როგორც შეცდომა Oracle-ის გამოშვებაში, თუ როგორც ბიუროკრატიული ინსტიტუტების წარუმატებლობა? რამდენად რთულია ხარვეზის პოვნა იმ პროცესში, რამაც სისტემას არ გააჩნდა ბეჭდური შეცდომების გამოსწორების ფუნქცია? შეიძლებოდა ამის გარკვევა, სანამ ხალხი ჩივილს დაიწყებდა?

ეს პრობლემა კიდევ უფრო მარტივად არის ილუსტრირებული ისტორიებით, როდესაც მძღოლები მდინარეებში შედიან ნავიგატორის მოძველებული მონაცემების გამო. კარგი, რუკები მუდმივად უნდა განახლდეს. მაგრამ რამდენად არის TomTom დამნაშავე იმაში, რომ თქვენი მანქანა ზღვაში აფეთქდა?

ამის მიზეზი არის ის, რომ დიახ, მანქანათმცოდნეობის მიკერძოება პრობლემებს შექმნის. მაგრამ ეს პრობლემები ისეთივე იქნება, როგორიც წარსულში შეგვხვდა და მათი შემჩნევა და გადაჭრა შესაძლებელია (ან არა) ისე, როგორც ჩვენ შევძელით წარსულში. ამიტომ, სცენარი, რომელშიც ხელოვნური ინტელექტის მიკერძოება ზიანს აყენებს, ნაკლებად სავარაუდოა, რომ მოხდეს დიდ ორგანიზაციაში მომუშავე უფროს მკვლევარებს. სავარაუდოდ, ზოგიერთი უმნიშვნელო ტექნოლოგიური კონტრაქტორი ან პროგრამული უზრუნველყოფის გამყიდველი დაწერს რაღაცას მუხლებზე, ღია კოდის კომპონენტების, ბიბლიოთეკებისა და ხელსაწყოების გამოყენებით, რაც მათ არ ესმით. და უიღბლო კლიენტი იყიდის ფრაზას „ხელოვნური ინტელექტი“ პროდუქტის აღწერილობაში და ყოველგვარი შეკითხვის გარეშე დაურიგებს თავის დაბალანაზღაურებად თანამშრომლებს და უბრძანებს, გააკეთონ ის, რასაც AI ამბობს. ეს არის ზუსტად ის, რაც მოხდა მონაცემთა ბაზებთან დაკავშირებით. ეს არ არის ხელოვნური ინტელექტის პრობლემა, ან თუნდაც პროგრამული უზრუნველყოფის პრობლემა. ეს არის ადამიანური ფაქტორი.

დასკვნა

მანქანათმცოდნეობას შეუძლია გააკეთოს ყველაფერი, რაც შეგიძლიათ ასწავლოთ ძაღლს - მაგრამ ვერასოდეს იქნებით დარწმუნებული, რა ასწავლეთ ძაღლს.

ხშირად ვგრძნობ, რომ ტერმინი „ხელოვნური ინტელექტი“ მხოლოდ ამგვარ საუბრებს უშლის ხელს. ეს ტერმინი ქმნის ცრუ შთაბეჭდილებას, რომ ჩვენ ის რეალურად შევქმენით - ეს ინტელექტი. რომ მივდივართ HAL9000-ისკენ ან Skynet-ისკენ - რეალურად ესმის. Მაგრამ არა. ეს მხოლოდ მანქანებია და ბევრად უფრო ზუსტია მათი შედარება, ვთქვათ, სარეცხი მანქანასთან. ის ადამიანზე ბევრად უკეთ რეცხავს, ​​მაგრამ თუ სარეცხის მაგივრად ჭურჭელს ჩაუყრი მას... გარეცხავს. ჭურჭელი კი სუფთა გახდება. მაგრამ ეს არ იქნება ის, რასაც ელოდით და ეს არ მოხდება, რადგან სისტემას აქვს რაიმე ცრურწმენა კერძებთან დაკავშირებით. სარეცხი მანქანამ არ იცის რა არის ჭურჭელი ან რა არის ტანსაცმელი - ეს მხოლოდ ავტომატიზაციის მაგალითია, კონცეპტუალურად არაფრით განსხვავდება იმისგან, თუ როგორ ხდებოდა პროცესების ავტომატიზაცია ადრე.

მანქანებზე, თვითმფრინავებზე თუ მონაცემთა ბაზებზე ვსაუბრობთ, ეს სისტემები იქნება ძალიან მძლავრი და ძალიან შეზღუდული. ისინი მთლიანად იქნება დამოკიდებული იმაზე, თუ როგორ გამოიყენებენ ადამიანები ამ სისტემებს, მათი განზრახვები კარგია თუ ცუდი და რამდენად ესმით, როგორ მუშაობს ისინი.

მაშასადამე, იმის თქმა, რომ „ხელოვნური ინტელექტი არის მათემატიკა, ამიტომ მას არ შეიძლება ჰქონდეს მიკერძოება“, სრულიად მცდარია. მაგრამ თანაბრად მცდარია იმის თქმა, რომ მანქანათმცოდნეობა არის „სუბიექტური ბუნებით“. მანქანათმცოდნეობა პოულობს შაბლონებს მონაცემებში და თუ რა ნიმუშებს პოულობს, დამოკიდებულია მონაცემებზე, მონაცემები კი ჩვენზეა დამოკიდებული. ისევე როგორც რას ვაკეთებთ მათთან. მანქანური სწავლება ზოგს უკეთესად აკეთებს, ვიდრე ჩვენ შეგვიძლია - მაგრამ ძაღლები, მაგალითად, ბევრად უფრო ეფექტურია ვიდრე ადამიანები ნარკოტიკების აღმოჩენაში, რაც არ არის მიზეზი იმისა, რომ გამოვიყენოთ ისინი მოწმეებად და გამოვიტანოთ განაჩენი მათ ჩვენებებზე დაყრდნობით. და ძაღლები, სხვათა შორის, ბევრად უფრო ჭკვიანები არიან, ვიდრე მანქანური სწავლების ნებისმიერი სისტემა.

თარგმანი: დიანა ლეცკაია.
რედაქტირება: ალექსეი ივანოვი.
საზოგადოება: @PonchikNews.

წყარო: www.habr.com