NeurIPS () – най-голямата конференция в света по машинно обучение и изкуствен интелект и основното събитие в света на дийп лийнъг.
Ще се занимаваме ли, ние, DS-инженерите, в новото десетилетие и с биология, лингвистика и психология? Ще разкажем в нашия преглед.
Тази година конференцията събра над 13500 души от 80 страни в Ванкувър (Канада). Сбербанк не за първи път представлява Русия на конференцията — екипът на DS разказа за внедряването на ML в банковите процеси, за състезанията по ML и за възможностите на платформата Sberbank DS. Какви бяха основните тенденции през 2019 година в ML-комюнити? Разказват участниците в конференцията: и .
С тази година на NeurIPS бяха приети над 1400 статии — алгоритми, нови модели и нови приложения към нови данни.
Съдържание:
- Тенденции
- Интерпретируемост на моделите
- Мултидисциплинарност
- Разсъждение
- RL
- GAN
- Основни поканени лекции
- “Социална интелигентност”, Блейз Агуера и Аркас (Google)
- “Веридично научно изследване”, Бин Ю (Бъркли)
- “К моделиране на човешкото поведение с машинно обучение: възможности и предизвикателства”, Нуния М. Оливър, Алберт Али Салих
- “От Система 1 до Система 2 Дийп Лийнинг”, Йошуа Бенгио
Тенденции през 2019 година
1. Интепретируемост на моделите и нова методология ВЛ
Основната тема на конференцията — интерпретация и доказателства, защо получаваме тези или онези резултати. Може да се разсъждава дълго за философската важност на интерпретацията на „черната кутия“, но имаше много реални методи и технически разработки в тази сфера.
Методология на възпроизводимостта на моделите и извличане на знания от тях — нов инструмент за науката. Моделите могат да служат като инструмент за получаване на нови знания и тяхната проверка, а всеки етап от предпроцесинга, обучението и приложението на модела трябва да е възпроизводим.
Съществена част от публикациите е посветена не на изграждането на модели и инструменти, а на проблемите с осигуряването на безопасност, прозрачност и проверяемост на резултатите. В частност, се появи отделен стрийм за атаки на модели (adversarial attacks), което разглежда варианти както за атаки по време на обучението, така и за атаки по време на приложението.
Статии:
- — програмна статия на методологията на верификация на модели. Включва преглед на съвременни средства за интерпретация на модели, в частност — използването на внимание и извличане на важност на характеристиките чрез „дистилация“ на невронни мрежи с линейни модели.
- Чаофан Чен, Оскар Ли, Даниел Тао, Алина Барнет, Синтия Рудин, Джонатан К. Су
- Сара Хукър, Думитру Ерхан, Питър-Ян Киндерманс, Бийн Ким
- Александър Мот, Даниел Зоран, Майк Чжанковски, Даан Виерстра, Данило Хименес Резенде
- Сяо Ли, Юй Уанг, Суманта Басу, Карл Кумбиер, Бин Ю
- Джеймийн Ю, Миньон Чо, Таябум Ким, У Кан
- Едуард Рафф
ExBert.net показва интерпретацията на модели за текстова обработка
2. Мултидисциплинарност
За да се осигури надеждна проверка и да се разработят механизми за проверка и попълване на знания, необходими са специалисти от съседни области, които имат компетенции в машинното обучение и в предметната област (медицина, лингвистика, невропсихология, образование и др.). Особено важно е по-значимото присъствие на изследвания в областта на невронауките и когнитивните науки – успоредно се сближават специалисти и се заимстват идеи.
Освен това, се наблюдава мултидисциплинарност при съвместната обработка на информация от различни източници: текст и снимки, текст и игри, графови бази данни + текст и снимки.
Статии:
- Нейробиология + МЛ —
- VisualQA —
- ПГ + НЛП —
Две модели — стратег и изпълнител — на базата на ПГ и НЛП играят онлайн стратегия
3. Разсъждение
Усилване на изкуствения интелект – движение към самообучаващи се системи, „осъзнати“, разсъждаващи и аргументиращи. В частност, се развива причинното извеждане и разсъждението на здравия разум. Част от докладите са посветени на мета-ученето (за това как да се учим да учим) и свързването на технологии за дълбоко обучение с логика от 1 и 2 порядък — терминът Изкуствена обща интелигентност (AGI) става обичайно понятие в изказванията на лектори.
Статии:
- Уейцзянг Ю, Джингвен Жо, Вейхао Ю, Сяодан Лянг, Нонг Сяо
- Уан-Жо Дай, Цюйлинг Сю, Ян Ю, Жи-Хуа Жоу
- Вайшак Бел, Брендан Джуба
- Антон Бахтин, Лауренс ван дер Маатен, Джъстин Джонсън, Лаура Густафсон, Рос Гиршик
- Динеш Гарк, Шаджит Икбал, Сантош К. Сверастава, Харит Вишвакарам, Хима Каранъм, Л Венката Субраманиам
4. Обучение с подсилване
Голяма част от работата продължава да развива традиционните направления на RL — DOTA2, Starcraft, свързването на архитектурите с компютърно зрение, NLP, графови БД.
Отделен ден от конференцията беше посветен на RL-воркшоп, на който беше представена архитектурата Optimistic Actor Critic Model, надминаваща всички предишни, в частност Soft Actor Critic.
Статии:
- ; Kamil Ciosek, Quan Vuong, Robert Loftin, Katja Hofmann
- ; Yasuhiro Fujita (Preferred Networks, Inc.)*; Toshiki Kataoka (Preferred Networks, Inc.); Prabhat Nagarajan (Preferred Networks); Takahiro Ishikawa (Университет на Токио) [external pdf link].
- ; Danijar Hafner (Google)*; Timothy Lillicrap (DeepMind); Jimmy Ba (Университет на Торонто); Mohammad Norouzi (Google Brain)
Играчите в StarCraft се сражават с модела Alphastar (DeepMind)
5. GAN
Генеративните мрежи все още са в центъра на вниманието: много работи използват vanilla GAN за математически доказателства, а също така ги прилагат в нови, необичайни варианти (графови генеративни модели, работа с редици, приложение на причинно-следствени връзки в данните и т.н.).
Статии:
- Sangwoo Mo, Chiheon Kim, Sungwoong Kim, Minsu Cho, Jinwoo Shin
- Dan Zhang, Anna Khoreva
- Lei Xu, Maria Skoularidou, Alfredo Cuesta-Infante, Kalyan Veeramachaneni
Тъй като бяха приети повече работи по-долу ще разкажем за най-важните изказвания.
Поканени лекции
“Социална интелигентност”, Блейз Агуера и Аркас (Google)
Докладът е посветен на общата методология на машинното обучение и перспективите, които променят индустрията в момента – пред какво разклонение стоим? Как работи мозъкът и еволюцията, и защо използваме толкова малко от това, което вече добре знаем за развитието на естествените системи?
Индустриалното развитие на ML в значителна степен съвпада с етапите на развитие на компанията Google, която всяка година публикува своите изследвания на NeurIPS:
- 1997 г. – стартиране на търсачките, първите сървъри, малка изчислителна мощност
- 2010 г. – Джеф Дийн стартира проекта Google Brain, бум на невронните мрежи в най-ранния стадий
- 2015 г. – индустриално внедряване на невронни мрежи, бързо разпознаване на лица директно на локалното устройство, ниско ниво на процесори, оптимизирани за тензорни изчисления – TPU. Google лансира Coral ai – аналог на raspberry pi, мини-компютър за внедряване на невронни мрежи в експериментални установки
- 2017 – Google започва разработката на децентрализирано обучение и обединение на резултатите от обучението на невронни мрежи от различни устройства в една модел – на android
Днес цяла индустрия се занимава с въпросите на безопасността на данните, обединяването и възпроизвеждането на резултатите от обучението на локални устройства.
– направление в ML, при което отделни модели се учат независимо един от друг и след това се обединяват в единна модел (без централизация на изходните данни), с корекции за редки събития, аномалии, персонализация и т.н. Всички устройства с Android по същество са единен изчислителен суперкопмютър за Google.
Генеративните модели на базата на федеративно обучение – бъдещето е обещаващо направление според Google, което е "в ранните стадии на експоненциален растеж". GAN-ите, според лектора, успяват да научат да възпроизвеждат масовото поведение на популации от живи организми, алгоритми на мислене.
На примера на две прости архитектури GAN се показва, че в тях търсенето на път за оптимизация блуждае в кръг, което означава, че оптимизацията като такава не се случва. В същото време тези модели много успешно моделират експерименти, които биолозите провеждат над популации от бактерии, заставяйки ги да учат нови стратегии за поведение в търсене на храна. Можем да заключим, че животът функционира по-различно от функцията на оптимизация.
Блуждаеща оптимизация GAN
Всичко, което правим в рамките на машинното обучение в момента, са тесни и изключително формализирани задачи, докато тези формализми слабо се обобщават и не съответстват на нашето предметно знание в такива области, като неврофизиология и биология.
Това, което наистина си струва да се заимства от областта на неврофизиологията в близко бъдеще, е новите архитектури на невроните и малко да се преосмислят механизмите на обратното разпространение на грешката.
Самият човешки мозък не учи като невронна мрежа:
- Той няма случайни първични входни данни, включително заложени чрез органите на сетивата и в детството
- Той има заложени направления на инстинктивно развитие (стремежа да научи език при бебе, правостояне)
Обучението на индивидуален мозък е нискоуровнева задача, възможно е да трябва да разгледаме "колонии" от бързо сменящи се индивиди, които предават знания помежду си, за да възпроизведат механизмите на груповата еволюция.
Какво можем да внедрим в алгоритмите на ML още сега:
- Да приложим модели на клетъчни линии, които осигуряват обучение на популация, но с къс живот на индивида (индивидуален мозък)
- Обучение с малко примери
- По-сложни структури на невроните, малко различни функции на активация
- Предаване на "генома" на следващите поколения – алгоритъм на обратно разпространение на грешката
- След като съчетаем неврофизиологията и невронните мрежи, ще научим как да изграждаме многофункционален мозък от множество компоненти.
От тази гледна точка практиката на SOTA решения е вредна и трябва да бъде преразгледана в полза на развитието на общи задачи (benchmarks).
“Веридично научно изследване”, Бин Ю (Бъркли)
Докладът е посветен на проблема с интерпретацията на модели на машинно обучение и методологията за тяхната непосредствена проверка и верификация. Всяка обучена ML-модел може да бъде възприета като източник на знания, които трябва да бъдат извлечени.
В много области, особено в медицината, приложението на модел е невъзможно без извличане на тези скрити знания и интерпретация на резултатите от модела – в противен случай няма да сме сигурни, че резултатите ще бъдат стабилни, несъществени, надеждни и няма да убият пациента. Цяла област на методологията се развива в рамките на парадигмата на дълбокото обучение и извън нея – veridical data science. Какво е това?
Искаме да постигнем такова качество на научните публикации и възпроизведимост на моделите, че те да бъдат:
- предсказуеми
- изчислими
- стабилни
Тези три принципа образуват основата на новата методология. Как можем да проверяваме моделите на ML за съответствие с тези критерии? Най-простият начин е да изграждаме веднага интерпретируеми модели (регресии, дървета на решенията). Въпреки това, искаме да получим и директните предимства на дълбокото обучение.
Няколко съществуващи начина за работа с проблема:
- да интерпретираме модела;
- да използваме методи, базирани на внимание;
- да използваме ансамбъл от алгоритми при обучението, и да постигнем така, че линейните интерпретируеми модели да научат да предсказват същите отговори, които предсказва невронната мрежа, интерпретирайки признаците от линейния модел;
- да променят и аугментират данните за обучение. В това влизат добавяне на шум, смущения и data augmentation;
- всички методи, които позволяват да се уверим, че резултатите на модела не са случайни и не зависят от малки нежелани смущения (adversarial attacks);
- да се интерпретира моделът постфактум, след обучението;
- да се изучават теглата на признаците по различни начини;
- да се изучават вероятностите за всички хипотези, разпределението на класовете.
Adversarial attack
Грешките в моделирането струват скъпо на всички: ярък пример — работата на Рейнхард и Рогов "" оказа влияние върху икономическата политика на много европейски страни и ги принуди да прилагат политика на икономии, но внимателната проверка на данните и тяхната обработка години по-късно показа противоположен резултат!
Всяка ML технология има свой жизнен цикъл от внедряване до внедряване. Целта на новата методология е да извършва проверки на трите основни принципа на всеки етап от живота на модела.
Резюме:
- Развиват се няколко проекта, които ще помогнат на ML моделите да бъдат по-надеждни. Това са, например, deeptune (link to: );
- За да се развие методологията, е необходимо значително да се повиши качеството на публикациите в сферата на ML;
- На машинното обучение са нужни лидери с мултидисциплинарна подготовка и експертиза както в технически, така и в хуманитарни области.
“Моделиране на човешкото поведение с машинно обучение: Възможности и предизвикателства” Нурия М. Оливър, Алберт Али Салах
Лекция, посветена на моделирането на човешкото поведение, технологичните му основи и перспективите за приложения.
Моделирането на човешкото поведение може да бъде разделено на:
- индивидуално поведение
- поведение на малка група лица
- масово поведение
Всеки от тези типове може да бъде моделиран с помощта на ML, но с абсолютно различна входна информация и признаци. Всеки тип също има свои етични проблеми, с които трябва да се справи всеки проект:
- индивидуално поведение – кражба на идентичност, deepfake;
- поведение на групи хора – деанонимизиране, получаване на информация за движенията, телефонните обаждания и т.н.;
Индивидуално поведение
В по-голяма степен се отнася до темата Компютърно зрение – разпознаване на човешките емоции и реакциите му. Възможно е само в контекста, във времето или с относителна скала на собствената му вариативност на емоции. На слайда – разпознаване на емоциите на Мона Лиза с помощта на контекста от емоционалния спектър на средиземноморските жени. Резултат: усмивка на радост, но с презрение и отвращение. Причината вероятно е в техническия начин за определяне на "неутралната" емоция.
Поведение на малка група хора
Все още е най-трудно за моделиране поради недостатъчната информация. Като пример бяха показани роботи от 2018 – 2019 г. за десетки хора X десетки видеа (вж. набори от изображения 100к++). За най-добро моделиране в рамките на тази задача е необходима мултимодална информация, желателно от сензори на тялото – алтиметър, термометър, запис с микрофон и т.н.
Масово поведение
Най-развито направление, тъй като поръчителят са ООН и много държави. Камери за видеонаблюдение, данни от телефонни кули – биллинг, SMS, разговори, данни за движение между границите на държавите – всичко това дава много надеждна представа за движението на потоците от хора, за социалните нестабилности. Потенциални приложения на технологията: оптимизация на спасителни операции, оказване на помощ и своевременна евакуация на населението при ЧС. Използваните модели основно все още се интерпретират слабо – това са различни LSTM и свиващи мрежи. Имаше кратка бележка, че ООН лобира нов закон, който ще задължи европейския бизнес да споделя анонимизирани данни, необходими за всякакви изследвания.
“От Система 1 до Система 2 Дийп Лийнинг”, Йошуа Бенгио
В лекцията на Иошуа Бенжио дълбокото обучение се среща с невробиологията на ниво целеполагане.
Бенжио акцентира на два основни типа задачи според методологията на нобеловия лауреат Даниел Канеман (книга "» )
тип 1 — Система 1, несъзнателни действия, които извършваме "на автомат" (древен мозък): шофиране на познати места, ходене, разпознаване на лица.
тип 2 — Система 2, съзнателни действия (кора на главния мозък), целеполагане, анализ, мислене, съставни задачи.
ИИ все още достига достатъчни висоти само в задачи от първия тип — докато нашата задача е да го приведем към втория, като го научим да извършва мултидисциплинарни операции и да оперира с високо ниво на когнитивни умения.
За постигане на тази цел се предлага:
- в задачите на NLP да се използва attention като ключов механизъм за моделиране на мисленето
- да се използват meta-learning и representation learning за по-добро моделиране на признаците, които оказват влияние върху съзнанието и тяхната локализация – и на тяхна основа да преминем към опериране с по-високи концепции.
Вместо заключение оставяме запис от поканена беседа: Бенжио — един от многото учени, които се опитват да разширят обхвата на ML извън проблемите с оптимизацията, SOTA и новите архитектури.
Отворен остава въпросът до каква степен съединението на проблемите на съзнанието, влиянието на езика върху мисленето, невробиологията и алгоритмите — това е, което ни очаква в бъдеще и ще позволи преминаване към машини, които "мислят" като хора.
Спасибо!
Източник: habr.com
