Издаване на система за машинно обучение TensorFlow 2.0

Изпратено от значително издание на платформа за машинно обучение TensorFlow 2.0, който предоставя готови реализации на различни алгоритми за дълбоко машинно обучение, прост програмен интерфейс за изграждане на модели в Python и интерфейс от ниско ниво за езика C++, който ви позволява да контролирате изграждането и изпълнението на изчислителни графики. Системният код е написан на C++ и Python и разпространява се от под лиценза на Apache.

Платформата първоначално е разработена от екипа на Google Brain и се използва в услугите на Google за разпознаване на реч, идентифициране на лица в снимки, определяне на приликата на изображения, филтриране на спам в Gmail, избор новини в Google News и организиране на превода, като се вземе предвид смисълът. Разпределените системи за машинно обучение могат да бъдат създадени на стандартен хардуер, благодарение на вградената поддръжка на TensorFlow за разпределяне на изчисления между множество CPU или GPU.

TensorFlow предоставя библиотека от готови алгоритми за числени изчисления, реализирани чрез графики на потока от данни. Възлите в такива графики изпълняват математически операции или входни/изходни точки, докато краищата на графиката представляват многомерни масиви от данни (тензори), които преминават между възлите.
Възлите могат да бъдат присвоени на изчислителни устройства и да се изпълняват асинхронно, като едновременно обработват всички подходящи за тях тезори наведнъж, което прави възможно организирането на едновременната работа на възлите в невронна мрежа по аналогия с едновременното активиране на неврони в мозъка.

Основният фокус при подготовката на новата версия беше върху опростяването и лекотата на използване. Малко иновации:

• Предложен е нов API на високо ниво за изграждане и модели за обучение Keras, който предоставя няколко опции за интерфейс за изграждане на модели (последователни, функционални, подкласове) с възможност за незабавно изпълнение (без предварителна компилация) и с прост механизъм за отстраняване на грешки;
• Добавен API tf.distribute.Strategy за организация разпределено обучение модели с минимални промени в съществуващия код. В допълнение към възможността за разпространение на изчисленията множество GPU, налична е експериментална поддръжка за разделяне на процеса на обучение на няколко независими процесора и възможност за използване на облак TPU (Тензорен процесор);
• Вместо декларативен модел за конструиране на графика с изпълнение чрез tf.Session е възможно да се напишат обикновени функции в Python, които чрез извикване на tf.function могат да бъдат преобразувани в графики и след това дистанционно изпълнени, сериализирани или оптимизирани за подобрена производителност;
• Добавен преводач Автограф, който преобразува поток от команди на Python в изрази на TensorFlow, което ви позволява да използвате код на Python във функциите tf.function-decorated, tf.data, tf.distribute и tf.keras;
• SavedModel обединява формата за обмен на модели и добавя поддръжка за запазване и възстановяване на състоянията на модела. Вече могат да се използват модели, компилирани за TensorFlow TensorFlow Lite (на мобилни устройства), TensorFlow JS (в браузър или Node.js), Обслужване на TensorFlow и TensorFlow Hub;
• API на tf.train.Optimizers и tf.keras.Optimizers са унифицирани; вместо compute_gradients е предложен нов клас за изчисляване на градиенти Градиентна лента;
• Значително повишена производителност при използване на GPU.
  Скоростта на обучение на модели на системи с графични процесори NVIDIA Volta и Turing се увеличи до три пъти;

• Проведено Основно почистване на API, много извиквания са преименувани или премахнати, поддръжката за глобални променливи в помощните методи е спряна. Вместо tf.app, tf.flags, tf.logging се предлага нов API за absl-py. За да продължите да използвате стария API, е подготвен модулът compat.v1.

Източник: opennet.ru