Издаване на система за машинно обучение TensorFlow 2.0

Представен значителен изход на платформата за машинно обучение TensorFlow 2.0, предоставяща готови реализации на различни алгоритми за дълбоко машинно обучение, прост интерфейс за изграждане на модели на Python и нисконивов интерфейс за C++, позволяващ управление на изграждането и изпълнението на изчислителни графи. Кодът на системата е написан на C++ и Python и се разпространява под лицензия Apache.

Платформата е разработена изначално от екипа на Google Brain и се използва в услугите на Google за разпознаване на реч, разпознаване на лица на снимки, определяне на сходство между изображения и филтриране на спам в Gmail, подбор новини в Google News и организиране на превод с оглед на смисъла. Разпределените системи за машинно обучение могат да се създават на стандартно оборудване, благодарение на вградената поддръжка в TensorFlow за разпределение на изчисленията на множество CPU или GPU.

TensorFlow предоставя библиотека от готови алгоритми за числени изчисления, реализирани чрез графи на потока от данни (data flow graphs). Въздушите в такива графи реализират математически операции или точки за вход/изход, докато ръбовете на графа представят многомерни масиви от данни (тензори), които преминават между възлите.
Въздушите могат да бъдат завързани за изчислителни устройства и да се изпълняват асинхронно, обработвайки паралелно всички подходящи тензори, което позволява едновременната работа на възлите в невронна мрежа, подобно на едновременната активация на неврони в мозъка.

Основното внимание при подготовката на новата версия беше насочено към опростяване и леснота на използването. Някои нововъведения:

• За изграждане и обучение на модели е предложен нов висококачествен API Keras, предоставящ няколко варианта на интерфейси за изграждане на модели (Последователен, Функционален, Подкласов) с възможност за незабавно изпълнение (без предварителна компилация) и с прост механизъм за отстраняване на грешки;
• Добавен е API tf.distribute.Strategy за организиране на разпределено обучение на модели с минимални изменения в съществуващия код. Освен възможността за разпределение на изчисленията на множество GPU, достъпна е експериментална поддръжка за разпределение на процеса на обучение на множество независими обработвачи и възможност за използване на облачни TPU (единици за обработка на тензори);
• Вместо декларативната моделна структура на графа с изпълнение чрез tf.Session, предоставена е възможност за писане на обикновени функции на Python, които с помощта на извикването на tf.function могат да бъдат преобразувани в графове и след това да бъдат изпълнявани отдалеч, сериализирани или оптимизирани за увеличаване на производителността;
• Добавен е транслятор AutoGraph, преобразуващ потока от команди на Python в изрази TensorFlow, което позволява да се използва код на Python в функции, декорирани с tf.function, tf.data, tf.distribute и tf.keras;
• В SavedModel е унифициран форматът за обмен на модели и е добавена поддръжка за запазване и възстановяване на състоянието на моделите. Моделите, събрани за TensorFlow, вече могат да се използват в TensorFlow Lite (на мобилни устройства), TensorFlow JS (в браузъра или Node.js), TensorFlow Serving и TensorFlow Hub;
• Унифицирани са API-тата tf.train.Optimizers и tf.keras.Optimizers; вместо compute_gradients за изчисляване на градиентите е предложен нов клас GradientTape;
• Значително е увеличена производителността при използване на GPU.
  Скоростта на обучение на моделите на системи с GPU NVIDIA Volta и Turing е нараснала до три пъти;
• Проведена извършена е значителна пречистване на API, много извиквания са преименувани или премахнати, поддръжката на глобални променливи в помощните методи е прекратена. Вместо tf.app, tf.flags и tf.logging е предложен нов API absl-py. За продължаване на използването на стария API е подготвен модул compat.v1.

Източник: opennet.ru