🥇 MLflow सह स्पार्क वाढवणे

हॅलो, खाब्रोव्स्क रहिवासी. आम्ही आधीच लिहिल्याप्रमाणे, या महिन्यात OTUS एकाच वेळी दोन मशीन लर्निंग अभ्यासक्रम सुरू करत आहे, म्हणजे पाया и प्रगत. या संदर्भात, आम्ही उपयुक्त साहित्य सामायिक करणे सुरू ठेवतो.

या लेखाचा उद्देश आमच्या पहिल्या अनुभवाबद्दल बोलणे आहे MLflow.

आम्ही पुनरावलोकन सुरू करू MLflow त्याच्या ट्रॅकिंग सर्व्हरवरून आणि अभ्यासाच्या सर्व पुनरावृत्ती लॉग करा. मग आम्ही UDF वापरून स्पार्कला MLflow शी जोडण्याचा आमचा अनुभव शेअर करू.

संदर्भ

आम्ही मध्ये आहोत अल्फा आरोग्य आम्‍ही मशिन लर्निंग आणि आर्टिफिशियल इंटेलिजेंस वापरतो जेणेकरून लोकांना त्‍यांच्‍या स्‍वास्‍थ्‍याची आणि त्‍यांच्‍या तंदुरुस्तीची जबाबदारी घेण्‍यासाठी सक्षम करण्‍यासाठी. म्हणूनच मशीन लर्निंग मॉडेल्स हे आम्ही विकसित करत असलेल्या डेटा सायन्स उत्पादनांच्या केंद्रस्थानी असतात आणि म्हणूनच आम्ही MLflow या ओपन सोर्स प्लॅटफॉर्मकडे आकर्षित झालो, जे मशीन लर्निंग लाइफसायकलच्या सर्व पैलूंचा समावेश करते.

MLflow

MLflow चे मुख्य उद्दिष्ट म्हणजे मशीन लर्निंगच्या वर एक अतिरिक्त स्तर प्रदान करणे जे डेटा शास्त्रज्ञांना जवळजवळ कोणत्याही मशीन लर्निंग लायब्ररीसह कार्य करण्यास अनुमती देईल (h2o, केरास, mleap, पायटोर्च, sklearn и टेन्सरफ्लो), तिचे काम पुढील स्तरावर नेत आहे.

MLflow तीन घटक प्रदान करते:

ट्रॅकिंग - रेकॉर्डिंग आणि प्रयोगांसाठी विनंत्या: कोड, डेटा, कॉन्फिगरेशन आणि परिणाम. मॉडेल तयार करण्याच्या प्रक्रियेचे निरीक्षण करणे खूप महत्वाचे आहे.
प्रकल्प - कोणत्याही प्लॅटफॉर्मवर चालण्यासाठी पॅकेजिंग स्वरूप (उदा. सेजमेकर)
मॉडेल - विविध उपयोजन साधनांमध्ये मॉडेल सबमिट करण्यासाठी एक सामान्य स्वरूप.

एमएलफ्लो (लेखनाच्या वेळी अल्फामध्ये) हे एक मुक्त स्रोत प्लॅटफॉर्म आहे जे तुम्हाला प्रयोग, पुनर्वापर आणि उपयोजनासह मशीन लर्निंग लाइफसायकल व्यवस्थापित करण्यास अनुमती देते.

MLflow सेट करत आहे

MLflow वापरण्यासाठी तुम्हाला प्रथम तुमचे संपूर्ण पायथन वातावरण सेट अप करावे लागेल, यासाठी आम्ही वापरणार आहोत PyEnv (मॅकवर पायथन स्थापित करण्यासाठी, तपासा येथे). अशा प्रकारे आपण एक आभासी वातावरण तयार करू शकतो जिथे आपण ते चालविण्यासाठी आवश्यक असलेल्या सर्व लायब्ररी स्थापित करू.

```
pyenv install 3.7.0
pyenv global 3.7.0 # Use Python 3.7
mkvirtualenv mlflow # Create a Virtual Env with Python 3.7
workon mlflow
```

चला आवश्यक लायब्ररी स्थापित करूया.

```
pip install mlflow==0.7.0 
            Cython==0.29  
            numpy==1.14.5 
            pandas==0.23.4 
            pyarrow==0.11.0
```

टीप: UDF सारखी मॉडेल्स चालवण्यासाठी आम्ही PyArrow वापरतो. PyArrow आणि Numpy च्या आवृत्त्या निश्चित करणे आवश्यक आहे कारण नंतरच्या आवृत्त्यांचा एकमेकांशी विरोधाभास होता.

ट्रॅकिंग UI लाँच करा

MLflow ट्रॅकिंग आम्हाला Python आणि वापरून प्रयोग लॉग आणि क्वेरी करण्यास अनुमती देते उर्वरित API. याव्यतिरिक्त, मॉडेल आर्टिफॅक्ट्स कुठे संग्रहित करायचे हे तुम्ही ठरवू शकता (लोकलहोस्ट, ऍमेझॉन S3, अझर ब्लॉब स्टोरेज, Google मेघ संचयन किंवा SFTP सर्व्हर). आम्ही अल्फा हेल्थ येथे AWS वापरत असल्याने, आमचे आर्टिफॅक्ट स्टोरेज S3 असेल.

# Running a Tracking Server
mlflow server 
    --file-store /tmp/mlflow/fileStore 
    --default-artifact-root s3://<bucket>/mlflow/artifacts/ 
    --host localhost
    --port 5000

MLflow पर्सिस्टंट फाइल स्टोरेज वापरण्याची शिफारस करते. फाइल स्टोरेज हे आहे जेथे सर्व्हर रन आणि प्रयोग मेटाडेटा संचयित करेल. सर्व्हर सुरू करताना, ते पर्सिस्टंट फाइल स्टोअरकडे निर्देश करत असल्याची खात्री करा. येथे आपण फक्त प्रयोगासाठी वापरणार आहोत /tmp.

लक्षात ठेवा की जर आम्हाला जुने प्रयोग चालवण्यासाठी mlflow सर्व्हर वापरायचा असेल, तर ते फाइल स्टोरेजमध्ये असणे आवश्यक आहे. तथापि, याशिवाय देखील आम्ही ते UDF मध्ये वापरू शकतो, कारण आम्हाला फक्त मॉडेलचा मार्ग हवा आहे.

टीप: लक्षात ठेवा की ट्रॅकिंग UI आणि मॉडेल क्लायंटला आर्टिफॅक्ट स्थानामध्ये प्रवेश असणे आवश्यक आहे. म्हणजेच, ट्रॅकिंग UI EC2 उदाहरणामध्ये राहतो याकडे दुर्लक्ष करून, MLflow स्थानिक पातळीवर चालवताना, आर्टिफॅक्ट मॉडेल्स लिहिण्यासाठी मशीनला S3 वर थेट प्रवेश असणे आवश्यक आहे.

ट्रॅकिंग UI S3 बकेटमध्ये कलाकृती संग्रहित करते

चालणारी मॉडेल्स

ट्रॅकिंग सर्व्हर चालू होताच, तुम्ही मॉडेलचे प्रशिक्षण सुरू करू शकता.

उदाहरण म्हणून, आम्ही MLflow उदाहरणातील वाइन बदल वापरू स्क्लेर्न.

MLFLOW_TRACKING_URI=http://localhost:5000 python wine_quality.py 
  --alpha 0.9
  --l1_ration 0.5
  --wine_file ./data/winequality-red.csv

आम्ही आधीच चर्चा केल्याप्रमाणे, MLflow तुम्हाला मॉडेल पॅरामीटर्स, मेट्रिक्स आणि आर्टिफॅक्ट्स लॉग करण्याची परवानगी देतो जेणेकरून तुम्ही ते पुनरावृत्तीवर कसे विकसित होतात याचा मागोवा घेऊ शकता. हे वैशिष्ट्य अत्यंत उपयुक्त आहे कारण अशा प्रकारे आम्ही ट्रॅकिंग सर्व्हरशी संपर्क साधून किंवा कमिटचे गिट हॅश लॉग वापरून कोणत्या कोडने आवश्यक पुनरावृत्ती केली हे समजून घेऊन सर्वोत्तम मॉडेलचे पुनरुत्पादन करू शकतो.

with mlflow.start_run():

    ... model ...

    mlflow.log_param("source", wine_path)
    mlflow.log_param("alpha", alpha)
    mlflow.log_param("l1_ratio", l1_ratio)

    mlflow.log_metric("rmse", rmse)
    mlflow.log_metric("r2", r2)
    mlflow.log_metric("mae", mae)

    mlflow.set_tag('domain', 'wine')
    mlflow.set_tag('predict', 'quality')
    mlflow.sklearn.log_model(lr, "model")

वाइन पुनरावृत्ती

मॉडेलसाठी सर्व्हर भाग

एमएलफ्लो ट्रॅकिंग सर्व्हर, “एमएलफ्लो सर्व्हर” कमांड वापरून लॉन्च केला गेला आहे, ज्यामध्ये स्थानिक फाइल सिस्टममध्ये धावांचा मागोवा घेण्यासाठी आणि डेटा लिहिण्यासाठी REST API आहे. तुम्ही पर्यावरण व्हेरिएबल “MLFLOW_TRACKING_URI” वापरून ट्रॅकिंग सर्व्हर पत्ता निर्दिष्ट करू शकता आणि MLflow ट्रॅकिंग API लाँच माहिती, लॉग मेट्रिक्स इत्यादी तयार/प्राप्त करण्यासाठी या पत्त्यावर ट्रॅकिंग सर्व्हरशी आपोआप संपर्क करेल.

स्त्रोत: डॉक्स// ट्रॅकिंग सर्व्हर चालवत आहे

सर्व्हरसह मॉडेल प्रदान करण्यासाठी, आम्हाला एक चालू ट्रॅकिंग सर्व्हर (लाँच इंटरफेस पहा) आणि मॉडेलचा रन आयडी आवश्यक आहे.

आयडी चालवा

# Serve a sklearn model through 127.0.0.0:5005
MLFLOW_TRACKING_URI=http://0.0.0.0:5000 mlflow sklearn serve 
  --port 5005  
  --run_id 0f8691808e914d1087cf097a08730f17 
  --model-path model

MLflow सर्व्हर फंक्शनॅलिटी वापरून मॉडेल सर्व्ह करण्यासाठी, आम्हाला फक्त निर्दिष्ट करून मॉडेलबद्दल माहिती प्राप्त करण्यासाठी ट्रॅकिंग UI मध्ये प्रवेश आवश्यक आहे --run_id.

मॉडेलने ट्रॅकिंग सर्व्हरशी संपर्क साधल्यानंतर, आम्हाला नवीन मॉडेल एंडपॉइंट मिळू शकतो.

# Query Tracking Server Endpoint
curl -X POST 
  http://127.0.0.1:5005/invocations 
  -H 'Content-Type: application/json' 
  -d '[
	{
		"fixed acidity": 3.42, 
		"volatile acidity": 1.66, 
		"citric acid": 0.48, 
		"residual sugar": 4.2, 
		"chloridessssss": 0.229, 
		"free sulfur dsioxide": 19, 
		"total sulfur dioxide": 25, 
		"density": 1.98, 
		"pH": 5.33, 
		"sulphates": 4.39, 
		"alcohol": 10.8
	}
]'

> {"predictions": [5.825055635303461]}

स्पार्क मधून चालणारी मॉडेल्स

ट्रॅकिंग सर्व्हर रिअल टाइममध्ये मॉडेल्स देण्यासाठी, त्यांना प्रशिक्षण देण्यासाठी आणि सर्व्हर कार्यक्षमता वापरण्यासाठी पुरेसे शक्तिशाली आहे हे असूनही (स्रोत: एमएलफ्लो // डॉक्स // मॉडेल # स्थानिक), वितरणामुळे स्पार्क (बॅच किंवा स्ट्रीमिंग) चा वापर हा आणखी शक्तिशाली उपाय आहे.

कल्पना करा की तुम्ही फक्त ऑफलाइन प्रशिक्षण दिले आणि नंतर तुमच्या सर्व डेटावर आउटपुट मॉडेल लागू केले. येथे स्पार्क आणि एमएलफ्लो चमकतात.

PySpark + Jupyter + Spark स्थापित करा

स्त्रोत: प्रारंभ करा PySpark - Jupyter

आम्ही Spark डेटाफ्रेमवर MLflow मॉडेल कसे लागू करतो हे दाखवण्यासाठी, आम्हाला PySpark सोबत एकत्र काम करण्यासाठी Jupyter नोटबुक सेट करणे आवश्यक आहे.

नवीनतम स्थिर आवृत्ती स्थापित करून प्रारंभ करा अपाचे स्पार्क:

cd ~/Downloads/
tar -xzf spark-2.4.3-bin-hadoop2.7.tgz
mv ~/Downloads/spark-2.4.3-bin-hadoop2.7 ~/
ln -s ~/spark-2.4.3-bin-hadoop2.7 ~/spark̀

आभासी वातावरणात PySpark आणि Jupyter स्थापित करा:

pip install pyspark jupyter

पर्यावरण व्हेरिएबल्स सेट करा:

export SPARK_HOME=~/spark
export PATH=$SPARK_HOME/bin:$PATH
export PYSPARK_DRIVER_PYTHON=jupyter
export PYSPARK_DRIVER_PYTHON_OPTS="notebook --notebook-dir=${HOME}/Projects/notebooks"

ठरवून notebook-dir, आम्ही आमच्या नोटबुक इच्छित फोल्डरमध्ये संग्रहित करू शकतो.

PySpark वरून Jupyter लाँच करत आहे

आम्ही ज्युपिटरला PySpark ड्राइव्हर म्हणून कॉन्फिगर करू शकलो असल्याने, आम्ही आता PySpark च्या संदर्भात ज्युपिटर नोटबुक चालवू शकतो.

(mlflow) afranzi:~$ pyspark
[I 19:05:01.572 NotebookApp] sparkmagic extension enabled!
[I 19:05:01.573 NotebookApp] Serving notebooks from local directory: /Users/afranzi/Projects/notebooks
[I 19:05:01.573 NotebookApp] The Jupyter Notebook is running at:
[I 19:05:01.573 NotebookApp] http://localhost:8888/?token=c06252daa6a12cfdd33c1d2e96c8d3b19d90e9f6fc171745
[I 19:05:01.573 NotebookApp] Use Control-C to stop this server and shut down all kernels (twice to skip confirmation).
[C 19:05:01.574 NotebookApp]

    Copy/paste this URL into your browser when you connect for the first time,
    to login with a token:
        http://localhost:8888/?token=c06252daa6a12cfdd33c1d2e96c8d3b19d90e9f6fc171745

वर नमूद केल्याप्रमाणे, MLflow S3 मध्ये मॉडेल आर्टिफॅक्ट्स लॉगिंग करण्यासाठी एक वैशिष्ट्य प्रदान करते. आमच्या हातात निवडलेले मॉडेल येताच, आम्हाला ते मॉड्यूल वापरून UDF म्हणून आयात करण्याची संधी मिळते. mlflow.pyfunc.

import mlflow.pyfunc

model_path = 's3://<bucket>/mlflow/artifacts/1/0f8691808e914d1087cf097a08730f17/artifacts/model'
wine_path = '/Users/afranzi/Projects/data/winequality-red.csv'
wine_udf = mlflow.pyfunc.spark_udf(spark, model_path)

df = spark.read.format("csv").option("header", "true").option('delimiter', ';').load(wine_path)
columns = [ "fixed acidity", "volatile acidity", "citric acid",
            "residual sugar", "chlorides", "free sulfur dioxide",
            "total sulfur dioxide", "density", "pH",
            "sulphates", "alcohol"
          ]
          
df.withColumn('prediction', wine_udf(*columns)).show(100, False)

PySpark - आउटपुटिंग वाइन गुणवत्ता अंदाज

या टप्प्यापर्यंत, आम्ही MLflow सह PySpark कसे वापरावे, संपूर्ण वाइन डेटासेटवर वाइन गुणवत्तेचे अंदाज कसे वापरावे याबद्दल बोललो आहोत. पण जर तुम्हाला स्काला स्पार्कमधील पायथन एमएलफ्लो मॉड्यूल्स वापरण्याची गरज असेल तर?

आम्ही स्काला आणि पायथन दरम्यान स्पार्क संदर्भ विभाजित करून याची देखील चाचणी केली. म्हणजेच, आम्ही Python मध्ये MLflow UDF नोंदणीकृत केले आणि ते Scala वरून वापरले (होय, कदाचित सर्वोत्तम उपाय नाही, परंतु आमच्याकडे काय आहे).

स्काला स्पार्क + एमएलफ्लो

या उदाहरणासाठी आपण जोडू तोरी कर्नल विद्यमान बृहस्पति मध्ये.

स्पार्क + टोरी + ज्युपिटर स्थापित करा

pip install toree
jupyter toree install --spark_home=${SPARK_HOME} --sys-prefix
jupyter kernelspec list
```
```
Available kernels:
  apache_toree_scala    /Users/afranzi/.virtualenvs/mlflow/share/jupyter/kernels/apache_toree_scala
  python3               /Users/afranzi/.virtualenvs/mlflow/share/jupyter/kernels/python3
```

तुम्ही संलग्न केलेल्या नोटबुकमधून पाहू शकता की, UDF Spark आणि PySpark दरम्यान सामायिक केले आहे. आम्हाला आशा आहे की ज्यांना स्काला आवडते आणि उत्पादनात मशीन लर्निंग मॉडेल लागू करू इच्छितात त्यांच्यासाठी हा भाग उपयुक्त ठरेल.

import org.apache.spark.sql.functions.col
import org.apache.spark.sql.types.StructType
import org.apache.spark.sql.{Column, DataFrame}
import scala.util.matching.Regex

val FirstAtRe: Regex = "^_".r
val AliasRe: Regex = "[\s_.:@]+".r

def getFieldAlias(field_name: String): String = {
    FirstAtRe.replaceAllIn(AliasRe.replaceAllIn(field_name, "_"), "")
}

def selectFieldsNormalized(columns: List[String])(df: DataFrame): DataFrame = {
    val fieldsToSelect: List[Column] = columns.map(field =>
        col(field).as(getFieldAlias(field))
    )
    df.select(fieldsToSelect: _*)
}

def normalizeSchema(df: DataFrame): DataFrame = {
    val schema = df.columns.toList
    df.transform(selectFieldsNormalized(schema))
}

FirstAtRe = ^_
AliasRe = [s_.:@]+

getFieldAlias: (field_name: String)String
selectFieldsNormalized: (columns: List[String])(df: org.apache.spark.sql.DataFrame)org.apache.spark.sql.DataFrame
normalizeSchema: (df: org.apache.spark.sql.DataFrame)org.apache.spark.sql.DataFrame
Out[1]:
[s_.:@]+
In [2]:
val winePath = "~/Research/mlflow-workshop/examples/wine_quality/data/winequality-red.csv"
val modelPath = "/tmp/mlflow/artifactStore/0/96cba14c6e4b452e937eb5072467bf79/artifacts/model"

winePath = ~/Research/mlflow-workshop/examples/wine_quality/data/winequality-red.csv
modelPath = /tmp/mlflow/artifactStore/0/96cba14c6e4b452e937eb5072467bf79/artifacts/model
Out[2]:
/tmp/mlflow/artifactStore/0/96cba14c6e4b452e937eb5072467bf79/artifacts/model
In [3]:
val df = spark.read
              .format("csv")
              .option("header", "true")
              .option("delimiter", ";")
              .load(winePath)
              .transform(normalizeSchema)

df = [fixed_acidity: string, volatile_acidity: string ... 10 more fields]
Out[3]:
[fixed_acidity: string, volatile_acidity: string ... 10 more fields]
In [4]:
%%PySpark
import mlflow
from mlflow import pyfunc

model_path = "/tmp/mlflow/artifactStore/0/96cba14c6e4b452e937eb5072467bf79/artifacts/model"
wine_quality_udf = mlflow.pyfunc.spark_udf(spark, model_path)

spark.udf.register("wineQuality", wine_quality_udf)
Out[4]:
<function spark_udf.<locals>.predict at 0x1116a98c8>
In [6]:
df.createOrReplaceTempView("wines")
In [10]:
%%SQL
SELECT 
    quality,
    wineQuality(
        fixed_acidity,
        volatile_acidity,
        citric_acid,
        residual_sugar,
        chlorides,
        free_sulfur_dioxide,
        total_sulfur_dioxide,
        density,
        pH,
        sulphates,
        alcohol
    ) AS prediction
FROM wines
LIMIT 10
Out[10]:
+-------+------------------+
|quality|        prediction|
+-------+------------------+
|      5| 5.576883967129615|
|      5|  5.50664776916154|
|      5| 5.525504822954496|
|      6| 5.504311247097457|
|      5| 5.576883967129615|
|      5|5.5556903912725755|
|      5| 5.467882654744997|
|      7| 5.710602976324739|
|      7| 5.657319539336507|
|      5| 5.345098606538708|
+-------+------------------+

In [17]:
spark.catalog.listFunctions.filter('name like "%wineQuality%").show(20, false)

+-----------+--------+-----------+---------+-----------+
|name       |database|description|className|isTemporary|
+-----------+--------+-----------+---------+-----------+
|wineQuality|null    |null       |null     |true       |
+-----------+--------+-----------+---------+-----------+

पुढील पायऱ्या

जरी MLflow लेखनाच्या वेळी अल्फा आवृत्तीमध्ये आहे, तरीही ते खूप आशादायक दिसते. फक्त एकापेक्षा जास्त मशीन लर्निंग फ्रेमवर्क चालवण्याची आणि एका एंडपॉईंटवरून त्यांचा वापर करण्याची क्षमता शिफारसकर्त्या सिस्टमला पुढील स्तरावर घेऊन जाते.

याव्यतिरिक्त, MLflow डेटा अभियंते आणि डेटा सायन्स तज्ञांना एकमेकांच्या जवळ आणते, त्यांच्यामध्ये एक सामान्य स्तर घालते.

एमएलफ्लोच्या या अन्वेषणानंतर, आम्हाला खात्री आहे की आम्ही पुढे जाऊ आणि आमच्या स्पार्क पाइपलाइन आणि शिफारस प्रणालींसाठी त्याचा वापर करू.

फाइल सिस्टम ऐवजी डेटाबेससह फाइल स्टोरेज सिंक्रोनाइझ करणे चांगले होईल. हे आम्हाला एकापेक्षा जास्त एंडपॉइंट्स देईल जे समान फाइल स्टोरेज वापरू शकतात. उदाहरणार्थ, अनेक उदाहरणे वापरा पटकन и अथेना त्याच ग्लू मेटास्टोरसह.

थोडक्यात, डेटासह आमचे कार्य अधिक मनोरंजक बनवल्याबद्दल मी MLFlow समुदायाचे आभार मानू इच्छितो.

जर तुम्ही MLflow सह खेळत असाल, तर आम्हाला लिहायला अजिबात संकोच करू नका आणि तुम्ही ते कसे वापरता ते आम्हाला सांगा आणि त्याहीपेक्षा तुम्ही उत्पादनात वापरत असाल तर.

अभ्यासक्रमांबद्दल अधिक जाणून घ्या:
मशीन लर्निंग. बेसिक कोर्स
मशीन लर्निंग. प्रगत अभ्यासक्रम

पुढे वाचा:

स्त्रोत: www.habr.com

MLflow सह स्पार्क वाढवणे