Այս հոդվածում ես ձեզ կասեմ, թե ինչպես կարելի է 30 րոպեում ստեղծել մեքենայական ուսուցման միջավայր, ստեղծել նեյրոնային ցանց՝ պատկերների ճանաչման համար, այնուհետև գործարկել նույն ցանցը գրաֆիկական պրոցեսորի (GPU) վրա:
Նախ, եկեք սահմանենք, թե ինչ է նեյրոնային ցանցը:
Մեր դեպքում սա մաթեմատիկական մոդել է, ինչպես նաև դրա ծրագրային կամ ապարատային մարմնավորումը, որը կառուցված է կենսաբանական նեյրոնային ցանցերի՝ կենդանի օրգանիզմի նյարդային բջիջների ցանցերի կազմակերպման և գործունեության սկզբունքի վրա: Այս հայեցակարգն առաջացել է ուղեղում տեղի ունեցող գործընթացներն ուսումնասիրելիս և փորձելով մոդելավորել այդ գործընթացները։
Նյարդային ցանցերը ծրագրավորված չեն բառի սովորական իմաստով, դրանք պատրաստված են։ Սովորելու ունակությունը նեյրոնային ցանցերի հիմնական առավելություններից մեկն է ավանդական ալգորիթմների նկատմամբ: Տեխնիկապես, ուսուցումը բաղկացած է նեյրոնների միջև կապերի գործակիցները գտնելուց: Ուսուցման գործընթացի ընթացքում նեյրոնային ցանցը կարողանում է բացահայտել բարդ կախվածությունները մուտքային և ելքային տվյալների միջև, ինչպես նաև կատարել ընդհանրացում:
Մեքենայի ուսուցման տեսանկյունից նեյրոնային ցանցը օրինաչափությունների ճանաչման մեթոդների, դիսկրիմինանտ վերլուծության, կլաստերավորման մեթոդների և այլ մեթոդների հատուկ դեպք է։
սարքավորում
Նախ, եկեք նայենք սարքավորումներին: Մեզ պետք է սերվեր, որի վրա տեղադրված է Linux օպերացիոն համակարգ։ Մեքենայի ուսուցման համակարգերը գործարկելու համար անհրաժեշտ սարքավորումները բավականին հզոր են և արդյունքում՝ թանկ: Նրանց, ովքեր ձեռքի տակ չունեն լավ մեքենա, խորհուրդ եմ տալիս ուշադրություն դարձնել ամպային մատակարարների առաջարկներին: Դուք կարող եք արագ վարձակալել պահանջվող սերվերը և վճարել միայն օգտագործման ժամանակի համար:
Այն նախագծերում, որտեղ անհրաժեշտ է ստեղծել նեյրոնային ցանցեր, ես օգտագործում եմ ռուսական ամպային պրովայդերներից մեկի սերվերները։ Ընկերությունն առաջարկում է վարձակալության ամպային սերվերներ հատուկ մեքենայական ուսուցման համար՝ հզոր Tesla V100 գրաֆիկական պրոցեսորներով (GPU) NVIDIA-ից: Մի խոսքով. GPU-ով սերվերի օգտագործումը կարող է տասնյակ անգամ ավելի արդյունավետ (արագ) լինել՝ համեմատած նմանատիպ արժեք ունեցող սերվերի հետ, որն օգտագործում է CPU (հայտնի կենտրոնական պրոցեսորային միավոր) հաշվարկների համար: Սա ձեռք է բերվում GPU-ի ճարտարապետության առանձնահատկությունների շնորհիվ, որն ավելի արագ է հաղթահարում հաշվարկները:
Ստորև նկարագրված օրինակներն իրականացնելու համար մենք մի քանի օրվա ընթացքում գնեցինք հետևյալ սերվերը.
- SSD սկավառակ 150 ԳԲ
- RAM 32 ԳԲ
- Tesla V100 16 Գբ պրոցեսոր՝ 4 միջուկով
Մենք տեղադրեցինք Ubuntu 18.04-ը մեր մեքենայի վրա:
Շրջակա միջավայրի կարգավորում
Այժմ եկեք տեղադրենք այն ամենը, ինչ անհրաժեշտ է աշխատանքի համար սերվերի վրա: Քանի որ մեր հոդվածը հիմնականում սկսնակների համար է, ես կխոսեմ որոշ կետերի մասին, որոնք օգտակար կլինեն նրանց համար:
Շրջակա միջավայրի ստեղծման ժամանակ շատ աշխատանք կատարվում է հրամանի տողի միջոցով: Օգտատերերի մեծ մասն օգտագործում է Windows-ը որպես իրենց աշխատանքային ՕՀ: Այս ՕՀ-ի ստանդարտ վահանակը շատ բան է թողնում: Հետեւաբար, մենք կօգտագործենք հարմար գործիք
ssh root@server-ip-or-hostname
Server-ip-or-host name-ի փոխարեն նշեք ձեր սերվերի IP հասցեն կամ DNS անունը: Հաջորդը, մուտքագրեք գաղտնաբառը և եթե կապը հաջող է, մենք պետք է ստանանք նման հաղորդագրություն:
Welcome to Ubuntu 18.04.3 LTS (GNU/Linux 4.15.0-74-generic x86_64)
ML մոդելների մշակման հիմնական լեզուն Python-ն է: Իսկ Linux-ում դրա օգտագործման ամենահայտնի հարթակն է
Եկեք տեղադրենք այն մեր սերվերի վրա:
Մենք սկսում ենք տեղական փաթեթների կառավարչի թարմացումից.
sudo apt-get update
Տեղադրեք curl (հրամանի տող կոմունալ).
sudo apt-get install curl
Ներբեռնեք Anaconda Distribution-ի վերջին տարբերակը.
cd /tmp
curl –O https://repo.anaconda.com/archive/Anaconda3-2019.10-Linux-x86_64.sh
Սկսենք տեղադրումը.
bash Anaconda3-2019.10-Linux-x86_64.sh
Տեղադրման գործընթացում ձեզանից կպահանջվի հաստատել լիցենզային պայմանագիրը: Հաջող տեղադրման դեպքում դուք պետք է տեսնեք սա.
Thank you for installing Anaconda3!
Այժմ ստեղծվել են բազմաթիվ շրջանակներ ML մոդելների մշակման համար, մենք աշխատում ենք ամենահայտնիների հետ.
Շրջանակի օգտագործումը թույլ է տալիս բարձրացնել մշակման արագությունը և օգտագործել պատրաստի գործիքներ ստանդարտ առաջադրանքների համար:
Այս օրինակում մենք կաշխատենք PyTorch-ի հետ։ Եկեք տեղադրենք այն.
conda install pytorch torchvision cudatoolkit=10.1 -c pytorch
Այժմ մենք պետք է գործարկենք Jupyter Notebook-ը, որը հայտնի մշակման գործիք է ML մասնագետների համար: Այն թույլ է տալիս գրել կոդը և անմիջապես տեսնել դրա կատարման արդյունքները։ Jupyter Notebook-ը ներառված է Anaconda-ի հետ և արդեն տեղադրված է մեր սերվերում: Դուք պետք է միանաք դրան մեր աշխատասեղանի համակարգից:
Դա անելու համար մենք նախ կգործարկենք Jupyter-ը սերվերի վրա, որը նշում է 8080 նավահանգիստը.
jupyter notebook --no-browser --port=8080 --allow-root
Հաջորդը, բացելով մեկ այլ ներդիր մեր Cmder վահանակում (վերևի ընտրացանկ - Նոր վահանակի երկխոսություն), մենք 8080 պորտի միջոցով միանալու ենք սերվերին SSH-ի միջոցով.
ssh -L 8080:localhost:8080 root@server-ip-or-hostname
Երբ մենք մուտքագրենք առաջին հրամանը, մեզ կառաջարկվեն հղումներ՝ մեր բրաուզերում Jupyter-ը բացելու համար.
To access the notebook, open this file in a browser:
file:///root/.local/share/jupyter/runtime/nbserver-18788-open.html
Or copy and paste one of these URLs:
http://localhost:8080/?token=cca0bd0b30857821194b9018a5394a4ed2322236f116d311
or http://127.0.0.1:8080/?token=cca0bd0b30857821194b9018a5394a4ed2322236f116d311
Եկեք օգտագործենք հղումը localhost:8080-ի համար: Պատճենեք ամբողջ ուղին և տեղադրեք այն ձեր համակարգչի տեղական բրաուզերի հասցեի տողում: Jupyter Notebook-ը կբացվի:
Եկեք ստեղծենք նոր նոթատետր՝ New - Notebook - Python 3:
Եկեք ստուգենք մեր տեղադրած բոլոր բաղադրիչների ճիշտ աշխատանքը: Եկեք մուտքագրենք PyTorch կոդը Jupyter-ի մեջ և գործարկենք կատարումը (Գործարկել կոճակը).
from __future__ import print_function
import torch
x = torch.rand(5, 3)
print(x)
Արդյունքը պետք է լինի այսպիսին.
Եթե դուք ունեք նմանատիպ արդյունք, ապա մենք ամեն ինչ ճիշտ կարգավորել ենք և կարող ենք սկսել նեյրոնային ցանցի մշակումը:
Նեյրոնային ցանցի ստեղծում
Մենք կստեղծենք նեյրոնային ցանց՝ պատկերների ճանաչման համար։ Սա հիմք ընդունենք
Ցանցը մարզելու համար մենք կօգտագործենք հանրությանը հասանելի CIFAR10 տվյալների բազան: Ունի դասեր՝ «ինքնաթիռ», «մեքենա», «թռչուն», «կատու», «եղնիկ», «շուն», «գորտ», «ձի», «նավ», «բեռնատար»։ CIFAR10-ում պատկերները 3x32x32 են, այսինքն՝ 3x32 պիքսել չափերով 32-ալիք գունավոր պատկերներ:
Աշխատանքի համար մենք կօգտագործենք PyTorch-ի ստեղծած փաթեթը՝ պատկերների հետ աշխատելու համար՝ ջահը։
Մենք հերթականությամբ կանենք հետևյալ քայլերը.
- Վերապատրաստման և փորձարկման տվյալների հավաքածուների բեռնում և նորմալացում
- Նյարդային ցանցի սահմանում
- Ցանցային ուսուցում վերապատրաստման տվյալների վերաբերյալ
- Ցանցի փորձարկում փորձարկման տվյալների վրա
- Եկեք կրկնենք ուսուցումն ու փորձարկումը՝ օգտագործելով GPU
Ստորև բերված բոլոր ծածկագրերը մենք կկատարենք Jupyter Notebook-ում:
CIFAR10-ի բեռնում և նորմալացում
Պատճենեք և գործարկեք հետևյալ կոդը Jupyter-ում.
import torch
import torchvision
import torchvision.transforms as transforms
transform = transforms.Compose(
[transforms.ToTensor(),
transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5))])
trainset = torchvision.datasets.CIFAR10(root='./data', train=True,
download=True, transform=transform)
trainloader = torch.utils.data.DataLoader(trainset, batch_size=4,
shuffle=True, num_workers=2)
testset = torchvision.datasets.CIFAR10(root='./data', train=False,
download=True, transform=transform)
testloader = torch.utils.data.DataLoader(testset, batch_size=4,
shuffle=False, num_workers=2)
classes = ('plane', 'car', 'bird', 'cat',
'deer', 'dog', 'frog', 'horse', 'ship', 'truck')
Պատասխանը պետք է լինի.
Downloading https://www.cs.toronto.edu/~kriz/cifar-10-python.tar.gz to ./data/cifar-10-python.tar.gz
Extracting ./data/cifar-10-python.tar.gz to ./data
Files already downloaded and verified
Եկեք ցուցադրենք մի քանի վերապատրաստման պատկերներ փորձարկման համար.
import matplotlib.pyplot as plt
import numpy as np
# functions to show an image
def imshow(img):
img = img / 2 + 0.5 # unnormalize
npimg = img.numpy()
plt.imshow(np.transpose(npimg, (1, 2, 0)))
plt.show()
# get some random training images
dataiter = iter(trainloader)
images, labels = dataiter.next()
# show images
imshow(torchvision.utils.make_grid(images))
# print labels
print(' '.join('%5s' % classes[labels[j]] for j in range(4)))
Նյարդային ցանցի սահմանում
Եկեք նախ դիտարկենք, թե ինչպես է աշխատում պատկերների ճանաչման նեյրոնային ցանցը: Սա պարզ կետից կետ ցանց է: Այն վերցնում է մուտքային տվյալներ, դրանք հերթով անցնում է մի քանի շերտերով և վերջապես արտադրում է ելքային տվյալներ։
Եկեք ստեղծենք նմանատիպ ցանց մեր միջավայրում.
import torch.nn as nn
import torch.nn.functional as F
class Net(nn.Module):
def __init__(self):
super(Net, self).__init__()
self.conv1 = nn.Conv2d(3, 6, 5)
self.pool = nn.MaxPool2d(2, 2)
self.conv2 = nn.Conv2d(6, 16, 5)
self.fc1 = nn.Linear(16 * 5 * 5, 120)
self.fc2 = nn.Linear(120, 84)
self.fc3 = nn.Linear(84, 10)
def forward(self, x):
x = self.pool(F.relu(self.conv1(x)))
x = self.pool(F.relu(self.conv2(x)))
x = x.view(-1, 16 * 5 * 5)
x = F.relu(self.fc1(x))
x = F.relu(self.fc2(x))
x = self.fc3(x)
return x
net = Net()
Մենք նաև սահմանում ենք կորստի ֆունկցիա և օպտիմիզատոր
import torch.optim as optim
criterion = nn.CrossEntropyLoss()
optimizer = optim.SGD(net.parameters(), lr=0.001, momentum=0.9)
Ցանցային ուսուցում վերապատրաստման տվյալների վերաբերյալ
Եկեք սկսենք մարզել մեր նեյրոնային ցանցը: Խնդրում ենք նկատի ունենալ, որ այս կոդը գործարկելուց հետո դուք պետք է որոշ ժամանակ սպասեք, մինչև աշխատանքը ավարտվի: Ինձնից 5 րոպե պահանջվեց: Ցանցը մարզելու համար ժամանակ է պահանջվում:
for epoch in range(2): # loop over the dataset multiple times
running_loss = 0.0
for i, data in enumerate(trainloader, 0):
# get the inputs; data is a list of [inputs, labels]
inputs, labels = data
# zero the parameter gradients
optimizer.zero_grad()
# forward + backward + optimize
outputs = net(inputs)
loss = criterion(outputs, labels)
loss.backward()
optimizer.step()
# print statistics
running_loss += loss.item()
if i % 2000 == 1999: # print every 2000 mini-batches
print('[%d, %5d] loss: %.3f' %
(epoch + 1, i + 1, running_loss / 2000))
running_loss = 0.0
print('Finished Training')
Մենք ստանում ենք հետևյալ արդյունքը.
Մենք պահպանում ենք մեր պատրաստված մոդելը՝
PATH = './cifar_net.pth'
torch.save(net.state_dict(), PATH)
Ցանցի փորձարկում փորձարկման տվյալների վրա
Մենք վերապատրաստեցինք ցանցը՝ օգտագործելով վերապատրաստման տվյալների մի շարք: Բայց մենք պետք է ստուգենք՝ արդյոք ցանցն ընդհանրապես որևէ բան սովորե՞լ է:
Մենք դա կփորձարկենք՝ գուշակելով դասի պիտակը, որը դուրս է գալիս նեյրոնային ցանցը և ստուգելով այն՝ տեսնելու, թե արդյոք դա ճիշտ է: Եթե կանխատեսումը ճիշտ է, մենք նմուշը ավելացնում ենք ճիշտ կանխատեսումների ցանկին։
Եկեք ցույց տանք մի պատկեր թեստային հավաքածուից.
dataiter = iter(testloader)
images, labels = dataiter.next()
# print images
imshow(torchvision.utils.make_grid(images))
print('GroundTruth: ', ' '.join('%5s' % classes[labels[j]] for j in range(4)))
Հիմա եկեք խնդրենք նեյրոնային ցանցին ասել, թե ինչ է պատկերված այս նկարներում.
net = Net()
net.load_state_dict(torch.load(PATH))
outputs = net(images)
_, predicted = torch.max(outputs, 1)
print('Predicted: ', ' '.join('%5s' % classes[predicted[j]]
for j in range(4)))
Արդյունքները բավականին լավ են թվում. ցանցը ճիշտ է նույնացրել չորս նկարներից երեքը:
Տեսնենք, թե ինչպես է ցանցը գործում ամբողջ տվյալների բազայում:
correct = 0
total = 0
with torch.no_grad():
for data in testloader:
images, labels = data
outputs = net(images)
_, predicted = torch.max(outputs.data, 1)
total += labels.size(0)
correct += (predicted == labels).sum().item()
print('Accuracy of the network on the 10000 test images: %d %%' % (
100 * correct / total))
Կարծես ցանցը ինչ-որ բան գիտի և աշխատում է: Եթե նա պատահականորեն որոշեր դասերը, ապա ճշգրտությունը կկազմի 10%:
Հիմա տեսնենք, թե որ դասերն է ավելի լավ նույնացնում ցանցը.
class_correct = list(0. for i in range(10))
class_total = list(0. for i in range(10))
with torch.no_grad():
for data in testloader:
images, labels = data
outputs = net(images)
_, predicted = torch.max(outputs, 1)
c = (predicted == labels).squeeze()
for i in range(4):
label = labels[i]
class_correct[label] += c[i].item()
class_total[label] += 1
for i in range(10):
print('Accuracy of %5s : %2d %%' % (
classes[i], 100 * class_correct[i] / class_total[i]))
Թվում է, որ ցանցն ամենալավն է մեքենաների և նավերի նույնականացման հարցում. 71% ճշգրտություն:
Այսպիսով, ցանցն աշխատում է: Հիմա փորձենք նրա աշխատանքը փոխանցել գրաֆիկական պրոցեսորին (GPU) և տեսնենք, թե ինչ է փոխվում։
Նեյրոնային ցանցի ուսուցում GPU-ի վրա
Նախ, ես համառոտ կբացատրեմ, թե ինչ է CUDA-ն: CUDA-ն (Compute Unified Device Architecture) զուգահեռ հաշվարկային հարթակ է, որը մշակվել է NVIDIA-ի կողմից՝ գրաֆիկական մշակման միավորների (GPU) ընդհանուր հաշվարկների համար: CUDA-ի միջոցով մշակողները կարող են կտրուկ արագացնել հաշվողական հավելվածները՝ օգտագործելով GPU-ների հզորությունը: Այս հարթակն արդեն տեղադրված է մեր գնած սերվերի վրա:
Եկեք նախ սահմանենք մեր GPU-ն որպես առաջին տեսանելի cuda սարք:
device = torch . device ( "cuda:0" if torch . cuda . is_available () else "cpu" )
# Assuming that we are on a CUDA machine, this should print a CUDA device:
print ( device )
Ցանցը GPU-ին ուղարկելը.
net.to(device)
Մենք նաև պետք է մուտքեր և թիրախներ ուղարկենք յուրաքանչյուր քայլի վրա GPU.
inputs, labels = data[0].to(device), data[1].to(device)
Եկեք վերապատրաստենք ցանցը GPU-ի վրա.
import torch.optim as optim
criterion = nn.CrossEntropyLoss()
optimizer = optim.SGD(net.parameters(), lr=0.001, momentum=0.9)
for epoch in range(2): # loop over the dataset multiple times
running_loss = 0.0
for i, data in enumerate(trainloader, 0):
# get the inputs; data is a list of [inputs, labels]
inputs, labels = data[0].to(device), data[1].to(device)
# zero the parameter gradients
optimizer.zero_grad()
# forward + backward + optimize
outputs = net(inputs)
loss = criterion(outputs, labels)
loss.backward()
optimizer.step()
# print statistics
running_loss += loss.item()
if i % 2000 == 1999: # print every 2000 mini-batches
print('[%d, %5d] loss: %.3f' %
(epoch + 1, i + 1, running_loss / 2000))
running_loss = 0.0
print('Finished Training')
Այս անգամ ցանցային պարապմունքը տեւել է մոտ 3 րոպե։ Հիշեցնենք, որ սովորական պրոցեսորի վրա նույն փուլը տևեց 5 րոպե։ Տարբերությունը էական չէ, դա տեղի է ունենում, քանի որ մեր ցանցն այնքան էլ մեծ չէ։ Մարզումների համար մեծ զանգվածներ օգտագործելիս GPU-ի և ավանդական պրոցեսորի արագության տարբերությունը կավելանա:
Թվում է, թե դա բոլորն է: Այն, ինչ մեզ հաջողվեց անել.
- Մենք նայեցինք, թե ինչ է GPU-ն և ընտրեցինք այն սերվերը, որի վրա այն տեղադրված է.
- Մենք ստեղծել ենք ծրագրային միջավայր՝ նեյրոնային ցանց ստեղծելու համար.
- Մենք ստեղծել ենք նեյրոնային ցանց՝ պատկերների ճանաչման համար և մարզել ենք այն;
- Մենք կրկնեցինք ցանցային ուսուցումը GPU-ի միջոցով և ստացանք արագության բարձրացում:
Ուրախ կլինեմ պատասխանել հարցերին մեկնաբանություններում։
Source: www.habr.com