Ձեր առաջին նեյրոնային ցանցը գրաֆիկական մշակման միավորի (GPU): Սկսնակների ուղեցույց

Այս հոդվածում ես ձեզ կասեմ, թե ինչպես կարելի է 30 րոպեում ստեղծել մեքենայական ուսուցման միջավայր, ստեղծել նեյրոնային ցանց՝ պատկերների ճանաչման համար, այնուհետև գործարկել նույն ցանցը գրաֆիկական պրոցեսորի (GPU) վրա:

Նախ, եկեք սահմանենք, թե ինչ է նեյրոնային ցանցը:

Մեր դեպքում սա մաթեմատիկական մոդել է, ինչպես նաև դրա ծրագրային կամ ապարատային մարմնավորումը, որը կառուցված է կենսաբանական նեյրոնային ցանցերի՝ կենդանի օրգանիզմի նյարդային բջիջների ցանցերի կազմակերպման և գործունեության սկզբունքի վրա: Այս հայեցակարգն առաջացել է ուղեղում տեղի ունեցող գործընթացներն ուսումնասիրելիս և փորձելով մոդելավորել այդ գործընթացները։

Նյարդային ցանցերը ծրագրավորված չեն բառի սովորական իմաստով, դրանք պատրաստված են։ Սովորելու ունակությունը նեյրոնային ցանցերի հիմնական առավելություններից մեկն է ավանդական ալգորիթմների նկատմամբ: Տեխնիկապես, ուսուցումը բաղկացած է նեյրոնների միջև կապերի գործակիցները գտնելուց: Ուսուցման գործընթացի ընթացքում նեյրոնային ցանցը կարողանում է բացահայտել բարդ կախվածությունները մուտքային և ելքային տվյալների միջև, ինչպես նաև կատարել ընդհանրացում:

Մեքենայի ուսուցման տեսանկյունից նեյրոնային ցանցը օրինաչափությունների ճանաչման մեթոդների, դիսկրիմինանտ վերլուծության, կլաստերավորման մեթոդների և այլ մեթոդների հատուկ դեպք է։

սարքավորում

Նախ, եկեք նայենք սարքավորումներին: Մեզ պետք է սերվեր, որի վրա տեղադրված է Linux օպերացիոն համակարգ։ Մեքենայի ուսուցման համակարգերը գործարկելու համար անհրաժեշտ սարքավորումները բավականին հզոր են և արդյունքում՝ թանկ: Նրանց, ովքեր ձեռքի տակ չունեն լավ մեքենա, խորհուրդ եմ տալիս ուշադրություն դարձնել ամպային մատակարարների առաջարկներին: Դուք կարող եք արագ վարձակալել պահանջվող սերվերը և վճարել միայն օգտագործման ժամանակի համար:

Այն նախագծերում, որտեղ անհրաժեշտ է ստեղծել նեյրոնային ցանցեր, ես օգտագործում եմ ռուսական ամպային պրովայդերներից մեկի սերվերները։ Ընկերությունն առաջարկում է վարձակալության ամպային սերվերներ հատուկ մեքենայական ուսուցման համար՝ հզոր Tesla V100 գրաֆիկական պրոցեսորներով (GPU) NVIDIA-ից: Մի խոսքով. GPU-ով սերվերի օգտագործումը կարող է տասնյակ անգամ ավելի արդյունավետ (արագ) լինել՝ համեմատած նմանատիպ արժեք ունեցող սերվերի հետ, որն օգտագործում է CPU (հայտնի կենտրոնական պրոցեսորային միավոր) հաշվարկների համար: Սա ձեռք է բերվում GPU-ի ճարտարապետության առանձնահատկությունների շնորհիվ, որն ավելի արագ է հաղթահարում հաշվարկները:

Ստորև նկարագրված օրինակներն իրականացնելու համար մենք մի քանի օրվա ընթացքում գնեցինք հետևյալ սերվերը.

• SSD սկավառակ 150 ԳԲ
• RAM 32 ԳԲ
• Tesla V100 16 Գբ պրոցեսոր՝ 4 միջուկով

Մենք տեղադրեցինք Ubuntu 18.04-ը մեր մեքենայի վրա:

Շրջակա միջավայրի կարգավորում

Այժմ եկեք տեղադրենք այն ամենը, ինչ անհրաժեշտ է աշխատանքի համար սերվերի վրա: Քանի որ մեր հոդվածը հիմնականում սկսնակների համար է, ես կխոսեմ որոշ կետերի մասին, որոնք օգտակար կլինեն նրանց համար:

Շրջակա միջավայրի ստեղծման ժամանակ շատ աշխատանք կատարվում է հրամանի տողի միջոցով: Օգտատերերի մեծ մասն օգտագործում է Windows-ը որպես իրենց աշխատանքային ՕՀ: Այս ՕՀ-ի ստանդարտ վահանակը շատ բան է թողնում: Հետեւաբար, մենք կօգտագործենք հարմար գործիք Cmder/. Ներբեռնեք մինի տարբերակը և գործարկեք Cmder.exe-ը: Հաջորդը դուք պետք է միանաք սերվերին SSH-ի միջոցով.

ssh root@server-ip-or-hostname

Server-ip-or-host name-ի փոխարեն նշեք ձեր սերվերի IP հասցեն կամ DNS անունը: Հաջորդը, մուտքագրեք գաղտնաբառը և եթե կապը հաջող է, մենք պետք է ստանանք նման հաղորդագրություն:

Welcome to Ubuntu 18.04.3 LTS (GNU/Linux 4.15.0-74-generic x86_64)

ML մոդելների մշակման հիմնական լեզուն Python-ն է: Իսկ Linux-ում դրա օգտագործման ամենահայտնի հարթակն է ANACONDA.

Եկեք տեղադրենք այն մեր սերվերի վրա:

Մենք սկսում ենք տեղական փաթեթների կառավարչի թարմացումից.

sudo apt-get update

Տեղադրեք curl (հրամանի տող կոմունալ).

sudo apt-get install curl

Ներբեռնեք Anaconda Distribution-ի վերջին տարբերակը.

cd /tmp
curl –O https://repo.anaconda.com/archive/Anaconda3-2019.10-Linux-x86_64.sh

Սկսենք տեղադրումը.

bash Anaconda3-2019.10-Linux-x86_64.sh

Տեղադրման գործընթացում ձեզանից կպահանջվի հաստատել լիցենզային պայմանագիրը: Հաջող տեղադրման դեպքում դուք պետք է տեսնեք սա.

Thank you for installing Anaconda3!

Այժմ ստեղծվել են բազմաթիվ շրջանակներ ML մոդելների մշակման համար, մենք աշխատում ենք ամենահայտնիների հետ. PyTorch- ը и Թենսորհոսք.

Շրջանակի օգտագործումը թույլ է տալիս բարձրացնել մշակման արագությունը և օգտագործել պատրաստի գործիքներ ստանդարտ առաջադրանքների համար:

Այս օրինակում մենք կաշխատենք PyTorch-ի հետ։ Եկեք տեղադրենք այն.

conda install pytorch torchvision cudatoolkit=10.1 -c pytorch

Այժմ մենք պետք է գործարկենք Jupyter Notebook-ը, որը հայտնի մշակման գործիք է ML մասնագետների համար: Այն թույլ է տալիս գրել կոդը և անմիջապես տեսնել դրա կատարման արդյունքները։ Jupyter Notebook-ը ներառված է Anaconda-ի հետ և արդեն տեղադրված է մեր սերվերում: Դուք պետք է միանաք դրան մեր աշխատասեղանի համակարգից:

Դա անելու համար մենք նախ կգործարկենք Jupyter-ը սերվերի վրա, որը նշում է 8080 նավահանգիստը.

jupyter notebook --no-browser --port=8080 --allow-root

Հաջորդը, բացելով մեկ այլ ներդիր մեր Cmder վահանակում (վերևի ընտրացանկ - Նոր վահանակի երկխոսություն), մենք 8080 պորտի միջոցով միանալու ենք սերվերին SSH-ի միջոցով.

ssh -L 8080:localhost:8080 root@server-ip-or-hostname

Երբ մենք մուտքագրենք առաջին հրամանը, մեզ կառաջարկվեն հղումներ՝ մեր բրաուզերում Jupyter-ը բացելու համար.

To access the notebook, open this file in a browser:
        file:///root/.local/share/jupyter/runtime/nbserver-18788-open.html
    Or copy and paste one of these URLs:
        http://localhost:8080/?token=cca0bd0b30857821194b9018a5394a4ed2322236f116d311
     or http://127.0.0.1:8080/?token=cca0bd0b30857821194b9018a5394a4ed2322236f116d311

Եկեք օգտագործենք հղումը localhost:8080-ի համար: Պատճենեք ամբողջ ուղին և տեղադրեք այն ձեր համակարգչի տեղական բրաուզերի հասցեի տողում: Jupyter Notebook-ը կբացվի:

Եկեք ստեղծենք նոր նոթատետր՝ New - Notebook - Python 3:

Եկեք ստուգենք մեր տեղադրած բոլոր բաղադրիչների ճիշտ աշխատանքը: Եկեք մուտքագրենք PyTorch կոդը Jupyter-ի մեջ և գործարկենք կատարումը (Գործարկել կոճակը).

from __future__ import print_function
import torch
x = torch.rand(5, 3)
print(x)

Արդյունքը պետք է լինի այսպիսին.

Եթե ​​դուք ունեք նմանատիպ արդյունք, ապա մենք ամեն ինչ ճիշտ կարգավորել ենք և կարող ենք սկսել նեյրոնային ցանցի մշակումը:

Նեյրոնային ցանցի ստեղծում

Մենք կստեղծենք նեյրոնային ցանց՝ պատկերների ճանաչման համար։ Սա հիմք ընդունենք ղեկավարությունը.

Ցանցը մարզելու համար մենք կօգտագործենք հանրությանը հասանելի CIFAR10 տվյալների բազան: Ունի դասեր՝ «ինքնաթիռ», «մեքենա», «թռչուն», «կատու», «եղնիկ», «շուն», «գորտ», «ձի», «նավ», «բեռնատար»։ CIFAR10-ում պատկերները 3x32x32 են, այսինքն՝ 3x32 պիքսել չափերով 32-ալիք գունավոր պատկերներ:

Աշխատանքի համար մենք կօգտագործենք PyTorch-ի ստեղծած փաթեթը՝ պատկերների հետ աշխատելու համար՝ ջահը։

Մենք հերթականությամբ կանենք հետևյալ քայլերը.

• Վերապատրաստման և փորձարկման տվյալների հավաքածուների բեռնում և նորմալացում
• Նյարդային ցանցի սահմանում
• Ցանցային ուսուցում վերապատրաստման տվյալների վերաբերյալ
• Ցանցի փորձարկում փորձարկման տվյալների վրա
• Եկեք կրկնենք ուսուցումն ու փորձարկումը՝ օգտագործելով GPU

Ստորև բերված բոլոր ծածկագրերը մենք կկատարենք Jupyter Notebook-ում:

CIFAR10-ի բեռնում և նորմալացում

Պատճենեք և գործարկեք հետևյալ կոդը Jupyter-ում.

import torch
import torchvision
import torchvision.transforms as transforms

transform = transforms.Compose(
    [transforms.ToTensor(),
     transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5))])

trainset = torchvision.datasets.CIFAR10(root='./data', train=True,
                                        download=True, transform=transform)
trainloader = torch.utils.data.DataLoader(trainset, batch_size=4,
                                          shuffle=True, num_workers=2)

testset = torchvision.datasets.CIFAR10(root='./data', train=False,
                                       download=True, transform=transform)
testloader = torch.utils.data.DataLoader(testset, batch_size=4,
                                         shuffle=False, num_workers=2)

classes = ('plane', 'car', 'bird', 'cat',
           'deer', 'dog', 'frog', 'horse', 'ship', 'truck')

Պատասխանը պետք է լինի.

Downloading https://www.cs.toronto.edu/~kriz/cifar-10-python.tar.gz to ./data/cifar-10-python.tar.gz
Extracting ./data/cifar-10-python.tar.gz to ./data
Files already downloaded and verified

Եկեք ցուցադրենք մի քանի վերապատրաստման պատկերներ փորձարկման համար.

import matplotlib.pyplot as plt
import numpy as np

# functions to show an image

def imshow(img):
    img = img / 2 + 0.5     # unnormalize
    npimg = img.numpy()
    plt.imshow(np.transpose(npimg, (1, 2, 0)))
    plt.show()

# get some random training images
dataiter = iter(trainloader)
images, labels = dataiter.next()

# show images
imshow(torchvision.utils.make_grid(images))
# print labels
print(' '.join('%5s' % classes[labels[j]] for j in range(4)))

Նյարդային ցանցի սահմանում

Եկեք նախ դիտարկենք, թե ինչպես է աշխատում պատկերների ճանաչման նեյրոնային ցանցը: Սա պարզ կետից կետ ցանց է: Այն վերցնում է մուտքային տվյալներ, դրանք հերթով անցնում է մի քանի շերտերով և վերջապես արտադրում է ելքային տվյալներ։

Եկեք ստեղծենք նմանատիպ ցանց մեր միջավայրում.

import torch.nn as nn
import torch.nn.functional as F

class Net(nn.Module):
    def __init__(self):
        super(Net, self).__init__()
        self.conv1 = nn.Conv2d(3, 6, 5)
        self.pool = nn.MaxPool2d(2, 2)
        self.conv2 = nn.Conv2d(6, 16, 5)
        self.fc1 = nn.Linear(16 * 5 * 5, 120)
        self.fc2 = nn.Linear(120, 84)
        self.fc3 = nn.Linear(84, 10)

    def forward(self, x):
        x = self.pool(F.relu(self.conv1(x)))
        x = self.pool(F.relu(self.conv2(x)))
        x = x.view(-1, 16 * 5 * 5)
        x = F.relu(self.fc1(x))
        x = F.relu(self.fc2(x))
        x = self.fc3(x)
        return x

net = Net()

Մենք նաև սահմանում ենք կորստի ֆունկցիա և օպտիմիզատոր

import torch.optim as optim

criterion = nn.CrossEntropyLoss()
optimizer = optim.SGD(net.parameters(), lr=0.001, momentum=0.9)

Ցանցային ուսուցում վերապատրաստման տվյալների վերաբերյալ

Եկեք սկսենք մարզել մեր նեյրոնային ցանցը: Խնդրում ենք նկատի ունենալ, որ այս կոդը գործարկելուց հետո դուք պետք է որոշ ժամանակ սպասեք, մինչև աշխատանքը ավարտվի: Ինձնից 5 րոպե պահանջվեց: Ցանցը մարզելու համար ժամանակ է պահանջվում:

 for epoch in range(2):  # loop over the dataset multiple times

    running_loss = 0.0
    for i, data in enumerate(trainloader, 0):
        # get the inputs; data is a list of [inputs, labels]
        inputs, labels = data

        # zero the parameter gradients
        optimizer.zero_grad()

        # forward + backward + optimize
        outputs = net(inputs)
        loss = criterion(outputs, labels)
        loss.backward()
        optimizer.step()

        # print statistics
        running_loss += loss.item()
        if i % 2000 == 1999:    # print every 2000 mini-batches
            print('[%d, %5d] loss: %.3f' %
                  (epoch + 1, i + 1, running_loss / 2000))
            running_loss = 0.0

print('Finished Training')

Մենք ստանում ենք հետևյալ արդյունքը.

Մենք պահպանում ենք մեր պատրաստված մոդելը՝

PATH = './cifar_net.pth'
torch.save(net.state_dict(), PATH)

Ցանցի փորձարկում փորձարկման տվյալների վրա

Մենք վերապատրաստեցինք ցանցը՝ օգտագործելով վերապատրաստման տվյալների մի շարք: Բայց մենք պետք է ստուգենք՝ արդյոք ցանցն ընդհանրապես որևէ բան սովորե՞լ է:

Մենք դա կփորձարկենք՝ գուշակելով դասի պիտակը, որը դուրս է գալիս նեյրոնային ցանցը և ստուգելով այն՝ տեսնելու, թե արդյոք դա ճիշտ է: Եթե ​​կանխատեսումը ճիշտ է, մենք նմուշը ավելացնում ենք ճիշտ կանխատեսումների ցանկին։
Եկեք ցույց տանք մի պատկեր թեստային հավաքածուից.

dataiter = iter(testloader)
images, labels = dataiter.next()

# print images
imshow(torchvision.utils.make_grid(images))
print('GroundTruth: ', ' '.join('%5s' % classes[labels[j]] for j in range(4)))

Հիմա եկեք խնդրենք նեյրոնային ցանցին ասել, թե ինչ է պատկերված այս նկարներում.

net = Net()
net.load_state_dict(torch.load(PATH))

outputs = net(images)

_, predicted = torch.max(outputs, 1)

print('Predicted: ', ' '.join('%5s' % classes[predicted[j]]
                              for j in range(4)))

Արդյունքները բավականին լավ են թվում. ցանցը ճիշտ է նույնացրել չորս նկարներից երեքը:

Տեսնենք, թե ինչպես է ցանցը գործում ամբողջ տվյալների բազայում:

correct = 0
total = 0
with torch.no_grad():
    for data in testloader:
        images, labels = data
        outputs = net(images)
        _, predicted = torch.max(outputs.data, 1)
        total += labels.size(0)
        correct += (predicted == labels).sum().item()

print('Accuracy of the network on the 10000 test images: %d %%' % (
    100 * correct / total))

Կարծես ցանցը ինչ-որ բան գիտի և աշխատում է: Եթե ​​նա պատահականորեն որոշեր դասերը, ապա ճշգրտությունը կկազմի 10%:

Հիմա տեսնենք, թե որ դասերն է ավելի լավ նույնացնում ցանցը.

class_correct = list(0. for i in range(10))
class_total = list(0. for i in range(10))
with torch.no_grad():
    for data in testloader:
        images, labels = data
        outputs = net(images)
        _, predicted = torch.max(outputs, 1)
        c = (predicted == labels).squeeze()
        for i in range(4):
            label = labels[i]
            class_correct[label] += c[i].item()
            class_total[label] += 1


for i in range(10):
    print('Accuracy of %5s : %2d %%' % (
        classes[i], 100 * class_correct[i] / class_total[i]))

Թվում է, որ ցանցն ամենալավն է մեքենաների և նավերի նույնականացման հարցում. 71% ճշգրտություն:

Այսպիսով, ցանցն աշխատում է: Հիմա փորձենք նրա աշխատանքը փոխանցել գրաֆիկական պրոցեսորին (GPU) և տեսնենք, թե ինչ է փոխվում։

Նեյրոնային ցանցի ուսուցում GPU-ի վրա

Նախ, ես համառոտ կբացատրեմ, թե ինչ է CUDA-ն: CUDA-ն (Compute Unified Device Architecture) զուգահեռ հաշվարկային հարթակ է, որը մշակվել է NVIDIA-ի կողմից՝ գրաֆիկական մշակման միավորների (GPU) ընդհանուր հաշվարկների համար: CUDA-ի միջոցով մշակողները կարող են կտրուկ արագացնել հաշվողական հավելվածները՝ օգտագործելով GPU-ների հզորությունը: Այս հարթակն արդեն տեղադրված է մեր գնած սերվերի վրա:

Եկեք նախ սահմանենք մեր GPU-ն որպես առաջին տեսանելի cuda սարք:

device = torch . device ( "cuda:0" if torch . cuda . is_available () else "cpu" )
# Assuming that we are on a CUDA machine, this should print a CUDA device:
print ( device )

Ցանցը GPU-ին ուղարկելը.

net.to(device)

Մենք նաև պետք է մուտքեր և թիրախներ ուղարկենք յուրաքանչյուր քայլի վրա GPU.

inputs, labels = data[0].to(device), data[1].to(device)

Եկեք վերապատրաստենք ցանցը GPU-ի վրա.

import torch.optim as optim

criterion = nn.CrossEntropyLoss()
optimizer = optim.SGD(net.parameters(), lr=0.001, momentum=0.9)
for epoch in range(2):  # loop over the dataset multiple times

    running_loss = 0.0
    for i, data in enumerate(trainloader, 0):
        # get the inputs; data is a list of [inputs, labels]
    inputs, labels = data[0].to(device), data[1].to(device)

        # zero the parameter gradients
        optimizer.zero_grad()

        # forward + backward + optimize
        outputs = net(inputs)
        loss = criterion(outputs, labels)
        loss.backward()
        optimizer.step()

        # print statistics
        running_loss += loss.item()
        if i % 2000 == 1999:    # print every 2000 mini-batches
            print('[%d, %5d] loss: %.3f' %
                  (epoch + 1, i + 1, running_loss / 2000))
            running_loss = 0.0

print('Finished Training')

Այս անգամ ցանցային պարապմունքը տեւել է մոտ 3 րոպե։ Հիշեցնենք, որ սովորական պրոցեսորի վրա նույն փուլը տևեց 5 րոպե։ Տարբերությունը էական չէ, դա տեղի է ունենում, քանի որ մեր ցանցն այնքան էլ մեծ չէ։ Մարզումների համար մեծ զանգվածներ օգտագործելիս GPU-ի և ավանդական պրոցեսորի արագության տարբերությունը կավելանա:

Թվում է, թե դա բոլորն է: Այն, ինչ մեզ հաջողվեց անել.

• Մենք նայեցինք, թե ինչ է GPU-ն և ընտրեցինք այն սերվերը, որի վրա այն տեղադրված է.
• Մենք ստեղծել ենք ծրագրային միջավայր՝ նեյրոնային ցանց ստեղծելու համար.
• Մենք ստեղծել ենք նեյրոնային ցանց՝ պատկերների ճանաչման համար և մարզել ենք այն;
• Մենք կրկնեցինք ցանցային ուսուցումը GPU-ի միջոցով և ստացանք արագության բարձրացում:

Ուրախ կլինեմ պատասխանել հարցերին մեկնաբանություններում։

Source: www.habr.com