Základy práce se zmq v pythonu, vytvoření jednoduchého key/value úložiště

Úvod

Pojďme si ukázat příklad jednoduchého úložiště key/value, například jako je memcache. Je to jednoduché — data se ukládají do paměti ve struktuře hashmap. Přístup k nim se realizuje přes tcp-socket. V Pythonu je hashmap běžný dict. Pro přístup budeme používat zeromq.

Nastavení

Pro instalaci tohoto balíčku na debian/ubuntu stačí zadat v konzoli
sudo apt-get install libzmq-dev
sudo pip install zmq

Kód

Napíšeme třídu pro práci s naším serverem:
Typ použitého zmq-socketu — REQ(REQuest, dotaz), posíláme dotaz — čekáme na odpověď.
Abychom mohli ukládat a přenášet jakýkoli typ dat po síti, použijeme standardní modul pickle. „Protokol“ práce — je trojice hodnot: (příkaz, klíč, data)

import zmq
import pickle

class SuperCacher:
    def __init__(self):
        context = zmq.Context()
        self.socket = context.socket(zmq.REQ)
        self.socket.connect('tcp://127.0.0.1:43000')

    def get(self, key):
        self.socket.send(pickle.dumps(('get', key, None)))
        return pickle.loads(self.socket.recv())

    def set(self, key, data):
        self.socket.send(pickle.dumps(('set', key, data)))
        return self.socket.recv() == b'ok'

Použití

cache = SuperCacher()
cache.set('key', 'value')
cache.get('key')

Jako domácí úkol — vylepšit implementaci přidáním možnosti zadat adresu/port při vytváření instance třídy.

Nyní napíšeme samotný server.
Tentokrát se používá socket REP(REPly, odpověď) — čekáme na dotaz, posíláme odpověď. Zpracováváme dotaz, odpovídáme buď 'ok' v případě zápisu, nebo daty/Něco v případě čtení.

import pickle
import json
import zmq

def run_daemon():
    memory = {}

    context = zmq.Context()
    socket = context.socket(zmq.REP)
    socket.bind('tcp://127.0.0.1:43000')

    while True:
        try:
            command, key, data = pickle.loads(socket.recv())
            if command == 'set':
                memory[key] = data
                socket.send(b'ok')
            elif command == 'get':
                result = memory.get(key, None)
                socket.send(pickle.dumps(result))
        except Exception as e:
            print(e)

if __name__ == '__main__':
    run_daemon()

Abychom to všechno otestovali, spustíme server příkazem
python daemon.py

Ve vedlejším okně spustíme python v interaktivním režimu.

>>> from lib import SuperCacher
>>> cache=SuperCacher()
>>> cache.set('key', 'value')
True
>>> cache.get('key')
'value'

Ó zázraku, to funguje! Nyní si můžeme s klidem napsat do životopisu "vývoj key-value úložiště s použitím protokolu zmq".

Zdroj: habr.com