O que as novas soluções de armazenamento oferecerão para sistemas de IA e ML

A MAX Data unirá-se ao Optane DC para um desempenho eficaz com sistemas de IA e ML.

O que as novas soluções de armazenamento oferecerão para sistemas de IA e ML
Foto — Hitesh Choudhary — Unsplash

De acordo com dados estudos da MIT Sloan Management Review e do The Boston Consulting Group, 85% dos três mil gestores entrevistados acreditam que sistemas de IA ajudarão suas empresas a obter uma vantagem competitiva no mercado. No entanto, apenas 39% das empresas tentaram implementar algo parecido na prática.

Uma das razões para essa situação é que a manipulação eficaz de dados e a otimização do uso de recursos para tarefas de aprendizado de máquina não são tarefas simples. Na IDC observam, a nova tecnologia baseada em memória persistente (Persistent Memory, PMEM) poderia resolver essa situação.

Essa tecnologia foi proposta pela NetApp e Intel, unindo o NetApp Memory Accelerated (MAX) Data e a Intel Optane DC Persistent Memory, para criar um produto de armazenamento local de dados baseado em memória não volátil.

Como funciona

O MAX Data é uma tecnologia de servidor que permite aumentar o desempenho de aplicativos através do uso de PMEM ou DRAM, mas não requer a reestruturação da arquitetura de software.

Ela implementa princípios de armazenamento automático em múltiplos níveis, distribuindo dados por níveis e armazenamentos conforme a frequência de uso - para dados 'frios' é utilizado um armazenamento mais acessível, enquanto os dados frequentemente usados estão 'à mão' - na memória persistente, que minimiza a latência ao trabalhar com esses dados.

A versão 1.1 utiliza memória DRAM e NVDIMM. Ambas as implementações têm suas desvantagens - perda relativa de eficiência e alto custo da memória, respectivamente - em comparação com o Optane DCPMM. Um gráfico que fornece uma avaliação comparativa da latência está apresentado aqui (página 4).

Tecnologia suporta e POSIX e a manipulação da semântica de sistemas de arquivos ou blocos. A proteção e recuperação de dados no nível de armazenamento é implementada com o MAX Snap e o MAX Recovery. Essas tecnologias utilizam snapshots, a ferramenta SnapMirror e outros mecanismos de proteção do ONTAP.

Graficamente, a implementação aparece da seguinte forma:

O que as novas soluções de armazenamento oferecerão para sistemas de IA e ML

Neste esquema, ainda não há PMEM, mas os desenvolvedores prometem adicionar suporte para esse tipo de memória até o final do ano. Por enquanto, o Max Data funciona com DRAM e DIMM.

Potencial da solução

Na IDC afirmam, que nos próximos anos desenvolvimentos como o MAX Data se tornarão mais comuns, uma vez que os volumes de dados corporativos continuam a crescer, e as empresas não têm capacidade suficiente para processá-los de forma eficaz. A tecnologia pode ser útil em ambientes de nuvem escaláveis e para trabalhar com tarefas que exigem muitos recursos, como o treinamento de redes neurais. Será aplicada em plataformas de trading, sistemas de segurança da informação e em qualquer outro produto de software onde seja necessário acesso constante e rápido a grandes volumes de informação.

Há também a possibilidade de que a tecnologia não se estabeleça imediatamente no mercado. Como mencionamos anteriormente, apenas um terço das empresas em todo o mundo trabalha de alguma forma com sistemas de IA. Sob essa perspectiva, o surgimento do MAX Data pode ser considerado prematuro e muitos podem se concentrar em uma infraestrutura mais acessível que resolva as tarefas atuais.

Nossos outros materiais sobre infraestrutura de TI:

Fonte: habr.com

Compre hospedagem confiável para sites com proteção contra DDoS, servidores VPS VDS 🔥 Compre hospedagem confiável para sites com proteção contra DDoS, servidores VPS VDS | ProHoster