데이터 센터에 FPGA 침투가 불가피함

Java로 코드를 작성하기 위해 C++ 프로그래머가 필요하지 않은 것처럼 FPGA용으로 프로그래밍하기 위해 칩 디자이너가 될 필요는 없습니다. 그러나 두 경우 모두 유용할 것입니다.

Java와 FPGA 기술을 모두 상용화하려는 목표는 후자의 주장을 반박하는 것입니다. FPGA에 대한 희소식 - 프로그래밍 가능한 논리 장치가 발명된 이후 지난 35년 동안 올바른 추상화 레이어와 도구 세트를 사용하여 CPU, DSP, GPU 또는 기타 형태의 맞춤형 ASIC 대신 FPGA에 대한 알고리즘 및 데이터 흐름을 생성하는 것이 가능해졌습니다. 점점 일반화되고 쉬워지고 있습니다.

CPU가 더 이상 많은 작업을 수행하는 데이터 센터의 유일한 컴퓨팅 모듈로 남을 수 없게 되었을 때(다양한 이유로) FPGA가 효율성을 달성하고 속도, 짧은 대기 시간, 네트워킹 기능을 제공했다는 사실에서 이러한 생성의 놀라운 시의성이 분명합니다. 메모리 - 거의 본격적인 컴퓨팅 시스템인 최신 FPGA SoC의 이기종 컴퓨팅 기능입니다. 그러나 FPGA는 하이브리드 시스템의 다른 장치와도 성공적으로 결합되었으며, 우리 의견으로는 FPGA가 컴퓨팅 계층 구조에서 올바른 위치를 찾기 시작하는 단계입니다.

이것이 바로 우리가 22월 XNUMX일 산호세에서 The Next FPGA Platform 컨퍼런스를 개최한 이유입니다. 당연히 전 세계 주요 FPGA 공급업체 중 하나이자 이 분야의 선구자는 Xilinx입니다. Xilinx의 수석 부사장 겸 CTO인 Ivo Bolsens는 컨퍼런스에서 연설을 하며 오늘 Xilinx가 데이터 센터를 위한 변경 가능한 컴퓨팅 시스템을 만드는 데 어떻게 도움을 주고 있는지에 대한 자신의 생각을 밝혔습니다.

시스템 설계자와 프로그래머가 컴퓨팅, 스토리지 및 네트워킹 문제를 해결하는 다양한 유형의 컴퓨터 성능을 갖춘 이기종 데이터 센터를 마련하는 데 많은 시간이 걸렸습니다. 다양한 CMOS 장치를 사용하여 무어의 법칙을 따르는 것이 점점 더 어려워지고 있기 때문에 이는 필요한 것 같습니다. 현재 우리 언어는 여전히 CPU 중심적이며 "애플리케이션 가속", 즉 CPU 단독으로 수행할 수 있는 것보다 더 나은 프로그램 실행을 의미하는 것에 대해 계속 이야기합니다. 시간이 지남에 따라 데이터 센터는 모든 것을 하나로 묶는 컴퓨팅 성능, 데이터 스토리지 및 프로토콜의 집합체가 될 것이며 우리는 "컴퓨팅" 및 "애플리케이션"과 같은 용어로 다시 돌아올 것입니다. 하이브리드 컴퓨팅은 데스크탑이나 가상 머신에서 실행되는 오늘날의 클라우드 서비스만큼 일반화될 것이며 어느 시점에서는 단순히 "컴퓨팅"이라는 단어를 사용하여 작동 방식을 설명하게 될 것입니다. 언젠가는 FPGA가 이 시대를 여는 데 도움이 될 가능성이 크며 이를 다시 데이터 처리라고 부르게 될 것입니다.

데이터 센터에 FPGA를 채택하려면 사고방식의 변화가 필요합니다. "오늘날의 애플리케이션 속도를 높이는 방법을 생각할 때 실행 방법, 사용되는 리소스, 시간이 소비되는 위치에 대한 기본 사항을 알아야 합니다."라고 Bolsens는 설명합니다. – 해결하려는 일반적인 문제를 연구해야 합니다. 오늘날 데이터 센터에서 실행되는 많은 애플리케이션은 많은 양의 리소스를 소비하도록 확장됩니다. 예를 들어, 엄청난 수의 컴퓨팅 노드를 사용하는 기계 학습을 생각해 보십시오. 하지만 가속에 관해 이야기할 때는 컴퓨팅 속도 향상뿐만 아니라 인프라 속도 향상도 고려해야 합니다.”

예를 들어 Bolsens가 실제로 연구한 일종의 기계 학습 작업에서는 분산된 컴퓨팅 성능 간에 데이터를 주고받는 데 시간의 약 50%가 소요되고 나머지 절반만 계산 자체에 소요됩니다.

“애플리케이션의 계산 및 통신 측면이 모두 최적화되도록 보장할 수 있기 때문에 FPGA가 도움이 될 수 있다고 생각합니다. 그리고 우리는 이를 전반적인 인프라 수준과 칩 수준에서 수행할 수 있습니다. 이는 특정 애플리케이션 요구 사항에 맞는 통신 네트워크를 생성할 수 있다는 점에서 FPGA의 가장 큰 장점 중 하나입니다. AI 워크로드의 일반적인 데이터 이동 패턴을 보면 복잡한 스위치 기반 아키텍처가 필요하지 않습니다. 대규모 데이터 흐름으로 네트워크를 구축할 수 있습니다. 신경망 훈련 작업에도 동일하게 적용됩니다. 특정 작업에 맞게 조정되는 패킷 크기로 메시 네트워크를 구축할 수 있습니다. FPGA를 사용하면 데이터 전송 프로토콜과 회로 토폴로지를 특정 애플리케이션에 맞게 매우 정확하게 확장하고 조정할 수 있습니다. 그리고 기계 학습의 경우 배정밀도 부동 소수점 숫자가 필요하지 않다는 것도 분명하며 조정도 가능합니다.”

FPGA와 CPU 또는 맞춤형 ASIC의 차이점은 후자는 공장에서 프로그래밍되며 그 후에는 계산되는 데이터 유형이나 계산되는 요소 또는 데이터의 성격에 대해 더 이상 마음을 바꿀 수 없다는 것입니다. 장치를 통해 흐릅니다. FPGA를 사용하면 작동 조건이 변경되면 마음을 바꿀 수 있습니다.

과거에는 FPGA 프로그래밍이 소심한 사람들을 위한 것이 아니었기 때문에 이러한 이점을 얻기 위해서는 대가가 필요했습니다. 프로그래머가 C, C++ 또는 Python으로 CPU 병렬 애플리케이션을 작성하는 데 사용하는 도구와 더 잘 통합하고 일부 작업을 FPGA에서 절차 속도를 높이는 라이브러리에 아웃소싱하기 위해 FPGA 컴파일러를 개방해야 합니다. 이것이 바로 Vitis 머신 러닝 스택이 수행하는 작업으로, 기존 AI 모델을 실행하거나 비디오 트랜스코딩, 비디오 개체 인식, 데이터 분석과 같은 작업에 FPGA 기능을 추가하기 위한 라이브러리를 통해 Caffe 및 TensorFlow와 같은 ML 플랫폼을 지원합니다. -파티 도서관.

이 개념은 병렬 컴퓨팅을 GPU 가속기로 오프로드하는 XNUMX년 전에 시작된 Nvidia의 CUDA 프로젝트나 AMD의 ROCm 툴킷, 또는 다른 CPU, GPU 및 FPGA에서 실행되어야 하는 Intel의 OneAPI 프로젝트의 약속과 크게 다르지 않습니다.

유일한 질문은 모든 사람이 자신의 재량에 따라 일련의 컴퓨팅 능력을 프로그래밍할 수 있도록 이러한 모든 도구가 어떻게 함께 연결되는지입니다. FPGA는 사용 가능한 CPU보다 훨씬 더 복잡해졌기 때문에 이는 중요합니다. 이는 가장 진보된 제조 공정과 가장 현대적인 칩 패키징 기술을 사용하여 제조됩니다. 그리고 우리는 더 이상 시간, 돈, 에너지 및 지능을 낭비할 수 없기 때문에 그들은 틈새 시장을 찾을 것입니다. 이 모든 것은 너무 비싼 자원입니다.

“FPGA는 기술적 이점을 제공합니다.”라고 Bolsens는 말합니다. – 그리고 이것은 적응성과 재구성 가능성에 대한 일반적인 광고가 아닙니다. 기계 학습, 그래프 분석, 고속 거래 등 모든 중요한 응용 프로그램에서 사용됩니다. - 데이터 배포 경로뿐만 아니라 메모리 아키텍처, 즉 칩 내에서 데이터가 이동하는 방식까지 특정 작업에 적응할 수 있는 능력이 있습니다. FPGA에는 다른 장치보다 훨씬 더 많은 메모리가 내장되어 있습니다. 또한 작업이 하나의 FPGA에 맞지 않는 경우 여러 CPU 또는 GPU에 걸쳐 작업을 확장할 때 기다리는 단점에 직면하지 않고 여러 칩에 걸쳐 확장할 수 있다는 점도 고려해야 합니다."

출처 : habr.com