Tesla는 TTPoE 네트워크 프로토콜 구현을 시작했습니다.

Tesla는 기계 학습 시스템을 지원하는 인프라 및 데이터 센터에서 트래픽 전송 지연을 줄이도록 설계된 TTPoE(Tesla Transport Protocol over Ethernet) 네트워크 프로토콜과 관련된 개발 내용을 발표했습니다. Tesla는 TTPoE를 표준화할 계획이며 이 목표를 달성하기 위해 UEC(Ultra Ethernet Consortium)에 가입했습니다. TTPoE 구현 코드는 C로 작성되었으며 GPLv2 라이센스에 따라 공개됩니다.

이 프로토콜은 낮은 대기 시간과 높은 데이터 속도가 필요한 애플리케이션에서 TCP를 대체하도록 설계되었습니다. TCP와 마찬가지로 TTPoE 프로토콜은 패킷 삭제 및 재전송을 허용하는 동시에 전송된 모든 데이터의 전달을 완전히 보장합니다. TTPoE는 100Gbps 이상의 대역폭을 가진 네트워크에서 사용하도록 설계되었으며 원래 DOJO 슈퍼컴퓨터에서 노드의 상호 작용을 보장하기 위해 하드웨어 수준에서 구현되었습니다.

Infiniband와 같은 기존 솔루션 대신 TTPoE를 도입한 것은 노드 간 매우 많은 양의 데이터 전송이 필요한 AI 모델 훈련 시 시각적 정보를 처리하도록 설계된 DOJO 클러스터에 새로운 노드 추가를 단순화하는 동시에 수십 마이크로초를 초과하지 않는 최소 지연. 프로토콜 요구 사항 중에는 하드웨어 수준에서 상대적으로 간단한 구현 가능성도 언급되었습니다. 결과적으로 일반 이더넷 위에서 실행되고 네트워크 스택의 TCP 계층을 TTP 프로토콜로 대체하는 TTPoE 프로토콜이 생성되었으며 훨씬 간단한 상태 시스템을 사용하여 구현되었습니다. 이더넷을 사용함으로써 기존 이더넷 스위치를 사용하여 클러스터의 운영을 구성하는 것이 가능해졌습니다.

TCP에 비해 TTP의 지연 시간을 줄이기 위해 연결 대기 상태(TIME_WAIT)가 제거되었으며 연결 종료 협상에 필요한 단계 수가 감소했습니다. TCP에서는 연결 종료는 FIN 패킷 전송, FIN 패킷 수신 확인 대기, 확인에 대한 승인 전송, 순서가 잘못된 경우 소켓을 일정 시간 동안 TIME_WAIT 상태로 두는 것으로 요약됩니다. 지연된 패킷 도착. TTP에서 연결을 종료하려면 종료 opcode를 보내고 종료 확인(CLOSE, CLOSE-ACK)을 받는 것으로 충분합니다.

비슷한 방식으로 TTP는 연결 열기를 최적화합니다. 새로운 연결에 대한 일반적인 TCP 3단계 협상(SYN, SYN-ACK, ACK) 대신 TTP는 두 단계(OPEN, OPEN-ACK)를 사용합니다. 또한 TTP에 도입된 단순화를 통해 소프트웨어는 명시적으로 연결을 열 필요가 없으며 데이터를 보내거나 받을 주소만 지정하면 됩니다.

혼잡 제어를 관리하기 위해 TTP는 TCP와 마찬가지로 패킷 삭제를 사용하지만 패킷 손실 수준에 따라 크기가 변경되는 슬라이딩 윈도우 기반의 복잡한 혼잡 제어 알고리즘을 사용하지 않습니다. TTP에서는 패킷 손실에 따라 창 크기가 변경되지 않습니다. 즉, 고정 버퍼가 가득 차면 패킷 전송이 중지되고, 승인이 도착하면 버퍼에서 항목이 제거되며, 패킷 손실은 버퍼에 저장된 데이터를 재전송하여 보충됩니다. . 이 접근 방식을 사용하면 지연 시간을 줄일 수 있지만, 패킷 손실이 큰 저속 및 품질이 낮은 네트워크에서 TTP를 효과적으로 사용하는 데 방해가 됩니다.

공개된 소프트웨어 구현에는 modttpoe.ko 커널 모듈이 포함되어 있습니다. Linux이 모듈은 하나의 이더넷 네트워크 세그먼트 내의 여러 노드 간에 직접 통신 채널을 구성할 수 있도록 하며, 또한 TTP 게이트웨이(TTP-GW, Tesla Transport Protocol Gateway)를 구현하는 modttpip.ko 모듈을 통해 애플리케이션을 변경하지 않고도 TTPoE를 통해 표준 IPv4 스택을 사용할 수 있습니다.

출처 : opennet.ru