Firefox를 zlib-rs로 마이그레이션하는 과정에서 개발자들은 Intel CPU에서 버그를 발견했습니다.

ntpd-rs, sudo-rs, zlib-rs, bzip2-rs 등의 프로젝트를 개발한 Trifecta Tech Foundation은 Firefox가 gzip 압축 및 압축 해제에 zlib-rs 라이브러리를 사용하도록 전환했다고 발표했습니다. zlib에서 zlib-rs로 전환함으로써 메모리 오류를 방지하는 것 외에도 성능이 크게 향상되었습니다. 테스트 결과, 단일 디코딩 작업에서는 3.3배에서 32.5배, 연속 스트림 디코딩에서는 2.7배에서 10.86배의 속도 향상을 보였습니다.

zlib-rs 라이브러리는 Firefox 151 버전에 포함되었지만, 통합 후 일부 사용자에게 코드 경계를 벗어난 실행으로 인한 충돌 문제가 발생했습니다. Rust 코드에서는 이 문제가 프로그램 충돌을 유발하는 반면, C 코드에서는 유사한 상황에서 프로그램이 중단되지 않고 데이터 손상만 발생하는 것으로 확인되었습니다. 이에 대한 해결책으로 151.0.1 버전부터는 기존의 zlib 라이브러리를 다시 사용하도록 변경되었습니다.

이 문제는 1년 전 초기 빌드 테스트 중에 처음 발견되었지만 개발자 시스템에서는 재현할 수 없었습니다. 결국 베타 사용자들을 대상으로 1년간의 테스트 끝에 Firefox 151에서 zlib-rs를 활성화하기로 결정했습니다. 이후 일련의 문제 보고와 패턴 조사 결과, 13세대 및 14세대 Raptor Lake 마이크로아키텍처 기반의 Intel CPU에서 잘못된 레지스터 사용과 관련된 마이크로코드 오류가 충돌의 원인임이 밝혀졌습니다.

이 문제는 LLVM 코드 생성기가 허프만 인코딩 결과를 메모리에 기록할 때 "mov byte ptr [rsi + rdi + 1], ch" 명령어를 사용했기 때문에 발생했습니다. Raptor Lake CPU에서 이 명령어를 실행하면 명령어에 지정된 CH 레지스터에 해당하는 RCX 레지스터의 8~15비트 대신 CL 레지스터에 해당하는 0~7비트가 메모리에 기록되었습니다. Firefox 152 버전을 위해 임시 해결책이 구현되었고, 해당 패치는 zlib-rs 메인 릴리스에 반영되었습니다. 문제가 되는 명령어는 LLVM 22에서 생성되는 것이 확인되었으며(LLVM 23 개발 브랜치에서는 생성되지 않음), 이 문제가 해결되었습니다.

출처 : opennet.ru