Opublikowano pierwsze wydanie biblioteki scan (0.1.0), która przetwarza tekst na wartości według wzoru znanego na etapie kompilacji. Wzór lub format jest zapisywany jako argument szablonu C++ i podczas kompilacji przekształcany w oznaczony deterministyczny automat skończony (tagged deterministic finite automaton, TDFA), którego przejścia są rozwijane według stanów w kodzie na etapie kompilacji z użyciem szablonów C++. Wynikiem wykonania jest wartość żądanego typu. Kod projektu napisano w C++23 i jest udostępniany na licencji GPLv3. import scan; // Czy cały ciąg pasuje. Każdy punkt wejścia to również adapter zakresu. scan::match(address); address | scan::match; // Z grupami. const auto found = scan::match("42-abc"); found.get().to_view(); // "42" // Początek ciągu zarezerwowany przez wzór oraz pierwsze dopasowanie gdziekolwiek. scan::starts_with("abc123").whole().to_view(); // "abc" scan::search("id=4210x").to_view(); // "4210" // Wszystkie dopasowania i kawałki między nimi — leniwe reprezentacje. for (const auto& one : text | scan::search_all) { … } const auto fields = "a,bb,,ccc" | scan::split | std::ranges::to(); // Wartości, a nie tekst. struct row { int id; std::string_view name; }; const row one = scan::scan"(line); // Lista, suma typów, forma zagnieżdżona. struct all { std::vector values; std::variant tail; }; const all got = scan::scan("1,2,3 abc"); // Początek wejścia i co od niego pozostało. const auto [value, rest] = scan::scan_prefix(line).take(); // Po zapisach na raz, z czegokolwiek. for (const row& one : scan::each(text).of()) { … }
Zakres, który można odczytać tylko raz, jest odczytywany bez buforowania, pola są zbierane w miarę pojawiania się znaków. Ile znaków trzeba będzie zatrzymać, wzór określa podczas kompilacji; tam, gdzie tej liczby nie ma, odczyt jest odrzucany podczas kompilacji. std::istringstream source("set speed 42\\nset gain 7\\n"); source > std::noskipws; struct command { scan::held name; int value; }; for (const command& one : scan::each(std::views::istream(source)) .of()) { … } Wydajność.
Pomiary przeprowadzono na Ryzen 9 9950X, clang 22.1.8 z libc++, -O3 -march=native, LTO. Trzydzieści dwa zapisy na przebieg, mediana siedmiu przebiegów. «([a-z]+),([a-z]+),([a-z]+),([a-z]+),([a-z]+)» «alpha,bravo,charlie,delta,echo» scan::scan<f>.sentinel() 477 ns re2c 554 ns scan::scan<f> 659 ns CTRE 717 ns RE2 15986 ns te same pięć pól, po dwieście liter każde scan::scan<f>.sentinel() 57.8 ns re2c 637 ns CTRE 692 ns RE2 11751 ns «first.last@subdomain.example.com» rozpoznawanie, nic nie jest wydobywane scan::match<p>.sentinel().scalar() 436 ns scan::match<p>.scalar() 545 ns re2c 1186 ns RE2 2616 ns CTRE 14339 ns Skrócenie grup podczas analizy
Typ jest informowany, do której grupy należy dany znak, a obliczenia są wykonywane na miejscu: żadna iteracja pętli nie jest zachowywana, żadna podciąg nie jest tworzona. struct tally { unsigned long value = 0; }; struct reading { tally number; std::string_view tail; }; template struct scan::scanner { static constexpr std::string_view pattern() { return R»(\\(((_+)(X|Y)*)*\\))»; } struct state_type { unsigned long total = 0; unsigned place = 0, marks = 0; }; static constexpr state_type begin_groups() { return {}; } static constexpr void opened_group(state_type& one, scan::group_at) { one.place = 0; one.marks = 0; } static constexpr void closed_group(state_type& one, scan::group_at) { unsigned long weight = 1; for (unsigned step = 1; step < one.place; ++step) weight *= 10; one.total += weight * one.marks; } static constexpr void push_group(state_type& one, scan::group_at, char) { ++one.place; } static constexpr void push_group(state_type& one, scan::group_at, char letter) { one.marks += letter == ‘Y’ ? 2u : 1u; } static constexpr tally finish_groups(state_type one) { return {one.total}; } }; const reading got = scan::scan(«value=(__X_XX)abcdefgh»).of(); // got.number.value == 12, got.tail == «abcdefgh»
Każdy obiekt wywołujący — alokator, pula, arena, cokolwiek innego — można przekazać do wywołania, które tworzy wartość. Typ kontekstu nie zostaje utracony: stan skanera i każde jego hooki mogą być wzorcami na podstawie tego, więc w skanerze nie jest wspomniany żaden typ wywołujący. struct arena { std::pmr::memory_resource* where = nullptr; std::pmr::memory_resource* resource() const { return where; } }; struct numbers { std::pmr::vector values; }; struct both { numbers left; numbers right; }; template struct scan::scanner { static constexpr std::string_view pattern() { return "([0-9]+)(?:,([0-9]+))*"; } template struct state { std::pmr::vector values; int running = 0; }; static state begin_groups() { return {}; } template requires requires(const Told& one) { one.resource(); } static state begin_groups(const Told& told) { return {std::pmr::vector(told.resource()), 0}; } template static void push_group(state& one, scan::group_at, char digit) { one.running = one.running * 10 + (digit - '0'); } template static void closed_group(state& one, scan::group_at) { one.values.push_back(one.running); one.running = 0; } template static numbers finish_groups(state one) { return {std::move(one.values)}; } }; std::pmr::monotonic_buffer_resource bytes; const arena mine{&bytes}; scan::scan(text).of(mine); // jeden na oba miejsca scan::scan(text).of(mine, scan::default_context); // po jednym na miejsce scan::scan(text).of({mine, scan::default_context}); // to samo w nawiasach const both got = scan::scan(text).with(mine); // Kontekst nie musi być własnym typem: alokator dochodzi do tego, // że konstruuje odczyt. struct two { std::pmr::string name; std::pmr::string tail; }; const two kept = scan::scan(text).of<( std::pmr::polymorphic_allocator(&bytes));
Hook otrzymuje sam obiekt wywołujący, a nie jego kopię, więc stan może przechowywać jego adres: kontekst żyje tak długo, jak wywołanie, a cały odczyt odbywa się wewnątrz tego wywołania. Inne cechy
- Dwie warstwy: warstwa wzorców (match, starts_with, search, search_all, split) i warstwa formatów, gdzie "{}" to pole, a wartość miejsca określają pola samego typu.
- Reguła rozstrzygania niejednoznaczności — leftmost-first, jak w Perl, RE2 i CTRE.
- Wszystko wymienione działa także w wyrażeniach stałych.
- Brak lookaround, odwołań wstecznych i cech Unicode; wzorce działają na bajtach.
- Nie są obsługiwane wzorce znane tylko podczas wykonywania.
Kompilacja
Kompiluje się w clang i GCC. Moduły C++ nie są obowiązkowe: dostępne są pliki nagłówkowe (include/), które generuje z tych samych modułów narzędzie demodulizer — każde wprowadzenie do gałęzi main ponownie kompiluje, łączy i zatwierdza je z powrotem. Jedyna zależność, Boost.PFR, nie jest potrzebna przy włączonych pakietach bindujący z C++26. FetchContent_Declare(scan GIT_REPOSITORY https://github.com/j4niwzis/scan.git GIT_TAG v0.1.0) FetchContent_MakeAvailable(scan) target_link_libraries(mine PRIVATE scan::scan)
Źródło: opennet.ru
