Frontend był już skompilowany do statycznego HTML-a. Nginx bezpośrednio serwował wygenerowane strony i pliki multimedialne, a mimo to jego procesy robocze zużywały zaskakująco dużo czasu procesora przy zwykłych żądaniach. Nie było tu renderowania Next.js przy każdym żądaniu, które można by zoptymalizować. Kosztowna operacja następowała wcześniej: nginx sprawdzał, czy dany URL należy do stale rosnącego zbioru historycznych przekierowań.
Ostateczna poprawka zachowała działanie starych linków. Pozostały przekierowania stron, aliasy numerowanych obrazów i aliasy filmów, ale tysiące porównań z wyrażeniami regularnymi zastąpiło kilka dopasowań strukturalnych i wyszukiwań w tablicach haszujących. Zmianę wdrożyłem i przetestowałem pod kątem zgodności z pierwotnym zachowaniem routingu. Kontrolowany, powtarzany benchmark wykazał ponad stukrotne zmniejszenie czasu CPU zużywanego przez procesy robocze nginx dla testowanego zestawu żądań, bez zmian w odpowiedziach HTTP.
Dlaczego statyczny eksport Next.js nadal mocno obciążał CPU
Eksport statyczny usuwa renderowanie stron ze ścieżki obsługi żądania, ale nie usuwa logiki routingu w nginx. Zanim nginx wyśle stronę HTML lub obraz, może znormalizować ścieżkę, sprawdzić mapy przekierowań, wybrać blok location, zweryfikować istnienie plików i zbudować odpowiedź. Nawet szybki system plików nie zrekompensuje kosztownego dopasowywania adresów URL powtarzanego przy każdym żądaniu.
W konfiguracji nagromadziły się dwa rodzaje historycznych reguł. Dokładne aliasy starych stron wskazywały nowe adresy kanoniczne. Aliasy paginacji również przekierowywały wycofane ścieżki, ale miały wspólną strukturę. Osobno obsługiwane były przemianowane ścieżki multimediów: ich wyrażenia regularne przechwytywały opcjonalne numery obrazów, a nazwy filmów miały własne reguły aliasów. Problemem nie było samo istnienie przekierowań, lecz zapisanie dużych grup podobnych strukturalnie przekierowań jako osobnych wyrażeń regularnych.
Najpierw wyklucz inne przyczyny podobnych objawów obciążenia CPU
Strona działała na zwirtualizowanym Linuksie, dlatego początkowo brałem pod uwagę czas CPU odbierany maszynie wirtualnej przez hipernadzorcę (steal). Zamiast traktować wysoką średnią obciążenia systemu jako diagnozę, porównałem wykorzystanie CPU, czas steal, zużycie procesora przez poszczególne procesy, presję na pamięć i oczekiwanie na operacje dyskowe. Użyłem przede wszystkim tych narzędzi:
mpstat -P ALL 1 5
pidstat -u -C nginx 1 5
vmstat -w 1 6
MASTER=$(systemctl show nginx -p MainPID --value)
WORKERS=$(pgrep -P "$MASTER" -d,)
perf record -F 49 -g -p "$WORKERS" -- sleep 10
perf report --stdio --no-children -g none
Najważniejsza obserwacja była taka, że procesy robocze nginx zużywały dużo czasu CPU w przestrzeni użytkownika, podczas gdy udział steal był stosunkowo mały. Pomiary nie wskazywały na długotrwałe oczekiwanie na dysk ani aktywne używanie swapu jako główną przyczynę. Analiza procesów pokazała mi, który program był obciążony; perf pomógł ustalić, co dokładnie robił.
W jednej z próbek około jednej trzeciej zarejestrowanej aktywności CPU przypadało na pcre_exec, a dodatkowy czas był spędzany w ngx_http_regex_exec i ngx_regex_exec. To funkcje, których można się spodziewać, gdy nginx wykonuje wyrażenia regularne za pomocą PCRE. Profil nie dowodził, która konkretna mapa przekierowań odpowiadała za obciążenie, ale znacznie mocniej wskazywał na wielokrotne sprawdzanie regexów niż na problem z renderowaniem statycznego HTML-a.
Ukryty koszt kolejno sprawdzanych regexów w mapach nginx
Dyrektywa map w nginx sama w sobie nie jest wolna. Wyszukiwanie po dosłownych kluczach tekstowych jest wydajne, natomiast wpisy z wyrażeniami regularnymi są sprawdzane w kolejności z konfiguracji, po kategoriach dopasowań o wyższym priorytecie. Zmienne map są obliczane przy odwołaniu do nich, więc duża mapa regexów zaczyna mieć znaczenie, gdy jej wynik jest wykorzystywany przy często obsługiwanych żądaniach. Istniejący obraz pod adresem kanonicznym, który nie pasuje do żadnego historycznego aliasu, może wymagać wielu nieudanych porównań, zanim nginx wyśle jego bajty.
To rozróżnienie wyjaśnia również, dlaczego samo liczenie bloków location ~ prowadziłoby na manowce. Wybieranie lokalizacji za pomocą regexów i wykonywanie regexów wewnątrz map to dwa różne mechanizmy. Profilowanie wskazuje kosztowny rodzaj operacji; analiza ścieżki obsługi żądania i miejsc użycia zmiennych pozwala ustalić, gdzie ta praca jest uruchamiana.
Dalsze izolowanie problemu wykazało, że listy reguł dla multimediów nie były jedynym źródłem kosztów. Osobny zestaw przekierowań stron z paginacją również powodował znaczną liczbę operacji regexowych przy obliczaniu jego mapy. Optymalizacja samych obrazów pozostawiłaby ten niezależny koszt bez zmian.
Przekierowania stron: jeden wzorzec paginacji, ale tysiące konkretnych adresów docelowych
Reguły stron były powtarzalne: ścieżki różniły się dawnym identyfikatorem, a ich końcówki odpowiadały wzorcowi paginacji, na przykład /topics/old-a/page/99. Kuszącym rozwiązaniem byłoby przechwycenie 99 i dopisanie tej liczby do nowego sluga. To jednak byłby błąd. Niektóre historyczne reguły paginacji celowo kierowały każdy żądany numer strony na jeden stały adres docelowy, na przykład /topics/current-a/page/7, niezależnie od tego, czy w źródłowym URL-u występowała strona 3, czy 99.
Było jeszcze jedno ważne ograniczenie: w nginx dokładne klucze map mają pierwszeństwo przed wyrażeniami regularnymi. Niektóre dokładne wpisy nadpisywały wynik ogólnej reguły paginacji. Inne jawnie wskazywały pusty ciąg, aby nie przekierowywać już kanonicznej ścieżki. Sprawdzanie wyłącznie, czy zwrócony adres docelowy nie jest pusty, zatarłoby różnicę między sytuacją, gdy nie ma dokładnego dopasowania, a sytuacją, gdy dokładne dopasowanie istnieje, ale ma pustą wartość.
Nowe rozwiązanie oddzielało rozpoznanie ścieżki od wyboru adresu docelowego. Poniżej znajduje się skrócony, syntetyczny przykład map nginx zdefiniowanych w kontekście http:
# http context: synthetic page aliases
map $uri $normalized_path {
default $uri;
~^(.+)/$ $1;
}
map $normalized_path $exact_target {
default "__NO_EXACT__";
/topics/old-a /topics/current-a;
/topics/old-a/page/2 /topics/current-a/page/2;
/topics/old-b/page/2 "";
}
map $normalized_path $pagination_key {
default "";
~^/(?<old_root>topics/[a-z0-9-]+)/page/[1-9][0-9]*$ /$old_root;
}
map $pagination_key $pagination_target {
default "";
/topics/old-a /topics/current-a/page/7;
/topics/old-b /topics/current-b/page/6;
}
map $exact_target $redirect_target {
default $exact_target;
__NO_EXACT__ $pagination_target;
}
Pierwsza mapa zachowuje normalizację końcowego ukośnika. Druga przechowuje dokładne przekierowania i jawne nadpisania pustą wartością; specjalny znacznik oznacza w niej brak dokładnego wpisu. Trzecia za pomocą jednego regexu wyodrębnia ścieżkę bazową paginacji. Czwarta znajduje dla niej, poprzez wyszukiwanie po dokładnym kluczu, pierwotny stały adres docelowy. Na koniec selektor uwzględnia każde dokładne dopasowanie, również nadpisanie pustą wartością, zanim rozpatrzy wynik reguły paginacji.
Serwer wykonujący przekierowania może następnie użyć otrzymanej wartości $redirect_target tylko wtedy, gdy nie jest pusta, zachowując pierwotny kod statusu HTTP i dołączając $is_args$args, jeżeli dotychczasowa polityka zachowuje parametry zapytania. Specjalny znacznik musi być zarezerwowany i walidowany, aby nigdy nie kolidował z rzeczywistym adresem docelowym. Przykład używa neutralnych ścieżek; generator produkcyjny musiał zachować pełny własny zbiór mapowań i dotychczasową kolejność pierwszeństwa reguł.
W takim rozwiązaniu łatwo przeoczyć sposób obsługi wielkości liter. Nginx porównuje dosłowne klucze tekstowe map bez rozróżniania wielkości liter, natomiast regexy zapisane z ~ ją rozróżniają. Nie można więc po prostu zamienić wszystkich adresów URL na małe litery ani zmienić reguły ~ na ~* i uznać wyniku za równoważny. Trzeba odtworzyć oryginalną semantykę dopasowywania.
Przekierowania obrazów i filmów: jednokrotne parsowanie, potem wyszukiwanie starego klucza
Reguły multimediów miały podobnie przydatną strukturę. W dawnej ścieżce obrazu identyfikator galerii występował zarówno w katalogu, jak i w nazwie pliku, z opcjonalnym sufiksem liczbowym: /old-gallery/old-gallery-17.avif. Adres docelowy zachowywał ten sufiks, ale zastępował katalog i prefiks nazwy pliku. Tworzenie osobnego regexu dla każdej starej galerii i każdego wariantu sufiksu marnowało czas procesora na porównania oparte na tej samej gramatyce.
Wydajniejsza mapa wyodrębnia identyfikator i opcjonalny sufiks jednym regexem, a następnie wyszukuje nowy prefiks po dosłownym kluczu:
# http context: synthetic AVIF rename inventory
map $uri $legacy_image_key {
default "";
~^/(?<old_id>[a-z0-9-]+)/\k<old_id>(?<image_number>-[0-9]+)?\.avif$ $old_id;
}
map $legacy_image_key $new_image_prefix {
default "";
old-gallery /new-gallery/new-gallery;
old-set /new-set/new-set;
}
# A recognized alias now has a target candidate:
# $new_image_prefix$image_number.avif
# Existing-file checks and the actual 301 remain
# in the site's media-serving configuration.
Dla rozpoznanego aliasu /old-gallery/old-gallery-17.avif powstaje kandydat na adres docelowy /new-gallery/new-gallery-17.avif. To mechanizm wyszukiwania, a nie kompletna polityka serwowania plików. W rzeczywistym wdrożeniu pierwszeństwo istniejących plików, sprawdzanie istnienia pliku docelowego i decyzja o zwróceniu 301 pozostały elementami konfiguracji obsługi multimediów. Bezwarunkowe przekierowanie 301 w uproszczonym przykładzie byłoby błędnym zamiennikiem, gdyby plik docelowy nie istniał.
Przekierowania filmów wykorzystywały analogiczną tabelę dokładnych kluczy za jednym regexem rozpoznającym strukturę nazwy pliku. Trzeba też było zachować istniejącą ścieżkę zgodności z WebP, która normalizowała wyszukiwanie historycznych aliasów do mapowania obrazów. Optymalizacja obsługi multimediów jest skuteczna tylko wtedy, gdy bieżące pliki nadal zwracają właściwe bajty i nagłówki, a po przejściu przez stary alias filmu żądania zakresowe nadal mogą otrzymać odpowiedź 206 Partial Content.
Przykłady te działają wyłącznie dlatego, że historyczne zestawy reguł były zgodne z przewidywalną gramatyką nazw plików. Gdyby dowolne pojedyncze pliki zmieniano niezależnie od siebie, bezpieczne rozwiązanie wymagałoby dokładnych kluczy dla każdego pliku, wygenerowanego indeksu albo innej metody wyszukiwania o ograniczonym koszcie — zamiast udawać, że jeden regex odtworzy adresy docelowe, które nie mają wspólnego wzorca.
Co stało się z osobną mapą odpowiedzi 410
Inna część konfiguracji jawnie wyliczała wzorce wycofanych stron wyłącznie po to, aby zwracać 410 Gone. Tę specjalną mapę usunąłem po sprawdzeniu, że istniejąca polityka routingu plików statycznych i tak zwraca 410 dla stron, których rzeczywiście brakuje. Historyczne metadane o wycofanych adresach pozostały dostępne do walidacji; usunięte zostało tylko zbędne dopasowywanie reguł przy obsłudze żądań.
Była to decyzja dotycząca konkretnej konfiguracji, a nie domyślnego zachowania nginx. Sama dyrektywa try_files często kończy się odpowiedzią 404, jeżeli nie skonfigurowano jej inaczej. Usunięcie jawnej reguły 410 jest bezpieczne tylko wtedy, gdy rzeczywista ścieżka obsługi brakujących zasobów na serwerze nadal zwraca wymagane 410 — również dla wycofanych adresów paginacji i przy ewentualnym wewnętrznym przetwarzaniu stron błędów. Ten warunek sprawdziłem za pomocą rzeczywistych żądań HTTP przed zaakceptowaniem zmiany.
Jak wykazać, że szybsza mapa przekierowań zachowuje się dokładnie tak samo
Konfiguracja nginx poprawna składniowo nadal może po cichu zepsuć tysiące historycznych linków. Dlatego podczas wymiany reguł oryginalne zestawy przekierowań posłużyły jako niezależne dane do weryfikacji poprawności, a nie jako zbiór adresów docelowych odtworzonych z wyniku optymalizacji. Wygenerowane tablice wyszukiwania sprawdzano pod kątem zduplikowanych kluczy, nieobsługiwanych wyrażeń, niespójnych prefiksów obrazów oraz nieaktualnych wygenerowanych plików. Reguła, której nie dało się bezpiecznie odwzorować, musiała powodować błąd generowania, a nie po prostu znikać.
Macierz testowa obejmowała dokładne aliasy stron, kanoniczne nadpisania pustą wartością, nakładające się reguły paginacji, stałe ograniczenia paginacji, poprawne i niepoprawne numery stron, końcowe ukośniki, warianty wielkości liter oraz parametry zapytania. W przypadku multimediów sprawdzano obrazy podstawowe i numerowane, sufiksy z zerami wiodącymi, identyfikatory kończące się cyframi, zagnieżdżone ścieżki docelowe, zgodność z WebP oraz pierwotne aliasy filmów. Tam, gdzie znaczenie miała obsługa plików, testy korzystały z rzeczywistych, możliwych do odczytania plików testowych i porównywały treść odpowiedzi, przekierowania, nagłówki związane z cache'owaniem oraz zakresy bajtów filmów.
Co najważniejsze, były to rzeczywiste testy HTTP z udziałem nginx, a nie tylko porównania łańcuchów znaków w JavaScript. Nową konfigurację sprawdzono na całej wygenerowanej macierzy żądań, a osobny zestaw żądań zweryfikowano względem oryginalnej konfiguracji opartej na PCRE. Zgłoszony wynik to zero niezamierzonych różnic w odpowiedziach. Późniejsze testy kontrolne na produkcji potwierdziły, że zoptymalizowane pliki dołączane do konfiguracji były aktywne, a dawne długie tabele regexów — nie.
Kontrolowany benchmark pozwolił oddzielić efekt optymalizacji od zmian ruchu
Po wdrożeniu wykresy zużycia CPU na produkcji znacznie się poprawiły, ale zmieniły się również liczba żądań i ich struktura. Porównanie jednego pomiaru z okresu dużego obciążenia z późniejszym pomiarem przy niewielkim ruchu zawyżyłoby poprawę, którą można przypisać zmianie konfiguracji.
Aby wyizolować koszt wyszukiwania, w niezależnym benchmarku użyłem tego samego pliku wykonywalnego nginx i wielokrotnie wykonywałem identyczną mieszaną sekwencję żądań na konfiguracji pierwotnej i zoptymalizowanej. Sekwencja zawierała strony kanoniczne, historyczne aliasy stron, aliasy paginacji, brakujące strony, kanoniczne obrazy, historyczne aliasy obrazów i filmów oraz brakujące multimedia. Próby przeplatano w kolejności: stara, nowa, nowa, stara; statusy odpowiedzi i wartości nagłówka Location były zgodne.
W tym kontrolowanym obciążeniu zoptymalizowane mapy zużyły mniej niż jedną setną czasu CPU procesów roboczych nginx potrzebnego pierwotnym mapom z dużą liczbą regexów; wynik powtórzył się w kolejnych próbach. To mocny pomiar wpływu zmiany sposobu obsługi przekierowań dla takiej mieszanki żądań. Nie oznacza to, że każde żądanie produkcyjne stało się 100 razy szybsze albo że całkowite zużycie CPU serwera spadnie w tej samej proporcji przy dowolnym ruchu.
Późniejsze kontrole systemu wykazały niewielkie zużycie CPU przez nginx, małe obciążenie dysku i duży zapas bezczynnego czasu procesora. Dawny punkt największego obciążenia w PCRE nie dominował już w dostępnych próbkach po zmianie; przy tak niskim wykorzystaniu CPU próbki były jednak nieliczne, więc nie należy nadmiernie interpretować procentowych udziałów poszczególnych funkcji. Mocniejszymi dowodami skuteczności poprawki są kontrolowane porównanie, testy zgodności i udane wdrożenie.
Bezpieczniejszy sposób migracji dużych zestawów przekierowań w nginx
W przypadku innej strony z wieloma starymi adresami URL przeprowadziłbym migrację możliwie mechanicznie: zachował oryginalny zbiór reguł, zidentyfikował niewielką liczbę wspólnych wzorców struktury ścieżek, każdy z nich ujął w ograniczonym regexie, a adresy docelowe zapisał w mapach z dosłownymi kluczami. Dokładne wyjątki dla adresów kanonicznych, kody statusu HTTP, sprawdzanie istniejących plików, parametry zapytania, kanonizację nazwy hosta i rozróżnianie wielkości liter należy traktować jako zachowanie widoczne dla użytkowników, a nie nieistotne szczegóły implementacji.
Następnie warto zweryfikować całą wygenerowaną konfigurację poleceniem nginx -t, porównać stare i nowe zachowanie na rzeczywistym serwerze nginx, wykonać benchmarki na identycznych żądaniach i wdrożyć zmianę z kopią zapasową umożliwiającą przywrócenie konfiguracji oraz kontrolą po przeładowaniu. Jeśli danego przekierowania nie da się przedstawić za pomocą schematu strukturalnego, należy zachować wąsko zdefiniowany wyjątek albo użyć dokładnego wpisu dla konkretnego URL-a zamiast po cichu porzucać regułę.
Kluczową zmianą w diagnozie było zrozumienie, że statyczne serwowanie plików i tani routing to dwie odrębne cechy. Next.js wykonał już pracę związaną z renderowaniem, a nginx potrafił wydajnie wysyłać pliki. Brakującą optymalizacją było wyszukiwanie wykonywane przed ich wysłaniem. Zachowanie starych linków nie stało na przeszkodzie temu, by to wyszukiwanie przyspieszyć.
Dokładne zasady pierwszeństwa dopasowań i obliczania wartości opisuje oficjalna dokumentacja nginx: moduł map oraz wybór bloków location w module HTTP core.