Redis lielās atslēgas (big keys) ir atsevišķas atslēgas, kurās ir daudz vairāk datu nekā pārējās: hash ar miljoniem lauku, saraksts, ko izmanto kā neierobežotu rindu, sakārtotās kopas līderu tabula, ko neviens nekad neapgriež, vairāku megabaitu JSON virkne. Redis izpilda komandas vienā galvenajā pavedienā, tāpēc viena darbība, kas skar visu atslēgu, ieskaitot tās dzēšanu, aiztur visus citus klientus, līdz tā beidzas.
Kāpēc viena atslēga var kaitēt visam
- Latentums.
HGETALL,LRANGE 0 -1,SMEMBERSvaiZRANGEpār visu atslēgu ir O(N). Atslēgai ar miljoniem elementu tas nozīmē no milisekundēm līdz sekundēm bloķēta servera, un tas izpaužas kā nejauši taimauti nesaistītās lietojumprogrammas daļās. Diagnostiku aprakstām rakstā Redis latentuma lēcieni un SLOWLOG. - Dzēšana. Redis konfigurācija to saka tieši:
DELir bloķējoša dzēšana, un apkopotai vērtībai ar miljoniem elementu serveris var bloķēties ilgi, pat sekundes (redis.conf, LAZY FREEING). Šādas atslēgas derīguma termiņa beigas un izlikšana atbrīvo atmiņu tādā pašā veidā, ja vien nav ieslēgta slinkā atbrīvošana (lazy freeing). - Tīkls. 50 MB vērtības nolasīšana pārvieto 50 MB uz klientu un servera pusē piepilda tā izvades buferi.
- Atmiņas pārsteigumi. Viena klusi augoša atslēga ir biežākais iemesls "neizskaidrojamai" tuvošanās
maxmemory, skatiet Redis OOM un izlikšanas politikas.
Lielo atslēgu atrašana, nekaitējot produkcijai
# biggest keys by element count, per type (uses SCAN)
redis-cli -h replica1 --bigkeys -i 0.1
# biggest keys by memory
redis-cli -h replica1 --memkeys
# both, with a top-N list and size distribution (newer redis-cli)
redis-cli -h replica1 --keystats --top 20
# only one key prefix
redis-cli -h replica1 --memkeys --pattern 'session:*'
--bigkeysmeklē atslēgas ar daudz elementiem un parāda lielāko atslēgu katram tipam un kopsavilkumu.--memkeysdara to pašu pēc atmiņas.--keystatsapvieno abus un pievieno top-N sarakstu (--top, noklusējums 10) un izmēru sadalījumu (redis-cli dokumentācija).- Visi tie iet cauri atslēgu telpai ar
SCAN, nevisKEYS, tāpēc tos var palaist uz noslogota servera.-i 0.1ietur 0,1 sekundes pauzi uz katriem 100 SCAN izsaukumiem, ja vēlaties slodzi padarīt niecīgu. - Dokumentācija norāda, ka šie režīmi tagad darbojas arī uz klastera replikām. Palaižot tos uz replikas, pat nelielā papildu slodze netiek primārajam.
--bigkeysmēra elementu skaitu, nevis baitus. Hash ar 200 laukiem pa 1 MB katrs pēc skaita ir "mazs", bet pēc atmiņas milzīgs, tāpēc vajag arī--memkeysvai--keystats.- Ar
--keystatsopcija--cursorturpina pārtrauktu skenēšanu, kas noder ļoti lielās atslēgu telpās.
Vienas atslēgas mērīšana
MEMORY USAGE cart:91823 # estimate, samples 5 nested values
MEMORY USAGE cart:91823 SAMPLES 0 # exact, walks every element (slow on huge keys)
TYPE cart:91823
HLEN cart:91823 # or LLEN / SCARD / ZCARD / XLEN / STRLEN
OBJECT ENCODING cart:91823
MEMORY USAGE parāda baitus, kas atslēgai un tās vērtībai vajadzīgi RAM, ieskaitot administratīvās izmaksas. Ligzdotiem tipiem tas pēc noklusējuma ņem paraugu no 5 ligzdotām vērtībām un ekstrapolē; SAMPLES 0 ņem visas (MEMORY USAGE). Visu elementu pārbaude ir precīza, bet O(N), tāpēc atslēgai ar desmit miljoniem elementu tā pati ir lēna komanda. Atklāšanai izmantojiet noklusējumu, bet pilno skaitu tikai tad, kad vajag reālo skaitli, ideālā gadījumā uz replikas.
Lielas atslēgas dzēšana bez bloķēšanas
# frees memory in a background thread instead of blocking
UNLINK feed:global
# or make DEL behave like UNLINK (Redis default: no)
CONFIG SET lazyfree-lazy-user-del yes
# trim a huge hash gradually instead of deleting it at once
redis-cli --no-raw HSCAN big:hash 0 COUNT 500
# ... HDEL big:hash field1 field2 ... field500, repeat with the next cursor
UNLINKnoņem atslēgu no atslēgu telpas ar O(1) un atbrīvo atmiņu citā pavedienā, tāpēc tas nebloķē kāDEL(UNLINK). Tas pieejams kopš Redis 4.0.- Redis visu slinkās atbrīvošanas opciju noklusējums ir
no:lazyfree-lazy-eviction,lazyfree-lazy-expire,lazyfree-lazy-server-del,replica-lazy-flush,lazyfree-lazy-user-delunlazyfree-lazy-user-flush. Valkey noklusējuma konfigurācijā tās iryes. Pārbaudiet, ar ko jūsu versija tiešām darbojas, arCONFIG GET lazyfree*. lazyfree-lazy-expireunlazyfree-lazy-evictionieslēgšana ir svarīga, ja lielajām atslēgām ir TTL vai tās var tikt izliktas: citādi galvenais pavediens tās atbrīvo brīdī, kad beidzas termiņš vai notiek izlikšana, un šo brīdi neizvēlaties jūs.- Ja atslēga jāsamazina, nevis jānomet, ejiet tai cauri ar
HSCAN,SSCANvaiZSCANun dzēsiet nelielām partijām, vai sarakstiem lietojietLTRIM.
KEYS * bloķē serveri uz visu atslēgu telpas laiku, un aizdomīgas atslēgas "ātra pārbaude" ar HGETALL ir tieši tā lēnā komanda, ko mēģināt atrast. Vispirms saskaitiet (HLEN, LLEN, SCARD, ZCARD), tad mēriet.Kā panākt, lai tās neatgriežas
- Ierobežojiet katru kolekciju kodā:
LTRIMpēcLPUSH,ZREMRANGEBYRANKlīderu tabulām,XADD ... MAXLEN ~straumēm. - Sadaliet pēc dabiskas atslēgas:
cart:{user}vienacartshash vietā, dienas grupas viena mūžīgi augoša set vietā. - Lielus blobus glabājiet citur (objektu krātuvē, datubāzē) un Redis turiet tikai atsauci.
- Regulāri palaidiet
--memkeysvai--keystatsuz replikas un brīdiniet, kad lielākā atslēga pārsniedz saskaņotu izmēru. Mūsu pieredzē iknedēļas skenēšana noķer lielāko daļu vaininieku, pirms tie kļūst par incidentu.
Lielās datu kopās un klasteros
Testa instancē ar dažiem tūkstošiem atslēgu nekas no šī nav pamanāms. Pie desmitiem gigabaitu un simtiem tūkstošu operāciju sekundē lielās atslēgas maina visas sistēmas uzvedību:
- Klasteris nevar sadalīt atslēgu. Katra atslēga atrodas vienā hash slotā uz viena šarda. 10 GB hash padara šo šardu lielāku un noslogotāku par pārējiem, un mezglu pievienošana nepalīdz, jo pārdalīšana (resharding) pārvieto slotus, nevis atslēgas daļas. Mūsu pieredzē slota ar ļoti lielu atslēgu pārvietošana pārdalīšanas laikā ir arī vieta, kur migrācijas iestrēgst.
- Replikācijas buferi. Ieraksti lielajās atslēgās un to dzēšana tiek replicēti uz katru repliku. Noklusējuma izvades bufera ierobežojums replikas klientiem ir
256mbcietais,64mbmīkstais uz 60 sekundēm; lielu ierakstu uzplūds, kas to pārsniedz, atvieno repliku, kurai pēc tam vajag atkārtotu sinhronizāciju. Ļoti lielām datu kopām šī sinhronizācija ir dārga, un tā var atkārtoties. - Skenēšana ilgst stundas. Pilns
--memkeyspār simtiem miljonu atslēgu aizņem ilgu laiku. Lietojiet--patternaizdomīgiem prefiksiem, ierobežojiet ar-iun ar--keystatsturpiniet no--cursor, nevis sāciet no jauna. - Tīrīšana ir projekts. Vienas lielas atslēgas dzēšana ar
UNLINKir vienkārša. Miljoniem vidēju atslēgu dzēšana pēc šablona jāveic partijās pēc saraksta, kas iegūts no replikas, arUNLINK, vērojot latentumu un replikācijas aizturi. - Vienai vērtībai ir griesti. Vienu virkni vai lielapjoma argumentu ierobežo
proto-max-bulk-len, pēc noklusējuma 512 MB. Ja tuvojaties tam, datu modelis ir nepareizs.
Galvenās atziņas
- Lielās atslēgas bloķē Redis galveno pavedienu pilnas nolasīšanas,
DEL, termiņa beigu un izlikšanas laikā un rada latentuma lēcienus nesaistītiem klientiem. - Atrodiet tās ar
redis-cli --bigkeys(elementu skaits),--memkeys(baiti) vai--keystats, palaižot uz replikas un ierobežojot ar-i. MEMORY USAGEpēc noklusējuma ņem paraugu no 5 ligzdotām vērtībām;SAMPLES 0ir precīzs, bet O(N).- Dzēsiet ar
UNLINK; Redis lazyfree opciju noklusējums irno, Valkey noklusējuma konfigurācijā tās iryes. - Klasteros liela atslēga noslogo vienu šardu un to nevar sadalīt ar pārdalīšanu; labojiet datu modeli, nevis klastera izmēru.
- Ierobežojiet kolekcijas kodā un regulāri skenējiet atslēgu telpu, lai lielās atslēgas noķertu pirms incidenta.