pg_cron ir cron stila darbu plānotājs, kas darbojas PostgreSQL iekšienē kā paplašinājums. Jūs uzrakstāt grafiku un SQL komandu, un fona process to izpilda. Nav crontab uz datubāzes servera, nav atsevišķa plānotāja servera, un lielākajā daļā pārvaldīto servisu tas ir vienīgais pieejamais plānotājs. Tāpat ir viegli nonākt pie darbiem, kas klusi neizdodas, sakrājas cits aiz cita vai bloķē lielu tabulu vissliktākajā brīdī.
Ko pg_cron dara, vienā rindkopā
Paplašinājums palaiž fona procesu, kas nolasa darbus no tabulas cron.job. Kad darba laiks pienācis, tas vai nu atver parastu klienta savienojumu ar lokālo serveri caur libpq (pēc noklusējuma), vai palaiž fona procesu (background worker), un izpilda komandu ar tā lietotāja tiesībām, kurš darbu ieplānoja. Daudzi darbi var darboties paralēli, bet viena konkrēta darba vienlaikus darbojas tikai viena instance: ja darbs vēl turpinās, kad pienāk nākamās palaišanas laiks, nākamā palaišana tiek ielikta rindā un sākas, tiklīdz pirmā beidzas (pg_cron README). Šī pēdējā detaļa ir svarīgāka par visu pārējo šajā lapā.
Uzstādīšana
# postgresql.conf (restart required)
shared_preload_libraries = 'pg_cron'
cron.database_name = 'postgres' # default; pg_cron lives in one database per cluster
cron.timezone = 'GMT' # default
-- after the restart, as superuser, in cron.database_name
CREATE EXTENSION pg_cron;
GRANT USAGE ON SCHEMA cron TO app_maint; -- optional
shared_preload_librariesprasa restartu. Tāpat arīcron.database_name,cron.timezoneun lielākā daļa citucron.*iestatījumu; ar konfigurācijas pārlādi var mainīt tikaicron.log_min_messagesuncron.launch_active_jobs.- Paplašinājumu var uzstādīt vienā datubāzē klasterī. Lai palaistu darbus citur, izmantojiet
cron.schedule_in_database(), nevis uzstādiet to divreiz. - Grafiki tiek vērtēti laika joslā
cron.timezone, kuras noklusējums irGMT, nevis servera lokālais laiks. Darbs0 2 * * *, ko uzrakstījis kāds Rīgā, izpildās 04:00 vai 05:00 pēc vietējā laika atkarībā no gadalaika. Mēs parasti paturam GMT un vietējo laiku ierakstām darba nosaukumā vai komentārā. - Noklusējuma režīmā katra palaišana ir libpq savienojums ar
localhost, tāpēcpg_hba.conftam jāatļauj (lokālais trust caur Unix soketu arcron.hostvai.pgpassfails). Alternatīvicron.use_background_workers = oniztiek bez savienojuma, bet tad vienlaicīgumu ierobežomax_worker_processes, kura noklusējums ir 8.
Amazon RDS for PostgreSQL (12.5 un jaunākā) jūs pievienojat pg_cron parametram shared_preload_libraries parametru grupā, pārstartējat instanci un izpildāt CREATE EXTENSION kā lietotājs ar rds_superuser. AWS iesaka turēt max_worker_processes lielāku par cron.max_running_jobs, jo darbs neizdodas, ja pietrūkst fona procesu (RDS pg_cron dokumentācija).
Darbu plānošana
-- named job: purge old rows every night at 03:30 (cron.timezone)
SELECT cron.schedule('purge-events', '30 3 * * *',
$$CALL purge_old_events()$$);
-- a job that runs in another database
SELECT cron.schedule_in_database('vacuum-orders', '15 2 * * *',
'VACUUM (ANALYZE) orders', 'shop');
-- last day of the month, and an interval job
SELECT cron.schedule('month-close', '0 12 $ * *', 'CALL close_month()');
SELECT cron.schedule('queue-tick', '30 seconds', 'CALL process_queue()');
-- pause, change, remove
SELECT cron.alter_job(42, active := false);
SELECT cron.alter_job(42, schedule := '0 4 * * *');
SELECT cron.unschedule('purge-events');
Grafikam tiek lietota standarta piecu lauku cron sintakse (parsētājs ņemts no Vixie cron) ar diviem papildinājumiem: $ mēneša dienas laukā nozīmē mēneša pēdējo dienu, un 'N seconds', kur N ir no 1 līdz 59, dod intervāla darbu. Sekundes nevar kombinēt ar citiem laukiem.
Vienmēr dodiet darbiem nosaukumus. cron.unschedule('purge-events') ir daudz drošāk nekā atcerēties, ka darbs 42 ir tīrīšana un darbs 43 ir partīciju nomaiņa. RLS politika nozīmē, ka parastie lietotāji redz un maina tikai savus darbus; superlietotāji un lomas ar bypassrls redz visus.
cron.job. AWS norāda, ka lietotājs, kas var tieši atjaunināt tabulu, var nomainīt kolonnu username un izpildīt komandas kā lomai ar lielākām tiesībām. Dodiet USAGE uz shēmu un ļaujiet lietot funkcijas.Uzraudzība: daļa, ko lielākā daļa komandu izlaiž
Neizdevies pg_cron darbs nevienu nepamodina. Ar cron.log_run = on (noklusējums) katra palaišana nonāk tabulā cron.job_run_details ar statusu (running, succeeded, failed), atgriezto ziņojumu un sākuma un beigu laiku. Lasiet to, veidojiet brīdinājumus un tīriet to:
-- what ran in the last 24 hours, slowest first
SELECT j.jobname, d.status, d.return_message,
d.start_time, d.end_time - d.start_time AS duration
FROM cron.job_run_details d
JOIN cron.job j USING (jobid)
WHERE d.start_time > now() - interval '1 day'
ORDER BY duration DESC NULLS FIRST;
-- failures to alert on
SELECT jobid, start_time, return_message
FROM cron.job_run_details
WHERE status = 'failed' AND start_time > now() - interval '1 hour';
-- the history table is never cleaned automatically
SELECT cron.schedule('cron-history-purge', '0 12 * * *',
$$DELETE FROM cron.job_run_details WHERE end_time < now() - interval '7 days'$$);
- Brīdiniet par
failed, kā arī par darbiem, kuru pēdējāsucceededpalaišana ir vecāka par to grafiku. Mūsu pieredzē darbs, kas vispār nevar sākties (nepareiza datubāze, salauztspg_hba.conf, paplašinājums pazudis pēc pārbūves), bieži neatstāj neko noderīgāku par rindu servera žurnālā, tāpēc pārbaudiet arī žurnālu. - Sekojiet ilguma tendencēm. Tīrīšana, kas pirms gada ilga 40 sekundes, bet tagad 25 minūtes, signalizē, ka tabula ir izaugusi no šīs pieejas.
cron.job_run_detailsnetiek tīrīta automātiski. Gan pg_cron README, gan AWS iesaka ieplānotu dzēšanu, kas patur apmēram nedēļu.
Ko plānot un ko ne
Labi piemērots: novecojušu rindu dzēšana pa daļām, nākamā mēneša partīciju izveide un veco atvienošana, REFRESH MATERIALIZED VIEW CONCURRENTLY, statistikas apkopošana, mērķēts VACUUM (ANALYZE) tabulai, kuru autovacuum pīķa stundās nepārtraukti nepaspēj. Slikti piemērots: viss, kam jāsniedzas ārpus datubāzes (faili, HTTP izsaukumi, citi serveri), un garas atkarīgu soļu ķēdes. Tās lieciet īstā orķestratorā.
Ieplānots VACUUM ir ielāps, nevis autovacuum aizstājējs. Ja tas vajadzīgs, īstais risinājums parasti ir tabulas līmeņa autovacuum iestatījumi, skatiet autovacuum regulēšanu, lai apturētu bloat.
Lielās datubāzēs: kur pg_cron darbi noiet greizi
Viss iepriekš minētais strādā uz 5 GB testa datubāzes. Šīs lietas parādās tikai tad, kad tabulās ir simtiem miljonu rindu un serveris ir noslogots visu diennakti.
- Nokavētās palaišanas sakrājas rindā. Tā kā novēlota palaišana tiek ielikta rindā, nevis izlaista, darbs, kas ieplānots ik pēc 5 minūtēm, bet tagad ilgst 7 minūtes, sāk darboties bez pārtraukuma, vienu reizi pēc otras. Dodiet katram darbam rezervi un ierobežojiet to ar
statement_timeoutlomai, ar kuru tas darbojas. - Viens liels DELETE ir viena liela transakcija. 80 miljonu rindu dzēšana vienā komandā tur bloķējumus visu tās laiku, rada WAL uzplūdu, kas replikām jāatskaņo, un atstāj mirušos ierakstus vakuumam. Dzēsiet pa daļām procedūrā, kas veic COMMIT starp daļām. PostgreSQL atļauj
COMMITprocedūrā, kas izsaukta ar augstākā līmeņaCALL(transakciju pārvaldība). - Vēl labāk: nedzēsiet. Ja tīrāt pēc laika, partīcijējiet pēc laika un ļaujiet darbam atvienot un nomest veselas partīcijas. Tā ir metadatu operācija, nevis miljoniem rindu dzēšana, skatiet PostgreSQL tabulu partīcijas.
- DDL vajag lock timeout. Partīciju uzturēšanas darbs, kas gaida
ACCESS EXCLUSIVEbloķējumu aiz gara pārskata, bloķēs katru vaicājumu, kas nostājas rindā aiz tā. Iestatietlock_timeout, lai darbs ātri neizdotos un mēģinātu vēlreiz nākamajā palaišanā. - Savienojumi un fona procesi ir kopīgi. libpq režīmā katra palaišana ir īsts savienojums, kas tiek ieskaitīts
max_connections. Fona procesu režīmā darbi dalamax_worker_processesar paralēlo vaicājumu un loģiskās replikācijas procesiem (resursu iestatījumi). Trīsdesmit darbi, kas visi sākas0 * * * *uz noslogota servera, ir paša radīts savienojumu lēciens; izkliedējiet minūtes. - Vēstures tabula kļūst par karstu tabulu. Darbs ik pēc 5 sekundēm ieraksta
cron.job_run_details17 280 rindas dienā. Tīriet to katru dienu vai ļoti pļāpīgām konfigurācijām izslēdzietcron.log_runun paļaujieties uz servera žurnālu.
CREATE OR REPLACE PROCEDURE purge_old_events(batch int DEFAULT 10000)
LANGUAGE plpgsql AS $$
DECLARE n int;
BEGIN
LOOP
DELETE FROM events
WHERE id IN (SELECT id FROM events
WHERE event_time < now() - interval '90 days'
LIMIT batch);
GET DIAGNOSTICS n = ROW_COUNT;
EXIT WHEN n = 0;
COMMIT; -- allowed in a top-level CALL
END LOOP;
END $$;
-- cap every job run as this role
ALTER ROLE app_maint SET statement_timeout = '30min';
ALTER ROLE app_maint SET lock_timeout = '5s';
Pārslēgšanās un replikas
pg_cron neizpilda darbus, kamēr serveris ir hot standby režīmā, un sāk darboties automātiski, kad serveris tiek paaugstināts par primāro. Tā kā cron.job ir parasta tabula, fiziskajām replikām darbu saraksts jau ir, tāpēc pēc Patroni vai pārvaldītā servisa pārslēgšanās darbi turpina darboties uz jaunā primārā, ja vien jaunais primārais tos patiešām var izpildīt. Tas nozīmē pg_cron parametrā shared_preload_libraries un tādu pašu pg_hba.conf vai .pgpass uz katra mezgla. Mēs to pārbaudām katrā HA pārskatā, jo tieši šāda lieta ir pareiza uz sākotnējā primārā un trūkst uz replikas, kas uzbūvēta gadu vēlāk.
README nesola, ka palaišanas, kas nokavētas, kamēr serveris nedarbojās, tiks izpildītas vēlāk. Mūsu pieredzē drošāk ir rakstīt katru darbu tā, lai to bez kaitējuma varētu izpildīt novēloti vai divreiz: tīrīt pēc vecuma, veidot partīcijas ar IF NOT EXISTS, atsvaidzināt, nevis pievienot.
Galvenās atziņas
- pg_cron vajag
shared_preload_librariesun restartu, tas dzīvo vienā datubāzē (cron.database_name, noklusējumspostgres) un plāno laika joslācron.timezone, noklusējums GMT. - Dodiet nosaukumu katram darbam, citām datubāzēm lietojiet
cron.schedule_in_database()un nekad nedodiet rakstīšanas tiesības uzcron.job. - Uzraugiet
cron.job_run_detailskļūdas un pieaugošu ilgumu un tīriet to: tā nekad netiek tīrīta automātiski. - Novēlotas palaišanas tiek ieliktas rindā, nevis izlaistas, tāpēc ierobežojiet darbus ar
statement_timeoutunlock_timeout. - Lielās tabulās dzēsiet pa daļām ar
COMMITprocedūrā vai nometiet partīcijas, nevis dzēsiet rindas. - Darbi neizpildās uz standby un atsāk darboties pēc paaugstināšanas, tāpēc pārliecinieties, ka katrs mezgls tos var izpildīt.