Age Owner Branch data TLA Line data Source code
1 : : /*-------------------------------------------------------------------------
2 : : *
3 : : * pg_basebackup.c - receive a base backup using streaming replication protocol
4 : : *
5 : : * Author: Magnus Hagander <magnus@hagander.net>
6 : : *
7 : : * Portions Copyright (c) 1996-2025, PostgreSQL Global Development Group
8 : : *
9 : : * IDENTIFICATION
10 : : * src/bin/pg_basebackup/pg_basebackup.c
11 : : *-------------------------------------------------------------------------
12 : : */
13 : :
14 : : #include "postgres_fe.h"
15 : :
16 : : #include <unistd.h>
17 : : #include <dirent.h>
18 : : #include <limits.h>
19 : : #include <sys/select.h>
20 : : #include <sys/stat.h>
21 : : #include <sys/wait.h>
22 : : #include <signal.h>
23 : : #include <time.h>
24 : : #ifdef HAVE_LIBZ
25 : : #include <zlib.h>
26 : : #endif
27 : :
28 : : #include "access/xlog_internal.h"
29 : : #include "astreamer_inject.h"
30 : : #include "backup/basebackup.h"
31 : : #include "common/compression.h"
32 : : #include "common/file_perm.h"
33 : : #include "common/file_utils.h"
34 : : #include "common/logging.h"
35 : : #include "fe_utils/option_utils.h"
36 : : #include "fe_utils/recovery_gen.h"
37 : : #include "getopt_long.h"
38 : : #include "libpq/protocol.h"
39 : : #include "receivelog.h"
40 : : #include "streamutil.h"
41 : :
42 : : #define ERRCODE_DATA_CORRUPTED "XX001"
43 : :
44 : : typedef struct TablespaceListCell
45 : : {
46 : : struct TablespaceListCell *next;
47 : : char old_dir[MAXPGPATH];
48 : : char new_dir[MAXPGPATH];
49 : : } TablespaceListCell;
50 : :
51 : : typedef struct TablespaceList
52 : : {
53 : : TablespaceListCell *head;
54 : : TablespaceListCell *tail;
55 : : } TablespaceList;
56 : :
57 : : typedef struct ArchiveStreamState
58 : : {
59 : : int tablespacenum;
60 : : pg_compress_specification *compress;
61 : : astreamer *streamer;
62 : : astreamer *manifest_inject_streamer;
63 : : PQExpBuffer manifest_buffer;
64 : : char manifest_filename[MAXPGPATH];
65 : : FILE *manifest_file;
66 : : } ArchiveStreamState;
67 : :
68 : : typedef struct WriteTarState
69 : : {
70 : : int tablespacenum;
71 : : astreamer *streamer;
72 : : } WriteTarState;
73 : :
74 : : typedef struct WriteManifestState
75 : : {
76 : : char filename[MAXPGPATH];
77 : : FILE *file;
78 : : } WriteManifestState;
79 : :
80 : : typedef void (*WriteDataCallback) (size_t nbytes, char *buf,
81 : : void *callback_data);
82 : :
83 : : /*
84 : : * pg_xlog has been renamed to pg_wal in version 10. This version number
85 : : * should be compared with PQserverVersion().
86 : : */
87 : : #define MINIMUM_VERSION_FOR_PG_WAL 100000
88 : :
89 : : /*
90 : : * Temporary replication slots are supported from version 10.
91 : : */
92 : : #define MINIMUM_VERSION_FOR_TEMP_SLOTS 100000
93 : :
94 : : /*
95 : : * Backup manifests are supported from version 13.
96 : : */
97 : : #define MINIMUM_VERSION_FOR_MANIFESTS 130000
98 : :
99 : : /*
100 : : * Before v15, tar files received from the server will be improperly
101 : : * terminated.
102 : : */
103 : : #define MINIMUM_VERSION_FOR_TERMINATED_TARFILE 150000
104 : :
105 : : /*
106 : : * pg_wal/summaries exists beginning with version 17.
107 : : */
108 : : #define MINIMUM_VERSION_FOR_WAL_SUMMARIES 170000
109 : :
110 : : /*
111 : : * Different ways to include WAL
112 : : */
113 : : typedef enum
114 : : {
115 : : NO_WAL,
116 : : FETCH_WAL,
117 : : STREAM_WAL,
118 : : } IncludeWal;
119 : :
120 : : /*
121 : : * Different places to perform compression
122 : : */
123 : : typedef enum
124 : : {
125 : : COMPRESS_LOCATION_UNSPECIFIED,
126 : : COMPRESS_LOCATION_CLIENT,
127 : : COMPRESS_LOCATION_SERVER,
128 : : } CompressionLocation;
129 : :
130 : : /* Global options */
131 : : static char *basedir = NULL;
132 : : static TablespaceList tablespace_dirs = {NULL, NULL};
133 : : static char *xlog_dir = NULL;
134 : : static char format = '\0'; /* p(lain)/t(ar) */
135 : : static char *label = "pg_basebackup base backup";
136 : : static bool noclean = false;
137 : : static bool checksum_failure = false;
138 : : static bool showprogress = false;
139 : : static bool estimatesize = true;
140 : : static int verbose = 0;
141 : : static IncludeWal includewal = STREAM_WAL;
142 : : static bool fastcheckpoint = false;
143 : : static bool writerecoveryconf = false;
144 : : static bool do_sync = true;
145 : : static int standby_message_timeout = 10 * 1000; /* 10 sec = default */
146 : : static pg_time_t last_progress_report = 0;
147 : : static int32 maxrate = 0; /* no limit by default */
148 : : static char *replication_slot = NULL;
149 : : static bool temp_replication_slot = true;
150 : : static char *backup_target = NULL;
151 : : static bool create_slot = false;
152 : : static bool no_slot = false;
153 : : static bool verify_checksums = true;
154 : : static bool manifest = true;
155 : : static bool manifest_force_encode = false;
156 : : static char *manifest_checksums = NULL;
157 : : static DataDirSyncMethod sync_method = DATA_DIR_SYNC_METHOD_FSYNC;
158 : :
159 : : static bool success = false;
160 : : static bool made_new_pgdata = false;
161 : : static bool found_existing_pgdata = false;
162 : : static bool made_new_xlogdir = false;
163 : : static bool found_existing_xlogdir = false;
164 : : static bool made_tablespace_dirs = false;
165 : : static bool found_tablespace_dirs = false;
166 : :
167 : : /* Progress indicators */
168 : : static uint64 totalsize_kb;
169 : : static uint64 totaldone;
170 : : static int tablespacecount;
171 : : static char *progress_filename = NULL;
172 : :
173 : : /* Pipe to communicate with background wal receiver process */
174 : : #ifndef WIN32
175 : : static int bgpipe[2] = {-1, -1};
176 : : #endif
177 : :
178 : : /* Handle to child process */
179 : : static pid_t bgchild = -1;
180 : : static bool in_log_streamer = false;
181 : :
182 : : /* Flag to indicate if child process exited unexpectedly */
183 : : static volatile sig_atomic_t bgchild_exited = false;
184 : :
185 : : /* End position for xlog streaming, empty string if unknown yet */
186 : : static XLogRecPtr xlogendptr;
187 : :
188 : : #ifndef WIN32
189 : : static int has_xlogendptr = 0;
190 : : #else
191 : : static volatile LONG has_xlogendptr = 0;
192 : : #endif
193 : :
194 : : /* Contents of configuration file to be generated */
195 : : static PQExpBuffer recoveryconfcontents = NULL;
196 : :
197 : : /* Function headers */
198 : : static void usage(void);
199 : : static void verify_dir_is_empty_or_create(char *dirname, bool *created, bool *found);
200 : : static void progress_update_filename(const char *filename);
201 : : static void progress_report(int tablespacenum, bool force, bool finished);
202 : :
203 : : static astreamer *CreateBackupStreamer(char *archive_name, char *spclocation,
204 : : astreamer **manifest_inject_streamer_p,
205 : : bool is_recovery_guc_supported,
206 : : bool expect_unterminated_tarfile,
207 : : pg_compress_specification *compress);
208 : : static void ReceiveArchiveStreamChunk(size_t r, char *copybuf,
209 : : void *callback_data);
210 : : static char GetCopyDataByte(size_t r, char *copybuf, size_t *cursor);
211 : : static char *GetCopyDataString(size_t r, char *copybuf, size_t *cursor);
212 : : static uint64 GetCopyDataUInt64(size_t r, char *copybuf, size_t *cursor);
213 : : static void GetCopyDataEnd(size_t r, char *copybuf, size_t cursor);
214 : : static void ReportCopyDataParseError(size_t r, char *copybuf);
215 : : static void ReceiveTarFile(PGconn *conn, char *archive_name, char *spclocation,
216 : : bool tablespacenum, pg_compress_specification *compress);
217 : : static void ReceiveTarCopyChunk(size_t r, char *copybuf, void *callback_data);
218 : : static void ReceiveBackupManifest(PGconn *conn);
219 : : static void ReceiveBackupManifestChunk(size_t r, char *copybuf,
220 : : void *callback_data);
221 : : static void ReceiveBackupManifestInMemory(PGconn *conn, PQExpBuffer buf);
222 : : static void ReceiveBackupManifestInMemoryChunk(size_t r, char *copybuf,
223 : : void *callback_data);
224 : : static void BaseBackup(char *compression_algorithm, char *compression_detail,
225 : : CompressionLocation compressloc,
226 : : pg_compress_specification *client_compress,
227 : : char *incremental_manifest);
228 : :
229 : : static bool reached_end_position(XLogRecPtr segendpos, uint32 timeline,
230 : : bool segment_finished);
231 : :
232 : : static const char *get_tablespace_mapping(const char *dir);
233 : : static void tablespace_list_append(const char *arg);
234 : :
235 : :
236 : : static void
3281 peter_e@gmx.net 237 :CBC 346 : cleanup_directories_atexit(void)
238 : : {
239 [ + + + + ]: 346 : if (success || in_log_streamer)
240 : 289 : return;
241 : :
2713 magnus@hagander.net 242 [ + + + + ]: 57 : if (!noclean && !checksum_failure)
243 : : {
3281 peter_e@gmx.net 244 [ + + ]: 53 : if (made_new_pgdata)
245 : : {
2350 peter@eisentraut.org 246 : 19 : pg_log_info("removing data directory \"%s\"", basedir);
3281 peter_e@gmx.net 247 [ - + ]: 19 : if (!rmtree(basedir, true))
2350 peter@eisentraut.org 248 :UBC 0 : pg_log_error("failed to remove data directory");
249 : : }
3281 peter_e@gmx.net 250 [ - + ]:CBC 34 : else if (found_existing_pgdata)
251 : : {
2350 peter@eisentraut.org 252 :UBC 0 : pg_log_info("removing contents of data directory \"%s\"", basedir);
3281 peter_e@gmx.net 253 [ # # ]: 0 : if (!rmtree(basedir, false))
2350 peter@eisentraut.org 254 : 0 : pg_log_error("failed to remove contents of data directory");
255 : : }
256 : :
3281 peter_e@gmx.net 257 [ - + ]:CBC 53 : if (made_new_xlogdir)
258 : : {
2350 peter@eisentraut.org 259 :UBC 0 : pg_log_info("removing WAL directory \"%s\"", xlog_dir);
3281 peter_e@gmx.net 260 [ # # ]: 0 : if (!rmtree(xlog_dir, true))
2350 peter@eisentraut.org 261 : 0 : pg_log_error("failed to remove WAL directory");
262 : : }
3281 peter_e@gmx.net 263 [ - + ]:CBC 53 : else if (found_existing_xlogdir)
264 : : {
2350 peter@eisentraut.org 265 :UBC 0 : pg_log_info("removing contents of WAL directory \"%s\"", xlog_dir);
3281 peter_e@gmx.net 266 [ # # ]: 0 : if (!rmtree(xlog_dir, false))
2350 peter@eisentraut.org 267 : 0 : pg_log_error("failed to remove contents of WAL directory");
268 : : }
269 : : }
270 : : else
271 : : {
2713 magnus@hagander.net 272 [ + + - + :CBC 4 : if ((made_new_pgdata || found_existing_pgdata) && !checksum_failure)
- + ]
2350 peter@eisentraut.org 273 :UBC 0 : pg_log_info("data directory \"%s\" not removed at user's request", basedir);
274 : :
3281 peter_e@gmx.net 275 [ + - - + ]:CBC 4 : if (made_new_xlogdir || found_existing_xlogdir)
2350 peter@eisentraut.org 276 :UBC 0 : pg_log_info("WAL directory \"%s\" not removed at user's request", xlog_dir);
277 : : }
278 : :
2713 magnus@hagander.net 279 [ + - - + :CBC 57 : if ((made_tablespace_dirs || found_tablespace_dirs) && !checksum_failure)
- - ]
2350 peter@eisentraut.org 280 :UBC 0 : pg_log_info("changes to tablespace directories will not be undone");
281 : : }
282 : :
283 : : static void
2443 peter@eisentraut.org 284 :CBC 316 : disconnect_atexit(void)
285 : : {
4227 magnus@hagander.net 286 [ + + ]: 316 : if (conn != NULL)
287 : 157 : PQfinish(conn);
2443 peter@eisentraut.org 288 : 316 : }
289 : :
290 : : #ifndef WIN32
291 : : /*
292 : : * If the bgchild exits prematurely and raises a SIGCHLD signal, we can abort
293 : : * processing rather than wait until the backup has finished and error out at
294 : : * that time. On Windows, we use a background thread which can communicate
295 : : * without the need for a signal handler.
296 : : */
297 : : static void
1291 dgustafsson@postgres 298 : 131 : sigchld_handler(SIGNAL_ARGS)
299 : : {
300 : 131 : bgchild_exited = true;
301 : 131 : }
302 : :
303 : : /*
304 : : * On windows, our background thread dies along with the process. But on
305 : : * Unix, if we have started a subprocess, we want to kill it off so it
306 : : * doesn't remain running trying to stream data.
307 : : */
308 : : static void
2443 peter@eisentraut.org 309 : 134 : kill_bgchild_atexit(void)
310 : : {
1291 dgustafsson@postgres 311 [ + - + + ]: 134 : if (bgchild > 0 && !bgchild_exited)
4227 magnus@hagander.net 312 : 4 : kill(bgchild, SIGTERM);
313 : 134 : }
314 : : #endif
315 : :
316 : : /*
317 : : * Split argument into old_dir and new_dir and append to tablespace mapping
318 : : * list.
319 : : */
320 : : static void
4214 peter_e@gmx.net 321 : 22 : tablespace_list_append(const char *arg)
322 : : {
323 : 22 : TablespaceListCell *cell = (TablespaceListCell *) pg_malloc0(sizeof(TablespaceListCell));
324 : : char *dst;
325 : : char *dst_ptr;
326 : : const char *arg_ptr;
327 : :
328 : 22 : dst_ptr = dst = cell->old_dir;
329 [ + + ]: 910 : for (arg_ptr = arg; *arg_ptr; arg_ptr++)
330 : : {
331 [ - + ]: 889 : if (dst_ptr - dst >= MAXPGPATH)
1247 tgl@sss.pgh.pa.us 332 :UBC 0 : pg_fatal("directory name too long");
333 : :
4214 peter_e@gmx.net 334 [ + + + - ]:CBC 889 : if (*arg_ptr == '\\' && *(arg_ptr + 1) == '=')
335 : : ; /* skip backslash escaping = */
336 [ + + + + : 887 : else if (*arg_ptr == '=' && (arg_ptr == arg || *(arg_ptr - 1) != '\\'))
+ + ]
337 : : {
338 [ + + ]: 22 : if (*cell->new_dir)
1247 tgl@sss.pgh.pa.us 339 : 1 : pg_fatal("multiple \"=\" signs in tablespace mapping");
340 : : else
4214 peter_e@gmx.net 341 : 21 : dst = dst_ptr = cell->new_dir;
342 : : }
343 : : else
344 : 865 : *dst_ptr++ = *arg_ptr;
345 : : }
346 : :
347 [ + + + + ]: 21 : if (!*cell->old_dir || !*cell->new_dir)
1247 tgl@sss.pgh.pa.us 348 : 3 : pg_fatal("invalid tablespace mapping format \"%s\", must be \"OLDDIR=NEWDIR\"", arg);
349 : :
350 : : /*
351 : : * All tablespaces are created with absolute directories, so specifying a
352 : : * non-absolute path here would just never match, possibly confusing
353 : : * users. Since we don't know whether the remote side is Windows or not,
354 : : * and it might be different than the local side, permit any path that
355 : : * could be absolute under either set of rules.
356 : : *
357 : : * (There is little practical risk of confusion here, because someone
358 : : * running entirely on Linux isn't likely to have a relative path that
359 : : * begins with a backslash or something that looks like a drive
360 : : * specification. If they do, and they also incorrectly believe that a
361 : : * relative path is acceptable here, we'll silently fail to warn them of
362 : : * their mistake, and the -T option will just not get applied, same as if
363 : : * they'd specified -T for a nonexistent tablespace.)
364 : : */
1051 rhaas@postgresql.org 365 [ + + ]: 18 : if (!is_nonwindows_absolute_path(cell->old_dir) &&
366 [ + - + - : 1 : !is_windows_absolute_path(cell->old_dir))
+ - - + -
- - - ]
1247 tgl@sss.pgh.pa.us 367 : 1 : pg_fatal("old directory is not an absolute path in tablespace mapping: %s",
368 : : cell->old_dir);
369 : :
4214 peter_e@gmx.net 370 [ + + ]: 17 : if (!is_absolute_path(cell->new_dir))
1247 tgl@sss.pgh.pa.us 371 : 1 : pg_fatal("new directory is not an absolute path in tablespace mapping: %s",
372 : : cell->new_dir);
373 : :
374 : : /*
375 : : * Comparisons done with these values should involve similarly
376 : : * canonicalized path values. This is particularly sensitive on Windows
377 : : * where path values may not necessarily use Unix slashes.
378 : : */
3784 bruce@momjian.us 379 : 16 : canonicalize_path(cell->old_dir);
380 : 16 : canonicalize_path(cell->new_dir);
381 : :
4214 peter_e@gmx.net 382 [ - + ]: 16 : if (tablespace_dirs.tail)
4214 peter_e@gmx.net 383 :UBC 0 : tablespace_dirs.tail->next = cell;
384 : : else
4214 peter_e@gmx.net 385 :CBC 16 : tablespace_dirs.head = cell;
386 : 16 : tablespace_dirs.tail = cell;
387 : 16 : }
388 : :
389 : :
390 : : static void
5340 magnus@hagander.net 391 : 1 : usage(void)
392 : : {
5239 peter_e@gmx.net 393 : 1 : printf(_("%s takes a base backup of a running PostgreSQL server.\n\n"),
394 : : progname);
5340 magnus@hagander.net 395 : 1 : printf(_("Usage:\n"));
396 : 1 : printf(_(" %s [OPTION]...\n"), progname);
397 : 1 : printf(_("\nOptions controlling the output:\n"));
4785 alvherre@alvh.no-ip. 398 : 1 : printf(_(" -D, --pgdata=DIRECTORY receive base backup into directory\n"));
399 : 1 : printf(_(" -F, --format=p|t output format (plain (default), tar)\n"));
620 michael@paquier.xyz 400 : 1 : printf(_(" -i, --incremental=OLDMANIFEST\n"
401 : : " take incremental backup\n"));
3034 tgl@sss.pgh.pa.us 402 : 1 : printf(_(" -r, --max-rate=RATE maximum transfer rate to transfer data directory\n"
403 : : " (in kB/s, or use suffix \"k\" or \"M\")\n"));
404 : 1 : printf(_(" -R, --write-recovery-conf\n"
405 : : " write configuration for replication\n"));
1244 peter@eisentraut.org 406 : 1 : printf(_(" -t, --target=TARGET[:DETAIL]\n"
407 : : " backup target (if other than client)\n"));
3034 tgl@sss.pgh.pa.us 408 : 1 : printf(_(" -T, --tablespace-mapping=OLDDIR=NEWDIR\n"
409 : : " relocate tablespace in OLDDIR to NEWDIR\n"));
2902 peter_e@gmx.net 410 : 1 : printf(_(" --waldir=WALDIR location for the write-ahead log directory\n"));
3034 tgl@sss.pgh.pa.us 411 : 1 : printf(_(" -X, --wal-method=none|fetch|stream\n"
412 : : " include required WAL files with specified method\n"));
4785 alvherre@alvh.no-ip. 413 : 1 : printf(_(" -z, --gzip compress tar output\n"));
1263 rhaas@postgresql.org 414 : 1 : printf(_(" -Z, --compress=[{client|server}-]METHOD[:DETAIL]\n"
415 : : " compress on client or server as specified\n"));
1279 416 : 1 : printf(_(" -Z, --compress=none do not compress tar output\n"));
5340 magnus@hagander.net 417 : 1 : printf(_("\nGeneral options:\n"));
3034 tgl@sss.pgh.pa.us 418 : 1 : printf(_(" -c, --checkpoint=fast|spread\n"
419 : : " set fast or spread (default) checkpointing\n"));
2902 peter_e@gmx.net 420 : 1 : printf(_(" -C, --create-slot create replication slot\n"));
4785 alvherre@alvh.no-ip. 421 : 1 : printf(_(" -l, --label=LABEL set backup label\n"));
3244 peter_e@gmx.net 422 : 1 : printf(_(" -n, --no-clean do not clean up after errors\n"));
423 : 1 : printf(_(" -N, --no-sync do not wait for changes to be written safely to disk\n"));
4785 alvherre@alvh.no-ip. 424 : 1 : printf(_(" -P, --progress show progress information\n"));
2902 peter_e@gmx.net 425 : 1 : printf(_(" -S, --slot=SLOTNAME replication slot to use\n"));
4785 alvherre@alvh.no-ip. 426 : 1 : printf(_(" -v, --verbose output verbose messages\n"));
427 : 1 : printf(_(" -V, --version output version information, then exit\n"));
1954 peter@eisentraut.org 428 : 1 : printf(_(" --manifest-checksums=SHA{224,256,384,512}|CRC32C|NONE\n"
429 : : " use algorithm for manifest checksums\n"));
430 : 1 : printf(_(" --manifest-force-encode\n"
431 : : " hex encode all file names in manifest\n"));
432 : 1 : printf(_(" --no-estimate-size do not estimate backup size in server side\n"));
433 : 1 : printf(_(" --no-manifest suppress generation of backup manifest\n"));
2665 peter_e@gmx.net 434 : 1 : printf(_(" --no-slot prevent creation of temporary replication slot\n"));
435 : 1 : printf(_(" --no-verify-checksums\n"
436 : : " do not verify checksums\n"));
731 nathan@postgresql.or 437 : 1 : printf(_(" --sync-method=METHOD\n"
438 : : " set method for syncing files to disk\n"));
4785 alvherre@alvh.no-ip. 439 : 1 : printf(_(" -?, --help show this help, then exit\n"));
5340 magnus@hagander.net 440 : 1 : printf(_("\nConnection options:\n"));
4576 heikki.linnakangas@i 441 : 1 : printf(_(" -d, --dbname=CONNSTR connection string\n"));
4785 alvherre@alvh.no-ip. 442 : 1 : printf(_(" -h, --host=HOSTNAME database server host or socket directory\n"));
443 : 1 : printf(_(" -p, --port=PORT database server port number\n"));
3034 tgl@sss.pgh.pa.us 444 : 1 : printf(_(" -s, --status-interval=INTERVAL\n"
445 : : " time between status packets sent to server (in seconds)\n"));
4785 alvherre@alvh.no-ip. 446 : 1 : printf(_(" -U, --username=NAME connect as specified database user\n"));
447 : 1 : printf(_(" -w, --no-password never prompt for password\n"));
448 : 1 : printf(_(" -W, --password force password prompt (should happen automatically)\n"));
2017 peter@eisentraut.org 449 : 1 : printf(_("\nReport bugs to <%s>.\n"), PACKAGE_BUGREPORT);
450 : 1 : printf(_("%s home page: <%s>\n"), PACKAGE_NAME, PACKAGE_URL);
5340 magnus@hagander.net 451 : 1 : }
452 : :
453 : :
454 : : /*
455 : : * Called in the background process every time data is received.
456 : : * On Unix, we check to see if there is any data on our pipe
457 : : * (which would mean we have a stop position), and if it is, check if
458 : : * it is time to stop.
459 : : * On Windows, we are in a single process, so we can just check if it's
460 : : * time to stop.
461 : : */
462 : : static bool
4785 alvherre@alvh.no-ip. 463 : 2499 : reached_end_position(XLogRecPtr segendpos, uint32 timeline,
464 : : bool segment_finished)
465 : : {
5064 magnus@hagander.net 466 [ + + ]: 2499 : if (!has_xlogendptr)
467 : : {
468 : : #ifndef WIN32
469 : : fd_set fds;
1148 peter@eisentraut.org 470 : 2312 : struct timeval tv = {0};
471 : : int r;
472 : :
473 : : /*
474 : : * Don't have the end pointer yet - check our pipe to see if it has
475 : : * been sent yet.
476 : : */
5064 magnus@hagander.net 477 [ + + ]: 39304 : FD_ZERO(&fds);
478 : 2312 : FD_SET(bgpipe[0], &fds);
479 : :
480 : 2312 : r = select(bgpipe[0] + 1, &fds, NULL, NULL, &tv);
481 [ + + ]: 2312 : if (r == 1)
482 : : {
1148 peter@eisentraut.org 483 : 128 : char xlogend[64] = {0};
484 : : uint32 hi,
485 : : lo;
486 : :
4141 bruce@momjian.us 487 : 128 : r = read(bgpipe[0], xlogend, sizeof(xlogend) - 1);
5064 magnus@hagander.net 488 [ - + ]: 128 : if (r < 0)
1247 tgl@sss.pgh.pa.us 489 :UBC 0 : pg_fatal("could not read from ready pipe: %m");
490 : :
61 alvherre@kurilemu.de 491 [ - + ]:GNC 128 : if (sscanf(xlogend, "%X/%08X", &hi, &lo) != 2)
1247 tgl@sss.pgh.pa.us 492 :UBC 0 : pg_fatal("could not parse write-ahead log location \"%s\"",
493 : : xlogend);
4822 heikki.linnakangas@i 494 :CBC 128 : xlogendptr = ((uint64) hi) << 32 | lo;
5064 magnus@hagander.net 495 : 128 : has_xlogendptr = 1;
496 : :
497 : : /*
498 : : * Fall through to check if we've reached the point further
499 : : * already.
500 : : */
501 : : }
502 : : else
503 : : {
504 : : /*
505 : : * No data received on the pipe means we don't know the end
506 : : * position yet - so just say it's not time to stop yet.
507 : : */
508 : 2184 : return false;
509 : : }
510 : : #else
511 : :
512 : : /*
513 : : * On win32, has_xlogendptr is set by the main thread, so if it's not
514 : : * set here, we just go back and wait until it shows up.
515 : : */
516 : : return false;
517 : : #endif
518 : : }
519 : :
520 : : /*
521 : : * At this point we have an end pointer, so compare it to the current
522 : : * position to figure out if it's time to stop.
523 : : */
4822 heikki.linnakangas@i 524 [ + + ]: 315 : if (segendpos >= xlogendptr)
5064 magnus@hagander.net 525 : 256 : return true;
526 : :
527 : : /*
528 : : * Have end pointer, but haven't reached it yet - so tell the caller to
529 : : * keep streaming.
530 : : */
531 : 59 : return false;
532 : : }
533 : :
534 : : typedef struct
535 : : {
536 : : PGconn *bgconn;
537 : : XLogRecPtr startptr;
538 : : char xlog[MAXPGPATH]; /* directory or tarfile depending on mode */
539 : : char *sysidentifier;
540 : : int timeline;
541 : : pg_compress_algorithm wal_compress_algorithm;
542 : : int wal_compress_level;
543 : : } logstreamer_param;
544 : :
545 : : static int
1263 rhaas@postgresql.org 546 : 130 : LogStreamerMain(logstreamer_param *param)
547 : : {
1148 peter@eisentraut.org 548 : 130 : StreamCtl stream = {0};
549 : :
3281 peter_e@gmx.net 550 : 130 : in_log_streamer = true;
551 : :
3466 magnus@hagander.net 552 : 130 : stream.startpos = param->startptr;
553 : 130 : stream.timeline = param->timeline;
554 : 130 : stream.sysidentifier = param->sysidentifier;
555 : 130 : stream.stream_stop = reached_end_position;
556 : : #ifndef WIN32
3054 tgl@sss.pgh.pa.us 557 : 130 : stream.stop_socket = bgpipe[0];
558 : : #else
559 : : stream.stop_socket = PGINVALID_SOCKET;
560 : : #endif
3466 magnus@hagander.net 561 : 130 : stream.standby_message_timeout = standby_message_timeout;
562 : 130 : stream.synchronous = false;
563 : : /* fsync happens at the end of pg_basebackup for all data */
2194 michael@paquier.xyz 564 : 130 : stream.do_sync = false;
3466 magnus@hagander.net 565 : 130 : stream.mark_done = true;
566 : 130 : stream.partial_suffix = NULL;
3155 567 : 130 : stream.replication_slot = replication_slot;
3240 568 [ + + ]: 130 : if (format == 'p')
1402 michael@paquier.xyz 569 : 117 : stream.walmethod = CreateWalDirectoryMethod(param->xlog,
570 : : PG_COMPRESSION_NONE, 0,
2194 571 : 117 : stream.do_sync);
572 : : else
1303 rhaas@postgresql.org 573 : 13 : stream.walmethod = CreateWalTarMethod(param->xlog,
574 : : param->wal_compress_algorithm,
575 : : param->wal_compress_level,
576 : 13 : stream.do_sync);
577 : :
3466 magnus@hagander.net 578 [ + + ]: 130 : if (!ReceiveXlogStream(param->bgconn, &stream))
579 : : {
580 : : /*
581 : : * Any errors will already have been reported in the function process,
582 : : * but we need to tell the parent that we didn't shutdown in a nice
583 : : * way.
584 : : */
585 : : #ifdef WIN32
586 : : /*
587 : : * In order to signal the main thread of an ungraceful exit we set the
588 : : * same flag that we use on Unix to signal SIGCHLD.
589 : : */
590 : : bgchild_exited = true;
591 : : #endif
5064 592 : 2 : return 1;
593 : : }
594 : :
1083 rhaas@postgresql.org 595 [ - + ]: 128 : if (!stream.walmethod->ops->finish(stream.walmethod))
596 : : {
2350 peter@eisentraut.org 597 :UBC 0 : pg_log_error("could not finish writing WAL files: %m");
598 : : #ifdef WIN32
599 : : bgchild_exited = true;
600 : : #endif
3240 magnus@hagander.net 601 : 0 : return 1;
602 : : }
603 : :
5064 magnus@hagander.net 604 :CBC 128 : PQfinish(param->bgconn);
605 : :
1083 rhaas@postgresql.org 606 : 128 : stream.walmethod->ops->free(stream.walmethod);
607 : :
5064 magnus@hagander.net 608 : 128 : return 0;
609 : : }
610 : :
611 : : /*
612 : : * Initiate background process for receiving xlog during the backup.
613 : : * The background stream will use its own database connection so we can
614 : : * stream the logfile in parallel with the backups.
615 : : */
616 : : static void
1263 rhaas@postgresql.org 617 : 135 : StartLogStreamer(char *startpos, uint32 timeline, char *sysidentifier,
618 : : pg_compress_algorithm wal_compress_algorithm,
619 : : int wal_compress_level)
620 : : {
621 : : logstreamer_param *param;
622 : : uint32 hi,
623 : : lo;
624 : : char statusdir[MAXPGPATH];
625 : :
4722 tgl@sss.pgh.pa.us 626 : 135 : param = pg_malloc0(sizeof(logstreamer_param));
5064 magnus@hagander.net 627 : 135 : param->timeline = timeline;
628 : 135 : param->sysidentifier = sysidentifier;
1243 michael@paquier.xyz 629 : 135 : param->wal_compress_algorithm = wal_compress_algorithm;
1263 rhaas@postgresql.org 630 : 135 : param->wal_compress_level = wal_compress_level;
631 : :
632 : : /* Convert the starting position */
61 alvherre@kurilemu.de 633 [ - + ]:GNC 135 : if (sscanf(startpos, "%X/%08X", &hi, &lo) != 2)
1247 tgl@sss.pgh.pa.us 634 :UBC 0 : pg_fatal("could not parse write-ahead log location \"%s\"",
635 : : startpos);
4822 heikki.linnakangas@i 636 :CBC 135 : param->startptr = ((uint64) hi) << 32 | lo;
637 : : /* Round off to even segment position */
2909 andres@anarazel.de 638 : 135 : param->startptr -= XLogSegmentOffset(param->startptr, WalSegSz);
639 : :
640 : : #ifndef WIN32
641 : : /* Create our background pipe */
4910 andrew@dunslane.net 642 [ - + ]: 135 : if (pipe(bgpipe) < 0)
1247 tgl@sss.pgh.pa.us 643 :UBC 0 : pg_fatal("could not create pipe for background process: %m");
644 : : #endif
645 : :
646 : : /* Get a second connection */
5064 magnus@hagander.net 647 :CBC 135 : param->bgconn = GetConnection();
4850 648 [ - + ]: 135 : if (!param->bgconn)
649 : : /* Error message already written in GetConnection() */
4850 magnus@hagander.net 650 :UBC 0 : exit(1);
651 : :
652 : : /* In post-10 cluster, pg_xlog has been renamed to pg_wal */
3240 magnus@hagander.net 653 [ - + ]:CBC 135 : snprintf(param->xlog, sizeof(param->xlog), "%s/%s",
654 : : basedir,
3243 rhaas@postgresql.org 655 : 135 : PQserverVersion(conn) < MINIMUM_VERSION_FOR_PG_WAL ?
656 : : "pg_xlog" : "pg_wal");
657 : :
658 : : /* Temporary replication slots are only supported in 10 and newer */
3155 magnus@hagander.net 659 [ - + ]: 135 : if (PQserverVersion(conn) < MINIMUM_VERSION_FOR_TEMP_SLOTS)
2902 peter_e@gmx.net 660 :UBC 0 : temp_replication_slot = false;
661 : :
662 : : /*
663 : : * Create replication slot if requested
664 : : */
2902 peter_e@gmx.net 665 [ + + + - ]:CBC 135 : if (temp_replication_slot && !replication_slot)
730 michael@paquier.xyz 666 : 129 : replication_slot = psprintf("pg_basebackup_%u",
667 : 129 : (unsigned int) PQbackendPID(param->bgconn));
2902 peter_e@gmx.net 668 [ + + + + ]: 135 : if (temp_replication_slot || create_slot)
669 : : {
670 [ + + ]: 131 : if (!CreateReplicationSlot(param->bgconn, replication_slot, NULL,
671 : : temp_replication_slot, true, true, false,
672 : : false, false))
2443 peter@eisentraut.org 673 : 1 : exit(1);
674 : :
2902 peter_e@gmx.net 675 [ - + ]: 130 : if (verbose)
676 : : {
2902 peter_e@gmx.net 677 [ # # ]:UBC 0 : if (temp_replication_slot)
2350 peter@eisentraut.org 678 : 0 : pg_log_info("created temporary replication slot \"%s\"",
679 : : replication_slot);
680 : : else
681 : 0 : pg_log_info("created replication slot \"%s\"",
682 : : replication_slot);
683 : : }
684 : : }
685 : :
3240 magnus@hagander.net 686 [ + + ]:CBC 134 : if (format == 'p')
687 : : {
688 : : /*
689 : : * Create pg_wal/archive_status or pg_xlog/archive_status (and thus
690 : : * pg_wal or pg_xlog) depending on the target server so we can write
691 : : * to basedir/pg_wal or basedir/pg_xlog as the directory entry in the
692 : : * tar file may arrive later.
693 : : */
694 [ - + ]: 120 : snprintf(statusdir, sizeof(statusdir), "%s/%s/archive_status",
695 : : basedir,
696 : 120 : PQserverVersion(conn) < MINIMUM_VERSION_FOR_PG_WAL ?
697 : : "pg_xlog" : "pg_wal");
698 : :
2709 sfrost@snowman.net 699 [ - + - - ]: 120 : if (pg_mkdir_p(statusdir, pg_dir_create_mode) != 0 && errno != EEXIST)
1247 tgl@sss.pgh.pa.us 700 :UBC 0 : pg_fatal("could not create directory \"%s\": %m", statusdir);
701 : :
702 : : /*
703 : : * For newer server versions, likewise create pg_wal/summaries
704 : : */
580 michael@paquier.xyz 705 [ + - ]:CBC 120 : if (PQserverVersion(conn) >= MINIMUM_VERSION_FOR_WAL_SUMMARIES)
706 : : {
707 : : char summarydir[MAXPGPATH];
708 : :
626 rhaas@postgresql.org 709 : 120 : snprintf(summarydir, sizeof(summarydir), "%s/%s/summaries",
710 : : basedir, "pg_wal");
711 : :
604 712 [ - + ]: 120 : if (pg_mkdir_p(summarydir, pg_dir_create_mode) != 0 &&
626 rhaas@postgresql.org 713 [ # # ]:UBC 0 : errno != EEXIST)
714 : 0 : pg_fatal("could not create directory \"%s\": %m", summarydir);
715 : : }
716 : : }
717 : :
718 : : /*
719 : : * Start a child process and tell it to start streaming. On Unix, this is
720 : : * a fork(). On Windows, we create a thread.
721 : : */
722 : : #ifndef WIN32
5064 magnus@hagander.net 723 :CBC 134 : bgchild = fork();
724 [ + + ]: 264 : if (bgchild == 0)
725 : : {
726 : : /* in child process */
1159 andres@anarazel.de 727 : 130 : exit(LogStreamerMain(param));
728 : : }
5064 magnus@hagander.net 729 [ - + ]: 134 : else if (bgchild < 0)
1247 tgl@sss.pgh.pa.us 730 :UBC 0 : pg_fatal("could not create background process: %m");
731 : :
732 : : /*
733 : : * Else we are in the parent process and all is well.
734 : : */
2443 peter@eisentraut.org 735 :CBC 134 : atexit(kill_bgchild_atexit);
736 : : #else /* WIN32 */
737 : : bgchild = _beginthreadex(NULL, 0, (void *) LogStreamerMain, param, 0, NULL);
738 : : if (bgchild == 0)
739 : : pg_fatal("could not create background thread: %m");
740 : : #endif
5064 magnus@hagander.net 741 : 134 : }
742 : :
743 : : /*
744 : : * Verify that the given directory exists and is empty. If it does not
745 : : * exist, it is created. If it exists but is not empty, an error will
746 : : * be given and the process ended.
747 : : */
748 : : static void
3281 peter_e@gmx.net 749 : 202 : verify_dir_is_empty_or_create(char *dirname, bool *created, bool *found)
750 : : {
5340 magnus@hagander.net 751 [ + + + - : 202 : switch (pg_check_dir(dirname))
- ]
752 : : {
753 : 187 : case 0:
754 : :
755 : : /*
756 : : * Does not exist, so create
757 : : */
2709 sfrost@snowman.net 758 [ - + ]: 187 : if (pg_mkdir_p(dirname, pg_dir_create_mode) == -1)
1247 tgl@sss.pgh.pa.us 759 :UBC 0 : pg_fatal("could not create directory \"%s\": %m", dirname);
3281 peter_e@gmx.net 760 [ + - ]:CBC 187 : if (created)
761 : 187 : *created = true;
5340 magnus@hagander.net 762 : 187 : return;
763 : 14 : case 1:
764 : :
765 : : /*
766 : : * Exists, empty
767 : : */
3281 peter_e@gmx.net 768 [ + - ]: 14 : if (found)
769 : 14 : *found = true;
5340 magnus@hagander.net 770 : 14 : return;
771 : 1 : case 2:
772 : : case 3:
773 : : case 4:
774 : :
775 : : /*
776 : : * Exists, not empty
777 : : */
1247 tgl@sss.pgh.pa.us 778 : 1 : pg_fatal("directory \"%s\" exists but is not empty", dirname);
5340 magnus@hagander.net 779 :UBC 0 : case -1:
780 : :
781 : : /*
782 : : * Access problem
783 : : */
1247 tgl@sss.pgh.pa.us 784 : 0 : pg_fatal("could not access directory \"%s\": %m", dirname);
785 : : }
786 : : }
787 : :
788 : : /*
789 : : * Callback to update our notion of the current filename.
790 : : *
791 : : * No other code should modify progress_filename!
792 : : */
793 : : static void
1401 rhaas@postgresql.org 794 :CBC 133622 : progress_update_filename(const char *filename)
795 : : {
796 : : /* We needn't maintain this variable if not doing verbose reports. */
1297 tgl@sss.pgh.pa.us 797 [ - + - - ]: 133622 : if (showprogress && verbose)
798 : : {
1178 peter@eisentraut.org 799 :UBC 0 : free(progress_filename);
1297 tgl@sss.pgh.pa.us 800 [ # # ]: 0 : if (filename)
801 : 0 : progress_filename = pg_strdup(filename);
802 : : else
803 : 0 : progress_filename = NULL;
804 : : }
1401 rhaas@postgresql.org 805 :CBC 133622 : }
806 : :
807 : : /*
808 : : * Print a progress report based on the global variables. If verbose output
809 : : * is enabled, also print the current file name.
810 : : *
811 : : * Progress report is written at maximum once per second, unless the force
812 : : * parameter is set to true.
813 : : *
814 : : * If finished is set to true, this is the last progress report. The cursor
815 : : * is moved to the next line.
816 : : */
817 : : static void
818 : 240 : progress_report(int tablespacenum, bool force, bool finished)
819 : : {
820 : : int percent;
821 : : char totaldone_str[32];
822 : : char totalsize_str[32];
823 : : pg_time_t now;
824 : :
4227 magnus@hagander.net 825 [ + - ]: 240 : if (!showprogress)
826 : 240 : return;
827 : :
4227 magnus@hagander.net 828 :UBC 0 : now = time(NULL);
1846 heikki.linnakangas@i 829 [ # # # # : 0 : if (now == last_progress_report && !force && !finished)
# # ]
4141 bruce@momjian.us 830 : 0 : return; /* Max once per second */
831 : :
4227 magnus@hagander.net 832 : 0 : last_progress_report = now;
2195 peter@eisentraut.org 833 [ # # ]: 0 : percent = totalsize_kb ? (int) ((totaldone / 1024) * 100 / totalsize_kb) : 0;
834 : :
835 : : /*
836 : : * Avoid overflowing past 100% or the full size. This may make the total
837 : : * size number change as we approach the end of the backup (the estimate
838 : : * will always be wrong if WAL is included), but that's better than having
839 : : * the done column be bigger than the total.
840 : : */
5333 magnus@hagander.net 841 [ # # ]: 0 : if (percent > 100)
842 : 0 : percent = 100;
2195 peter@eisentraut.org 843 [ # # ]: 0 : if (totaldone / 1024 > totalsize_kb)
844 : 0 : totalsize_kb = totaldone / 1024;
845 : :
1452 846 : 0 : snprintf(totaldone_str, sizeof(totaldone_str), UINT64_FORMAT,
847 : : totaldone / 1024);
848 : 0 : snprintf(totalsize_str, sizeof(totalsize_str), UINT64_FORMAT, totalsize_kb);
849 : :
850 : : #define VERBOSE_FILENAME_LENGTH 35
5340 magnus@hagander.net 851 [ # # ]: 0 : if (verbose)
852 : : {
1401 rhaas@postgresql.org 853 [ # # ]: 0 : if (!progress_filename)
854 : :
855 : : /*
856 : : * No filename given, so clear the status line (used for last
857 : : * call)
858 : : */
5285 magnus@hagander.net 859 : 0 : fprintf(stderr,
4615 860 : 0 : ngettext("%*s/%s kB (100%%), %d/%d tablespace %*s",
861 : : "%*s/%s kB (100%%), %d/%d tablespaces %*s",
862 : : tablespacecount),
863 : 0 : (int) strlen(totalsize_str),
864 : : totaldone_str, totalsize_str,
865 : : tablespacenum, tablespacecount,
866 : : VERBOSE_FILENAME_LENGTH + 5, "");
867 : : else
868 : : {
1401 rhaas@postgresql.org 869 : 0 : bool truncate = (strlen(progress_filename) > VERBOSE_FILENAME_LENGTH);
870 : :
5285 magnus@hagander.net 871 [ # # # # : 0 : fprintf(stderr,
# # # # ]
4615 872 : 0 : ngettext("%*s/%s kB (%d%%), %d/%d tablespace (%s%-*.*s)",
873 : : "%*s/%s kB (%d%%), %d/%d tablespaces (%s%-*.*s)",
874 : : tablespacecount),
875 : 0 : (int) strlen(totalsize_str),
876 : : totaldone_str, totalsize_str, percent,
877 : : tablespacenum, tablespacecount,
878 : : /* Prefix with "..." if we do leading truncation */
879 : : truncate ? "..." : "",
880 : : truncate ? VERBOSE_FILENAME_LENGTH - 3 : VERBOSE_FILENAME_LENGTH,
881 : : truncate ? VERBOSE_FILENAME_LENGTH - 3 : VERBOSE_FILENAME_LENGTH,
882 : : /* Truncate filename at beginning if it's too long */
1401 rhaas@postgresql.org 883 : 0 : truncate ? progress_filename + strlen(progress_filename) - VERBOSE_FILENAME_LENGTH + 3 : progress_filename);
884 : : }
885 : : }
886 : : else
5135 peter_e@gmx.net 887 : 0 : fprintf(stderr,
4615 magnus@hagander.net 888 : 0 : ngettext("%*s/%s kB (%d%%), %d/%d tablespace",
889 : : "%*s/%s kB (%d%%), %d/%d tablespaces",
890 : : tablespacecount),
891 : 0 : (int) strlen(totalsize_str),
892 : : totaldone_str, totalsize_str, percent,
893 : : tablespacenum, tablespacecount);
894 : :
895 : : /*
896 : : * Stay on the same line if reporting to a terminal and we're not done
897 : : * yet.
898 : : */
1845 heikki.linnakangas@i 899 [ # # # # ]: 0 : fputc((!finished && isatty(fileno(stderr))) ? '\r' : '\n', stderr);
900 : : }
901 : :
902 : : static int32
4209 alvherre@alvh.no-ip. 903 :CBC 1 : parse_max_rate(char *src)
904 : : {
905 : : double result;
906 : : char *after_num;
4141 bruce@momjian.us 907 : 1 : char *suffix = NULL;
908 : :
4209 alvherre@alvh.no-ip. 909 : 1 : errno = 0;
910 : 1 : result = strtod(src, &after_num);
911 [ - + ]: 1 : if (src == after_num)
1247 tgl@sss.pgh.pa.us 912 :UBC 0 : pg_fatal("transfer rate \"%s\" is not a valid value", src);
4209 alvherre@alvh.no-ip. 913 [ - + ]:CBC 1 : if (errno != 0)
1247 tgl@sss.pgh.pa.us 914 :UBC 0 : pg_fatal("invalid transfer rate \"%s\": %m", src);
915 : :
4209 alvherre@alvh.no-ip. 916 [ - + ]:CBC 1 : if (result <= 0)
917 : : {
918 : : /*
919 : : * Reject obviously wrong values here.
920 : : */
1247 tgl@sss.pgh.pa.us 921 :UBC 0 : pg_fatal("transfer rate must be greater than zero");
922 : : }
923 : :
924 : : /*
925 : : * Evaluate suffix, after skipping over possible whitespace. Lack of
926 : : * suffix means kilobytes.
927 : : */
4209 alvherre@alvh.no-ip. 928 [ - + - - ]:CBC 1 : while (*after_num != '\0' && isspace((unsigned char) *after_num))
4209 alvherre@alvh.no-ip. 929 :UBC 0 : after_num++;
930 : :
4209 alvherre@alvh.no-ip. 931 [ - + ]:CBC 1 : if (*after_num != '\0')
932 : : {
4209 alvherre@alvh.no-ip. 933 :UBC 0 : suffix = after_num;
934 [ # # ]: 0 : if (*after_num == 'k')
935 : : {
936 : : /* kilobyte is the expected unit. */
937 : 0 : after_num++;
938 : : }
939 [ # # ]: 0 : else if (*after_num == 'M')
940 : : {
941 : 0 : after_num++;
942 : 0 : result *= 1024.0;
943 : : }
944 : : }
945 : :
946 : : /* The rest can only consist of white space. */
4209 alvherre@alvh.no-ip. 947 [ - + - - ]:CBC 1 : while (*after_num != '\0' && isspace((unsigned char) *after_num))
4209 alvherre@alvh.no-ip. 948 :UBC 0 : after_num++;
949 : :
4209 alvherre@alvh.no-ip. 950 [ - + ]:CBC 1 : if (*after_num != '\0')
1247 tgl@sss.pgh.pa.us 951 :UBC 0 : pg_fatal("invalid --max-rate unit: \"%s\"", suffix);
952 : :
953 : : /* Valid integer? */
4209 alvherre@alvh.no-ip. 954 [ - + ]:CBC 1 : if ((uint64) result != (uint64) ((uint32) result))
1247 tgl@sss.pgh.pa.us 955 :UBC 0 : pg_fatal("transfer rate \"%s\" exceeds integer range", src);
956 : :
957 : : /*
958 : : * The range is checked on the server side too, but avoid the server
959 : : * connection if a nonsensical value was passed.
960 : : */
4209 alvherre@alvh.no-ip. 961 [ + - - + ]:CBC 1 : if (result < MAX_RATE_LOWER || result > MAX_RATE_UPPER)
1247 tgl@sss.pgh.pa.us 962 :UBC 0 : pg_fatal("transfer rate \"%s\" is out of range", src);
963 : :
4209 alvherre@alvh.no-ip. 964 :CBC 1 : return (int32) result;
965 : : }
966 : :
967 : : /*
968 : : * Basic parsing of a value specified for -Z/--compress.
969 : : *
970 : : * We're not concerned here with understanding exactly what behavior the
971 : : * user wants, but we do need to know whether the user is requesting client
972 : : * or server side compression or leaving it unspecified, and we need to
973 : : * separate the name of the compression algorithm from the detail string.
974 : : *
975 : : * For instance, if the user writes --compress client-lz4:6, we want to
976 : : * separate that into (a) client-side compression, (b) algorithm "lz4",
977 : : * and (c) detail "6". Note, however, that all the client/server prefix is
978 : : * optional, and so is the detail. The algorithm name is required, unless
979 : : * the whole string is an integer, in which case we assume "gzip" as the
980 : : * algorithm and use the integer as the detail.
981 : : *
982 : : * We're not concerned with validation at this stage, so if the user writes
983 : : * --compress client-turkey:sandwich, the requested algorithm is "turkey"
984 : : * and the detail string is "sandwich". We'll sort out whether that's legal
985 : : * at a later stage.
986 : : */
987 : : static void
1011 michael@paquier.xyz 988 : 39 : backup_parse_compress_options(char *option, char **algorithm, char **detail,
989 : : CompressionLocation *locationres)
990 : : {
991 : : /*
992 : : * Strip off any "client-" or "server-" prefix, calculating the location.
993 : : */
1263 rhaas@postgresql.org 994 [ + + ]: 39 : if (strncmp(option, "server-", 7) == 0)
995 : : {
1321 996 : 19 : *locationres = COMPRESS_LOCATION_SERVER;
1263 997 : 19 : option += 7;
998 : : }
999 [ + + ]: 20 : else if (strncmp(option, "client-", 7) == 0)
1000 : : {
1303 1001 : 6 : *locationres = COMPRESS_LOCATION_CLIENT;
1263 1002 : 6 : option += 7;
1003 : : }
1004 : : else
1321 1005 : 14 : *locationres = COMPRESS_LOCATION_UNSPECIFIED;
1006 : :
1007 : : /* fallback to the common parsing for the algorithm and detail */
1011 michael@paquier.xyz 1008 : 39 : parse_compress_options(option, algorithm, detail);
1324 1009 : 39 : }
1010 : :
1011 : : /*
1012 : : * Read a stream of COPY data and invoke the provided callback for each
1013 : : * chunk.
1014 : : */
1015 : : static void
2102 rhaas@postgresql.org 1016 : 165 : ReceiveCopyData(PGconn *conn, WriteDataCallback callback,
1017 : : void *callback_data)
1018 : : {
1019 : : PGresult *res;
1020 : :
1021 : : /* Get the COPY data stream. */
1022 : 165 : res = PQgetResult(conn);
1023 [ - + ]: 165 : if (PQresultStatus(res) != PGRES_COPY_OUT)
1247 tgl@sss.pgh.pa.us 1024 :UBC 0 : pg_fatal("could not get COPY data stream: %s",
1025 : : PQerrorMessage(conn));
2102 rhaas@postgresql.org 1026 :CBC 165 : PQclear(res);
1027 : :
1028 : : /* Loop over chunks until done. */
1029 : : while (1)
1030 : 343818 : {
1031 : : int r;
1032 : : char *copybuf;
1033 : :
1034 : 343983 : r = PQgetCopyData(conn, ©buf, 0);
1035 [ + + ]: 343983 : if (r == -1)
1036 : : {
1037 : : /* End of chunk. */
1038 : 163 : break;
1039 : : }
1040 [ - + ]: 343820 : else if (r == -2)
1247 tgl@sss.pgh.pa.us 1041 :UBC 0 : pg_fatal("could not read COPY data: %s",
1042 : : PQerrorMessage(conn));
1043 : :
1291 dgustafsson@postgres 1044 [ + + ]:CBC 343820 : if (bgchild_exited)
1247 tgl@sss.pgh.pa.us 1045 : 2 : pg_fatal("background process terminated unexpectedly");
1046 : :
2102 rhaas@postgresql.org 1047 : 343818 : (*callback) (r, copybuf, callback_data);
1048 : :
1049 : 343818 : PQfreemem(copybuf);
1050 : : }
1051 : 163 : }
1052 : :
1053 : : /*
1054 : : * Figure out what to do with an archive received from the server based on
1055 : : * the options selected by the user. We may just write the results directly
1056 : : * to a file, or we might compress first, or we might extract the tar file
1057 : : * and write each member separately. This function doesn't do any of that
1058 : : * directly, but it works out what kind of astreamer we need to create so
1059 : : * that the right stuff happens when, down the road, we actually receive
1060 : : * the data.
1061 : : */
1062 : : static astreamer *
1401 1063 : 187 : CreateBackupStreamer(char *archive_name, char *spclocation,
1064 : : astreamer **manifest_inject_streamer_p,
1065 : : bool is_recovery_guc_supported,
1066 : : bool expect_unterminated_tarfile,
1067 : : pg_compress_specification *compress)
1068 : : {
397 1069 : 187 : astreamer *streamer = NULL;
1070 : 187 : astreamer *manifest_inject_streamer = NULL;
1071 : : bool inject_manifest;
1072 : : bool is_tar,
1073 : : is_tar_gz,
1074 : : is_tar_lz4,
1075 : : is_tar_zstd,
1076 : : is_compressed_tar;
1077 : : bool must_parse_archive;
1321 1078 : 187 : int archive_name_len = strlen(archive_name);
1079 : :
1080 : : /*
1081 : : * Normally, we emit the backup manifest as a separate file, but when
1082 : : * we're writing a tarfile to stdout, we don't have that option, so
1083 : : * include it in the one tarfile we've got.
1084 : : */
1401 1085 [ + + - + : 187 : inject_manifest = (format == 't' && strcmp(basedir, "-") == 0 && manifest);
- - ]
1086 : :
1087 : : /* Is this a tar archive? */
1321 1088 [ + - ]: 374 : is_tar = (archive_name_len > 4 &&
1089 [ + + ]: 187 : strcmp(archive_name + archive_name_len - 4, ".tar") == 0);
1090 : :
1091 : : /* Is this a .tar.gz archive? */
1275 1092 [ + - ]: 374 : is_tar_gz = (archive_name_len > 7 &&
1093 [ + + ]: 187 : strcmp(archive_name + archive_name_len - 7, ".tar.gz") == 0);
1094 : :
1095 : : /* Is this a .tar.lz4 archive? */
1303 1096 [ + + ]: 224 : is_tar_lz4 = (archive_name_len > 8 &&
1275 1097 [ + + ]: 37 : strcmp(archive_name + archive_name_len - 8, ".tar.lz4") == 0);
1098 : :
1099 : : /* Is this a .tar.zst archive? */
1279 1100 [ + + ]: 224 : is_tar_zstd = (archive_name_len > 8 &&
1275 1101 [ + + ]: 37 : strcmp(archive_name + archive_name_len - 8, ".tar.zst") == 0);
1102 : :
1103 : : /* Is this any kind of compressed tar? */
1104 [ + + + + : 187 : is_compressed_tar = is_tar_gz || is_tar_lz4 || is_tar_zstd;
+ + ]
1105 : :
1106 : : /*
1107 : : * Injecting the manifest into a compressed tar file would be possible if
1108 : : * we decompressed it, parsed the tarfile, generated a new tarfile, and
1109 : : * recompressed it, but compressing and decompressing multiple times just
1110 : : * to inject the manifest seems inefficient enough that it's probably not
1111 : : * what the user wants. So, instead, reject the request and tell the user
1112 : : * to specify something more reasonable.
1113 : : */
1114 [ - + - - ]: 187 : if (inject_manifest && is_compressed_tar)
1115 : : {
1078 peter@eisentraut.org 1116 :UBC 0 : pg_log_error("cannot inject manifest into a compressed tar file");
1117 : 0 : pg_log_error_hint("Use client-side compression, send the output to a directory rather than standard output, or use %s.",
1118 : : "--no-manifest");
1275 rhaas@postgresql.org 1119 : 0 : exit(1);
1120 : : }
1121 : :
1122 : : /*
1123 : : * We have to parse the archive if (1) we're suppose to extract it, or if
1124 : : * (2) we need to inject backup_manifest or recovery configuration into
1125 : : * it. However, we only know how to parse tar archives.
1126 : : */
1401 rhaas@postgresql.org 1127 [ + + + - :CBC 209 : must_parse_archive = (format == 'p' || inject_manifest ||
+ + ]
1213 tgl@sss.pgh.pa.us 1128 [ - + ]: 22 : (spclocation == NULL && writerecoveryconf));
1129 : :
1130 : : /* At present, we only know how to parse tar archives. */
1275 rhaas@postgresql.org 1131 [ + + + + : 187 : if (must_parse_archive && !is_tar && !is_compressed_tar)
- + ]
1132 : : {
1078 peter@eisentraut.org 1133 :UBC 0 : pg_log_error("cannot parse archive \"%s\"", archive_name);
1247 tgl@sss.pgh.pa.us 1134 : 0 : pg_log_error_detail("Only tar archives can be parsed.");
1321 rhaas@postgresql.org 1135 [ # # ]: 0 : if (format == 'p')
1247 tgl@sss.pgh.pa.us 1136 : 0 : pg_log_error_detail("Plain format requires pg_basebackup to parse the archive.");
1321 rhaas@postgresql.org 1137 [ # # ]: 0 : if (inject_manifest)
1247 tgl@sss.pgh.pa.us 1138 : 0 : pg_log_error_detail("Using - as the output directory requires pg_basebackup to parse the archive.");
1321 rhaas@postgresql.org 1139 [ # # ]: 0 : if (writerecoveryconf)
1247 tgl@sss.pgh.pa.us 1140 : 0 : pg_log_error_detail("The -R option requires pg_basebackup to parse the archive.");
1321 rhaas@postgresql.org 1141 : 0 : exit(1);
1142 : : }
1143 : :
1401 rhaas@postgresql.org 1144 [ + + ]:CBC 187 : if (format == 'p')
1145 : : {
1146 : : const char *directory;
1147 : :
1148 : : /*
1149 : : * In plain format, we must extract the archive. The data for the main
1150 : : * tablespace will be written to the base directory, and the data for
1151 : : * other tablespaces will be written to the directory where they're
1152 : : * located on the server, after applying any user-specified tablespace
1153 : : * mappings.
1154 : : *
1155 : : * In the case of an in-place tablespace, spclocation will be a
1156 : : * relative path. We just convert it to an absolute path by prepending
1157 : : * basedir.
1158 : : */
872 1159 [ + + ]: 162 : if (spclocation == NULL)
1160 : 132 : directory = basedir;
1161 [ + + ]: 30 : else if (!is_absolute_path(spclocation))
1162 : 14 : directory = psprintf("%s/%s", basedir, spclocation);
1163 : : else
1164 : 16 : directory = get_tablespace_mapping(spclocation);
397 1165 : 162 : streamer = astreamer_extractor_new(directory,
1166 : : get_tablespace_mapping,
1167 : : progress_update_filename);
1168 : : }
1169 : : else
1170 : : {
1171 : : FILE *archive_file;
1172 : : char archive_filename[MAXPGPATH];
1173 : :
1174 : : /*
1175 : : * In tar format, we just write the archive without extracting it.
1176 : : * Normally, we write it to the archive name provided by the caller,
1177 : : * but when the base directory is "-" that means we need to write to
1178 : : * standard output.
1179 : : */
1401 1180 [ - + ]: 25 : if (strcmp(basedir, "-") == 0)
1181 : : {
1401 rhaas@postgresql.org 1182 :UBC 0 : snprintf(archive_filename, sizeof(archive_filename), "-");
1183 : 0 : archive_file = stdout;
1184 : : }
1185 : : else
1186 : : {
1401 rhaas@postgresql.org 1187 :CBC 25 : snprintf(archive_filename, sizeof(archive_filename),
1188 : : "%s/%s", basedir, archive_name);
1189 : 25 : archive_file = NULL;
1190 : : }
1191 : :
1243 michael@paquier.xyz 1192 [ + + ]: 25 : if (compress->algorithm == PG_COMPRESSION_NONE)
397 rhaas@postgresql.org 1193 : 16 : streamer = astreamer_plain_writer_new(archive_filename,
1194 : : archive_file);
1243 michael@paquier.xyz 1195 [ + + ]: 9 : else if (compress->algorithm == PG_COMPRESSION_GZIP)
1196 : : {
1401 rhaas@postgresql.org 1197 : 4 : strlcat(archive_filename, ".gz", sizeof(archive_filename));
397 1198 : 4 : streamer = astreamer_gzip_writer_new(archive_filename,
1199 : : archive_file, compress);
1200 : : }
1243 michael@paquier.xyz 1201 [ + + ]: 5 : else if (compress->algorithm == PG_COMPRESSION_LZ4)
1202 : : {
1303 rhaas@postgresql.org 1203 : 2 : strlcat(archive_filename, ".lz4", sizeof(archive_filename));
397 1204 : 2 : streamer = astreamer_plain_writer_new(archive_filename,
1205 : : archive_file);
1206 : 2 : streamer = astreamer_lz4_compressor_new(streamer, compress);
1207 : : }
1243 michael@paquier.xyz 1208 [ + - ]: 3 : else if (compress->algorithm == PG_COMPRESSION_ZSTD)
1209 : : {
1279 rhaas@postgresql.org 1210 : 3 : strlcat(archive_filename, ".zst", sizeof(archive_filename));
397 1211 : 3 : streamer = astreamer_plain_writer_new(archive_filename,
1212 : : archive_file);
1213 : 3 : streamer = astreamer_zstd_compressor_new(streamer, compress);
1214 : : }
1215 : : else
1216 : : {
1324 michael@paquier.xyz 1217 :UBC 0 : Assert(false); /* not reachable */
1218 : : }
1219 : :
1220 : : /*
1221 : : * If we need to parse the archive for whatever reason, then we'll
1222 : : * also need to re-archive, because, if the output format is tar, the
1223 : : * only point of parsing the archive is to be able to inject stuff
1224 : : * into it.
1225 : : */
1401 rhaas@postgresql.org 1226 [ - + ]:CBC 25 : if (must_parse_archive)
397 rhaas@postgresql.org 1227 :UBC 0 : streamer = astreamer_tar_archiver_new(streamer);
1297 tgl@sss.pgh.pa.us 1228 :CBC 25 : progress_update_filename(archive_filename);
1229 : : }
1230 : :
1231 : : /*
1232 : : * If we're supposed to inject the backup manifest into the results, it
1233 : : * should be done here, so that the file content can be injected directly,
1234 : : * without worrying about the details of the tar format.
1235 : : */
1401 rhaas@postgresql.org 1236 [ - + ]: 187 : if (inject_manifest)
1401 rhaas@postgresql.org 1237 :UBC 0 : manifest_inject_streamer = streamer;
1238 : :
1239 : : /*
1240 : : * If this is the main tablespace and we're supposed to write recovery
1241 : : * information, arrange to do that.
1242 : : */
1401 rhaas@postgresql.org 1243 [ + + + + ]:CBC 187 : if (spclocation == NULL && writerecoveryconf)
1244 : : {
1245 [ - + ]: 3 : Assert(must_parse_archive);
397 1246 : 3 : streamer = astreamer_recovery_injector_new(streamer,
1247 : : is_recovery_guc_supported,
1248 : : recoveryconfcontents);
1249 : : }
1250 : :
1251 : : /*
1252 : : * If we're doing anything that involves understanding the contents of the
1253 : : * archive, we'll need to parse it. If not, we can skip parsing it, but
1254 : : * old versions of the server send improperly terminated tarfiles, so if
1255 : : * we're talking to such a server we'll need to add the terminator here.
1256 : : */
1401 1257 [ + + ]: 187 : if (must_parse_archive)
397 1258 : 162 : streamer = astreamer_tar_parser_new(streamer);
1397 1259 [ - + ]: 25 : else if (expect_unterminated_tarfile)
397 rhaas@postgresql.org 1260 :UBC 0 : streamer = astreamer_tar_terminator_new(streamer);
1261 : :
1262 : : /*
1263 : : * If the user has requested a server compressed archive along with
1264 : : * archive extraction at client then we need to decompress it.
1265 : : */
1263 rhaas@postgresql.org 1266 [ + + ]:CBC 187 : if (format == 'p')
1267 : : {
1268 [ + + ]: 162 : if (is_tar_gz)
397 1269 : 1 : streamer = astreamer_gzip_decompressor_new(streamer);
1263 1270 [ + + ]: 161 : else if (is_tar_lz4)
397 1271 : 1 : streamer = astreamer_lz4_decompressor_new(streamer);
1263 1272 [ + + ]: 160 : else if (is_tar_zstd)
397 1273 : 2 : streamer = astreamer_zstd_decompressor_new(streamer);
1274 : : }
1275 : :
1276 : : /* Return the results. */
1401 1277 : 187 : *manifest_inject_streamer_p = manifest_inject_streamer;
1278 : 187 : return streamer;
1279 : : }
1280 : :
1281 : : /*
1282 : : * Receive all of the archives the server wants to send - and the backup
1283 : : * manifest if present - as a single COPY stream.
1284 : : */
1285 : : static void
1243 michael@paquier.xyz 1286 : 165 : ReceiveArchiveStream(PGconn *conn, pg_compress_specification *compress)
1287 : : {
1288 : : ArchiveStreamState state;
1289 : :
1290 : : /* Set up initial state. */
1327 rhaas@postgresql.org 1291 : 165 : memset(&state, 0, sizeof(state));
1292 : 165 : state.tablespacenum = -1;
1263 1293 : 165 : state.compress = compress;
1294 : :
1295 : : /* All the real work happens in ReceiveArchiveStreamChunk. */
1327 1296 : 165 : ReceiveCopyData(conn, ReceiveArchiveStreamChunk, &state);
1297 : :
1298 : : /* If we wrote the backup manifest to a file, close the file. */
1299 [ + + ]: 163 : if (state.manifest_file !=NULL)
1300 : : {
1301 : 150 : fclose(state.manifest_file);
1302 : 150 : state.manifest_file = NULL;
1303 : : }
1304 : :
1305 : : /*
1306 : : * If we buffered the backup manifest in order to inject it into the
1307 : : * output tarfile, do that now.
1308 : : */
1309 [ - + ]: 163 : if (state.manifest_inject_streamer != NULL &&
1327 rhaas@postgresql.org 1310 [ # # ]:UBC 0 : state.manifest_buffer != NULL)
1311 : : {
397 1312 : 0 : astreamer_inject_file(state.manifest_inject_streamer,
1313 : : "backup_manifest",
1314 : 0 : state.manifest_buffer->data,
1315 : 0 : state.manifest_buffer->len);
1327 1316 : 0 : destroyPQExpBuffer(state.manifest_buffer);
1317 : 0 : state.manifest_buffer = NULL;
1318 : : }
1319 : :
1320 : : /* If there's still an archive in progress, end processing. */
1327 rhaas@postgresql.org 1321 [ + + ]:CBC 163 : if (state.streamer != NULL)
1322 : : {
397 1323 : 152 : astreamer_finalize(state.streamer);
1324 : 152 : astreamer_free(state.streamer);
1327 1325 : 152 : state.streamer = NULL;
1326 : : }
1327 : 163 : }
1328 : :
1329 : : /*
1330 : : * Receive one chunk of data sent by the server as part of a single COPY
1331 : : * stream that includes all archives and the manifest.
1332 : : */
1333 : : static void
1334 : 343818 : ReceiveArchiveStreamChunk(size_t r, char *copybuf, void *callback_data)
1335 : : {
1336 : 343818 : ArchiveStreamState *state = callback_data;
1337 : 343818 : size_t cursor = 0;
1338 : :
1339 : : /* Each CopyData message begins with a type byte. */
1340 [ + + + + : 343818 : switch (GetCopyDataByte(r, copybuf, &cursor))
- ]
1341 : : {
31 nathan@postgresql.or 1342 :GNC 204 : case PqBackupMsg_NewArchive:
1343 : : {
1344 : : /* New archive. */
1345 : : char *archive_name;
1346 : : char *spclocation;
1347 : :
1348 : : /*
1349 : : * We force a progress report at the end of each tablespace. A
1350 : : * new tablespace starts when the previous one ends, except in
1351 : : * the case of the very first one.
1352 : : */
1327 rhaas@postgresql.org 1353 [ + + ]:CBC 204 : if (++state->tablespacenum > 0)
1354 : 39 : progress_report(state->tablespacenum, true, false);
1355 : :
1356 : : /* Sanity check. */
1357 [ + - ]: 204 : if (state->manifest_buffer != NULL ||
1358 [ - + ]: 204 : state->manifest_file !=NULL)
1078 peter@eisentraut.org 1359 :UBC 0 : pg_fatal("archives must precede manifest");
1360 : :
1361 : : /* Parse the rest of the CopyData message. */
1327 rhaas@postgresql.org 1362 :CBC 204 : archive_name = GetCopyDataString(r, copybuf, &cursor);
1363 : 204 : spclocation = GetCopyDataString(r, copybuf, &cursor);
1364 : 204 : GetCopyDataEnd(r, copybuf, cursor);
1365 : :
1366 : : /*
1367 : : * Basic sanity checks on the archive name: it shouldn't be
1368 : : * empty, it shouldn't start with a dot, and it shouldn't
1369 : : * contain a path separator.
1370 : : */
1371 [ + - + - ]: 204 : if (archive_name[0] == '\0' || archive_name[0] == '.' ||
1372 [ + - ]: 204 : strchr(archive_name, '/') != NULL ||
1373 [ - + ]: 204 : strchr(archive_name, '\\') != NULL)
1247 tgl@sss.pgh.pa.us 1374 :UBC 0 : pg_fatal("invalid archive name: \"%s\"",
1375 : : archive_name);
1376 : :
1377 : : /*
1378 : : * An empty spclocation is treated as NULL. We expect this
1379 : : * case to occur for the data directory itself, but not for
1380 : : * any archives that correspond to tablespaces.
1381 : : */
1327 rhaas@postgresql.org 1382 [ + + ]:CBC 204 : if (spclocation[0] == '\0')
1383 : 165 : spclocation = NULL;
1384 : :
1385 : : /* End processing of any prior archive. */
1386 [ + + ]: 204 : if (state->streamer != NULL)
1387 : : {
397 1388 : 33 : astreamer_finalize(state->streamer);
1389 : 33 : astreamer_free(state->streamer);
1327 1390 : 33 : state->streamer = NULL;
1391 : : }
1392 : :
1393 : : /*
1394 : : * Create an appropriate backup streamer, unless a backup
1395 : : * target was specified. In that case, it's up to the server
1396 : : * to put the backup wherever it needs to go.
1397 : : */
1390 1398 [ + + ]: 204 : if (backup_target == NULL)
1399 : : {
1400 : : /*
1401 : : * We know that recovery GUCs are supported, because this
1402 : : * protocol can only be used on v15+.
1403 : : */
1404 : 187 : state->streamer =
1405 : 187 : CreateBackupStreamer(archive_name,
1406 : : spclocation,
1407 : : &state->manifest_inject_streamer,
1408 : : true, false,
1409 : : state->compress);
1410 : : }
1327 1411 : 204 : break;
1412 : : }
1413 : :
31 nathan@postgresql.or 1414 :GNC 343252 : case PqMsg_CopyData:
1415 : : {
1416 : : /* Archive or manifest data. */
1327 rhaas@postgresql.org 1417 [ - + ]:CBC 343252 : if (state->manifest_buffer != NULL)
1418 : : {
1419 : : /* Manifest data, buffer in memory. */
1327 rhaas@postgresql.org 1420 :UBC 0 : appendPQExpBuffer(state->manifest_buffer, copybuf + 1,
1421 : : r - 1);
1422 : : }
1327 rhaas@postgresql.org 1423 [ + + ]:CBC 343252 : else if (state->manifest_file !=NULL)
1424 : : {
1425 : : /* Manifest data, write to disk. */
1426 [ - + ]: 773 : if (fwrite(copybuf + 1, r - 1, 1,
1427 : : state->manifest_file) != 1)
1428 : : {
1429 : : /*
1430 : : * If fwrite() didn't set errno, assume that the
1431 : : * problem is that we're out of disk space.
1432 : : */
1327 rhaas@postgresql.org 1433 [ # # ]:UBC 0 : if (errno == 0)
1434 : 0 : errno = ENOSPC;
1247 tgl@sss.pgh.pa.us 1435 : 0 : pg_fatal("could not write to file \"%s\": %m",
1436 : : state->manifest_filename);
1437 : : }
1438 : : }
1327 rhaas@postgresql.org 1439 [ + - ]:CBC 342479 : else if (state->streamer != NULL)
1440 : : {
1441 : : /* Archive data. */
397 1442 : 342479 : astreamer_content(state->streamer, NULL, copybuf + 1,
1443 : 342479 : r - 1, ASTREAMER_UNKNOWN);
1444 : : }
1445 : : else
1247 tgl@sss.pgh.pa.us 1446 :UBC 0 : pg_fatal("unexpected payload data");
1327 rhaas@postgresql.org 1447 :CBC 343252 : break;
1448 : : }
1449 : :
31 nathan@postgresql.or 1450 :GNC 201 : case PqBackupMsg_ProgressReport:
1451 : : {
1452 : : /*
1453 : : * Progress report.
1454 : : *
1455 : : * The remainder of the message is expected to be an 8-byte
1456 : : * count of bytes completed.
1457 : : */
1327 rhaas@postgresql.org 1458 :CBC 201 : totaldone = GetCopyDataUInt64(r, copybuf, &cursor);
1459 : 201 : GetCopyDataEnd(r, copybuf, cursor);
1460 : :
1461 : : /*
1462 : : * The server shouldn't send progress report messages too
1463 : : * often, so we force an update each time we receive one.
1464 : : */
1465 : 201 : progress_report(state->tablespacenum, true, false);
1466 : 201 : break;
1467 : : }
1468 : :
31 nathan@postgresql.or 1469 :GNC 161 : case PqBackupMsg_Manifest:
1470 : : {
1471 : : /*
1472 : : * Manifest data will be sent next. This message is not
1473 : : * expected to have any further payload data.
1474 : : */
1327 rhaas@postgresql.org 1475 :CBC 161 : GetCopyDataEnd(r, copybuf, cursor);
1476 : :
1477 : : /*
1478 : : * If a backup target was specified, figuring out where to put
1479 : : * the manifest is the server's problem. Otherwise, we need to
1480 : : * deal with it.
1481 : : */
1390 1482 [ + + ]: 161 : if (backup_target == NULL)
1483 : : {
1484 : : /*
1485 : : * If we're supposed inject the manifest into the archive,
1486 : : * we prepare to buffer it in memory; otherwise, we
1487 : : * prepare to write it to a temporary file.
1488 : : */
1489 [ - + ]: 150 : if (state->manifest_inject_streamer != NULL)
1390 rhaas@postgresql.org 1490 :UBC 0 : state->manifest_buffer = createPQExpBuffer();
1491 : : else
1492 : : {
1390 rhaas@postgresql.org 1493 :CBC 150 : snprintf(state->manifest_filename,
1494 : : sizeof(state->manifest_filename),
1495 : : "%s/backup_manifest.tmp", basedir);
1496 : 150 : state->manifest_file =
1497 : 150 : fopen(state->manifest_filename, "wb");
1498 [ - + ]: 150 : if (state->manifest_file == NULL)
1247 tgl@sss.pgh.pa.us 1499 :UBC 0 : pg_fatal("could not create file \"%s\": %m",
1500 : : state->manifest_filename);
1501 : : }
1502 : : }
1327 rhaas@postgresql.org 1503 :CBC 161 : break;
1504 : : }
1505 : :
1327 rhaas@postgresql.org 1506 :UBC 0 : default:
1507 : 0 : ReportCopyDataParseError(r, copybuf);
1508 : 0 : break;
1509 : : }
1327 rhaas@postgresql.org 1510 :CBC 343818 : }
1511 : :
1512 : : /*
1513 : : * Get a single byte from a CopyData message.
1514 : : *
1515 : : * Bail out if none remain.
1516 : : */
1517 : : static char
1518 : 343818 : GetCopyDataByte(size_t r, char *copybuf, size_t *cursor)
1519 : : {
1520 [ - + ]: 343818 : if (*cursor >= r)
1327 rhaas@postgresql.org 1521 :UBC 0 : ReportCopyDataParseError(r, copybuf);
1522 : :
1327 rhaas@postgresql.org 1523 :CBC 343818 : return copybuf[(*cursor)++];
1524 : : }
1525 : :
1526 : : /*
1527 : : * Get a NUL-terminated string from a CopyData message.
1528 : : *
1529 : : * Bail out if the terminating NUL cannot be found.
1530 : : */
1531 : : static char *
1532 : 408 : GetCopyDataString(size_t r, char *copybuf, size_t *cursor)
1533 : : {
1534 : 408 : size_t startpos = *cursor;
1535 : 408 : size_t endpos = startpos;
1536 : :
1537 : : while (1)
1538 : : {
1539 [ - + ]: 2895 : if (endpos >= r)
1327 rhaas@postgresql.org 1540 :UBC 0 : ReportCopyDataParseError(r, copybuf);
1327 rhaas@postgresql.org 1541 [ + + ]:CBC 2895 : if (copybuf[endpos] == '\0')
1542 : 408 : break;
1543 : 2487 : ++endpos;
1544 : : }
1545 : :
1546 : 408 : *cursor = endpos + 1;
1547 : 408 : return ©buf[startpos];
1548 : : }
1549 : :
1550 : : /*
1551 : : * Get an unsigned 64-bit integer from a CopyData message.
1552 : : *
1553 : : * Bail out if there are not at least 8 bytes remaining.
1554 : : */
1555 : : static uint64
1556 : 201 : GetCopyDataUInt64(size_t r, char *copybuf, size_t *cursor)
1557 : : {
1558 : : uint64 result;
1559 : :
1560 [ - + ]: 201 : if (*cursor + sizeof(uint64) > r)
1327 rhaas@postgresql.org 1561 :UBC 0 : ReportCopyDataParseError(r, copybuf);
1327 rhaas@postgresql.org 1562 :CBC 201 : memcpy(&result, ©buf[*cursor], sizeof(uint64));
1563 : 201 : *cursor += sizeof(uint64);
1564 : 201 : return pg_ntoh64(result);
1565 : : }
1566 : :
1567 : : /*
1568 : : * Bail out if we didn't parse the whole message.
1569 : : */
1570 : : static void
1571 : 566 : GetCopyDataEnd(size_t r, char *copybuf, size_t cursor)
1572 : : {
1573 [ - + ]: 566 : if (r != cursor)
1327 rhaas@postgresql.org 1574 :UBC 0 : ReportCopyDataParseError(r, copybuf);
1327 rhaas@postgresql.org 1575 :CBC 566 : }
1576 : :
1577 : : /*
1578 : : * Report failure to parse a CopyData message from the server. Then exit.
1579 : : *
1580 : : * As a debugging aid, we try to give some hint about what kind of message
1581 : : * provoked the failure. Perhaps this is not detailed enough, but it's not
1582 : : * clear that it's worth expending any more code on what should be a
1583 : : * can't-happen case.
1584 : : */
1585 : : static void
1327 rhaas@postgresql.org 1586 :UBC 0 : ReportCopyDataParseError(size_t r, char *copybuf)
1587 : : {
1588 [ # # ]: 0 : if (r == 0)
1247 tgl@sss.pgh.pa.us 1589 : 0 : pg_fatal("empty COPY message");
1590 : : else
1591 : 0 : pg_fatal("malformed COPY message of type %d, length %zu",
1592 : : copybuf[0], r);
1593 : : }
1594 : :
1595 : : /*
1596 : : * Receive raw tar data from the server, and stream it to the appropriate
1597 : : * location. If we're writing a single tarfile to standard output, also
1598 : : * receive the backup manifest and inject it into that tarfile.
1599 : : */
1600 : : static void
1401 rhaas@postgresql.org 1601 : 0 : ReceiveTarFile(PGconn *conn, char *archive_name, char *spclocation,
1602 : : bool tablespacenum, pg_compress_specification *compress)
1603 : : {
1604 : : WriteTarState state;
1605 : : astreamer *manifest_inject_streamer;
1606 : : bool is_recovery_guc_supported;
1607 : : bool expect_unterminated_tarfile;
1608 : :
1609 : : /* Pass all COPY data through to the backup streamer. */
1610 : 0 : memset(&state, 0, sizeof(state));
1611 : 0 : is_recovery_guc_supported =
1612 : 0 : PQserverVersion(conn) >= MINIMUM_VERSION_FOR_RECOVERY_GUC;
1397 1613 : 0 : expect_unterminated_tarfile =
1614 : 0 : PQserverVersion(conn) < MINIMUM_VERSION_FOR_TERMINATED_TARFILE;
1401 1615 : 0 : state.streamer = CreateBackupStreamer(archive_name, spclocation,
1616 : : &manifest_inject_streamer,
1617 : : is_recovery_guc_supported,
1618 : : expect_unterminated_tarfile,
1619 : : compress);
1620 : 0 : state.tablespacenum = tablespacenum;
1621 : 0 : ReceiveCopyData(conn, ReceiveTarCopyChunk, &state);
1297 tgl@sss.pgh.pa.us 1622 : 0 : progress_update_filename(NULL);
1623 : :
1624 : : /*
1625 : : * The decision as to whether we need to inject the backup manifest into
1626 : : * the output at this stage is made by CreateBackupStreamer; if that is
1627 : : * needed, manifest_inject_streamer will be non-NULL; otherwise, it will
1628 : : * be NULL.
1629 : : */
1401 rhaas@postgresql.org 1630 [ # # ]: 0 : if (manifest_inject_streamer != NULL)
1631 : : {
1632 : : PQExpBufferData buf;
1633 : :
1634 : : /* Slurp the entire backup manifest into a buffer. */
1982 1635 : 0 : initPQExpBuffer(&buf);
1636 : 0 : ReceiveBackupManifestInMemory(conn, &buf);
1637 [ # # ]: 0 : if (PQExpBufferDataBroken(buf))
1247 tgl@sss.pgh.pa.us 1638 : 0 : pg_fatal("out of memory");
1639 : :
1640 : : /* Inject it into the output tarfile. */
397 rhaas@postgresql.org 1641 : 0 : astreamer_inject_file(manifest_inject_streamer, "backup_manifest",
1642 : 0 : buf.data, buf.len);
1643 : :
1644 : : /* Free memory. */
1401 1645 : 0 : termPQExpBuffer(&buf);
1646 : : }
1647 : :
1648 : : /* Cleanup. */
397 1649 : 0 : astreamer_finalize(state.streamer);
1650 : 0 : astreamer_free(state.streamer);
1651 : :
1401 1652 : 0 : progress_report(tablespacenum, true, false);
1653 : :
1654 : : /*
1655 : : * Do not sync the resulting tar file yet, all files are synced once at
1656 : : * the end.
1657 : : */
2102 1658 : 0 : }
1659 : :
1660 : : /*
1661 : : * Receive one chunk of tar-format data from the server.
1662 : : */
1663 : : static void
1664 : 0 : ReceiveTarCopyChunk(size_t r, char *copybuf, void *callback_data)
1665 : : {
1666 : 0 : WriteTarState *state = callback_data;
1667 : :
397 1668 : 0 : astreamer_content(state->streamer, NULL, copybuf, r, ASTREAMER_UNKNOWN);
1669 : :
2102 1670 : 0 : totaldone += r;
1401 1671 : 0 : progress_report(state->tablespacenum, false, false);
5340 magnus@hagander.net 1672 : 0 : }
1673 : :
1674 : :
1675 : : /*
1676 : : * Retrieve tablespace path, either relocated or original depending on whether
1677 : : * -T was passed or not.
1678 : : */
1679 : : static const char *
4214 peter_e@gmx.net 1680 :CBC 49 : get_tablespace_mapping(const char *dir)
1681 : : {
1682 : : TablespaceListCell *cell;
1683 : : char canon_dir[MAXPGPATH];
1684 : :
1685 : : /* Canonicalize path for comparison consistency */
2866 1686 : 49 : strlcpy(canon_dir, dir, sizeof(canon_dir));
1687 : 49 : canonicalize_path(canon_dir);
1688 : :
4214 1689 [ + + ]: 49 : for (cell = tablespace_dirs.head; cell; cell = cell->next)
2866 1690 [ + - ]: 48 : if (strcmp(canon_dir, cell->old_dir) == 0)
4214 1691 : 48 : return cell->new_dir;
1692 : :
1693 : 1 : return dir;
1694 : : }
1695 : :
1696 : : /*
1697 : : * Receive the backup manifest file and write it out to a file.
1698 : : */
1699 : : static void
1982 rhaas@postgresql.org 1700 :UBC 0 : ReceiveBackupManifest(PGconn *conn)
1701 : : {
1702 : : WriteManifestState state;
1703 : :
1704 : 0 : snprintf(state.filename, sizeof(state.filename),
1705 : : "%s/backup_manifest.tmp", basedir);
1706 : 0 : state.file = fopen(state.filename, "wb");
1707 [ # # ]: 0 : if (state.file == NULL)
1247 tgl@sss.pgh.pa.us 1708 : 0 : pg_fatal("could not create file \"%s\": %m", state.filename);
1709 : :
1982 rhaas@postgresql.org 1710 : 0 : ReceiveCopyData(conn, ReceiveBackupManifestChunk, &state);
1711 : :
1712 : 0 : fclose(state.file);
1713 : 0 : }
1714 : :
1715 : : /*
1716 : : * Receive one chunk of the backup manifest file and write it out to a file.
1717 : : */
1718 : : static void
1719 : 0 : ReceiveBackupManifestChunk(size_t r, char *copybuf, void *callback_data)
1720 : : {
1721 : 0 : WriteManifestState *state = callback_data;
1722 : :
1905 alvherre@alvh.no-ip. 1723 : 0 : errno = 0;
1982 rhaas@postgresql.org 1724 [ # # ]: 0 : if (fwrite(copybuf, r, 1, state->file) != 1)
1725 : : {
1726 : : /* if write didn't set errno, assume problem is no disk space */
1905 alvherre@alvh.no-ip. 1727 [ # # ]: 0 : if (errno == 0)
1728 : 0 : errno = ENOSPC;
1247 tgl@sss.pgh.pa.us 1729 : 0 : pg_fatal("could not write to file \"%s\": %m", state->filename);
1730 : : }
1982 rhaas@postgresql.org 1731 : 0 : }
1732 : :
1733 : : /*
1734 : : * Receive the backup manifest file and write it out to a file.
1735 : : */
1736 : : static void
1737 : 0 : ReceiveBackupManifestInMemory(PGconn *conn, PQExpBuffer buf)
1738 : : {
1739 : 0 : ReceiveCopyData(conn, ReceiveBackupManifestInMemoryChunk, buf);
1740 : 0 : }
1741 : :
1742 : : /*
1743 : : * Receive one chunk of the backup manifest file and write it out to a file.
1744 : : */
1745 : : static void
1746 : 0 : ReceiveBackupManifestInMemoryChunk(size_t r, char *copybuf,
1747 : : void *callback_data)
1748 : : {
1749 : 0 : PQExpBuffer buf = callback_data;
1750 : :
1751 : 0 : appendPQExpBuffer(buf, copybuf, r);
1752 : 0 : }
1753 : :
1754 : : static void
1263 rhaas@postgresql.org 1755 :CBC 186 : BaseBackup(char *compression_algorithm, char *compression_detail,
1756 : : CompressionLocation compressloc,
1757 : : pg_compress_specification *client_compress,
1758 : : char *incremental_manifest)
1759 : : {
1760 : : PGresult *res;
1761 : : char *sysidentifier;
1762 : : TimeLineID latesttli;
1763 : : TimeLineID starttli;
1764 : : char *basebkp;
1765 : : int i;
1766 : : char xlogstart[64];
1148 peter@eisentraut.org 1767 : 186 : char xlogend[64] = {0};
1768 : : int minServerMajor,
1769 : : maxServerMajor;
1770 : : int serverVersion,
1771 : : serverMajor;
1772 : : int writing_to_stdout;
1432 rhaas@postgresql.org 1773 : 186 : bool use_new_option_syntax = false;
1774 : : PQExpBufferData buf;
1775 : :
3243 1776 [ - + ]: 186 : Assert(conn != NULL);
1432 1777 : 186 : initPQExpBuffer(&buf);
1778 : :
1779 : : /*
1780 : : * Check server version. BASE_BACKUP command was introduced in 9.1, so we
1781 : : * can't work with servers older than 9.1.
1782 : : */
4551 heikki.linnakangas@i 1783 : 186 : minServerMajor = 901;
1784 : 186 : maxServerMajor = PG_VERSION_NUM / 100;
3243 rhaas@postgresql.org 1785 : 186 : serverVersion = PQserverVersion(conn);
1786 : 186 : serverMajor = serverVersion / 100;
4551 heikki.linnakangas@i 1787 [ + - - + ]: 186 : if (serverMajor < minServerMajor || serverMajor > maxServerMajor)
1788 : : {
4551 heikki.linnakangas@i 1789 :UBC 0 : const char *serverver = PQparameterStatus(conn, "server_version");
1790 : :
1247 tgl@sss.pgh.pa.us 1791 [ # # ]: 0 : pg_fatal("incompatible server version %s",
1792 : : serverver ? serverver : "'unknown'");
1793 : : }
1432 rhaas@postgresql.org 1794 [ + - ]:CBC 186 : if (serverMajor >= 1500)
1795 : 186 : use_new_option_syntax = true;
1796 : :
1797 : : /*
1798 : : * If WAL streaming was requested, also check that the server is new
1799 : : * enough for that.
1800 : : */
3162 magnus@hagander.net 1801 [ + + - + ]: 186 : if (includewal == STREAM_WAL && !CheckServerVersionForStreaming(conn))
1802 : : {
1803 : : /*
1804 : : * Error message already written in CheckServerVersionForStreaming(),
1805 : : * but add a hint about using -X none.
1806 : : */
1078 peter@eisentraut.org 1807 :UBC 0 : pg_log_error_hint("Use -X none or -X fetch to disable log streaming.");
2443 1808 : 0 : exit(1);
1809 : : }
1810 : :
1811 : : /*
1812 : : * Build contents of configuration file if requested.
1813 : : *
1814 : : * Note that we don't use the dbname from key-value pair in conn as that
1815 : : * would have been filled by the default dbname (dbname=replication) in
1816 : : * case the user didn't specify the one. The dbname written in the config
1817 : : * file as part of primary_conninfo would be used by slotsync worker which
1818 : : * doesn't use a replication connection so the default won't work for it.
1819 : : */
4627 magnus@hagander.net 1820 [ + + ]:CBC 186 : if (writerecoveryconf)
534 akapila@postgresql.o 1821 : 3 : recoveryconfcontents = GenerateRecoveryConfig(conn,
1822 : : replication_slot,
1823 : : GetDbnameFromConnectionOptions(connection_string));
1824 : :
1825 : : /*
1826 : : * Run IDENTIFY_SYSTEM so we can get the timeline
1827 : : */
3993 andres@anarazel.de 1828 [ - + ]: 186 : if (!RunIdentifySystem(conn, &sysidentifier, &latesttli, NULL, NULL))
2443 peter@eisentraut.org 1829 :UBC 0 : exit(1);
1830 : :
1831 : : /*
1832 : : * If the user wants an incremental backup, we must upload the manifest
1833 : : * for the previous backup upon which it is to be based.
1834 : : */
626 rhaas@postgresql.org 1835 [ + + ]:CBC 186 : if (incremental_manifest != NULL)
1836 : : {
1837 : : int fd;
1838 : : char mbuf[65536];
1839 : : int nbytes;
1840 : :
1841 : : /* Reject if server is too old. */
1842 [ - + ]: 12 : if (serverVersion < MINIMUM_VERSION_FOR_WAL_SUMMARIES)
626 rhaas@postgresql.org 1843 :UBC 0 : pg_fatal("server does not support incremental backup");
1844 : :
1845 : : /* Open the file. */
626 rhaas@postgresql.org 1846 :CBC 12 : fd = open(incremental_manifest, O_RDONLY | PG_BINARY, 0);
1847 [ - + ]: 12 : if (fd < 0)
626 rhaas@postgresql.org 1848 :UBC 0 : pg_fatal("could not open file \"%s\": %m", incremental_manifest);
1849 : :
1850 : : /* Tell the server what we want to do. */
626 rhaas@postgresql.org 1851 [ - + ]:CBC 12 : if (PQsendQuery(conn, "UPLOAD_MANIFEST") == 0)
626 rhaas@postgresql.org 1852 :UBC 0 : pg_fatal("could not send replication command \"%s\": %s",
1853 : : "UPLOAD_MANIFEST", PQerrorMessage(conn));
626 rhaas@postgresql.org 1854 :CBC 12 : res = PQgetResult(conn);
1855 [ - + ]: 12 : if (PQresultStatus(res) != PGRES_COPY_IN)
1856 : : {
626 rhaas@postgresql.org 1857 [ # # ]:UBC 0 : if (PQresultStatus(res) == PGRES_FATAL_ERROR)
1858 : 0 : pg_fatal("could not upload manifest: %s",
1859 : : PQerrorMessage(conn));
1860 : : else
1861 : 0 : pg_fatal("could not upload manifest: unexpected status %s",
1862 : : PQresStatus(PQresultStatus(res)));
1863 : : }
1864 : :
1865 : : /* Loop, reading from the file and sending the data to the server. */
626 rhaas@postgresql.org 1866 [ + + ]:CBC 48 : while ((nbytes = read(fd, mbuf, sizeof mbuf)) > 0)
1867 : : {
1868 [ - + ]: 36 : if (PQputCopyData(conn, mbuf, nbytes) < 0)
626 rhaas@postgresql.org 1869 :UBC 0 : pg_fatal("could not send COPY data: %s",
1870 : : PQerrorMessage(conn));
1871 : : }
1872 : :
1873 : : /* Bail out if we exited the loop due to an error. */
626 rhaas@postgresql.org 1874 [ - + ]:CBC 12 : if (nbytes < 0)
626 rhaas@postgresql.org 1875 :UBC 0 : pg_fatal("could not read file \"%s\": %m", incremental_manifest);
1876 : :
1877 : : /* End the COPY operation. */
626 rhaas@postgresql.org 1878 [ - + ]:CBC 12 : if (PQputCopyEnd(conn, NULL) < 0)
626 rhaas@postgresql.org 1879 :UBC 0 : pg_fatal("could not send end-of-COPY: %s",
1880 : : PQerrorMessage(conn));
1881 : :
1882 : : /* See whether the server is happy with what we sent. */
626 rhaas@postgresql.org 1883 :CBC 12 : res = PQgetResult(conn);
1884 [ + + ]: 12 : if (PQresultStatus(res) == PGRES_FATAL_ERROR)
1885 : 1 : pg_fatal("could not upload manifest: %s",
1886 : : PQerrorMessage(conn));
1887 [ - + ]: 11 : else if (PQresultStatus(res) != PGRES_COMMAND_OK)
626 rhaas@postgresql.org 1888 :UBC 0 : pg_fatal("could not upload manifest: unexpected status %s",
1889 : : PQresStatus(PQresultStatus(res)));
1890 : :
1891 : : /* Consume ReadyForQuery message from server. */
626 rhaas@postgresql.org 1892 :CBC 11 : res = PQgetResult(conn);
1893 [ - + ]: 11 : if (res != NULL)
626 rhaas@postgresql.org 1894 :UBC 0 : pg_fatal("unexpected extra result while sending manifest");
1895 : :
1896 : : /* Add INCREMENTAL option to BASE_BACKUP command. */
626 rhaas@postgresql.org 1897 :CBC 11 : AppendPlainCommandOption(&buf, use_new_option_syntax, "INCREMENTAL");
1898 : : }
1899 : :
1900 : : /*
1901 : : * Continue building up the options list for the BASE_BACKUP command.
1902 : : */
1432 1903 : 185 : AppendStringCommandOption(&buf, use_new_option_syntax, "LABEL", label);
1904 [ + - ]: 185 : if (estimatesize)
1905 : 185 : AppendPlainCommandOption(&buf, use_new_option_syntax, "PROGRESS");
1906 [ + + ]: 185 : if (includewal == FETCH_WAL)
1907 : 26 : AppendPlainCommandOption(&buf, use_new_option_syntax, "WAL");
1908 [ + + ]: 185 : if (fastcheckpoint)
1909 : : {
1910 [ + - ]: 175 : if (use_new_option_syntax)
1911 : 175 : AppendStringCommandOption(&buf, use_new_option_syntax,
1912 : : "CHECKPOINT", "fast");
1913 : : else
1432 rhaas@postgresql.org 1914 :UBC 0 : AppendPlainCommandOption(&buf, use_new_option_syntax, "FAST");
1915 : : }
1432 rhaas@postgresql.org 1916 [ + + ]:CBC 185 : if (includewal != NO_WAL)
1917 : : {
1918 [ + - ]: 175 : if (use_new_option_syntax)
1919 : 175 : AppendIntegerCommandOption(&buf, use_new_option_syntax, "WAIT", 0);
1920 : : else
1432 rhaas@postgresql.org 1921 :UBC 0 : AppendPlainCommandOption(&buf, use_new_option_syntax, "NOWAIT");
1922 : : }
4209 alvherre@alvh.no-ip. 1923 [ + + ]:CBC 185 : if (maxrate > 0)
1432 rhaas@postgresql.org 1924 : 1 : AppendIntegerCommandOption(&buf, use_new_option_syntax, "MAX_RATE",
1925 : : maxrate);
1926 [ + + ]: 185 : if (format == 't')
1927 : 23 : AppendPlainCommandOption(&buf, use_new_option_syntax, "TABLESPACE_MAP");
1928 [ + + ]: 185 : if (!verify_checksums)
1929 : : {
1930 [ + - ]: 1 : if (use_new_option_syntax)
1931 : 1 : AppendIntegerCommandOption(&buf, use_new_option_syntax,
1932 : : "VERIFY_CHECKSUMS", 0);
1933 : : else
1432 rhaas@postgresql.org 1934 :UBC 0 : AppendPlainCommandOption(&buf, use_new_option_syntax,
1935 : : "NOVERIFY_CHECKSUMS");
1936 : : }
1937 : :
1982 rhaas@postgresql.org 1938 [ + + ]:CBC 185 : if (manifest)
1939 : : {
1432 1940 : 184 : AppendStringCommandOption(&buf, use_new_option_syntax, "MANIFEST",
1390 1941 [ + + ]: 184 : manifest_force_encode ? "force-encode" : "yes");
1982 1942 [ + + ]: 184 : if (manifest_checksums != NULL)
1432 1943 : 14 : AppendStringCommandOption(&buf, use_new_option_syntax,
1944 : : "MANIFEST_CHECKSUMS", manifest_checksums);
1945 : : }
1946 : :
1390 1947 [ + + ]: 185 : if (backup_target != NULL)
1948 : : {
1949 : : char *colon;
1950 : :
1951 [ - + ]: 16 : if (serverMajor < 1500)
1247 tgl@sss.pgh.pa.us 1952 :UBC 0 : pg_fatal("backup targets are not supported by this server version");
1953 : :
1318 rhaas@postgresql.org 1954 [ - + ]:CBC 16 : if (writerecoveryconf)
1247 tgl@sss.pgh.pa.us 1955 :UBC 0 : pg_fatal("recovery configuration cannot be written when a backup target is used");
1956 : :
1390 rhaas@postgresql.org 1957 :CBC 16 : AppendPlainCommandOption(&buf, use_new_option_syntax, "TABLESPACE_MAP");
1958 : :
1959 [ + + ]: 16 : if ((colon = strchr(backup_target, ':')) == NULL)
1960 : : {
1961 : 6 : AppendStringCommandOption(&buf, use_new_option_syntax,
1962 : : "TARGET", backup_target);
1963 : : }
1964 : : else
1965 : : {
1966 : : char *target;
1967 : :
1968 : 10 : target = pnstrdup(backup_target, colon - backup_target);
1969 : 10 : AppendStringCommandOption(&buf, use_new_option_syntax,
1970 : : "TARGET", target);
1971 : 10 : AppendStringCommandOption(&buf, use_new_option_syntax,
1972 : : "TARGET_DETAIL", colon + 1);
1973 : : }
1974 : : }
1975 [ + - ]: 169 : else if (serverMajor >= 1500)
1327 1976 : 169 : AppendStringCommandOption(&buf, use_new_option_syntax,
1977 : : "TARGET", "client");
1978 : :
1321 1979 [ + + ]: 185 : if (compressloc == COMPRESS_LOCATION_SERVER)
1980 : : {
1981 [ - + ]: 30 : if (!use_new_option_syntax)
1247 tgl@sss.pgh.pa.us 1982 :UBC 0 : pg_fatal("server does not support server-side compression");
1321 rhaas@postgresql.org 1983 :CBC 30 : AppendStringCommandOption(&buf, use_new_option_syntax,
1984 : : "COMPRESSION", compression_algorithm);
1263 1985 [ + + ]: 30 : if (compression_detail != NULL)
1986 : 15 : AppendStringCommandOption(&buf, use_new_option_syntax,
1987 : : "COMPRESSION_DETAIL",
1988 : : compression_detail);
1989 : : }
1990 : :
3114 magnus@hagander.net 1991 [ - + ]: 185 : if (verbose)
2350 peter@eisentraut.org 1992 :UBC 0 : pg_log_info("initiating base backup, waiting for checkpoint to complete");
1993 : :
3114 magnus@hagander.net 1994 [ - + - - ]:CBC 185 : if (showprogress && !verbose)
1995 : : {
1078 peter@eisentraut.org 1996 :UBC 0 : fprintf(stderr, _("waiting for checkpoint"));
2836 peter_e@gmx.net 1997 [ # # ]: 0 : if (isatty(fileno(stderr)))
1998 : 0 : fprintf(stderr, "\r");
1999 : : else
2000 : 0 : fprintf(stderr, "\n");
2001 : : }
2002 : :
1432 rhaas@postgresql.org 2003 [ + - + - ]:CBC 185 : if (use_new_option_syntax && buf.len > 0)
2004 : 185 : basebkp = psprintf("BASE_BACKUP (%s)", buf.data);
2005 : : else
1432 rhaas@postgresql.org 2006 :UBC 0 : basebkp = psprintf("BASE_BACKUP %s", buf.data);
2007 : :
2008 : : /* OK, try to start the backup. */
4209 alvherre@alvh.no-ip. 2009 [ - + ]:CBC 185 : if (PQsendQuery(conn, basebkp) == 0)
1247 tgl@sss.pgh.pa.us 2010 :UBC 0 : pg_fatal("could not send replication command \"%s\": %s",
2011 : : "BASE_BACKUP", PQerrorMessage(conn));
2012 : :
2013 : : /*
2014 : : * Get the starting WAL location
2015 : : */
5340 magnus@hagander.net 2016 :CBC 185 : res = PQgetResult(conn);
2017 [ + + ]: 185 : if (PQresultStatus(res) != PGRES_TUPLES_OK)
1247 tgl@sss.pgh.pa.us 2018 : 18 : pg_fatal("could not initiate base backup: %s",
2019 : : PQerrorMessage(conn));
4551 heikki.linnakangas@i 2020 [ - + ]: 167 : if (PQntuples(res) != 1)
1247 tgl@sss.pgh.pa.us 2021 :UBC 0 : pg_fatal("server returned unexpected response to BASE_BACKUP command; got %d rows and %d fields, expected %d rows and %d fields",
2022 : : PQntuples(res), PQnfields(res), 1, 2);
2023 : :
4219 tgl@sss.pgh.pa.us 2024 :CBC 167 : strlcpy(xlogstart, PQgetvalue(res, 0, 0), sizeof(xlogstart));
2025 : :
3114 magnus@hagander.net 2026 [ - + ]: 167 : if (verbose)
2350 peter@eisentraut.org 2027 :UBC 0 : pg_log_info("checkpoint completed");
2028 : :
2029 : : /*
2030 : : * 9.3 and later sends the TLI of the starting point. With older servers,
2031 : : * assume it's the same as the latest timeline reported by
2032 : : * IDENTIFY_SYSTEM.
2033 : : */
4551 heikki.linnakangas@i 2034 [ + - ]:CBC 167 : if (PQnfields(res) >= 2)
2035 : 167 : starttli = atoi(PQgetvalue(res, 0, 1));
2036 : : else
4551 heikki.linnakangas@i 2037 :UBC 0 : starttli = latesttli;
5329 magnus@hagander.net 2038 :CBC 167 : PQclear(res);
2039 : :
3162 2040 [ - + - - ]: 167 : if (verbose && includewal != NO_WAL)
2350 peter@eisentraut.org 2041 :UBC 0 : pg_log_info("write-ahead log start point: %s on timeline %u",
2042 : : xlogstart, starttli);
2043 : :
2044 : : /*
2045 : : * Get the header
2046 : : */
5329 magnus@hagander.net 2047 :CBC 167 : res = PQgetResult(conn);
2048 [ - + ]: 167 : if (PQresultStatus(res) != PGRES_TUPLES_OK)
1247 tgl@sss.pgh.pa.us 2049 :UBC 0 : pg_fatal("could not get backup header: %s",
2050 : : PQerrorMessage(conn));
5340 magnus@hagander.net 2051 [ - + ]:CBC 167 : if (PQntuples(res) < 1)
1247 tgl@sss.pgh.pa.us 2052 :UBC 0 : pg_fatal("no data returned from server");
2053 : :
2054 : : /*
2055 : : * Sum up the total size, for progress reporting
2056 : : */
2195 peter@eisentraut.org 2057 :CBC 167 : totalsize_kb = totaldone = 0;
5340 magnus@hagander.net 2058 : 167 : tablespacecount = PQntuples(res);
2059 [ + + ]: 372 : for (i = 0; i < PQntuples(res); i++)
2060 : : {
392 peter@eisentraut.org 2061 : 206 : totalsize_kb += atoll(PQgetvalue(res, i, 2));
2062 : :
2063 : : /*
2064 : : * Verify tablespace directories are empty. Don't bother with the
2065 : : * first once since it can be relocated, and it will be checked before
2066 : : * we do anything anyway.
2067 : : *
2068 : : * Note that this is skipped for tar format backups and backups that
2069 : : * the server is storing to a target location, since in that case we
2070 : : * won't be storing anything into these directories and thus should
2071 : : * not create them.
2072 : : */
1390 rhaas@postgresql.org 2073 [ + + + + : 206 : if (backup_target == NULL && format == 'p' && !PQgetisnull(res, i, 1))
+ + ]
2074 : : {
872 2075 : 31 : char *path = PQgetvalue(res, i, 1);
2076 : :
2077 [ + + ]: 31 : if (is_absolute_path(path))
2078 : 17 : path = unconstify(char *, get_tablespace_mapping(path));
2079 : : else
2080 : : {
2081 : : /* This is an in-place tablespace, so prepend basedir. */
2082 : 14 : path = psprintf("%s/%s", basedir, path);
2083 : : }
2084 : :
3281 peter_e@gmx.net 2085 : 31 : verify_dir_is_empty_or_create(path, &made_tablespace_dirs, &found_tablespace_dirs);
2086 : : }
2087 : : }
2088 : :
2089 : : /*
2090 : : * When writing to stdout, require a single tablespace
2091 : : */
1390 rhaas@postgresql.org 2092 [ + + + - ]: 188 : writing_to_stdout = format == 't' && basedir != NULL &&
2093 [ - + ]: 22 : strcmp(basedir, "-") == 0;
1982 2094 [ - + - - ]: 166 : if (writing_to_stdout && PQntuples(res) > 1)
1247 tgl@sss.pgh.pa.us 2095 :UBC 0 : pg_fatal("can only write single tablespace to stdout, database has %d",
2096 : : PQntuples(res));
2097 : :
2098 : : /*
2099 : : * If we're streaming WAL, start the streaming session before we start
2100 : : * receiving the actual data chunks.
2101 : : */
3162 magnus@hagander.net 2102 [ + + ]:CBC 166 : if (includewal == STREAM_WAL)
2103 : : {
2104 : : pg_compress_algorithm wal_compress_algorithm;
2105 : : int wal_compress_level;
2106 : :
5064 2107 [ - + ]: 135 : if (verbose)
2350 peter@eisentraut.org 2108 :UBC 0 : pg_log_info("starting background WAL receiver");
2109 : :
1243 michael@paquier.xyz 2110 [ + + ]:CBC 135 : if (client_compress->algorithm == PG_COMPRESSION_GZIP)
2111 : : {
2112 : 3 : wal_compress_algorithm = PG_COMPRESSION_GZIP;
1088 2113 : 3 : wal_compress_level = client_compress->level;
2114 : : }
2115 : : else
2116 : : {
1243 2117 : 132 : wal_compress_algorithm = PG_COMPRESSION_NONE;
1263 rhaas@postgresql.org 2118 : 132 : wal_compress_level = 0;
2119 : : }
2120 : :
2121 : 135 : StartLogStreamer(xlogstart, starttli, sysidentifier,
2122 : : wal_compress_algorithm,
2123 : : wal_compress_level);
2124 : : }
2125 : :
1327 2126 [ + - ]: 165 : if (serverMajor >= 1500)
2127 : : {
2128 : : /* Receive a single tar stream with everything. */
1263 2129 : 165 : ReceiveArchiveStream(conn, client_compress);
2130 : : }
2131 : : else
2132 : : {
2133 : : /* Receive a tar file for each tablespace in turn */
1327 rhaas@postgresql.org 2134 [ # # ]:UBC 0 : for (i = 0; i < PQntuples(res); i++)
2135 : : {
2136 : : char archive_name[MAXPGPATH];
2137 : : char *spclocation;
2138 : :
2139 : : /*
2140 : : * If we write the data out to a tar file, it will be named
2141 : : * base.tar if it's the main data directory or <tablespaceoid>.tar
2142 : : * if it's for another tablespace. CreateBackupStreamer() will
2143 : : * arrange to add an extension to the archive name if
2144 : : * pg_basebackup is performing compression, depending on the
2145 : : * compression type.
2146 : : */
2147 [ # # ]: 0 : if (PQgetisnull(res, i, 0))
2148 : : {
2149 : 0 : strlcpy(archive_name, "base.tar", sizeof(archive_name));
2150 : 0 : spclocation = NULL;
2151 : : }
2152 : : else
2153 : : {
2154 : 0 : snprintf(archive_name, sizeof(archive_name),
2155 : : "%s.tar", PQgetvalue(res, i, 0));
2156 : 0 : spclocation = PQgetvalue(res, i, 1);
2157 : : }
2158 : :
1263 2159 : 0 : ReceiveTarFile(conn, archive_name, spclocation, i,
2160 : : client_compress);
2161 : : }
2162 : :
2163 : : /*
2164 : : * Now receive backup manifest, if appropriate.
2165 : : *
2166 : : * If we're writing a tarfile to stdout, ReceiveTarFile will have
2167 : : * already processed the backup manifest and included it in the output
2168 : : * tarfile. Such a configuration doesn't allow for writing multiple
2169 : : * files.
2170 : : *
2171 : : * If we're talking to an older server, it won't send a backup
2172 : : * manifest, so don't try to receive one.
2173 : : */
1327 2174 [ # # # # ]: 0 : if (!writing_to_stdout && manifest)
2175 : 0 : ReceiveBackupManifest(conn);
2176 : : }
2177 : :
5340 magnus@hagander.net 2178 [ - + ]:CBC 163 : if (showprogress)
2179 : : {
1297 tgl@sss.pgh.pa.us 2180 :UBC 0 : progress_update_filename(NULL);
1401 rhaas@postgresql.org 2181 : 0 : progress_report(PQntuples(res), true, true);
2182 : : }
2183 : :
5340 magnus@hagander.net 2184 :CBC 163 : PQclear(res);
2185 : :
2186 : : /*
2187 : : * Get the stop position
2188 : : */
5329 2189 : 163 : res = PQgetResult(conn);
2190 [ + + ]: 163 : if (PQresultStatus(res) != PGRES_TUPLES_OK)
1247 tgl@sss.pgh.pa.us 2191 : 1 : pg_fatal("backup failed: %s",
2192 : : PQerrorMessage(conn));
5329 magnus@hagander.net 2193 [ - + ]: 162 : if (PQntuples(res) != 1)
1247 tgl@sss.pgh.pa.us 2194 :UBC 0 : pg_fatal("no write-ahead log end position returned from server");
4219 tgl@sss.pgh.pa.us 2195 :CBC 162 : strlcpy(xlogend, PQgetvalue(res, 0, 0), sizeof(xlogend));
3162 magnus@hagander.net 2196 [ - + - - ]: 162 : if (verbose && includewal != NO_WAL)
2350 peter@eisentraut.org 2197 :UBC 0 : pg_log_info("write-ahead log end point: %s", xlogend);
5329 magnus@hagander.net 2198 :CBC 162 : PQclear(res);
2199 : :
5340 2200 : 162 : res = PQgetResult(conn);
2201 [ + + ]: 162 : if (PQresultStatus(res) != PGRES_COMMAND_OK)
2202 : : {
2713 2203 : 3 : const char *sqlstate = PQresultErrorField(res, PG_DIAG_SQLSTATE);
2204 : :
2205 [ + - ]: 3 : if (sqlstate &&
2206 [ + - ]: 3 : strcmp(sqlstate, ERRCODE_DATA_CORRUPTED) == 0)
2207 : : {
2350 peter@eisentraut.org 2208 : 3 : pg_log_error("checksum error occurred");
2713 magnus@hagander.net 2209 : 3 : checksum_failure = true;
2210 : : }
2211 : : else
2212 : : {
2350 peter@eisentraut.org 2213 :UBC 0 : pg_log_error("final receive failed: %s",
2214 : : PQerrorMessage(conn));
2215 : : }
2443 peter@eisentraut.org 2216 :CBC 3 : exit(1);
2217 : : }
2218 : :
5064 magnus@hagander.net 2219 [ + + ]: 159 : if (bgchild > 0)
2220 : : {
2221 : : #ifndef WIN32
2222 : : int status;
2223 : : pid_t r;
2224 : : #else
2225 : : DWORD status;
2226 : :
2227 : : /*
2228 : : * get a pointer sized version of bgchild to avoid warnings about
2229 : : * casting to a different size on WIN64.
2230 : : */
2231 : : intptr_t bgchild_handle = bgchild;
2232 : : uint32 hi,
2233 : : lo;
2234 : : #endif
2235 : :
2236 [ - + ]: 128 : if (verbose)
2350 peter@eisentraut.org 2237 :UBC 0 : pg_log_info("waiting for background process to finish streaming ...");
2238 : :
2239 : : #ifndef WIN32
4910 andrew@dunslane.net 2240 [ - + ]:CBC 128 : if (write(bgpipe[1], xlogend, strlen(xlogend)) != strlen(xlogend))
1247 tgl@sss.pgh.pa.us 2241 :UBC 0 : pg_fatal("could not send command to background pipe: %m");
2242 : :
2243 : : /* Just wait for the background process to exit */
5064 magnus@hagander.net 2244 :CBC 128 : r = waitpid(bgchild, &status, 0);
2456 tgl@sss.pgh.pa.us 2245 [ - + ]: 128 : if (r == (pid_t) -1)
1247 tgl@sss.pgh.pa.us 2246 :UBC 0 : pg_fatal("could not wait for child process: %m");
5064 magnus@hagander.net 2247 [ - + ]:CBC 128 : if (r != bgchild)
1247 tgl@sss.pgh.pa.us 2248 :UBC 0 : pg_fatal("child %d died, expected %d", (int) r, (int) bgchild);
2456 tgl@sss.pgh.pa.us 2249 [ - + ]:CBC 128 : if (status != 0)
1247 tgl@sss.pgh.pa.us 2250 :UBC 0 : pg_fatal("%s", wait_result_to_str(status));
2251 : : /* Exited normally, we're happy! */
2252 : : #else /* WIN32 */
2253 : :
2254 : : /*
2255 : : * On Windows, since we are in the same process, we can just store the
2256 : : * value directly in the variable, and then set the flag that says
2257 : : * it's there.
2258 : : */
2259 : : if (sscanf(xlogend, "%X/%08X", &hi, &lo) != 2)
2260 : : pg_fatal("could not parse write-ahead log location \"%s\"",
2261 : : xlogend);
2262 : : xlogendptr = ((uint64) hi) << 32 | lo;
2263 : : InterlockedIncrement(&has_xlogendptr);
2264 : :
2265 : : /* First wait for the thread to exit */
2266 : : if (WaitForSingleObjectEx((HANDLE) bgchild_handle, INFINITE, FALSE) !=
2267 : : WAIT_OBJECT_0)
2268 : : {
2269 : : _dosmaperr(GetLastError());
2270 : : pg_fatal("could not wait for child thread: %m");
2271 : : }
2272 : : if (GetExitCodeThread((HANDLE) bgchild_handle, &status) == 0)
2273 : : {
2274 : : _dosmaperr(GetLastError());
2275 : : pg_fatal("could not get child thread exit status: %m");
2276 : : }
2277 : : if (status != 0)
2278 : : pg_fatal("child thread exited with error %u",
2279 : : (unsigned int) status);
2280 : : /* Exited normally, we're happy */
2281 : : #endif
2282 : : }
2283 : :
2284 : : /* Free the configuration file contents */
4627 magnus@hagander.net 2285 :CBC 159 : destroyPQExpBuffer(recoveryconfcontents);
2286 : :
2287 : : /*
2288 : : * End of copy data. Final result is already checked inside the loop.
2289 : : */
4978 2290 : 159 : PQclear(res);
5340 2291 : 159 : PQfinish(conn);
2443 peter@eisentraut.org 2292 : 159 : conn = NULL;
2293 : :
2294 : : /*
2295 : : * Make data persistent on disk once backup is completed. For tar format
2296 : : * sync the parent directory and all its contents as each tar file was not
2297 : : * synced after being completed. In plain format, all the data of the
2298 : : * base directory is synced, taking into account all the tablespaces.
2299 : : * Errors are not considered fatal.
2300 : : *
2301 : : * If, however, there's a backup target, we're not writing anything
2302 : : * locally, so in that case we skip this step.
2303 : : */
1390 rhaas@postgresql.org 2304 [ - + - - ]: 159 : if (do_sync && backup_target == NULL)
2305 : : {
2596 michael@paquier.xyz 2306 [ # # ]:UBC 0 : if (verbose)
2350 peter@eisentraut.org 2307 : 0 : pg_log_info("syncing data to disk ...");
3264 peter_e@gmx.net 2308 [ # # ]: 0 : if (format == 't')
2309 : : {
2310 [ # # ]: 0 : if (strcmp(basedir, "-") != 0)
731 nathan@postgresql.or 2311 : 0 : (void) sync_dir_recurse(basedir, sync_method);
2312 : : }
2313 : : else
2314 : : {
165 2315 : 0 : (void) sync_pgdata(basedir, serverVersion, sync_method, true);
2316 : : }
2317 : : }
2318 : :
2319 : : /*
2320 : : * After synchronizing data to disk, perform a durable rename of
2321 : : * backup_manifest.tmp to backup_manifest, if we wrote such a file. This
2322 : : * way, a failure or system crash before we reach this point will leave us
2323 : : * without a backup_manifest file, decreasing the chances that a directory
2324 : : * we leave behind will be mistaken for a valid backup.
2325 : : */
1390 rhaas@postgresql.org 2326 [ + - + + :CBC 159 : if (!writing_to_stdout && manifest && backup_target == NULL)
+ + ]
2327 : : {
2328 : : char tmp_filename[MAXPGPATH];
2329 : : char filename[MAXPGPATH];
2330 : :
1982 2331 [ - + ]: 147 : if (verbose)
1982 rhaas@postgresql.org 2332 :UBC 0 : pg_log_info("renaming backup_manifest.tmp to backup_manifest");
2333 : :
1982 rhaas@postgresql.org 2334 :CBC 147 : snprintf(tmp_filename, MAXPGPATH, "%s/backup_manifest.tmp", basedir);
2335 : 147 : snprintf(filename, MAXPGPATH, "%s/backup_manifest", basedir);
2336 : :
1322 andres@anarazel.de 2337 [ - + ]: 147 : if (do_sync)
2338 : : {
2339 : : /* durable_rename emits its own log message in case of failure */
1322 andres@anarazel.de 2340 [ # # ]:UBC 0 : if (durable_rename(tmp_filename, filename) != 0)
2341 : 0 : exit(1);
2342 : : }
2343 : : else
2344 : : {
1322 andres@anarazel.de 2345 [ - + ]:CBC 147 : if (rename(tmp_filename, filename) != 0)
1247 tgl@sss.pgh.pa.us 2346 :UBC 0 : pg_fatal("could not rename file \"%s\" to \"%s\": %m",
2347 : : tmp_filename, filename);
2348 : : }
2349 : : }
2350 : :
5340 magnus@hagander.net 2351 [ - + ]:CBC 159 : if (verbose)
2350 peter@eisentraut.org 2352 :UBC 0 : pg_log_info("base backup completed");
5340 magnus@hagander.net 2353 :CBC 159 : }
2354 : :
2355 : :
2356 : : int
2357 : 218 : main(int argc, char **argv)
2358 : : {
2359 : : static struct option long_options[] = {
2360 : : {"help", no_argument, NULL, '?'},
2361 : : {"version", no_argument, NULL, 'V'},
2362 : : {"pgdata", required_argument, NULL, 'D'},
2363 : : {"format", required_argument, NULL, 'F'},
2364 : : {"incremental", required_argument, NULL, 'i'},
2365 : : {"checkpoint", required_argument, NULL, 'c'},
2366 : : {"create-slot", no_argument, NULL, 'C'},
2367 : : {"max-rate", required_argument, NULL, 'r'},
2368 : : {"write-recovery-conf", no_argument, NULL, 'R'},
2369 : : {"slot", required_argument, NULL, 'S'},
2370 : : {"target", required_argument, NULL, 't'},
2371 : : {"tablespace-mapping", required_argument, NULL, 'T'},
2372 : : {"wal-method", required_argument, NULL, 'X'},
2373 : : {"gzip", no_argument, NULL, 'z'},
2374 : : {"compress", required_argument, NULL, 'Z'},
2375 : : {"label", required_argument, NULL, 'l'},
2376 : : {"no-clean", no_argument, NULL, 'n'},
2377 : : {"no-sync", no_argument, NULL, 'N'},
2378 : : {"dbname", required_argument, NULL, 'd'},
2379 : : {"host", required_argument, NULL, 'h'},
2380 : : {"port", required_argument, NULL, 'p'},
2381 : : {"username", required_argument, NULL, 'U'},
2382 : : {"no-password", no_argument, NULL, 'w'},
2383 : : {"password", no_argument, NULL, 'W'},
2384 : : {"status-interval", required_argument, NULL, 's'},
2385 : : {"verbose", no_argument, NULL, 'v'},
2386 : : {"progress", no_argument, NULL, 'P'},
2387 : : {"waldir", required_argument, NULL, 1},
2388 : : {"no-slot", no_argument, NULL, 2},
2389 : : {"no-verify-checksums", no_argument, NULL, 3},
2390 : : {"no-estimate-size", no_argument, NULL, 4},
2391 : : {"no-manifest", no_argument, NULL, 5},
2392 : : {"manifest-force-encode", no_argument, NULL, 6},
2393 : : {"manifest-checksums", required_argument, NULL, 7},
2394 : : {"sync-method", required_argument, NULL, 8},
2395 : : {NULL, 0, NULL, 0}
2396 : : };
2397 : : int c;
2398 : :
2399 : : int option_index;
1263 rhaas@postgresql.org 2400 : 218 : char *compression_algorithm = "none";
2401 : 218 : char *compression_detail = NULL;
626 2402 : 218 : char *incremental_manifest = NULL;
1213 tgl@sss.pgh.pa.us 2403 : 218 : CompressionLocation compressloc = COMPRESS_LOCATION_UNSPECIFIED;
2404 : : pg_compress_specification client_compress;
2405 : :
2350 peter@eisentraut.org 2406 : 218 : pg_logging_init(argv[0]);
5340 magnus@hagander.net 2407 : 218 : progname = get_progname(argv[0]);
2408 : 218 : set_pglocale_pgservice(argv[0], PG_TEXTDOMAIN("pg_basebackup"));
2409 : :
2410 [ + + ]: 218 : if (argc > 1)
2411 : : {
2412 [ + + - + ]: 217 : if (strcmp(argv[1], "--help") == 0 || strcmp(argv[1], "-?") == 0)
2413 : : {
2414 : 1 : usage();
2415 : 1 : exit(0);
2416 : : }
2417 [ + - ]: 216 : else if (strcmp(argv[1], "-V") == 0
2418 [ + + ]: 216 : || strcmp(argv[1], "--version") == 0)
2419 : : {
2420 : 1 : puts("pg_basebackup (PostgreSQL) " PG_VERSION);
2421 : 1 : exit(0);
2422 : : }
2423 : : }
2424 : :
3281 peter_e@gmx.net 2425 : 216 : atexit(cleanup_directories_atexit);
2426 : :
626 rhaas@postgresql.org 2427 : 1145 : while ((c = getopt_long(argc, argv, "c:Cd:D:F:h:i:l:nNp:Pr:Rs:S:t:T:U:vwWX:zZ:",
5340 magnus@hagander.net 2428 [ + + ]: 1145 : long_options, &option_index)) != -1)
2429 : : {
2430 [ + + + + : 936 : switch (c)
+ + + - +
+ + - + +
- + + + +
- - - + +
+ + + + -
+ + + -
+ ]
2431 : : {
999 peter@eisentraut.org 2432 : 192 : case 'c':
2433 [ + - ]: 192 : if (pg_strcasecmp(optarg, "fast") == 0)
2434 : 192 : fastcheckpoint = true;
999 peter@eisentraut.org 2435 [ # # ]:UBC 0 : else if (pg_strcasecmp(optarg, "spread") == 0)
2436 : 0 : fastcheckpoint = false;
2437 : : else
2438 : 0 : pg_fatal("invalid checkpoint argument \"%s\", must be \"fast\" or \"spread\"",
2439 : : optarg);
999 peter@eisentraut.org 2440 :CBC 192 : break;
2902 peter_e@gmx.net 2441 : 4 : case 'C':
2442 : 4 : create_slot = true;
2443 : 4 : break;
999 peter@eisentraut.org 2444 : 2 : case 'd':
2445 : 2 : connection_string = pg_strdup(optarg);
2446 : 2 : break;
5340 magnus@hagander.net 2447 : 195 : case 'D':
4722 tgl@sss.pgh.pa.us 2448 : 195 : basedir = pg_strdup(optarg);
5340 magnus@hagander.net 2449 : 195 : break;
2450 : 38 : case 'F':
2451 [ + - + + ]: 38 : if (strcmp(optarg, "p") == 0 || strcmp(optarg, "plain") == 0)
2452 : 14 : format = 'p';
2453 [ + + + - ]: 24 : else if (strcmp(optarg, "t") == 0 || strcmp(optarg, "tar") == 0)
2454 : 24 : format = 't';
2455 : : else
1247 tgl@sss.pgh.pa.us 2456 :UBC 0 : pg_fatal("invalid output format \"%s\", must be \"plain\" or \"tar\"",
2457 : : optarg);
5340 magnus@hagander.net 2458 :CBC 38 : break;
999 peter@eisentraut.org 2459 : 65 : case 'h':
2460 : 65 : dbhost = pg_strdup(optarg);
2461 : 65 : break;
626 rhaas@postgresql.org 2462 : 12 : case 'i':
2463 : 12 : incremental_manifest = pg_strdup(optarg);
2464 : 12 : break;
999 peter@eisentraut.org 2465 :UBC 0 : case 'l':
2466 : 0 : label = pg_strdup(optarg);
2467 : 0 : break;
999 peter@eisentraut.org 2468 :CBC 1 : case 'n':
2469 : 1 : noclean = true;
2470 : 1 : break;
2471 : 192 : case 'N':
2472 : 192 : do_sync = false;
2473 : 192 : break;
2474 : 65 : case 'p':
2475 : 65 : dbport = pg_strdup(optarg);
2476 : 65 : break;
999 peter@eisentraut.org 2477 :UBC 0 : case 'P':
2478 : 0 : showprogress = true;
2479 : 0 : break;
4209 alvherre@alvh.no-ip. 2480 :CBC 1 : case 'r':
2481 : 1 : maxrate = parse_max_rate(optarg);
2482 : 1 : break;
4627 magnus@hagander.net 2483 : 3 : case 'R':
2484 : 3 : writerecoveryconf = true;
2485 : 3 : break;
999 peter@eisentraut.org 2486 :UBC 0 : case 's':
2487 [ # # ]: 0 : if (!option_parse_int(optarg, "-s/--status-interval", 0,
2488 : : INT_MAX / 1000,
2489 : : &standby_message_timeout))
2490 : 0 : exit(1);
2491 : 0 : standby_message_timeout *= 1000;
2492 : 0 : break;
3700 peter_e@gmx.net 2493 :CBC 7 : case 'S':
2494 : :
2495 : : /*
2496 : : * When specifying replication slot name, use a permanent
2497 : : * slot.
2498 : : */
2499 : 7 : replication_slot = pg_strdup(optarg);
3155 magnus@hagander.net 2500 : 7 : temp_replication_slot = false;
2501 : 7 : break;
1390 rhaas@postgresql.org 2502 : 21 : case 't':
2503 : 21 : backup_target = pg_strdup(optarg);
2504 : 21 : break;
4214 peter_e@gmx.net 2505 : 22 : case 'T':
2506 : 22 : tablespace_list_append(optarg);
2507 : 16 : break;
999 peter@eisentraut.org 2508 : 7 : case 'U':
2509 : 7 : dbuser = pg_strdup(optarg);
2510 : 7 : break;
999 peter@eisentraut.org 2511 :UBC 0 : case 'v':
2512 : 0 : verbose++;
2513 : 0 : break;
2514 : 0 : case 'w':
2515 : 0 : dbgetpassword = -1;
2516 : 0 : break;
2517 : 0 : case 'W':
2518 : 0 : dbgetpassword = 1;
2519 : 0 : break;
4836 magnus@hagander.net 2520 :CBC 48 : case 'X':
3167 2521 [ + - ]: 48 : if (strcmp(optarg, "n") == 0 ||
2522 [ + + ]: 48 : strcmp(optarg, "none") == 0)
2523 : : {
3162 2524 : 13 : includewal = NO_WAL;
2525 : : }
3167 2526 [ + - ]: 35 : else if (strcmp(optarg, "f") == 0 ||
3034 bruce@momjian.us 2527 [ + + ]: 35 : strcmp(optarg, "fetch") == 0)
2528 : : {
3162 magnus@hagander.net 2529 : 26 : includewal = FETCH_WAL;
2530 : : }
5064 2531 [ + - ]: 9 : else if (strcmp(optarg, "s") == 0 ||
2532 [ + - ]: 9 : strcmp(optarg, "stream") == 0)
2533 : : {
3162 2534 : 9 : includewal = STREAM_WAL;
2535 : : }
2536 : : else
1247 tgl@sss.pgh.pa.us 2537 :UBC 0 : pg_fatal("invalid wal-method option \"%s\", must be \"fetch\", \"stream\", or \"none\"",
2538 : : optarg);
5333 magnus@hagander.net 2539 :CBC 48 : break;
5213 peter_e@gmx.net 2540 : 1 : case 'z':
1263 rhaas@postgresql.org 2541 : 1 : compression_algorithm = "gzip";
2542 : 1 : compression_detail = NULL;
1321 2543 : 1 : compressloc = COMPRESS_LOCATION_UNSPECIFIED;
5213 peter_e@gmx.net 2544 : 1 : break;
5340 magnus@hagander.net 2545 : 39 : case 'Z':
1011 michael@paquier.xyz 2546 : 39 : backup_parse_compress_options(optarg, &compression_algorithm,
2547 : : &compression_detail, &compressloc);
5340 magnus@hagander.net 2548 : 39 : break;
999 peter@eisentraut.org 2549 : 1 : case 1:
2550 : 1 : xlog_dir = pg_strdup(optarg);
5340 magnus@hagander.net 2551 : 1 : break;
999 peter@eisentraut.org 2552 : 2 : case 2:
2553 : 2 : no_slot = true;
5340 magnus@hagander.net 2554 : 2 : break;
2665 peter_e@gmx.net 2555 : 1 : case 3:
2713 magnus@hagander.net 2556 : 1 : verify_checksums = false;
2557 : 1 : break;
1997 fujii@postgresql.org 2558 :UBC 0 : case 4:
2559 : 0 : estimatesize = false;
2560 : 0 : break;
1982 rhaas@postgresql.org 2561 :CBC 1 : case 5:
2562 : 1 : manifest = false;
2563 : 1 : break;
2564 : 1 : case 6:
2565 : 1 : manifest_force_encode = true;
2566 : 1 : break;
2567 : 14 : case 7:
2568 : 14 : manifest_checksums = pg_strdup(optarg);
2569 : 14 : break;
731 nathan@postgresql.or 2570 :UBC 0 : case 8:
2571 [ # # ]: 0 : if (!parse_sync_method(optarg, &sync_method))
2572 : 0 : exit(1);
2573 : 0 : break;
5340 magnus@hagander.net 2574 :CBC 1 : default:
2575 : : /* getopt_long already emitted a complaint */
1247 tgl@sss.pgh.pa.us 2576 : 1 : pg_log_error_hint("Try \"%s --help\" for more information.", progname);
5340 magnus@hagander.net 2577 : 1 : exit(1);
2578 : : }
2579 : : }
2580 : :
2581 : : /*
2582 : : * Any non-option arguments?
2583 : : */
2584 [ - + ]: 209 : if (optind < argc)
2585 : : {
2350 peter@eisentraut.org 2586 :UBC 0 : pg_log_error("too many command-line arguments (first is \"%s\")",
2587 : : argv[optind]);
1247 tgl@sss.pgh.pa.us 2588 : 0 : pg_log_error_hint("Try \"%s --help\" for more information.", progname);
5340 magnus@hagander.net 2589 : 0 : exit(1);
2590 : : }
2591 : :
2592 : : /*
2593 : : * Setting the backup target to 'client' is equivalent to leaving out the
2594 : : * option. This logic allows us to assume elsewhere that the backup is
2595 : : * being stored locally if and only if backup_target == NULL.
2596 : : */
1390 rhaas@postgresql.org 2597 [ + + - + ]:CBC 209 : if (backup_target != NULL && strcmp(backup_target, "client") == 0)
2598 : : {
1390 rhaas@postgresql.org 2599 :UBC 0 : pg_free(backup_target);
2600 : 0 : backup_target = NULL;
2601 : : }
2602 : :
2603 : : /*
2604 : : * Can't use --format with --target. Without --target, default format is
2605 : : * tar.
2606 : : */
1390 rhaas@postgresql.org 2607 [ + + + + ]:CBC 209 : if (backup_target != NULL && format != '\0')
2608 : : {
2609 : 1 : pg_log_error("cannot specify both format and backup target");
1247 tgl@sss.pgh.pa.us 2610 : 1 : pg_log_error_hint("Try \"%s --help\" for more information.", progname);
1390 rhaas@postgresql.org 2611 : 1 : exit(1);
2612 : : }
2613 [ + + ]: 208 : if (format == '\0')
2614 : 177 : format = 'p';
2615 : :
2616 : : /*
2617 : : * Either directory or backup target should be specified, but not both
2618 : : */
2619 [ + + + + ]: 208 : if (basedir == NULL && backup_target == NULL)
2620 : : {
2621 : 1 : pg_log_error("must specify output directory or backup target");
1247 tgl@sss.pgh.pa.us 2622 : 1 : pg_log_error_hint("Try \"%s --help\" for more information.", progname);
1390 rhaas@postgresql.org 2623 : 1 : exit(1);
2624 : : }
2625 [ + + + + ]: 207 : if (basedir != NULL && backup_target != NULL)
2626 : : {
2627 : 2 : pg_log_error("cannot specify both output directory and backup target");
1247 tgl@sss.pgh.pa.us 2628 : 2 : pg_log_error_hint("Try \"%s --help\" for more information.", progname);
5340 magnus@hagander.net 2629 : 2 : exit(1);
2630 : : }
2631 : :
2632 : : /*
2633 : : * If the user has not specified where to perform backup compression,
2634 : : * default to the client, unless the user specified --target, in which
2635 : : * case the server is the only choice.
2636 : : */
1263 rhaas@postgresql.org 2637 [ + + ]: 205 : if (compressloc == COMPRESS_LOCATION_UNSPECIFIED)
2638 : : {
1390 2639 [ + + ]: 180 : if (backup_target == NULL)
1321 2640 : 167 : compressloc = COMPRESS_LOCATION_CLIENT;
2641 : : else
2642 : 13 : compressloc = COMPRESS_LOCATION_SERVER;
2643 : : }
2644 : :
2645 : : /*
2646 : : * If any compression that we're doing is happening on the client side, we
2647 : : * must try to parse the compression algorithm and detail, but if it's all
2648 : : * on the server side, then we're just going to pass through whatever was
2649 : : * requested and let the server decide what to do.
2650 : : */
1263 2651 [ + + ]: 205 : if (compressloc == COMPRESS_LOCATION_CLIENT)
2652 : : {
2653 : : pg_compress_algorithm alg;
2654 : : char *error_detail;
2655 : :
1243 michael@paquier.xyz 2656 [ + + ]: 173 : if (!parse_compress_algorithm(compression_algorithm, &alg))
1078 peter@eisentraut.org 2657 : 2 : pg_fatal("unrecognized compression algorithm: \"%s\"",
2658 : : compression_algorithm);
2659 : :
1243 michael@paquier.xyz 2660 : 171 : parse_compress_specification(alg, compression_detail, &client_compress);
2661 : 171 : error_detail = validate_compress_specification(&client_compress);
1263 rhaas@postgresql.org 2662 [ + + ]: 171 : if (error_detail != NULL)
1247 tgl@sss.pgh.pa.us 2663 : 10 : pg_fatal("invalid compression specification: %s",
2664 : : error_detail);
2665 : : }
2666 : : else
2667 : : {
1263 rhaas@postgresql.org 2668 [ - + ]: 32 : Assert(compressloc == COMPRESS_LOCATION_SERVER);
1243 michael@paquier.xyz 2669 : 32 : client_compress.algorithm = PG_COMPRESSION_NONE;
1263 rhaas@postgresql.org 2670 : 32 : client_compress.options = 0;
2671 : : }
2672 : :
2673 : : /*
2674 : : * Can't perform client-side compression if the backup is not being sent
2675 : : * to the client.
2676 : : */
1321 2677 [ + + - + ]: 193 : if (backup_target != NULL && compressloc == COMPRESS_LOCATION_CLIENT)
2678 : : {
1321 rhaas@postgresql.org 2679 :UBC 0 : pg_log_error("client-side compression is not possible when a backup target is specified");
1247 tgl@sss.pgh.pa.us 2680 : 0 : pg_log_error_hint("Try \"%s --help\" for more information.", progname);
1321 rhaas@postgresql.org 2681 : 0 : exit(1);
2682 : : }
2683 : :
2684 : : /*
2685 : : * Client-side compression doesn't make sense unless tar format is in use.
2686 : : */
1263 rhaas@postgresql.org 2687 [ + + + + ]:CBC 193 : if (format == 'p' && compressloc == COMPRESS_LOCATION_CLIENT &&
1243 michael@paquier.xyz 2688 [ - + ]: 138 : client_compress.algorithm != PG_COMPRESSION_NONE)
2689 : : {
1321 rhaas@postgresql.org 2690 :UBC 0 : pg_log_error("only tar mode backups can be compressed");
1247 tgl@sss.pgh.pa.us 2691 : 0 : pg_log_error_hint("Try \"%s --help\" for more information.", progname);
5340 magnus@hagander.net 2692 : 0 : exit(1);
2693 : : }
2694 : :
2695 : : /*
2696 : : * Sanity checks for WAL method.
2697 : : */
1390 rhaas@postgresql.org 2698 [ + + + + ]:CBC 193 : if (backup_target != NULL && includewal == STREAM_WAL)
2699 : : {
2700 : 2 : pg_log_error("WAL cannot be streamed when a backup target is specified");
1247 tgl@sss.pgh.pa.us 2701 : 2 : pg_log_error_hint("Try \"%s --help\" for more information.", progname);
1390 rhaas@postgresql.org 2702 : 2 : exit(1);
2703 : : }
3162 magnus@hagander.net 2704 [ + + + + : 191 : if (format == 't' && includewal == STREAM_WAL && strcmp(basedir, "-") == 0)
- + ]
2705 : : {
2350 peter@eisentraut.org 2706 :UBC 0 : pg_log_error("cannot stream write-ahead logs in tar mode to stdout");
1247 tgl@sss.pgh.pa.us 2707 : 0 : pg_log_error_hint("Try \"%s --help\" for more information.", progname);
3181 fujii@postgresql.org 2708 : 0 : exit(1);
2709 : : }
2710 : :
3155 magnus@hagander.net 2711 [ + + + + ]:CBC 191 : if (replication_slot && includewal != STREAM_WAL)
2712 : : {
2350 peter@eisentraut.org 2713 : 1 : pg_log_error("replication slots can only be used with WAL streaming");
1247 tgl@sss.pgh.pa.us 2714 : 1 : pg_log_error_hint("Try \"%s --help\" for more information.", progname);
3700 peter_e@gmx.net 2715 : 1 : exit(1);
2716 : : }
2717 : :
2718 : : /*
2719 : : * Sanity checks for replication slot options.
2720 : : */
3155 magnus@hagander.net 2721 [ + + ]: 190 : if (no_slot)
2722 : : {
2723 [ + + ]: 2 : if (replication_slot)
2724 : : {
2350 peter@eisentraut.org 2725 : 1 : pg_log_error("--no-slot cannot be used with slot name");
1247 tgl@sss.pgh.pa.us 2726 : 1 : pg_log_error_hint("Try \"%s --help\" for more information.", progname);
3155 magnus@hagander.net 2727 : 1 : exit(1);
2728 : : }
2729 : 1 : temp_replication_slot = false;
2730 : : }
2731 : :
2902 peter_e@gmx.net 2732 [ + + ]: 189 : if (create_slot)
2733 : : {
2734 [ + + ]: 3 : if (!replication_slot)
2735 : : {
2350 peter@eisentraut.org 2736 : 1 : pg_log_error("%s needs a slot to be specified using --slot",
2737 : : "--create-slot");
1247 tgl@sss.pgh.pa.us 2738 : 1 : pg_log_error_hint("Try \"%s --help\" for more information.", progname);
2902 peter_e@gmx.net 2739 : 1 : exit(1);
2740 : : }
2741 : :
2742 [ - + ]: 2 : if (no_slot)
2743 : : {
1909 peter@eisentraut.org 2744 :UBC 0 : pg_log_error("%s and %s are incompatible options",
2745 : : "--create-slot", "--no-slot");
1247 tgl@sss.pgh.pa.us 2746 : 0 : pg_log_error_hint("Try \"%s --help\" for more information.", progname);
2902 peter_e@gmx.net 2747 : 0 : exit(1);
2748 : : }
2749 : : }
2750 : :
2751 : : /*
2752 : : * Sanity checks on WAL directory.
2753 : : */
2929 peter_e@gmx.net 2754 [ + + ]:CBC 188 : if (xlog_dir)
2755 : : {
1390 rhaas@postgresql.org 2756 [ - + ]: 1 : if (backup_target != NULL)
2757 : : {
1390 rhaas@postgresql.org 2758 :UBC 0 : pg_log_error("WAL directory location cannot be specified along with a backup target");
1247 tgl@sss.pgh.pa.us 2759 : 0 : pg_log_error_hint("Try \"%s --help\" for more information.", progname);
1390 rhaas@postgresql.org 2760 : 0 : exit(1);
2761 : : }
4301 fujii@postgresql.org 2762 [ - + ]:CBC 1 : if (format != 'p')
2763 : : {
2350 peter@eisentraut.org 2764 :UBC 0 : pg_log_error("WAL directory location can only be specified in plain mode");
1247 tgl@sss.pgh.pa.us 2765 : 0 : pg_log_error_hint("Try \"%s --help\" for more information.", progname);
4301 fujii@postgresql.org 2766 : 0 : exit(1);
2767 : : }
2768 : :
2769 : : /* clean up xlog directory name, check it's absolute */
4301 fujii@postgresql.org 2770 :CBC 1 : canonicalize_path(xlog_dir);
2771 [ - + ]: 1 : if (!is_absolute_path(xlog_dir))
2772 : : {
2350 peter@eisentraut.org 2773 :UBC 0 : pg_log_error("WAL directory location must be an absolute path");
1247 tgl@sss.pgh.pa.us 2774 : 0 : pg_log_error_hint("Try \"%s --help\" for more information.", progname);
4301 fujii@postgresql.org 2775 : 0 : exit(1);
2776 : : }
2777 : : }
2778 : :
2779 : : /*
2780 : : * Sanity checks for progress reporting options.
2781 : : */
1997 fujii@postgresql.org 2782 [ - + - - ]:CBC 188 : if (showprogress && !estimatesize)
2783 : : {
1909 peter@eisentraut.org 2784 :UBC 0 : pg_log_error("%s and %s are incompatible options",
2785 : : "--progress", "--no-estimate-size");
1247 tgl@sss.pgh.pa.us 2786 : 0 : pg_log_error_hint("Try \"%s --help\" for more information.", progname);
1997 fujii@postgresql.org 2787 : 0 : exit(1);
2788 : : }
2789 : :
2790 : : /*
2791 : : * Sanity checks for backup manifest options.
2792 : : */
1982 rhaas@postgresql.org 2793 [ + + - + ]:CBC 188 : if (!manifest && manifest_checksums != NULL)
2794 : : {
1909 peter@eisentraut.org 2795 :UBC 0 : pg_log_error("%s and %s are incompatible options",
2796 : : "--no-manifest", "--manifest-checksums");
1247 tgl@sss.pgh.pa.us 2797 : 0 : pg_log_error_hint("Try \"%s --help\" for more information.", progname);
1982 rhaas@postgresql.org 2798 : 0 : exit(1);
2799 : : }
2800 : :
1982 rhaas@postgresql.org 2801 [ + + - + ]:CBC 188 : if (!manifest && manifest_force_encode)
2802 : : {
1909 peter@eisentraut.org 2803 :UBC 0 : pg_log_error("%s and %s are incompatible options",
2804 : : "--no-manifest", "--manifest-force-encode");
1247 tgl@sss.pgh.pa.us 2805 : 0 : pg_log_error_hint("Try \"%s --help\" for more information.", progname);
1982 rhaas@postgresql.org 2806 : 0 : exit(1);
2807 : : }
2808 : :
2809 : : /* connection in replication mode to server */
3243 rhaas@postgresql.org 2810 :CBC 188 : conn = GetConnection();
2811 [ + + ]: 188 : if (!conn)
2812 : : {
2813 : : /* Error message already written in GetConnection() */
2814 : 2 : exit(1);
2815 : : }
2443 peter@eisentraut.org 2816 : 186 : atexit(disconnect_atexit);
2817 : :
2818 : : #ifndef WIN32
2819 : :
2820 : : /*
2821 : : * Trap SIGCHLD to be able to handle the WAL stream process exiting. There
2822 : : * is no SIGCHLD on Windows, there we rely on the background thread
2823 : : * setting the signal variable on unexpected but graceful exit. If the WAL
2824 : : * stream thread crashes on Windows it will bring down the entire process
2825 : : * as it's a thread, so there is nothing to catch should that happen. A
2826 : : * crash on UNIX will be caught by the signal handler.
2827 : : */
1291 dgustafsson@postgres 2828 : 186 : pqsignal(SIGCHLD, sigchld_handler);
2829 : : #endif
2830 : :
2831 : : /*
2832 : : * Set umask so that directories/files are created with the same
2833 : : * permissions as directories/files in the source data directory.
2834 : : *
2835 : : * pg_mode_mask is set to owner-only by default and then updated in
2836 : : * GetConnection() where we get the mode from the server-side with
2837 : : * RetrieveDataDirCreatePerm() and then call SetDataDirectoryCreatePerm().
2838 : : */
2709 sfrost@snowman.net 2839 : 186 : umask(pg_mode_mask);
2840 : :
2841 : : /* Backup manifests are supported in 13 and newer versions */
1969 michael@paquier.xyz 2842 [ - + ]: 186 : if (PQserverVersion(conn) < MINIMUM_VERSION_FOR_MANIFESTS)
1969 michael@paquier.xyz 2843 :UBC 0 : manifest = false;
2844 : :
2845 : : /*
2846 : : * If an output directory was specified, verify that it exists, or create
2847 : : * it. Note that for a tar backup, an output directory of "-" means we are
2848 : : * writing to stdout, so do nothing in that case.
2849 : : */
1390 rhaas@postgresql.org 2850 [ + + + + :CBC 186 : if (basedir != NULL && (format == 'p' || strcmp(basedir, "-") != 0))
+ - ]
2709 sfrost@snowman.net 2851 : 170 : verify_dir_is_empty_or_create(basedir, &made_new_pgdata, &found_existing_pgdata);
2852 : :
2853 : : /* determine remote server's xlog segment size */
2909 andres@anarazel.de 2854 [ - + ]: 186 : if (!RetrieveWalSegSize(conn))
2443 peter@eisentraut.org 2855 :UBC 0 : exit(1);
2856 : :
2857 : : /* Create pg_wal symlink, if required */
2929 peter_e@gmx.net 2858 [ + + ]:CBC 186 : if (xlog_dir)
2859 : : {
2860 : : char *linkloc;
2861 : :
3281 2862 : 1 : verify_dir_is_empty_or_create(xlog_dir, &made_new_xlogdir, &found_existing_xlogdir);
2863 : :
2864 : : /*
2865 : : * Form name of the place where the symlink must go. pg_xlog has been
2866 : : * renamed to pg_wal in post-10 clusters.
2867 : : */
3243 rhaas@postgresql.org 2868 [ - + ]: 1 : linkloc = psprintf("%s/%s", basedir,
2999 tgl@sss.pgh.pa.us 2869 : 1 : PQserverVersion(conn) < MINIMUM_VERSION_FOR_PG_WAL ?
2870 : : "pg_xlog" : "pg_wal");
2871 : :
4301 fujii@postgresql.org 2872 [ - + ]: 1 : if (symlink(xlog_dir, linkloc) != 0)
1247 tgl@sss.pgh.pa.us 2873 :UBC 0 : pg_fatal("could not create symbolic link \"%s\": %m", linkloc);
4301 fujii@postgresql.org 2874 :CBC 1 : free(linkloc);
2875 : : }
2876 : :
1263 rhaas@postgresql.org 2877 : 186 : BaseBackup(compression_algorithm, compression_detail, compressloc,
2878 : : &client_compress, incremental_manifest);
2879 : :
3281 peter_e@gmx.net 2880 : 159 : success = true;
5340 magnus@hagander.net 2881 : 159 : return 0;
2882 : : }
|
