Age Owner Branch data TLA Line data Source code
1 : : /*-------------------------------------------------------------------------
2 : : *
3 : : * datum.c
4 : : * POSTGRES Datum (abstract data type) manipulation routines.
5 : : *
6 : : * Portions Copyright (c) 1996-2024, PostgreSQL Global Development Group
7 : : * Portions Copyright (c) 1994, Regents of the University of California
8 : : *
9 : : *
10 : : * IDENTIFICATION
11 : : * src/backend/utils/adt/datum.c
12 : : *
13 : : *-------------------------------------------------------------------------
14 : : */
15 : :
16 : : /*
17 : : * In the implementation of these routines we assume the following:
18 : : *
19 : : * A) if a type is "byVal" then all the information is stored in the
20 : : * Datum itself (i.e. no pointers involved!). In this case the
21 : : * length of the type is always greater than zero and not more than
22 : : * "sizeof(Datum)"
23 : : *
24 : : * B) if a type is not "byVal" and it has a fixed length (typlen > 0),
25 : : * then the "Datum" always contains a pointer to a stream of bytes.
26 : : * The number of significant bytes are always equal to the typlen.
27 : : *
28 : : * C) if a type is not "byVal" and has typlen == -1,
29 : : * then the "Datum" always points to a "struct varlena".
30 : : * This varlena structure has information about the actual length of this
31 : : * particular instance of the type and about its value.
32 : : *
33 : : * D) if a type is not "byVal" and has typlen == -2,
34 : : * then the "Datum" always points to a null-terminated C string.
35 : : *
36 : : * Note that we do not treat "toasted" datums specially; therefore what
37 : : * will be copied or compared is the compressed data or toast reference.
38 : : * An exception is made for datumCopy() of an expanded object, however,
39 : : * because most callers expect to get a simple contiguous (and pfree'able)
40 : : * result from datumCopy(). See also datumTransfer().
41 : : */
42 : :
43 : : #include "postgres.h"
44 : :
45 : : #include "access/detoast.h"
46 : : #include "common/hashfn.h"
47 : : #include "fmgr.h"
48 : : #include "utils/datum.h"
49 : : #include "utils/expandeddatum.h"
50 : : #include "utils/fmgrprotos.h"
51 : :
52 : :
53 : : /*-------------------------------------------------------------------------
54 : : * datumGetSize
55 : : *
56 : : * Find the "real" size of a datum, given the datum value,
57 : : * whether it is a "by value", and the declared type length.
58 : : * (For TOAST pointer datums, this is the size of the pointer datum.)
59 : : *
60 : : * This is essentially an out-of-line version of the att_addlength_datum()
61 : : * macro in access/tupmacs.h. We do a tad more error checking though.
62 : : *-------------------------------------------------------------------------
63 : : */
64 : : Size
8677 tgl@sss.pgh.pa.us 65 :CBC 3353688 : datumGetSize(Datum value, bool typByVal, int typLen)
66 : : {
67 : : Size size;
68 : :
69 [ + + ]: 3353688 : if (typByVal)
70 : : {
71 : : /* Pass-by-value types are always fixed-length */
72 [ + - - + ]: 41768 : Assert(typLen > 0 && typLen <= sizeof(Datum));
73 : 41768 : size = (Size) typLen;
74 : : }
75 : : else
76 : : {
7904 77 [ + + ]: 3311920 : if (typLen > 0)
78 : : {
79 : : /* Fixed-length pass-by-ref type */
80 : 3056585 : size = (Size) typLen;
81 : : }
82 [ + + ]: 255335 : else if (typLen == -1)
83 : : {
84 : : /* It is a varlena datatype */
8677 85 : 253662 : struct varlena *s = (struct varlena *) DatumGetPointer(value);
86 : :
9716 bruce@momjian.us 87 [ - + ]: 253662 : if (!PointerIsValid(s))
7567 tgl@sss.pgh.pa.us 88 [ # # ]:UBC 0 : ereport(ERROR,
89 : : (errcode(ERRCODE_DATA_EXCEPTION),
90 : : errmsg("invalid Datum pointer")));
91 : :
6218 tgl@sss.pgh.pa.us 92 [ + + + - :CBC 253662 : size = (Size) VARSIZE_ANY(s);
+ - - + +
+ ]
93 : : }
7904 94 [ + - ]: 1673 : else if (typLen == -2)
95 : : {
96 : : /* It is a cstring datatype */
7893 bruce@momjian.us 97 : 1673 : char *s = (char *) DatumGetPointer(value);
98 : :
7904 tgl@sss.pgh.pa.us 99 [ - + ]: 1673 : if (!PointerIsValid(s))
7567 tgl@sss.pgh.pa.us 100 [ # # ]:UBC 0 : ereport(ERROR,
101 : : (errcode(ERRCODE_DATA_EXCEPTION),
102 : : errmsg("invalid Datum pointer")));
103 : :
7904 tgl@sss.pgh.pa.us 104 :CBC 1673 : size = (Size) (strlen(s) + 1);
105 : : }
106 : : else
107 : : {
7567 tgl@sss.pgh.pa.us 108 [ # # ]:UBC 0 : elog(ERROR, "invalid typLen: %d", typLen);
109 : : size = 0; /* keep compiler quiet */
110 : : }
111 : : }
112 : :
9357 bruce@momjian.us 113 :CBC 3353688 : return size;
114 : : }
115 : :
116 : : /*-------------------------------------------------------------------------
117 : : * datumCopy
118 : : *
119 : : * Make a copy of a non-NULL datum.
120 : : *
121 : : * If the datatype is pass-by-reference, memory is obtained with palloc().
122 : : *
123 : : * If the value is a reference to an expanded object, we flatten into memory
124 : : * obtained with palloc(). We need to copy because one of the main uses of
125 : : * this function is to copy a datum out of a transient memory context that's
126 : : * about to be destroyed, and the expanded object is probably in a child
127 : : * context that will also go away. Moreover, many callers assume that the
128 : : * result is a single pfree-able chunk.
129 : : *-------------------------------------------------------------------------
130 : : */
131 : : Datum
8677 tgl@sss.pgh.pa.us 132 : 11601741 : datumCopy(Datum value, bool typByVal, int typLen)
133 : : {
134 : : Datum res;
135 : :
136 [ + + ]: 11601741 : if (typByVal)
9716 bruce@momjian.us 137 : 5973489 : res = value;
3258 tgl@sss.pgh.pa.us 138 [ + + ]: 5628252 : else if (typLen == -1)
139 : : {
140 : : /* It is a varlena datatype */
141 : 3009968 : struct varlena *vl = (struct varlena *) DatumGetPointer(value);
142 : :
143 [ + + + + ]: 3009968 : if (VARATT_IS_EXTERNAL_EXPANDED(vl))
144 : 439 : {
145 : : /* Flatten into the caller's memory context */
146 : 439 : ExpandedObjectHeader *eoh = DatumGetEOHP(value);
147 : : Size resultsize;
148 : : char *resultptr;
149 : :
150 : 439 : resultsize = EOH_get_flat_size(eoh);
151 : 439 : resultptr = (char *) palloc(resultsize);
152 : 439 : EOH_flatten_into(eoh, (void *) resultptr, resultsize);
153 : 439 : res = PointerGetDatum(resultptr);
154 : : }
155 : : else
156 : : {
157 : : /* Otherwise, just copy the varlena datum verbatim */
158 : : Size realSize;
159 : : char *resultptr;
160 : :
161 [ + + + - : 3009529 : realSize = (Size) VARSIZE_ANY(vl);
+ - - + +
+ ]
162 : 3009529 : resultptr = (char *) palloc(realSize);
163 : 3009529 : memcpy(resultptr, vl, realSize);
164 : 3009529 : res = PointerGetDatum(resultptr);
165 : : }
166 : : }
167 : : else
168 : : {
169 : : /* Pass by reference, but not varlena, so not toasted */
170 : : Size realSize;
171 : : char *resultptr;
172 : :
8677 173 : 2618284 : realSize = datumGetSize(value, typByVal, typLen);
174 : :
3258 175 : 2618284 : resultptr = (char *) palloc(realSize);
176 : 2618284 : memcpy(resultptr, DatumGetPointer(value), realSize);
177 : 2618284 : res = PointerGetDatum(resultptr);
178 : : }
9357 bruce@momjian.us 179 : 11601741 : return res;
180 : : }
181 : :
182 : : /*-------------------------------------------------------------------------
183 : : * datumTransfer
184 : : *
185 : : * Transfer a non-NULL datum into the current memory context.
186 : : *
187 : : * This is equivalent to datumCopy() except when the datum is a read-write
188 : : * pointer to an expanded object. In that case we merely reparent the object
189 : : * into the current context, and return its standard R/W pointer (in case the
190 : : * given one is a transient pointer of shorter lifespan).
191 : : *-------------------------------------------------------------------------
192 : : */
193 : : Datum
3258 tgl@sss.pgh.pa.us 194 : 47813 : datumTransfer(Datum value, bool typByVal, int typLen)
195 : : {
196 [ + + + + ]: 47813 : if (!typByVal && typLen == -1 &&
197 [ + + + + ]: 46493 : VARATT_IS_EXTERNAL_EXPANDED_RW(DatumGetPointer(value)))
198 : 1868 : value = TransferExpandedObject(value, CurrentMemoryContext);
199 : : else
200 : 45945 : value = datumCopy(value, typByVal, typLen);
201 : 47813 : return value;
202 : : }
203 : :
204 : : /*-------------------------------------------------------------------------
205 : : * datumIsEqual
206 : : *
207 : : * Return true if two datums are equal, false otherwise
208 : : *
209 : : * NOTE: XXX!
210 : : * We just compare the bytes of the two values, one by one.
211 : : * This routine will return false if there are 2 different
212 : : * representations of the same value (something along the lines
213 : : * of say the representation of zero in one's complement arithmetic).
214 : : * Also, it will probably not give the answer you want if either
215 : : * datum has been "toasted".
216 : : *
217 : : * Do not try to make this any smarter than it currently is with respect
218 : : * to "toasted" datums, because some of the callers could be working in the
219 : : * context of an aborted transaction.
220 : : *-------------------------------------------------------------------------
221 : : */
222 : : bool
8677 223 : 673039 : datumIsEqual(Datum value1, Datum value2, bool typByVal, int typLen)
224 : : {
225 : : bool res;
226 : :
227 [ + + ]: 673039 : if (typByVal)
228 : : {
229 : : /*
230 : : * just compare the two datums. NOTE: just comparing "len" bytes will
231 : : * not do the work, because we do not know how these bytes are aligned
232 : : * inside the "Datum". We assume instead that any given datatype is
233 : : * consistent about how it fills extraneous bits in the Datum.
234 : : */
235 : 532266 : res = (value1 == value2);
236 : : }
237 : : else
238 : : {
239 : : Size size1,
240 : : size2;
241 : : char *s1,
242 : : *s2;
243 : :
244 : : /*
245 : : * Compare the bytes pointed by the pointers stored in the datums.
246 : : */
247 : 140773 : size1 = datumGetSize(value1, typByVal, typLen);
248 : 140773 : size2 = datumGetSize(value2, typByVal, typLen);
9716 bruce@momjian.us 249 [ + + ]: 140773 : if (size1 != size2)
9357 250 : 7373 : return false;
9716 251 : 133400 : s1 = (char *) DatumGetPointer(value1);
252 : 133400 : s2 = (char *) DatumGetPointer(value2);
8677 tgl@sss.pgh.pa.us 253 : 133400 : res = (memcmp(s1, s2, size1) == 0);
254 : : }
255 : 665666 : return res;
256 : : }
257 : :
258 : : /*-------------------------------------------------------------------------
259 : : * datum_image_eq
260 : : *
261 : : * Compares two datums for identical contents, based on byte images. Return
262 : : * true if the two datums are equal, false otherwise.
263 : : *-------------------------------------------------------------------------
264 : : */
265 : : bool
1854 peter@eisentraut.org 266 : 9004756 : datum_image_eq(Datum value1, Datum value2, bool typByVal, int typLen)
267 : : {
268 : : Size len1,
269 : : len2;
270 : 9004756 : bool result = true;
271 : :
1623 272 [ + + ]: 9004756 : if (typByVal)
273 : : {
274 : 7417463 : result = (value1 == value2);
275 : : }
276 [ + + ]: 1587293 : else if (typLen > 0)
277 : : {
278 : 1205100 : result = (memcmp(DatumGetPointer(value1),
279 : 1205100 : DatumGetPointer(value2),
280 : : typLen) == 0);
281 : : }
282 [ + + ]: 382193 : else if (typLen == -1)
283 : : {
1854 284 : 163592 : len1 = toast_raw_datum_size(value1);
285 : 163592 : len2 = toast_raw_datum_size(value2);
286 : : /* No need to de-toast if lengths don't match. */
287 [ + + ]: 163592 : if (len1 != len2)
288 : 11182 : result = false;
289 : : else
290 : : {
291 : : struct varlena *arg1val;
292 : : struct varlena *arg2val;
293 : :
294 : 152410 : arg1val = PG_DETOAST_DATUM_PACKED(value1);
295 : 152410 : arg2val = PG_DETOAST_DATUM_PACKED(value2);
296 : :
297 [ + + ]: 152410 : result = (memcmp(VARDATA_ANY(arg1val),
298 [ + + ]: 152410 : VARDATA_ANY(arg2val),
299 : : len1 - VARHDRSZ) == 0);
300 : :
301 : : /* Only free memory if it's a copy made here. */
302 [ + + ]: 152410 : if ((Pointer) arg1val != (Pointer) value1)
303 : 3 : pfree(arg1val);
304 [ + + ]: 152410 : if ((Pointer) arg2val != (Pointer) value2)
305 : 3 : pfree(arg2val);
306 : : }
307 : : }
1615 pg@bowt.ie 308 [ + - ]: 218601 : else if (typLen == -2)
309 : : {
310 : : char *s1,
311 : : *s2;
312 : :
313 : : /* Compare cstring datums */
314 : 218601 : s1 = DatumGetCString(value1);
315 : 218601 : s2 = DatumGetCString(value2);
316 : 218601 : len1 = strlen(s1) + 1;
317 : 218601 : len2 = strlen(s2) + 1;
318 [ + + ]: 218601 : if (len1 != len2)
319 : 110526 : return false;
320 : 108075 : result = (memcmp(s1, s2, len1) == 0);
321 : : }
322 : : else
1623 peter@eisentraut.org 323 [ # # ]:UBC 0 : elog(ERROR, "unexpected typLen: %d", typLen);
324 : :
1854 peter@eisentraut.org 325 :CBC 8894230 : return result;
326 : : }
327 : :
328 : : /*-------------------------------------------------------------------------
329 : : * datum_image_hash
330 : : *
331 : : * Generate a hash value based on the binary representation of 'value'. Most
332 : : * use cases will want to use the hash function specific to the Datum's type,
333 : : * however, some corner cases require generating a hash value based on the
334 : : * actual bits rather than the logical value.
335 : : *-------------------------------------------------------------------------
336 : : */
337 : : uint32
872 drowley@postgresql.o 338 : 41029 : datum_image_hash(Datum value, bool typByVal, int typLen)
339 : : {
340 : : Size len;
341 : : uint32 result;
342 : :
343 [ + + ]: 41029 : if (typByVal)
344 : 40927 : result = hash_bytes((unsigned char *) &value, sizeof(Datum));
345 [ + + ]: 102 : else if (typLen > 0)
346 : 18 : result = hash_bytes((unsigned char *) DatumGetPointer(value), typLen);
347 [ + - ]: 84 : else if (typLen == -1)
348 : : {
349 : : struct varlena *val;
350 : :
351 : 84 : len = toast_raw_datum_size(value);
352 : :
353 : 84 : val = PG_DETOAST_DATUM_PACKED(value);
354 : :
355 [ + + ]: 84 : result = hash_bytes((unsigned char *) VARDATA_ANY(val), len - VARHDRSZ);
356 : :
357 : : /* Only free memory if it's a copy made here. */
358 [ + + ]: 84 : if ((Pointer) val != (Pointer) value)
359 : 6 : pfree(val);
360 : : }
872 drowley@postgresql.o 361 [ # # ]:UBC 0 : else if (typLen == -2)
362 : : {
363 : : char *s;
364 : :
365 : 0 : s = DatumGetCString(value);
366 : 0 : len = strlen(s) + 1;
367 : :
368 : 0 : result = hash_bytes((unsigned char *) s, len);
369 : : }
370 : : else
371 : : {
372 [ # # ]: 0 : elog(ERROR, "unexpected typLen: %d", typLen);
373 : : result = 0; /* keep compiler quiet */
374 : : }
375 : :
872 drowley@postgresql.o 376 :CBC 41029 : return result;
377 : : }
378 : :
379 : : /*-------------------------------------------------------------------------
380 : : * btequalimage
381 : : *
382 : : * Generic "equalimage" support function.
383 : : *
384 : : * B-Tree operator classes whose equality function could safely be replaced by
385 : : * datum_image_eq() in all cases can use this as their "equalimage" support
386 : : * function.
387 : : *
388 : : * Currently, we unconditionally assume that any B-Tree operator class that
389 : : * registers btequalimage as its support function 4 must be able to safely use
390 : : * optimizations like deduplication (i.e. we return true unconditionally). If
391 : : * it ever proved necessary to rescind support for an operator class, we could
392 : : * do that in a targeted fashion by doing something with the opcintype
393 : : * argument.
394 : : *-------------------------------------------------------------------------
395 : : */
396 : : Datum
1509 pg@bowt.ie 397 : 39281 : btequalimage(PG_FUNCTION_ARGS)
398 : : {
399 : : /* Oid opcintype = PG_GETARG_OID(0); */
400 : :
1509 pg@bowt.ie 401 :GNC 39281 : PG_RETURN_BOOL(true);
402 : : }
403 : :
404 : : /*-------------------------------------------------------------------------
405 : : * datumEstimateSpace
406 : : *
407 : : * Compute the amount of space that datumSerialize will require for a
408 : : * particular Datum.
409 : : *-------------------------------------------------------------------------
410 : : */
411 : : Size
3121 rhaas@postgresql.org 412 :CBC 57 : datumEstimateSpace(Datum value, bool isnull, bool typByVal, int typLen)
413 : : {
2866 414 : 57 : Size sz = sizeof(int);
415 : :
3121 416 [ + - ]: 57 : if (!isnull)
417 : : {
418 : : /* no need to use add_size, can't overflow */
419 [ + + ]: 57 : if (typByVal)
420 : 48 : sz += sizeof(Datum);
2441 tgl@sss.pgh.pa.us 421 [ + - ]: 9 : else if (typLen == -1 &&
422 [ + + + - ]: 9 : VARATT_IS_EXTERNAL_EXPANDED(DatumGetPointer(value)))
423 : : {
424 : : /* Expanded objects need to be flattened, see comment below */
425 : 3 : sz += EOH_get_flat_size(DatumGetEOHP(value));
426 : : }
427 : : else
3121 rhaas@postgresql.org 428 : 6 : sz += datumGetSize(value, typByVal, typLen);
429 : : }
430 : :
431 : 57 : return sz;
432 : : }
433 : :
434 : : /*-------------------------------------------------------------------------
435 : : * datumSerialize
436 : : *
437 : : * Serialize a possibly-NULL datum into caller-provided storage.
438 : : *
439 : : * Note: "expanded" objects are flattened so as to produce a self-contained
440 : : * representation, but other sorts of toast pointers are transferred as-is.
441 : : * This is because the intended use of this function is to pass the value
442 : : * to another process within the same database server. The other process
443 : : * could not access an "expanded" object within this process's memory, but
444 : : * we assume it can dereference the same TOAST pointers this one can.
445 : : *
446 : : * The format is as follows: first, we write a 4-byte header word, which
447 : : * is either the length of a pass-by-reference datum, -1 for a
448 : : * pass-by-value datum, or -2 for a NULL. If the value is NULL, nothing
449 : : * further is written. If it is pass-by-value, sizeof(Datum) bytes
450 : : * follow. Otherwise, the number of bytes indicated by the header word
451 : : * follow. The caller is responsible for ensuring that there is enough
452 : : * storage to store the number of bytes that will be written; use
453 : : * datumEstimateSpace() to find out how many will be needed.
454 : : * *start_address is updated to point to the byte immediately following
455 : : * those written.
456 : : *-------------------------------------------------------------------------
457 : : */
458 : : void
459 : 57 : datumSerialize(Datum value, bool isnull, bool typByVal, int typLen,
460 : : char **start_address)
461 : : {
3086 462 : 57 : ExpandedObjectHeader *eoh = NULL;
463 : : int header;
464 : :
465 : : /* Write header word. */
3121 466 [ - + ]: 57 : if (isnull)
3121 rhaas@postgresql.org 467 :UBC 0 : header = -2;
3121 rhaas@postgresql.org 468 [ + + ]:CBC 57 : else if (typByVal)
469 : 48 : header = -1;
2441 tgl@sss.pgh.pa.us 470 [ + - ]: 9 : else if (typLen == -1 &&
471 [ + + + - ]: 9 : VARATT_IS_EXTERNAL_EXPANDED(DatumGetPointer(value)))
472 : : {
3086 rhaas@postgresql.org 473 : 3 : eoh = DatumGetEOHP(value);
474 : 3 : header = EOH_get_flat_size(eoh);
475 : : }
476 : : else
3121 477 : 6 : header = datumGetSize(value, typByVal, typLen);
478 : 57 : memcpy(*start_address, &header, sizeof(int));
479 : 57 : *start_address += sizeof(int);
480 : :
481 : : /* If not null, write payload bytes. */
482 [ + - ]: 57 : if (!isnull)
483 : : {
484 [ + + ]: 57 : if (typByVal)
485 : : {
486 : 48 : memcpy(*start_address, &value, sizeof(Datum));
487 : 48 : *start_address += sizeof(Datum);
488 : : }
3086 489 [ + + ]: 9 : else if (eoh)
490 : : {
491 : : char *tmp;
492 : :
493 : : /*
494 : : * EOH_flatten_into expects the target address to be maxaligned,
495 : : * so we can't store directly to *start_address.
496 : : */
2020 akapila@postgresql.o 497 : 3 : tmp = (char *) palloc(header);
498 : 3 : EOH_flatten_into(eoh, (void *) tmp, header);
499 : 3 : memcpy(*start_address, tmp, header);
3086 rhaas@postgresql.org 500 : 3 : *start_address += header;
501 : :
502 : : /* be tidy. */
2020 akapila@postgresql.o 503 : 3 : pfree(tmp);
504 : : }
505 : : else
506 : : {
3121 rhaas@postgresql.org 507 : 6 : memcpy(*start_address, DatumGetPointer(value), header);
508 : 6 : *start_address += header;
509 : : }
510 : : }
511 : 57 : }
512 : :
513 : : /*-------------------------------------------------------------------------
514 : : * datumRestore
515 : : *
516 : : * Restore a possibly-NULL datum previously serialized by datumSerialize.
517 : : * *start_address is updated according to the number of bytes consumed.
518 : : *-------------------------------------------------------------------------
519 : : */
520 : : Datum
521 : 138 : datumRestore(char **start_address, bool *isnull)
522 : : {
523 : : int header;
524 : : void *d;
525 : :
526 : : /* Read header word. */
527 : 138 : memcpy(&header, *start_address, sizeof(int));
528 : 138 : *start_address += sizeof(int);
529 : :
530 : : /* If this datum is NULL, we can stop here. */
531 [ - + ]: 138 : if (header == -2)
532 : : {
3121 rhaas@postgresql.org 533 :UBC 0 : *isnull = true;
534 : 0 : return (Datum) 0;
535 : : }
536 : :
537 : : /* OK, datum is not null. */
3121 rhaas@postgresql.org 538 :CBC 138 : *isnull = false;
539 : :
540 : : /* If this datum is pass-by-value, sizeof(Datum) bytes follow. */
541 [ + + ]: 138 : if (header == -1)
542 : : {
543 : : Datum val;
544 : :
545 : 108 : memcpy(&val, *start_address, sizeof(Datum));
546 : 108 : *start_address += sizeof(Datum);
547 : 108 : return val;
548 : : }
549 : :
550 : : /* Pass-by-reference case; copy indicated number of bytes. */
551 [ - + ]: 30 : Assert(header > 0);
552 : 30 : d = palloc(header);
553 : 30 : memcpy(d, *start_address, header);
554 : 30 : *start_address += header;
555 : 30 : return PointerGetDatum(d);
556 : : }
|