Age Owner TLA Line data Source code
1 : /*
2 : * contrib/btree_gist/btree_utils_var.c
3 : */
4 : #include "postgres.h"
5 :
6 : #include <math.h>
7 : #include <limits.h>
8 : #include <float.h>
9 :
10 : #include "btree_gist.h"
11 : #include "btree_utils_var.h"
12 : #include "utils/builtins.h"
13 : #include "utils/pg_locale.h"
14 : #include "utils/rel.h"
15 :
16 : /* used for key sorting */
17 : typedef struct
18 : {
19 : int i;
20 : GBT_VARKEY *t;
21 : } Vsrt;
22 :
23 : typedef struct
24 : {
25 : const gbtree_vinfo *tinfo;
26 : Oid collation;
27 : FmgrInfo *flinfo;
28 : } gbt_vsrt_arg;
29 :
30 :
6613 teodor 31 CBC 9 : PG_FUNCTION_INFO_V1(gbt_var_decompress);
2935 heikki.linnakangas 32 9 : PG_FUNCTION_INFO_V1(gbt_var_fetch);
33 :
34 :
35 : Datum
6613 teodor 36 85094 : gbt_var_decompress(PG_FUNCTION_ARGS)
37 : {
6532 neilc 38 85094 : GISTENTRY *entry = (GISTENTRY *) PG_GETARG_POINTER(0);
2029 tgl 39 85094 : GBT_VARKEY *key = (GBT_VARKEY *) PG_DETOAST_DATUM(entry->key);
40 :
6532 neilc 41 85094 : if (key != (GBT_VARKEY *) DatumGetPointer(entry->key))
42 : {
43 85024 : GISTENTRY *retval = (GISTENTRY *) palloc(sizeof(GISTENTRY));
44 :
45 85024 : gistentryinit(*retval, PointerGetDatum(key),
46 : entry->rel, entry->page,
47 : entry->offset, false);
48 :
49 85024 : PG_RETURN_POINTER(retval);
50 : }
51 :
52 70 : PG_RETURN_POINTER(entry);
53 : }
54 :
55 : /* Returns a better readable representation of variable key ( sets pointer ) */
56 : GBT_VARKEY_R
5050 bruce 57 335459 : gbt_var_key_readable(const GBT_VARKEY *k)
58 : {
59 : GBT_VARKEY_R r;
60 :
6797 61 335459 : r.lower = (bytea *) &(((char *) k)[VARHDRSZ]);
62 335459 : if (VARSIZE(k) > (VARHDRSZ + (VARSIZE(r.lower))))
63 163651 : r.upper = (bytea *) &(((char *) k)[VARHDRSZ + INTALIGN(VARSIZE(r.lower))]);
64 : else
65 171808 : r.upper = r.lower;
66 335459 : return r;
67 : }
68 :
69 :
70 : /*
71 : * Create a leaf-entry to store in the index, from a single Datum.
72 : */
73 : static GBT_VARKEY *
2118 tgl 74 8262 : gbt_var_key_from_datum(const struct varlena *u)
75 : {
2936 heikki.linnakangas 76 8262 : int32 lowersize = VARSIZE(u);
77 : GBT_VARKEY *r;
78 :
79 8262 : r = (GBT_VARKEY *) palloc(lowersize + VARHDRSZ);
80 8262 : memcpy(VARDATA(r), u, lowersize);
81 8262 : SET_VARSIZE(r, lowersize + VARHDRSZ);
82 :
83 8262 : return r;
84 : }
85 :
86 : /*
87 : * Create an entry to store in the index, from lower and upper bound.
88 : */
89 : GBT_VARKEY *
90 44631 : gbt_var_key_copy(const GBT_VARKEY_R *u)
91 : {
3250 tgl 92 44631 : int32 lowersize = VARSIZE(u->lower);
93 44631 : int32 uppersize = VARSIZE(u->upper);
94 : GBT_VARKEY *r;
95 :
2936 heikki.linnakangas 96 44631 : r = (GBT_VARKEY *) palloc0(INTALIGN(lowersize) + uppersize + VARHDRSZ);
97 44631 : memcpy(VARDATA(r), u->lower, lowersize);
98 44631 : memcpy(VARDATA(r) + INTALIGN(lowersize), u->upper, uppersize);
99 44631 : SET_VARSIZE(r, INTALIGN(lowersize) + uppersize + VARHDRSZ);
100 :
6797 bruce 101 44631 : return r;
102 : }
103 :
104 :
105 : static GBT_VARKEY *
2210 andrew 106 61610 : gbt_var_leaf2node(GBT_VARKEY *leaf, const gbtree_vinfo *tinfo, FmgrInfo *flinfo)
107 : {
6797 bruce 108 61610 : GBT_VARKEY *out = leaf;
109 :
110 61610 : if (tinfo->f_l2n)
2040 peter_e 111 5090 : out = tinfo->f_l2n(leaf, flinfo);
112 :
6797 bruce 113 61610 : return out;
114 : }
115 :
116 :
117 : /*
118 : * returns the common prefix length of a node key
119 : */
120 : static int32
5050 121 20896 : gbt_var_node_cp_len(const GBT_VARKEY *node, const gbtree_vinfo *tinfo)
122 : {
6385 123 20896 : GBT_VARKEY_R r = gbt_var_key_readable(node);
124 20896 : int32 i = 0;
125 20896 : int32 l = 0;
126 20896 : int32 t1len = VARSIZE(r.lower) - VARHDRSZ;
127 20896 : int32 t2len = VARSIZE(r.upper) - VARHDRSZ;
128 20896 : int32 ml = Min(t1len, t2len);
129 20896 : char *p1 = VARDATA(r.lower);
130 20896 : char *p2 = VARDATA(r.upper);
131 :
132 20896 : if (ml == 0)
133 6596 : return 0;
134 :
135 14300 : while (i < ml)
136 : {
137 14300 : if (tinfo->eml > 1 && l == 0)
138 : {
139 9142 : if ((l = pg_mblen(p1)) != pg_mblen(p2))
140 : {
6385 bruce 141 UBC 0 : return i;
142 : }
143 : }
6385 bruce 144 CBC 14300 : if (*p1 != *p2)
145 : {
146 14300 : if (tinfo->eml > 1)
147 : {
148 9142 : return (i - l + 1);
149 : }
150 : else
151 : {
152 5158 : return i;
153 : }
154 : }
155 :
6385 bruce 156 UBC 0 : p1++;
157 0 : p2++;
158 0 : l--;
159 0 : i++;
160 : }
2029 tgl 161 0 : return ml; /* lower == upper */
162 : }
163 :
164 :
165 : /*
166 : * returns true, if query matches prefix ( common prefix )
167 : */
168 : static bool
5050 bruce 169 CBC 9733 : gbt_bytea_pf_match(const bytea *pf, const bytea *query, const gbtree_vinfo *tinfo)
170 : {
2062 peter_e 171 9733 : bool out = false;
6385 bruce 172 9733 : int32 qlen = VARSIZE(query) - VARHDRSZ;
173 9733 : int32 nlen = VARSIZE(pf) - VARHDRSZ;
174 :
6797 175 9733 : if (nlen <= qlen)
176 : {
6385 177 4553 : char *q = VARDATA(query);
178 4553 : char *n = VARDATA(pf);
179 :
4370 tgl 180 4553 : out = (memcmp(q, n, nlen) == 0);
181 : }
182 :
6797 bruce 183 9733 : return out;
184 : }
185 :
186 :
187 : /*
188 : * returns true, if query matches node using common prefix
189 : */
190 : static bool
5050 191 166 : gbt_var_node_pf_match(const GBT_VARKEY_R *node, const bytea *query, const gbtree_vinfo *tinfo)
192 : {
1165 alvherre 193 244 : return (tinfo->trnc &&
194 78 : (gbt_bytea_pf_match(node->lower, query, tinfo) ||
195 34 : gbt_bytea_pf_match(node->upper, query, tinfo)));
196 : }
197 :
198 :
199 : /*
200 : * truncates / compresses the node key
201 : * cpf_length .. common prefix length
202 : */
203 : static GBT_VARKEY *
5050 bruce 204 1596 : gbt_var_node_truncate(const GBT_VARKEY *node, int32 cpf_length, const gbtree_vinfo *tinfo)
205 : {
6797 206 1596 : GBT_VARKEY *out = NULL;
207 1596 : GBT_VARKEY_R r = gbt_var_key_readable(node);
6385 208 1596 : int32 len1 = VARSIZE(r.lower) - VARHDRSZ;
209 1596 : int32 len2 = VARSIZE(r.upper) - VARHDRSZ;
210 : int32 si;
211 : char *out2;
212 :
213 1596 : len1 = Min(len1, (cpf_length + 1));
214 1596 : len2 = Min(len2, (cpf_length + 1));
215 :
5885 tgl 216 1596 : si = 2 * VARHDRSZ + INTALIGN(len1 + VARHDRSZ) + len2;
3250 217 1596 : out = (GBT_VARKEY *) palloc0(si);
5885 218 1596 : SET_VARSIZE(out, si);
219 :
220 1596 : memcpy(VARDATA(out), r.lower, len1 + VARHDRSZ);
221 1596 : SET_VARSIZE(VARDATA(out), len1 + VARHDRSZ);
222 :
223 1596 : out2 = VARDATA(out) + INTALIGN(len1 + VARHDRSZ);
224 1596 : memcpy(out2, r.upper, len2 + VARHDRSZ);
225 1596 : SET_VARSIZE(out2, len2 + VARHDRSZ);
226 :
6797 bruce 227 1596 : return out;
228 : }
229 :
230 :
231 :
232 : void
4370 tgl 233 47710 : gbt_var_bin_union(Datum *u, GBT_VARKEY *e, Oid collation,
234 : const gbtree_vinfo *tinfo, FmgrInfo *flinfo)
235 : {
6797 bruce 236 47710 : GBT_VARKEY_R eo = gbt_var_key_readable(e);
237 : GBT_VARKEY_R nr;
238 :
239 47710 : if (eo.lower == eo.upper) /* leaf */
240 : {
241 : GBT_VARKEY *tmp;
242 :
2210 andrew 243 36567 : tmp = gbt_var_leaf2node(e, tinfo, flinfo);
6797 bruce 244 36567 : if (tmp != e)
245 2046 : eo = gbt_var_key_readable(tmp);
246 : }
247 :
248 47710 : if (DatumGetPointer(*u))
249 : {
250 37950 : GBT_VARKEY_R ro = gbt_var_key_readable((GBT_VARKEY *) DatumGetPointer(*u));
3713 tgl 251 37950 : bool update = false;
252 :
253 37950 : nr.lower = ro.lower;
254 37950 : nr.upper = ro.upper;
255 :
2040 peter_e 256 37950 : if (tinfo->f_cmp(ro.lower, eo.lower, collation, flinfo) > 0)
257 : {
6797 bruce 258 8666 : nr.lower = eo.lower;
3713 tgl 259 8666 : update = true;
260 : }
261 :
2040 peter_e 262 37950 : if (tinfo->f_cmp(ro.upper, eo.upper, collation, flinfo) < 0)
263 : {
6797 bruce 264 8175 : nr.upper = eo.upper;
3713 tgl 265 8175 : update = true;
266 : }
267 :
268 37950 : if (update)
2936 heikki.linnakangas 269 16841 : *u = PointerGetDatum(gbt_var_key_copy(&nr));
270 : }
271 : else
272 : {
6797 bruce 273 9760 : nr.lower = eo.lower;
274 9760 : nr.upper = eo.upper;
2936 heikki.linnakangas 275 9760 : *u = PointerGetDatum(gbt_var_key_copy(&nr));
276 : }
6890 teodor 277 47710 : }
278 :
279 :
280 : GISTENTRY *
5050 bruce 281 8412 : gbt_var_compress(GISTENTRY *entry, const gbtree_vinfo *tinfo)
282 : {
283 : GISTENTRY *retval;
284 :
6797 285 8412 : if (entry->leafkey)
286 : {
2936 heikki.linnakangas 287 8262 : struct varlena *leaf = PG_DETOAST_DATUM(entry->key);
288 : GBT_VARKEY *r;
289 :
290 8262 : r = gbt_var_key_from_datum(leaf);
291 :
6797 bruce 292 8262 : retval = palloc(sizeof(GISTENTRY));
293 8262 : gistentryinit(*retval, PointerGetDatum(r),
294 : entry->rel, entry->page,
295 : entry->offset, true);
296 : }
297 : else
298 150 : retval = entry;
299 :
2061 peter_e 300 8412 : return retval;
301 : }
302 :
303 :
304 : Datum
2935 heikki.linnakangas 305 6 : gbt_var_fetch(PG_FUNCTION_ARGS)
306 : {
307 6 : GISTENTRY *entry = (GISTENTRY *) PG_GETARG_POINTER(0);
2029 tgl 308 6 : GBT_VARKEY *key = (GBT_VARKEY *) PG_DETOAST_DATUM(entry->key);
2935 heikki.linnakangas 309 6 : GBT_VARKEY_R r = gbt_var_key_readable(key);
310 : GISTENTRY *retval;
311 :
312 6 : retval = palloc(sizeof(GISTENTRY));
313 6 : gistentryinit(*retval, PointerGetDatum(r.lower),
314 : entry->rel, entry->page,
315 : entry->offset, true);
316 :
317 6 : PG_RETURN_POINTER(retval);
318 : }
319 :
320 :
321 : GBT_VARKEY *
4370 tgl 322 6811 : gbt_var_union(const GistEntryVector *entryvec, int32 *size, Oid collation,
323 : const gbtree_vinfo *tinfo, FmgrInfo *flinfo)
324 : {
6797 bruce 325 6811 : int i = 0,
326 6811 : numranges = entryvec->n;
327 : GBT_VARKEY *cur;
328 : Datum out;
329 : GBT_VARKEY_R rk;
330 :
331 6811 : *size = sizeof(GBT_VARKEY);
332 :
6613 teodor 333 6811 : cur = (GBT_VARKEY *) DatumGetPointer(entryvec->vector[0].key);
6797 bruce 334 6811 : rk = gbt_var_key_readable(cur);
2936 heikki.linnakangas 335 6811 : out = PointerGetDatum(gbt_var_key_copy(&rk));
336 :
6797 bruce 337 18376 : for (i = 1; i < numranges; i++)
338 : {
6613 teodor 339 11565 : cur = (GBT_VARKEY *) DatumGetPointer(entryvec->vector[i].key);
2210 andrew 340 11565 : gbt_var_bin_union(&out, cur, collation, tinfo, flinfo);
341 : }
342 :
343 :
344 : /* Truncate (=compress) key */
6797 bruce 345 6811 : if (tinfo->trnc)
346 : {
347 : int32 plen;
348 1574 : GBT_VARKEY *trc = NULL;
349 :
350 1574 : plen = gbt_var_node_cp_len((GBT_VARKEY *) DatumGetPointer(out), tinfo);
351 1574 : trc = gbt_var_node_truncate((GBT_VARKEY *) DatumGetPointer(out), plen + 1, tinfo);
352 :
353 1574 : out = PointerGetDatum(trc);
354 : }
355 :
356 6811 : return ((GBT_VARKEY *) DatumGetPointer(out));
357 : }
358 :
359 :
360 : bool
4370 tgl 361 6760 : gbt_var_same(Datum d1, Datum d2, Oid collation,
362 : const gbtree_vinfo *tinfo, FmgrInfo *flinfo)
363 : {
6613 teodor 364 6760 : GBT_VARKEY *t1 = (GBT_VARKEY *) DatumGetPointer(d1);
365 6760 : GBT_VARKEY *t2 = (GBT_VARKEY *) DatumGetPointer(d2);
366 : GBT_VARKEY_R r1,
367 : r2;
368 :
6797 bruce 369 6760 : r1 = gbt_var_key_readable(t1);
370 6760 : r2 = gbt_var_key_readable(t2);
371 :
2040 peter_e 372 13499 : return (tinfo->f_cmp(r1.lower, r2.lower, collation, flinfo) == 0 &&
373 6739 : tinfo->f_cmp(r1.upper, r2.upper, collation, flinfo) == 0);
374 : }
375 :
376 :
377 : float *
4370 tgl 378 14327 : gbt_var_penalty(float *res, const GISTENTRY *o, const GISTENTRY *n,
379 : Oid collation, const gbtree_vinfo *tinfo, FmgrInfo *flinfo)
380 : {
6613 teodor 381 14327 : GBT_VARKEY *orge = (GBT_VARKEY *) DatumGetPointer(o->key);
382 14327 : GBT_VARKEY *newe = (GBT_VARKEY *) DatumGetPointer(n->key);
383 : GBT_VARKEY_R ok,
384 : nk;
385 :
6797 bruce 386 14327 : *res = 0.0;
387 :
388 14327 : nk = gbt_var_key_readable(newe);
389 14327 : if (nk.lower == nk.upper) /* leaf */
390 : {
391 : GBT_VARKEY *tmp;
392 :
2210 andrew 393 14327 : tmp = gbt_var_leaf2node(newe, tinfo, flinfo);
6797 bruce 394 14327 : if (tmp != newe)
395 1557 : nk = gbt_var_key_readable(tmp);
396 : }
397 14327 : ok = gbt_var_key_readable(orge);
398 :
6491 teodor 399 14327 : if ((VARSIZE(ok.lower) - VARHDRSZ) == 0 && (VARSIZE(ok.upper) - VARHDRSZ) == 0)
6797 bruce 400 758 : *res = 0.0;
2040 peter_e 401 27138 : else if (!((tinfo->f_cmp(nk.lower, ok.lower, collation, flinfo) >= 0 ||
4370 tgl 402 7952 : gbt_bytea_pf_match(ok.lower, nk.lower, tinfo)) &&
2040 peter_e 403 7320 : (tinfo->f_cmp(nk.upper, ok.upper, collation, flinfo) <= 0 ||
2118 tgl 404 1703 : gbt_bytea_pf_match(ok.upper, nk.upper, tinfo))))
405 : {
6797 bruce 406 9650 : Datum d = PointerGetDatum(0);
407 : double dres;
408 : int32 ol,
409 : ul;
410 :
2210 andrew 411 9650 : gbt_var_bin_union(&d, orge, collation, tinfo, flinfo);
6797 bruce 412 9650 : ol = gbt_var_node_cp_len((GBT_VARKEY *) DatumGetPointer(d), tinfo);
2210 andrew 413 9650 : gbt_var_bin_union(&d, newe, collation, tinfo, flinfo);
6797 bruce 414 9650 : ul = gbt_var_node_cp_len((GBT_VARKEY *) DatumGetPointer(d), tinfo);
415 :
416 9650 : if (ul < ol)
417 : {
3713 tgl 418 UBC 0 : dres = (ol - ul); /* reduction of common prefix len */
419 : }
420 : else
421 : {
6797 bruce 422 CBC 9650 : GBT_VARKEY_R uk = gbt_var_key_readable((GBT_VARKEY *) DatumGetPointer(d));
423 : unsigned char tmp[4];
424 :
3713 tgl 425 9650 : tmp[0] = (unsigned char) (((VARSIZE(ok.lower) - VARHDRSZ) <= ul) ? 0 : (VARDATA(ok.lower)[ul]));
426 9650 : tmp[1] = (unsigned char) (((VARSIZE(uk.lower) - VARHDRSZ) <= ul) ? 0 : (VARDATA(uk.lower)[ul]));
427 9650 : tmp[2] = (unsigned char) (((VARSIZE(ok.upper) - VARHDRSZ) <= ul) ? 0 : (VARDATA(ok.upper)[ul]));
428 9650 : tmp[3] = (unsigned char) (((VARSIZE(uk.upper) - VARHDRSZ) <= ul) ? 0 : (VARDATA(uk.upper)[ul]));
184 peter 429 GNC 9650 : dres = abs(tmp[0] - tmp[1]) + abs(tmp[3] - tmp[2]);
6797 bruce 430 CBC 9650 : dres /= 256.0;
431 : }
432 :
433 9650 : *res += FLT_MIN;
434 9650 : *res += (float) (dres / ((double) (ol + 1)));
435 9650 : *res *= (FLT_MAX / (o->rel->rd_att->natts + 1));
436 : }
437 :
438 14327 : return res;
439 : }
440 :
441 :
442 : static int
6030 tgl 443 51841 : gbt_vsrt_cmp(const void *a, const void *b, void *arg)
444 : {
6797 bruce 445 51841 : GBT_VARKEY_R ar = gbt_var_key_readable(((const Vsrt *) a)->t);
446 51841 : GBT_VARKEY_R br = gbt_var_key_readable(((const Vsrt *) b)->t);
4370 tgl 447 51841 : const gbt_vsrt_arg *varg = (const gbt_vsrt_arg *) arg;
448 : int res;
449 :
2040 peter_e 450 51841 : res = varg->tinfo->f_cmp(ar.lower, br.lower, varg->collation, varg->flinfo);
4876 teodor 451 51841 : if (res == 0)
2040 peter_e 452 5442 : return varg->tinfo->f_cmp(ar.upper, br.upper, varg->collation, varg->flinfo);
453 :
4876 teodor 454 46399 : return res;
455 : }
456 :
457 : GIST_SPLITVEC *
4370 tgl 458 55 : gbt_var_picksplit(const GistEntryVector *entryvec, GIST_SPLITVEC *v,
459 : Oid collation, const gbtree_vinfo *tinfo, FmgrInfo *flinfo)
460 : {
461 : OffsetNumber i,
6797 bruce 462 55 : maxoff = entryvec->n - 1;
463 : Vsrt *arr;
6613 teodor 464 55 : int svcntr = 0,
465 : nbytes;
466 : char *cur;
6797 bruce 467 55 : GBT_VARKEY **sv = NULL;
468 : gbt_vsrt_arg varg;
469 :
470 55 : arr = (Vsrt *) palloc((maxoff + 1) * sizeof(Vsrt));
471 55 : nbytes = (maxoff + 2) * sizeof(OffsetNumber);
472 55 : v->spl_left = (OffsetNumber *) palloc(nbytes);
473 55 : v->spl_right = (OffsetNumber *) palloc(nbytes);
474 55 : v->spl_ldatum = PointerGetDatum(0);
475 55 : v->spl_rdatum = PointerGetDatum(0);
476 55 : v->spl_nleft = 0;
477 55 : v->spl_nright = 0;
478 :
479 55 : sv = palloc(sizeof(bytea *) * (maxoff + 1));
480 :
481 : /* Sort entries */
482 :
483 10771 : for (i = FirstOffsetNumber; i <= maxoff; i = OffsetNumberNext(i))
484 : {
485 : GBT_VARKEY_R ro;
486 :
6613 teodor 487 10716 : cur = (char *) DatumGetPointer(entryvec->vector[i].key);
6797 bruce 488 10716 : ro = gbt_var_key_readable((GBT_VARKEY *) cur);
2118 tgl 489 10716 : if (ro.lower == ro.upper) /* leaf */
490 : {
2210 andrew 491 10716 : sv[svcntr] = gbt_var_leaf2node((GBT_VARKEY *) cur, tinfo, flinfo);
6797 bruce 492 10716 : arr[i].t = sv[svcntr];
493 10716 : if (sv[svcntr] != (GBT_VARKEY *) cur)
494 1487 : svcntr++;
495 : }
496 : else
6797 bruce 497 UBC 0 : arr[i].t = (GBT_VARKEY *) cur;
6797 bruce 498 CBC 10716 : arr[i].i = i;
499 : }
500 :
501 : /* sort */
4370 tgl 502 55 : varg.tinfo = tinfo;
503 55 : varg.collation = collation;
2210 andrew 504 55 : varg.flinfo = flinfo;
61 peter 505 GNC 55 : qsort_arg(&arr[FirstOffsetNumber],
506 : maxoff - FirstOffsetNumber + 1,
507 : sizeof(Vsrt),
508 : gbt_vsrt_cmp,
509 : &varg);
510 :
511 : /* We do simply create two parts */
512 :
6797 bruce 513 CBC 10771 : for (i = FirstOffsetNumber; i <= maxoff; i = OffsetNumberNext(i))
514 : {
515 10716 : if (i <= (maxoff - FirstOffsetNumber + 1) / 2)
516 : {
2210 andrew 517 5350 : gbt_var_bin_union(&v->spl_ldatum, arr[i].t, collation, tinfo, flinfo);
6797 bruce 518 5350 : v->spl_left[v->spl_nleft] = arr[i].i;
519 5350 : v->spl_nleft++;
520 : }
521 : else
522 : {
2210 andrew 523 5366 : gbt_var_bin_union(&v->spl_rdatum, arr[i].t, collation, tinfo, flinfo);
6797 bruce 524 5366 : v->spl_right[v->spl_nright] = arr[i].i;
525 5366 : v->spl_nright++;
526 : }
527 : }
528 :
529 : /* Truncate (=compress) key */
530 55 : if (tinfo->trnc)
531 : {
532 11 : int32 ll = gbt_var_node_cp_len((GBT_VARKEY *) DatumGetPointer(v->spl_ldatum), tinfo);
533 11 : int32 lr = gbt_var_node_cp_len((GBT_VARKEY *) DatumGetPointer(v->spl_rdatum), tinfo);
534 : GBT_VARKEY *dl;
535 : GBT_VARKEY *dr;
536 :
537 11 : ll = Max(ll, lr);
538 11 : ll++;
539 :
540 11 : dl = gbt_var_node_truncate((GBT_VARKEY *) DatumGetPointer(v->spl_ldatum), ll, tinfo);
541 11 : dr = gbt_var_node_truncate((GBT_VARKEY *) DatumGetPointer(v->spl_rdatum), ll, tinfo);
542 11 : v->spl_ldatum = PointerGetDatum(dl);
543 11 : v->spl_rdatum = PointerGetDatum(dr);
544 : }
545 :
546 55 : return v;
547 : }
548 :
549 :
550 : /*
551 : * The GiST consistent method
552 : */
553 : bool
4370 tgl 554 27188 : gbt_var_consistent(GBT_VARKEY_R *key,
555 : const void *query,
556 : StrategyNumber strategy,
557 : Oid collation,
558 : bool is_leaf,
559 : const gbtree_vinfo *tinfo,
560 : FmgrInfo *flinfo)
561 : {
2062 peter_e 562 27188 : bool retval = false;
563 :
4370 tgl 564 27188 : switch (strategy)
565 : {
6797 bruce 566 6416 : case BTLessEqualStrategyNumber:
567 6416 : if (is_leaf)
2040 peter_e 568 6346 : retval = tinfo->f_ge(query, key->lower, collation, flinfo);
569 : else
570 140 : retval = tinfo->f_cmp(query, key->lower, collation, flinfo) >= 0
6797 bruce 571 70 : || gbt_var_node_pf_match(key, query, tinfo);
572 6416 : break;
573 6084 : case BTLessStrategyNumber:
574 6084 : if (is_leaf)
2040 peter_e 575 6027 : retval = tinfo->f_gt(query, key->lower, collation, flinfo);
576 : else
577 114 : retval = tinfo->f_cmp(query, key->lower, collation, flinfo) >= 0
6797 bruce 578 57 : || gbt_var_node_pf_match(key, query, tinfo);
579 6084 : break;
580 3258 : case BTEqualStrategyNumber:
581 3258 : if (is_leaf)
2040 peter_e 582 3189 : retval = tinfo->f_eq(query, key->lower, collation, flinfo);
583 : else
4370 tgl 584 69 : retval =
2040 peter_e 585 114 : (tinfo->f_cmp(key->lower, query, collation, flinfo) <= 0 &&
586 138 : tinfo->f_cmp(query, key->upper, collation, flinfo) <= 0) ||
4370 tgl 587 54 : gbt_var_node_pf_match(key, query, tinfo);
6797 bruce 588 3258 : break;
589 5670 : case BTGreaterStrategyNumber:
590 5670 : if (is_leaf)
2040 peter_e 591 5607 : retval = tinfo->f_lt(query, key->upper, collation, flinfo);
592 : else
593 126 : retval = tinfo->f_cmp(query, key->upper, collation, flinfo) <= 0
6797 bruce 594 63 : || gbt_var_node_pf_match(key, query, tinfo);
595 5670 : break;
596 5749 : case BTGreaterEqualStrategyNumber:
597 5749 : if (is_leaf)
2040 peter_e 598 5669 : retval = tinfo->f_le(query, key->upper, collation, flinfo);
599 : else
600 160 : retval = tinfo->f_cmp(query, key->upper, collation, flinfo) <= 0
6797 bruce 601 80 : || gbt_var_node_pf_match(key, query, tinfo);
602 5749 : break;
4633 rhaas 603 11 : case BtreeGistNotEqualStrategyNumber:
2040 peter_e 604 17 : retval = !(tinfo->f_eq(query, key->lower, collation, flinfo) &&
605 6 : tinfo->f_eq(query, key->upper, collation, flinfo));
4633 rhaas 606 11 : break;
6797 bruce 607 UBC 0 : default:
2062 peter_e 608 0 : retval = false;
609 : }
610 :
4370 tgl 611 CBC 27188 : return retval;
612 : }
|
