Age Owner Branch data TLA Line data Source code
1 : : /*
2 : : * contrib/btree_gist/btree_utils_var.c
3 : : */
4 : : #include "postgres.h"
5 : :
6 : : #include <math.h>
7 : : #include <limits.h>
8 : : #include <float.h>
9 : :
10 : : #include "btree_gist.h"
11 : : #include "btree_utils_var.h"
12 : : #include "utils/builtins.h"
13 : : #include "utils/pg_locale.h"
14 : : #include "utils/rel.h"
15 : :
16 : : /* used for key sorting */
17 : : typedef struct
18 : : {
19 : : int i;
20 : : GBT_VARKEY *t;
21 : : } Vsrt;
22 : :
23 : : typedef struct
24 : : {
25 : : const gbtree_vinfo *tinfo;
26 : : Oid collation;
27 : : FmgrInfo *flinfo;
28 : : } gbt_vsrt_arg;
29 : :
30 : :
6984 teodor@sigaev.ru 31 :CBC 9 : PG_FUNCTION_INFO_V1(gbt_var_decompress);
3306 heikki.linnakangas@i 32 : 9 : PG_FUNCTION_INFO_V1(gbt_var_fetch);
33 : :
34 : :
35 : : Datum
6984 teodor@sigaev.ru 36 : 85142 : gbt_var_decompress(PG_FUNCTION_ARGS)
37 : : {
6903 neilc@samurai.com 38 : 85142 : GISTENTRY *entry = (GISTENTRY *) PG_GETARG_POINTER(0);
2400 tgl@sss.pgh.pa.us 39 : 85142 : GBT_VARKEY *key = (GBT_VARKEY *) PG_DETOAST_DATUM(entry->key);
40 : :
6903 neilc@samurai.com 41 [ + + ]: 85142 : if (key != (GBT_VARKEY *) DatumGetPointer(entry->key))
42 : : {
43 : 85069 : GISTENTRY *retval = (GISTENTRY *) palloc(sizeof(GISTENTRY));
44 : :
45 : 85069 : gistentryinit(*retval, PointerGetDatum(key),
46 : : entry->rel, entry->page,
47 : : entry->offset, false);
48 : :
49 : 85069 : PG_RETURN_POINTER(retval);
50 : : }
51 : :
52 : 73 : PG_RETURN_POINTER(entry);
53 : : }
54 : :
55 : : /* Returns a better readable representation of variable key ( sets pointer ) */
56 : : GBT_VARKEY_R
5421 bruce@momjian.us 57 : 339955 : gbt_var_key_readable(const GBT_VARKEY *k)
58 : : {
59 : : GBT_VARKEY_R r;
60 : :
7168 61 : 339955 : r.lower = (bytea *) &(((char *) k)[VARHDRSZ]);
62 [ + + ]: 339955 : if (VARSIZE(k) > (VARHDRSZ + (VARSIZE(r.lower))))
63 : 164005 : r.upper = (bytea *) &(((char *) k)[VARHDRSZ + INTALIGN(VARSIZE(r.lower))]);
64 : : else
65 : 175950 : r.upper = r.lower;
66 : 339955 : return r;
67 : : }
68 : :
69 : :
70 : : /*
71 : : * Create a leaf-entry to store in the index, from a single Datum.
72 : : */
73 : : static GBT_VARKEY *
2489 tgl@sss.pgh.pa.us 74 : 8262 : gbt_var_key_from_datum(const struct varlena *u)
75 : : {
3307 heikki.linnakangas@i 76 : 8262 : int32 lowersize = VARSIZE(u);
77 : : GBT_VARKEY *r;
78 : :
79 : 8262 : r = (GBT_VARKEY *) palloc(lowersize + VARHDRSZ);
80 : 8262 : memcpy(VARDATA(r), u, lowersize);
81 : 8262 : SET_VARSIZE(r, lowersize + VARHDRSZ);
82 : :
83 : 8262 : return r;
84 : : }
85 : :
86 : : /*
87 : : * Create an entry to store in the index, from lower and upper bound.
88 : : */
89 : : GBT_VARKEY *
90 : 44940 : gbt_var_key_copy(const GBT_VARKEY_R *u)
91 : : {
3621 tgl@sss.pgh.pa.us 92 : 44940 : int32 lowersize = VARSIZE(u->lower);
93 : 44940 : int32 uppersize = VARSIZE(u->upper);
94 : : GBT_VARKEY *r;
95 : :
3307 heikki.linnakangas@i 96 : 44940 : r = (GBT_VARKEY *) palloc0(INTALIGN(lowersize) + uppersize + VARHDRSZ);
97 : 44940 : memcpy(VARDATA(r), u->lower, lowersize);
98 : 44940 : memcpy(VARDATA(r) + INTALIGN(lowersize), u->upper, uppersize);
99 : 44940 : SET_VARSIZE(r, INTALIGN(lowersize) + uppersize + VARHDRSZ);
100 : :
7168 bruce@momjian.us 101 : 44940 : return r;
102 : : }
103 : :
104 : :
105 : : static GBT_VARKEY *
2581 andrew@dunslane.net 106 : 62015 : gbt_var_leaf2node(GBT_VARKEY *leaf, const gbtree_vinfo *tinfo, FmgrInfo *flinfo)
107 : : {
7168 bruce@momjian.us 108 : 62015 : GBT_VARKEY *out = leaf;
109 : :
110 [ + + ]: 62015 : if (tinfo->f_l2n)
2411 peter_e@gmx.net 111 : 5060 : out = tinfo->f_l2n(leaf, flinfo);
112 : :
7168 bruce@momjian.us 113 : 62015 : return out;
114 : : }
115 : :
116 : :
117 : : /*
118 : : * returns the common prefix length of a node key
119 : : */
120 : : static int32
5421 121 : 20768 : gbt_var_node_cp_len(const GBT_VARKEY *node, const gbtree_vinfo *tinfo)
122 : : {
6756 123 : 20768 : GBT_VARKEY_R r = gbt_var_key_readable(node);
124 : 20768 : int32 i = 0;
125 : 20768 : int32 l = 0;
126 : 20768 : int32 t1len = VARSIZE(r.lower) - VARHDRSZ;
127 : 20768 : int32 t2len = VARSIZE(r.upper) - VARHDRSZ;
128 : 20768 : int32 ml = Min(t1len, t2len);
129 : 20768 : char *p1 = VARDATA(r.lower);
130 : 20768 : char *p2 = VARDATA(r.upper);
131 : :
132 [ + + ]: 20768 : if (ml == 0)
133 : 6578 : return 0;
134 : :
135 [ + - ]: 14190 : while (i < ml)
136 : : {
137 [ + + + - ]: 14190 : if (tinfo->eml > 1 && l == 0)
138 : : {
139 [ - + ]: 9171 : if ((l = pg_mblen(p1)) != pg_mblen(p2))
140 : : {
6756 bruce@momjian.us 141 :UBC 0 : return i;
142 : : }
143 : : }
6756 bruce@momjian.us 144 [ + - ]:CBC 14190 : if (*p1 != *p2)
145 : : {
146 [ + + ]: 14190 : if (tinfo->eml > 1)
147 : : {
148 : 9171 : return (i - l + 1);
149 : : }
150 : : else
151 : : {
152 : 5019 : return i;
153 : : }
154 : : }
155 : :
6756 bruce@momjian.us 156 :UBC 0 : p1++;
157 : 0 : p2++;
158 : 0 : l--;
159 : 0 : i++;
160 : : }
2400 tgl@sss.pgh.pa.us 161 : 0 : return ml; /* lower == upper */
162 : : }
163 : :
164 : :
165 : : /*
166 : : * returns true, if query matches prefix ( common prefix )
167 : : */
168 : : static bool
5421 bruce@momjian.us 169 :CBC 9669 : gbt_bytea_pf_match(const bytea *pf, const bytea *query, const gbtree_vinfo *tinfo)
170 : : {
2433 peter_e@gmx.net 171 : 9669 : bool out = false;
6756 bruce@momjian.us 172 : 9669 : int32 qlen = VARSIZE(query) - VARHDRSZ;
173 : 9669 : int32 nlen = VARSIZE(pf) - VARHDRSZ;
174 : :
7168 175 [ + + ]: 9669 : if (nlen <= qlen)
176 : : {
6756 177 : 4530 : char *q = VARDATA(query);
178 : 4530 : char *n = VARDATA(pf);
179 : :
4741 tgl@sss.pgh.pa.us 180 : 4530 : out = (memcmp(q, n, nlen) == 0);
181 : : }
182 : :
7168 bruce@momjian.us 183 : 9669 : return out;
184 : : }
185 : :
186 : :
187 : : /*
188 : : * returns true, if query matches node using common prefix
189 : : */
190 : : static bool
5421 191 : 169 : gbt_var_node_pf_match(const GBT_VARKEY_R *node, const bytea *query, const gbtree_vinfo *tinfo)
192 : : {
1536 alvherre@alvh.no-ip. 193 [ + + + + ]: 247 : return (tinfo->trnc &&
194 [ + + ]: 78 : (gbt_bytea_pf_match(node->lower, query, tinfo) ||
195 : 34 : gbt_bytea_pf_match(node->upper, query, tinfo)));
196 : : }
197 : :
198 : :
199 : : /*
200 : : * truncates / compresses the node key
201 : : * cpf_length .. common prefix length
202 : : */
203 : : static GBT_VARKEY *
5421 bruce@momjian.us 204 : 1596 : gbt_var_node_truncate(const GBT_VARKEY *node, int32 cpf_length, const gbtree_vinfo *tinfo)
205 : : {
7168 206 : 1596 : GBT_VARKEY *out = NULL;
207 : 1596 : GBT_VARKEY_R r = gbt_var_key_readable(node);
6756 208 : 1596 : int32 len1 = VARSIZE(r.lower) - VARHDRSZ;
209 : 1596 : int32 len2 = VARSIZE(r.upper) - VARHDRSZ;
210 : : int32 si;
211 : : char *out2;
212 : :
213 : 1596 : len1 = Min(len1, (cpf_length + 1));
214 : 1596 : len2 = Min(len2, (cpf_length + 1));
215 : :
6256 tgl@sss.pgh.pa.us 216 : 1596 : si = 2 * VARHDRSZ + INTALIGN(len1 + VARHDRSZ) + len2;
3621 217 : 1596 : out = (GBT_VARKEY *) palloc0(si);
6256 218 : 1596 : SET_VARSIZE(out, si);
219 : :
220 : 1596 : memcpy(VARDATA(out), r.lower, len1 + VARHDRSZ);
221 : 1596 : SET_VARSIZE(VARDATA(out), len1 + VARHDRSZ);
222 : :
223 : 1596 : out2 = VARDATA(out) + INTALIGN(len1 + VARHDRSZ);
224 : 1596 : memcpy(out2, r.upper, len2 + VARHDRSZ);
225 : 1596 : SET_VARSIZE(out2, len2 + VARHDRSZ);
226 : :
7168 bruce@momjian.us 227 : 1596 : return out;
228 : : }
229 : :
230 : :
231 : :
232 : : void
4741 tgl@sss.pgh.pa.us 233 : 47878 : gbt_var_bin_union(Datum *u, GBT_VARKEY *e, Oid collation,
234 : : const gbtree_vinfo *tinfo, FmgrInfo *flinfo)
235 : : {
7168 bruce@momjian.us 236 : 47878 : GBT_VARKEY_R eo = gbt_var_key_readable(e);
237 : : GBT_VARKEY_R nr;
238 : :
239 [ + + ]: 47878 : if (eo.lower == eo.upper) /* leaf */
240 : : {
241 : : GBT_VARKEY *tmp;
242 : :
2581 andrew@dunslane.net 243 : 36799 : tmp = gbt_var_leaf2node(e, tinfo, flinfo);
7168 bruce@momjian.us 244 [ + + ]: 36799 : if (tmp != e)
245 : 2031 : eo = gbt_var_key_readable(tmp);
246 : : }
247 : :
248 [ + + ]: 47878 : if (DatumGetPointer(*u))
249 : : {
250 : 38180 : GBT_VARKEY_R ro = gbt_var_key_readable((GBT_VARKEY *) DatumGetPointer(*u));
4084 tgl@sss.pgh.pa.us 251 : 38180 : bool update = false;
252 : :
253 : 38180 : nr.lower = ro.lower;
254 : 38180 : nr.upper = ro.upper;
255 : :
2411 peter_e@gmx.net 256 [ + + ]: 38180 : if (tinfo->f_cmp(ro.lower, eo.lower, collation, flinfo) > 0)
257 : : {
7168 bruce@momjian.us 258 : 8654 : nr.lower = eo.lower;
4084 tgl@sss.pgh.pa.us 259 : 8654 : update = true;
260 : : }
261 : :
2411 peter_e@gmx.net 262 [ + + ]: 38180 : if (tinfo->f_cmp(ro.upper, eo.upper, collation, flinfo) < 0)
263 : : {
7168 bruce@momjian.us 264 : 8459 : nr.upper = eo.upper;
4084 tgl@sss.pgh.pa.us 265 : 8459 : update = true;
266 : : }
267 : :
268 [ + + ]: 38180 : if (update)
3307 heikki.linnakangas@i 269 : 17113 : *u = PointerGetDatum(gbt_var_key_copy(&nr));
270 : : }
271 : : else
272 : : {
7168 bruce@momjian.us 273 : 9698 : nr.lower = eo.lower;
274 : 9698 : nr.upper = eo.upper;
3307 heikki.linnakangas@i 275 : 9698 : *u = PointerGetDatum(gbt_var_key_copy(&nr));
276 : : }
7261 teodor@sigaev.ru 277 : 47878 : }
278 : :
279 : :
280 : : GISTENTRY *
5421 bruce@momjian.us 281 : 8412 : gbt_var_compress(GISTENTRY *entry, const gbtree_vinfo *tinfo)
282 : : {
283 : : GISTENTRY *retval;
284 : :
7168 285 [ + + ]: 8412 : if (entry->leafkey)
286 : : {
3307 heikki.linnakangas@i 287 : 8262 : struct varlena *leaf = PG_DETOAST_DATUM(entry->key);
288 : : GBT_VARKEY *r;
289 : :
290 : 8262 : r = gbt_var_key_from_datum(leaf);
291 : :
7168 bruce@momjian.us 292 : 8262 : retval = palloc(sizeof(GISTENTRY));
293 : 8262 : gistentryinit(*retval, PointerGetDatum(r),
294 : : entry->rel, entry->page,
295 : : entry->offset, true);
296 : : }
297 : : else
298 : 150 : retval = entry;
299 : :
2432 peter_e@gmx.net 300 : 8412 : return retval;
301 : : }
302 : :
303 : :
304 : : Datum
3306 heikki.linnakangas@i 305 : 6 : gbt_var_fetch(PG_FUNCTION_ARGS)
306 : : {
307 : 6 : GISTENTRY *entry = (GISTENTRY *) PG_GETARG_POINTER(0);
2400 tgl@sss.pgh.pa.us 308 : 6 : GBT_VARKEY *key = (GBT_VARKEY *) PG_DETOAST_DATUM(entry->key);
3306 heikki.linnakangas@i 309 : 6 : GBT_VARKEY_R r = gbt_var_key_readable(key);
310 : : GISTENTRY *retval;
311 : :
312 : 6 : retval = palloc(sizeof(GISTENTRY));
313 : 6 : gistentryinit(*retval, PointerGetDatum(r.lower),
314 : : entry->rel, entry->page,
315 : : entry->offset, true);
316 : :
317 : 6 : PG_RETURN_POINTER(retval);
318 : : }
319 : :
320 : :
321 : : GBT_VARKEY *
4741 tgl@sss.pgh.pa.us 322 : 6811 : gbt_var_union(const GistEntryVector *entryvec, int32 *size, Oid collation,
323 : : const gbtree_vinfo *tinfo, FmgrInfo *flinfo)
324 : : {
7168 bruce@momjian.us 325 : 6811 : int i = 0,
326 : 6811 : numranges = entryvec->n;
327 : : GBT_VARKEY *cur;
328 : : Datum out;
329 : : GBT_VARKEY_R rk;
330 : :
331 : 6811 : *size = sizeof(GBT_VARKEY);
332 : :
6984 teodor@sigaev.ru 333 : 6811 : cur = (GBT_VARKEY *) DatumGetPointer(entryvec->vector[0].key);
7168 bruce@momjian.us 334 : 6811 : rk = gbt_var_key_readable(cur);
3307 heikki.linnakangas@i 335 : 6811 : out = PointerGetDatum(gbt_var_key_copy(&rk));
336 : :
7168 bruce@momjian.us 337 [ + + ]: 18376 : for (i = 1; i < numranges; i++)
338 : : {
6984 teodor@sigaev.ru 339 : 11565 : cur = (GBT_VARKEY *) DatumGetPointer(entryvec->vector[i].key);
2581 andrew@dunslane.net 340 : 11565 : gbt_var_bin_union(&out, cur, collation, tinfo, flinfo);
341 : : }
342 : :
343 : :
344 : : /* Truncate (=compress) key */
7168 bruce@momjian.us 345 [ + + ]: 6811 : if (tinfo->trnc)
346 : : {
347 : : int32 plen;
348 : 1574 : GBT_VARKEY *trc = NULL;
349 : :
350 : 1574 : plen = gbt_var_node_cp_len((GBT_VARKEY *) DatumGetPointer(out), tinfo);
351 : 1574 : trc = gbt_var_node_truncate((GBT_VARKEY *) DatumGetPointer(out), plen + 1, tinfo);
352 : :
353 : 1574 : out = PointerGetDatum(trc);
354 : : }
355 : :
356 : 6811 : return ((GBT_VARKEY *) DatumGetPointer(out));
357 : : }
358 : :
359 : :
360 : : bool
4741 tgl@sss.pgh.pa.us 361 : 6760 : gbt_var_same(Datum d1, Datum d2, Oid collation,
362 : : const gbtree_vinfo *tinfo, FmgrInfo *flinfo)
363 : : {
6984 teodor@sigaev.ru 364 : 6760 : GBT_VARKEY *t1 = (GBT_VARKEY *) DatumGetPointer(d1);
365 : 6760 : GBT_VARKEY *t2 = (GBT_VARKEY *) DatumGetPointer(d2);
366 : : GBT_VARKEY_R r1,
367 : : r2;
368 : :
7168 bruce@momjian.us 369 : 6760 : r1 = gbt_var_key_readable(t1);
370 : 6760 : r2 = gbt_var_key_readable(t2);
371 : :
2411 peter_e@gmx.net 372 [ + + + + ]: 13503 : return (tinfo->f_cmp(r1.lower, r2.lower, collation, flinfo) == 0 &&
373 : 6743 : tinfo->f_cmp(r1.upper, r2.upper, collation, flinfo) == 0);
374 : : }
375 : :
376 : :
377 : : float *
4741 tgl@sss.pgh.pa.us 378 : 14333 : gbt_var_penalty(float *res, const GISTENTRY *o, const GISTENTRY *n,
379 : : Oid collation, const gbtree_vinfo *tinfo, FmgrInfo *flinfo)
380 : : {
6984 teodor@sigaev.ru 381 : 14333 : GBT_VARKEY *orge = (GBT_VARKEY *) DatumGetPointer(o->key);
382 : 14333 : GBT_VARKEY *newe = (GBT_VARKEY *) DatumGetPointer(n->key);
383 : : GBT_VARKEY_R ok,
384 : : nk;
385 : :
7168 bruce@momjian.us 386 : 14333 : *res = 0.0;
387 : :
388 : 14333 : nk = gbt_var_key_readable(newe);
389 [ + - ]: 14333 : if (nk.lower == nk.upper) /* leaf */
390 : : {
391 : : GBT_VARKEY *tmp;
392 : :
2581 andrew@dunslane.net 393 : 14333 : tmp = gbt_var_leaf2node(newe, tinfo, flinfo);
7168 bruce@momjian.us 394 [ + + ]: 14333 : if (tmp != newe)
395 : 1542 : nk = gbt_var_key_readable(tmp);
396 : : }
397 : 14333 : ok = gbt_var_key_readable(orge);
398 : :
6862 teodor@sigaev.ru 399 [ + + + + ]: 14333 : if ((VARSIZE(ok.lower) - VARHDRSZ) == 0 && (VARSIZE(ok.upper) - VARHDRSZ) == 0)
7168 bruce@momjian.us 400 : 763 : *res = 0.0;
2411 peter_e@gmx.net 401 [ + + - + : 27140 : else if (!((tinfo->f_cmp(nk.lower, ok.lower, collation, flinfo) >= 0 ||
+ + ]
4741 tgl@sss.pgh.pa.us 402 : 7840 : gbt_bytea_pf_match(ok.lower, nk.lower, tinfo)) &&
2411 peter_e@gmx.net 403 [ + + ]: 7481 : (tinfo->f_cmp(nk.upper, ok.upper, collation, flinfo) <= 0 ||
2489 tgl@sss.pgh.pa.us 404 : 1751 : gbt_bytea_pf_match(ok.upper, nk.upper, tinfo))))
405 : : {
7168 bruce@momjian.us 406 : 9586 : Datum d = PointerGetDatum(0);
407 : : double dres;
408 : : int32 ol,
409 : : ul;
410 : :
2581 andrew@dunslane.net 411 : 9586 : gbt_var_bin_union(&d, orge, collation, tinfo, flinfo);
7168 bruce@momjian.us 412 : 9586 : ol = gbt_var_node_cp_len((GBT_VARKEY *) DatumGetPointer(d), tinfo);
2581 andrew@dunslane.net 413 : 9586 : gbt_var_bin_union(&d, newe, collation, tinfo, flinfo);
7168 bruce@momjian.us 414 : 9586 : ul = gbt_var_node_cp_len((GBT_VARKEY *) DatumGetPointer(d), tinfo);
415 : :
416 [ - + ]: 9586 : if (ul < ol)
417 : : {
4084 tgl@sss.pgh.pa.us 418 :UBC 0 : dres = (ol - ul); /* reduction of common prefix len */
419 : : }
420 : : else
421 : : {
7168 bruce@momjian.us 422 :CBC 9586 : GBT_VARKEY_R uk = gbt_var_key_readable((GBT_VARKEY *) DatumGetPointer(d));
423 : : unsigned char tmp[4];
424 : :
4084 tgl@sss.pgh.pa.us 425 [ + + ]: 9586 : tmp[0] = (unsigned char) (((VARSIZE(ok.lower) - VARHDRSZ) <= ul) ? 0 : (VARDATA(ok.lower)[ul]));
426 [ + + ]: 9586 : tmp[1] = (unsigned char) (((VARSIZE(uk.lower) - VARHDRSZ) <= ul) ? 0 : (VARDATA(uk.lower)[ul]));
427 [ + - ]: 9586 : tmp[2] = (unsigned char) (((VARSIZE(ok.upper) - VARHDRSZ) <= ul) ? 0 : (VARDATA(ok.upper)[ul]));
428 [ + - ]: 9586 : tmp[3] = (unsigned char) (((VARSIZE(uk.upper) - VARHDRSZ) <= ul) ? 0 : (VARDATA(uk.upper)[ul]));
555 peter@eisentraut.org 429 : 9586 : dres = abs(tmp[0] - tmp[1]) + abs(tmp[3] - tmp[2]);
7168 bruce@momjian.us 430 : 9586 : dres /= 256.0;
431 : : }
432 : :
433 : 9586 : *res += FLT_MIN;
434 : 9586 : *res += (float) (dres / ((double) (ol + 1)));
435 : 9586 : *res *= (FLT_MAX / (o->rel->rd_att->natts + 1));
436 : : }
437 : :
438 : 14333 : return res;
439 : : }
440 : :
441 : :
442 : : static int
6401 tgl@sss.pgh.pa.us 443 : 53854 : gbt_vsrt_cmp(const void *a, const void *b, void *arg)
444 : : {
7168 bruce@momjian.us 445 : 53854 : GBT_VARKEY_R ar = gbt_var_key_readable(((const Vsrt *) a)->t);
446 : 53854 : GBT_VARKEY_R br = gbt_var_key_readable(((const Vsrt *) b)->t);
4741 tgl@sss.pgh.pa.us 447 : 53854 : const gbt_vsrt_arg *varg = (const gbt_vsrt_arg *) arg;
448 : : int res;
449 : :
2411 peter_e@gmx.net 450 : 53854 : res = varg->tinfo->f_cmp(ar.lower, br.lower, varg->collation, varg->flinfo);
5247 teodor@sigaev.ru 451 [ + + ]: 53854 : if (res == 0)
2411 peter_e@gmx.net 452 : 5228 : return varg->tinfo->f_cmp(ar.upper, br.upper, varg->collation, varg->flinfo);
453 : :
5247 teodor@sigaev.ru 454 : 48626 : return res;
455 : : }
456 : :
457 : : GIST_SPLITVEC *
4741 tgl@sss.pgh.pa.us 458 : 56 : gbt_var_picksplit(const GistEntryVector *entryvec, GIST_SPLITVEC *v,
459 : : Oid collation, const gbtree_vinfo *tinfo, FmgrInfo *flinfo)
460 : : {
461 : : OffsetNumber i,
7168 bruce@momjian.us 462 : 56 : maxoff = entryvec->n - 1;
463 : : Vsrt *arr;
6984 teodor@sigaev.ru 464 : 56 : int svcntr = 0,
465 : : nbytes;
466 : : char *cur;
7168 bruce@momjian.us 467 : 56 : GBT_VARKEY **sv = NULL;
468 : : gbt_vsrt_arg varg;
469 : :
470 : 56 : arr = (Vsrt *) palloc((maxoff + 1) * sizeof(Vsrt));
471 : 56 : nbytes = (maxoff + 2) * sizeof(OffsetNumber);
472 : 56 : v->spl_left = (OffsetNumber *) palloc(nbytes);
473 : 56 : v->spl_right = (OffsetNumber *) palloc(nbytes);
474 : 56 : v->spl_ldatum = PointerGetDatum(0);
475 : 56 : v->spl_rdatum = PointerGetDatum(0);
476 : 56 : v->spl_nleft = 0;
477 : 56 : v->spl_nright = 0;
478 : :
479 : 56 : sv = palloc(sizeof(bytea *) * (maxoff + 1));
480 : :
481 : : /* Sort entries */
482 : :
483 [ + + ]: 10939 : for (i = FirstOffsetNumber; i <= maxoff; i = OffsetNumberNext(i))
484 : : {
485 : : GBT_VARKEY_R ro;
486 : :
6984 teodor@sigaev.ru 487 : 10883 : cur = (char *) DatumGetPointer(entryvec->vector[i].key);
7168 bruce@momjian.us 488 : 10883 : ro = gbt_var_key_readable((GBT_VARKEY *) cur);
2489 tgl@sss.pgh.pa.us 489 [ + - ]: 10883 : if (ro.lower == ro.upper) /* leaf */
490 : : {
2581 andrew@dunslane.net 491 : 10883 : sv[svcntr] = gbt_var_leaf2node((GBT_VARKEY *) cur, tinfo, flinfo);
7168 bruce@momjian.us 492 : 10883 : arr[i].t = sv[svcntr];
493 [ + + ]: 10883 : if (sv[svcntr] != (GBT_VARKEY *) cur)
494 : 1487 : svcntr++;
495 : : }
496 : : else
7168 bruce@momjian.us 497 :UBC 0 : arr[i].t = (GBT_VARKEY *) cur;
7168 bruce@momjian.us 498 :CBC 10883 : arr[i].i = i;
499 : : }
500 : :
501 : : /* sort */
4741 tgl@sss.pgh.pa.us 502 : 56 : varg.tinfo = tinfo;
503 : 56 : varg.collation = collation;
2581 andrew@dunslane.net 504 : 56 : varg.flinfo = flinfo;
432 peter@eisentraut.org 505 : 56 : qsort_arg(&arr[FirstOffsetNumber],
506 : : maxoff - FirstOffsetNumber + 1,
507 : : sizeof(Vsrt),
508 : : gbt_vsrt_cmp,
509 : : &varg);
510 : :
511 : : /* We do simply create two parts */
512 : :
7168 bruce@momjian.us 513 [ + + ]: 10939 : for (i = FirstOffsetNumber; i <= maxoff; i = OffsetNumberNext(i))
514 : : {
515 [ + + ]: 10883 : if (i <= (maxoff - FirstOffsetNumber + 1) / 2)
516 : : {
2581 andrew@dunslane.net 517 : 5433 : gbt_var_bin_union(&v->spl_ldatum, arr[i].t, collation, tinfo, flinfo);
7168 bruce@momjian.us 518 : 5433 : v->spl_left[v->spl_nleft] = arr[i].i;
519 : 5433 : v->spl_nleft++;
520 : : }
521 : : else
522 : : {
2581 andrew@dunslane.net 523 : 5450 : gbt_var_bin_union(&v->spl_rdatum, arr[i].t, collation, tinfo, flinfo);
7168 bruce@momjian.us 524 : 5450 : v->spl_right[v->spl_nright] = arr[i].i;
525 : 5450 : v->spl_nright++;
526 : : }
527 : : }
528 : :
529 : : /* Truncate (=compress) key */
530 [ + + ]: 56 : if (tinfo->trnc)
531 : : {
532 : 11 : int32 ll = gbt_var_node_cp_len((GBT_VARKEY *) DatumGetPointer(v->spl_ldatum), tinfo);
533 : 11 : int32 lr = gbt_var_node_cp_len((GBT_VARKEY *) DatumGetPointer(v->spl_rdatum), tinfo);
534 : : GBT_VARKEY *dl;
535 : : GBT_VARKEY *dr;
536 : :
537 : 11 : ll = Max(ll, lr);
538 : 11 : ll++;
539 : :
540 : 11 : dl = gbt_var_node_truncate((GBT_VARKEY *) DatumGetPointer(v->spl_ldatum), ll, tinfo);
541 : 11 : dr = gbt_var_node_truncate((GBT_VARKEY *) DatumGetPointer(v->spl_rdatum), ll, tinfo);
542 : 11 : v->spl_ldatum = PointerGetDatum(dl);
543 : 11 : v->spl_rdatum = PointerGetDatum(dr);
544 : : }
545 : :
546 : 56 : return v;
547 : : }
548 : :
549 : :
550 : : /*
551 : : * The GiST consistent method
552 : : */
553 : : bool
4741 tgl@sss.pgh.pa.us 554 : 26946 : gbt_var_consistent(GBT_VARKEY_R *key,
555 : : const void *query,
556 : : StrategyNumber strategy,
557 : : Oid collation,
558 : : bool is_leaf,
559 : : const gbtree_vinfo *tinfo,
560 : : FmgrInfo *flinfo)
561 : : {
2433 peter_e@gmx.net 562 : 26946 : bool retval = false;
563 : :
4741 tgl@sss.pgh.pa.us 564 [ + + + + : 26946 : switch (strategy)
+ + - ]
565 : : {
7168 bruce@momjian.us 566 : 6431 : case BTLessEqualStrategyNumber:
567 [ + + ]: 6431 : if (is_leaf)
2411 peter_e@gmx.net 568 : 6357 : retval = tinfo->f_ge(query, key->lower, collation, flinfo);
569 : : else
570 : 148 : retval = tinfo->f_cmp(query, key->lower, collation, flinfo) >= 0
7168 bruce@momjian.us 571 [ + + - + ]: 74 : || gbt_var_node_pf_match(key, query, tinfo);
572 : 6431 : break;
573 : 6094 : case BTLessStrategyNumber:
574 [ + + ]: 6094 : if (is_leaf)
2411 peter_e@gmx.net 575 : 6034 : retval = tinfo->f_gt(query, key->lower, collation, flinfo);
576 : : else
577 : 120 : retval = tinfo->f_cmp(query, key->lower, collation, flinfo) >= 0
7168 bruce@momjian.us 578 [ + + - + ]: 60 : || gbt_var_node_pf_match(key, query, tinfo);
579 : 6094 : break;
580 : 3172 : case BTEqualStrategyNumber:
581 [ + + ]: 3172 : if (is_leaf)
2411 peter_e@gmx.net 582 : 3100 : retval = tinfo->f_eq(query, key->lower, collation, flinfo);
583 : : else
4741 tgl@sss.pgh.pa.us 584 : 72 : retval =
2411 peter_e@gmx.net 585 [ + + ]: 120 : (tinfo->f_cmp(key->lower, query, collation, flinfo) <= 0 &&
586 [ + + + + ]: 144 : tinfo->f_cmp(query, key->upper, collation, flinfo) <= 0) ||
4741 tgl@sss.pgh.pa.us 587 : 55 : gbt_var_node_pf_match(key, query, tinfo);
7168 bruce@momjian.us 588 : 3172 : break;
589 : 5578 : case BTGreaterStrategyNumber:
590 [ + + ]: 5578 : if (is_leaf)
2411 peter_e@gmx.net 591 : 5512 : retval = tinfo->f_lt(query, key->upper, collation, flinfo);
592 : : else
593 : 132 : retval = tinfo->f_cmp(query, key->upper, collation, flinfo) <= 0
7168 bruce@momjian.us 594 [ + + + + ]: 66 : || gbt_var_node_pf_match(key, query, tinfo);
595 : 5578 : break;
596 : 5660 : case BTGreaterEqualStrategyNumber:
597 [ + + ]: 5660 : if (is_leaf)
2411 peter_e@gmx.net 598 : 5576 : retval = tinfo->f_le(query, key->upper, collation, flinfo);
599 : : else
600 : 168 : retval = tinfo->f_cmp(query, key->upper, collation, flinfo) <= 0
7168 bruce@momjian.us 601 [ + + + + ]: 84 : || gbt_var_node_pf_match(key, query, tinfo);
602 : 5660 : break;
5004 rhaas@postgresql.org 603 : 11 : case BtreeGistNotEqualStrategyNumber:
2411 peter_e@gmx.net 604 [ + + + + ]: 17 : retval = !(tinfo->f_eq(query, key->lower, collation, flinfo) &&
605 : 6 : tinfo->f_eq(query, key->upper, collation, flinfo));
5004 rhaas@postgresql.org 606 : 11 : break;
7168 bruce@momjian.us 607 :UBC 0 : default:
2433 peter_e@gmx.net 608 : 0 : retval = false;
609 : : }
610 : :
4741 tgl@sss.pgh.pa.us 611 :CBC 26946 : return retval;
612 : : }
|