doris
doris copied to clipboard
[enhance](load) support routine load job parallel begin and commit transaction
What problem does this PR solve?
close https://github.com/apache/doris/issues/51892
Release note
None
Check List (For Author)
-
Test
- [ ] Regression test
- [ ] Unit Test
- [ ] Manual test (add detailed scripts or steps below)
- [ ] No need to test or manual test. Explain why:
- [ ] This is a refactor/code format and no logic has been changed.
- [ ] Previous test can cover this change.
- [ ] No code files have been changed.
- [ ] Other reason
-
Behavior changed:
- [ ] No.
- [ ] Yes.
-
Does this need documentation?
- [ ] No.
- [ ] Yes.
Check List (For Reviewer who merge this PR)
- [ ] Confirm the release note
- [ ] Confirm test cases
- [ ] Confirm document
- [ ] Add branch pick label
Thank you for your contribution to Apache Doris. Don't know what should be done next? See How to process your PR.
Please clearly describe your PR:
- What problem was fixed (it's best to include specific error reporting information). How it was fixed.
- Which behaviors were modified. What was the previous behavior, what is it now, why was it modified, and what possible impacts might there be.
- What features were added. Why was this function added?
- Which code was refactored and why was this part of the code refactored?
- Which functions were optimized and what is the difference before and after the optimization?
run buildall
TPC-H: Total hot run time: 34041 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpch-tools
Tpch sf100 test result on commit 95f061ac5208f16ed37e44546df530c7338f9eb5, data reload: false
------ Round 1 ----------------------------------
q1 17625 5218 4990 4990
q2 1923 286 184 184
q3 10327 1350 740 740
q4 10222 1009 516 516
q5 7579 2419 2386 2386
q6 185 163 130 130
q7 926 744 621 621
q8 9344 1298 1098 1098
q9 6773 5085 5082 5082
q10 6956 2421 1960 1960
q11 485 291 284 284
q12 341 340 213 213
q13 17772 3689 3063 3063
q14 225 232 208 208
q15 563 486 470 470
q16 433 429 368 368
q17 577 855 359 359
q18 7904 7270 7203 7203
q19 1210 965 560 560
q20 339 333 239 239
q21 3735 3150 2418 2418
q22 1027 999 949 949
Total cold run time: 106471 ms
Total hot run time: 34041 ms
----- Round 2, with runtime_filter_mode=off -----
q1 5002 5060 5044 5044
q2 234 325 222 222
q3 2179 2648 2354 2354
q4 1334 1806 1339 1339
q5 4215 4161 4188 4161
q6 204 171 125 125
q7 1898 1835 1671 1671
q8 2521 2489 2444 2444
q9 6793 6680 6747 6680
q10 2950 3149 2731 2731
q11 564 516 481 481
q12 679 735 593 593
q13 3393 3697 3058 3058
q14 282 294 270 270
q15 525 466 466 466
q16 435 485 442 442
q17 1128 1470 1386 1386
q18 7243 7211 7057 7057
q19 771 751 817 751
q20 1921 1975 1822 1822
q21 4675 4401 4323 4323
q22 1049 1014 970 970
Total cold run time: 49995 ms
Total hot run time: 48390 ms
TPC-DS: Total hot run time: 186878 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpcds-tools
TPC-DS sf100 test result on commit 95f061ac5208f16ed37e44546df530c7338f9eb5, data reload: false
query1 840 401 383 383
query2 3187 1950 1955 1950
query3 5952 223 231 223
query4 25935 24007 23201 23201
query5 1292 640 472 472
query6 297 243 192 192
query7 4576 495 280 280
query8 252 224 219 219
query9 7285 2619 2653 2619
query10 447 348 279 279
query11 15236 15098 14813 14813
query12 155 110 107 107
query13 1632 529 414 414
query14 7751 6343 6293 6293
query15 210 200 194 194
query16 5608 645 488 488
query17 1231 699 581 581
query18 2067 397 296 296
query19 191 176 153 153
query20 120 112 118 112
query21 200 124 102 102
query22 4150 4157 4047 4047
query23 34143 33262 33122 33122
query24 8581 2410 2436 2410
query25 573 456 397 397
query26 1401 269 150 150
query27 2642 510 347 347
query28 4244 2141 2125 2125
query29 897 547 449 449
query30 327 219 188 188
query31 923 845 780 780
query32 74 64 74 64
query33 555 361 320 320
query34 795 844 538 538
query35 831 799 733 733
query36 946 983 899 899
query37 117 103 84 84
query38 4281 4237 4116 4116
query39 1496 1402 1404 1402
query40 214 127 116 116
query41 71 65 70 65
query42 128 110 113 110
query43 508 519 493 493
query44 1312 831 839 831
query45 176 185 172 172
query46 840 1033 642 642
query47 1772 1788 1729 1729
query48 395 441 322 322
query49 980 502 428 428
query50 644 683 420 420
query51 4174 4294 4118 4118
query52 113 108 100 100
query53 226 269 189 189
query54 621 584 521 521
query55 90 82 84 82
query56 328 322 309 309
query57 1174 1207 1114 1114
query58 309 260 253 253
query59 2677 2789 2715 2715
query60 328 322 310 310
query61 126 130 126 126
query62 812 724 655 655
query63 224 185 227 185
query64 3425 997 672 672
query65 4278 4208 4229 4208
query66 923 421 316 316
query67 15757 15685 15382 15382
query68 8960 895 524 524
query69 457 314 270 270
query70 1244 1108 1158 1108
query71 523 318 288 288
query72 5894 4968 5076 4968
query73 736 734 353 353
query74 9234 9118 9038 9038
query75 3837 3207 2805 2805
query76 3711 1198 757 757
query77 607 368 292 292
query78 10163 10117 9271 9271
query79 2861 811 585 585
query80 684 513 472 472
query81 481 257 218 218
query82 457 131 101 101
query83 341 249 238 238
query84 299 111 91 91
query85 770 352 319 319
query86 334 341 274 274
query87 4421 4534 4349 4349
query88 3246 2232 2244 2232
query89 425 324 278 278
query90 1875 205 206 205
query91 143 142 114 114
query92 81 63 59 59
query93 2638 935 578 578
query94 609 412 303 303
query95 365 295 277 277
query96 485 578 278 278
query97 2684 2759 2646 2646
query98 223 214 201 201
query99 1395 1409 1261 1261
Total cold run time: 264248 ms
Total hot run time: 186878 ms
ClickBench: Total hot run time: 29.32 s
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/clickbench-tools
ClickBench test result on commit 95f061ac5208f16ed37e44546df530c7338f9eb5, data reload: false
query1 0.04 0.04 0.03
query2 0.07 0.04 0.04
query3 0.24 0.07 0.06
query4 1.62 0.11 0.11
query5 0.43 0.43 0.40
query6 1.17 0.67 0.69
query7 0.03 0.01 0.02
query8 0.04 0.04 0.03
query9 0.56 0.51 0.51
query10 0.58 0.59 0.55
query11 0.15 0.12 0.11
query12 0.14 0.12 0.12
query13 0.63 0.60 0.60
query14 0.82 0.81 0.81
query15 0.89 0.85 0.87
query16 0.39 0.39 0.38
query17 1.05 1.10 1.08
query18 0.22 0.22 0.21
query19 1.88 1.85 1.80
query20 0.01 0.01 0.01
query21 15.44 0.92 0.56
query22 0.75 1.26 0.82
query23 14.76 1.34 0.65
query24 7.42 0.78 0.45
query25 0.49 0.13 0.09
query26 0.57 0.17 0.14
query27 0.06 0.05 0.06
query28 9.29 0.90 0.44
query29 12.59 3.98 3.38
query30 0.24 0.09 0.06
query31 2.83 0.60 0.39
query32 3.24 0.55 0.47
query33 3.12 3.06 3.08
query34 16.06 5.35 4.77
query35 4.81 4.82 4.78
query36 0.68 0.51 0.50
query37 0.09 0.06 0.06
query38 0.05 0.04 0.04
query39 0.03 0.03 0.02
query40 0.17 0.15 0.14
query41 0.09 0.02 0.03
query42 0.03 0.02 0.03
query43 0.04 0.03 0.03
Total cold run time: 103.81 s
Total hot run time: 29.32 s
run buildall
TPC-H: Total hot run time: 34044 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpch-tools
Tpch sf100 test result on commit d96cd7a6ebafbbcf7dca75c6d592ac59a9419694, data reload: false
------ Round 1 ----------------------------------
q1 17582 5149 4974 4974
q2 1917 295 185 185
q3 10339 1332 739 739
q4 10237 1003 515 515
q5 7590 2411 2358 2358
q6 185 163 130 130
q7 917 757 602 602
q8 9341 1252 1102 1102
q9 6872 5150 5097 5097
q10 6892 2379 1981 1981
q11 484 296 283 283
q12 341 342 210 210
q13 17794 3656 3066 3066
q14 236 229 228 228
q15 568 494 480 480
q16 428 425 381 381
q17 610 873 385 385
q18 7777 7298 7214 7214
q19 1276 950 573 573
q20 344 344 220 220
q21 3829 3168 2358 2358
q22 1022 989 963 963
Total cold run time: 106581 ms
Total hot run time: 34044 ms
----- Round 2, with runtime_filter_mode=off -----
q1 5063 5021 5031 5021
q2 235 328 221 221
q3 2159 2615 2297 2297
q4 1358 1786 1369 1369
q5 4199 4088 4402 4088
q6 210 168 129 129
q7 2059 1933 1758 1758
q8 2569 2592 2499 2499
q9 7092 7101 7121 7101
q10 3038 3293 2894 2894
q11 576 526 505 505
q12 719 751 606 606
q13 3561 3817 3218 3218
q14 271 301 301 301
q15 513 491 464 464
q16 459 479 447 447
q17 1137 1571 1339 1339
q18 7785 7613 7377 7377
q19 778 880 1005 880
q20 1971 2062 1901 1901
q21 5004 4546 4502 4502
q22 1056 984 991 984
Total cold run time: 51812 ms
Total hot run time: 49901 ms
TPC-DS: Total hot run time: 185131 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpcds-tools
TPC-DS sf100 test result on commit d96cd7a6ebafbbcf7dca75c6d592ac59a9419694, data reload: false
query1 1003 390 391 390
query2 6560 1812 1781 1781
query3 6757 232 234 232
query4 26408 23654 22837 22837
query5 4376 641 454 454
query6 296 198 187 187
query7 4622 483 283 283
query8 269 222 213 213
query9 8634 2613 2649 2613
query10 470 329 271 271
query11 15336 15023 14851 14851
query12 157 106 114 106
query13 1662 544 414 414
query14 8614 6053 6247 6053
query15 204 193 169 169
query16 7158 623 483 483
query17 1052 728 596 596
query18 1979 423 333 333
query19 206 192 160 160
query20 121 128 122 122
query21 227 124 107 107
query22 4102 4151 4043 4043
query23 34142 33032 33166 33032
query24 8533 2447 2367 2367
query25 552 462 394 394
query26 1229 269 153 153
query27 2769 503 343 343
query28 4321 2121 2107 2107
query29 774 581 433 433
query30 283 220 234 220
query31 920 848 778 778
query32 71 67 64 64
query33 549 356 311 311
query34 794 845 513 513
query35 777 807 710 710
query36 929 990 887 887
query37 111 100 73 73
query38 4053 4155 4012 4012
query39 1476 1409 1392 1392
query40 210 118 109 109
query41 62 58 58 58
query42 125 106 117 106
query43 486 495 472 472
query44 1296 823 817 817
query45 179 175 165 165
query46 828 1015 632 632
query47 1722 1792 1724 1724
query48 394 428 318 318
query49 736 493 379 379
query50 630 675 422 422
query51 4102 4243 4155 4155
query52 115 108 97 97
query53 230 257 183 183
query54 576 570 500 500
query55 89 81 86 81
query56 293 308 291 291
query57 1202 1202 1129 1129
query58 272 259 243 243
query59 2555 2657 2572 2572
query60 325 309 334 309
query61 125 123 122 122
query62 805 711 652 652
query63 225 185 193 185
query64 4424 1041 671 671
query65 4276 4167 4187 4167
query66 1149 413 315 315
query67 15790 15617 15472 15472
query68 8198 894 537 537
query69 479 300 329 300
query70 1192 1086 1048 1048
query71 439 317 298 298
query72 5649 4877 4874 4874
query73 728 662 361 361
query74 9393 8807 8638 8638
query75 3777 3176 2692 2692
query76 3637 1190 749 749
query77 786 376 283 283
query78 10120 10139 9390 9390
query79 2219 813 571 571
query80 592 530 479 479
query81 523 256 229 229
query82 454 124 93 93
query83 247 247 225 225
query84 272 102 90 90
query85 798 345 308 308
query86 396 302 278 278
query87 4390 4461 4318 4318
query88 3519 2287 2288 2287
query89 385 316 287 287
query90 1823 217 212 212
query91 145 144 110 110
query92 79 61 62 61
query93 1648 965 597 597
query94 676 425 348 348
query95 373 298 290 290
query96 492 560 277 277
query97 2747 2807 2600 2600
query98 234 208 222 208
query99 1459 1423 1260 1260
Total cold run time: 273586 ms
Total hot run time: 185131 ms
ClickBench: Total hot run time: 29.24 s
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/clickbench-tools
ClickBench test result on commit d96cd7a6ebafbbcf7dca75c6d592ac59a9419694, data reload: false
query1 0.03 0.04 0.02
query2 0.08 0.03 0.04
query3 0.24 0.06 0.07
query4 1.62 0.10 0.10
query5 0.43 0.44 0.42
query6 1.16 0.66 0.66
query7 0.02 0.02 0.02
query8 0.04 0.04 0.03
query9 0.59 0.52 0.51
query10 0.57 0.58 0.56
query11 0.16 0.10 0.11
query12 0.14 0.12 0.12
query13 0.62 0.60 0.60
query14 0.81 0.83 0.81
query15 0.90 0.87 0.88
query16 0.38 0.39 0.38
query17 1.05 1.05 1.06
query18 0.24 0.21 0.20
query19 1.98 1.95 1.86
query20 0.01 0.02 0.01
query21 15.39 0.90 0.56
query22 0.76 1.18 0.70
query23 14.89 1.40 0.64
query24 6.94 1.89 0.52
query25 0.47 0.29 0.08
query26 0.63 0.17 0.15
query27 0.07 0.05 0.06
query28 9.70 0.90 0.43
query29 12.57 3.98 3.35
query30 0.25 0.09 0.06
query31 2.84 0.61 0.39
query32 3.23 0.55 0.46
query33 3.06 3.11 3.13
query34 16.08 5.43 4.75
query35 4.84 4.76 4.80
query36 0.67 0.50 0.49
query37 0.09 0.06 0.07
query38 0.07 0.05 0.04
query39 0.03 0.02 0.03
query40 0.17 0.15 0.14
query41 0.08 0.02 0.02
query42 0.03 0.02 0.02
query43 0.03 0.03 0.04
Total cold run time: 103.96 s
Total hot run time: 29.24 s
run buildall
TPC-H: Total hot run time: 33661 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpch-tools
Tpch sf100 test result on commit 9677021c8380b9960b796d19b34ad794f2e655ad, data reload: false
------ Round 1 ----------------------------------
q1 17607 5151 4913 4913
q2 1944 297 182 182
q3 10280 1284 680 680
q4 10217 997 541 541
q5 7537 2346 2281 2281
q6 180 161 130 130
q7 883 719 610 610
q8 9308 1237 1096 1096
q9 6797 5120 5138 5120
q10 6884 2383 1976 1976
q11 480 285 283 283
q12 344 344 209 209
q13 17804 3606 3080 3080
q14 232 236 214 214
q15 562 481 480 480
q16 436 425 368 368
q17 607 835 398 398
q18 7432 7166 7030 7030
q19 1226 930 540 540
q20 326 344 243 243
q21 3844 3161 2323 2323
q22 1070 1039 964 964
Total cold run time: 106000 ms
Total hot run time: 33661 ms
----- Round 2, with runtime_filter_mode=off -----
q1 5002 4980 4996 4980
q2 246 328 233 233
q3 2118 2646 2326 2326
q4 1328 1780 1341 1341
q5 4175 4103 4396 4103
q6 214 175 136 136
q7 1988 1886 1767 1767
q8 2543 2506 2446 2446
q9 7017 7152 7078 7078
q10 3064 3274 2815 2815
q11 583 520 494 494
q12 688 757 638 638
q13 3439 3910 3220 3220
q14 279 309 271 271
q15 517 478 481 478
q16 440 485 447 447
q17 1133 1474 1377 1377
q18 7619 7131 6981 6981
q19 766 750 827 750
q20 1920 1971 1817 1817
q21 4729 4236 4255 4236
q22 1059 1015 969 969
Total cold run time: 50867 ms
Total hot run time: 48903 ms
TPC-DS: Total hot run time: 184932 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpcds-tools
TPC-DS sf100 test result on commit 9677021c8380b9960b796d19b34ad794f2e655ad, data reload: false
query1 993 391 388 388
query2 6538 1841 1788 1788
query3 6749 222 225 222
query4 25996 23540 22863 22863
query5 4323 624 465 465
query6 306 211 190 190
query7 4627 485 277 277
query8 267 233 221 221
query9 8633 2604 2607 2604
query10 462 377 283 283
query11 15590 15011 14848 14848
query12 159 110 108 108
query13 1660 518 430 430
query14 9397 6142 6071 6071
query15 202 194 167 167
query16 7539 638 467 467
query17 1203 754 584 584
query18 2049 420 316 316
query19 212 192 164 164
query20 123 124 121 121
query21 216 137 110 110
query22 4169 4190 4100 4100
query23 33859 33124 32946 32946
query24 8455 2352 2349 2349
query25 534 456 403 403
query26 1241 274 151 151
query27 2739 512 353 353
query28 4277 2114 2104 2104
query29 734 547 429 429
query30 292 225 189 189
query31 935 842 744 744
query32 74 62 64 62
query33 549 363 302 302
query34 800 879 532 532
query35 763 793 731 731
query36 944 985 862 862
query37 107 100 78 78
query38 4091 4185 3982 3982
query39 1480 1437 1384 1384
query40 204 118 107 107
query41 65 63 58 58
query42 133 120 121 120
query43 508 490 462 462
query44 1283 825 828 825
query45 174 184 174 174
query46 844 1018 621 621
query47 1781 1806 1716 1716
query48 384 416 299 299
query49 733 497 414 414
query50 636 684 402 402
query51 4084 4137 4137 4137
query52 105 127 96 96
query53 233 252 176 176
query54 571 566 494 494
query55 85 84 84 84
query56 305 289 287 287
query57 1178 1218 1155 1155
query58 265 256 254 254
query59 2605 2647 2535 2535
query60 335 338 297 297
query61 122 123 141 123
query62 799 735 673 673
query63 223 185 188 185
query64 4300 987 697 697
query65 4218 4122 4233 4122
query66 1086 412 307 307
query67 15885 15767 15477 15477
query68 8584 890 536 536
query69 464 318 269 269
query70 1197 1091 1076 1076
query71 477 317 303 303
query72 5507 4776 4846 4776
query73 726 664 351 351
query74 8992 8891 8632 8632
query75 3982 3235 2658 2658
query76 3742 1189 752 752
query77 782 392 284 284
query78 10005 10248 9468 9468
query79 1995 799 577 577
query80 579 510 442 442
query81 462 257 232 232
query82 426 133 96 96
query83 284 250 232 232
query84 297 110 98 98
query85 784 348 307 307
query86 332 290 293 290
query87 4454 4418 4320 4320
query88 2897 2307 2283 2283
query89 389 337 291 291
query90 1927 205 207 205
query91 142 141 112 112
query92 78 66 61 61
query93 1116 938 594 594
query94 678 392 287 287
query95 381 292 278 278
query96 496 560 277 277
query97 2760 2798 2653 2653
query98 222 210 207 207
query99 1442 1396 1300 1300
Total cold run time: 273030 ms
Total hot run time: 184932 ms
ClickBench: Total hot run time: 29.15 s
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/clickbench-tools
ClickBench test result on commit 9677021c8380b9960b796d19b34ad794f2e655ad, data reload: false
query1 0.03 0.03 0.03
query2 0.07 0.03 0.04
query3 0.25 0.07 0.07
query4 1.61 0.10 0.11
query5 0.42 0.43 0.42
query6 1.15 0.67 0.67
query7 0.02 0.02 0.01
query8 0.04 0.04 0.03
query9 0.59 0.54 0.51
query10 0.57 0.60 0.57
query11 0.15 0.11 0.12
query12 0.15 0.11 0.11
query13 0.64 0.60 0.62
query14 0.81 0.85 0.83
query15 0.88 0.87 0.88
query16 0.38 0.39 0.38
query17 1.10 1.08 1.04
query18 0.23 0.21 0.22
query19 1.99 1.88 1.90
query20 0.01 0.01 0.02
query21 15.39 0.89 0.53
query22 0.75 1.20 0.64
query23 14.94 1.37 0.59
query24 7.31 1.12 0.42
query25 0.44 0.35 0.07
query26 0.58 0.16 0.13
query27 0.08 0.05 0.05
query28 9.24 0.92 0.46
query29 12.57 3.93 3.31
query30 0.26 0.09 0.06
query31 2.83 0.59 0.40
query32 3.26 0.57 0.47
query33 3.13 3.11 3.12
query34 15.99 5.38 4.81
query35 4.80 4.84 4.81
query36 0.68 0.51 0.49
query37 0.09 0.07 0.06
query38 0.05 0.04 0.04
query39 0.03 0.02 0.03
query40 0.17 0.14 0.13
query41 0.08 0.02 0.02
query42 0.03 0.02 0.02
query43 0.04 0.03 0.03
Total cold run time: 103.83 s
Total hot run time: 29.15 s
run buildall
TPC-H: Total hot run time: 34784 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpch-tools
Tpch sf100 test result on commit 8f8b7083d3aa7823552cdc4f1cb8504c49556578, data reload: false
------ Round 1 ----------------------------------
q1 17605 5201 5115 5115
q2 1941 319 221 221
q3 10392 1383 733 733
q4 10248 1028 518 518
q5 7761 2463 2446 2446
q6 193 167 135 135
q7 952 756 622 622
q8 9337 1358 1269 1269
q9 6748 5207 5232 5207
q10 6942 2410 1977 1977
q11 489 303 266 266
q12 365 373 215 215
q13 17758 3712 3119 3119
q14 238 231 217 217
q15 577 486 496 486
q16 442 433 380 380
q17 624 900 382 382
q18 7959 7281 7203 7203
q19 1390 997 595 595
q20 328 347 230 230
q21 4149 3525 2490 2490
q22 1098 1034 958 958
Total cold run time: 107536 ms
Total hot run time: 34784 ms
----- Round 2, with runtime_filter_mode=off -----
q1 5203 5252 5161 5161
q2 250 327 233 233
q3 2213 2695 2277 2277
q4 1418 1825 1328 1328
q5 4278 4418 4449 4418
q6 235 175 131 131
q7 2050 1911 1762 1762
q8 2671 2546 2582 2546
q9 7169 7221 7124 7124
q10 3090 3284 2884 2884
q11 593 522 493 493
q12 677 772 625 625
q13 3529 3945 3295 3295
q14 303 319 290 290
q15 545 483 476 476
q16 458 500 448 448
q17 1194 1581 1367 1367
q18 7804 7597 7309 7309
q19 878 941 1146 941
q20 1998 2061 1871 1871
q21 5014 4633 4239 4239
q22 1107 1030 1018 1018
Total cold run time: 52677 ms
Total hot run time: 50236 ms
TPC-DS: Total hot run time: 187869 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpcds-tools
TPC-DS sf100 test result on commit 8f8b7083d3aa7823552cdc4f1cb8504c49556578, data reload: false
query1 1010 411 411 411
query2 6539 1885 1896 1885
query3 6741 224 224 224
query4 26362 23798 23383 23383
query5 4364 611 460 460
query6 306 214 217 214
query7 4634 506 292 292
query8 261 230 212 212
query9 8607 2648 2690 2648
query10 490 354 278 278
query11 15939 15271 14873 14873
query12 171 110 107 107
query13 1662 543 425 425
query14 9126 6279 6278 6278
query15 206 201 173 173
query16 7188 652 509 509
query17 1206 751 579 579
query18 1989 421 314 314
query19 214 203 169 169
query20 128 124 118 118
query21 218 133 121 121
query22 4197 4152 4205 4152
query23 34111 33301 33322 33301
query24 8447 2396 2463 2396
query25 541 493 398 398
query26 1248 270 158 158
query27 2740 527 361 361
query28 4294 2116 2110 2110
query29 797 560 444 444
query30 289 228 203 203
query31 960 867 795 795
query32 74 69 65 65
query33 552 367 319 319
query34 809 853 564 564
query35 818 847 756 756
query36 987 1002 906 906
query37 113 103 76 76
query38 4127 4099 4048 4048
query39 1532 1414 1437 1414
query40 215 120 113 113
query41 68 71 64 64
query42 135 108 111 108
query43 521 508 489 489
query44 1352 866 887 866
query45 184 182 176 176
query46 903 1075 641 641
query47 1738 1785 1740 1740
query48 397 421 323 323
query49 738 502 433 433
query50 659 695 407 407
query51 4186 4252 4175 4175
query52 113 111 104 104
query53 234 264 194 194
query54 573 594 510 510
query55 96 92 87 87
query56 328 306 315 306
query57 1188 1204 1141 1141
query58 268 264 268 264
query59 2648 2805 2650 2650
query60 319 337 306 306
query61 130 128 126 126
query62 800 739 678 678
query63 235 203 202 202
query64 4344 1019 714 714
query65 4336 4223 4207 4207
query66 1236 441 333 333
query67 15826 15682 15485 15485
query68 8037 920 551 551
query69 528 314 277 277
query70 1217 1164 1136 1136
query71 469 340 329 329
query72 5341 4810 4758 4758
query73 698 622 354 354
query74 9185 8975 8913 8913
query75 3826 3213 2736 2736
query76 3620 1223 777 777
query77 810 411 293 293
query78 10041 10290 9413 9413
query79 1974 801 610 610
query80 611 514 492 492
query81 485 255 230 230
query82 420 128 98 98
query83 252 254 228 228
query84 234 108 86 86
query85 783 370 374 370
query86 349 316 293 293
query87 4377 4470 4396 4396
query88 2923 2304 2319 2304
query89 378 313 291 291
query90 1837 210 206 206
query91 148 138 116 116
query92 73 61 62 61
query93 1048 957 602 602
query94 676 414 303 303
query95 378 301 289 289
query96 495 556 282 282
query97 2753 2745 2641 2641
query98 235 207 198 198
query99 1445 1425 1255 1255
Total cold run time: 273413 ms
Total hot run time: 187869 ms
ClickBench: Total hot run time: 29.82 s
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/clickbench-tools
ClickBench test result on commit 8f8b7083d3aa7823552cdc4f1cb8504c49556578, data reload: false
query1 0.03 0.03 0.04
query2 0.07 0.03 0.04
query3 0.24 0.07 0.08
query4 1.59 0.10 0.10
query5 0.46 0.42 0.42
query6 1.16 0.66 0.66
query7 0.02 0.02 0.01
query8 0.04 0.04 0.04
query9 0.59 0.53 0.52
query10 0.58 0.60 0.57
query11 0.16 0.11 0.12
query12 0.15 0.11 0.12
query13 0.63 0.62 0.60
query14 0.80 0.83 0.81
query15 0.91 0.89 0.89
query16 0.39 0.40 0.40
query17 1.06 1.05 1.09
query18 0.23 0.21 0.21
query19 1.95 1.86 1.84
query20 0.01 0.01 0.02
query21 15.41 0.92 0.56
query22 0.75 1.16 0.77
query23 14.84 1.38 0.61
query24 8.06 0.70 0.75
query25 0.48 0.12 0.15
query26 0.76 0.17 0.14
query27 0.07 0.05 0.05
query28 9.02 0.90 0.46
query29 12.56 4.04 3.36
query30 0.25 0.08 0.06
query31 2.85 0.62 0.40
query32 3.24 0.56 0.48
query33 3.12 3.10 3.16
query34 16.15 5.48 4.83
query35 4.90 4.88 4.87
query36 0.65 0.49 0.49
query37 0.08 0.07 0.07
query38 0.05 0.04 0.04
query39 0.03 0.02 0.02
query40 0.19 0.15 0.13
query41 0.09 0.03 0.03
query42 0.03 0.02 0.02
query43 0.04 0.03 0.04
Total cold run time: 104.69 s
Total hot run time: 29.82 s
FE UT Coverage Report
Increment line coverage 45.16% (14/31) :tada:
Increment coverage report
Complete coverage report
run buildall
run buildall
TPC-H: Total hot run time: 33987 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpch-tools
Tpch sf100 test result on commit b67953520f89ee0c5db99451148f175a3584cc7a, data reload: false
------ Round 1 ----------------------------------
q1 17580 5178 5059 5059
q2 1957 337 193 193
q3 10243 1314 742 742
q4 10222 1015 551 551
q5 7573 2489 2354 2354
q6 177 163 133 133
q7 937 739 612 612
q8 9315 1322 1073 1073
q9 6824 5052 5118 5052
q10 6888 2380 1967 1967
q11 502 297 284 284
q12 343 350 211 211
q13 17782 3704 3123 3123
q14 232 226 218 218
q15 577 476 494 476
q16 437 435 374 374
q17 625 887 383 383
q18 7665 7028 7001 7001
q19 1491 950 548 548
q20 342 344 231 231
q21 4048 3255 2437 2437
q22 1051 1001 965 965
Total cold run time: 106811 ms
Total hot run time: 33987 ms
----- Round 2, with runtime_filter_mode=off -----
q1 5216 5090 5110 5090
q2 245 323 224 224
q3 2198 2665 2311 2311
q4 1379 1794 1366 1366
q5 4250 4105 4145 4105
q6 209 165 123 123
q7 1896 1855 1653 1653
q8 2516 2494 2380 2380
q9 6833 6793 6757 6757
q10 2979 3162 2701 2701
q11 562 514 486 486
q12 627 745 586 586
q13 3324 3696 3143 3143
q14 268 296 258 258
q15 522 458 458 458
q16 413 482 416 416
q17 1125 1508 1427 1427
q18 7395 7078 6991 6991
q19 777 784 813 784
q20 1918 2015 1831 1831
q21 4752 4371 4253 4253
q22 1022 1019 993 993
Total cold run time: 50426 ms
Total hot run time: 48336 ms
TPC-DS: Total hot run time: 185093 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpcds-tools
TPC-DS sf100 test result on commit b67953520f89ee0c5db99451148f175a3584cc7a, data reload: false
query1 1014 391 399 391
query2 6530 1833 1791 1791
query3 6753 219 222 219
query4 26876 23289 23333 23289
query5 4917 651 473 473
query6 308 221 197 197
query7 4626 507 291 291
query8 280 222 213 213
query9 8633 2630 2666 2630
query10 507 342 279 279
query11 15731 15061 14811 14811
query12 174 111 106 106
query13 1664 531 448 448
query14 10125 6102 6153 6102
query15 201 203 170 170
query16 7654 656 466 466
query17 1224 746 599 599
query18 2020 427 306 306
query19 202 210 163 163
query20 125 117 115 115
query21 217 125 111 111
query22 4299 4284 4198 4198
query23 34052 33221 33054 33054
query24 8371 2409 2367 2367
query25 528 468 398 398
query26 1243 272 152 152
query27 2736 513 345 345
query28 4262 2137 2089 2089
query29 753 542 434 434
query30 290 222 202 202
query31 936 835 764 764
query32 73 67 64 64
query33 549 360 303 303
query34 804 850 553 553
query35 779 819 755 755
query36 934 964 871 871
query37 112 101 83 83
query38 4041 4050 4081 4050
query39 1488 1394 1410 1394
query40 208 122 110 110
query41 67 59 60 59
query42 126 110 107 107
query43 494 498 463 463
query44 1317 827 820 820
query45 185 172 162 162
query46 845 1022 634 634
query47 1767 1780 1692 1692
query48 388 422 309 309
query49 729 480 389 389
query50 631 698 397 397
query51 4183 4106 4153 4106
query52 104 103 98 98
query53 223 256 185 185
query54 576 567 504 504
query55 89 84 82 82
query56 303 316 284 284
query57 1180 1187 1131 1131
query58 266 267 257 257
query59 2547 2610 2510 2510
query60 329 316 315 315
query61 130 126 126 126
query62 795 723 678 678
query63 218 188 195 188
query64 4228 1014 669 669
query65 4249 4182 4170 4170
query66 1062 429 338 338
query67 15670 15683 15178 15178
query68 8268 886 531 531
query69 473 300 266 266
query70 1209 1144 1046 1046
query71 472 326 297 297
query72 5824 4753 4738 4738
query73 725 621 429 429
query74 8940 8994 8607 8607
query75 3902 3182 2680 2680
query76 3722 1191 746 746
query77 794 381 296 296
query78 10063 10021 9278 9278
query79 2136 794 574 574
query80 592 552 449 449
query81 485 250 222 222
query82 456 126 100 100
query83 258 250 244 244
query84 247 109 84 84
query85 788 350 319 319
query86 391 314 279 279
query87 4455 4419 4273 4273
query88 3623 2233 2218 2218
query89 381 314 290 290
query90 1862 202 202 202
query91 142 147 115 115
query92 82 65 59 59
query93 1624 947 587 587
query94 672 407 295 295
query95 380 284 288 284
query96 491 573 281 281
query97 2664 2762 2635 2635
query98 239 208 211 208
query99 1483 1422 1254 1254
Total cold run time: 276783 ms
Total hot run time: 185093 ms
ClickBench: Total hot run time: 29.96 s
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/clickbench-tools
ClickBench test result on commit b67953520f89ee0c5db99451148f175a3584cc7a, data reload: false
query1 0.04 0.03 0.03
query2 0.07 0.04 0.04
query3 0.24 0.07 0.07
query4 1.59 0.11 0.10
query5 0.44 0.43 0.41
query6 1.15 0.67 0.68
query7 0.02 0.02 0.02
query8 0.05 0.04 0.04
query9 0.59 0.52 0.50
query10 0.57 0.58 0.57
query11 0.16 0.11 0.11
query12 0.14 0.12 0.12
query13 0.63 0.60 0.62
query14 0.82 0.81 0.82
query15 0.89 0.87 0.89
query16 0.38 0.38 0.40
query17 1.11 1.10 1.10
query18 0.23 0.20 0.22
query19 2.01 1.88 1.90
query20 0.02 0.01 0.02
query21 15.40 0.88 0.54
query22 0.74 1.24 0.72
query23 14.87 1.37 0.65
query24 7.41 1.19 1.10
query25 0.53 0.19 0.07
query26 0.49 0.17 0.14
query27 0.06 0.05 0.06
query28 9.64 0.90 0.44
query29 12.55 4.01 3.37
query30 0.26 0.09 0.08
query31 2.80 0.60 0.40
query32 3.24 0.57 0.47
query33 3.05 3.08 3.14
query34 16.16 5.40 4.75
query35 4.87 4.84 4.74
query36 0.67 0.52 0.49
query37 0.10 0.07 0.07
query38 0.04 0.04 0.03
query39 0.03 0.02 0.02
query40 0.18 0.15 0.14
query41 0.08 0.03 0.03
query42 0.04 0.02 0.02
query43 0.04 0.03 0.03
Total cold run time: 104.4 s
Total hot run time: 29.96 s
run buildall
TPC-H: Total hot run time: 33745 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpch-tools
Tpch sf100 test result on commit dca26beeaf4d58a1ff7c2cc8007e1cb27fd68e94, data reload: false
------ Round 1 ----------------------------------
q1 17605 5155 4973 4973
q2 1923 315 208 208
q3 10255 1278 693 693
q4 10201 1018 528 528
q5 7549 2400 2276 2276
q6 182 167 137 137
q7 898 725 593 593
q8 9303 1298 1116 1116
q9 6707 5027 5162 5027
q10 6883 2366 2008 2008
q11 503 289 274 274
q12 340 354 223 223
q13 17788 3636 3092 3092
q14 238 225 217 217
q15 563 481 468 468
q16 436 430 378 378
q17 616 846 398 398
q18 7350 7121 6994 6994
q19 1962 945 562 562
q20 337 339 225 225
q21 3840 3175 2391 2391
q22 1043 1021 964 964
Total cold run time: 106522 ms
Total hot run time: 33745 ms
----- Round 2, with runtime_filter_mode=off -----
q1 5165 5039 5020 5020
q2 246 318 222 222
q3 2143 2640 2290 2290
q4 1321 1794 1330 1330
q5 4204 4098 4402 4098
q6 210 166 125 125
q7 1989 1942 1758 1758
q8 2550 2473 2505 2473
q9 7110 7024 7117 7024
q10 3026 3247 2801 2801
q11 572 516 498 498
q12 648 765 617 617
q13 3600 3843 3329 3329
q14 291 301 280 280
q15 534 494 473 473
q16 435 480 436 436
q17 1159 1591 1344 1344
q18 7480 7085 7058 7058
q19 764 840 990 840
q20 1891 1972 1808 1808
q21 4745 4439 4237 4237
q22 1045 1031 993 993
Total cold run time: 51128 ms
Total hot run time: 49054 ms
TPC-DS: Total hot run time: 185136 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpcds-tools
TPC-DS sf100 test result on commit dca26beeaf4d58a1ff7c2cc8007e1cb27fd68e94, data reload: false
query1 1006 388 393 388
query2 6526 1807 1754 1754
query3 6742 223 216 216
query4 26061 23234 22942 22942
query5 4292 622 479 479
query6 309 221 191 191
query7 4622 494 292 292
query8 269 237 214 214
query9 8593 2617 2627 2617
query10 477 327 272 272
query11 15236 15051 14794 14794
query12 163 113 107 107
query13 1674 539 414 414
query14 9205 6036 6085 6036
query15 200 200 174 174
query16 7504 648 465 465
query17 1195 752 599 599
query18 2076 416 314 314
query19 199 195 166 166
query20 123 114 117 114
query21 219 126 108 108
query22 4115 4184 4133 4133
query23 34114 33147 32986 32986
query24 8458 2376 2377 2376
query25 542 464 393 393
query26 1234 266 151 151
query27 2717 502 340 340
query28 4336 2109 2091 2091
query29 764 546 439 439
query30 275 215 194 194
query31 942 826 763 763
query32 70 64 61 61
query33 544 356 299 299
query34 802 839 534 534
query35 785 832 723 723
query36 932 979 869 869
query37 105 98 77 77
query38 3987 4220 4186 4186
query39 1482 1451 1414 1414
query40 209 124 112 112
query41 64 59 60 59
query42 127 111 112 111
query43 500 498 479 479
query44 1338 840 829 829
query45 214 181 166 166
query46 847 1037 614 614
query47 1769 1825 1746 1746
query48 381 406 308 308
query49 752 484 407 407
query50 647 664 394 394
query51 4178 4135 4139 4135
query52 110 107 99 99
query53 235 251 186 186
query54 568 569 499 499
query55 89 81 85 81
query56 307 296 272 272
query57 1186 1189 1113 1113
query58 264 250 247 247
query59 2515 2585 2601 2585
query60 318 316 320 316
query61 126 127 121 121
query62 812 715 684 684
query63 215 186 184 184
query64 4314 1003 665 665
query65 4274 4136 4173 4136
query66 1112 459 312 312
query67 15848 15533 15256 15256
query68 8489 894 532 532
query69 474 296 265 265
query70 1197 1090 1100 1090
query71 467 316 303 303
query72 5512 4668 4701 4668
query73 710 615 355 355
query74 8828 9075 8903 8903
query75 3784 3180 2667 2667
query76 3614 1185 749 749
query77 788 407 303 303
query78 9972 10131 9401 9401
query79 2269 828 571 571
query80 597 505 439 439
query81 475 257 227 227
query82 426 125 102 102
query83 299 264 235 235
query84 289 107 82 82
query85 781 348 316 316
query86 343 312 276 276
query87 4335 4455 4308 4308
query88 3217 2335 2281 2281
query89 381 310 279 279
query90 1933 209 205 205
query91 140 141 107 107
query92 71 58 61 58
query93 1276 933 591 591
query94 666 381 299 299
query95 366 293 287 287
query96 504 562 279 279
query97 2760 2771 2681 2681
query98 234 211 201 201
query99 1499 1449 1275 1275
Total cold run time: 272910 ms
Total hot run time: 185136 ms
ClickBench: Total hot run time: 29.25 s
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/clickbench-tools
ClickBench test result on commit dca26beeaf4d58a1ff7c2cc8007e1cb27fd68e94, data reload: false
query1 0.03 0.03 0.03
query2 0.08 0.03 0.03
query3 0.23 0.07 0.06
query4 1.62 0.10 0.10
query5 0.43 0.42 0.42
query6 1.18 0.66 0.68
query7 0.03 0.01 0.02
query8 0.05 0.04 0.04
query9 0.57 0.52 0.50
query10 0.58 0.58 0.57
query11 0.15 0.11 0.11
query12 0.14 0.11 0.11
query13 0.62 0.60 0.61
query14 0.81 0.82 0.81
query15 0.89 0.86 0.89
query16 0.37 0.39 0.40
query17 1.05 1.04 1.05
query18 0.23 0.21 0.21
query19 1.95 1.81 1.89
query20 0.02 0.01 0.02
query21 15.44 0.89 0.56
query22 0.76 1.22 0.77
query23 14.80 1.37 0.64
query24 6.67 2.54 0.38
query25 0.37 0.24 0.15
query26 0.62 0.16 0.15
query27 0.06 0.06 0.05
query28 9.88 0.87 0.46
query29 12.53 4.00 3.28
query30 0.26 0.09 0.06
query31 2.84 0.58 0.39
query32 3.23 0.55 0.48
query33 3.01 3.12 3.11
query34 16.03 5.34 4.76
query35 4.78 4.82 4.82
query36 0.66 0.50 0.49
query37 0.09 0.07 0.06
query38 0.05 0.04 0.04
query39 0.03 0.03 0.02
query40 0.17 0.15 0.14
query41 0.08 0.02 0.02
query42 0.04 0.02 0.02
query43 0.04 0.03 0.03
Total cold run time: 103.47 s
Total hot run time: 29.25 s
FE UT Coverage Report
Increment line coverage 35.48% (11/31) :tada:
Increment coverage report
Complete coverage report
run buildall
TPC-H: Total hot run time: 33576 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpch-tools
Tpch sf100 test result on commit 987464803f6e8ea5f19de7147d724b94df735821, data reload: false
------ Round 1 ----------------------------------
q1 16684 5345 5185 5185
q2 1918 274 183 183
q3 9988 1284 699 699
q4 9994 958 519 519
q5 7439 2339 2230 2230
q6 185 179 134 134
q7 920 762 606 606
q8 9183 1251 973 973
q9 6721 5105 5097 5097
q10 6892 2333 1978 1978
q11 455 280 273 273
q12 349 360 223 223
q13 17412 3463 3014 3014
q14 234 231 232 231
q15 521 473 450 450
q16 423 414 368 368
q17 559 859 353 353
q18 7273 7134 7011 7011
q19 1074 984 525 525
q20 319 319 211 211
q21 3382 2997 2300 2300
q22 1043 1047 1013 1013
Total cold run time: 102968 ms
Total hot run time: 33576 ms
----- Round 2, with runtime_filter_mode=off -----
q1 5290 5315 5294 5294
q2 229 312 215 215
q3 2065 2553 2183 2183
q4 1278 1693 1320 1320
q5 4136 4040 4462 4040
q6 218 175 134 134
q7 1989 1887 1863 1863
q8 2595 2536 2414 2414
q9 7348 7279 7408 7279
q10 3160 3319 2908 2908
q11 556 516 524 516
q12 699 773 620 620
q13 3372 3705 3237 3237
q14 305 299 297 297
q15 502 474 456 456
q16 416 486 445 445
q17 1207 1462 1393 1393
q18 13856 7982 7372 7372
q19 5310 997 1139 997
q20 2020 2025 1807 1807
q21 15985 4277 4266 4266
q22 1028 1013 981 981
Total cold run time: 73564 ms
Total hot run time: 50037 ms