doris icon indicating copy to clipboard operation
doris copied to clipboard

[opt](nereids) improve filter estimation on string column

Open englefly opened this issue 1 year ago • 22 comments

pick from master #35610 and #34542

Some users are likely to define date(datetime) column as Varchar type. when estimating the selectivity of predicate like A>'2020-01-01', if nereids regards A and '2020-01-01' as date type, the sel is more accurate than that as string type.

englefly avatar May 30 '24 10:05 englefly

Thank you for your contribution to Apache Doris. Don't know what should be done next? See How to process your PR

Since 2024-03-18, the Document has been moved to doris-website. See Doris Document.

doris-robot avatar May 30 '24 10:05 doris-robot

run buildall

englefly avatar May 30 '24 10:05 englefly

run buildall

englefly avatar May 30 '24 11:05 englefly

run buildall

englefly avatar May 30 '24 11:05 englefly

TPC-H: Total hot run time: 49891 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpch-tools
Tpch sf100 test result on commit c46bb3da84c5e6118199ff3564975810cd51349d, data reload: false

------ Round 1 ----------------------------------
q1	17621	4378	4379	4378
q2	2067	185	147	147
q3	10418	1932	1961	1932
q4	10319	1260	1306	1260
q5	8473	3934	3930	3930
q6	240	126	124	124
q7	2081	1636	1607	1607
q8	9578	2764	2735	2735
q9	13906	10338	10279	10279
q10	8626	3576	3553	3553
q11	408	253	253	253
q12	475	299	312	299
q13	18338	3976	4048	3976
q14	363	327	330	327
q15	506	461	454	454
q16	649	574	574	574
q17	1147	933	903	903
q18	7214	6832	6852	6832
q19	1694	1602	1560	1560
q20	515	339	299	299
q21	4430	4144	4080	4080
q22	513	389	403	389
Total cold run time: 119581 ms
Total hot run time: 49891 ms

----- Round 2, with runtime_filter_mode=off -----
q1	4353	4325	4320	4320
q2	319	227	225	225
q3	4205	4186	4136	4136
q4	2772	2761	2775	2761
q5	7236	7097	7135	7097
q6	239	123	120	120
q7	3221	2897	2862	2862
q8	4362	4459	4494	4459
q9	16913	16941	16698	16698
q10	4228	4249	4310	4249
q11	796	700	711	700
q12	1033	855	862	855
q13	6762	3740	3778	3740
q14	459	425	420	420
q15	512	455	465	455
q16	743	684	669	669
q17	3916	3869	3898	3869
q18	8868	8834	8875	8834
q19	1748	1654	1690	1654
q20	2390	2139	2147	2139
q21	8536	8491	8432	8432
q22	1037	929	926	926
Total cold run time: 84648 ms
Total hot run time: 79620 ms

doris-robot avatar May 30 '24 11:05 doris-robot

TPC-DS: Total hot run time: 203827 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpcds-tools
TPC-DS sf100 test result on commit c46bb3da84c5e6118199ff3564975810cd51349d, data reload: false

query1	956	394	384	384
query2	6592	2964	2777	2777
query3	6931	213	210	210
query4	19835	18083	17997	17997
query5	19780	6543	6586	6543
query6	292	217	240	217
query7	4158	306	314	306
query8	259	239	241	239
query9	3133	2711	2634	2634
query10	428	298	298	298
query11	11387	10863	10786	10786
query12	121	85	77	77
query13	5597	695	676	676
query14	17701	13470	13371	13371
query15	361	230	230	230
query16	6463	290	261	261
query17	1713	1453	898	898
query18	2278	419	414	414
query19	225	154	149	149
query20	79	82	78	78
query21	194	97	92	92
query22	5316	5059	5057	5057
query23	32636	31948	32138	31948
query24	7692	6532	6548	6532
query25	540	436	423	423
query26	1251	162	159	159
query27	2224	297	297	297
query28	6154	2331	2306	2306
query29	2880	2753	2649	2649
query30	242	167	166	166
query31	911	724	750	724
query32	69	65	63	63
query33	428	263	277	263
query34	861	481	472	472
query35	1134	956	943	943
query36	1327	1245	1157	1157
query37	90	60	61	60
query38	3088	2994	2918	2918
query39	1376	1343	1323	1323
query40	300	99	101	99
query41	39	37	39	37
query42	91	93	97	93
query43	661	623	734	623
query44	1123	721	727	721
query45	245	234	233	233
query46	1233	966	974	966
query47	1770	1671	1642	1642
query48	1029	711	691	691
query49	661	367	371	367
query50	859	602	564	564
query51	4824	4708	4663	4663
query52	107	79	87	79
query53	450	315	325	315
query54	2661	2464	2467	2464
query55	85	88	84	84
query56	218	204	215	204
query57	1228	1205	1184	1184
query58	224	192	196	192
query59	4099	3846	3820	3820
query60	219	192	222	192
query61	96	95	98	95
query62	812	451	456	451
query63	486	343	344	343
query64	2847	1617	1541	1541
query65	3624	3582	3545	3545
query66	812	372	376	372
query67	15625	17862	15450	15450
query68	8302	662	669	662
query69	559	346	354	346
query70	1641	1383	1474	1383
query71	406	307	310	307
query72	6210	3472	3491	3472
query73	744	329	324	324
query74	6364	5852	5867	5852
query75	4513	3734	3706	3706
query76	4643	1167	1185	1167
query77	612	263	266	263
query78	12523	11802	11454	11454
query79	10611	643	654	643
query80	1676	401	396	396
query81	506	235	232	232
query82	1689	101	100	100
query83	175	141	138	138
query84	265	73	70	70
query85	985	318	328	318
query86	338	286	299	286
query87	3248	3034	3060	3034
query88	5221	2360	2332	2332
query89	483	288	315	288
query90	1878	216	194	194
query91	169	152	140	140
query92	59	55	51	51
query93	6422	598	619	598
query94	772	217	216	216
query95	1113	1029	1050	1029
query96	639	334	342	334
query97	6551	6336	6393	6336
query98	175	175	176	175
query99	2991	856	854	854
Total cold run time: 315613 ms
Total hot run time: 203827 ms

doris-robot avatar May 30 '24 11:05 doris-robot

ClickBench: Total hot run time: 29.85 s
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/clickbench-tools
ClickBench test result on commit c46bb3da84c5e6118199ff3564975810cd51349d, data reload: false

query1	0.02	0.03	0.02
query2	0.07	0.03	0.02
query3	0.25	0.05	0.04
query4	1.79	0.06	0.08
query5	0.53	0.52	0.52
query6	1.23	0.62	0.61
query7	0.01	0.00	0.01
query8	0.03	0.02	0.02
query9	0.51	0.49	0.49
query10	0.54	0.53	0.54
query11	0.12	0.09	0.08
query12	0.12	0.09	0.09
query13	0.62	0.61	0.60
query14	0.77	0.79	0.81
query15	0.78	0.75	0.76
query16	0.36	0.37	0.37
query17	1.03	0.99	1.00
query18	0.24	0.26	0.24
query19	1.93	1.83	1.88
query20	0.02	0.01	0.01
query21	15.46	0.57	0.57
query22	2.20	1.91	0.79
query23	16.63	1.07	1.02
query24	6.85	1.13	0.86
query25	0.39	0.10	0.04
query26	0.70	0.17	0.16
query27	0.05	0.05	0.04
query28	6.31	0.78	0.70
query29	12.72	2.34	2.27
query30	0.55	0.53	0.51
query31	2.82	0.38	0.37
query32	3.37	0.51	0.50
query33	3.10	3.11	3.05
query34	15.28	4.82	4.80
query35	4.84	4.84	4.85
query36	1.04	1.02	1.02
query37	0.05	0.04	0.05
query38	0.03	0.02	0.02
query39	0.02	0.02	0.02
query40	0.16	0.14	0.14
query41	0.07	0.01	0.02
query42	0.02	0.02	0.01
query43	0.02	0.02	0.01
Total cold run time: 103.65 s
Total hot run time: 29.85 s

doris-robot avatar May 30 '24 11:05 doris-robot

Load test result on machine: 'aliyun_ecs.c7a.8xlarge_32C64G'

Load test result on commit c46bb3da84c5e6118199ff3564975810cd51349d with default session variables
Stream load json:         20 seconds loaded 2358488459 Bytes, about 112 MB/s
Stream load orc:          58 seconds loaded 1101869774 Bytes, about 18 MB/s
Stream load parquet:      32 seconds loaded 861443392 Bytes, about 25 MB/s
Insert into select:       21.1 seconds inserted 10000000 Rows, about 473K ops/s

doris-robot avatar May 30 '24 11:05 doris-robot

run buildall

englefly avatar May 30 '24 13:05 englefly

run buildall

englefly avatar May 30 '24 13:05 englefly

run buildall

englefly avatar May 30 '24 14:05 englefly

TPC-H: Total hot run time: 49587 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpch-tools
Tpch sf100 test result on commit e92e4b789b4fbf4651b5817145fd67e06f4c1371, data reload: false

------ Round 1 ----------------------------------
q1	18189	4390	4398	4390
q2	2035	191	154	154
q3	10222	1910	1950	1910
q4	10299	1226	1324	1226
q5	8464	3850	3917	3850
q6	239	125	123	123
q7	2085	1574	1604	1574
q8	9540	2717	2708	2708
q9	13805	10281	10379	10281
q10	8643	3537	3492	3492
q11	413	248	252	248
q12	479	300	297	297
q13	18362	3953	4047	3953
q14	344	331	319	319
q15	511	450	462	450
q16	669	560	573	560
q17	1138	934	934	934
q18	7194	6892	6845	6845
q19	1720	1560	1545	1545
q20	548	291	284	284
q21	4402	4056	4071	4056
q22	503	388	395	388
Total cold run time: 119804 ms
Total hot run time: 49587 ms

----- Round 2, with runtime_filter_mode=off -----
q1	4335	4277	4321	4277
q2	315	220	216	216
q3	4164	4128	4129	4128
q4	2752	2755	2759	2755
q5	7195	7095	7038	7038
q6	239	125	121	121
q7	3197	2878	2842	2842
q8	4363	4451	4518	4451
q9	16870	16756	16639	16639
q10	4240	4230	4223	4223
q11	750	699	688	688
q12	1040	867	845	845
q13	6630	3779	3727	3727
q14	456	434	415	415
q15	510	452	444	444
q16	734	682	678	678
q17	3859	3887	3867	3867
q18	8803	8743	8838	8743
q19	1743	1663	1672	1663
q20	2330	2112	2094	2094
q21	8480	8481	8439	8439
q22	1014	919	962	919
Total cold run time: 84019 ms
Total hot run time: 79212 ms

doris-robot avatar May 30 '24 15:05 doris-robot

TPC-DS: Total hot run time: 202107 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpcds-tools
TPC-DS sf100 test result on commit e92e4b789b4fbf4651b5817145fd67e06f4c1371, data reload: false

query1	925	386	381	381
query2	6608	2882	2640	2640
query3	6927	212	211	211
query4	19977	17995	17810	17810
query5	19730	6537	6506	6506
query6	280	211	222	211
query7	4154	294	310	294
query8	254	277	232	232
query9	3137	2705	2644	2644
query10	406	313	288	288
query11	11334	10626	10715	10626
query12	119	76	73	73
query13	5599	676	669	669
query14	17950	13301	13434	13301
query15	360	222	230	222
query16	6468	295	264	264
query17	1714	1444	869	869
query18	2320	408	411	408
query19	213	145	152	145
query20	72	78	80	78
query21	193	94	91	91
query22	5288	5067	4998	4998
query23	32466	31894	31813	31813
query24	6991	6499	6525	6499
query25	537	433	417	417
query26	614	158	158	158
query27	2040	293	296	293
query28	6149	2350	2315	2315
query29	2825	2723	2739	2723
query30	243	162	169	162
query31	924	742	766	742
query32	73	62	54	54
query33	408	255	254	254
query34	853	484	478	478
query35	1139	931	891	891
query36	1318	1273	1149	1149
query37	87	63	60	60
query38	3045	2970	2946	2946
query39	1363	1330	1305	1305
query40	207	97	92	92
query41	39	36	45	36
query42	91	99	83	83
query43	734	727	690	690
query44	1128	716	727	716
query45	242	233	228	228
query46	1231	972	983	972
query47	1995	1632	1752	1632
query48	1024	710	699	699
query49	626	386	371	371
query50	882	661	586	586
query51	4794	4640	4672	4640
query52	93	79	83	79
query53	435	321	312	312
query54	2658	2424	2477	2424
query55	94	88	87	87
query56	218	237	217	217
query57	1113	1125	1040	1040
query58	217	204	210	204
query59	4272	4061	4124	4061
query60	226	194	218	194
query61	97	98	92	92
query62	852	507	473	473
query63	491	339	337	337
query64	2576	1533	1494	1494
query65	3596	3551	3540	3540
query66	816	378	368	368
query67	15602	15439	14632	14632
query68	12440	672	669	669
query69	577	338	336	336
query70	2261	1377	1347	1347
query71	421	317	317	317
query72	6611	3472	3438	3438
query73	2397	329	322	322
query74	6389	5826	5817	5817
query75	5498	3668	3579	3579
query76	6987	1136	1151	1136
query77	1183	264	252	252
query78	12653	11911	11614	11614
query79	9114	640	643	640
query80	1360	398	397	397
query81	457	231	228	228
query82	816	97	97	97
query83	169	133	132	132
query84	262	71	71	71
query85	871	317	305	305
query86	340	313	304	304
query87	3250	2987	3043	2987
query88	3907	2345	2352	2345
query89	482	278	282	278
query90	1990	193	195	193
query91	181	140	138	138
query92	57	52	55	52
query93	7092	620	570	570
query94	727	212	200	200
query95	1127	1037	1044	1037
query96	645	327	332	327
query97	6402	6349	6413	6349
query98	198	192	168	168
query99	3041	943	1083	943
Total cold run time: 321357 ms
Total hot run time: 202107 ms

doris-robot avatar May 30 '24 15:05 doris-robot

ClickBench: Total hot run time: 30.23 s
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/clickbench-tools
ClickBench test result on commit e92e4b789b4fbf4651b5817145fd67e06f4c1371, data reload: false

query1	0.03	0.03	0.02
query2	0.07	0.03	0.02
query3	0.24	0.04	0.05
query4	1.80	0.06	0.06
query5	0.54	0.53	0.52
query6	1.27	0.61	0.62
query7	0.01	0.01	0.01
query8	0.03	0.02	0.02
query9	0.51	0.50	0.49
query10	0.52	0.54	0.54
query11	0.12	0.09	0.08
query12	0.11	0.10	0.09
query13	0.62	0.62	0.60
query14	0.77	0.76	0.79
query15	0.77	0.76	0.75
query16	0.37	0.36	0.35
query17	1.01	0.99	1.04
query18	0.23	0.26	0.24
query19	1.89	1.79	1.86
query20	0.02	0.01	0.00
query21	15.53	0.56	0.55
query22	1.90	2.22	1.51
query23	17.39	1.01	0.89
query24	4.25	0.79	2.22
query25	0.31	0.08	0.04
query26	0.63	0.15	0.15
query27	0.03	0.04	0.04
query28	8.41	0.71	0.70
query29	12.64	2.32	2.28
query30	0.58	0.51	0.52
query31	2.80	0.39	0.37
query32	3.36	0.50	0.49
query33	3.10	3.04	3.06
query34	15.24	4.78	4.80
query35	4.85	4.86	4.83
query36	1.04	1.02	1.01
query37	0.06	0.05	0.05
query38	0.04	0.02	0.02
query39	0.02	0.01	0.01
query40	0.16	0.14	0.14
query41	0.06	0.02	0.03
query42	0.02	0.02	0.01
query43	0.02	0.02	0.02
Total cold run time: 103.37 s
Total hot run time: 30.23 s

doris-robot avatar May 30 '24 15:05 doris-robot

run buildall

englefly avatar May 30 '24 15:05 englefly

TPC-H: Total hot run time: 49765 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpch-tools
Tpch sf100 test result on commit 7572cf1051b73f2cf9d6dab1c7cd5f43759cd794, data reload: false

------ Round 1 ----------------------------------
q1	17543	4507	4390	4390
q2	2058	164	189	164
q3	10213	1913	1947	1913
q4	10109	1267	1356	1267
q5	8465	3906	3907	3906
q6	240	131	131	131
q7	2013	1632	1630	1630
q8	9288	2755	2713	2713
q9	10642	10427	10186	10186
q10	8662	3476	3509	3476
q11	426	255	259	255
q12	477	309	305	305
q13	18364	3977	4015	3977
q14	369	320	345	320
q15	521	462	460	460
q16	680	567	574	567
q17	1144	969	983	969
q18	7342	6797	6892	6797
q19	1744	1595	1547	1547
q20	523	297	293	293
q21	4460	4156	4113	4113
q22	487	415	386	386
Total cold run time: 115770 ms
Total hot run time: 49765 ms

----- Round 2, with runtime_filter_mode=off -----
q1	4346	4320	4349	4320
q2	328	225	225	225
q3	4161	4184	4153	4153
q4	2767	2749	2746	2746
q5	7107	7042	7088	7042
q6	241	123	125	123
q7	3271	2848	2833	2833
q8	4359	4439	4494	4439
q9	16937	16673	16755	16673
q10	4225	4274	4285	4274
q11	764	708	704	704
q12	1043	866	851	851
q13	6491	3782	3712	3712
q14	456	423	415	415
q15	518	459	461	459
q16	766	686	675	675
q17	3859	3859	3838	3838
q18	8716	8747	8812	8747
q19	1722	1708	1658	1658
q20	2366	2135	2098	2098
q21	8492	8534	8504	8504
q22	1041	954	960	954
Total cold run time: 83976 ms
Total hot run time: 79443 ms

doris-robot avatar May 30 '24 15:05 doris-robot

TPC-DS: Total hot run time: 202198 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpcds-tools
TPC-DS sf100 test result on commit 7572cf1051b73f2cf9d6dab1c7cd5f43759cd794, data reload: false

query1	932	387	380	380
query2	6587	2776	2579	2579
query3	6917	215	208	208
query4	21030	17809	17885	17809
query5	19728	6492	6490	6490
query6	281	218	232	218
query7	4171	307	299	299
query8	247	281	234	234
query9	3130	2713	2637	2637
query10	421	311	309	309
query11	11264	10674	10715	10674
query12	131	78	75	75
query13	5601	673	668	668
query14	18190	13614	13458	13458
query15	381	231	221	221
query16	6471	286	265	265
query17	1699	1458	890	890
query18	2302	403	414	403
query19	224	147	150	147
query20	80	81	78	78
query21	189	98	98	98
query22	5096	4988	4809	4809
query23	32483	31988	31798	31798
query24	6867	6544	6468	6468
query25	532	416	410	410
query26	532	165	158	158
query27	1872	286	292	286
query28	6208	2355	2333	2333
query29	2785	2701	2668	2668
query30	246	165	169	165
query31	905	741	753	741
query32	67	65	64	64
query33	389	260	261	260
query34	861	465	474	465
query35	1120	919	869	869
query36	1282	1327	1067	1067
query37	91	62	59	59
query38	3077	2953	2879	2879
query39	1384	1330	1331	1330
query40	204	97	95	95
query41	40	38	37	37
query42	85	80	92	80
query43	736	624	632	624
query44	1148	708	723	708
query45	239	231	230	230
query46	1224	942	965	942
query47	1904	1693	1713	1693
query48	1012	695	688	688
query49	627	376	379	376
query50	861	614	638	614
query51	4734	4630	4591	4591
query52	96	80	79	79
query53	455	319	316	316
query54	2626	2468	2505	2468
query55	112	80	87	80
query56	224	225	216	216
query57	1127	1143	1046	1046
query58	217	212	190	190
query59	4158	4106	3939	3939
query60	217	202	203	202
query61	98	94	104	94
query62	846	447	481	447
query63	478	339	334	334
query64	2451	1541	1477	1477
query65	3601	3518	3534	3518
query66	836	381	361	361
query67	17623	15763	14775	14775
query68	8513	674	682	674
query69	613	350	346	346
query70	1673	1563	1347	1347
query71	402	311	322	311
query72	6576	3461	3500	3461
query73	743	329	328	328
query74	6278	5878	5790	5790
query75	4891	3633	3745	3633
query76	4983	1110	1178	1110
query77	728	256	261	256
query78	12876	12995	12026	12026
query79	11391	649	669	649
query80	824	407	401	401
query81	501	237	233	233
query82	1055	100	97	97
query83	173	136	131	131
query84	264	70	71	70
query85	797	320	316	316
query86	331	313	298	298
query87	3278	2999	3020	2999
query88	5121	2366	2333	2333
query89	434	282	307	282
query90	1874	197	205	197
query91	186	137	138	137
query92	61	55	55	55
query93	5569	571	595	571
query94	690	207	205	205
query95	1135	1056	1060	1056
query96	655	338	322	322
query97	6499	6300	6435	6300
query98	188	177	178	177
query99	2656	898	924	898
Total cold run time: 315710 ms
Total hot run time: 202198 ms

doris-robot avatar May 30 '24 16:05 doris-robot

ClickBench: Total hot run time: 31.26 s
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/clickbench-tools
ClickBench test result on commit 7572cf1051b73f2cf9d6dab1c7cd5f43759cd794, data reload: false

query1	0.03	0.02	0.02
query2	0.07	0.02	0.02
query3	0.25	0.06	0.05
query4	1.77	0.06	0.06
query5	0.53	0.54	0.53
query6	1.25	0.63	0.63
query7	0.01	0.01	0.01
query8	0.03	0.02	0.02
query9	0.52	0.48	0.47
query10	0.54	0.53	0.53
query11	0.12	0.08	0.08
query12	0.11	0.09	0.10
query13	0.63	0.61	0.61
query14	0.78	0.80	0.79
query15	0.79	0.75	0.76
query16	0.38	0.37	0.36
query17	1.00	0.99	1.02
query18	0.22	0.24	0.27
query19	1.94	1.82	1.82
query20	0.01	0.01	0.01
query21	15.47	0.56	0.56
query22	1.86	2.39	1.48
query23	16.92	1.00	1.00
query24	5.10	1.72	1.60
query25	0.35	0.06	0.06
query26	0.70	0.16	0.16
query27	0.04	0.05	0.04
query28	6.96	0.78	0.73
query29	12.66	2.23	2.31
query30	0.60	0.53	0.52
query31	2.82	0.39	0.37
query32	3.41	0.49	0.50
query33	3.08	3.06	3.08
query34	15.27	4.81	4.78
query35	4.85	4.84	4.82
query36	1.06	1.03	1.03
query37	0.07	0.04	0.04
query38	0.04	0.02	0.02
query39	0.02	0.01	0.01
query40	0.16	0.14	0.14
query41	0.06	0.02	0.01
query42	0.02	0.02	0.01
query43	0.02	0.02	0.02
Total cold run time: 102.52 s
Total hot run time: 31.26 s

doris-robot avatar May 30 '24 16:05 doris-robot

Load test result on machine: 'aliyun_ecs.c7a.8xlarge_32C64G'

Load test result on commit 7572cf1051b73f2cf9d6dab1c7cd5f43759cd794 with default session variables
Stream load json:         20 seconds loaded 2358488459 Bytes, about 112 MB/s
Stream load orc:          59 seconds loaded 1101869774 Bytes, about 17 MB/s
Stream load parquet:      32 seconds loaded 861443392 Bytes, about 25 MB/s
Insert into select:       21.8 seconds inserted 10000000 Rows, about 458K ops/s

doris-robot avatar May 30 '24 16:05 doris-robot

run p0

englefly avatar May 31 '24 01:05 englefly

run buildall

englefly avatar May 31 '24 07:05 englefly

TPC-H: Total hot run time: 50763 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpch-tools
Tpch sf100 test result on commit 277c3d5c9a6c61f8d7ca070d897f54e83451b4d1, data reload: false

------ Round 1 ----------------------------------
q1	17624	4487	4459	4459
q2	2074	192	150	150
q3	10287	1919	1942	1919
q4	10290	1268	1357	1268
q5	8526	4000	4021	4000
q6	234	127	128	127
q7	2087	1632	1610	1610
q8	9289	2766	2747	2747
q9	11066	10603	10568	10568
q10	8622	3552	3578	3552
q11	433	250	253	250
q12	475	301	300	300
q13	18478	4045	4072	4045
q14	360	331	338	331
q15	511	464	462	462
q16	677	581	574	574
q17	1155	1002	1017	1002
q18	7462	7045	7010	7010
q19	1708	1594	1569	1569
q20	526	345	306	306
q21	4506	4139	4120	4120
q22	494	396	394	394
Total cold run time: 116884 ms
Total hot run time: 50763 ms

----- Round 2, with runtime_filter_mode=off -----
q1	4347	4336	4359	4336
q2	322	228	228	228
q3	4232	4202	4198	4198
q4	2771	2775	2755	2755
q5	7220	7166	7187	7166
q6	243	120	122	120
q7	3289	2855	2829	2829
q8	4424	4513	4539	4513
q9	17456	17218	17338	17218
q10	4253	4288	4294	4288
q11	807	709	730	709
q12	1054	854	853	853
q13	6696	3730	3778	3730
q14	451	429	434	429
q15	510	456	454	454
q16	736	685	687	685
q17	3840	3881	3907	3881
q18	8998	8799	8961	8799
q19	1746	1700	1682	1682
q20	2369	2144	2118	2118
q21	8681	8574	8551	8551
q22	1015	903	991	903
Total cold run time: 85460 ms
Total hot run time: 80445 ms

doris-robot avatar May 31 '24 08:05 doris-robot

TPC-DS: Total hot run time: 204510 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpcds-tools
TPC-DS sf100 test result on commit 277c3d5c9a6c61f8d7ca070d897f54e83451b4d1, data reload: false

query1	926	397	383	383
query2	6584	2778	2493	2493
query3	6922	217	210	210
query4	19826	18065	17938	17938
query5	19739	6522	6548	6522
query6	312	226	234	226
query7	4162	304	320	304
query8	241	251	260	251
query9	3177	2708	2644	2644
query10	413	325	318	318
query11	11451	10922	10773	10773
query12	123	87	76	76
query13	5594	709	694	694
query14	17968	13666	13601	13601
query15	384	222	233	222
query16	6481	294	263	263
query17	1689	1481	891	891
query18	2279	417	412	412
query19	214	153	155	153
query20	82	80	79	79
query21	197	99	97	97
query22	5183	4952	5075	4952
query23	32543	31930	32062	31930
query24	6948	6582	6543	6543
query25	542	433	440	433
query26	532	166	171	166
query27	1866	302	297	297
query28	6172	2366	2324	2324
query29	2996	2696	2889	2696
query30	243	171	172	171
query31	906	734	730	730
query32	76	66	63	63
query33	415	259	254	254
query34	857	475	485	475
query35	1133	957	968	957
query36	1376	1304	1165	1165
query37	92	61	65	61
query38	3114	2953	2943	2943
query39	1380	1362	1345	1345
query40	213	99	103	99
query41	44	40	38	38
query42	87	80	83	80
query43	748	699	674	674
query44	1156	722	708	708
query45	241	231	230	230
query46	1231	963	960	960
query47	1847	1734	1805	1734
query48	1023	714	710	710
query49	618	380	375	375
query50	868	627	629	627
query51	4713	4693	4651	4651
query52	94	86	88	86
query53	446	325	327	325
query54	2638	2474	2474	2474
query55	92	78	84	78
query56	242	224	218	218
query57	1187	1133	1111	1111
query58	212	205	203	203
query59	4058	4356	3832	3832
query60	222	203	227	203
query61	98	96	97	96
query62	830	476	440	440
query63	486	345	338	338
query64	2575	1564	1463	1463
query65	3670	3593	3576	3576
query66	827	392	381	381
query67	17616	16058	15517	15517
query68	8397	680	670	670
query69	571	370	367	367
query70	1671	1318	1308	1308
query71	413	321	327	321
query72	6496	3550	3569	3550
query73	751	332	328	328
query74	6331	5856	5939	5856
query75	4545	3675	3661	3661
query76	4679	1110	1160	1110
query77	605	261	256	256
query78	12957	12545	11871	11871
query79	12334	653	645	645
query80	1837	417	413	413
query81	532	239	233	233
query82	706	101	96	96
query83	208	141	141	141
query84	261	72	71	71
query85	1329	324	324	324
query86	355	320	295	295
query87	3221	3019	3036	3019
query88	5780	2343	2351	2343
query89	423	287	297	287
query90	1785	217	206	206
query91	175	142	153	142
query92	62	59	56	56
query93	4298	593	574	574
query94	950	214	211	211
query95	1118	1062	1064	1062
query96	659	334	336	334
query97	6572	6419	6482	6419
query98	194	180	170	170
query99	2977	889	946	889
Total cold run time: 316412 ms
Total hot run time: 204510 ms

doris-robot avatar May 31 '24 08:05 doris-robot

ClickBench: Total hot run time: 31.29 s
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/clickbench-tools
ClickBench test result on commit 277c3d5c9a6c61f8d7ca070d897f54e83451b4d1, data reload: false

query1	0.03	0.03	0.02
query2	0.08	0.02	0.02
query3	0.24	0.05	0.05
query4	1.77	0.09	0.10
query5	0.53	0.52	0.52
query6	1.36	0.61	0.64
query7	0.01	0.01	0.01
query8	0.03	0.03	0.02
query9	0.53	0.51	0.47
query10	0.53	0.53	0.54
query11	0.11	0.09	0.09
query12	0.13	0.10	0.09
query13	0.63	0.62	0.60
query14	0.78	0.78	0.80
query15	0.78	0.76	0.77
query16	0.38	0.39	0.36
query17	1.00	1.01	1.00
query18	0.24	0.23	0.26
query19	1.87	1.87	1.85
query20	0.02	0.01	0.01
query21	15.47	0.55	0.56
query22	2.43	2.42	2.19
query23	17.25	1.02	0.85
query24	6.51	0.85	1.54
query25	0.38	0.10	0.04
query26	0.74	0.15	0.16
query27	0.04	0.05	0.04
query28	6.24	0.76	0.81
query29	12.60	2.33	2.34
query30	0.58	0.54	0.56
query31	2.80	0.39	0.37
query32	3.40	0.50	0.49
query33	3.11	3.09	3.10
query34	15.23	4.83	4.80
query35	4.87	4.86	4.86
query36	1.04	1.02	1.03
query37	0.06	0.04	0.05
query38	0.04	0.02	0.02
query39	0.02	0.01	0.02
query40	0.16	0.14	0.14
query41	0.07	0.02	0.02
query42	0.02	0.01	0.01
query43	0.03	0.01	0.01
Total cold run time: 104.14 s
Total hot run time: 31.29 s

doris-robot avatar May 31 '24 08:05 doris-robot

Load test result on machine: 'aliyun_ecs.c7a.8xlarge_32C64G'

Load test result on commit 277c3d5c9a6c61f8d7ca070d897f54e83451b4d1 with default session variables
Stream load json:         20 seconds loaded 2358488459 Bytes, about 112 MB/s
Stream load orc:          58 seconds loaded 1101869774 Bytes, about 18 MB/s
Stream load parquet:      32 seconds loaded 861443392 Bytes, about 25 MB/s
Insert into select:       21.5 seconds inserted 10000000 Rows, about 465K ops/s

doris-robot avatar May 31 '24 08:05 doris-robot

run buildall

xiaokang avatar Jun 01 '24 00:06 xiaokang

TPC-H: Total hot run time: 49330 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpch-tools
Tpch sf100 test result on commit 277c3d5c9a6c61f8d7ca070d897f54e83451b4d1, data reload: false

------ Round 1 ----------------------------------
q1	17631	4409	4369	4369
q2	2069	162	180	162
q3	10410	1879	1890	1879
q4	10367	1255	1324	1255
q5	8456	3910	3915	3910
q6	236	123	127	123
q7	2084	1600	1575	1575
q8	9506	2704	2680	2680
q9	13485	10042	10145	10042
q10	8657	3521	3509	3509
q11	411	242	254	242
q12	464	300	307	300
q13	18326	3973	4031	3973
q14	349	328	335	328
q15	515	458	459	458
q16	679	580	576	576
q17	1131	942	902	902
q18	7320	6789	6913	6789
q19	1724	1589	1510	1510
q20	541	334	324	324
q21	4430	4084	4037	4037
q22	485	391	387	387
Total cold run time: 119276 ms
Total hot run time: 49330 ms

----- Round 2, with runtime_filter_mode=off -----
q1	4302	4263	4293	4263
q2	324	231	223	223
q3	4180	4109	4134	4109
q4	2757	2740	2742	2740
q5	7184	7099	7011	7011
q6	240	118	123	118
q7	3230	2902	2803	2803
q8	4341	4461	4460	4460
q9	16854	16681	16766	16681
q10	4251	4261	4256	4256
q11	755	718	683	683
q12	1030	831	853	831
q13	6968	3696	3767	3696
q14	462	433	422	422
q15	496	465	450	450
q16	748	692	682	682
q17	3821	3866	3866	3866
q18	8851	8871	8688	8688
q19	1697	1658	1697	1658
q20	2357	2155	2105	2105
q21	8459	8414	8408	8408
q22	1029	952	943	943
Total cold run time: 84336 ms
Total hot run time: 79096 ms

doris-robot avatar Jun 01 '24 00:06 doris-robot

TPC-DS: Total hot run time: 203718 ms
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/tpcds-tools
TPC-DS sf100 test result on commit 277c3d5c9a6c61f8d7ca070d897f54e83451b4d1, data reload: false

query1	942	386	384	384
query2	6613	2931	2664	2664
query3	6916	214	212	212
query4	21187	18080	18047	18047
query5	19728	6526	6528	6526
query6	275	222	226	222
query7	4158	300	301	300
query8	259	252	243	243
query9	3083	2728	2629	2629
query10	411	289	292	289
query11	11381	10812	10622	10622
query12	124	81	73	73
query13	5594	693	686	686
query14	17612	13669	13545	13545
query15	366	226	230	226
query16	6472	291	265	265
query17	1695	1453	875	875
query18	2317	410	406	406
query19	213	145	153	145
query20	77	79	84	79
query21	190	94	92	92
query22	5277	5092	5007	5007
query23	32381	31874	31994	31874
query24	6936	6522	6587	6522
query25	519	448	431	431
query26	536	161	158	158
query27	1912	292	294	292
query28	6176	2397	2343	2343
query29	2881	2682	2654	2654
query30	243	170	172	170
query31	924	750	741	741
query32	72	62	59	59
query33	403	276	252	252
query34	843	463	476	463
query35	1122	959	958	958
query36	1290	1444	1045	1045
query37	90	61	60	60
query38	3043	2944	2900	2900
query39	1361	1341	1324	1324
query40	214	96	97	96
query41	39	38	37	37
query42	86	85	86	85
query43	764	673	645	645
query44	1139	719	718	718
query45	243	228	232	228
query46	1226	958	971	958
query47	1803	1788	1721	1721
query48	1008	691	706	691
query49	620	377	370	370
query50	863	602	625	602
query51	4738	4673	4622	4622
query52	97	84	81	81
query53	440	320	325	320
query54	2641	2424	2455	2424
query55	91	79	85	79
query56	234	227	217	217
query57	1208	1198	1077	1077
query58	207	201	201	201
query59	3981	4230	4236	4230
query60	218	215	224	215
query61	98	95	95	95
query62	808	465	506	465
query63	475	342	332	332
query64	4188	1512	1417	1417
query65	3640	3575	3559	3559
query66	680	372	370	370
query67	15941	15446	15875	15446
query68	10444	681	654	654
query69	596	354	351	351
query70	2048	1555	1353	1353
query71	416	310	321	310
query72	6543	3498	3498	3498
query73	748	336	324	324
query74	6264	5914	5823	5823
query75	5501	3704	3623	3623
query76	6905	1131	1121	1121
query77	1188	255	252	252
query78	12541	11829	11639	11639
query79	7321	635	640	635
query80	1122	410	410	410
query81	482	235	233	233
query82	957	98	95	95
query83	185	136	128	128
query84	256	71	70	70
query85	872	318	319	318
query86	343	303	277	277
query87	3215	3012	3028	3012
query88	4628	2343	2352	2343
query89	401	300	283	283
query90	1968	216	210	210
query91	174	141	150	141
query92	55	56	55	55
query93	6463	592	583	583
query94	697	213	203	203
query95	1117	1039	1049	1039
query96	640	330	324	324
query97	6515	6373	6337	6337
query98	182	188	190	188
query99	3032	894	802	802
Total cold run time: 317131 ms
Total hot run time: 203718 ms

doris-robot avatar Jun 01 '24 01:06 doris-robot

ClickBench: Total hot run time: 31.08 s
machine: 'aliyun_ecs.c7a.8xlarge_32C64G'
scripts: https://github.com/apache/doris/tree/master/tools/clickbench-tools
ClickBench test result on commit 277c3d5c9a6c61f8d7ca070d897f54e83451b4d1, data reload: false

query1	0.03	0.03	0.02
query2	0.07	0.03	0.03
query3	0.25	0.04	0.04
query4	1.80	0.06	0.06
query5	0.54	0.52	0.52
query6	1.25	0.62	0.63
query7	0.02	0.01	0.01
query8	0.04	0.02	0.03
query9	0.53	0.48	0.49
query10	0.54	0.54	0.54
query11	0.12	0.09	0.08
query12	0.11	0.09	0.09
query13	0.63	0.60	0.61
query14	0.80	0.79	0.78
query15	0.77	0.77	0.77
query16	0.36	0.36	0.36
query17	1.02	0.99	1.01
query18	0.22	0.23	0.27
query19	1.94	1.86	1.84
query20	0.01	0.02	0.01
query21	15.48	0.56	0.54
query22	2.01	1.64	1.67
query23	16.82	0.88	1.16
query24	6.06	1.56	1.39
query25	0.40	0.09	0.06
query26	0.72	0.16	0.14
query27	0.04	0.04	0.04
query28	6.34	0.78	0.80
query29	12.68	2.20	2.23
query30	0.62	0.52	0.53
query31	2.80	0.39	0.37
query32	3.40	0.49	0.49
query33	3.07	3.06	3.06
query34	15.25	4.80	4.79
query35	4.83	4.86	4.82
query36	1.06	1.02	1.02
query37	0.05	0.05	0.04
query38	0.04	0.02	0.02
query39	0.01	0.01	0.02
query40	0.16	0.14	0.14
query41	0.06	0.01	0.02
query42	0.02	0.02	0.02
query43	0.02	0.01	0.01
Total cold run time: 102.99 s
Total hot run time: 31.08 s

doris-robot avatar Jun 01 '24 01:06 doris-robot

Load test result on machine: 'aliyun_ecs.c7a.8xlarge_32C64G'

Load test result on commit 277c3d5c9a6c61f8d7ca070d897f54e83451b4d1 with default session variables
Stream load json:         20 seconds loaded 2358488459 Bytes, about 112 MB/s
Stream load orc:          59 seconds loaded 1101869774 Bytes, about 17 MB/s
Stream load parquet:      33 seconds loaded 861443392 Bytes, about 24 MB/s
Insert into select:       21.2 seconds inserted 10000000 Rows, about 471K ops/s

doris-robot avatar Jun 01 '24 01:06 doris-robot