Supplementary Material for
On the Evaluation of Unsupervised Outlier Detection: Measures, Datasets, and an Empirical Study
by G. O. Campos, A. Zimek, J. Sander, R. J. G. B. Campello, B. Micenková, E. Schubert, I. Assent and M. E. Houle
Data Mining and Knowledge Discovery 30(4): 891-927, 2016, DOI: 10.1007/s10618-015-0444-8

SpamBase (5% of outliers version#10)

A data set representing emails classified as spam (outliers) or nonspam.

Download all data set variants used (25.4 MB). You can also access the original data. (spambase.data)

Normalized, without duplicates

This version contains 57 attributes, 2661 objects, 133 outliers (5.00%)

Download raw algorithm results (23.8 MB) Download raw algorithm evaluation table (71.3 kB)

Best Parameters

The following table contains the best (overall and per-method) results for each method and evaluation measure (when the same score was achieved twice, only the smallest k is given).
The Maximum F1-Measure is complimentary in addition to the measures in the original publication.

Algorithm k P@n Adj. P@n AP Adj. AP Max-F1 Adj. MF1 ROC AUC
KNN 1 0.18045 0.13733 0.14092 0.09572 0.23297 0.19261 0.74482
KNN 2 0.16541 0.12151 0.14396 0.09893 0.21710 0.17591 0.75222
KNN 3 0.15038 0.10568 0.14457 0.09956 0.22055 0.17954 0.74804
KNNW 2 0.17293 0.12942 0.13126 0.08555 0.22222 0.18130 0.72775
KNNW 5 0.15789 0.11359 0.14099 0.09579 0.22623 0.18552 0.74696
LOF 14 0.09023 0.04236 0.10064 0.05332 0.19626 0.15398 0.73660
LOF 48 0.14286 0.09776 0.11442 0.06783 0.19672 0.15446 0.70967
LOF 70 0.13534 0.08985 0.12759 0.08169 0.22165 0.18070 0.72254
LOF 80 0.14286 0.09776 0.12579 0.07979 0.22485 0.18407 0.72392
SimplifiedLOF 29 0.03008 -0.02095 0.08486 0.03671 0.17810 0.13486 0.70432
SimplifiedLOF 43 0.02256 -0.02887 0.08282 0.03456 0.18644 0.14364 0.69620
SimplifiedLOF 98 0.14286 0.09776 0.10796 0.06103 0.17797 0.13472 0.68801
SimplifiedLOF 100 0.13534 0.08985 0.10850 0.06160 0.17634 0.13301 0.68907
LoOP 88 0.15038 0.10568 0.13065 0.08491 0.20772 0.16603 0.72404
LoOP 92 0.15038 0.10568 0.13052 0.08478 0.21346 0.17208 0.72462
LoOP 98 0.14286 0.09776 0.13137 0.08567 0.21957 0.17851 0.72423
LoOP 99 0.14286 0.09776 0.13141 0.08571 0.21957 0.17851 0.72447
LDOF 83 0.13534 0.08985 0.12032 0.07404 0.18014 0.13701 0.70739
LDOF 99 0.13534 0.08985 0.12517 0.07914 0.18563 0.14278 0.71201
LDOF 100 0.13534 0.08985 0.12531 0.07929 0.18758 0.14484 0.71201
ODIN 84 0.12782 0.08193 0.10892 0.06204 0.20455 0.16270 0.70489
ODIN 98 0.13494 0.08943 0.11119 0.06443 0.19907 0.15694 0.70900
ODIN 100 0.12782 0.08193 0.11114 0.06438 0.20000 0.15791 0.70982
FastABOD 5 0.13534 0.08985 0.10629 0.05927 0.19619 0.15390 0.71256
FastABOD 9 0.12030 0.07402 0.10898 0.06211 0.19790 0.15570 0.70889
FastABOD 20 0.15038 0.10568 0.11315 0.06649 0.18900 0.14633 0.70190
FastABOD 49 0.12782 0.08193 0.12511 0.07908 0.18395 0.14101 0.70001
KDEOS 13 0.09774 0.05028 0.06608 0.01695 0.12150 0.07528 0.56647
KDEOS 25 0.09023 0.04236 0.06336 0.01408 0.11654 0.07006 0.58275
LDF 7 0.11278 0.06610 0.10605 0.05902 0.20384 0.16195 0.75005
LDF 8 0.13534 0.08985 0.10340 0.05623 0.20571 0.16393 0.74005
LDF 53 0.15489 0.11043 0.07559 0.02695 0.16667 0.12282 0.58357
INFLO 48 0.14286 0.09776 0.12417 0.07809 0.20629 0.16454 0.72138
INFLO 57 0.13534 0.08985 0.13323 0.08763 0.22880 0.18822 0.72982
INFLO 68 0.12782 0.08193 0.13238 0.08673 0.23127 0.19083 0.73033
INFLO 75 0.12782 0.08193 0.13225 0.08660 0.22785 0.18722 0.73356
COF 28 0.11278 0.06610 0.10966 0.06282 0.23090 0.19044 0.72842
COF 42 0.09023 0.04236 0.10492 0.05783 0.23394 0.19363 0.71871
COF 90 0.17293 0.12942 0.12177 0.07556 0.21299 0.17158 0.67422
COF 91 0.16541 0.12151 0.12236 0.07618 0.21000 0.16844 0.67624

Plots

Precision at n
Adjusted precision at n
Average precision
Adjusted average precision
Maximum F1 score
Adjusted maximum F1 score
ROC AUC
Diversity
A: KNN, B: KNNW, C: LOF, D: SimplifiedLOF, E: LoOP, F: LDOF
G: ODIN, H: KDEOS, I: COF, J: FastABOD, K: LDF, L: INFLO

Normalized, duplicates

This version contains 57 attributes, 2934 objects, 146 outliers (4.98%)

Download raw algorithm results (24.2 MB) Download raw algorithm evaluation table (73.1 kB)

Best Parameters

The following table contains the best (overall and per-method) results for each method and evaluation measure (when the same score was achieved twice, only the smallest k is given).
The Maximum F1-Measure is complimentary in addition to the measures in the original publication.

Algorithm k P@n Adj. P@n AP Adj. AP Max-F1 Adj. MF1 ROC AUC
KNN 2 0.23973 0.19991 0.15855 0.11448 0.25217 0.21301 0.77751
KNN 3 0.23288 0.19270 0.16563 0.12194 0.25316 0.21405 0.78849
KNN 4 0.23288 0.19270 0.16546 0.12176 0.25360 0.21452 0.78866
KNNW 2 0.22603 0.18550 0.14342 0.09857 0.23827 0.19838 0.72773
KNNW 8 0.21233 0.17108 0.15974 0.11573 0.25000 0.21072 0.78209
KNNW 9 0.22603 0.18550 0.15913 0.11509 0.25625 0.21730 0.78202
LOF 8 0.10959 0.06296 0.08725 0.03946 0.16429 0.12052 0.71609
LOF 15 0.05479 0.00530 0.09693 0.04964 0.19451 0.15233 0.75471
LOF 30 0.01370 -0.03795 0.08803 0.04027 0.19898 0.15704 0.73884
SimplifiedLOF 9 0.06849 0.01971 0.07201 0.02341 0.14205 0.09712 0.64581
SimplifiedLOF 31 0.01370 -0.03795 0.08114 0.03302 0.17953 0.13657 0.71583
SimplifiedLOF 39 0.01370 -0.03795 0.08093 0.03280 0.18015 0.13722 0.71612
SimplifiedLOF 42 0.01370 -0.03795 0.07990 0.03172 0.18456 0.14186 0.71335
LoOP 12 0.13014 0.08458 0.08024 0.03208 0.14628 0.10158 0.67311
LoOP 25 0.09589 0.04854 0.09105 0.04345 0.17910 0.13612 0.72480
LoOP 49 0.05479 0.00530 0.08737 0.03958 0.18745 0.14490 0.73143
LoOP 52 0.04110 -0.00912 0.08724 0.03944 0.18451 0.14180 0.73250
LDOF 14 0.08904 0.04134 0.07335 0.02482 0.14251 0.09760 0.63691
LDOF 38 0.04795 -0.00191 0.08303 0.03501 0.17603 0.13289 0.70752
LDOF 53 0.04795 -0.00191 0.08496 0.03705 0.17091 0.12749 0.72020
LDOF 69 0.04795 -0.00191 0.08451 0.03657 0.17165 0.12827 0.72221
ODIN 94 0.15813 0.11404 0.10682 0.06005 0.18814 0.14562 0.71605
ODIN 96 0.15932 0.11530 0.10699 0.06022 0.18519 0.14252 0.71534
ODIN 99 0.15535 0.11112 0.10765 0.06093 0.18614 0.14352 0.71616
ODIN 100 0.15629 0.11211 0.10788 0.06116 0.18614 0.14352 0.71585
FastABOD 81 0.15068 0.10621 0.10270 0.05571 0.19271 0.15043 0.69140
FastABOD 84 0.15068 0.10621 0.10295 0.05598 0.19321 0.15096 0.69161
FastABOD 99 0.15068 0.10621 0.10671 0.05993 0.19474 0.15257 0.69071
FastABOD 100 0.15068 0.10621 0.10753 0.06079 0.19474 0.15257 0.69074
KDEOS 28 0.08219 0.03413 0.07592 0.02753 0.13148 0.08600 0.63868
KDEOS 30 0.10274 0.05575 0.07331 0.02478 0.12874 0.08311 0.62962
KDEOS 53 0.07534 0.02692 0.07098 0.02233 0.14016 0.09513 0.64728
KDEOS 68 0.05479 0.00530 0.06627 0.01738 0.14628 0.10157 0.64481
LDF 6 0.10274 0.05575 0.10448 0.05758 0.19165 0.14932 0.75135
LDF 7 0.09589 0.04854 0.10221 0.05519 0.19264 0.15037 0.75219
INFLO 9 0.10274 0.05575 0.08266 0.03462 0.16425 0.12049 0.68372
INFLO 17 0.05479 0.00530 0.08890 0.04119 0.18519 0.14252 0.72505
INFLO 18 0.06164 0.01250 0.08901 0.04130 0.18424 0.14152 0.72708
COF 14 0.09589 0.04854 0.08277 0.03474 0.16894 0.12542 0.67842
COF 30 0.06164 0.01250 0.09618 0.04884 0.20290 0.16116 0.73167
COF 31 0.05479 0.00530 0.09494 0.04755 0.20000 0.15811 0.73296
COF 36 0.04110 -0.00912 0.09293 0.04542 0.20735 0.16584 0.73123

Plots

Precision at n
Adjusted precision at n
Average precision
Adjusted average precision
Maximum F1 score
Adjusted maximum F1 score
ROC AUC
Diversity
A: KNN, B: KNNW, C: LOF, D: SimplifiedLOF, E: LoOP, F: LDOF
G: ODIN, H: KDEOS, I: COF, J: FastABOD, K: LDF, L: INFLO

Not normalized, without duplicates

This version contains 57 attributes, 2661 objects, 133 outliers (5.00%)

Download raw algorithm results (23.2 MB) Download raw algorithm evaluation table (68.3 kB)

Best Parameters

The following table contains the best (overall and per-method) results for each method and evaluation measure (when the same score was achieved twice, only the smallest k is given).
The Maximum F1-Measure is complimentary in addition to the measures in the original publication.

Algorithm k P@n Adj. P@n AP Adj. AP Max-F1 Adj. MF1 ROC AUC
KNN 1 0.19549 0.15316 0.18280 0.13980 0.26140 0.22254 0.77302
KNN 2 0.20301 0.16108 0.17789 0.13464 0.24928 0.20978 0.77341
KNN 3 0.21053 0.16899 0.17638 0.13305 0.25405 0.21481 0.77110
KNNW 1 0.20301 0.16108 0.18043 0.13731 0.22837 0.18778 0.71036
KNNW 3 0.20301 0.16108 0.17810 0.13486 0.24501 0.20529 0.77059
KNNW 11 0.18045 0.13733 0.17050 0.12686 0.25507 0.21588 0.76567
LOF 11 0.12030 0.07402 0.08423 0.03605 0.12760 0.08170 0.57238
LOF 95 0.10526 0.05819 0.10651 0.05950 0.15445 0.10997 0.65287
LOF 100 0.10526 0.05819 0.10642 0.05941 0.15561 0.11119 0.65832
SimplifiedLOF 57 0.12782 0.08193 0.10350 0.05634 0.15385 0.10933 0.59991
SimplifiedLOF 98 0.14286 0.09776 0.10919 0.06232 0.15120 0.10655 0.61683
SimplifiedLOF 99 0.13534 0.08985 0.10928 0.06242 0.15225 0.10765 0.61694
SimplifiedLOF 100 0.12782 0.08193 0.10892 0.06203 0.15331 0.10877 0.61759
LoOP 1 0.13534 0.08985 0.08169 0.03337 0.14525 0.10028 0.57611
LoOP 81 0.11278 0.06610 0.09232 0.04456 0.14545 0.10050 0.58027
LoOP 82 0.11278 0.06610 0.08979 0.04191 0.14870 0.10391 0.58143
LoOP 100 0.12030 0.07402 0.08975 0.04186 0.14583 0.10089 0.58924
LDOF 2 0.14286 0.09776 0.08025 0.03186 0.15455 0.11007 0.50275
LDOF 100 0.08271 0.03445 0.07708 0.02852 0.11748 0.07105 0.52820
ODIN 3 0.07396 0.02525 0.06279 0.01349 0.11519 0.06864 0.59218
ODIN 4 0.06950 0.02054 0.06193 0.01258 0.11722 0.07078 0.59394
ODIN 7 0.07792 0.02941 0.06100 0.01159 0.11390 0.06728 0.58148
ODIN 20 0.04887 -0.00117 0.05926 0.00976 0.12038 0.07410 0.58798
FastABOD 4 0.16541 0.12151 0.16509 0.12117 0.22287 0.18198 0.76139
FastABOD 6 0.16541 0.12151 0.16664 0.12279 0.22888 0.18831 0.76068
FastABOD 16 0.15789 0.11359 0.16275 0.11871 0.23229 0.19191 0.75858
KDEOS 3 0.09023 0.04236 0.07058 0.02168 0.12831 0.08245 0.56946
KDEOS 47 0.04511 -0.00512 0.06188 0.01253 0.13425 0.08871 0.59146
KDEOS 99 0.06767 0.01862 0.07018 0.02127 0.12797 0.08209 0.60755
LDF 53 0.20301 0.16108 0.13281 0.08719 0.20979 0.16822 0.70008
LDF 57 0.18797 0.14525 0.13425 0.08870 0.21359 0.17222 0.70341
LDF 99 0.20301 0.16108 0.14167 0.09651 0.21359 0.17222 0.74247
LDF 100 0.20301 0.16108 0.13801 0.09266 0.20915 0.16754 0.74265
INFLO 10 0.11278 0.06610 0.07785 0.02934 0.12621 0.08024 0.54631
INFLO 15 0.10526 0.05819 0.08278 0.03453 0.14884 0.10406 0.62242
INFLO 96 0.11278 0.06610 0.10199 0.05474 0.16653 0.12268 0.61261
COF 82 0.15038 0.10568 0.13284 0.08722 0.19324 0.15079 0.65472
COF 85 0.15038 0.10568 0.13378 0.08821 0.18719 0.14443 0.65764
COF 93 0.15038 0.10568 0.13436 0.08882 0.18812 0.14541 0.65201
COF 98 0.15789 0.11359 0.13426 0.08871 0.18905 0.14639 0.64932

Plots

Precision at n
Adjusted precision at n
Average precision
Adjusted average precision
Maximum F1 score
Adjusted maximum F1 score
ROC AUC
Diversity
A: KNN, B: KNNW, C: LOF, D: SimplifiedLOF, E: LoOP, F: LDOF
G: ODIN, H: KDEOS, I: COF, J: FastABOD, K: LDF, L: INFLO

Not normalized, duplicates

This version contains 57 attributes, 2934 objects, 146 outliers (4.98%)

Download raw algorithm results (23.9 MB) Download raw algorithm evaluation table (69.6 kB)

Best Parameters

The following table contains the best (overall and per-method) results for each method and evaluation measure (when the same score was achieved twice, only the smallest k is given).
The Maximum F1-Measure is complimentary in addition to the measures in the original publication.

Algorithm k P@n Adj. P@n AP Adj. AP Max-F1 Adj. MF1 ROC AUC
KNN 2 0.23973 0.19991 0.18128 0.13841 0.24549 0.20598 0.75130
KNN 5 0.22603 0.18550 0.17925 0.13627 0.24615 0.20668 0.77406
KNN 6 0.22603 0.18550 0.17265 0.12932 0.25197 0.21280 0.77120
KNN 8 0.24658 0.20712 0.17022 0.12676 0.25185 0.21267 0.77101
KNNW 6 0.23973 0.19991 0.18077 0.13787 0.24291 0.20327 0.76600
KNNW 14 0.24658 0.20712 0.16879 0.12526 0.24913 0.20981 0.77038
KNNW 18 0.24658 0.20712 0.16399 0.12021 0.25256 0.21342 0.77173
KNNW 28 0.23973 0.19991 0.15765 0.11354 0.24242 0.20275 0.77272
LOF 3 0.12329 0.07738 0.05845 0.00915 0.12667 0.08093 0.51296
LOF 100 0.07534 0.02692 0.07901 0.03078 0.15403 0.10973 0.64697
SimplifiedLOF 6 0.12329 0.07738 0.06815 0.01935 0.13548 0.09021 0.55056
SimplifiedLOF 7 0.12329 0.07738 0.06989 0.02118 0.14286 0.09797 0.55750
SimplifiedLOF 9 0.12329 0.07738 0.06929 0.02055 0.14319 0.09832 0.56224
SimplifiedLOF 100 0.07534 0.02692 0.06575 0.01682 0.12658 0.08084 0.60919
LoOP 1 0.08904 0.04134 0.07542 0.02700 0.12855 0.08292 0.56288
LoOP 8 0.13014 0.08458 0.07026 0.02157 0.14400 0.09917 0.55183
LoOP 9 0.13699 0.09179 0.07166 0.02305 0.14085 0.09585 0.56045
LoOP 100 0.04110 -0.00912 0.05938 0.01012 0.11872 0.07257 0.58348
LDOF 2 0.08219 0.03413 0.06444 0.01544 0.12121 0.07519 0.50095
LDOF 6 0.10959 0.06296 0.05831 0.00899 0.12121 0.07519 0.46566
LDOF 9 0.10274 0.05575 0.06074 0.01155 0.13587 0.09062 0.48904
LDOF 100 0.03425 -0.01633 0.05098 0.00128 0.10437 0.05747 0.52395
ODIN 7 0.07190 0.02329 0.05937 0.01011 0.11622 0.06993 0.57753
ODIN 10 0.05698 0.00760 0.06077 0.01159 0.12178 0.07580 0.60233
ODIN 11 0.06217 0.01306 0.06091 0.01173 0.12285 0.07692 0.60047
ODIN 12 0.05714 0.00776 0.06067 0.01148 0.12371 0.07782 0.60034
FastABOD 9 0.23973 0.19991 0.14819 0.10359 0.23973 0.19991 0.76748
FastABOD 88 0.23288 0.19270 0.17515 0.13196 0.25076 0.21153 0.77287
FastABOD 100 0.23288 0.19270 0.17557 0.13240 0.25076 0.21153 0.77338
KDEOS 6 0.10274 0.05575 0.06033 0.01112 0.11247 0.06599 0.53050
KDEOS 38 0.04795 -0.00191 0.05845 0.00914 0.12300 0.07708 0.56817
KDEOS 97 0.06849 0.01971 0.06861 0.01983 0.12080 0.07475 0.59907
KDEOS 99 0.07534 0.02692 0.06853 0.01975 0.12107 0.07505 0.59965
LDF 89 0.17808 0.13504 0.12756 0.08187 0.19802 0.15602 0.71227
LDF 92 0.19178 0.14946 0.12884 0.08322 0.19795 0.15595 0.71888
LDF 98 0.17808 0.13504 0.12963 0.08405 0.19658 0.15451 0.72823
LDF 100 0.17808 0.13504 0.13038 0.08484 0.19543 0.15329 0.72778
INFLO 7 0.13014 0.08458 0.06985 0.02114 0.13605 0.09081 0.56856
INFLO 100 0.06164 0.01250 0.07205 0.02345 0.16920 0.12569 0.62141
COF 2 0.13014 0.08458 0.06971 0.02099 0.13968 0.09463 0.55941
COF 9 0.11644 0.07017 0.06903 0.02028 0.14330 0.09844 0.57216
COF 100 0.08904 0.04134 0.07130 0.02267 0.13262 0.08719 0.61987

Plots

Precision at n
Adjusted precision at n
Average precision
Adjusted average precision
Maximum F1 score
Adjusted maximum F1 score
ROC AUC
Diversity
A: KNN, B: KNNW, C: LOF, D: SimplifiedLOF, E: LoOP, F: LDOF
G: ODIN, H: KDEOS, I: COF, J: FastABOD, K: LDF, L: INFLO