Supplementary Material for
On the Evaluation of Unsupervised Outlier Detection: Measures, Datasets, and an Empirical Study
by G. O. Campos, A. Zimek, J. Sander, R. J. G. B. Campello, B. Micenková, E. Schubert, I. Assent and M. E. Houle
Data Mining and Knowledge Discovery 30(4): 891-927, 2016, DOI: 10.1007/s10618-015-0444-8

SpamBase (2% of outliers version#01)

A data set representing emails classified as spam (outliers) or nonspam.

Download all data set variants used (25.4 MB). You can also access the original data. (spambase.data)

Normalized, without duplicates

This version contains 57 attributes, 2579 objects, 51 outliers (1.98%)

Download raw algorithm results (23.0 MB) Download raw algorithm evaluation table (62.7 kB)

Best Parameters

The following table contains the best (overall and per-method) results for each method and evaluation measure (when the same score was achieved twice, only the smallest k is given).
The Maximum F1-Measure is complimentary in addition to the measures in the original publication.

Algorithm k P@n Adj. P@n AP Adj. AP Max-F1 Adj. MF1 ROC AUC
KNN 2 0.15686 0.13985 0.15907 0.14210 0.21875 0.20299 0.81269
KNN 10 0.19608 0.17986 0.15222 0.13512 0.22472 0.20908 0.78263
KNNW 1 0.13725 0.11985 0.14727 0.13006 0.19355 0.17728 0.83160
KNNW 5 0.15686 0.13985 0.15921 0.14225 0.20290 0.18682 0.81688
KNNW 17 0.19608 0.17986 0.15348 0.13640 0.20588 0.18986 0.79141
KNNW 35 0.17647 0.15986 0.13933 0.12197 0.21429 0.19843 0.77087
LOF 57 0.19608 0.17986 0.11348 0.09559 0.20000 0.18386 0.83027
LOF 60 0.17647 0.15986 0.11814 0.10035 0.20312 0.18705 0.83478
LOF 65 0.17647 0.15986 0.11865 0.10087 0.21488 0.19904 0.83265
LOF 100 0.15686 0.13985 0.12793 0.11034 0.21053 0.19460 0.80325
SimplifiedLOF 34 0.05882 0.03984 0.06288 0.04398 0.12810 0.11051 0.82265
SimplifiedLOF 85 0.13725 0.11985 0.08366 0.06518 0.16667 0.14985 0.80981
SimplifiedLOF 92 0.13725 0.11985 0.08544 0.06699 0.18692 0.17051 0.80999
SimplifiedLOF 100 0.13725 0.11985 0.08810 0.06970 0.18487 0.16843 0.80871
LoOP 67 0.19608 0.17986 0.14908 0.13192 0.21053 0.19460 0.84527
LoOP 72 0.21569 0.19986 0.14673 0.12952 0.22222 0.20653 0.84707
LoOP 81 0.21569 0.19986 0.14321 0.12593 0.24390 0.22865 0.84734
LoOP 84 0.21569 0.19986 0.14186 0.12454 0.24691 0.23172 0.84698
LDOF 66 0.19608 0.17986 0.14472 0.12746 0.19802 0.18184 0.83231
LDOF 81 0.19608 0.17986 0.16415 0.14729 0.21277 0.19688 0.83624
LDOF 95 0.19608 0.17986 0.15815 0.14116 0.22727 0.21168 0.83829
LDOF 98 0.19608 0.17986 0.15697 0.13997 0.23529 0.21987 0.83652
ODIN 66 0.13725 0.11985 0.07424 0.05556 0.13725 0.11985 0.79996
ODIN 86 0.13725 0.11985 0.07746 0.05885 0.14141 0.12409 0.80189
ODIN 97 0.13725 0.11985 0.07832 0.05972 0.14286 0.12557 0.79961
ODIN 98 0.13725 0.11985 0.07875 0.06016 0.14286 0.12557 0.79971
FastABOD 5 0.17647 0.15986 0.11701 0.09919 0.18803 0.17165 0.80190
FastABOD 15 0.15686 0.13985 0.14279 0.12550 0.20588 0.18986 0.80557
FastABOD 47 0.17647 0.15986 0.16568 0.14885 0.21538 0.19956 0.80063
FastABOD 57 0.17647 0.15986 0.16747 0.15067 0.21538 0.19956 0.80280
KDEOS 12 0.03922 0.01983 0.03185 0.01232 0.06699 0.04816 0.66130
KDEOS 98 0.09804 0.07984 0.03511 0.01564 0.09804 0.07984 0.65885
LDF 4 0.13725 0.11985 0.06386 0.04497 0.17857 0.16200 0.73413
LDF 9 0.07843 0.05984 0.05945 0.04047 0.12676 0.10914 0.78755
LDF 69 0.16099 0.14406 0.06434 0.04546 0.16327 0.14638 0.67532
LDF 100 0.13725 0.11985 0.08306 0.06456 0.15517 0.13813 0.69071
INFLO 59 0.19608 0.17986 0.12957 0.11201 0.22472 0.20908 0.84479
INFLO 60 0.21569 0.19986 0.12932 0.11175 0.22222 0.20653 0.84598
INFLO 62 0.21569 0.19986 0.13034 0.11279 0.22000 0.20426 0.84671
INFLO 87 0.19608 0.17986 0.13146 0.11394 0.20561 0.18958 0.83257
COF 30 0.03922 0.01983 0.07564 0.05700 0.17143 0.15471 0.83260
COF 35 0.03922 0.01983 0.07328 0.05459 0.16788 0.15110 0.83416
COF 96 0.13725 0.11985 0.09838 0.08019 0.13873 0.12135 0.77086
COF 97 0.13725 0.11985 0.09915 0.08098 0.14201 0.12470 0.76932

Plots

Precision at n
Adjusted precision at n
Average precision
Adjusted average precision
Maximum F1 score
Adjusted maximum F1 score
ROC AUC
Diversity
A: KNN, B: KNNW, C: LOF, D: SimplifiedLOF, E: LoOP, F: LDOF
G: ODIN, H: KDEOS, I: COF, J: FastABOD, K: LDF, L: INFLO

Normalized, duplicates

This version contains 57 attributes, 2844 objects, 56 outliers (1.97%)

Download raw algorithm results (23.5 MB) Download raw algorithm evaluation table (67.9 kB)

Best Parameters

The following table contains the best (overall and per-method) results for each method and evaluation measure (when the same score was achieved twice, only the smallest k is given).
The Maximum F1-Measure is complimentary in addition to the measures in the original publication.

Algorithm k P@n Adj. P@n AP Adj. AP Max-F1 Adj. MF1 ROC AUC
KNN 1 0.17857 0.16207 0.10639 0.08844 0.20000 0.18393 0.82045
KNNW 2 0.17857 0.16207 0.09892 0.08082 0.19048 0.17422 0.83162
KNNW 3 0.16071 0.14386 0.10674 0.08880 0.20588 0.18993 0.82416
LOF 3 0.03571 0.01635 0.03761 0.01828 0.08718 0.06884 0.71454
LOF 12 0.00000 -0.02009 0.05375 0.03475 0.13003 0.11256 0.80572
LOF 15 0.00000 -0.02009 0.05271 0.03368 0.13181 0.11437 0.80162
SimplifiedLOF 2 0.01786 -0.00187 0.02576 0.00619 0.06445 0.04566 0.60984
SimplifiedLOF 10 0.00000 -0.02009 0.04346 0.02425 0.10793 0.09001 0.76452
SimplifiedLOF 11 0.00000 -0.02009 0.04422 0.02502 0.10413 0.08614 0.76852
SimplifiedLOF 24 0.00000 -0.02009 0.04253 0.02330 0.10507 0.08710 0.77400
LoOP 12 0.07143 0.05278 0.05040 0.03133 0.10714 0.08921 0.77355
LoOP 17 0.05357 0.03456 0.05157 0.03252 0.11368 0.09587 0.78756
LoOP 24 0.03571 0.01635 0.05134 0.03228 0.12301 0.10539 0.79553
LoOP 25 0.03571 0.01635 0.05115 0.03210 0.12322 0.10561 0.79423
LDOF 11 0.05357 0.03456 0.04188 0.02264 0.08730 0.06897 0.73563
LDOF 14 0.05357 0.03456 0.04534 0.02617 0.09943 0.08134 0.74534
LDOF 45 0.00000 -0.02009 0.04369 0.02448 0.11329 0.09548 0.76615
LDOF 48 0.00000 -0.02009 0.04368 0.02448 0.11038 0.09251 0.76839
ODIN 14 0.08967 0.07138 0.04325 0.02404 0.09009 0.07181 0.71948
ODIN 48 0.06071 0.04185 0.05457 0.03558 0.10562 0.08766 0.75137
ODIN 90 0.07812 0.05961 0.05702 0.03808 0.11404 0.09624 0.74564
ODIN 99 0.06349 0.04468 0.05415 0.03515 0.11872 0.10102 0.74691
FastABOD 14 0.01786 -0.00187 0.05265 0.03362 0.11898 0.10128 0.77753
FastABOD 26 0.08929 0.07099 0.05546 0.03648 0.12010 0.10243 0.77372
FastABOD 95 0.05357 0.03456 0.06348 0.04467 0.13389 0.11649 0.76889
FastABOD 100 0.05357 0.03456 0.06385 0.04505 0.13389 0.11649 0.76898
KDEOS 52 0.07143 0.05278 0.03805 0.01872 0.07576 0.05719 0.70301
KDEOS 69 0.05357 0.03456 0.04278 0.02355 0.08581 0.06745 0.72521
KDEOS 87 0.00000 -0.02009 0.03947 0.02017 0.08464 0.06625 0.74484
KDEOS 100 0.00000 -0.02009 0.03980 0.02051 0.08734 0.06900 0.73354
LDF 2 0.07143 0.05278 0.04132 0.02206 0.09756 0.07943 0.71343
LDF 5 0.05357 0.03456 0.05252 0.03349 0.10448 0.08649 0.78475
LDF 6 0.05357 0.03456 0.05530 0.03632 0.12069 0.10303 0.77960
INFLO 3 0.01786 -0.00187 0.03672 0.01737 0.07798 0.05946 0.70765
INFLO 12 0.00000 -0.02009 0.05102 0.03196 0.12903 0.11154 0.78856
INFLO 17 0.00000 -0.02009 0.04919 0.03009 0.11826 0.10055 0.79188
COF 9 0.03571 0.01635 0.04180 0.02256 0.08464 0.06625 0.75199
COF 19 0.00000 -0.02009 0.04936 0.03026 0.11803 0.10032 0.78324
COF 20 0.00000 -0.02009 0.04833 0.02921 0.11356 0.09576 0.78576
COF 34 0.00000 -0.02009 0.04471 0.02552 0.11905 0.10135 0.75029

Plots

Precision at n
Adjusted precision at n
Average precision
Adjusted average precision
Maximum F1 score
Adjusted maximum F1 score
ROC AUC
Diversity
A: KNN, B: KNNW, C: LOF, D: SimplifiedLOF, E: LoOP, F: LDOF
G: ODIN, H: KDEOS, I: COF, J: FastABOD, K: LDF, L: INFLO

Not normalized, without duplicates

This version contains 57 attributes, 2579 objects, 51 outliers (1.98%)

Download raw algorithm results (22.5 MB) Download raw algorithm evaluation table (57.8 kB)

Best Parameters

The following table contains the best (overall and per-method) results for each method and evaluation measure (when the same score was achieved twice, only the smallest k is given).
The Maximum F1-Measure is complimentary in addition to the measures in the original publication.

Algorithm k P@n Adj. P@n AP Adj. AP Max-F1 Adj. MF1 ROC AUC
KNN 1 0.23529 0.21987 0.16372 0.14685 0.25974 0.24481 0.77907
KNNW 1 0.21569 0.19986 0.19514 0.17890 0.28169 0.26720 0.79635
KNNW 2 0.23529 0.21987 0.18267 0.16618 0.28571 0.27130 0.78877
LOF 7 0.17647 0.15986 0.08557 0.06712 0.17647 0.15986 0.58407
LOF 28 0.15686 0.13985 0.08799 0.06959 0.20000 0.18386 0.58028
LOF 36 0.15686 0.13985 0.10128 0.08315 0.18605 0.16963 0.59017
LOF 100 0.13725 0.11985 0.09173 0.07341 0.17284 0.15615 0.65369
SimplifiedLOF 21 0.19608 0.17986 0.10550 0.08746 0.20000 0.18386 0.63916
SimplifiedLOF 23 0.17647 0.15986 0.10438 0.08631 0.19512 0.17888 0.64252
SimplifiedLOF 67 0.19608 0.17986 0.10843 0.09044 0.22472 0.20908 0.61661
SimplifiedLOF 81 0.19608 0.17986 0.11026 0.09231 0.22222 0.20653 0.61903
LoOP 2 0.13725 0.11985 0.09412 0.07585 0.16000 0.14305 0.55187
LoOP 23 0.15686 0.13985 0.07350 0.05481 0.18349 0.16701 0.62443
LoOP 66 0.19608 0.17986 0.07796 0.05936 0.19802 0.18184 0.58455
LoOP 70 0.19608 0.17986 0.07803 0.05943 0.20833 0.19236 0.58922
LDOF 3 0.15686 0.13985 0.09002 0.07166 0.16327 0.14638 0.59248
LDOF 4 0.17647 0.15986 0.08968 0.07132 0.18519 0.16875 0.59286
LDOF 7 0.15686 0.13985 0.06101 0.04206 0.19277 0.17649 0.54184
ODIN 33 0.08030 0.06174 0.03188 0.01235 0.08276 0.06425 0.58208
ODIN 48 0.05789 0.03888 0.03378 0.01429 0.10651 0.08848 0.59543
ODIN 68 0.05882 0.03984 0.03216 0.01263 0.08108 0.06254 0.59660
ODIN 100 0.07625 0.05762 0.03455 0.01508 0.09091 0.07257 0.58600
FastABOD 4 0.19608 0.17986 0.17463 0.15798 0.25000 0.23487 0.80263
FastABOD 9 0.19608 0.17986 0.16557 0.14873 0.22222 0.20653 0.80592
FastABOD 12 0.21569 0.19986 0.16470 0.14784 0.21875 0.20299 0.80576
KDEOS 4 0.11765 0.09985 0.03687 0.01744 0.13333 0.11585 0.54261
KDEOS 16 0.05882 0.03984 0.06568 0.04683 0.09524 0.07699 0.56495
KDEOS 44 0.03922 0.01983 0.03118 0.01164 0.06557 0.04672 0.60473
LDF 14 0.19608 0.17986 0.10597 0.08794 0.20833 0.19236 0.62090
LDF 26 0.15686 0.13985 0.12200 0.10429 0.20896 0.19300 0.62815
LDF 61 0.15686 0.13985 0.09561 0.07736 0.21918 0.20343 0.68516
LDF 100 0.15686 0.13985 0.07336 0.05466 0.17021 0.15347 0.73187
INFLO 21 0.13725 0.11985 0.08910 0.07073 0.16867 0.15190 0.63148
INFLO 53 0.19608 0.17986 0.08951 0.07115 0.19802 0.18184 0.59290
INFLO 56 0.19608 0.17986 0.09165 0.07332 0.20408 0.18802 0.59663
INFLO 89 0.15686 0.13985 0.09976 0.08160 0.16981 0.15306 0.59605
COF 46 0.19608 0.17986 0.13552 0.11808 0.22857 0.21301 0.64761
COF 62 0.19608 0.17986 0.15153 0.13442 0.25352 0.23846 0.66171
COF 64 0.19608 0.17986 0.14039 0.12305 0.25714 0.24216 0.66484
COF 86 0.19608 0.17986 0.12731 0.10970 0.25000 0.23487 0.67421

Plots

Precision at n
Adjusted precision at n
Average precision
Adjusted average precision
Maximum F1 score
Adjusted maximum F1 score
ROC AUC
Diversity
A: KNN, B: KNNW, C: LOF, D: SimplifiedLOF, E: LoOP, F: LDOF
G: ODIN, H: KDEOS, I: COF, J: FastABOD, K: LDF, L: INFLO

Not normalized, duplicates

This version contains 57 attributes, 2844 objects, 56 outliers (1.97%)

Download raw algorithm results (23.2 MB) Download raw algorithm evaluation table (62.5 kB)

Best Parameters

The following table contains the best (overall and per-method) results for each method and evaluation measure (when the same score was achieved twice, only the smallest k is given).
The Maximum F1-Measure is complimentary in addition to the measures in the original publication.

Algorithm k P@n Adj. P@n AP Adj. AP Max-F1 Adj. MF1 ROC AUC
KNN 1 0.12500 0.10742 0.11878 0.10108 0.19380 0.17761 0.81555
KNN 2 0.14286 0.12564 0.12056 0.10290 0.19847 0.18237 0.81086
KNN 7 0.10714 0.08921 0.11936 0.10167 0.21053 0.19467 0.80542
KNNW 1 0.10714 0.08921 0.12997 0.11250 0.22549 0.20993 0.82098
KNNW 2 0.12500 0.10742 0.12491 0.10733 0.19377 0.17758 0.82500
LOF 2 0.05357 0.03456 0.02859 0.00907 0.10405 0.08605 0.50486
LOF 80 0.07143 0.05278 0.03651 0.01716 0.07798 0.05946 0.64328
LOF 100 0.07143 0.05278 0.04711 0.02797 0.09917 0.08108 0.67079
SimplifiedLOF 2 0.05357 0.03456 0.03076 0.01129 0.07609 0.05753 0.60956
SimplifiedLOF 98 0.03571 0.01635 0.03503 0.01565 0.09756 0.07943 0.64299
SimplifiedLOF 100 0.05357 0.03456 0.03735 0.01801 0.09639 0.07824 0.64528
LoOP 3 0.05357 0.03456 0.03094 0.01148 0.10687 0.08893 0.60338
LoOP 4 0.07143 0.05278 0.02943 0.00994 0.08889 0.07059 0.59616
LoOP 94 0.05357 0.03456 0.03325 0.01384 0.08791 0.06959 0.61819
LoOP 100 0.05357 0.03456 0.03459 0.01520 0.09756 0.07943 0.61255
LDOF 4 0.07143 0.05278 0.03214 0.01270 0.09160 0.07336 0.55653
LDOF 5 0.07143 0.05278 0.02792 0.00839 0.09459 0.07641 0.54842
LDOF 100 0.03571 0.01635 0.02674 0.00719 0.07692 0.05838 0.57475
ODIN 6 0.00641 -0.01355 0.02611 0.00654 0.05658 0.03763 0.62338
ODIN 85 0.01786 -0.00187 0.02590 0.00634 0.06400 0.04520 0.58537
ODIN 93 0.04018 0.02090 0.02612 0.00656 0.06107 0.04221 0.59279
ODIN 97 0.03274 0.01331 0.02645 0.00689 0.06154 0.04269 0.59582
FastABOD 8 0.12500 0.10742 0.08856 0.07025 0.18033 0.16386 0.82415
FastABOD 11 0.12500 0.10742 0.08978 0.07150 0.18333 0.16693 0.82538
FastABOD 96 0.12500 0.10742 0.10742 0.08949 0.19178 0.17555 0.82113
FastABOD 100 0.12500 0.10742 0.10747 0.08954 0.19178 0.17555 0.82126
KDEOS 5 0.03571 0.01635 0.03375 0.01434 0.08840 0.07009 0.61810
KDEOS 98 0.10714 0.08921 0.03367 0.01427 0.10909 0.09120 0.61710
KDEOS 100 0.08929 0.07099 0.03335 0.01393 0.10619 0.08824 0.61906
LDF 51 0.14286 0.12564 0.05293 0.03391 0.16000 0.14313 0.65887
LDF 65 0.14286 0.12564 0.06780 0.04907 0.18605 0.16970 0.67049
LDF 97 0.14286 0.12564 0.06907 0.05037 0.15000 0.13293 0.74258
LDF 100 0.14286 0.12564 0.06647 0.04772 0.15000 0.13293 0.74765
INFLO 92 0.10714 0.08921 0.04281 0.02358 0.10909 0.09120 0.63110
INFLO 95 0.10714 0.08921 0.04290 0.02367 0.11215 0.09432 0.62515
INFLO 100 0.10714 0.08921 0.04728 0.02815 0.11215 0.09432 0.67089
COF 5 0.08929 0.07099 0.02971 0.01022 0.08929 0.07099 0.55431
COF 7 0.08929 0.07099 0.03185 0.01241 0.10638 0.08843 0.58232
COF 98 0.05357 0.03456 0.04122 0.02196 0.07586 0.05730 0.68260
COF 100 0.05357 0.03456 0.04219 0.02295 0.08333 0.06492 0.68207

Plots

Precision at n
Adjusted precision at n
Average precision
Adjusted average precision
Maximum F1 score
Adjusted maximum F1 score
ROC AUC
Diversity
A: KNN, B: KNNW, C: LOF, D: SimplifiedLOF, E: LoOP, F: LDOF
G: ODIN, H: KDEOS, I: COF, J: FastABOD, K: LDF, L: INFLO