しきい値を動かして、TPR と FPR のトレードオフを体感しよう
しきい値を動かすと、左のスコア分布の縦線と、右の ROC 曲線上の点(●)が連動します。しきい値を緩めると TPR(見つけられる割合)は上がりますが FPR(誤検知の割合)も上がります。これがトレードオフです。しきい値をひとつに決めず全部まとめて評価したものが曲線下の面積 AUC。分離度を上げると 2 つの山が離れ、ROC が左上に張りつき AUC が 1 に近づきます。
目安:AUC = 1.0 は完璧、0.9 前後は非常に良い、0.5 は偶然と同じ。AUC は「ランダムに選んだ陽性のスコアが、ランダムに選んだ陰性より高くなる確率」に等しく、しきい値に依存しない指標です。