k-最近傍法

2024年6月25日

k-最近傍法 (k-nearest neighbors, k-NN) は、機械学習の分類や回帰のための非常に単純な手法の一つです。この手法では、与えられたデータポイントの近くにある k 個の最近傍のトレーニングデータポイントを使用して、新しいデータポイントのクラスまたは値を予測します。

k-最近傍法の主な特徴は次のとおりです:

1. 距離に基づく分類:

   • k-最近傍法では、新しいデータポイントとトレーニングデータポイントとの距離を計算します。一般的にユークリッド距離が使用されますが、他の距離尺度も利用できます。

2. k個の最近傍の選択:

   • 計算された距離を基に、新しいデータポイントに最も近い k 個のトレーニングデータポイントを選択します。

3. 多数決による分類:

   • 分類の場合、k 個の最近傍のトレーニングデータポイントのクラスを集計し、多数決で新しいデータポイントのクラスを決定します。

4. 平均による回帰:

   • 回帰の場合、k 個の最近傍のトレーニングデータポイントの値の平均を取り、その平均値を新しいデータポイントの予測値として使用します。

k-最近傍法は非常にシンプルで直感的な手法ですが、データセットが大きくなると計算量が増加し、効率が低下する傾向があります。また、適切な k の選択や特徴量の正規化など、ハイパーパラメータの調整が重要です。