2.4.1 학습된 가중치에서 의미 추출하기

2.1.3절에 있는 첫 번째 선형 모델과 마찬가지로 2.3절에서 만든 간단한 선형 모델은 13개의 학습된 파라미터를 커널과 편향에 가지고 있습니다.

output = kernel · features + bias

커널과 편향 값은 모두 모델이 훈련될 때 학습됩니다. 2.1.3절에서 배운 스칼라 선형 함수와 반대로 여기서는 특성과 커널이 모두 벡터입니다. ‘·’ 기호는 스칼라 곱셈을 벡터에 일반화한 내적(inner product)을 나타냅니다. 내적은 점곱(dot product)이라고도 부르며, 단순히 두 벡터의 원소끼리 곱하여 더한 것입니다. 코드 2-16에 있는 의사 코드가 내적을 정확하게 정의하고 있습니다.

여기에서 특성의 원소와 커널의 원소 사이에 관계가 있다는 점을 이해해야 합니다. 표 2-1에 있는 CRIM이나 NOX와 같은 개별 특성에 연관된 커널 원소가 학습됩니다. 이 커널 원소는 모델이 특성에 대해 무엇을 학습했는지와 특성이 출력에 얼마나 영향을 미치는지를 알려 줍니다.

코드 2-16 내적의 의사 코드

function innerProduct(a, b) {
  output = 0;
  for (let i = 0 ; i < a.length ; i++) {
    output += a[i] * b[i];
  }
  return output;
}