각 용어가 무엇을 의미하는지 살펴볼까요?
➊ Learning rate: Learning rate(학습률)는 딥러닝의 핵심 개념인 경사 하강법과 관련한 용어입니다. 딥러닝에서는 정답과 예측값의 오차를 최소화하는 방식으로 학습을 진행합니다. 이때 오차값을 최소화하기 위해 각 뉴런을 연결하는 가중치 값을 수정해 나가는데, 한 번 수정할 때 얼마만큼 수정할지를 Learning rate 값으로 결정합니다.
➋ Activation: 활성화 함수를 의미합니다. 텐서플로 플레이그라운드에서는 렐루, 하이퍼볼릭탄젠트, 시그모이드, 선형 함수를 사용할 수 있습니다.
➌ Regularization: 정규화를 의미합니다. 정규화의 목적은 과적합(overfitting)을 줄이는 것입니다. 과적합은 모델이 학습된 데이터에는 잘 작동하지만 이전에 보지 못한 데이터에는 예측이 좋지 않은 상태를 의미합니다.
➍ Regularization rate: 정규화할 때 어느 정도로 값을 수정할지 정하는 값입니다.
➎ Problem type: 텐서플로 플레이그라운드에서는 문제를 분류(classification)와 회귀(regression)로 나눕니다. 분류 문제는 데이터를 주황색과 파란색의 데이터로 분류하도록 학습시키는 것이고, 회귀 문제는 연속된 데이터 값을 예측하도록 인공지능을 학습시키는 것입니다.