활성화 함수는 그 이후로도 여러 데이터 과학자에 의해 연구되어 ➌ 하이퍼볼릭 탄젠트(hyperbolic tangent) 함수나 ➍ 소프트플러스(softplus) 함수 등 좀 더 나은 활성화 함수를 만들기 위한 노력이 이어지고 있습니다.