변수 선택의 한계로 인해 고차원 선형모형에서는 선형회귀에서의 변수 선택이 실용성 있다.
이와 같은 벌점화 방법을 사용할 때 구조화된 변수 선택(structured variable selection)도 불가능한 것은 아니지만(e.g. Lee et al., 2017: 289-291), 고차원 데이터에 대하여는 변수들 간의 구조적 관계를 설정하는 것이 수월하지 않을 수 있고 계산 코스트가 매우 크게 증가할 수 있다. 또한 입력변수의 개수 p가 n에 비하여 큰 경우에는 선형모형과 비선형모형의 예측력이 크게 다르지 않다는 것이 알려져 있으므로(Hall, Marron & Neeman, 2005), 고차원 선형모형에서 실용성이 있는 것은 선형회귀에서의 변수 선택이라고 할 수 있을 것이다(cf. 박창이 외, 2015: 300).