선형대수학이란 어떤 학문이며, 왜 머신러닝/딥러닝에 필요한지 설명해보세요.

선형대수학이란?

사전적 정의 (Wiki): 벡터 공간과 벡터 공간의 연산 구조를 보존하는 선형 사상에 관한 학문

<aside>
💡

쉽게 말해: 굉장히 어렵게 느껴지겠지만, 결국 데이터의 각 계수를 행렬로 만들어서 푸는 방법을 다루는 학문입니다.

</aside>

머신러닝/딥러닝 데이터 처리에 필요한 핵심 개념

• 행렬 연산: 수나 다항식을 격자 모양(행렬)으로 배열하여 덧셈, 곱셈, 역행렬 등을 계산하는 방법을 배웁니다.
• 연산 속도 최적화 (부분 행렬 활용): 예를 들어 10,000개의 아파트 데이터를 개별적으로 계산하는 대신, 행렬로 변환하여 한 번에 묶어서 곱셈 처리를 합니다. 이를 통해 연산 속도를 극대화할 수 있습니다.
• 공간에 대한 이해: 행렬을 구성하는 각각이 하나의 벡터가 되어 형성하는 공간인 '벡터 공간(Vector Space)'의 개념을 이해합니다.
• 행렬 분해: 복잡한 행렬을 특성에 맞게 간단한 형태로 분해하여 다루기 쉽게 만듭니다.

선형대수가 머신러닝/딥러닝에 필요한 이유

머신러닝과 딥러닝은 수만 개의 데이터를 다룹니다. 특히 딥러닝은 이미지, 텍스트 등의 비정형 데이터를 컴퓨터가 이해할 수 있도록 숫자 배열(벡터, 행렬)로 표현해야 하는데, 선형대수는 이를 처리하기 위한 필수 언어입니다.

1. 압도적인 연산 속도 (병렬 처리)
수만 개의 데이터를 개별 변수로 따로 계산하면 속도가 너무 느립니다. 하지만 데이터를 행렬(Matrix)로 묶으면 병렬 연산이 가능해져 컴퓨터가 대규모 데이터를 순식간에 계산할 수 있습니다.

2. 데이터의 행렬 변환 (표현)
딥러닝에서 사용되는 모든 입력 데이터(이미지 픽셀, 텍스트 임베딩 등)는 행렬로 변환됩니다.

3. 가중치와 편향의 연산
인공신경망 학습의 근간은 결국 입력 데이터와 가중치 행렬의 곱셈(행렬곱) 및 덧셈으로 이루어집니다. 복잡한 신경망 내부의 수많은 가중치와 연산을 효율적으로 계산하고 최적화합니다.

4. 고차원 데이터 처리
딥러닝은 수백만 차원의 데이터를 다루기도 합니다. 선형대수는 이러한 고차원 공간을 다루는 명확한 수학적 규칙을 제공합니다.

5. 모델 최적화 (차원 축소)
데이터를 가장 잘 설명하는 특징만 추출하는 주성분 분석(PCA) 등의 차원 축소 기법은 고유값 분해나 특이값 분해(SVD)와 같은 선형대수학의 핵심 개념을 기반으로 작동합니다.