[머신러닝 시작 전] 선형대수학과 미적분학

왜 수학이 머신러닝의 필수인가?

머신러닝 모델이 데이터를 어떻게 이해하고, 어떻게 스스로 학습하며 성능을 개선하는지 알고 싶다면 선형대수학과 미적분학이라는 언어의 기본 개념을 익히면 좋습니다.

2. 개념 정의

머신러닝에서 

용어	정의	머신러닝에서의 역할
선형대수학	수나 다항식을 격자 모양(행렬)으로 배열하여 연산하는 학문.	데이터 표현 및 효율적 계산
미적분학	함수의 변화율(기울기)을 측정하고 최적의 값을 찾는 학문.	모델 학습 및 최적화

 

3. 시각화 및 예제

[선형대수학: 데이터의 효율적 처리]

머신러닝은 수만 개의 데이터를 다룹니다. 개별 변수를 따로 계산하면 너무 느리지만, 행렬(Matrix)로 묶으면 병렬 연산이 가능해져 컴퓨터가 순식간에 계산할 수 있습니다.

• 예시: 10,000명의 아파트 데이터를 각각 계산 -> 10,000 X 3 행렬로 변환하여 한 번에 곱셈 처리 (속도 최적화).

[미적분학: 최적화(Optimization)]

머신러닝의 학습이란 모델이 예측한 값과 실제 값의 차이(오차)를 줄여나가는 과정입니다. 이때 미분(기울기)을 사용합니다.

• 예시: 모델 y = ax + b가 있을 때, 오차를 최소화하는 최적의 a와 b를 찾으려면?
  • 현재 상태에서 오차 함수 f(x)를 미분합니다.
  • 기울기(f'(x))가 가리키는 방향을 따라 오차가 줄어드는 쪽으로 a와 b를 조금씩 수정합니다.
    (이를 '경사하강법'이라 합니다.)

 

4. 실무 적용

• 선형대수: 머신러닝 / 딥러닝에서 사용하는 인공신경망의 가중치(Weight) 연산은 사실상 거대한 행렬 곱셈입니다. GPU(그래픽 처리 장치)가 머신러닝에서 각광받는 이유도 행렬 연산을 병렬로 처리하는 데 최적화되어 있기 때문입니다.
• 미적분: 여러분이 스마트폰에서 사용하는 얼굴 인식, AI 챗봇의 학습 과정 내부에는 모두 경사하강법(Gradient Descent)이 작동하고 있습니다. 오차를 줄이기 위해 기울기를 계산하는 이 과정이 없다면 인공지능은 학습할 수 없습니다.

5. 요약 및 회고

• 선형대수학은 방대한 데이터를 효율적으로 다루기 위한 '데이터의 그릇'입니다.
• 미적분학은 모델의 오차를 줄여 성능을 높이는 '학습의 나침반'입니다.