[불공단 스터디] 처음 만나는 AI 수학 with 파이썬 리뷰 4일차 - 미분

[불공단 스터디] 처음 만나는 AI 수학 with 파이썬 리뷰 4일차 - 미분

처음 만나는 AI 수학 with 파이썬 스터디 리뷰 4일차 기록입니다.

 

 

지난 스터디에서는 4장. 선형대수 편을 공부했었습니다.

 

[불공단 스터디] 처음 만나는 AI 수학 with 파이썬 리뷰 3일차

[불공단 스터디] 처음 만나는 AI 수학 with 파이썬 리뷰 3일차 - 선형대수

 

오늘은 드디어(?) 5장. 미분 편입니다!

 

---

5장. 미분

5.1절. 극한과 미분

 

 

기본적인 다항함수의 미분 공식들과 접선을 그리는 방법을 익힐 수 있었습니다.

 

이 그래프는 $f(x) = 3x^2 + 4x - 5$ 함수와 $x=1$에서의 접선을 그린 그래프입니다.

 

---

5.2절. 연쇄 법칙

5.2절에서는 연쇄 법칙(chain rule)을 통한 합성함수의 미분에 대해 소개합니다.

간단한 증명방법도 소개합니다.

---

5.3. 편미분 / 5.4 전미분

뜨든! 편미분이 등장했습니다. 이건 고교과정을 넘어가는 부분이라 관련 수학 공부를 해보지 않은 분들은 조금 어렵게 느끼실 수도 있습니다. 하지만 책에 나온 설명들을 천천히 읽어나가면 이해 못할 내용들은 아닙니다. 설명이 잘 되어 있거든요.

 

 

5.4절의 전미분도 마찬가지입니다. 조금만 머리를 싸매보면 충분히 따라가실 수 있습니다!!

 

---

5.6절. 네이피어수와 자연대수

말이 생소할 수 있는데 네이피어수는 자연상수 $e$를 뜻하고, 자연대수는 밑이 $e$인 로그를 뜻합니다.

 

import numpy as np

print(np.e)
print(np.exp(1))

 

이런 방법으로 자연상수 $e$를 표시할 수 있습니다.

 

책에 나온 코드를 따라 실습하여 $y = e^x$ 그래프를 그려보았습니다.

 

자연대수는 Numpy의 log() 함수를 사용하여 구현할 수 있습니다.

 

이어서 흥미로웠던 부분이 바로 다음에 나오는 시그모이드 함수였습니다. 기계학습 분야에서 등장하는 함수입니다.

 

$$y = {{1}\over{1 + e^{-x}}}$$

 

역시 교재에 나와 있는 코드를 따라 입력하면서 아래 그래프를 그려보았습니다.

 

def sigmoid_function(x):
  return 1/(1+np.exp(-x))

 

매력적인 그래프입니다.

---

시그모이드 함수는 $x$ 값이 작아지면 0에 가까워지고, $x$의 값이 커지면 1에 가까워집니다. 또한 도함수는 $x$가 0일 때 최댓값인 0.25를 취하고, 0으로부터 멀어짐에 따라 0에 가까워갑니다.

 

시그모이드 함수에 의해 입력을 0과 1 사이의 연속적인 출력으로 변환할 수 있습니다. 이 특성을 살려 인공지능에서는 신경세포의 흥분 정도를 나타내는 활성화함수로서 시그모이드 함수가 사용됩니다.

(처음 만나는 AI 수학 with 파이썬, 193쪽)

---

5.7절. 최급강하법

5장의 마지막 5.7절에서는 최급강하법에 대해 공부했습니다. 미분에 의해 구한 기울기를 바탕으로 함수의 최솟값을 구합니다. 

 

---

이렇게 오늘의 스터디를 마칩니다.

 

코드를 입력해가며 수학 공식을 이해해나가는 과정이 흥미진진하네요.

 

다음 편은 6장은 확률, 통계 편입니다. 다음 스터디도 기대하며 마무리합니다.

 

 

https://cafe.naver.com/codingbeginner

개프로 | 개발자 되기 프로젝트[파이... : 네이버 카페

 

 

https://bit.ly/3QCkz31

처음 만나는 AI 수학 with Python - YES24