상미분과 편미분

상미분은 변수가 하나만 있는 함수를 미분하는 것을 말합니다. 그럼 이제 편미분에 대해서 알아봅시다.

편미분

(1)식과 같이 독립변수가 2개 이상인 함수의 미분을 생각해 봅시다. 두 독립변수 x1, x2각각의 변화에 따라 종속변수 y의 값이 변하게 됩니다. 이런 경우 y가 갖는 값의 범위(치역)는 보통 3차원을 형성한다. 이 변화를 한꺼번에 관찰하는 것은 쉽지 않기 때문에 x1과 y의 변화에 대한 ㅗ간계를 관찰할 때는 x2를 고정(상수 취급)시키고 미분한다. 그리고 이것을 편미분이라고 합니다.

 

전미분

(2)식을 x1과 x2에 대해 편미분 하면 각각 (3),(4)식이 됩니다. 이제 전미분을 정의해 봅시다.

(5)식이 (2)식의 전미분 식입니다. [(5)식에서 좌항은 y가 아니라 dy입니다.]

(5)식을 보면, x1으로 편미분한 값을 괄호로 묶어 dx1이라는 표식을 붙이고, x2로 편미분한 값을 괄호로 묶어 dx2라는 표식을 붙인 후 더했습니다. 일반적으로, 전미분이란 각각의 독립변수 ${x_i}$로 편미분한 값을 괄호로 묶고 거기에 ${dx_i}$라는 표식을 붙인 후 모두 더한 것을 의미합니다.

---

인공지능에서 활용

인공지능과 관련된 책이나 논문을 보다 보면 $\frac{dy}{dx}$나 $\frac{\partial f(x,y)}{\partial x}$와 같은 'd'나 $\partial$를 사용한 식을 자주 볼 수 있습니다. 그만큼 인공지능 분야에는 미분이 많이 사용된다는 의미인데, 이러한 수식이 다소 복잡해 보이다 보니 지레 겁을 먹고 쉽게 포기할 수도 있을 겁니다. 그럴 대는 기호가 d나 $\partial$, 어는 것이든 분모에 있는 변수로 분자를 미분한다는 의미만 정확하게 기억하고 있다면 큰 무리 없이 수식을 이해할 수 있을 것입니다.

---

이 글은 <인공지능을 위한 책>을 읽고 정리한 글입니다.