Convex function(컨벡스 함수)과 concave function(컨케이브 함수)에 관한 설명

지난 랩 세미나에서 SVM에 관하여 공부하다 convex function에 관한 내용이 나왔습니다.

인터넷을 뒤져보니 토론토 대학의 경제학과 홈페이지에 설명이 쉽게 되어 있어서 그림을 무단으로 퍼왔습니다. 그림 1, 2, 3에서 concave function과 convex function, 그리고 이도저도 아닌 함수의 모습을 나타냈습니다.

그림1. concave function   그림2. convex function          그림3. 이도저도 아님      

그림 1에서 특정한 함수에 관하여 어떤 line segment도 이 함수의 그래프 아래에 위치할 때 이를 concave function이라고 합니다.

그림 2에서 특정한 함수에 관하여 어떤 line segment도 이 함수의 그래프 위에 위치할 때 이를 convex function이라고 합니다.

그림 3은 이도저도 아닌 함수입니다.

추가로 line segment의 정의를 먼저 살펴보면, 기하학에서 line segment는 한 선분 위에 line segment의 두 끝점이 위치하였을 때 line segment라고 합니다. 쉽게 그림 4에서 닫힌 line segment를 보여줍니다. 이 line segment의 양 끝 점은 모두 어떤 선분 위에 있습니다. 

그림 4. closed line segment

재미를 더하기 위해서 convex function의 정의를 보면(링크: https://en.wikipedia.org/wiki/Convex_function#Definition), convex function이 X를 실수 vector space 상의 convex 집합이라 하고, 함수 f를 f:  X → R 라고 합시다.

그러면, f는 그 어떤 X의 원소 x1, x2와 모든 0부터 1까지의 실수 t에 관하여 다음을 만족할 때 convex(convex function) 라고 합니다.

이 정의를 2-차원 그래프 상에 나타내면 그림 5와 같습니다.

그림 5. convex function의 부등식의 한 예