우리의 인생은 수많은 변수들의 영향을 받는다. 하지만 우리는 어디가 global minimum인줄 알 수 없다. 우리가 알 수 있는건 지금 이 시점에서 우리 인생의 기울기나 가속도 정도.
인생의 기울기를 따라가다보면 기울기가 변하지 읺는 시점이 온다. 그곳이 local인지, global인지는 당장에 알 수 없다. 그걸 알기위해서는 다시 기울기를 거슬러 올라가야한다.
재능이 있는 사람, 모멘텀이 있는 사람은 기울기를 쉽게 거슬러 올라갈 수 있을 것이다. 하지만 아무리 열심히 한다해도 당장의 기울기만 보는 사람은 local minimum을 벗어나기는 힘들것이다.
몇몇의 초기 조건이 좋은, 시작점이 좋은 사람은 이런 과정없이도 바로 global minimum에 도달할 수 있다. 그러나 초기 조건이 안좋다면, 오랜 시간과 많은 기울기를 거슬러 올라가야 global minimum에 겨우 도달할 수 있을 것이다.
당장의 기울기만 따라가는 대부분은 local minimum에서 더 나아가지 못하지만 일부는 global minimum, 혹은 그 근처까지 다다른다.
하지만 그 아떤 경우에도 자신이 있는 minimum이 global minimum인지는 본인으로서는 알수가 없다.
사람들의 인생이란, 이렇듯 딥러닝 최적화와 같다. 초기 조건이 좋은 사람들은, 남들보다 쉽게 global minimum에 도달힐 수 있다. 히지만 초기 조건이 좋은 사람들만 global minimum에 도달할 수 있는건 아니다. 지금 당장의 기울기를 거슬러 갈 수 있는 모멘텀이 있다면 시간은 좀 걸리더라도 결국 global minimum에 도달할 수 있다.
현실의 인생에서 초기 조건을 바꿀수는 없다. 하지만 기울기를 거슬라가는 선택은 누구나 할 수 있다.
카카오 계정과 연동하여 게시글에 달린 댓글 알람, 소식등을 빠르게 받아보세요
댓글 14개
2024.03.16
술마심?
2024.03.16
+ 시간에 따라 상황이 바뀜
2024.03.16
+ 돈이 있으면(A100) global minimum에 더 빨리 도착한다
무서운 제임스 와트*
2024.03.16
자연주의 오류.
2024.03.16
이제 막 배우기 시작하신 분이신가요?
대댓글 2개
2024.03.16
왜 그럴듯한데
2024.03.16
애시당초 non-convex라 글로벌미니멈을 이야기할 수 없음
2024.03.16
세상이 좋아져서(?) 그냥 다변수미적 들은 학부 1학년 수준 얘기를 무려 ‘딥러닝 최적화’라고 포장할 수 있다는 생각이 드는 글.
2024.03.16
인생은 항상 그래디언트의 반대방향으로 가야죠
대댓글 1개
2024.03.17
gradient exploding 발생하여 나락으로 가면?
2024.03.17
인생이 이 글처럼 정직하다면 얼마나 좋을까요? 인생에는 예측할 수 없는 무작위 점프가 발생합니다. 그 점프가 이롭게 발생하면 글로벌 미니멈으로 쉽게 갈 수 있겠지만, 그렇지 않다면?
2024.03.17
누적 신고가 20개 이상인 사용자입니다.
좋은 글이네요. 글의 사소한 부분 꼬투리잡아 자신의 지식 자랑하는 댓글들보다는 통찰력이 있어보입니다.
2024.03.16
2024.03.16
2024.03.16
2024.03.16
2024.03.16
대댓글 2개
2024.03.16
2024.03.16
2024.03.16
2024.03.16
대댓글 1개
2024.03.17
2024.03.17
2024.03.17
2024.03.17
2024.03.18