본문 바로가기

최적화

(3)
최적화 알고리즘 누군가 '인생은 속도보다 방향이 중요하다'라고 말하면 이과생이 등장해서 '속도는 벡터로 이미 방향을 포함한 값이므로 속도가 아니라 속력이다'라고 정정할 거다. 정의상 속도는 힘의 방향과 힘의 크기가 결합된 벡터, 즉 '속도 = 방향 + 속력'이다. 늦더라도 언젠가는 원하는 목표를 이루는 사람들을 보면 인생에서 방향이 중요한 듯하다가도 속력이 크면 더 빨리 성공하거나 실패하더라도 아직 젊으니 새로운 도전을 할 수 있어 속력이 더 중요한 듯하기도 하다. 사람마다 가치관과 방식이 모두 다르니 방향이니 속력이니 하는 논쟁은 각자의 사정에 맞게 잘 조절하면 된다. 어쨌든 인생에서 방향과 속력이 모두 중요하듯이 최적화도 방향과 속력이 중요하다. 머신러닝 모델을 최적화하는 방법은 "An Overview of Grad..
초보자가 딥러닝 접근하기 요즘 IT 쪽에서 가장 뜨거운 이슈 중에 하나는 분명 딥러닝 Deep Learning 일 듯하다. 마치 몇 년 전에 빅데이터 Big Data 기술들이 처음 소개되고 성공 스토리들이 언론에 회자되던 때를 회상하게 만든다. 그러나 일반인들에게 딥러닝이 빅데이터만큼 쉽게 받아들려지고 확대될 수는 없을 것같다. 그 이유는 분명하다. 어렵기 때문이다. 물론 다양한 오픈소스가 만들어지고 최적화된 방법론이 소개되겠지만, 그걸로는 충분치가 않다. 소수의 선택된 자들 외에는 딥러닝은 그저 그림의 떡이다. 어렵기 때문이다. 빅데이터는 단편적인 기본 지식만 있어도 (실제 적용까지는 힘들더라도) 현상을 이해하기에 충분하지만, 딥러닝은 언론이나 컨퍼런스에 소개되는 내용만으로 이해하기란 거의 불가능하다. 최근에 몇 편의 논문이나..
빈곤의 최적화, aka 꼼수 아침에 급하게 페이스북에 적은 글에 설명/내용을 추가합니다. 너무나 긴 시간동안 사람들은 빈곤에 적응해왔다. 어쩌면 인간의 역사란 빈곤의 역사였다. 최근에 그런 빈곤 상태가 일시에 (일부에게는 또는 특정 분야에서는) 해갈되었지만, 여전히 많은 부분에서 빈곤 상태에 있다. 앨빈 토플러는 그의 책 '부의 미래'에서 현대 사회의 변혁의 동인으로 3A, 즉 자동화 Automation 아시아 Asia 그리고 풍요/과잉 Abundance를 들었지만, 여전히 사람들은 빈곤에 더 익숙하다. 그래서 빈공의 경계를 넘은 분야에서는 풍요에 제대로 적응을 못하는 경우도 발생하고 있다. 빈곤에 적응했다는 것은 주어진 환경에서 최적화되어있거나 그런 솔루션을 자연스레 찾으려 한다는 것이다. 간혹 TV를 보면 '입금되면 바로 갑니다..