-
수학자를 위한 딥러닝 (Deep Learning for Working mathematicians)머신러닝 2023. 12. 17. 13:40
요즘은 Edx나 유튜브같은 플랫폼으로 대학교에서 제공되는 여러 강의를 들을 수 있다. 그 중 딥러닝이나 머신러닝처럼 핫한 주제들은 강의들이 넘쳐난다. 대부분 이런 강의는 완전 초보자나 프로그래밍을 어느 정도 아는 사람들을 대상으로 하기 때문에, 일반적으론 자신에게 맞는 강의를 찾긴 쉽지 않다.
수학 전공자가 딥 러닝 강의를 들으면 ?가 떠오르는 부분이 많다. 심지어 수학에서 봤을 때 전혀 의미가 다른 용어를 사용한다거나 (tensor가 대표적인 경우다) 정당화되지 않는 주장들 같은 경우. 그러던 중 2022년에 시드니 대학에서 Deep Learning for working mathematicians라는 이름으로 세미나를 진행한 걸 발견했다. 강의와 강의 자료도 전부 유튜브에 업로드 돼있다 https://sites.google.com/view/mlwm-seminar-2022.
강의는 표현론 (Representation theory) 쪽 대가인 Geordie Williams와 마찬가지로 표현론을 하는 포닥인 Joel Gibson 그리고 Dynamical system을 연구하는 Georg Gottwald 교수. 사실 Williams 교수 제외하곤 처음 들어본 분들이다. Williams 교수의 경우는 이미 아카이브에 https://arxiv.org/abs/2304.12602을 올린 적이 있어서 이 쪽에 관심이 있나? 정도는 생각해봤지만, 강의를 들어보니 이미 Google Deepmind랑 꽤 예전부터 일을 해온 모양이다.
강의는 수학전공자가 좋아할 방향으로 딥 러닝 설명이 들어가고, 모토는 1. 우리는 전문가가 아니다 2. 질문 환영 3. 예시, 예시, 예시가 좋다! 라고 한다. 1번에서 알 수 있듯이 강의하는 사람들도 전문가가 아닌지라, 질문에 답변 등을 할 때에 자기 느낌으로 설명해주는데, 이게 좋을 때가 많다. 편차는 있지만 보통 대가의 강의는 구름 위에 떠다니는 소리를 너무 많이 할 때도 있기 때문에... 타겟은 수학자를 대상으로 하고 있지만 앞부분을 들어본 결과 그냥 딥러닝을 배우고 싶은 수학 전공자들에게도 추천할만 한 것 같다. 개인적으로 가장 좋은 점은 역시 3번이다. 새로운 걸 추상적인 아이디어를 배울땐 항상 가장 간단한 예시를 마스터 하는 것이 가장 좋은 방법이라고 생각하기 때문이다.
보통 컴퓨터를 이용한 수학 연구는 https://ko.wikipedia.org/wiki/4색_정리이 유명한데 아직까진 이런 툴로 사용되는 정도 외엔 들어보지 못했다. 예전에 대학원에서 Unsupervised learning로 Calabi-Yau 다양체의 topological invariant들이 만족하는 통계적인 경향성같은걸 conjecture로 제시하는 걸 봤는데, 그 이후로 조용한걸 보면 딱히 이쪽으로 뭔가 나오진 않은 거 같다. 그래도 이 쪽으로 워낙 사회적, 경제적인 푸시가 많이 이루어지기 때문에 몇 년 이내에 매스컴이 좋아할만한 뭔가가 나오긴 할 거 같다고 생각한다 ㅎㅎ.
그 외에도 Pytorch나 Tensorflow로 놀아볼 랩같은 것도 있는데, 실시간으로 강의를 들으며 디스커션하는게 아니라 아직 제대로 보지 않았다. 시간이 되면 강의 내용을 정리한 포스팅을 해볼까 한다.