오늘 한 일

발표자료

사실 마지막으로 실험 돌릴 것 하나가 남아 있어서 지금 다 완성할 수는 없는 상황이다.
그래서 지금까지 진행했던 실험들 위주로 정리하여 발표자료를 만들었다.
근데 슬펐던 점이 첫째로 내가 별로 기여한 부분이 없었던 것 같은 것이랑 둘째로 대부분의 방법론이 실패하고 그냥 되게 간단히 시도해볼 수 있는 방법론 정도만 성과가 있었던 것이다

최후의 실험을 어떻게 할지에 대한 논의가 오갔다.
풀 파인튜닝이 2~3일 정도로 오래걸리는 작업인만큼 앞으로 남은 횟수는 단 한 번 뿐이지 않을까 해서 어떤 모델을 최종 실험을 돌려봐야 할지 의논했다.
박 모 캠퍼님께서 적용해보았던 Pruning 방법을 조금만 적용하여 (layer 하나만 제거해서) 학습 시켜보자는 이야기가 오갔다.
- 근데 사실 같은 방법으로 layer를 4개를 제거했을 때는 성능이 굉장히 안나와서, 하나 자른 걸로 성능이 잘 나오지 못할 것이라고 생각해 너무 도박이라고 생각해서 반대했지만…
- 결국 그냥 무난하게 해서 좋은 성적 얻어봤자 경험적으로는 별로 얻어가는 게 없을 것 같다는 팀원들의 말에 어느 정도 공감을 해서 결과적으로는 채택하였다.
- 지금 시점에서는 꽤 성적이 잘 나오는 것으로 보인다. 2일 안에는 성과가 모두 나오지 않을까?

마지막 팀 회고라 뭔가 졸업식 분위기가 났다.
근데 웃긴 얘기도 많이 했는데, 그중 하나 CS 관련해서 얘기를 하다가 “CS 미원론”에 대해서 이야기를 했다.
- 이 이야기는 개인적으로는 AI 업계에서는 CS가 별로 중요하지 않은 것 같다는 얘기로 시작되었다.
- 근데 다른 캠퍼 분께서 CS에 대해서 지금 하는 일에서 다른 일을 하게 되어도 할 수 있게 되는 원동력 같다는 얘기를 하면서, 식당으로 비유하자면 CS는 비법소스라 하면서 놀았다.
- 그러다가 AI는 밀키트라는 이야기를 하면서, 이미 조미료가 만들어진 채로 나와서 CS가 많이 필요하지 않은 거 아닐까 하는 이야기도 했다.