들어가며

  • 이전 중간 점검 이후로 거의 3개월만이다….
  • 자주자주 하려는데 쉽지 않은 것 같다.
  • 하고 나니까 이전에 내가 어떤 고민을 했었는지 기록할 수 있고, 하면서도 좀 마음이 정리되는 것 같아 오늘도 한 번 해보려고 한다.

목표가 없음

  • 솔직히 첫번째 프로젝트를 제외하고는 전부 거의 이렇다 할 목표가 없이 진행했던 것 같다.
  • 물론 내가 따로 시간을 내서 목표를 만들 생각을 하지 않아서 그랬던 게 제일 크지만, 외부에서 핑계를 주자면 프로젝트 끝나고 랩업 레포트를 작성하고 나면 바로 새로운 프로젝트에 투입되는… 그런 상황인 게 제일 큰 것 같다.
  • 또 어떤 목표를 세워야 될지 모르는 게 한 몫하지 않나 싶다.
    • 두런두런 시간에 자기의 이력서에 적혀있으면 좋을 것 같은 말을 채워 넣을 수 있도록 프로젝트를 진행해보라고 하셨다.
    • 근데 나는 아직 내 이력서에 뭐가 적혀야 좋을지… 내가 뭘 하면서 먹고 살고 싶은지… 그런 걸 모르겠다.
      • 애초에 AI를 평생 업으로 하며 살 수 있을까 자문해보면, 솔직히 지금같으면 그러지 못할 것 같다는 생각이 든다.
      • 이거에 대해서도 할 말이 너무 많은데… 다른 주제로 글이 길어질 것 같아서 나중에 “삶의 지도 v2”에서 다루어보는 걸로… (이번주 주말에 진짜 씀 ㄹㅇㄹㅇ)
  • 목표가 없다보니 결국 등수에 집착하게 되는 악순환은 피하지 못하는 것 같다.

진짜 최선을 다했을까?

  • 솔직히 최근 피어 세션에서는 그냥… 생산적인 이야기보다도 “왜 안될까… 너무 힘들다…”와 같은 푸념만 늘어놓지 않았나 하는 생각이 든다. (주로 내가)
  • 그럴 시간에 좀 더 어떤 걸 해볼지 고민을 해봤어야 했을 것 같다. 기초 중의 기초인 데이터 증강도 너무 다른 쪽에 매몰되어 있다가 늦게 깨달아버린 것 같다.
  • 베이스라인 코드 분석도 너무 대충하고 시작했어서… 잘 된다고 생각했던 것들이 사실은 안 되고 있었기도 하고… 이걸 좀 더 치열하게 하나부터 다 뜯어봐야 했는데 너무 안일하게 시작했던 것 같다.
  • 사실 내가 시도했던 방법론으로 점수가 올랐으면 이런 글 안 쓰고 있었겠지 싶다. 근데 항상 가장 간단한 방법부터 시도해봐야 하는건데… 그런 기준보다 그냥 떠오른 방법 순서대로 시도해보니 실패했을 때 리스크가 너무 컸던 것 같다.

아쉬웠던 점

  • 솔직히 이번에도 6명의 개인이지 않았나 싶다.
  • 협업이라고 느꼈던 부분은… “이런 모델 사용해봤는데 좋아요!”하면서 공유했던 것 정도?
  • 다만 방법론을 시도해보는 과정에서는 좀 많이 겹치고 다 각자 개인 플레이 했던 것 같다. (나만 해도 그렇다.)
    • 다 비슷한 걸 하고 있는 것 같은데… 뭔가 의견 교류도 잘 안되는 것 같고… 너도 해보고 나도 해보고 이런 느낌이었던 것 같다.
    • 그리고 트러블 슈팅이 좀 공유가 되었으면 어땠을까 하는 생각이 든다. 모델 불러올 때 터지는 거를 어떻게 잡고 있는지? 그런 부분이 공유가 좀 되었으면 좋지 않았을까.
  • 프롬프트 엔지니어링이나 Instruction tuning, 하이퍼파라미터 조절… 이와 같은 작업들을 너무 경시했던 것 같다.
    • “이딴 게 뭔 개발이야”하는 깔보는 마음이 무의식 중으로 자리잡고 있지 않았나.

다음에 더 잘하고 싶은 점

  • 주도적인 협업
    1. 다같이 모여서 어떤 일을 하고 싶은지 각자 공유를 한다.
    2. 그리고 우리가 해야 할 일이 뭐가 있을지 이야기를 나눈다.
    3. 이걸 어떻게 직렬이 아닌 병렬적으로 협업을 하며 해결할 수 있을지 고민한다.
    4. 각자 성향에 따라 일을 나누고 진행한다.
    • 이러면 어떤 일을 했는지 그날그날 공유하기 쉬울 것 같다.
  • 트러블 슈팅 공유
    • 잘하고 있는 것 같긴 하지만, 더 잘 할 여지가 남은 것 같다.
    • Github Discussion에 돌아가면서 글을 쓴다든지? 암튼 좀 더 활성화되면 좋을 것 같다.

마치며

  • 아 근데 진짜 모르겠다. 왜 이렇게 성능이 안 오를까.
  • CoT하면 성능이 오를 줄 알았는데 너무 대충했나 싶기도 하고…
  • 난 사실 instruction tuning이 정확히 뭔지도 몰라서 그것부터 알아볼 걸 그랬다.
  • 신기한 점은 상위권에 있는 분은 항상 프로젝트마다 자리를 굳건히 지키고 계셔서… 어떻게 그럴 수 있는지 사고방식 패턴이 있는건지 궁금하다.
    • 스페셜 피어세션때 만나면 물어봐야겠다. (팀 자랑해달라고 해봐야겠다…)
      • 못 만나면 DM이라도… ㅋㅋ….