AI R&D 연구노트 도구를 처음 도입하는 팀이라면
실험은 쌓이는데 근거가 남지 않던 순간
파일명 관리가 한계에 닿았습니다
모델 실험을 시작한 지 두 달쯤 지나자 공유 폴더에 final, final2, real_final 같은 파일이 빠르게 늘었습니다. 담당자는 결과를 기억했지만 다른 연구원이 같은 조건을 재현하지 못했고, 회의 때마다 어떤 데이터와 파라미터를 사용했는지 다시 찾느라 20분 이상을 썼습니다.
그래서 제가 속한 6명 규모 AI R&D 팀은 연구노트 도구를 실제 프로젝트에 적용했습니다. 처음에는 문서 작업만 늘어날까 걱정했지만, 4주 동안 써 보니 핵심은 많이 기록하는 것이 아니라 판단에 필요한 증거를 같은 형식으로 남기는 것이었습니다. 특히 정부과제나 공동연구처럼 담당자가 바뀔 수 있는 환경에서는 개인의 기억보다 기록 구조가 훨씬 믿을 만했습니다.
- 실험 목적을 한 문장으로 먼저 적었습니다.
- 데이터 버전과 코드 커밋을 함께 연결했습니다.
- 성능 수치뿐 아니라 실패 원인과 다음 행동도 남겼습니다.
- 회의에서 결정된 변경 사항에는 승인자를 표시했습니다.
첫날부터 완벽한 연구노트를 만들려 하지 마세요. 팀이 자주 되묻는 질문 세 가지를 기록 항목으로 바꾸는 편이 훨씬 빨리 정착합니다.
연구기관의 역할과 연구개발 환경을 이해할 때는 한국과학기술연구원 관련 지식백과도 참고했습니다. 우리 팀은 이를 그대로 모방하지 않고, 작은 조직에서도 추적 가능한 최소 단위가 무엇인지부터 정했습니다.
도입 첫 주에는 기능보다 기록 단위를 정했습니다
프로젝트와 실험의 경계를 맞추는 과정
처음 이틀은 도구 설정 대신 팀원들이 서로 다르게 쓰던 용어를 맞추는 데 사용했습니다. 누군가는 학습 한 번을 실험이라고 불렀고, 다른 사람은 데이터 전처리부터 평가까지를 하나의 실험으로 봤습니다. 이 정의가 다르면 검색과 통계가 무너져 AI R&D 연구노트가 또 하나의 자료 창고가 됩니다.
저희는 프로젝트 아래에 가설을 두고, 가설을 검증하기 위한 실행 단위를 실험으로 정했습니다. 예를 들어 이미지 분류 정확도 개선이 목표라면 증강 방식 변경과 손실함수 변경은 별도 실험으로 기록했습니다. 반면 단순 오타 수정이나 로그 경로 변경은 연구노트가 아닌 이슈 관리 영역에 남겨 불필요한 기록을 줄였습니다.
- 프로젝트에는 목표, 기간, 책임자와 활용 범위를 입력했습니다.
- 가설에는 예상 효과와 판단 기준을 적었습니다.
- 실험에는 데이터, 코드, 환경, 결과물을 연결했습니다.
- 판정에는 채택·보류·폐기 중 하나와 이유를 남겼습니다.
이 구조를 적용하자 새 팀원이 결과표만 보고도 실험의 맥락을 이해할 수 있었습니다. 사용 팁은 입력 칸을 처음부터 15개씩 만들지 않는 것입니다. 저희도 필수 항목을 7개로 시작한 뒤 실제 누락이 반복된 실행 환경과 라이선스 항목만 추가했고, 작성 거부감이 눈에 띄게 줄었습니다.
네 가지 방식으로 써 보니 장단점이 선명했습니다
문서형과 실험 추적형은 쓰임이 달랐습니다
저희는 범용 문서 도구, 스프레드시트, Git 저장소의 마크다운, 실험 추적 전용 도구를 같은 프로젝트에서 시험했습니다. 문서형은 회의 맥락과 이미지 설명에 강했고, 실험 추적형은 파라미터와 지표를 자동 수집하는 데 강했습니다. 하나만 고르기보다 설명은 문서형, 반복 수치는 자동 추적형으로 역할을 나누는 조합이 가장 편했습니다.
스프레드시트는 익숙하고 초기 비용이 거의 없지만 첨부물과 변경 이력을 함께 보기가 불편했습니다. 마크다운은 코드 리뷰와 버전 관리가 쉬운 대신 비개발 직군의 참여율이 낮았습니다. 전용 도구는 그래프 비교가 빠르지만 서버 운영, 계정 권한, 저장 공간을 챙겨야 했습니다.
- 문서형: 회의 결정과 서술형 기록에 좋지만 자동 수집은 약했습니다.
- 스프레드시트형: 빠르게 시작할 수 있지만 행이 늘면 관계 추적이 어려웠습니다.
- Git 기반: 코드와 함께 검토하기 좋지만 작성 진입 장벽이 있었습니다.
- 전용 추적형: 실험 비교는 뛰어나지만 구축·운영 책임이 필요했습니다.
실제로는 팀의 기술 수준보다 누가 기록을 읽는지가 선택 기준이 됐습니다. 연구원만 보는 기록이라면 Git 기반도 충분했지만, 경영진과 외부 평가자가 함께 본다면 설명형 화면과 내보내기 기능이 중요했습니다. 기술기업의 사업 맥락을 살펴볼 때 참고한 우리기술 기업 정보처럼, 연구 기록도 독자가 필요한 배경을 짧고 명확하게 제공해야 했습니다.
자동 기록을 붙이자 작성 시간이 절반으로 줄었습니다
사람은 이유를 쓰고 시스템은 사실을 모았습니다
수작업만 고집했을 때 실험 하나를 기록하는 데 평균 12분이 걸렸습니다. 모델명, 실행 시간, GPU 종류, 데이터 경로와 평가 지표를 매번 복사하다 보니 빠뜨리는 값도 생겼습니다. 이후 학습 스크립트가 실행 ID, 커밋 해시, 주요 파라미터와 결과 파일 위치를 자동 전송하도록 연결하자 직접 작성하는 시간은 약 5분으로 줄었습니다.
다만 모든 로그를 자동 저장하면 중요한 내용이 묻혔습니다. 저희는 시스템 로그 전체 대신 재현에 필요한 값만 남기고, 연구원이 왜 이 설정을 택했는지와 결과를 어떻게 해석했는지를 직접 적게 했습니다. 자동화의 목표는 기록을 없애는 것이 아니라 사람이 판단 기록에 집중하도록 만드는 데 있었습니다.
- 실행 시작 시 코드 버전과 환경 정보를 수집했습니다.
- 학습 종료 시 핵심 지표와 산출물 경로를 저장했습니다.
- 오류 종료에도 실패 단계와 마지막 로그를 남겼습니다.
- 연구원은 예상과 실제 결과의 차이를 세 문장 이내로 적었습니다.
- 주간 회의에서 채택 여부와 후속 담당자를 확정했습니다.
자동 수집 항목은 ‘없으면 재현할 수 없는가’라는 질문으로 걸러내면 좋습니다. 대답이 아니라면 링크로 보관하고 연구노트 본문은 가볍게 유지합니다.
사용 중 가장 유용했던 팁은 템플릿에 예시 문장을 넣는 것이었습니다. 빈 입력란보다 ‘정확도는 올랐지만 추론 시간이 기준을 초과해 보류’ 같은 예시가 있을 때 팀원들의 기록 품질이 빠르게 비슷해졌습니다.
재현 테스트에서 연구노트의 진짜 가치가 드러났습니다
작성자가 아닌 사람이 다시 실행해 봤습니다
3주 차에는 기록을 만든 연구원을 제외하고 재현 테스트를 진행했습니다. 다른 팀원이 연구노트만 읽고 동일한 결과를 만드는 방식이었습니다. 첫 시도에서는 데이터 전처리 스크립트의 옵션 하나가 빠져 정확도가 2.4%포인트 낮게 나왔고, 두 번째 시도에서는 패키지 버전 차이로 학습 자체가 멈췄습니다.
이 실패 덕분에 ‘코드 링크가 있으니 충분하다’는 생각이 틀렸다는 것을 확인했습니다. 데이터 스냅샷, 실행 환경, 난수 시드, 평가 기준이 함께 있어야 의미 있는 재현이 가능했습니다. 특히 외부 API나 계속 갱신되는 원천 데이터는 조회 날짜와 응답 사본을 남기지 않으면 몇 달 뒤 동일 조건을 만들기 어렵습니다.
- 원천 데이터와 가공 데이터의 버전을 구분했습니다.
- 컨테이너 이미지 또는 의존성 잠금 파일을 연결했습니다.
- 난수 시드와 하드웨어 종류를 필수값으로 지정했습니다.
- 평가 데이터 중복 여부와 제외 규칙을 기록했습니다.
- 허용 오차를 정해 결과가 조금 달라도 판정할 수 있게 했습니다.
재현 성공 기준도 현실적으로 잡아야 합니다. GPU와 라이브러리 차이 때문에 소수점 이하까지 똑같지 않을 수 있어 저희는 주요 지표 ±0.3%포인트와 처리 시간 ±5%를 허용 범위로 정했습니다. 당신의 팀은 지금 담당자가 휴가를 가도 대표 실험을 다시 실행할 수 있나요? 어렵다면 새 기능보다 재현 테스트 한 번이 우선입니다.
권한과 증빙은 뒤늦게 붙일수록 더 힘들었습니다
공유 범위와 변경 이력을 먼저 확인했습니다
연구노트를 편하게 공유하려다 원본 데이터 경로, 고객 식별자, 비공개 성능 수치까지 넓게 노출될 수 있었습니다. 저희는 관리자, 연구원, 검토자, 외부 열람자로 역할을 나누고 프로젝트별 권한을 적용했습니다. 외부 협력자에게는 원본 데이터 대신 비식별 샘플과 승인된 결과만 보이도록 설정했습니다.
전자 기록을 과제 증빙이나 지식재산 자료로 활용하려면 작성일, 수정 이력, 승인 상태와 내보내기 형식을 확인해야 합니다. 단순히 마지막 수정본만 남는 서비스는 편집 과정의 근거를 설명하기 어렵습니다. 중요한 실험은 월 단위로 PDF와 첨부 목록을 보관하고, 원본 파일의 해시값도 별도 저장해 누가 언제 무엇을 바꿨는지 확인할 수 있게 했습니다.
- 민감정보가 포함된 입력 예시를 금지 항목으로 공지했습니다.
- 퇴사·이동 시 계정 회수 절차를 관리자 업무에 넣었습니다.
- 공개 링크에는 만료일과 다운로드 제한을 설정했습니다.
- 월 1회 권한 목록과 장기 미접속 계정을 검토했습니다.
- 서비스 이전을 대비해 JSON·CSV·PDF 내보내기를 시험했습니다.
투자 검토나 기술사업화 단계에서는 연구 성과를 제3자가 이해할 수 있어야 합니다. 관련 조직의 성격을 살펴보기 위해 현대기술투자 기업 정보도 참고했는데, 이를 통해 기술 기록에는 성능뿐 아니라 활용 목적과 의사결정 과정도 함께 보여줘야 한다는 점을 다시 확인했습니다.
6명 팀이 감당한 비용과 시간을 숫자로 적어봤습니다
무료 도구도 운영 시간까지 계산해야 했습니다
저희 팀의 초기 설계에는 책임자 1명과 연구원 2명이 참여했고, 템플릿 합의 3시간, 권한 설정 2시간, 자동 연동과 테스트 9시간이 들었습니다. 교육은 50분짜리 한 번으로 끝내지 않고 첫 주에 20분 피드백을 두 차례 추가했습니다. 결과적으로 최초 도입에 약 15시간, 이후 운영에는 주당 40~60분이 필요했습니다.
비용은 배포 방식과 계정 수에 따라 차이가 컸습니다. 범용 문서 도구는 기존 구독에 포함돼 추가 비용이 없었고, 실험 추적형 유료 서비스는 검토 당시 사용자당 월 수만 원 수준의 안도 있었습니다. 자체 구축은 라이선스가 무료여도 서버, 백업, 보안 업데이트에 월 4~8시간이 들 수 있어 담당 인건비를 반드시 더해야 합니다. 실제 가격은 계약과 기능에 따라 변하므로 도입 시점의 공식 견적을 확인했습니다.
- 1~3명 팀: 템플릿 설계 2~3시간, 주간 관리 약 20분부터 시작할 수 있었습니다.
- 4~10명 팀: 초기 설정 10~20시간, 월 운영 3~6시간을 예상하는 편이 안전했습니다.
- 외부 협력 포함 팀: 권한 검토와 반출 점검에 월 2시간 이상을 별도로 잡았습니다.
- 자동 연동 1종: 개발과 검증에 대략 4~12시간을 배정했습니다.
도입 효과도 숫자로 확인했습니다. 저희는 실험당 기록 시간이 12분에서 5분으로 줄었고, 주간회의의 결과 탐색 시간은 약 25분에서 8분으로 감소했습니다. 처음부터 전 프로젝트를 옮기지 않고 진행 중인 과제 하나를 4주간 시험한 덕분에 이전 비용도 통제할 수 있었습니다. 예산이 빠듯하다면 4주, 1개 과제, 필수 항목 7개, 자동 연동 1개를 시작선으로 잡는 것이 가장 현실적이었습니다.

- 이전글“AI R&D 실험은 됐는데 재현이 안 돼요” 원인부터 잡으세요 26.08.11
- 다음글AI R&D MLOps 도구, 우리 팀에는 무엇이 맞을까? 26.08.09
등록된 댓글이 없습니다.
