[Efficient AI 스터디] AI 경량화 커뮤니티 스터디 & 밋업

안녕하세요, 스퀴즈비츠 입니다.

스퀴즈비츠 팀은 지난 5월부터 7월까지 Efficient AI 온라인 스터디를 진행하고, 7월 말 오프라인 밋업을 개최했습니다. 이번 블로그에서는 AI 경량화 스터디 여정과 함께한 분들의 목소리를 기록해봤습니다.

Effcient AI 스터디 진행 과정

AI 모델은 하루가 다르게 발전하고, 경량화 기술도 쉼 없이 쏟아집니다. 하지만 업계 종사자들이 모여 깊이 있는 이야기를 나눌 자리는 드뭅니다. 스퀴즈비츠 팀은 ‘지속 가능한 AI 커뮤니티를 함께 만들어보자’라는 마음으로 매년 AI 최적화에 관심이 있으신 분들과 함께 Efficient AI 스터디를 열어왔습니다. 저희 팀에서는 온라인 스터디와 오프라인 이벤트를 통해서 스터디에서 다룬 내용들을 오프라인에서도 한 번 더 이야기하고 네트워킹하는 시간을 가졌습니다.

벌써 6회를 맞은 Efficient AI 스터디는 매주 목요일 밤 8시에 진행되었습니다. 퇴근 이후의 늦은 저녁 시간임에도 불구하고, 대학생부터 회사원, 업계 전문가까지 다양한 환경에서 무려 170명이 넘는 분들이 스터디에 참여해주셨습니다. 설문조사 결과, 스터디 참여 이유 1위는 최신 트렌드 파악(49.7%)이었고, 가장 관심 있는 주제는 LLM 경량화(46.9%)였습니다.

올해 스터디에는 모두 여덟 분이 발표자로 참여해주셨고, Generative Multimodal Models, Efficient Generative LLM Inference 등 폭넓은 주제로 논문 리뷰를 진행했습니다. 발표자분들은 최신 기술을 발 빠르게 분석하고 각자의 시각으로 풀어내셨습니다.

(스터디원을 모집할 때 논문 리뷰 발표자도 모집합니다. 논문 주제는 ‘AI 경량화’ 주제 아래 크게 제한을 두지 않지만, 이왕이면 최신 연구와 기술을 공부한다는 마음으로 도전해보실 것을 적극 권해드리고 있습니다.🤓)

스터디를 운영하며 인상 깊었던 순간은, 매회 끝까지 자리를 지키며 참여하시는 분들을 볼 때였습니다. ‘조금이라도 더 배우기 위해 늦은 시간까지 노력하시는구나’라는 생각이 들며, 존경스러운 마음과 함께 저 또한 성장에 대한 긍정적인 자극을 받았습니다.

실제로 이번 스터디에서 3주차 발표를 맡았던 고려대학교 박사연구생 박다훈님의 참여 소감을 들어봤습니다. (지면 관계상 내용을 요약해 소개합니다.)

Q. 인터뷰에 응해주셔서 감사합니다. Efficient AI 스터디에 어떻게 참여하셨나요?🤓

시작은 교수님의 추천이었습니다. 교수님이 링크드인에 올라온 홍보 게시글을 보고 ‘양자화 스터디가 있는데 한번 들어보면 어떠냐’라고 제안해주셨어요. 마침 양자화를 주제로 계속 공부하고 싶었던 터라 Efficient AI 스터디에 참여하게 되었습니다.

Q. 여러 번 발표를 맡으셨습니다. 용기가 필요한 일인데 자발적으로 참여하신 이유가 있나요?

처음에는 마이너한 논문 주제를 사람들에게 알리고 싶은 마음이 컸어요. 지금은 사람들에게 이해하기 쉽게 설명하는 과정에서 한번 더 정리하려는 목적이 더 큽니다. 발표 준비 과정에서 코드와 논문 내용을 더 깊이 있게 이해할 수 있고, 발표 흐름을 정립하는 과정에서 새로운 아이디어가 나올 때가 있어서, 기회가 있으면 발표하려고 해요.

Q. Efficient AI 스터디가 학교 연구에 도움이 되었나요?

저희 연구실은 하드웨어가 주 연구 분야인데, 소프트웨어 연구 트렌드를 놓치는 일이 많습니다. 경량화에 관한 좋은 논문이 나와도 늦게 발견할 때가 많았어요. 스터디에 참여한 이후부터는 경량화에 관한 트렌드를 혼자서 따라갈 수 있게 되었습니다. 논문이 어렵고 복잡해서 혼자 공부하기가 어려운데, 스터디 발표자분들이 쉽게 풀어내 주시기 때문에, 유용한 연구 정보를 단계적으로 이해할 수 있습니다.

제 첫 논문 주제가 Microscailing(MX) 포맷이었는데요. Efficient AI 밋업에서 포항공대 박은혁 교수님의 발표를 듣고, OWQ(Outlier-Aware Weight Quantization)를 MX 포맷에 머지하여 첫 논문이 나올 수 있었어요. Efficient AI 스터디가 없었다면 제 첫 논문이 늦어졌을지도 몰라요.

Efficient AI 오프라인 밋업을 통한 네트워킹 행사

온라인 스터디 과정이 모두 종료된 지난 7월 26일, 36도가 넘는 무더위 속에서도 120명이 넘는 분들이 드림플러스 강남 지하에 위치한 세미나실에 모였습니다. 이곳에서 Efficient AI 오프라인 밋업이 개최되었기 때문인데요.온라인 스터디에서 나누던 대화를 얼굴을 마주하며 이어가고, AI 경량화 최신 연구 동향을 배우기 위해 토요일 낮 한여름의 열기를 뚫고 모인 사람들을 보며 AI 경량화에 대한 뜨거운 관심을 실감했습니다.🔥

이번 행사는 세 개의 발표와 네트워킹 시간으로 구성되었습니다.

한양대학교 융합전자공학부 최정욱 교수님이 대형 언어 모델(LLM) 양자화의 최신 연구 트렌드를 소개했고, 서울대학교 VLSI LAB 송지원 연구원이 복잡한 문제 해결을 위해 설계된 대형 언어 모델 기반 추론 특화 모델인 Efficient LRM Inference 관련 논문을 발표했습니다. 마지막으로 리벨리온 Chief Software Architect 김홍석 박사님이 국내 NPU 스타트업 관점에서 본 LLM의 하드웨어 최적화 전략을 공유했습니다.

이번 밋업의 또 다른 볼거리는 퀄컴코리아의 AI Hub 데모 부스였습니다.

엣지 AI에 관심 있는 참석자들로 부스가 북적였고, 이번 밋업의 공식 후원사인 퀄컴코리아는 모든 참석자에게 맛있는 간식과 커피를 제공해 밋업 현장을 한층 더 활기차게 만들었습니다.🍩☕

이번 Efficient AI 오프라인 밋업에 참석자로서 자리해주신 분들의 생생한 참여 소감을 놓칠 수 없겠죠! 삼성리서치에서 갤럭시 AI 모델 경량화를 담당하는 손승우님과 삼성SDS의 클라우드연구 팀에서 LLM 서빙을 연구하는 전은주님이 인터뷰와 이메일을 통해 소중한 이야기를 들려주셨습니다. (지면 관계상 내용을 요약해 소개합니다.)

Q. 이번에 Efficient AI 오프라인 밋업에 참여하신 소감을 들려주세요.

손승우님 : 개인적으로 재미있게 들었습니다. 발표자분들의 주제가 다양해서 좋았고, 특히 제가 평소에 접하지 못하던 영역의 이야기도 들을 수 있어 유익했어요. 회사에서는 한정된 분야를 깊게 다루다 보니, 이렇게 여러 주제를 폭넓게 훑어볼 수 있는 자리가 신선하게 느껴졌습니다.

전은주님 : 업계에서 알려진 분들의 발표를 직접 들을 수 있어서 좋았습니다. 스터디에서 접한 최신 연구가 당장 현업에 적용되진 않더라도, 다음 연구 주제를 정할 때 도움이 될 때가 있습니다. 또 밋업에서는 업계 사람들과 자유롭게 대화하며 하나의 주제에 대해 다양한 시각을 들을 수 있었습니다.

Q. 현업 종사자에게 오프라인 밋업은 어떤 도움이 되나요?

손승우님 : 경량화는 워낙 많이 연구된 분야라 ‘이제 더 나올 게 있을까?’ 싶은 순간들도 있지만, 여전히 새로운 기법과 접근이 계속 등장하고 있어서 그 흐름을 따라가는 것만으로도 성장하고 있다는 느낌을 받습니다. 이번이 첫 오프라인 밋업 참석이었는데, 한 자리에서 최신 연구 흐름을 빠르게 파악할 수 있어 만족스러웠습니다.

Q. 끝으로 스퀴즈비츠 팀에 한 마디 해주세요.😺

전은주님 : 다른 기업의 최신 경량화 기술을 파악하기는 쉽지 않습니다. 논문을 발표해도 널리 홍보되지 않으면 접하기 어렵죠. 업계 기업들이 모여 각자 기술 정보를 공유할 수 있는 자리를 스퀴즈비츠가 더 자주 마련해주시면 좋겠습니다.

몇 년째 꾸준히 스터디를 운영하시는 모습이 인상적입니다. 앞으로도 업계 트렌드를 이끄는 대표 행사로 Efficient AI 스터디를 키워나가시길 응원합니다.

이렇게 많은 분들이 관심을 가져주신 만큼 이후 스터디에서, 또 다음 밋업에서 다시 만나 더 깊이 있는 이야기를 나눌 수 있도록 노력하겠습니다. 이번 스터디에 함께 해주신 모든 분들께 진심으로 감사드립니다. See you soon!🙌

이번 글은 스터디 운영을 담당해주신 상민님께서 작성해주셨습니다.

💡Efficient AI 스터디는 계속됩니다. 아래 채널에서 최신 정보를 만나보세요!
- 스퀴즈비츠 링크드인: https://www.linkedin.com/company/squeezebits/
- 스퀴즈비츠와 함께 AI 커뮤니티를 만들어갈 분을 찾고 있습니다. 👉 채용공고 바로가기