| ML Optimization팀 리더 대니

카카오브레인의 혁신은 크루(Krew)의 물음에서 시작합니다. 생각지도 못한 질문에서 예상치 못한 답을 찾는 크루. 과연 그들은 어떻게 카카오브레인과 함께하게 되었고, 또 지금 이곳에서 어떻게 일하고 있을까요? 각자의 분야에서 독보적인 역량을 발휘하며 AI 세계의 놀라운 성장을 이끌고 있는 크루들을 만나보았습니다.

🙋🏽‍♂️ 대니 Danny 

크루 인터뷰 시리즈의 첫 번째 주인공, 대니는 ML Optimization팀 리더입니다. 삼성전자에서 7년 정도 일했고 AMD에서 Sr. S/W Engineer 근무했어요. 이후 라인에서 API 설계 및 구현, AR/VR 엔진 설계 설계 및 구현, 성능·메모리 최적화 업무를 하다가 다시 AMD를 거쳐 2021년 카카오브레인에 합류했습니다.

Q. 안녕하세요! Machine Learning Engineering실 그리고 그 중에서도 대니가 리딩하고 있는 ML Optimization팀에 대해 소개해 주세요. 대니는 해당 팀에서 어떤 역할을 하고 있나요?

ML Optimization팀의 목표는 두 가지예요. 

  • 딥러닝 모델 최적화에 대한 독보적인 기술력 확보
  • 뛰어난 기술력을 바탕으로 카카오브레인이 지속적으로 성장할 수 있는 원동력 제공 및 다양한 사업 기회 발굴

이 두 가지 목표를 달성하기 위해 ML Optimization팀은 딥러닝 모델을 압축하기 보다는 하드웨어를 효율적으로 사용하는 데 집중해요. 딥러닝 모델을 압축하면 성능은 빨라지지만, 압축 전 모델과는 다른 결과를 만들어내는데요. 이렇게 다른 결과가 나오게 되면 모델의 성능에 영향을 줘요. 그렇기 때문에 압축보다는 효율에 초점을 두고, 성능을 유지하면서 딥러닝 모델의 훈련과 추론 속도를 최적화하는 방법을 연구하고 개발하는거죠. 최근엔 딥러닝 모델의 훈련과 추론 속도를 최적화하는 Trident(트라이던트)를 공개하기도 했어요.

저는 카카오브레인과 ML Optimization팀의 목표를 달성하기 위해 연구와 개발 방향성을 정하고, 프로젝트의 설계와 구현을 담당하고 있어요. 또한 팀리더로써 팀원들이 일에 집중할 수 있도록 돕고, 전문가가 될 수 있도록 코치 역할을 하고 있습니다.

Q. 10여 년 전이면 지금처럼 AI 분야가 많이 알려지지 않았을 때인데요. 처음 AI에 관심 가지게 된 계기가 있나요? 카카오브레인에 합류하게 된 계기도 궁금해요.

제가 처음으로 접한 인공지능은 숫자를 판단하는 인공지능이었어요. 숫자를 판단하는 알고리즘을 코드로 작성하기란 아주 어려운데, 딥러닝 모델이 코드로 풀기 어려운 문제를 손쉽게 해결하는 것을 보고 인공지능에 매료되었죠. 카카오브레인 합류 전엔 GPU 최적화, 그중에서도 주로 게임 최적화 업무를 했어요. 콘텐츠는 바꾸지 않고 GPU의 Utilization과 Occupancy를 최대로 끌어올리면 일반적으로 10~15%의 성능을 향상시킬 수 있는데요, 인공지능을 꾸준히 공부하면서 게임에서 사용되는 최적화 기법들을 인공지능에도 적용할 수 있겠다는 생각이 들었어요. 기존의 딥러닝 도구들이 GPU를 비효율적으로 사용하고 있다고 판단한 거예요. 그래서 인공지능 분야로 커리어 전환을 결심했고, 이 분야에서 큰 기회를 많이 경험할 수 있는 카카오브레인으로의 합류를 선택했어요. 

Q. 합류 이후 여러 실무 개발자를 리딩하는 매니저 트랙을 선택하셨어요. 실무에 집중하는 IC(Individual Contributor)가 아닌 팀을 이끌고 관리하는 Manager를 선택한 이유가 무엇인가요? 매니저로서 ML Optimization팀을 어떤 팀으로 만들어나가고 싶은지도 들려주세요. 

제가 매니저가 된 이유는 강력한 기술 개발팀을 만들고 싶었기 때문이에요. 팀원들에게 올바른 문제 분석 방법과 문제를 근본적으로 해결하는 역량을 키워주고 싶어요. 팀원들이 모두 전문가가 된다면 높은 수준의 기술적인 토론이 가능해요. 이를 바탕으로 아주 뛰어난 소프트웨어를 만들 수도 있을 거고요. 또 팀원들이 차세대 리더로 성장하며 더 많은 인재를 육성한다면 더 많은 것을 할 수 있다고 생각해요. 다만 저는 매니저지만 IC로서의 역할도 소홀이 하지 않을 거예요. 실무를 해야 팀원들과 더 잘 소통할 수 있고, 좋은 매니징도 가능하다고 믿기 때문이에요. 실무와 매니징 모두에 탁월한 역량을 가지고 강력한 기술팀을 만들어 회사의 성장에 큰 도움이 되고 싶어요.

Q. 2023년, 개발과 AI는 그야말로 핫한 신(scene)이에요. 앞으로 이 분야는 얼마나 더 성장할까요? 특히 최적화 직무의 성장 가능성에 관한 대니의 생각을 듣고 싶어요. 

저는 AI가 전기, 통신과 마찬가지로 인류에 꼭 필요한 인프라로 자리매김할 거로 생각해요. 그렇기 때문에 AI 분야는 필연적으로 엄청나게 성장할 거예요. 그런데 AI 분야가 앞으로 더 크게 성장하려면 비용 문제를 해결해야 해요. 지금의 AI 서비스 비용은 아주 비싼 수준이거든요. 이 문제를 해결하기 위해 필요한 것이 바로 최적화예요. AI 분야가 성장하면 할 수록 최적화의 중요성 또한 커질 수밖에 없는 이유죠. ML Optimization 팀에 합류한다면 최적화 역량을 어느곳에서보다 확실하게 향상시킬 수 있다고 확신해요. 최적화는 AI 서비스를 하기 위해선 반드시 필요하기 때문에, 최적화 역량을 가지고 있다면 기술의 제약 없이 다양한 AI 분야에서 활약할 수 있을 거예요.

Q. 디자이너나 기획자 등 엔지니어링에 익숙하지 않은 구성원과 소통해야 할 일도 종종 있을 것 같아요. 또 같은 엔지니어라도 지식과 이해의 폭이 모두 다를 텐데요. 카카오브레인만의 커뮤니케이션 방식과 지식에 관한 이해 레벨을 맞추는 방법이 있을까요?

지금까지 제가 팀으로 일하면서 깨달은 게 하나 있어요. 바로 팀의 결과물은 제일 잘하는 사람이 아니라 제일 못하는 사람에 의해 결정된다는 거예요. 그렇기 때문에 모든 의사소통은 ‘내가 아는 것’에 기반해 이야기하는 게 아니라 ‘상대방이 모를 수 있다’는 가정 하에 이루어져야 해요. 상대방에게 전달하고자 하는 내용을 최대한 쉽게 풀어서 설명하는 거죠. 이런 마음가짐은 반대 경우에도 마찬가지에요. 내가 모는 것을 숨기지 않고 상대방에게 적극적으로 물어볼 줄 알아야 해요. 이렇게 상대를 배려하고, 모르는 것을 알고자하는 마음으로 커뮤니케이션하는 것이 카카오브레인이 최고의 협업을 이끌어 내는 방법입니다. 

Q. 대니는 어떤 순간에 일의 보람이나 쾌감을 느끼나요? 특히 카카오브레인에서 찾은 일의 기쁨이 있다면 말씀해 주세요. 

저는 문제를 분석하고 근원적인 방법으로 해결하는 것을 좋아해요. 그렇게 해야 문제를 해결한 뒤에 버그가 잘 발생하지 않거든요. 하지만 이런 방법은 시간이 오래 걸릴 수 있어 일반적으로 회사에선 잘 지켜지지 않는 방법이기도 해요. 하지만 카카오브레인에서는 문제에 관한 설명과 해결 방법을 충분히 공유한다면 문제를 분석하고 근원적인 해결법을 찾는 시간을 보장받을 수 있어요. 예를 들어, 작년에 애니모지를 구현하기 위해 모핑이라는 기술을 개발해야 했었는데요. 모핑을 동작만 하도록 구현할 수도 있었지만, 그 방법은 유지보수 측면에서 좋지 않다고 생각했어요. 팀과 회사에 해결 방법을 공유한 뒤 충분한 시간을 확보할 수 있었고 결과적으로 제대로 된 모핑을 구현했죠. 이런 구현 사항은 구글 오픈 소스인 Filament에 반영되어 많은 사람에게 도움을 주기도 했어요. 저는 이런 순간에 보람을 느껴요. 또 이렇게 일할 수 있는 모든 순간이 카카오브레인에서 일하며 얻는 기쁨입니다.

Q. 마지막으로, 팀 리더로서 합류하게 될 미래의 크루에게 하고 싶은 말이 있다면 얘기해주세요.

처음 얘기했던 Trident 얘기를 조금 더 해볼게요. 최근 ML Optimization팀이 공개한 Trident는 GPU에 매우 최적화된 커널로 구현되어 있고 딥러닝 모델 훈련에 필요한 연산들을 제공해요. 아래 그림은 Trident와 PyTorch에서 제공하는 AdaptiveAvgPool2d의 성능을 비교한 그래프인데요, 출력 크기에 따라 차이가 있지만 Trident의 성능이 PyTorch보다 최대 약 47배 빠른것을 확인할 수 있어요. 또 Trident는 PyTorch와 동일한 추상화 레벨을 제공하기 때문에 PyTorch를 사용할 수 있는 개발자라면 누구나 쉽게 사용할 수 있죠. ML Optimization팀에 합류하면 이런 멋진 성과를 내는 경험을 앞으로도 더 많이 하게 될 거예요. 회사의 방향과 자신의 방향이 잘 맞는다면 카카오브레인은 지금 가장 핫한 AI라는 분야에서 최고의 성과를 낼 수 있는 최고의 회사라고 말할 수 있어요.

📍Krew Interview 시리즈 

② “카카오브레인의 도전은 말 그대로 진짜 ‘도전’이에요” – 언어모델 사업실 부문장 클린트 → 바로가기

③ “영입은 누군가의 삶 전반에 영향을 미치는 일이라고 생각해요” – Talent Acquisition팀 제이니 → 바로가기

④ “카카오브레인은 AI 신약연구 및 개발이라는 흐름에 제법 빨리 뛰어든 플레이어예요.” – AI 신약연구팀 리안 → 바로가기