*MLOps Insight를 혹시 포워딩 받으셨다면 여기에서 구독하실 수 있습니다.

안녕하세요, MLOps Insight 11호로 인사드려요.😊

이제 Endemic이라는 말을 믿을 수 있을 정도로 활기찬 분위기가 곳곳에서 느껴지네요! Superb AI도 다양한 커뮤니티 활동을 하며 활기차고 바쁘게 지냈습니다.😽 지난달 말 San Jose에서 열린 컴퓨터 비전 서밋에 참가해서 Modern Computer Vision Stack for DataOps를 발표했고 AWS 서밋에서 나만 알기에 아까운 AWS Step Functions 사용법 을 발표했어요. 그리고 ML팀장의 일이라는 주제를 다루었던 커뮤니티 밋업 데이터라운드테이블 2회도 성공적으로 마무리 했고요. 다시보기 링크를 뉴스레터 하단에 넣었으니 놓치신 분들은 참고하세요! 📹

더불어, ML기술이 고도화될수록 DataOps 영역의 중요성에 주목하게 될 거라는 확신으로 더 강력한 데이터셋 관리 및 모델 성능 고도화를 위한 데이터 관련 의사결정과정을 돕는 기능들을 열심히 준비해오고 있습니다. 열심히 달려 얼른 보여드리도록 할게요!
이번 뉴스레터도 재밌게 읽어주시고 피드백 기다릴게요! 🙏

한 달에 한 번, Superb AI는 MLOps Insight를 통해 Global MLOps, Data-centric AI, DataOps 트렌드와 유익한 소식을 보내드리고 있습니다. MLOps Insight는 PC버전에 최적화 되어 있습니다.

Spotlight✨

본 글은 Things that kill MLOps 를 번역 및 편집한 것으로 자세한 내용은 원글을 참고해주세요.

MLOps를 망치는 것들 🔧

오늘날 ML 모델은 공개 데이터셋을 사용하고 노트북에서 학습됩니다. 이 중 대부분이 프로덕션 단계까지 가지 못하고 좌절되는 건 놀랍지 않죠. 오퍼레이션에는 자동화가 필수고 데이터와 모델을 연결하는 이 피드백 루프를 자동화하지 못한다면..글쎄요. 😓

좋은 소식은, MLOps가 이에 대한 해답일 것이란거고 나쁜 소식은, 아직 이 세계에는 허풍이 잔뜩 껴 있다는 것이죠. 제가 생각하는 MLOps를 망치는 3가지를 소개합니다.

1. 익숙한 툴

MLOps에 대해서 제가 좀 신경쓰이게 하는 한가지는 "익숙한" 툴들을 사용해서만 문제를 풀려는 시도입니다. 제가 좋아하는 책 중 하나인 "Practical MLOps" 는 Git 사용법, CI/CD, Docker, Terraform 등과 같은 ML을 자동화하기 위한 훌륭한 조언들을 담고 있는데요. 이런 실용적인 측면의 내용들을 제가 사랑하는 만큼, 이런 것들이 기껏해야 일시적인 해결책에 불과하다는 생각도 듭니다. 왜냐고요?
책에서 소개하는 그 어떤 툴들도 기본적으로 데이터를 위해 설계되지 않았어요. 데이터 워크플로우를 위해 작동하지 않죠. 이러한 도구들을 함께 사용하는 것에 대해 한가지 확신할 수 있는 것은 복잡도를 증가시킨다는 거예요. 데이터 과학자는 엔지니어와 협력해야 하는 과정에서 이러한 복잡도를 처리해야하는 난제를 어떻게 처리할까요? 개발자가 DevOps를 통해 IT부서의 개입 없이 배포를 할 수 있게 되었습니다. 과연 데이터 과학자도 엔지니어 없이 이러한 도구들로 모델을 배포할 수 있을까요?

2. 플랫폼

소위 말하는 'end-to-end' 플랫폼 (SageMaker, Vertex AI, DataBricks 그리고 등등)에 대해 말하고 싶어요. 동일한 플랫폼 내의 서비스들을 사용하기에 더 나은 제품 경험을 고객에게 제공할 수 있다고 믿을 수도 있죠. 하지만 단 하나의 플랫폼 내의 여러 솔루션을 제공함으로써 고객을 하나의 생태계에 가두는 것이 될 수 있습니다. 그리고 이렇게 되는 이유는, 그 플랫폼 서비스들이 이익을 최대화하는 데만 목적을 두기 때문인거죠. 대부분의 벤더사는 기능을 축적한다는 원죄를 가지고 있습니다. 디터람스의 10가지 디자인 원칙이 떠오르네요. 그 중 하나는 좋은 디자인은 정직하다는 것인데요. 정직한 것이 혁신을 만드는 것은 아니지만 혁신보다 더 중요한 무언가 이기도 하죠. 사용자들을 우롱하지 않는 것 말입니다. 시간이 흐르면서, 플랫폼에서의 사용자 경험은 포화되기 마련이고 이는 (한 영역을 전문화하여 고객의 경험을 극대화해줄 수 있는 버티컬 플랫폼과 비교되는) 약점이기도 합니다.

3. 미학의 부족

저는 올드 스쿨의 미학이 정말 그립습니다. 제가 확신하는데, 이건 저에게만 해당되는 이야기가 아닐거예요. 여러가지를 다 합쳐놨다고 해서 더 나은 솔루션이 되는 것이 아닙니다. 처음부터 철저하게 설계되지 않았거나 일관성이 없으면 얼마나 많은 기능이 있는지와는 무관하게 사용성이 매우 떨어집니다. 미학은 단순함 그 이상이에요. 그것은 툴을 빠르게 습득하고 익혀, 문제 해결을 하도록 하는 일관성에 관한 것입니다.

덧) Superb AI도 MLOps KR 커뮤니티에서 했던 Suite를 만들어가는 과정에 대한 발표에서 MLOps에 참여하는 다양한 유저를 위해 사용성을 갖춘 툴을 만드는 것의 중요성에 대해 언급하기도 했었죠.✏️

"머신러닝의 근간인 데이터를 다루고 복잡한 시스템 위에서 일어나는 의사결정을 효율적으로 하기 위해서는 MLOps에 참여하는 여러 유형의 실무자 모두가 머신러닝 데이터 플랫폼을 사용하는 데 어려움이 없어야 합니다. 누구라도 도구를 직관적으로 이해할 수 있도록 친근한 UX와 인터페이스를 제공하는 일은 실무자들 간의 마찰을 줄이고 궁극적인 목표에 효과적으로 도달하는 데 지대한 영향을 끼칠 수 있다는 것을 경험으로 배웠기 때문에 Suite를 만드는 과정에 있어 이러한 부분에도 노력을 기울이고 있습니다."

Superb AI Insight ✨

라벨링 자동화 도입 고민, 아직도?

자동화 라벨링은 효율을 중시하는 ML팀에게 당연한 선택지입니다. 데이터 라벨링 자동화 도입, 아직도 고민중이시라면 이 블로그에서 깔끔하게 정리해드립니다. 자동화 라벨링을 사용해서는 안되는 두 가지 예외 케이스도 놓치지 마세요.

Superb AI가 The Sequence에!

AI 및 데이터과학 업계의 유명 뉴스레터 The Sequence에서 현수님의 인터뷰가 실렸습니다. 대량 데이터에 대한 의존도를 낮추고 고품질 데이터를 중요하게 여길 미래를 준비하는 Superb AI의 차별화 포인트가 궁금하시다면 읽어보세요!

그 외 흥미로운 이야기들

이미지 임베딩을 통한 이미지 분석

이미지를 컴퓨터가 이해할 수 있는 정형화 시키는 전처리 과정 중 하나인 이미지 임베딩은 효과적인 비전 데이터의 관리를 위해서 매우 중요합니다. 사전훈련된 신경망을 통해 이미지 임베딩을 진행하고 오픈소스 툴인 Oragne에서 이미지 분석 과정을 담은 글을 공유합니다. 임베딩에 대한 더욱 상세한 내용이 궁금하시다면 The definitive guide to embeddings도 읽어보세요!

2022년 Best AI Paper 모음집

W&B가 서포트하는 2022년의 주목할만한 논문 모음집을 소개합니다. 이미 여기 있는 논문을 모두 마스터하셨다면..인정👍 논문은 계속 추가됩니다!

(세미나) MLOps와 높은 진입장벽

AI 서비스를 하는 서비스 운용이 어려운 이유, MLOps 에서 높은 진입 장벽을 느끼는 이유와 이를 어떻게 단계적으로 풀어나갈 수 있을지에 대한 세미나가 5월 24일 화요일 저녁 유투브로 진행됩니다.

📔Chip Huyen의 Designing Machine Learning System 출간 소식!

스탠포드 강의 CS329S를 준비하여 썼던 이 블로그로 책을 미리 살펴보세요.

합성데이터로 모델성능을 올려봤습니다만

합성데이터가 모델 성능에 긍정적 영향을 줄 수 있을까요? 저자의 결론은 Yes! 하이퍼 파라미터 튜닝보다는 훨씬 효과가 좋았다고 말합니다. 초기 시도에 실패한 뒤 진행한 재실험에서 놀라운 결과를 얻었는데요. 그 과정에서의 배움을 함께 보시죠. 합성데이터에 대해 더 자세히 알고 싶은 분은 이 논문을 참고하세요.

Tesla AI팀에서 배운 9가지 교훈

컴퓨터 비전 영역에서의 자타공인 Tesla의 행보를 보며 얻은 9가지 교훈이 정리된 블로그입니다. 특히 프로덕션에서 딥러닝을 사용해야 하는 경우 데이터와 컴퓨팅의 효과적 사용 방법에 대한 고민에 시간을 할애해야 한다는 것에 밑줄 그었어요. 데이터 획득과 사용에 드는 평균 비용을 무시할 수 있을 때까지 이런 고민을 멈추지 말아야 한다고 하는군요!

객체탐지 데이터셋 대방출

여러 다양한 객체탐지 데이터셋과 그 알고리즘을 활용해볼 수 있는 간단한 튜토리얼을 담은 레파지토리를 소개합니다.

세종대 2022 기계학습 강의자료 공개!

데이터라운드테이블 다시보기 📹

Superb AI의 커뮤니티 밋업 데이터라운드테이블 2회가 지난 4월 27일 성공적으로 마무리되었습니다. 좋은 콘텐츠를 많은 분들과 함께 보기 위해 녹화 영상을 공개합니다.

#1. 서로 다른 프로덕션 ML팀에서 일한 경험을 토대로, 다양한 팀과 기대 역할 속에서 방향성과 목표를 찾아가는 여정을 페르소나 비유를 통해 재밌고 유익하게 발표해주신 카카오엔터프라이즈 민우 팀장님의 <프로덕션 ML팀에서 일한다는 것 : 세 개의 ML팀 이야기>

#2. 팀장으로서 팀을 성장시키기 위한 노력들이 담긴 매니지먼트 노트를 공개하며 팀장으로서의 성장과 개인으로서의 성장 사이에서의 고민을 솔직히 보여주신 네이버 클로바의 재욱 팀장님의 <AI 모델팀 매니지먼트 노트 : 팀의 성장과 나의 성장 사이에서>