카카오클라우드의 NVIDIA GPU 인스턴스를 활용한 온・오프라인 AI개발자 교육 실시
AI・클라우드 기술세미나와 AI인퍼런스 부트캠프로 온오프라인 참석자들의 높은 호응과 만족도 보여
고성능 클라우드 컴퓨팅 시장의 차별화된 경쟁력을 위해 양사의 협력 관계 강화
카카오엔터프라이즈는 11일 삼성동에 위치한 카카오 강남오피스에서 ‘NVIDIA X 카카오클라우드 원데이 AI 개발자 부트캠프’를 성황리에 개최했다고 밝혔다.
본 행사는 카카오클라우드의 NVIDIA GPU 인스턴스를 활용한 온·오프라인 행사로, ‘AI와 클라우드 기술세미나’ 및 ‘카카오클라우드와 NVIDIA AI를 활용한 AI인퍼런스 부트캠프’로 나누어 진행됐다.
카카오엔터프라이즈 정용민 전략사업팀장이 1부 행사에서 카카오클라우드에 대해 소개하고 있다.
1부 행사인 ‘AI와 클라우드 기술세미나’에서는 엔비디아의 AI 솔루션 소개 및 카카오클라우드의 기술과 서비스를 주제로 한 세션이 진행되었다. 온라인으로 진행된 1부 행사는 200명 모집에 400여 명이 넘게 신청해 신청자 전원 참여로 확대 실시할 만큼 AI와 클라우드를 향한 높은 관심도를 보였다.
2부 행사는 카카오클라우드 기반 NVIDIA GPU를 활용해 거대 언어 모델 라마3(LLaMa3)의 인퍼런스 최적화 및 배포 관련 최신 기술을 실습했다. 오프라인으로 진행된 2부 행사는 깊이 있는 양질의 교육을 위해 30명으로 제한해 진행되었는데, 다양한 산업군의 개발자들이 참석해 높은 만족도를 나타냈다.
특히, 2부 행사인 부트캠프에서는 NVIDIA 의 솔루션 아키텍트가 직접 카카오클라우드 기반 환경부터 인퍼런스 실습까지 진행, 참석자들이 단시간에 AI・클라우드에 깊이 있는 이해를 도왔다. 구체적으로는 ▲KakaoCloud 실습 환경 셋업 ▲TensorRT-LLM 및 Triton Inference Server 소개 ▲TensorRT-LLM 실습 ▲최적화된 엔진 배포 실습 in Triton Inference Server ▲NIM 소개(강의) ▲NIM 실습(랩)을 진행하며 참석자들의 높은 호응을 받았다.
엔비디아 솔루션 아키텍트 홍광수 차장이 카카오클라우드 환경에서 부트캠프 실습을 진행하고 있다.
카카오클라우드와 NVIDIA 간 공동 행사 개최는 처음이지만 협력 관계는 오래전부터 지속되고 있다. 지난 5월 글로벌 슈퍼컴퓨터 TOP500에서 44위 70위에 랭크되며 글로벌 기술력을 인정받은 카카오클라우드는 고성능 클라우드 컴퓨팅을 구성하는데, NVIDIA GPU를 적극 활용하고 있다. 이처럼 생성형AI에 필요한 고성능 클라우드 컴퓨팅 기술 및 시장 성장을 위해 협력을 이어 나갈 예정이다.
이지혜 카카오엔터프라이즈 CGO(최고성장책임자)는 “NVIDIA와 공동으로 개최한 부트캠프가 참여자들의 높은 관심과 만족도를 보여 준비한 보람을 느낀다”며 “카카오클라우드 기반의 NVIDIA GPU를 활용한 교육에 더해, 고성능 클라우드 컴퓨팅 시장에서 차별화된 기술력으로 성장해 갈 수 있도록 양사의 협력 관계를 공고히 할 것”이라고 말했다.
한편, 최근 스타트업 기업의 AI・클라우드 개발 환경을 지원하기 위해 카카오클라우드 기반 스타트업 상생 프로그램 ‘로켓런처’를 공개하고 AI・로보틱스・게임 등 다양한 기술 분야의 스타트업을 모집 중이다. 신청한 모든 기업에 카카오클라우드 크레딧 및 기술지원, 카카오워크 등 다양한 혜택을 무상 제공한다.
