[팀네이버 컨퍼런스 DAN25] Bruno x AI HPC: AI 검색을 위한 AI 플랫폼 이번 발표에서는 네이버 AI 검색 서비스를 위한 AI 플랫폼인 Bruno 와 이를 뒷받침하는 AI HPC 를 소개합니다. Bruno는 네이버의 자체 LLM 및 오픈 웨이트 LLM 모델을 손쉽게 활용하도록 설계된 MaaS(Model-as-a-Service) 플랫폼입니다. 현재 AI 브리핑을 포함한 네이버 AI 검색 서비스 전반에 활용되고 있습니다. 목차 1. Bruno 소개 - AI 플랫폼 Bruno 소개 및 역할 - AI 검색 서비스 활용 사례 2. LLM 모델 서빙 - 기능 중심 인터페이스: OpenAI API 인터페이스 및 확장 인터페이스 - 처리 전략과 성능 최적화: On-demand 서빙 vs. Provisioned 서빙 - 배치 처리 기능 3. LLM 모델 파인튜닝 - 사용자 데이터 기반 Fine-tuning 지원 4. AI HPC 인프라 - 효율적인 AI 학습/서빙을 위한 아키텍처 설계 - 확장 가능한 분산 스토리지 - 고속 네트워크 구성 5. 플랫폼의 발전 방향 및 기술적 과제 - 인프라 구성 - 테스트 타임 라우팅 #DAN #DAN25 #TEAMNAVERCONFERENCE