비디오

[팀네이버 컨퍼런스 DAN25] 검색 서비스에 최적화된 LLM 만들기: 데이터, 학습, 서비스 적용 사례

네이버 NAVER2025년 11월 27일

[팀네이버 컨퍼런스 DAN25] 검색 서비스에 최적화된 LLM 만들기: 데이터, 학습, 서비스 적용 사례 범용 LLM은 강력하지만 매일 수십억 건의 질문과 답을 다루는 실제 검색 서비스에 그대로 적용하기에는 한계가 있다. 본 발표에서는 "검색 서비스 특화 LLM"을 만들고 실제 서비스에 적용해본 경험담을 공유한다. 검색 로그에서 출발한 데이터 가공 레시피 적용과 다양한 데이터 조합 실험, 특히 기존 범용 성능을 유지하면서도 서비스 맞춤 기능을 끌어올린 실험 결과와 데이터 최적화 노하우를 공유한다. 실제 서비스 적용 관점에서는 보다 신뢰성있는 검색 결과를 사용자에게 제공하기 위한 AuthGR과 전통적인 정보 검색 과정을 하나로 통합해 제시하는 AI briefing 을 소개한다. 이를 통해 범용 LLM 대비 검색 서비스 특화 모델의 효용성을 확인할 수 있으며, 네이버가 검색 품질 개선을 위해 갖고있는 고민과 앞으로의 방향성을 엿볼 수 있다. 목차 1. 서비스 특화 LLM 의 필요성 - 검색 서비스에서의 LLM 활용 현황 - General 모델의 한계 및 서비스 특화 모델만의 강점 - 데이터, 학습, 평가 측면에서의 구축 방향 2. Search LLM 개발기 - 2.1 데이터 구축 및 학습 과정 데이터 수집 및 전처리 학습 Stage 별 데이터 적용 방법 성능 강화를 위한 합성 데이터 구축 - 2.2 성능 강화를 위한 다양한 실험 학습 데이터 조합에 따른 성능 변화 Instruction Following, Function Calling 강화 실험 검색 서비스 벤치마크 향상 결과 3. 서비스 적용 사례 3.1 AuthGR - AuthGR 서비스 소개 - 단계별 모델링: CPT → SFT → RL - Search-LLM의 기여와 효과 3.2 AI 브리핑 - 실시간 AI 브리핑 서비스 소개 Follow-Up Question Generator Response Generator Response Validator - 태스크별 모델링 방법론과 Search-LLM 효과 #DAN #DAN25 #TEAMNAVERCONFERENCE