AI 비서 '캐시니' 서비스 구축 및 수익화
2025.05 ~ 2025.09 | 데이터실 AI TF 겸직
사장님들의 질문에 응답하는 AI 비서 서비스 구축 및 구독 모델 적용. LLM 기반 대화형 AI 서비스로 사업자의 경영 질문에 답변을 제공합니다.
- 레이턴시 개선: SSE(Server-Sent Events) 기반 스트리밍 아키텍처 적용으로 초기 응답 속도 30% 단축
- 운영 효율화: 구독 등급별 쿼터 제한 및 어뷰징 탐지로 API 비용 누수 차단
- Observability: Langfuse 도입으로 토큰 사용량 및 답변 품질 실시간 추적 환경 구축
- 통합어드민: 후평가, 추천질문, 프로모션 관리 기능으로 운영 효율화