Etsy의 마켓플레이스는 수백만 개의 독특하고 수제 상품을 다양한 판매자로부터 제공하지만, 비정형 데이터 정리에 어려움을 겪고 있습니다. 기존의 상품 속성 추출 방식은 다양한 재고와 제한적인 정형 데이터로 인해 어려움을 겪었습니다. 대규모 언어 모델(LLM)은 비정형 상품 정보를 정형 데이터로 변환할 수 있는 새로운 기회를 제공했습니다. Etsy는 속성 추출 정확도를 향상시키기 위해 컨텍스트 엔지니어링에 초점을 맞춘 LLM을 활용하는 확장 가능한 파이프라인을 개발했습니다. 이 파이프라인은 판매자가 제공한 데이터, 전문가 예시, 그리고 Etsy의 분류 체계를 활용합니다. LLM 출력 평가는 '실버 라벨' 생성과 품질 관리를 위한 도메인 전문가 활용을 포함합니다. 추론 과정은 속성을 추출하고, 지역 라우팅을 위해 LiteLLM을 사용하며, 데이터 유효성 검사를 위해 Pydantic을 사용합니다. 강력한 모니터링 시스템은 파이프라인 상태와 모델 성능 지표를 추적합니다. LLM으로 생성된 속성을 검색 필터에 적용함으로써 구매자 참여와 전환율이 향상되었습니다. Etsy는 LLM의 활용을 확대하여 쇼핑 및 판매 경험을 더욱 개선하고자 합니다. 궁극적인 목표는 구매자와 판매자의 요구를 최대한 효율적으로 충족시키는 것입니다.