나이지리아의 많은 소규모 의류 판매자들은 WhatsApp 상태를 사용하여 제품을 전시합니다. 이 과정에서 가장 번거로운 부분은 각 품목마다 고유한 캡션을 작성하는 것입니다. 이 프로젝트인 CaptionBot은 이 작업을 자동화하는 것을 목표로 합니다. 판매자는 입력 또는 음성을 통해 품목을 설명할 수 있으며, CaptionBot은 게시 준비가 된 WhatsApp 캡션을 생성합니다. 목표는 일반적인 AI 비서가 아닌, 특정 문제에 대한 작고 집중된 솔루션입니다.CaptionBot 애플리케이션은 가볍고 Python으로 실행되며, 캡션 생성을 위해 Gemma 3 1B를 로컬에서 활용합니다. Chrome의 음성 입력 기능을 통해 음성 입력을 지원하며, 전처리 단계를 거쳐 전사 오류를 수정합니다. Gemma는 언어를 처리하고, 사용자 정의 코드는 규칙을 적용하고 생성된 콘텐츠를 검증합니다. 작고 로컬 모델을 선택함으로써 판매자의 데이터 비용을 최소화합니다.발생한 중요한 과제 중 하나는 모델이 입력에 제공되지 않은 가격과 같은 세부 정보를 만들어내는 것이었습니다. 이는 프롬프트의 오해의 소지가 있는 예시 때문이었습니다. 전사 오류 또한 문제를 일으켰으며, 일부 단어가 잘못 해석되었습니다. 이러한 문제는 프롬프트를 개선하고, 오해의 소지가 있는 예시를 제거하고, 가격과 같은 중요 정보에 대한 코드 수준 검증을 추가하여 해결되었습니다.이 프로젝트는 모델의 동작과 애플리케이션의 논리를 직접 제어할 수 있도록 하여 개방형 혁신을 강조합니다. 이 접근 방식은 호스팅된 모델과 관련된 사용당 API 비용을 피합니다. 다음 중요한 단계는 실제 판매자와 함께 사용자 테스트를 수행하여 선호도, 언어 처리 및 워크플로우의 다른 측면에 대한 피드백을 수집하는 것입니다. 이 피드백은 CaptionBot을 사용자가 진정으로 설계한 도구로 만들 것입니다. 이 상은 로컬의 실용적인 문제 해결을 위해 Gemma를 혁신적으로 사용한 것을 인정합니다.