1. Store språkmodeller (LLM) har oppnådd suksess i ulike NLP-oppgaver, men kan ikke alltid generalisere godt til spesifikke domener eller oppgaver. 2. Tilpassing av en LLM kan gjøres ved hjelp av prompt engineering, Retrieval Augmented Generation (RAG) eller fine-tuning, og evaluering er nødvendig for å sikre at tilpassingsprosessen har forbedret modellens ytelse. 3. Fine-tuning av en LLM kan være et komplekst arbeidsflyt for data scientists og ML-ingeniører å operationalisere, og bruk av Amazon SageMaker med MLflow og SageMaker Pipelines kan forenkle dette prosessen. 4. MLflow kan håndtere sporings av fine-tuning-eksperimenter, sammenligne evalueringresultater av forskjellige kjøringer, modellversjonering, utrulling og konfigurasjon. 5. SageMaker Pipelines kan orkestrere flere eksperimenter basert på eksperimentkonfigurasjonen. 6. Forutsetninger for denne prosessen inkluderer en Hugging Face-innloggings-token og SageMaker-tilgang med nødvendige IAM-rettigheter. 7. For å sette opp en MLflow-sporingsserver, trenger du å opprette en server med et navn, et lagringssted for artefakter og det kan ta opp til 20 minutter å initialisere og bli operativ. 8. For fine-tuning av en LLM, kan du bruke SageMaker Pipelines til å kjøre flere LLM-eksperiment-iterasjoner samtidig, hvilket reduserer den totale prosesseringstiden og kostnadene. 9. MLflow-integrering med SageMaker Pipelines krever sporingsserver-ARN og å legge til mlflow og sagemaker-mlflow Python-pakker som avhengigheter i pipelineoppsettet. 10. Logging av datasett med MLflow muliggjør sporings og reproduserbarhet av eksperimenter over forskjellige kjøringer, noe som tillater mer informert beslutningstaking om hvilke modeller ytter best på spesifikke oppgaver eller domener.