단편: 7월 13일 노트

단편: 7월 13일

소프트웨어 개발 리트릿은 LLM의 모델 어텐션을 보장하기 위한 컨텍스트 관리 중점의 Harness Engineering에 대한 관심 증가를 강조했습니다. 또한 컴퓨테이셔널 센서도 주목받고 있으며, Rust와 같은 언어와 향상된 검증 기법으로의 전환이 이루어지고 있습니다. 하네스의 미래 유용성은 불확실하지만 현재는 토큰 사용량 감소 및 약한 모델 지원과 같은 이점을 제공합니다. 토큰 비용 상승과 선도 모델 제공업체로부터의 독립성 추구로 인해 오픈 웨이트 모델의 자체 호스팅이 점점 더 매력적으로 변하고 있습니다. 정보 보안 및 데이터 주권과 같은 요인이 이러한 추세를 더욱 가속화합니다. 그러나 자체 호스팅은 GPU 인재 및 상당한 운영 비용과 같은 문제를 야기하며, 이는 프라이빗 클라우드 초창기와 유사합니다. 자체 호스팅 또는 외부 호스팅 여부에 관계없이 LLM을 효과적으로 관리하는 것은 사용자에게 적절한 모델을 선택하도록 교육하고 잠재적으로 LLM을 작업 분배를 위한 브로커로 사용하는 데 달려 있습니다. 특정 도메인에 대한 모델 미세 조정이 증가하여 보다 효율적이고 비용 효율적인 운영이 이루어질 것으로 예상됩니다. 핵심 주제는 AI 에이전트에 위임할 적절한 작업 단위를 결정하고 그 결과에 대한 신뢰를 유지하는 것이었습니다. "나에게 바위를 가져다줘"라는 개념은 AI의 인내심을 통해 반복적인 개선이 방어 가능한 워크플로우가 될 수 있음을 시사하며 재구성되었습니다. LLM을 누가 조종해야 하는지에 대한 논의는 엔지니어링 이상의 기술을 강조하며, 방법이 아닌 목표에 따라 관리하는 데 초점을 맞추도록 발전했습니다. 궁극적으로 AI를 사용하여 소프트웨어를 구축하는 것은 AI가 모델의 생성 및 이해를 완전히 아웃소싱할 수 없기 때문에 탐색과 인간의 지도를 포함합니다. Qwen 3.6과 같은 로컬 모델은 에이전트 프로그래밍에 실현 가능함을 입증하고 있으며, 강력한 모델에게 간단한 작업에 대해 더 저렴한 모델을 사용하도록 지시하는 것과 같은 전략은 비용을 통제할 수 있습니다. AI의 부상은 유료 과정의 미래 생존 가능성과 무료 고품질 콘텐츠 제작의 지속 가능성에 대한 우려와 함께 개발자 교육에 영향을 미치고 있습니다.