네트워크 기반 Compose Preview가 안보인다면?

Amazon Bedrock과 Amazon Nova를 활용한 애니펜의 빠르고 비용 효율적인 AI 서비스 개발 여정

애니펜은 AI, AR, XR 등 첨단 기술을 접목한 커머스 및 XR 플랫폼을 개발하며 차별화된 생태계를 구축하고 있습니다. 베리모지는 Amazon Bedrock 기반의 Amazon Nova 모델을 도입해 컨텐츠 생성, 분석 속도를 크게 향상시켰으며, 시스템 효율성을 높였습니다. 인공지능 모델을 활용한 이미지 분석과 개인화 콘텐츠 생성이 가능하며, 컨테이너 크기와 처리 시간이 대폭 단축되었습니다. 이를 통해 실시간, 고품질의 사용자 경험을 제공하고 인프라 비용도 절감하였습니다. 지속적인 기술 혁신을 통해 더욱 다양한 콘텐츠와 서비스 확장을 추진하고 있습니다.

GitHub Copilot Spaces: Bring the right context to every suggestion

GitHub Copilot Spaces는 특정 맥락(코드, 문서, 대화 등)을 보관하고 공유할 수 있는 기능으로, AI가 조직 맞춤형 답변을 제공하도록 도와줍니다. 이를 통해 잘못된 추측을 줄이고 코드 품질과 업무 효율성을 높일 수 있습니다. 사용자 환경에 맞춘 지침과 첨부파일을 활용하여 자동화와 지식 공유를 쉽게 할 수 있습니다. 다양한 실무 사례를 지원하며, 향후 이슈/PR 연동 및 IDE 통합이 예정되어 있습니다. 무료로 공개된 베타 기능으로, 쉽게 시작하고 협업 역량을 강화할 수 있습니다.

Why Docker Chose OCI Artifacts for AI Model Packaging

Docker Model Runner는 대형 언어모델(LLM)을 OCI 표준 아티팩트로 패키징하여 컨테이너 워크플로우와 통합합니다. 이를 통해 모델 공유와 배포가 기존 컨테이너 이미지를 사용하는 것과 동일한 방식으로 이뤄지며, 보안과 확장성이 향상됩니다. 커스텀 아티팩트 타입은 모델 메타데이터와 비압축 파일을 활용하여 성능과 유연성을 높이고, 모델과 추론 엔진을 분리할 수 있게 합니다. 앞으로 추가 런타임 옵션과 멀티모달 지원 등 예측가능한 기능 확장이 계획되어 있습니다. 이 방식은 AI 개발의 접근성과 작업 효율성을 크게 향상시킵니다.

Behind the scenes: How we designed Docker Model Runner and what’s next

Docker Model Runner는 AI 모델을 로컬에서 컨테이너와 호스트에서 실행할 수 있도록 설계된 오픈소스 솔루션입니다. 다양한 백엔드(예: llama.cpp, vLLM)와 OpenAI API 호환성을 지원하며, GPU 가속과 모델 API를 우선시합니다. Docker Desktop과 Docker CE에서 통합되었으며, 향후 GUI, API 확장 및 Kubernetes와의 연동 계획이 포함되어 있습니다. 구조는 모델 저장소, 러너, CLI 세 부분으로 모듈화되어 있으며, 플랫폼별 최적화와 오픈소스 기여를 적극 추진하고 있습니다.