Amazon Bedrock에서 프롬프트 캐싱 효과적으로 사용하기

Amazon Bedrock과 Amazon Nova를 활용한 애니펜의 빠르고 비용 효율적인 AI 서비스 개발 여정

애니펜은 AI, AR, XR 등 첨단 기술을 접목한 커머스 및 XR 플랫폼을 개발하며 차별화된 생태계를 구축하고 있습니다. 베리모지는 Amazon Bedrock 기반의 Amazon Nova 모델을 도입해 컨텐츠 생성, 분석 속도를 크게 향상시켰으며, 시스템 효율성을 높였습니다. 인공지능 모델을 활용한 이미지 분석과 개인화 콘텐츠 생성이 가능하며, 컨테이너 크기와 처리 시간이 대폭 단축되었습니다. 이를 통해 실시간, 고품질의 사용자 경험을 제공하고 인프라 비용도 절감하였습니다. 지속적인 기술 혁신을 통해 더욱 다양한 콘텐츠와 서비스 확장을 추진하고 있습니다.

Why Docker Chose OCI Artifacts for AI Model Packaging

Docker Model Runner는 대형 언어모델(LLM)을 OCI 표준 아티팩트로 패키징하여 컨테이너 워크플로우와 통합합니다. 이를 통해 모델 공유와 배포가 기존 컨테이너 이미지를 사용하는 것과 동일한 방식으로 이뤄지며, 보안과 확장성이 향상됩니다. 커스텀 아티팩트 타입은 모델 메타데이터와 비압축 파일을 활용하여 성능과 유연성을 높이고, 모델과 추론 엔진을 분리할 수 있게 합니다. 앞으로 추가 런타임 옵션과 멀티모달 지원 등 예측가능한 기능 확장이 계획되어 있습니다. 이 방식은 AI 개발의 접근성과 작업 효율성을 크게 향상시킵니다.

AWS에서의 MTU, MSS 이해

이 글은 AWS 클라우드 내 네트워크에서 MTU와 MSS 조정의 중요성, 클라이언트-서버 간 협상, MSS 클램핑, PMTUD 작동 원리를 분석합니다. 점보 프레임(9001바이트)을 활용하려면 네트워크 경로 전반의 MTU 일관성과 적절한 MSS, 클램핑, PMTUD 설정이 필수입니다. NLB, ALB, GWLB 등 서비스별 MSS 처리 차이와, VPC 피어링 및 TGW 간 MSS 지원 차이를 사례 기반 패킷 분석으로 검증합니다. 특히, ICMP 메시지 등 동적 MTU 조정 메커니즘을 통해 최적화된 데이터 전송 환경을 설계하는 방법을 설명합니다. 결국, 복잡한 클라우드 네트워크 환경에서도 안정적이고 효율적인 점보 프레임 활용이 핵심임을 강조합니다.

AWS 클라우드 기반의 원격 스트리밍 프로토콜, Amazon DCV -2

이 블로그는 Amazon DCV와 Amazon AppStream 2.0의 차이점, 주요 기능, 아키텍처, 비용 구조를 상세히 설명하며, 특히 HPC 및 CAE/CAD 환경에 적합한 Amazon DCV의 구현 사례와 성능 최적화 기능을 강조합니다. EC2 인스턴스 기반의 유연한 구성과 적응형 디스플레이, 멀티 모니터, 오디오 지원 등 원격 사용자 경험 향상 기술을 소개하며, 데이터 전송 비용과 라이선스 정책도 함께 다루어 효율적인 도입 방안을 제시합니다. 또한, NICE EnginFrame 종료 이후 대안으로 RES 활용 방안도 안내해 실무에 유용한 정보를 제공합니다.