혁신을 위한 설계

넥스트 스텝으로 나아가는 AI/ML GenAI 서비스 주요 특징을 알아보세요. 탁월한 성능과 가격 경쟁력을 갖춘 파운데이션 모델 Amazon Nova부터, 완전히 새로워진 Amazon SageMaker, 한층 강화된 Amazon Bedrock과 Amazon Q까지, AWS의 GenAI 서비스가 가져올 새로운 가능성을 자세히 공유합니다.

발표자: 
류하선 AI/ML 스페셜리스트 솔루션즈 아키텍트, AWS

생성형 AI 프로젝트를 도입함에 있어서 ROI(투자수익률)는 점차 핵심적인 의사결정 요소가 되고 있습니다. 본 세션에서는 고객이 테스트의 단계에서부터 실제 프로덕션 워크로드로 가는 여정에서 생성형 AI 프로젝트의 ROI를 측정하기 위해 고려해야할 요소들을 예시 사례와 함께 살펴봅니다. 또한 생성형 AI 프로젝트의 ROI를 최적화 하기 위해 고려해야할 모범 사례와 인사이트도 알아 봅니다. 

발표자: 
백선환 시니어 AI/ML Sales 스페셜리스트, AWS

기업은 각 워크로드 특성에 맞는 지식 저장소를 기반으로 RAG(Retrieval-Augmented Generation)를 구성하여 업무 생산성을 향상시키고 다양한 데이터에서 인사이트를 얻을 수 있습니다. 본 강연에서는 4천만명 이상의 멤버십 회원을 보유한 롯데멤버스에서 내/외부 데이터를 활용하여 트렌드 예측, 멀티 세그먼트 결합 분석, 보고서 작성 등을 효과적으로 수행하기 위해 Amazon Bedrock을 기반으로 RAG를 구축한 사례를 살펴봅니다. 또한 해당 사례를 통해 금융권에서 안전하게 생성형 AI를 활용할 수 있는 방법에 대해 알아봅니다.

발표자: 
최용호 솔루션즈 아키텍트, AWS
하은하 AI추진팀 매니저, 롯데멤버스

본 강연에서는 AWS re:Invent 2024에서 소개된 Amazon Q in QuickSight의 기능을 중점적으로 소개합니다. 이 혁신적인 통합은 QuickSight와 Amazon Q Business 사이의 경계를 효과적으로 허물어, 구조화된 데이터와 비구조화된 데이터에 대한 통합된 인사이트를 제공합니다. 데이터 레이크, 데이터베이스, 데이터 웨어하우스뿐만 아니라 문서 저장소, 웹사이트, 메시지 등 다양한 소스의 데이터를 단일 플랫폼에서 분석하는 방법을 자세히 살펴봅니다. 

발표자: 
김도균 AI/ML GTM 스페셜리스트, AWS
김지유 솔루션즈 아키텍트, AWS 

본 강연에서는 Amazon Q Developer의 새로운 혁신적인 기능들을 다양한 실제 데모와 함께 소개합니다. 코드 개발을 지원하는 AI 에이전트부터, 자동화된 코드 이슈 감지 및 수정, 프로젝트의 문서화와 시각화까지, 개발자의 일상을 더욱 효율적으로 만드는 다양한 기능들을 만나보실 수 있습니다. 해당 세션을 통해 개발 시간이 획기적으로 단축되고 코드 품질이 향상되는 방법을 자세히 살펴봅니다.

발표자: 
한정호 솔루션즈 아키텍트, AWS 

본 강연에서는 AWS re:Invent 2024에서 소개된 Amazon Nova 모델을 활용하여 복잡한 생성형 AI Application을 Agentic Workflow로 구현하는 방법을 소개합니다. 이를 통해 Tool use, Reflection, Planning, Multi-Agent Collaboration와 같은 Agentic workflow 패턴을 구현하고 이를 이용해 복잡한 어플리케이션을 개발할 수 있는 방법을 자세히 살펴봅니다.

발표자: 
박경수 솔루션즈 아키텍트, AWS 
황장환 솔루션즈 아키텍트, AWS 

다양한 데이터를 AI로 분석하고 통합하는 것은 모든 기업들에게 큰 도전과제입니다. 특히 비정형 데이터와 구조화된 데이터를 함께 처리하고 의미있는 인사이트를 도출하는 것은 많은 시간과 전문성이 필요했습니다. 본 강연에서는 Amazon Bedrock의 혁신적인 새 기능들을 활용해 기업의 다양한 데이터를 통합적으로 처리하는 방법을 소개합니다. Amazon Bedrock Data Automation을 통해 문서, 이미지, 오디오, 비디오 등 다양한 비정형 데이터를 자동으로 분석하고 구조화하는 방법, Knowledge Base의 멀티모달 데이터 처리 기능으로 텍스트와 시각적 요소를 함께 이해하는 방법, 그리고 GraphRAG를 활용해 더 정확한 인사이트를 도출하는 방법을 함께 살펴봅니다.

발표자: 
김제삼 솔루션즈 아키텍트, AWS 

본 강연에서는 Amazon Bedrock의 Evaluation 및 Guardrail 기능과 API Gateway를 활용하여 안전하고 책임감 있는 생성형 AI 애플리케이션을 구현하는 방법을 종합적으로 다룹니다. 프로덕션 환경에서의 안전한 생성형 AI API Gateway 아키텍처 구성, Amazon Bedrock의 서버리스 기반 파운데이션 모델 선택, API Gateway 통합을 통한 보안 강화, 그리고 테넌트 구분 및 모니터링 전략을 소개합니다. 또한, Amazon Bedrock의 평가 기능을 활용한 애플리케이션 최적화 방법, Model Evaluation을 통한 최적 모델 선택, LLM-as-a-judge 기능을 이용한 성능 향상, 그리고 Bedrock Guardrail의 automated reasoning 검사를 통한 AI 환각 방지 기술을 설명하여, 안전하고 효과적인 생성형 AI 시스템 구축 방법을 소개합니다.

발표자: 
한태경 솔루션즈 아키텍트, AWS 
렌 솔루션즈 아키텍트, AWS 

본 강연에서는 AWS 전용 실리콘 칩인 Trainium과 Inferentia의 비용 효율성과 기술적 특징을 소개합니다. 이를 바탕으로 생성형 AI를 이 AWS 전용 칩에서 학습하고 추론할 때 고려해야 할 핵심 요소들을 자세히 살펴봅니다. 또한, AWS Trainium과 Inferentia 도입을 고려하는 데 필요한 주요 인사이트를 제공하여 비용 효율적인 생성형 AI 모델 학습 방법을 실제로 적용할 수 있는 방법을 소개합니다.

발표자: 
이수지 솔루션즈 아키텍트, AWS 

Amazon SageMaker HyperPod는 클러스터 관리와 작업 스케줄링 시스템을 통해 파운데이션 모델(FM) 파인튜닝의 효율성을 높일 수 있습니다. 본 강연에서는 새롭게 발표된 Task Governance와 Training Plans & Recipes 기능을 통해 리소스 관리와 최적화된 학습 환경 구성을 더욱 효율적으로 하는 방법과 사례를 소개합니다. 또한 EKS 통합으로 1000개 이상의 AI 액셀러레이터를 활용한 40% 더 빠르게 학습하고, HyperPod 클러스터 운영과 CloudWatch 기반 모니터링 방법을 통해 기업의 AI 워크로드를 효율적으로 관리하는 방법을 알아봅니다.

발표자: 
임연욱 솔루션즈 아키텍트, AWS 
조소현 솔루션즈 아키텍트, AWS 

본 강연에서는 Amazon SageMaker Unified Studio가 AI/ML 개발 프로세스를 혁신적으로 변화시키는 방법을 살펴봅니다. 단일 웹 인터페이스로 데이터 분석 및 AI 도구를 통합하여 효율성을 높이고, 다양한 인증 방식으로 보안과 편의성을 제공하는 이 플랫폼의 주요 기능을 소개합니다. Amazon Bedrock, Amazon Q 등 최신 AI 기술 활용법, 데이터 레이크와 웨어하우스 통합을 통한 ML 애플리케이션 구축, 시각적 ETL 도구를 이용한 생산성 향상 방법을 다룹니다. 참가자들은 SageMaker Unified Studio를 통해 AI/ML 개발의 효율성, 기술 활용, 데이터 통합, 사용 편의성을 극대화하는 방법을 소개합니다.

발표자: 
곽영화 솔루션즈 아키텍트, AWS 

본 강연에서는 Amazon Bedrock의 모델 커스터마이징 기능을 활용한 효율적이고 경제적인 AI 모델 구축 방법을 소개합니다. 새롭게 출시된 Model Distillation을 통해 대형 모델의 성능을 유지하면서 더 빠르고 비용 효율적인 소형 모델을 만드는 과정을 설명합니다. 또한 파인튜닝과 Continued Pre-Training 기법을 사용해 라벨링 및 비라벨링 데이터로 작업별 성능을 개선하고 도메인 지식을 확장하는 방법을 다룹니다. 이러한 기법들을 통해 ML 전문 지식 없이도 효과적인 AI 모델을 구축할 수 있으며, AI 도입시 비용과 성능 사이의 균형을 맞추며 효율적으로 관리하는 방법을 소개합니다.

발표자: 
이유정 솔루션즈 아키텍트, AWS