생성형 AI 서비스를 활용하여 업무 생산성 올리기 (레벨 100-200)

AWS re:Invent 2023에서 발표된 생성형 AI 서비스들 중 Application 개발에 효율적으로 도움을 주는 Assistant 서비스인 Amazon CodeWhisperer와 Amazon Q 서비스에 대해 알아보고, 다양한 활용 사례를 데모로 확인해 봅니다.

발표자: 황장환, 솔루션즈 아키텍트, AWS
시간: 30분

Amazon Bedrock으로 쉽게 자동 고객 응대 서비스 구축하기 (레벨 100-200)

복잡한 RAG나 파인튜닝 없이 Amazon Bedrock의 한국어 지원 모델을 이용해 고객 리뷰 관리를 자동화하는 애플리케이션을 만들어봅니다. 프롬프트 엔지니어링 기법을 이용해 최종 사용자가 작성한 리뷰의 맥락과 감정을 분석하고, 사용자 맞춤의 답변을 생성하여 고도화된 개인화를 구현하는 방법을 소개합니다. 또한 라이브 데모를 통해 Amazon Bedrock 한국어 모델인 Claude 2의 작동 과정을 직접 보실 수 있습니다.

발표자: 최승원, 솔루션즈 아키텍트, AWS
시간: 30분

Prompt Engineering의 진화: Amazon Bedrock의 핵심 기법과 LangChain의 템플릿을 통한 효과적 결과 도출 (레벨 100-200)

Prompt Engineering의 발전사를 추적하며 새로운 기법들의 등장을 파악합니다. 특히, Amazon Bedrock에서 주목해야 할 핵심 기법들을 집중 조명합니다. LangChain의 Prompt Template을 활용해 일관되고 유의미한 결과 도출 방법을 살펴봅니다.

발표자: 곽영화, 솔루션즈 아키텍트, AWS
시간: 30분

툰스퀘어의 Amazon Sagemaker를 이용한 이미지 생성 모델 Lora 학습 및 추론 엔드포인트 생성 자동화 사례 (레벨 200-300)

Toonsquare(툰스퀘어)는 웹 브라우저 기반의 서비스형 소프트웨어(SaaS) AI 인공지능 웹툰 창작 플랫폼인 ‘투닝(Tooning)’ 서비스를 통해 창작 문화를 만들고 있습니다. 해당 서비스에서 사용자는 프롬프트를 클릭하거나 직접 입력하여 고해상도의 이미지를 생성하게 됩니다. 본 세션에서는 툰스퀘어가 프롬프트 입력(사용자 입력)부터 모델 배포(API 형태)까지 서비스를 구현하는 과정을 살펴보면서, Amazon SageMaker를 활용하여 자체 개발 ML 모델(GenAI 모델)을 효율적으로 학습, 배포 및 활용(API) 할 수 있었던 아키텍처 및 방법론을 알아봅니다.

발표자:
민지수, 솔루션즈 아키텍트, AWS
김원중, AI 엔지니어, 툰스퀘어
송종호, AI 엔지니어, 툰스퀘어

시간: 30분

AWS에서 GenAI RAG를 구성하기 위한 다양한 Vector Database에 대해 알아보기 (레벨 100-200)

파운데이션 모델을 사용하는 AI 서비스에 VectorDB를 활용하면 사용자에게 더 신뢰할 수 있는 최신의 정보를 제공할 수 있습니다.  Knowledge base를 활용하는 RAG 기법에 대해 설명하고, AWS에서  제공하는 다양한 Vector database 옵션과 AWS re:Invent 2023에서 새롭게 추가된 내용에 대해 간략한 데모와 함께 소개합니다. (OpenSearch and RDS/Aurora PostgreSQL, DocumentDB, MemoryDB and ElastiCache, Neptune, Bedrock knowledge base)

발표자: 전소영, 솔루션즈 아키텍트, AWS
시간: 30분

지능형 Agent로 구현하는 생성형 AI 애플리케이션 (레벨 200-300)

사용자를 대신해서 주어진 작업을 오케스트레이션하고 완료할 수 있도록 만들어지는 에이전트는 생성형 AI 활용의 새로운 방식입니다. 본 세션에서는 Agent for Amazon Bedrock을 중심으로 에이전트에 대한 이해, 동작 방식, 그리고 데모를 통한 에이전트 구성 방법을 배울 수 있습니다. 

발표자: 
김형일, 솔루션즈 아키텍트, AWS
김제삼, 솔루션즈 아키텍트, AWS

시간: 30분

Amazon Bedrock를 활용하여 Amazon Lex와 Amazon Connect로 대화형 AI 챗봇 및 콜봇 구현하기 (레벨 200-300)

Amazon Bedrock과 Amazon Lex를 활용하여 사람처럼 대화하는 AI 챗봇 상담원을 구축합니다. Amazon Connect를 이용하여 콜봇으로 구현하는 방법에 대해서도 안내드립니다. RAG 기술을 활용하여 기업의 내부 문서 기반으로 답변할 수 있는 FAQ봇을 구성하는 방법에 대해서도 안내드립니다. RAG는 opensearch와 kendra를 이용하여 구현하고 Hallucination을 최소화한 대화를 할 수 있도록 합니다. FAQ뿐만 아니라 기업 시스템 인터페이스 개발 방법에 대한 아키텍처와 구현 방법에 대해서도 알아봅니다.

발표자: 
고정현, 솔루션즈 아키텍트, AWS
김정곤, 솔루션즈 아키텍트, AWS

시간: 30분

POSCO의 복합인지 기반 실시간 스트리밍 분석 기술을 적용한 사전 재해예방 AI플랫폼 구축여정 (레벨 200)

포스코홀딩스는 Amazon SageMaker와 실시간 데이터 분석 서비스(KDA)와 CEP 기술을 이용하여 차세대 재해예방 AI플랫폼을 개발했습니다. AI플랫폼에서 구현한 능동형 사전 안전구역 규정 준수, 낙상 감지, 근접 경고 등의 자동화는 제조와 건설 기업의 가장 큰 관심사입니다. AWS와 함께 재난상황의 단계별(Hot, Warm, Cold) 예측 및 대응 시스템 구축 및 프로세스 수립하여, 예측도 증가, 프로세스 개선, 예산 절감의 개선을 획득했습니다. 이번 세션에서는 기존 재난 방지를 위한 시스템, 프로세스의 현황과 Pain Point를 시작으로, 포스코홀딩스 AI연구소의 해결방안을 소개합니다. 클라우드 기술을 활용하여 그룹사의 재해 예방 프로세스에 대한 패러다임의 변화를 위해 검토부터 준비, 실행 및 이를 통해 얻게 된 교훈과, 향후 그룹사 확대 계획에 대해 소개합니다.

발표자: 
강필모, 프로토타이핑 엔지니어, AWS
나지훈, 수석연구원, POSCO HOLDINGS

시간: 30분

파운데이션 모델의 파인 튜닝 및 대규모 모델 훈련 클러스터인 Amazon SageMaker HyperPod 배워보기 (레벨 300)

특정 생성 AI 작업들의 정확도를 높이기 위해 Amazon Bedrock, Amazon SageMaker 기반의 파인 튜닝을 알아봅니다. 또한 ML 실무자가 파운데이션 모델을 효과적으로 훈련하기 위해 대규모 훈련 컴퓨팅 클러스터를 쉽게 관리하고, 모델 훈련을 최적화하는 Amazon SageMaker HyperPod 서비스를 배워봅니다.

발표자: 문곤수, 솔루션즈 아키텍트, AWS
시간: 30분

파운데이션 모델 서빙을 쉽고 빠르고 저렴하게 수행하기 (레벨 300)

Amazon SageMaker 거대 모델 추론 컨테이너를 활용하여 파운데이션 모델 서빙을 쉽고 빠르고 저렴하게 구성하는 방법을 알아봅니다. LLM 서빙 구조와 특징, 추론용 인스턴스 타입, Batch기법 선택 시 고려 사항을 비교하고, 대표적인 LLM 중 하나인 Llama2 모델을 중심으로 2023 re:invent에서 새롭게 출시된 Amazon SageMaker Inference Component, ModelBuilder 활용 방법을 소개합니다. 

발표자: 최효근, 솔루션즈 아키텍트, AWS
시간: 30분

MLOps부터 LLMOps까지 생성형 AI 운영 마스터하기 (레벨 200)

MLOps 부터 FMOps, LLMOps 각각의 개념과 발전과정까지 알아봅니다. 머신러닝 기술의 발전과 이에 발맞추어 변화하는 운영 방법에 대한 개념과 트렌드를 알아보고 비즈니스 효과와 운영방법에 대한 인사이트를 함께 알아봅니다.

발표자:
김양수, 솔루션즈 아키텍트, AWS
이수지, 솔루션즈 아키텍트, AWS

시간: 30분

Amazon Bedrock LLM, RAG 및 Hybrid-search reRank 이용한 자연어 처리 QnA Chatbot 서비스 만들기 (레벨 300)

본 세션에서는 프롬프트 엔지니어와 개발자 대상으로 Streamlit 프레임워크과 langchain framework을 기반으로 Advanced RAG Techniques(Hybrid search, RAG-Fusion, Parent Document and Reranker) 적용을 통해 QA성능을 향상한 방법을 알아보겠습니다. 고객사례를 보며 질의응답(Question and Answer) 문제를 Amazon Bedrock LLM을 이용한 데모와 평가 적용방법에 대해 소개합니다.

발표자:
김영진, 솔루션즈 아키텍트, AWS
장동진, 솔루션즈 아키텍트, AWS

시간: 30분