2023 AWS Industry Week

날짜: 2023-10-11(수)
장소: 삼성동 코엑스

 

---

강연 세션들

---

강연 내용

 

1. 금융 및 핀테크: KB국민은행 클라우드 자원 / 비용 최적화 여정
    2. 온프렘 -> 클라우드로 전환하기가 까다롭기 때문에 클라우드 전담팀 구성
        1. 자격증 취득
        2. 아키텍쳐를 변경하여 비용을 줄일 수 있었음
    3. 마이데이터 등의 서비스 30개가 클라우드 사용 중
    4. 비용이 증가하다가 하향 안정화됨, 어떻게?
        1. 처음 클라우드로 구축할 때 오버사이징(규모를 너무 크게 잡음)하는 경향이 있음
            1. 실제론 접속량이 많지 않음
            2. 점진적으로 다운사이징
        2. EKS 파드 축소
        3. S3
            1. 백업/불필요 파일 삭제
            2. s3 종류 변경
        4. 로그/모니터링 최소화
        5. 동일 스펙 최신 세대 자원 사용
        6. 요일별 가동 시간 조절
            1. 퇴근후/주말엔 최소화 가동
            2. 중앙 계정 스케줄링 태그
        7. AWS 약정 활용
            1. 온디맨드/약정 차이
            2. 약정 할인
            3. 1년 약정이 비즈니스 변경/확장에 나은 선택이 될 수 있음
            4. 운영기에만 약정
            5. 70-80%의 약정 커버리지 유지 -> 다운 사이징 유도하기 위해
        8. 일별 모니터링
            1. 알림 활용
        9. 지속적으로 지켜보고 최적화를 위해 노력해야 함
2. 통신 및 미디어: SK Broadband의 비즈니스 데이터 활용을 통한 차세대 생성형 AI 챗봇 구축 전략 (레벨 200)
    1. 어떻게 생성형 AI 챗봇을 구축했는지
    2. 생성형 AI? > 콘텐츠 생성 AI
    3. 무엇을 생성하는가
        1. text, code, image, video, 3d
    4. 파운데이션 모델
    5. 콜센터 상담기록(데이터)를 사용해 모델 구축
    6. gpt 모델의 한계
    7. 상품 매뉴얼 데이터(HTML) 80gb 학습 데이터
    8. 오픈소스 언어 모델(sLLM)
        1. koalpaca, kovicuna, kullm(가장좋은성능)
    9. fine tuning?
        1. PEFT
            1. 데이터를 익히는 과정
            2. LORA 형(POC)
                1. 계산을 줄일 수 있다
        2. RAG 검색증강생성
        3. PEFT 성능결과
            1. 3EP, 5EP 모델
            2. 데이터가 많을수록 loss가 줄어듦
    10. 학습 -> 모델 배포 -> 평가
    11. 모델 평가 기준이 있다
        1. 평가셋 기준, 정확도 평가, 상세함 평가 등
    12. PEFT + RAG 결합하기로 결정
3. 하이테크: AI를 활용한 전기자동차(EV) 안전진단 - LG에너지솔루션의 MLOps 구축기 (레벨 200)
    1. mlops?
        1. ml 학습, 평가, 배포 자동화
    2. aws sagemaker
        1. ml 모델 배포 가능
    3. ml ops 아키텍쳐
    4. 배터리 진단에 ml/dl 도입
    5. data ops
    6. feature ops
    7. feature store
    8. 사진 잘 정리하기
4. 리테일: 샛별 배송 컬리, 완전 관리형 데이터베이스로 빠르고 안전한 결제 서비스 구축기 (레벨 200)
    1. 컬리페이
    2. 페이먼트를 직접 구축했을 때 장점
        1. 수수료, 결제 정보를 마케팅에 활용 등
    3. 목적별 데이터베이스: AWS의 다양한 DB 활용
    4. aws rds
    5. 관리형 데이터베이스를 사용하면 운영에 대한 부담/책임이 준다
    6. 블루/그린 무중단 배포가 원클릭으로 가능
    7. 분산 환경
        1. 분산 트랜잭션
            1. SAGA 패턴의 이벤트 드리븐 활용
        2. 데이터 오너십
            1. MSA 환경에서 서로 다른 서비스가 데이터를 요청해야 할 때, api를 사용하면 의존성이 높아지기 때문에, 이벤트 trigger를 통해 데이터를 요청
5. 통신 및 미디어: 미디어 무한 경쟁의 시대, LG U+의 AWS 기반 IPTV 및 미디어 플랫폼의 비즈니스 가속화 전략 (레벨 200)
    1. iptv 구성 요소
    2. ott와 같은 인터넷 미디어 서비스의 미디어 시장 점유율이 폭발적으로 늚
    3. 이러한 상황에서 대처한 내용
        1. 내부적으로 큰 기술 부채 + 레거시 프로세스/조직이 문제점
        2. 클라우드, MSA, DevOps 전략 사용
        3. 비즈니스 가속화
            1. ott를 통합하는 통합 플랫폼 서비스 지향
            2. 영상 모아보기