클라우드 AI - 기술소개 참고

기술 소개

  • 01다양한 초거대 언어모델 활용

    • 다양한 초거대 언어모델 활용

      1. 솔트룩스 자체 거대언어모델 LUXIA 뿐 아니라, 클라우드를 통해 공개 및
        활용 가능한 다양한 초거대언어모델과 MLOps 환경을 제공합니다.
      2. 서비스 목적에 맞게 선택적으로 사용하여 유연하고 확장가능한 시스템을 구성할 수 있습니다.
  • 02대규모 데이터 처리를 통한 모델 학습

    • 대규모 데이터 처리를 통한 모델 학습

      1. 모델 학습을 위한 초기 투자 비용이 크고 확장성에 한계가 있는 온프레미스와 달리,
        탄력적인 컴퓨팅 파워와 스토리지를 제공하는 클라우드는 대규모 데이터셋을 활용하는
        AI모델 학습이나 데이터 분석에 이상적입니다.
      2. 클라우드 환경에 최적화된 학습 환경을 구축하고 커스터마이징 된 모델을 생성할 수 있습니다.
  • 03급격한 트래픽 변동에 대한 안정적 대응

    • 급격한 트래픽 변동에 대한 안정적 대응

      1. 클라우드에서는 리소스 확장 및 자동 스케일링이 가능하기 때문에 급격한 서비스의
        수요 변화에도 탄력적으로 대응할 수 있습니다.
      2. 온프레미스 환경에 비해 피크타임 링소스 낭비를 방지하면서 안정적으로 서비스를 운영할 수 있습니다.
  • 04검색증강생성(RAG)을 위한 데이터 연계

    • 검색증강생성(RAG)을 위한 데이터 연계

      1. 기업 내부 데이터 및 실시간 수집되는 외부데이터를 연계하고 초거대언어모델을 통해
        라우드의 분산 아키텍처를 생성하고자 하는 경우, 클라우드를 활용하면 지연 시간 없이
        효율적으로 데이터를 연계 및 관리할 수 있습니다.
  • 05고가용성 서비스 및 배포 자동화

    • 고가용성 서비스 및 배포 자동화

      1. 24/7 가동이 필수거나 일반 사용자를 대상으로 하는 서비스의 경우, 클라우드에 내재된
        고가용성과 자동화된 CI/CD 체제를 활용함으로써 효과적인 운영관리가 가능합니다. 
      2. 글로벌 서비스를 대상으로 할 경우에도 지역 분산 배포를 유용하게 활용할 수 있습니다.
  • 06협업 및 공동 작업

    • 협업 및 공동 작업

      1. 여러 기업 및 기관이 참여하는 서비스의 경우 클라우드 기반 협업 도구가 용이합니다.
      2. 데이터 및 리소스의 공유가 쉬우며 우수한 접근성을 가지고 있습니다.

클라우드 서비스 계층

생성형 AI 구축을 위한 클라우드 서비스 계층

생성형 AI 서비스 구축에 특화된 클라우드 서비스의 인프라와 파운데이션 모델, AI 서비스 플랫폼 등을 활용하여 쉽고 빠르게 구축합니다.

주요 서비스

  • 01생성형 AI 서비스를 통한 생산성 향상

    생성형 AI가 접목된 다양한 완성형 서비스를 통해 작업의 속도와 효율을 높이고 생산성을 강화할 수 있습니다.

  • 02생성형 AI를 이용한 어플리케이션 개발 환경

    다양한 파운데이션 모델 기반의 생성형 AI 어플리케이션을 쉽고 빠르게 구축하는데 필요한 모든 방법을 제공합니다.

  • 03생성형 AI 모델 학습 및 서비스 최적화 인프라

    AI 모델의 학습, 배포, 서비스를 위한 최적의 인프라와 MLOps 도구가 포함된 완전관리형 서비스를 제공합니다.

다양한 모델 적용

다양한 파운데이션 모델 적용

루시아 GPT 뿐만 아니라, GPT-4, Claude 3, Llama, Stable Diffusion 등 다양한 생성형 AI 모델을 목적에 맞게 선택 적용할 수 있습니다.

기업 내/외부 지식 연계

기업 내/외부 지식 연계

기업 내부 데이터 또는 실시간 수집되는 외부 데이터를 연계하여 검색증강생성(RAG)을 통한 사실 기반의 답변 생성으로 최신성과 정확성을 높입니다.

서비스 관리 자동화

안정적이고 효율적인 서비스 관리 자동화

클라우드 네이티브 서비스를 통한 고가용성 서비스 이용 및 자동화 된 운영 관리로 리소스를 탄력적이고 효율적으로 사용하고 안정적으로 관리할 수 있습니다.

주요 기능

  • 01리소스 확장 및 자동 스케일링

    어플리케이션을 모니터링하고 리소스 규모를 자동으로 조정하여, 최적화 된 비용으로 안정적인 성능을 유지합니다.

  • 02병렬/분산 처리

    어플리케이션의 리소스 전체에 네트워크 트래픽을 균등하게 분산하여 어플리케이션 확장성을 개선합니다.

  • 03서버리스 컴퓨팅

    사용량에 따라 요금이 부과되는 서버리스 컴퓨팅 엔진으로 비용을 최적화하여 관리부담 없이 어플리케이션 구축에 집중합니다.

  • 04자동 CI/CD 체계

    빠르고 안정적인 어플리케이션 및 인프라 통합 및 배포 과정을 자동화하여 빠르고 안정적인 업데이트 관리를 제공합니다.

  • 05보안/권한 관리

    클라우드 서비스 및 리소스에 접근 주체를 지정하고 세분화된 권한 관리를 통해 안전한 운영 정책을 지원합니다.

  • 06운영 모니터링

    클라우드 리소스 및 어플리케이션을 모니터링하고, 성능 변화 및 리소스 사용 분석을 통해 운영 상태에 대한 인사이트를 제공합니다.