AWS beskriver hvordan man implementerer en sikker MLOps-plattform basert på Terraform og GitHub.
Løsningen bygger på Terraform som IaC og GitHub/GitHub Actions for automatisk utrulling, og bruker AWS-tjenester som Amazon SageMaker, SageMaker Studio, VPC, IAM, KMS, Lambda og Service Catalog. Den støtter en multi-account-struktur med separate miljøer for eksperimentering, preproduksjon og produksjon, og omfatter SageMaker Project-maler for LLM-trening, modellbygging, trening og distribusjon, samt promotering av hele ML-pipelinen. Prosjektmalene kloner tilhørende GitHub-repositorier via en AWS Lambda-funksjon (<prefix>_clone_repo_lambda) som oppretter private repos for teamene.
Terraform-koden er modulær med gjenbrukbare moduler for KMS, Lambda, nettverk, S3, SageMaker, SageMaker-roller og Service Catalog, og legger grunnlaget for treningspipelines og modellregistrering i SageMaker Model Registry med distribusjon til preprod og prod. Før utrulling må man forberede AWS-kontoer, opprette en GitHub-organisasjon og en personal access token, samt bootstrappe kontoene for Terraform-tilstand. Plattformen bidrar til mer standardisert drift av modeller for kunstlig intelligens (KI) og er relevant for norske virksomheter som bygger skybaserte KI-løsninger; dette er AI-nyheter.
Kilde: https://aws.amazon.com/blogs/machine-learning/implement-a-secure-mlops-platform-based-on-terraform-and-github | Sammendraget er KI-generert med OpenAI API av Ainy.no
