Automação DevOps para o sistema de gestão de laboratórios: redução de mais de 70% nos custos de computação

AWS

Web

A equipa da Innowise optimizou a infraestrutura da nuvem e automatizou os processos CI/CD para um líder de mercado em testes de ADN, aumentando a escalabilidade e a eficiência das suas operações de processamento de dados.

Cliente

Indústria

Cuidados de saúde

Região

EUA

Cliente desde

2023

O nosso cliente é um líder no domínio da biotecnologia, especializado em testes de ADN e análise do microbioma. São conhecidos por fornecerem análises rápidas e fiáveis utilizando técnicas moleculares avançadas, atendendo a um vasto espetro de aplicações na saúde humana, agricultura e estudos ambientais. Os seus serviços vão desde a conceção de estudos à análise exaustiva de dados, contribuindo para a investigação e o desenvolvimento no sector da saúde.

As informações pormenorizadas sobre o cliente não podem ser divulgadas ao abrigo dos termos do NDA.

Desafio

Problemas com actualizações de infra-estruturas, migração para o GitHub e otimização de CI/CD

A nossa colaboração com o cliente, iniciada em 2023, centrou-se principalmente na resolução dos seus complexos desafios DevOps. O cliente enfrentou um conjunto de problemas multifacetados, cada aspeto essencial para sua eficiência operacional na pesquisa de microbioma:

Expansão das infra-estruturas e migração: O cliente estava a expandir a sua Ambientes AWS com arquitecturas actualizadas. Esta expansão implicou a migração de vários ambientes antigos para novos sistemas.
Gestão de infra-estruturas herdadas: Outro aspeto do seu desafio era a gestão do código Terraform antigo e dos recursos do cluster Kubernetes. A configuração existente era complicada e desatualizada, exigindo uma revisão substancial para atender às demandas atuais e futuras.
Esgotamento da reserva de endereços IP: Uma preocupação crítica era o esgotamento dos endereços IP causado por uma sub-rede ineficiente na sua rede. Esta situação dificultava a gestão atual da rede e representava uma ameaça significativa para os seus futuros planos de expansão.
Migração do GitLab para o GitHub: O cliente também estava a tentar fazer a transição do GitLab para o GitHub, o que incluía a integração do GitHub Codespaces. Esta mudança tinha como objetivo facilitar o desenvolvimento remoto e evitar a necessidade de armazenar código em máquinas locais, aumentando a segurança e a colaboração.

Otimização dos processos CI/CD: Havia uma necessidade premente de otimizar os seus processos de integração e implementação contínuas (CI/CD). A melhoria destes processos era essencial para aumentar a velocidade e a fiabilidade da implementação.
Implementação da estratégia de implantação azul/verde: Por último, o cliente procurou implementar uma estratégia de implementação azul/verde. Esta abordagem tinha como objetivo minimizar os riscos de implementação e garantir implementações contínuas de novas funcionalidades e actualizações.

O cliente esperava que a nossa equipa abordasse estes desafios e melhorasse a sua eficiência operacional, reduzisse os custos e acelerasse o seu processo de desenvolvimento. Como se especializaram na investigação do microbioma com grandes necessidades de processamento de dados, as melhorias nas suas práticas DevOps eram essenciais para reforçar a sua capacidade de fornecer serviços rapidamente.

Solução

Automação DevOps para LMS

A nossa solução para o cliente centrou-se em três áreas principais: otimização da infraestrutura, automatização do DevOps e melhoria do processo CI/CD.

Otimização da infraestrutura

Iniciámos a nossa colaboração com a revisão da infraestrutura do cliente. A nossa equipa optou por uma arquitetura sem servidor utilizando os serviços AWS. Esta abordagem era essencial para lidar com as grandes quantidades de dados processados na análise do microbioma.

Ambiente AWS e migração do legado: Expandimos os ambientes AWS, incorporando novas arquitecturas que apoiaram o crescimento e as necessidades diversificadas do cliente. Os sistemas antigos foram migrados sem problemas para estes novos ambientes, sem qualquer perturbação das operações em curso.
Gestão de redes e atribuição de endereços IP: O desafio de esgotar os endereços IP foi resolvido através da implementação de uma abordagem estratégica de sub-rede. Isto resolveu o problema imediato da escassez de endereços e simplificou a futura expansão da rede.
Refactoring de IaC com Terraform e Terraspace: A nossa equipa reestruturou a configuração da Infraestrutura como Código (IaC), migrando do Terraform antigo para o Terraspace. Esta mudança melhorou a capacidade de gestão e a escalabilidade do código da infraestrutura, permitindo a gestão de várias contas.

Automação DevOps

As práticas de operações de desenvolvimento estavam no centro da nossa solução, com o objetivo de melhorar Automação da infraestrutura DevOps e simplificar os processos.

Implementação do Karpenter: A introdução do Karpenter constituiu um marco significativo na otimização de recursos. Esta ferramenta reduziu o número de máquinas necessárias e diminuiu os custos de computação em 70%.
Integração das ferramentas de projeto Argo: Utilizamos o ArgoCD, o Argo Rollouts e o ArgoCD Image Updater para automatizar os processos de implantação. Essa configuração liberou os desenvolvedores do gerenciamento manual de pipeline, permitindo que eles se concentrassem nas principais tarefas de desenvolvimento.
Modelo de implantação Blue-Green-Canary: A nossa estratégia de implementação combinou os pontos fortes dos modelos Blue-Green-Canary. Esta abordagem híbrida acelerou os ciclos de desenvolvimento e minimizou os riscos de implementação, marcando um avanço significativo nas capacidades operacionais do cliente.

Melhoria do processo de CI/CD

O último pilar do nosso Serviços de automatização DevOps centrou-se no aperfeiçoamento dos processos de CI/CD. Isto envolveu uma série de implementações estratégicas com o objetivo de aumentar o desempenho.

Migração para o GitHub e integração do Codespaces: Facilitámos a transição do cliente do GitLab para o GitHub, configurando o GitHub Codespaces para uma gestão de código mais segura e eficiente. Esta mudança melhorou a segurança do código e simplificou os fluxos de trabalho de desenvolvimento.
Refactoring e automatização de pipelines: Reestruturámos os pipelines de CI/CD para separar a implementação contínua da integração. Esta segmentação melhorou a eficiência do processo de implementação e reduziu potenciais erros.
Monitorização e otimização dos custos: A implementação do Grafana Stack e do Prometheus permitiu-nos estabelecer um sistema de monitorização abrangente. Esse sistema ajudou a rastrear os custos da AWS e a otimizar o uso de recursos para operações econômicas.

Tecnologias

Extremidade traseira

Python; FastAPI

Extremidade dianteira

React; Node.js; Material UI

Bases de dados

PostgreSQL

Plataformas

Web

Cloud Serviços e plataformas

AWS; Funções Lambda; EKS; ECR

Contentorização e gestão

Docker; Kubernetes

Infraestrutura como código (IaC)

Helm; Terraform; Terraspace

Integração e implementação contínuas

ArgoCD; Argo Rollouts; ArgoCD Image Updater; GitLab; GitHub; Karpenter; Kubecost

Monitorização e registo

Grafana; Grafana Loki; Promtail; Prometheus

Gestão de redes

Plug-in CNI para Kubernetes

Monitorização do servidor

Prometheus

Garantia de qualidade

Playwright

Sistemas operativos

Linux; amd64; arm64

Sistemas de controlo de versões

GitHub; ArgoCD

Integrações

SSO do Microsoft AD

Processo

O nosso processo baseou-se na metodologia Agile com uma estrutura Scrum que enfatizava a flexibilidade, a melhoria contínua e a entrega rápida. Organizámos o nosso trabalho em sprints de uma semana, com reuniões diárias às 18:00 CET para garantir o alinhamento e resolver quaisquer preocupações imediatas. Realizámos sessões de planeamento de sprints todas as sextas-feiras, onde a equipa analisou e planeou coletivamente as tarefas para a semana seguinte. Estas sessões eram acompanhadas de retrospectivas e apresentações.

Gestão de tarefas e comunicação

Os nossos programadores tinham a posse total do backlog, o que lhes dava autonomia para gerir e planear tarefas. A comunicação direta com o Product Owner (PO) era pouco frequente, uma vez que os principais objectivos e requisitos das tarefas eram definidos e frequentemente detalhados pelo designer principal do projeto.

Desenvolvimento e documentação

A nossa abordagem à implementação de tarefas envolveu o desenvolvimento de modelos de Prova de Conceito (POC) para a maioria das tarefas, seguido da criação de diagramas detalhados revistos pela equipa. Esta prática permitiu-nos validar ideias e garantir a viabilidade antes do desenvolvimento em grande escala. Mantivemos cuidadosamente a documentação do projeto para garantir a boa execução das nossas tarefas.

Cloud desafios da segurança e da automatização do DevOps

Um aspeto significativo do nosso projeto foi a gestão e a otimização dos relatórios de dados laboratoriais extensos do cliente, que ascendiam a petabytes de dados. Esta enorme quantidade de dados resultou em custos substanciais de AWS.

Revisões e adaptação de sprints

Realizámos revisões de sprint no final de cada semana, que incluíam demonstrações de novas funcionalidades e discussões sobre o sprint seguinte. Estas reuniões foram cruciais para adaptar as nossas estratégias a quaisquer requisitos em mudança.

Equipa

Engenheiros DevOps

Programador Front-End

Programador Full-Stack

Resultados

70% redução dos custos de computação

A nossa colaboração com o cliente conduziu a melhorias significativas na sua infraestrutura e processos DevOps. Os principais resultados alcançados são os seguintes:

Otimização de custos: A implementação do Karpenter reduziu com sucesso o número de máquinas utilizadas no cluster de 15 para 6, levando a uma redução de 70% nos custos de computação. Esta poupança substancial de custos melhorou consideravelmente a relação custo-eficácia das suas operações.
Aceleração do processo de desenvolvimento: A introdução do modelo de lançamento Blue-Green-Canary acelerou consideravelmente o processo de desenvolvimento. Esta implementação estratégica acelerou o desenvolvimento e acrescentou uma camada de segurança ao processo de lançamento.
Melhorias através da automatização do DevOps: A utilização das ferramentas do Argo Project melhorou significativamente o pipeline de desenvolvimento. A equipa de desenvolvimento do cliente pode agora atualizar o cluster Kubernetes com novas versões de aplicações através do simples envio de código, sendo todo o processo de criação e implementação automatizado. Isso reduziu muito a intervenção manual em tarefas de rotina, permitindo que os engenheiros se concentrem mais em atividades de desenvolvimento estratégico.
Simplificação da gestão da infraestrutura: A migração do código do Terraform para a estrutura Terraspace, juntamente com a refacção da gestão de clusters Kubernetes, simplificou a gestão da infraestrutura. Estas alterações tornaram a gestão da infraestrutura mais simples e eficiente.
Melhoria da observabilidade: A integração do Grafana Stack e do Prometheus para métricas adicionais melhorou significativamente a observabilidade do sistema. Esta melhoria resultou numa melhor monitorização dos dados, facilitando a tomada de decisões mais informadas e a gestão do sistema.

Atualmente, estamos nas fases finais de configuração dos ambientes AWS, garantindo que são adaptados para satisfazer os requisitos do cliente. Para o futuro, existem planos para melhorar ainda mais o modelo de lançamento, com base na implementação bem sucedida da estratégia Blue-Green-Canary.

Duração do projecto

julho de 2022 - Em curso

70%

redução dos custos de computação

aumento da velocidade de desenvolvimento

50%

diminuição da intervenção manual

Casos relacionados

Contactar-nos!

Marcar uma chamada ou preencha o formulário abaixo e entraremos em contacto consigo assim que tivermos processado o seu pedido.

Nome

Empresa

Correio electrónico

Telefone

Mensagem Inclua os detalhes do projeto, a duração, o conjunto de tecnologias, os profissionais de TI necessários e outras informações relevantes

Gravar uma mensagem de voz sobre o seu
projeto para nos ajudar a compreendê-lo melhor

Anexar documentos adicionais, se necessário

Enviar ficheiro

Pode anexar até 1 ficheiro de 2MB no total. Ficheiros válidos: pdf, jpg, jpeg, png

Informamos que, ao clicar no botão Enviar, o Innowise's processará os seus dados pessoais de acordo com a nossa Política de Privacidade com o objectivo de lhe fornecer informações adequadas.

O que é que acontece a seguir?

Após termos recebido e processado o seu pedido, entraremos em contacto consigo para detalhar as necessidades do seu projecto e assinar um NDA para garantir a confidencialidade das informações.

Após a análise dos requisitos, os nossos analistas e programadores elaboram uma proposta de projecto com o âmbito dos trabalhos, tamanho da equipa, tempo e custos e custos.

Marcamos uma reunião consigo para discutir a oferta e chegar a um acordo.

Assinamos um contrato e começamos a trabalhar no seu projecto o mais rapidamente possível.

Automação DevOps para o sistema de gestão de laboratórios: redução de mais de 70% nos custos de computação

Cliente

Desafio

Problemas com actualizações de infra-estruturas, migração para o GitHub e otimização de CI/CD

Solução