Quer os líderes executivos estejam cientes disso ou não, as equipes de TI de todos os setores estão experimentando “codificação de vibração”, ou codificação assistida por IA.
Aqui estão cinco considerações para gerentes de TI de saúde à medida que suas equipes começam a incorporar ferramentas de IA em seus fluxos de trabalho de programação.
LEIA MAIS: O código não é mais o gargalo. O que o agente AI significa para software?
1. Qual é a margem de erro ao codificar com IA?
As ferramentas de IA podem gerar aplicativos com base nas instruções do usuário, um processo intensivo e que requer conhecimento de segurança de rede organizacional e padrões de privacidade de dados, requisitos de conformidade, plataformas preferenciais, ferramentas, bancos de dados e linguagens de programação, estratégias de teste, diretrizes de documentação e muito mais. Tudo isso deve ser inserido na solução de IA antes que ela comece com um problema. As ferramentas de codificação de IA parecem ler mentes e agir rapidamente. Mas se os usuários não prepararem o terreno para o sucesso, eles correm o risco de criar algo com comportamento inconsistente que pode impactar a conformidade regulatória de segurança de dados.
2. Quanto treinamento os usuários não técnicos receberam?
Programar ainda é uma habilidade técnica. Só porque usuários não técnicos podem gerar aplicativos usando ferramentas de IA não significa que esses aplicativos estejam prontos para uso mais amplo. Se uma enfermeira ou administrador criar um aplicativo separado com ferramentas de IA para ajudar a clínica, isso é ótimo, mas não é algo que possa ser compartilhado e lançado sem que um programador técnico dê uma olhada primeiro. Esta preocupação não é tão diferente das questões de segurança e recursos que a TI paralela criou no passado.
Clique no banner abaixo para aumentar a produtividade dos funcionários com IA.
3. Como a IA está impactando a superfície de ataque da sua organização?
Aumentar a superfície de ataque é inevitável com a IA. Essas soluções de codificação constroem seu código com base em bibliotecas e ferramentas de código aberto já existentes. Sua lista de materiais de software crescerá significativamente, criando dívida técnica e dependências de pacotes novos para você. Isso é quase inevitável e é um fator que precisa ser documentado para fins de conformidade e gerenciamento de riscos à medida que o software escrito por IA entra em produção.
4. Quão preparado está o seu ambiente geral para IA?
A IA implica um ambiente de desenvolvimento moderno. As ferramentas de codificação são construídas em grandes modelos de linguagem que são treinados em códigos modernos e padrões existentes, o que pode criar atrito ao interagir com sistemas legados, como sistemas legados de registros eletrônicos de saúde HL7 ou bancos de dados. Para fazer o melhor uso das ferramentas de IA, as organizações devem adotar Práticas DevSecOps. Não é necessário adotar integração contínua completa/implantação contínua, mas você deseja facilitar a rápida implantação de correções para vulnerabilidades funcionais e de segurança encontradas no downstream.
5. Como a IA pode apoiar melhorias de segurança?
A IA não resolve problemas de segurança, mas facilita a criação de sistemas seguros. Essas ferramentas de codificação estão familiarizadas com as práticas recomendadas de segurança, como manter as credenciais fora da configuração e usar criptografia para o tráfego de rede, e incentivarão os usuários a seguir esses caminhos. Mas eles não aplicam boas práticas nem conhecem questões específicas de saúde. Isso requer que um desenvolvedor experiente em segurança diga às ferramentas de IA coisas como “Use as diretrizes HL7 FHIR em todo o código que você escreve” ou “integrar-se ao nosso sistema de autenticação de logon único existente”. Escrever e depois aplicar um conjunto consistente de instruções de segurança para cada sessão de codificação de vibração é uma medida necessária de mitigação de riscos.
