Segurança
Como saber se o sistema que a IA construiu aguenta produção
Uma checagem de uma hora, em sete pontos, que qualquer dono consegue conduzir mesmo sem ser técnico. No fim você tem uma resposta objetiva, não uma sensação.
Existe um momento perigoso em todo projeto feito com IA: aquele em que a tela funciona e alguém pergunta se dá pra colocar no ar.
A resposta honesta quase sempre é "não sei". E "não sei" costuma virar "vamos subir".
Existe uma checagem de uma hora que troca esse "não sei" por resposta objetiva. Sete pontos.
1. A permissão do banco está fechada?
Pergunta: quem consegue ler os dados sem estar logado?
O que conferir: as regras do banco. Se existir permissão de leitura ou escrita sem condição de usuário, está aberto.
É o problema mais comum e o de maior consequência: base inteira exposta sem ninguém precisar invadir nada. É o primeiro dos três lugares por onde dado vaza.
2. Existe segredo dentro do código?
Pergunta: onde ficam as chaves de API e senhas de serviço?
O que conferir: procurar no projeto por sk-, api_key, secret, password. E conferir se o arquivo de ambiente está no gitignore.
Resposta boa: em variável de ambiente, no servidor. Resposta ruim: qualquer outra.
3. O servidor confere de quem é o dado?
Pergunta: se eu trocar o número no endereço, vejo dado de outra pessoa?
O que conferir: na prática mesmo. Entra com uma conta, abre uma tela, troca o identificador na URL.
Se aparecer dado de outro usuário, a checagem está só na tela. Tela não protege nada.
4. O que entra é validado?
Pergunta: o que acontece com campo vazio, texto gigante, valor negativo e caractere estranho?
O que conferir: tentando. Cinco minutos batendo nos campos.
A validação que importa é a do servidor. A do navegador é conveniência pro usuário, não é defesa.
5. O que acontece quando falha?
Pergunta: se o pagamento confirmar e o e-mail não sair, o que acontece?
O que conferir: se existe resposta pensada, ou se a resposta é "acho que dá erro".
O padrão da IA quando não é instruída é o pior possível: seguir como se tivesse dado certo. Falha silenciosa é a que mais custa, porque você descobre pelo cliente.
6. Alguém é avisado quando quebra?
Pergunta: se o sistema cair às 3 da manhã, quem fica sabendo e como?
O que conferir: se existe captura de erro e alerta configurado, e se o alerta chega onde alguém realmente olha.
Se a resposta é "o cliente avisa", não existe operação, existe sorte.
7. Dá pra voltar à versão anterior?
Pergunta: se essa entrega quebrar tudo, em quanto tempo voltamos ao que funcionava?
O que conferir: se existe o botão e se alguém já testou. Descobrir que o retorno não funciona no meio do incidente é o pior momento possível.
Resposta boa: minutos. Resposta ruim: qualquer coisa que envolva consertar às pressas.
Como conduzir sem ser técnico
Marca uma hora com quem construiu, com o sistema aberto. Você faz as sete perguntas, a pessoa demonstra.
Não aceita resposta verbal em nenhum dos sete. "Está seguro" não é resposta. Mostrar a regra do banco na tela é.
Como ler o resultado
Passou nos sete: pode subir com tranquilidade razoável.
Falhou em 1, 2 ou 3: não sobe. São os que expõem dado, e o custo de expor dado não é técnico, é jurídico e de reputação.
Falhou em 5, 6 ou 7: pode subir com risco calculado, se o sistema ainda tem poucos usuários. Mas resolve logo, porque são os que transformam problema pequeno em crise.
Falhar na checagem é o melhor cenário possível. Significa que você descobriu antes do usuário, que é exatamente o objetivo.
Uma hora. Contra a semana mais cara do seu ano.
A decisão é sua.
Perguntas frequentes
Perguntas rápidas
+Preciso ser técnico para fazer essa checagem?
Não para conduzir. Cada item é uma pergunta objetiva e a resposta é demonstrável na tela. Quem construiu mostra, você confere. O que exige técnica é consertar o que falhar, não descobrir.
+Qual item é o mais crítico?
A permissão do banco. É o mais comum e o de maior consequência, porque uma regra aberta expõe a base inteira sem que ninguém precise invadir nada.
+Quanto tempo leva?
Cerca de uma hora com quem construiu ao lado. É menos que uma reunião de alinhamento e evita a semana mais cara do ano.
+E se falhar em vários pontos?
Não coloque em produção ainda e trate na ordem: primeiro os que expõem dado, depois os que impedem perceber e reverter problema. Falhar na checagem é o melhor cenário possível, porque significa que você descobriu antes do usuário.
Continue lendo
Como usar IA em cima de dado sensível sem entregar o dado
Dá pra corrigir prova, analisar contrato e resumir atendimento com IA sem mandar nome, CPF e documento pro modelo. A técnica é simples e quase ninguém aplica.
SegurançaOs 3 lugares por onde dado sensível vaza num app feito com IA
Não é hacker. Na prática, quase todo vazamento em app feito com IA vem de três lugares chatos e previsíveis. Os três dão pra conferir hoje, sem ser programador.
SegurançaComo separar dado real de dado de teste (o que a LGPD cobra)
Testar com a base de produção é o atalho mais comum e o mais caro. Separar ambiente é mais simples do que parece, e a LGPD não trata isso como detalhe.