Tive uma call com uma startup semana passada. "Nossa busca tá muito lenta, a gente tá pensando em implementar busca semântica com IA usando vector embeddings."
Perguntei quantos registros tinham. "Uns cinquenta mil." Quase desliguei a call. Vector embeddings pra cinquenta mil linhas.
"Tu botou um index?"
"Um o quê?"
Um index no banco, a coisa que existe desde os anos 1970 e transforma uma query de 3 segundos em 3 milissegundos com uma linha de SQL.
"Mas busca com IA entenderia a INTENÇÃO do usuário."
Os usuários tão buscando nome de produto. Querem achar o produto. Um index e uma LIKE query resolvem o match de "camisa azul" com a coluna nome_produto que contém "Camisa Azul". Precisa mesmo de um transformer pra isso?
Vejo o mesmo em outras partes. Recomendação ruim, mas ninguém tentou ordenar por quantidade de compra. Analytics lento com SELECT STAR numa tabela de 10 milhões de linhas sem WHERE. App travando enquanto carrega 47 megabytes de JavaScript. Já tentaram o básico antes de shipar o modelo de IA?
Às vezes basta uma query sem full table scan, paginação ou cache. Vale olhar isso antes de montar pipeline de modelo e embedding. Pelo amor de Deus, começa pelo index.