Num lote para o meu dicionário de japonês, gerei mais de 600 imagens e o painel marcou cerca de 4 mil neurônios. Foi aí que ficou fácil enxergar a diferença entre chamar um modelo que já roda na Cloudflare e usar um provedor externo: cada caminho guarda e cobra a chamada de um jeito.
Use AI Gateway para conectar provedores externos
No catálogo da Cloudflare, encontrei modelos oferecidos de formas diferentes. Quando quero chamar OpenAI, OpenRouter ou outro provedor externo, o AI Gateway me dá uma entrada comum para encaminhar as chamadas e acompanhar os registros. Assim, o front-end e cada repositório não precisam receber uma cópia da chave do provedor.
Dá para carregar créditos na Cloudflare e usar a cobrança unificada. Hoje, a compra desses créditos tem uma taxa de 5%, e o custo de inferência do provedor é repassado pelo preço dele. Outra opção é cadastrar a própria chave do provedor uma vez no Gateway. O recurso BYOK guarda essa credencial no painel; a aplicação ainda chama o Gateway, mas a chave externa não precisa ir junto em cada solicitação nem aparecer no navegador.
O Gateway também oferece registros e rotas dinâmicas. Se quiser que uma chamada tente outro modelo quando o primeiro atingir um limite ou não estiver disponível, configure as condições e a rota de fallback. Só ligar o Gateway não cria essa recuperação automaticamente: é preciso definir a sequência e testar o que acontece quando cada modelo falha.
Workers AI chama modelos disponíveis na Cloudflare
Quando o modelo já está hospedado na Cloudflare, eu uso Workers AI. No Worker, a associação de IA fica disponível pelo binding `AI`; o código chama o modelo por essa conexão. Não preciso colocar uma chave de um provedor externo no JavaScript que vai para o visitante.
Foi esse caminho que usei para gerar as imagens do meu dicionário. O lote passou de 600 arquivos e ficou perto de 4 mil neurônios. Hoje, a franquia gratuita de Workers AI é de 10 mil neurônios por dia; acima dela, o plano Paid cobra US$ 0,011 por mil neurônios. A conta depende do modelo e do que você pede para ele gerar, então meus 4 mil são uma medição daquele lote, não um custo fixo por 600 imagens.
O painel deixa ver quais modelos estão disponíveis e quanto cada tarefa consome. Eu começaria escolhendo o modelo para o trabalho e faria um lote pequeno; depois conferiria a qualidade e o gasto antes de aumentar a quantidade. Em geração de imagem, pequenas diferenças de modelo, tamanho ou etapas podem mudar o consumo.
Vectorize ajuda a buscar informação no seu próprio conteúdo
Vectorize é a peça que eu olho quando quero que uma aplicação encontre trechos relacionados a uma pergunta dentro de um conjunto de textos. Você transforma o conteúdo em embeddings, guarda esses vetores e consulta os mais próximos da busca. O Worker recupera os trechos e pode enviá-los ao modelo como contexto para a resposta.
Isso não treina o modelo nem o deixa automaticamente mais inteligente. A resposta continua dependendo de como a aplicação busca e usa os resultados. Se você precisa consultar artigos, documentação ou outro acervo, essa busca semântica pode trazer contexto relevante mesmo quando a pergunta usa palavras diferentes das que aparecem no texto. Para cadastro de usuários, pedidos e relações comuns, eu usaria um banco relacional; Vectorize entra na parte da busca por significado.
Escolha o recurso pelo trabalho que a aplicação precisa fazer
No meu projeto, a decisão começa pelo modelo. Se encontro o que preciso no catálogo da Cloudflare, uso Workers AI pelo Worker. Se prefiro um serviço externo, passo pelo AI Gateway e escolho entre créditos da Cloudflare ou a chave do próprio provedor guardada ali. Quando a resposta precisa consultar um acervo meu, junto Vectorize à busca e envio os trechos encontrados como contexto.
Não preciso adicionar os três serviços a todo site. Eu já hospedo meus projetos na Cloudflare, então faz sentido manter a integração de IA perto dos Workers e acompanhar chamadas e custos no mesmo ambiente. Também não trato “sem chave no front-end” como sinônimo de “sem custo” ou “sem credencial”: confira qual provedor atende a solicitação, onde a chave fica guardada e como o consumo é cobrado.