Prompts: escreva uma especificação, não um encantamento
Uma estrutura que funciona
Qual é o papel e o objetivo; qual é a entrada e de onde vem; regras de decisão explícitas incluindo o que fazer quando falta informação; a estrutura exata de saída; e dois ou três exemplos que demonstram os casos limites com precisão.
Exemplos vencem adjetivos. 'Curto e factual' é vago; um exemplo da saída desejada não é.
O que realmente melhora
Pedir saída em uma estrutura fixa e validar no código. Dar ao modelo uma forma de dizer 'não tenho informação suficiente' — sem ela, vai inventar. E dividir uma tarefa complexa em dois passos em vez de carregar tudo em uma chamada.
Higiene
Uma versão com tag para cada prompt, um identificador registrado em cada chamada e executar o conjunto de avaliação antes de uma mudança ir para produção. Um prompt editado à mão no servidor é lógica de negócio sem controle de versões.
Indo mais fundo
Separe a parte fixa da variável, para aproveitar o cache do fornecedor e reduzir o custo significativamente. E verifique a consistência: execute a mesma entrada várias vezes e veja se as respostas são similares o suficiente para suas necessidades.