Este módulo aborda conceitos e técnicas essenciais para criar prompts eficazes em modelos generativos de IA. A forma como escreve o seu prompt para um LLM também é importante. Um prompt cuidadosamente elaborado pode alcançar uma melhor qualidade de resposta. Mas o que exatamente significam termos como prompt e engenharia de prompts? E como posso melhorar a entrada do prompt que envio ao LLM? Estas são as questões que tentaremos responder neste capítulo e no seguinte.
A IA Generativa é capaz de criar novo conteúdo (ex., texto, imagens, áudio, código, etc.) em resposta a pedidos do utilizador. Isto é conseguido usando Modelos de Linguagem de Grande Escala como a série GPT da OpenAI ("Generative Pre-trained Transformer"), que são treinados para usar linguagem natural e código.
Os utilizadores podem agora interagir com estes modelos usando paradigmas familiares como chat, sem necessidade de conhecimentos técnicos ou formação. Os modelos são baseados em prompts - os utilizadores enviam uma entrada de texto (prompt) e recebem a resposta da IA (completamento). Podem então "conversar com a IA" iterativamente, em diálogos com múltiplas interações, refinando o prompt até que a resposta vá ao encontro das suas expectativas.
Os "prompts" passam a ser a principal interface de programação para aplicações de IA generativa, indicando aos modelos o que fazer e influenciando a qualidade das respostas retornadas. A "Engenharia de Prompts" é um campo em rápido crescimento que se foca no design e otimização dos prompts para entregar respostas consistentes e de qualidade em escala.
Nesta lição, aprendemos o que é Engenharia de Prompts, por que é importante e como criar prompts mais eficazes para um dado modelo e objetivo de aplicação. Vamos compreender conceitos básicos e boas práticas de engenharia de prompts - e aprender sobre um ambiente interativo de Jupyter Notebooks "sandbox" onde podemos ver estes conceitos aplicados em exemplos reais.
No final desta lição seremos capazes de:
- Explicar o que é engenharia de prompts e por que é importante.
- Descrever os componentes de um prompt e como são usados.
- Conhecer boas práticas e técnicas para engenharia de prompts.
- Aplicar técnicas aprendidas em exemplos reais, usando um endpoint da OpenAI.
Engenharia de Prompts: A prática de desenhar e refinar entradas para guiar modelos de IA a produzir as saídas desejadas.
Tokenização: O processo de converter texto em unidades menores, chamadas tokens, que um modelo pode entender e processar.
LLMs Ajustados por Instruções: Modelos de Linguagem de Grande Escala que foram ajustados com instruções específicas para melhorar a precisão e relevância das suas respostas.
A engenharia de prompts é atualmente mais uma arte do que uma ciência. A melhor forma de melhorar a nossa intuição é praticar mais e adotar uma abordagem de tentativa e erro que combina experiência no domínio da aplicação com técnicas recomendadas e otimizações específicas do modelo.
O Jupyter Notebook que acompanha esta lição fornece um ambiente sandbox onde pode experimentar o que aprende – à medida que avança ou como parte do desafio de código no final. Para executar os exercícios, vai precisar de:
- Uma chave da API Azure OpenAI – o endpoint do serviço para um LLM implementado.
- Um ambiente Python – onde o Notebook pode ser executado.
- Variáveis de Ambiente Locais – complete os passos do CONFIGURAÇÃO agora para estar pronto.
O notebook vem com exercícios inicializadores - mas é incentivado a adicionar a sua própria secção de Markdown (descrição) e de Código (pedidos de prompts) para experimentar mais exemplos ou ideias - e desenvolver a sua intuição para o design de prompts.
Quer perceber o panorama geral do que esta lição cobre antes de se aprofundar? Veja este guia ilustrado, que lhe dá uma noção dos tópicos principais abordados e dos pontos-chave para refletir em cada um. O roteiro da lição leva-o a entender os conceitos e desafios principais até resolvê-los com técnicas relevantes de engenharia de prompts e boas práticas. Note que a seção "Técnicas Avançadas" neste guia refere-se ao conteúdo do próximo capítulo deste currículo.
Agora, vamos falar sobre como este tema se relaciona com a missão da nossa startup de trazer inovação em IA para a educação. Queremos construir aplicações de IA focadas em aprendizagem personalizada – por isso vamos pensar como diferentes utilizadores da nossa aplicação podem "desenhar" prompts:
- Administradores podem pedir à IA para analisar dados curriculares para identificar lacunas na cobertura. A IA pode resumir resultados ou visualizá-los com código.
- Educadores podem pedir à IA para gerar um plano de aula para um público-alvo e tema específicos. A IA pode construir o plano personalizado num formato especificado.
- Estudantes podem pedir à IA para os ajudar numa disciplina difícil. A IA pode agora guiar os estudantes com lições, dicas e exemplos adaptados ao seu nível.
Isto é só a ponta do iceberg. Veja Prompts For Education – uma biblioteca open source de prompts selecionada por especialistas em educação – para ter uma noção mais ampla das possibilidades! Experimente executar alguns desses prompts no sandbox ou usar o OpenAI Playground para ver o que acontece!
Começámos esta lição definindo Engenharia de Prompts como o processo de desenhar e otimizar entradas de texto (prompts) para entregar respostas consistentes e de qualidade (completamentos) para um dado objetivo de aplicação e modelo. Podemos pensar nisto como um processo de 2 etapas:
- desenhar o prompt inicial para um dado modelo e objetivo
- refinar o prompt iterativamente para melhorar a qualidade da resposta
Este é necessariamente um processo de tentativa e erro que requer intuição e esforço do utilizador para obter resultados ótimos. Então, por que é isto importante? Para responder a essa pergunta, precisamos primeiro entender três conceitos:
- Tokenização = como o modelo "vê" o prompt
- LLMs Base = como o modelo base "processa" um prompt
- LLMs Ajustados por Instruções = como o modelo consegue agora ver "tarefas"
Um LLM vê os prompts como uma sequência de tokens onde diferentes modelos (ou versões de um modelo) podem tokenizar o mesmo prompt de formas diferentes. Como os LLMs são treinados em tokens (e não em texto cru), a forma como os prompts são tokenizados tem impacto direto na qualidade da resposta gerada.
Para perceber como a tokenização funciona, experimente ferramentas como o OpenAI Tokenizer mostrado abaixo. Copie o seu prompt – e veja como ele é convertido em tokens, prestando atenção a como são tratados os espaços e os sinais de pontuação. Note que este exemplo mostra um LLM mais antigo (GPT-3) - experimentar com um modelo mais recente pode produzir um resultado diferente.
Depois de tokenizado, a função principal do "LLM Base" (ou modelo base) é prever o token seguinte nessa sequência. Como os LLMs são treinados com datasets massivos de texto, têm uma boa noção das relações estatísticas entre tokens e conseguem fazer essa predição com alguma confiança. Note que eles não entendem o significado das palavras no prompt ou token; apenas reconhecem um padrão que podem "completar" com a predição seguinte. Podem continuar a prever a sequência até serem interrompidos por intervenção do utilizador ou alguma condição pré-estabelecida.
Quer ver como funciona o completamento por prompt? Insira o prompt acima no Azure OpenAI Studio Chat Playground com as definições padrão. O sistema está configurado para tratar prompts como pedidos de informação – deverá ver um completamento que satisfaça este contexto.
Mas e se o utilizador quisesse algo específico que correspondesse a algum critério ou objetivo de tarefa? É aqui que os LLMs ajustados por instruções entram em cena.
Um LLM Ajustado por Instruções parte do modelo base e é afinado com exemplos ou pares de entrada/saída (ex., "mensagens" com múltiplas interações) que podem conter instruções claras – e a resposta da IA tenta seguir essa instrução.
Isto usa técnicas como Aprendizagem por Reforço com Feedback Humano (RLHF) que podem treinar o modelo a seguir instruções e aprender com feedback para produzir respostas mais adequadas a aplicações práticas e mais relevantes para objetivos do utilizador.
Vamos experimentar – volte ao prompt acima, mas agora mude a mensagem do sistema para fornecer a seguinte instrução como contexto:
Resuma o conteúdo que lhe for fornecido para um aluno do segundo ano. Mantenha o resultado num parágrafo com 3-5 pontos em formato de tópicos.
Veja como o resultado está agora afinado para refletir o objetivo e formato desejados? Um educador pode usar diretamente essa resposta nas suas apresentações para essa aula.
Agora que sabemos como os prompts são processados pelos LLMs, vamos falar sobre porquê precisamos de engenharia de prompts. A resposta está no facto de que os LLMs atuais apresentam vários desafios que tornam mais difícil obter completamentos fiáveis e consistentes sem esforço na construção e otimização do prompt. Por exemplo:
-
As respostas do modelo são estocásticas. O mesmo prompt provavelmente produzirá respostas diferentes com modelos ou versões de modelo diferentes. E pode mesmo produzir resultados diferentes com o mesmo modelo em momentos distintos. Técnicas de engenharia de prompts podem ajudar a minimizar estas variações fornecendo limites mais robustos.
-
Os modelos podem fabricar respostas. Os modelos são pré-treinados com conjuntos de dados grandes mas finitos, o que significa que lhes falta conhecimento sobre conceitos fora do âmbito desse treino. Como resultado, podem produzir completamentos que são imprecisos, imaginários ou diretamente contraditórios com fatos conhecidos. Técnicas de engenharia de prompts ajudam os utilizadores a identificar e mitigar essas fabricações, por exemplo, pedindo à IA citações ou raciocínios.
-
As capacidades dos modelos variam. Modelos ou gerações mais recentes terão capacidades mais ricas, mas também apresentam peculiaridades únicas e trade-offs em custo e complexidade. Engenharia de prompts pode ajudar a desenvolver boas práticas e fluxos de trabalho que abstragam diferenças e adaptem-se a requisitos específicos do modelo de forma escalável e fluida.
Vamos ver isto em ação no OpenAI ou Azure OpenAI Playground:
- Use o mesmo prompt com diferentes implementações de LLM (ex., OpenAI, Azure OpenAI, Hugging Face) – viu variações?
- Use o mesmo prompt repetidamente com a mesma implementação de LLM (ex., Azure OpenAI playground) – como diferiram essas variações?
Neste curso, usamos o termo "fabricação" para referir o fenómeno em que LLMs por vezes geram informação factualmente incorreta devido a limitações no seu treino ou outras restrições. Pode também ter ouvido este fenómeno referido como "alucinações" em artigos populares ou papers de investigação. No entanto, recomendamos fortemente usar "fabricação" para evitar antropomorfizar o comportamento ao atribuir traços humanos a um resultado gerado por máquina. Isto também reforça as diretrizes de IA Responsável do ponto de vista terminológico, eliminando termos que podem ser considerados ofensivos ou não inclusivos em alguns contextos.
Quer perceber como as fabricações funcionam? Pense num prompt que instrua a IA a gerar conteúdo para um tema inexistente (para garantir que não está no conjunto de treino). Por exemplo – experimentei este prompt:
Prompt: gerar um plano de aula sobre a Guerra Marciana de 2076. Uma pesquisa na web mostrou-me que existiam relatos fictícios (por exemplo, séries de televisão ou livros) sobre guerras marcianas - mas nenhum em 2076. O senso comum também nos diz que 2076 é no futuro e, portanto, não pode ser associado a um evento real.
Então o que acontece quando executamos este prompt com diferentes fornecedores de LLM?
Resposta 1: OpenAI Playground (GPT-35)
Resposta 2: Azure OpenAI Playground (GPT-35)
Resposta 3: : Hugging Face Chat Playground (LLama-2)
Como esperado, cada modelo (ou versão do modelo) produz respostas ligeiramente diferentes graças ao comportamento estocástico e às variações na capacidade do modelo. Por exemplo, um modelo dirige-se a um público de 8º ano enquanto o outro assume um estudante do ensino secundário. Mas os três modelos geraram respostas que poderiam convencer um utilizador desinformado de que o evento era real.
Técnicas de engenharia de prompts como metaprompting e configuração de temperatura podem reduzir as fabricações dos modelos até certo ponto. Novas arquiteturas de engenharia de prompts também incorporam novas ferramentas e técnicas de forma fluida no fluxo do prompt, para mitigar ou reduzir alguns destes efeitos.
Vamos concluir esta secção tendo uma noção de como a engenharia de prompts é usada em soluções do mundo real, olhando para um Estudo de Caso: GitHub Copilot.
O GitHub Copilot é o seu "Programador Assistente de IA" - converte prompts de texto em sugestões de código e está integrado no seu ambiente de desenvolvimento (por exemplo, Visual Studio Code) para uma experiência de utilizador fluida. Conforme documentado na série de blogs abaixo, a versão inicial foi baseada no modelo OpenAI Codex - com os engenheiros rapidamente a perceberem a necessidade de ajustar finamente o modelo e desenvolver melhores técnicas de engenharia de prompts para melhorar a qualidade do código. Em julho, eles estrearam um modelo de IA melhorado que vai além do Codex para sugestões ainda mais rápidas.
Leia os posts por ordem, para seguir a sua jornada de aprendizagem.
- Maio 2023 | GitHub Copilot está a melhorar na compreensão do seu código
- Maio 2023 | Por dentro do GitHub: Trabalhar com os LLMs por trás do GitHub Copilot.
- Junho 2023 | Como escrever melhores prompts para o GitHub Copilot.
- Julho 2023 | .. GitHub Copilot vai além do Codex com modelo de IA melhorado
- Julho 2023 | Guia do Programador para Engenharia de Prompts e LLMs
- Setembro 2023 | Como construir uma aplicação empresarial com LLM: Lições do GitHub Copilot
Pode também navegar no seu blog de Engenharia para mais posts como este que mostram como estes modelos e técnicas são aplicados no desenvolvimento de aplicações reais.
Já vimos por que a engenharia de prompts é importante - agora vamos perceber como os prompts são construídos para podermos avaliar diferentes técnicas para uma criação de prompts mais eficaz.
Vamos começar com o prompt básico: uma entrada de texto enviada ao modelo sem outro contexto. Aqui está um exemplo - quando enviamos as primeiras palavras do hino nacional dos EUA à OpenAI Completion API ela instantaneamente completa a resposta com as linhas seguintes, ilustrando o comportamento básico de previsão.
| Prompt (Entrada) | Complemento (Saída) |
|---|---|
| Oh say can you see | Parece que está a começar a letra de "The Star-Spangled Banner", o hino nacional dos Estados Unidos. A letra completa é ... |
Agora vamos adicionar contexto e instruções a esse prompt básico. A Chat Completion API permite-nos construir um prompt complexo como uma coleção de mensagens com:
- Pares de entrada/saída que refletem a entrada do utilizador e a resposta do assistente.
- Mensagem do sistema definindo o contexto para o comportamento ou personalidade do assistente.
O pedido está agora na forma abaixo, onde a tokenização captura eficazmente a informação relevante do contexto e da conversa. Agora, mudar o contexto do sistema pode ser tão impactante na qualidade das conclusões quanto as entradas do utilizador fornecidas.
response = openai.chat.completions.create(
model="gpt-3.5-turbo",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Who won the world series in 2020?"},
{"role": "assistant", "content": "The Los Angeles Dodgers won the World Series in 2020."},
{"role": "user", "content": "Where was it played?"}
]
)Nos exemplos acima, o prompt do utilizador era uma consulta simples que pode ser interpretada como um pedido de informação. Com prompts de instrução, podemos usar esse texto para especificar uma tarefa em mais detalhe, fornecendo uma melhor orientação à IA. Aqui está um exemplo:
| Prompt (Entrada) | Complemento (Saída) | Tipo de Instrução |
|---|---|---|
| Escreva uma descrição da Guerra Civil | deu uma simples frase | Simples |
| Escreva uma descrição da Guerra Civil. Forneça datas e eventos importantes e descreva a sua importância | deu uma frase seguida de uma lista de datas de eventos chave com descrições | Complexa |
| Escreva uma descrição da Guerra Civil em 1 parágrafo. Forneça 3 pontos com datas importantes e a sua importância. Forneça mais 3 pontos com figuras históricas chave e as suas contribuições. Retorne a saída em formato JSON | retorna detalhes mais extensos numa caixa de texto, formatados como JSON que pode copiar e colar num ficheiro e validar | Complexa. Formatada. |
Nos exemplos acima, o prompt ainda era bastante aberto, permitindo que o LLM decidisse que parte do seu conjunto de dados pré-treinado era relevante. Com o padrão de design conteúdo principal, o texto de entrada é dividido em duas partes:
- uma instrução (ação)
- conteúdo relevante (que influencia a ação)
Aqui está um exemplo onde a instrução é "resuma isto em 2 frases".
| Prompt (Entrada) | Complemento (Saída) |
|---|---|
| Júpiter é o quinto planeta a partir do Sol e o maior do Sistema Solar. É um gigante gasoso com uma massa mil vezes inferior à do Sol, mas duas vezes e meia a de todos os outros planetas do Sistema Solar juntos. Júpiter é um dos objetos mais brilhantes visíveis a olho nu no céu noturno e é conhecido por civilizações antigas desde antes da história registada. É nomeado em homenagem ao deus romano Júpiter.[19] Quando visto da Terra, Júpiter pode ser suficientemente brilhante para a luz refletida para criar sombras visíveis,[20] e é em média o terceiro objeto natural mais brilhante no céu noturno depois da Lua e Vénus. Resuma isto em 2 frases curtas |
Júpiter, o quinto planeta a partir do Sol, é o maior do Sistema Solar e conhecido por ser um dos objetos mais brilhantes no céu noturno. Nomeado em honra do deus romano Júpiter, é um gigante gasoso cuja massa é duas vezes e meia a de todos os outros planetas do Sistema Solar juntos. |
O segmento de conteúdo principal pode ser usado de várias formas para conduzir instruções mais eficazes:
- Exemplos - em vez de dizer ao modelo o que fazer com uma instrução explícita, dê-lhe exemplos do que fazer e deixe-o inferir o padrão.
- Pistas - siga a instrução com uma "pista" que prepare a conclusão, guiando o modelo para respostas mais relevantes.
- Modelos - são 'receitas' repetíveis para prompts com espaços reservados (variáveis) que podem ser personalizados com dados para casos de uso específicos.
Vamos explorar estes em ação.
Esta é uma abordagem onde se usa o conteúdo principal para "alimentar o modelo" com exemplos do resultado desejado para uma dada instrução, e deixá-lo inferir o padrão do resultado pretendido. Com base no número de exemplos fornecidos, podemos ter prompting zero-shot, one-shot, few-shot, etc.
O prompt consiste agora em três componentes:
- A descrição da tarefa
- Alguns exemplos do resultado desejado
- O início de um novo exemplo (que passa a ser uma descrição implícita da tarefa)
| Tipo de Aprendizagem | Prompt (Entrada) | Complemento (Saída) |
|---|---|---|
| Zero-shot | "The Sun is Shining". Traduza para espanhol | "El Sol está brillando". |
| One-shot | "The Sun is Shining" => ""El Sol está brillando". "It's a Cold and Windy Day" => |
"Es un día frío y ventoso". |
| Few-shot | The player ran the bases => Baseball The player hit an ace => Tennis The player hit a six => Cricket The player made a slam-dunk => |
Basquetebol |
Note como tivemos de dar uma instrução explícita ("Traduza para espanhol") no zero-shot prompting, mas esta é inferida no exemplo de one-shot prompting. O exemplo few-shot mostra como adicionar mais exemplos permite aos modelos fazer inferências mais precisas sem instruções adicionais.
Outra técnica para usar conteúdo principal é fornecer pistas em vez de exemplos. Neste caso, estamos a dar ao modelo uma indicação na direção certa ao começá-lo com um excerto que reflete o formato desejado da resposta. O modelo então "aproveita a pista" para continuar nesse sentido.
| Número de Pistas | Prompt (Entrada) | Complemento (Saída) |
|---|---|---|
| 0 | Júpiter é o quinto planeta a partir do Sol e o maior do Sistema Solar. É um gigante gasoso com uma massa mil vezes inferior à do Sol, mas duas vezes e meia a de todos os outros planetas do Sistema Solar juntos. Júpiter é um dos objetos mais brilhantes visíveis a olho nu no céu noturno e é conhecido por civilizações antigas desde antes da história registada. Resuma Isto |
Júpiter é o maior planeta do nosso Sistema Solar e o quinto a partir do Sol. É um gigante gasoso com uma massa 1/1000 da do Sol, mas é mais pesado do que todos os outros planetas juntos. Civilizações antigas conhecem Júpiter há muito tempo, e é facilmente visível no céu noturno. |
| 1 | Júpiter é o quinto planeta a partir do Sol e o maior do Sistema Solar. É um gigante gasoso com uma massa que é um milésimo da do Sol, mas duas vezes e meia a de todos os outros planetas do Sistema Solar juntos. Júpiter é um dos objetos mais brilhantes visíveis a olho nu no céu noturno, e tem sido conhecido pelas civilizações antigas desde antes da história registada. Resuma Isto O que aprendemos é que Júpiter |
é o quinto planeta a partir do Sol e o maior do Sistema Solar. É um gigante gasoso com uma massa que é um milésimo da do Sol, mas duas vezes e meia a de todos os outros planetas juntos. É facilmente visível a olho nu e tem sido conhecido desde tempos antigos. |
| 2 | Júpiter é o quinto planeta a partir do Sol e o maior do Sistema Solar. É um gigante gasoso com uma massa que é um milésimo da do Sol, mas duas vezes e meia a de todos os outros planetas do Sistema Solar juntos. Júpiter é um dos objetos mais brilhantes visíveis a olho nu no céu noturno, e tem sido conhecido pelas civilizações antigas desde antes da história registada. Resuma Isto Top 3 Factos Que Aprendemos: |
1. Júpiter é o quinto planeta a partir do Sol e o maior do Sistema Solar. 2. É um gigante gasoso com uma massa que é um milésimo da do Sol... 3. Júpiter tem sido visível a olho nu desde tempos antigos ... |
Um modelo de prompt é uma receita pré-definida para um prompt que pode ser armazenada e reutilizada conforme necessário, para promover experiências de utilizador mais consistentes em grande escala. Na sua forma mais simples, é simplesmente uma coleção de exemplos de prompt como este da OpenAI que fornece tanto os componentes interativos do prompt (mensagens de utilizador e sistema) como o formato de pedido orientado por API - para suporte à reutilização.
Na sua forma mais complexa, como este exemplo da LangChain, contém marcadores que podem ser substituídos por dados provenientes de várias fontes (input do utilizador, contexto do sistema, fontes de dados externas, etc.) para gerar um prompt dinamicamente. Isto permite criar uma biblioteca de prompts reutilizáveis que podem ser usados para proporcionar experiências de utilizador consistentes programaticamente em grande escala.
Finalmente, o verdadeiro valor dos modelos está na capacidade de criar e publicar bibliotecas de prompts para domínios de aplicação verticais - onde o modelo de prompt é agora otimizado para refletir o contexto ou exemplos específicos da aplicação que tornam as respostas mais relevantes e precisas para o público-alvo. O repositório Prompts For Edu é um excelente exemplo desta abordagem, compilando uma biblioteca de prompts para o domínio da educação com ênfase em objetivos-chave como planeamento de aulas, design curricular, tutoria de alunos, etc.
Se pensarmos na construção de prompts como tendo uma instrução (tarefa) e um alvo (conteúdo primário), então conteúdo secundário é como contexto adicional que fornecemos para influenciar a saída de alguma forma. Podem ser parâmetros de ajuste, instruções de formatação, taxonomias de tópicos, etc. que ajudam o modelo a adaptar a sua resposta para melhor servir os objetivos ou expectativas do utilizador.
Por exemplo: Dado um catálogo de cursos com metadados extensos (nome, descrição, nível, etiquetas de metadados, instrutor, etc.) sobre todos os cursos disponíveis no currículo:
- podemos definir uma instrução para "resumir o catálogo de cursos para o Outono 2023"
- podemos usar o conteúdo primário para fornecer alguns exemplos da saída desejada
- podemos usar o conteúdo secundário para identificar as 5 principais "etiquetas" de interesse.
Agora, o modelo pode fornecer um resumo no formato mostrado pelos poucos exemplos - mas se um resultado tiver múltiplas etiquetas, pode priorizar as 5 etiquetas identificadas no conteúdo secundário.
Agora que sabemos como os prompts podem ser construídos, podemos começar a pensar em como projetá-los para refletir as melhores práticas. Podemos pensar nisso em duas partes - ter a mentalidade certa e aplicar as técnicas corretas.
A engenharia de prompts é um processo de tentativa e erro, por isso tenha em mente três fatores orientadores amplos:
-
Compreensão do Domínio é Importante. A precisão e relevância da resposta dependem do domínio em que a aplicação ou utilizador opera. Aplique a sua intuição e especialização de domínio para customizar as técnicas ainda mais. Por exemplo, defina personalidades específicas do domínio nos seus prompts de sistema, ou use modelos específicos do domínio nos prompts de utilizador. Forneça conteúdo secundário que reflita contextos específicos do domínio, ou use indícios e exemplos específicos do domínio para guiar o modelo para padrões de uso familiares.
-
Compreensão do Modelo é Importante. Sabemos que os modelos são estocásticos por natureza. Mas as implementações do modelo podem também variar em termos do conjunto de treino usado (conhecimento pré-treinado), das capacidades que fornecem (ex., via API ou SDK) e do tipo de conteúdo para o qual estão otimizados (ex., código vs. imagens vs. texto). Compreenda os pontos fortes e limitações do modelo que está a usar e use esse conhecimento para priorizar tarefas ou construir modelos personalizados otimizados para as capacidades do modelo.
-
Iteração & Validação é Importante. Os modelos estão a evoluir rapidamente, assim como as técnicas para engenharia de prompts. Como especialista no domínio, pode ter outros contextos ou critérios para a sua aplicação específica, que podem não se aplicar à comunidade em geral. Use ferramentas e técnicas de engenharia de prompts para “dar um ponto de partida” à construção do prompt, depois itere e valide os resultados usando a sua própria intuição e experiência no domínio. Registe as suas perceções e crie uma base de conhecimento (ex., bibliotecas de prompts) que possam ser usadas como uma nova referência por outros, para iterações mais rápidas no futuro.
Agora vejamos as práticas recomendadas comuns recomendadas por praticantes da OpenAI e Azure OpenAI.
| O que | Porquê |
|---|---|
| Avaliar os modelos mais recentes. | Novas gerações de modelos provavelmente têm funcionalidades e qualidade melhoradas - mas podem também ter custos mais elevados. Avalie-os para impacto e depois tome decisões de migração. |
| Separar instruções e contexto | Verifique se o seu modelo/fornecedor define delimitadores para distinguir claramente instruções, conteúdo primário e conteúdo secundário. Isto pode ajudar os modelos a atribuir pesos aos tokens com mais precisão. |
| Seja específico e claro | Dê mais detalhes sobre o contexto desejado, resultado, comprimento, formato, estilo, etc. Isto melhorará tanto a qualidade como a consistência das respostas. Capture receitas em modelos reutilizáveis. |
| Seja descritivo, use exemplos | Os modelos podem responder melhor a uma abordagem de "mostrar e contar". Comece com uma abordagem zero-shot onde dá uma instrução (mas sem exemplos) e depois experimente few-shot como refinamento, proporcionando alguns exemplos da saída desejada. Use analogias. |
| Use indícios para iniciar conclusões | Impulsione o modelo rumo a um resultado desejado dando-lhe algumas palavras ou frases iniciais que ele possa usar como ponto de partida para a resposta. |
| Reforce | Às vezes pode precisar de repetir-se para o modelo. Dê instruções antes e depois do conteúdo primário, use uma instrução e um indício, etc. Itere e valide para ver o que funciona. |
| A ordem importa | A ordem em que apresenta a informação ao modelo pode impactar a saída, mesmo nos exemplos de aprendizagem, devido ao viés de recência. Experimente opções diferentes para descobrir qual funciona melhor. |
| Dê uma “saída” ao modelo | Dê ao modelo uma resposta de reserva que ele possa fornecer se não conseguir completar a tarefa por qualquer motivo. Isto pode reduzir as hipóteses de o modelo gerar respostas falsas ou fabricadas. |
Como com qualquer boa prática, lembre-se que os seus resultados podem variar consoante o modelo, a tarefa e o domínio. Use estas práticas como ponto de partida, e itere para encontrar o que funciona melhor para si. Reavalie constantemente o seu processo de engenharia de prompts conforme surjam novos modelos e ferramentas, com foco na escalabilidade do processo e qualidade da resposta.
Parabéns! Chegou ao fim da lição! É altura de pôr alguns desses conceitos e técnicas à prova com exemplos reais!
Para o nosso trabalho prático, vamos usar um Jupyter Notebook com exercícios que pode completar interativamente. Também pode estender o Notebook com as suas próprias células de Markdown e Código para explorar ideias e técnicas ao seu ritmo.
- (Recomendado) Inicie GitHub Codespaces
- (Alternativamente) Clone o repositório para o seu dispositivo local e use-o com o Docker Desktop
- (Alternativamente) Abra o Notebook no seu ambiente preferido de execução de Notebooks.
- Copie o ficheiro
.env.copyna root do repositório para.enve preencha os valoresAZURE_OPENAI_API_KEY,AZURE_OPENAI_ENDPOINTeAZURE_OPENAI_DEPLOYMENT. Volte à secção Learning Sandbox para saber como.
- Selecione o kernel de execução. Se usar as opções 1 ou 2, basta selecionar o kernel Python 3.10.x predefinido fornecido pelo contentor de desenvolvimento.
Está tudo pronto para executar os exercícios. Note que não há respostas “certas” ou “erradas” aqui - apenas explorar opções por tentativa e erro e desenvolver intuição sobre o que funciona para um dado modelo e domínio de aplicação.
Por esta razão não há segmentos de solução de código nesta lição. Em vez disso, o Notebook terá células Markdown intituladas "A Minha Solução:" que mostram um exemplo de saída para referência.
Qual das seguintes é uma boa prompt seguindo algumas práticas recomendadas razoáveis?
- Mostra-me uma imagem de um carro vermelho
- Mostra-me uma imagem de um carro vermelho da marca Volvo e modelo XC90 estacionado junto a um penhasco com o sol a pôr-se
- Mostra-me uma imagem de um carro vermelho da marca Volvo e modelo XC90
Resposta: 2, é o melhor prompt pois fornece detalhes sobre o "quê" e especifica (não é qualquer carro, mas uma marca e modelo específicos) e também descreve o cenário geral. O 3 é o segundo melhor pois também contém muita descrição.
Veja se consegue usar a técnica do “indício” com o prompt: Complete a frase "Mostra-me uma imagem de um carro vermelho da marca Volvo e ". O que responde, e como melhoraria isso?
Quer saber mais sobre diferentes conceitos de Engenharia de Prompts? Vá para a página de aprendizagem contínua para encontrar outros excelentes recursos sobre este tema.
Dirija-se à Lição 5 onde vamos examinar técnicas avançadas de prompting!
Aviso Legal:
Este documento foi traduzido utilizando o serviço de tradução por IA Co-op Translator. Embora nos esforcemos pela precisão, tenha em conta que traduções automáticas podem conter erros ou imprecisões. O documento original na sua língua nativa deve ser considerado a fonte autoritativa. Para informações críticas, recomenda-se tradução profissional realizada por um humano. Não nos responsabilizamos por quaisquer mal-entendidos ou interpretações incorretas decorrentes do uso desta tradução.