Como escrever ótimos comandos de IA

Se você souber como escrever (e reescrever) ótimos comandos de inteligência artificial, poderá fazer coisas incríveis com ela.

Eu não sabia. Por isso, conversei com meu colega Theo Bleier, engenheiro de IA que passa os dias mexendo com os comandos prontos que você vê quando usa a IA do Notion. Agora consigo explicar como você pode usar o incrível poder da IA generativa para aprimorar o trabalho e a vida, começando hoje mesmo.

Observação: todas as solicitações e todas as respostas desta postagem foram feitas na IA do Notion. Mas os princípios que discutimos devem funcionar da mesma forma em qualquer modelo de linguagem grande (LLM) padrão.

Os grandes modelos de linguagem (LLMs), como a IA do Notion, ChatGPT e Llama, usam conjuntos de dados que incluem enormes volumes de linguagem, o equivalente a milhões de livros, páginas da web e assim por diante. Eles transformam cada palavra (ou partes de uma palavra) nesses bilhões de frases em um token e, em seguida, classificam cada token de acordo com sua frequência de uso ao lado de todos os outros tokens nesse conjunto de dados.

Quando você comanda um modelo de IA, ele usa essas classificações para estudar a solicitação e enviar de volta o que considera uma resposta ideal. Para comandos simples, esse processo parece bastante objetivo.

Mas os LLMs eventualmente se afastam das suas classificações de tokens para gerar uma resposta criativa, daí o nome "IA generativa". O resultado pode ser um pouco assustador.

Como a estratégia de classificação de tokens dos modelos de linguagem gera linguagem complexa e capacidade de conversa? Essa pergunta continua sendo uma área ativa de pesquisa. Mas não precisamos entender completamente esse processo para aprender a utilizá-lo.

Os modelos de IA generativa não são como a Siri ou o Google Assistente, que responde de forma eficaz apenas a frases exatas. Com treinamento em montanhas de diálogos, seu modelo de linguagem conhece todas as nuances de como as pessoas conversam e enviam mensagens de texto. Fale com ele como se falasse com uma pessoa, e você obterá uma resposta melhor (mais humana).

Simplifique seu comando o máximo possível e, ao mesmo tempo, explique-o com todos os detalhes relevantes – falaremos mais sobre isso adiante. Quanto mais clara for a linguagem, menor a probabilidade de o modelo interpretar mal suas palavras – também falaremos mais sobre isso adiante.

Quando você diz "Não faça...", um LLM pode se concentrar em "Faça" e ignorar o "não" e, assim, realizar a ação exata que você acha que pediu para evitar. Portanto:

RUIM:não inclua listas incompletas.

BOM:inclua apenas listas completas.

Agora que já abordamos como conversar com nosso LLM, vamos falar sobre o assunto da nossa conversa. Escolhi um projeto de pesquisa no qual um analista de mercado poderia querer ajuda, mas você pode perguntar à IA o que quiser, de trabalhos escolares a como preparar um ótimo cardápio para a ceia de Ano Novo. Os princípios são os mesmos.

Digamos que você é analista de mercado em uma empresa de produtos esportivos e precisa escrever um relatório sobre as melhores cidades dos EUA para lançar uma nova linha de equipamentos de camping. Como você deve fazer a pergunta?

Quer que seu modelo faça o trabalho de um analista de mercado? Comece dizendo:

Sim, é estranho, mas funciona. Os LLMs são treinados com linguagem humana. Diga ao seu modelo para imaginar que é um analista de mercado, e ele destacará os padrões de token que estão vinculados a analistas de mercado reais. Quando você pensa nesses termos, dar uma identidade ao modelo não é tão estranho. Dizer para ele

antes que ele responda ao seu comando realmente é estranho, mas parece funcionar também.

Os modelos de linguagem entendem um token de cada vez. Cada um desses tokens conta – é por isso que a concisão é importante – mas você também não pode presumir que seu modelo interpretará corretamente um comando vago.

Essa resposta cuidadosa indica educadamente que não demos ao nosso modelo informações suficientes para que ele nos ofereça uma resposta relevante. Vamos ajustar de acordo:

Ops, queríamos que nosso relatório especificasse os locais:

Percebe como um pequeno ajuste em um comando provoca uma mudança significativa na resposta da nossa IA? Isso faz você se perguntar qual seria o resultado de um ajuste maior.

A maneira que a resposta da IA continua se aproximando do que queremos com base no aumento da clareza de nossas instruções leva a uma de nossas dicas mais importantes:

Até agora, nossos comandos foram bem curtos. Mas os LLMs são capazes de processar grandes volumes de dados, o que significa que, quando você aprender a escrever comandos, poderá exigir muito mais deles. Na verdade, uma vantagem que a IA do Notion tem sobre LLMs como ChatGPT é que, em vez de começar de uma página em branco, você pode começar em uma página existente e dizer à IA algo como "com base nas diretrizes acima…" ou "consulte a tabela acima para obter estatísticas atualizadas sobre essas cidades".

Você também pode adicionar ao seu comando frases esclarecedoras que antecipam problemas que o modelo terá ou decisões que ele precisará tomar.

Este é um resultado que vale a pena fazer uma pausa. Nossa IA escolheu quatro cidades: Denver, Seattle, Austin e Minneapolis. Quando acrescentamos que queremos apenas cidades com pelo menos 15 centímetros de neve por ano, o modelo colocou Anchorage e Burlington no lugar de Seattle e Austin, mudando sua lógica para enfatizar a queda de neve total de cada cidade.

Mas esta é realmente uma lista ideal? Nova York recebe 60 cm de neve por ano. Será que realmente queremos enfatizar Anchorage em vez da Nova York para vender nosso equipamento de acampamento?

Há algumas lições de escrita de comando aqui.

A primeira é que os modelos de linguagem podem ser imprevisíveis, até mesmo cometer erros. Nossa IA nos informa que Anchorage é "a cidade com a maior queda de neve nos EUA (média de 256 centímetros por ano)". As minhas pesquisas mostram que Anchorage tem uma média de 195 cm de neve por ano e que a cidade onde mais neva nos Estados Unidos é Buffalo, Nova York, com mais de 279 cm por ano. Na verdade, quando faço a mesma pergunta ao modelo alguns dias depois, recebo um resultado mais preciso:

Os cientistas da computação chamam de "alucinação" a tendência dos modelos de IA generativa de lançar periodicamente resultados falsos. Podemos nos proteger contra a tendência do nosso modelo de ocasionalmente nos pegar de surpresa guiando-o de volta para o que sabe fazer melhor.

Até agora, pedimos à nossa IA para coletar informações da internet. Só que a habilidade mais poderosa de um LLM é a linguagem – entendê-la, trabalhar com ela, mudá-la, melhorá-la.

A IA nos ajudou a escolher as cidades para concentrarmos nossa campanha. Para o relatório final, vamos pedir uma seleção de informações sobre cada cidade em uma conclusão refinada. Mostraremos o que fazer com uma instrução que começa com um “exemplo few-shots”, um exemplo da entrada que o modelo receberá e da saída que queremos que ele produza. Em seguida, adicionaremos anotações a uma cidade sobre a qual queremos informar:

Muito bom, né? Demorou um pouco, mas descobrimos como usar nosso modelo para vasculhar a internet e fazer sugestões, depois pegar as informações que selecionamos e transformá-las em um texto com o qual podemos trabalhar. A IA até acertou o número de habitantes!

Embora eu tenha notado que a IA não mencionou que as montanhas ao redor da cidade recebem cerca de 12 metros de neve por ano quando verifiquei os dados básicos sobre Salt Lake City. Isso não deveria estar incluído no resumo?

Com certeza, mas agora você está ponderando sobre a segunda lição importante: que isso realmente é muito trabalhoso. Os seres humanos se comunicam uns com os outros há dezenas de milhares de anos. Estamos estudando como nos comunicar com modelos de linguagem há apenas alguns meses. Como sabemos quando estamos fazendo certo? Não poderíamos continuar ajustando nossos comandos indefinidamente?

Sim, poderíamos, e esse é um insight importante sobre trabalhar com inteligência artificial: quanto mais esforço você colocar, mais benefício receberá. A IA não apaga nosso trabalho, ela complementa nossas habilidades, completa nossos esforços e nos leva a lugares que nunca poderíamos chegar sozinhos.

E é claro que estamos apenas começando. Que maravilhas a IA de amanhã será capaz de realizar? O céu é o limite. Vamos começar a aprender a voar.