IA Generativa

O que é

É uma conexão com o SerproLLM ou com o serviço de GPT (Generative Pre-trained Transformer) da OpenAI, famílias 3.5 e 4, via Microsoft Azure para que o chatbot realize uma variedade de tarefas, explorando bases de conhecimento pré-selecionadas sem a necessidade de o curador modelar os fluxos conversacionais. Esta conexão pode ser realizada via uma conta própria ou via uma conta do Serpro.

Na prática

O motor de conversação IA Generativa irá responder às mensagens dos usuários a partir das informações que estão nas fontes de dados associadas ao motor.

Fica a dica

As respostas do motor IA Generativa são geradas pela inteligência artificial sem o controle do curador sobre seu conteúdo.

Detalhes da tela

Ao criar um motor IA Generativa você deverá escolher um dos tipos:

Conta própria - conexão gerenciado pelo Cliente:

Ao utilizar uma conexão com conta própria será necessário informar as credenciais de conexão:

Campo Descrição
API Key Chave da API na Microsoft Azure.
Versão da API Identificador da versão da API.
URL do serviço Endereço do serviço na Microsoft Azure.
Modelo Identificador do modelo GPT publicado na nuvem do Azure.

Neste caso, o consumo de tokens não será registrado pelo Serprobots nem cobrado do cliente.

Conta Serprobots - conexão gerenciada pelo Serpro:

Ao utilizar uma conexão com conta Serprobots não precisará informar as credenciais de conexão.

Neste caso, o consumo de tokens será registrado pelo Serprobots e cobrado do cliente:

Os dois tipos de motor possuem todos campos abaixo:

Campo Descrição
Nome Nome do motor que será mostrado na lista dos motores do chatbot.
Base de conhecimento Selecionar uma ou mais bases de conhecimento que foram cadastradas. Esta opção ficará desabilitada se nenhuma Base de Conhecimento tiver sido criada previamente.
Como usar as Bases de conhecimento Selecionar se as bases de conhecimento Serão a única fonte de informação para as respostas ou Serão usadas como fonte extra de dados para as respostas.
Estilo da conversa Selecionar qual o estilo (tom) de conversa que o motor GPT adotará. Estilos: Muito restrito, Restrito, Balanceado, Criativo e Muito criativo.
Idioma padrão da resposta Selecionar se o chatbot deve responder no idioma da pergunta ou se deverá sempre responder em Portugês.
Enriquecer a pergunta Quando habilitado, gera variações da pergunta original do usuário para aprimorar o entendimento do motor. Consome tokens de ingestão e as interações ficarão mais lentas.
Enriquecer com sumarização Quando habilitado, cria um sumário de cada fonte de dados. Este sumário será utilizado para refinar o contexto da resposta gerada. Essa configuração não é recomendada para bases de conhecimento bem detalhadas. Além de elevar o consumo de tokens de ingestão, esta opção torna o chatbot indisponível durante o processamento das fontes de dados.
Enriquecer com variações de texto Quando habilitado, gera variações do conteúdo das fontes de dados para aprimorar o entendimento do motor. Além de elevar o consumo de tokens de ingestão, esta opção torna o chatbot indisponível durante o processamento das fontes de dados.
Fazer correção ortográfica da pergunta Corrige a pergunta feita pelo usuário antes de enviar para o motor. Exemplo: "q q c acha d Serpro?" será tratado para "O que você acha do Serpro?"
Instruções para o Prompt Instruções extras que serão enviadas com a pergunta original. Exemplo: "Use um tom formal, como um advogado." Este recurso deve ser utilizado com cautela, pois pode conflitar com as instruções configuradas pela plataforma e gerar respostas equivocadas ou alucinações do modelo.
Exibir opções de especialização da resposta Quando habilitado, o motor irá oferecer a resposta gerada e apresentar opções para o usário com possibilidade de explorar outras fonte de dados para a resposta.
Texto informativo da especialização da resposta Texto que será exibido antes das opções de especialização sugeridas pelo motor.
Exibir as referências Quando habilitado, o motor irá exibir as fontes de dados utilizadas para a geração da resposta.
Texto das referências Texto que será exibido antes das refências usadas para gerar a resposta.