Ir para o conteúdo

Guia

Privacidade de dados e limitações da IA

Funcionalidades de IA · 5 min de leitura

Este artigo explica o que as funcionalidades de IA da sua comunidade enviam aos provedores de IA, o que o Mateflow armazena, o que os membros podem ver nas respostas da IA e onde a IA pode falhar. Leia-o antes de ativar as funcionalidades de IA.

Quem pode fazer isso: proprietários e administradores configuram as funcionalidades de IA; os membros conectados as usam. · Onde: as funcionalidades de IA são configuradas no console de administração na web; os membros usam o assistente de IA na web e no app Mateflow. · Plano: as funcionalidades de IA dependem do seu plano da plataforma.

O que o assistente de IA envia a um provedor de IA

O Mateflow gerencia os modelos de IA para você e processa as funcionalidades de IA pela API da OpenAI:

  • O assistente de IA (AI Copilot), as ferramentas de escrita com IA e a geração de estruturas de curso e de questionários usam o GPT-4o mini da OpenAI. Essas solicitações passam pelo Cloudflare AI Gateway a caminho da OpenAI.
  • A moderação por IA usa o modelo omni-moderation-latest da OpenAI.
  • A base de conhecimento usa o modelo text-embedding-3-small da OpenAI para indexar suas fontes, para que as perguntas possam ser associadas a elas.

Nem os membros nem os administradores podem alterar esses modelos. De acordo com a política de dados da API da OpenAI, os dados enviados pela API não são usados por padrão para treinar os modelos da OpenAI, e a OpenAI pode mantê-los por até 30 dias para monitorar abusos.

Quando um membro faz uma pergunta ao assistente de IA, o Mateflow primeiro pesquisa na sua base de conhecimento e, se estiverem ativadas, nas publicações da sua comunidade. Depois, envia ao modelo a pergunta com os trechos correspondentes e o Tom e as Orientações extras que você tiver definido. O assistente não pesquisa na web. As outras funcionalidades de IA enviam só aquilo em que trabalham: o texto que alguém pede para Aprimorar com IA melhorar, os detalhes do curso para a Estrutura do curso com IA ou o texto ou as legendas da aula a partir dos quais um questionário é criado.

O que a moderação por IA envia à OpenAI

A moderação por IA é uma funcionalidade separada, configurada em Admin → Moderação → Moderação Automatizada. A chave dela diz: Desenvolvido pela Moderação da OpenAI. O conteúdo é enviado a um serviço terceirizado — revise sua política de privacidade antes de ativar.

  • Só é enviado o título e o texto do corpo do que você escolher em Verificar: Publicações de nível raiz, Respostas e comentários ou os dois. Imagens, anexos e vídeos não são enviados.
  • Quando Ativar moderação por IA está desativado, nada é enviado.
  • As pontuações e as categorias de cada decisão, sem o texto da publicação, são mantidas por 365 dias.

A moderação por IA pode errar nos dois sentidos: ela pode sinalizar publicações inofensivas e deixar passar publicações nocivas. Ela não toma decisões finais sozinha. No modo Aplicar, o conteúdo que ela oculta ou sinaliza aguarda um moderador decidir se mantém ou remove. Veja Usar IA para moderar conteúdo.

O que o Mateflow armazena das funcionalidades de IA

O Mateflow mantém estes registros de IA da sua comunidade:

  • Os chats de IA dos membros. As conversas de cada membro ficam salvas em Histórico de chat, e só esse membro as vê. Os chats expiram depois de 180 dias. Os membros podem renomear um chat ou excluí-lo antes disso, na web ou no app; na web, também podem exportá-lo como Markdown ou JSON.
  • Registros de perguntas (antes Logs de Acertos). Cada pergunta, a resposta, as citações dela e qualquer avaliação, motivo e comentário que o membro tenha dado são registrados para proprietários e administradores em Admin → AI Copilot → Perguntas. A lista não mostra quem perguntou, mas abrir uma pergunta mostra Perguntado por. Excluir um chat não exclui o registro de perguntas dele. Admin → AI Copilot → Uso também nomeia seus Membros mais ativos. Veja Revisar as respostas do assistente de IA e preencher lacunas.
  • Arquivos e páginas da base de conhecimento. Os arquivos que você envia e as páginas que o Mateflow rastreia são armazenados e indexados só para o assistente de IA. Eles não aparecem na sua biblioteca de mídia. Excluir uma fonte remove os documentos indexados dela.

As publicações da comunidade não são copiadas para a base de conhecimento; o assistente as pesquisa onde elas estão. Quando você remove um membro da sua comunidade, os chats de IA e os registros de perguntas dele são excluídos. Quando uma comunidade é excluída, todos os dados de IA dela são excluídos junto.

Qual conteúdo os membros podem ver nas respostas da IA

O assistente de IA responde a cada membro só com base nas publicações da comunidade que esse membro já pode abrir. As publicações em espaços Privados ou Secretos são usadas só para os membros desses espaços. Rascunhos, publicações aguardando aprovação, publicações ocultas ou excluídas e publicações em espaços arquivados nunca são usados. Visitantes não podem usar o assistente de IA.

A base de conhecimento é diferente. As fontes de conhecimento não têm permissões por membro, então qualquer coisa que esteja na base de conhecimento pode aparecer em uma resposta para qualquer membro que use o assistente de IA. Não adicione arquivos ou páginas que alguns membros não devam ler.

Para controlar em quais espaços a pesquisa é feita, veja Escolher em quais espaços seu assistente de IA pode pesquisar.

As respostas da IA podem estar erradas

O assistente de IA pode entender mal uma pergunta ou as fontes dela. Os membros veem A IA pode cometer erros. Verifique as informações importantes. abaixo da caixa do chat. Cada resposta lista suas Fontes, e passar o cursor sobre a porcentagem dela mostra Pontuação de confiança da IA para esta resposta. Quando as evidências são fracas demais, os membros veem Evidências insuficientes em vez de um palpite. Uma resposta que para antes da hora é marcada com A geração parou antes de concluir — esta resposta está incompleta.

Uma resposta só é tão atual e correta quanto a sua base de conhecimento e as suas publicações. Revise as perguntas de baixa confiança em Admin → AI Copilot → Perguntas e corrija as fontes por trás delas.

Artigos relacionados

Este guia foi útil?

Voltar aos guias

Não encontra o que precisa?

Se você é membro de uma comunidade, fale com os administradores dela. Se está criando ou gerenciando uma comunidade no Mateflow, nossa equipe pode ajudar.