Ir para o conteúdo principal

Segurança e GDPR

Uso responsável de IA na escola​

AI-School foi configurado para o uso responsável de IA na educação com:

  • Possibilidade de login escolar
  • Supervisão e monitoramento por professores
  • Medidas técnicas e organizacionais para proteção da privacidade
  • Opção para contas anônimas sem dados pessoais

Como o AI-School apoia a conformidade com o GDPR​

O GDPR exige que as instituições educacionais processem dados pessoais com cuidado e protejam a privacidade dos alunos. O AI-School apoia isso com:

  • A celebração de um contrato de processamento de dados com as escolas, que estabelece o processamento de dados pessoais.
  • O uso do acordo-modelo do Privacyconvenant Onderwijs como base para o contrato de processamento.
  • A oferta anônima de prompts aos modelos de IA por meio de uma conta geral, sem ligação a um usuário identificável.
  • A informação às escolas, professores e alunos de que não devem incluir dados pessoais em prompts ou documentos.
  • O uso de tags reservadas e substituição local em templates de documentos, para que dados conhecidos como nome da escola, endereço, nome da conta, e-mail e função não precisem ser enviados ao modelo de linguagem.
  • A celebração de contratos de processamento de dados ou Data Processing Addenda com os fornecedores dos modelos de IA usados.

A escola permanece como controladora dos dados responsável pela configuração escolhida, autorizações, prazos de retenção e uso dentro da própria organização.

Quadro conceitual para o processamento de dados​

Dados de conta e administração de alunos: dados como nome, e-mail, nome de usuário e número do aluno que o AI-School usa para acesso, gestão e supervisão. Esses dados não são automaticamente adicionados a um modelo de IA.

Conteúdo do prompt: a pergunta ou tarefa que um usuário insere. O modelo de IA escolhido recebe esse conteúdo para gerar uma resposta. Se um usuário inserir dados pessoais no prompt, o provedor do modelo pode processar esses dados.

Contexto do chat: perguntas e respostas anteriores necessárias para fornecer uma resposta coerente. O contexto relevante do chat pode ser enviado junto com o novo prompt ao modelo escolhido.

Contexto adicional: em funções como chat com documentos, imagens e ferramentas, fragmentos de documentos selecionados, imagens, resultados de busca ou resultados de ferramentas podem ser adicionados à entrada do modelo. Esse conteúdo também pode conter dados pessoais.

Subprocessador: uma parte externa que processa dados em nome do controlador, por exemplo, para hospedagem, autenticação ou execução de um modelo de IA. O contrato de processamento e anexos são determinantes para as partes atuais, categorias de dados, locais e garantias.

Templates de documentos e dados sensíveis à privacidade​

Ao criar documentos via templates do Word, o AI-School usa um sistema de tags reservadas. No template pode haver, por exemplo, {naam_school}, {adres_school}, {naam_account} ou {email_account}. O modelo de linguagem recebe apenas o nome do campo e a tarefa de preencher o formulário. Os dados pessoais reais e dados da organização são substituídos posteriormente pelo próprio AI-School na aplicação.

Assim, esses dados conhecidos não precisam ser incluídos no prompt enviado ao modelo de IA. Isso reduz a quantidade de informações sensíveis à privacidade processadas fora da aplicação.

Complemento à proteção de PII

Esse mecanismo de tags e substituição não substitui a proteção de PII. Ele previne principalmente que dados conhecidos da aplicação sejam enviados desnecessariamente ao modelo de linguagem. Se um usuário inserir dados pessoais em um prompt ou documento, a proteção de PII continua sendo importante.

Supervisão e filtros de conteúdo​

Histórico do chat: Professores têm acesso apenas ao histórico de chat dos alunos pelos quais são responsáveis. Esse acesso pode ser ainda mais limitado por função.

Monitoramento de aula: Professores podem iniciar aulas e monitorar alunos durante a aula, se desejado.

Filtros de conteúdo: AI-School e os provedores de modelos usam medidas de segurança e filtros de conteúdo para limitar saídas indesejadas ou arriscadas. Esses filtros reduzem riscos, mas não garantem que toda resposta indesejada seja bloqueada.

Em "Visualização do histórico" você pode ler mais sobre as configurações possíveis em termos de supervisão.

Login com conta escolar​

Conectamos o AI-School com Microsoft ou Google para permitir login seguro com a conta escolar. A escola deve autorizar o uso da conexão Microsoft 365 ou Google Workspace do AI-School.

A conexão verifica se o e-mail está registrado na aplicação AI-School. Assim, evitamos que endereços de e-mail não registrados possam usar o ambiente escolar. Além do e-mail, nenhum dado pessoal adicional é trocado nesse processo.

Pesquisas e auditorias​

DPIA: Grip IT Consultancy — 8 de setembro de 2026. Riscos associados à recolha de dados no AI-School: que dados estão disponíveis, quem tem acesso e como os dados são fornecidos e obtidos. No tratamento de dados avaliado, o risco médio para a privacidade foi considerado baixo e não foram identificados riscos residuais elevados. As escolas podem solicitar o relatório.

Vulnerability scan: A Grip IT Consultancy examinou ai-school-pro.web.app remotamente e parcialmente automatizado de 16 de abril a 16 de junho de 2025. Foram analisados, entre outros, injeção de SQL, cross-site scripting, sequestro de sessão, injeção de código, redirecionamentos abertos, ligações seguras e encriptação, e páginas de autenticação. A pontuação geral foi 8 (risco baixo), com alguns pontos de atenção e recomendações. A varredura reflete a situação dentro do escopo e período analisados e não garante que não existam vulnerabilidades. O relatório é confidencial; explicamos os resultados, a pedido, ao encarregado da proteção de dados (DPO) de uma escola ou de uma direção.

Análise de risco de segurança da informação: a análise de 19 de junho de 2025 mapeia ameaças, medidas existentes e riscos residuais, incluindo o risco de um usuário inserir dados pessoais em um prompt. Essa análise também é um retrato do momento.

Certificações​

A certificação ISO 27001 mencionada em Subprocessadores pertence ao Google Cloud e diz respeito à infraestrutura em que a AI-School funciona. Não é uma certificação própria da HandiHow, o fornecedor da AI-School. A DPIA e a varredura de vulnerabilidades também são investigações independentes e não uma certificação geral. Se quiser saber o estado atual das certificações da HandiHow, solicite-o à AI-School.

Ferramentas, conexões e injeção de prompt​

Quanto mais ferramentas e conexões um modelo de IA pode usar, maiores podem ser as consequências de uma instrução maliciosa num documento, página web ou e-mail (injeção de prompt). Os administradores podem reduzir esse risco:

  • As conexões com Microsoft e Google não são obrigatórias. Sem conexões, a IA trabalha apenas com as informações que o usuário compartilha. As conexões podem ser adicionadas de forma direcionada mais tarde.
  • As ferramentas podem ser limitadas ou desativadas por ambiente em Ferramentas.
  • As ações de escrita no Microsoft 365, como rascunhos de e-mail, envio, compromissos de agenda e mensagens do Teams, têm cada uma o seu próprio direito de administração. O servidor verifica esse direito novamente imediatamente antes da execução. Veja Integração com Microsoft.
  • Com um app Microsoft Entra próprio, a sua organização decide quais permissões da Microsoft a AI-School recebe, para login e para conexões.
  • O modo fechado limita as funcionalidades adicionais para os alunos.

Nenhuma destas medidas exclui totalmente a injeção de prompt. Ative, por isso, apenas as funcionalidades e permissões realmente necessárias.

AI Act e uso responsável​

O AI Act considera o uso pretendido de uma aplicação de IA. A preparação de aulas e o apoio geral com IA não são, por si só, aplicações de alto risco. Avaliar alunos com IA pode, no entanto, ser de alto risco. Por isso, não use IA para avaliar alunos sem o julgamento final de um professor habilitado. A AI-School não pode impedir isso totalmente do ponto de vista técnico; registre-o nas regras de uso da sua organização.

A diretoria continua responsável pela política de IA, pela formação do pessoal e pela literacia em IA dentro da própria organização.