Перейти к основному содержимому

Безопасность и GDPR

Безопасное использование ИИ в школе​

AI-School создан для ответственного использования ИИ в образовании с учетом:

  • Возможности входа через школьный аккаунт
  • Поддержки и мониторинга со стороны преподавателей
  • Технических и организационных мер по защите конфиденциальности
  • Опции анонимных аккаунтов без персональных данных

Как AI-School поддерживает соблюдение GDPR​

GDPR требует от образовательных учреждений аккуратно обрабатывать персональные данные и защищать конфиденциальность учащихся. AI-School поддерживает это через:

  • Заключение договора об обработке данных с учебными заведениями, в котором фиксируется обработка персональных данных.
  • Использование типового соглашения из Privacyconvenant Onderwijs в качестве основы для договора об обработке данных.
  • Анонимное предоставление подсказок ИИ-моделям через общий аккаунт без связи с идентифицируемым пользователем.
  • Информирование школ, преподавателей и учащихся о том, что в подсказках или документах не должны содержаться персональные данные.
  • Использование зарезервированных тегов и локальной замены в шаблонах документов, чтобы известные данные, такие как название школы, адрес, имя аккаунта, адрес электронной почты и должность, не передавались языковой модели.
  • Заключение договоров об обработке данных или Data Processing Addenda с поставщиками используемых ИИ-моделей.

Школа остается ответственным контролером обработки за выбранную организацию, авторизации, сроки хранения и использование внутри своей организации.

Терминология обработки данных​

Данные аккаунта и учащегося: данные, такие как имя, адрес электронной почты, имя пользователя и номер учащегося, которые AI-School использует для доступа, управления и сопровождения. Эти данные не добавляются автоматически в ИИ-модель.

Содержимое подсказки: вопрос или задание, введённые пользователем. Выбранная ИИ-модель получает это содержимое для генерации ответа. Если пользователь вводит персональные данные в подсказку, поставщик модели может обработать эти данные.

Контекст чата: предыдущие вопросы и ответы, необходимые для связного ответа. Соответствующий контекст чата может быть отправлен вместе с новой подсказкой выбранной модели.

Дополнительный контекст: при функциях, таких как чат с документами, изображениями и инструментами, выбранные фрагменты документов, изображения, результаты поиска или инструменты могут быть добавлены к вводу модели. Это содержимое также может содержать персональные данные.

Субобработчик: внешняя сторона, которая обрабатывает данные по поручению, например, для хостинга, аутентификации или выполнения ИИ-модели. Договор об обработке данных и приложения определяют актуальные стороны, категории данных, местоположения и гарантии.

Шаблоны документов и конфиденциальные данные​

При создании документов через шаблоны Word AI-School использует систему зарезервированных тегов. В шаблоне могут быть, например, {naam_school}, {adres_school}, {naam_account} или {email_account}. Языковая модель получает только имя поля и задание заполнить форму. Настоящие персональные и организационные данные заменяются AI-School уже в приложении.

Таким образом, эти известные данные не нужно включать в подсказку для ИИ-модели. Это уменьшает количество конфиденциальной информации, обрабатываемой вне приложения.

Дополнение к защите PII

Этот механизм тегов и замены не заменяет защиту PII. Он в основном предотвращает ненужную передачу известных данных из приложения в языковую модель. Если пользователь сам вводит персональные данные в подсказку или документ, защита PII остается важной.

Надзор и фильтры содержимого​

История чата: Преподаватели имеют доступ только к истории чатов тех учащихся, за которых они отвечают. Этот доступ может быть дополнительно ограничен в зависимости от роли.

Мониторинг уроков: Преподаватели могут запускать уроки и при необходимости контролировать учащихся во время занятия.

Фильтры содержимого: AI-School и поставщики моделей используют меры безопасности и фильтры содержимого для ограничения нежелательных или рискованных ответов. Такие фильтры снижают риски, но не гарантируют блокировку каждого нежелательного ответа.

Подробнее о настройках надзора можно прочитать в разделе «Просмотр истории».

Вход с использованием школьного аккаунта​

Мы интегрируем AI-School с Microsoft или Google для безопасного входа с вашим школьным аккаунтом. Школа должна дать согласие на использование интеграции Microsoft 365 или Google Workspace с AI-School.

Интеграция проверяет, зарегистрирован ли адрес электронной почты в приложении AI-School. Это предотвращает использование школьной среды незарегистрированными адресами. Кроме адреса электронной почты, в этом процессе не передаются дополнительные персональные данные.

Исследования и проверки​

DPIA: Grip IT Consultancy — 8 сентября 2026 года. Риски сбора данных в AI-School: какие данные доступны, кто имеет к ним доступ и как данные предоставляются и извлекаются. В рамках рассмотренной обработки данных средний риск для конфиденциальности оценён как низкий; высоких остаточных рисков не выявлено. Школы могут запросить отчёт.

Сканирование уязвимостей: Grip IT Consultancy исследовала ai-school-pro.web.app удаленно и частично автоматизировано с 16 апреля по 16 июня 2025 года. В том числе проверялись SQL-инъекции, межсайтовый скриптинг, перехват сессий, внедрение кода, открытые перенаправления, защищённые соединения и шифрование, а также страницы аутентификации. Общий балл составил 8 (низкий риск), с некоторыми замечаниями и рекомендациями. Сканирование отражает ситуацию в рамках исследуемого периода и области и не гарантирует отсутствия уязвимостей. Отчёт конфиденциален; результаты мы разъясняем по запросу ответственному за защиту данных (DPO) школы или управляющего органа.

Анализ рисков информационной безопасности: анализ от 19 июня 2025 года выявляет угрозы, существующие меры и остаточные риски, включая риск того, что пользователь введет персональные данные в подсказку. Этот анализ также является снимком текущего состояния.

Сертификации​

Сертификат ISO 27001, упомянутый в разделе Субпроцессоры, относится к Google Cloud и касается инфраструктуры, на которой работает AI-School. Это не собственный сертификат HandiHow, поставщика AI-School. DPIA и сканирование уязвимостей также являются независимыми исследованиями, а не общей сертификацией. Если вы хотите узнать актуальный статус сертификации HandiHow, запросите его в AI-School.

Инструменты, интеграции и prompt injection​

Чем больше инструментов и интеграций может использовать AI-модель, тем серьёзнее могут быть последствия вредоносной инструкции в документе, на веб-странице или в письме (prompt injection). Администраторы могут снизить этот риск:

  • Интеграции с Microsoft и Google не обязательны. Без интеграций AI работает только с информацией, которой пользователь делится сам. Интеграции можно добавить позже целенаправленно.
  • Инструменты можно ограничить или отключить для каждой среды в разделе Инструменты.
  • Действия записи в Microsoft 365, такие как черновики писем, отправка, встречи в календаре и сообщения Teams, имеют каждое своё право администрирования. Сервер повторно проверяет это право непосредственно перед выполнением. См. Интеграция с Microsoft.
  • С собственным приложением Microsoft Entra ваша организация сама определяет, какие разрешения Microsoft получает AI-School, для входа и для интеграций.
  • Закрытый режим ограничивает для учащихся дополнительные функции.

Ни одна из этих мер не исключает prompt injection полностью. Поэтому включайте только действительно необходимые функции и права.

AI Act и ответственное использование​

AI Act учитывает предполагаемое использование AI-приложения. Подготовка уроков и общая поддержка с помощью AI сами по себе не являются приложениями высокого риска. Оценивание учащихся с помощью AI, однако, может относиться к высокому риску. Поэтому не используйте AI для оценивания учащихся без окончательного решения квалифицированного учителя. AI-School технически не может полностью этому помешать; зафиксируйте это в правилах использования вашей организации.

Управление остаётся ответственным за политику AI, обучение персонала и AI-грамотность в собственной организации.