Безпека та GDPR
Безпечне використання AI у школі
AI-School створено для відповідального використання AI в освіті з такими можливостями:
- Вхід через шкільний акаунт
- Супровід і моніторинг викладачами
- Технічні та організаційні заходи для захисту приватності
- Опція анонімних акаунтів без персональних даних
Як AI-School підтримує відповідність GDPR
GDPR вимагає від навчальних закладів ретельно обробляти персональні дані та захищати приватність учнів. AI-School підтримує це за допомогою:
- Укладання договору про обробку даних зі школами, в якому фіксується обробка персональних даних.
- Використання модельної угоди Privacyconvenant Onderwijs як основи для договору про обробку даних.
- Анонімного надсилання запитів (prompt) до AI-моделей через загальний акаунт без прив’язки до ідентифікованого користувача.
- Інформування шкіл, викладачів і учнів про те, що в запити або документи не слід включати персональні дані.
- Використання зарезервованих тегів і локальної заміни в шаблонах документів, щоб відомі дані, такі як назва школи, адреса, ім’я акаунта, електронна пошта та посада, не передавалися мовній моделі.
- Укладання договорів про обробку даних або Data Processing Addenda з постачальниками використаних AI-моделей.
Школа залишається відповідальним контролером за обрану організацію, авторизації, терміни зберігання та використання в межах власної організації.
Визначення для обробки даних
Дані акаунта та учнівської адміністрації: дані, такі як ім’я, електронна пошта, ім’я користувача та номер учня, які AI-School використовує для доступу, управління та супроводу. Ці дані не додаються автоматично до AI-моделі.
Вміст запиту (prompt): питання або завдання, яке вводить користувач. Обрана AI-модель отримує цей вміст для генерації відповіді. Якщо користувач вводить персональні дані у запит, постачальник моделі може обробляти ці дані.
Контекст чату: попередні питання та відповіді, необхідні для надання послідовної відповіді. Відповідний контекст чату може бути надісланий разом із новим запитом до обраної моделі.
Додатковий контекст: у функціях, таких як чат із документами, зображеннями та інструментами, обрані фрагменти документів, зображення, результати пошуку або інструментів можуть додаватися до вводу моделі. Цей вміст також може містити персональні дані.
Субпідрядник: зовнішня сторона, яка обробляє дані за дорученням, наприклад, для хостингу, автентифікації або виконання AI-моделі. Договір про обробку даних і додатки визначають актуальні сторони, категорії даних, локації та гарантії.
Шаблони документів і конфіденційні дані
При створенні документів через шаблони Word AI-School використовує систему зарезервованих тегів. У шаблоні можуть бути, наприклад, {naam_school}, {adres_school}, {naam_account} або {email_account}. Мовна модель отримує лише ім’я поля та завдання заповнити форму. Справжні персональні та організаційні дані замінюються AI-School безпосередньо в додатку.
Таким чином, ці відомі дані не потрібно включати до запиту до AI-моделі. Це зменшує обсяг конфіденційної інформації, що обробляється поза додатком.
Цей механізм тегів і заміни не замінює захист PII. Він головним чином запобігає непотрібній передачі відомих даних із додатку до мовної моделі. Якщо користувач сам вводить персональні дані у запит або документ, захист PII залишається важливим.
Контроль і фільтри вмісту
Історія чату: Викладачі мають доступ лише до історії чату учнів, за яких вони відповідають. Цей доступ може бути додатково обмежений залежно від ролі.
Моніторинг уроків: Викладачі можуть запускати уроки та за потреби моніторити учнів під час уроку.
Фільтри вмісту: AI-School і постачальники моделей використовують заходи безпеки та фільтри вмісту для обмеження небажаного або ризикового виводу. Такі фільтри зменшують ризики, але не гарантують блокування кожної небажаної відповіді.
У розділі «Перегляд історії» можна дізнатися більше про можливі налаштування контролю.
Вхід через шкільний акаунт
Ми інтегруємо AI-School з Microsoft або Google для безпечного входу через ваш шкільний акаунт. Школа має надати згоду на використання інтеграції Microsoft 365 або Google Workspace з AI-School.
Інтеграція перевіряє, чи зареєстрована електронна адреса в додатку AI-School. Це запобігає використанню шкільного середовища неавторизованими адресами. Окрім електронної пошти, під час цього процесу не обмінюються додаткові персональні дані.
Дослідження та перевірки
DPIA: Grip IT Consultancy — 8 вересня 2026 року. Ризики збирання даних в AI-School: які дані доступні, хто має до них доступ і як дані надаються та отримуються. У межах оціненої обробки даних середній ризик для приватності визначено як низький; високих залишкових ризиків не виявлено. Школи можуть запросити звіт.
Сканування вразливостей: Grip IT Consultancy досліджувала ai-school-pro.web.app дистанційно та частково автоматизовано з 16 квітня по 16 червня 2025 року. Зокрема перевірялися SQL-ін'єкції, міжсайтовий скриптинг, перехоплення сесій, ін'єкції коду, відкриті перенаправлення, захищені з'єднання та шифрування, а також сторінки автентифікації. Загальний бал — 8 (низький ризик), з кількома зауваженнями та рекомендаціями. Сканування відображає стан у межах дослідженої сфери та періоду і не гарантує відсутність вразливостей. Звіт є конфіденційним; результати ми роз'яснюємо на запит відповідальному за захист даних (DPO) школи або ради.
Аналіз ризиків інформаційної безпеки: аналіз від 19 червня 2025 року визначає загрози, існуючі заходи та залишкові ризики, зокрема ризик, що користувач вводить персональні дані у запит. Цей аналіз також є моментальним звітом.
Сертифікації
Сертифікація ISO 27001, згадана в розділі Субпідрядники, належить Google Cloud і стосується інфраструктури, на якій працює AI-School. Це не власна сертифікація HandiHow, постачальника AI-School. DPIA та сканування вразливостей також є незалежними дослідженнями, а не загальною сертифікацією. Щоб дізнатися актуальний статус сертифікації HandiHow, запитайте його в AI-School.
Інструменти, підключення та prompt-ін'єкції
Чим більше інструментів і підключень може використовувати AI-модель, тим серйозніші можуть бути наслідки зловмисної інструкції в документі, на вебсторінці чи в електронному листі (prompt-ін'єкція). Адміністратори можуть зменшити цей ризик:
- Підключення до Microsoft і Google не є обов'язковими. Без підключень AI працює лише з інформацією, яку користувач надає сам. Підключення можна додати пізніше вибірково.
- Інструменти можна обмежити або вимкнути для кожного середовища в розділі Інструменти.
- Дії запису в Microsoft 365, як-от чернетки листів, надсилання, події календаря та повідомлення Teams, мають окреме адміністративне право. Сервер повторно перевіряє це право безпосередньо перед виконанням. Див. Інтеграція з Microsoft.
- За допомогою власного застосунку Microsoft Entra ваша організація сама визначає, які права Microsoft отримує AI-School, для входу та для підключень.
- Закритий режим обмежує додаткові функції для учнів.
Жоден із цих заходів не виключає prompt-ін'єкцію повністю. Тому вмикайте лише ті функції та права, які справді потрібні.
AI Act і відповідальне використання
AI Act розглядає передбачене використання AI-застосунку. Підготовка до уроків і загальна підтримка за допомогою AI самі по собі не є високоризиковими застосунками. Оцінювання учнів за допомогою AI може належати до високого ризику. Тому не використовуйте AI для оцінювання учнів без остаточного рішення уповноваженого вчителя. AI-School технічно не може повністю цьому запобігти; зафіксуйте це в правилах використання вашої організації.
Керівництво залишається відповідальним за AI-політику, навчання персоналу та AI-грамотність у власній організації.