برو به محتوای اصلی

امنیت و GDPR

استفاده ایمن از هوش مصنوعی در مدرسه​

AI-School برای استفاده مسئولانه از هوش مصنوعی در آموزش با موارد زیر طراحی شده است:

  • امکان ورود به سیستم مدرسه
  • راهنمایی و نظارت معلمان
  • اقدامات فنی و سازمانی برای حفاظت از حریم خصوصی
  • گزینه حساب‌های ناشناس بدون داده‌های شخصی

چگونه AI-School از رعایت GDPR پشتیبانی می‌کند​

GDPR ایجاب می‌کند که مؤسسات آموزشی داده‌های شخصی را با دقت پردازش کرده و حریم خصوصی دانش‌آموزان را محافظت کنند. AI-School این موارد را پشتیبانی می‌کند با:

  • انعقاد قرارداد پردازش داده‌ها با مدارس که در آن پردازش داده‌های شخصی ثبت می‌شود.
  • استفاده از قرارداد مدل توافقنامه حفظ حریم خصوصی آموزش به عنوان پایه قرارداد پردازش داده‌ها.
  • ارائه ناشناس درخواست‌ها به مدل‌های هوش مصنوعی از طریق یک حساب عمومی، بدون ارتباط با کاربر قابل شناسایی.
  • اطلاع‌رسانی به مدارس، معلمان و دانش‌آموزان که نباید داده‌های شخصی در درخواست‌ها یا اسناد وارد شود.
  • استفاده از برچسب‌های رزرو شده و جایگزینی محلی در قالب‌های سند، به طوری که داده‌های شناخته شده مانند نام مدرسه، آدرس، نام حساب، ایمیل و نقش نیازی به ارسال به مدل زبان نداشته باشند.
  • انعقاد قراردادهای پردازش داده یا الحاقات پردازش داده با تأمین‌کنندگان مدل‌های هوش مصنوعی استفاده شده.

مدرسه به عنوان مسئول پردازش داده‌ها مسئول تنظیمات انتخاب شده، مجوزها، دوره‌های نگهداری و استفاده در سازمان خود باقی می‌ماند.

چارچوب مفهومی برای پردازش داده‌ها​

داده‌های حساب و مدیریت دانش‌آموز: داده‌هایی مانند نام، ایمیل، نام کاربری و شماره دانش‌آموز که AI-School برای دسترسی، مدیریت و راهنمایی استفاده می‌کند. این داده‌ها به طور خودکار به مدل هوش مصنوعی اضافه نمی‌شوند.

محتوای درخواست: سوال یا دستوری که کاربر وارد می‌کند. مدل هوش مصنوعی انتخاب شده این محتوا را دریافت می‌کند تا پاسخ تولید کند. اگر کاربر داده‌های شخصی را در درخواست وارد کند، ارائه‌دهنده مدل ممکن است آن داده‌ها را پردازش کند.

زمینه چت: سوالات و پاسخ‌های قبلی که برای ارائه پاسخ منسجم لازم است. زمینه چت مرتبط ممکن است همراه با درخواست جدید به مدل ارسال شود.

زمینه تکمیلی: در قابلیت‌هایی مانند چت با اسناد، تصاویر و ابزارها، بخش‌های انتخاب شده سند، تصاویر، نتایج جستجو یا نتایج ابزار به ورودی مدل اضافه می‌شوند. این محتوا نیز ممکن است داده‌های شخصی داشته باشد.

زیرپردازشگر: شخص ثالثی که به نمایندگی داده‌ها را پردازش می‌کند، مثلاً برای میزبانی، احراز هویت یا اجرای مدل هوش مصنوعی. قرارداد پردازش داده و پیوست‌ها تعیین‌کننده طرف‌های فعلی، دسته‌های داده، مکان‌ها و تضمین‌ها هستند.

قالب‌های سند و داده‌های حساس به حریم خصوصی​

هنگام ایجاد اسناد از طریق قالب‌های Word، AI-School از سیستمی از برچسب‌های رزرو شده استفاده می‌کند. در قالب ممکن است مثلاً {naam_school}، {adres_school}، {naam_account} یا {email_account} وجود داشته باشد. مدل زبان فقط نام فیلد و دستور پر کردن فرم را دریافت می‌کند. داده‌های واقعی شخصی و سازمانی سپس توسط خود AI-School در برنامه جایگزین می‌شوند.

بدین ترتیب این داده‌های شناخته شده نیازی به وارد شدن در درخواست به مدل هوش مصنوعی ندارند. این امر مقدار اطلاعات حساس به حریم خصوصی که خارج از برنامه پردازش می‌شود را کاهش می‌دهد.

مکمل حفاظت از داده‌های شخصی (PII)

این مکانیزم برچسب و جایگزینی جایگزین حفاظت از داده‌های شخصی نیست. این بیشتر از ارسال غیرضروری داده‌های شناخته شده از برنامه به مدل زبان جلوگیری می‌کند. اگر کاربر خود داده‌های شخصی را در درخواست یا سند وارد کند، حفاظت از داده‌های شخصی همچنان مهم است.

نظارت و فیلترهای محتوا​

تاریخچه چت: معلمان فقط به تاریخچه چت دانش‌آموزانی که مسئول آن‌ها هستند دسترسی دارند. این دسترسی می‌تواند بر اساس نقش محدودتر شود.

نظارت بر کلاس: معلمان می‌توانند کلاس‌ها را شروع کرده و در صورت تمایل دانش‌آموزان را در طول کلاس نظارت کنند.

فیلترهای محتوا: AI-School و ارائه‌دهندگان مدل از اقدامات ایمنی و فیلترهای محتوا برای محدود کردن خروجی‌های ناخواسته یا پرخطر استفاده می‌کنند. این فیلترها ریسک‌ها را کاهش می‌دهند اما نمی‌توانند تضمین کنند که هر پاسخ ناخواسته مسدود شود.

در بخش «دسترسی به تاریخچه» می‌توانید درباره تنظیمات ممکن در زمینه نظارت بیشتر بخوانید.

ورود با حساب مدرسه​

ما AI-School را با Microsoft یا Google متصل می‌کنیم تا ورود ایمن با حساب مدرسه شما امکان‌پذیر باشد. مدرسه باید اجازه استفاده از اتصال Microsoft 365 یا Google Workspace AI-School را بدهد.

این اتصال بررسی می‌کند که آیا ایمیل در برنامه AI-School ثبت شده است یا خیر. اینگونه از استفاده آدرس‌های ایمیل ثبت نشده در محیط مدرسه جلوگیری می‌کنیم. در این فرآیند هیچ داده شخصی اضافی به جز ایمیل تبادل نمی‌شود.

بررسی‌ها و کنترل‌ها​

DPIA: Grip IT Consultancy — ۸ سپتامبر ۲۰۲۶. خطرات گردآوری داده‌ها در AI-School: چه داده‌هایی در دسترس هستند، چه کسانی به آن‌ها دسترسی دارند و داده‌ها چگونه ارائه و بازیابی می‌شوند. در پردازش داده‌های بررسی‌شده، میانگین خطر حریم خصوصی پایین ارزیابی شد و هیچ خطر باقی‌مانده بالایی شناسایی نشد. مدارس می‌توانند گزارش را درخواست کنند.

اسکن آسیب‌پذیری: شرکت Grip IT Consultancy از ۱۶ آوریل تا ۱۶ ژوئن ۲۰۲۵ به صورت از راه دور و تا حدی خودکار ai-school-pro.web.app را بررسی کرد. در این بررسی، از جمله به تزریق SQL، اسکریپت‌نویسی میان‌سایتی، ربودن نشست، تزریق کد، تغییر مسیرهای باز، اتصالات امن و رمزگذاری و صفحات احراز هویت توجه شد. امتیاز کلی ۸ (ریسک پایین) بود، با چند نکته و توصیه. این اسکن وضعیت در حوزه و دوره بررسی شده را نشان می‌دهد و تضمینی برای عدم وجود آسیب‌پذیری نیست. گزارش محرمانه است؛ نتایج آن را بنا بر درخواست برای مسئول حفاظت از داده‌ها (DPO) یک مدرسه یا هیئت مدیره توضیح می‌دهیم.

تحلیل ریسک امنیت اطلاعات: تحلیل ۱۹ ژوئن ۲۰۲۵ تهدیدها، اقدامات موجود و ریسک‌های باقی‌مانده را شناسایی می‌کند، از جمله ریسک وارد کردن داده‌های شخصی توسط کاربر در درخواست. این تحلیل نیز یک عکس لحظه‌ای است.

گواهینامه‌ها​

گواهینامه ISO 27001 که در زیرپردازنده‌ها ذکر شده، متعلق به Google Cloud است و به زیرساختی مربوط می‌شود که AI-School روی آن اجرا می‌شود. این گواهینامه، گواهینامه اختصاصی HandiHow، تأمین‌کننده AI-School، نیست. DPIA و اسکن آسیب‌پذیری نیز بررسی‌های مستقل هستند و گواهینامه عمومی به شمار نمی‌آیند. اگر می‌خواهید از وضعیت فعلی گواهینامه‌های HandiHow مطلع شوید، آن را از AI-School بخواهید.

ابزارها، اتصال‌ها و تزریق پرامپت​

هرچه یک مدل هوش مصنوعی بتواند از ابزارها و اتصال‌های بیشتری استفاده کند، پیامدهای یک دستور مخرب در یک سند، صفحه وب یا ایمیل (تزریق پرامپت) می‌تواند بزرگ‌تر باشد. مدیران می‌توانند این خطر را کاهش دهند:

  • اتصال‌ها با Microsoft و Google اجباری نیستند. بدون اتصال، هوش مصنوعی فقط با اطلاعاتی کار می‌کند که کاربر خودش به اشتراک می‌گذارد. اتصال‌ها را می‌توان بعداً و به‌صورت هدفمند اضافه کرد.
  • ابزارها را می‌توان برای هر محیط در ابزارها محدود یا غیرفعال کرد.
  • اقدام‌های نوشتن در Microsoft 365، مانند پیش‌نویس ایمیل، ارسال، قرار ملاقات‌های تقویم و پیام‌های Teams، هرکدام مجوز مدیریتی جداگانه‌ای دارند. سرور این مجوز را درست پیش از اجرا دوباره بررسی می‌کند. به یکپارچه‌سازی Microsoft مراجعه کنید.
  • با یک برنامه Microsoft Entra اختصاصی، سازمان شما خودش تعیین می‌کند AI-School چه مجوزهای Microsoft دریافت کند، هم برای ورود و هم برای اتصال‌ها.
  • حالت بسته قابلیت‌های اضافی را برای دانش‌آموزان محدود می‌کند.

هیچ‌یک از این اقدام‌ها تزریق پرامپت را به‌طور کامل منتفی نمی‌کند. بنابراین فقط قابلیت‌ها و مجوزهایی را فعال کنید که واقعاً لازم هستند.

قانون هوش مصنوعی اتحادیه اروپا و استفاده مسئولانه​

قانون هوش مصنوعی اتحادیه اروپا (AI Act) به کاربرد مورد نظر یک برنامه هوش مصنوعی نگاه می‌کند. آماده‌سازی درس و پشتیبانی عمومی با هوش مصنوعی به‌خودی‌خود کاربردهای پرخطر نیستند. ارزیابی دانش‌آموزان با هوش مصنوعی اما می‌تواند پرخطر محسوب شود. بنابراین از هوش مصنوعی برای ارزیابی دانش‌آموزان بدون قضاوت نهایی یک معلم مجاز استفاده نکنید. AI-School نمی‌تواند این را از نظر فنی کاملاً مانع شود؛ آن را در قوانین استفاده سازمان خود ثبت کنید.

هیئت مسئول سیاست هوش مصنوعی، آموزش کارکنان و سواد هوش مصنوعی در سازمان خود باقی می‌ماند.