Με απόφαση που δημοσιεύθηκε σήμερα (13/5) σε ΦΕΚ στο Εθνικό Τυπογραφείο, το Υπουργείο Παιδείας θεσπίζει για πρώτη φορά έναν αναλυτικό «οδικό χάρτη» για τη χρήση της Τεχνητής Νοημοσύνης στα σχολεία.

Το νέο πλαίσιο υψώνει τείχος προστασίας απέναντι σε κινδύνους όπως τα deepfakes, η παραπληροφόρηση και η αλγοριθμική μεροληψία.

Η απόφαση αφορά όλα τα δημόσια σχολεία Δευτεροβάθμιας Εκπαίδευσης και καθιστά σαφές ότι η Τεχνητή Νοημοσύνη στην τάξη έχει μόνο υποβοηθητικό χαρακτήρα.

Τέλος στις αυτόματες βαθμολογίες και τις «έτοιμες» εργασίες

Η υπουργική απόφαση ξεκαθαρίζει ότι ο ανθρώπινος παράγοντας παραμένει στο επίκεντρο.

Συγκεκριμένα απαγορεύεται η αυτόματη αξιολόγηση. Κανένας αλγόριθμος δεν μπορεί να βαθμολογεί μαθητές ή να αξιολογεί εκπαιδευτικούς χωρίς ανθρώπινη παρέμβαση.

Απαγορεύεται η δημιουργία ατομικών προφίλ μαθητών βάσει της συμπεριφοράς τους στις εφαρμογές ΤΝ. Δεν επιτρέπεται η υποβολή εργασιών που έχουν δημιουργηθεί εξ ολοκλήρου ή σε μεγάλο βαθμό από συστήματα ΤΝ. Ο μαθητής πρέπει να παραμένει ο ενεργός δημιουργός.

Η χρήση εργαλείων απαγορεύεται σε τεστ και διαγωνίσματα, εκτός αν ο εκπαιδευτικός το επιτρέψει ρητά για ειδικό σκοπό.

Τι απαγορεύεται ρητά

Το άρθρο 6 της απόφασης περιλαμβάνει μια λίστα με ενέργειες που επισύρουν αυστηρές κυρώσεις:

1. Απαγορεύεται η παραγωγή ή διάδοση οπτικοακουστικού υλικού προσώπων (εικόνα, ήχος, βίντεο) με τεχνικές παραποίησης χωρίς συγκατάθεση (Deepfakes).

2. Απαγορεύεται η δημιουργία ανύπαρκτων βιβλιογραφικών αναφορών ή δεδομένων.

3. Κάθε χρήση που αντιβαίνει στο εθνικό ή ενωσιακό δίκαιο θεωρείται παράνομη.

Συντονιστής ΤΝ σε κάθε σχολείο και προστασία δεδομένων

Για την ομαλή εφαρμογή, κάθε σχολική μονάδα θα ορίζει έναν Συντονιστή Χρήσης Εφαρμογής ΤΝ. Ο εκπαιδευτικός αυτός θα είναι υπεύθυνος για τη διαχείριση των ψηφιακών ομάδων και την τήρηση των κανόνων ασφαλείας.

Στο κομμάτι των προσωπικών δεδομένων, η απόφαση είναι δρακόντεια. Οι χρήστες δεν επιτρέπεται να «φορτώνουν» στις εφαρμογές ονοματεπώνυμα, φωτογραφίες, βαθμολογίες ή δεδομένα υγείας.

Η είσοδος στις εφαρμογές θα γίνεται ελεγχόμενα μέσω του Πανελλήνιου Σχολικού Δικτύου. Οι εκπαιδευτικοί θα περνούν από ειδικά προγράμματα επιμόρφωσης του ΙΕΠ, ενώ κάθε σχολείο υποχρεούται να κάνει τουλάχιστον μία ενημερωτική δράση για γονείς και μαθητές ανά έτος.

Δείτε εδώ την απόφαση (ΦΕΚ) για τη χρήση Τεχνητής Νοημοσύνης στα σχολεία

Αναλυτικά η απόφαση (ΦΕΚ)

Με την παρούσα απόφαση καθορίζονται ειδικότερα ζητήματα σχετικά με την χρήση συστημάτων Τεχνητής Νοημοσύνης (ΤΝ), τα τεχνικά και οργανωτικά μέτρα, οι όροι και οι προϋποθέσεις για τη χρήση τεχνητής νοημοσύνης στο πλαίσιο της εκπαιδευτικής διαδικασίας, και ιδίως ως προς τα θέματα ηθικής και υπεύθυνης χρήσης, διαφάνειας, ασφάλειας και προστασίας από τυχόν επιβλαβές περιεχόμενο, επιμόρφωσης εκπαιδευτικών και εκπαίδευσης μαθητών/τριών καθώς και κάθε ζήτημα σχετικά με την προστασία δεδομένων προσωπικού χαρακτήρα που συνδέεται με τη χρήση τέτοιων συστημάτων.

Σκοπός και Πεδίο Εφαρμογής

1. Σκοπός της παρούσας είναι η εξασφάλιση της ασφαλούς, διαφανούς και δεοντολογικά υπεύθυνης χρήσης συστημάτων ΤΝ κατά την εκπαιδευτική διαδικασία από εκπαιδευτικούς και μαθητές/τριες, η οποία έχει στόχο την υποβοήθηση του έργου των εκπαιδευτικών και την ενίσχυση της εκπαιδευτικής διαδικασίας και ειδικότερα, α) την πλήρη προστασία των δεδομένων προσωπικού χαρακτήρα, σύμφωνα με τους όρους του Κανονισμού (ΕΕ) 2016/679 και τον ν. 4624/2019 (Α’ 137), β) την πρόληψη κινδύνων παραπληροφόρησης, αλγοριθμικής μεροληψίας, διάχυσης επιβλαβούς περιεχομένου και αθέμιτης υποκατάστασης της προσωπικής προσπάθειας, γ) τη διασφάλιση της ισότητας στην πρόσβαση και χρήση σύγχρονων εργαλείων με υπευθυνότητα και δ) την εξοικείωση εκπαιδευτικών και μαθητών/τριών με τις αναδυόμενες τεχνολογίες.

2. Η παρούσα εφαρμόζεται σε όλα τα σχολεία δευτεροβάθμιας εκπαίδευσης της χώρας, και καταλαμβάνει προγράμματα ή/και δράσεις που υλοποιούνται στο πλαίσιο του προγράμματος σπουδών, είτε εντός των εγκαταστάσεων της σχολικής μονάδας, με χρήση των συσκευών και του δικτύου αυτής, είτε εκτός αυτής, στο πλαίσιο της εξ αποστάσεως εκπαίδευσης. Η συμμόρφωση προς τις προβλέψεις της είναι υποχρεωτική για το σύνολο της εκπαιδευτικής κοινότητας, εκπαιδευτικούς, μαθητές/τριες και γονείς/κηδεμόνες/έχοντες την επιμέλεια μαθητών/τριών, αλλά και κάθε δυνητικό πάροχο συστημάτων τεχνητής νοημοσύνης.

3. Η χρήση συστημάτων ΤΝ από εκπαιδευτικούς και μαθητές/τριες πραγματοποιείται αποκλειστικά σε εθελοντική βάση κατόπιν σχετικής ειδικής εκπαίδευσης και ενημέρωσης του άρθρου 15 της παρούσας, ενώ τυχόν άρνηση συμμετοχής δεν επηρεάζει καθ’οιονδήποτε τρόπο την υπηρεσιακή/μαθητική κατάσταση και την αξιολόγηση των εκπαιδευτικών και μαθητών/τριών.

Ορισμοί

Για τους σκοπούς της παρούσας, ισχύουν οι ακόλουθοι ορισμοί: α) «Σύστημα τεχνητής νοημοσύνης (ΤΝ)»: νοείται κάθε σύστημα σύμφωνα με τον ορισμό της παρ. 1 του άρθρου 3 του Κανονισμού (ΕΕ) 2024/1689. β) «Παραγωγική τεχνητή νοημοσύνη (Generative AI)»: κάθε σύστημα τεχνητής νοημοσύνης που παράγει, δημιουργεί ή μετασχηματίζει περιεχόμενο οποιασδήποτε μορφής, όπως ενδεικτικά κείμενο, εικόνα, ήχο, βίντεο, κώδικα, βάσει πιθανοκρατικών υπολογισμών και εκπαίδευσης σε μεγάλα σύνολα δεδομένων, κατόπιν οδηγιών και προτροπών του χρήστη. γ) «Προτροπή» η οδηγία ή σύνολο οδηγιών που δίνει ο χρήστης στο σύστημα παραγωγικής ΤΝ για την παραγωγή αποτελέσματος. δ) «Δεδομένα εξόδου» κάθε αποτέλεσμα που παράγεται κατά τη χρήση συστήματος τεχνητής νοημοσύνης.

Προϋποθέσεις χρήσης Συστημάτων Τεχνητής Νοημοσύνης

1. Η χρήση συστημάτων ΤΝ στο πλαίσιο της εκπαιδευτικής διαδικασίας επιτρέπεται μόνο εφόσον τα εν λόγω συστήματα πληρούν τις εκάστοτε ισχύουσες απαιτήσεις του ενωσιακού και εθνικού δικαίου. Ιδίως, εφόσον αυτό κατά περίπτωση απαιτείται, διασφαλίζεται η προηγούμενη εκπλήρωση των κατά περίπτωση υποχρεώσεων αξιολόγησης κινδύνου ή αντικτύπου, οι οποίες προβλέπονται από το εκάστοτε ισχύον ενωσιακό και εθνικό δίκαιο.

2. Η χρήση συστημάτων ΤΝ κατά την εκπαιδευτική διαδικασία έχει αποκλειστικό σκοπό την υποβοήθηση του έργου των εκπαιδευτικών και την ενίσχυση της εκπαιδευτικής διαδικασίας και ειδικότερα συμβάλλει α) στην αναβάθμιση των ψηφιακών δεξιοτήτων εκπαιδευτικών και μαθητών/τριών, β) στην εξοικείωση εκπαιδευτικών και μαθητών/τριών στη χρήση αναδυόμενων τεχνολογιών, γ) στη δημιουργική και κριτική αξιοποίησή τους, καθώς και δ) στη συναγωγή συμπερασμάτων αναφορικά με τη συμβολή της ΤΝ στη μαθησιακή διαδικασία. Η χρήση τέτοιων συστημάτων, καθώς και τα δεδομένα εξόδου, εποπτεύονται, ελέγχονται και αξιολογούνται, σε κάθε περίπτωση από εκπαιδευτικό προσωπικό, που έχει εκπαιδευτεί στην χρήση τους, σύμφωνα με το άρθρου 15 της παρούσας.

3. Δεν επιτρέπεται η πλήρως αυτοματοποιημένη λήψη αποφάσεων αξιολόγησης των επιδόσεων των μαθητών/τριών ή/και εκπαιδευτικών μέσω συστημάτων ΤΝ και η οποιαδήποτε επιρροή επί των δικαιωμάτων τους, ως συνέπεια χρήσης συστημάτων ΤΝ.

4. Απαγορεύεται η δημιουργία ατομικών προφίλ (profiling) μαθητών/τριών ή/και εκπαιδευτικών και η οποιαδήποτε αξιοποίηση δεδομένων που αφορούν ή προκύπτουν από την χρήση ΤΝ για τη λήψη αποφάσεων σχετικά με στοιχεία της προσωπικότητας, τη συμπεριφορά ή/και τα δικαιώματα αυτών.

5. Ειδικά για την περίπτωση συστημάτων παραγωγικής ΤΝ, ο εκπαιδευτικός μεριμνά για την τήρηση των ακόλουθων αρχών: α) Διδασκαλία και μάθηση: η παραγωγική ΤΝ χρησιμοποιείται για να υποστηρίζει, όχι να υποκαθιστά, τη μαθησιακή διαδικασία. Ο/η μαθητής/τρια παραμένει ενεργός δημιουργός γνώσης. β) Ανθρώπινες, κοινωνικές και περιβαλλοντικές διαστάσεις: κάθε χρήση λαμβάνει υπόψη την ευημερία, την ηλικιακή ωριμότητα, τις κοινωνικές επιπτώσεις και το περιβαλλοντικό αποτύπωμα. γ) Διαφάνεια: πλήρης ενημέρωση της σχολικής κοινότητας για τους τρόπους χρήσης, τους κινδύνους και τους περιορισμούς, κατά το άρθρο 50 του Κανονισμού (ΕΕ) 2024/1689, τα άρθρα 12 έως 14 του Κανονισμού (ΕΕ) 2016/679 (ΓΚΠΔ) και τις υποχρεώσεις διαφάνειας του άρθρου 6 του ν. 4961/2022. δ) Δικαιοσύνη και ένταξη: ισοτιμία πρόσβασης, αποφυγή αλγοριθμικών διακρίσεων και στερεοτύπων, ενεργός προσβασιμότητα για μαθητές/τριες με αναπηρία ή μαθησιακές δυσκολίες. ε) Λογοδοσία και αμφισβητησιμότητα: η ανθρώπινη ευθύνη παραμένει αδιαπραγμάτευτη. Παρέχεται πάντα η δυνατότητα αμφισβήτησης των εξόδων (αποτελεσμάτων) και υποβολής παραπόνων. στ) Νομιμότητα, ασφάλεια και προστασία: τήρηση επιταγών ΓΚΠΔ, ελαχιστοποίηση εισαγωγής δεδομένων, αποτροπή επιβλαβούς περιεχομένου, σεβασμός πνευματικών δικαιωμάτων, τήρηση νομοθεσίας για την τεχνητή νοημοσύνη.

Χρήση Τεχνητής Νοημοσύνης κατά την εξέταση ή εκπόνηση μαθητικών εργασιών

1. Η αξιοποίηση συστημάτων τεχνητής νοημοσύνης στην εκπαιδευτική διαδικασία αποσκοπεί στην ενίσχυση της μάθησης και της κριτικής σκέψης των μαθητών/τριών και δεν υποκαθιστά την προσωπική τους προσπάθεια. Οι εκπαιδευτικοί καθοδηγούν τους μαθητές/τις μαθήτριες, ώστε να χρησιμοποιούν τα συστήματα ΤΝ με υπευθυνότητα, διαφάνεια και κριτική επίγνωση του τρόπου με τον οποίο αυτά επηρεάζουν το παραγόμενο αποτέλεσμα.

2. Η χρήση οποιουδήποτε συστήματος ΤΝ απαγορεύεται, κατά τη διάρκεια γραπτών εξετάσεων, δοκιμασιών αξιολόγησης (tests) και διαγωνισμάτων, εκτός εάν ο/η εκπαιδευτικός ορίσει ρητώς επιτρεπτή την ελεγχόμενη χρήση συστήματος ΤΝ ως μέρος εκπαιδευτικής διαδικασίας, και εφόσον εξασφαλίζεται η ισοτιμία στην εκάστοτε διαδικασία αξιολόγησης για όλους τους/τις μαθητές/τριες.

3. Ομοίως, η χρήση συστημάτων ΤΝ στο πλαίσιο εκπόνησης εργασιών ή άλλων παραδοτέων των μαθητών/τριών, που ανατίθενται από τον/την εκπαιδευτικό κατά ή στο πλαίσιο της εκπαιδευτικής διαδικασίας θα πρέπει να ακολουθεί τις οδηγίες του/της εκπαιδευτικού. Δεν επιτρέπεται η παραγωγή εργασιών ή λοιπών παραδοτέων μαθητών/τριών που έχουν δημιουργηθεί εξ ολοκλήρου ή κατά σημαντικό βαθμό από σύστημα ΤΝ. Σε κάθε περίπτωση, θα πρέπει να διασφαλίζεται ότι οι ως άνω μαθητικές εργασίες ή λοιπά παραδοτέα είναι αποτέλεσμα της προσωπικής προσπάθειας του/της μαθητή/τριας, αποτελούν δημιουργία του ίδιου, και εκφράζουν την δική του κατανόηση. Σε περίπτωση που εκπαιδευτικός διαπιστώνει την χρήση συστήματος ΤΝ από μαθητές/τριες, κατά παράβαση των ως άνω οριζομένων, το λαμβάνει υπόψη ως προς την αξιολόγηση της επίδοσης των εν λόγω μαθητών/τριών στο πλαίσιο της αντίστοιχης δοκιμασίας, εξέτασης ή άλλης ανατεθειμένης εργασίας, καθώς και μεριμνά για την αποσαφήνιση των ως άνω οριζομένων στους μαθητές/τριες, με στόχο την χρήση των συστημάτων ΤΝ προς όφελός τους.

Ρητές Απαγορεύσεις

1. Απαγορεύεται απολύτως η χρήση συστημάτων TN στο πλαίσιο της εκπαιδευτικής διαδικασίας για τη διενέργεια ή την απόπειρα διενέργειας πράξεων που αντίκεινται στο εθνικό ή ενωσιακό δίκαιο. Τέτοια χρήση συστημάτων ΤΝ θεωρείται μη σύννομη και συνεπάγεται τις προβλεπόμενες κυρώσεις κατά το ισχύον δίκαιο.

2. Απαγορεύονται επίσης οι κάτωθι ενέργειες: α) Η παραγωγή ή διάδοση απεικονίσεων, ήχων ή βίντεο προσώπων με τεχνικές παραποίησης ή κατασκευής οπτικοακουστικού περιεχομένου που δύναται να παραπλανήσει (deepfake) χωρίς ρητή συγκατάθεση, β) η δημιουργία ψευδών ή ανύπαρκτων βιβλιογραφικών αναφορών, πηγών, δεδομένων ή παραπομπών και γ) η άνευ αδείας ανάπτυξη, μεταβολή ή διάθεση συστημάτων ΤΝ.

Τεχνικά και Οργανωτικά Μέτρα

1. Η είσοδος και χρήση εφαρμογών συστημάτων τεχνητής νοημοσύνης από εκπαιδευτικούς και μαθητές/τριες πραγματοποιείται κατόπιν αυθεντικοποίησής τους, μέσω του Πανελλήνιου Σχολικού Δικτύου (ΠΣΔ), εφόσον αυτό υποστηρίζεται από το εκάστοτε σύστημα ΤΝ. Προς τούτο λαμβάνονται τουλάχιστον τα ακόλουθα μέτρα: α) Εφαρμογή αρχών προστασίας δεδομένων από τον σχεδιασμό και εξ ορισμού, σύμφωνα με τον Κανονισμό (ΕΕ) 2016/679. β) Ανωνυμοποίηση ή ψευδωνυμοποίηση των δεδομένων εκπαιδευτικών και μαθητών/τριών, όπου είναι εφικτό. γ) Περιορισμός πρόσβασης στα δεδομένα μόνο σε εξουσιοδοτημένα πρόσωπα και ανάλογα με τον ενός ρόλο εκάστου εξ αυτών. δ) Καταγραφή και τεκμηρίωση όλων των διαδικασιών επεξεργασίας. ε) Εφαρμογή μηχανισμών ανθρώπινης εποπτείας και δυνατότητας παρέμβασης σε κάθε στάδιο λειτουργίας του συστήματος. στ) Διασφάλιση της διαφάνειας, ιδίως λαμβανομένης υπόψιν της ανθρώπινης εποπτείας κατ’ άρθρο 14 του Κανονισμού (ΕΕ) 2024/1689, ως προς τη λειτουργία του συστήματος και ενημέρωση των χρηστών για τον τρόπο λειτουργίας και τα όρια του εργαλείου. ζ) Τακτική αξιολόγηση κινδύνου και επικαιροποίηση των μέτρων ασφαλείας. η) Εφαρμογή πολιτικής ασφάλειας πληροφοριών σύμφωνα με διεθνή πρότυπα (π.χ. ISO/IEC 27001).

2. Δικαίωμα πρόσβασης σε εφαρμογές συστημάτων τεχνητής νοημοσύνης που χρησιμοποιούνται στο πλαίσιο της εκπαιδευτικής διαδικασίας έχουν οι μαθητές/τριες και εκπαιδευτικοί δημοσίων σχολικών μονάδων δευτεροβάθμιας εκπαίδευσης, τους οποίους αφορά το εκάστοτε πρόγραμμα.

3. Η αυθεντικοποίηση των μαθητών/τριών και εκπαιδευτικών δύναται να πραγματοποιείται μέσω των διαπιστευτηρίων που διαθέτουν στον κατάλογο μελών του Πανελλήνιου Σχολικού Δικτύου (Π.Σ.Δ.), εφόσον αυτό υποστηρίζεται από το εκάστοτε σύστημα ΤΝ.

Ρόλοι και Ευθύνες

1. Για τους σκοπούς εφαρμογής της παρούσας, το Υπουργείο Παιδείας, Θρησκευμάτων και Αθλητισμού ενεργεί υπό την ιδιότητα του Υπευθύνου Επεξεργασίας, σύμφωνα με τις διατάξεις του Κανονισμού (ΕΕ) 2016/679 και του ν. 4624/2019 (Α’ 137). Εκτελούντες την Επεξεργασία, κατ’ άρθρον 4 του Κανονισμού (ΕΕ) 2016/679, ορίζονται: (α) το Ινστιτούτο Τεχνολογίας Υπολογιστών και Εκδόσεων «Διόφαντος» (Ι.Τ.Υ.Ε.) από κοινού με (β) τον εκάστοτε φορέα ή ο ανάδοχο που παρέχει ή υποστηρίζει τεχνικά το σύστημα τεχνητής νοημοσύνης. Για τους φορείς της περ. (β) του προηγουμένου εδαφίου, το Υπουργείο προχωρεί στη σύναψη σύμβασης επεξεργασίας δεδομένων (DPA), κατ’ άρθρο 28 του Κανονισμού (ΕΕ) 2016/679.

2. Η νομική βάση επεξεργασίας δεδομένων προσωπικού χαρακτήρα, κατ’ άρθρο 6 του ΓΚΠΔ, για τους σκοπούς της παρούσας είναι η εκπλήρωση καθήκοντος που εκτελείται προς το δημόσιο συμφέρον ή κατά την άσκηση δημόσιας εξουσίας (άρθρο 6 παρ. 1 εδάφιο ε’ ΓΚΠΔ), σε συνδυασμό με τις διατάξεις του άρθρου 26Α του ν. 4368/2016 (Α’ 21). Για κατηγορίες επεξεργασίας που δεν καλύπτονται από τη νομική βάση του προηγούμενου εδαφίου, απαιτείται ρητή συγκατάθεση κατά το εδάφιο α’ παρ. 1 του άρθρου 6 και του άρθρου 7 του ΓΚΠΔ.

3. Η επεξεργασία δεδομένων μαθητών/τριών, γονέων/κηδεμόνων/εχόντων την επιμέλεια και εκπαιδευτικών στο πλαίσιο χρήσης συστημάτων ΤΝ πραγματοποιείται για τους ακόλουθους κύριους σκοπούς: α) τη βελτίωση της εκπαιδευτικής διαδικασίας, β) την υποστήριξη καινοτόμων παιδαγωγικών προσεγγίσεων, γ) την ενίσχυση της μαθητοκεντρικής εκπαιδευτικής διαδικασίας, δ) τη βελτίωση της συνολικής μαθησιακής εμπειρίας. Η επεξεργασία δεδομένων προσωπικού χαρακτήρα δύναται επίσης να λαμβάνει χώρα για επιμέρους, τεχνικούς και οργανωτικούς σκοπούς, οι οποίοι είναι αναγκαίοι για την υλοποίηση των ανωτέρω, και ιδίως για: α) τη διασφάλιση της ασφαλούς πρόσβασης στις εφαρμογές, β) τη δημιουργία και ενεργοποίηση λογαριασμών χρηστών, γ) την ταυτοποίηση και αυθεντικοποίηση των χρηστών που δικαιούνται πρόσβαση, σύμφωνα με την παρ. 2 του άρθρου 4.

Συντονιστής χρήσης Εφαρμογής ΤΝ

1. Σε κάθε σχολική μονάδα, στην οποία τυχόν αξιοποιείται σύστημα ΤΝ, ορίζεται με απόφαση του Διευθυντή ή Προϊσταμένου ή του νόμιμου αναπληρωτή του ή, για την περίπτωση των σχολικών μονάδων που λειτουργούν ως Πρότυπα Σχολεία (Π.Σ.) ή Πειραματικά Σχολεία (ΠΕΙ.Σ.) ή Δημόσια Ωνάσεια Σχολεία (ΔΗΜ.Ω.Σ.), του οικείου Επιστημονικού Εποπτικού Συμβουλίου (ΕΠ.Ε.Σ.), και κατόπιν σχετικής εκδήλωσης ενδιαφέροντος του εκπαιδευτικού, ένας εκπαιδευτικός ως υπεύθυνος για τον συντονισμό και την παρακολούθηση της εφαρμογής και αξιοποίησης εκάστοτε συστήματος ΤΝ, κατά τα οριζόμενα στην παρούσα.

2. Ο υπεύθυνος εκπαιδευτικός της παρ. 1 του παρόντος έχει την ευθύνη για την α) συλλογή και τήρηση κατά περίπτωση των σχετικών δηλώσεων ενδιαφέροντος ή συναίνεσης και ενημέρωσης, β) την αποστολή της πρόσκλησης της παρ. 1 του άρθρου 12, εφόσον αυτό απαιτείται, στους μαθητές/στις μαθήτριες και στους εκπαιδευτικούς της σχολικής μονάδας ευθύνης του, οι οποίοι έχουν εκδηλώσει σχετικό ενδιαφέρον και για τους οποίους πληρούται η προϋπόθεση προηγούμενης δήλωσης ενδιαφέροντος ή συναίνεσης και ενημέρωσης, γ) τη δημιουργία εικονικών ομάδων συνεργατικών ψηφιακών χώρων με συμμετέχοντες εκπαιδευτικούς και μαθητές/τριες, εφόσον αυτό απαιτείται, δ) τη διαγραφή, όποτε απαιτείται, οποιουδήποτε υποκειμένου από τις ομάδες της περ. γ) της παρούσας.

3. Ο υπεύθυνος εκπαιδευτικός, κατά περίπτωση, δύναται να αποκτά πρόσβαση στα τηρούμενα στο Π.Σ.Δ. ονόματα χρηστών των εκπαιδευτικών και μαθητών/τριών της σχολικής μονάδας ευθύνης του, με σκοπό τη διαχείριση της ιδιότητάς τους ως εχόντων πρόσβαση στην εκάστοτε εφαρμογή συστήματος ΤΝ, εφόσον η ως άνω διαχείριση καθίσταται αναγκαία για την ομαλή και ασφαλή χρήση του εκάστοτε συστήματος ΤΝ από εκπαιδευτικούς και μαθητές/τριες υπό αυτήν την ιδιότητά τους.

Ενημέρωση

Οι μαθητές/τριες, οι γονείς/κηδεμόνες/έχοντες την επιμέλεια και οι εκπαιδευτικοί ενημερώνονται με σαφή και κατανοητό τρόπο, λαμβανομένης υπόψιν της ηλικίας των μαθητών/-τριών, για τον τρόπο λειτουργίας του συστήματος ΤΝ, και ειδικά α) τον/τους σκοπό/σκοπούς και τη νομική βάση της επεξεργασίας, β) τα δεδομένα που επεξεργάζεται το σύστημα τεχνητής νοημοσύνης, γ) τους αποδέκτες ή κατηγορίες αποδεκτών των δεδομένων, δ) τον χρόνο διατήρησης, ε) τα δικαιώματα πρόσβασης, διόρθωσης, διαγραφής, περιορισμού και εναντίωσης, στ) τον τρόπο λειτουργίας, τις δυνατότητες αξιοποίησης και τους περιορισμούς χρήσης του εργαλείου, κατά τα άρθρα 12 έως 14 του ΓΚΠΔ, και ζ) τα στοιχεία επικοινωνίας του υπευθύνου επεξεργασίας και του Υπευθύνου Προστασίας Δεδομένων του Υπουργείου. Τα δικαιώματα των ως άνω υποκειμένων ασκούνται μέσω του Υπευθύνου Προστασίας Δεδομένων του Υπουργείου Παιδείας, Θρησκευμάτων και Αθλητισμού ([email protected]).

Επεξεργασία Δεδομένων

1. Τα δεδομένα προσωπικού χαρακτήρα τα οποία τυγχάνουν επεξεργασίας περιορίζονται στα απολύτως απαραίτητα, προκειμένου να επιτυγχάνεται η σύννομη χρήση εφαρμογών συστημάτων τεχνητής νοημοσύνης και αφορούν στις ακόλουθες κατηγορίες υποκειμένων: α) στους μαθητές/στις μαθήτριες δημοσίων σχολείων δευτεροβάθμιας εκπαίδευσης, που εκδηλώνουν ενδιαφέρον συμμετοχής, β) στους γονείς/κηδεμόνες/έχοντες την επιμέλεια του/της ανήλικου/ης μαθητή/τριας, και γ) τους εκπαιδευτικούς που έχουν εκδηλώσει ενδιαφέρον συμμετοχής.

2. Οι κατηγορίες των προσωπικών δεδομένων που υπόκεινται σε επεξεργασία είναι οι ακόλουθες: α) όνομα, β) επώνυμο, γ) διεύθυνση ηλεκτρονικού ταχυδρομείου (email), η οποία έχει καταχωριστεί στο Π.Σ.Δ., δ) πιθανά δεδομένα ή μεταδεδομένα που προκύπτουν συστημικά κατά τη διαδικασία αυθεντικοποίησης για την είσοδο στην εκάστοτε εφαρμογή συστήματος ΤΝ, ε) πιθανά δεδομένα που περιλαμβάνονται σε αρχεία που υποβάλλονται στο σύστημα, και στ) πιθανά δεδομένα που περιλαμβάνονται σε εντολές (prompts) κατά τη χρήση του συστήματος.

Είσοδος σε εφαρμογές συστημάτων Τεχνητής Νοημοσύνης

1. Η είσοδος στο εκάστοτε περιβάλλον εφαρμογής ΤΝ, εφόσον πραγματοποείται με αυθεντικοποίηση μέσω του ΠΣΔ, δύναται να πραγματοποιείται κατόπιν αποστολής πρόσκλησης με χρήση της διεύθυνσης ηλεκτρονικής αλληλογραφίας που έχει καταχωρισθεί στο Π.Σ.Δ. για κάθε ενδιαφερόμενο/η μαθητή/τρια και εκπαιδευτικό και στο οποίο ο χρήστης έχει πρόσβαση μέσω της ιστοσελίδας https://webmail.sch.gr. Η πρόσκληση του προηγουμένου εδαφίου αφορά την ενεργοποίηση του λογαριασμού χρήστη στο εκάστοτε περιβάλλον εφαρμογής ΤΝ και είναι απαραίτητη μόνο κατά την πραγματοποίηση της πρώτης εισόδου. Η πρόσκληση αποστέλλεται μόνο στους μαθητές/στις μαθήτριες και στους εκπαιδευτικούς, οι οποίοι συμμετέχουν στο πρόγραμμα, με ευθύνη του συντονιστή χρήσης της εκάστοτε εφαρμογής ΤΝ, του άρθρου 9.

2. For την ενεργοποίηση του λογαριασμού χρήστη, σύμφωνα με την παρ. 1 του παρόντος, απαιτείται αποδοχή της πρόσκλησης από τον εκάστοτε μαθητή/τρια ή εκπαιδευτικό. Κατά το στάδιο αυτό ο χρήστης κατευθύνεται μέσω του ειδικού συνδέσμου που περιλαμβάνεται στην πρόσκληση, στο περιβάλλον του εκάστοτε συστήματος ΤΝ και ανακατευθύνεται αυτομάτως στην ιστοσελίδα www.sso.sch.gr του Π.Σ.Δ., προκειμένου να πραγματοποιηθεί ταυτοποίηση της ιδιότητας αυτού μέσω αυθεντικοποίησης και χρήση των διαπιστευτηρίων του στο Π.Σ.Δ.

3. Κατά το στάδιο της παρ. 2 του παρόντος διαβιβάζονται στο σύστημα ΤΝ μόνο τα απολύτως αναγκαία στοιχεία ταυτοποίησης του χρήστη, και συγκεκριμένα α) η τηρούμενη στο Π.Σ.Δ. διεύθυνση ηλεκτρονικού ταχυδρομείου, β) το όνομα και γ) επώνυμο εκάστου εκπαιδευτικού ή μαθητή/τρια.

4. Μετά την ολοκλήρωση της ενεργοποίησης λογαριασμού χρήστη κατά τα οριζόμενα στις παρ. 1, 3 και 4 του παρόντος, ο χρήστης εισέρχεται απευθείας στην εκάστοτε εφαρμογή συστήματος ΤΝ με τη χρήση των στοιχείων αυθεντικοποίησής του στο Π.Σ.Δ.

Αξιολόγηση Αντικτύπου και Εποπτεία

1. Πριν από την έναρξη της χρήσης συστήματος τεχνητής νοημοσύνης κατά την εκπαιδευτική διαδικασία, το Υπουργείο Παιδείας, Θρησκευμάτων και Αθλητισμού (Υ.ΠΑΙ.Θ.Α.), ως Υπεύθυνος Επεξεργασίας, διενεργεί τουλάχιστον αξιολόγηση αντικτύπου σχετικά με την προστασία δεδομένων (DPIA), κατ’ άρθρο 35 του ΓΚΠΔ.

2. Πέραν της υποχρέωσης της παρ. 1, το Υ.ΠΑΙ.Θ.Α. εκπληρώνει κάθε άλλη υποχρέωση αξιολόγησης ή εκτίμησης αντικτύπου που τυχόν απορρέει, κατά περίπτωση, από το εκάστοτε ισχύον ενωσιακό και εθνικό δίκαιο.

3. Η εκάστοτε αξιολόγηση ή εκτίμηση επικαιροποιείται σε κάθε ουσιώδη τροποποίηση του συστήματος ή του τρόπου χρήσης του.

Ασφάλεια και διαχείριση περιστατικών

1. Η χρήση συστημάτων τεχνητής νοημοσύνης οργανώνεται κατά τρόπο που δεν βλάπτει την ψυχική υγεία, την ασφάλεια ή την κοινωνική ένταξη των μαθητών/τριών. Συνιστάται η αποφυγή υπέρμετρης εξάρτησης από αυτοματοποιημένη βοήθεια.

2. Σε κάθε περίπτωση ακούσιας ή μη εξουσιοδοτημένης κοινοποίησης δεδομένων ή έκθεσης σε επιβλαβές περιεχόμενο, εφαρμόζεται αμελλητί η διαδικασία διαχείρισης περιστατικών, η οποία περιλαμβάνει τουλάχιστον: α) άμεση ενημέρωση εκπαιδευτικού και του Διευθυντή (ή νόμιμου αναπληρωτή του) της οικείας σχολικής μονάδας, οι οποίοι διερευνούν το περιστατικό και λαμβάνουν τα άμεσα αναγκαία μέτρα προστασίας, β) καταγραφή βασικών στοιχείων με ελάχιστη αναγκαία πληροφορία, γ) αξιολόγηση κινδύνου και λήψη μέτρων προστασίας, δ) ενημέρωση γονέων/κηδεμόνων/εχόντων την επιμέλεια, ε) ενημέρωση της αρμόδιας Διεύθυνσης Εκπαίδευσης, και στ) ενημέρωση των κατά περίπτωση αρμοδίων αρχών εντός εβδομήντα δύο (72) ωρών σε περίπτωση παραβίασης δεδομένων. Σε περίπτωση που το περιστατικό εμπίπτει στην περίπτωση περιστατικών ενδοσχολικής βίας εφαρμόζονται τα σχετικά ειδικώς οριζόμενα.

Επιμόρφωση σε θέματα ΤΝ

1. Κάθε σχολική μονάδα οργανώνει τουλάχιστον μία (1) δράση ενημέρωσης μαθητών/τριών ή/και γονέων/ κηδεμόνων/εχόντων την επιμέλεια ανά σχολικό έτος, καθώς και επιμόρφωση εκπαιδευτικών ανά γνωστικό αντικείμενο σύμφωνα με τα οριζόμενα στο άρθρο 87 του ν. 4823/2021 (Α’ 136), με αντικείμενο τη χρήση συστημάτων ΤΝ.

2. Η επιμόρφωση καλύπτει κατ’ ελάχιστον: α) Βασικές αρχές λειτουργίας ΤΝ και παραγωγικής ΤΝ, β) κινδύνους που σχετίζονται με την φύση της ΤΝ και τρόπους αποτροπής τους, γ) περιορισμούς και αλγοριθμικές μεροληψίες, δ) τεχνικές προτροπής (prompting) και επαλήθευσης, ε) κανόνες ΓΚΠΔ και προστασίας ανηλίκων, στ) κανόνες χρήσης, ζ) διαδικασία αναφοράς περιστατικών.

3. Οι εκπαιδευτικοί που συμμετέχουν σε δράσεις ή άλλα προγράμματα, συνιστάμενα στην χρήση συστημάτων ΤΝ, λαμβάνουν ειδική επιμόρφωση πάνω στα ως άνω ζητήματα, η οποία εγκρίνεται από το Ινστιτούτο Εκπαιδευτικής Πολιτικής (Ι.Ε.Π.).

Περιορισμός στη χρήση πληροφοριών

1. Οι πληροφορίες που εισάγονται στα συστήματα τεχνητής νοημοσύνης από τους εξουσιοδοτημένους χρήστες αυτού, θα πρέπει να είναι μόνο όσες είναι αναγκαίες για την εκπλήρωση του επιδιωκόμενου σκοπού που ορίζεται στη παρούσα και στο πλαίσιο της εκπαιδευτικής διαδικασίας. Οι εν λόγω πληροφορίες, είτε συνιστούν δεδομένα προσωπικού χαρακτήρα ή όχι, θα παραμένουν εντός του περιβάλλοντος που ελέγχεται από τον εκάστοτε πάροχο ή φορέα που διαχειρίζεται και υποστηρίζει την λειτουργία του συστήματος.

2. Οποιεσδήποτε πληροφορίες εισάγονται σε σύστημα τεχνητής νοημοσύνης, ανεξάρτητα από τη φύση τους, συμπεριλαμβανομένων των προσωπικών δεδομένων και οποιουδήποτε άλλου τύπου δεδομένων, απαγορεύεται να κοινοποιηθούν ή άλλως να χρησιμοποιηθούν και εν γένει να τύχουν οποιασδήποτε άλλης επεξεργασίας τόσο από τους εξουσιοδοτημένους χρήστες ή/και διαχειριστές όσο και από οιονδήποτε τρίτο για άλλο σκοπό πέραν των όσων προβλέπονται από την παρούσα και τον ν. 4368/2016 (Α’ 21).

3. Σε κάθε περίπτωση κατά την χρήση συστημάτων ΤΝ από μαθητές/τριες και εκπαιδευτικούς δεν επιτρέπεται η εισαγωγή των εξής πληροφοριών: Ονοματεπωνύμου, φωτογραφίας, βίντεο, φωνητικών δειγμάτων, στοιχείων επικοινωνίας, αριθμών μητρώου, βαθμολογιών, εκθέσεων προόδου, πειθαρχικών δεδομένων, δεδομένων υγείας ή ειδικών εκπαιδευτικών αναγκών, ή πληροφοριών τρίτων χωρίς νόμιμη βάση. Επιτρέπεται μόνο η χρήση ουδέτερων, μη ταυτοποιητικών περιγραφών και συνθετικών ή ανωνυμοποιημένων δεδομένων.

Διατήρηση και Διαγραφή Δεδομένων

Τα δεδομένα που καταχωρίζονται και συλλέγονται μέσω συστήματος τεχνητής νοημοσύνης τηρούνται για όσο διάστημα είναι απολύτως αναγκαίο για την επίτευξη των σκοπών της παρούσας και σε κάθε περίπτωση διαγράφονται με ασφαλή τρόπο μετά την πάροδο τριών (3) ετών. Η επεξεργασία τυχόν μεταδεδομένων επιτρέπεται αποκλειστικά για σκοπούς ερευνητικούς ή στατιστικούς, υπό τον όρο της πλήρους ανωνυμοποίησης αυτών κατά τον ΓΚΠΔ.

Όλες οι σημαντικές ειδήσεις

Ανατροπές στις αναθέσεις μαθημάτων: Τι αλλάζει για χιλιάδες εκπαιδευτικούς

Οι 20 βασικοί συνεργάτες του Αλέξη Τσίπρα - Τα ονόματα

Προκηρύξεις εκπαιδευτικών 2026: Πώς θα δεις πρώτος τους πίνακες μέσω google

Ακολουθήστε το Alfavita στo Google News Ακολουθήστε το Alfavita στo Viber