ΕΚΘΕΣΗ σχετικά με την τεχνητή νοημοσύνη στην εκπαίδευση, τον πολιτισμό και τον οπτικοακουστικό τομέα

ΑΤΙΟΛΟΓΙΚΗ ΕΚΘΕΣΗ

«Πιστεύω ότι στο τέλος του αιώνα η χρήση των λέξεων και οι γενικότερες απόψεις των ανθρώπων που έχουν γνώσεις θα έχουν αλλάξει τόσο ώστε να μπορεί κανείς να μιλά για μηχανές που σκέφτονται χωρίς να περιμένει αντίλογο».

Alan Turing, 1947

Η τελευταία δεκαετία έχει μετασχηματιστικό χαρακτήρα για την ΤΝ, γεγονός που προκαλεί φόβο και ενθουσιασμό για την ανθρωπότητα. Η ΤΝ, που θεωρείται «η νέα ηλεκτρική ενέργεια», έχει σημειώσει τόση πρόοδο που ο συστημικός της αντίκτυπος θα μπορούσε να μεταβάλει ουσιαστικά όλες τις πτυχές της κοινωνίας για τον επόμενο αιώνα.

Παρόλο που είναι εύκολο να κατανοήσουμε τις δυνητικές επιπτώσεις της ΤΝ στους τομείς των τηλεπικοινωνιών, των μεταφορών, της διαχείρισης της κυκλοφορίας και της υγειονομικής περίθαλψης, η αξιολόγηση των μακροπρόθεσμων επιπτώσεών της στην εκπαίδευση, τον πολιτισμό και τον οπτικοακουστικό τομέα είναι αρκετά πιο δύσκολη. Αν και υπάρχει συναίνεση ότι η ΤΝ και η αυτοματοποίηση πιθανότατα θα δημιουργήσουν μεγαλύτερο πλούτο και θα απλουστεύσουν ένα ευρύ φάσμα διαδικασιών, η χρήση της ΤΝ έχει επίσης προκαλέσει σοβαρές ανησυχίες ότι μπορεί να οδηγήσει σε αύξηση των ανισοτήτων, των διακρίσεων και της ανεργίας.

Παρόλα αυτά, οι πιθανές επιπτώσεις της ΤΝ στην εκπαίδευση, τον πολιτισμό και τον οπτικοακουστικό τομέα σπανίως συζητούνται και είναι ως επί το πλείστον άγνωστες. Ωστόσο, το ζήτημα αυτό είναι υψίστης σημασίας, διότι η ΤΝ χρησιμοποιείται ήδη στη διδασκαλία εκπαιδευτικών προγραμμάτων, καθώς και στην παραγωγή ταινιών, τραγουδιών, ιστοριών και έργων ζωγραφικής.

Ως εκ τούτου, σκοπός της παρούσας έκθεσης είναι να γίνει κατανοητός συγκεκριμένα ο τρόπος με τον οποίο η ΤΝ επηρεάζει επί του παρόντος αυτούς τους τομείς και ο τρόπος με τον οποίο οι μελλοντικές τεχνολογικές εξελίξεις στον τομέα της ΤΝ θα τους επηρεάσουν περαιτέρω κατά την επόμενη δεκαετία. Ειδικότερα, η εισηγήτρια μελετά τον τρόπο με τον οποίο η ΤΝ μπορεί να μεταμορφώσει αυτούς τους τομείς και ποιες συγκεκριμένες ρυθμιστικές προκλήσεις ενδέχεται να κληθεί να αντιμετωπίσει η Ένωση στο πλαίσιο αυτό.

i) Η ΤΝ αναδιαμορφώνει την εκπαίδευση

Η ΤΝ αλλάζει ριζικά τη μάθηση, τη διδασκαλία και την εκπαίδευση. Η ραγδαία ταχύτητα της τεχνολογικής ανάπτυξης επιταχύνει τον ριζικό μετασχηματισμό των παιδαγωγικών πρακτικών, ιδρυμάτων και πολιτικών. Στον τομέα αυτό, η ΤΝ έχει πολλές εφαρμογές, όπως είναι οι εξατομικευμένες προσεγγίσεις στη μάθηση, οι εκπαιδευτές με βάση την ΤΝ, τα βιβλία και το υλικό διδασκαλίας με εξατομικευμένο περιεχόμενο, οι έξυπνοι αλγόριθμοι για τον καθορισμό των βέλτιστων μεθόδων διδασκαλίας, οι μηχανές παιχνιδιών με ΤΝ και τα προσαρμοστικά μοντέλα χρήστη σε εξατομικευμένα περιβάλλοντα μάθησης (PLE), που μπορούν να επιτρέψουν τον έγκαιρο εντοπισμό των δυσκολιών, όπως η δυσλεξία ή οι κίνδυνοι πρόωρης εγκατάλειψης του σχολείου.

Η εξατομικευμένη μαθησιακή εμπειρία αποτελεί τον ακρογωνιαίο λίθο της χρήσης της ΤΝ στην εκπαίδευση. Θα έδινε στους σπουδαστές τη δυνατότητα να απολαμβάνουν μια εκπαιδευτική προσέγγιση που θα είναι πλήρως προσαρμοσμένη στις ατομικές ικανότητες, τις ανάγκες και τις δυσκολίες τους, επιτρέποντας παράλληλα στους εκπαιδευτικούς να παρακολουθούν εκ του σύνεγγυς την πρόοδο των σπουδαστών. Ωστόσο, προκειμένου να γίνει πραγματικότητα η εξατομικευμένη εκπαίδευση, πρέπει να συλλέγονται, να χρησιμοποιούνται και να αναλύονται μεγάλες ποσότητες δεδομένων προσωπικού χαρακτήρα.

Η εισηγήτρια τονίζει εν προκειμένω ότι η τρέχουσα έλλειψη πρόσβασης σε δεδομένα προσωπικού χαρακτήρα για τους σπουδαστές πιθανότατα θα αποτρέψει την επιτυχή εφαρμογή της ΤΝ στην εκπαίδευση. Είναι επομένως σημαντικό να διασφαλιστεί η ασφάλεια και η διαφάνεια της συλλογής, χρήσης, διαχείρισης και διάδοσης δεδομένων προσωπικού χαρακτήρα, διασφαλίζοντας παράλληλα την εμπιστευτικότητα και την ιδιωτικότητα των δεδομένων προσωπικού χαρακτήρα των εκπαιδευομένων. Επιπλέον, η αντιμετώπιση των κινδύνων για πιθανότητα μεροληψίας της ΤΝ, καθώς και η αντιμετώπιση του ζητήματος της αποθήκευσης δεδομένων θα πρέπει να αποτελούν προτεραιότητα σε κάθε πρωτοβουλία για την ευρεία ανάπτυξη της ΤΝ στο εκπαιδευτικό σύστημα σε επίπεδο Ένωσης.

Αν και είναι μικρή η πιθανότητα να αντικατασταθούν οι εκπαιδευτικοί από μηχανές στο εγγύς μέλλον, η αυξανόμενη χρήση της ΤΝ στην εκπαίδευση συνεπάγεται την ανάγκη να επανεξεταστεί συνολικά η εκπαίδευση, καθώς και να εξεταστεί ο επαναπροσδιορισμός της διδασκαλίας, ο ρόλος των εκπαιδευτικών και, ως εκ τούτου, η επακόλουθη επανακατάρτιση που απαιτείται για την προσαρμογή σε ένα εκπαιδευτικό σύστημα που βασίζεται στην ΤΝ.

Λαμβάνοντας υπόψη ότι λιγότερο από το 40 % των εκπαιδευτικών στην Ένωση έλαβαν μαθήματα για την ένταξη των ΤΠΕ στην τάξη κατά τη διάρκεια της αρχικής τους κατάρτισης ως εκπαιδευτικών (ΙΤΕ), η εισηγήτρια θα ήθελε να τονίσει την κρίσιμη σημασία της κατάρτισης των εκπαιδευτικών ώστε να αποκτήσουν ψηφιακές δεξιότητες ως προϋπόθεση για να εξοικειωθούν με την ΤΝ. Στη συνέχεια, θα μπορούσαν να αξιοποιήσουν τις τεχνολογίες ΤΝ, αλλά και να ενημερωθούν σχετικά με τους πιθανούς κινδύνους της ΤΝ.

Το ζήτημα αυτό μπορεί επίσης να εξεταστεί ευρύτερα, δεδομένου ότι το 42 % του πληθυσμού της Ένωσης εξακολουθεί να μην διαθέτει βασικές ψηφιακές δεξιότητες. Υπάρχουν επίσης σοβαρές περιφερειακές διαφορές όσον αφορά την πρόσβαση στην ψηφιακή υποδομή και τις ψηφιακές δεξιότητες σε ολόκληρη την Ένωση.

Οι αναδυόμενες τάσεις της τεχνολογίας που σχετίζονται με τον ψηφιακό μετασχηματισμό, όπως η ΤΝ, έχουν σημαντικές επιπτώσεις όσον αφορά τις δεξιότητες που απαιτούνται για την εξελισσόμενη ψηφιακή οικονομία. Ειδικότερα, η έννοια της διά βίου μάθησης στην ΤΝ έχει αναδειχθεί σε μία από τις βασικές στρατηγικές για την ασφάλεια και την απασχόληση στην ψηφιακή εποχή.

Η εισηγήτρια προτείνει να εκπαιδευτούν οι πολίτες για να αποκτήσουν τις απαραίτητες ψηφιακές δεξιότητες, ενώ παράλληλα να πραγματοποιηθεί προσεκτική αξιολόγηση σχετικά με το ποιες είναι οι σχετικές με την ΤΝ δεξιότητες που απαιτούνται σήμερα και στο μέλλον, καθώς και να ληφθούν τα αναγκαία μέτρα για την αντιμετώπιση των υφιστάμενων και των αναδυόμενων ελλείψεων όσον αφορά τις δεξιότητες.

Έχει επίσης ζωτική σημασία να εξασφαλιστεί ότι πληρούνται οι προϋποθέσεις για την ανάπτυξη και τη χρήση της ΤΝ όσον αφορά την πρόσβαση στο διαδίκτυο, τη συνδεσιμότητα, τα δίκτυα και τις υποδομές.

ii) Η ΤΝ μπορεί να χρησιμοποιηθεί για τη διαφύλαξη και την προώθηση της πολιτιστικής κληρονομιάς

Τα τελευταία χρόνια, η ΤΝ έχει ολοένα και μεγαλύτερη σημασία για την πολιτιστική κληρονομιά, ιδίως σε σχέση με τις πιθανές σύγχρονες απειλές, όπως η κλιματική αλλαγή ή οι συγκρούσεις. Η ΤΝ μπορεί να έχει διάφορες εφαρμογές σε αυτό το πλαίσιο: μπορεί να χρησιμοποιηθεί για την ενίσχυση της εμπειρίας των χρηστών, παρέχοντας στους επισκέπτες πολιτιστικών ιδρυμάτων και μουσείων τη δυνατότητα να δημιουργούν προσωπικές αφηγήσεις ή να απολαμβάνουν εικονικές ξεναγήσεις. Ρομπότ που μιλούν θα μπορούσαν να εξηγούν διαδραστικά οποιοδήποτε θέμα σχετικά με την πολιτιστική κληρονομιά σε οποιαδήποτε γλώσσα. Θα έκαναν επίσης ευκολότερη την πρόσβαση σε πληροφορίες, παρέχοντας ταυτόχρονα στους χρήστες μια ζωντανή πολιτιστική εμπειρία.

Η ΤΝ θα μπορούσε επίσης να κάνει ευκολότερη την κατανόηση της ιστορίας της Ένωσης, όπως συμβαίνει με το «έργο για τη χρονομηχανή» το οποίο επιδιώκει να δημιουργήσει προηγμένες τεχνολογίες τεχνητής νοημοσύνης που θα επεξεργάζονται τεράστιες ποσότητες πληροφοριών από σύνθετα ιστορικά δεδομένα που είναι αποθηκευμένα σε αρχεία και μουσεία. Αυτό επιτρέπει τη μετατροπή των κατακερματισμένων δεδομένων σε αξιοποιήσιμες γνώσεις με τη χαρτογράφηση ολόκληρης της κοινωνικής, πολιτιστικής και γεωγραφικής εξέλιξης της Ένωσης. Αυτό μπορεί να διευκολύνει την εξερεύνηση της πολιτιστικής, οικονομικής και ιστορικής ανάπτυξης των ευρωπαϊκών πόλεων και να βελτιώσει την κατανόησή τους.

iii) Η ΤΝ αλλάζει τον τρόπο εργασίας των κλάδων του πολιτισμού και της δημιουργίας, και ιδίως του οπτικοακουστικού τομέα.

Η χρήση της ΤΝ αυξάνεται με ταχείς ρυθμούς στον τομέα των μέσων με πολλές εφαρμογές:

- προώθηση και διαφήμιση με βάση τα δεδομένα, μέσω εκπαίδευσης των αλγορίθμων μηχανικής μάθησης ώστε να δημιουργούν trailer ταινιών και να σχεδιάζουν διαφημίσεις,

- εξατομίκευση της εμπειρίας των χρηστών με τη χρήση μηχανικής μάθησης ώστε να προτείνεται εξατομικευμένο περιεχόμενο βάσει δεδομένων από τη δραστηριότητα του χρήστη και τη συμπεριφορά του,

- βελτιστοποίηση αναζητήσεων, με τη χρήση της ΤΝ για τη βελτίωση της ταχύτητας και της αποτελεσματικότητας της διαδικασίας παραγωγής μέσων και της ικανότητας οργάνωσης των αρχείων οπτικού περιεχομένου,

- δημιουργία περιεχομένου, μέσω της δημιουργίας βιντεοκλίπ από τμήματα αυτόματων βίντεο που είναι έτοιμα για μετάδοση και ειδικά εφέ, όπως η ψηφιακή δημιουργία της εικόνας ενός ηθοποιού σαν να ήταν νεότερος ή η δημιουργία νέου περιεχομένου με ηθοποιό που δεν είναι εν ζωή,

- γραφή σεναρίου, όπως η απλή δημιουργία ενός ενημερωτικού κειμένου (αθλητικά και ειδησεογραφικά ρεπορτάζ που παράγονται από ρομπότ), αλλά και για τη σύνταξη φανταστικών ιστοριών, όπως η πειραματική ταινία μικρού μήκους «Sunspring»,

- αλληλεπίδραση του θεατή με περίπλοκες αφηγήσεις, όπως το τελευταίο επεισόδιο των βρετανικών σειρών «Black Mirror» και «Bandersnatch»,

- αυτόματος υποτιτλισμός, όπως οι διαδικασίες μετατροπής ήχου σε κείμενο, για τους θεατές με αναπηρία,

- αυτόματος έλεγχος περιεχομένου σε οπτικοακουστικό περιεχόμενο.

Παρόλο που η ΤΝ προσφέρει πληθώρα ευκαιριών για την παραγωγή πολιτιστικού και δημιουργικού περιεχομένου υψηλής ποιότητας, η κεντρική διανομή και πρόσβαση σε αυτό το περιεχόμενο εγείρουν ορισμένα δεοντολογικά και νομικά ζητήματα, ιδίως όσον αφορά την προστασία των δεδομένων, την ελευθερία της έκφρασης και την πολιτιστική πολυμορφία.

Τα πολιτιστικά και δημιουργικά έργα, και ιδίως τα οπτικοακουστικά έργα, διανέμονται κυρίως μέσω μεγάλων κεντρικών πλατφορμών, που συνδέουν την κατανάλωση μέσων με τους αλγορίθμους ιδιοκτησίας που αναπτύσσουν οι εν λόγω πλατφόρμες.

Η εισηγήτρια επισημαίνει ότι οι εξατομικευμένες συστάσεις που βασίζονται σε αλγόριθμους ενδέχεται να έχουν δυσμενείς επιπτώσεις στην πολιτιστική και γλωσσική πολυμορφία, εμποδίζοντας το υποεκπροσωπούμενο πολιτιστικό και δημιουργικό περιεχόμενο από το να περιλαμβάνεται στις προτάσεις που παρέχουν αυτά τα συστήματα. Στις μεγαλύτερες πλατφόρμες, τα κριτήρια που χρησιμοποιούνται για την επιλογή ή σύσταση ενός έργου δεν είναι ούτε διαφανή ούτε ελέγξιμα, και πιθανότατα θα αποφασίζονται βάσει οικονομικών παραγόντων που ωφελούν αποκλειστικά τις εν λόγω πλατφόρμες.

Το ζήτημα της πολιτισμικής και γλωσσικής πολυμορφίας στα συστήματα σύστασης είναι, επομένως, ζωτικής σημασίας και πρέπει να αντιμετωπιστεί. Η εισηγήτρια τονίζει την ανάγκη να θεσπιστεί ένα σαφές νομικό πλαίσιο για διαφανείς, υπεύθυνους και χωρίς αποκλεισμούς αλγορίθμους, προκειμένου να διασφαλιστεί και να προαχθεί η πολιτιστική και γλωσσική πολυμορφία.

Οι ρυθμιστικές προκλήσεις που προκαλούνται από εφαρμογές της ΤΝ στον οπτικοακουστικό τομέα συνδέονται επίσης με υφιστάμενες νομικές πράξεις, όπως η οδηγία για τις υπηρεσίες οπτικοακουστικών μέσων. Ως εκ τούτου, ενδέχεται να χρειαστεί διεξοδικότερη αξιολόγηση όσον αφορά τον επείγοντα χαρακτήρα ή/και την πολιτική ώθηση για τις μελλοντικές προσαρμογές των εν λόγω φακέλων στην ΤΝ.

Παρόλο που η ΤΝ μπορεί να συμβάλει στην ενδυνάμωση πολλών δημιουργών, στην αύξηση της ευημερίας των ΤΠΔ και την προώθηση της πολιτισμικής πολυμορφίας, η μεγάλη πλειονότητα των καλλιτεχνών και των επιχειρηματιών ενδέχεται να μην είναι ακόμη εξοικειωμένη με τα εργαλεία της ΤΝ.

Υπάρχει έλλειψη τεχνικών γνώσεων μεταξύ των δημιουργών που τους εμποδίζει να πειραματιστούν με τη μηχανική μάθηση και να δρέψουν τα οφέλη που μπορεί να αποφέρει. Ως εκ τούτου, είναι σημαντικό να αξιολογηθεί ποιες δεξιότητες θα χρειαστούν στο εγγύς μέλλον, βελτιώνοντας ταυτόχρονα τα συστήματα κατάρτισης, συμπεριλαμβανομένης της αναβάθμισης των δεξιοτήτων και της επανεκπαίδευσης, και διασφαλίζοντας τη διά βίου μάθηση καθόλη τη διάρκεια του επαγγελματικού βίου και πέραν αυτού.

Στο πλαίσιο αυτό, η εισηγήτρια προτείνει τη δημιουργία παρατηρητηρίου για την ΤΝ με στόχο την εναρμόνιση και τη διευκόλυνση της τεκμηριωμένης εξέτασης των νέων εξελίξεων στον τομέα της ΤΝ, προκειμένου να αντιμετωπιστεί το ζήτημα της ελεγξιμότητας και της λογοδοσίας των εφαρμογών ΤΝ στους ΤΠΔ.

v) Αντιμετώπιση των ψευδών ειδήσεων

Οι τεχνολογίες ΤΝ χρησιμοποιούνται όλο και περισσότερο για τη διάδοση ψευδών ειδήσεων, ιδίως μέσω της χρήσης «deepfake».

Τα deepfake είναι οι συνθετικές εικόνες ή τα βίντεο που παράγονται από την ΤΝ με τη χρήση «μηχανών βαθιάς μάθησης» και αναγεννητικών ανταγωνιστικών δικτύων (GAN). Οι άνθρωποι δεν μπορούν να διακρίνουν τα deepfake από το αυθεντικό περιεχόμενο. Τα deepfake μπορούν να χρησιμοποιηθούν για κάθε είδους τεχνάσματα, και συνήθως χρησιμοποιούνται για «ανταλλαγές προσώπου», από αθώες σάτιρες και τεχνάσματα σε ταινίες, έως κακόβουλες φάρσες, στοχευμένη παρενόχληση, πορνογραφικά deepfake ή οικονομική απάτη. Ο κίνδυνος που ενέχουν τα deepfake είναι ότι μπορούν να κάνουν τους πολίτες να πιστέψουν ότι κάτι είναι πραγματικό ενώ δεν είναι, και επομένως μπορούν να χρησιμοποιηθούν ως ιδιαίτερα ισχυρό όπλο για την παραπληροφόρηση στο διαδίκτυο, που εξαπλώνεται στις πλατφόρμες και τα μέσα κοινωνικής δικτύωσης, από όπου μπορεί να επηρεάσει την κοινή γνώμη, τις διαδικασίες ψηφοφορίας και τα αποτελέσματα των εκλογών.

Παρόλο που η ΤΝ αναφέρεται συχνά για τον ρόλο της στη διάδοση ψευδών ειδήσεων, θα μπορούσε επίσης να διαδραματίσει σημαντικό ρόλο στην αντιμετώπιση και την καταπολέμηση των ψευδών ειδήσεων και της παραπληροφόρησης, όπως αποδεικνύεται από έργα όπως το «Fake News Challenge». Τα συστήματα ΤΝ μπορούν να πραγματοποιήσουν ανάδρομη τεχνική έρευνα στις ψευδείς ειδήσεις που έχουν δημιουργηθεί με ΤΝ και να βοηθήσουν στη διακοπή της μετάδοσης του παραποιημένου περιεχομένου. Ωστόσο, οι αλγόριθμοι παραγωγής deepfake γίνονται όλο και πιο εξελιγμένοι και ο εντοπισμός τους είναι όλο και πιο δύσκολος.

Ως εκ τούτου, η εισηγήτρια τονίζει την ανάγκη να αντιμετωπιστεί η κατάχρηση της ΤΝ όσον αφορά τη διάδοση ψευδών ειδήσεων και παραπληροφόρησης στο διαδίκτυο, ιδίως με τη διερεύνηση τρόπων για τον αποδοτικό εντοπισμό των deepfake.

ΓΝΩΜΟΔΟΤΗΣΗ ΤΗΣ ΕΠΙΤΡΟΠΗΣ ΠΟΛΙΤΙΚΩΝ ΕΛΕΥΘΕΡΙΩΝ, ΔΙΚΑΙΟΣΥΝΗΣ ΚΑΙ ΕΣΩΤΕΡΙΚΩΝ ΥΠΟΘΕΣΕΩΝ (16.7.2020)

προς την Επιτροπή Πολιτισμού και Παιδείας

σχετικά με την τεχνητή νοημοσύνη στην εκπαίδευση, τον πολιτισμό και τον οπτικοακουστικό τομέα

(2020/2017(INI))

Συντάκτης γνωμοδότησης (*): Ondřej Kovařík

(*) Συνδεδεμένη επιτροπή – Άρθρο 57 του Κανονισμού

ΠΡΟΤΑΣΕΙΣ

Η Επιτροπή Πολιτικών Ελευθεριών, Δικαιοσύνης και Εσωτερικών Υποθέσεων καλεί την Επιτροπή Πολιτισμού και Παιδείας, που είναι αρμόδια επί της ουσίας, να συμπεριλάβει στην πρόταση ψηφίσματός της τις ακόλουθες προτάσεις:

1. υπογραμμίζει ότι πρέπει η χρήση ΤΝ στους τομείς της εκπαίδευσης, του πολιτισμού και των οπτικοακουστικών μέσων να σέβεται πλήρως τα θεμελιώδη δικαιώματα, τις ελευθερίες και τις αξίες, μεταξύ άλλων την ιδιωτικότητα, την προστασία των προσωπικών δεδομένων, τη μη εισαγωγή διακρίσεων και την ελευθερία της έκφρασης και της πληροφόρησης, όπως κατοχυρώνονται στις Συνθήκες της ΕΕ και στον Χάρτη των Θεμελιωδών Δικαιωμάτων της Ευρωπαϊκής Ένωσης· επικροτεί, εν προκειμένω, τη Λευκή Βίβλο της Επιτροπής για την τεχνητή νοημοσύνη, και καλεί την Επιτροπή να συμπεριλάβει στο μελλοντικό ρυθμιστικό πλαίσιο για εφαρμογές ΤΝ υψηλού κινδύνου τον τομέα της εκπαίδευσης, και ειδικότερα τομείς που ενέχουν σημαντικούς κινδύνους·

2. υπενθυμίζει ότι ενδέχεται η ΤΝ να εισάγει προκαταλήψεις και, συνεπώς, διάφορες μορφές διακρίσεων λόγω φύλου, φυλής, χρώματος, εθνοτικής καταγωγής, κοινωνικής προέλευσης, γενετικών χαρακτηριστικών, γλώσσας, θρησκείας ή πεποιθήσεων, πολιτικών φρονημάτων ή κάθε άλλης γνώμης, ιδιότητας μέλους εθνικής μειονότητας, περιουσίας, γέννησης, αναπηρίας, ηλικίας ή γενετήσιου προσανατολισμού· υπενθυμίζει, εν προκειμένω, ότι πρέπει να διασφαλίζονται τα δικαιώματα όλων, και ότι δεν πρέπει οι πρωτοβουλίες ΤΝ να εισάγουν κανενός είδους διακρίσεις·

3. επισημαίνει ότι τέτοιου είδους προκαταλήψεις και διακρίσεις μπορεί να προκύψουν από ήδη μεροληπτικά σύνολα δεδομένων, τα οποία αντανακλούν υφιστάμενες διακρίσεις στην κοινωνία· τονίζει ότι πρέπει η ΤΝ να αποφεύγει τη μεροληψία που εισάγει απαγορευμένες διακρίσεις και να μην αναπαράγει διαδικασίες που εισάγουν διακρίσεις· υπογραμμίζει την ανάγκη να λαμβάνονται υπόψη οι εν λόγω κίνδυνοι κατά τον σχεδιασμό των τεχνολογιών ΤΝ, καθώς και τη σημασία της συνεργασίας με τους παρόχους τεχνολογιών ΤΝ ώστε να αντιμετωπιστούν επίμονα κενά που καθιστούν δυνατές τις διακρίσεις, συνιστά δε να αντανακλάται η ποικιλομορφία της κοινωνίας στις ομάδες σχεδιασμού και ανάπτυξης ΤΝ·

4. σημειώνει ότι η χρήση ΤΝ στην εκπαίδευση προσφέρει ευρύ φάσμα δυνατοτήτων και ευκαιριών, ώστε να διευκολύνεται, για παράδειγμα, η πρόσβαση σε πληροφορίες, να βελτιώνονται οι ερευνητικές μέθοδοι, και να κατανοούμε πώς μαθαίνουν οι μαθητές, προκειμένου να τους παρέχονται επιλογές εξατομίκευσης, ταυτόχρονα δε ενέχει κινδύνους όσον αφορά την ίση πρόσβαση στην εκπαίδευση και τις ίσες ευκαιρίες μάθησης για όλο και νεότερες ηλικίες και για ευάλωτες και παραδοσιακά μειονεκτούσες ομάδες· ζητεί επαρκείς υποδομές για την ανταλλαγή δεδομένων μεταξύ εφαρμογών ΤΝ και δημόσιων ερευνητικών φορέων· παρατηρεί ότι η ισότητα και η ένταξη αποτελούν θεμελιώδεις αξίες που πρέπει να λαμβάνονται δεόντως υπόψη κατά τον σχεδιασμό των πολιτικών για την ΤΝ στην εκπαίδευση· ζητεί να αξιοποιείται χωρίς διακρίσεις η ΤΝ στον τομέα της εκπαίδευσης· υπενθυμίζει τους κινδύνους και τις διακρίσεις που ενδέχεται να προκύψουν από τα εργαλεία ΤΝ που αναπτύχθηκαν πρόσφατα για τις εγγραφές στα σχολεία, και ζητεί να αντιμετωπιστούν το συντομότερο δυνατόν· υπογραμμίζει την ανάγκη να αξιολογηθούν καταλλήλως τα εργαλεία ΤΝ που χρησιμοποιούνται στον τομέα της εκπαίδευσης, ώστε να προσδιοριστεί ο αντίκτυπός τους στα δικαιώματα του παιδιού·

5. αναγνωρίζει ότι η χρήση ψηφιακών τεχνολογιών και τεχνολογιών ΤΝ μπορεί να συμβάλει στην ανάπτυξη ολοένα και αποτελεσματικότερων εκπαιδευτικών εργαλείων και να οδηγήσει σε μια κοινωνία με λιγότερους αποκλεισμούς, χάρη στην αντιμετώπιση των παραδοσιακών μορφών διακρίσεων, συμπεριλαμβανομένης της έλλειψης πρόσβασης σε υπηρεσίες, την προσαρμογή της εκπαίδευσης σε μειονεκτούσες κοινότητες, άτομα με αναπηρίες σύμφωνα με την ενωσιακή πράξη για την προσβασιμότητα, και άλλες κατηγορίες Ευρωπαίων πολιτών που στερούνται κατάλληλη πρόσβαση στην εκπαίδευση, και την παροχή πρόσβασης σε κατάλληλες ευκαιρίες μάθησης·

6. υπογραμμίζει ότι θα πρέπει τα οφέλη της ΤΝ να αξιοποιούνται από όλα τα τμήματα της κοινωνίας, χωρίς να μένει κανείς στο περιθώριο· τονίζει την ανάγκη να ληφθούν πλήρως υπόψη οι συγκεκριμένες ανάγκες των πλέον ευάλωτων ομάδων, όπως τα παιδιά, τα άτομα με αναπηρίες, οι ηλικιωμένοι, και άλλες ομάδες που διατρέχουν κίνδυνο αποκλεισμού· εκφράζει την ανησυχία του για την περιορισμένη προσβασιμότητα του διαδικτύου σε ορισμένες περιφέρειες της ΕΕ, και καλεί την Επιτροπή και τα κράτη μέλη να καταβάλλουν συνεχείς προσπάθειες για να βελτιώνουν τις τηλεπικοινωνιακές υποδομές·

7. αναγνωρίζει τις δυνατότητες της ΤΝ στον τομέα του πολιτισμού όσον αφορά την ανάπτυξη μουσικής, τεχνών και άλλων πολιτιστικών εκφράσεων· επισημαίνει ότι η ελευθερία της έκφρασης αποτελεί σημαντική ελευθερία και αξία, και ότι έχει υψηλή αξία για την κοινωνία ένα πολύμορφο πολιτιστικό τοπίο· καλεί την Επιτροπή να συνυπολογίζει τις αξίες αυτές κατά την εκπόνηση των προτάσεών της για την ΤΝ·

8. επικροτεί την πρόθεση της Επιτροπής να επικαιροποιήσει το σχέδιο δράσης για την ψηφιακή εκπαίδευση, ώστε να καταστεί πιο φιλόδοξο και να ενσωματώσει τον στόχο να καταστούν τα εκπαιδευτικά συστήματα κατάλληλα για την ψηφιακή εποχή, ειδικότερα με την καλύτερη αξιοποίηση των δεδομένων και των βασιζόμενων στην ΤΝ τεχνολογιών· καλεί όλους τους συμφεροντούχους, τόσο του δημόσιου όσο και του ιδιωτικού τομέα, να συνεργαστούν στενά για την εφαρμογή αυτών των εκπαιδευτικών μεταρρυθμίσεων·

9. τονίζει την ανάγκη να εξασφαλιστεί η καλύτερη ενημέρωση του κοινού σχετικά με την ΤΝ σε όλα τα επίπεδα, ως βασικό στοιχείο που θα επιτρέπει στο κοινό να λαμβάνει τεκμηριωμένες αποφάσεις και θα συμβάλλει στην ενίσχυση της ανθεκτικότητας των κοινωνιών μας· υπογραμμίζει ότι πρέπει η προσέγγιση αυτή να περιλαμβάνει επίσης την ενημέρωση του κοινού σχετικά με τους συνδεόμενους με την ΤΝ κινδύνους όσον αφορά την ιδιωτικότητα και τις προκαταλήψεις· καλεί την Επιτροπή και τα κράτη μέλη να συμπεριλάβουν τα ανωτέρω σε εκπαιδευτικά προγράμματα και προγράμματα για τη στήριξη των τεχνών·

10. υπογραμμίζει την επείγουσα ανάγκη να μορφωθεί το κοινό, σε κάθε επίπεδο, σχετικά με τη χρήση της ΤΝ και να εφοδιαστούν όλοι οι Ευρωπαίοι πολίτες, συμπεριλαμβανομένων των ευάλωτων ομάδων, με βασικές ψηφιακές δεξιότητες που θα παρέχουν ίσες κοινωνικές και οικονομικές ευκαιρίες, καθώς και την ανάγκη για ποιοτικά προγράμματα ΤΠΕ στα εκπαιδευτικά συστήματα, σε όλα τα επίπεδα· ζητεί να μην υποτιμάται το ψηφιακό χάσμα μεταξύ των φύλων, και να ληφθούν μέτρα για την αντιμετώπισή του· επικροτεί την επικείμενη επικαιροποίηση του θεματολογίου δεξιοτήτων, με στόχο να μπορέσουν όλοι να επωφεληθούν από τον ψηφιακό μετασχηματισμό της ΕΕ· επισημαίνει τη σημασία να καταρτιστούν οι διδάσκοντες και οι εκπαιδευτικοί όσον αφορά τη χρήση της ΤΝ, και δη όσοι έχουν ανήλικους μαθητές υπό την ευθύνη τους· σημειώνει ότι εξακολουθούν να σημειώνονται σημαντικές ελλείψεις δεξιοτήτων στον ψηφιακό τομέα και στον τομέα της τεχνολογίας· υπογραμμίζει τη σημασία να διαφοροποιηθεί ο τομέας και να ενθαρρύνονται οι σπουδαστές, και δη οι γυναίκες και τα κορίτσια, να εγγράφονται σε μαθήματα θετικών επιστημών, τεχνολογίας, μηχανικής και μαθηματικών (STEM), και ειδικότερα σε μαθήματα ρομποτικής και ΤΝ, πέρα από εκείνα που συνδέονται με τις επαγγελματικές τους βλέψεις· ζητεί να διατεθούν περισσότεροι χρηματοδοτικοί και επιστημονικοί πόροι, ώστε να παρασχεθούν κίνητρα σε άτομα με δεξιότητες να παραμείνουν στην ΕΕ ή να προσελκυστούν από το εξωτερικό· σημειώνει επιπλέον ότι είναι σημαντικός ο αριθμός νεοφυών επιχειρήσεων που ασχολούνται με την ΤΝ και αναπτύσσουν τεχνολογίες ΤΝ· τονίζει ότι οι μικρές και μεσαίες επιχειρήσεις (ΜΜΕ) θα χρειαστούν πρόσθετη στήριξη και κατάρτιση σχετικά με την ΤΝ, ώστε να συμμορφωθούν με τις κανονιστικές διατάξεις για τις ψηφιακές τεχνολογίες και την ΤΝ·

11. υπενθυμίζει ότι η ΤΝ μπορεί να επηρεάσει ιδιαίτερα την προστασία των δεδομένων και την ιδιωτικότητα· υπογραμμίζει ότι οι αρχές που κατοχυρώνονται στον κανονισμό (ΕΕ) 2016/679 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (γενικός κανονισμός για την προστασία δεδομένων (ΓΚΠΔ))[18] είναι δεσμευτικές για την ανάπτυξη της ΤΝ· υπενθυμίζει ότι χρειάζεται όλες οι εφαρμογές ΤΝ να τηρούν πλήρως την ενωσιακή νομοθεσία για την προστασία των δεδομένων, ήτοι τον ΓΚΠΔ και την οδηγία 2002/58/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (οδηγία για την προστασία της ιδιωτικής ζωής στις ηλεκτρονικές επικοινωνίες)[19] (υπό αναθεώρηση)·

12. υπενθυμίζει ότι τα παιδιά συνιστούν ευάλωτο κοινό που χρήζει ιδιαίτερης προσοχής και προστασίας· υπενθυμίζει ότι, όταν έχουν νομικές ή παρεμφερείς επιπτώσεις, οι αυτοματοποιημένες αποφάσεις που αφορούν φυσικά πρόσωπα και βασίζονται στην κατάρτιση προφίλ πρέπει να περιορίζονται αυστηρά και να σέβονται πάντα το δικαίωμα στην ανθρώπινη παρέμβαση και την εξηγησιμότητα δυνάμει του ΓΚΠΔ· υπογραμμίζει ότι θα πρέπει η απαίτηση αυτή να τηρείται αυστηρά, και δη στο εκπαιδευτικό σύστημα, όπου λαμβάνονται αποφάσεις σχετικά με μελλοντικές ευκαιρίες· παρατηρεί ότι μερικές ιδιωτικές εταιρείες κυριαρχούν στον τομέα των εκπαιδευτικών τεχνολογιών (EdTech) σε ορισμένα κράτη μέλη, και πιστεύει ότι θα πρέπει αυτό να ελεγχθεί υπό το φως των κανόνων ανταγωνισμού της ΕΕ· υπενθυμίζει με έμφαση ότι τα δεδομένα των ανηλίκων προστατεύονται αυστηρά από τον ΓΚΠΔ, και ότι τα δεδομένα των παιδιών μπορούν να υποβληθούν σε επεξεργασία μόνον εάν είναι πλήρως ανωνυμοποιημένα ή εφόσον έχει δοθεί η συγκατάθεση ή έγκριση του δικαιούχου γονικής μέριμνας του παιδιού· ζητεί, επομένως, να παρέχονται μεγαλύτερη προστασία και ισχυρότερες διασφαλίσεις στον εκπαιδευτικό τομέα όσον αφορά τα δεδομένα των παιδιών· ζητεί να παρέχονται σαφείς πληροφορίες στα παιδιά και τους γονείς τους, μεταξύ άλλων με εκστρατείες ευαισθητοποίησης και ενημέρωσης, όσον αφορά την πιθανή χρήση και επεξεργασία των δεδομένων των παιδιών·

13. υπογραμμίζει τους συγκεκριμένους κινδύνους που ενέχει η χρήση των εφαρμογών ΤΝ αυτόματης αναγνώρισης, οι οποίες αναπτύσσονται αυτή τη στιγμή με ταχύ ρυθμό· υπενθυμίζει ότι τα παιδιά αποτελούν ιδιαίτερα ευαίσθητο κοινό· συνιστά να απαγορεύσουν η Επιτροπή και τα κράτη μέλη την αυτοματοποιημένη βιομετρική ταυτοποίηση, όπως η αναγνώριση προσώπου για εκπαιδευτικούς και πολιτιστικούς σκοπούς, σε εκπαιδευτικούς και πολιτιστικούς χώρους, εκτός εάν επιτρέπεται από τον νόμο η χρήση της·

14. καλεί την Επιτροπή και τα κράτη μέλη να εφαρμόζουν την υποχρέωση διαφάνειας και εξηγησιμότητας των βασιζόμενων στην ΤΝ αυτοματοποιημένων ατομικών αποφάσεων που λαμβάνονται στο πλαίσιο του προνομίου άσκησης δημόσιας εξουσίας, και να εφαρμόζουν κυρώσεις με σκοπό την επιβολή των υποχρεώσεων αυτών· ζητεί να εφαρμόζονται συστήματα που χρησιμοποιούν εξ ορισμού την ανθρώπινη επαλήθευση και παρέμβαση, να τηρείται η δέουσα διαδικασία, συμπεριλαμβανομένου του δικαιώματος προσφυγής, και να παρέχεται πρόσβαση σε μέσα προσφυγής· υπενθυμίζει ότι, όταν έχουν νομικές ή παρεμφερείς επιπτώσεις, οι αυτοματοποιημένες αποφάσεις που αφορούν φυσικά πρόσωπα και βασίζονται στην κατάρτιση προφίλ πρέπει να περιορίζονται αυστηρά και να σέβονται πάντα το δικαίωμα στην ανθρώπινη παρέμβαση και την εξηγησιμότητα δυνάμει του ΓΚΠΔ·

15. ζητεί να διενεργούνται τακτικά ανεξάρτητοι έλεγχοι, ώστε να εξετάζεται εάν οι χρησιμοποιούμενες εφαρμογές ΤΝ και τα συναφή συστήματα ελέγχων και εξισορροπήσεων πληρούν συγκεκριμένα κριτήρια, καθώς και να παρακολουθούνται οι εν λόγω έλεγχοι από ανεξάρτητες και κατάλληλες εποπτικές αρχές· ζητεί να διενεργούνται ειδικές προσομοιώσεις ακραίων καταστάσεων, με σκοπό τη στήριξη και την επιβολή της συμμόρφωσης·

16. παρατηρεί ότι η ΤΝ μπορεί να διαδραματίσει μείζονα ρόλο στην ταχεία εξάπλωση της παραπληροφόρησης· καλεί, επομένως, την Επιτροπή να αξιολογήσει τους κινδύνους που ενέχει η ΤΝ όσον αφορά την εξάπλωση της παραπληροφόρησης στο ψηφιακό περιβάλλον, και να προτείνει συστάσεις, μεταξύ άλλων για τη λήψη μέτρων κατά των απειλών που απορρέουν από την ΤΝ σε βάρος της διεξαγωγής ελεύθερων και δίκαιων εκλογών και της δημοκρατίας· παρατηρεί ότι μπορεί επίσης να χρησιμοποιηθούν βαθιά ψευδείς πληροφορίες για τη χειραγώγηση των εκλογών, την εξάπλωση της παραπληροφόρησης και άλλες ανεπιθύμητες ενέργειες· σημειώνει επιπλέον ότι μπορεί κακόβουλοι παράγοντες να εκμεταλλευτούν εμβυθιστικές εμπειρίες που καθίστανται δυνατές χάρη στην ΤΝ· καλεί την Επιτροπή να προτείνει συστάσεις, συμπεριλαμβανομένων πιθανών σχετικών περιορισμών, προκειμένου να διασφαλιστεί επαρκώς ότι δεν χρησιμοποιούνται οι τεχνολογίες αυτές για παράνομους σκοπούς· ζητεί επίσης να αξιολογηθεί πώς θα μπορούσε να χρησιμοποιηθεί η ΤΝ για την καταπολέμηση της παραπληροφόρησης· καλεί την Επιτροπή να διασφαλίσει ότι κανένα μελλοντικό κανονιστικό πλαίσιο δεν οδηγεί σε λογοκρισία του νόμιμου ατομικού περιεχομένου που αναφορτώνεται από τους χρήστες· υπενθυμίζει ότι τώρα, περισσότερο από ποτέ, το διαδικτυακό περιβάλλον απαιτεί κριτική σκέψη και ικανότητα διάδρασης με δεξιότητα και αυτοπεποίθηση·

17. σημειώνει ότι η ΤΝ συχνά χρησιμοποιείται για να μπορούν οι αλγόριθμοι αυτοματοποιημένης λήψης αποφάσεων να διαδίδουν και να ταξινομούν το περιεχόμενο που προβάλλεται στους χρήστες· τονίζει ότι οι αλγόριθμοι αυτοί συνιστούν «μαύρο κουτί» για τους χρήστες· καλεί την Επιτροπή να αντιμετωπίσει τους τρόπους με τους οποίους οι αλγόριθμοι ελέγχου του περιεχομένου βελτιστοποιούνται με γνώμονα την ενεργό συμμετοχή των χρηστών τους· καλεί επίσης την Επιτροπή να προτείνει συστάσεις, ώστε να ενισχυθεί ο έλεγχος που έχουν οι χρήστες επί του περιεχομένου που βλέπουν, και να υποχρεώσει τις εφαρμογές ΤΝ και τις διαδικτυακές πλατφόρμες να παρέχουν στους χρήστες τη δυνατότητα να επιλέγουν να προβάλλεται το περιεχόμενο σε ουδέτερη σειρά, προκειμένου να έχουν οι χρήστες μεγαλύτερο έλεγχο όσον αφορά τον τρόπο κατάταξης του περιεχομένου, συμπεριλαμβανομένων επιλογών για κατάταξη βάσει κριτηρίων άλλων από τις καθημερινές συνήθειές τους ως προς την κατανάλωση περιεχομένου και για την πλήρη εξαίρεση από κάθε είδους επιμέλεια περιεχομένου·

18. σημειώνει τον αρνητικό αντίκτυπο που μπορεί να έχουν οι εξατομικευμένες διαφημίσεις, και ειδικότερα οι μικροστοχευμένες και οι συμπεριφορικές διαφημίσεις, καθώς και η αξιολόγηση ατόμων, και δη ανηλίκων, χωρίς τη συναίνεσή τους, δεδομένου ότι παρεμβαίνουν στην ιδιωτική ζωή των ατόμων και εγείρουν ερωτηματικά σχετικά με τη συλλογή και τη χρήση των δεδομένων για την εξατομίκευση των διαφημίσεων, την προσφορά προϊόντων ή υπηρεσιών και τον καθορισμό των τιμών· καλεί, επομένως, την Επιτροπή να θεσπίσει αυστηρούς περιορισμούς όσον αφορά τις στοχευμένες διαφημίσεις που βασίζονται στη συλλογή προσωπικών δεδομένων, και να απαγορεύσει κατ᾽ αρχάς τη χρήση συμπεριφορικών διαφημίσεων σε διάφορες πλατφόρμες, χωρίς όμως να υπονομεύονται οι ΜΜΕ· υπενθυμίζει ότι, αυτή τη στιγμή, η οδηγία για την προστασία της ιδιωτικής ζωής στις ηλεκτρονικές επικοινωνίες απαγορεύει τις στοχευμένες διαφημίσεις, πλην εκείνων που υπόκειται σε συναίνεση προαιρετικής συμμετοχής· καλεί την Επιτροπή να απαγορεύσει τη χρήση πρακτικών που εισάγουν διακρίσεις για την παροχή υπηρεσιών ή προϊόντων·

19. υπογραμμίζει πως ό,τι είναι παράνομο εκτός διαδικτύου είναι παράνομο και στο διαδίκτυο· σημειώνει ότι τα εργαλεία ΤΝ έχουν το δυναμικό να καταπολεμήσουν το παράνομο περιεχόμενο στο διαδίκτυο, και ήδη χρησιμοποιούνται για τον σκοπό αυτόν, αλλά υπενθυμίζει με έμφαση, ενόψει του νόμου για τις ψηφιακές υπηρεσίες που αναμένεται να εγκριθεί στο τέλος του τρέχοντος έτους, ότι πρέπει τα εργαλεία αυτά να σέβονται πάντα τα θεμελιώδη δικαιώματα, και δη την ελευθερία της έκφρασης και της πληροφόρησης, και να μην οδηγούν σε υποχρέωση γενικής παρακολούθησης του διαδικτύου ή στην αφαίρεση νόμιμου περιεχομένου που διαδίδεται για εκπαιδευτικούς, δημοσιογραφικούς, καλλιτεχνικούς ή ερευνητικούς σκοπούς· τονίζει ότι θα πρέπει οι αλγόριθμοι να χρησιμοποιούνται αποκλειστικά ως μηχανισμός επισήμανσης κατά τον έλεγχο περιεχομένου και να υπόκεινται σε ανθρώπινη παρέμβαση, καθώς η ΤΝ αδυνατεί να διακρίνει με αξιοπιστία μεταξύ νόμιμου, παράνομου και επιβλαβούς περιεχομένου· σημειώνει ότι θα πρέπει οι όροι και προϋποθέσεις να περιλαμβάνουν πάντα τις κοινοτικές κατευθυντήριες γραμμές, καθώς και τη διαδικασία προσφυγής·

20. σημειώνει τα οφέλη και τους κινδύνους της ΤΝ όσον αφορά την κυβερνοασφάλεια και το δυναμικό της για την καταπολέμηση του κυβερνοεγκλήματος, και επισημαίνει την ανάγκη να είναι κάθε λύση ΤΝ ανθεκτική σε κυβερνοεπιθέσεις και ταυτόχρονα να σέβεται τα ενωσιακά θεμελιώδη δικαιώματα, και δη την προστασία των προσωπικών δεδομένων και της ιδιωτικότητας· τονίζει τη σημασία να παρακολουθείται η ασφαλής χρήση της ΤΝ και την ανάγκη για στενή συνεργασία μεταξύ του δημόσιου και του ιδιωτικού τομέα, ώστε να αντιμετωπιστούν οι ευπάθειες και οι κίνδυνοι που προκύπτουν για τους χρήστες στο πλαίσιο αυτό· καλεί την Επιτροπή να αξιολογήσει την ανάγκη για καλύτερη πρόληψη όσον αφορά την κυβερνοασφάλεια και για μέτρα που αποσκοπούν στον μετριασμό των κυβερνοαπειλών.

21. τονίζει ότι η ψηφιακές υποδομές επόμενης γενιάς και η διαδικτυακή κάλυψη έχουν στρατηγική σημασία για την παροχή στους Ευρωπαίους πολίτες εκπαίδευσης που λειτουργεί με ΤΝ· υπό το φως της κρίσης COVID-19, καλεί την Επιτροπή να καταρτίσει στρατηγική για ευρωπαϊκό δίκτυο 5G, το οποίο θα διασφαλίζει τη στρατηγική ανθεκτικότητα της Ευρώπης και δεν θα εξαρτάται από την τεχνολογία κρατών που δεν συμμερίζονται τις αξίες μας·

22. καλεί την Επιτροπή και τα κράτη μέλη να υποστηρίξουν τη χρήση της ΤΝ στον τομέα της ψηφιοποιημένης πολιτιστικής κληρονομιάς.

ΠΛΗΡΟΦΟΡΙΕΣ ΓΙΑ ΤΗΝ ΕΓΚΡΙΣΗ ΣΤΗ ΓΝΩΜΟΔΟΤΙΚΗ ΕΠΙΤΡΟΠΗ

ΤΕΛΙΚΗ ΨΗΦΟΦΟΡΙΑ ΜΕ ΟΝΟΜΑΣΤΙΚΗ ΚΛΗΣΗ
ΣΤΗ ΓΝΩΜΟΔΟΤΙΚΗ ΕΠΙΤΡΟΠΗ

Υπόμνημα των χρησιμοποιούμενων συμβόλων:

+ : υπέρ

- : κατά

0 : αποχή

ΓΝΩΜΟΔΟΤΗΣΗ ΤΗΣ ΕΠΙΤΡΟΠΗΣ ΕΣΩΤΕΡΙΚΗΣ ΑΓΟΡΑΣ ΚΑΙ ΠΡΟΣΤΑΣΙΑΣ ΤΩΝ ΚΑΤΑΝΑΛΩΤΩΝ (6.7.2020)

προς την Επιτροπή Πολιτισμού και Παιδείας

σχετικά με την τεχνητή νοημοσύνη στην εκπαίδευση, τον πολιτισμό και τον οπτικοακουστικό τομέα

(2020/2017(INI))

Συντάκτρια γνωμοδότησης: Kim Van Sparrentak

ΠΡΟΤΑΣΕΙΣ

Η Επιτροπή Εσωτερικής Αγοράς και Προστασίας των Καταναλωτών καλεί την Επιτροπή Πολιτισμού και Παιδείας, που είναι αρμόδια επί της ουσίας, να συμπεριλάβει στην πρόταση ψηφίσματός της τις ακόλουθες προτάσεις:

Α. λαμβάνοντας υπόψη ότι η τεχνητή νοημοσύνη (ΤΝ) έχει τη δυνατότητα να προσφέρει λύσεις για τις καθημερινές προκλήσεις στον εκπαιδευτικό τομέα, όπως η εξατομίκευση της μάθησης, η παρακολούθηση των μαθησιακών δυσκολιών, η αυτοματοποίηση του περιεχομένου/ της γνώσης συγκεκριμένου θέματος, η παροχή καλύτερης επαγγελματικής κατάρτισης και η υποστήριξη της μετάβασης σε μια ψηφιακή κοινωνία·

Β. λαμβάνοντας υπόψη ότι η τεχνητή νοημοσύνη θα μπορούσε να συμβάλλει, από πρακτικής απόψεως, στη μείωση του διοικητικού έργου των εκπαιδευτικών και των εκπαιδευτικών ιδρυμάτων, απελευθερώνοντας έτσι χρόνο για τις βασικές τους δραστηριότητες στη διδασκαλία και τη μάθηση·

Γ. λαμβάνοντας υπόψη ότι η εφαρμογή της τεχνητής νοημοσύνης στην εκπαίδευση εγείρει ανησυχίες σχετικά με τη δεοντολογική χρήση δεδομένων, τα δικαιώματα των εκπαιδευομένων, την πρόσβαση σε δεδομένα και την προστασία των δεδομένων προσωπικού χαρακτήρα, και, ως εκ τούτου, ενέχει κινδύνους για τα θεμελιώδη δικαιώματα, όπως η δημιουργία στερεοτυπικών μοντέλων προφίλ και συμπεριφοράς εκπαιδευόμενων που θα μπορούσαν να οδηγήσουν σε διακρίσεις ή σε κίνδυνο πρόκλησης βλάβης από την κλιμάκωση των κακών παιδαγωγικών πρακτικών·

Δ. λαμβάνοντας υπόψη ότι οι εφαρμογές τεχνητής νοημοσύνης είναι ευρύτατα διαδομένες στον οπτικοακουστικό τομέα, ιδίως σε πλατφόρμες οπτικοακουστικού περιεχομένου·

1. επισημαίνει ότι η Επιτροπή έχει προτείνει να υποστηριχθούν οι δημόσιες συμβάσεις στον τομέα των ευφυών ψηφιακών υπηρεσιών, προκειμένου να ενθαρρυνθούν οι δημόσιες αρχές να χρησιμοποιήσουν άμεσα προϊόντα και υπηρεσίες που βασίζονται στην τεχνητή νοημοσύνη σε τομείς δημόσιου συμφέροντος και στον δημόσιο τομέα· τονίζει τη σημασία των δημόσιων επενδύσεων σε αυτές τις υπηρεσίες και τη συμπληρωματική προστιθέμενη αξία που παρέχουν οι συμπράξεις δημόσιου και ιδιωτικού τομέα προκειμένου να διασφαλιστεί αυτός ο στόχος και να αξιοποιηθεί το πλήρες δυναμικό της τεχνητής νοημοσύνης στους τομείς της εκπαίδευσης, του πολιτισμού και των οπτικοακουστικών μέσων· τονίζει ότι στον τομέα της εκπαίδευσης, η ανάπτυξη και η εφαρμογή της τεχνητής νοημοσύνης θα πρέπει να περιλαμβάνει όλους τους συμμετέχοντες στην εκπαιδευτική διαδικασία και την ευρύτερη κοινωνία και να λαμβάνει υπόψη τις ανάγκες τους και τα αναμενόμενα οφέλη, ιδίως για τα πλέον ευάλωτα και μειονεκτούντα άτομα, προκειμένου να διασφαλιστεί η αποτελεσματική και ηθική χρήση της και να επιτευχθεί πραγματική βελτίωση για τους ενδιαφερόμενους· θεωρεί ότι τα προϊόντα και οι υπηρεσίες που αναπτύσσονται με δημόσια χρηματοδότηση θα πρέπει να διατίθενται με άδειες ανοικτού κώδικα με πλήρη σεβασμό της ισχύουσας νομοθεσίας, συμπεριλαμβανομένης της οδηγίας (ΕΕ) 2019/790 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 17ης Απριλίου 2019, για τα δικαιώματα πνευματικής ιδιοκτησίας και τα συγγενικά δικαιώματα στην ψηφιακή ενιαία αγορά· τονίζει τη σημασία της εν λόγω ανάπτυξης για την αναβάθμιση δεξιοτήτων και την απόκτηση νέων στην ευρωπαϊκή αγορά εργασίας, ιδίως στους τομείς του πολιτισμού και των οπτικοακουστικών μέσων, που θα επηρεαστούν βαθύτατα από την κρίση COVID-19·

2. αναγνωρίζει ότι τα παιδιά αποτελούν μια ιδιαίτερα ευπαθή ομάδα όσον αφορά την επιρροή στη συμπεριφορά τους· τονίζει ότι, παρά το γεγονός ότι η τεχνητή νοημοσύνη μπορεί να αποτελέσει ένα ωφέλιμο εργαλείο για την εκπαίδευσή τους, εντούτοις είναι απαραίτητο να ληφθούν υπόψη οι τεχνολογικές, ρυθμιστικές και κοινωνικές πτυχές της εισαγωγής της στην εκπαίδευση, με επαρκείς δικλείδες ασφαλείας και μια ανθρωποκεντρική προσέγγιση που θα διασφαλίζει ότι οι άνθρωποι θα είναι, εν τέλει, πάντοτε σε θέση να ελέγχουν και να διορθώνουν τις αποφάσεις του συστήματος· επισημαίνει την ανάγκη επανεξέτασης και επικαιροποίησης των σχετικών τομεακών κανόνων· υπογραμμίζει, στο πλαίσιο αυτό, ότι το νομικό πλαίσιο που διέπει την τεχνητή στον τομέα της εκπαίδευσης θα πρέπει, ειδικότερα, να προβλέπει νομικά δεσμευτικά μέτρα και πρότυπα για την πρόληψη πρακτικών που θα υπονόμευαν θεμελιώδη δικαιώματα και ελευθερίες και να διασφαλίζει την ανάπτυξη αξιόπιστων, δεοντολογικών και τεχνικά ισχυρών εφαρμογών τεχνητής νοημοσύνης, συμπεριλαμβανομένων ολοκληρωμένων ψηφιακών εργαλείων, υπηρεσιών και προϊόντων όπως η ρομποτική και η μηχανική μάθηση·

3. επισημαίνει το δυναμικό των βασιζόμενων στην τεχνητή νοημοσύνη προϊόντων στην εκπαίδευση, ιδίως όσον αφορά τη διάθεση εκπαίδευσης υψηλής ποιότητας σε όλους τους μαθητές στην ΕΕ· τονίζει την ανάγκη να επανεξετάσουν οι κυβερνήσεις και τα εκπαιδευτικά ιδρύματα τα εκπαιδευτικά προγράμματα με μεγαλύτερη έμφαση στις θετικές επιστήμες, την τεχνολογία, τη μηχανική, τις τέχνες και τα μαθηματικά (STEAM), προκειμένου να προετοιμαστούν οι εκπαιδευόμενοι και οι καταναλωτές για την αυξανόμενη παρουσία της τεχνητής νοημοσύνης και να διευκολυνθεί η απόκτηση γνωσιακών δεξιοτήτων· υπογραμμίζει την ανάγκη να βελτιωθούν οι ψηφιακές δεξιότητες των συμμετεχόντων στην εκπαιδευτική διαδικασία και στην ευρύτερη κοινωνία, λαμβάνοντας υπόψη τους στόχους της στρατηγικής προκειμένου η Ευρώπη να καταστεί κατάλληλη για την ψηφιακή εποχή·

4. υπογραμμίζει ότι τα αλγοριθμικά συστήματα μπορούν να δράσουν καταλυτικά στη άμβλυνση του ψηφιακού χάσματος με επιταχυνόμενο τρόπο, αλλά η άνιση ανάπτυξη ενέχει τον κίνδυνο δημιουργίας νέων χασμάτων ή την επιτάχυνση της εκβάθυνσης των υφιστάμενων· εκφράζει την ανησυχία του για το γεγονός ότι οι γνώσεις και οι υποδομές δεν αναπτύσσονται με συνεκτικό τρόπο σε ολόκληρη την ΕΕ, γεγονός που περιορίζει την προσβασιμότητα σε προϊόντα και υπηρεσίες που βασίζονται στην τεχνητή νοημοσύνη, ιδίως σε αραιοκατοικημένες και κοινωνικοοικονομικά ευάλωτες περιοχές· καλεί την Επιτροπή να διασφαλίσει τη συνοχή στον καταμερισμό των οφελών της τεχνητής νοημοσύνης και των συναφών τεχνολογιών·

5. καλεί την Επιτροπή να θεωρήσει την εκπαίδευση ως έναν τομέα στον οποίο μπορεί να προκύψουν σημαντικοί κίνδυνοι από ορισμένες χρήσεις εφαρμογών τεχνητής νοημοσύνης, οι οποίες ενδέχεται να υπονομεύουν τα θεμελιώδη δικαιώματα και να έχουν υψηλό κόστος τόσο σε ανθρώπινο όσο και σε κοινωνικό επίπεδο, καθώς και να συνεκτιμά το ενδεχόμενο αυτό όταν εξετάζεται ποια είδη ή χρήσεις των εφαρμογών τεχνητής νοημοσύνης θα καλύπτονται από ένα ρυθμιστικό πλαίσιο για εφαρμογές τεχνητής νοημοσύνης υψηλής επικινδυνότητας, δεδομένης της σημασίας που έχει η διασφάλιση ότι η εκπαίδευση εξακολουθεί να συμβάλλει στο δημόσιο συμφέρον και λαμβάνοντας υπόψη την υψηλή ευαισθησία των δεδομένων που αφορούν μαθητές, σπουδαστές και άλλους εκπαιδευόμενους· καλεί την Επιτροπή να συμπεριλάβει ορισμένες εφαρμογές τεχνητής νοημοσύνης στον τομέα της εκπαίδευσης, όπως εκείνες που υπόκεινται σε συστήματα πιστοποίησης ή περιλαμβάνουν ευαίσθητα δεδομένα προσωπικού χαρακτήρα, στο ρυθμιστικό πλαίσιο για εφαρμογές τεχνητής νοημοσύνης υψηλού κινδύνου· υπογραμμίζει ότι τα σύνολα δεδομένων που χρησιμοποιούνται για τον εφοδιασμό των εφαρμογών τεχνητής νοημοσύνη καθώς και τα αποτελέσματά που προκύπτουν, θα πρέπει να επανεξετάζονται προκειμένου να αποφεύγονται όλα τα στερεότυπα, οι διακρίσεις και η μεροληψία, και, κατά περίπτωση, η τεχνητή νοημοσύνη να χρησιμοποιείται για τον εντοπισμό και τη διόρθωση ενδεχόμενων περιστατικών μεροληψίας από ανθρώπους· επισημαίνει, συνεπώς, ότι απαιτούνται κατάλληλες αξιολογήσεις της συμμόρφωσης προκειμένου να επαληθεύεται και να διασφαλίζεται ότι τηρούνται όλες οι διατάξεις σχετικά με τις εφαρμογές υψηλού κινδύνου, συμπεριλαμβανομένων των απαιτήσεων δοκιμής, επιθεώρησης και πιστοποίησης· τονίζει τη σημασία της διασφάλισης της ακεραιότητας και της ποιότητας των δεδομένων·

6. επικροτεί τις προσπάθειες της Επιτροπής να συμπεριλάβει τις ψηφιακές δεξιότητες στα απαιτούμενα προσόντα για ορισμένα επαγγέλματα που έχουν εναρμονιστεί σε επίπεδο ΕΕ βάσει της οδηγίας για τα επαγγελματικά προσόντα· επισημαίνει την ανάγκη να διασφαλιστεί η αμοιβαία αναγνώριση των επαγγελματικών προσόντων στις δεξιότητες τεχνητής νοημοσύνης σε ολόκληρη την ΕΕ, καθώς πολλά κράτη μέλη αναβαθμίζουν τα εκπαιδευτικά προγράμματά τους με δεξιότητες που σχετίζονται με την τεχνητή νοημοσύνη ενώ ταυτόχρονα θεσπίζουν ειδικά προγράμματα σπουδών για προγραμματιστές εφαρμογών τεχνητής νοημοσύνης· τονίζει ότι είναι σημαντικό τα εν λόγω προγράμματα να συνάδουν με τον κατάλογο αξιολόγησης των δεοντολογικών κατευθυντηρίων γραμμών για μια αξιόπιστη τεχνητή νοημοσύνη, και επικροτεί την πρόταση της Επιτροπής για μετατροπή του καταλόγου αυτού σε ενδεικτικό πρόγραμμα σπουδών για προγραμματιστές εφαρμογών τεχνητής νοημοσύνης· υπογραμμίζει τη σημασία της κατάρτισης επαγγελματιών υψηλής ειδίκευσης στον εν λόγω τομέα, της ένταξης δεοντολογικών πτυχών στα προγράμματα σπουδών τους και της υποστήριξης των υποεκπροσωπούμενων ομάδων στον συγκεκριμένο τομέα, καθώς και της δημιουργίας κινήτρων ώστε οι εν λόγω επαγγελματίες να αναζητήσουν εργασία εντός της ΕΕ·

7. σημειώνει ότι σχολεία και άλλοι δημόσιοι φορείς εκπαίδευσης χρησιμοποιούν όλο και περισσότερο τις υπηρεσίες εκπαιδευτικής τεχνολογίας, συμπεριλαμβανομένων των εφαρμογών τεχνητής νοημοσύνης· εκφράζει την ανησυχία του για το γεγονός ότι οι εν λόγω τεχνολογίες παρέχονται επί του παρόντος από λίγες μόνο τεχνολογικές εταιρείες· τονίζει ότι αυτό μπορεί να οδηγήσει σε άνιση πρόσβαση στα δεδομένα και να περιορίσει τον ανταγωνισμό, μέσω της κυριαρχίας στην αγορά, καθώς και τις επιλογές των καταναλωτών· ενθαρρύνει τις δημόσιες αρχές να υιοθετήσουν μια καινοτόμο προσέγγιση όσον αφορά τις δημόσιες συμβάσεις, ώστε να διευρυνθεί το φάσμα των προσφορών προς τους φορείς παροχής δημόσιας εκπαίδευσης σε ολόκληρη την Ευρώπη· τονίζει εν προκειμένω τη σημασία της στήριξης της χρήσης τεχνητής νοημοσύνης από μικρομεσαίες επιχειρήσεις στον τομέα της εκπαίδευσης, του πολιτισμού και των οπτικοακουστικών μέσων, μέσω των κατάλληλων κινήτρων που δημιουργούν ισότιμους όρους ανταγωνισμού· ζητεί, στο πλαίσιο αυτό, να γίνουν επενδύσεις σε ευρωπαϊκές εταιρείες ΤΠ προκειμένου να αναπτυχθούν οι απαραίτητες τεχνολογίες εντός της ΕΕ· θεωρεί ότι οι τεχνολογίες που χρησιμοποιούνται από δημόσιους φορείς παροχής εκπαίδευσης ή αγοράζονται με δημόσιο χρήμα θα πρέπει να βασίζονται σε τεχνολογία ανοιχτού κώδικα, όπου αυτό είναι δυνατόν, τηρώντας πλήρως την ισχύουσα νομοθεσία, συμπεριλαμβανομένης της οδηγίας (ΕΕ) 2019/790 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 17 Απριλίου 2019, σχετικά με το δικαίωμα του δημιουργού και τα συγγενικά δικαιώματα στην ψηφιακή ενιαία αγορά·

8. ζητεί να είναι προσβάσιμα, διαλειτουργικά και υψηλής ποιότητας τα δεδομένα που χρησιμοποιούνται από τις εφαρμογές τεχνητής νοημοσύνης στον τομέα της εκπαίδευσης και να υπάρχει ανταλλαγή με τις σχετικές δημόσιες αρχές με τυποποιημένο τρόπο που συνάδει με τη νομοθεσίας για τα δικαιώματα πνευματικής ιδιοκτησίας και τα εμπορικά απόρρητα, ώστε να μπορούν να χρησιμοποιούνται τα δεδομένα, σύμφωνα με τους ευρωπαϊκούς κανόνες για την προστασία των δεδομένων και της ιδιωτικής ζωής και τα πρότυπα δεοντολογίας, δημοκρατίας και διαφάνειας, στην ανάπτυξη προγραμμάτων σπουδών και παιδαγωγικών πρακτικών (ιδίως όταν οι υπηρεσίες αυτές αγοράζονται με δημόσιο χρήμα ή προσφέρονται σε δημόσιους φορείς εκπαίδευσης δωρεάν, δεδομένου ότι η εκπαίδευση αποτελεί κοινό αγαθό)· καλεί την Επιτροπή να διασφαλίσει δίκαιη πρόσβαση σε δεδομένα για όλες τις εταιρείες, και ιδίως για μικρομεσαίες επιχειρήσεις αλλά και εταιρείες που ασχολούνται με τον πολιτισμό και τη δημιουργικότητα, οι οποίες συμβάλλουν ουσιαστικά στη διατήρηση της κοινωνικής συνοχής και της πολιτισμικής πολυμορφίας στην Ευρώπη, καθώς και στις δημοκρατικές αξίες·

9. τονίζει πόσο σημαντική είναι η ανάπτυξη κατευθυντήριων γραμμών για τις δημόσιες συμβάσεις των εν λόγω υπηρεσιών και εφαρμογών για τον δημόσιο τομέα, συμπεριλαμβανομένων των παρόχων εκπαίδευσης, προκειμένου να διασφαλιστούν οι σχετικοί εκπαιδευτικοί στόχοι, οι επιλογές των καταναλωτών, το επίπεδο και οι ισότιμοι όροι ανταγωνισμού για τους πάροχους λύσεων τεχνητής νοημοσύνης και ο σεβασμός των θεμελιωδών δικαιωμάτων· τονίζει ότι οι αγοραστές που είναι δημόσιοι φορείς πρέπει να λαμβάνουν υπόψη τους ειδικά κριτήρια που συνδέονται με τους σχετικούς εκπαιδευτικούς στόχους, όπως η απαγόρευση των διακρίσεων, τα θεμελιώδη δικαιώματα, η πολυμορφία, τα υψηλότερα πρότυπα προστασίας της ιδιωτικής ζωής και των δεδομένων, η προσβασιμότητα για τους εκπαιδευόμενους με ειδικές ανάγκες, η περιβαλλοντική βιωσιμότητα και, συγκεκριμένα, όταν αγοράζουν υπηρεσίες για τους παρόχους δημόσιας εκπαίδευσης, η συμμετοχή όλων όσων συμμετέχουν στην εκπαιδευτική διαδικασία· τονίζει την ανάγκη να ενισχυθεί η αγορά με την παροχή της δυνατότητας στις μικρομεσαίες επιχειρήσεις να συμμετέχουν στην προμήθεια εφαρμογών τεχνητής νοημοσύνης, προκειμένου να εξασφαλιστεί η συμμετοχή των εταιρειών τεχνολογίας όλων των μεγεθών στον τομέα και, ως εκ τούτου, να διασφαλιστεί η ανθεκτικότητα και ο ανταγωνισμός·

10. υπογραμμίζει την αναξιοπιστία του υφιστάμενου αυτόματου μέσου για την αφαίρεση παράνομου περιεχομένου από τις διαδικτυακές πλατφόρμες στις οποίες διανέμεται οπτικοακουστικό περιεχόμενο, καθώς μπορεί να οδηγήσει σε ακούσια αφαίρεση νόμιμου περιεχομένου· σημειώνει ότι ούτε η οδηγία για το ηλεκτρονικό εμπόριο ούτε η αναθεωρημένη οδηγία για τις υπηρεσίες οπτικοακουστικών μέσων επικοινωνίας σε πλατφόρμες ανταλλαγής βίντεο επιβάλλουν γενική υποχρέωση παρακολούθησης· υπενθυμίζει, για τον σκοπό αυτό, ότι δεν θα πρέπει να υπάρχει γενική παρακολούθηση, όπως ορίζεται στο άρθρο 15 της οδηγίας για το ηλεκτρονικό εμπόριο, και ότι η παρακολούθηση συγκεκριμένων περιεχομένων για οπτικοακουστικές υπηρεσίες θα πρέπει να πραγματοποιείται σύμφωνα με τις εξαιρέσεις που προβλέπονται από την ενωσιακή νομοθεσία· υπενθυμίζει τις βασικές απαιτήσεις για τις εφαρμογές τεχνητής νοημοσύνης, όπως η λογοδοσία, συμπεριλαμβανομένων των δομών επανεξέτασης στο πλαίσιο των επιχειρηματικών διαδικασιών, και η αναφορά των αρνητικών επιπτώσεων· τονίζει ότι η διαφάνεια θα πρέπει επίσης να περιλαμβάνει την ιχνηλασιμότητα και την εξηγησιμότητα των σχετικών συστημάτων· υπενθυμίζει ότι οι εφαρμογές τεχνητής νοημοσύνης πρέπει να συμμορφώνονται με τα πρωτόκολλα εσωτερικής και εξωτερικής ασφάλειας, τα οποία πρέπει να είναι ακριβή από τεχνική άποψη και αξιόπιστα· θεωρεί ότι αυτό θα πρέπει να επεκταθεί ώστε να ισχύει για τη λειτουργία υπό κανονικές, άγνωστες αλλά και απρόβλεπτες συνθήκες·

11. ζητεί να μπορούν να εξηγηθούν οι αλγόριθμοι σύστασης και η εξατομικευμένη εμπορική προώθηση στις οπτικοακουστικές πλατφόρμες, συμπεριλαμβανομένων των πλατφορμών βίντεο συνεχούς ροής, των πλατφορμών ειδήσεων και των πλατφορμών διάδοσης πολιτιστικού και δημιουργικού περιεχομένου, στον βαθμό που αυτό είναι τεχνικά εφικτό, προκειμένου να παρέχεται στους καταναλωτές ακριβής και ολοκληρωμένη εικόνα των εν λόγω διαδικασιών και του περιεχομένου και να διασφαλίζεται ότι οι εξατομικευμένες υπηρεσίες δεν εισάγουν διακρίσεις και συνάδουν με τον κανονισμό για τις πλατφόρμες και τις επιχειρήσεις και τη γενική οδηγία σχετικά με τη νέα συμφωνία για τους καταναλωτές που εγκρίθηκαν πρόσφατα· τονίζει την ανάγκη να διασφαλιστεί και να εφαρμοστεί σωστά το δικαίωμα των χρηστών να μην λαμβάνουν προτάσεις περιεχομένου και εξατομικευμένες υπηρεσίες· επισημαίνει εν προκειμένω ότι θα πρέπει να παρέχεται στους χρήστες μια περιγραφή που να επιτρέπει μια γενική και επαρκή κατανόηση των σχετικών λειτουργιών, ιδίως όσον αφορά τα δεδομένα που χρησιμοποιούνται, τον σκοπό του αλγόριθμου και την εξατομίκευση και τα αποτελέσματά του, σύμφωνα με τις αρχές της εξηγησιμότητας και της δικαιοσύνης· ζητεί να δημιουργηθούν μηχανισμοί που θα εξασφαλίζουν την παρακολούθηση των δικαιωμάτων των καταναλωτών σε συγκατάθεση κατόπιν ενημέρωσης και στην ελευθερία επιλογής κατά την υποβολή δεδομένων·

12. σημειώνει ότι η χρήση εφαρμογών τεχνητής νοημοσύνης κατά τον τελωνειακό έλεγχο μπορεί να συνδράμει τις προσπάθειες για την πρόληψη της παράνομης διακίνησης αντικειμένων πολιτιστικής κληρονομιάς, συγκεκριμένα λειτουργώντας συμπληρωματικά στα συστήματα που επιτρέπουν στις τελωνειακές αρχές να επικεντρώνουν τις προσπάθειές τους και τους πόρους τους στα στοιχεία που παρουσιάζουν τον μεγαλύτερο κίνδυνο·

13. υπογραμμίζει ότι οι καταναλωτές πρέπει να ενημερώνονται όταν αλληλοεπιδρούν με μια αυτοματοποιημένη διαδικασία λήψης αποφάσεων και ότι οι επιλογές και οι αντιδράσεις τους δεν πρέπει να είναι περιορισμένες· τονίζει ότι πρέπει να αντιμετωπιστεί η χρήση των μηχανισμών τεχνητής νοημοσύνης για την παρακολούθηση της «εμπορικής συμπεριφοράς» των καταναλωτών, ακόμη και αν πρόκειται για «δωρεάν υπηρεσίες», διασφαλίζοντας ότι συνάδει αυστηρά με τα θεμελιώδη δικαιώματα και τον ΓΚΠΔ· τονίζει ότι όλες οι ρυθμιστικές αλλαγές πρέπει να λαμβάνουν υπόψη τον αντίκτυπο τους στους ευάλωτους καταναλωτές·

14. επισημαίνει ότι η ανάπτυξη, η εφαρμογή και η χρήση τεχνητής νοημοσύνης πρέπει να διευκολύνουν τους καταναλωτές και τους εκπαιδευόμενους με κάποια μορφή αναπηρίας όσον αφορά την χρήση εργαλείων για την πρόσβαση σε οπτικοακουστικό περιεχόμενο·

15. υπογραμμίζει την ανάγκη αναβάθμισης των δεξιοτήτων του μελλοντικού εργατικού δυναμικού· αναγνωρίζει ότι είναι χρήσιμο να προβλεφθεί ποιες θέσεις εργασίας θα διαταραχθούν από την ψηφιακή τεχνολογία, όπως η αυτοματοποίηση, η ψηφιοποίηση και η τεχνητή νοημοσύνη·

16. επισημαίνει ότι τα συστήματα τεχνητής νοημοσύνης που αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται στην Ευρωπαϊκή Ένωση, σε οποιονδήποτε από τους τρεις τομείς που αναφέρονται στην παρούσα έκθεση, πρέπει να αντικατοπτρίζουν την πολιτιστική πολυμορφία και την πολυγλωσσία της ΕΕ.

ΠΛΗΡΟΦΟΡΙΕΣ ΓΙΑ ΤΗΝ ΕΓΚΡΙΣΗ ΣΤΗ ΓΝΩΜΟΔΟΤΙΚΗ ΕΠΙΤΡΟΠΗ

ΤΕΛΙΚΗ ΨΗΦΟΦΟΡΙΑ ΜΕ ΟΝΟΜΑΣΤΙΚΗ ΚΛΗΣΗ ΣΤΗ ΓΝΩΜΟΔΟΤΙΚΗ ΕΠΙΤΡΟΠΗ

Υπόμνημα των χρησιμοποιούμενων συμβόλων:

+ : υπέρ

- : κατά

0 : αποχή

ΓΝΩΜΟΔΟΤΗΣΗ ΤΗΣ ΕΠΙΤΡΟΠΗΣ ΝΟΜΙΚΩΝ ΘΕΜΑΤΩΝ (22.9.2020)

προς την Επιτροπή Πολιτισμού και Παιδείας

σχετικά με την τεχνητή νοημοσύνη στην εκπαίδευση, τον πολιτισμό και τον οπτικοακουστικό τομέα

(2020/2017(INI))

Συντάκτης γνωμοδότησης: Angel Dzhambazki

ΠΡΟΤΑΣΕΙΣ

Η Επιτροπή Νομικών Θεμάτων καλεί την Επιτροπή Πολιτισμού και Παιδείας, που είναι αρμόδια επί της ουσίας, να συμπεριλάβει στην πρόταση ψηφίσματός της τις ακόλουθες προτάσεις:

1. υπογραμμίζει τη στρατηγική σημασία της χρήσης της τεχνητής νοημοσύνης (ΤΝ) και των συναφών τεχνολογιών, και τονίζει ότι η ευρωπαϊκή προσέγγιση εν προκειμένω πρέπει να είναι ανθρωποκεντρική, ούτως ώστε η ΤΝ να καταστεί πραγματικά μέσο στην υπηρεσία των ανθρώπων και του κοινού συμφέροντος, συμβάλλοντας στο γενικό συμφέρον των πολιτών, μεταξύ άλλων στον οπτικοακουστικό, πολιτιστικό και εκπαιδευτικό τομέα· επισημαίνει ότι η ΤΝ μπορεί να στηρίξει τη δημιουργία περιεχομένου σε αυτούς τους τομείς· τονίζει ότι η ΤΝ μπορεί να στηρίξει τη δημιουργία περιεχομένου στους τομείς της εκπαίδευσης, του πολιτισμού και των οπτικοακουστικών μέσων, παράλληλα με τις πλατφόρμες ενημέρωσης και εκπαίδευσης, συμπεριλαμβανομένων των καταχωρίσεων διαφόρων ειδών πολιτιστικών αγαθών και πληθώρας πηγών δεδομένων· επισημαίνει τους κινδύνους παραβίασης των δικαιωμάτων διανοητικής ιδιοκτησίας (ΔΔΙ) κατά τον συνδυασμό της ΤΝ με διάφορες τεχνολογίες με πολλαπλές πηγές (έγγραφα, φωτογραφίες, ταινίες), ώστε να βελτιωθεί ο τρόπος με τον οποίο παρουσιάζονται, αποτελούν αντικείμενο έρευνας και απεικονίζονται τα εν λόγω δεδομένα· ζητεί τη χρήση της ΤΝ για τη διασφάλιση υψηλού επιπέδου προστασίας των ΔΔΙ εντός του ισχύοντος νομοθετικού πλαισίου, για παράδειγμα προειδοποιώντας ιδιώτες και επιχειρήσεις σε περίπτωση που κινδυνεύουν να παραβιάσουν ακούσια τους κανόνες ή στηρίζοντας τους δικαιούχους των ΔΔΙ σε περίπτωση πραγματικής παραβίασης των κανόνων· τονίζει, ως εκ τούτου, τη σημασία της ύπαρξης κατάλληλου ευρωπαϊκού νομικού πλαισίου για την προστασία των ΔΔΙ σε σχέση με τη χρήση της ΤΝ·

2. τονίζει ότι η συνεπής ενσωμάτωση της ΤΝ στον τομέα της εκπαίδευσης προσφέρει τη δυνατότητα να αντιμετωπιστούν ορισμένες από τις μεγαλύτερες προκλήσεις της εκπαίδευσης, να προταθούν καινοτόμες πρακτικές διδασκαλίας και μάθησης και, τέλος, να επιταχυνθεί η πρόοδος προς την επίτευξη των Στόχων Βιώσιμης Ανάπτυξης, προκειμένου να επιτευχθούν οι στόχοι του θεματολογίου για την εκπαίδευση με ορίζοντα το 2030·

3. επαναλαμβάνει τη σημασία της πρόσβασης στον πολιτισμό για κάθε πολίτη σε ολόκληρη την Ένωση· τονίζει, στο πλαίσιο αυτό, τη σημασία της ανταλλαγής βέλτιστων πρακτικών μεταξύ των κρατών μελών, των εκπαιδευτικών και πολιτιστικών ιδρυμάτων και συναφών ενδιαφερόμενων μερών· θεωρεί, επίσης, ζωτικής σημασίας τη μέγιστη δυνατή αξιοποίηση των διαθέσιμων πόρων τόσο σε επίπεδο ΕΕ όσο και σε εθνικό επίπεδο, προκειμένου να βελτιωθεί περαιτέρω η πρόσβαση στον πολιτισμό· τονίζει ότι υπάρχει πληθώρα επιλογών για την πρόσβαση στον πολιτισμό και ότι θα πρέπει να διερευνηθούν όλες προκειμένου να προσδιοριστεί η καταλληλότερη επιλογή· τονίζει τη σημασία της συνοχής με τη Συνθήκη του Μαρακές·

4. καλεί την Επιτροπή να αξιοποιήσει πλήρως τις δυνατότητες της τεχνητής νοημοσύνης (ΤΝ) με σκοπό τη βελτίωση της επικοινωνίας με τους πολίτες, μέσω πολιτιστικών και οπτικοακουστικών επιγραμμικών πλατφορμών, για παράδειγμα ενημερώνοντας τους πολίτες σχετικά με το τι συμβαίνει σε επίπεδο λήψης αποφάσεων, μειώνοντας το χάσμα μεταξύ της ΕΕ και των πολιτών και προωθώντας την κοινωνική συνοχή μεταξύ των πολιτών της ΕΕ·

5. τονίζει ότι η εκπαίδευση, ο πολιτισμός και ο οπτικοακουστικός τομέας είναι ευαίσθητοι τομείς όσον αφορά τη χρήση της ΤΝ και των συναφών τεχνολογιών, δεδομένου ότι έχουν τη δυνατότητα να επηρεάσουν τις κοινωνίες μας και τα θεμελιώδη δικαιώματα που αυτές προασπίζουν· υποστηρίζει, ως εκ τούτου, ότι θα πρέπει να τηρούνται νομικά δεσμευτικές δεοντολογικές αρχές κατά την εφαρμογή, την ανάπτυξη και τη χρήση τους·

6. επισημαίνει ότι η τεχνητή νοημοσύνη και οι συναφείς τεχνολογίες μπορούν να χρησιμοποιηθούν για την ανάπτυξη ή την εφαρμογή νέων εκπαιδευτικών μεθόδων σε τομείς όπως η εκμάθηση γλωσσών, η ακαδημαϊκή κοινότητα γενικά, η εξειδικευμένη μάθηση κ.λπ.· τονίζει τη σημασία της χρήσης των εν λόγω τεχνολογιών όχι μόνο για εκπαιδευτικούς σκοπούς, αλλά και για τον ψηφιακό γραμματισμό και την ευαισθητοποίηση των πολιτών γύρω από τα ζητήματα αυτά· τονίζει ότι είναι σημαντικό να παρέχονται σε παιδαγωγούς, εκπαιδευτές και άλλους τα κατάλληλα εργαλεία και τεχνογνωσία όσον αφορά την ΤΝ και τις συναφείς τεχνολογίες σε σχέση με το τι είναι, τον τρόπο με τον οποίο χρησιμοποιούνται και το πώς μπορούν να χρησιμοποιηθούν ως εργαλεία δεόντως και συννόμως, ώστε να αποφεύγονται οι παραβιάσεις των ΔΔΙ· τονίζει, ειδικότερα, τη σημασία του ψηφιακού γραμματισμού για όσους εργάζονται στην εκπαίδευση, καθώς και τη σημασία της βελτίωσης της ψηφιακής κατάρτισης για τους ηλικιωμένους, δεδομένου ότι οι νεότερες γενιές έχουν ήδη βασικές γνώσεις αυτών των τεχνολογιών, καθώς έχουν μεγαλώσει με αυτές·

7. τονίζει ότι η ευρωπαϊκή τεχνητή νοημοσύνη θα πρέπει να διαφυλάσσει και να προωθεί βασικές αξίες της Ένωσής μας, όπως η δημοκρατία, τα ανεξάρτητα και ελεύθερα μέσα και πηγές ενημέρωσης, η ποιοτική εκπαίδευση, η περιβαλλοντική βιωσιμότητα, η ισόρροπη εκπροσώπηση των φύλων και η πολιτιστική και γλωσσική πολυμορφία·

8. καλεί την Επιτροπή, τα κράτη μέλη και την επιχειρηματική κοινότητα να αξιοποιήσουν ενεργά και πλήρως τις δυνατότητες της ΤΝ για να παρουσιάζουν τα γεγονότα και να καταπολεμήσουν τις ψευδείς ειδήσεις, την παραπληροφόρηση, την ξενοφοβία και τον ρατσισμό στις επιγραμμικές πολιτιστικές και οπτικοακουστικές πλατφόρμες, αποφεύγοντας, ταυτόχρονα, τη λογοκρισία·

9. σημειώνει ότι η ανεξαρτησία της δημιουργικής διαδικασίας εγείρει ζητήματα που σχετίζονται με την κυριότητα των ΔΔΙ· θεωρεί, εν προκειμένω, ότι δεν θα ήταν σκόπιμο να επιδιωχθεί η απόδοση νομικής προσωπικότητας σε τεχνολογίες ΤΝ·

10. επισημαίνει ότι η ΤΝ μπορεί να διαδραματίσει σημαντικό ρόλο στην προώθηση και την προστασία της ευρωπαϊκής και εθνικής πολιτιστικής πολυμορφίας, ιδίως όταν χρησιμοποιείται από οπτικοακουστικές επιγραμμικές πλατφόρμες για την προώθηση περιεχομένου σε πελάτες·

11. επισημαίνει ότι η ΤΝ θα μπορούσε να ωφελήσει τον τομέα της έρευνας, για παράδειγμα μέσω του ρόλου που μπορεί να διαδραματίσει η προγνωστική ανάλυση στην προσαρμογή της ανάλυσης δεδομένων, μεταξύ άλλων όσον αφορά την απόκτηση και την κυκλοφορία πολιτιστικών αγαθών· τονίζει ότι η ΕΕ πρέπει να αυξήσει τις επενδύσεις και να προωθήσει τις εταιρικές σχέσεις μεταξύ της βιομηχανίας και της ακαδημαϊκής κοινότητας, προκειμένου να ενισχυθεί η ερευνητική αριστεία σε ευρωπαϊκό επίπεδο·

12. επισημαίνει τον σημαντικό ρόλο που διαδραματίζουν τα ανεξάρτητα μέσα ενημέρωσης στον πολιτισμό και την καθημερινή ζωή των πολιτών· τονίζει ότι τα μέσα ενημέρωσης που διαδίδουν ψευδείς ειδήσεις αποτελούν θεμελιώδες πρόβλημα, καθώς τα δικαιώματα πνευματικής ιδιοκτησίας και τα ΔΔΙ γενικότερα παραβιάζονται διαρκώς· καλεί την Επιτροπή, σε συνεργασία με τα κράτη μέλη, να συνεχίσει το έργο της όσον αφορά την ευαισθητοποίηση σχετικά με το πρόβλημα αυτό, την αντιμετώπιση των επιπτώσεων των μέσων ενημέρωσης που διαδίδουν ψευδείς ειδήσεις καθώς και των προβλημάτων που σχετίζονται με τις πηγές· θεωρεί, επιπλέον, ότι είναι σημαντικό να αναπτυχθούν εκπαιδευτικές στρατηγικές για τη βελτίωση του ψηφιακού γραμματισμού ειδικά σε αυτό το πλαίσιο·

13. επισημαίνει ότι το βασισμένο στην ΤΝ λογισμικό, όπως το λογισμικό αναγνώρισης εικόνων, θα μπορούσε να ενισχύσει σημαντικά την ικανότητα των εκπαιδευτικών ιδρυμάτων και των παιδαγωγών να παρέχουν και να αναπτύσσουν σύγχρονες, καινοτόμες και υψηλής ποιότητας μεθόδους σχολικής εκπαίδευσης, να βελτιώσουν τον ψηφιακό γραμματισμό και τις ηλεκτρονικές δεξιότητες ολόκληρου του πληθυσμού και να καταστήσουν την εκπαίδευση πιο προσιτή· θεωρεί, ωστόσο, ότι οι εν λόγω εκπαιδευτικές μέθοδοι θα πρέπει να αξιολογούνται ως προς την αξιοπιστία και την ακρίβειά τους και να διασφαλίζουν τη δίκαιη μεταχείριση στην εκπαίδευση, την αποφυγή διακρίσεων και την ασφάλεια των παιδιών και των ανηλίκων τόσο εντός των εκπαιδευτικών ιδρυμάτων όσο και όταν συνδέονται με αυτά εξ αποστάσεως για εκπαιδευτικούς σκοπούς· τονίζει τη σημασία της νομοθεσίας για την προστασία της ιδιωτικής ζωής και των δεδομένων προκειμένου να διασφαλίζεται η επαρκής προστασία των δεδομένων προσωπικού χαρακτήρα, ιδίως των δεδομένων των παιδιών, μέσω διαφανών και αξιόπιστων πηγών δεδομένων που σέβονται τα ΔΔΙ· θεωρεί ότι είναι ζωτικής σημασίας να ενσωματωθούν οι τεχνολογίες αυτές στα υφιστάμενα συστήματα μόνο εφόσον είναι απολύτως βέβαιο ότι θα προστατεύονται τα θεμελιώδη δικαιώματα και η ιδιωτική ζωή· τονίζει, ωστόσο, ότι το λογισμικό αναγνώρισης πρέπει να χρησιμοποιείται μόνο για εκπαιδευτικούς σκοπούς και σε καμία περίπτωση για την παρακολούθηση της πρόσβασης στα ιδρύματα· επισημαίνει, στο πλαίσιο αυτό, την εξάρτηση από εξωτερικά δεδομένα και από ορισμένους παρόχους λογισμικού που κατέχουν δεσπόζουσα θέση στην αγορά· υπενθυμίζει ότι οι τεχνολογίες που αποκτώνται με δημόσιους πόρους θα πρέπει να αναπτύσσονται ως λογισμικό ανοικτής πηγής για να είναι δυνατή η κοινή χρήση και η επαναχρησιμοποίηση των πόρων, ώστε να καθίστανται διαθέσιμοι σε ολόκληρη την ΕΕ και, ως εκ τούτου, να αυξάνονται τα οφέλη και να μειώνονται οι δημόσιες δαπάνες, με παράλληλη διασφάλιση του πλήρους σεβασμού της ισχύουσας νομοθεσίας, συμπεριλαμβανομένης της οδηγίας (ΕΕ) 2019/790 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου της 17ης Απριλίου 2019 για τα δικαιώματα πνευματικής ιδιοκτησίας και τα συγγενικά δικαιώματα στην ψηφιακή ενιαία αγορά[20]·

14. επισημαίνει ότι, προκειμένου η χρήση της ΤΝ να ωφελήσει τον τομέα της εκπαίδευσης και της έρευνας, η ΕΕ πρέπει να ενθαρρύνει την κατάρτιση στις δεξιότητες του μέλλοντος, και ιδίως μια δεοντολογική και υπεύθυνη προσέγγιση των τεχνολογιών ΤΝ· προσθέτει ότι, για τον σκοπό αυτό, η κατάρτιση αυτή δεν πρέπει να προορίζεται αποκλειστικά για τους μαθητές που επικεντρώνονται σε επιστημονικά και τεχνικά θέματα, οι οποίοι είναι ήδη πιο εξοικειωμένοι με αυτά τα εργαλεία, αλλά αντίθετα πρέπει να απευθύνεται σε όσο το δυνατόν περισσότερους ανθρώπους, ιδίως στις νεότερες γενιές·

15. τονίζει ότι η ανάγκη για επενδύσεις στην έρευνα και την καινοτομία όσον αφορά τη χρήση και την ανάπτυξη της ΤΝ και των πολιτιστικών, εκπαιδευτικών και οπτικοακουστικών εφαρμογών της αποτελεί βασικό παράγοντα στο πλαίσιο αυτό· καλεί την Επιτροπή να αναζητήσει πρόσθετη χρηματοδότηση για την προώθηση της έρευνας και της καινοτομίας όσον αφορά τις εφαρμογές ΤΝ σε αυτούς τους τομείς·

16. εκφράζει τη βαθιά του ανησυχία του για το γεγονός ότι τα σχολεία και οι άλλοι εκπαιδευτικοί φορείς εξαρτώνται ολοένα και περισσότερο από υπηρεσίες εκπαιδευτικής τεχνολογίας, συμπεριλαμβανομένων εφαρμογών ΤΝ, που παρέχονται από εταιρείες με δεσπόζουσα θέση στην αγορά, εκ των οποίων οι περισσότερες είναι εγκατεστημένες εκτός ΕΕ·

17. υπογραμμίζει την ανάγκη για διασφάλιση του ψηφιακού γραμματισμού και του γραμματισμού στον τομέα της ΤΝ σε ολόκληρη την ΕΕ, ιδίως μέσω της ανάπτυξης ευκαιριών κατάρτισης για εκπαιδευτικούς· επιμένει ότι η χρήση των τεχνολογιών ΤΝ στα σχολεία θα πρέπει να συμβάλλει στον περιορισμό του κοινωνικού και περιφερειακού ψηφιακού χάσματος·

18. τονίζει ότι η κρίση της πανδημίας COVID-19 μπορεί να θεωρηθεί δοκιμαστική περίοδος για την ανάπτυξη και τη χρήση ψηφιακών τεχνολογιών και τεχνολογιών που σχετίζονται με την ΤΝ στον εκπαιδευτικό και πολιτιστικό τομέα, όπως καταδεικνύεται από τις πολυάριθμες διαδικτυακές σχολικές πλατφόρμες και τα διαδικτυακά εργαλεία για την προώθηση του πολιτισμού που χρησιμοποιούνται σε όλα τα κράτη μέλη· καλεί, ως εκ τούτου, την Επιτροπή να προβεί σε απολογισμό των εν λόγω παραδειγμάτων κατά την εξέταση μιας κοινής προσέγγισης της ΕΕ για την αύξηση της χρήσης τέτοιων τεχνολογικών λύσεων·

19. επισημαίνει ότι η ΤΝ μπορεί να επηρεάσει πολύ σοβαρά την προστασία των δεδομένων και την ιδιωτική ζωή· τάσσεται υπέρ της συμμόρφωσης με τις αρχές που ορίζονται στον γενικό κανονισμό για την προστασία δεδομένων (ΓΚΠΔ)·

20. καλεί την Επιτροπή να λάβει αποτελεσματικότερα μέτρα για την προστασία των δεδομένων προσωπικού χαρακτήρα των μαθητών και των εκπαιδευτικών στον τομέα της εκπαίδευσης·

21. τονίζει ότι η αλληλεπίδραση της ΤΝ με τις βιομηχανίες της δημιουργίας είναι πολύπλοκη και απαιτεί διεξοδική αξιολόγηση· επικροτεί την εν εξελίξει μελέτη «Trends and Developments in Artificial Intelligence - Challenges to the IPR Framework» (Τάσεις και εξελίξεις στην τεχνητή νοημοσύνη - Προκλήσεις για το πλαίσιο ΔΔΙ) και τη μελέτη «Copyright and new technologies: copyright data management and Artificial Intelligence» (Δικαιώματα πνευματικής ιδιοκτησίας και νέες τεχνολογίες: διαχείριση δεδομένων που αφορούν τα δικαιώματα πνευματικής ιδιοκτησίας και την τεχνητή νοημοσύνη)· υπογραμμίζει ότι είναι σημαντικό να αποσαφηνιστούν οι προϋποθέσεις για τη χρήση περιεχομένου που προστατεύεται από δικαιώματα πνευματικής ιδιοκτησίας στο πλαίσιο της εισροής δεδομένων (εικόνες, μουσική, ταινίες, βάσεις δεδομένων κ.λπ.) και στην παραγωγή πολιτιστικών και οπτικοακουστικών προϊόντων, είτε αυτό δημιουργείται από ανθρώπους, είτε με τη βοήθεια ΤΝ είτε παράγεται αποκλειστικά μέσω τεχνολογιών ΤΝ· καλεί την Επιτροπή να μελετήσει τον αντίκτυπο της ΤΝ στους ευρωπαϊκούς δημιουργικούς κλάδους· επαναλαμβάνει τη σημασία των ευρωπαϊκών δεδομένων και επικροτεί τις δηλώσεις της Επιτροπής στο πλαίσιο αυτό, καθώς και την τοποθέτηση της τεχνητής νοημοσύνης και των συναφών τεχνολογιών μεταξύ των προτεραιοτήτων στο πρόγραμμα εργασιών της·

22. τονίζει τον ρόλο της προσωπικότητας του δημιουργού στην έκφραση ελεύθερων και δημιουργικών επιλογών στην οποία συνίσταται η πρωτοτυπία των έργων[21]· υπογραμμίζει τη σημασία των περιορισμών και των εξαιρέσεων στα δικαιώματα πνευματικής ιδιοκτησίας κατά τη χρήση περιεχομένου στο πλαίσιο της εισροής δεδομένων, ιδίως στην εκπαίδευση, την ακαδημαϊκή κοινότητα και την έρευνα, καθώς και στην παραγωγή πολιτιστικών και οπτικοακουστικών προϊόντων, συμπεριλαμβανομένου του περιεχομένου που παράγεται από τους χρήστες·

23. τονίζει ότι η αλληλεπίδραση της ΤΝ με τις βιομηχανίες της δημιουργίας είναι πολύπλοκη και απαιτεί διεξοδική αξιολόγηση· θεωρεί ότι η θα πρέπει να εξεταστεί η προστασία των τεχνικών και καλλιτεχνικών δημιουργημάτων που παράγονται μέσω ΤΝ, προκειμένου να ενθαρρυνθεί αυτή η μορφή δημιουργικότητας·

24. τονίζει ότι, στο πλαίσιο της οικονομίας των δεδομένων, είναι εφικτή η καλύτερη διαχείριση των δεδομένων πνευματικής ιδιοκτησίας, με σκοπό την καλύτερη αμοιβή των δημιουργών και των ερμηνευτών, ιδίως καθιστώντας δυνατή την ταχεία ταυτοποίηση της πατρότητας και της κυριότητας του περιεχομένου, συμβάλλοντας έτσι στη μείωση του αριθμού των ορφανών έργων· επισημαίνει περαιτέρω ότι οι τεχνολογικές λύσεις ΤΝ θα πρέπει να χρησιμοποιούνται για τη βελτίωση της υποδομής για δεδομένα πνευματικής ιδιοκτησίας και της διασύνδεσης μεταδεδομένων σε έργα, αλλά και για τη διευκόλυνση της υποχρέωσης διαφάνειας που προβλέπεται στο άρθρο 19 της οδηγίας για τα δικαιώματα πνευματικής ιδιοκτησίας και τα συγγενικά δικαιώματα στην ψηφιακή ενιαία αγορά για επικαιροποιημένες, συναφείς και ολοκληρωμένες πληροφορίες σχετικά με την εκμετάλλευση των έργων και των ερμηνειών των δημιουργών και των ερμηνευτών, ιδίως σε περίπτωση ύπαρξης πολλών δικαιούχων και πολύπλοκων συστημάτων αδειοδότησης·

25. τονίζει ότι είναι ανάγκη να καταβληθούν προσπάθειες για τον πλέον αποτελεσματικό τρόπο μείωσης της μεροληψίας στα συστήματα ΤΝ, σύμφωνα με τα δεοντολογικά πρότυπα και τα πρότυπα κατά των διακρίσεων· υπογραμμίζει ότι τα σύνολα δεδομένων που χρησιμοποιούνται για την εκπαίδευση της ΤΝ θα πρέπει να είναι όσο το δυνατόν ευρύτερα προκειμένου να εκπροσωπούν την κοινωνία με τον καλύτερο δυνατό τρόπο, ότι τα αποτελέσματα θα πρέπει να επανεξετάζονται ώστε να αποφεύγονται όλες οι μορφές στερεοτύπων, διακρίσεων και προκαταλήψεων και, ότι, κατά περίπτωση, η ΤΝ θα πρέπει να αξιοποιείται για τον εντοπισμό και τη διόρθωση των ανθρώπινων προκαταλήψεων, όπου αυτές θα μπορούσαν να υφίστανται· καλεί την Επιτροπή να ενθαρρύνει και να διευκολύνει την ανταλλαγή στρατηγικών για την εξάλειψη των προκαταλήψεων όσον αφορά τα δεδομένα·

26. ζητεί από την Επιτροπή να αξιολογήσει τον αντίκτυπο των ΤΝ και των τεχνολογιών που σχετίζονται με την ΤΝ στον οπτικοακουστικό τομέα και στον τομέα της δημιουργίας, ιδίως όσον αφορά την ταυτότητα του δημιουργού και συναφή ζητήματα·

27. ζητεί το σχέδιο δράσης για τη διανοητική ιδιοκτησία που ανακοινώθηκε από την Επιτροπή να εξετάσει το ζήτημα της ΤΝ και τον αντίκτυπό της στους δημιουργικούς τομείς, λαμβάνοντας υπόψη την ανάγκη να επιτευχθεί ισορροπία μεταξύ της προστασίας των ΔΔΙ και της ενθάρρυνσης της δημιουργικότητας στους τομείς της εκπαίδευσης, του πολιτισμού και της έρευνας· θεωρεί ότι η ΕΕ μπορεί να πρωτοστατήσει στη δημιουργία τεχνολογιών ΤΝ εάν υιοθετήσει λειτουργικό κανονιστικό πλαίσιο και εφαρμόσει προορατικές δημόσιες πολιτικές, ιδίως όσον αφορά τα προγράμματα κατάρτισης και τη χρηματοδοτική στήριξη της έρευνας· ζητεί από την Επιτροπή να αξιολογήσει τον αντίκτυπο των ΔΔΙ στην έρευνα και την ανάπτυξη των ΤΝ και συναφών τεχνολογιών, καθώς και στον οπτικοακουστικό τομέα και στον τομέα της δημιουργίας, ιδίως όσον αφορά την ταυτότητα του δημιουργού, τη δίκαιη αμοιβή των δημιουργών και συναφή ζητήματα·

28. τονίζει τον μελλοντικό ρόλο που θα πρέπει να διαδραματίσει η συμπερίληψη τεχνολογικών εργαλείων που βασίζονται στην ΤΝ στο πλαίσιο της διατήρησης, της δημοσιοποίησης και του ελέγχου της πολιτιστικής κληρονομιάς, καθώς και σε συναφή ερευνητικά έργα·

29. τονίζει την ανάγκη να επιτευχθεί ισορροπία μεταξύ, αφενός, της ανάπτυξης συστημάτων ΤΝ και της χρήσης τους στον εκπαιδευτικό, πολιτιστικό και οπτικοακουστικό τομέα και, αφετέρου, των μέτρων για τη διασφάλιση του ανταγωνισμού και της ανταγωνιστικότητας της αγοράς για τις εταιρείες ΤΝ στους εν λόγω τομείς· τονίζει, στο πλαίσιο αυτό, την ανάγκη να ενθαρρυνθούν οι εταιρείες να επενδύσουν στην καινοτομία των συστημάτων ΤΝ που χρησιμοποιούνται σε αυτούς τους τομείς, διασφαλίζοντας παράλληλα ότι όσοι παρέχουν τέτοιες εφαρμογές δεν θα αποκτήσουν μονοπώλιο στην αγορά·

30. τονίζει ότι σε καμία περίπτωση η χρήση της ΤΝ και των συναφών τεχνολογιών δεν θα μπορούσε να γίνει πραγματικότητα χωρίς ανθρώπινη εποπτεία· επαναλαμβάνει τη σημασία των θεμελιωδών δικαιωμάτων και της καθολικής υπεροχής της νομοθεσίας για την προστασία των δεδομένων και της ιδιωτικής ζωής, η οποία είναι επιτακτική κατά την αντιμετώπιση των εν λόγω τεχνολογιών·

31. ζητεί από την Επιτροπή να αξιολογήσει τον αντίκτυπο της ΤΝ και των συναφών τεχνολογιών στη δημιουργία νέων οπτικοακουστικών έργων, όπως τα deep fake, και να προσδιορίσει τις κατάλληλες νομικές συνέπειες σε περίπτωση δημιουργίας, παραγωγής ή διανομής τους για κακόβουλους σκοπούς·

32. επισημαίνει ότι η αυτοματοποίηση και η ανάπτυξη της ΤΝ θα μπορούσαν να αποτελέσουν απειλή για την απασχόληση, και τονίζει για άλλη μια φορά ότι πρέπει να δοθεί προτεραιότητα στη διασφάλιση των θέσεων εργασίας, ιδίως στους τομείς της εκπαίδευσης, του πολιτισμού και της δημιουργίας·

33. καλεί την Επιτροπή να δρομολογήσει εκπαιδευτικό σχέδιο σε επίπεδο ΕΕ σχετικά με τον ψηφιακό γραμματισμό και τον γραμματισμό σε θέματα ΤΝ, σε συντονισμό με τα κράτη μέλη, με ιδιαίτερη έμφαση στους μαθητές και τους νέους·

34. καλεί την Επιτροπή να εξετάσει τις νομικές πτυχές των προϊόντων που παράγονται με τη χρήση τεχνολογιών ΤΝ, καθώς και του πολιτιστικού περιεχομένου που παράγεται με τη χρήση της ΤΝ και των συναφών τεχνολογιών· θεωρεί σημαντικό να υποστηριχθεί η παραγωγή πολιτιστικού περιεχομένου· επαναλαμβάνει, ωστόσο, ότι είναι σημαντικό να διασφαλιστεί το μοναδικό πλαίσιο της Ένωσης για τα ΔΔΙ και ότι τυχόν αλλαγές θα πρέπει να πραγματοποιούνται με τη δέουσα προσοχή, προκειμένου να μην διαταραχθεί η ευαίσθητη ισορροπία· καλεί την Επιτροπή να εκπονήσει διεξοδική αξιολόγηση όσον αφορά την πιθανότητα να αποδοθεί νομική προσωπικότητα σε περιεχόμενο που παράγεται από ΤΝ, καθώς και όσον αφορά την εφαρμογή των ΔΔΙ σε περιεχόμενο που παράγεται από ΤΝ και σε περιεχόμενο που δημιουργείται με τη χρήση εργαλείων ΤΝ·

35. καλεί την Επιτροπή να θεσπίσει απαιτήσεις για την ανάθεση συμβάσεων και την ανάπτυξη τεχνητής νοημοσύνης και συναφών τεχνολογιών από φορείς του δημόσιου τομέα της ΕΕ, προκειμένου να διασφαλιστεί η συμμόρφωση με το δίκαιο της Ένωσης και τα θεμελιώδη δικαιώματα· επισημαίνει την προστιθέμενη αξία μέσων όπως οι δημόσιες διαβουλεύσεις και οι εκτιμήσεις επιπτώσεων, που πρέπει να διενεργούνται πριν από την ανάθεση σύμβασης ή την ανάπτυξη συστημάτων τεχνητής νοημοσύνης, όπως συνιστάται στην έκθεση του Ειδικού Εισηγητή προς τη Γενική Συνέλευση των Ηνωμένων Εθνών για την ΤΝ και τον αντίκτυπό της στην ελευθερία της γνώμης και της έκφρασης[22]·

36. καλεί την Επιτροπή να θεσπίσει κανόνες που θα εγγυώνται την αποτελεσματική διαλειτουργικότητα των δεδομένων, προκειμένου το περιεχόμενο που αγοράζεται σε μια πλατφόρμα να είναι προσβάσιμο μέσω οποιουδήποτε ψηφιακού εργαλείου ανεξαρτήτως εμπορικού σήματος·

37. τονίζει ότι οι προκλήσεις που προκύπτουν από τη χρήση της τεχνητής νοημοσύνης και των συναφών τεχνολογιών μπορούν να αντιμετωπιστούν μόνο με τη θέσπιση υποχρεώσεων για την ποιότητα των δεδομένων και απαιτήσεων διαφάνειας και εποπτείας, προκειμένου να δοθεί η δυνατότητα στο κοινό και τις αρχές να αξιολογούν τη συμμόρφωση με το δίκαιο της Ένωσης και τα θεμελιώδη δικαιώματα· αναμένει τις προτάσεις της Επιτροπής σε συνέχεια της ανακοίνωσής της σχετικά με μια ευρωπαϊκή στρατηγική για τα δεδομένα[23] όσον αφορά την κοινή χρήση και τη συγκέντρωση συνόλων δεδομένων·

38. καλεί την Επιτροπή, επιπλέον, να εξετάσει το ενδεχόμενο ανάπτυξης, σε πολύ στενή συνεργασία με τα κράτη μέλη και τα ενδιαφερόμενα μέρη, μηχανισμών ή συστημάτων επαλήθευσης για εκδότες, συγγραφείς, δημιουργούς κ.λπ., προκειμένου να τους βοηθήσει να επαληθεύουν το περιεχόμενο που μπορούν να χρησιμοποιήσουν και να προσδιορίζουν ευκολότερα τι προστατεύεται βάσει της νομοθεσίας για τα ΔΔΙ.

ΠΛΗΡΟΦΟΡΙΕΣ ΣΧΕΤΙΚΑ ΜΕ ΤΗΝ ΕΓΚΡΙΣΗ
ΣΤΗ ΓΝΩΜΟΔΟΤΙΚΗ ΕΠΙΤΡΟΠΗ

ΤΕΛΙΚΗ ΨΗΦΟΦΟΡΙΑ ΜΕ ΟΝΟΜΑΣΤΙΚΗ ΚΛΗΣΗ ΣΤΗ ΓΝΩΜΟΔΟΤΙΚΗ ΕΠΙΤΡΟΠΗ

Υπόμνημα των χρησιμοποιούμενων συμβόλων:

+ : υπέρ

- : κατά

0 : αποχή

ΓΝΩΜΟΔΟΤΗΣΗ ΤΗΣ ΕΠΙΤΡΟΠΗΣ ΔΙΚΑΙΩΜΑΤΩΝ ΤΩΝ ΓΥΝΑΙΚΩΝ ΚΑΙ ΙΣΟΤΗΤΑΣ ΤΩΝ ΦΥΛΩΝ (14.9.2020)

προς την Επιτροπή Πολιτισμού και Παιδείας

σχετικά με την τεχνητή νοημοσύνη στην εκπαίδευση, τον πολιτισμό και τον οπτικοακουστικό τομέα

(2020/2017(INI))

Συντάκτρια γνωμοδότησης: Maria da Graça Carvalho

ΠΡΟΤΑΣΕΙΣ

Η Επιτροπή Δικαιωμάτων των Γυναικών και Ισότητας των Φύλων καλεί την Επιτροπή Πολιτισμού και Παιδείας, που είναι αρμόδια επί της ουσίας, να συμπεριλάβει στην πρόταση ψηφίσματός της τις ακόλουθες προτάσεις:

A. λαμβάνοντας υπόψη ότι η ισότητα των φύλων συνιστά θεμελιώδη αρχή της Ευρωπαϊκής Ένωσης, που κατοχυρώνεται στις Συνθήκες, και πρέπει να περιλαμβάνεται σε όλες τις πολιτικές της, μεταξύ άλλων στον τομέα της εκπαίδευσης, του πολιτισμού και τον οπτικοακουστικό τομέα, καθώς και στην ανάπτυξη τεχνολογιών όπως η Τεχνητή Νοημοσύνη (ΤΝ), που αποτελούν βασικό δίαυλο για την αλλαγή νοοτροπίας και την αμφισβήτηση στερεοτύπων για τα φύλα στην κοινωνία· λαμβάνοντας υπόψη ότι η ανάπτυξη της ψηφιοποίησης και τεχνολογιών όπως η τεχνητή νοημοσύνη μεταμορφώνουν ριζικά την πραγματικότητα μας και η ρύθμισή τους σήμερα θα επηρεάσει σε μεγάλο βαθμό τις κοινωνίες μας στο μέλλον· λαμβάνοντας υπόψη ότι, για την ανάπτυξη και τη χρήση της ΤΝ, είναι αναγκαίο να υποστηριχθεί μια ανθρωποκεντρική προσέγγιση άρρηκτα συνδεδεμένη με τα ανθρώπινα δικαιώματα και τη δεοντολογία·

B. λαμβάνοντας υπόψη ότι το άρθρο 21 του Χάρτη των Θεμελιωδών Δικαιωμάτων της ΕΕ απαγορεύει τις διακρίσεις για ένα ευρύ φάσμα λόγων και θα πρέπει να αποτελεί κατευθυντήρια αρχή· λαμβάνοντας υπόψη ότι οι πολλαπλές μορφές διακρίσεων δεν θα πρέπει να αναπαράγονται στον σχεδιασμό, τη συμβολή, την ανάπτυξη και τη χρήση συστημάτων ΤΝ που βασίζονται σε αλγόριθμους μεροληπτικούς ως προς το φύλο, ή στα κοινωνικά πλαίσια στα οποία χρησιμοποιούνται τέτοιοι αλγόριθμοι·

Γ. λαμβάνοντας υπόψη ότι οι εμπειρίες του παρελθόντος, ιδίως σε τεχνικούς τομείς, έχουν καταδείξει ότι οι εξελίξεις και οι καινοτομίες συχνά βασίζονται κυρίως σε ανδρικά δεδομένα και ότι οι ανάγκες των γυναικών δεν αντικατοπτρίζονται πλήρως· λαμβάνοντας υπόψη ότι η αντιμετώπιση αυτών των προκαταλήψεων απαιτεί αυξημένη επαγρύπνηση, τεχνικές λύσεις και την ανάπτυξη σαφών απαιτήσεων δικαιοσύνης, λογοδοσίας και διαφάνειας·

Δ. λαμβάνοντας υπόψη ότι τα ελλιπή και ανακριβή σύνολα δεδομένων, η έλλειψη δεδομένων κατά φύλο και εσφαλμένων αλγορίθμων μπορεί να στρεβλώσει την επεξεργασία ενός συστήματος ΤΝ και να θέσει σε κίνδυνο την επίτευξη της ισότητας των φύλων στην κοινωνία · λαμβάνοντας υπόψη ότι τα δεδομένα που αφορούν τις μειονεκτούσες ομάδες και τις διατομεακές μορφές διακρίσεων είναι συνήθως ελλιπή ή ακόμα και ανύπαρκτα·

E. λαμβάνοντας υπόψη επίσης ότι οι ανισότητες μεταξύ των φύλων, τα στερεότυπα και οι διακρίσεις μπορούν να δημιουργούνται και να αναπαράγονται και μέσω της γλώσσας και των εικόνων που διαδίδονται από τα μέσα ενημέρωσης και τις εφαρμογές που λειτουργούν με τεχνητή νοημοσύνη· λαμβάνοντας υπόψη ότι η εκπαίδευση, τα πολιτιστικά προγράμματα και το οπτικοακουστικό περιεχόμενο επηρεάζουν σημαντικά τη διαμόρφωση των πεποιθήσεων και των αξιών των ανθρώπων και αποτελούν θεμελιώδες εργαλείο για την καταπολέμηση των στερεοτύπων που αφορούν το φύλο, τη μείωση του ψηφιακού χάσματος μεταξύ των φύλων και τη δημιουργία ισχυρών προτύπων ρόλων· λαμβάνοντας υπόψη ότι πρέπει να θεσπιστεί ένα δεοντολογικό και ρυθμιστικό πλαίσιο πριν από την εφαρμογή αυτοματοποιημένων λύσεων για αυτούς τους βασικούς τομείς της κοινωνίας ·

ΣΤ. λαμβάνοντας υπόψη ότι η επιστήμη και η καινοτομία μπορούν να αποφέρουν οφέλη που έχουν τη δύναμη να αλλάξουν τη ζωή ιδίως όσων υστερούν περισσότερο, όπως οι γυναίκες και τα κορίτσια που ζουν σε απομακρυσμένες περιοχές· λαμβάνοντας υπόψη ότι η επιστημονική εκπαίδευση είναι σημαντική για την απόκτηση δεξιοτήτων, για μια αξιοπρεπή εργασία, για τις θέσεις απασχόλησης του μέλλοντος, καθώς και για την κατάργηση των στερεοτύπων βάσει των οποίων οι τομείς αυτοί θεωρούνται στερεοτυπικά ανδρικοί· λαμβάνοντας υπόψη ότι η επιστήμη και η επιστημονική σκέψη είναι καθοριστικής σημασίας για τη δημοκρατική παιδεία, η οποία με τη σειρά της έχει θεμελιώδη σημασία για την προώθηση της ισότητας των φύλων·

Ζ. λαμβάνοντας υπόψη ότι οι γυναίκες υποεκπροσωπούνται σημαντικά στους τομείς της τεχνητής νοημοσύνης, είτε ως δημιουργοί, προγραμματιστές, είτε ως καταναλωτές· λαμβάνοντας υπόψη ότι το πλήρες δυναμικό των δεξιοτήτων, των γνώσεων και των προσόντων των γυναικών στους τομείς της ψηφιακής τεχνολογίας και της τεχνητής νοημοσύνης, καθώς και της πληροφόρησης, της επικοινωνίας και της τεχνολογίας (ΤΠΕ) σε συνδυασμό με την ανανέωση των δεξιοτήτων, μπορεί να συμβάλλει στην ενίσχυση της ευρωπαϊκής οικονομίας· σημειώνει ότι παγκοσμίως το 22 % των επαγγελματιών που εργάζονται στον τομέα της τεχνητής νοημοσύνης είναι γυναίκες· λαμβάνοντας υπόψη ότι η έλλειψη γυναικών στην ανάπτυξη της τεχνητής νοημοσύνης αυξάνει τον κίνδυνο μεροληψιών, αλλά και στερεί την ΕΕ από ποικιλομορφία, ταλέντο, όραμα και πόρους και, συνεπώς, αποτελεί εμπόδιο για την καινοτομία· λαμβάνοντας υπόψη ότι η πολυμορφία των φύλων ενισχύει την αλληλεπίδραση στις ομάδες και τις επιδόσεις των ομάδων, και ευνοεί τις δυνατότητες για καινοτομία στους δημόσιους και ιδιωτικούς τομείς·

H. λαμβάνοντας υπόψη ότι στην ΕΕ μία γυναίκα στις δέκα έχει ήδη υποστεί κάποια μορφή βίας στον κυβερνοχώρο από την ηλικία των 15 ετών και ότι η παρενόχληση στον κυβερνοχώρο εξακολουθεί να αποτελεί πηγή ανησυχίας για την ανάπτυξη της ΤΝ, μεταξύ άλλων και στην εκπαίδευση· λαμβάνοντας υπόψη ότι η κυβερνοβία έχει συχνά ως στόχο τις γυναίκες στον δημόσιο βίο, όπως οι ακτιβίστριες, οι γυναίκες πολιτικοί και άλλα δημόσια πρόσωπα· λαμβάνοντας υπόψη ότι η ΤΝ και άλλες αναδυόμενες τεχνολογίες μπορούν να διαδραματίσουν σημαντικό ρόλο όσον αφορά την πρόληψη της κυβερνοβίας κατά των γυναικών και των κοριτσιών, καθώς και στην εκπαίδευση των πολιτών·

Θ. λαμβάνοντας υπόψη ότι η ΕΕ αντιμετωπίζει μια άνευ προηγουμένου έλλειψη γυναικών στην επαγγελματική σταδιοδρομία και στην εκπαίδευση στους τομείς των θετικών επιστημών, της τεχνολογίας, της μηχανικής και των μαθηματικών (STEM), δεδομένου ότι, ενώ οι γυναίκες αντιπροσωπεύουν το 52 % του ευρωπαϊκού πληθυσμού, αντιπροσωπεύουν μόλις έναν στους τρεις πτυχιούχους θετικών επιστημών, τεχνολογίας, μηχανικής και μαθηματικών (STEM)·

Ι. λαμβάνοντας υπόψη ότι παρά τη θετική τάση που παρατηρείται όσον αφορά τη συμμετοχή και το ενδιαφέρον των γυναικών στην εκπαίδευση στους τομείς STEM, τα ποσοστά παραμένουν σε ανεπαρκές επίπεδο, ιδίως αν ληφθεί υπόψη η σημασία της επαγγελματικής σταδιοδρομίας σε τομείς STEM σε έναν ολοένα και περισσότερο ψηφιοποιημένο κόσμο·

1. θεωρεί ότι η ΤΝ προσφέρει μεγάλες δυνατότητες για προαγωγή της ισότητας των φύλων, υπό την προϋπόθεση της εξάλειψης των ήδη υφιστάμενων συνειδητών και υποσυνείδητων μεροληψιών· τονίζει την ανάγκη για περαιτέρω ρυθμιστικές προσπάθειες προκειμένου να διασφαλιστεί ότι η ΤΝ σέβεται τις αρχές και τις αξίες της ισότητας των φύλων και της απαγόρευσης των διακρίσεων, όπως κατοχυρώνονται στο άρθρο 21 του Χάρτη των Θεμελιωδών Δικαιωμάτων· τονίζει, επιπλέον, τη σημασία της ευθύνης, της διαφοροποιημένης και διαφανούς προσέγγισης βάσει κινδύνου και της συνεχούς παρακολούθησης των υφιστάμενων και των καινούργιων αλγορίθμων και των αποτελεσμάτων τους·

2. τονίζει την ανάγκη να είναι ενήμερες οι επιχειρήσεις των μέσων ενημέρωσης σχετικά με τις κύριες παραμέτρους των συστημάτων τεχνητής νοημοσύνης που βασίζονται σε αλγόριθμους που καθορίζουν τα αποτελέσματα κατάταξης και αναζήτησης σε πλατφόρμες τρίτων, και οι χρήστες να ενημερώνονται σχετικά με τη χρήση της ΤΝ στις υπηρεσίες λήψης αποφάσεων και να έχουν την δυνατότητα να καθορίζουν τις παραμέτρους τους για την προστασία της ιδιωτικής ζωής μέσω διαφανών και κατανοητών μέτρων·

3. υπενθυμίζει ότι οι αλγόριθμοι και η ΤΝ θα πρέπει να «συμμορφώνονται με τους δεοντολογικούς κανόνες ήδη από το στάδιο του σχεδιασμού», χωρίς εγγενείς προκαταλήψεις κατά τρόπο που να διασφαλίζει τη μέγιστη προστασία των θεμελιωδών δικαιωμάτων

4. ζητεί να εφαρμοστούν πολιτικές που στοχεύουν στην αύξηση της συμμετοχής των γυναικών στους τομείς STEM, ΤΝ , έρευνας και καινοτομίας, και ζητεί την υιοθέτηση μιας πολυεπίπεδης προσέγγισης για την αντιμετώπιση του χάσματος των φύλων σε όλες τις βαθμίδες εκπαίδευσης, με ιδιαίτερη έμφαση στην πρωτοβάθμια εκπαίδευση, και καθώς και στην απασχόληση στον ψηφιακό τομέα, υπογραμμίζοντας τη σημασία της αναβάθμισης των δεξιοτήτων και της επανειδίκευσης ·

5. αναγνωρίζει ότι τα έμφυλα στερεότυπα, η πολιτιστική αποθάρρυνση και η έλλειψη ενημέρωσης και προαγωγής γυναικείων προτύπων παρεμποδίζουν και επηρεάζουν αρνητικά τις ευκαιρίες των κοριτσιών και των γυναικών στους τομείς των ΤΠΕ, STEM και TN, και οδηγούν στην εισαγωγή διακρίσεων και σε λιγότερες ευκαιρίες για τις γυναίκες στην αγορά εργασίας· τονίζει ότι είναι σημαντικό να αυξηθεί ο αριθμός των γυναικών σε αυτούς τους τομείς, γεγονός που θα συμβάλει στη συμμετοχή και την οικονομική χειραφέτηση των γυναικών, καθώς και στη μείωση των κινδύνων που συνδέονται με τη δημιουργία των λεγόμενων «μεροληπτικών αλγορίθμων»·

6. ενθαρρύνει την Επιτροπή και τα κράτη μέλη να αγοράσουν εκπαιδευτικές, πολιτιστικές και οπτικοακουστικές υπηρεσίες από παρόχους που εφαρμόζουν την ισόρροπη εκπροσώπηση των φύλων στον χώρο εργασίας τους, να προωθήσουν πολιτικές και κατευθυντήριες γραμμές για τις δημόσιες συμβάσεις που ενθαρρύνουν τις εταιρείες να προσλαμβάνουν περισσότερες γυναίκες για θέσεις εργασίας στους τομείς STEM , και να διευκολύνουν τη διανομή κονδυλίων σε εταιρείες του εκπαιδευτικού, πολιτιστικού και οπτικοακουστικού τομέα που λαμβάνουν υπόψη τα κριτήρια ισόρροπης εκπροσώπησης των φύλων·

7. υπογραμμίζει τη διατομεακή φύση των έμφυλων διακρίσεων, οι οποίες βασίζονται σε συνειδητές και υποσυνείδητες προκαταλήψεις λόγω φύλου, και γίνονται φανερές στον τομέα της εκπαίδευσης, της απεικόνισης των γυναικών στα μέσα ενημέρωσης και στη διαφήμιση, τόσο επί της οθόνης όσο και εκτός οθόνης, και την ευθύνη του δημόσιου και του ιδιωτικού τομέα για την προορατική πρόσληψη, την ανάπτυξη και τη διατήρηση γυναικείων ταλέντων και για την καλλιέργεια μιας συμμετοχικής επιχειρηματικής νοοτροπίας·

8. καλεί την Επιτροπή και τα κράτη μέλη να λάβουν υπόψη τους τις δεοντολογικές πτυχές, και ως προς τη διάσταση του φύλου, κατά την ανάπτυξη πολιτικής και νομοθεσίας σχετικά με την ΤΝ και, εφόσον είναι απαραίτητο, να προσαρμόσουν την ισχύουσα νομοθεσία, συμπεριλαμβανομένων των προγραμμάτων της ΕΕ, καθώς και δεοντολογικές κατευθυντήριες γραμμές προς χρήση της ΤΝ·

9. ενθαρρύνει τα κράτη μέλη να θεσπίσουν στρατηγική για την προώθηση της συμμετοχής των γυναικών στις σπουδές και στην επαγγελματική σταδιοδρομία στους τομείς STEΜ, ΤΠΕ και ΤΝ, στο πλαίσιο των υφιστάμενων συναφών εθνικών στρατηγικών, για να επιτευχθεί η ισότητα των φύλων, με καθορισμό στόχου για τη συμμετοχή γυναικών ερευνητών σε προγράμματα STEM και AI · προτρέπει την Επιτροπή να αντιμετωπίσει το χάσμα των φύλων στην επαγγελματική σταδιοδρομία και στην εκπαίδευση στους τομείς STEΜ, ΤΠΕ και ΤΝ, και να θέσει το ζήτημα αυτό ως προτεραιότητα στη δέσμη μέτρων σχετικά με τις ψηφιακές δεξιότητες, με στόχο την προώθηση της παρουσίας των γυναικών σε όλα τα επίπεδα εκπαίδευσης, καθώς και στην αναβάθμιση δεξιοτήτων και την απόκτηση νέων δεξιοτήτων του εργατικού δυναμικού·

10. αναγνωρίζει ότι οι παραγωγοί λύσεων ΤΝ πρέπει να καταβάλουν μεγαλύτερη προσπάθεια για να δοκιμάσουν τα προϊόντα διεξοδικά, προκειμένου να προβλέψουν πιθανά σφάλματα που επηρεάζουν ευάλωτες ομάδες· ζητεί να ενταθούν οι προσπάθειες για ένα εργαλείο που θα διδάσκει τους αλγόριθμους να αναγνωρίζουν την ενοχλητική ανθρώπινη συμπεριφορά, το οποίο θα εντοπίζει εκείνα τα στοιχεία που συμβάλλουν συχνότερα σε μηχανισμούς διακρίσεων στις αυτοματοποιημένες διαδικασίες λήψης αποφάσεων αλγορίθμων·

11. υπογραμμίζει ότι είναι σημαντικό να διασφαλιστεί ότι τα συμφέροντα των γυναικών που βιώνουν διάφορες μορφές διακρίσεων και ανήκουν σε περιθωριοποιημένες και ευάλωτες ομάδες θα λαμβάνονται δεόντως υπόψη και θα εκπροσωπούνται σε οποιοδήποτε μελλοντικό κανονιστικό πλαίσιο· σημειώνει με ανησυχία ότι οι περιθωριοποιημένες ομάδες διατρέχουν τον κίνδυνο να έρθουν αντιμέτωπες με νέα τεχνολογικά, οικονομικά και κοινωνικά χάσματα με την ανάπτυξη της ΤΝ·

12. ζητεί συγκεκριμένα μέτρα και νομοθεσία για την καταπολέμηση της βίας στον κυβερνοχώρο’ τονίζει ότι η Επιτροπή και τα κράτη μέλη θα πρέπει να παρέχουν κατάλληλη χρηματοδότηση για την ανάπτυξη λύσεων ΤΝ που συμβάλλουν στην πρόληψη και την καταπολέμηση της κυβερνοβίας, και της διαδικτυακή σεξουαλική παρενόχληση και εκμετάλλευσης των γυναικών και των κοριτσιών, καθώς και στην εκπαίδευση των νέων· ζητεί την ανάπτυξη και εφαρμογή αποτελεσματικών μέτρων για την αντιμετώπιση παλαιών και νέων μορφών διαδικτυακής παρενόχλησης για τα θύματα στον χώρο εργασίας·

13. σημειώνει ότι, για τον σκοπό της ανάλυσης του αντίκτυπου των αλγοριθμικών συστημάτων στους πολίτες, θα πρέπει να έχουν πρόσβαση στα δεδομένα και κατάλληλοι φορείς, ιδίως ανεξάρτητοι ερευνητές, μέσα ενημέρωσης και οργανώσεις της κοινωνίας των πολιτών, σε πλήρη συμμόρφωση με τη νομοθεσία της Ένωσης για την προστασία των δεδομένων και της ιδιωτικότητας· επισημαίνει ότι οι χρήστες πρέπει πάντα να ενημερώνονται όταν έχει χρησιμοποιηθεί ένας αλγόριθμος για τη λήψη απόφασης σχετικά με αυτούς, ιδίως όταν η απόφαση σχετίζεται με την πρόσβαση σε επιδόματα ή σε ένα προϊόν·

14. καλεί την Επιτροπή και τα κράτη μέλη να σχεδιάσουν μέτρα που θα ενσωματώνουν πλήρως τη διάσταση του φύλου, όπως εκστρατείες ευαισθητοποίησης, κατάρτιση και προγράμματα σπουδών, τα οποία θα πρέπει να παρέχουν πληροφορίες στους πολίτες σχετικά με τον τρόπο λειτουργίας των αλγορίθμων και τον αντίκτυπό τους στην καθημερινή ζωή τους· επιπλέον, τους καλεί να καλλιεργήσουν νοοτροπίες ισότητας των φύλων και συνθήκες εργασίας που οδηγούν στην ανάπτυξη τεχνολογικών προϊόντων και εργασιακού περιβάλλοντος με λιγότερους αποκλεισμούς · προτρέπει την Επιτροπή και τα κράτη μέλη να συμπεριλάβουν στα σχολικά προγράμματα σπουδών τις ψηφιακές δεξιότητες και την κατάρτιση στον τομέα της ΤΝ, και να τις καταστήσουν προσβάσιμες σε όλους, ώστε να εξαλειφθεί το ψηφιακό χάσμα των φύλων· 

15. τονίζει την ανάγκη κατάρτισης των εργαζομένων και των εκπαιδευτών στην ΤΝ, για την ενίσχυση της ικανότητας εντοπισμού και διόρθωσης πρακτικών που εισάγουν διακρίσεις λόγω φύλου στον χώρο εργασίας και στην εκπαίδευση, καθώς και όσων εργάζονται στην ανάπτυξη συστημάτων και εφαρμογών ΤΝ, προκειμένου να εντοπίζουν και να διορθώνουν τον σεξισμό στους ρόλους των φύλων στα συστήματα ΤΝ που αναπτύσσουν· και την καθιέρωση σαφών ευθυνών στις εταιρείες και στα εκπαιδευτικά ιδρύματα ώστε να διασφαλιστεί ότι δεν γίνονται διακρίσεις λόγω φύλου στον χώρο εργασίας και στα εκπαιδευτικά ιδρύματα· τονίζει ότι θα πρέπει να χρησιμοποιούνται άφυλες εικόνες στο πλαίσιο της ΤΝ και της ρομποτικής για εκπαιδευτικούς και πολιτιστικούς σκοπούς, εκτός αν το φύλο αποτελεί καθοριστικό παράγοντα για οποιονδήποτε λόγο·

16. υπογραμμίζει τη σημασία της ανάπτυξης και χρήσης εφαρμογών τεχνητής νοημοσύνης στον εκπαιδευτικό, πολιτιστικό και οπτικοακουστικό τομέα στη συλλογή ακριβέστερων δεδομένων διαχωρισμένων ανά φύλο και άλλων στοιχείων σχετικά με την ισότητα, και στην εφαρμογή σύγχρονων τεχνικών μηχανικής μάθησης για την εξάλειψη της μεροληπτικότητας, όπου χρειάζεται, προκειμένου να διορθωθούν μεροληψίες έμφυλων προκαταλήψεων που μπορεί να έχουν αρνητικές συνέπειες· 

17. προτρέπει την Επιτροπή και τα κράτη μέλη να συλλέγουν δεδομένα διαχωρισμένα με βάση φύλο προκειμένου να τροφοδοτούν τα σύνολα δεδομένων με τρόπο που προωθεί την ισότητα· ζητεί επίσης να εκτιμούν τον αντίκτυπο των δημόσιων πολιτικών που εφαρμόζονται για την ενσωμάτωση της διάστασης του φύλου, μέσω ανάλυσης των δεδομένων που συλλέγονται· τονίζει τη σημασία της χρήσης πλήρων αξιόπιστων, έγκαιρων, αμερόληπτων δεδομένων που δεν εισάγουν διακρίσεις και λαμβάνουν υπόψη τη διάσταση του φύλου στην ανάπτυξη της ΤΝ·

18. καλεί την Επιτροπή να συμπεριλάβει τον τομέα της εκπαίδευσης στο ρυθμιστικό πλαίσιο για τις εφαρμογές τεχνητής νοημοσύνης υψηλής επικινδυνότητας, δεδομένου ότι είναι σημαντικό να εξασφαλιστεί πως θα εξακολουθήσει η εκπαίδευση να συμβάλλει στο δημόσιο συμφέρον, λαμβανομένης υπόψη της υψηλής ευαισθησίας των δεδομένων που αφορούν μαθητές, σπουδαστές και άλλους διδασκόμενους· τονίζει ότι στον τομέα της εκπαίδευσης η ανάπτυξη αυτή θα πρέπει να περιλαμβάνει τους εκπαιδευτικούς, τους διδασκόμενους και την ευρύτερη κοινωνία και να λαμβάνει υπόψη τις ανάγκες όλων και τα αναμενόμενα οφέλη, προκειμένου να διασφαλίζεται η χρήση της ΤΝ σύμφωνα με τον επιδιωκόμενο σκοπό και στα πλαίσια της δεοντολογίας·

19. καλεί την Επιτροπή να ενθαρρύνει τη χρήση προγραμμάτων της ΕΕ όπως τα προγράμματα «Ορίζων Ευρώπη», «Ψηφιακή Ευρώπη» και Erasmus+ για την προώθηση της πολυεπιστημονικής έρευνας, πιλοτικών έργων, πειραμάτων, την ανάπτυξη εργαλείων συμπεριλαμβανομένης της κατάρτισης, με στόχο τον εντοπισμό προκαταλήψεων λόγω φύλου στην ΤΝ και την πραγματοποίηση εκστρατειών ευαισθητοποίησης για το ευρύ κοινό·

20. τονίζει την ανάγκη να δημιουργηθούν διάφορες ομάδες προγραμματιστών και μηχανικών που θα εργάζονται παράλληλα με τους κύριους παράγοντες του εκπαιδευτικού, πολιτιστικού και οπτικοακουστικού τομέα, προκειμένου να αποφευχθεί η ακούσια συμπερίληψη των έμφυλων και πολιτισμικών μεροληψιών στους αλγορίθμους για την τεχνητή νοημοσύνη, στα συστήματα και τις εφαρμογές. τονίζει την ανάγκη να εξεταστεί η ποικιλία των διαφορετικών θεωριών μέσω των οποίων η ΤΝ έχει αναπτυχθεί μέχρι σήμερα και θα μπορούσε να προωθηθεί περαιτέρω στο μέλλον·

21. επισημαίνει ότι η λήψη της δέουσας μέριμνας για την εξάλειψη της μεροληψίας και των διακρίσεων κατά συγκεκριμένων ομάδων, συμπεριλαμβανομένων των έμφυλων στερεοτύπων, δεν πρέπει να σταματά την τεχνολογική πρόοδο.

ΠΛΗΡΟΦΟΡΙΕΣ ΣΧΕΤΙΚΑ ΜΕ ΤΗΝ ΕΓΚΡΙΣΗ
ΣΤΗ ΓΝΩΜΟΔΟΤΙΚΗ ΕΠΙΤΡΟΠΗ

ΤΕΛΙΚΗ ΨΗΦΟΦΟΡΙΑ ΜΕ ΟΝΟΜΑΣΤΙΚΗ ΚΛΗΣΗ ΣΤΗ ΓΝΩΜΟΔΟΤΙΚΗ ΕΠΙΤΡΟΠΗ

Υπόμνημα των χρησιμοποιούμενων συμβόλων:

+ : υπέρ

- : κατά

0 : αποχή

ΠΛΗΡΟΦΟΡΙΕΣ ΣΧΕΤΙΚΑ ΜΕ ΤΗΝ ΕΓΚΡΙΣΗ ΣΤΗΝ ΑΡΜΟΔΙΑ ΕΠΙ ΤΗΣ ΟΥΣΙΑΣ ΕΠΙΤΡΟΠΗ

ΤΕΛΙΚΗ ΨΗΦΟΦΟΡΙΑ ΜΕ ΟΝΟΜΑΣΤΙΚΗ ΚΛΗΣΗ ΣΤΗΝ ΑΡΜΟΔΙΑ ΕΠΙ ΤΗΣ ΟΥΣΙΑΣ ΕΠΙΤΡΟΠΗ

Υπόμνημα των χρησιμοποιούμενων συμβόλων:

+ : υπέρ

- : κατά

0 : αποχή