ΕΚΘΕΣΗ σχετικά με την τεχνητή νοημοσύνη: ζητήματα ερμηνείας και εφαρμογής του διεθνούς δικαίου στον βαθμό που η Ένωση επηρεάζεται στους τομείς που αφορούν στρατιωτική και μη στρατιωτική χρήση της και ζητήματα κρατικής εξουσίας εκτός του πεδίου εφαρμογής της ποινικής δικαιοσύνης

ΠΡΟΤΑΣΗ ΨΗΦΙΣΜΑΤΟΣ ΤΟΥ ΕΥΡΩΠΑΪΚΟΥ ΚΟΙΝΟΒΟΥΛΙΟΥ

σχετικά με την τεχνητή νοημοσύνη: ζητήματα ερμηνείας και εφαρμογής του διεθνούς δικαίου στον βαθμό που η Ένωση επηρεάζεται στους τομείς που αφορούν στρατιωτική και μη στρατιωτική χρήση της και ζητήματα κρατικής εξουσίας εκτός του πεδίου εφαρμογής της ποινικής δικαιοσύνης

(2020/2013(INI))

Το Ευρωπαϊκό Κοινοβούλιο,

– έχοντας υπόψη το προοίμιο της Συνθήκης για την Ευρωπαϊκή Ένωση (ΣΕΕ), και ιδίως τα άρθρα 2, 3, 10, 19, 20, 21, 114,167, 218, 225 και 227,

– έχοντας υπόψη το δικαίωμα αναφοράς που προβλέπεται στα άρθρα 20 και 227 της Συνθήκης για τη λειτουργία της Ευρωπαϊκής Ένωσης (ΣΛΕΕ),

– έχοντας υπόψη τον Χάρτη των Θεμελιωδών Δικαιωμάτων της Ευρωπαϊκής Ένωσης,

– έχοντας υπόψη την οδηγία 2000/43/ΕΚ του Συμβουλίου, της 29ης Ιουνίου 2000, περί εφαρμογής της αρχής της ίσης μεταχείρισης προσώπων ασχέτως φυλετικής ή εθνοτικής τους καταγωγής (οδηγία για τη φυλετική ισότητα)[1],

– έχοντας υπόψη την οδηγία 2000/78/ΕΚ του Συμβουλίου, της 27ης Νοεμβρίου 2000, για τη διαμόρφωση γενικού πλαισίου για την ίση μεταχείριση στην απασχόληση και την εργασία (οδηγία για την ίση μεταχείριση στην απασχόληση)[2],

– έχοντας υπόψη τον κανονισμό (ΕΕ) 2016/679 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 27ης Απριλίου 2016, για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας των δεδομένων προσωπικού χαρακτήρα και για την ελεύθερη κυκλοφορία των δεδομένων αυτών και την κατάργηση της οδηγίας 95/46/ΕΚ (Γενικός Κανονισμός για την Προστασία Δεδομένων)[3], και την οδηγία (ΕΕ) 2016/680 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 27ης Απριλίου 2016, για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας δεδομένων προσωπικού χαρακτήρα από αρμόδιες αρχές για τους σκοπούς της πρόληψης, διερεύνησης, ανίχνευσης ή δίωξης ποινικών αδικημάτων ή της εκτέλεσης ποινικών κυρώσεων και για την ελεύθερη κυκλοφορία των δεδομένων αυτών και την κατάργηση της απόφασης-πλαίσιο 2008/977/ΔΕΥ του Συμβουλίου[4],

– έχοντας υπόψη τον κανονισμό (ΕΕ) 2018/1488 του Συμβουλίου, της 28ης Σεπτεμβρίου 2018, σχετικά με τη σύσταση της κοινής επιχείρησης για την ευρωπαϊκή υπολογιστική υψηλών επιδόσεων[5],

– έχοντας υπόψη την πρόταση κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 6ης Ιουνίου 2018, για τη θέσπιση του προγράμματος Ψηφιακή Ευρώπη για την περίοδο 2021-2027 (COM(2018)0434),

– έχοντας υπόψη το ψήφισμά του, της 16ης Φεβρουαρίου 2017, με συστάσεις προς την Επιτροπή σχετικά με ρυθμίσεις αστικού δικαίου στον τομέα της ρομποτικής[6],

– έχοντας υπόψη το ψήφισμά του, της 1ης Ιουνίου 2017, σχετικά με την ψηφιοποίηση της ευρωπαϊκής βιομηχανίας[7],

– έχοντας υπόψη το ψήφισμά του, της 12ης Σεπτεμβρίου 2018, σχετικά με τα αυτόνομα οπλικά συστήματα[8],

– έχοντας υπόψη το ψήφισμά του, της 11ης Σεπτεμβρίου 2018, σχετικά με τη γλωσσική ισότητα στην ψηφιακή εποχή[9],

– έχοντας υπόψη το ψήφισμά του, της 12ης Φεβρουαρίου 2019, σχετικά με μια ολοκληρωμένη ευρωπαϊκή βιομηχανική πολιτική για την τεχνητή νοημοσύνη (ΤΝ) και τη ρομποτική[10],

– έχοντας υπόψη την ανακοίνωση της Επιτροπής, της 11ης Δεκεμβρίου 2019, προς το Ευρωπαϊκό Κοινοβούλιο, το Συμβούλιο, την Ευρωπαϊκή Οικονομική και Κοινωνική Επιτροπή και την Επιτροπή των Περιφερειών με τίτλο «Η Ευρωπαϊκή Πράσινη Συμφωνία» (COM(2019)640),

– έχοντας υπόψη τη Λευκή Βίβλο της Επιτροπής, της 19ης Φεβρουαρίου 2020, με τίτλο «Τεχνητή νοημοσύνη – Η ευρωπαϊκή προσέγγιση της αριστείας και της εμπιστοσύνης (COM(2020)0065),

– έχοντας υπόψη την ανακοίνωση της Επιτροπής προς το Ευρωπαϊκό Κοινοβούλιο, το Συμβούλιο, την Ευρωπαϊκή Οικονομική και Κοινωνική Επιτροπή και την Επιτροπή των Περιφερειών, της 19ης Φεβρουαρίου 2020, με τίτλο «Ευρωπαϊκή στρατηγική για τα δεδομένα» (COM(2020)0066),

– έχοντας υπόψη την ανακοίνωση της Επιτροπής προς το Ευρωπαϊκό Κοινοβούλιο, το Συμβούλιο, την Ευρωπαϊκή Οικονομική και Κοινωνική Επιτροπή και την Επιτροπή των Περιφερειών, της 19ης Φεβρουαρίου 2020, με τίτλο «Διαμόρφωση του ψηφιακού μέλλοντος της Ευρώπης» (COM(2020)0067),

– έχοντας υπόψη την έκθεση, της ομάδας εμπειρογνωμόνων υψηλού επιπέδου της Επιτροπής για την τεχνητή νοημοσύνη, η οποία συστάθηκε τον Ιούνιο του 2018, με τίτλο «Κατευθυντήριες γραμμές δεοντολογίας για αξιόπιστη τεχνητή νοημοσύνη», που δημοσιεύθηκε στις 8 Απριλίου 2019,

– έχοντας υπόψη τη Σύμβαση πλαίσιο του Συμβουλίου της Ευρώπης για την προστασία των εθνικών μειονοτήτων, το Πρωτόκολλο αριθ. 12 της Σύμβασης για την προάσπιση των δικαιωμάτων του ανθρώπου και των θεμελιωδών ελευθεριών και τον Ευρωπαϊκό Χάρτη για τις περιφερειακές ή μειονοτικές γλώσσες,

– έχοντας υπόψη τον Ευρωπαϊκό Χάρτη Δεοντολογίας για τη χρήση της Τεχνητής Νοημοσύνης στα δικαστικά συστήματα και το περιβάλλον τους, ο οποίος εγκρίθηκε από την ομάδα εργασίας για την ποιότητα της δικαιοσύνης (CEPEJ-GT-QUAL) του Συμβουλίου της Ευρώπης, τον Δεκέμβριο του 2018,

– έχοντας υπόψη τη σύσταση του Συμβουλίου του ΟΟΣΑ σχετικά με την τεχνητή νοημοσύνη που εγκρίθηκε στις 22 Μαΐου 2019,

– έχοντας υπόψη το άρθρο 54 του Κανονισμού του,

– έχοντας υπόψη τις γνωμοδοτήσεις της Επιτροπής Εξωτερικών Υποθέσεων, της Επιτροπής Εσωτερικής Αγοράς και Προστασίας των Καταναλωτών, της Επιτροπής Μεταφορών και Τουρισμού και της Επιτροπής Πολιτικών Ελευθεριών, Δικαιοσύνης και Εσωτερικών Υποθέσεων,

– έχοντας υπόψη την έκθεση της Επιτροπής Νομικών Θεμάτων (A9-0001/2021),

Εισαγωγή

A. λαμβάνοντας υπόψη ότι η τεχνητή νοημοσύνη (ΤΝ), η ρομποτική και οι συναφείς τεχνολογίες αναπτύσσονται ταχέως και έχουν άμεσο αντίκτυπο σε όλες τις πτυχές των κοινωνιών μας, συμπεριλαμβανομένων των βασικών κοινωνικών και οικονομικών αρχών και αξιών·

B. λαμβάνοντας υπόψη ότι η ΤΝ προκαλεί επανάσταση στο στρατιωτικό δόγμα και τον στρατιωτικό εξοπλισμό μέσω μιας ριζικής αλλαγής στον τρόπο λειτουργίας των στρατευμάτων, κυρίως λόγω της ενσωμάτωσης και χρήσης νέων τεχνολογιών και αυτόνομων ικανοτήτων·

Γ. λαμβάνοντας υπόψη ότι η ανάπτυξη και ο σχεδιασμός της αποκαλούμενης «τεχνητής νοημοσύνης», της ρομποτικής και των συναφών τεχνολογιών γίνονται από ανθρώπους, και οι επιλογές τους καθορίζουν τις δυνατότητες της τεχνολογίας να ωφελήσει την κοινωνία·

Δ. λαμβάνοντας υπόψη ότι ένα κοινό πλαίσιο της Ένωσης πρέπει να καλύπτει την ανάπτυξη, την υλοποίηση και τη χρήση της ΤΝ, της ρομποτικής και των συναφών τεχνολογιών, και πρέπει να διασφαλίζει τον σεβασμό της ανθρώπινης αξιοπρέπειας και των ανθρωπίνων δικαιωμάτων, όπως κατοχυρώνονται στον Χάρτη των Θεμελιωδών Δικαιωμάτων της Ευρωπαϊκής Ένωσης·

Ε.  λαμβάνοντας υπόψη ότι η Ένωση και τα κράτη μέλη της έχουν ιδιαίτερη ευθύνη να διασφαλίσουν ότι η ΤΝ, η ρομποτική και οι συναφείς τεχνολογίες – καθώς μπορούν να χρησιμοποιηθούν διασυνοριακά – είναι ανθρωποκεντρικές, δηλαδή προορίζονται βασικά για χρήση στην υπηρεσία της ανθρωπότητας και του κοινού καλού, προκειμένου να συμβάλουν στην ευημερία και το γενικό συμφέρον των πολιτών τους· λαμβάνοντας υπόψη ότι η Ένωση θα πρέπει να βοηθήσει τα κράτη μέλη να το επιτύχουν, ιδίως εκείνα που άρχισαν να μελετούν την πιθανή εξέλιξη των νομικών προτύπων ή νομοθετικών αλλαγών στον τομέα αυτό·

ΣΤ. λαμβάνοντας υπόψη ότι οι Ευρωπαίοι πολίτες θα μπορούσαν να επωφεληθούν από μια κατάλληλη, αποτελεσματική, διαφανή και συνεκτική ρυθμιστική προσέγγιση σε επίπεδο Ένωσης, η οποία θα καθορίζει επαρκώς σαφείς προϋποθέσεις ώστε οι εταιρείες να αναπτύσσουν εφαρμογές και να σχεδιάζουν τα επιχειρηματικά τους μοντέλα, διασφαλίζοντας παράλληλα ότι η Ένωση και τα κράτη μέλη της διατηρούν τον έλεγχο επί των κανονισμών που πρόκειται να θεσπιστούν, ώστε να μην αναγκαστούν να εγκρίνουν ή να αποδεχθούν πρότυπα που καθορίζονται από άλλους·

Ζ. λαμβάνοντας υπόψη ότι οι κατευθυντήριες γραμμές ηθικής δεοντολογίας, όπως οι αρχές που έχουν εγκριθεί από την ομάδα εμπειρογνωμόνων υψηλού επιπέδου για την τεχνητή νοημοσύνη, αποτελούν μια καλή αφετηρία, αλλά δεν αρκούν για να διασφαλίσουν ότι οι επιχειρήσεις ενεργούν με θεμιτό τρόπο και εγγυώνται την αποτελεσματική προστασία των φυσικών προσώπων·

Η. λαμβάνοντας υπόψη ότι αυτή η ιδιαίτερη ευθύνη συνεπάγεται ειδικότερα την εξέταση των ζητημάτων ερμηνείας και εφαρμογής του διεθνούς δικαίου που συνδέεται με την ενεργή συμμετοχή της ΕΕ στις διεθνείς διαπραγματεύσεις, στον βαθμό που η ΕΕ επηρεάζεται από τη μη στρατιωτική και τη στρατιωτική χρήση αυτού του είδους ΤΝ, και ότι τα ζητήματα κρατικής εξουσίας σε σχέση με τις τεχνολογίες αυτές βρίσκονται εκτός του πεδίου εφαρμογής της ποινικής δικαιοσύνης·

Θ. λαμβάνοντας υπόψη ότι είναι σημαντικό να προβλεφθεί κατάλληλο και ολοκληρωμένο νομικό πλαίσιο για τις δεοντολογικές πτυχές αυτών των τεχνολογιών, καθώς και για την ευθύνη, τη διαφάνεια και τη λογοδοσία (ιδίως για την ΤΝ, τη ρομποτική και τις συναφείς τεχνολογίες που θεωρούνται υψηλού κινδύνου)· λαμβάνοντας υπόψη ότι το πλαίσιο αυτό πρέπει να αντικατοπτρίζει το γεγονός ότι οι εγγενώς ευρωπαϊκές και οικουμενικές ανθρωπιστικές αξίες εφαρμόζονται σε ολόκληρη την αλυσίδα αξίας κατά την ανάπτυξη, την εφαρμογή και τις χρήσεις της ΤΝ· λαμβάνοντας υπόψη ότι το εν λόγω δεοντολογικό πλαίσιο πρέπει να εφαρμόζεται στην ανάπτυξη (συμπεριλαμβανομένης της έρευνας και της καινοτομίας), στην υλοποίηση και χρήση της ΤΝ, με πλήρη σεβασμό του δικαίου της Ένωσης και των αξιών που ορίζονται στον Χάρτη των Θεμελιωδών Δικαιωμάτων της Ευρωπαϊκής Ένωσης·

Ι. λαμβάνοντας υπόψη ότι σκοπός αυτής της εξέτασης είναι να διερευνηθεί σε ποιο βαθμό οι κανόνες του δημόσιου και ιδιωτικού διεθνούς δικαίου, καθώς και του δικαίου της ΕΕ, είναι κατάλληλοι για τις εν λόγω τεχνολογίες, και να τονιστούν οι προκλήσεις και οι κίνδυνοι που συνεπάγονται οι τελευταίες για την κρατική εξουσία, ώστε να υπάρχει η δέουσα και αναλογική διαχείριση·

ΙΑ. λαμβάνοντας υπόψη ότι η Ευρωπαϊκή Επιτροπή δεν λαμβάνει υπόψη τις στρατιωτικές πτυχές της χρήσης της τεχνητής νοημοσύνης στη Λευκή Βίβλο της·

ΙΒ. λαμβάνοντας υπόψη ότι μια εναρμονισμένη ευρωπαϊκή προσέγγιση των εν λόγω προβλημάτων απαιτεί έναν κοινό ορισμό της ΤΝ και τη διασφάλιση της τήρησης των αξιών της Ευρωπαϊκής Ένωσης, των αρχών του Χάρτη των Θεμελιωδών Δικαιωμάτων της Ευρωπαϊκής Ένωσης και της διεθνούς νομοθεσίας για τα ανθρώπινα δικαιώματα·

ΙΓ. λαμβάνοντας υπόψη ότι η ΤΝ παρέχει πρωτοφανείς ευκαιρίες για την ενίσχυση των επιδόσεων του τομέα των μεταφορών, αντιμετωπίζοντας τις προκλήσεις της αυξανόμενης ζήτησης για μετακινήσεις, τις ανησυχίες για την ασφάλεια και το περιβάλλον, ενώ παράλληλα καθιστά τα μέσα μεταφοράς πιο έξυπνα, αποτελεσματικότερα και πιο πρακτικά·

ΙΔ. λαμβάνοντας υπόψη ότι η εξέταση της χρήσης της ΤΝ στον τομέα της άμυνας σε επίπεδο ΕΕ είναι απαραίτητη για την ανάπτυξη των ικανοτήτων της ΕΕ σε αυτόν τον τομέα·

Ορισμός της τεχνητής νοημοσύνης

1. θεωρεί ότι είναι αναγκαίο να θεσπιστεί ένα κοινό ευρωπαϊκό νομικό πλαίσιο με εναρμονισμένους ορισμούς και κοινές δεοντολογικές αρχές, συμπεριλαμβανομένης της χρήσης της ΤΝ για στρατιωτικούς σκοπούς· καλεί, ως εκ τούτου, την Επιτροπή να υιοθετήσει τους ακόλουθους ορισμούς:

- «σύστημα ΤΝ»: σύστημα το οποίο είτε βασίζεται σε λογισμικό είτε είναι ενσωματωμένο σε συσκευές υλισμικού και εμφανίζει συμπεριφορά που προσομοιώνει νοημοσύνη, μεταξύ άλλων, συλλέγοντας και επεξεργαζόμενο δεδομένα, αναλύοντας και ερμηνεύοντας το περιβάλλον του και αναλαμβάνοντας δράση, με κάποιο βαθμό αυτονομίας, για την επίτευξη συγκεκριμένων στόχων·

- «αυτόνομο»: ένα σύστημα ΤΝ που λειτουργεί ερμηνεύοντας ορισμένες εισροές και χρησιμοποιώντας μια δέσμη προκαθορισμένων οδηγιών, χωρίς να περιορίζεται στις εν λόγω οδηγίες, παρά το γεγονός ότι η συμπεριφορά του περιορίζεται και εστιάζεται στην εκπλήρωση του στόχου που του έχει δοθεί και σε άλλες συναφείς σχεδιαστικές επιλογές που έχει κάνει ο προγραμματιστής του·

2. επισημαίνει ότι οι πολιτικές ασφάλειας και άμυνας της Ευρωπαϊκής Ένωσης και των κρατών μελών της διέπονται από τις αρχές που κατοχυρώνονται στον Χάρτη των Θεμελιωδών Δικαιωμάτων της Ευρωπαϊκής Ένωσης και στον Χάρτη του ΟΗΕ – εκ των οποίων ο δεύτερος καλεί όλα τα κράτη να απέχουν από την απειλή ή χρήση βίας στις μεταξύ τους σχέσεις – καθώς και από το διεθνές δίκαιο, από τις αρχές που αφορούν τα ανθρώπινα δικαιώματα και τον σεβασμό της ανθρώπινης αξιοπρέπειας και από μια κοινή αντίληψη όσον αφορά τις οικουμενικές αξίες των απαράβατων και αναφαίρετων δικαιωμάτων του ανθρώπου, της ελευθερίας, της δημοκρατίας, της ισότητας και του κράτους δικαίου· επισημαίνει ότι όλες οι σχετικές με την άμυνα δραστηριότητες που καταβάλλονται στο πλαίσιο της Ένωσης πρέπει να σέβονται αυτές τις οικουμενικές αξίες και ταυτόχρονα να προάγουν την ειρήνη, τη σταθερότητα, την ασφάλεια και την πρόοδο στην Ευρώπη και στον κόσμο·

Δημόσιο διεθνές δίκαιο και στρατιωτικές χρήσεις της τεχνητής νοημοσύνης

3. θεωρεί ότι η ΤΝ που χρησιμοποιείται σε στρατιωτικό και μη στρατιωτικό πλαίσιο πρέπει να υπόκειται σε ουσιαστικό ανθρώπινο έλεγχο, ούτως ώστε, ανά πάσα στιγμή, ένας άνθρωπος να έχει τα μέσα να τη διορθώσει, να τη σταματήσει ή να την απενεργοποιήσει σε περίπτωση απρόβλεπτης συμπεριφοράς, τυχαίας επέμβασης, κυβερνοεπιθέσεων ή παρέμβασης τρίτων μερών σε τεχνολογία που βασίζεται στην ΤΝ ή όταν τρίτα μέρη αποκτούν την εν λόγω τεχνολογία·

4. θεωρεί ότι ο σεβασμός του διεθνούς δημοσίου δικαίου, και ιδίως του ανθρωπιστικού δικαίου, το οποίο εφαρμόζεται αδιαμφισβήτητα σε όλα τα οπλικά συστήματα και τους χειριστές τους, αποτελεί θεμελιώδη απαίτηση με την οποία πρέπει να συμμορφώνονται τα κράτη μέλη, ιδίως όταν προστατεύουν τον άμαχο πληθυσμό ή λαμβάνουν προληπτικά μέτρα σε περίπτωση επίθεσης, όπως στρατιωτική επίθεση ή κυβερνοπόλεμος·

5. τονίζει ότι η ΤΝ και οι συναφείς τεχνολογίες μπορούν επίσης να διαδραματίσουν ρόλο σε αντικανονικό ή μη συμβατικό πόλεμο· προτείνει η έρευνα, η ανάπτυξη και η χρήση της ΤΝ σε τέτοιες περιπτώσεις να υπόκεινται στους ίδιους όρους με τη χρήση σε συμβατικές συγκρούσεις·

6. τονίζει ότι η χρήση της ΤΝ αποτελεί ευκαιρία για την ενίσχυση της ασφάλειας της Ευρωπαϊκής Ένωσης και των πολιτών της, και ότι είναι σημαντικό η ΕΕ να υιοθετήσει μια ολοκληρωμένη προσέγγιση σε μελλοντικές διεθνείς συζητήσεις για το θέμα αυτό·

7. καλεί την ερευνητική κοινότητα τεχνητής νοημοσύνης να ενσωματώσει αυτή την αρχή σε όλα τα προαναφερθέντα συστήματα που λειτουργούν βάσει ΤΝ και προορίζονται για στρατιωτική χρήση· θεωρεί ότι καμία αρχή δεν μπορεί να θεσπίσει εξαίρεση από τις εν λόγω αρχές ή να πιστοποιήσει ένα τέτοιο σύστημα·

8. επαναλαμβάνει ότι η αυτόνομη λήψη αποφάσεων δεν θα πρέπει να απαλλάσσει τους ανθρώπους από την ευθύνη και ότι οι άνθρωποι πρέπει πάντα να έχουν την τελική ευθύνη για τις διαδικασίες λήψης αποφάσεων, ώστε να μπορεί να προσδιοριστεί ο άνθρωπος που ήταν υπεύθυνος για την απόφαση·

9. τονίζει ότι κατά τη χρήση της ΤΝ σε στρατιωτικό πλαίσιο, τα κράτη μέλη, τα μέρη μιας σύγκρουσης και τα μεμονωμένα άτομα πρέπει πάντοτε να τηρούν τις υποχρεώσεις τους σύμφωνα με το ισχύον διεθνές δίκαιο και να αναλαμβάνουν την ευθύνη για τις ενέργειες που απορρέουν από τη χρήση τέτοιων συστημάτων· υπογραμμίζει ότι, σε κάθε περίπτωση, οι προβλεπόμενες, τυχαίες ή ανεπιθύμητες ενέργειες και επιπτώσεις των συστημάτων που βασίζονται στην ΤΝ πρέπει να θεωρούνται ευθύνη των κρατών μελών, των μερών μιας σύγκρουσης και των ατόμων·

10. επικροτεί τις δυνατότητες χρήσης συστημάτων τεχνητής νοημοσύνης για την εκπαίδευση και τις ασκήσεις, το δυναμικό των οποίων δεν θα πρέπει να υποτιμάται, ιδίως δεδομένου ότι η ΕΕ διεξάγει ασκήσεις διττής μη στρατιωτικής και στρατιωτικής φύσης·

11. τονίζει ότι κατά τη διάρκεια των φάσεων σχεδιασμού, ανάπτυξης, δοκιμής, υλοποίησης και χρήσης συστημάτων που βασίζονται στην ΤΝ, πρέπει να λαμβάνονται δεόντως υπόψη οι δυνητικοί κίνδυνοι ανά πάσα στιγμή, ιδίως όσον αφορά ατυχήματα και τραυματισμούς αμάχων, τυχαίες απώλειες ζωών και ζημίες σε μη στρατιωτικές υποδομές, καθώς και κινδύνους που συνδέονται με ακούσιες ενέργειες, χειραγώγηση, διάδοση, κυβερνοεπιθέσεις, παρεμβολές τρίτων με αυτόνομη τεχνολογία ΤΝ, ή όταν τρίτα μέρη αποκτούν την εν λόγω τεχνολογία·

12. υπενθυμίζει ότι, σύμφωνα με τη συμβουλευτική γνώμη του Διεθνούς Δικαστηρίου, της 8ης Ιουλίου 1996, δεν μπορεί να γίνει επίκληση της αρχής της πρωτοτυπίας προς στήριξη οποιασδήποτε παρέκκλισης όσον αφορά την τήρηση των ισχυόντων κανόνων του διεθνούς ανθρωπιστικού δικαίου·

13. θεωρεί ότι, εκτός από τη στήριξη επιχειρήσεων, η ΤΝ θα ωφελήσει επίσης το υπηρεσιακό προσωπικό των ενόπλων δυνάμεων μέσω της μαζικής επεξεργασίας των δεδομένων υγείας τους και της επέκτασης της παρακολούθησης της υγείας, θα εντοπίσει τους παράγοντες κινδύνου που σχετίζονται με το περιβάλλον και τις συνθήκες εργασίας τους και θα προτείνει κατάλληλες διασφαλίσεις για τον περιορισμό των επιπτώσεων στην υγεία του προσωπικού·

14. επαναλαμβάνει ότι οι ρυθμιστικές προσπάθειες πρέπει να υποστηρίζονται από ουσιαστικά συστήματα πιστοποίησης και εποπτείας, καθώς και από σαφείς μηχανισμούς ελεγξιμότητας, εξηγησιμότητας, λογοδοσίας και ιχνηλασιμότητας, ούτως ώστε το κανονιστικό πλαίσιο να μην καταστεί παρωχημένο ως αποτέλεσμα των τεχνολογικών εξελίξεων·

15. τονίζει τη σημασία, σε έναν υπερσυνδεδεμένο κόσμο, της συμμετοχής της Ευρωπαϊκής Ένωσης στη δημιουργία ενός διεθνούς νομικού πλαισίου για τη χρήση της τεχνητής νοημοσύνης: ζητεί από την ΕΕ να ηγηθεί και να αναλάβει, μαζί με τα Ηνωμένα Έθνη και τη διεθνή κοινότητα, ενεργό ρόλο στην προώθηση αυτού του παγκόσμιου πλαισίου που διέπει τη χρήση της ΤΝ για στρατιωτικούς και άλλους σκοπούς, διασφαλίζοντας ότι η χρήση αυτή θα παραμείνει εντός των αυστηρών ορίων που θέτουν το διεθνές δίκαιο και το διεθνές ανθρωπιστικό δίκαιο, και ιδίως οι Συμβάσεις της Γενεύης, της 12ης Αυγούστου 1949· τονίζει ότι το πλαίσιο αυτό δεν πρέπει ποτέ να παραβιάζει ούτε να επιτρέπει παραβιάσεις της δημόσιας συνείδησης και της ανθρωπότητας, όπως αναφέρεται στη ρήτρα Martens, και πρέπει να συνάδει με τους κανόνες ασφάλειας και τις απαιτήσεις προστασίας των καταναλωτών· ζητεί από την ΕΕ και τα κράτη μέλη να ορίσουν ισχυρά συστήματα εποπτείας και αξιολόγησης για την ανάπτυξη τεχνολογιών τεχνητής νοημοσύνης, ιδίως εκείνων που χρησιμοποιούνται για στρατιωτικούς σκοπούς σε απολυταρχικά κράτη·

16. τονίζει ότι η ρομποτική όχι μόνο θα επιτρέψει στο στρατιωτικό προσωπικό να διατηρεί απόσταση, αλλά και θα παρέχει καλύτερη αυτοπροστασία, για παράδειγμα σε επιχειρήσεις σε μολυσμένα περιβάλλοντα, πυρόσβεση, αποναρκοθέτηση στην ξηρά ή στη θάλασσα και άμυνα κατά των σμηνών μη επανδρωμένων αεροσκαφών·

17. τονίζει το γεγονός ότι η ανάπτυξη, η υλοποίηση, η χρήση και η διαχείριση της ΤΝ πρέπει να σέβονται τα θεμελιώδη δικαιώματα, τις αξίες και τις ελευθερίες που κατοχυρώνονται στις Συνθήκες της ΕΕ, και καλεί τα κράτη μέλη να απέχουν από την υλοποίηση συστημάτων ΤΝ υψηλού κινδύνου που συνιστούν απειλή για τα θεμελιώδη δικαιώματα· λαμβάνει υπό σημείωση τη δημοσίευση της Λευκής Βίβλου της Επιτροπής για την τεχνητή νοημοσύνη και ενθαρρύνει τη βαθύτερη έρευνα σχετικά με τον δυνητικό κίνδυνο που ενέχει για τα θεμελιώδη δικαιώματα η χρήση της ΤΝ από τις κρατικές αρχές και τους οργανισμούς, τους φορείς και τα θεσμικά όργανα της Ευρωπαϊκής Ένωσης·

18. καλεί την Επιτροπή να διευκολύνει την έρευνα και τον διάλογο σχετικά με τις ευκαιρίες που προσφέρει η χρήση της ΤΝ για την αντιμετώπιση καταστροφών, την πρόληψη κρίσεων και τη διατήρηση της ειρήνης·

19. επικροτεί τη συγκρότηση ομάδας κυβερνητικών εμπειρογνωμόνων του ΟΗΕ για την προώθηση της υπεύθυνης συμπεριφοράς των κρατών στον κυβερνοχώρο στο πλαίσιο της διεθνούς ασφάλειας και καλεί την ΕΕ να συμμετέχει πλήρως στις εργασίες της ομάδας αυτής·

20. καλεί τον Αντιπρόεδρο της Επιτροπής/Ύπατο Εκπρόσωπο για θέματα Εξωτερικής Πολιτικής και Πολιτικής Ασφαλείας (ΑΠ/ΥΕ) να προλειάνει το έδαφος για τη διεξαγωγή διαπραγματεύσεων σε παγκόσμιο επίπεδο, προκειμένου να θεσπιστεί ένα σύστημα ελέγχου των όπλων που χρησιμοποιούν την ΤΝ, καθώς και να επικαιροποιηθούν όλα τα υφιστάμενα συμβατικά μέσα για τον έλεγχο των εξοπλισμών, τον αφοπλισμό και τη μη διάδοση, έτσι ώστε να λαμβάνονται υπόψη τα συστήματα που λειτουργούν βάσει ΤΝ και χρησιμοποιούνται σε εμπόλεμες συρράξεις· επισημαίνει ότι η κοινή θέση του Συμβουλίου για τον καθορισμό κοινών κανόνων που διέπουν τον έλεγχο των εξαγωγών στρατιωτικής τεχνολογίας και εξοπλισμού πρέπει να λαμβάνει υπόψη και να καλύπτει πλήρως τα οπλικά συστήματα που λειτουργούν βάσει ΤΝ·

21. επαναλαμβάνει ότι οι κανόνες αυτοί πρέπει να είναι πάντα σύμφωνοι προς τις αρχές που αναφέρονται στη Σύμβαση της Ρώμης, της 17ης Ιουλίου 1998, για την απαγόρευση των εγκλημάτων γενοκτονίας, των εγκλημάτων κατά της ανθρωπότητας και των εγκλημάτων πολέμου·

22. επισημαίνει τους σαφείς κινδύνους που ενέχουν οι αποφάσεις οι οποίες λαμβάνονται από ανθρώπους, εάν στηρίζονται αποκλειστικά στα δεδομένα, τα προφίλ και τις συστάσεις που παράγονται από μηχανές· επισημαίνει ότι ο συνολικός σχεδιασμός των συστημάτων ΤΝ θα πρέπει επίσης να περιλαμβάνει σαφείς κατευθυντήριες γραμμές σχετικά με την ανθρώπινη εποπτεία και επίβλεψη· ζητεί να επιβληθεί μια υποχρέωση όσον αφορά τη διαφάνεια και την εξηγησιμότητα των εφαρμογών ΤΝ και την ανάγκη για ανθρώπινη παρέμβαση, καθώς και άλλα μέτρα, όπως είναι οι ανεξάρτητοι έλεγχοι και οι ειδικές προσομοιώσεις ακραίων καταστάσεων για τη διευκόλυνση και την επιβολή της συμμόρφωσης· τονίζει ότι οι εν λόγω έλεγχοι θα πρέπει να διενεργούνται περιοδικά από ανεξάρτητη αρχή, που θα εποπτεύει τις εφαρμογές ΤΝ υψηλού κινδύνου που χρησιμοποιούνται από τις κρατικές αρχές ή τον στρατό·

23. τονίζει ότι είναι σημαντικό να εξακριβωθεί ο τρόπος με τον οποίο οι τεχνολογίες ΤΝ υψηλού κινδύνου καταλήγουν σε αποφάσεις· υπενθυμίζει ότι πρέπει να τηρούνται οι αρχές της μη εισαγωγής διακρίσεων και της αναλογικότητας και ότι ζητήματα αιτιώδους συνάφειας, ευθύνης και υποχρέωσης αποζημίωσης, καθώς και διαφάνειας, λογοδοσίας και εξηγησιμότητας πρέπει να αποσαφηνίζονται, προκειμένου να προσδιοριστεί κατά πόσον και σε ποιο βαθμό το κράτος ως φορέας δημόσιου διεθνούς δικαίου, αλλά και κατά την άσκηση της δικής του εξουσίας, μπορεί να ενεργεί με τη βοήθεια συστημάτων που βασίζονται στην τεχνητή νοημοσύνη, τα οποία διαθέτουν ορισμένη αυτονομία, χωρίς να παραβιάζει υποχρεώσεις που απορρέουν από το διεθνές δίκαιο, όπως εκείνη της ορθής διαδικασίας·

24. επιμένει ότι είναι σημαντικό να γίνουν επενδύσεις στις ανθρώπινες δεξιότητες, συμπεριλαμβανομένων των ψηφιακών δεξιοτήτων, προκειμένου να υπάρξει προσαρμογή στην επιστημονική πρόοδο όσον αφορά τη χρήση λύσεων που βασίζονται στην ΤΝ για τα άτομα που ασκούν ρυθμιζόμενα επαγγέλματα, συμπεριλαμβανομένων των δραστηριοτήτων που συνδέονται με την άσκηση της κρατικής εξουσίας, όπως η απονομή της δικαιοσύνης· καλεί τα κράτη μέλη και την Επιτροπή να λάβουν δεόντως υπόψη το γεγονός αυτό στο πλαίσιο της εφαρμογής της οδηγίας 2005/36/ΕΚ·

25. επιμένει ότι τα συστήματα ΤΝ πρέπει πάντα να συμμορφώνονται με τις αρχές της ευθύνης, της ισότητας, της διακυβέρνησης, της προφύλαξης, της λογοδοσίας, της δυνατότητας καταλογισμού, της προβλεψιμότητας, της ιχνηλασιμότητας, της αξιοπιστίας, της φερεγγυότητας, της διαφάνειας, της εξηγησιμότητας, της ικανότητας εντοπισμού πιθανών αλλαγών στις περιστάσεις και στο επιχειρησιακό περιβάλλον, της διάκρισης μεταξύ μαχητών και μη μαχητών, και της αναλογικότητας· επιμένει ότι η τελευταία αρχή εξαρτά τη νομιμότητα μιας στρατιωτικής ενέργειας από την αναλογία του σκοπού προς τα χρησιμοποιούμενα μέσα, και ότι η αξιολόγηση της αναλογικότητας πρέπει να γίνεται από άνθρωπο·

26. τονίζει ότι, προκειμένου να διασφαλιστεί ότι οι αρχές του διεθνούς ανθρωπιστικού δικαίου, ιδίως της διάκρισης, της αναλογικότητας και της προφύλαξης κατά την επίθεση, εφαρμόζονται πλήρως σε όλο το μήκος της αλυσίδας διαταγών και ελέγχου, είναι απαραίτητο, κατά τη χρήση συστημάτων που λειτουργούν βάσει ΤΝ στον τομέα της ασφάλειας και της άμυνας, ο άνθρωπος που τα χειρίζεται να κατανοεί πλήρως την κατάσταση, καθώς και να είναι σε θέση να εντοπίζει πιθανές μεταβολές των συνθηκών στο θέατρο των επιχειρήσεων και να παρεμβαίνει σε τυχόν επιθέσεις ή να τις διακόπτει, το δε σύστημα που λειτουργεί βάσει ΤΝ να είναι προβλέψιμο, αξιόπιστο και ανθεκτικό· τονίζει ότι τα συστήματα που λειτουργούν βάσει ΤΝ πρέπει να επιτρέπουν στον άνθρωπο που φέρει την ευθύνη να ασκεί ουσιαστικό έλεγχο, να αναλαμβάνει πλήρως τις ευθύνες για τα συστήματα και να λογοδοτεί για όλες τις χρήσεις τους· καλεί την Επιτροπή να προωθήσει τον διάλογο, τη στενότερη συνεργασία και τις συνέργειες μεταξύ κρατών μελών, ερευνητών, ακαδημαϊκών, παραγόντων της κοινωνίας των πολιτών και του ιδιωτικού τομέα, ιδίως κορυφαίων εταιρειών, καθώς και του στρατού, προκειμένου να διασφαλιστούν χωρίς αποκλεισμούς διαδικασίες χάραξης πολιτικής όσον αφορά τις κανονιστικές ρυθμίσεις για την ΤΝ στον τομέα της άμυνας·

27. τονίζει ότι το Κοινοβούλιο έχει ζητήσει την κατάρτιση και την επείγουσα έγκριση κοινής θέσης σχετικά με τα φονικά αυτόνομα οπλικά συστήματα (LAWS), για την πρόληψη της ανάπτυξης, της παραγωγής και της χρήσης των LAWS που μπορούν να επιτεθούν χωρίς ουσιαστικό ανθρώπινο έλεγχο, καθώς και την έναρξη αποτελεσματικών διαπραγματεύσεων για την απαγόρευσή τους· υπενθυμίζει, στο πλαίσιο αυτό, το ψήφισμά του, της 12ης Σεπτεμβρίου 2018, σχετικά με τα αυτόνομα οπλικά συστήματα· υπενθυμίζει ότι ο όρος «φονικά αυτόνομα οπλικά συστήματα» (LAWS) αναφέρεται σε οπλικά συστήματα χωρίς ουσιαστικό ανθρώπινο έλεγχο όσον αφορά τις κρίσιμες λειτουργίες της στόχευσης και της επίθεσης εναντίον μεμονωμένων στόχων· τονίζει ότι η απόφαση για την επιλογή ενός στόχου και τη χρήση οπλικών συστημάτων με ορισμένο βαθμό αυτονομίας σε ενέργειες με θανατηφόρες συνέπειες πρέπει πάντα να λαμβάνεται από ανθρώπους-χειριστές που ασκούν ουσιαστικό έλεγχο και εποπτεία και επιδεικνύουν την αναγκαία κριτική ικανότητα με γνώμονα τις αρχές της αναλογικότητας και της αναγκαιότητας· τονίζει ότι τα συστήματα που λειτουργούν βάσει ΤΝ δεν μπορούν σε καμία περίπτωση να αντικαταστήσουν τον άνθρωπο στη λήψη αποφάσεων στον τομέα αυτόν·

28. σημειώνει, επιπλέον, ότι τα αυτόνομα οπλικά συστήματα, ως ιδιαίτερη κατηγορία της ΤΝ στον στρατιωτικό τομέα, θα πρέπει να συζητούνται και να συμφωνούνται σε διεθνές επίπεδο, ιδίως στο φόρουμ της Σύμβασης του ΟΗΕ για ορισμένα συμβατικά όπλα· εφιστά την προσοχή στη συνεχιζόμενη διεθνή συζήτηση σχετικά με τα LAWS για τη ρύθμιση των αναδυόμενων στρατιωτικών τεχνολογιών, η οποία μέχρι στιγμής δεν έχει καταλήξει σε συμφωνία· επισημαίνει ότι η ΕΕ μόλις πρόσφατα συμφώνησε να συζητήσει τις επιπτώσεις των εξελίξεων στον τομέα της τεχνητής νοημοσύνης και της ψηφιοποίησης στον τομέα της άμυνας· πιστεύει ότι η ΕΕ μπορεί να διαδραματίσει καίριο ρόλο βοηθώντας τα κράτη μέλη να εναρμονίσουν την προσέγγισή τους για τη στρατιωτική ΤΝ, προκειμένου να ηγηθούν των διεθνών συζητήσεων·

29. εμμένει στην ανάγκη για μια πανευρωπαϊκή στρατηγική κατά των LAWS και την απαγόρευση των λεγόμενων «φονικών ρομπότ»·

30. τονίζει ότι η ΤΝ που χρησιμοποιείται σε στρατιωτικό πλαίσιο πρέπει να πληροί ένα ελάχιστο σύνολο απαιτήσεων, δηλαδή να είναι σε θέση να διακρίνει μεταξύ μαχητών, μη μαχητών και μαχητών στο πεδίο της μάχης, να αναγνωρίζει πότε ένας μαχητής παραδίδεται ή τίθεται εκτός μάχης, να μην έχει αδιάκριτες επιπτώσεις, να μην προκαλεί περιττό ανθρώπινο πόνο, να μην είναι μεροληπτική και να μην εκπαιδεύεται σκόπιμα σε ελλιπή δεδομένα, και να συμμορφώνεται με τις αρχές του διεθνούς ανθρωπιστικού δικαίου, την αναλογικότητα στη χρήση βίας και προφύλαξης πριν από την παρέμβαση·

31. θεωρεί ότι η χρήση φονικών αυτόνομων οπλικών συστημάτων εγείρει θεμελιώδη δεοντολογικά και νομικά ζητήματα σχετικά με την ικανότητα των ανθρώπων να ελέγχουν τα εν λόγω συστήματα, και ζητεί η τεχνολογία που λειτουργεί βάσει ΤΝ να μην είναι σε θέση να λαμβάνει αυτόνομες αποφάσεις που συνδέονται με τις νομικές αρχές της διάκρισης, της αναλογικότητας και της προφύλαξης·

32. ζητεί να ληφθούν διαφανή μέτρα για τη μείωση του κινδύνου σε διεθνές επίπεδο για την ανάπτυξη και τη χρήση της στρατιωτικής ΤΝ, ιδίως όσον αφορά τις αρχές της εδαφικής ακεραιότητας, της μη παρέμβασης και τη χρήση βίας· τονίζει ότι είναι σημαντικό να λαμβάνονται υπόψη οι στρατιωτικές πτυχές στην αντιμετώπιση νομικών και δεοντολογικών ζητημάτων στο ευρωπαϊκό πλαίσιο για την ΤΝ· υπενθυμίζει τη θέση του σχετικά με την απαγόρευση της ανάπτυξης, παραγωγής και χρήσης φονικών αυτόνομων οπλικών συστημάτων· εκφράζει τη λύπη του για το γεγονός ότι δεν υπάρχουν ρητές παγκόσμιες συμβάσεις σχετικά με τη χρήση αυτών των όπλων·

33. έχει επίγνωση του γεγονότος ότι η τρέχουσα δυναμική του ανταγωνισμού στους εξοπλισμούς που προκύπτει από την ανάπτυξη LAWS από τα ισχυρά στρατιωτικά εθνικά κράτη υπερβαίνει την επιτευχθείσα πρόοδο και την αποτελεσματική οικουμενική εφαρμογή και επιβολή κοινών κανόνων και νομικών πλαισίων, διότι οι πληροφορίες σχετικά με την ανάπτυξη και εγκατάσταση των εν λόγω συστημάτων είναι απόρρητες και διότι τα εθνικά κράτη έχουν εγγενές συμφέρον στην ανάπτυξη των ταχύτερων και πλέον αποτελεσματικών επιθετικών ικανοτήτων, ανεξάρτητα από υφιστάμενα και δυνητικά μελλοντικά νομικά πλαίσια ή συστήματα αρχών·

34. θεωρεί ότι τα LAWS θα πρέπει να χρησιμοποιούνται μόνο ως έσχατη λύση και είναι νόμιμα μόνο εάν υπόκεινται σε αυστηρό ανθρώπινο έλεγχο, με κάποιον άνθρωπο να μπορεί να αναλάβει τον έλεγχο ανά πάσα στιγμή, δεδομένου ότι η ουσιαστική ανθρώπινη παρέμβαση και επίβλεψη είναι ουσιαστικής σημασίας στη διαδικασία λήψης θανατηφόρων αποφάσεων, και εφόσον οι άνθρωποι θα πρέπει πάντα να είναι υπεύθυνοι όταν αποφασίζουν μεταξύ της ζωής και του θανάτου· πιστεύει ότι τα συστήματα χωρίς ανθρώπινο έλεγχο («human off the loop») και ανθρώπινη εποπτεία πρέπει να απαγορευτούν χωρίς εξαιρέσεις και υπό οποιεσδήποτε συνθήκες·

35. καλεί τον ΑΠ/ΥΕ, τα κράτη μέλη και το Ευρωπαϊκό Συμβούλιο να αναπτύξουν και να υιοθετήσουν επειγόντως μια κοινή θέση όσον αφορά τα αυτόνομα οπλικά συστήματα, η οποία θα διασφαλίζει ότι οι καίριες λειτουργίες των εν λόγω συστημάτων, μεταξύ άλλων και κατά τη χρήση τους, υπόκεινται σε ουσιαστικό ανθρώπινο έλεγχο, να εκφράζονται με μία φωνή στα σχετικά φόρουμ και να πράττουν αναλόγως· καλεί, στο πλαίσιο αυτό, τον ΑΠ/ΥΕ, τα κράτη μέλη και το Συμβούλιο να ανταλλάξουν βέλτιστες πρακτικές και να συλλέξουν απόψεις από εμπειρογνώμονες, ακαδημαϊκούς και την κοινωνία των πολιτών, όπως αποτυπώνεται στη θέση της 12ης Σεπτεμβρίου 2018 σχετικά με τα αυτόνομα οπλικά συστήματα, σύμφωνα με την οποία οι επιθέσεις θα πρέπει πάντα να πραγματοποιούνται με σημαντική ανθρώπινη παρέμβαση·

36. καλεί όλα τα κράτη να αξιολογήσουν κατά πόσον οι αυτόνομες στρατιωτικές συσκευές έχουν συμβάλει στην εθνική τους ασφάλεια και κατά πόσον η εθνική τους ασφάλεια θα μπορούσε να επωφεληθεί από οπλικά συστήματα που λειτουργούν βάσει ΤΝ, και ιδίως από τη δυνατότητα των εν λόγω τεχνολογιών να στηρίζουν και να προωθούν τη λήψη αποφάσεων από ανθρώπους σύμφωνα με το διεθνές ανθρωπιστικό δίκαιο και τις αρχές του· υπενθυμίζει ότι κάθε φονικό αυτόνομο οπλικό σύστημα ή όπλο με υψηλό βαθμό αυτονομίας μπορεί να παρουσιάσει δυσλειτουργίες εξαιτίας κακογραμμένου κώδικα ή κυβερνοεπίθεσης από εχθρικό κράτος ή μη κρατικό παράγοντα·

37. τονίζει ότι τα LAWS θα πρέπει να χρησιμοποιούνται μόνο σε σαφώς καθορισμένες περιπτώσεις και σύμφωνα με διαδικασίες έγκρισης που έχουν καθοριστεί λεπτομερώς εκ των προτέρων σε έγγραφα που το ενδιαφερόμενο κράτος, είτε είναι μέλος του Οργανισμού Βορειοατλαντικού Συμφώνου είτε όχι, μεριμνά να είναι προσβάσιμα στο κοινό ή, τουλάχιστον, στο εθνικό κοινοβούλιό του·

38. θεωρεί ότι τα LAWS πρέπει να συμμορφώνονται με τις διατάξεις της Σύμβασης της 10ης Οκτωβρίου 1980 σχετικά με ορισμένα συμβατικά όπλα, συμπεριλαμβανομένης της απαγόρευσης των όπλων που θεωρούνται «εξαιρετικώς επιβλαβή»·

39. προτείνει, προκειμένου να αποφευχθεί η ανεξέλεγκτη διάδοσή τους, να συμπεριληφθούν τα LAWS στον κατάλογο των όπλων που υπόκεινται στις διατάξεις της Συνθήκης για το εμπόριο όπλων, της 2ας Απριλίου 2013, ο οποίος περιλαμβάνεται στο άρθρο 2 αυτής της Συνθήκης·

40. ζητεί, προκειμένου να αποφεύγεται κάθε σύγχυση μεταξύ ανθρώπου και ρομπότ, την απαγόρευση των ανθρωπόμορφων LAWS·

41. εκφράζει την ικανοποίησή του για τη συμφωνία μεταξύ του Συμβουλίου και του Κοινοβουλίου να εξαιρεθούν τα φονικά αυτόνομα όπλα «χωρίς τη δυνατότητα ουσιαστικού ανθρώπινου ελέγχου επί των αποφάσεων επιλογής και εμπλοκής κατά τη διενέργεια απεργιών» από δράσεις που χρηματοδοτούνται στο πλαίσιο του Ευρωπαϊκού Ταμείου Άμυνας (ΕΤΑ)· υπενθυμίζει τη θέση του ότι η χρήση, η ανάπτυξη ή η παραγωγή LAWS χωρίς ουσιαστικό ανθρώπινο έλεγχο δεν είναι επιλέξιμη για χρηματοδότηση στο πλαίσιο του ΕΤΑ·

42. καλεί την Επιτροπή να στηρίξει την έρευνα, την ανάπτυξη, την ανάπτυξη και την υλοποίηση της ΤΝ για τη διατήρηση της ειρήνης και την πρόληψη των συγκρούσεων·

43. επισημαίνει ότι το παγκόσμιο οικοσύστημα τεχνητής νοημοσύνης κυριαρχείται από αμερικανούς και κινεζικούς ψηφιακούς κολοσσούς, οι οποίοι αναπτύσσουν εγχώριες ικανότητες και αγοράζουν πολλές ελπιδοφόρες εταιρείες· πιστεύει, ως εκ τούτου, ακράδαντα ότι, προκειμένου να αποφευχθεί η υστέρηση στην τεχνολογία της τεχνητής νοημοσύνης, η ΕΕ πρέπει να κινηθεί προς μια καλύτερη ισορροπία μεταξύ της βασικής έρευνας και των βιομηχανικών εφαρμογών, αναπτύσσοντας παράλληλα συγκριτικά στρατηγικά πλεονεκτήματα με την περαιτέρω ανάπτυξη του δυναμικού και των πόρων της·

44. τονίζει ότι, εφόσον εμπίπτουν στον ορισμό των μηχανών που ορίζει η οδηγία 2006/42/ΕΚ, τα ρομπότ πρέπει να σχεδιάζονται και να συναρμολογούνται σύμφωνα με τα πρότυπα και τα μέτρα ασφάλειας που προβλέπονται σε αυτήν·

45. υπενθυμίζει τη φιλοδοξία της ΕΕ να αποτελέσει παγκόσμιο παράγοντα ειρήνης και ζητεί να διευρυνθεί ο ρόλος της στις προσπάθειες για τον παγκόσμιο αφοπλισμό και τη μη διάδοση των πυρηνικών όπλων, και οι ενέργειες και οι πολιτικές της να επιδιώκουν τη διατήρηση της διεθνούς ειρήνης και ασφάλειας, τον σεβασμό του διεθνούς ανθρωπιστικού δικαίου και του δικαίου των ανθρωπίνων δικαιωμάτων και την προστασία των πολιτών και των μη στρατιωτικών υποδομών·

46. τονίζει την ανάγκη να εξεταστεί ο δυνητικός αντίκτυπος της ΤΝ ως στρατηγικού παράγοντα για την Κοινή Πολιτική Ασφάλειας και Άμυνας (ΚΠΑΑ) της ΕΕ, ιδίως σε στρατιωτικές και μη στρατιωτικές αποστολές και επιχειρήσεις, και για την ανάπτυξη των ικανοτήτων της ΕΕ·

47. υπενθυμίζει ότι οι σύμμαχοί μας, σε πλαίσια κρατών, ΝΑΤΟ ή ΕΕ, βρίσκονται και οι ίδιοι στη διαδικασία ενσωμάτωσης της ΤΝ στα στρατιωτικά συστήματά τους· πιστεύει ότι η διαλειτουργικότητα με τους συμμάχους μας πρέπει να διατηρηθεί μέσω κοινών προτύπων, τα οποία είναι απαραίτητα για τη διεξαγωγή των επιχειρήσεων εντός του συνασπισμού· υπενθυμίζει ότι, πέραν αυτού, η συνεργασία στον τομέα της ΤΝ θα πρέπει να πραγματοποιείται μέσα σε ένα ευρωπαϊκό πλαίσιο, το οποίο αποτελεί το μόνο συναφές πλαίσιο για την πραγματική δημιουργία ισχυρών συνεργειών, όπως προτείνεται από τη στρατηγική της ΕΕ για την ΤΝ·

48. θεωρεί ότι η ΕΕ πρέπει να παρακολουθεί προσεκτικά και να εξετάζει τις επιπτώσεις της προόδου της ΤΝ στην άμυνα και τον πόλεμο, συμπεριλαμβανομένων δυνητικά αποσταθεροποιητικών εξελίξεων και τοποθετήσεων, και να καθοδηγεί τη δεοντολογική έρευνα και τον σχεδιασμό, διασφαλίζοντας την ακεραιότητα των δεδομένων προσωπικού χαρακτήρα και την ατομική πρόσβαση και τον έλεγχο, καθώς και λαμβάνοντας υπόψη οικονομικά και ανθρωπιστικά ζητήματα·

49. υπενθυμίζει τη θέση που διατύπωσε το Ευρωπαϊκό Κοινοβούλιο στις 12 Σεπτεμβρίου 2018 για τα αυτόνομα οπλικά συστήματα, σύμφωνα με την οποία δεν πρέπει να πραγματοποιούνται επιθέσεις χωρίς ουσιαστική ανθρώπινη παρέμβαση· καλεί τον ΑΠ/ΥΕ, τα κράτη μέλη και το Ευρωπαϊκό Συμβούλιο να υιοθετήσουν κοινή θέση όσον αφορά τα αυτόνομα οπλικά συστήματα, η οποία θα διασφαλίζει ότι οι καίριες λειτουργίες των εν λόγω συστημάτων, μεταξύ άλλων και κατά τη χρήση τους, υπόκεινται σε ουσιαστικό ανθρώπινο έλεγχο· επαναβεβαιώνει τη στήριξή του προς το έργο της ομάδας κυβερνητικών εμπειρογνωμόνων για τα LAWS, την οποία συγκρότησαν τα υψηλά συμβαλλόμενα μέρη στη Σύμβαση του ΟΗΕ για την απαγόρευση ορισμένων συμβατικών όπλων και η οποία εξακολουθεί να αποτελεί το αρμόδιο διεθνές φόρουμ για τη διεξαγωγή συζητήσεων και διαπραγματεύσεων σχετικά με τα νομικά προβλήματα που προκύπτουν από τη χρήση αυτόνομων οπλικών συστημάτων· ζητεί την επιτάχυνση όλων των υφιστάμενων πολυμερών προσπαθειών ώστε η τεχνολογική πρόοδος και η ανάπτυξη νέων μεθόδων πολεμικών επιχειρήσεων να μην συμβαίνουν με ρυθμούς με τους οποίους δεν συμβαδίζουν τα κανονιστικά και ρυθμιστικά πλαίσια· καλεί τον ΑΠ/ΥΕ, στο πλαίσιο των διεξαγόμενων συζητήσεων σχετικά με την ανάπτυξη διεθνών κανόνων για τα LAWS από τα συμβαλλόμενα κράτη της Σύμβασης για την απαγόρευση ορισμένων συμβατικών όπλων, να τηρήσει τις δεσμεύσεις του και να συμβάλει, χωρίς καθυστέρηση, στην προώθηση της προσπάθειας να θεσπιστεί ένα νέο, παγκόσμιο κανονιστικό πλαίσιο και ένα νομικά δεσμευτικό μέσο που θα εστιάζει στους ορισμούς, τις έννοιες και τα χαρακτηριστικά των αναδυόμενων τεχνολογιών στον τομέα των LAWS, σε δεοντολογικά και νομικά ζητήματα σχετικά με τον ανθρώπινο έλεγχο, ιδίως όσον αφορά τις κρίσιμες λειτουργίες τους, όπως για παράδειγμα η επιλογή ενός στόχου και οι ενέργειες, καθώς και στη διατήρηση της ανθρώπινης ευθύνης και υποχρέωσης λογοδοσίας, και στον αναγκαίο βαθμό αλληλεπίδρασης ανθρώπου-μηχανής, συμπεριλαμβανομένης της έννοιας του ανθρώπινου ελέγχου και της ανθρώπινης κρίσης· ζητεί οι προσπάθειες αυτές να διασφαλίσουν τη συμμόρφωση με το διεθνές ανθρωπιστικό δίκαιο και το δίκαιο των ανθρωπίνων δικαιωμάτων κατά τα διάφορα στάδια του κύκλου ζωής των όπλων που λειτουργούν βάσει ΤΝ, με σκοπό την έγκριση συγκεκριμένων συστάσεων για την αποσαφήνιση, την εξέταση και την ανάπτυξη πτυχών του κανονιστικού πλαισίου σχετικά με τις αναδυόμενες τεχνολογίες στον τομέα των LAWS·

50. πιστεύει ότι είναι υψίστης σημασίας για την παγκόσμια ασφάλεια ένας αποτελεσματικός μηχανισμός για την επιβολή των κανόνων για τη μη διάδοση των LAWS και μελλοντικής τεχνολογίας επιθέσεων που λειτουργεί βάσει ΤΝ·

Κρατική εξουσία: παραδείγματα από τους τομείς αστικού χαρακτήρα, συμπεριλαμβανομένης της υγείας και της δικαιοσύνης

51. τονίζει ότι τα κράτη μέλη πρέπει να ενεργούν αποτελεσματικά για να μειώσουν την εξάρτησή τους από ξένα δεδομένα και, χωρίς να στρεβλώνουν σημαντικά την αγορά, να διασφαλίζουν ότι η κατοχή εξαιρετικά εξελιγμένων τεχνολογιών τεχνητής νοημοσύνης από ισχυρούς ιδιωτικούς ομίλους δεν έχει ως αποτέλεσμα την αμφισβήτηση ή ακόμη και την εξουδετέρωση της εξουσίας του κράτους από ιδιωτικές οντότητες, ιδίως εάν οι εν λόγω ιδιωτικοί όμιλοι ανήκουν σε τρίτη χώρα εκτός της Ευρωπαϊκής Ένωσης·

52. τονίζει ότι η χρήση συστημάτων ΤΝ στη διαδικασία λήψης αποφάσεων των δημόσιων αρχών μπορεί να οδηγήσει σε μεροληπτικές αποφάσεις που επηρεάζουν αρνητικά τους πολίτες και, ως εκ τούτου, θα πρέπει να υπόκειται σε αυστηρά κριτήρια ελέγχου όσον αφορά, μεταξύ άλλων, την ασφάλεια, τη διαφάνεια, τη λογοδοσία, τη μη εισαγωγή διακρίσεων, και την κοινωνική και περιβαλλοντική ευθύνη τους· ζητεί από τα κράτη μέλη να αξιολογήσουν τους κινδύνους που σχετίζονται με αποφάσεις που βασίζονται στην ΤΝ και συνδέονται με την άσκηση κρατικής εξουσίας, και να προβλέψουν διασφαλίσεις όπως η ουσιαστική ανθρώπινη εποπτεία, οι απαιτήσεις διαφάνειας και η δυνατότητα αμφισβήτησης των εν λόγω αποφάσεων·

53. ζητεί από τα κράτη μέλη να αξιολογήσουν τους κινδύνους που συνδέονται με τεχνολογίες που λειτουργούν βάσει ΤΝ, πριν αυτοματοποιήσουν δραστηριότητες που συνδέονται με την άσκηση κρατικής εξουσίας, όπως είναι η απονομή της δικαιοσύνης· καλεί τα κράτη μέλη να εξετάσουν την ανάγκη πρόβλεψης διασφαλίσεων, όπως η εποπτεία από ειδικευμένο επαγγελματία και οι αυστηροί κανόνες επαγγελματικής δεοντολογίας·

54. τονίζει τη σημασία της ανάληψης δράσης σε ευρωπαϊκό επίπεδο για την προώθηση των απαραίτητων επενδύσεων, των υποδομών δεδομένων, της έρευνας, συμπεριλαμβανομένης της έρευνας για τη χρήση της τεχνητής νοημοσύνης από τις δημόσιες αρχές και ενός κοινού δεοντολογικού πλαισίου·

55. τονίζει ότι η Ευρωπαϊκή Ένωση πρέπει να επιδιώξει στρατηγική ανθεκτικότητα προκειμένου να μην βρεθεί ποτέ ξανά απροετοίμαστη σε περίπτωση κρίσης, και υπογραμμίζει ότι αυτό έχει καθοριστική σημασία ιδίως όσον αφορά την τεχνητή νοημοσύνη και τις εφαρμογές της στον στρατιωτικό τομέα· επισημαίνει ότι οι εφοδιαστικές αλυσίδες για συστήματα ΤΝ στον στρατιωτικό τομέα που μπορούν να οδηγήσουν σε τεχνολογική εξάρτηση θα πρέπει να επανεξεταστούν και ότι οι εν λόγω εξαρτήσεις θα πρέπει να καταργηθούν σταδιακά· ζητεί να αυξηθούν οι επενδύσεις στην ευρωπαϊκή ΤΝ για την άμυνα και στις υποδομές ζωτικής σημασίας στις οποίες βασίζεται·

56. ζητεί από την Επιτροπή να αξιολογήσει τις συνέπειες ενός μορατόριουμ στη χρήση συστημάτων αναγνώρισης προσώπου και, ανάλογα με τα αποτελέσματα της εν λόγω αξιολόγησης, να εξετάσει την επιβολή μορατόριουμ στη χρήση τέτοιων συστημάτων από τις δημόσιες αρχές σε δημόσιους χώρους και σε εγκαταστάσεις που προορίζονται για σκοπούς παροχής εκπαίδευσης και υγειονομικής περίθαλψης, καθώς και στη χρήση συστημάτων αναγνώρισης προσώπου από τις αρχές επιβολής του νόμου σε ημιδημόσιους χώρους, όπως τα αεροδρόμια, έως ότου τα τεχνικά πρότυπα να μπορούν να θεωρηθούν πλήρως συμβατά με τα θεμελιώδη δικαιώματα, τα αποτελέσματα που προκύπτουν να μην είναι μεροληπτικά και να μην εισάγουν διακρίσεις και να υπάρχουν αυστηρές εγγυήσεις για την αντιμετώπιση της κατάχρησης που θα διασφαλίζουν την αναγκαιότητα και την αναλογικότητα στη χρήση των εν λόγω τεχνολογιών·

57. τονίζει τη σημασία της κυβερνοασφάλειας για την ΤΝ, τόσο σε επιθετικά όσο και σε αμυντικά σενάρια· επισημαίνει, στο πλαίσιο αυτό, ότι είναι σημαντικό να υπάρχει διεθνής συνεργασία και να δημοσιεύονται και να ανταλλάσσονται τρωτά σημεία και διορθωτικά μέτρα στον τομέα της ασφάλειας ΤΠ· ζητεί διεθνή συνεργασία στον τομέα της κυβερνοασφάλειας για την αποτελεσματική χρήση και υλοποίηση της ΤΝ, καθώς και διασφαλίσεις έναντι της κατάχρησης της ΤΝ και των επιθέσεων στον κυβερνοχώρο· σημειώνει, επιπλέον, τον διττό χαρακτήρα των συστημάτων ΤΠ (δηλαδή της χρήσης για μη στρατιωτικούς και στρατιωτικούς σκοπούς), καθώς και της ΤΝ, και ζητεί να υπάρξει αποτελεσματική ρύθμισή στον τομέα αυτόν·

58. πιστεύει ότι τα κράτη μέλη θα πρέπει να προωθούν τεχνολογίες τεχνητής νοημοσύνης που λειτουργούν για τους ανθρώπους και ότι τα άτομα που έχουν αποτελέσει αντικείμενο απόφασης που έχει ληφθεί από δημόσια αρχή βάσει των πληροφοριών ενός συστήματος ΤΝ θα πρέπει να ενημερώνονται σχετικά, θα πρέπει να λαμβάνουν τις πληροφορίες που αναφέρονται στην προηγούμενη παράγραφο χωρίς καθυστέρηση, να έχουν τη δυνατότητα να αμφισβητήσουν την εν λόγω απόφαση και να επιλέξουν την επίλυση της εν λόγω προσφυγής χωρίς την παρέμβαση συστήματος ΤΝ· καλεί τα κράτη μέλη να εξετάσουν την ανάγκη καθιέρωσης διασφαλίσεων, όπως προβλέπεται στην οδηγία (ΕΕ) 2018/958, όπως η εποπτεία από ειδικευμένο επαγγελματία και οι κανόνες επαγγελματικής δεοντολογίας·

59. υπογραμμίζει ότι οι προβλέψεις που προκύπτουν από την ανταλλαγή δεδομένων, την πρόσβαση σε δεδομένα ή τη χρήση δεδομένων πρέπει να διέπονται από τις απαιτήσεις για ποιότητα, ακεραιότητα, διαφάνεια, ασφάλεια, ιδιωτικότητα και έλεγχο· τονίζει ότι είναι αναγκαίο σε όλα τα στάδια της ανάπτυξης, της υλοποίησης και της χρήσης της ΤΝ, της ρομποτικής και των συναφών τεχνολογιών να τηρείται το νομικό πλαίσιο της ΕΕ για την προστασία των δεδομένων προσωπικού χαρακτήρα και της ιδιωτικότητας, προκειμένου να αυξηθεί η ασφάλεια και η εμπιστοσύνη των πολιτών στις εν λόγω τεχνολογίες·

60. παρατηρεί την ταχεία ανάπτυξη των εφαρμογών ΤΝ που αναγνωρίζουν μοναδικά χαρακτηριστικά στοιχεία, όπως χαρακτηριστικά προσώπου, κινήσεις και συμπεριφορές· προειδοποιεί για ζητήματα παραβίασης της ιδιωτικότητας, μη εισαγωγής διακρίσεων και προστασίας των δεδομένων προσωπικού χαρακτήρα που σχετίζονται με τη χρήση αυτοματοποιημένων αιτήσεων αναγνώρισης·

61. υπογραμμίζει ότι οποιαδήποτε απόφαση για φυσικό πρόσωπο βασίζεται αποκλειστικά σε αυτοματοποιημένη επεξεργασία, συμπεριλαμβανομένης της κατάρτισης προφίλ, και έχει δυσμενείς νομικές συνέπειες για το υποκείμενο των δεδομένων ή το επηρεάζει σημαντικά, απαγορεύεται βάσει του ΓΚΠΔ, εκτός εάν επιτρέπεται από το δίκαιο της Ένωσης ή κράτους μέλους, με την επιφύλαξη κατάλληλων μέτρων για τη διασφάλιση των δικαιωμάτων, των ελευθεριών και των εννόμων συμφερόντων των υποκειμένων των δεδομένων·

62. ζητεί την εξηγησιμότητα των αλγορίθμων, τη διαφάνεια και τη ρυθμιστική εποπτεία κατά τη χρήση της τεχνητής νοημοσύνης από τις δημόσιες αρχές, καθώς και την εκπόνηση εκτιμήσεων αντικτύπου πριν χρησιμοποιηθούν από τις κρατικές αρχές εργαλεία με τεχνολογίες ΤΝ· καλεί την Επιτροπή και το Ευρωπαϊκό Συμβούλιο Προστασίας Δεδομένων να εκδώσουν κατευθυντήριες γραμμές και συστάσεις και να αναπτύξουν βέλτιστες πρακτικές για την περαιτέρω διασαφήνιση των κριτηρίων και των προϋποθέσεων που ισχύουν για τις αποφάσεις που βασίζονται στην κατάρτιση προφίλ και στη χρήση της ΤΝ από δημόσιες αρχές·

63. διαπιστώνει ότι η τεχνητή νοημοσύνη αναλαμβάνει όλο και πιο θεμελιώδη ρόλο στην ιατρική περίθαλψη, ιδίως μέσω αλγορίθμων υποβοηθούμενης διάγνωσης, χειρουργικής υποβοηθούμενης με ρομπότ, έξυπνων τεχνητών μελών, εξατομικευμένων θεραπειών βασιζόμενων στην τρισδιάστατη μοντελοποίηση του σώματος συγκεκριμένου ασθενούς, κοινωνικών ρομπότ που βοηθούν ηλικιωμένους, ψηφιακών θεραπειών που αποσκοπούν στη βελτίωση της αυτονομίας ορισμένων ψυχικά ασθενών, προληπτικής ιατρικής και λογισμικού απόκρισης σε επιδημίες·

64. επιμένει, ωστόσο, ότι όλες οι χρήσεις της ΤΝ στον τομέα της δημόσιας υγείας θα πρέπει να εγγυώνται την προστασία των δεδομένων προσωπικού χαρακτήρα των ασθενών και να μην επιτρέπουν την ανεξέλεγκτη διάδοσή τους·

65. ζητεί όλες οι χρήσεις της ΤΝ στη δημόσια υγεία να τηρούν την αρχή της ίσης μεταχείρισης των ασθενών όσον αφορά την πρόσβαση στη θεραπεία, να διαφυλάσσουν τη σχέση ασθενούς και ιατρού, και να συνάδουν πάντοτε με τον Όρκο του Ιπποκράτη, ούτως ώστε ο ιατρός να είναι πάντα σε θέση να παρεκκλίνει από τη λύση που προτείνει η ΤΝ, διατηρώντας έτσι την ευθύνη για οποιαδήποτε απόφαση·

66. σημειώνει ότι η χρήση της ΤΝ για την καταπολέμηση του εγκλήματος και του εγκλήματος στον κυβερνοχώρο θα μπορούσε να προσφέρει ευρύ φάσμα δυνατοτήτων και ευκαιριών· επιβεβαιώνει, ταυτόχρονα, ότι θα πρέπει να εξακολουθήσει να υπερισχύει η αρχή που ορίζει ότι οτιδήποτε είναι παράνομο εκτός Διαδικτύου είναι παράνομο και στο Διαδίκτυο·

67. επισημαίνει ότι η ΤΝ χρησιμοποιείται όλο και περισσότερο στον τομέα της δικαιοσύνης, προκειμένου να μπορούν οι δικαστές να λαμβάνουν αποφάσεις που είναι πιο λογικές, ταχύτερες και συνάδουν καλύτερα με την ισχύουσα νομοθεσία· εκφράζει την ικανοποίησή του για το γεγονός ότι η χρήση της ΤΝ αναμένεται να επιταχύνει τις δικαστικές διαδικασίες·

68. θεωρεί ότι είναι αναγκαίο να διευκρινιστεί κατά πόσον είναι σκόπιμο οι αποφάσεις επιβολής του νόμου να ανατίθενται εν μέρει στην ΤΝ, διατηρώντας παράλληλα τον ανθρώπινο έλεγχο επί της τελικής απόφασης·

69. τονίζει ότι η χρήση της ΤΝ στο σύστημα απονομής δικαιοσύνης θα μπορούσε να βελτιώσει την ανάλυση και τη συλλογή δεδομένων και την προστασία των θυμάτων και ότι τούτο θα πρέπει να διερευνηθεί στον τομέα της έρευνας και της ανάπτυξης, σε συνδυασμό με εκτιμήσεις αντικτύπου, ιδίως όσον αφορά τις εγγυήσεις για τη δέουσα διαδικασία και την καταπολέμηση των προκαταλήψεων και των διακρίσεων, εφαρμόζοντας την αρχή της προφύλαξης· υπενθυμίζει, ωστόσο, ότι τούτο δεν συνιστά υποκατάστατο της συμμετοχής του ανθρώπου στην επιβολή ποινών ή τη λήψη αποφάσεων·

70. υπενθυμίζει τη σημασία των αρχών της διακυβέρνησης, της διαφάνειας, της αμεροληψίας, της λογοδοσίας, της δικαιοσύνης και της διανοητικής ακεραιότητας κατά τη χρήση της ΤΝ στην ποινική δικαιοσύνη·

71. ζητεί από τα κράτη μέλη να αξιολογήσουν τους κινδύνους που συνδέονται με τεχνολογίες που λειτουργούν βάσει ΤΝ, πριν αυτοματοποιήσουν δραστηριότητες που συνδέονται με την άσκηση κρατικής εξουσίας, ιδίως στον τομέα της δικαιοσύνης· καλεί τα κράτη μέλη να εξετάσουν την ανάγκη πρόβλεψης διασφαλίσεων, όπως η εποπτεία από ειδικευμένο επαγγελματία και οι κανόνες επαγγελματικής δεοντολογίας·

72. σημειώνει ότι ορισμένες τεχνολογίες ΤΝ καθιστούν δυνατή την αυτοματοποίηση της επεξεργασίας πληροφοριών και τη δράση σε μια άνευ προηγουμένου κλίμακα, όπως στην περίπτωση της μαζικής στρατιωτικής και μη στρατιωτικής παρακολούθησης, η οποία συνιστά απειλή για τα θεμελιώδη δικαιώματα και ανοίγει τον δρόμο για παράνομες παρεμβάσεις στο πλαίσιο της εθνικής κυριαρχίας· ζητεί τον έλεγχο των δραστηριοτήτων μαζικής παρακολούθησης σύμφωνα με το διεθνές δίκαιο, μεταξύ άλλων όσον αφορά ζητήματα δικαιοδοσίας και επιβολής· εκφράζει σοβαρές ανησυχίες για ορισμένες εξαιρετικά παρεμβατικές εφαρμογές κοινωνικής βαθμολόγησης που έχουν αναπτυχθεί, καθώς συνιστούν εξαιρετικό κίνδυνο για τον σεβασμό των θεμελιωδών δικαιωμάτων· ζητεί τη ρητή απαγόρευση της χρήσης μαζικής κοινωνικής βαθμολόγησης από τις δημόσιες αρχές ως τρόπου για τον περιορισμό των δικαιωμάτων των πολιτών· ζητεί να ενισχυθεί η λογοδοσία των ιδιωτικών φορέων βάσει του διεθνούς δικαίου, δεδομένης της εξουσίας λήψης αποφάσεων και του ελέγχου ορισμένων ιδιωτικών φορέων όσον αφορά την ανάπτυξη αυτών των τεχνολογιών· καλεί, στο πλαίσιο αυτό, την Επιτροπή, το Συμβούλιο και τα κράτη μέλη να δώσουν ιδιαίτερη προσοχή κατά τη διαπραγμάτευση, τη σύναψη και την κύρωση διεθνών συμφωνιών που σχετίζονται με διασυνοριακές οικογενειακές υποθέσεις, όπως οι διεθνείς απαγωγές παιδιών, και να διασφαλίσουν ότι, στο πλαίσιο αυτό, τα συστήματα ΤΝ χρησιμοποιούνται πάντα υπό αποτελεσματική ανθρώπινη επαλήθευση και σέβονται τη δέουσα διαδικασία εντός της ΕΕ και των χωρών που έχουν υπογράψει τις εν λόγω συμφωνίες·

73. ζητεί να τηρείται ενήμερο το κοινό σχετικά με τη χρήση της ΤΝ στον τομέα της δικαιοσύνης και οι χρήσεις αυτές να μην προκαλούν διακρίσεις λόγω μεροληψίας κατά τη διάρκεια του προγραμματισμού· τονίζει ότι πρέπει να γίνεται σεβαστό το δικαίωμα κάθε ατόμου να έχει πρόσβαση σε δημόσιο λειτουργό, καθώς και το δικαίωμα του υπεύθυνου υπαλλήλου να λαμβάνει προσωπικά την απόφαση και να παρεκκλίνει από τις πληροφορίες που λαμβάνει από την ΤΝ όταν το κρίνει αναγκαίο υπό το φως των λεπτομερειών του εκάστοτε ζητήματος· υπογραμμίζει το δικαίωμα του εναγομένου να προσβάλει την απόφαση σύμφωνα με την εθνική νομοθεσία, χωρίς ποτέ να εξαλείφει την τελική ευθύνη του δικαστικού σώματος·

74. ζητεί, ως εκ τούτου, όλες αυτές οι δημόσιες και διοικητικές χρήσεις να θεωρούνται ως δημόσιες πληροφορίες και να αποφεύγονται οι διακρίσεις λόγω μεροληψίας κατά τη διάρκεια του προγραμματισμού·

75. τονίζει ότι είναι σημαντικό να καταστεί δυνατή η ορθή υλοποίηση και χρήση της ΤΝ· καλεί τα κράτη μέλη να παράσχουν στο πολιτικό και στρατιωτικό προσωπικό τους κατάλληλη κατάρτιση, προκειμένου να μπορούν να εντοπίζουν με ακρίβεια και να αποφεύγουν τις διακρίσεις και τη μεροληψία στα σύνολα δεδομένων·

76. εκφράζει τη βαθιά του ανησυχία για τις τεχνολογίες βαθιά ψευδών πληροφοριών (deepfake) που επιτρέπουν την παραγωγή ολοένα και πιο ρεαλιστικών παραποιήσεων φωτογραφιών, ήχου και βίντεο που θα μπορούσαν να χρησιμοποιηθούν για εκβιασμό, δημιουργία ψευδών ειδήσεων ή για διάβρωση της δημόσιας εμπιστοσύνης και άσκηση επιρροής στον δημόσιο λόγο· θεωρεί ότι τέτοιες πρακτικές έχουν το δυναμικό για αποσταθεροποίηση των χωρών, διάδοση παραπληροφόρησης και άσκηση επιρροής επί των εκλογών· ζητεί, ως εκ τούτου, να επιβληθεί η υποχρέωση το σύνολο του υλικού βαθιά ψευδών πληροφοριών ή σε τυχόν άλλα ρεαλιστικά συνθετικά βίντεο να επισημαίνονται ως «μη γνήσια» από τον δημιουργό τους, με αυστηρούς περιορισμούς όταν χρησιμοποιούνται για εκλογικούς σκοπούς και αυστηρή επιβολή· ζητεί κατάλληλη έρευνα στον τομέα αυτόν προκειμένου να διασφαλιστεί ότι οι τεχνολογίες καταπολέμησης αυτών των φαινομένων συμβαδίζουν με την κακόβουλη χρήση της ΤΝ·

Μεταφορές

77. σημειώνει το σημαντικό οικονομικό δυναμικό των εφαρμογών ΤΝ, μεταξύ άλλων για τη βελτιστοποίηση της μακροπρόθεσμης επίδοσης, συντήρησης, πρόβλεψης των σφαλμάτων και κατασκευαστικής σχεδίασης των υποδομών μεταφορών και των κτιρίων, καθώς και για την ασφάλεια, την ενεργειακή απόδοση ή το κόστος· καλεί, ως εκ τούτου, την Επιτροπή να συνεχίσει να προωθεί την έρευνα για την ΤΝ και την ανταλλαγή ορθών πρακτικών στον τομέα των μεταφορών·

78. τονίζει την ανάγκη να προωθηθεί η τεχνητή νοημοσύνη με σκοπό την προώθηση της πολυτροπικότητας, της διαλειτουργικότητας και της ενεργειακής απόδοσης όλων των μέσων μεταφοράς, ώστε να βελτιωθεί η αποτελεσματικότητα της οργάνωσης και της διαχείρισης των ροών εμπορευμάτων και επιβατών, να αξιοποιηθούν καλύτερα οι υποδομές και οι πόροι κατά μήκος του διευρωπαϊκού δικτύου μεταφορών (ΔΕΔ‑Μ) και να αντιμετωπιστούν τα εμπόδια στη δημιουργία ενός πραγματικού Ενιαίου Ευρωπαϊκού Χώρου Μεταφορών·

79. υπενθυμίζει τα οφέλη του Ευρωπαϊκού Συστήματος Διαχείρισης της Σιδηροδρομικής Κυκλοφορίας (ERTMS), ενός αυτόματου συστήματος προστασίας των αμαξοστοιχιών που λειτουργεί απρόσκοπτα και στηρίζει την ανάπτυξη και τη διεθνή τυποποίηση της αυτοματοποίησης των σιδηροδρομικών λειτουργιών·

80. χαιρετίζει το έργο του ερευνητικού προγράμματος διαχείρισης της εναέριας κυκλοφορίας στο πλαίσιο του Ενιαίου Ευρωπαϊκού Ουρανού (SESAR) στον τομέα των συστημάτων μη επανδρωμένων αεροσκαφών και των συστημάτων διαχείρισης της εναέριας κυκλοφορίας, στρατιωτικών και μη·

81. υπενθυμίζει ότι τα αυτόνομα οχήματα έχουν μεγάλες δυνατότητες να βελτιώσουν την κινητικότητα και την ασφάλεια και να αποφέρουν περιβαλλοντικά οφέλη, και καλεί την Επιτροπή και τα κράτη μέλη να διασφαλίσουν τη συνεργασία μεταξύ των ρυθμιστικών αρχών και όλων των ενδιαφερόμενων μερών που σχετίζονται με την ανάπτυξη αυτοματοποιημένων οδικών οχημάτων στην ΕΕ·

82. επισημαίνει ότι τα τελευταία χρόνια η παγκόσμια ναυτιλία έχει αλλάξει σημαντικά χάρη στην ενσωμάτωση της ΤΝ· υπενθυμίζει τις τρέχουσες διεξοδικές συζητήσεις στο πλαίσιο του Διεθνούς Ναυτιλιακού Οργανισμού σχετικά με την ουσιαστική ενσωμάτωση στο κανονιστικό πλαίσιο των νέων και αναδυόμενων τεχνολογιών, όπως τα αυτόνομα πλοία·

83. τονίζει ότι τα ευφυή συστήματα μεταφορών μετριάζουν την κυκλοφοριακή συμφόρηση, αυξάνουν την ασφάλεια και την προσβασιμότητα και συμβάλλουν στη βελτίωση της διαχείρισης των ροών κυκλοφορίας, στην αποδοτικότητα και στις λύσεις κινητικότητας· εφιστά την προσοχή στην αυξημένη έκθεση των παραδοσιακών δικτύων μεταφορών σε κυβερνοαπειλές· υπενθυμίζει τη σημασία των επαρκών πόρων και της περαιτέρω έρευνας όσον αφορά τους κινδύνους ασφάλειας για τη διασφάλιση της ασφάλειας των αυτοματοποιημένων συστημάτων και των δεδομένων τους· επικροτεί την πρόθεση της Επιτροπής να συμπεριλαμβάνει τακτικά την κυβερνοασφάλεια ως σημείο της ημερήσιας διάταξης προς συζήτηση στο πλαίσιο των διεθνών οργανισμών που σχετίζονται με τις μεταφορές·

84. επικροτεί τις προσπάθειες για την εισαγωγή συστημάτων ΤΝ στον δημόσιο τομέα και πρόκειται να στηρίξει περαιτέρω συζητήσεις για την υλοποίηση της ΤΝ στις μεταφορές· καλεί την Επιτροπή να διενεργήσει αξιολόγηση της χρήσης της ΤΝ και των παρεμφερών τεχνολογιών στον τομέα των μεταφορών και να καταρτίσει μη εξαντλητικό κατάλογο των τμημάτων υψηλού κινδύνου στα συστήματα ΤΝ που θα αντικαταστήσουν αποφάσεις στο πλαίσιο του προνομίου άσκησης δημόσιας εξουσίας στον εν λόγω τομέα·

85. υπογραμμίζει ότι το Ευρωπαϊκό Ταμείο Άμυνας και η μόνιμη διαρθρωμένη συνεργασία θα πρέπει να ενθαρρύνουν τη συνεργασία μεταξύ των κρατών μελών και των ευρωπαϊκών αμυντικών βιομηχανιών για την ανάπτυξη νέων ευρωπαϊκών αμυντικών ικανοτήτων στον τομέα της ΤΝ και να διασφαλίσουν την ασφάλεια του εφοδιασμού, λαμβάνοντας υπόψη δεοντολογικές παραμέτρους· τονίζει την ανάγκη αποφυγής του κατακερματισμού μέσω της δημιουργίας γεφυρών μεταξύ διαφόρων φορέων και τομέων εφαρμογής, μέσω της προώθησης της συμβατότητας και της διαλειτουργικότητας σε όλα τα επίπεδα και μέσω της εστίασης σε κοινό έργο σε αρχιτεκτονικό επίπεδο και σε λύσεις πλατφόρμας· υπενθυμίζει, επιπλέον, ότι ο επόμενος μηχανισμός «Συνδέοντας την Ευρώπη», ο οποίος προωθεί επίσης τις έξυπνες υποδομές, θα προβλέπει ταμείο για την προσαρμογή και για την ανάπτυξη στρατιωτικών ή μη υποδομών διπλής χρήσης για τις μεταφορές στο ΔΕΔ‑Μ, έτσι ώστε να αυξηθούν οι συνέργειες μεταξύ των στρατιωτικών αναγκών και των αναγκών άμυνας, με σκοπό τη βελτίωση της στρατιωτικής και μη κινητικότητας εντός της Ένωσης· τονίζει, επομένως, την ανάγκη για περαιτέρω ευρωπαϊκές επενδύσεις, έρευνα και πρωτοπορία στον τομέα των τεχνολογιών που έχουν μεγάλο αντίκτυπο στην οικονομική ανάπτυξη και σημαντικό δυναμικό διττής χρήσης·

86. τονίζει ότι πολλές επενδύσεις σε νέες τεχνολογίες στις μεταφορές και την κινητικότητα είναι καθοδηγούμενες από την αγορά, αλλά οι εμπορικές τεχνολογίες και τα προϊόντα που είναι διττής χρήσης και άμεσα διαθέσιμα χρησιμοποιούνται συχνά με καινοτόμους τρόπους για στρατιωτικούς σκοπούς· επισημαίνει, επομένως, ότι οι δυνατότητες διττής χρήσης των λύσεων που λειτουργούν βάσει ΤΝ πρέπει να λαμβάνονται υπόψη κατά την κατάρτιση προτύπων για τη χρήση της ΤΝ σε διάφορους κλάδους του εμπορικού και του στρατιωτικού τομέα· ζητεί να συμπεριληφθούν υψηλά δεοντολογικά πρότυπα και πολιτικές στην ανάπτυξη αμυντικών τεχνολογιών, προϊόντων και αρχών λειτουργίας·

87. επισημαίνει ότι η αποτελεσματική μεταφορά εμπορευμάτων, πυρομαχικών, εξοπλισμού και στρατευμάτων αποτελεί ουσιαστικό στοιχείο των επιτυχημένων στρατιωτικών επιχειρήσεων· τονίζει ότι η ΤΝ αναμένεται να διαδραματίσει καίριο ρόλο και να προσφέρει πολλές δυνατότητες στον τομέα της στρατιωτικής υλικοτεχνικής υποστήριξης και στις μεταφορές· επισημαίνει ότι διάφορες χώρες ανά τον κόσμο, συμπεριλαμβανομένων των κρατών μελών της ΕΕ, ενσωματώνουν όπλα και άλλα συστήματα ΤΝ σε χερσαίες, ναυτικές και εναέριες πλατφόρμες· υπενθυμίζει ότι οι εφαρμογές της ΤΝ στον τομέα των μεταφορών θα μπορούσαν να προσφέρουν νέες δυνατότητες και να επιτρέψουν νέες μορφές τακτικής, όπως ο συνδυασμός πολλών συστημάτων, π.χ. μη επανδρωμένων αεροσκαφών, μη επανδρωμένων σκαφών ή αρμάτων, σε μια ανεξάρτητη και συντονισμένη επιχείρηση·

Διεθνές ιδιωτικό δίκαιο

88. σημειώνει ότι, δεδομένου ότι ο αυξανόμενος αριθμός διαφορών ιδιωτικού διεθνούς δικαίου προκαλούνται από τη διεθνοποίηση των ανθρώπινων δραστηριοτήτων, στο Διαδίκτυο ή στον πραγματικό κόσμο, η ΤΝ μπορεί να βοηθά στην επίλυσή τους με τη δημιουργία μοντέλων που επιτρέπουν τον προσδιορισμό της αρμόδιας δικαιοδοσίας και του εφαρμοστέου δικαίου για κάθε υπόθεση, αλλά και τον προσδιορισμό των πιο ευαίσθητων συγκρούσεων νόμων και την πρόταση λύσεων για την αντιμετώπισή τους·

89. εκτιμά, ωστόσο, ότι το κοινό πρέπει να είναι δεόντως ενημερωμένο σχετικά με τις χρήσεις της ΤΝ στο πλαίσιο του ιδιωτικού διεθνούς δικαίου, ότι οι χρήσεις αυτές πρέπει να μην οδηγούν σε διακρίσεις μέσω του προγραμματισμού, που θα οδηγούσαν στη συστηματική προτίμηση ενός εθνικού δικαίου αντί ενός άλλου, πρέπει να σέβονται τα δικαιώματα του δικαστηρίου που προκαθορίζεται από τη νομοθεσία, να επιτρέπουν τις εφέσεις σύμφωνα με την ισχύουσα νομοθεσία, να επιτρέπουν σε οποιονδήποτε δικαστή να αγνοήσει τη λύση που προτείνει η ΤΝ·

90. τονίζει ότι η κυκλοφορία αυτόνομων οχημάτων στην Ευρωπαϊκή Ένωση, η οποία μπορεί να οδηγήσει σε ιδιαίτερα υψηλό αριθμό διαφορών ιδιωτικού διεθνούς δικαίου, πρέπει να αποτελέσει αντικείμενο ειδικών ευρωπαϊκών κανόνων για τον καθορισμό του εφαρμοστέου νομικού καθεστώτος σε περίπτωση διασυνοριακής ζημίας·

91. επισημαίνει ότι, με την αυξανόμενη σημασία της έρευνας και ανάπτυξης στον ιδιωτικό τομέα και τις μαζικές επενδύσεις από τρίτες χώρες, η ΕΕ αντιμετωπίζει ισχυρό ανταγωνισμό· υποστηρίζει, συνεπώς, τις προσπάθειες της ΕΕ να αναπτύξει περαιτέρω τα ανταγωνιστικά πλεονεκτήματά της, και της πιστεύει ότι η ΕΕ πρέπει να επιδιώξει να λειτουργήσει ως φορέας διαμόρφωσης προτύπων για την ΤΝ σε έναν υπερσυνδεδεμένο κόσμο, μέσω της υιοθέτησης μιας αποτελεσματικής στρατηγικής έναντι των εξωτερικών της εταίρων και μέσω της ενίσχυσης των προσπάθειών της για τον καθορισμό παγκόσμιων δεοντολογικών προτύπων για την ΤΝ σε διεθνές επίπεδο που συνάδουν με κανόνες ασφαλείας και με απαιτήσεις προστασίας των καταναλωτών, καθώς και με τις ευρωπαϊκές αξίες και τα δικαιώματα των πολιτών, συμπεριλαμβανομένων των θεμελιωδών δικαιωμάτων· εκτιμά ότι κάτι τέτοιο είναι καίριας σημασίας για την ανταγωνιστικότητα και τη βιωσιμότητα των ευρωπαϊκών μας εταιριών· καλεί την Επιτροπή και τα κράτη μέλη να ενισχύσουν τη συνεργασία με τρίτες χώρες και διεθνείς οργανισμούς, όπως ο ΟΗΕ, ο ΟΟΣΑ, η G7 και η G20, και να συμμετάσχουν σε έναν ευρύτερο διάλογο για την αντιμετώπιση των προκλήσεων που προκύπτουν από την ανάπτυξη αυτής της ταχέως μεταβαλλόμενης τεχνολογίας· θεωρεί ότι οι προσπάθειες αυτές θα πρέπει να επιδιώκουν ιδίως τη θέσπιση κοινών προτύπων και της βελτίωση της διαλειτουργικότητας των συστημάτων που λειτουργούν βάσει ΤΝ· καλεί την Επιτροπή να προωθήσει τον διάλογο, τη στενότερη συνεργασία και τις συνέργειες μεταξύ κρατών μελών, ερευνητών, ακαδημαϊκών, παραγόντων της κοινωνίας των πολιτών, του ιδιωτικού τομέα, και ιδίως κορυφαίων εταιρειών, καθώς και του στρατού, προκειμένου να διασφαλιστούν χωρίς αποκλεισμούς διαδικασίες χάραξης πολιτικής όσον αφορά τις κανονιστικές ρυθμίσεις για την ΤΝ στον τομέα της άμυνας·

Κατευθυντήριες αρχές

92. θεωρεί ότι οι τεχνολογίες και τα συστήματα δικτύων ΤΝ θα πρέπει να αποσκοπούν στην παροχή ασφάλειας δικαίου για τους πολίτες· υπογραμμίζει, ως εκ τούτου, ότι οι κανόνες για τη σύγκρουση νόμων και δικαιοδοσιών θα πρέπει να εξακολουθήσουν να εφαρμόζονται, λαμβάνοντας παράλληλα υπόψη τα συμφέροντα των πολιτών, καθώς και την ανάγκη μείωσης του κινδύνου άγρας αρμόδιου δικαστηρίου· υπενθυμίζει ότι η ΤΝ δεν μπορεί να αντικαταστήσει τους ανθρώπους στη δικαστική διαδικασία όταν πρόκειται για την έκδοση ποινής ή τη λήψη τελικής απόφασης οποιουδήποτε είδους, δεδομένου ότι οι αποφάσεις αυτές πρέπει πάντα να λαμβάνονται από άνθρωπο και να υπόκεινται αυστηρά σε ανθρώπινο έλεγχο και δέουσα διαδικασία· επιμένει ότι, κατά τη χρήση αποδεικτικών στοιχείων που παρέχονται από τεχνολογίες υποστηριζόμενες από ΤΝ, οι δικαστικές αρχές θα πρέπει να υποχρεούνται να αιτιολογούν τις αποφάσεις τους·

93. υπενθυμίζει ότι η ΤΝ αποτελεί επιστημονική πρόοδο η οποία δεν πρέπει να υπονομεύει τη νομοθεσία, αλλά, αντίθετα, πρέπει πάντα να διέπεται από αυτήν – στην Ευρωπαϊκή Ένωση από τη νομοθεσία των θεσμικών οργάνων και των κρατών μελών της – και ότι σε καμία περίπτωση η ΤΝ, η ρομποτική και οι συναφείς τεχνολογίες δεν μπορούν να αντιβαίνουν στα ανθρώπινα δικαιώματα, τη δημοκρατία και το κράτος δικαίου·

94. τονίζει ότι η ΤΝ που χρησιμοποιείται για αμυντικούς σκοπούς θα πρέπει να είναι υπεύθυνη, ισότιμη, ανιχνεύσιμη, αξιόπιστη και διακυβερνήσιμη·

95. θεωρεί ότι η τεχνητή νοημοσύνη, η ρομποτική και οι συναφείς τεχνολογίες, συμπεριλαμβανομένων του λογισμικού, των αλγορίθμων και των δεδομένων που χρησιμοποιούνται ή παράγονται από τις εν λόγω τεχνολογίες, και ανεξάρτητα από τον τομέα στον οποίο χρησιμοποιούνται, θα πρέπει να αναπτύσσονται με ασφαλή και τεχνικά αυστηρό τρόπο·

°

° °

96. αναθέτει στον Πρόεδρό του να διαβιβάσει το παρόν ψήφισμα στο Συμβούλιο και στην Επιτροπή.