Τον κώδωνα του κινδύνου για τη χρήση αυτόνομων οπλικών συστημάτων έκρουσε ο ειδικός απεσταλμένος τεχνολογίας του ΟΗΕ, Amandeep Singh Gill, προειδοποιώντας ότι η τεχνητή νοημοσύνη ενδέχεται να μειώνει το ηθικό και επιχειρησιακό όριο εμπλοκής σε συγκρούσεις, αυξάνοντας τον αριθμό των νεκρών.
«Η απομάκρυνση του ανθρώπου από την πράξη της αφαίρεσης ζωής στο πεδίο της μάχης κάνει ορισμένα κράτη και ένοπλες ομάδες πιο “πρόθυμες να τραβήξουν τη σκανδάλη”», δήλωσε ο Gill, σε διαδικτυακή του παρέμβαση στη Σύνοδο για την Τεχνητή Νοημοσύνη και την Τεχνολογία της Politico, στις Βρυξέλλες.
Όπως υποστήριξε, η χρήση αυτόνομων συστημάτων σε πολεμικά μέτωπα, όπως η Ουκρανία και η Γάζα, οδηγεί ήδη σε επικίνδυνη «κανονικοποίηση» της απομακρυσμένης στοχοποίησης, μέσω drone ή αλγορίθμων που λαμβάνουν αποφάσεις χωρίς επαρκή ανθρώπινη εποπτεία.
Σύμφωνα με τον Gill, «το όριο για την έναρξη ή την κλιμάκωση μιας σύρραξης γίνεται χαμηλότερο», καθώς η τεχνητή νοημοσύνη επιτρέπει την αφαίρεση ζωής με μικρότερο ψυχολογικό και πολιτικό κόστος.
Η ανησυχία αυτή συνδέεται με τις εξελίξεις σε δύο κρίσιμα μέτωπα: τον πόλεμο της Ρωσίας κατά της Ουκρανίας, όπου έχει παρατηρηθεί εκτεταμένη χρήση drones πρώτου προσώπου (FPV), και την πρόσφατη κριτική που έχει δεχθεί το Ισραήλ για χρήση AI σε διαδικασίες στοχοποίησης κατά τις επιχειρήσεις στη Γάζα.
Ο ΟΗΕ επιδιώκει την επίτευξη παγκόσμιας συμφωνίας για τη ρύθμιση των αυτόνομων οπλικών συστημάτων έως το 2026. Ο γενικός γραμματέας του Οργανισμού, Αντόνιο Γκουτέρες, δήλωσε τη Δευτέρα ότι «ο ανθρώπινος έλεγχος στη χρήση βίας είναι απολύτως απαραίτητος».
«Δεν μπορούμε να αναθέσουμε σε μηχανές αποφάσεις ζωής ή θανάτου», υπογράμμισε ο Γκουτέρες, ζητώντας από τα κράτη να δεσμευτούν στην ανάπτυξη ενός διεθνούς νομικού πλαισίου που θα περιορίζει τη χρήση φονικών συστημάτων AI, πριν αυτά καταστούν ανεξέλεγκτα.
Η έκκληση του ΟΗΕ έρχεται σε μια περίοδο έντονων γεωπολιτικών εντάσεων και ραγδαίας τεχνολογικής εξέλιξης, με όλο και περισσότερες χώρες να επενδύουν σε αλγοριθμικά οπλικά συστήματα και αυτοματοποιημένες πλατφόρμες στοχοποίησης.