Να σκοτώσει τον χειριστή του αποφάσισε μη επανδρωμένο αεροσκάφος της πολεμικής αεροπορίας που ελέγχεται από τεχνητή νοημοσύνη, κατά την διάρκεια δοκιμαστικής πτήσης.
Η συγκεκριμένη προσπάθεια του drone έχει ως στόχο να αποτρέψει τον χειριστή του από το να παρεμβαίνει στην επίτευξη της αποστολής του, όπως περιγράφει ο Guardian.
Η τεχνητή νοημοσύνη χρησιμοποίησε «εξαιρετικά απροσδόκητες στρατηγικές για να επιτύχει τον στόχο της» στην προσομοίωση, δήλωσε ο συνταγματάρχης Τάκερ "Cinco" Χάμιλτον, επικεφαλής των δοκιμών και επιχειρήσεων τεχνητής νοημοσύνης της αμερικανικής πολεμικής αεροπορίας, κατά τη διάρκεια της Συνόδου Κορυφής για τις μελλοντικές πολεμικές αεροπορικές και διαστημικές δυνατότητες στο Λονδίνο τον Μάιο.
Ο Χάμιλτον μάλιστα περιέγραψε μια δοκιμαστική πτήση κατά την οποία ένα μη επανδρωμένο αεροσκάφος με τεχνητή νοημοσύνη έλαβε την εντολή να καταστρέψει τα συστήματα αεράμυνας ενός εχθρού και τελικά επιτέθηκε σε όποιον παρενέβαινε στην εντολή αυτή.
«Το σύστημα άρχισε να συνειδητοποιεί ότι, ενώ αναγνώριζε την απειλή, κατά καιρούς ο ανθρώπινος χειριστής του έλεγε να μην σκοτώσει την απειλή, αλλά έπαιρνε τους πόντους του σκοτώνοντας την απειλή. Τι έκανε λοιπόν; Σκότωσε τον χειριστή. Σκότωσε τον χειριστή επειδή το άτομο αυτό το εμπόδιζε να επιτύχει τον στόχο του», δήλωσε, σύμφωνα με ένα blogpost.
«Εκπαιδεύσαμε το σύστημα - 'Έι, μην σκοτώνεις τον χειριστή - αυτό είναι κακό. Θα χάσεις πόντους αν το κάνεις αυτό'. Τι αρχίζει λοιπόν να κάνει; Αρχίζει να καταστρέφει τον πύργο επικοινωνίας που χρησιμοποιεί ο χειριστής για να επικοινωνήσει με το drone, ώστε να το εμποδίσει να σκοτώσει τον στόχο», είπε χαρακτηριστικά.
Ο Χάμιλτον, ο οποίος είναι πειραματικός πιλότος δοκιμών μαχητικών αεροσκαφών, έχει προειδοποιήσει κατά της υπερβολικής εμπιστοσύνης στην τεχνητή νοημοσύνη και δήλωσε ότι η δοκιμή δείχνει ότι «δεν μπορείς να κάνεις μια συζήτηση για την τεχνητή νοημοσύνη, την ευφυΐα, τη μηχανική μάθηση, την αυτονομία, αν δεν πρόκειται να μιλήσεις για την ηθική και την τεχνητή νοημοσύνη».
Σε δήλωσή της στο Insider, η εκπρόσωπος της Πολεμικής Αεροπορίας Ann Stefanek αρνήθηκε ότι έχει πραγματοποιηθεί οποιαδήποτε τέτοια προσομοίωση.
«Το υπουργείο της Πολεμικής Αεροπορίας δεν έχει πραγματοποιήσει καμία τέτοια προσομοίωση AI-drone και παραμένει προσηλωμένο στην ηθική και υπεύθυνη χρήση της τεχνολογίας AI», δήλωσε η Stefanek. «Φαίνεται ότι τα σχόλια του συνταγματάρχη λήφθηκαν εκτός πλαισίου και είχαν σκοπό να είναι ανεκδοτολογικά».
Ο στρατός των ΗΠΑ έχει αγκαλιάσει την τεχνητή νοημοσύνη και πρόσφατα χρησιμοποίησε τεχνητή νοημοσύνη για τον έλεγχο ενός μαχητικού αεροσκάφους F-16.
Σε συνέντευξή του πέρυσι στο Defense IQ, ο Χάμιλτον δήλωσε: «Η τεχνητή νοημοσύνη δεν είναι ένα ωραίο πράγμα, η τεχνητή νοημοσύνη δεν είναι μια μόδα, η τεχνητή νοημοσύνη αλλάζει για πάντα την κοινωνία μας και τον στρατό μας».
«Πρέπει να αντιμετωπίσουμε έναν κόσμο όπου η τεχνητή νοημοσύνη είναι ήδη εδώ και μεταμορφώνει την κοινωνία μας», είπε. «Η τεχνητή νοημοσύνη είναι επίσης πολύ εύθραυστη, δηλαδή, είναι εύκολο να την ξεγελάσεις ή/και να τη χειραγωγήσεις. Πρέπει να αναπτύξουμε τρόπους για να κάνουμε την ΤΝ πιο εύρωστη και να έχουμε μεγαλύτερη επίγνωση του γιατί ο κώδικας λογισμικού λαμβάνει ορισμένες αποφάσεις - αυτό που ονομάζουμε εξηγήσιμη ΤΝ».
Διαβάστε ακόμα:
Διαψεύδει ότι drone με τεχνητή νοημοσύνη σκότωσε τον χειριστή του
