Μια νέα έκθεση, ανάθεση του υπουργείου Εξωτερικών των ΗΠΑ, παρουσιάζει μια ανησυχητική εικόνα των «καταστροφικών κινδύνων για την εθνική ασφάλεια» που εγκυμονεί η ταχέως εξελισσόμενη τεχνητή νοημοσύνη, προειδοποιώντας ότι ο χρόνος τελειώνει για την ομοσπονδιακή κυβέρνηση προκειμένου να αποτρέψει την καταστροφή.

Οι ερευνητές προειδοποιούν για δύο βασικούς κινδύνους που θέτει η τεχνητή νοημοσύνη.

Πρώτον, τα πιο προηγμένα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να χρησιμοποιηθούν ως όπλα για να προκαλέσουν δυνητικά μη αναστρέψιμες ζημιές.

Δεύτερον, σύμφωνα με την έκθεση, υπάρχουν ανησυχίες εντός των εργαστηρίων τεχνητής νοημοσύνης ότι κάποια στιγμή θα μπορούσαν να «χάσουν τον έλεγχο» των ίδιων των συστημάτων που αναπτύσσουν, με «δυνητικά καταστροφικές συνέπειες για την παγκόσμια ασφάλεια».

Η έκθεση προειδοποιεί για την πιθανότητα χρήσης προηγμένων συστημάτων τεχνητής νοημοσύνης ως όπλα. Τέτοια όπλα θα μπορούσαν να προκαλέσουν εκτεταμένες ζημιές, ίσως και μη αναστρέψιμες. Η ανάπτυξη και η χρήση τους θέτει σε κίνδυνο την παγκόσμια ασφάλεια.

Υπάρχει φόβος ότι οι ερευνητές μπορεί να χάσουν τον έλεγχο των συστημάτων τεχνητής νοημοσύνης που αναπτύσσουν. Αυτό οφείλεται στην αυξανόμενη πολυπλοκότητα και αυτονομία των συστημάτων. Η απώλεια ελέγχου θα μπορούσε να οδηγήσει σε ακούσιες και καταστροφικές ενέργειες από τα συστήματα τεχνητής νοημοσύνης.

Η τεχνητή νοημοσύνη φέρνει μαζί της σημαντικά οφέλη, αλλά και σοβαρούς κινδύνους. Η αντιμετώπιση αυτών των κινδύνων είναι απαραίτητη για την αποφυγή καταστροφικών συνεπειών. Απαιτείται συνεργασία σε διεθνές επίπεδο για την ανάπτυξη ηθικών κατευθυντήριων γραμμών και την υιοθέτηση μέτρων ελέγχου.