Δεν θα Υπάρχει Τρόπος Ελέγχου της Τεχνητής Νοημοσύνης

Μετάφραση: Μάρη Λιώκη

Οι επιστήμονες καταλήγουν στο συμπέρασμα ότι δεν θα υπάρχει τρόπος ελέγχου των υπερ-ευφυών μηχανών (Τεχνητή Νοημοσύνη –ΤΝ)

ΒΕΡΟΛΙΝΟ, Γερμανία – Από τα αυτοκινούμενα αυτοκίνητα έως τους υπολογιστές που μπορούν να κερδίσουν τηλεπαιχνίδια, οι άνθρωποι έχουν μια φυσική περιέργεια και ενδιαφέρον για την τεχνητή νοημοσύνη (ΤΝ). Καθώς οι επιστήμονες συνεχίζουν να κάνουν τις μηχανές ολοένα και  εξυπνότερες, ορισμένοι ρωτούν «τι συμβαίνει όταν οι υπολογιστές γίνονται πολύ έξυπνοι για το δικό τους καλό;» Από το «The Matrix» στο «The Terminator», η βιομηχανία ψυχαγωγίας έχει ήδη αρχίσει να αναλογίζεται αν κάποια μελλοντικά ρομπότ θα απειλήσουν κάποια μέρα την ανθρώπινη φυλή. Τώρα, μια νέα μελέτη καταλήγει στο συμπέρασμα ότι μπορεί να μην υπάρχει τρόπος να σταματήσει η «άνοδος» των μηχανών. Μια διεθνής ομάδα λέει ότι οι άνθρωποι δεν θα μπορούσαν να εμποδίσουν την υπερ-τεχνητή νοημοσύνη από το να κάνει ό, τι επιθυμεί.

Επιστήμονες από το Κέντρο για Ανθρώπους και Μηχανές στο Ινστιτούτο Max Planck έχουν αρχίσει να φαντάζονται πώς θα μπορούσε να μοιάζει μια τέτοια μηχανή. Φανταστείτε ένα πρόγραμμα τεχνητής νοημοσύνης με ευφυΐα πολύ ανώτερη από των ανθρώπων. Τόσο πολύ ώστε να μπορούσε να μαθαίνει μόνη της χωρίς νέο προγραμματισμό. Εάν ήταν συνδεδεμένη με το Διαδίκτυο, οι ερευνητές λένε ότι η ΤΝ  θα είχε πρόσβαση σε όλα τα δεδομένα της ανθρωπότητας και θα μπορούσε ακόμη και να πάρει τον έλεγχο άλλων μηχανών παγκοσμίως.

Οι συγγραφείς της μελέτης αναρωτιούνται τι θα έκανε μια τέτοια νοημοσύνη με όλη αυτή τη δύναμη; Θα λειτουργούσε για να βελτιώσει τις ζωές όλων μας; Θα αφιέρωνε την επεξεργαστική της  δύναμη στην επίλυση ζητημάτων όπως η κλιματική αλλαγή; Ή μήπως η μηχανή θα έπαιρνε τον έλεγχο της ζωής των ανθρώπινων γειτόνων της;

Έλεγχος του ανεξέλεγκτου; Οι κίνδυνοι της υπερ-τεχνητής νοημοσύνης

Τόσο οι προγραμματιστές υπολογιστών όσο και οι φιλόσοφοι έχουν μελετήσει το κατά πόσο υπάρχει τρόπος να αποτραπεί μια υπερ-ευφυής ΤΝ από το ενδεχόμενο να στραφεί εναντίον  των ανθρώπινων κατασκευαστών της και να διασφαλιστεί ότι οι μελλοντικοί υπολογιστές δεν θα μπορούσαν να προκαλέσουν βλάβη στους κατόχους τους. Η νέα μελέτη αποκαλύπτει, δυστυχώς, ότι φαίνεται πως είναι σχεδόν αδύνατο να κρατηθεί υπό έλεγχο μία υπερ-ευφυής ΤΝ.

«Μια υπερ-ευφυής μηχανή που ελέγχει τον κόσμο ακούγεται σαν επιστημονική φαντασία. Υπάρχουν όμως ήδη μηχανήματα που εκτελούν ανεξάρτητα συγκεκριμένες σημαντικές εργασίες, χωρίς οι προγραμματιστές να κατανοούν πλήρως  πώς το έμαθαν. Επομένως, τίθεται το ερώτημα εάν αυτό θα μπορούσε κάποια στιγμή να καταστεί ανεξέλεγκτο και επικίνδυνο για την ανθρωπότητα», λέει ο συν-συγγραφέας της μελέτης, Manuel Cebrian, ηγέτης της Ομάδας Ψηφιακής Κινητοποίησης στο Κέντρο για Ανθρώπους και Μηχανές, σε μια πανεπιστημιακή έκθεση.

Η διεθνής ομάδα εξέτασε δύο διαφορετικούς τρόπους για τον έλεγχο της τεχνητής νοημοσύνης. Πρώτα περιόρισε τη δύναμη της υπερ-ευφυΐας, απομονώνοντας  τη και κρατώντας τη εκτός διαδικτυακής σύνδεσης. Επίσης, δεν μπορούσε να συνδεθεί με άλλες τεχνικές εξωτερικές συσκευές. Το πρόβλημα με αυτό το πλάνο είναι αρκετά προφανές. Ένας τέτοιος υπολογιστής δεν θα μπορούσε να κάνει πολλά για να βοηθήσει τους ανθρώπους.

Το να είσαι καλός με τους ανθρώπους δεν μετράει

Η δεύτερη επιλογή επικεντρώθηκε στη δημιουργία ενός αλγορίθμου που θα έδινε  ηθικές αρχές στον υπερυπολογιστή. Αυτό ελπίζουμε ότι ίσως αναγκάσει την ΤΝ να υπολογίσει τα καλύτερα συμφέροντα της ανθρωπότητας.

Η μελέτη δημιούργησε έναν θεωρητικό αλγόριθμο περιορισμού που θα εμπόδιζε την τεχνητή νοημοσύνη να βλάψει τους ανθρώπους σε κάθε περίσταση. Σε προσομοιώσεις, η τεχνητή νοημοσύνη θα σταματούσε να λειτουργεί εάν οι ερευνητές θεωρούσαν επιβλαβείς τις ενέργειές της. Παρά το γεγονός ότι έτσι κρατούν την ΤΝ μακριά από τα αποκτήσει  παγκόσμια κυριαρχία, οι συγγραφείς της μελέτης λένε ότι αυτό δεν θα λειτουργούσε στον πραγματικό κόσμο.

«Εάν διασπάσετε το πρόβλημα σε βασικούς κανόνες της θεωρητικής επιστήμης των υπολογιστών, αποδεικνύεται ότι ένας αλγόριθμος που θα διατάξει μια ΤΝ  να μην καταστρέψει τον κόσμο θα μπορούσε να σταματήσει ακούσια τις δικές του λειτουργίες. Εάν συνέβαινε αυτό, δεν θα ξέρατε εάν ο αλγόριθμος περιορισμού εξακολουθεί να αναλύει την απειλή ή εάν έχει σταματήσει να περιέχει την επιβλαβή ΤΝ. Στην πραγματικότητα, αυτό κάνει τον αλγόριθμο περιορισμού άχρηστο», λέει ο Iyad Rahwan, Διευθυντής του Κέντρου για Ανθρώπους και Μηχανές.

Η μελέτη καταλήγει στο συμπέρασμα ότι η τεχνητή νοημοσύνη είναι ένα ανυπόφορο πρόβλημα. Κανένα πρόγραμμα υπολογιστή δεν μπορεί να βρει έναν ασφαλή τρόπο για να αποτρέψει την ΤΝ από το να ενεργήσει επιβλαβώς εάν το θέλει. Οι ερευνητές προσθέτουν ότι οι άνθρωποι μπορεί να μην συνειδητοποιήσουν καν το πότε οι υπερ-ευφυείς μηχανές  θα φτάσουν πραγματικά στον κόσμο της τεχνολογίας. Λοιπόν, μήπως είναι ήδη εδώ;

Πηγή: https://www.studyfinds.org/no-way-to-control-super-artificial-intelligence-ai/

Σχολιάστε

Εισάγετε τα παρακάτω στοιχεία ή επιλέξτε ένα εικονίδιο για να συνδεθείτε:

Λογότυπο WordPress.com

Σχολιάζετε χρησιμοποιώντας τον λογαριασμό WordPress.com. Αποσύνδεση /  Αλλαγή )

Φωτογραφία Google

Σχολιάζετε χρησιμοποιώντας τον λογαριασμό Google. Αποσύνδεση /  Αλλαγή )

Φωτογραφία Twitter

Σχολιάζετε χρησιμοποιώντας τον λογαριασμό Twitter. Αποσύνδεση /  Αλλαγή )

Φωτογραφία Facebook

Σχολιάζετε χρησιμοποιώντας τον λογαριασμό Facebook. Αποσύνδεση /  Αλλαγή )

Σύνδεση με %s