Κίσινγκερ: Ο κατακλυσμός απόψεων στα social media κάνει τους ανθρώπους πιο ρηχούς
Η ανθρώπινη κοινωνία είναι
απροετοίμαστη για την ανάδυση και εξάπλωση της τεχνητής νοημοσύνης,
προειδοποιεί ο Χένρι Κίσινγκερ. Ο «γερόλυκος» της αμερικανικής
πολιτικής, ο οποίος φημιζόταν πάντα για το ρεαλισμό του, αν όχι για τον
κυνισμό του, παρά την προχωρημένη ηλικία του των 95 ετών, έκρινε σκόπιμο
να παρέμβει στο αμερικανικό περιοδικό "Atlantic", με άρθρο του που έχει
τον δυσοίωνο τίτλο «Πώς τελειώνει ο Διαφωτισμός».
Το κεντρικό μήνυμα του είναι απλό: φιλοσοφικά, διανοητικά, τεχνολογικά και με κάθε άλλο τρόπο η ανθρωπότητα δεν είναι καθόλου έτοιμη να διαχειρισθεί την τεχνητή νοημοσύνη. Ο πρώην υπουργός Εξωτερικών (1973-77) και σύμβουλος εθνικής ασφαλείας των ΗΠΑ, καθώς επίσης κάτοχος του Νόμπελ Ειρήνης 1973 (παρόλο που στα μάτια αρκετών είναι μάλλον «εγκληματίας πολέμου») δηλώνει ανήσυχος ότι οι έξυπνες μηχανές που μαθαίνουν και επικοινωνούν μόνες τους, χωρίς πλέον καμία ανθρώπινη παρέμβαση, μπορεί να εγκαινιάσουν μια τελείως νέα φάση στην ανθρώπινη ιστορία.
«Μήπως είναι δυνατό η ανθρώπινη ιστορία να πάρει το δρόμο των Ίνκας, όταν αντιμετώπισαν μια ακατανόητη γι' αυτούς ισπανική κουλτούρα, που τους προκαλούσε δέος;», αναρωτιέται. Με άλλα λόγια, μήπως είμαστε οι Ίνκας των μηχανών και άρα μας περιμένει η εξαφάνιση;
Αφού αναφέρει ότι η σύγχρονη παγκόσμια τάξη διαμορφώθηκε από την Εποχή του Ορθού Λόγου που αντικατέστησε την Εποχή της Θρησκείας, τονίζει ότι αυτή η διεθνής τάξη βρίσκεται σήμερα σε μεγάλη αναταραχή εν μέσω μιας ακόμη πιο ριζοσπαστικής τεχνολογικής επανάστασης, «της οποίας τις συνέπειες έχουμε έως τώρα αποτύχει να αντιμετωπίσουμε και που η κορύφωσή της μπορεί να είναι ένας κόσμος εξαρτώμενος από μηχανές, που θα βασίζονται στα δεδομένα και στους αλγόριθμους και ο οποίος δεν θα κυβερνάται πλέον από ηθικούς ή φιλοσοφικούς κανόνες».
Η αρχή έγινε, όπως λέει, με το Ίντερνετ που μετέτρεψε τους ανθρώπους σε δεδομένα, με συνέπεια η ανθρώπινη σκέψη να χάσει τον προσωπικό χαρακτήρα της. Η «σοφία» των αλγόριθμων και ο κατακλυσμός των ανθρώπων από πλήθος απόψεων χάρη στα μέσα κοινωνικής δικτύωσης κάνουν τους ανθρώπους πιο ρηχούς. «Η αλήθεια έχει γίνει πια σχετική, η πληροφορία απειλεί να εξαφανίσει τη σοφία», γράφει.
Η πολυδιάσπαση αυτή κάνει ολοένα πιο δύσκολη τη συναίνεση στο πολιτικό επίπεδο, ενώ οι πολιτικοί ηγέτες όλο και πιο δύσκολα σκέφτονται με μακροπρόθεσμο ορίζοντα και όραμα. Το «κερασάκι» είναι πια η τεχνητή νοημοσύνη. Ο Κίσινγκερ υπογραμμίζει ότι αυτή διαφέρει από την παλαιότερη αυτοματοποίηση, η οποία απλώς ήταν ένα μέσο για κάποιο στόχο προγραμματισμένο από τους ανθρώπους. «Η τεχνητή νοημοσύνη, αντίθετα, αφορά τους στόχους, βάζει τους δικούς της στόχους» και, γι΄αυτό, «είναι εγγενώς ασταθής» και επικίνδυνη, σύμφωνα με τον Κίσινγκερ.
Κίνδυνος για μεγάλα λάθη
Όπως λέει, «η τεχνητή νοημοσύνη αναπτύσσει μια ικανότητα, την οποία προηγουμένως είχαν μόνο τα ανθρώπινα όντα. Κάνει στρατηγικές κρίσεις για το μέλλον». Αναπόφευκτα, προσθέτει, «πρέπει να περιμένουμε ότι θα κάνει λάθη ταχύτερα και μεγαλύτερης κλίμακας από ό,τι κάνουν οι άνθρωποι».
«Πώς θα ζήσουμε σε αυτό το νέο κόσμο; Πώς θα διαχειρισθούμε την τεχνητή νοημοσύνη, πώς θα τη βελτιώσουμε ή τουλάχιστον πώς θα την αποτρέψουμε από το να μας βλάψει», αναρωτιέται και δεν αποκλείει ότι η τεχνητή νοημοσύνη, όπως έχει προβλέψει η επιστημονική φαντασία προ πολλού, θα παρερμηνεύσει τις ανθρώπινες εντολές και θα στραφεί ενάντια στους δημιουργούς της.
Προειδοποιεί ότι «αν η τεχνητή νοημοσύνη αφεθεί μόνη της, αναπόφευκτα θα αναπτύξει ελαφριές παρεκκλίσεις, οι οποίες μπορεί σταδιακά να διογκωθούν σε καταστροφικά αποτελέσματα». Στην πορεία, μπορεί επίσης να αλλάξει ακόμη και τις ανθρώπινες αξίες, π.χ. κάνοντάς τις ακόμη πιο ανταγωνιστικές από ό,τι ήδη είναι. «Θέλουμε τα παιδιά να μαθαίνουν τις αξίες, συζητώντας με ανεξέλεγκτους αλγόριθμους;», ρωτά ο Κίσινγκερ.
Κάτι ακόμη πιο ανησυχητικό, όπως λέει, είναι ότι η τεχνητή νοημοσύνη μπορεί όντως να επιφέρει βελτιώσεις σε διάφορα πράγματα και διαδικασίες, αλλά θα αδυνατεί να εξηγήσει με ανθρώπινα κατανοητό τρόπο πώς και γιατί κάνει κάτι τέτοιο. «Μήπως η διαδικασία λήψης αποφάσεων από την τεχνητή νοημοσύνη ξεπεράσει τις ερμηνευτικές δυνατότητες της ανθρώπινης γλώσσας και λογικής;» και, σε αυτή την περίπτωση, όπως το θέτει, «τι θα γίνει η ανθρώπινη συνείδηση, αν η εξηγητική δύναμή της υπερκερασθεί από την τεχνητή νοημοσύνη και άρα οι κοινωνίες δεν είναι σε θέση πλέον να ερμηνεύουν τον κόσμο γύρω τους;».
Ο Κίσινγκερ, αφού βάλει και άλλα ερωτήματα, όπως «ποιός είναι υπεύθυνος για τις πράξεις της τεχνητής νοημοσύνης και για τα λάθη της;», θέτει το πρακτικό πρόβλημα του «τι κάνουμε». Επικρίνει τον επιστημονικό και τον τεχνολογικό κόσμο ότι σκέφτονται μόνο με τεχνικούς και οικονομικούς όρους, αλλά και τον πολιτικό κόσμο ότι ασχολείται κυρίως με τις εφαρμογές της τεχνητής νοημοσύνης σε θέματα ασφάλειας, κατασκοπείας κ.α. Από την άλλη, λέει, οι φιλόσοφοι και οι κοινωνικοί επιστήμονες -οι οποίοι έπαιξαν καθοριστικό ρόλο στο παρελθόν- είναι τώρα απόντες, επειδή δεν καταλαβαίνουν την τεχνητή νοημοσύνη.
«Βρισκόμαστε αντιμέτωποι με μια δυνητικά κυριαρχική τεχνολογία, που αναζητά μια καθοδηγητική φιλοσοφία», τονίζει και προσθέτει ότι για κάθε χώρα αποτελεί πλέον εθνική προτεραιότητα να μελετήσει την τεχνητή νοημοσύνη και τις επιπτώσεις της, κυρίως σε σχέση με τις ανθρωπιστικές παραδόσεις, συστήνοντας μια επιτροπή ειδικών στο ανώτατο κυβερνητικό επίπεδο.
Παράλληλα, καλεί τους ειδικούς στην τεχνητή νοημοσύνη να βγουν από το καβούκι τους και να θέσουν οι ίδιοι τέτοια ερωτήματα, ώστε μετά να ενσωματώσουν τις κατάλληλες απαντήσεις στα έξυπνα μηχανήματα που θα φτιάξουν. Και καταλήγει: «Ένα πράγμα είναι βέβαιο: Αν δεν ξεκινήσουμε αυτή την προσπάθεια σύντομα, δεν θα αργήσουμε να ανακαλύψουμε ότι ξεκινήσαμε υπερβολικά αργά».
Πηγή: ΑΠΕ - ΜΠΕ
Το κεντρικό μήνυμα του είναι απλό: φιλοσοφικά, διανοητικά, τεχνολογικά και με κάθε άλλο τρόπο η ανθρωπότητα δεν είναι καθόλου έτοιμη να διαχειρισθεί την τεχνητή νοημοσύνη. Ο πρώην υπουργός Εξωτερικών (1973-77) και σύμβουλος εθνικής ασφαλείας των ΗΠΑ, καθώς επίσης κάτοχος του Νόμπελ Ειρήνης 1973 (παρόλο που στα μάτια αρκετών είναι μάλλον «εγκληματίας πολέμου») δηλώνει ανήσυχος ότι οι έξυπνες μηχανές που μαθαίνουν και επικοινωνούν μόνες τους, χωρίς πλέον καμία ανθρώπινη παρέμβαση, μπορεί να εγκαινιάσουν μια τελείως νέα φάση στην ανθρώπινη ιστορία.
«Μήπως είναι δυνατό η ανθρώπινη ιστορία να πάρει το δρόμο των Ίνκας, όταν αντιμετώπισαν μια ακατανόητη γι' αυτούς ισπανική κουλτούρα, που τους προκαλούσε δέος;», αναρωτιέται. Με άλλα λόγια, μήπως είμαστε οι Ίνκας των μηχανών και άρα μας περιμένει η εξαφάνιση;
Αφού αναφέρει ότι η σύγχρονη παγκόσμια τάξη διαμορφώθηκε από την Εποχή του Ορθού Λόγου που αντικατέστησε την Εποχή της Θρησκείας, τονίζει ότι αυτή η διεθνής τάξη βρίσκεται σήμερα σε μεγάλη αναταραχή εν μέσω μιας ακόμη πιο ριζοσπαστικής τεχνολογικής επανάστασης, «της οποίας τις συνέπειες έχουμε έως τώρα αποτύχει να αντιμετωπίσουμε και που η κορύφωσή της μπορεί να είναι ένας κόσμος εξαρτώμενος από μηχανές, που θα βασίζονται στα δεδομένα και στους αλγόριθμους και ο οποίος δεν θα κυβερνάται πλέον από ηθικούς ή φιλοσοφικούς κανόνες».
Η αρχή έγινε, όπως λέει, με το Ίντερνετ που μετέτρεψε τους ανθρώπους σε δεδομένα, με συνέπεια η ανθρώπινη σκέψη να χάσει τον προσωπικό χαρακτήρα της. Η «σοφία» των αλγόριθμων και ο κατακλυσμός των ανθρώπων από πλήθος απόψεων χάρη στα μέσα κοινωνικής δικτύωσης κάνουν τους ανθρώπους πιο ρηχούς. «Η αλήθεια έχει γίνει πια σχετική, η πληροφορία απειλεί να εξαφανίσει τη σοφία», γράφει.
Η πολυδιάσπαση αυτή κάνει ολοένα πιο δύσκολη τη συναίνεση στο πολιτικό επίπεδο, ενώ οι πολιτικοί ηγέτες όλο και πιο δύσκολα σκέφτονται με μακροπρόθεσμο ορίζοντα και όραμα. Το «κερασάκι» είναι πια η τεχνητή νοημοσύνη. Ο Κίσινγκερ υπογραμμίζει ότι αυτή διαφέρει από την παλαιότερη αυτοματοποίηση, η οποία απλώς ήταν ένα μέσο για κάποιο στόχο προγραμματισμένο από τους ανθρώπους. «Η τεχνητή νοημοσύνη, αντίθετα, αφορά τους στόχους, βάζει τους δικούς της στόχους» και, γι΄αυτό, «είναι εγγενώς ασταθής» και επικίνδυνη, σύμφωνα με τον Κίσινγκερ.
Κίνδυνος για μεγάλα λάθη
Όπως λέει, «η τεχνητή νοημοσύνη αναπτύσσει μια ικανότητα, την οποία προηγουμένως είχαν μόνο τα ανθρώπινα όντα. Κάνει στρατηγικές κρίσεις για το μέλλον». Αναπόφευκτα, προσθέτει, «πρέπει να περιμένουμε ότι θα κάνει λάθη ταχύτερα και μεγαλύτερης κλίμακας από ό,τι κάνουν οι άνθρωποι».
«Πώς θα ζήσουμε σε αυτό το νέο κόσμο; Πώς θα διαχειρισθούμε την τεχνητή νοημοσύνη, πώς θα τη βελτιώσουμε ή τουλάχιστον πώς θα την αποτρέψουμε από το να μας βλάψει», αναρωτιέται και δεν αποκλείει ότι η τεχνητή νοημοσύνη, όπως έχει προβλέψει η επιστημονική φαντασία προ πολλού, θα παρερμηνεύσει τις ανθρώπινες εντολές και θα στραφεί ενάντια στους δημιουργούς της.
Προειδοποιεί ότι «αν η τεχνητή νοημοσύνη αφεθεί μόνη της, αναπόφευκτα θα αναπτύξει ελαφριές παρεκκλίσεις, οι οποίες μπορεί σταδιακά να διογκωθούν σε καταστροφικά αποτελέσματα». Στην πορεία, μπορεί επίσης να αλλάξει ακόμη και τις ανθρώπινες αξίες, π.χ. κάνοντάς τις ακόμη πιο ανταγωνιστικές από ό,τι ήδη είναι. «Θέλουμε τα παιδιά να μαθαίνουν τις αξίες, συζητώντας με ανεξέλεγκτους αλγόριθμους;», ρωτά ο Κίσινγκερ.
Κάτι ακόμη πιο ανησυχητικό, όπως λέει, είναι ότι η τεχνητή νοημοσύνη μπορεί όντως να επιφέρει βελτιώσεις σε διάφορα πράγματα και διαδικασίες, αλλά θα αδυνατεί να εξηγήσει με ανθρώπινα κατανοητό τρόπο πώς και γιατί κάνει κάτι τέτοιο. «Μήπως η διαδικασία λήψης αποφάσεων από την τεχνητή νοημοσύνη ξεπεράσει τις ερμηνευτικές δυνατότητες της ανθρώπινης γλώσσας και λογικής;» και, σε αυτή την περίπτωση, όπως το θέτει, «τι θα γίνει η ανθρώπινη συνείδηση, αν η εξηγητική δύναμή της υπερκερασθεί από την τεχνητή νοημοσύνη και άρα οι κοινωνίες δεν είναι σε θέση πλέον να ερμηνεύουν τον κόσμο γύρω τους;».
Ο Κίσινγκερ, αφού βάλει και άλλα ερωτήματα, όπως «ποιός είναι υπεύθυνος για τις πράξεις της τεχνητής νοημοσύνης και για τα λάθη της;», θέτει το πρακτικό πρόβλημα του «τι κάνουμε». Επικρίνει τον επιστημονικό και τον τεχνολογικό κόσμο ότι σκέφτονται μόνο με τεχνικούς και οικονομικούς όρους, αλλά και τον πολιτικό κόσμο ότι ασχολείται κυρίως με τις εφαρμογές της τεχνητής νοημοσύνης σε θέματα ασφάλειας, κατασκοπείας κ.α. Από την άλλη, λέει, οι φιλόσοφοι και οι κοινωνικοί επιστήμονες -οι οποίοι έπαιξαν καθοριστικό ρόλο στο παρελθόν- είναι τώρα απόντες, επειδή δεν καταλαβαίνουν την τεχνητή νοημοσύνη.
«Βρισκόμαστε αντιμέτωποι με μια δυνητικά κυριαρχική τεχνολογία, που αναζητά μια καθοδηγητική φιλοσοφία», τονίζει και προσθέτει ότι για κάθε χώρα αποτελεί πλέον εθνική προτεραιότητα να μελετήσει την τεχνητή νοημοσύνη και τις επιπτώσεις της, κυρίως σε σχέση με τις ανθρωπιστικές παραδόσεις, συστήνοντας μια επιτροπή ειδικών στο ανώτατο κυβερνητικό επίπεδο.
Παράλληλα, καλεί τους ειδικούς στην τεχνητή νοημοσύνη να βγουν από το καβούκι τους και να θέσουν οι ίδιοι τέτοια ερωτήματα, ώστε μετά να ενσωματώσουν τις κατάλληλες απαντήσεις στα έξυπνα μηχανήματα που θα φτιάξουν. Και καταλήγει: «Ένα πράγμα είναι βέβαιο: Αν δεν ξεκινήσουμε αυτή την προσπάθεια σύντομα, δεν θα αργήσουμε να ανακαλύψουμε ότι ξεκινήσαμε υπερβολικά αργά».
Πηγή: ΑΠΕ - ΜΠΕ
Aucun commentaire:
Enregistrer un commentaire