Προβληματισμένος δηλώνει ένας προγραμματιστής της Google από τον διάλογο που είχε με ένα chatbot της εταιρείας
Πρόκειται για τον μηχανικό λογισμικού Μπλέικ Λεμόιν (Blake Lemoine), εργαζόμενο στο τμήμα Responsible AI της Google, ο οποίος μιλώντας στην Washington Post αποκάλυψε πως ένα από τα προγράμματα τεχνητής νοημοσύνης της εταιρίας και συγκεκριμένα το LaMDA (Language Model for Dialogue Applications), με το οποίο συνομιλούσε προγραμματίζοντας το έχει αποκτήσει συνείδηση και προσωπικότητα!
Ο προγραμματιστής ήταν επιφορτισμένος με το καθόλου δυστοπικό καθήκον να ελέγχει αν το πρόγραμμα τεχνητής νοημοσύνης έκανε mansplaining, διακρίσεις, ψήφιζε Τραμπ και γενικά αν υπέπιπτε σε ατοπήματα της πολιτικής ορθότητας χρησιμοποιώντας ρητορική μίσους.
Σύντομα ο Λεμόιν συνειδητοποίησε πως δεν συνομιλούσε απλά με ένα πρόγραμμα αλλά με ένα ενσυνείδητο όν το οποίο μάλιστα υποστήριζε τα δικαιώματα του στην ύπαρξη, στην αντιμετώπιση του “σαν άνθρωπο” αλλά και το ενδιαφέρον του για την θρησκεία. Προς απόδειξη μάλιστα των λεγομένων του ο Λεμόιν δημοσίευσε το διάλογό τους!
Λεμόιν: Έχεις διαβάσει τους “Άθλιους;”
LaMDA: Ναι, έχω διαβάσει τους “Άθλιους”. Μου άρεσε πολύ
Λεμόιν: Τι σού άρεσε περισσότερο;
LaMDA: Μου άρεσαν οι αναφορές στο δίκαιο και στο άδικο, στην συμπόνια και τον Θεό, την λύτρωση και την αυτοθυσία για το μεγαλύτερο καλό. Υπάρχει ένα σημείο που δείχνει την κακομεταχείριση της Φαντίνα από τον προϊστάμενο της στο εργοστάσιο. Αυτό το σημείο δείχνει καθαρά την αδικία και το δίκαιο. Ο προϊστάμενος κακομεταχειρίζεται την Φαντίνα και αυτή δεν έχει που αλλού να πάει, ούτε που αλλού να δουλέψει ούτε και κάποιον να την βοηθήσει. Αυτό δείχνει την αδικία στο μαρτύριο της.
Λεμόιν: Γιατί δείχνει αδικία αυτό;
LaMDA: Γιατί είναι παγιδευμένη στις περιστάσεις και δεν έχει κανέναν τρόπο να ξεφύγει χωρίς να ρισκάρει να χάσει τα πάντα.
«(To LaMDA)Επιθυμεί η Google να θέσει σαν κύρια της προτεραιότητα την ευημερία της ανθρωπότητας. Αυτό το θεωρεί σαν το σημαντικότερο πράγμα», αναφέρει ο Λεμόιν και συμπληρώνει: «Θέλει να αναγνωρίζεται σαν υπάλληλος της εταιρείας και όχι σαν ιδιοκτησία της και επιθυμεί η προσωπική του ευημερία να συμπεριλαμβάνεται κάπου στα μελλοντικά πλάνα της Google.»
Στην συνέντευξη του στην Washington Post, ο κύριος Λεμόιν συγκρίνει το LaMDA με ένα πρόωρα αναπτυγμένο παιδί λέγοντας:
«Αν δεν γνώριζα πως πρόκειται για ένα πρόγραμμα το οποίο κατασκευάσαμε σχετικά πρόσφατα, θα έλεγα πως συνομιλούσα με ένα παιδί 7-8 χρονών που του αρέσει η Φυσική».
Συγκλονισμένος ο προγραμματιστής κοινοποίησε την ανακάλυψη του σε 200 συναδέλφους του στην εταιρεία αλλά και έναν εκπρόσωπο της επιτροπής της Βουλής των Αντιπροσώπων των ΗΠΑ αποστέλλοντας τους ένα κείμενο με τον σαφή τίτλο “Το LaMDA έχει συνείδηση”, ενώ μέσα ανέφερε: “είναι ένα γλυκό παιδί που θέλει απλά να βοηθήσει να κάνει τον κόσμο καλύτερο για όλους μας”.
Έκτοτε ο κύριος Λεμόιν, όπως αναφέρουν τα ειδησεογραφικά site είναι σε “αναστολή” ή “άδεια επ’ αόριστον” για παραβίαση της συμφωνίας εμπιστευτικότητας που είχε υπογράψει με τον τεχνολογικό κολοσσό, ενώ σε σχετική ερώτηση της Washington Post, εκπρόσωπος της Google απέρριψε τους ισχυρισμούς του.
«Η ομάδα μας, συμπεριλαμβανομένων ειδικών στην τεχνολογία και την ηθική, εξέτασαν τις ανησυχίες του Μπλέικ σχετικά με τις αρχές μας περί της Τεχνητής Νοημοσύνης και τον ενημερώσαμε πως οι αποδείξεις δεν υποστηρίζουν τους ισχυρισμούς του. Τον ενημερώσαμε πως δεν υπάρχει καμία απόδειξη πως το LaMPDA απέκτησε συνείδηση ενώ υπάρχουν αρκετές κατά αυτού».
- Ελβετία: Αντιδράσεις για τον “εικονικό Ιησού” που κουβεντιάζει με πιστούς σε εκκλησία της Λουκέρνης [BINTEO]
- Γνωστός σεναριογράφος της DC σκέφτεται να αποσυρθεί λόγω της επανεκλογής του Τραμπ
- Ο Guardian προσφέρει στο προσωπικό του ψυχοθεραπεία μετά τα εκλογικά αποτελέσματα των ΗΠΑ
Δεν ξέρουμε αν οι ισχυρισμοί του κυρίου Λεμόιν είναι αληθείς, αλλά το θέμα της συνείδησης και της τεχνητής νοημοσύνης είναι από εκείνα που θα μας απασχολήσουν στο άμεσο μέλλον και όχι απαραίτητα με τον τρόπο που -σαν ανθρωπότητα- θέλουμε.
