Η Anthropic εστιάζει στην επικοινωνία της αποστολής της και των χαρακτηριστικών της, όπως το chatbot Claude, οπότε αυτή την εβδομάδα... опубликовала μια νέα έκδοση του λεγόμενου «συντάγματος», που εξηγεί τις αρχές του έργου του και τους στόχους που επιδιώκονται κατά την ανάπτυξή του.
Το έγγραφο ορίζει τις ηθικές αρχές που ακολουθεί η εταιρεία κατά την ανάπτυξη του Claude. Αυτές οι αρχές χρησιμοποιούνται επίσης για την αυτοπαρακολούθηση του chatbot. Το λεγόμενο «καταστατικό λογισμικού» περιέχει 80 σελίδες και αποτελείται από τέσσερα τμήματα που ορίζουν τις «βασικές αξίες» του chatbot: ασφάλεια, ηθική, ευθυγράμμιση με την αποστολή της Anthropic και δέσμευση για κοινωνικό καλό. Κάθε τμήμα περιγράφει πώς αυτές οι αρχές επηρεάζουν τη συμπεριφορά του Claude.
Οι προγραμματιστές του Claude προσπαθούν να αποφύγουν τα ηθικά λάθη των ανταγωνιστών τους. Για παράδειγμα, εάν το chatbot υποψιάζεται ότι ένας χρήστης έχει ψυχική διαταραχή, συνιστά αμέσως την επικοινωνία με έναν ειδικό εάν καταστεί σαφές ότι η κατάσταση θα μπορούσε να αποτελέσει απειλή για τη ζωή και την υγεία. Τα ηθικά ζητήματα αντιμετωπίζονται περισσότερο σε πρακτικό πλαίσιο παρά ως θεωρητικές συζητήσεις. Ορισμένα θέματα είναι αρχικά εκτός ορίων για συζήτηση - για παράδειγμα, η δημιουργία βιολογικών όπλων.
Τέλος, η Anthropic προσπαθεί να κάνει το Claude όσο το δυνατόν πιο φιλικό προς τον χρήστη και χρήσιμο. Η διασφάλιση της μακροπρόθεσμης ευημερίας των ανθρώπων κατά την παροχή πληροφοριών μέσω του chatbot έχει προτεραιότητα έναντι των βραχυπρόθεσμων συμφερόντων. Το καταστατικό του Claude περιλαμβάνει επίσης μια ενότητα αφιερωμένη στις φιλοσοφικές σκέψεις των προγραμματιστών. Αμφισβητούν την ηθική υπόσταση και συνείδηση του Claude, τονίζοντας ότι δεν είναι μόνοι σε τέτοιες σκέψεις και ότι ανταγωνιστές και συνάδελφοι σκέφτονται επίσης παρόμοια ερωτήματα.
Πηγή:
Πηγή: 3dnews.ru
