Anthropic lagi fokus ing komunikasi misi lan fitur khas kaya chatbot Claude, mula minggu iki diterbitake versi anyar saka apa sing diarani "konstitusi", sing njelasake prinsip-prinsip kerjane lan tujuan sing digayuh sajrone pangembangane.
Dokumen kasebut nemtokake prinsip-prinsip etika sing dianut perusahaan nalika ngembangake Claude. Prinsip-prinsip kasebut uga digunakake kanggo pemantauan mandiri chatbot. Sing diarani "konstitusi piranti lunak" ngemot 80 kaca lan kasusun saka patang bagean sing nemtokake "nilai-nilai inti chatbot": keamanan, etika, keselarasan karo misi Anthropic, lan komitmen kanggo kabecikan sosial. Saben bagean nggambarake kepiye prinsip-prinsip kasebut mengaruhi prilaku Claude.
Para pangembang Claude ngupayakake supaya ora ana kesalahan etika saka para pesaing. Contone, yen chatbot curiga pangguna duwe kelainan mental, dheweke langsung nyaranake supaya ngubungi spesialis yen kahanane jelas bisa ngancam nyawa lan kesehatan. Masalah etika luwih dibahas ing konteks praktis tinimbang diskusi teoretis. Topik tartamtu wiwitane ora bisa dirembugβcontone, nggawe senjata biologis.
Pungkasanipun, Anthropic ngupayakake supaya Claude gampang digunakake lan migunani sabisa-bisane. Njamin kesejahteraan jangka panjang wong nalika menehi informasi liwat chatbot luwih diutamakake tinimbang kepentingan jangka pendek. Konstitusi Claude uga kalebu bagean sing dikhususake kanggo refleksi filosofis para pengembang. Dheweke mempertanyakan status moral lan kesadaran Claude, nandheske yen dheweke ora dhewekan ing refleksi kasebut, lan para pesaing lan kolega uga mikir babagan pitakonan sing padha.
Source:
Source: 3dnews.ru
