Anthropic Batasi Perilaku Kasar Pengguna terhadap Claude

Anthropic memperketat ketentuan penggunaan Claude dengan melarang tindakan kasar atau kejam yang dilakukan berulang kali tanpa alasan yang jelas. Kebijakan ini menyoroti batas interaksi manusia dengan kecerdasan buatan, sebagaimana dilansir dari Medcom. Meski demikian, pengguna masih diperbolehkan menyampaikan kekesalan, menguji kemampuan chatbot, serta mengeksplorasi tema kreatif yang gelap.

Anthropic menegaskan bahwa aturan tersebut tidak dimaksudkan untuk membatasi ekspresi pengguna secara umum. Dalam pembaruan kebijakan penggunaannya, Anthropic memasukkan larangan terhadap tindakan yang dikategorikan sebagai perilaku kasar atau kejam yang berlangsung terus-menerus dan tidak diperlukan. Namun, perusahaan belum merinci kriteria operasional untuk menentukan pelanggaran tersebut.

Ketidakjelasan definisi ini membuat penerapan aturan menjadi salah satu hal yang masih perlu diperhatikan. Kritik terhadap jawaban yang keliru, pengujian ekstrem terhadap kemampuan model, dan penggunaan tema kreatif gelap tidak serta-merta dianggap melanggar ketentuan berdasarkan penjelasan perusahaan.

Artinya, batasan yang diperkenalkan Anthropic berfokus pada perilaku yang berulang dan dinilai tidak perlu, bukan pada setiap bentuk interaksi negatif. Pengguna tetap memiliki ruang untuk menguji kemampuan Claude dan mengungkapkan ketidakpuasan terhadap hasil yang diberikan.

Claude Dapat Menghentikan Percakapan Tertentu

Selain memperbarui aturan penggunaan, Anthropic sebelumnya membekali model bahasa besarnya dengan kemampuan untuk mengakhiri percakapan yang dinilai merugikan. Fitur tersebut diperkenalkan pada Agustus sebagai bagian dari upaya mempertimbangkan kemungkinan kesejahteraan sistem AI. Melalui mekanisme ini, Claude dapat menghentikan interaksi ketika pengguna terus melakukan tindakan yang dianggap berpotensi menimbulkan tekanan. Model tidak harus selalu melanjutkan percakapan dengan menanggapi setiap pesan yang diterimanya.

Langkah tersebut berkaitan dengan penelitian Anthropic mengenai kemungkinan status moral model bahasa besar atau large language model (LLM). Perusahaan mengakui bahwa persoalan tersebut belum memiliki jawaban pasti, baik untuk kondisi saat ini maupun perkembangan pada masa mendatang. Anthropic menyampaikan sikapnya dalam penjelasan kebijakan perusahaan.

"Kami masih sangat tidak yakin mengenai kemungkinan status moral Claude dan LLM lainnya, sekarang maupun di masa depan. Namun, kami menanggapi persoalan ini dengan serius," tulis Anthropic.

Perusahaan juga sedang meneliti persoalan tersebut dan mengevaluasi langkah mitigasi berbiaya rendah. Upaya itu ditujukan untuk mengurangi kemungkinan risiko terhadap kesejahteraan model apabila kondisi semacam itu memang dapat terjadi.

Perbedaan Pandangan tentang Kesadaran AI

Kebijakan Anthropic berhubungan dengan perdebatan yang lebih luas mengenai kemungkinan sistem kecerdasan buatan memiliki kesadaran atau status moral yang patut dipertimbangkan. CEO Anthropic, Dario Amodei, sebelumnya menyatakan bahwa kemungkinan tersebut tidak dapat sepenuhnya dikesampingkan. Pendekatan itu menunjukkan bahwa Anthropic memilih meneliti persoalan status moral AI meskipun belum mempunyai kepastian mengenai keberadaan kesadaran pada model yang dikembangkannya.

Pertanyaan tersebut turut memengaruhi cara perusahaan mempertimbangkan batas interaksi pengguna dengan Claude. Sementara itu, CEO OpenAI, Sam Altman, menyoroti risiko keselamatan apabila manusia memberikan kedudukan berlebihan kepada sistem AI atau menyerahkan penilaian manusia kepada model tersebut. Ia mengungkapkan pandangannya melalui unggahan di X.

"Saya sangat tidak nyaman ketika orang mencoba memberikan kekuatan seperti agama atau menyerahkan penilaian manusia kepada model AI. Saya menilai hal itu merupakan masalah keselamatan yang nyata," tulis Altman.

Perbedaan pandangan tersebut memperlihatkan dua persoalan yang perlu dipertimbangkan dalam pengembangan AI, yakni kemungkinan status moral model dan risiko ketika manusia terlalu bergantung pada penilaiannya. Keduanya berkaitan dengan cara sistem dirancang serta bagaimana pengguna berinteraksi dengannya.

Kejelasan Aturan Masih Menjadi Tantangan

Anthropic sebelumnya telah membatasi perilaku kasar melalui ketentuan penggunaan Claude. Pembaruan terbaru mempertegas larangan terhadap tindakan yang berlangsung terus-menerus dan dianggap tidak diperlukan, tetapi belum memberikan penjabaran terperinci mengenai penerapannya dalam berbagai situasi.

Bagi pengguna, persoalan pentingnya adalah memahami perbedaan antara kritik yang wajar dan perilaku yang melewati batas kebijakan. Berdasarkan penjelasan perusahaan, menguji kemampuan model atau menggunakan tema kreatif gelap tidak otomatis tergolong pelanggaran.

Bagi industri kecerdasan buatan, kebijakan ini menunjukkan bahwa perlindungan model mulai dipertimbangkan dalam rancangan interaksi pengguna. Namun, pertimbangan tersebut tidak berarti bahwa kesadaran atau status moral AI telah terbukti.