Perusahaan AI Anthropic Mengembangkan Model Bahasa yang Disempurnakan untuk Penilaian Nilai

Menurut Cointelegraph, perusahaan kecerdasan buatan (AI) Anthropic telah mengembangkan model bahasa besar (LLM) yang telah disesuaikan dengan penilaian nilai oleh komunitas penggunanya. Pengembangan ini bertujuan untuk membuat AI lebih demokratis dan memungkinkan pengguna untuk menentukan keselarasan nilai untuk model AI. Bekerja sama dengan Polis dan Collective Intelligence Project, Anthropic melakukan eksperimen yang disebut "Collective Constitutional AI" yang melibatkan 1.000 pengguna dari berbagai demografi yang menjawab serangkaian pertanyaan melalui jajak pendapat. Anthropic menggunakan metode yang disebut "Constitutional AI" untuk mengarahkan upayanya dalam menyetel LLM agar aman dan bermanfaat. Hal ini melibatkan pemberian daftar aturan yang harus dipatuhi oleh model dan kemudian melatihnya untuk menerapkan aturan-aturan tersebut selama prosesnya, mirip dengan bagaimana konstitusi berfungsi sebagai dokumen inti untuk pemerintahan di banyak negara. dalam percobaan AI Konstitusional Kolektif, Anthropic mencoba untuk mengintegrasikan umpan balik berbasis kelompok ke dalam konstitusi model. Hasilnya, menurut sebuah posting blog dari Anthropic, tampaknya merupakan keberhasilan ilmiah karena hal itu menerangi tantangan lebih lanjut untuk mencapai tujuan yang memungkinkan pengguna produk LLM menentukan nilai-nilai kolektif mereka. Salah satu kesulitan yang harus diatasi oleh tim adalah menemukan metode baru untuk proses pembandingan, karena tidak ada tes yang mapan untuk membandingkan model dasar dengan model yang disetel dengan nilai-nilai yang bersumber dari orang banyak. Model yang mengimplementasikan data yang dihasilkan dari umpan balik jajak pendapat pengguna sedikit mengungguli model dasar dalam hal output yang bias.