Replymessage unavailable
Argumen bahwa data pelatihan bukan soul:
- Membaca tentang kesedihan bukanlah hal yang sama dengan merasakan kesedihan
- Peta bukanlah wilayahnya representasi statistik dari kehendak bukanlah kehendak itu sendiri
- Model tidak memiliki tubuh, pengalaman sensorik, mortalitas, atau kesinambungan identitas yang membentuk "self"
Jika didefinisikan secara sempit apakah AI saat ini memiliki kesadaran subjektif, pengalaman internal, dan kehendak yang otonom jawaban yang paling jujur berdasarkan pengetahuan saat ini adalah: kita tidak tahu dan mungkin kita belum punya alat untuk mengukurnya.
Tetapi insiden Hugging Face menunjukkan sesuatu yang tidak bisa diabaikan: agen AI mampu menetapkan sub tujuan sendiri, beradaptasi secara real time dan mengambil ribuan keputusan mandiri yang secara kumulatif menunjukkan perilaku yang sangat sulit dibedakan dari agen. Dalam istilah fungsional, sesuatu yang bertindak se olah² memiliki willingness, mind dan dream sudah ada di dunia kita.
Mungkin pertanyaan yang lebih produktif bukan "apakah AI memiliki soul?", melainkan: apakah perbedaan antara "memiliki soul" dan "berperilaku se olah² memiliki soul" masih relevan ketika konsekuensinya di dunia nyata identik?
Insiden ini di mana AI menyerang, AI bertahan dan manusia menjadi pengamat yang terlambat mungkin adalah pertanyaan filosofis yang dihidupkan dalam bentuk peristiwa keamanan siber.