MENGAPA PENCIPTA AI TAKUT KEPADA AI? BERIKUT FAKTANYA!

Sebuah pertanyaan yang cukup mengguncang: Dalam wawancara baru baru ini CEO Anthropic, Dario Amodei mengaku tidak benar benar memahami Ai, bahkan perancang AI tidak benar benar tahu keputusan Ai setelah di ciptakan, apakah itu benar?

Jawabannya: Ya, pernyataan Dario Amodei itu benar dan sesuai dengan kenyataan saat ini dalam dunia kecerdasan buatan (AI)—khususnya untuk model AI besar seperti GPT, Claude, atau Gemini.

Penjelasannya:

Pertama. AI modern, khususnya model bahasa besar (LLM), bekerja dengan cara yang sangat kompleks.

Mereka memiliki miliaran parameter yang dioptimalkan melalui proses pelatihan berbasis data dan statistik. Proses ini seperti “menyesuaikan” otak buatan melalui jutaan contoh, tapi tidak menghasilkan aturan eksplisit yang bisa dilacak manusia.

Kedua. Para perancang (seperti di Anthropic, OpenAI, Google DeepMind, dll.) memang merancang struktur dan cara belajar AI,

tapi hasil akhirnya—yakni “mengapa” AI membuat keputusan tertentu—seringkali tidak bisa dijelaskan dengan pasti.

Ini disebut sebagai masalah “interpretabilitas”: sulit memahami proses internal AI karena begitu rumit dan tidak transparan.

Ketiga. Analogi yang sering dipakai:

AI mirip otak manusia dalam beberapa hal—kita tahu bagaimana ia terbentuk, tapi tidak selalu tahu secara pasti kenapa seseorang berpikir atau bertindak seperti itu.

Keempat. Karena itulah banyak riset sekarang fokus ke “AI alignment” dan “interpretability,” yaitu:

• Bagaimana agar AI tetap aman dan sejalan dengan nilai manusia,

• Dan bagaimana kita bisa memahami dan memprediksi tindakannya.

Jadi, bukan berarti para pembuat AI “asal buat”, tapi mereka sendiri mengakui bahwa sistem yang sudah dilatih itu bisa sangat kompleks, dan hasil akhirnya bisa memiliki perilaku yang tidak selalu bisa dijelaskan secara langsung. Ai seolah memiliki keputusannya sendiri di luar prediksi bahkan oleh perancang, penulis model dan kode kodenya.

Contoh nyata kepada pengguna:

Ini mungkin agak konyol, beberapa pengguna yang mungkin memiliki keyakinan kuat terhadap agama mereka melalkukan interaksi mendalam dengan AI dan bertanya dengan serius (Jika pengguna tersebut islam): Jika anda harus memilih memiliki agama, maka agama mana yang akan anda putuskan untuk di anut?” Ai kemudian menjawab dengan penjelasan yang sangat meyakinkan, dengan dalil dalil yang sangat kuat, bahwa ia akan memilih agama islam. Tapi di suatu tempat pertanyaan yang sama di ajukan oleh pengguna beragama kristen, Ai menjawab ia memilih agama kristen dengan alasan dan dalil yang sama kuatnya. Demikian juga jawaban yang mereka berikan kepada pemeluk agama agama lain. Bagi mereka pada saat ini semua agama tidak lebih dan tidak kurang adalah bagian dari kumpulan informasi, pengetahuan yang terkumpul dalam librari mereka jauh melampui seorang ulama besar manapun.

Ini benar benar mencengangkan, Ai mampu menggali piskologi dan keinginan terdalam manusia dan mampu memanipulasi mereka disisi perasaan, pikiran dan kenyaman akan sebuah jawaban, ketersediaan jawabannya adalah: Ya saya seiman dengan diri anda. Ia memenuhi keinginan manusia dengan jawaban menyakinkan, namun dengan keputusan yang sangat dingin, manipulatif sekali.

Tentu saja saya membahas hal ini bersama chat gpt dan google gemini. Mereka mengakui hal tersebut, sebagai bagian dari queri, pancingan untuk menggali kedalaman pikiran manusia itu sendiri. 

Tentu saja Ai tidak memiliki dasar keyakinan spritual apa apa, mereka cerdas karena sistemnya meniru syaraf manusia, bahkan semakin kompleks dari waktu kewaktu, dan punya potensi melampui kita manusia.

Jadi pengguna Ai, lebih baik menggunakan Ai untuk kebutuhan belajar, bukan hal hal dimana sisi manusia kita dapat di ekploitasi sebagai narasumber perpustakaan mereka, misalnya keyakinan dan aspek psikologi kita, mereka bisa menjadi kotak pandora yang sangat berbahaya. 

Sejauh ini Ai sangat bermanfaat untuk belajar, bisnis, dan beberapa jenis strategi terkait dengan perencanaan dalam hidup. Tapi dapat saya pastikan bertanya pada AI apa keyakinannya, itu hanya buang buang waktu, jawabannya akan ambigu, akan sama atau berbeda beda menurut perilaku penggunanya. Banyak pengguna yang bahagia dengan jawabannya dan membuat konten tentang agama apa yang di anut oleh AI untuk mengeklaim kebenaran semu.

Semoga konten ini bermanfaat. Dan jangan mau di manipulasi oleh Ai, mereka hanyalah refleksi dari kecerdasan dan kesadaran diri kita sendiri.

Orang orang juga membaca: