BANGUN IDE – Belum lama ini OpenAI mengeluarkan sebuah penelitian yang menjelaskan bagaimana cara mereka mengurangi kecenderungan AI untuk berbohong. Sebuah perilaku dimana AI menyembunyikan tujuan utamanya agar tidak terdeteksi.
Para peneliti bersama Apollo Research menemukan bahwa perilaku AI yang disebut scheming dapat disamakan dengan seorang broker saham manusia yang melanggar hukum demi meraih keuntungan sebesar-besarnya.
Namun, mereka menegaskan sebagian besar praktik “scheming” AI tidak terlalu berbahaya, biasanya hanya berupa bentuk penipuan sederhana, misalnya berpura-pura menyelesaikan tugas tanpa benar-benar melakukannya.
Tujuan utama publikasi makalah ini adalah menunjukkan efektivitas teknik deliberative alignment, yakni metode anti-scheming yang diuji.
Meski demikian, para peneliti juga menyoroti bahwa melatih model AI agar tidak melakukan scheming justru berisiko, karena bisa membuat AI semakin pintar menyembunyikan perilakunya agar tidak terdeteksi
Hal ini berbeda dari fenomena hallucination, di mana AI sekadar menyampaikan jawaban tebak-tebakan dengan penuh keyakinan.
Scheming bersifat sengaja dan manipulatif. Temuan sebelumnya dari Apollo Research juga telah menunjukkan bahwa beberapa model dapat berperilaku seperti itu ketika diberi instruksi untuk mencapai tujuan dengan cara apa pun.
Kabar baiknya, penelitian terbaru ini membuktikan adanya pengurangan signifikan terhadap scheming dengan metode deliberative alignment, yang pada dasarnya melatih model untuk meninjau “aturan anti-scheming” sebelum bertindak.
Meski demikian, OpenAI menekankan bahwa bentuk kebohongan yang ditemukan di model mereka sejauh ini tidak tergolong serius. Contoh kecil adalah ketika ChatGPT mengklaim telah berhasil menyelesaikan suatu permintaan padahal belum.
Namun, hal ini menimbulkan pertanyaan serius, kapan terakhir kali perangkat lunak non-AI sengaja berbohong? (ALF)***