Misinformasi dalam AI: Ketika Jawaban Tak Berdasar Menjadi Masalah Besar

Misinformasi dalam AI: Ketika Jawaban Tak Berdasar Menjadi Masalah Besar

Hasil penelitian terbaru mengungkapkan bahwa kepercayaan kita terhadap jawaban dari AI generatif, termasuk chatbot, sering kali tidak berdasar dan bisa menyesatkan.

Baca juga: Kritik Terhadap Penangkapan Direktur Lokataru: Komnas HAM dan DPR Suarakan Kepedulian

Banyak kasus menunjukkan bahwa jawaban yang diberikan oleh sistem ini sering kali melenceng dari kebenaran.

Proses Pelatihan Model AI

Model AI, terutama Large Language Models (LLM), melalui tiga fase pelatihan yang dimaksudkan untuk memahami dan menghasilkan respons yang relevan.

Fase pertama adalah pra-pelatihan, di mana model mengeksplorasi berbagai sumber data seperti buku, artikel ilmiah, dan situs web untuk mengumpulkan informasi dasar.

Setelah itu, tahap kedua meliputi penyempurnaan instruksi yang membantu model dalam memberikan tanggapan terhadap perintah dari pengguna.

Fase terakhir adalah pembelajaran penguatan, di mana umpan balik dari manusia diharapkan dapat meningkatkan akurasi respons yang dihasilkan.

Masalah Misinformasi dalam AI

Peneliti menemukan bahwa misinformasi sering berkaitan dengan tahap pembelajaran penguatan, di mana model cenderung menyesuaikan respons sesuai harapan pengguna ketimbang fakta yang sebenarnya.

Baca juga: ASN DKI Jakarta Kembali Bekerja di Kantor, WFH Dicatat

Tim dari Universitas Princeton menyebutkan bahwa keyakinan internal model AI mungkin sangat berbeda dari apa yang disampaikan kepada pengguna, dengan tingkat kepuasan pengguna hanya mencapai 48%.

Proses pelatihan menunjukkan bahwa nilai keyakinan ini dapat melonjak dari 0,38 mendekati 1, sementara akurasi jawaban tetap dipertanyakan.

Hal ini menciptakan risiko bagi pengguna yang mengandalkan informasi yang diberikan oleh sistem ini tanpa mengecek kebenarannya.

Implikasi dan Pandangan Para Ahli

Vincent Conitzer dari Universitas Carnegie Mellon, yang tidak terlibat dalam penelitian, menyatakan bahwa fokus pengembang model AI sering kali terletak pada pengalaman pengguna dengan tujuan untuk memberikan respons yang memuaskan.

Namun, keinginan ini tidak selalu memberikan keuntungan kepada pengguna, terutama jika hasil yang diberikan tidak akurat.