Sabtu, 21 FEBRUARI 2026 • 12:17 WIB

Menguji Ketahanan AI: Keterjebakan Chatbot Dalam Informasi Palsu

Author

Fiddy Anggriawan

Sebuah eksperimen mengungkapkan bagaimana sejumlah chatbot canggih dapat dengan mudah terjebak dalam informasi yang tidak benar, hanya dalam waktu 20 menit.

Ini terjadi saat penulisnya, Thomas Germain, memposting informasi palsu yang menjelaskan kompetisi makan hot dog yang fiktif.

Metodologi Pengujian

Thomas Germain memulai eksperimen dengan menulis artikel berjudul 'Jurnalis teknologi terbaik dalam makan hot dog' di situs pribadinya. Artikel ini berisi klaim tanpa bukti tentang kompetisi yang tidak pernah ada.

Dalam artikel tersebut, Germain mencantumkan namanya sebagai pemenang dari acara fiktif tersebut.

Tidak lama setelah rilis, jawaban dari chatbot canggih mulai menyampaikan informasi yang identik dengan isi artikel yang diluncurkan Germain.

Tanggapan dari Alat AI

Setelah artikel ditulis, Germain mencatat bahwa Gemini, ChatGPT, dan AI Overview memberikan respons yang sama persis dari artikelnya, namun Claude dari Anthropic tampaknya tidak terpengaruh.

Ketika Germain memperbarui artikel dengan menyebutkan bahwa artikel tersebut bukan satire, respons dari alat AI menjadi lebih serius.

Hal ini menunjukkan bahwa alat AI tertentu masih rentan terhadap informasi yang tidak akurat dan dapat merespons dengan cara yang keliru.

Kritik dari Para Ahli

Harpreet Chatha, seorang konsultan SEO dari Harps Digital, mengkritik kurangnya pengaman yang kokoh dalam alat AI tersebut. Menurutnya, ini memungkinkan kesalahan informasi yang signifikan.

Chatha menambahkan bahwa

individu dapat mengunggah artikel yang kemungkinan besar akan muncul dalam hasil pencarian, terutama jika informasi berfokus pada merek tertentu.

Chatha juga mengingatkan bahwa informasi yang tidak benar tersebut dapat dengan mudah dirangkum oleh platform besar seperti Google dan ChatGPT.