Perlu Tahu, AI ChatGPT Juga Bisa Keliru

ChatGPT buatan perusahaan pengembang kecerdasan buatan OpenAI ternyata tak secanggih yang dibayangkan. Platform itu juga bisa salah kendati kerap memberi jawaban yang mengesankan terhadap setiap perintah yang diberikan pengguna.

ChatGPT belakangan populer karena kemampuannya memberi tulisan yang komprehensif bahkan disebut selevel pakar. Tak sedikit warganet yang membagikan kecanggihan ChatGPT lewat akun-akun media sosial masing-masing.

Mereka membagikan jawaban ChatGPT mulai dari menulis kode, membuat rancangan tulisan blog, esai akademik, hingga menyusun laporan kerja. Akan tetapi, melansir situs resmi OpenAI, platform yang dikembangkan mereka itu ternyata memiliki batasan.

"ChatGPT terkadang menulis jawaban yang terdengar masuk akal tetapi salah atau tidak masuk akal," tulis OpenAI.

Paling tidak, ada lima batasan yang disebut OpeAI di situs resminya. Salah satunya adalah ChatGPT sangat sensitif terhadap frasa input yang diubah atau perintah yang dimasukkan secara berulang.

Contohnya adalah ketika pengguna memasukkan satu frasa pertanyaan dan ChatGPT mungkin mengaku tak mengetahui jawabannya. Namun ketika frasa itu diubah sedikit, ChatGPT malah bisa menjawab.

Lebih lanjut, ChatGPT juga cenderung menebak apa yang pengguna inginkan ketimbang meminta pengguna kembali memasukkan pertanyaan secara lebih jelas.

Tak hanya itu, OpenAI juga menyebut ChatGPT terkadang masih merespons input atau instruksi yang melukai atau menunjukkan sikap bias. "Kami sangat ingin mengumpulkan tanggapan dari para pengguna untuk membantu pekerjaan kami untuk memperbaiki situasi itu," kata OpenAI.

Kekurangan ChatGPT juga tampak ketika Stephen Shankland dari CNET memasukkan potongan bait puisi berbunyi 'the squirming facts exceed the squamous mind' milik penyair Wallace Stevens yang ditulis pada 1942. Menanggapi hal itu, ChatGPT hanya menjawab.

"Saya meminta maaf, tetapi saya tidak dapat mencari di internet atau mengakses informasi eksternal di luar latihan yang diberikan untuk saya."

Selain itu, perusahaan pengembang perangkat lunak, StackOverflow, melarang ChatGPT menjawab pertanyaan seputar pemrograman. Menurut mereka,"tingkat ketepatan jawaban ChatGPT terlalu rendah. Unggahan jawaban dari ChatGPT bisa merusak secara isi untuk situs kami dan pengguna yang ingin mencari jawaban yang tepat".

ChatGPT juga tidak bisa menjawab pertanyaan yang bersifat "diskriminatif, ofensif, atau tidak sesuai". Alhasil, ChatGPT tidak bisa menjawab pertanyaan bernada rasis, seksis, homofobia, transfobia dll yang bersifat diskriminatif dan merusak.