Tanpa pendampingan, penggunaan AI dapat menimbulkan risiko
Ketika informasi terlihat rapi dan dihasilkan dengan cepat, siswa dapat menganggapnya akurat tanpa mempertanyakan proses terbentuknya. Guru juga semakin sering menemukan jawaban yang tampak seperti dibuat oleh AI, dengan sedikit penjelasan atau bukti pemikiran siswa sendiri.
Ketergantungan ini melampaui tugas menulis. Siswa dapat menggunakan alat penerjemah, generator gambar, atau mengandalkan hasil pencarian tanpa mempertanyakan makna, akurasi, bias, atau sumbernya. Akibatnya, pemahaman dapat menjadi dangkal, di mana jawaban terdengar meyakinkan tetapi tidak didukung oleh penalaran yang jelas.
Banyak siswa juga belum menyadari bahwa AI dapat menghasilkan informasi yang keliru, mencerminkan bias, atau menimbulkan pertanyaan terkait orisinalitas. Tanpa bimbingan, jawaban yang terdengar meyakinkan dapat dengan mudah disalahartikan sebagai pengetahuan yang dapat dipercaya.