Mengapa AI menciptakan hal-hal daripada mengatakan "Aku tidak tahu"
Model bahasa tidak mencari jawaban dalam database fakta. Ini terus teks cara teks seperti biasanya terus, dan itu tidak begitu sangat meyakinkan. Jika Anda meminta nomor tertentu atau link dan model tidak memiliki data yang dapat diandalkan, itu masih akan menghasilkan sesuatu yang masuk akal: format yang benar, nada percaya diri dan rincian yang bagus. Itulah mengapa Anda tidak dapat mengatakan kebenaran dari penemuan oleh bagaimana kedengarannya. Jawaban yang halus, rinci dan tenang tidak mengatakan apa-apa tentang apakah itu benar. Ingat ini: keraguan harus diaktifkan bukan ketika jawaban terdengar aneh, tetapi ketika mengandung sesuatu yang dapat diperiksa dan sesuatu tergantung padanya.
Apa Al menciptakan paling sering
Rincian kecil yang bisa diperiksa adalah yang paling berbahaya. Yang paling sering ditemukan item adalah nomor dan persentase yang tepat, tanggal peristiwa, nama orang dan organisasi, nomor hukum dan artikel, kutipan "dari buku" atau "dari wawancara", alamat web dan judul kertas penelitian, dan fungsi program atau pengaturan yang tidak ada. Sebuah link ke sumber bukanlah bukti baik: AI dapat menciptakan mereka juga, lengkap dengan penerbitan terpercaya nama dan tahun. Alasan umum, penjelasan konsep dan rewording teks Anda sendiri ditemukan jauh lebih jarang, sehingga di mana untuk titik AI pertama.
Empat cek yang mengambil lima menit
Pertama: minta sumbernya dan buka sendiri. Jika halaman tidak ada atau mengatakan sesuatu yang lain, jangan gunakan jawabannya. Kedua: temukan nilai aslinya. Periksa sebuah angka di situs resmi organisasi, cari kutipan dengan kata yang tepat dalam tanda kutip, verifikasi hukum di portal resmi negara Anda. Ketiga: tanyakan pertanyaan yang sama dalam percakapan baru dengan kata yang berbeda. Jika jawabannya berbeda dengan yang terlihat, itu adalah tanda peringatan. Keempat: minta AI untuk membagi jawabannya menjadi "percaya diri" dan "tidak yakin", perlu diperiksa. Tidak ada jaminan, tapi itu menunjukkan titik lemah. Aturan utama: apapun yang akan Anda terbitkan, kirim, atau tanda akan diperiksa terhadap sumber utama.
Cara menulis suatu prompt yang mengurangi jawaban dibuat-buat
Cara terbaik untuk memotong penemuan adalah tidak meminta AI untuk mengingat, tetapi untuk memberikan materi. Tempel teks, tabel, atau kutipan dan katakan bahwa teks itu hanya harus menjawab dari tabel tersebut. Tambahkan izin untuk mengatakan "teks tidak mengatakan": banyak model perlu diberitahu secara eksplisit bahwa tidak tahu diperbolehkan. Tanyakan jawaban singkat dengan kutipan dari materi Anda, sehingga setiap klaim mudah untuk memeriksa. Jangan menuntut "angka tepat dari memori" dan jangan mendorong ketika AI ragu-ragu: tekanan menimbulkan kesempatan penemuan. Jika Anda membutuhkan data segar, gunakan sebuah mode dengan web search dimana satu ada, dan masih membuka link sendiri.
Ketika Anda tidak harus percaya AI tanpa memeriksa
Beberapa topik membawa biaya yang tinggi kesalahan: kesehatan dan obat-obatan, pertanyaan hukum dan tenggat waktu, pajak dan uang, keselamatan, dan apa pun yang Anda terbitkan di bawah nama atau tangan klien. Di daerah ini AI baik-baik saja sebagai pembantu untuk mempersiapkan pertanyaan dan draft, tetapi bukan sebagai sumber keputusan. Untuk kesehatan dan hukum jawaban akhir berasal dari spesialis, dan nomor dan link dikonfirmasi oleh sumber-sumber resmi. Sebuah kebiasaan yang berguna: sebelum menggunakan hasil, tanyakan pada diri sendiri apa yang terjadi jika itu tidak benar. Jika jawabannya "tidak serius", cek cepat sudah cukup. Jika "akan ada konsekuensi", periksa sumber primer atau berkonsultasi dengan spesialis.