Saat membuat karakter anime untuk rizae.com, saya kembali menemukan salah satu momen klasik generative AI: model bertindak seolah semuanya terlihat normal, padahal gambarnya jelas rusak.
Kontras seperti ini masih menjadi salah satu hal paling menarik saat bekerja dengan AI. Kadang AI menghasilkan sesuatu yang benar-benar bagus dalam hitungan detik. Di waktu lain, AI melewatkan masalah yang sangat jelas bagi manusia dan tetap merespons dengan penuh keyakinan.
Mengapa halusinasi AI seperti ini penting
Biasanya orang membahas halusinasi AI dalam konteks teks, tetapi pembuatan gambar punya versi masalah yang sama. Anatomi yang salah, komposisi yang rusak, atau detail yang dobel bisa diperlakukan seolah hasilnya baik-baik saja. Masalahnya bukan hanya pada kesalahan itu sendiri, tetapi pada keyakinan sistem saat mengabaikannya.
Itu penting karena jarak antara generasi teknis dan penilaian manusia masih sangat besar. Model bisa cepat, meyakinkan, dan berguna, tetapi tetap membutuhkan peninjauan manusia agar hasilnya layak dipakai dalam produk nyata.
Apa yang berubah dalam workflow saya
Bekerja pada karakter untuk rizae.com membuat saya jauh lebih pragmatis terhadap AI. Saya tidak lagi menganggap hasil pertama sebagai sesuatu yang selesai. Saya menganggapnya sebagai bahan untuk diperiksa, ditolak, diperbaiki, lalu dibuat ulang.
- Kecepatan itu nyata, terutama untuk eksplorasi arah, variasi, dan ide awal.
- Penilaian tetap manusia, khususnya saat kualitas visual, konsistensi, dan selera menjadi penting.
- Mengulang adalah bagian dari proses, bukan pengecualian.
Itulah mungkin gambaran paling jujur tentang kondisi AI generatif saat ini: kuat, membantu, dan sering mengesankan, tetapi masih membutuhkan pengawasan manusia.