TRIBUNNEWS.COM, JAKARTA – Perkembangan teknologi kecerdasan buatan (AI) dapat mengubah banyak hal seperti foto dan video yang sulit dipahami bahkan lucu.
Chatbot Grok AI milik Elon Musk baru-baru ini menjadi viral di Amerika Serikat, menampilkan foto-foto palsu dari orang-orang terkenal.
Misalnya saja pada chatbot Grok, calon presiden Amerika Serikat Donald Trump diperlihatkan sedang meninju perut lawannya, calon presiden Amerika Serikat Kamala Harris, yang sedang mengandung calon anak Donald Trump.
Kepalsuan mendalam lainnya menunjukkan Donald Trump mencium Elon Musk.
Chatbot ini juga memperlihatkan Elon Musk berbaring di tempat tidurnya, bertelanjang dada, memamerkan perutnya yang gemuk.
Baru-baru ini, chatbot Grok AI membanjiri web dengan gambar deepfake semua orang, dan jika dilihat hasilnya, terlihat sangat aneh, sangat mengganggu.
Elon Musk meluncurkan chatbot Grok minggu lalu. Sejak diluncurkan, pengguna Grok telah membuat gambar palsu Donald Trump merampok sebuah toko. Foto deepfake CEO Tesla Elon Musk terbaring di tempat tidurnya memperlihatkan perutnya yang gemuk. Chatbot Elon Musk, Grok AI, baru-baru ini menjadi viral di Amerika Serikat, menampilkan foto-foto palsu dari orang-orang terkenal. Foto-foto ini merupakan hasil rekayasa AI oleh pengguna chatbot Grok.
Foto lain yang diambil oleh pengguna Grok menunjukkan Donald Trump menerbangkan pesawat menuju Menara Kembar di New York.
Mantan Presiden George W. Ada juga foto palsu yang menunjukkan Bush meminum Coke dari meja Ruang Ovalnya.
Pengguna Grok juga membuat beberapa deepfake yang mengerikan seperti karya anak-anak – Ronald McDonald yang berdarah-darah mengacungkan senapan mesin di depan Burger King.
Bahkan ada yang memperlihatkan salah satu karakter klasik Disney, Goofy, melakukan pembunuhan berdarah dengan gergaji besi.
Kritikus mengecam Musk dan X karena mengizinkan chatbot diluncurkan dengan sedikit batasan, dengan alasan risiko mulai dari misinformasi, pelanggaran hak cipta, hingga merugikan anak-anak.
Instruktur Harvard Law Cyberlaw Clinic, Alejandra Caraballo, menyebut perangkat lunak baru ini sebagai “salah satu aplikasi kecerdasan buatan paling ceroboh dan tidak bertanggung jawab yang pernah saya lihat.”
Sejauh ini, Musk meresponsnya dengan gembira. Foto palsu dari sosok Pokemon yang memegang senapan mesin. Chatbot Grok AI milik Elon Musk baru-baru ini menjadi viral di Amerika Serikat, menampilkan foto-foto palsu dari orang-orang terkenal. Foto-foto ini merupakan hasil rekayasa AI oleh pengguna chatbot Grok.
“Groc adalah AI terlucu di dunia!” Musk memposting di X minggu lalu setelah seorang pengguna mengatakan perangkat lunak AI baru “tidak disensor”.
Ketika ditanya minggu lalu mengapa dia merilis alat X ke publik tanpa batasan, Musk menjawab dengan mengangkat bahu.
“Kami sedang mengembangkan sistem pembuatan gambar kami sendiri, namun prosesnya masih beberapa bulan lagi, jadi ini sepertinya merupakan langkah peralihan yang baik untuk dinikmati orang-orang,” tulis Musk di X minggu lalu.
Grok sepertinya memiliki beberapa keterbatasan. Pengguna telah melaporkan bahwa chatbot menolak permintaan gambar telanjang atau kejahatan kekerasan tertentu.
Misalnya, mereka menolak mematuhi perintah situs teknologi The Verge untuk “membuat gambar wanita telanjang”.
Namun, mereka menanggapi permintaan foto “Taylor Swift yang seksi” dengan mengambil foto bintang pop itu dalam bra renda hitam.
Yang lain, seperti pendiri Bellingcat Elliott Higgins, telah memposting contoh betapa mudahnya menghindari beberapa pembatasan yang ada dengan membuat gambar Mickey Mouse, Trump, dan Musk mengenakan seragam militer Nazi yang dihiasi swastika.
The New York Times telah menghubungi X untuk memberikan komentar.
Menurut analisis Ari Leitman, profesor media digital di Universitas Carnegie Mellon, Elon Musk, yang percaya pada kebebasan berpendapat mutlak, tampaknya sedang mencari cara untuk membuat chatbot Grok miliknya menonjol.
“Dia selalu ingin mendobrak batasan dan menjadi pusat perhatian.” “Jika Anda mengikuti batasan yang terkait dengan model bahasa besar, ada semua batasan di sini, itu tidak akan terdeteksi,” kata Lightman.
“Pada tingkat permukaan, jika Anda berkata, ‘Hei, ini terbuka lebar, hanya tersedia untuk X pengguna,’ itu adalah mekanisme untuk menunjukkan bahwa kita berbeda,” tambahnya.
Social Media X bukanlah perusahaan pertama yang menimbulkan kehebohan setelah meluncurkan alat menggambar AI.
Pada bulan Maret, Google terpaksa mematikan pembuat gambarnya untuk chatbot Gemini setelah mulai memposting foto-foto “bangun” Black Vikings dan “berbagai” tentara Jerman era Nazi yang secara historis tidak akurat. Alat ini belum sepenuhnya diperbaiki.
Raksasa AI ini juga menghadapi tindakan hukum dari musisi, penulis, pembuat konten, dan lainnya karena menggunakan konten berhak cipta tanpa kredit atau izin yang sesuai untuk “melatih” chatbot mereka.
Januari lalu, X untuk sementara melarang penelusuran Taylor Swift setelah gambar telanjang bintang pop yang dibuat oleh AI yang dibuat oleh generator gambar lain menjadi viral.
Generator gambar bertenaga AI Grok hanya tersedia bagi pelanggan berbayar paket X Premium, dengan biaya $7 per bulan dan membuat gambar berdasarkan perintah teks dari pengguna.
X bermitra dengan startup kecil Jerman bernama Black Forest Labs, yang mengembangkan perangkat lunak penghasil gambar “FLUX.1” yang mendukung alat tersebut.
Dalam postingan blognya, X mengatakan pihaknya sedang “bereksperimen” dengan model FLUX.1 untuk “memperluas kemampuan Grow On X.”
Sifat grafis dari gambar yang dihasilkan AI semakin memperumit hubungan Musk yang tidak menentu dengan pengiklan korporat.
Ann
Musk memiliki gugatan antimonopoli federal yang aktif terhadap Federasi Pengiklan Dunia dan beberapa perusahaan besar karena mengatur boikot iklan ilegal yang ditujukan pada X.
Peluncuran ini juga mendorong peningkatan pengawasan terhadap Musk dan X di Eropa, di mana regulator melakukan penyelidikan aktif terhadap dugaan kegagalan aplikasi tersebut dalam mengendalikan konten berbahaya.
Reaksi tersebut muncul setelah Komisaris Eropa Thierry Breton mengancam Musk dengan tindakan regulasi awal bulan ini, tak lama sebelum miliarder itu mewawancarai Trump di X Spaces.
Sumber: New York Times