Apakah Kita Tidak Bisa Percaya Lagi pada Apapun yang Kita Lihat?: AI-Generated Images Nowadays

Apakah Anda bisa membedakan mana yang AI dan foto asli? (Sebuah foto Bill Murray)

Di era revolusi industri 4.0, hampir semua penduduk di seluruh dunia menggunakan teknologi internet. Salah satu teknologi yang lagi marak saat ini adalah AI-Generated Images, foto yang telah dipalsukan dan dimanipulasikan dengan sebuah sistem kecerdasan buatan yang bisa menghasilkan foto tiruan dari foto asli. Pesatnya kemajuan kecerdasan buatan membuat kenyataan pun tidak diperlukan agar foto terlihat asli, bahkan para ahli terkadang kesulitan untuk mengetahui apakah itu nyata atau tidak.

Awal mula sistem kecerdasan AI-Generated Images dibuat oleh Harold Cohen yang adalah seorang seniman asal Inggris yang inovasinya di garis depan teknologi mengubah wajah seni komputer. Iterasi paling awal dari seni AI muncul pada akhir tahun 1960an, dengan sistem pertama yang muncul pada tahun 1973 dengan debut Aaron, yang dikembangkan oleh Harold Cohen saat di di Universitas California di San Diego. Sistem Aaron adalah asisten AI yang menggunakan pendekatan AI simbolis untuk membantu Cohen membuat gambar seni hitam-putih.

Harold Cohen menciptakan AI adalah hasil dari pertanyaan lebih luas yang ditanyakan Cohen pada dirinya sendiri: memahami apa itu Seni. “Pendidikan” AARON mengikuti jalur yang mirip dengan manusia, melalui bantuan robot bernama “Turtle” untuk produksi gambar di dunia nyata. Seiring berjalannya waktu, pada 2021 OpenAI menghidupkan kembali sistem AI-Generated Images menggunakan model Transformer yang digunakan di GPT-2 dan

GPT-3 yang dikembangkan menjadi DALL-E, model AI teks-ke-gambar yang mampu menghasilkan gambar berkualitas tinggi berdasarkan perintah bahasa.

Cepatnya perkembangan sistem kecerdasan buatan telah memicu kekhawatiran bahwa teknologi yang digunakan untuk mengelabui manusia berkembang jauh lebih cepat dibandingkan teknologi yang dapat mengidentifikasi tipuan tersebut. Teknologi-teknologi akan menjadi lebih baik, harganya akan menjadi lebih murah, dan akan tiba saatnya ketika apapun yang Anda lihat di internet tidak dapat dipercaya. Kemajuan yang dicapai telah memicu disinformasi dan digunakan untuk memicu perpecahan politik.

Permasalahan yang dapat timbul dikarenakan AI-Generated Images adalah yang pertama misinformasi dan Berita Palsu. Gambar yang dihasilkan AI dapat digunakan untuk membuat konten palsu yang meyakinkan, termasuk foto yang dimanipulasi dan video yang di palsu.

Hal ini dapat menyebarkan narasi palsu, menyesatkan masyarakat dan berkontribusi terhadap penyebaran informasi yang salah dan berita palsu.

Kedua adalah erosi kepercayaan. Merajalelanya konten buatan AI membuat kita semakin sulit membedakan mana yang nyata dan mana yang dibuat-buat. Terkikisnya kepercayaan ini berdampak pada berbagai sektor, termasuk jurnalisme, media sosial, dan interaksi personal, sehingga menimbulkan skeptisisme dan keraguan terhadap keaslian informasi visual.

Ketiga adalah masalah privasi dan keamanan. Teknologi yang membuat foto palsu, khususnya, menimbulkan masalah privasi yang serius karena teknologi ini dapat digunakan untuk menampilkan wajah seseorang pada video eksplisit atau yang membahayakan tanpa izin mereka. Hal ini tidak hanya melanggar privasi tetapi juga berpotensi merusak reputasi dan hubungan.Lalu, gambar yang dihasilkan AI menimbulkan risiko keamanan di berbagai domain, seperti membuat bukti palsu dalam kasus hukum atau membuat konten visual untuk serangan rekayasa sosial, yang mengarah pada ancaman dan pelanggaran keamanan siber.

keempat adalah dilema Etis. Implikasi etis dari gambar yang dihasilkan AI sangatlah kompleks. Pertanyaan muncul mengenai persetujuan, batasan kebebasan artistik, dan tanggung jawab pencipta dan platform dalam mengendalikan penyebaran konten yang menyesatkan atau berbahaya. Perusahaan teknologi, peneliti, agensi foto, dan organisasi berita berupaya mengejar ketertinggalan tersebut, dengan berupaya menetapkan standar asal dan kepemilikan konten.

Dan yang terakhir adalah tantangan peraturan dan hukum. Pemerintah di seluruh dunia berupaya mengatur dan mengatasi penyalahgunaan gambar yang dihasilkan AI tanpa menghambat kemajuan teknologi atau menghambat kebebasan berekspresi. Menyusun peraturan efektif yang menyeimbangkan inovasi, kebebasan berpendapat, dan perlindungan terhadap penyalahgunaan masih merupakan sebuah tantangan.

Untuk mengatasi masalah ini memerlukan pendekatan multi-cabang yang melibatkan kemajuan teknologi dalam deteksi dan otentikasi, kampanye literasi media untuk mendidik masyarakat, pedoman etika untuk pembuatan konten, dan kolaborasi antara pemerintah, perusahaan teknologi, dan masyarakat sipil untuk mengembangkan kerangka peraturan yang efektif. Adaptasi terus-menerus terhadap kemampuan pencitraan yang dihasilkan AI sangat penting untuk menghadapi tantangan-tantangan ini dalam lanskap digital yang berubah dengan cepat saat ini.

Salah satu contoh permasalahan yang ada di dunia nyata adalah Adobe yang menjual gambar kekerasan buatan AI di Gaza dan Israel. Adobe menjual gambar buatan AI yang menunjukkan adegan palsu yang menggambarkan pemboman kota-kota di Gaza dan Israel. Ada yang bersifat fotorealistik, ada pula yang jelas-jelas buatan komputer, dan setidaknya satu sudah mulai beredar secara online, dianggap sebagai gambar nyata.

Adobe menjual gambar kekerasan buatan AI di Gaza dan Israel.

Salah satu gambar yang dihasilkan AI diberi judul “Destroyed Buildings in Gaza town of Gaza strip in Israel, Affected by war” dan menunjukkan jalan-jalan dan bangunan yang hancur. Foto ini sangat mirip dengan foto serangan Israel di Gaza, namun tidak nyata. Meskipun merupakan gambar yang dihasilkan oleh AI, gambar tersebut berakhir di beberapa blog dan situs web kecil tanpa diberi label yang jelas sebagai AI. Terdapat juga gambar lain yang dihasilkan AI untuk dijual di Adobe Stock menunjukkan ledakan palsu di Israel.

Gambar-gambar yang dihasilkan oleh AI hanya memperburuk keadaan, karena kedua belah pihak telah menggunakan gambar-gambar yang dihasilkan oleh AI untuk tujuan propaganda. Yang lebih memperparah masalah ini adalah banyak generator AI yang tersedia untuk umum diluncurkan dengan sedikit kendala, dan perusahaan yang membangunnya tampak tidak peduli. Para ahli khawatir teknologi ini dapat mempercepat terkikisnya kepercayaan terhadap media, pemerintah, dan masyarakat. Jika ada gambar yang bisa dibuat – dan dimanipulasi – bagaimana kita bisa mempercayai apapun yang kita lihat?

Para ahli teknologi harus segera menangani permasalahan sistem AI-Generated Images sebelum terlambat. Semakin lama akan semakin banyak yang memakai sistem kecerdasan buatan untuk kepentingan menghasilkan uang maupun untuk kepentingan pribadi. Banyak ahli teknologi yang akan membuat sistem tersebut dan harga akan semakin murah karena ketatnya persaingan. Alat Deteksi perlu diciptakan dengan mengembangkan algoritma AI canggih yang mampu mendeteksi gambar dan video yang dihasilkan AI dapat membantu mengidentifikasi konten yang dimanipulasi. Peningkatan berkelanjutan pada alat-alat ini sangat penting untuk mengimbangi perkembangan teknologi.

Teknologi semakin tidak masuk akal, mengatasi masalah citra yang dihasilkan AI memerlukan upaya bersama dari berbagai pemangku kepentingan, dengan memanfaatkan teknologi, pendidikan, regulasi, etika, dan kolaborasi. Pendekatan yang menggabungkan strategi-strategi ini sangat penting untuk memitigasi dampak negatif konten yang dihasilkan AI dan menjaga kepercayaan dan keaslian media visual. Skala masalah ini akan meningkat dengan sangat cepat sehingga akan mendorong pendidikan konsumen dengan cepat.

Apakah kita bisa bertahan di masa teknologi ke depan? Pilihan ada di tangan kita semua.

Refrensi:

Angela Kartika 0206042110014

Post Views: 1,197

Artikel lain