India akan menindak tegas deepfakes, aturan baru dapat memaksa perusahaan untuk melabeli konten yang dihasilkan AI
Slot online terpercaya – Di bawah aturan yang diusulkan, perusahaan media sosial juga akan diwajibkan untuk memastikan bahwa pengguna menyatakan jika mereka mengunggah materi yang dipalsukan. Aturan-aturan ini bertujuan untuk menciptakan transparansi dan akuntabilitas yang lebih besar dalam bagaimana konten yang dihasilkan oleh AI dibagikan secara online. Dengan hampir satu miliar pengguna internet, India menghadapi risiko bahaya yang sangat tinggi dari media yang dimanipulasi-terutama di negara yang beragam seperti India, di mana informasi yang salah dapat mengobarkan ketegangan komunal atau mengganggu proses demokrasi.
Para pejabat mengatakan bahwa proposal ini bertujuan untuk melindungi warga dari konten yang menipu dan berpotensi membahayakan sekaligus menjaga kepercayaan terhadap ekosistem digital.
Deepfakes, sebuah istilah untuk video, audio, atau gambar yang realistis namun dibuat dengan menggunakan kecerdasan buatan (AI), merupakan tantangan yang semakin besar bagi keamanan online dan integritas informasi. Alat-alat ini, yang dulunya terbatas pada hiburan atau sindiran, semakin sering digunakan untuk propaganda politik, penipuan, dan pembunuhan karakter.
Melalui peraturan yang diusulkan ini, pemerintah t akan mewajibkan platform dan perusahaan AI untuk mengidentifikasi dan memberi label pada konten semacam itu dengan jelas, memastikan pengguna tahu kapan mereka melihat sesuatu yang dihasilkan atau dimanipulasi oleh AI.
Perlu dicatat, India bukanlah satu-satunya negara yang menerapkan aturan untuk mengendalikan deepfake yang dihasilkan oleh AI. Pemerintah di seluruh dunia, termasuk Amerika Serikat dan Uni Eropa, sedang mempertimbangkan atau memberlakukan persyaratan pelabelan yang serupa untuk menahan penyebaran materi yang dihasilkan oleh AI yang menipu.
India, dengan lebih dari satu miliar pengguna internet, juga telah menyaksikan dampak negatif dari deepfakes, termasuk penyebaran berita palsu selama pemilihan umum.
Rancangan peraturan yang diusulkan akan menjadi bagian dari Peraturan TI India, yang sedang diperbarui untuk memperhitungkan risiko yang muncul dari teknologi AI. Meskipun pemerintah belum merinci mekanisme penegakan hukum atau hukuman untuk ketidakpatuhan, para pejabat dilaporkan sedang berdiskusi dengan perusahaan teknologi, pengembang AI, dan organisasi masyarakat sipil untuk membentuk kerangka kerja akhir.
Jika disetujui, kewajiban baru ini dapat secara signifikan membentuk kembali tanggung jawab platform digital yang beroperasi di India. Perusahaan media sosial mungkin perlu mengembangkan atau mengintegrasikan sistem otomatis yang mampu mengidentifikasi konten yang dihasilkan oleh AI, sementara pengembang AI dapat menghadapi persyaratan pengungkapan baru untuk alat mereka.
