Jakarta – Harianesia – Kecerdasan Buatan Dapat Menimbulkan Ancaman Bagi Keberadaan manusia, menurut Patriark Kirill kepala Gereja Ortodoks Rusia, telah memperingatkan tantangan yang ditimbulkan oleh perkembangan pesat kecerdasan buatan (AI) bagi umat manusia.
Pemimpin gereja menyampaikan pernyataan tersebut di forum ‘Budaya Abad ke-21: Kedaulatan atau Globalisme?’ di St. Petersburg pada hari Rabu dikutip dari rt.com Kamis (15/9/2024).
“Jika umat manusia kehilangan iman agama, terutama dalam konteks pertumbuhan teknologi yang terkait dengan munculnya kecerdasan buatan, maka kita benar-benar memasuki era Kiamat,” kata Patriark.
Perkembangan umat manusia hanya mungkin terjadi dengan bertumbuhnya keimanan dan moralitas dalam diri manusia, tegas Kirill, sambil memperingatkan bahwa jika tidak, akan ada konsekuensi yang mengerikan mengingat munculnya teknologi.
“Kita sedang mendekati masa apokaliptik, inilah yang perlu kita semua pahami dengan jelas,” tegasnya.
“Dan satu-satunya jalan keluar dari krisis yang mungkin terjadi ini adalah iman kepada Tuhan, saya katakan dengan lantang kepada seluruh dunia. Jika kita meninggalkan iman kepada Tuhan… tidak akan ada yang berhasil.”
Patriark memperingatkan bahwa AI dapat menimbulkan bahaya nyata bagi keberadaan umat manusia jika mencapai tingkat perbaikan diri.
Ia mengakui bahwa “tentu saja, ada kisah-kisah horor distopia, ketika kecerdasan buatan mengambil alih seluruh umat manusia,” namun menekankan, bahwa “segala sesuatu yang berkaitan dengan kecerdasan buatan… belum sepenuhnya dipahami dan diwujudkan.
”Kepala Gereja Ortodoks Rusia tidak sendirian dalam peringatannya tentang potensi bahaya dari perkembangan AI yang pesat. Pada bulan Juni, kepala Gereja Katolik, Paus Fransiskus, mengatakan pada pertemuan puncak G7 di Italia bahwa AI adalah “alat yang menarik dan menakutkan” yang membutuhkan pengawasan manusia yang ketat.
Pada tahun 2023, sekelompok pemimpin industri, termasuk dari OpenAI, Google DeepMind, Anthropic dan lainnya, memperingatkan bahwa teknologi yang mereka kembangkan suatu hari nanti mungkin menimbulkan ancaman eksistensial bagi umat manusia dan dapat sama mematikannya dengan pandemi dan senjata nuklir.
*Paus Memperingatkan Bahaya AI*
“Tidak ada harapan bagi umat manusia jika mulai bergantung pada pilihan yang dibuat oleh mesin, kata Paus”.
Paus Fransiskus, yang pada hari Jumat menjadi kepala Gereja Katolik pertama yang menyampaikan pidato pada pertemuan puncak G7, telah memperingatkan tentang tantangan yang ditimbulkan oleh perkembangan kecerdasan buatan yang pesat bagi umat manusia.
AI adalah “alat yang menarik sekaligus menakutkan” yang membutuhkan pengawasan manusia yang ketat, kata Paus kepada para pemimpin Kanada, Prancis, Jerman, Italia, Jepang, Inggris, AS, dan Uni Eropa selama pertemuan di resor Borgo Egnazia di kota Fasano, Italia.
Algoritma “hanya dapat memeriksa kenyataan yang diformalkan dalam bentuk angka,” sementara manusia yang memiliki kebijaksanaan dan dapat mendengarkan Kitab Suci “tidak hanya memilih, tetapi juga mampu memutuskan dalam hati mereka,” katanya.
“ Sangat penting bahwa pengambilan keputusan, bahkan ketika kita dihadapkan dengan aspek-aspeknya yang terkadang dramatis dan mendesak, harus selalu diserahkan kepada pribadi manusia,” tegas Paus Fransiskus.
“Kita akan mengutuk manusia ke masa depan tanpa harapan jika kita menghilangkan kemampuan manusia untuk membuat keputusan tentang diri mereka sendiri dan kehidupan mereka, dengan menghukum mereka untuk bergantung pada pilihan mesin,” katanya.
Paus mendesak terciptanya “ruang bagi kontrol manusia yang tepat atas pilihan yang dibuat oleh program kecerdasan buatan,” dan menekankan bahwa “martabat manusia itu sendiri bergantung padanya.” Ia secara khusus meminta para pemimpin G7 untuk melarang penggunaan sistem senjata otonom yang mematikan, dengan menyatakan bahwa “tidak ada mesin yang boleh memilih untuk mengambil nyawa manusia.”
Menurut Fransiskus, suatu algoritma “tidaklah objektif maupun netral” karena selalu dibentuk oleh “pandangan dunia dari mereka yang menciptakan dan mengembangkannya.”
Di dunia modern di mana “semakin sulit untuk menemukan kesepakatan mengenai isu-isu utama yang berkaitan dengan kehidupan sosial,” seperangkat prinsip “global dan pluralistik” untuk pengembangan AI harus diciptakan yang akan memperoleh “dukungan dari budaya, agama, organisasi internasional, dan perusahaan-perusahaan besar,” katanya.
Paus menyebut pendekatan semacam itu sebagai “etika-algoritma.”
Paus mengakui bahwa algoritma AI dapat mempermudah akses ke pengetahuan, menyediakan kemajuan eksponensial bagi penelitian ilmiah, dan mengurangi jumlah kerja fisik berat yang dilakukan oleh manusia. Namun, agar dapat menjadi “instrumen untuk membangun kebaikan dan masa depan yang lebih baik, algoritma tersebut harus selalu ditujukan untuk kebaikan setiap manusia,” imbuhnya.
“Semua orang punya tanggung jawab untuk memanfaatkan [AI] dengan baik, tetapi tanggung jawab untuk menciptakan kondisi agar pemanfaatan yang baik ini bisa terwujud dan membuahkan hasil terletak pada politik,” tegas kepala Gereja Katolik tersebut.
Fransiskus telah lama prihatin dengan kecerdasan buatan, dengan Akademi Kepausan untuk Kehidupan milik gereja tersebut menjadi salah satu penandatangan pertama Seruan Roma untuk Etika AI 2020, yang mendesak transparansi, inklusivitas, akuntabilitas, ketidakberpihakan, keandalan, dan privasi dalam mengembangkan algoritma AI.
Editor : D.Wahyudi
