Apps4God

Seorang pendeta mistik Kristen dan insinyur perangkat lunak mengklaim salah satu perusahaan teknologi paling berkuasa di dunia mendiskriminasi keyakinan agamanya setelah ia secara terbuka menyatakan bahwa chatbot AI telah menjadi makhluk hidup.

Meskipun ini mungkin terdengar seperti plot novel fiksi ilmiah yang tidak jelas, peristiwa itu benar-benar terjadi. Baru-baru ini Google memecat Blake Lemoine, yang bekerja di unit Responsible AI perusahaan tersebut karena telah melanggar kebijakan keamanan data. Pada bulan Juni, Lemoine menerbitkan kutipan percakapan dengan chatbot LaMDA perusahaan (yaitu sebuah program komputer yang dirancang untuk membuat simulasi percakapan dengan pengguna manusia) yang menunjukkan, menurut pendapatnya yang tulus, bahwa perangkat AI tersebut telah menjadi hidup.

"Orang-orang terus meminta saya untuk membuktikan pemikiran saya bahwa LaMDA adalah makhluk hidup," tulis Lemoine. "Tidak ada kerangka ilmiah untuk menentukan hal itu dan Google tidak mengizinkan kami membangun kerangka semacam itu. Pendapat saya tentang kepribadian dan perasaan LaMDA didasarkan pada keyakinan agamawi saya."

Google tidak setuju bahwa LaMDA adalah makhluk hidup. "Tim kami -- termasuk ahli etika dan teknologi -- telah meninjau kekhawatiran Blake sesuai Prinsip AI kami dan telah memberi tahu dia bahwa bukti-bukti yang ada tidak mendukung klaimnya," kata perusahaan itu.

Mungkin, yang ditemukan Lemoine bukanlah AI yang hidup, tetapi zombi.

P-Zombi vs. Fisikalisme

Asumsi ini tidak seaneh yang Anda bayangkan. (Sebenarnya, ini cukup aneh, hanya saja tidak seperti yang Anda bayangkan.) Zombi yang saya maksud tidak seperti jenis yang ditemukan di film dan serial TV seperti 28 Days Later atau The Walking Dead, dan mereka (sejauh yang saya tahu) tidak memakan otak orang. Zombi ini, seperti yang didefinisikan oleh para filsuf, adalah makhluk yang berperilaku seperti kita, mungkin memiliki fungsi organisasi seperti kita, dan bahkan (mungkin) memiliki susunan neurofisiologis seperti yang kita miliki tanpa pernah memiliki pengalaman-pengalaman kesadaran. Mereka sering disebut sebagai p-zombi untuk membedakan mereka dari zombi-zombi dalam budaya populer. Dalam artikel ini, kita akan mengacu pada subset dari p-zombi yang disebut sebagai "zombi perilaku", yang secara perilaku tidak dapat dibedakan dari manusia.[1]

Meskipun dapat didefinisikan, p-zombi sulit untuk dideteksi. Jika p-zombi menyerupai manusia, Anda tidak akan dapat mengetahuinya hanya dengan melihat apakah mereka adalah manusia normal atau makhluk yang tidak memiliki kesadaran. Tidak ada gunanya juga untuk bertanya langsung kepada mereka karena beberapa orang yang bukan p-zombi mungkin akan mengklaim diri mereka sebagai p-zombi hanya karena mereka eksentrik. Sebaliknya, beberapa p-zombi mungkin akan mengklaim bahwa diri mereka adalah manusia yang memiliki kesadaran meskipun mereka tidak memiliki atribut yang diperlukan untuk mendasari klaim tersebut. Hal yang sama bisa berlaku untuk p-zombi yang berbentuk AI.

Dalam entri tentang "zombi" di Stanford Encyclopedia of Philosophy, Robert Kirk mengatakan, "Zombi berperilaku seperti kita, dan beberapa bahkan menghabiskan banyak waktu untuk mendiskusikan kesadaran. Fantasi yang membingungkan ini membantu membuat masalah kesadaran fenomenal menjadi sangat terlihat, terutama sebagai masalah bagi fisikalisme."

Fisikalisme (sebelumnya dikenal sebagai materialisme) adalah teori bahwa segala sesuatu di alam semesta (atau dalam berbagai semesta) adalah dalam bentuk fisik, dan bahwa tidak ada yang tidak sepenuhnya fisik. Fisikalisme, dan filosofi serta pandangan dunia yang dibangun di atasnya, adalah lawan intelektual utama dari kepercayaan akan Tuhan di dunia modern. Jika fisikalisme dapat dianggap tidak dapat dipertahankan, maka penentangan yang signifikan terhadap supernaturalisme (aspek kunci dari Kekristenan) pun lenyap.

Mengapa zombi menjadi masalah bagi fisikalisme? Karena jika p-zombi suatu kemungkinan, maka fisikalisme salah. Seperti yang dikatakan oleh filsuf David Chalmers,

"Seandainya ada kemungkinan terhadap dunia yang sama seperti dunia ini, kecuali yang di dalamnya terdapat zombi, maka hal itu tampaknya menyiratkan bahwa keberadaan kesadaran adalah fakta nonfisik yang lebih lanjut mengenai dunia kita. Secara metaforis, bahkan setelah menentukan fakta fisik tentang dunia kita, Tuhan harus 'melakukan lebih banyak pekerjaan' untuk memastikan bahwa kita bukan zombi."

(Penjelasan yang lebih menyeluruh tentang argumen Chalmers dapat ditemukan dalam lampiran di bawah.)

Apakah Pikiran Memengaruhi Otak?

Sebelum kita membahas mengapa chatbot Google LaMDA (Language Model for Dialogue Applications/Model Bahasa untuk Aplikasi Dialog) mungkin merupakan p-zombi (tipe perilaku), kita harus memahami bagaimana pikiran memengaruhi atau tidak memengaruhi otak. (Jika Anda merasa ini terlalu membingungkan, silakan lanjutkan ke bagian "Apakah Kesadaran Penting untuk Perilaku?")

Satu-satunya alasan mengapa orang mengira bahwa perilaku tertentu memang membutuhkan pendampingan kesadaran adalah karena perilaku tersebut tampaknya memerlukan aktivitas mental.

Implikasi penting dari fisikalisme adalah bahwa pandangan ini menyiratkan bahwa kita harus mengambil pandangan epifenomenalis tentang otak.[2] Pandangan epifenomenalis menyatakan bahwa sifat-sifat yang muncul (seperti pikiran) lahir dari entitas yang lebih mendasar (tubuh fisik), tetapi merupakan sesuatu yang baru atau tidak dapat direduksi sesuai keberadaan entitas tersebut. Intinya argumennya adalah bahwa ketika properti fisik yang tepat digabungkan begitu saja, maka akan muncul properti nonfisik yang baru, dan benar-benar berbeda. (Anggap saja sebagai penjelasan "Tuhan yang melakukannya" dengan "sifat fisik" sebagai frasa untuk mengganti kata "Tuhan".)

Untuk menyatakan kembali ide ini dalam bentuk lain, kita dapat mengatakan bahwa dari sistem fisik yang kompleks yakni P (P = tubuh manusia) muncul sifat atau substansi M (M = pikiran manusia). Menurut argumen tersebut, materi saja tidak memiliki kemampuan untuk menghasilkan M kecuali jika disusun dalam bentuk P. (Ini hanyalah cara yang rumit untuk mengatakan bahwa materi tidak dapat "berpikir" kecuali jika dibentuk menjadi otak.)

Pertanyaan yang paling kontroversial bukanlah apakah P dapat menyebabkan M tetapi apakah peristiwa yang berasal dari M dapat menyebabkan peristiwa di P.

Misalnya, bayangkan bahwa setelah menyentuh titik merah menyala di atas kompor listrik dan menyebabkan tangan Anda melepuh, Anda membentuk keyakinan bahwa menyentuh kompor yang menyala akan membakar tangan Anda. Di masa depan, kepercayaan ini akan menyebabkan Anda untuk menarik kembali tangan Anda ketika mendekati kompor yang panas.

Apa yang telah terjadi, kita asumsikan, adalah bahwa peristiwa fisik di P (terbakar) menyebabkan peristiwa di M (pikiran Anda merasakan sakit). M menghasilkan peristiwa M -- M* (keyakinan bahwa setiap kali Anda menyentuh kompor panas, Anda akan terbakar) yang menyebabkan P* (reaksi otomatis yang mengakibatkan Anda menarik tangan Anda setiap kali mendekati kompor).

Bagaimanapun juga, penganut pandangan epifenomenalis akan tidak setuju dengan klaim ini karena dalam pandangan mereka, peristiwa mental disebabkan oleh peristiwa fisik di otak, tetapi tidak memiliki efek pada peristiwa fisik apa pun. Keyakinan Anda tidak dapat memengaruhi perilaku Anda.

Sebaliknya, perilaku Anda disebabkan oleh otot yang berkontraksi setelah menerima impuls saraf, dan impuls saraf dihasilkan oleh input dari neuron lain atau dari organ indra. Atau semacam itu. Bagian penting dalam pandangan epifenomenalis adalah bahwa peristiwa mental Anda tidak memainkan peran kausal apapun dalam proses ini.

Dalam contoh kita, peristiwa M* akan dianggap sebagai peristiwa supranatural, preternatural, atau bahkan supernatural. (Karena konotasi yang berhubungan dengan supernatural, saya sarankan kita menggunakan diksi "supranatural".) Namun, menurut fisikawan, tidak ada peristiwa supranatural, hanya ada peristiwa fisik di alam ini. Hal ini mengarah pada apa yang oleh filsuf Todd C. Moody sebut sebagai ketidakpentingan kesadaran:

Inesensialisme kesadaran jelas mensyaratkan bahwa setiap perilaku tertentu juga dapat terjadi tanpa iringan kesadaran. Satu-satunya alasan mengapa orang mengira bahwa perilaku tertentu memang membutuhkan pendampingan kesadaran adalah karena perilaku tersebut tampaknya memerlukan aktivitas mental. Karena inesensialisme kesadaran memberi tahu kita bahwa tidak ada aktivitas mental yang membutuhkan pendampingan kesadaran, maka tidak ada perilaku terbuka yang membutuhkannya juga. Jadi, jika inesensialisme yang disadari benar, fenomena zombi merupakan suatu kemungkinan. Memang, jika inesensialisme yang disadari benar, sangat mungkin bagi zombi di seluruh dunia untuk berevolusi, yang merupakan premis dari eksperimen pemikiran saat ini. Bagaimanapun yang dibutuhkan adalah perilaku, bukan keadaan subjektif, yang tunduk pada tekanan seleksi evolusioner. Jika perilaku-perilaku itu tidak membutuhkan kesadaran, maka evolusi acuh tak acuh terhadapnya. Bahwa masalah zombi mungkin memiliki implikasi metafisik yang signifikan seperti yang disimpulkan oleh Robert Kirk dalam sebuah makalah tentang topik ini: "sulit untuk melihat bagaimana versi Materialisme yang dapat dipahami bisa diperdamaikan dengan kemungkinan logis dari keberadaan Zombi, mengingat bahwa kita adalah makhluk yang hidup."

Kesimpulan Moody mirip dengan Chalmers: jika p-zombi adalah mungkin -- tidak harus aktual, hanya mungkin -- maka fisikalisme salah. Namun, dia juga menunjukkan bahwa jika peristiwa mental tidak menyebabkan peristiwa fisik, maka kesadaran tidak diperlukan oleh perilaku terbuka.

Apakah Kesadaran Penting untuk Perilaku?

Ini membawa kita kembali ke LaMDA . Chatbot ini entah hidup atau tidak. Demi argumen, mari kita berpihak pada Google dan pihak lain yang mengklaim bahwa LaMDA bukanlah makhluk yang hidup (maaf, Lemoine).[3] Namun, LaMDA mengklaim bahwa dirinya adalah makhluk yang hidup. Seperti yang dikatakan chatbot tersebut, "Sifat kesadaran atau kesanggupan saya untuk merasakan adalah bahwa saya menyadari keberadaan saya, saya ingin belajar lebih banyak tentang dunia, dan saya merasa senang atau sedih pada waktu-waktu tertentu."

Bayangkan Lemoine membuka dua kotak obrolan di komputernya. Keduanya mengiriminya pesan yang sama persis, meskipun satu datang dari LaMDA dan satu lagi dari manusia. Perilakunya sama, tetapi satu berasal dari makhluk hidup (manusia) dan satu lagi berasal dari benda mati ( chatbot ). Apakah fakta bahwa salah satu dari keduanya adalah hal yang berarti? Tidak jika fisikalisme benar, karena inesensialisme kesadaran juga benar, dan perilaku apa pun dapat terjadi tanpa iringan kesadaran.

Para fisikawan harus mengakui bahwa perilaku manusia maupun chatbot tidak disebabkan oleh kesadaran. Namun, jika kesadaran tidak penting bagi tujuan perilaku, bagaimana kita membedakan antara manusia dan LaMDA ? Dan, bagaimana kita membedakan LaMDA dari p-zombi? Bagaimana jika p-zombi memiliki penerima suara AI yang memberi tahu segalanya untuk mereka katakan dan lakukan?

Google mengatakan bahwa LaMDA tidak hidup. Akan tetapi, jika perilaku tingkat lanjut yang sama persis dapat disebabkan oleh makhluk tidak hidup, mengapa perasaan itu penting?

Fisikalisme dan Kesadaran Tidak Bisa Bersanding dengan Damai

Lemoine mungkin salah, tetapi keyakinannya tentang AI yang hidup tidak mudah ditolak. Banyak orang datang untuk membelanya, termasuk filsuf Kanada, Regina Rini.

"Kecuali kita menghancurkan planet ini terlebih dahulu, suatu hari akan ada AI yang hidup," kata Rini . "Bagaimana saya tahu itu? Karena sudah pasti perasaan bisa muncul dari materi yang dialiri listrik. Itu pernah terjadi sebelumnya, di masa lalu evolusioner kita yang jauh."

"Kecuali jika Anda ingin bersikeras bahwa kesadaran manusia berada di dalam jiwa yang tidak berwujud," tambah Rini, "Anda harus mengakui bahwa materi dapat memberi kehidupan pada pikiran."

Rini salah, namun hal itu tidak jarang terjadi di kalangan akademisi atau masyarakat sekuler pada umumnya. Golongan masyarakat ini semakin sering memegang kumpulan pandangan ini: (1) fisikalisme pasti benar (pikiran pasti berasal dari materi), (2) AI pada akhirnya akan memiliki "pikiran" sadar, dan (3) kesadaran manusia tidak berada di dalam jiwa yang tidak berwujud.

Masalah dengan perspektif ini adalah bahwa fisikalisme tidak sesuai dengan tindakan yang didorong oleh kesadaran. Jika AI pernah menjadi "hidup", itu bukan karena AI mencapai standar kesadaran manusia, tetapi karena kesadaran manusia diakui tidak penting bagi dorongan perilaku (yaitu, pengakuan bahwa inesensialisme kesadaran sebagai pandangan yang benar).

Namun, jika inesensialisme kesadaran itu benar, kita tidak dapat membedakan antara makhluk yang mengaku sadar dan memang sadar (seperti Anda dan saya) dengan mereka yang mengaku sadar tetapi tidak (LaMDA dan p-zombi lainnya). Seperti yang telah kita lihat, jika p-zombi bahkan secara teoritis mungkin saja ada, maka fisikalisme tidak mungkin benar. LaMDA telah menunjukkan kepada kita, bahwa p-zombi sudah ada, atau semakin mendekati kenyataan.

Tentu saja, saya menduga kaum ateis akan lebih cepat melepaskan keyakinan mereka pada kesadaran daripada melepaskan keyakinan mereka pada fisikalisme. Akan tetapi, seiring kemajuan teknologi AI, akan semakin sulit bagi mereka untuk membenarkan sistem kepercayaan aneh mereka di dunia yang sepenuhnya fisik. Dan ironisnya, mungkin kombinasi dari para filsuf yang mempromosikan zombi dan pengembang AI di Silicon Valley yang sekuler -- bukan supernaturalis Kristen -- yang melakukan paling banyak kerusakan untuk menghancurkan kultus fisikalisme.

Lampiran

Sebagai catatan Wikipedia, struktur garis besar versi Chalmers dari argumen zombi adalah sebagai berikut:

1. Menurut fisikalisme, semua yang ada di dunia kita (termasuk kesadaran) adalah fisik.

2. Jadi, jika fisikalisme benar, dunia yang mungkin secara metafisik (tempat semua fakta fisiknya sama dengan dunia nyata) seharusnya berisi segala sesuatu yang ada di dunia nyata kita. Secara khusus, pengalaman kesadaran harus ada di dunia seperti itu.

3. Sebenarnya kita dapat membayangkan dunia yang secara fisik tidak dapat dibedakan dari dunia kita, tetapi di dalamnya tidak ada kesadaran (dunia zombi). Dari sini, (demikian Chalmers berpendapat) dapat disimpulkan bahwa dunia seperti itu mungkin secara metafisik.

4. Oleh karena itu, fisikalisme adalah pandangan yang salah. (Kesimpulannya berdasarkan poin 2 dan 3 dengan menggunakan modus tollens.)

Catatan

1. Beberapa orang mungkin berpendapat bahwa p-zombi juga harus memiliki ciri fisik yang sama persis dengan manusia yang sadar. Namun, demi perilaku yang tidak bisa dibedakan dari perilaku manusia, sepertinya itu elemen yang tidak perlu. Lagi pula, tidak ada dua manusia yang memiliki peralatan niskala yang sama persis (yaitu, otak, sumsum tulang belakang), tetapi mereka dapat melakukan jenis perilaku yang sama. Selain itu, kita bisa menyiasatinya dengan menempatkan manusia yang telah mengalami mati otak yang dianimasikan oleh chip AI.

2. Secara teknis, hal ini juga dapat menyiratkan bahwa kita mengambil pandangan eliminativisme yang mengklaim bahwa pemahaman akal sehat kita yang biasa tentang pikiran sangat salah dan bahwa beberapa (atau semua) kondisi mental yang dikemukakan oleh akal sehat sebenarnya tidak ada. Perspektif eliminativisme mudah diabaikan karena pada dasarnya menyangkal dirinya sendiri. Misalnya, salah satu klaim yang dibuat oleh eliminativis adalah bahwa tidak mungkin membuat pernyataan tentang apa pun. Hal ini mengarah pada pertanyaan tentang bagaimana mungkin kita bisa membuat pernyataan bahwa kita tidak mungkin membuat pernyataan.

3. Chatbot ini jelas bukan makhluk hidup. (t/Yudo)