Nick Bostrom

1.1. Kehidupan Awal dan Pendidikan

Nick Bostrom, yang dilahirkan sebagai Niklas Boström pada 10 Mac 1973 di Helsingborg, Sweden, tidak menyukai sekolah pada usia muda dan menghabiskan tahun terakhir sekolah menengahnya belajar dari rumah. Beliau menunjukkan minat yang luas dalam pelbagai bidang akademik, termasuk antropologi, seni, kesusasteraan, dan sains.

Beliau memperoleh ijazah Sarjana Muda Sastera dari Universiti Gothenburg pada tahun 1994. Kemudian, beliau melanjutkan pengajian dan memperoleh ijazah Sarjana Sastera dalam falsafah dan fizik dari Universiti Stockholm serta ijazah Sarjana Sains dalam neurosains komputasi dari King's College London pada tahun 1996. Semasa di Universiti Stockholm, beliau meneliti hubungan antara bahasa dan realiti dengan mengkaji ahli falsafah analitik W. V. Quine. Beliau juga pernah mencuba beberapa persembahan komedi berdiri di London. Pada tahun 2000, beliau dianugerahkan ijazah Doktor Falsafah dalam falsafah dari London School of Economics. Tesis kedoktorannya bertajuk Observational selection effects and probability (Kesan pemilihan pemerhatian dan kebarangkalian).

1.2. Kerjaya Awal dan Penubuhan Institusi

Selepas menamatkan pengajian, Nick Bostrom memegang jawatan mengajar di Universiti Yale dari tahun 2000 hingga 2002. Beliau kemudiannya menjadi Felo Pasca Doktoral British Academy di Universiti Oxford dari tahun 2002 hingga 2005.

Pada tahun 1998, Bostrom bersama David Pearce mengasaskan Persatuan Transhumanis Dunia (World Transhumanist Association - WTA), yang kemudiannya menukar namanya kepada Humanity+. Pada tahun 2004, beliau bersama James Hughes mengasaskan Institut Etika dan Teknologi Baharu (Institute for Ethics and Emerging Technologies - IEET). Walaupun beliau tidak lagi terlibat secara langsung dengan kedua-dua organisasi ini, sumbangan awalnya adalah penting.

Pada tahun 2005, Bostrom mengasaskan Institut Masa Depan Kemanusiaan (Future of Humanity Institute - FHI) di Universiti Oxford. Institut ini menjalankan penyelidikan mengenai masa depan jauh peradaban manusia. FHI dibubarkan pada tahun 2024, yang menyebabkan Bostrom meninggalkan Universiti Oxford. Beliau kini merupakan Penyelidik Utama di Inisiatif Penyelidikan Makrostrategi.

2.1. Risiko Eksistensial

Penyelidikan Bostrom menumpukan kepada masa depan kemanusiaan dan hasil jangka panjang. Beliau membincangkan risiko eksistensial, yang ditakrifkannya sebagai "hasil buruk yang sama ada akan memusnahkan kehidupan pintar yang berasal dari Bumi atau secara kekal dan drastik mengekang potensinya". Bostrom kebanyakannya bimbang tentang risiko antropogenik, iaitu risiko yang timbul daripada aktiviti manusia, terutamanya daripada teknologi baharu seperti kecerdasan buatan termaju, nanoteknologi molekul, atau biologi sintetik.

Pada tahun 2005, Bostrom mengasaskan Institut Masa Depan Kemanusiaan (FHI), yang sehingga penutupannya pada tahun 2024, meneliti masa depan jauh peradaban manusia. Beliau juga merupakan penasihat kepada Pusat Kajian Risiko Eksistensial (Centre for the Study of Existential Risk).

Dalam koleksi esei 2008, Global Catastrophic Risks, editor Bostrom dan Milan M. Ćirković mencirikan hubungan antara risiko eksistensial dan kelas risiko bencana global yang lebih luas, serta mengaitkan risiko eksistensial dengan kesan pemilihan pemerhati dan paradoks Fermi.

2.2. Superinteligen

Bostrom percaya bahawa kemajuan dalam kecerdasan buatan (AI) boleh membawa kepada superinteligen, yang ditakrifkannya sebagai "mana-mana intelek yang jauh melebihi prestasi kognitif manusia dalam hampir semua domain kepentingan". Beliau melihat ini sebagai sumber utama peluang dan risiko eksistensial.

2.3. Prinsip Antropik

Bostrom telah menerbitkan banyak artikel mengenai penaakulan antropik, serta buku Anthropic Bias: Observation Selection Effects in Science and Philosophy. Dalam buku itu, beliau mengkritik formulasi prinsip antropik sebelumnya, termasuk yang dikemukakan oleh Brandon Carter, John Leslie, John Barrow, dan Frank Tipler.

Bostrom percaya bahawa salah urus maklumat indeksikal adalah kelemahan umum dalam banyak bidang penyelidikan (termasuk kosmologi, falsafah, teori evolusi, teori permainan, dan fizik kuantum). Beliau berpendapat bahawa teori antropik diperlukan untuk menangani masalah ini. Beliau memperkenalkan andaian pensampelan kendiri (Self-Sampling Assumption - SSA) dan menganalisis andaian petunjuk kendiri (Self-Indication Assumption - SIA), menunjukkan bagaimana ia membawa kepada kesimpulan yang berbeza dalam beberapa kes, dan mengenal pasti bagaimana setiap satu dipengaruhi oleh paradoks atau implikasi yang tidak intuitif dalam eksperimen pemikiran tertentu. Beliau berhujah menentang SIA dan mencadangkan untuk memperhalusi SSA menjadi andaian pensampelan kendiri kuat (Strong Self-Sampling Assumption - SSSA), yang menggantikan "pemerhati" dalam definisi SSA dengan "saat-pemerhati".

Dalam karya kemudian, beliau bersama Milan M. Ćirković dan Anders Sandberg mencadangkan fenomena bayangan antropik, kesan pemilihan pemerhatian yang menghalang pemerhati daripada memerhatikan jenis bencana tertentu dalam sejarah geologi dan evolusi mereka yang baru-baru ini. Mereka mencadangkan bahawa peristiwa yang terletak dalam bayangan antropik cenderung diremehkan melainkan pembetulan statistik dibuat.

2.4. Hipotesis Simulasi

Hipotesis simulasi Bostrom menyatakan bahawa sekurang-kurangnya salah satu daripada pernyataan berikut sangat mungkin benar:

• Pecahan peradaban peringkat manusia yang mencapai tahap pasca-manusia adalah sangat hampir kepada sifar;
• Pecahan peradaban pasca-manusia yang berminat untuk menjalankan simulasi nenek moyang adalah sangat hampir kepada sifar;
• Pecahan semua orang dengan jenis pengalaman kita yang hidup dalam simulasi adalah sangat hampir kepada satu.

2.5. Etika Peningkatan Manusia

Bostrom menyokong "peningkatan manusia", atau "peningkatan diri dan kesempurnaan manusia melalui aplikasi etika sains", serta mengkritik pandangan biokonservatif.

Pada tahun 1998, Bostrom bersama David Pearce mengasaskan Persatuan Transhumanis Dunia (World Transhumanist Association), yang kemudiannya menukar namanya kepada Humanity+. Pada tahun 2004, beliau bersama James Hughes mengasaskan Institut Etika dan Teknologi Baharu (Institute for Ethics and Emerging Technologies), walaupun beliau tidak lagi terlibat dengan kedua-dua organisasi ini.

Pada tahun 2005, Bostrom menerbitkan cerpen "The Fable of the Dragon-Tyrant" dalam Journal of Medical Ethics. Versi yang lebih pendek diterbitkan pada tahun 2012 dalam Philosophy Now. Kisah dongeng itu menggambarkan kematian sebagai naga yang menuntut ribuan orang setiap hari. Kisah itu meneroka bagaimana bias status quo dan ketidakberdayaan yang dipelajari boleh menghalang orang daripada mengambil tindakan untuk mengalahkan penuaan walaupun cara untuk berbuat demikian ada pada mereka. YouTuber CGP Grey mencipta versi animasi kisah itu.

Bersama ahli falsafah Toby Ord, beliau mencadangkan ujian pembalikan pada tahun 2006. Memandangkan bias status quo manusia yang tidak rasional, bagaimana seseorang dapat membezakan antara kritikan yang sah terhadap perubahan yang dicadangkan dalam sifat manusia dan kritikan yang hanya didorong oleh penentangan terhadap perubahan? Ujian pembalikan cuba melakukan ini dengan bertanya sama ada ia akan menjadi perkara yang baik jika sifat itu diubah ke arah yang bertentangan.

Karya Bostrom juga mempertimbangkan potensi kesan disgenik dalam populasi manusia tetapi beliau berpendapat kejuruteraan genetik boleh memberikan penyelesaian dan bahawa "Dalam apa jua keadaan, skala masa untuk evolusi genetik semula jadi manusia nampaknya terlalu besar untuk perkembangan sedemikian mempunyai kesan yang signifikan sebelum perkembangan lain akan menjadikan isu itu tidak relevan."

2.6. Strategi Teknologi

Bostrom telah mencadangkan agar dasar teknologi yang bertujuan mengurangkan risiko eksistensial harus berusaha mempengaruhi urutan di mana pelbagai keupayaan teknologi dicapai, mencadangkan prinsip pembangunan teknologi pembezaan (differential technological development). Prinsip ini menyatakan bahawa kita harus melambatkan pembangunan teknologi berbahaya, terutamanya yang meningkatkan tahap risiko eksistensial, dan mempercepatkan pembangunan teknologi bermanfaat, terutamanya yang melindungi daripada risiko eksistensial yang ditimbulkan oleh alam semula jadi atau oleh teknologi lain.

Pada tahun 2011, Bostrom mengasaskan Program Oxford Martin mengenai Impak Teknologi Masa Depan (Oxford Martin Program on the Impacts of Future Technology). Teori Bostrom mengenai kutukan unilateralis telah disebut sebagai alasan bagi komuniti saintifik untuk mengelakkan penyelidikan berbahaya yang kontroversial seperti menghidupkan semula patogen.

2.7. Sentience Digital

Bostrom menyokong prinsip kemandirian substrat, iaitu idea bahawa kesedaran boleh muncul pada pelbagai jenis substrat fizikal, bukan hanya dalam "rangkaian saraf biologi berasaskan karbon" seperti otak manusia. Beliau menganggap bahawa "sentience adalah soal darjah" dan minda digital secara teori boleh direka bentuk untuk mempunyai kadar dan intensiti pengalaman subjektif yang jauh lebih tinggi daripada manusia, menggunakan sumber yang lebih sedikit. Mesin yang sangat sentient sedemikian, yang disebutnya "penerima manfaat super" (super-beneficiaries), akan menjadi sangat cekap dalam mencapai kebahagiaan. Beliau mengesyorkan mencari "laluan yang akan membolehkan minda digital dan minda biologi untuk wujud bersama, dengan cara yang saling menguntungkan di mana semua bentuk ini boleh berkembang dan maju."

3.1. Superintelligence: Paths, Dangers, Strategies

Pada tahun 2014, Bostrom menerbitkan Superintelligence: Paths, Dangers, Strategies, yang menjadi buku terlaris New York Times. Buku ini berhujah bahawa superinteligen adalah mungkin dan meneroka pelbagai jenis superinteligen, kognisi mereka, serta risiko yang berkaitan. Beliau juga membentangkan pertimbangan teknikal dan strategik tentang cara menjadikannya selamat.

3.2. Deep Utopia: Life and Meaning in a Solved World

Dalam bukunya pada tahun 2024, Deep Utopia: Life and Meaning in a Solved World, Bostrom meneroka konsep kehidupan ideal, jika kemanusiaan berjaya beralih ke dunia pasca-superinteligen. Bostrom menyatakan bahawa persoalannya adalah "bukan bagaimana menariknya masa depan untuk dilihat, tetapi bagaimana baiknya untuk hidup di dalamnya." Beliau menggariskan beberapa teknologi yang dianggapnya mungkin secara fizikal dalam teori dan tersedia pada kematangan teknologi, seperti peningkatan kognitif, pembalikan penuaan, input deria arbitrari (rasa, bunyi...), atau kawalan tepat motivasi, mood, kesejahteraan, dan personaliti. Menurut beliau, bukan sahaja mesin akan menjadi lebih baik daripada manusia dalam bekerja, tetapi ia juga akan merosakkan tujuan banyak aktiviti riadah, memberikan kesejahteraan yang melampau sambil mencabar pencarian makna.

4.1. Kritikan dan Kontroversi

Pada Januari 2023, Bostrom mengeluarkan permohonan maaf untuk e-mel LISTSERV 1996 yang dihantar sebagai pelajar pascasiswazah di mana beliau menyatakan bahawa beliau berpendapat "Orang kulit hitam lebih bodoh daripada orang kulit putih", dan di mana beliau juga menggunakan perkataan "niggers" dalam penerangan tentang bagaimana beliau berpendapat kenyataan ini mungkin akan diterima oleh orang lain. Permohonan maaf itu, yang disiarkan di laman webnya, menyatakan bahawa "penggunaan kata-kata kesat perkauman adalah menjijikkan" dan bahawa beliau "menolak sepenuhnya e-mel menjijikkan ini".

E-mel itu telah digambarkan sebagai "perkauman" dalam beberapa sumber berita. Menurut Andrew Anthony dari The Guardian, "Permohonan maaf itu tidak banyak meredakan pengkritik Bostrom, terutamanya kerana beliau secara terang-terangan gagal menarik balik hujah utamanya mengenai bangsa dan kecerdasan, dan nampaknya membuat pembelaan separa terhadap eugenik."

Tidak lama selepas itu, Universiti Oxford mengutuk bahasa yang digunakan dalam e-mel tersebut dan memulakan siasatan. Siasatan itu berakhir pada 10 Ogos 2023, dengan kesimpulan: "kami tidak menganggap anda seorang rasis atau bahawa anda memegang pandangan perkauman, dan kami menganggap bahawa permohonan maaf yang anda siarkan pada Januari 2023 adalah ikhlas." Kenyataan itu juga menambah, "kami percaya bahawa permohonan maaf anda, pengakuan anda tentang kesusahan yang disebabkan oleh tindakan anda, dan penghargaan anda terhadap penjagaan dan masa yang telah diberikan oleh semua orang kepada proses ini adalah tulen dan ikhlas. Kami juga digalakkan bahawa anda telah memulakan perjalanan refleksi yang mendalam dan bermakna, yang merangkumi penerokaan pembelajaran dan pendidikan kendiri daripada proses ini."