Tahun lalu, saya menulis sebuah artikel tentang optimisme teknologi, menjelaskan antusiasme saya terhadap teknologi dan manfaat besar yang mungkin diberikannya, sambil juga mengungkapkan sikap hati-hati terhadap beberapa masalah tertentu, terutama risiko yang mungkin ditimbulkan oleh AI super pintar.
Inti dari artikel ini adalah mendorong suatu konsep akselerasi defensif yang terdesentralisasi, demokratis, dan beragam. Kita perlu mempercepat perkembangan teknologi, sambil secara khusus memperhatikan teknologi yang dapat meningkatkan kemampuan pertahanan, bukan kemampuan penghancuran, serta berkomitmen untuk mendistribusikan kekuasaan dan menghindari konsentrasi kekuasaan di tangan segelintir elit.
Setahun telah berlalu, dan ide-ide ini telah berkembang dan matang secara signifikan. Saya telah membagikan ide-ide ini di platform "80,000 Jam", dan menerima banyak umpan balik, sebagian besar positif, tentu saja ada juga beberapa kritik.
Pekerjaan ini terus berlanjut dan telah mencapai hasil yang substantif: kemajuan telah dibuat dalam bidang vaksin sumber terbuka yang dapat diverifikasi; pemahaman orang tentang nilai udara dalam ruangan yang sehat terus mendalam; "catatan komunitas" terus berperan aktif; pasar prediksi telah mencapai tahun terobosan sebagai alat informasi; bukti nol pengetahuan telah diterapkan dalam identifikasi identitas pemerintah dan bidang media sosial; alat pencitraan sumber terbuka telah diterapkan dalam bidang kedokteran dan antarmuka otak-mesin, dan lain-lain.
Musim gugur lalu, kami mengadakan acara d/acc penting pertama: "Hari Penemuan d/acc". Acara ini mengumpulkan pembicara dari berbagai bidang d/acc ( biologi, fisika, jaringan, pertahanan informasi, dan teknologi saraf ). Orang-orang yang telah lama mengabdikan diri pada teknologi ini saling memahami pekerjaan mereka dengan lebih baik, dan orang luar juga semakin menyadari visi yang lebih besar ini: nilai-nilai yang mendorong perkembangan Ethereum dan cryptocurrency dapat diperluas ke dunia yang lebih luas.
Makna dan Cakupan d/acc
Inti dari pemikiran d/acc sangat jelas: desentralisasi, demokratis, dan diferensiasi dalam percepatan defensif. Membangun teknologi yang dapat mendorong keseimbangan serangan dan pertahanan ke arah pertahanan, tanpa bergantung pada penyerahan lebih banyak kekuasaan kepada lembaga otoritas pusat selama proses implementasi. Ada hubungan yang erat antara kedua aspek ini: setiap struktur politik yang desentralisasi, demokratis, atau bebas cenderung berkembang pesat ketika pertahanan mudah dilaksanakan, dan menghadapi tantangan serius ketika pertahanan mengalami kesulitan.
Salah satu cara untuk memahami pentingnya mencoba mencapai desentralisasi, defensif, dan percepatan secara bersamaan adalah dengan membandingkannya dengan ide-ide yang dihasilkan dari pengabaian salah satu dari ketiga aspek tersebut.
Desentralisasi yang dipercepat, tetapi mengabaikan bagian "pertahanan yang berbeda", ini mirip dengan menjadi seorang akselerasionis yang efektif (e/acc), tetapi pada saat yang sama mengejar desentralisasi. Cara ini mungkin dapat menghindari risiko kelompok tertentu untuk menerapkan kediktatoran pada umat manusia secara global, tetapi ia gagal menyelesaikan masalah struktural yang mendasar: dalam lingkungan yang menguntungkan bagi serangan, selalu ada risiko bencana yang terus-menerus, atau seseorang akan memposisikan diri sebagai pelindung, dan secara permanen menduduki posisi dominan.
Percepatan pertahanan yang terdistribusi, tetapi mengabaikan "desentralisasi dan demokrasi", menerima kontrol terpusat untuk mencapai tujuan keamanan, ini selalu memiliki daya tarik tertentu bagi sebagian orang. Namun, kontrol terpusat memiliki masalah derajat. Bentuk kontrol terpusat yang relatif moderat yang sering diabaikan tetapi tetap berbahaya, tercermin dalam penolakan pengawasan publik di bidang bioteknologi, serta memungkinkan tindakan penolakan ini tidak ditantang oleh norma-norma yang tertutup.
Pertahanan terdesentralisasi, tetapi penolakan percepatan, pada dasarnya mencoba memperlambat kemajuan teknologi atau mendorong resesi ekonomi. Strategi ini menghadapi tantangan ganda. Pertama, secara keseluruhan, pertumbuhan teknologi dan ekonomi sangat bermanfaat bagi umat manusia, dan setiap penundaan akan membawa biaya yang tidak terukur. Kedua, dalam dunia yang tidak otoriter, stagnasi tidak stabil: mereka yang "curang" paling banyak, yang dapat menemukan cara yang tampak masuk akal untuk terus mendorong perkembangan, akan memiliki keuntungan.
Melalui d/acc, kami berkomitmen untuk mencapai tujuan berikut:
Dalam tren dunia yang semakin tertribalisasi saat ini, teguh pada prinsip, dan tidak hanya membangun berbagai hal secara membabi buta.
Menyadari bahwa kemajuan teknologi yang eksponensial berarti dunia akan menjadi sangat aneh, dan "jejak" keseluruhan manusia di alam semesta pasti akan terus meningkat. Kemampuan kita untuk melindungi hewan, tumbuhan, dan kelompok yang rentan dari bahaya harus terus ditingkatkan, dan satu-satunya jalan keluar adalah terus maju.
Membangun teknologi yang benar-benar melindungi kita, bukan berdasarkan asumsi "orang baik ( atau AI baik ) mengendalikan segalanya". Kami mencapai tujuan ini dengan membangun alat yang secara alami lebih efektif untuk membangun dan melindungi daripada untuk merusak.
Salah satu perspektif lain untuk memikirkan d/acc adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa pada akhir 2000-an: pemberdayaan. Tujuan kami adalah membangun dunia yang dapat mempertahankan agensi manusia, mencapai kebebasan negatif, yaitu menghindari intervensi aktif orang lain terhadap kemampuan kita untuk membentuk nasib kita sendiri, sekaligus mencapai kebebasan positif, yaitu memastikan kita memiliki pengetahuan dan sumber daya untuk menjalankan kemampuan ini.
Dimensi Ketiga: Pengembangan Sinergis antara Bertahan Hidup dan Kemakmuran
Dalam artikel tahun lalu, d/acc secara khusus fokus pada teknologi defensif: pertahanan fisik, pertahanan biologi, pertahanan siber, dan pertahanan informasi. Namun, sekadar pertahanan desentralisasi tidak cukup untuk membangun dunia yang hebat: kita juga memerlukan visi proaktif yang ke depan, yang jelas tentang tujuan apa yang dapat dicapai manusia setelah memperoleh desentralisasi dan keamanan baru.
Di berbagai bidang terdapat pola yang konsisten, yaitu ilmu pengetahuan, pemikiran, dan alat yang dapat membantu kita "bertahan hidup" dalam suatu bidang sangat terkait dengan ilmu pengetahuan, pemikiran, dan alat yang dapat mendorong kita untuk "berkembang". Berikut adalah beberapa contoh konkret:
Banyak penelitian terbaru tentang COVID-19 berfokus pada keberadaan virus yang terus-menerus dalam tubuh, yang dianggap sebagai mekanisme kunci dari masalah long COVID. Baru-baru ini, juga ada tanda-tanda bahwa keberadaan virus yang terus-menerus mungkin menjadi faktor penyebab penyakit Alzheimer.
Alat pencitraan berbiaya rendah dan mikro memiliki potensi besar dalam pengobatan mikrothrombus, keberadaan virus yang persisten, kanker, dan juga dapat diterapkan di bidang antarmuka otak-mesin.
Mendorong pembangunan alat sosial yang cocok untuk lingkungan yang sangat konfrontatif dan alat sosial untuk lingkungan kerja sama yang wajar memiliki konsep yang sangat mirip.
Pasar prediksi memiliki nilai penting baik dalam lingkungan kolaborasi tinggi maupun lingkungan kompetisi tinggi.
Bukti nol-pengetahuan dan teknologi serupa melakukan perhitungan pada data sambil melindungi privasi, baik meningkatkan jumlah data yang dapat digunakan untuk penelitian ilmiah dan pekerjaan bermanfaat lainnya, serta meningkatkan perlindungan privasi.
Energi matahari dan baterai memiliki arti yang sangat penting untuk mendorong gelombang pertumbuhan ekonomi bersih berikutnya, sekaligus juga menunjukkan kinerja yang luar biasa dalam desentralisasi dan ketahanan fisik.
Selain itu, terdapat hubungan saling ketergantungan yang penting antara berbagai bidang disiplin:
Antarmuka otak-mesin sangat penting sebagai teknologi pertahanan informasi dan kolaborasi, karena dapat mewujudkan komunikasi yang lebih halus tentang pikiran dan niat kita.
Banyak bioteknologi bergantung pada berbagi informasi, dan dalam banyak kasus, orang hanya bersedia untuk berbagi informasi ketika mereka yakin bahwa informasi tersebut hanya akan digunakan untuk aplikasi tertentu. Ini bergantung pada teknologi privasi.
Teknologi kolaborasi dapat digunakan untuk mengoordinasikan pendanaan untuk bidang teknologi lainnya.
Tantangan: Keamanan AI, Garis Waktu Mendesak, dan Dilema Regulasi
Tahun lalu, argumen yang paling meyakinkan yang saya terima tentang pandangan yang berlawanan berasal dari komunitas keamanan AI. Argumennya adalah: "Meskipun kita memiliki waktu setengah abad untuk mengembangkan AI yang kuat, kita dapat fokus untuk membangun semua hal yang bermanfaat ini. Namun, pada kenyataannya, tampaknya kita mungkin hanya memiliki waktu tiga tahun untuk mengembangkan AI umum, dan tiga tahun lagi untuk mencapai kecerdasan super. Oleh karena itu, jika kita tidak ingin dunia jatuh ke dalam kehancuran atau terjebak dalam keadaan yang tidak dapat dibalikkan, kita tidak dapat hanya mempercepat pengembangan teknologi yang bermanfaat, tetapi juga harus memperlambat pengembangan teknologi yang berbahaya, yang berarti perlu ada langkah-langkah pengaturan yang kuat yang mungkin akan membuat para pemegang kekuasaan marah."
Alasan sikap hati-hati terhadap regulasi baru:
Tahun lalu, proposal regulasi AI utama adalah RUU SB-1047 dari California. SB-1047 mengharuskan pengembang model terkuat untuk mengambil serangkaian langkah pengujian keamanan sebelum peluncuran. Selain itu, jika pengembang model AI gagal bertindak cukup hati-hati, mereka akan dimintai pertanggungjawaban. Banyak kritikus berpendapat bahwa undang-undang ini "mengancam sumber terbuka"; saya tidak setuju dengan ini, karena ambang biaya berarti itu hanya memengaruhi model terkuat. Namun, melihat ke belakang, saya percaya bahwa undang-undang ini memiliki masalah yang lebih serius: seperti banyak langkah regulasi lainnya, itu terlalu beradaptasi dengan kondisi saat ini.
Pelaku yang paling mungkin bertanggung jawab atas skenario kehancuran superintelligence AI:
Sebenarnya, aktor yang paling mungkin bertanggung jawab atas skenario kehancuran superintelligence AI adalah militer. Seperti yang kita saksikan dalam biologi keamanan selama setengah abad terakhir, militer bersedia melakukan beberapa tindakan mengerikan, dan mereka sangat rentan terhadap kesalahan. Saat ini, penerapan AI di bidang militer sedang berkembang pesat. Selain itu, setiap langkah pengaturan keamanan yang disetujui oleh pemerintah secara default akan mengecualikan militer negara tersebut serta perusahaan-perusahaan yang bekerja sama erat dengan militer.
Strategi respons:
Meskipun demikian, argumen-argumen ini bukanlah alasan yang membuat kita tidak berdaya. Sebaliknya, kita dapat menggunakannya sebagai panduan untuk mencoba merumuskan aturan yang memicu kekhawatiran ini seminimal mungkin.
Strategi 1: Tanggung jawab
Jika perilaku seseorang menyebabkan kerugian yang dapat dituntut secara hukum, mereka dapat digugat. Ini tidak menyelesaikan masalah risiko yang ditimbulkan oleh militer dan pelaku lain yang "di atas hukum", tetapi ini adalah pendekatan yang sangat umum yang dapat menghindari overfitting, oleh karena itu, ekonom yang cenderung libertarian biasanya mendukung praktik ini.
Tanggung jawab utama yang dipertimbangkan hingga saat ini adalah sebagai berikut:
Pengguna: orang yang menggunakan AI.
Penyebar: Perantara yang menyediakan layanan AI untuk pengguna.
Pengembang: Orang yang membangun AI.
Menempatkan tanggung jawab pada pengguna tampaknya paling sesuai dengan mekanisme insentif. Meskipun cara pengembangan model sering kali tidak jelas terkait dengan cara penggunaan akhir, pengguna menentukan cara spesifik penggunaan AI. Mempertanggungjawabkan pengguna akan menciptakan tekanan yang kuat, mendorong orang untuk menggunakan AI dengan cara yang menurut saya benar: fokus pada membangun kerangka mekanis untuk pemikiran manusia, bukan menciptakan bentuk kehidupan cerdas yang mandiri baru.
Strategi 2: Tombol "soft pause" global pada perangkat keras skala industri
Jika saya yakin kita membutuhkan langkah-langkah yang lebih "kuat" daripada aturan tanggung jawab, saya akan memilih strategi ini. Tujuannya adalah untuk memiliki kemampuan mengurangi sekitar 90%-99% dari kapasitas komputasi global yang tersedia selama periode kritis, selama 1-2 tahun, memberikan lebih banyak waktu persiapan bagi umat manusia. Nilai 1-2 tahun tidak boleh dianggap remeh: satu tahun "mode perang" dalam keadaan puas diri dengan mudah setara dengan seratus tahun kerja biasa.
Salah satu metode yang lebih canggih adalah menggunakan teknik enkripsi yang cerdas: misalnya, perangkat keras AI skala industri ( tetapi bukan kelas konsumen ) dapat dilengkapi dengan chip perangkat keras yang tepercaya, yang hanya diizinkan untuk terus beroperasi setelah mendapatkan tanda tangan 3/3 dari lembaga internasional utama setiap minggu. Tanda tangan ini akan tidak terkait dengan perangkat, sehingga ini akan bersifat semua atau tidak sama sekali: tidak ada cara nyata untuk memberikan otorisasi kepada satu perangkat untuk terus beroperasi tanpa memberikan otorisasi kepada semua perangkat lainnya.
Peran teknologi d/acc dalam risiko AI:
Kedua strategi ini ( tanggung jawab dan tombol jeda perangkat keras ) memiliki celah, dan jelas bahwa mereka hanyalah solusi sementara. Oleh karena itu, kita memerlukan langkah-langkah yang lebih stabil untuk mendapatkan waktu. Banyak teknologi d/acc relevan di sini. Kita dapat melihat peran teknologi d/acc sebagai berikut: jika AI mengambil alih dunia, bagaimana cara melakukannya?
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
d/acc satu tahun: Progres dan tantangan dalam percepatan pertahanan Desentralisasi
d/acc: Tinjauan dan Harapan Setelah Satu Tahun
Tahun lalu, saya menulis sebuah artikel tentang optimisme teknologi, menjelaskan antusiasme saya terhadap teknologi dan manfaat besar yang mungkin diberikannya, sambil juga mengungkapkan sikap hati-hati terhadap beberapa masalah tertentu, terutama risiko yang mungkin ditimbulkan oleh AI super pintar.
Inti dari artikel ini adalah mendorong suatu konsep akselerasi defensif yang terdesentralisasi, demokratis, dan beragam. Kita perlu mempercepat perkembangan teknologi, sambil secara khusus memperhatikan teknologi yang dapat meningkatkan kemampuan pertahanan, bukan kemampuan penghancuran, serta berkomitmen untuk mendistribusikan kekuasaan dan menghindari konsentrasi kekuasaan di tangan segelintir elit.
Setahun telah berlalu, dan ide-ide ini telah berkembang dan matang secara signifikan. Saya telah membagikan ide-ide ini di platform "80,000 Jam", dan menerima banyak umpan balik, sebagian besar positif, tentu saja ada juga beberapa kritik.
Pekerjaan ini terus berlanjut dan telah mencapai hasil yang substantif: kemajuan telah dibuat dalam bidang vaksin sumber terbuka yang dapat diverifikasi; pemahaman orang tentang nilai udara dalam ruangan yang sehat terus mendalam; "catatan komunitas" terus berperan aktif; pasar prediksi telah mencapai tahun terobosan sebagai alat informasi; bukti nol pengetahuan telah diterapkan dalam identifikasi identitas pemerintah dan bidang media sosial; alat pencitraan sumber terbuka telah diterapkan dalam bidang kedokteran dan antarmuka otak-mesin, dan lain-lain.
Musim gugur lalu, kami mengadakan acara d/acc penting pertama: "Hari Penemuan d/acc". Acara ini mengumpulkan pembicara dari berbagai bidang d/acc ( biologi, fisika, jaringan, pertahanan informasi, dan teknologi saraf ). Orang-orang yang telah lama mengabdikan diri pada teknologi ini saling memahami pekerjaan mereka dengan lebih baik, dan orang luar juga semakin menyadari visi yang lebih besar ini: nilai-nilai yang mendorong perkembangan Ethereum dan cryptocurrency dapat diperluas ke dunia yang lebih luas.
Makna dan Cakupan d/acc
Inti dari pemikiran d/acc sangat jelas: desentralisasi, demokratis, dan diferensiasi dalam percepatan defensif. Membangun teknologi yang dapat mendorong keseimbangan serangan dan pertahanan ke arah pertahanan, tanpa bergantung pada penyerahan lebih banyak kekuasaan kepada lembaga otoritas pusat selama proses implementasi. Ada hubungan yang erat antara kedua aspek ini: setiap struktur politik yang desentralisasi, demokratis, atau bebas cenderung berkembang pesat ketika pertahanan mudah dilaksanakan, dan menghadapi tantangan serius ketika pertahanan mengalami kesulitan.
Salah satu cara untuk memahami pentingnya mencoba mencapai desentralisasi, defensif, dan percepatan secara bersamaan adalah dengan membandingkannya dengan ide-ide yang dihasilkan dari pengabaian salah satu dari ketiga aspek tersebut.
Desentralisasi yang dipercepat, tetapi mengabaikan bagian "pertahanan yang berbeda", ini mirip dengan menjadi seorang akselerasionis yang efektif (e/acc), tetapi pada saat yang sama mengejar desentralisasi. Cara ini mungkin dapat menghindari risiko kelompok tertentu untuk menerapkan kediktatoran pada umat manusia secara global, tetapi ia gagal menyelesaikan masalah struktural yang mendasar: dalam lingkungan yang menguntungkan bagi serangan, selalu ada risiko bencana yang terus-menerus, atau seseorang akan memposisikan diri sebagai pelindung, dan secara permanen menduduki posisi dominan.
Percepatan pertahanan yang terdistribusi, tetapi mengabaikan "desentralisasi dan demokrasi", menerima kontrol terpusat untuk mencapai tujuan keamanan, ini selalu memiliki daya tarik tertentu bagi sebagian orang. Namun, kontrol terpusat memiliki masalah derajat. Bentuk kontrol terpusat yang relatif moderat yang sering diabaikan tetapi tetap berbahaya, tercermin dalam penolakan pengawasan publik di bidang bioteknologi, serta memungkinkan tindakan penolakan ini tidak ditantang oleh norma-norma yang tertutup.
Pertahanan terdesentralisasi, tetapi penolakan percepatan, pada dasarnya mencoba memperlambat kemajuan teknologi atau mendorong resesi ekonomi. Strategi ini menghadapi tantangan ganda. Pertama, secara keseluruhan, pertumbuhan teknologi dan ekonomi sangat bermanfaat bagi umat manusia, dan setiap penundaan akan membawa biaya yang tidak terukur. Kedua, dalam dunia yang tidak otoriter, stagnasi tidak stabil: mereka yang "curang" paling banyak, yang dapat menemukan cara yang tampak masuk akal untuk terus mendorong perkembangan, akan memiliki keuntungan.
Melalui d/acc, kami berkomitmen untuk mencapai tujuan berikut:
Salah satu perspektif lain untuk memikirkan d/acc adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa pada akhir 2000-an: pemberdayaan. Tujuan kami adalah membangun dunia yang dapat mempertahankan agensi manusia, mencapai kebebasan negatif, yaitu menghindari intervensi aktif orang lain terhadap kemampuan kita untuk membentuk nasib kita sendiri, sekaligus mencapai kebebasan positif, yaitu memastikan kita memiliki pengetahuan dan sumber daya untuk menjalankan kemampuan ini.
Dimensi Ketiga: Pengembangan Sinergis antara Bertahan Hidup dan Kemakmuran
Dalam artikel tahun lalu, d/acc secara khusus fokus pada teknologi defensif: pertahanan fisik, pertahanan biologi, pertahanan siber, dan pertahanan informasi. Namun, sekadar pertahanan desentralisasi tidak cukup untuk membangun dunia yang hebat: kita juga memerlukan visi proaktif yang ke depan, yang jelas tentang tujuan apa yang dapat dicapai manusia setelah memperoleh desentralisasi dan keamanan baru.
Di berbagai bidang terdapat pola yang konsisten, yaitu ilmu pengetahuan, pemikiran, dan alat yang dapat membantu kita "bertahan hidup" dalam suatu bidang sangat terkait dengan ilmu pengetahuan, pemikiran, dan alat yang dapat mendorong kita untuk "berkembang". Berikut adalah beberapa contoh konkret:
Selain itu, terdapat hubungan saling ketergantungan yang penting antara berbagai bidang disiplin:
Tantangan: Keamanan AI, Garis Waktu Mendesak, dan Dilema Regulasi
Tahun lalu, argumen yang paling meyakinkan yang saya terima tentang pandangan yang berlawanan berasal dari komunitas keamanan AI. Argumennya adalah: "Meskipun kita memiliki waktu setengah abad untuk mengembangkan AI yang kuat, kita dapat fokus untuk membangun semua hal yang bermanfaat ini. Namun, pada kenyataannya, tampaknya kita mungkin hanya memiliki waktu tiga tahun untuk mengembangkan AI umum, dan tiga tahun lagi untuk mencapai kecerdasan super. Oleh karena itu, jika kita tidak ingin dunia jatuh ke dalam kehancuran atau terjebak dalam keadaan yang tidak dapat dibalikkan, kita tidak dapat hanya mempercepat pengembangan teknologi yang bermanfaat, tetapi juga harus memperlambat pengembangan teknologi yang berbahaya, yang berarti perlu ada langkah-langkah pengaturan yang kuat yang mungkin akan membuat para pemegang kekuasaan marah."
Alasan sikap hati-hati terhadap regulasi baru:
Tahun lalu, proposal regulasi AI utama adalah RUU SB-1047 dari California. SB-1047 mengharuskan pengembang model terkuat untuk mengambil serangkaian langkah pengujian keamanan sebelum peluncuran. Selain itu, jika pengembang model AI gagal bertindak cukup hati-hati, mereka akan dimintai pertanggungjawaban. Banyak kritikus berpendapat bahwa undang-undang ini "mengancam sumber terbuka"; saya tidak setuju dengan ini, karena ambang biaya berarti itu hanya memengaruhi model terkuat. Namun, melihat ke belakang, saya percaya bahwa undang-undang ini memiliki masalah yang lebih serius: seperti banyak langkah regulasi lainnya, itu terlalu beradaptasi dengan kondisi saat ini.
Pelaku yang paling mungkin bertanggung jawab atas skenario kehancuran superintelligence AI:
Sebenarnya, aktor yang paling mungkin bertanggung jawab atas skenario kehancuran superintelligence AI adalah militer. Seperti yang kita saksikan dalam biologi keamanan selama setengah abad terakhir, militer bersedia melakukan beberapa tindakan mengerikan, dan mereka sangat rentan terhadap kesalahan. Saat ini, penerapan AI di bidang militer sedang berkembang pesat. Selain itu, setiap langkah pengaturan keamanan yang disetujui oleh pemerintah secara default akan mengecualikan militer negara tersebut serta perusahaan-perusahaan yang bekerja sama erat dengan militer.
Strategi respons:
Meskipun demikian, argumen-argumen ini bukanlah alasan yang membuat kita tidak berdaya. Sebaliknya, kita dapat menggunakannya sebagai panduan untuk mencoba merumuskan aturan yang memicu kekhawatiran ini seminimal mungkin.
Strategi 1: Tanggung jawab
Jika perilaku seseorang menyebabkan kerugian yang dapat dituntut secara hukum, mereka dapat digugat. Ini tidak menyelesaikan masalah risiko yang ditimbulkan oleh militer dan pelaku lain yang "di atas hukum", tetapi ini adalah pendekatan yang sangat umum yang dapat menghindari overfitting, oleh karena itu, ekonom yang cenderung libertarian biasanya mendukung praktik ini.
Tanggung jawab utama yang dipertimbangkan hingga saat ini adalah sebagai berikut:
Menempatkan tanggung jawab pada pengguna tampaknya paling sesuai dengan mekanisme insentif. Meskipun cara pengembangan model sering kali tidak jelas terkait dengan cara penggunaan akhir, pengguna menentukan cara spesifik penggunaan AI. Mempertanggungjawabkan pengguna akan menciptakan tekanan yang kuat, mendorong orang untuk menggunakan AI dengan cara yang menurut saya benar: fokus pada membangun kerangka mekanis untuk pemikiran manusia, bukan menciptakan bentuk kehidupan cerdas yang mandiri baru.
Strategi 2: Tombol "soft pause" global pada perangkat keras skala industri
Jika saya yakin kita membutuhkan langkah-langkah yang lebih "kuat" daripada aturan tanggung jawab, saya akan memilih strategi ini. Tujuannya adalah untuk memiliki kemampuan mengurangi sekitar 90%-99% dari kapasitas komputasi global yang tersedia selama periode kritis, selama 1-2 tahun, memberikan lebih banyak waktu persiapan bagi umat manusia. Nilai 1-2 tahun tidak boleh dianggap remeh: satu tahun "mode perang" dalam keadaan puas diri dengan mudah setara dengan seratus tahun kerja biasa.
Salah satu metode yang lebih canggih adalah menggunakan teknik enkripsi yang cerdas: misalnya, perangkat keras AI skala industri ( tetapi bukan kelas konsumen ) dapat dilengkapi dengan chip perangkat keras yang tepercaya, yang hanya diizinkan untuk terus beroperasi setelah mendapatkan tanda tangan 3/3 dari lembaga internasional utama setiap minggu. Tanda tangan ini akan tidak terkait dengan perangkat, sehingga ini akan bersifat semua atau tidak sama sekali: tidak ada cara nyata untuk memberikan otorisasi kepada satu perangkat untuk terus beroperasi tanpa memberikan otorisasi kepada semua perangkat lainnya.
Peran teknologi d/acc dalam risiko AI:
Kedua strategi ini ( tanggung jawab dan tombol jeda perangkat keras ) memiliki celah, dan jelas bahwa mereka hanyalah solusi sementara. Oleh karena itu, kita memerlukan langkah-langkah yang lebih stabil untuk mendapatkan waktu. Banyak teknologi d/acc relevan di sini. Kita dapat melihat peran teknologi d/acc sebagai berikut: jika AI mengambil alih dunia, bagaimana cara melakukannya?