d/acc: Bir yılın değerlendirmesi ve geleceğe bakış
Geçen yıl, teknoloji iyimserliği hakkında bir makale yazdım; bu makalede teknolojiye olan tutkum ve getirebileceği büyük faydalar üzerinde durdum, aynı zamanda süper zeki yapay zekanın getirebileceği riskler konusunda temkinli bir yaklaşım sergiledim.
Makalenin temel noktası, merkeziyetsiz, demokratik ve farklılaştırılmış bir savunma hızlandırma anlayışını savunmaktır. Hem teknoloji gelişimini hızlandırmak hem de yıkım kapasitesini artırmak yerine savunma yeteneklerini geliştirebilecek teknolojilere odaklanmak gerekmekte ve gücün dağılmasına odaklanarak gücün az sayıda elitin elinde toplanmasını önlemeye çalışılmaktadır.
Bir yıl geçti, bu fikirler önemli bir gelişim ve olgunluk gösterdi. Bu fikirleri "80,000 saat" platformunda paylaştım, birçok geri bildirim aldım, çoğu olumlu oldu, elbette bazı eleştiriler de oldu.
Bu çalışma sürekli olarak ilerliyor ve somut sonuçlar elde ediliyor: doğrulanabilir açık kaynak aşı alanında ilerleme kaydedildi; insanların sağlıklı iç hava değerine dair farkındalığı derinleşiyor; "topluluk notları" sürekli olarak olumlu rol oynuyor; tahmin piyasası bilgi aracı olarak bir atılım yılı yaşıyor; sıfır bilgi kanıtları hükümet kimlik tanıma ve sosyal medya alanlarında uygulanıyor; açık kaynak görüntüleme araçları tıp ve beyin-bilgisayar arayüzü alanlarında kullanılıyor, vb.
Geçen sonbaharda, ilk önemli d/acc etkinliğimizi düzenledik: "d/acc Keşif Günü". Etkinlik, d/acc'nin çeşitli alanlarından gelen ( biyoloji, fizik, ağ, bilgi savunma ve sinir teknolojileri ) konuşmacılarını bir araya getirdi. Bu teknolojilere uzun süre odaklanmış olan insanlar birbirlerinin çalışmalarını daha iyi anlama fırsatı buldu ve dışarıdan gelenler de bu daha büyük vizyonun farkına vardı: Ethereum ve kripto para gelişimini destekleyen değerlerin daha geniş bir dünyaya yayılabileceği.
d/acc'nin anlamı ve kapsamı
d/acc'nin temel düşüncesi açık ve nettir: merkeziyetsiz, demokratik ve farklılaştırılmış savunmacı hızlandırma. Saldırı ve savunma dengesini savunma lehine eğilimli hale getiren teknolojiler inşa etmek ve uygulama sürecinde daha fazla gücü merkezi otoritelere vermeye bağımlı olmamak. Bu iki alan arasında içsel bir sıkı ilişki vardır: Herhangi bir merkeziyetsiz, demokratik veya özgür siyasi yapı, savunmanın kolayca uygulanabildiği durumlarda genellikle gelişirken, savunmanın ciddi zorluklarla karşılaştığı durumlarda zorlu bir mücadele ile karşılaşır.
Merkeziyetsizliği, savunuculuğu ve hızlandırmayı aynı anda gerçekleştirme çabasının önemini anlamanın bir yolu, bunları bu üç alandan birinin terk edilmesiyle ortaya çıkan kavramlarla karşılaştırmaktır.
Merkeziyetsiz hızlandırma, ancak "farklılaştırılmış savunma" kısmını göz ardı etmek, bu, etkili bir hızlandırmacı olmayı (e/acc) arzulamakla benzer, ancak aynı zamanda merkeziyetsizliği hedeflemektedir. Bu yaklaşım, belirli grupların küresel insanlık üzerinde diktatörlük kurma riskini önlemeye yardımcı olabilir, ancak potansiyel yapısal sorunları çözmemektedir: saldırıya elverişli bir ortamda, her zaman felaketin ortaya çıkma riski vardır veya birisi kendisini koruyucu olarak konumlandırabilir ve kalıcı olarak egemenlik pozisyonunu işgal edebilir.
Farklılaştırılmış savunmanın hızlanması, ancak "merkeziyetsizlik ve demokrasi"nin göz ardı edilmesi, güvenlik hedeflerine ulaşmak için merkezi kontrolü kabul etme, bazı insanlar için her zaman belirli bir çekiciliğe sahip olmuştur. Ancak merkezi kontrolün bir derece sorunu vardır. Genellikle göz ardı edilen ama yine de zararlı olan, biyoteknoloji alanında kamu denetimine karşı bir direnç olarak kendini gösteren ve bu direnç eylemlerinin sorgulanmadan kalmasına izin veren kapalı kaynak standartlarıdır.
Merkeziyetsiz savunma, ancak hızlandırmayı dışlama, esasen teknolojik ilerlemeyi yavaşlatma veya ekonomik duraklamayı teşvik etme çabasıdır. Bu strateji, iki katmanlı bir zorlukla karşı karşıyadır. İlk olarak, genel olarak, teknoloji ve ekonomik büyüme insanlık için son derece faydalıdır ve bunların herhangi bir gecikmesi ölçülemeyen maliyetler getirir. İkincisi, otoriter olmayan bir dünyada duraklama istikrarsızdır: "hile yapanlar" en fazla, görünüşte makul yollar bularak gelişimi sürdürme yeteneğine sahip olan bireyler veya gruplar avantaj elde edecektir.
d/acc aracılığıyla aşağıdaki hedeflere ulaşmayı taahhüt ediyoruz:
Günümüz dünyasında giderek kabileleşen eğilimler karşısında, sadece körü körüne çeşitli şeyler inşa etmek yerine, ilkelere sadık kalmak.
Sıfırdan başlayarak, çarpan teknolojik ilerlemelerin, dünyanın son derece tuhaf bir yer haline geleceği anlamına geldiğini kabul etmek gerekir ve insanlığın evrendeki toplam "izleri" sürekli olarak artacaktır. Zayıf hayvanları, bitkileri ve insanları koruma yeteneğimizin sürekli olarak artması gerekiyor ve tek yol, cesaretle ilerlemektir.
Gerçekten teknolojimizi koruyabilen, "iyi insanlar ( veya iyi AI ) her şeyi kontrol ediyor" varsayımına dayanmayan bir yapı inşa etmek. Bu hedefe, inşa etmek ve korumak için doğal olarak yıkımdan daha etkili olan araçlar inşa ederek ulaşacağız.
d/acc'ye başka bir bakış açısı, 21. yüzyılın 2000'li yıllarının sonlarında Avrupa'daki Korsan Parti hareketinin bir çerçevesine geri dönmektir: güçlendirme. Amacımız, insan etkinliğini koruyabilen bir dünya inşa etmek, pasif özgürlüğü sağlamak, yani başkalarının bizim kaderimizi şekillendirme yeteneğimize aktif olarak müdahale etmemesini sağlarken, aynı zamanda aktif özgürlüğü sağlamak, yani bu yeteneği gerçekleştirmek için bilgi ve kaynaklara sahip olmamızı güvence altına almaktır.
Üçüncü Boyut: Hayatta Kalma ve Refahın Eş Zamanlı Gelişimi
Geçen yılki makalede, d/acc özellikle savunma teknolojilerine odaklandı: fiziksel savunma, biyolojik savunma, siber savunma ve bilgi savunması. Ancak, yalnızca merkeziyetsiz savunma, harika bir dünya inşa etmek için yeterli değildir: yeni merkeziyetsizlik ve güvenlik elde edildikten sonra insanlığın gerçekleştirebileceği hedefleri net bir şekilde belirten proaktif bir vizyona da ihtiyacımız var.
Her alanda, belirli bir alanda "hayatta kalmamıza" yardımcı olan bilimlerin, düşüncelerin ve araçların, bize "refah" sağlamada yardımcı olan bilimler, düşünceler ve araçlarla yakından ilişkili olduğu tutarlı bir model vardır. İşte bazı somut örnekler:
Son dönemdeki çok sayıda COVID-19 araştırması, virüsün vücutta sürekli varlığını odak noktasına almış durumda; bu, uzun COVID sorununa dair kritik bir mekanizma olarak görülüyor. Yakın zamanda, virüsün sürekli varlığının Alzheimer hastalığının patojenik bir faktörü olabileceğine dair de belirtiler ortaya çıktı.
Düşük maliyetli ve mikro görüntüleme araçları, mikrotromboz, virüs varlığı, kanser gibi durumların tedavisinde güçlü bir potansiyele sahiptir ve aynı zamanda beyin-bilgisayar arayüzü alanında da uygulanabilir.
Yüksek dirençli ortamlara uygun sosyal araçların ve makul işbirliği ortamlarının inşasını teşvik etme fikri son derece benzerdir.
Tahmin piyasaları, yüksek iş birliği ve yüksek karşıtlık ortamlarında önemli bir değere sahiptir.
Sıfır bilgi kanıtları ve benzeri teknolojiler, gizliliği korurken veriler üzerinde hesaplama yaparak hem bilimsel araştırmalar gibi faydalı işler için kullanılabilir veri miktarını artırmakta hem de gizlilik korumasını güçlendirmektedir.
Güneş enerjisi ve piller, bir sonraki temiz ekonomik büyümeyi teşvik etme açısından son derece önemlidir ve aynı zamanda merkeziyetsizlik ve fiziksel dayanıklılık açısından da mükemmel bir performans sergilemektedir.
Bunun yanı sıra, farklı disiplin alanları arasında önemli bir karşılıklı bağımlılık ilişkisi de vardır:
Beyin-bilgisayar arayüzleri, düşüncelerimizin ve niyetlerimizin daha hassas bir şekilde iletişim kurulmasını sağladığı için bilgi savunma ve işbirliği teknolojisi olarak çok önemlidir.
Birçok biyoteknoloji, bilgi paylaşımına dayanır ve birçok durumda insanlar, bilgilerin yalnızca belirli bir uygulama için kullanılacağından emin olduklarında paylaşmaya istekli olurlar. Bu, gizlilik teknolojisine dayanır.
İş birliği teknolojisi, diğer herhangi bir teknoloji alanına fon sağlamak için kullanılabilir.
Zor Sorun: AI Güvenliği, Acil Zaman Çizgisi ve Düzenleyici İkilem
Geçen yıl makaleme gelen en ikna edici karşıt görüş, AI güvenlik topluluğundan geldi. Argümanı şöyleydi: "Güçlü AI geliştirmek için yarım yüzyıl süremiz olsa da, tüm bu faydalı şeyleri inşa etmeye odaklanabiliriz. Ama aslında, genel AI'ya ulaşmak için sadece üç yılımız kaldığı ve ardından süper zekaya ulaşmak için de üç yılımız olduğu görülüyor. Bu nedenle, dünyayı yok olmanın eşiğine getirmek veya başka bir şekilde geri dönüşü olmayan bir duruma sokmak istemiyorsak, sadece faydalı teknolojilerin gelişimini hızlandırmakla kalmamalı, aynı zamanda zararlı teknolojilerin gelişimini de yavaşlatmalıyız. Bu, güç sahiplerini kızdırabilecek güçlü düzenleyici önlemler gerektiriyor."
Yeni düzenlemelere temkinli yaklaşmanın nedenleri:
Geçen yıl, ana AI düzenleme önerisi Kaliforniya'nın SB-1047 yasasıydı. SB-1047, en güçlü modellerin geliştiricilerinin yayınlamadan önce bir dizi güvenlik testi önlemi almasını gerektiriyor. Ayrıca, AI modeli geliştiricileri yeterince dikkatli olmazlarsa, sorumluluk taşımaları gerekecek. Birçok eleştirmen bu yasayı "açık kaynak için bir tehdit" olarak değerlendirdi; ben buna katılmıyorum, çünkü maliyet eşiği yalnızca en güçlü modelleri etkiliyor. Ancak geçmişe baktığımda, bu yasada daha ciddi bir sorun olduğunu düşünüyorum: diğer çoğu düzenleyici önlem gibi, mevcut duruma aşırı uyum sağlıyor.
AI süper zekanın yok oluş senaryolarına en çok katkıda bulunabilecek aktörler:
Aslında, AI süper zekasının yok olma senaryolarından en çok sorumlu olacak aktörler ordulardır. Geçtiğimiz yarım asırda biyogüvenlikte gördüğümüz gibi, ordular korkunç eylemler yapmaya istekli ve hata yapma olasılıkları yüksektir. Günümüzde, AI'nın askeri alandaki uygulamaları hızla gelişmektedir. Ayrıca, herhangi bir hükümetin geçirdiği güvenlik düzenlemeleri, varsayılan olarak kendi ordularını ve ordularla yakın işbirliği yapan şirketleri muaf tutmaktadır.
Stratejiler:
Buna rağmen, bu argümanlar bizi çaresiz bırakacak bir neden değildir. Aksine, bunları bir rehber olarak alabiliriz ve bu endişeleri en az seviyeye indirecek kuralları oluşturmaya çalışabiliriz.
Strateji 1: Sorumluluk
Eğer birinin davranışları bir şekilde yasal olarak sorumlu tutulabilecek bir zarara neden olduysa, dava açılabilir. Bu, ordudan ve diğer "yasanın üzerinde" hareket edenlerden kaynaklanan risk sorununu çözmez, ancak aşırı uyum sağlamaktan kaçınmak için çok genel bir yöntemdir; bu nedenle, serbest piyasa yanlısı iktisatçılar genellikle bu uygulamayı destekler.
Şu ana kadar dikkate alınan ana sorumluluk hedefleri şunlardır:
Kullanıcı: AI'yi kullanan kişi.
Dağıtıcı: Kullanıcılara AI hizmeti sunan aracı.
Geliştirici: AI'yi inşa eden kişi.
Kullanıcıyı sorumlu tutmak, teşvik mekanizmasıyla en uyumlu görünen yaklaşım gibi. Modelin geliştirilme şekli ile nihai kullanım şekli arasındaki bağlantı genellikle belirsiz olsa da, kullanıcı AI'nın spesifik kullanım şekline karar verir. Kullanıcılardan sorumluluk talep etmek, insanların AI'yı doğru bir şekilde kullanmaları için güçlü bir baskı oluşturur: Mekanik bir set inşa etmeye odaklanmak, yeni bir kendini sürdüren zeka biçimi yaratmaktan ziyade, insan düşüncesi için.
Strateji 2: Endüstriyel ölçekli donanımda küresel "yumuşak duraklatma" butonu
Eğer sorumluluk kurallarından daha "güçlü" önlemlere ihtiyaç duyduğuma kesin olarak inanıyorsam, bu stratejiyi seçerim. Hedef, kritik dönemlerde küresel kullanılabilir hesaplama kapasitesini yaklaşık %90-99 oranında azaltma yeteneğine sahip olmaktır, bu da 1-2 yıl boyunca devam etmelidir, insanlığa daha fazla hazırlık süresi kazandırmak için. 1-2 yılın değeri abartılmamalıdır: bir yıl süren "savaş zamanı modu", kendine güvenli bir durumda yüz yıl süren normal çalışmalara eşdeğer olabilir.
Daha gelişmiş bir yöntem, akıllı şifreleme teknikleri kullanmaktır: örneğin, üretilen endüstriyel ölçek ( ancak tüketici seviyesindeki ) AI donanımı, yalnızca her hafta önde gelen uluslararası kuruluşlardan 3/3 imzası alındığında çalışmaya devam etmesine izin verilecek güvenilir bir donanım çipi ile donatılabilir. Bu imzalar cihazdan bağımsız olacak, bu yüzden ya hepsi ya da hiçbiri olacak: bir cihazın çalışmaya devam etmesine izin vermek için başka bir cihazın yetkilendirilmesi mümkün olmayacak.
d/acc teknolojisinin AI risklerindeki rolü:
Bu iki strateji ( sorumluluk ve donanım duraklatma butonu ) açıkça açıklar ve geçici bir çözümden başka bir şey değildir. Bu nedenle, zaman kazanmak için daha istikrarlı önlemlere ihtiyacımız var. Burada birçok d/acc teknolojisi ile ilgili. d/acc teknolojisinin rolüne şu şekilde bakabiliriz: Eğer yapay zeka dünyayı ele geçirirse, bunu nasıl yapar?
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
d/acc birinci yıl: Merkeziyetsizlik savunma hızlandırma ilerlemeleri ve zorluklar
d/acc: Bir yılın değerlendirmesi ve geleceğe bakış
Geçen yıl, teknoloji iyimserliği hakkında bir makale yazdım; bu makalede teknolojiye olan tutkum ve getirebileceği büyük faydalar üzerinde durdum, aynı zamanda süper zeki yapay zekanın getirebileceği riskler konusunda temkinli bir yaklaşım sergiledim.
Makalenin temel noktası, merkeziyetsiz, demokratik ve farklılaştırılmış bir savunma hızlandırma anlayışını savunmaktır. Hem teknoloji gelişimini hızlandırmak hem de yıkım kapasitesini artırmak yerine savunma yeteneklerini geliştirebilecek teknolojilere odaklanmak gerekmekte ve gücün dağılmasına odaklanarak gücün az sayıda elitin elinde toplanmasını önlemeye çalışılmaktadır.
Bir yıl geçti, bu fikirler önemli bir gelişim ve olgunluk gösterdi. Bu fikirleri "80,000 saat" platformunda paylaştım, birçok geri bildirim aldım, çoğu olumlu oldu, elbette bazı eleştiriler de oldu.
Bu çalışma sürekli olarak ilerliyor ve somut sonuçlar elde ediliyor: doğrulanabilir açık kaynak aşı alanında ilerleme kaydedildi; insanların sağlıklı iç hava değerine dair farkındalığı derinleşiyor; "topluluk notları" sürekli olarak olumlu rol oynuyor; tahmin piyasası bilgi aracı olarak bir atılım yılı yaşıyor; sıfır bilgi kanıtları hükümet kimlik tanıma ve sosyal medya alanlarında uygulanıyor; açık kaynak görüntüleme araçları tıp ve beyin-bilgisayar arayüzü alanlarında kullanılıyor, vb.
Geçen sonbaharda, ilk önemli d/acc etkinliğimizi düzenledik: "d/acc Keşif Günü". Etkinlik, d/acc'nin çeşitli alanlarından gelen ( biyoloji, fizik, ağ, bilgi savunma ve sinir teknolojileri ) konuşmacılarını bir araya getirdi. Bu teknolojilere uzun süre odaklanmış olan insanlar birbirlerinin çalışmalarını daha iyi anlama fırsatı buldu ve dışarıdan gelenler de bu daha büyük vizyonun farkına vardı: Ethereum ve kripto para gelişimini destekleyen değerlerin daha geniş bir dünyaya yayılabileceği.
d/acc'nin anlamı ve kapsamı
d/acc'nin temel düşüncesi açık ve nettir: merkeziyetsiz, demokratik ve farklılaştırılmış savunmacı hızlandırma. Saldırı ve savunma dengesini savunma lehine eğilimli hale getiren teknolojiler inşa etmek ve uygulama sürecinde daha fazla gücü merkezi otoritelere vermeye bağımlı olmamak. Bu iki alan arasında içsel bir sıkı ilişki vardır: Herhangi bir merkeziyetsiz, demokratik veya özgür siyasi yapı, savunmanın kolayca uygulanabildiği durumlarda genellikle gelişirken, savunmanın ciddi zorluklarla karşılaştığı durumlarda zorlu bir mücadele ile karşılaşır.
Merkeziyetsizliği, savunuculuğu ve hızlandırmayı aynı anda gerçekleştirme çabasının önemini anlamanın bir yolu, bunları bu üç alandan birinin terk edilmesiyle ortaya çıkan kavramlarla karşılaştırmaktır.
Merkeziyetsiz hızlandırma, ancak "farklılaştırılmış savunma" kısmını göz ardı etmek, bu, etkili bir hızlandırmacı olmayı (e/acc) arzulamakla benzer, ancak aynı zamanda merkeziyetsizliği hedeflemektedir. Bu yaklaşım, belirli grupların küresel insanlık üzerinde diktatörlük kurma riskini önlemeye yardımcı olabilir, ancak potansiyel yapısal sorunları çözmemektedir: saldırıya elverişli bir ortamda, her zaman felaketin ortaya çıkma riski vardır veya birisi kendisini koruyucu olarak konumlandırabilir ve kalıcı olarak egemenlik pozisyonunu işgal edebilir.
Farklılaştırılmış savunmanın hızlanması, ancak "merkeziyetsizlik ve demokrasi"nin göz ardı edilmesi, güvenlik hedeflerine ulaşmak için merkezi kontrolü kabul etme, bazı insanlar için her zaman belirli bir çekiciliğe sahip olmuştur. Ancak merkezi kontrolün bir derece sorunu vardır. Genellikle göz ardı edilen ama yine de zararlı olan, biyoteknoloji alanında kamu denetimine karşı bir direnç olarak kendini gösteren ve bu direnç eylemlerinin sorgulanmadan kalmasına izin veren kapalı kaynak standartlarıdır.
Merkeziyetsiz savunma, ancak hızlandırmayı dışlama, esasen teknolojik ilerlemeyi yavaşlatma veya ekonomik duraklamayı teşvik etme çabasıdır. Bu strateji, iki katmanlı bir zorlukla karşı karşıyadır. İlk olarak, genel olarak, teknoloji ve ekonomik büyüme insanlık için son derece faydalıdır ve bunların herhangi bir gecikmesi ölçülemeyen maliyetler getirir. İkincisi, otoriter olmayan bir dünyada duraklama istikrarsızdır: "hile yapanlar" en fazla, görünüşte makul yollar bularak gelişimi sürdürme yeteneğine sahip olan bireyler veya gruplar avantaj elde edecektir.
d/acc aracılığıyla aşağıdaki hedeflere ulaşmayı taahhüt ediyoruz:
d/acc'ye başka bir bakış açısı, 21. yüzyılın 2000'li yıllarının sonlarında Avrupa'daki Korsan Parti hareketinin bir çerçevesine geri dönmektir: güçlendirme. Amacımız, insan etkinliğini koruyabilen bir dünya inşa etmek, pasif özgürlüğü sağlamak, yani başkalarının bizim kaderimizi şekillendirme yeteneğimize aktif olarak müdahale etmemesini sağlarken, aynı zamanda aktif özgürlüğü sağlamak, yani bu yeteneği gerçekleştirmek için bilgi ve kaynaklara sahip olmamızı güvence altına almaktır.
Üçüncü Boyut: Hayatta Kalma ve Refahın Eş Zamanlı Gelişimi
Geçen yılki makalede, d/acc özellikle savunma teknolojilerine odaklandı: fiziksel savunma, biyolojik savunma, siber savunma ve bilgi savunması. Ancak, yalnızca merkeziyetsiz savunma, harika bir dünya inşa etmek için yeterli değildir: yeni merkeziyetsizlik ve güvenlik elde edildikten sonra insanlığın gerçekleştirebileceği hedefleri net bir şekilde belirten proaktif bir vizyona da ihtiyacımız var.
Her alanda, belirli bir alanda "hayatta kalmamıza" yardımcı olan bilimlerin, düşüncelerin ve araçların, bize "refah" sağlamada yardımcı olan bilimler, düşünceler ve araçlarla yakından ilişkili olduğu tutarlı bir model vardır. İşte bazı somut örnekler:
Bunun yanı sıra, farklı disiplin alanları arasında önemli bir karşılıklı bağımlılık ilişkisi de vardır:
Zor Sorun: AI Güvenliği, Acil Zaman Çizgisi ve Düzenleyici İkilem
Geçen yıl makaleme gelen en ikna edici karşıt görüş, AI güvenlik topluluğundan geldi. Argümanı şöyleydi: "Güçlü AI geliştirmek için yarım yüzyıl süremiz olsa da, tüm bu faydalı şeyleri inşa etmeye odaklanabiliriz. Ama aslında, genel AI'ya ulaşmak için sadece üç yılımız kaldığı ve ardından süper zekaya ulaşmak için de üç yılımız olduğu görülüyor. Bu nedenle, dünyayı yok olmanın eşiğine getirmek veya başka bir şekilde geri dönüşü olmayan bir duruma sokmak istemiyorsak, sadece faydalı teknolojilerin gelişimini hızlandırmakla kalmamalı, aynı zamanda zararlı teknolojilerin gelişimini de yavaşlatmalıyız. Bu, güç sahiplerini kızdırabilecek güçlü düzenleyici önlemler gerektiriyor."
Yeni düzenlemelere temkinli yaklaşmanın nedenleri:
Geçen yıl, ana AI düzenleme önerisi Kaliforniya'nın SB-1047 yasasıydı. SB-1047, en güçlü modellerin geliştiricilerinin yayınlamadan önce bir dizi güvenlik testi önlemi almasını gerektiriyor. Ayrıca, AI modeli geliştiricileri yeterince dikkatli olmazlarsa, sorumluluk taşımaları gerekecek. Birçok eleştirmen bu yasayı "açık kaynak için bir tehdit" olarak değerlendirdi; ben buna katılmıyorum, çünkü maliyet eşiği yalnızca en güçlü modelleri etkiliyor. Ancak geçmişe baktığımda, bu yasada daha ciddi bir sorun olduğunu düşünüyorum: diğer çoğu düzenleyici önlem gibi, mevcut duruma aşırı uyum sağlıyor.
AI süper zekanın yok oluş senaryolarına en çok katkıda bulunabilecek aktörler:
Aslında, AI süper zekasının yok olma senaryolarından en çok sorumlu olacak aktörler ordulardır. Geçtiğimiz yarım asırda biyogüvenlikte gördüğümüz gibi, ordular korkunç eylemler yapmaya istekli ve hata yapma olasılıkları yüksektir. Günümüzde, AI'nın askeri alandaki uygulamaları hızla gelişmektedir. Ayrıca, herhangi bir hükümetin geçirdiği güvenlik düzenlemeleri, varsayılan olarak kendi ordularını ve ordularla yakın işbirliği yapan şirketleri muaf tutmaktadır.
Stratejiler:
Buna rağmen, bu argümanlar bizi çaresiz bırakacak bir neden değildir. Aksine, bunları bir rehber olarak alabiliriz ve bu endişeleri en az seviyeye indirecek kuralları oluşturmaya çalışabiliriz.
Strateji 1: Sorumluluk
Eğer birinin davranışları bir şekilde yasal olarak sorumlu tutulabilecek bir zarara neden olduysa, dava açılabilir. Bu, ordudan ve diğer "yasanın üzerinde" hareket edenlerden kaynaklanan risk sorununu çözmez, ancak aşırı uyum sağlamaktan kaçınmak için çok genel bir yöntemdir; bu nedenle, serbest piyasa yanlısı iktisatçılar genellikle bu uygulamayı destekler.
Şu ana kadar dikkate alınan ana sorumluluk hedefleri şunlardır:
Kullanıcıyı sorumlu tutmak, teşvik mekanizmasıyla en uyumlu görünen yaklaşım gibi. Modelin geliştirilme şekli ile nihai kullanım şekli arasındaki bağlantı genellikle belirsiz olsa da, kullanıcı AI'nın spesifik kullanım şekline karar verir. Kullanıcılardan sorumluluk talep etmek, insanların AI'yı doğru bir şekilde kullanmaları için güçlü bir baskı oluşturur: Mekanik bir set inşa etmeye odaklanmak, yeni bir kendini sürdüren zeka biçimi yaratmaktan ziyade, insan düşüncesi için.
Strateji 2: Endüstriyel ölçekli donanımda küresel "yumuşak duraklatma" butonu
Eğer sorumluluk kurallarından daha "güçlü" önlemlere ihtiyaç duyduğuma kesin olarak inanıyorsam, bu stratejiyi seçerim. Hedef, kritik dönemlerde küresel kullanılabilir hesaplama kapasitesini yaklaşık %90-99 oranında azaltma yeteneğine sahip olmaktır, bu da 1-2 yıl boyunca devam etmelidir, insanlığa daha fazla hazırlık süresi kazandırmak için. 1-2 yılın değeri abartılmamalıdır: bir yıl süren "savaş zamanı modu", kendine güvenli bir durumda yüz yıl süren normal çalışmalara eşdeğer olabilir.
Daha gelişmiş bir yöntem, akıllı şifreleme teknikleri kullanmaktır: örneğin, üretilen endüstriyel ölçek ( ancak tüketici seviyesindeki ) AI donanımı, yalnızca her hafta önde gelen uluslararası kuruluşlardan 3/3 imzası alındığında çalışmaya devam etmesine izin verilecek güvenilir bir donanım çipi ile donatılabilir. Bu imzalar cihazdan bağımsız olacak, bu yüzden ya hepsi ya da hiçbiri olacak: bir cihazın çalışmaya devam etmesine izin vermek için başka bir cihazın yetkilendirilmesi mümkün olmayacak.
d/acc teknolojisinin AI risklerindeki rolü:
Bu iki strateji ( sorumluluk ve donanım duraklatma butonu ) açıkça açıklar ve geçici bir çözümden başka bir şey değildir. Bu nedenle, zaman kazanmak için daha istikrarlı önlemlere ihtiyacımız var. Burada birçok d/acc teknolojisi ile ilgili. d/acc teknolojisinin rolüne şu şekilde bakabiliriz: Eğer yapay zeka dünyayı ele geçirirse, bunu nasıl yapar?