d/acc: Nhìn lại và dự báo sau một năm

Năm ngoái, tôi đã viết một bài báo về chủ nghĩa lạc quan công nghệ, giải thích niềm đam mê của tôi đối với công nghệ và những lợi ích to lớn mà nó có thể mang lại, đồng thời cũng bày tỏ thái độ thận trọng đối với một số vấn đề cụ thể, đặc biệt là những rủi ro mà trí tuệ nhân tạo siêu thông minh có thể gây ra.

Quan điểm cốt lõi của bài viết là kêu gọi một tư tưởng tăng tốc phòng thủ phi tập trung, dân chủ và đa dạng. Cần phải tăng tốc phát triển công nghệ, đồng thời chú ý đến những công nghệ có thể nâng cao khả năng phòng thủ thay vì khả năng phá hoại, và cam kết phân tán quyền lực, tránh tình trạng tập trung quyền lực vào tay một thiểu số tinh hoa.

Một năm đã trôi qua, những ý tưởng này đã phát triển và trưởng thành đáng kể. Tôi đã chia sẻ những ý tưởng này trên nền tảng "80.000 giờ", nhận được nhiều phản hồi, chủ yếu là tích cực, tất nhiên cũng có một số chỉ trích.

Công việc này đã tiếp tục được thúc đẩy và đạt được những thành quả đáng kể: lĩnh vực vaccine mã nguồn mở có tiến triển; nhận thức của mọi người về giá trị của không khí trong nhà lành mạnh ngày càng sâu sắc; "ghi chú cộng đồng" tiếp tục phát huy vai trò tích cực; thị trường dự đoán đã có một năm đột phá như một công cụ thông tin; bằng chứng không kiến thức được áp dụng trong nhận dạng danh tính của chính phủ và lĩnh vực mạng xã hội; công cụ hình ảnh mã nguồn mở đã được ứng dụng trong y học và giao diện não-máy, và nhiều hơn nữa.

Vào mùa thu năm ngoái, chúng tôi đã tổ chức sự kiện d/acc quan trọng đầu tiên: "Ngày Khám Phá d/acc". Sự kiện đã quy tụ các diễn giả từ nhiều lĩnh vực khác nhau của d/acc ( sinh học, vật lý, mạng, phòng thủ thông tin và công nghệ thần kinh ). Những người đã dành nhiều thời gian cho các công nghệ này đã hiểu rõ hơn về công việc của nhau, và những người bên ngoài cũng ngày càng nhận thức rõ hơn về tầm nhìn lớn hơn này: các giá trị thúc đẩy sự phát triển của Ethereum và tiền điện tử có thể mở rộng đến một thế giới rộng lớn hơn.

Ý nghĩa và phạm vi của d/acc

Ý tưởng cốt lõi của d/acc rất rõ ràng: phòng thủ phi tập trung, dân chủ và khác biệt. Xây dựng công nghệ có thể thúc đẩy sự cân bằng giữa tấn công và phòng thủ nghiêng về phía phòng thủ, và trong quá trình thực hiện không phụ thuộc vào việc trao thêm quyền lực cho các cơ quan trung ương. Có mối liên hệ chặt chẽ nội tại giữa hai khía cạnh này: bất kỳ cấu trúc chính trị nào phi tập trung, dân chủ hoặc tự do, thường phát triển mạnh mẽ khi việc phòng thủ dễ dàng thực hiện, trong khi gặp phải thách thức nghiêm trọng khi phòng thủ đối mặt với nhiều khó khăn.

Một cách để hiểu tầm quan trọng của việc cố gắng đạt được sự phân cấp, tính phòng thủ và tính gia tốc cùng một lúc, là so sánh nó với những ý tưởng phát sinh từ việc từ bỏ bất kỳ một trong ba khía cạnh này.

Tăng tốc phi tập trung, nhưng bỏ qua phần "phòng thủ khác biệt", điều này giống như trở thành một người theo chủ nghĩa tăng tốc hiệu quả (e/acc), nhưng đồng thời theo đuổi phi tập trung. Cách tiếp cận này có thể tránh được rủi ro của một nhóm nhất định áp đặt chế độ độc tài lên toàn nhân loại, nhưng nó không giải quyết được các vấn đề cấu trúc tiềm ẩn: trong một môi trường thuận lợi cho tấn công, luôn có nguy cơ liên tục về thảm họa xảy ra, hoặc có thể có người tự định vị mình là người bảo vệ và chiếm giữ vị trí thống trị một cách vĩnh viễn.

Phòng thủ khác biệt được tăng tốc, nhưng bỏ qua "phi tập trung và dân chủ", chấp nhận kiểm soát tập trung để đạt được mục tiêu an ninh, điều này luôn có một sức hấp dẫn nhất định đối với một bộ phận người. Tuy nhiên, kiểm soát tập trung có vấn đề về mức độ. Một hình thức kiểm soát tập trung tương đối ôn hòa thường bị bỏ qua nhưng vẫn có hại, thể hiện qua sự kháng cự của lĩnh vực công nghệ sinh học đối với sự giám sát của công chúng, cũng như việc cho phép hành vi kháng cự này không bị thách thức bởi các tiêu chuẩn mã nguồn đóng.

Phòng thủ phi tập trung, nhưng phản đối tăng tốc, bản chất là cố gắng làm chậm tiến bộ công nghệ hoặc thúc đẩy suy thoái kinh tế. Chiến lược này đối mặt với hai thách thức kép. Thứ nhất, nhìn chung, tăng trưởng công nghệ và kinh tế là vô cùng có lợi cho nhân loại, bất kỳ sự chậm trễ nào đối với chúng sẽ gây ra những chi phí khó có thể định lượng. Thứ hai, trong một thế giới không phải độc tài, sự trì trệ là không ổn định: những người hoặc nhóm "gian lận" nhiều nhất, có thể tìm ra cách dường như hợp lý để tiếp tục thúc đẩy phát triển sẽ chiếm ưu thế.

Thông qua d/acc, chúng tôi cam kết đạt được các mục tiêu sau:

• Giữ vững nguyên tắc trong bối cảnh thế giới ngày càng trở nên bộ lạc hóa, chứ không chỉ đơn thuần là xây dựng một cách mù quáng các thứ khác nhau.
• Nhận ra rằng những tiến bộ công nghệ theo cấp số nhân có nghĩa là thế giới sẽ trở nên vô cùng kỳ lạ, và "dấu chân" tổng thể của con người trong vũ trụ chắc chắn sẽ không ngừng tăng lên. Khả năng của chúng ta trong việc bảo vệ các loài động vật, thực vật và con người yếu đuối khỏi tổn hại phải được cải thiện liên tục, và con đường duy nhất là tiến về phía trước.
• Xây dựng công nghệ có thể thực sự bảo vệ chúng ta, thay vì dựa trên giả định "người tốt ( hoặc AI tốt ) kiểm soát mọi thứ". Chúng ta đạt được mục tiêu này bằng cách xây dựng các công cụ tự nhiên hiệu quả hơn để xây dựng và bảo vệ hơn là để phá hoại.

Một cách tiếp cận khác để suy nghĩ về d/acc là quay trở lại khung của phong trào Pirate Party châu Âu vào cuối những năm 2000: trao quyền. Mục tiêu của chúng tôi là xây dựng một thế giới có thể giữ lại tính chủ động của con người, đạt được tự do tiêu cực, tức là tránh sự can thiệp tích cực từ người khác vào khả năng định hình số phận của chúng ta, đồng thời đạt được tự do tích cực, tức là đảm bảo rằng chúng ta có kiến thức và nguồn lực để thực hiện khả năng này.

Chiều thứ ba: Sự phát triển phối hợp giữa sinh tồn và thịnh vượng

Trong bài viết năm ngoái, d/acc đã đặc biệt tập trung vào các công nghệ phòng thủ: phòng thủ vật lý, phòng thủ sinh học, phòng thủ mạng và phòng thủ thông tin. Tuy nhiên, chỉ đơn thuần là phòng thủ phi tập trung là không đủ để xây dựng một thế giới vĩ đại: chúng ta còn cần một tầm nhìn tích cực có tính tiên phong, rõ ràng về những mục tiêu mà nhân loại có thể đạt được sau khi có được sự phi tập trung và an toàn mới.

Trong các lĩnh vực khác nhau, có một mô hình nhất quán, đó là những khoa học, tư tưởng và công cụ có thể giúp chúng ta "sinh tồn" trong một lĩnh vực nào đó có mối liên hệ chặt chẽ với những khoa học, tư tưởng và công cụ có thể giúp chúng ta "phát triển". Dưới đây là một số ví dụ cụ thể:

• Nhiều nghiên cứu gần đây về Covid-19 tập trung vào sự tồn tại liên tục của virus trong cơ thể, điều này được coi là một cơ chế then chốt của vấn đề Covid kéo dài. Gần đây, cũng có dấu hiệu cho thấy sự tồn tại liên tục của virus có thể là yếu tố gây bệnh của bệnh Alzheimer.
• Công cụ hình ảnh chi phí thấp và vi mô có tiềm năng mạnh mẽ trong việc điều trị huyết khối vi mô, sự tồn tại liên tục của virus, ung thư, đồng thời cũng có thể được áp dụng trong lĩnh vực giao diện não-máy.
• Đẩy mạnh xây dựng các công cụ xã hội phù hợp với môi trường đối kháng cao và các công cụ xã hội cho môi trường hợp tác hợp lý là rất giống nhau.
• Thị trường dự đoán có giá trị quan trọng cả trong môi trường hợp tác cao và đối kháng cao.
• Chứng minh không biết và các công nghệ tương tự vừa bảo vệ quyền riêng tư vừa tính toán dữ liệu, không chỉ tăng lượng dữ liệu có thể được sử dụng cho các nghiên cứu khoa học và các công việc có lợi khác, mà còn tăng cường bảo vệ quyền riêng tư.
• Năng lượng mặt trời và pin có ý nghĩa to lớn trong việc thúc đẩy làn sóng tăng trưởng kinh tế sạch tiếp theo, đồng thời cũng thể hiện xuất sắc trong việc phi tập trung và tính đàn hồi vật lý.

Ngoài ra, còn có mối quan hệ phụ thuộc quan trọng giữa các lĩnh vực khoa học khác nhau:

• Giao diện não-máy rất quan trọng như một công nghệ phòng thủ thông tin và hợp tác, vì nó có thể đạt được sự giao tiếp tinh vi hơn về ý tưởng và ý định của chúng ta.
• Nhiều công nghệ sinh học phụ thuộc vào việc chia sẻ thông tin, và trong nhiều trường hợp, mọi người chỉ sẵn sàng chia sẻ thông tin khi họ chắc chắn rằng thông tin đó chỉ được sử dụng cho các ứng dụng cụ thể. Điều này phụ thuộc vào công nghệ bảo mật.
• Công nghệ hợp tác có thể được sử dụng để điều phối tài trợ cho bất kỳ lĩnh vực công nghệ nào khác.

Thách thức: An toàn AI, thời gian cấp bách và tình huống quản lý

Năm ngoái, những phản biện thuyết phục nhất đối với bài viết của tôi đến từ cộng đồng an toàn AI. Luận điểm của họ là: "Mặc dù chúng ta có một nửa thế kỷ để phát triển AI mạnh, chúng ta có thể tập trung vào việc xây dựng tất cả những điều hữu ích này. Nhưng thực tế, có vẻ như chúng ta chỉ có ba năm để phát triển đến AI tổng quát, và sau ba năm nữa để phát triển đến siêu trí tuệ. Do đó, nếu chúng ta không muốn để thế giới rơi vào sự hủy diệt hoặc theo cách khác rơi vào tình huống không thể đảo ngược, chúng ta không thể chỉ đơn thuần tăng tốc phát triển công nghệ hữu ích, mà còn phải làm chậm lại sự phát triển của công nghệ có hại, điều này có nghĩa là cần phải có những biện pháp quản lý mạnh mẽ có thể sẽ khiến các tầng lớp quyền lực tức giận."

Lý do đối với thái độ thận trọng về quy định mới:

Năm ngoái, đề xuất quản lý AI chính là dự luật SB-1047 của bang California. SB-1047 yêu cầu các nhà phát triển mô hình mạnh nhất thực hiện một loạt biện pháp kiểm tra an toàn trước khi phát hành. Hơn nữa, nếu các nhà phát triển mô hình AI không đủ cẩn thận, họ sẽ phải chịu trách nhiệm. Nhiều nhà phê bình cho rằng dự luật này "đe dọa mã nguồn mở"; tôi không đồng ý với điều này, vì ngưỡng chi phí có nghĩa là nó chỉ ảnh hưởng đến những mô hình mạnh nhất. Tuy nhiên, nhìn lại quá khứ, tôi nghĩ rằng dự luật này có một vấn đề nghiêm trọng hơn: giống như hầu hết các biện pháp quản lý, nó quá thích ứng với tình hình hiện tại.

Những tác nhân có khả năng cao nhất gây ra kịch bản hủy diệt của trí tuệ nhân tạo siêu cấp:

Trên thực tế, những tác nhân có khả năng gây ra kịch bản hủy diệt do trí tuệ nhân tạo siêu thông minh gây ra là quân đội. Như chúng ta đã chứng kiến trong lĩnh vực an toàn sinh học trong nửa thế kỷ qua, quân đội sẵn sàng thực hiện một số hành động đáng sợ và họ rất dễ mắc sai lầm. Ngày nay, việc ứng dụng AI trong lĩnh vực quân sự đang phát triển nhanh chóng. Hơn nữa, bất kỳ biện pháp quản lý an toàn nào do chính phủ thông qua, mặc định sẽ miễn trừ cho quân đội trong nước cũng như các công ty hợp tác chặt chẽ với quân đội.

Chiến lược ứng phó:

Tuy nhiên, những lập luận này không phải là lý do khiến chúng ta bất lực. Ngược lại, chúng ta có thể coi chúng như là chỉ dẫn, cố gắng xây dựng những quy tắc ít gây ra những lo ngại nhất.

Chiến lược 1: Trách nhiệm

Nếu hành vi của một người nào đó gây ra thiệt hại có thể bị truy cứu theo pháp luật, họ có thể bị kiện. Điều này không giải quyết được vấn đề rủi ro đến từ quân đội và các tác nhân "vượt lên trên pháp luật" khác, nhưng đây là một phương pháp rất chung, có thể tránh việc điều chỉnh quá mức, chính vì lý do đó, các nhà kinh tế học có xu hướng theo chủ nghĩa tự do thường ủng hộ cách làm này.

Các mục tiêu trách nhiệm chính được xem xét cho đến nay như sau:

• Người dùng: người sử dụng AI.
• Người triển khai: Người trung gian cung cấp dịch vụ AI cho người dùng.
• Nhà phát triển: Người xây dựng AI.

Việc đặt trách nhiệm lên người dùng dường như là phù hợp nhất với cơ chế khuyến khích. Mặc dù mối liên hệ giữa cách phát triển mô hình và cách sử dụng cuối cùng thường không rõ ràng, nhưng người dùng quyết định cách sử dụng cụ thể của AI. Việc truy cứu trách nhiệm đối với người dùng sẽ tạo ra một áp lực mạnh mẽ, thúc đẩy mọi người sử dụng AI theo cách mà tôi cho là đúng: tập trung vào việc xây dựng bộ khung cơ khí cho tư duy con người, thay vì tạo ra các hình thức sống thông minh tự duy trì mới.

Chiến lược 2: Nút "tạm dừng mềm" toàn cầu trên phần cứng quy mô công nghiệp

Nếu tôi tin rằng chúng ta cần các biện pháp "mạnh mẽ" hơn quy tắc trách nhiệm, tôi sẽ chọn chiến lược này. Mục tiêu là có khả năng giảm khoảng 90%-99% sức mạnh tính toán toàn cầu trong những thời điểm quan trọng, kéo dài từ 1-2 năm, để cho nhân loại có thêm thời gian chuẩn bị. Giá trị của 1-2 năm không nên bị đánh giá quá cao: một năm trong "chế độ chiến tranh" trong điều kiện tự mãn có thể dễ dàng tương đương với một trăm năm làm việc thông thường.

Một phương pháp tiên tiến hơn là sử dụng các kỹ thuật mã hóa tinh vi: ví dụ, phần cứng AI quy mô công nghiệp ( nhưng không phải cấp tiêu dùng ) có thể được trang bị một chip phần cứng đáng tin cậy, chỉ cho phép tiếp tục hoạt động khi nhận được chữ ký 3/3 từ các tổ chức quốc tế chính mỗi tuần. Những chữ ký này sẽ không liên quan đến thiết bị, vì vậy đó sẽ là toàn bộ hoặc không có gì: không có phương pháp thực tế nào có thể cấp quyền cho một thiết bị tiếp tục hoạt động mà không cấp quyền cho tất cả các thiết bị khác.

Vai trò của công nghệ d/acc trong rủi ro AI:

Cả hai chiến lược ( trách nhiệm và nút tạm dừng phần cứng ) đều có lỗ hổng, và rõ ràng chúng chỉ là giải pháp tạm thời. Do đó, chúng ta cần các biện pháp ổn định hơn để giành thời gian. Nhiều công nghệ d/acc có liên quan ở đây. Chúng ta có thể xem xét vai trò của công nghệ d/acc như sau: nếu AI tiếp quản thế giới, nó sẽ làm như thế nào?

• Nó xâm nhập vào máy tính của chúng ta → Phòng thủ mạng