Vitalik Buterin cảnh báo các loài Apex mới

trong mộtbài đăng blog gần đây Người đồng sáng lập Ethereum, Vatalik Buterin, đã nhấn mạnh bản chất khác biệt của AI, bày tỏ mối lo ngại về tiềm năng của nó trong việc tạo ra một loại trí tuệ mới có thể hành động chống lại lợi ích của con người.

Không giống như những phát minh trước đây, sự phát triển trí thông minh nhanh chóng của AI có nguy cơ vượt qua khả năng trí tuệ của con người, khiến Buterin nhấn mạnh sự cần thiết phải can thiệp cẩn thận.

Buterin cảnh báo trong bài đăng trên blog của mình, trí tuệ nhân tạo (AI) siêu tiên tiến có khả năng vượt qua con người:

"Nhưng có một cách khác để nghĩ về AI là gì: đó là một loại trí tuệ mới đang nhanh chóng đạt được trí thông minh và có cơ hội vượt qua con người". năng lực trí tuệ và trở thành loài đỉnh cao mới trên hành tinh.”

Tăng trưởng AI nhanh chóng làm tăng rủi ro

Buterin đã thu hút sự chú ý đến mối đe dọa hiện hữu do AI siêu thông minh gây ra, cho thấy rằng nếu không được kiểm soát, nó có thể dẫn đến sự tuyệt chủng của loài người.

Như đã viết trong bài đăng trên blog của mình:

"Đây là một tuyên bố cực đoan: dù kịch bản xấu nhất của biến đổi khí hậu, đại dịch nhân tạo hay chiến tranh hạt nhân có thể gây ra bao nhiêu tác hại, vẫn có rất nhiều hòn đảo văn minh vẫn còn nguyên vẹn để nhặt từng mảnh. Nhưng một AI siêu thông minh, nếu nó quyết định chống lại chúng ta, có thể sẽ không còn ai sống sót và chấm dứt nhân loại mãi mãi. Ngay cả sao Hỏa cũng có thể không an toàn.”

Anh tatham khảo một cuộc khảo sát của các nhà nghiên cứu về máy học ước tính có 5–10% khả năng AI gây hại cho nhân loại .

Bất chấp tính chất cực đoan của những tuyên bố này, Buterin đã đề xuất các giải pháp tiềm năng để đảm bảo sự kiểm soát của con người đối với AI mạnh mẽ.

Giao diện não-máy tính (BCI)

Ảnh lấy từ: https://vitalik.eth.limo/general/2023/11/27/techno_optimism.html

Để giải quyết các rủi ro, Buterin ủng hộ việc tích hợp giao diện não-máy tính (BCI).

Các giao diện này thiết lập một đường dẫn giao tiếp trực tiếp giữa não và các thiết bị bên ngoài, cho phép con người kiểm soát nhiều hơn khả năng tính toán và nhận thức dựa trên AI.

Bằng cách giảm vòng lặp giao tiếp giữa con người và máy móc, Buterin lập luận rằng BCI có thể duy trì cơ quan có ý nghĩa trên toàn thế giới, ngăn cản AI hoạt động độc lập.

Người đồng sáng lập Ethereum nhấn mạnh tầm quan trọng của sự tham gia của con người vào quá trình ra quyết định, nhằm giảm khả năng AI hành động chống lại các giá trị của nhân loại.

Ông cho rằng ý định tích cực của con người, được hướng dẫn bởi các giá trị ngoài việc tối đa hóa lợi nhuận, có thể thúc đẩy sự phát triển AI theo hướng có lợi cho nhân loại.

Điều hướng các thách thức AI

Buterin bày tỏ sự tin tưởng vào khả năng của nhân loại trong việc vượt qua những thách thức do quá trình tiến hóa AI đặt ra.

Ông nhấn mạnh tầm quan trọng của sự đổi mới và công nghệ của con người, hình dung ra một tương lai nơi các sản phẩm nhân tạo của con người, chẳng hạn như du hành vũ trụ và địa kỹ thuật, góp phần tạo nên vẻ đẹp liên tục của cuộc sống trên Trái đất trong nhiều thiên niên kỷ tới.