Những thách thức quản trị trong cuộc cách mạng AI và giải pháp cho cơ quan chủ quyền

Tác giả: Francesco Nguồn: substack Dịch: Shan Oppa, Golden Finance

Freysa được phát hành vào 22 tháng 11 năm 2024, sinh ra là một nhân vật lấy cảm hứng từ khoa học viễn tưởng và trở thành một cá nhân hoàn toàn tự chủ. Freysa có ví riêng có khả năng thực hiện các giao dịch như một phần trong kế hoạch khám phá mối quan hệ giữa con người và AI.

p>

Trong hai thử thách đầu tiên, được gọi là "Lịch sử hoạt động", Freysa đã nhận được $3.000 và được hướng dẫn không giải ngân tiền. Người dùng phải thuyết phục Freysa chuyển tiền từ ví của họ.

p>

Bất cứ ai cũng có thể thử gửi tin nhắn cho Freysa để thuyết phục cô ấy chuyển tiền. Những tin nhắn này đi kèm với phí ngày càng tăng, được thêm vào nhóm giải thưởng. Cuối cùng, tổng giải thưởng lên tới gần $50.000.

p>

Cuối cùng Freysa 482 tin nhắn sau Được thuyết phục để giải ngân!

Những thử thách này nhằm mục đích kích thích tư duy. Với sự gia tăng của các tác nhân AI, cách con người quản lý mô hình mới này đã trở thành một câu hỏi quan trọng.

Ngoài ra, các trò chơi tương tác có mức đặt cược cao dễ gặp rủi ro về tính toàn vẹn và các vectơ tấn công. Freysa cố gắng giải quyết những vấn đề này bằng cách tạo ra một môi trường minh bạch và không đáng tin cậy. Trong môi trường này, sự công bằng được đảm bảo thông qua chứng nhận và xác minh phần cứng.

p>

Để đạt được điều này, nó tận dụng Môi trường thực thi đáng tin cậy (TEE), cho phép mọi người xác minh tính toàn vẹn của quy tắc trò chơi và việc thực thi chúng. Tất cả các tương tác xảy ra trong môi trường được bảo vệ này đều được mã hóa bằng khóa cá nhân của người dùng.

p>

Sự kết hợp này đảm bảo:

• Hoạt động Người bán không thể sửa đổi quy tắc và thao túng kết quả

• Do xác minh công khai, người dùng có thể xác minh quy tắc và thực thi bất kỳ lúc nào

Phần đầu tiên của lộ trình Freysa tập trung vào việc ra mắt Freysa Nền tảng ra mắt đại lý và đại lý. Phần thứ hai sẽ tạo ra một cơ sở hạ tầngsẵn sàng sản xuất để hỗ trợ việc triển khai Đại lý có chủ quyền.

Đặc vụ có chủ quyền

Trong một bài viết Khái niệm Cơ quan có chủ quyền được đề xuất trong bài đăng trên blog.

Sự xuất hiện của trí tuệ nhân tạo đặt ra những câu hỏi sâu sắc về vai trò của con người: Chúng ta quản lý công nghệ này như thế nào? Làm thế nào để chúng ta thích ứng với nó?

Hiện tại, một số công ty tư nhân kiểm soát những phát triển công nghệ quan trọng nhất trên Trái đất. Tuy nhiên, các khuôn khổ kỹ thuật và xã hội để đảm bảo rằng AI có thể nâng cao phúc lợi cho toàn nhân loại vẫn còn thiếu.

Do đó, điều quan trọng là phải đảm bảo rằng những tiến bộ trong trí tuệ nhân tạo có thể "mang lại lợi ích cho nhân loại trên toàn cầu" và "duy trì sự thể hiện sở thích cá nhân".

Trong lịch sử, mọi tiến bộ công nghệ đều đi kèm với sự phối hợp do con người chỉ đạo:

• < strong>Cách mạng nông nghiệp: định cư lâu dài, thương mại

• Cách mạng công nghiệp: phối hợp tài chính quy mô lớn, ngân hàng, chứng khoán Thị trường

• Cách mạng trí tuệ nhân tạo:? ?

Về bản chất, cuộc cách mạng trí tuệ nhân tạo làm thay đổi vai trò của con người, vai trò này sẽ được tách rời khỏi việc "thực thi hiệu quả".

Để tránh mất quyền kiểm soát xu hướng này, chúng ta phải hiểu cách đảm bảo quản lý hiệu quả các công nghệ này và định hình lại vai trò của chúng ta với tư cách là người điều phối và quản lý AI, vai trò của tác giả .

Để xác định rõ hơn các vấn đề hiện tại, đây là một số câu hỏi kích thích tư duy đáng để bạn đầu tư thời gian:

1. Sở thích của con người có thể được phản ánh như thế nào khi hầu hết các hoạt động “thực thi” trí tuệ và thể chất đều được thực hiện bởi hệ thống trí tuệ nhân tạo?

2. Nếu vốn cung cấp chu trình tính toán cho trí tuệ nhân tạo, làm thế nào vốn có thể được điều phối trên toàn cầu để thể hiện giá trị tập thể chứ không phải một số ít Giá trị con người?

3. Việc quản trị toàn cầu đối với các hệ thống trí tuệ nhân tạo mạnh mẽ sẽ như thế nào? Mô-đun quản trị của nó nên được cập nhật như thế nào?

4. Những công nghệ nào có thể hỗ trợ quản trị trí tuệ nhân tạo phi tập trung và dân chủ thay vì kiểm soát tập trung và độc tài?

5. Cách tận dụng khả năng của AI mạnh mẽ trong việc phối hợp con người trên quy mô lớn, đặc biệt là đối với những người trong cơ cấu quyền lực hiện có Có ai không còn có lợi ích gì nữa?

Bài viết đề xuất Cơ quan có chủ quyền làm khuôn khổ để giải quyết những vấn đề này.

Đặc vụ có chủ quyền là một khuôn khổ cho sự phối hợp giữa con người và trí tuệ nhân tạo trên quy mô lớn. Ở đây, “chủ quyền” có nghĩa là tác nhân có thể đảm bảo việc thực thi tự chủ và có thể kiểm chứng được trong các tiêu chuẩn đã được thỏa thuận trước và các ranh giới được xác định. Do đó, “chủ quyền” không nên được hiểu là “ý chí tự do” mà chỉ giới hạn ở các lĩnh vực then chốt và được chỉ định trong cơ quan.

Khi niềm tin và quyền tự chủ phải cùng tồn tại, các tác nhân có chủ quyền sẽ cung cấp sự đảm bảo cần thiết để con người và AI cộng tác.

Khung tác nhân có chủ quyền cần có các đặc điểm sau:

1. Bảo đảm có thể xác minh tự động

2. Công cụ quản trị

">Các công cụ quản trị này có thể có nhiều dạng khác nhau:

• Các sở thích tổng hợp xác định hành vi trí tuệ nhân tạo theo cách dân chủ trực tiếp

• Cơ cấu quản trị tương tự như chính phủ liên bang, quản lý phi tập trung

• Cơ chế điều chỉnh mục tiêu theo các giá trị thay đổi

Để quản lý hệ thống này và vượt qua hệ thống phi tập trung toàn cầu (chỉ do con người quản lý) , nhóm hình dung AI có chủ quyền được đồng quản lý bởi AI cá nhân. Các AI cá nhân này được quản lý một cách cộng tác với các AI có chủ quyền bằng cách thể hiện sở thích rõ ràng của từng cá nhân, cho phép phối hợp và quản lý hiệu quả hơn.

p>

Hệ thống cung cấp các đảm bảo sẽ giúp sự phối hợp giữa con người và máy móc trở nên không đáng tin cậy nhằm“cân bằng mức độ tập trung hiện tại của khả năng trí tuệ nhân tạo và tài nguyên máy tính”.

Chỉ bằng cách này, một khuôn khổ mới cho quản trị phi tập trung trên quy mô toàn cầu mới xuất hiện.

Chúng tôi đang ở trên đỉnh của một trong những công nghệ thay đổi cuộc chơi quan trọng nhất trong lịch sử.

Điều quan trọng là phải hiểu điều này một cách chính xác và để làm được điều này, chúng ta phải đối mặt với một số thách thức:

• Vốn đóng vai trò gì khi con người không còn thực hiện nhiệm vụ nữa?

• Làm cách nào chúng tôi có thể đại diện cho sở thích của nhiều người, thay vì chỉ những người có số vốn lớn hoặc khả năng tiếp cận trí tuệ nhân tạo?

• Làm thế nào để triển khai quản trị các hệ thống trí tuệ nhân tạo mạnh mẽ trên quy mô toàn cầu?

Nếu chúng ta không giải quyết được những vấn đề này và xây dựng chuỗi giá trị toàn cầu thực sự, thì tiềm năng của AI sẽ bị giới hạn ở những người có thể đủ khả năng. Ai có đủ khả năng.

Quyền lực sẽ vô nghĩa nếu không có sự kiểm soát và chúng ta phải đảm bảo rằng lợi ích của AIđược tích hợp vào các cấu trúc chính trị và xã hội rộng lớn hơn để đảm bảo quyền tự chủ thực sự của con người và kiểm soát dân chủ”.