Liên minh toàn cầu nâng cao an ninh mạng

Một liên minh gồm các quốc gia, bao gồm Hoa Kỳ, Vương quốc Anh, Úc và 15 quốc gia khác, đã ban hành các hướng dẫn sâu rộng để tăng cường các mô hình AI chống giả mạo.

Nhấn mạnh vào nguyên tắc "an toàn theo thiết kế" Tiếp cậntài liệu 20 trang của liên minh, được công bố vào ngày 26 tháng 11 , giải quyết nhu cầu cấp thiết phải nâng cao an ninh mạng như mối quan tâm hàng đầu trong ngành AI đang phát triển nhanh chóng.

Nỗ lực chung này khẳng định lại sự đồng thuận của các quốc gia. sứ mệnh bảo vệ cơ sở hạ tầng quan trọng và củng cố tầm quan trọng của quan hệ đối tác quốc tế trong việc đảm bảo tương lai kỹ thuật số.

Cơ quan An ninh mạng và Cơ sở hạ tầng (CISA), Giám đốc Jen Easterly, cho biết:

"Việc ban hành Hướng dẫn phát triển hệ thống AI an toàn đánh dấu một cột mốc quan trọng trong cam kết chung của chúng tôi—của các chính phủ trên toàn thế giới—nhằm đảm bảo sự phát triển và triển khai các khả năng trí tuệ nhân tạo được bảo mật theo thiết kế. Khi các quốc gia và tổ chức nắm bắt sức mạnh biến đổi của AI, sự hợp tác quốc tế này, do CISA và NCSC dẫn đầu, nhấn mạnh sự cống hiến toàn cầu trong việc thúc đẩy tính minh bạch, trách nhiệm giải trình và các biện pháp an toàn. Sự thống nhất trong nước và quốc tế trong việc thúc đẩy các nguyên tắc thiết kế an toàn và xây dựng nền tảng vững chắc cho sự phát triển an toàn của các hệ thống AI trên toàn thế giới không thể đến vào thời điểm quan trọng hơn trong cuộc cách mạng công nghệ chung của chúng ta.”

Hướng dẫn về An ninh Thực tế

Các hướng dẫn này đưa ra các khuyến nghị thực tế, thúc đẩy kiểm soát chặt chẽ cơ sở hạ tầng mô hình AI, giám sát liên tục để phát hiện các hành vi giả mạo tiềm ẩn và tăng cường đào tạo về an ninh mạng cho nhân viên.

Đáng chú ý là sự vắng mặt của các hướng dẫn này là các cuộc thảo luận về các vấn đề AI gây tranh cãi, chẳng hạn như kiểm soát các mô hình tạo hình ảnh, giả mạo sâu và các phương pháp thu thập dữ liệu được sử dụng trong đào tạo mô hình.

Liên minh nhận ra những thách thức nhiều mặt do AI đặt ra và tầm quan trọng của việc đảm bảo an ninh mà không cản trở sự đổi mới.

Liên kết an toàn AI toàn cầu

CHÚNG TA. Bộ trưởng An ninh Nội địa Alexander Mayorkas nhấn mạnh vai trò của an ninh mạng trong việc xây dựng hệ thống AI:

"Chúng ta đang ở thời điểm bước ngoặt trong quá trình phát triển trí tuệ nhân tạo, đây có thể là công nghệ mang lại nhiều kết quả nhất trong thời đại chúng ta. An ninh mạng là chìa khóa để xây dựng các hệ thống AI an toàn, bảo mật và đáng tin cậy.”

Những hướng dẫn này phù hợp với những nỗ lực gần đây của chính phủ nhằm giải quyết vấn đề an toàn AI, bao gồm Hội nghị thượng đỉnh về an toàn AI ở London và sự phát triển liên tục của Đạo luật AI của Liên minh Châu Âu.

TRONGTháng 10, Tổng thống Mỹ Joe Biden ban hành lệnh hành pháp thiết lập các tiêu chuẩn về an toàn và bảo mật AI , làm dấy lên những cuộc tranh luận trong ngành về tác động tiềm tàng đối với sự đổi mới.

Liên minh toàn cầu bao gồm Canada, Pháp, Đức, Israel, Ý, Nhật Bản, New Zealand, Nigeria, Na Uy, Hàn Quốc và Singapore.

Các công ty AI hàng đầu, bao gồm OpenAI, Microsoft, Google, Anthropic và Scal AI, đã đóng góp tích cực vào việc định hình các hướng dẫn này.

Họ nhấn mạnh sự hợp tác giữa chính phủ và các bên trong ngành trong việc đảm bảo sự phát triển và triển khai có trách nhiệm các công nghệ AI.