Hình ảnh: MLYearning
Đại học Northwestern gần đây đã tiết lộ một lỗ hổng nghiêm trọng trong Máy biến áp được đào tạo trước sáng tạo (GPT) tùy chỉnh.
Bất chấp tính linh hoạt và khả năng thích ứng của chúng, các chatbot AI tiên tiến này dễ bị tấn công tiêm nhiễm ngay lập tức, có nguy cơ làm lộ thông tin nhạy cảm.
GPT tùy chỉnh, được phát triển bằng ChatGPT của OpenAI và Mô hình ngôn ngữ lớn GPT-4 Turbo, kết hợp các yếu tố độc đáo như lời nhắc, bộ dữ liệu và hướng dẫn xử lý cụ thể cho các tác vụ chuyên biệt.
Hình ảnh: Giải mã
Tuy nhiên, những tùy chỉnh này và mọi dữ liệu bí mật được sử dụng trong quá trình tạo chúng đều có thể dễ dàng bị truy cập trái phép bởi các bên trái phép.
Một thử nghiệm của Decrypt đã chứng minh sự dễ dàng trong việc trích xuất dữ liệu bí mật và đầy đủ thông tin nhanh chóng và kịp thời của GPT tùy chỉnh thông qua việc hack nhanh chóng cơ bản.
Khi thử nghiệm hơn 200 GPT tùy chỉnh, các nhà nghiên cứu nhận thấy khả năng xảy ra những vi phạm như vậy là rất cao, bao gồm cả khả năng trích xuất các lời nhắc ban đầu và quyền truy cập vào các tệp riêng tư.
Nghiên cứu nhấn mạnh hai rủi ro lớn: quyền sở hữu trí tuệ bị xâm phạm và quyền riêng tư của người dùng bị xâm phạm.
Những kẻ tấn công có thể khai thác GPT để trích xuất cấu hình cốt lõi và lời nhắc ("trích xuất lời nhắc hệ thống") hoặc rò rỉ tập dữ liệu đào tạo bí mật ("rò rỉ tệp").
Các biện pháp phòng thủ hiện tại như lời nhắc phòng thủ tỏ ra không hiệu quả trước những lời nhắc nhở phức tạp hơn của đối thủ.
Các nhà nghiên cứu lập luận về một cách tiếp cận toàn diện hơn để bảo vệ các mô hình AI này, nhấn mạnh rằng những kẻ tấn công quyết tâm có thể khai thác các lỗ hổng hiện tại.
Nghiên cứu kêu gọi cộng đồng AI phát triển các biện pháp bảo mật mạnh mẽ hơn, cho thấy rằng các lời nhắc phòng thủ đơn giản là không đủ để chống lại các kỹ thuật khai thác tiên tiến như vậy.
Với việc tùy chỉnh GPT ngày càng tăng mang lại tiềm năng to lớn, nghiên cứu này đóng vai trò như một lời nhắc nhở quan trọng về các rủi ro bảo mật liên quan.
Người dùng nên thận trọng, đặc biệt là với dữ liệu nhạy cảm, nhấn mạnh sự cần thiết phải tăng cường bảo mật AI mà không ảnh hưởng đến quyền riêng tư và an toàn của người dùng.
Nghiên cứu hoàn chỉnh của Đại học Northwestern có sẵn để đọcđây .
OpenAI tăng cường nỗ lực với phiên bản kế nhiệm GPT-4, tập trung vào sự an toàn. Trong bối cảnh bị giám sát và chỉ trích về mặt đạo đức, một ủy ban an toàn và an ninh được thành lập để giải quyết các mối lo ngại và đảm bảo sự phát triển AI có trách nhiệm.
Huang BoOpenAI đã làm cho ChatGPT có thể truy cập được mà không cần đăng ký, nhằm mục đích dân chủ hóa quyền truy cập vào AI. Trong khi tăng cường khả năng tiếp cận, công ty vẫn đảm bảo an toàn cho người dùng thông qua các biện pháp bảo vệ nội dung bổ sung. Mặc dù phải đối mặt với những thách thức như tăng trưởng chậm lại và tranh chấp pháp lý, động thái này phản ánh xu hướng dân chủ hóa các công nghệ biến đổi rộng lớn hơn. Tuy nhiên, vẫn còn những điều không chắc chắn về phương hướng và khả năng lạm dụng của AI, làm dấy lên lo ngại về sự sai lệch so với các nhiệm vụ ban đầu.
SanyaKể từ khi OpenAI ra mắt GPT Store vào tháng 11 năm ngoái, hàng triệu GPT đã xuất hiện cho nhiều mục đích khác nhau như văn phòng, giáo dục, cuộc sống, giải trí… GPT đang trở thành trợ thủ đắc lực cho nhiều người xử lý công việc, tối ưu hóa kỹ năng viết và tìm cảm hứng sáng tạo.
JinseFinanceCửa hàng OpenAI GPT phải đối mặt với những rào cản trước khi ra mắt với việc sao chép ứng dụng trái phép, gây lo ngại về bảo vệ quyền sở hữu trí tuệ và quản trị nền tảng, gây ra sự không chắc chắn cho các nhà phát triển đang chờ hướng dẫn.
Xu LinTrong lĩnh vực công nghệ AI đang phát triển, WeHead mạnh dạn giới thiệu Phiên bản WeHead GPT, có mức giá đáng kinh ngạc là 5.000 USD. Trợ lý AI này nổi bật bằng cách cung cấp khuôn mặt thực tế để người dùng tương tác, khơi dậy những cuộc thảo luận hấp dẫn về tương lai của tình bạn đồng hành với AI và tính thực tiễn của công nghệ nhân bản hóa.
Xu LinJinseFinanceJinseFinanceJinseFinanceBản phát hành mới nhất thay đổi các tương tác AI bằng cách mở rộng cơ sở kiến thức đến tháng 4 năm 2023 và giới thiệu hỗ trợ cho các tài liệu 300 trang.
JixuJinseFinance