Tin tặc Triều Tiên biến ChatGPT thành vũ khí, làm giả thẻ căn cước quân nhân để đánh cắp dữ liệu từ các nhà báo và nhà hoạt động

Tin tặc có liên quan đến Triều Tiên khai thác AI để thực hiện cuộc tấn công lừa đảo tinh vi

Một nhóm gián điệp mạng do Triều Tiên hậu thuẫn, có tên là Kimsuky, được cho là đã lợi dụng ChatGPT để tạo ra một ID quân nhân Hàn Quốc giả, triển khai nó trong một chiến dịch lừa đảo có mục tiêu nhắm vào các nhà báo, nhà hoạt động nhân quyền và các nhà nghiên cứu quốc phòng.

Công ty an ninh mạng Hàn QuốcGenians được tiết lộ rằng những kẻ tấn công đã vượt qua các biện pháp bảo vệ của AI, tạo ra một bản thảo thuyết phục về ID quân nhân được sử dụng để tăng độ tin cậy cho các email chứa phần mềm độc hại.

Tổng quan về cách thức tấn công hoạt động (Nguồn:Genians )

AI đã trở thành công cụ gián điệp như thế nào

Thay vì bao gồm hình ảnh ID thực tế, các email này lại chứa nội dung ẩn được thiết kế để đánh cắp dữ liệu nhạy cảm từ thiết bị của người nhận.

Mun Chong-hyun, giám đốc Genians, cho biết,

“Kẻ tấn công có thể sử dụng AI để lập bản đồ các kịch bản, viết phần mềm độc hại và thậm chí giả làm người tuyển dụng.”

Chiến dịch này phù hợp với mô hình hoạt động mạng rộng hơn của Triều Tiên, tận dụng trí tuệ nhân tạo ở nhiều giai đoạn—từ lập kế hoạch và phát triển công cụ đến mạo danh và lừa đảo.

Đầu năm nay, công ty AI Anthropic đã phát hiện tin tặc Triều Tiên lợi dụng mô hình Claude Code của mình để xâm nhập vào các công ty nằm trong danh sách Fortune 500 của Hoa Kỳ.

Những kẻ tấn công được cho là đã sử dụng AI để tạo sơ yếu lý lịch hoàn chỉnh, vượt qua các cuộc phỏng vấn lập trình và thậm chí thực hiện các nhiệm vụ kỹ thuật sau khi được tuyển dụng.

Các hoạt động này cung cấp cho chế độ quyền truy cập trực tiếp vào hệ thống của công ty mà không vi phạm các biện pháp phòng thủ an ninh mạng thông thường.

Lừa nạn nhân bằng email quân sự giả mạo

Các email lừa đảo được thiết kế cẩn thận để trông như thể chúng xuất phát từ các tài khoản quân sự hợp pháp của Hàn Quốc, kết thúc bằng .mil.kr.

Một email lừa đảo được gửi từ một tên miền quân sự của Hàn Quốc. (Nguồn:Genians )

Mặc dù số lượng thiết bị bị xâm phạm chính xác vẫn chưa được biết, chiến dịch này cho thấy mức độ tinh vi ngày càng tăng của các cuộc tấn công mạng được hỗ trợ bởi AI.

Những nỗ lực của Genians nhằm sao chép kỹ thuật này cho thấy những sửa đổi nhỏ đối với lời nhắc ChatGPT có thể vượt qua các hạn chế về nội dung, tạo ra các mẫu có khả năng đánh lừa người nhận không nghi ngờ.

Những kẻ tấn công đã sử dụng công nghệ deepfake để tạo ra thẻ căn cước quân nhân Hàn Quốc giả bằng cách khai thác lỗ hổng cho phép các mô hình AI tạo ra bản sao của các tài liệu được bảo vệ. (Nguồn:Genians )

Mối đe dọa lâu dài ngày càng gia tăng

Kimsuky đã hoạt động từ năm 2012, chủ yếu nhắm vào các chuyên gia chính sách đối ngoại, các tổ chức nghiên cứu và cơ quan chính phủ ở Hàn Quốc, Nhật Bản và Hoa Kỳ.

Năm 2020, Bộ An ninh Nội địa Hoa Kỳ mô tả nhóm này "rất có thể được chế độ Triều Tiên giao nhiệm vụ thu thập thông tin tình báo toàn cầu".

Nguồn: SOCRadar

Chiến thuật điển hình của chúng bao gồm gửi email lừa đảo để trích xuất thông tin nhạy cảm, theo dõi các cuộc thảo luận về chiến lược hạt nhân, lệnh trừng phạt và an ninh khu vực, cũng như hiểu rõ hơn về quá trình ra quyết định ở cấp cao.

Chính quyền kêu gọi tăng cường cảnh giác

Chính quyền Hoa Kỳ và Hàn Quốc đã cảnh báo rằng các hoạt động mạng được hỗ trợ bởi AI đang leo thang.

Các cơ quan bao gồm CISA, FBI và CNMF đã kêu gọi những cá nhân trong các lĩnh vực nhạy cảm liên quan đến Triều Tiên tăng cường các biện pháp an ninh, chẳng hạn như cho phép xác thực đa yếu tố, tăng cường đào tạo nhận thức về lừa đảo và triển khai bộ lọc email mạnh hơn.

Các quan chức Mỹ lưu ý rằng việc Triều Tiên sử dụng các cuộc tấn công mạng, trộm tiền điện tử và hợp đồng CNTT ngầm là một phần của chiến lược rộng hơn nhằm lách lệnh trừng phạt, thu thập thông tin tình báo và tài trợ cho chương trình vũ khí hạt nhân của nước này.

Các công ty đã sẵn sàng đối mặt với các mối đe dọa từ AI chưa?

Coinlive coi sự gia tăng của các cuộc tấn công sử dụng AI là mối quan ngại cấp bách đối với cả doanh nghiệp và cá nhân.

Khả năng những kẻ xấu thao túng các công cụ như ChatGPT hoặc Claude để tạo ra danh tính, vượt qua các đánh giá chuyên môn hoặc triển khai phần mềm độc hại làm nổi bật một khía cạnh rủi ro mới.

Khi AI ngày càng được tích hợp nhiều hơn vào quy trình làm việc hàng ngày, ranh giới giữa hoạt động kỹ thuật số hợp pháp và lừa đảo tinh vi trở nên mờ nhạt, khiến các công ty dễ bị tấn công bởi các âm mưu lợi dụng lòng tin và tự động hóa.

Các tổ chức phải xem xét lại không chỉ cơ sở hạ tầng an ninh mạng mà còn cả cách thức mà việc phụ thuộc vào AI có thể vô tình mở ra cánh cửa cho gian lận, gián điệp và xâm nhập hệ thống.