Làm thế nào để xác định gian lận AI? Công ty Israel này có thể trở thành một con kỳ lân mới

Nguồn: Heart of the Metaverse

Gần đây, công ty khởi nghiệp an ninh mạng Clarity của Israel đã huy động được 100 triệu nhân dân tệ để chống lại nạn giả mạo sâu. Làm thế nào mà công ty này giành được sự ưu ái của các chuyên gia hàng đầu trong nhiều ngành khác nhau?

Tốc độ phát triển của trí tuệ nhân tạo (AI) thực sự đáng kinh ngạc!

Ngay trong Lễ hội mùa xuân, mô hình Sora đã ra mắt, có thể tạo video độ phân giải cao 60 giây, hiệu ứng chân thực thậm chí còn vượt qua các công cụ tạo video trước đây như Runway và Pika. Và mới đêm qua, Google đã mở mã nguồn của mô hình lớn Gemma, có thể dễ dàng chạy trên máy tính xách tay. Điều này có nghĩa là người bình thường giờ đây có thể dễ dàng tiếp cận công nghệ AI.

Tuy nhiên, sự thay đổi nhanh chóng của công nghệ cũng khiến nhiều người lo sợ về "sự giả mạo sâu sắc". Hình ảnh và video do AI tạo ra đủ để gây nhầm lẫn cho mắt thường, khiến khó có thể phân biệt được chúng là thật hay giả.

Ngay từ cuối tháng 1, ca sĩ nhạc pop người Mỹ "Taylor Swift" đã gây náo động vì sự cố "ảnh không đứng đắn" của AI, thậm chí còn thu hút sự chú ý của Nhà Trắng. Hơn nữa, một công ty đa quốc gia ở Hồng Kông đã chịu thiệt hại nặng nề lên tới 180 triệu nhân dân tệ sau khi một nhóm lừa đảo AI giả mạo việc tham gia các cuộc họp của các giám đốc điều hành.

Để giảm bớt mối lo ngại của các cá nhân và doanh nghiệp về bảo mật AI, Clarity, một công ty khởi nghiệp về bảo mật mạng AI, đã ra đời. Với các thuật toán độc quyền được cấp bằng sáng chế và công nghệ tiên tiến, Clarity có thể xác định chính xác và chống lại các hành vi giả mạo sâu sắc, đảm bảo tính xác thực và độ tin cậy của thông tin trực tuyến.

Clarity không chỉ nhằm mục đích giúp nhiều người hơn nữa tránh trở thành "nạn nhân" của việc lạm dụng công nghệ AI mà còn hy vọng sẽ tiếp thêm sức sống mới cho sự phát triển lành mạnh của toàn ngành.

01.1 Phút Tổng quan về dự án

1. Tên dự án: Clarity

2. Ngày thành lập< /strong>: 2022

3. Giới thiệu sản phẩm:

Clarity là nền tảng phát hiện AI để chống lại hàng giả sâu. Bằng cách sử dụng các thuật toán đã được cấp bằng sáng chế, Clarity phát hiện chính xác hành vi giả mạo trong video, hình ảnh và âm thanh, đồng thời đảm bảo tính xác thực của nội dung thông qua hình mờ được mã hóa. Bằng cách tích hợp các giải pháp của Clarity, các tổ chức có thể tăng cường khả năng phòng vệ trước hành vi lừa đảo kỹ thuật số để bảo vệ toàn diện nội dung và tài sản.

4. Nhóm sáng lập:

Michael Matias

học AI tại Đại học Stanford và từng là người đứng đầu “8200 Intelligence” của Israel Unit” ” chính thức và là nhà đầu tư thiên thần của hơn 70 công ty khởi nghiệp công nghệ sâu.

Natalie Fridman

Tiến sĩ Khoa học Máy tính, Giảng viên Khoa học Máy tính tại Đại học Bar-Ilan.

Gil Avriel

Tốt nghiệp Trường Harvard Kennedy và Trường Luật Georgetown (hạng nhất), ông từng giữ chức vụ giám đốc cấp cao của Hội đồng An ninh Quốc gia tại Văn phòng Thủ tướng Chính phủ. Israel (14 tuổi).

5. Tình hình tài chính:

Vào tháng 2 năm 2024, Clarity đã nhận được khoản đầu tư ban đầu trị giá 16 triệu USD do Walden Catalyst Ventures và Bessemer Venture Partners dẫn đầu.

02. Một nhóm anh hùng tập hợp lại để tấn công deepfake

Với sự phát triển của công nghệ AI, deepfake cũng theo sau.

Một cuộc khảo sát gần đây của Pew Research cho thấy 66% người Mỹ cho biết họ gặp phải nội dung giả mạo hoặc bịa đặt hoàn toàn "ít nhất là đôi khi"; 63% cho biết hình ảnh bịa đặt hoặc bị thay đổi hoặc video có thể dẫn đến "sự nhầm lẫn về nhận thức" về sự kiện hiện tại.

Một cuộc thăm dò khác của Associated Press và Đại học Chicago cho thấy 58% người lớn tin rằng các công cụ AI sẽ dẫn đến thông tin sai lệch về bầu cử. Ước tính đến năm 2026, 90% nội dung trực tuyến sẽ được tạo ra bởi AI.

Hạn chót Các công cụ cần thiết để tạo deepfake ngày càng trở nên sẵn có và rẻ hơn, đồng thời các bức ảnh và video giả mạo hiện đang tràn ngập. Trong kỷ nguyên nội dung do AI tạo ra, tính xác thực và độ tin cậy của tin tức đã bị thách thức rất nhiều.

Nhanh chóng xác định và loại bỏ “vi rút”

Công ty khởi nghiệp an ninh mạng Clarity gần đây đã huy động được 16 triệu USD (tương đương với RMB (khoảng 115 triệu USD) nhân dân tệ) của các quỹ đầu tư mạo hiểm để chống lại sự giả mạo sâu sắc. Công ty có trụ sở tại New York sử dụng AI để xác định các mô hình phổ biến trong việc tạo ra các tác phẩm sâu, cho phép các doanh nghiệp nhanh chóng xác định và bảo vệ khỏi nội dung sai lệch.

Mặc dù Clarity tận dụng công nghệ AI làm cốt lõi nhưng thực chất đây vẫn là một công ty an ninh mạng.

Giống như các nhà cung cấp dịch vụ an ninh mạng khác, Clarity cung cấp các công cụ quét thông qua các ứng dụng và giao diện tận dụng nhiều mô hình AI được đào tạo để xác định các mẫu trong video, hình ảnh và kỹ thuật tạo sâu âm thanh. Ngoài ra, Clarity cũng cung cấp một dạng hình mờ mà khách hàng có thể sử dụng để biểu thị rằng nội dung của họ là hợp pháp.

Thảo luận Khi nói đến sự khác biệt giữa Clarity và các đối thủ cạnh tranh, Giám đốc điều hành của Clarity, Michael Matias, cho rằng các yếu tố khác biệt không nằm ở bề ngoài mà ẩn sâu trong cốt lõi của sản phẩm, tức là phản ứng nhanh chóng của Clarity đối với các loại hình sản phẩm sâu mới. giả mạo.

Clarity coi deepfake là “vi-rút” có thể phân nhánh và nhân lên nhanh chóng, vì vậy, các giải pháp của nó cũng được xây dựng để phân nhánh và sao chép, nhằm duy trì giới tính thích ứng và độ đàn hồi. Đội ngũ công ty cũng đã đặc biệt thiết lập cơ sở hạ tầng và mô hình AI tương ứng để đáp ứng hoàn hảo yêu cầu này.

Nhiều tên tuổi lớn hội tụ về đây

Mặc dù Clarity hiện chỉ có 13 nhân viên nhưng đội ngũ sáng lập công ty có trình độ rất vững vàng.

• CEO: Michael Matias

Matias làm việc tại Israel "8200 Đơn vị Tình báo" từng là sĩ quan hạng nhất và đã thành lập hai đội AI từng đoạt Giải thưởng Quốc phòng. Sau đó, Matias nghiên cứu AI tại Đại học Stanford và lãnh đạo nhóm AI tại Bảo hiểm Hippo. Ông là nhà đầu tư thiên thần của hơn 70 công ty khởi nghiệp công nghệ sâu và là thành viên nhóm đầu tư của một số công ty đầu tư mạo hiểm.

• Giám đốc công nghệ: Natalie Fridman

Fridman làm việc trong lĩnh vực AI và Hơn 10 năm kinh nghiệm quản lý trong lĩnh vực nghiên cứuChuyên về trí tuệ tập thể, học sâu và mô hình tác nhân tự trị. Fridman là phó chủ tịch cấp cao về R&D tại ImageSat International (từ khi thành lập đến khi niêm yết) và có bằng Tiến sĩ về AI và trí tuệ tập thể. Cô đã xuất bản hơn 25 bài báo, là giảng viên chính về khoa học máy tính tại Đại học Bar-Ilan và nắm giữ nhiều bằng sáng chế về thuật toán AI.

• Giám đốc chiến lược và Giám đốc điều hành: Gil Avriel

Avriel tốt nghiệp Trường Harvard Kennedy và Học viện Luật Georgetown ( Vị trí số 1),Từng giữ chức vụ giám đốc cấp cao (14 năm) tại Hội đồng An ninh Quốc gia, Văn phòng Thủ tướng Israel. Trong thời gian làm cố vấn pháp lý cho Hội đồng An ninh Quốc gia, ông đã tư vấn cho 8 cố vấn an ninh quốc gia và 4 thủ tướng về các vấn đề chiến lược an ninh quốc gia.

Ngoài đội ngũ sáng lập xuất sắc, các thành viên ban cố vấn của Clarity còn là những chuyên gia hàng đầu từ nhiều ngành khác nhau, bao gồm Larry Diamond, giáo sư về dân chủ tại Đại học Stanford, Irwin Cotler, cựu Bộ trưởng Bộ Quốc phòng Canada và cựu Phó Chủ tịch Nghiên cứu của Google Alfred Spector et al.

03. Nhiều ngành công nghiệp hợp lực để xóa "sương mù" hàng giả

Các mô hình AI được cập nhật liên tục và công nghệ deepfake cũng được cải tiến hơn nữa.< mạnh>Điều này Sự tinh vi của các công nghệ gần như đã khiến việc phân biệt giữa sự thật và bịa đặt trở nên khó khăn.

“Cuộc sống số của chúng ta đang bị tấn công bạo lực, khi mọi người nói những điều họ chưa bao giờ nói và làm những điều họ chưa bao giờ làm.” Michael Matias, đồng sáng lập và Giám đốc điều hành của Clarity cho biết trong một tuyên bố.

Một năm trước, hầu hết tin tức về "lừa đảo AI" hầu như đến từ các phòng thí nghiệm nghiên cứu của trường đại học; một năm sau, vấn đề về gian lận AI đã tràn ngập cuộc sống của chúng ta.

Chỉ trong một năm, một số lượng lớn các mô hình nhân bản hình ảnh, video và giọng nói của Vincent đã xuất hiện. Ví dụ, trong tháng này ElevenLabs đã công bố ra mắt mô hình hiệu ứng âm thanh cho Sora, có thể tự động lồng tiếng cho video.

Những ứng dụng AI này vô tình “giúp” các tác nhân độc hại nhanh chóng tạo ra nội dung deepfake bằng các công cụ phổ biến và miễn phí.

" Với việc nhân bản giọng nói và các trò lừa đảo AI khác ngày càng gia tăng, điều quan trọng hơn bao giờ hết là bảo vệ người Mỹ khỏi hành vi lừa đảo mạo danh”, Chủ tịch FTC Lina M. Khan cho biết trong một tuyên bố.

Để lấp đầy khoảng trống trong ngành này, các công ty khởi nghiệp phát hiện deepfake đang nổi lên và phát triển, thu hút lượng lớn vốn đầu tư mạo hiểm.

Nhiều công ty phát hiện deepfake hiện đang cạnh tranh để phát triển các công cụ phát hiện deepfake. Ngoài Clarity, điều này còn bao gồm công cụ trình duyệt AI Reality Defender và Sentinel, một công ty chuyên về hình ảnh và video deepfake.

Reality Defender chủ yếu cung cấp một nền tảng giúp phát hiện hành vi giả mạo sâu văn bản, video và hình ảnh, nền tảng này có thể xác minh xem nội dung trên mạng xã hội có phải do AI tạo ra hay được sửa đổi theo cách nào đó hay không. Ngoài ra, công ty đã nhận được 15 triệu USD trong vòng tài trợ Series A do DCVC dẫn đầu vào tháng 10 năm ngoái, số tiền này sẽ được sử dụng để mở rộng đội ngũ và cải thiện mô hình phát hiện nội dung AI của mình.

Trạm Nhiều nhà đầu tư khá lạc quan về Clarity khi giải quyết vấn đề giả mạo sâu của AI. Chris Marlin, cựu giám đốc chiến lược của CNN và là một nhà đầu tư thiên thần, cho biết: "Sự phổ biến của nội dung tổng hợp do AI tạo ra và các tác phẩm giả mạo sâu có khả năng tạo ra sự nghi ngờ lớn hơn của cử tri."

Cuối tháng 1, vấn đề gian lận AI nảy sinh trong cuộc bầu cử tổng thống Mỹ, có người đã sử dụng AI mạo danh Biden để kêu gọi cử tri và ảnh hưởng đến cuộc thảo luận bầu cử. Ngoài ra, các cuộc bầu cử ở các bang khác của Mỹ cũng bị gián đoạn do sự giả mạo của AI.

Clarity sẽ cam kết giải quyết những vấn đề này. Như Chris Marlin đã nhấn mạnh, "Công nghệ của Clarity sẽ xóa tan sương mù của sự không chắc chắn và cung cấp thông tin rõ ràng hơn cho cử tri và các nhà lãnh đạo chính trị."

Xã hội học của Đại học Stanford và Larry Diamond, giáo sư chính trị Science cũng cho biết: “Chúng tôi rất vui mừng được hợp tác với Clarity và cung cấp một nền tảng đáng tin cậy và có thể mở rộng mà bất kỳ tổ chức nào cũng có thể sử dụng để xác minh tin tức nhạy cảm, ngăn chặn gian lận và xây dựng một môi trường AI an toàn. .

< strong>04. Sự rõ ràng có sứ mệnh phát triển lâu dài

Trong môi trường bị AI thống trị, các yêu cầu về quy định và luật pháp không thể được thực hiện trong thời gian ngắn. ,Nhanh chóng xác định và giải quyết vấn đề deep fake là giải pháp tốt ở thời điểm hiện tại.

Như Giám đốc điều hành của Clarity, Matias đã nói, "Đây là một cuộc chạy đua vũ trang có nhịp độ nhanh và bất kỳ công ty nào muốn giải quyết vấn đề về deepfake đều cần phải giống như những người tạo ra và phân phối Tốc độ phát triển của các công ty deepfake cũng nhanh như vậy."

Hiện tại, Clarity đang làm việc với chính phủ Israel và một số tổ chức tin tức lớn. Khoản tài trợ mới nhất này sẽ thúc đẩy các kế hoạch mở rộng của Clarity và cho phép công ty tăng cường tuyển dụng. phát triển công nghệ của mình và thiết lập sự hiện diện mạnh mẽ hơn tại thị trường Hoa Kỳ.