كيفية التعرف على الاحتيال بالذكاء الاصطناعي؟ يمكن لهذه الشركة الإسرائيلية أن تصبح وحيد القرن الجديد

المصدر: Heart of the Metaverse

في الآونة الأخيرة، جمعت شركة Clarity الإسرائيلية الناشئة للأمن السيبراني 100 مليون يوان لمكافحة التزييف العميق. كيف حازت على استحسان كبار الخبراء في مختلف الصناعات؟

إن سرعة تطوير الذكاء الاصطناعي (AI) مذهلة حقًا!

فقط خلال عيد الربيع، ظهر نموذج Sora، الذي يمكنه إنشاء مقاطع فيديو عالية الوضوح مدتها 60 ثانية، بل إن التأثير الواقعي يفوق أدوات إنشاء الفيديو السابقة مثل Runway وPika. وفي الليلة الماضية فقط، قامت Google بفتح نموذج Gemma الكبير، والذي يمكن تشغيله بسهولة على جهاز كمبيوتر محمول. وهذا يعني أنه يمكن للأشخاص العاديين الآن الوصول بسهولة إلى تكنولوجيا الذكاء الاصطناعي.

ومع ذلك، فإن التغيرات السريعة في التكنولوجيا تسببت أيضًا في إصابة المزيد من الناس بالذعر بشأن "التزوير العميق". إن الصور ومقاطع الفيديو التي يتم إنشاؤها بواسطة الذكاء الاصطناعي كافية لإرباك العين المجردة، مما يجعل من الصعب معرفة ما إذا كانت حقيقية أم مزيفة.

في نهاية شهر يناير الماضي، أثارت مغنية البوب ​​الأمريكية "تايلور سويفت" ضجة بسبب حادثة "الصور الفاضحة" التي نفذها الذكاء الاصطناعي، بل وجذبت انتباه البيت الأبيض. علاوة على ذلك، تكبدت شركة متعددة الجنسيات في هونج كونج خسائر فادحة بلغت 180 مليون يوان بعد أن قامت عصابة احتيال تعمل بالذكاء الاصطناعي بتزييف مشاركة مديريها التنفيذيين في الاجتماعات.

من أجل التخفيف من مخاوف الأفراد والمؤسسات بشأن أمن الذكاء الاصطناعي، ظهرت شركة Clarity، وهي شركة ناشئة لأمن شبكات الذكاء الاصطناعي، إلى حيز الوجود. بفضل الخوارزميات الفريدة الحاصلة على براءة اختراع والتكنولوجيا المتطورة، يمكن لـ Clarity التعرف بدقة على التزييف العميق ومكافحته، مما يضمن صحة ومصداقية المعلومات عبر الإنترنت.

لا تهدف شركة Clarity إلى مساعدة المزيد من الأشخاص على تجنب الوقوع في "ضحايا" إساءة استخدام تكنولوجيا الذكاء الاصطناعي فحسب، بل تأمل أيضًا في ضخ حيوية جديدة في التنمية الصحية للصناعة بأكملها.

01.1 نظرة عامة دقيقة على المشروع

1. اسم المشروع: الوضوح

2. تاريخ الإنشاء< /strong>: 2022

3. مقدمة عن المنتج:

Clarity عبارة عن منصة كشف تعمل بالذكاء الاصطناعي لمكافحة التزييف العميق. باستخدام الخوارزميات الحاصلة على براءة اختراع، يكتشف Clarity بدقة التلاعب في مقاطع الفيديو والصور والصوت ويضمن صحة المحتوى من خلال العلامات المائية المشفرة. ومن خلال دمج حلول Clarity، يمكن للمؤسسات تعزيز دفاعاتها ضد الخداع الرقمي لتوفير الحماية الكاملة للمحتوى والأصول.

4. الفريق المؤسس:

مايكل ماتياس

درس الذكاء الاصطناعي في جامعة ستانفورد وعمل رئيسًا لـ "8200 استخبارات" إسرائيلية مسؤول "وحدة" ومستثمر ملاك في أكثر من 70 شركة ناشئة في مجال التكنولوجيا العميقة.

ناتالي فريدمان

دكتوراه في علوم الكمبيوتر، محاضرة في علوم الكمبيوتر في جامعة بار إيلان.

جيل أفريل

تخرج من كلية هارفارد كينيدي وكلية الحقوق بجامعة جورج تاون (من الدرجة الأولى)، وعمل كمدير أول في مجلس الأمن القومي في مكتب رئيس وزراء الولايات المتحدة. إسرائيل (14 سنة).

5. وضع التمويل:

في فبراير 2024، تلقت Clarity استثمارًا أوليًا بقيمة 16 مليون دولار بقيادة Walden Catalyst Ventures وBessemer Venture Partners.

02. اجتمعت مجموعة من الأبطال لمهاجمة التزييف العميق

مع تطور تكنولوجيا الذكاء الاصطناعي، تبعت التزييف العميق أيضًا.

وجد استطلاع أجرته مؤسسة Pew Research مؤخرًا أن 66% من الأمريكيين قالوا إنهم يواجهون محتوى ملفقًا أو ملفقًا بالكامل "في بعض الأحيان على الأقل"؛ وقال 63% إن الصور الملفقة أو المعدلة أو الفيديو قد يؤدي إلى "ارتباك معرفي" حول الاحداث الحالية.

أظهر استطلاع آخر أجرته وكالة أسوشيتد برس وجامعة شيكاغو أن 58% من البالغين يعتقدون أن أدوات الذكاء الاصطناعي ستؤدي إلى تضليل الانتخابات. من المقدر أنه بحلول عام 2026، سيتم إنشاء 90% من المحتوى عبر الإنترنت بواسطة الذكاء الاصطناعي.

مستحق أصبحت الأدوات اللازمة لإنشاء التزييف العميق متاحة بشكل متزايد وأرخص، وتتدفق الصور ومقاطع الفيديو المزيفة الآن. في عصر المحتوى الذي ينتجه الذكاء الاصطناعي، تواجه صحة الأخبار ومصداقيتها تحديات كبيرة.

تحديد "الفيروسات" والقضاء عليها بسرعة

جمعت شركة Clarity الناشئة للأمن السيبراني مؤخرًا 16 مليون دولار أمريكي (أي ما يعادل 115 مليون يوان صيني (حوالي 115 مليون دولار أمريكي يوان) من صناديق رأس المال الاستثماري لمحاربة التزوير العميق. وتستخدم الشركة التي يقع مقرها في نيويورك الذكاء الاصطناعي لتحديد الأنماط الشائعة في إنشاء المحتوى المزيف العميق، مما يسمح للشركات بالتعرف بسرعة على المحتوى الزائف والحماية منه.

على الرغم من أن Clarity تستفيد من تقنية الذكاء الاصطناعي في جوهرها، إلا أنها لا تزال شركة للأمن السيبراني في جوهرها.

مثل موردي الأمن السيبراني الآخرين، تقدم Clarity أدوات المسح من خلال التطبيقات وواجهاتها التي تستفيد من نماذج الذكاء الاصطناعي المتعددة المدربة لتحديد الأنماط في مقاطع الفيديو والصور وتقنيات إنشاء الصوت العميق. بالإضافة إلى ذلك، تقدم Clarity أيضًا شكلاً من أشكال العلامة المائية التي يمكن للعملاء استخدامها للإشارة إلى أن المحتوى الخاص بهم قانوني.

نقاش عندما يتعلق الأمر بالاختلافات بين Clarity ومنافسيها، قال مايكل ماتياس، الرئيس التنفيذي لشركة Clarity، إن عوامل التمييز ليست ظاهرية على السطح، ولكنها مخفية في جوهر المنتج، أي استجابة Clarity السريعة للتزييف العميق الجديد< /قوي>.

تعامل شركة Clarity مع التزييف العميق على أنه "فيروسات" يمكنها الانقسام والتكاثر بسرعة، لذا فإن حلولها مصممة للتشعب والتكرار أيضًا، للحفاظ على مرونة الجنس وقابليته للتكيف. قام فريق الشركة أيضًا بإنشاء البنية التحتية المقابلة ونماذج الذكاء الاصطناعي خصيصًا لتلبية هذا المطلب بشكل مثالي.

تجتمع هنا العديد من الأسماء الكبيرة

على الرغم من أن شركة Clarity تضم حاليًا 13 موظفًا فقط، إلا أن الفريق المؤسس للشركة يتمتع بمؤهلات قوية جدًا.

• الرئيس التنفيذي: مايكل ماتياس

عمل ماتياس في إسرائيل "8200" عملت "وحدة الاستخبارات" كضابط من المستوى الأول وأنشأت فريقي ذكاء اصطناعي حائزين على جائزة الدفاع الوطني. بعد ذلك، درس ماتياس الذكاء الاصطناعي في جامعة ستانفورد وقاد فريق الذكاء الاصطناعي في شركة هيبو للتأمين. وهو مستثمر ملاك في أكثر من 70 شركة ناشئة في مجال التكنولوجيا العميقة وكان عضوًا في فريق الاستثمار في العديد من شركات رأس المال الاستثماري.

• الرئيس التنفيذي للتكنولوجيا: ناتالي فريدمان

فريدمان يعمل في مجال الذكاء الاصطناعي وأكثر من 10 سنوات من الخبرة الإدارية في مجال البحث متخصص في الذكاء الجماعي والتعلم العميق ونمذجة الوكيل المستقل. شغل فريدمان منصب نائب الرئيس الأول للبحث والتطوير في شركة ImageSat International (من البداية إلى الإدراج) ويحمل درجة الدكتوراه في الذكاء الاصطناعي والذكاء الجماعي. لقد نشرت أكثر من 25 بحثًا، وكانت محاضرة رئيسية في علوم الكمبيوتر في جامعة بار إيلان، وتحمل العديد من براءات اختراع خوارزميات الذكاء الاصطناعي.

• الرئيس التنفيذي للاستراتيجية والرئيس التنفيذي للعمليات: جيل أفريل

تخرج أفريل من كلية هارفارد كينيدي وأكاديمية القانون بجامعة جورج تاون ( المركز الأول)،شغل منصب مدير أول (14 عامًا) في مجلس الأمن القومي، مكتب رئيس الوزراء الإسرائيلي. أثناء عمله كمستشار قانوني لمجلس الأمن القومي، قدم المشورة لثمانية مستشارين للأمن القومي وأربعة رؤساء وزراء بشأن القضايا الإستراتيجية للأمن القومي.

بالإضافة إلى فريق المؤسسين المتميز، فإن أعضاء المجلس الاستشاري لشركة Clarity هم أيضًا من كبار الخبراء من مختلف الصناعات، بما في ذلك لاري دايموند، أستاذ الديمقراطية في جامعة ستانفورد، وإيروين كوتلر، وزير الدفاع الكندي السابق، و نائب الرئيس السابق للأبحاث في Google ألفريد سبيكتور وآخرون.

03. تتعاون الصناعات المختلفة لإزالة "ضباب" التزييف.

يتم تحديث نماذج الذكاء الاصطناعي بشكل متكرر، كما يتم أيضًا تحسين تقنية التزييف العميق.< قوي>هذا أدى تطور أشباه التقنيات إلى صعوبة التمييز بين الحقيقة والتلفيق.

وقال مايكل ماتياس، المؤسس المشارك والرئيس التنفيذي لشركة Clarity، في بيان: "تتعرض حياتنا الرقمية لهجوم عنيف، حيث يقول الناس أشياء لم يقولوها من قبل ويفعلون أشياء لم يفعلوها من قبل".

قبل عام مضى، كانت معظم الأخبار حول "الاحتيال باستخدام الذكاء الاصطناعي" تأتي تقريبًا من مختبرات الأبحاث الجامعية؛ وبعد مرور عام، ملأت حياتنا قضايا تتعلق بالاحتيال باستخدام الذكاء الاصطناعي.

في عام واحد فقط، ظهر عدد كبير من نماذج استنساخ الصور والفيديو والصوت لفينسنت. على سبيل المثال، أعلنت شركة ElevenLabs هذا الشهر عن إطلاق نموذج المؤثرات الصوتية لـ Sora، والذي يمكنه دبلجة مقاطع الفيديو تلقائيًا.

تساعد تطبيقات الذكاء الاصطناعي هذه، دون قصد، الجهات الفاعلة الخبيثة على إنشاء محتوى مزيف عميق باستخدام أدوات واسعة النطاق ومجانية.

" وقالت لينا خان، رئيسة لجنة التجارة الفيدرالية، في بيان: "مع تزايد استنساخ الصوت وغيره من عمليات الاحتيال باستخدام الذكاء الاصطناعي، أصبح من المهم أكثر من أي وقت مضى حماية الأمريكيين من الاحتيال المحتال".

لسد هذه الفجوة في الصناعة، تظهر الشركات الناشئة التي تكتشف التزييف العميق وتنمو، وتجتذب كميات كبيرة من رأس المال الاستثماري.

تتنافس العديد من شركات الكشف عن التزييف العميق حاليًا لتطوير أدوات الكشف عن التزييف العميق. وبالإضافة إلى Clarity، يتضمن ذلك أداة متصفح الذكاء الاصطناعي Reality Defender وSentinel، وهي شركة متخصصة في الصور ومقاطع الفيديو المزيفة.

يوفر Reality Defender بشكل أساسي نظامًا أساسيًا للمساعدة في اكتشاف التزييف العميق للنصوص والفيديو والصور، والذي يمكنه التحقق مما إذا كان محتوى الوسائط الاجتماعية قد تم إنشاؤه بواسطة الذكاء الاصطناعي أو تم تعديله بطريقة ما. بالإضافة إلى ذلك، تلقت الشركة 15 مليون دولار أمريكي من التمويل من السلسلة A بقيادة DCVC في أكتوبر من العام الماضي، والذي سيتم استخدامه لتوسيع الفريق وتحسين نموذج الكشف عن محتوى الذكاء الاصطناعي.

المحطة العديد من المستثمرين متفائلون جدًا بشأن الوضوح عندما يتعلق الأمر بحل مشكلة التزوير العميق للذكاء الاصطناعي. قال كريس مارلين، الرئيس السابق للاستراتيجية في CNN والمستثمر الملائكي: "إن انتشار المحتوى التوليدي الناتج عن الذكاء الاصطناعي والتزييف العميق لديه القدرة على خلق قدر أكبر من عدم ثقة الناخبين بقوة>."

في نهاية يناير/كانون الثاني، ظهرت مشكلة تزوير الذكاء الاصطناعي في الانتخابات الرئاسية الأمريكية، حيث استخدم شخص ما الذكاء الاصطناعي لانتحال شخصية بايدن للاتصال بالناخبين، مما أثر على مناقشة الانتخابات. بالإضافة إلى ذلك، تم أيضًا تعطيل الانتخابات في ولايات أمريكية أخرى بسبب تزوير الذكاء الاصطناعي.

ستلتزم شركة Clarity بحل هذه المشكلات. وكما أكد كريس مارلين، "ستعمل تقنية Clarity على إزالة ضباب عدم اليقين وتوفير وضوح أفضل للناخبين والقادة السياسيين."

علم الاجتماع بجامعة ستانفورد ولاري دايموند، أستاذ العلوم السياسية وقال Science أيضًا: "نحن متحمسون للدخول في شراكة مع Clarity وتوفير منصة قابلة للتطوير وجديرة بالثقة يمكن لأي مؤسسة استخدامها للتحقق من الأخبار الحساسة ومنع الاحتيال وبناء بيئة آمنة للذكاء الاصطناعي. ."

< قوي>04. للوضوح مهمة إنمائية طويلة المدى

في بيئة يهيمن عليها الذكاء الاصطناعي، لا يمكن تحقيق الدعوات إلى التنظيم والتشريع على المدى القصير. التحديد السريع و يعد حل التزييف العميق حلاً جيدًا في الوقت الحالي.

كما قال ماتياس، الرئيس التنفيذي لشركة Clarity، "هذا سباق تسلح سريع الخطى، وأي شركة تريد حل مشكلة التزييف العميق يجب أن تكون مثل أولئك الذين ينشئون ويوزعون بنفس السرعة التي تتحرك بها شركات التزييف العميق."

في الوقت الحالي، تعمل Clarity مع الحكومة الإسرائيلية وبعض المؤسسات الإخبارية الكبيرة، وسيعمل هذا التمويل الأخير على تعزيز خطط Clarity التوسعية وتمكين الشركة من زيادة التوظيف. تطوير التكنولوجيا الخاصة بها وتأسيس حضور أقوى في السوق الأمريكية.