حملة «تراه AI»: ابنِ التحقق من التزييف داخل المنتج

أطلقت الهيئة السعودية للبيانات والذكاء الاصطناعي «سدايا» وهيئة الاتصالات والفضاء والتقنية في 15 أكتوبر 2026 حملة «تراه AI» لمساعدة الأفراد على التعرف إلى Deepfakes، وحماية الهوية البصرية والصوتية، والتحقق من المحتوى قبل تصديقه أونشره. الدرس التشغيلي لفرق المنتجات والتجارة أكبر من ملاحظة حركة عين غريبة أوعدم تطابق الشفاه: يجب معاملة Media كدليل غير موثوق حتى تُفحص هوية المصدر وسلامة الملف والسياق والادعاء التجاري بضوابط مستقلة.

توصي الحملة بالوعي العام، ووضع علامات على المحتوى المولد بالذكاء الاصطناعي، وتطوير أدوات كشف متقدمة، والتنظيم، والتعاون الدولي عبر مبادرات مثل C2PA وContent Authenticity Initiative. هذه ضوابط متكاملة وليست زرًا واحدًا يقرر «حقيقي أومزيف». تستطيع C2PA جعل Provenance قابلة لاكتشاف العبث، لكنها لا تقرر إن كان الحدث المصور أوالادعاء المصاحب صحيحًا. أما Detection Models فاحتمالية وقد تنحرف بعد Compression أوEditing أوتغير النماذج. وتظل الأفعال عالية المخاطر بحاجة إلى قناة موثقة وموافقة إضافية.

تاريخ الإطلاق وإرشادات الحملة وأمثلتها حقائق سعودية رسمية. أما Product Architecture ونموذج الأدلة والThresholds وضوابط التشغيل فهي تحليل هندسي.

ماذا تقول الحملة السعودية؟

تغطي الحملة التزييف البصري والصوتي والنصي. وتوضح إرشاداتها أن ظهور شخص في مقطع أوسماع صوته لا يكفي للإثبات، وأن كثرة المشاهدات وإعادة النشر لا تمنح المحتوى مصداقية. وتطلب فحص تناقضات الصورة والصوت، ومقارنة الأسلوب والتاريخ بالمصدر المدعى، والرجوع إلى المصادر الرسمية أوالموثوقة.

وتميز الحملة بين التعديل العادي والتلفيق المضلل. تحسين الإضاءة أوقص مشهد لا يغير الحقيقة وحده، أما المحتوى المزيف فيصنع حدثًا أوكلامًا لم يقع ويعرضه كأنه حقيقي. وتذكر الاحتيال وانتحال الهوية وتشويه السمعة وتجاوز أنظمة التحقق والتضليل ضمن المخاطر.

هذا الفرق مهم للبرمجيات. لا ينبغي للمنتج وصف كل Asset معدلة بأنها «مزيفة»، كما لا ينبغي قبول Clip واقعية كAuthorization. يجب ربط القرار بما يراد من الوسائط إثباته.

ابدأ من الادعاء التجاري

قد يكون الملف نفسه منخفض المخاطر في Gallery عامة وعالي المخاطر عندما يستخدم لفتح المال أوالهوية أوصلاحيات الإدارة. لذلك يجب أن تقيم Policy دليل Asset والفعل المطلوب بصورة مستقلة.

Verification Pipeline لفرق المنتجات

### 1. اعزل Original واحفظها

خزّن Bytes المستلمة قبل Transcoding أوResize أوMetadata Stripping أوتوليد Thumbnails. عيّن Asset ID داخليًا واحسب Cryptographic Hash. سجّل الحساب الموثق وSource Channel ووقت الاستلام وCreator المدعى والطلب أوCase المرتبطة وRetention Policy.

حلل Media داخل Isolated Worker مع حدود للحجم والمدة والCodec والموارد. الملف التالف مشكلة أمنية حتى قبل Deepfake Analysis. يجب أن تشير Derived Previews إلى Original ثابتة بدل استبدالها.

### 2. تحقق من Content Credentials دون اختزال النتيجة

Content Credentials في C2PA هي سجلات Provenance مرتبطة تشفيريًا. يفحص Validator المتوافق Manifest وAssertions وIngredients وSignature وTrust Chain وTimestamps أوRevocation، والربط بين Manifest وAsset.

احتفظ بنتائج منفصلة:

• absent: لم يعثر على Credential؛
• unsupported: لا يستطيع Validator تقييم Format أوFeature؛
• invalid: فشل Manifest أوSignature أوAsset Binding؛
• valid but untrusted: البنية صحيحة لكن Signer غير مثبت في Trust List مقبولة؛
• trusted: نجح التحقق واتصل Signer بـTrust Anchor معتمدة.

لا تحول absent إلى «مزيف». ملفات مشروعة كثيرة لا تحمل Content Credentials، وقد تزيل Platforms الـMetadata. ولا تحول trusted إلى «الادعاء صحيح». تثبت C2PA أن Provenance الموقعة مرتبطة بـAsset ولم تُعدل بصمت؛ وعلى المستهلك تحديد الثقة في Signer والادعاء الواقعي.

### 3. استعد السياق خارج الملف

تحقق من وجود المحتوى في Official Channel للجهة المدعاة. قارن أول نشر معروف وCaption والوقت والمكان والحدث المحيط. وقد يكشف Reverse Search استخدامًا أقدم أومحتوى حقيقيًا بعنوان كاذب. عند دعم Soft Bindings أوRemote Manifest، حلها عبر Allowlisted Service واحفظ دليل Resolution.

في أدلة التجارة قارن بأنظمة موثوقة: Order Events وShipment Scans وPayment Records وSupport History وAccount Ownership. قد تدعم Media ادعاءً، لكنها لا تستبدل Transactional Facts.

### 4. شغّل Detectors كإشارات مقاسة

قد تقدم Visual وAudio وText Detectors Scores أوLocalization Maps أوAnomaly Labels. خزّن Model Name وVersion وThreshold وInput Transformation وCalibration Set بجانب كل نتيجة. Score بلا هذا السياق لايمكن تدقيقها لاحقًا.

وجّه القرارات بحسب عدم اليقين بدل اعتبار Detector Oracle:

• المحتوى منخفض المخاطر بلا إشارات سلبية يكمل Moderation الطبيعية؛
• تعارض Provenance أوDetector Signals يحتاج Human Review؛
• الأفعال عالية المخاطر تحتاج Authentication مستقلة مهما كانت Score؛
• Invalid Credentials أوImpersonation Indicators أوAbuse منسق تفتح Investigation.

اختبر Detectors على العربية واللهجات السعودية وScreen Recordings وملفات Messaging Apps المعاد إرسالها وCompression القاسي والتعديلات المشروعة. Threshold مثبتة على فيديو إنجليزي بجودة Studio ليست دليلًا لحركة الدعم الواقعية.

### 5. طبّق Action Policy وHuman Review

يجب أن يستقبل Policy Engine Evidence Record مطبّعة لاRaw Vendor Scores. يدمج Business Action وAccount Trust وProvenance State وSource Checks وDetector Results وPrior Abuse وTransaction Context. ويعيد Outcome محدودة مثل Allow Publication أوطلب دليل أقوى أوHold for Review أوDeny Action أوفتح Incident.

يحتاج Reviewer إلى Original وDerived Previews وProvenance Chain وSource Comparison وحدود Detectors والقرار المطلوب بدقة. أخفِ Personal Data غير الضرورية وسجل كل Access وDecision.

نموذج أدلة مختصر

{
  "asset_id": "media_01...",
  "original_sha256": "...",
  "received_at": "2026-10-28T17:00:00Z",
  "source_channel": "authenticated_support_upload",
  "subject_ref": "order_or_case_id",
  "claimed_creator": "merchant_account_id",
  "c2pa": {
    "status": "trusted|valid_untrusted|invalid|absent|unsupported",
    "signer": "...",
    "trust_anchor": "...",
    "assertions": []
  },
  "detectors": [
    {"model": "...", "version": "...", "score": 0.0, "threshold": 0.0}
  ],
  "source_checks": [],
  "requested_action": "change_payout_account",
  "decision": "step_up_and_separate_approval",
  "reviewer": null
}

يجب أن يحمل Schema مراجع بدل تكرار المواد الحساسة. شفّر Originals واستخدم Retention قصيرة عند انتهاء الحاجة، وافصل Review Permission عن وصول الدعم العادي، واجعل الحذف ينتشر إلى Derivatives وIndexes.

مثال: فيديو لتغيير حساب تحويل التاجر

لنفترض أن Marketplace استلمت فيديو لمالك متجر يطلب تغيير حساب Bank Settlement. يبدو الفيديو طبيعيًا ويحمل Content Credential صالحة من Camera معروفة. يثبت ذلك Provenance مفيدة عن الملف، لكنه لا يثبت أن الشخص مخول الآن، أوأن الطلب طوعي، أوأن الحساب الجديد يعود للتاجر.

Workflow آمنة:

1. علّق Payout Change واحفظ الفيديو الأصلي؛
2. اطلب Sign-in من Privileged Account قائمة مع Step-up Authentication؛
3. تحقق من الحساب البنكي الجديد عبر مسار Payment أوBank Verification منظم؛
4. اطلب Second Authorized Approver أوCooling-off Period؛
5. أرسل إشعارًا إلى Trusted Contacts القائمة عبر قناة منفصلة؛
6. سجل الأدلة ولا تطلق التغيير إلاعند اتفاق الضوابط.

لايجوز لـDetector Score أوصوت واقعي تجاوز هذه الضوابط. Media Verification تقلل عدم اليقين؛ ولا تستبدل Authorization.

وقّع المحتوى الصادر وضع Label واضحة

على فرق المنتجات تحسين Supply Side أيضًا. وقّع Official Images وVideo وAudio عند الإنشاء أوالنشر، وأضف Assertions صادقة عن AI Use وEdits، واحمِ Signing Keys داخل Managed Hardware أوDedicated Signing Service، ودوّر Credentials وألغها، وامنع خروج Unsigned Originals إلى Publishing Path.

اعرض Content Credentials بطريقة قابلة للفحص، لاBadge خضراء غامضة. وضح من وقّع وما الذي تغير وهل نجح Validation وما الذي لاتثبته Credential. إذا أزال Export أوCDN أوSocial Workflow الـManifest، اختبر Soft Binding أووفر Official Verification Page تحمل Original Asset Hash.

التقييم والمراقبة

قس النظام الكامل:

• Credential Coverage على Official Outbound Media؛
• نتائج Validation موزعة على absent وunsupported وinvalid وvalid-untrusted وtrusted؛
• False Accept وFalse Reject بحسب Media Type واللغة والCompression والقناة؛
• Human-review Agreement وReversal Rate؛
• زمن حسم High-risk Holds؛
• نسبة Financial أوAdmin Requests الممنوعة من Media-only Authorization؛
• Detector وPolicy Version المستخدمة لكل Historical Decision؛
• اكتمال حذف Originals وDerivatives.

أعد تشغيل Evaluation Set ثابتة ومرخصة بعد تغيير Detector أوMedia Pipeline أوTrust List أوThreshold. شغّل New Model في Shadow Mode قبل السماح لها بتغيير النتائج، واحتفظ بـRollback إلى Policy Version السابقة.

أفضل الممارسات

• احفظ Originals قبل أي Transformation.
• افصل Provenance Validation وSource Verification وDetection وAuthorization.
• عامل C2PA Status كدليل منظم لاTruth Score.
• اربط Media بحساب موثق وCase وBusiness Event.
• اطلب ضوابط مستقلة للمال والهوية وأفعال الإدارة.
• عاير Detectors على العربية وقنوات التوصيل الواقعية.
• وقّع Official Outbound Media بمفاتيح محمية.
• سجّل عدم اليقين ووفر Appeal أوReview Path.

Anti-patterns

• قبول وجه أوصوت كAuthorization كافية.
• إعلان المحتوى مزيفًا لأن Credentials غائبة.
• إعلان الادعاء صحيحًا لأن Credential موثوقة.
• استخدام Threshold واحدة لكل لغة وCodec وRisk Level.
• Transcoding قبل حفظ Original وMetadata.
• رفع Customer Media حساسة إلى Public Verification Tools غير معتمدة.
• الاحتفاظ بوسائط شبيهة بالBiometric إلى أجل غير مسمى «لتدريب AI لاحقًا».
• كشف Detector Internals كPublic Exploit Oracle.

القيود

قد تساعد Visual Cues مثل الرمش والإضاءة ومزامنة الشفاه الناس على التوقف، لكن جودة التوليد تتحسن، وقد ينتج Legitimate Compression آثارًا مشابهة. وقد تكون Provenance محذوفة أوناقصة أوموقعة من جهة لايثق بها المستهلك. ويمكن تجاوز Detectors وقد تفشل مع مجموعات أولغات غائبة عن Calibration Data. كما يخطئ Human Review.

التصميم القابل للدفاع متعدد الطبقات: احفظ الأدلة، وتحقق من Provenance، وافحص المصدر المدعى، وقس Detectors، واربط القرار بمخاطر الأعمال، واطلب Authorization قوية للأفعال المؤثرة.

الخلاصة التنفيذية

تضع حملة «تراه AI» التحقق قبل التصديق والنشر. على فرق المنتجات تحويل هذا المبدأ إلى Evidence Pipeline. تجيب Content Credentials وDetectors وHuman Review عن أسئلة مختلفة؛ ولا تخول أي منها تغيير Payout أوAccount أوIdentity وحدها. ابنِ الضوابط حول الادعاء والفعل المطلوب، واحتفظ بعدم اليقين، واجعل كل قرار قابلًا للتدقيق.

تابع عبر محور AI وRAG والبحث المتجهي، وخدمة Applied AI، وجاهزية البيئة التنظيمية للبيانات السعودية، ودليل OpenAI textGrain وProvenance، وإدخال RAG الآمن.

المراجع الأساسية

• هيئة الاتصالات — إطلاق سدايا والهيئة حملة «تراه AI»
• هيئة الاتصالات — التزييف العميق والمقاطع المزيّفة
• C2PA — المواصفة التقنية لـContent Credentials 2.5
• C2PA — شرح Content Credentials
• NIST AI 100-4 — تقليل مخاطر المحتوى الاصطناعي
• Wikimedia Commons — Deepfake.jpg
• Creative Commons Attribution-ShareAlike 2.0

إعداد: Noor Yasser

إعداد: Noor Yasser