إطار عمل للتحقق من صحة المعلومات

إطار عمل للتحقق من صحة المعلومات

تُقدم هذه المقالة إطار عمل جديدًا للتحقق من صحة المعلومات ('ToE') يجمع بين التسلسل الهرمي والقابلية للتفسير واسترجاع وتجميع الأدلة الديناميكية من مصادر متعددة لمكافحة الأخبار الكاذبة.

AI

ملخص الذكاء الاصطناعي

  • تُقدم هذه المقالة إطار عمل جديدًا للتحقق من صحة المعلومات ('ToE') يجمع بين التسلسل الهرمي والقابلية للتفسير واسترجاع وتجميع الأدلة الديناميكية من مصادر متعددة لمكافحة الأخبار الكاذبة.
  • مكافحة التضليل بالذكاء الاصطناعي
  • arXiv:2606.27736v1 Announce Type: new Abstract: The rapid spread of fake news poses increasing threats to information ecosystems, especially as AI-generated misinformation under Generative Engine Optimization (GEO) poisoning allows adversarially crafted content to be systematically surfaced by retrieval systems, contaminating LLM reasoning. In this paper, we propose Tree of Evidence (ToE), a hierarchical evidence reasoning framework for automated fact-checking that models each claim as a dynamically expanding argument tree. ToE integrates a reinforcement learning-driven multi-source retrieval agent, an evidence evaluation agent, and an argument tree aggregation algorithm to iteratively decompose, retrieve, and verify claims through an explainable evidence chain. We further provide a theoretical analysis of the retrieval process, deriving a formal error bound that guarantees the learned policy converges to a neighborhood of the information-theoretically optimal policy. Experiments across multiple datasets and backbone LLMs demonstrate that ToE achieves improvements ranging from 4 to 24 percentage points over competitive baselines, with particularly pronounced gains on adversarially poisoned inputs.

arXiv:2606.27736v1 Announce Type: new Abstract: The rapid spread of fake news poses increasing threats to information ecosystems, especially as AI-generated misinformation under Generative Engine Optimization (GEO) poisoning allows adversarially crafted content to be systematically surfaced by retrieval systems, contaminating LLM reasoning.

In this paper, we propose Tree of Evidence (ToE), a hierarchical evidence reasoning framework for automated fact-checking that models each claim as a dynamically expanding argument tree. ToE integrates a reinforcement learning-driven multi-source retrieval agent, an evidence evaluation agent, and an argument tree aggregation algorithm to iteratively decompose, retrieve, and verify claims through an explainable evidence chain.

We further provide a theoretical analysis of the retrieval process, deriving a formal error bound that guarantees the learned policy converges to a neighborhood of the information-theoretically optimal policy. Experiments across multiple datasets and backbone LLMs demonstrate that ToE achieves improvements ranging from 4 to 24 percentage points over competitive baselines, with particularly pronounced gains on adversarially poisoned inputs.

اقرأ أيضا

ميزة أمان جديدة من أوبرا للحد من هجمات الحافظة الذكاء الاصطناعي

ميزة أمان جديدة من أوبرا للحد من هجمات الحافظة

أطلقت أوبرا ميزة جديدة تكتشف وتمنع المحتوى الضار في الحافظة تلقائيًا لحماية المستخدمين من هجمات النقر مثل ClickFix.

شخصيات الذكاء الاصطناعي تفتقر للعمق الذكاء الاصطناعي

شخصيات الذكاء الاصطناعي تفتقر للعمق

وجدت دراسة حديثة أن شخصيات القصص التي يكتبها الذكاء الاصطناعي تفتقر إلى الغموض والتعقيد الذي يميز الأعمال الأدبية البشرية.

علاقات الإنسان بالذكاء الاصطناعي: واقع ومخاطر الذكاء الاصطناعي

علاقات الإنسان بالذكاء الاصطناعي: واقع ومخاطر

وجدت دراسة حديثة أن العلاقات بين الإنسان والذكاء الاصطناعي أصبحت واقعية وتنطوي على مخاطر محتملة.