مرکز منطقه ای اطلاع رسانی علوم و فناوری فصلنامه فناوری اطلاعات و ارتباطات ایران 2717-0411 18 68 2026 9 11 A Systematic Review of Trustworthiness, Hallucination, and Safety in Large Vision-Language Models مروری نظام مند بر قابلیت اعتماد، توهم و ایمنی در مدل‌های بزرگ بینایی-زبان 171 197 fa دلارام کیانی دانشگاه تهران حانیه نادری دانشگاه صنعتی شریف 2026 4 18 <p style="direction: ltr;">Large Vision&ndash;Language Models (LVLMs), despite their remarkable progress in multimodal tasks, continue to face two fundamental reliability challenges: the generation of hallucinatory content inconsistent with visual evidence, and vulnerability to adversarial attacks that bypass safety mechanisms. This systematic review, conducted in accordance with the PRISMA 2020 reporting framework, covers studies published from January 2022 to June 2026 and synthesizes 31 eligible studies. It investigates the technical roots of hallucination across multiple levels (object, attribute, relation, and narrative), visual jailbreak mechanisms, and mitigation strategies at both training and inference stages. The findings indicate that over-reliance on linguistic priors is a common underlying factor behind many hallucination errors and safety failures, and that purely text-based alignment is insufficient for multimodal systems. Furthermore, a significant gap exists between current evaluation capabilities and the real-world complexity of vulnerabilities, hindering comprehensive reliability assessment. This review provides an integrated taxonomy of vulnerabilities and outlines a research roadmap, offering a structured foundation for the development of more reliable vision&ndash;language models.</p> <p>مدل&zwnj;های بزرگ بینایی-زبان با وجود پیشرفت&zwnj;های چشمگیر در وظایف چندوجهی، همچنان با دو چالش بنیادین قابلیت اعتماد روبه&zwnj;رو هستند: تولید محتوای توهمی ناسازگار با شواهد بصری، و آسیب&zwnj;پذیری در برابر حملات خصمانه که سازوکارهای ایمنی را دور می&zwnj;زنند. این مرور نظام&zwnj;مند، با پیروی از چارچوب گزارش&zwnj;دهی پریزما ۲۰۲۰، مطالعات منتشرشده از ژانویه ۲۰۲۲ تا ژوئن ۲۰۲۶ را پوشش می&zwnj;دهد و ۳۱ مطالعه واجد شرایط را ترکیب و تحلیل می&zwnj;کند. این مطالعه ریشه&zwnj;های فنی توهم در سطوح مختلف شامل شیء، ویژگی، رابطه و روایت، سازوکارهای گریز امنیتی بصری و راهبردهای کاهش در زمان آموزش و استنتاج را بررسی می&zwnj;کند. یافته&zwnj;های این مطالعه نشان می&zwnj;دهد که اتکای بیش از حد به پیشین&zwnj;های زبانی، ریشه مشترک بسیاری از خطاهای توهمی و شکست&zwnj;های ایمنی است و هم&zwnj;ترازی صرفاً متنی برای سیستم&zwnj;های چندوجهی کافی نیست. همچنین، شکاف معناداری میان توانمندی&zwnj;های ارزیابی فعلی و پیچیدگی واقعی آسیب&zwnj;پذیری&zwnj;ها وجود دارد که مانع سنجش جامع قابلیت اعتماد می&zwnj;شود. این مرور با ارائه رده&zwnj;بندی یکپارچه از آسیب&zwnj;پذیری&zwnj;ها و نقشه راه پژوهشی، چارچوبی برای توسعه مدل&zwnj;های قابل اعتمادتر فراهم می&zwnj;آورد.</p> http://jour.aicti.ir/fa/Article/Download/53399