چکیده
رباتهای خودکاری که با یادگیری عمیق تغذیه میشوند، با چالش بنیادی قابلیت بازبینی مواجهاند: هنگام وقوع حوادث، محققان قادر به بازسازی دلایل تصمیمات خاص اتخاذشده توسط سیستم نیستند. این مقاله چارچوب تریاسیک (TRACE — معماری استدلال شفاف برای اجرای قابل اعتبار) را معرفی میکند؛ یک چارچوب تصمیمگیری که تضمین میکند هر اقدام خودکار به شواهد سنسور از طریق زنجیرههای علتی مستند قابل ردیابی باشد. این چارچوب تصمیمگیری را در چهار لایه قابل بازبینی سازماندهی میکند: درک معنایی برای تشخیص موجودیت مبنایی بر شواهد، استدلال بااعتقاد برای تخمین وضعیت احتمالی با گرافهای علتی، سنتز اقدام برای برنامهریزی آگاه از محدودیتها با مستندات فرضی، و تأیید اجرا برای نظارت بر انطباق. تریاسیک وابسته به مدل نیست، بلکه برای ادغام ماژولهای درک مبتنی بر یادگیری (مانند CNNها و تبدیلها) طراحی شده و در عین حال قابلیت بازبینی در سطح تصمیم را حفظ میکند. ما چارچوب را با سه معیار هدفی ارزیابی میکنیم: قابلیت ردیابی شواهد (پیوند سنسور به تصمیم)، قابلیت بازسازی تصمیم (تحلیل پس از عمل) و پیوستگی زمانی (کامل بودن زنجیره مستندات). ارزیابی تجربی روی مسیریابی ربات انبار نشان میدهد که تریاسیک در ۵۰۰ دوره تصمیمگیری شبیهسازیشده، ۹۸٫۶٪ قابلیت ردیابی شواهد، ۹۹٫۰٪ پیوستگی زمانی و ۹۸٫۱٪ قابلیت بازسازی تصمیم را دستیابی میکند. روشهای پس از عمل مانند LIME نسبت ویژگیها را ارائه میدهند، اما ساختار مستندات مورد نیاز برای بازسازی در سطح تصمیم را ندارند. تریاسیک الزامات قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) مربوط به شفافیت سیستمهای پرخطر را برآورده میکند و به هوش مصنوعی قابل توضیح برای سیستمهای خودکار حیاتی از نظر ایمنی کمک میکند.