Интерпретация моделей глубокого обучения черного ящика с использованием методов интеллектуального анализа данных

Современные модели машинного обучения используются в широком спектре реальных приложений. Однако для того, чтобы они были полностью приняты в определенных областях, обоснование их предсказаний должно быть легко понятным. Модели, для которых объяснения их предсказаний не могут быть поняты, называются "черными ящиками" из-за их непрозрачной природы. Напротив них находятся "белые ящики", предсказания которых более объяснимы. В этой работе исследуется идея интерпретации черных ящиков с использованием комбинации методов интеллектуального анализа данных и аппроксимации с использованием белых ящиков. Следующие белые ящики были дополнены с помощью метода интеллектуального анализа данных: 1) Байесовские Списки Правил 2) алгоритм Потрошителя 3) алгоритм OneR и этот белый ящик был создан с использованием метода интеллектуального анализа данных: 4)ленивый классификатор на основе поддержки черные ящики интерпретировались так 1) Прямая нейронная сеть 2)Поддержка-векторов Следующие результаты были получены следующие: 1) черные ящики были аппроксимированы белыми ящиками, тем самым выполняя требование суррогатного материнства метода интерпретируемости. 2) для белых ящиков было обнаружено существование общего ядра выдающихся признаков. 3) существование подобных правил было обнаружено между белыми досками. Делаются следующие выводы: 1) Этот метод интерпретируемости вполне осуществим. 2) существование общего ядра показывает, что существуют некоторые заметные особенности, которые вносят значительный вклад в предсказания, сделанные черными ящиками, тем самым помогая лучше объяснить его предсказания. 3) аналогичные правила, найденные для белых досок, основанных на общем ядре, еще раз доказывают, что эти выдающиеся особенности изучаются во всех моделях.