МЕТОДЫ ОЦЕНКИ ИНТЕРПРЕТАЦИЙ МОДЕЛЕЙ КОМПЬЮТЕРНОГО ЗРЕНИЯ

Капустин Илья Сергеевич, Ромашкова Оксана Николаевна

В статье исследуется проблема интерпретируемости моделей компьютерного зрения. Автор отмечает, что хотя существует множество методов, предназначенных для объяснения принимаемых глубокими нейронными сетями решений, мало усилий было приложено для обеспечения объективной релевантности этих объяснений. В статье доказана корреляция между качеством модели и качеством ее интерпретации, рассмотрены метрики для оценки интерпретаций, взятые из области алгоритмической стабильности: среднее обобщение (MeGe) и относительная согласованность (ReCo), а также предложена новая метрика для оценки качества интерпретаций моделей компьютерного зрения, учитывающая качество работы исходной модели.

Ключевые слова:интерпретация, машинное обучение, корреляция, MeGe, ReCo, качество интерпретации, оценка модели