Понимание сквозь разреженность: баланс гибкости и интерпретируемости в моделях концептуальных бутылочных горлышек

Наблюдения на наборах данных CUB и SUN демонстрируют, что применение методов разрежения к предиктивным и VLM-моделям позволяет поддерживать высокую точность классификации даже при значительной степени разреженности, при этом в VLM-моделях осознанное применение разрежения существенно повышает точность, указывая на возможность восстановления дискриминационной способности за счёт эффективного отбора концепций, несмотря на ограниченные возможности CLIP по прогнозированию атрибутов, и одновременно приводит к увеличению точности получаемых представлений.

Новое исследование раскрывает взаимосвязь между точностью, разреженностью и интерпретируемостью моделей, использующих концептуальные узкие места для представления данных.