FEDOT icon indicating copy to clipboard operation
FEDOT copied to clipboard

[Bug]: Decreasing the value of metrics for regression problem

Open aPovidlo opened this issue 1 year ago • 6 comments

Noticed that the performance of regression models running through PipelineBuilder has decreased compared to the previous version.

It is required to compare the last version of framework (0.7.1 or 0.7.2) on various regression models with the last one.

Looking through, I suspect that there were fixes related to regression or time series, or metrics that affected this.

image

aPovidlo avatar Jan 25 '24 13:01 aPovidlo

Как были получены эти результаты? В 0.7.3 есть изменения, связанные с валидацией на временных рядах в композиции.

kasyanovse avatar Jan 26 '24 06:01 kasyanovse

@kasyanovse Данные, которые указаны в таблице это запуски моделей Xgboostreg на мастере на начало декабря, а справа для новой реализации xgboost. Замечал подобное и в своих запусках, когда сравнивался со старой версией. Думаю, чтобы точно исключить причины понижения метрик из-за изменениях в бустингах, нужно проверить на других моделях, например, rfr.

Также можешь отправить PR с изменениями валидации? Будет как следующая отправная точка для распутывания проблемы.

aPovidlo avatar Jan 26 '24 09:01 aPovidlo

@aPovidlo PR: https://github.com/aimclub/FEDOT/pull/1116

Запуски в каких задачах?

kasyanovse avatar Jan 26 '24 12:01 kasyanovse

@kasyanovse XGBoost запускали на этих датасетах.

image

Свои запуски делал на Black Friday, но уже с CatBoost. Старая версия это 0.7.2, мастер актуальный на 10-ые числа января.

image

aPovidlo avatar Jan 26 '24 13:01 aPovidlo

Запуск - это для каждой версии:

  1. Ручная сборка пайплайна из одного XGBoost
  2. Обучение пайплайна
  3. Расчет метрики Верно?

kasyanovse avatar Jan 26 '24 14:01 kasyanovse

Запуск - это для каждой версии:

  1. Ручная сборка пайплайна из одного XGBoost
  2. Обучение пайплайна
  3. Расчет метрики Верно?

Да, именно так.

aPovidlo avatar Jan 29 '24 13:01 aPovidlo