FEDOT icon indicating copy to clipboard operation
FEDOT copied to clipboard

Mutation of hyperparameters with correction

Open Dreamlone opened this issue 3 years ago • 1 comments

It is required to implement intelligent mutation of hyperparameters in operations. Therefore, we need to know the intervals of hyperparameter values (min and max). This cannot be done in the current implementation.

Therefore, we need to create a separate json file with parameters and their boundaries. And also to implement an algorithm that will access this json file.

Dreamlone avatar Aug 10 '21 14:08 Dreamlone

Пояснение:

Например, есть условный параметр альфа у модели lasso regression. Предположим, что реализация этого алгоритма в используемой библиотеке "super-learn" может работать только со значениями альфа от 0 до 1, и если он вдруг будет больше 1, то выброситься условный ValueError

Задача: мы хотим этот параметр из соображений здравого смысла мутировать инкрементно. То есть не выбирать случайно из интервала от 0 до 1 на каждой итерации, а делать что-то вроде "текущее значение параметра +- небольшая дельта" и если вдруг предлагаемое значение гиперпараметра выходит за границы разрешенного интервала, то обрезать его до валидного.

Dreamlone avatar Sep 28 '23 10:09 Dreamlone