feat: TabPFN implementation

[martilut]

This is a 🙋 feature or enhancement.

Summary

Done:

• Added TabPFN implementations for classification and regression tasks
• Added default parameters and search space
• Added models in model repository
• Added requirement with suitable version
• Updated model list in documentation
• Added tests for TabPFN strategies

TODO's:

• Specify path for saving/loading weights (TabPFN downloads weights into system cache dir by default)
• Check dataset size (TabPFN is optimized for datasets up to 10,000 rows for GPU and 1000 rows for CPU)
• Support GPU for large datasets?

Evaluation results on AutoMLBenchmark: https://docs.google.com/spreadsheets/d/1FZw99YBGdduxOWPHC_ZohIeXCpLwdNzoBtETLsUVtQo/edit?gid=423561462#gid=423561462
Testing different pipelines with TabPFN:
https://docs.google.com/spreadsheets/d/1FZw99YBGdduxOWPHC_ZohIeXCpLwdNzoBtETLsUVtQo/edit?gid=784073553#gid=784073553

[github-actions]

All PEP8 errors has been fixed, thanks ❤️

Comment last updated at Tue, 05 Aug 2025 18:08:29

[martilut]

/fix-pep8

[dmitryglhf]

Если нужно помочь с настройкой или тестированием на automlbenchmark, то могу подключиться.

[martilut]

Поправила замечания, но остались некоторые вопросы:

1. Билды на 3.9 и 3.10 все еще is canceled. Добавила в requirements версию torch из other_requirements, в чем может быть проблема?
2. TabPFN при обучении моделей скачивает веса, по дефолту сохраняет в system cache directory пользователя. Нужно ли поменять путь для сохранения этих файлов, чтобы они хранились где-то внутри FEDOT?
3. По тестированию на automlbenchmark: если есть какой-то гайд или пример использования FEDOT на automlbenchmark, буду благодарна ссылке, а если нет, то попробую самостоятельно разобраться

[nicl-nno]

Билды на 3.9 и 3.10 все еще is canceled. Добавила в requirements версию torch из other_requirements, в чем может быть проблема?

Ну там надо смотреть, в чем ошибка.

TabPFN при обучении моделей скачивает веса, по дефолту сохраняет в system cache directory пользователя. Нужно ли поменять путь для сохранения этих файлов, чтобы они хранились где-то внутри FEDOT?

Внутри нет, но у fedot-а есть своя директория для кэша - можно класть туда.

По тестированию на automlbenchmark

У @dmitryglhf есть опыт.

[nicl-nno]

А получилось оптимизатор запустить так, чтобы он строил какие-то пайплайны в TabPFN? Если ли смысл его закидывать в начальное приближение.

[martilut]

/fix-pep8

[codecov]

Codecov Report

❌ Patch coverage is 39.28571% with 68 lines in your changes missing coverage. Please review.
✅ Project coverage is 80.38%. Comparing base (6d02ee1) to head (1b89dae).
⚠️ Report is 9 commits behind head on master.

Files with missing lines	Patch %	Lines
...luation/operation_implementations/models/tabpfn.py	40.98%	36 Missing ⚠️
fedot/core/operations/evaluation/tabpfn.py	37.25%	32 Missing ⚠️

Additional details and impacted files

@@            Coverage Diff             @@
##           master    #1390      +/-   ##
==========================================
- Coverage   80.78%   80.38%   -0.41%     
==========================================
  Files         148      150       +2     
  Lines       10746    10852     +106     
==========================================
+ Hits         8681     8723      +42     
- Misses       2065     2129      +64     

☔ View full report in Codecov by Sentry.
📢 Have feedback on the report? Share it here.

🚀 New features to boost your workflow:

• ❄️ Test Analytics: Detect flaky tests, report on failures, and find test suite problems.

[dmitryglhf]

nit: А где используется этот параметр?

[martilut]

model_path передается в model_params, а затем попадает в инициализацию класса TabPFN. В новом коммите пофиксила, чтобы передавался путь к папке кэша, если model_path = "auto"

[dmitryglhf]

По моему в русском и английском ридми не убрана версия питона 3.8.

И как я вижу здесь тоже осталось 3.8.

В остальном у меня вопросов нет.

[martilut]

В .travis.yml поменяла, а в README не могу. Если не ошибаюсь, там версии из pypi берутся, для publish_pypi билда я поменяла