Университетские Задания по Полиномиальной Регрессией
Необходима помощь в выполнении университетских заданий по машинному обучению. Задание посвящено изучению и реализации полиномиальной регрессии, а также методам оценки моделей машинного обучения. Дедлайн 13-го марта. Необходимо знание английского так как предмет ведется на английском языке :)
Темы:
Полиномиальная регрессия и функции потерь
Понимание полиномиальной регрессии как расширения линейной регрессии
Исследование различных функций потерь и их влияния на процесс обучения
Аппроксимация полинома с помощью оптимизации
Подбор коэффициентов полинома путем минимизации функции потерь
Использование методов оптимизации для нахождения наилучшей модели
Визуализация остатков на тестовых данных
Анализ ошибок модели
Построение графиков остатков, чтобы оценить качество предсказаний
Реализация класса полиномиального оценивателя
Создание собственного класса, реализующего полиномиальную регрессию
Использование оптимизационных алгоритмов для подбора параметров
Генерация и визуализация синтетических данных для одномерной полиномиальной регрессии
Создание искусственных данных с заданными характеристиками
Визуализация данных для анализа структуры задачи
Оценка смещения и дисперсии с помощью бутстрап-выборки и тестирования Out-of-Bag (OOB)
Разделение ошибки модели на компоненты смещения и дисперсии
Использование бутстрапа для оценки устойчивости модели
Сравнение двух моделей полиномиальной регрессии с помощью бутстрап-выборки
Оценка качества двух моделей
Определение лучшей модели по бутстрап-оценке ошибки
Реализация кросс-валидации для полиномиальной регрессии
Разбиение данных на обучающую и тестовую выборки
Использование кросс-валидации для поиска оптимального порядка полинома
Построение графика зависимости ошибки кросс-валидации от сложности модели
Анализ влияния степени полинома на обобщающую способность модели
Поиск компромисса между недообучением и переобучением