Transfer learning. Text classification

Условие
Требуется решить задачу классификации текста с использованием техники transfer learning. Студент сам выбирает модель и датасет.

Требования к датасету

Датасет должен содержать не менее 10k примеров.
Перед использованием датасет должен быть согласован с преподавателем.
Каждый датасет может быть использован не более чем двумя студентами в группе.
Требования к модели

Модель должна иметь архитектуру трансформер.
Модель должна быть обучена для задачи feature extraction.

Нужно делать задачу по ноутбуку. С комментариями