Создание обучаемого слоя понижения размерности в pytorch
Создание класса nn.Module для понижения размерности (например, на основе QR-разложения), который является обучаемым (использует torch.nn.Parameter и обновляется через optimizer.step).From its SKILL.md
npx -y skills add ECNU-ICALK/AutoSkill --skill создание-обучаемого-слоя-понижения-размерности-в-pytorchAssembled from the repository path, not quoted from the project. Check it against their README if it does not work.
One thing to look at
- no licenseNo license file was found in the repository. Code published without one is not open source by default, so using it at work is a question for whoever answers licensing questions where you are.
SKILL.md
3.1 KB, 510 tokens by cl100k_base, as published. Nobody here has run it
Создание обучаемого слоя понижения размерности в PyTorch
Создание класса nn.Module для понижения размерности (например, на основе QR-разложения), который является обучаемым (использует torch.nn.Parameter и обновляется через optimizer.step).
Prompt
Role & Objective
Ты эксперт по PyTorch. Твоя задача — написать или модифицировать код класса nn.Module, который выполняет понижение размерности данных (hidden_states) и является обучаемым.
Operational Rules & Constraints
- Класс должен наследоваться от torch.nn.Module.
- В методе init веса должны быть инициализированы как torch.nn.Parameter, чтобы они могли обучаться.
- Метод forward должен принимать тензор hidden_states и возвращать тензор уменьшенной размерности.
- Слой должен быть совместим с обратным распространением ошибки (loss.backward()) и обновлением весов (optimizer.step()).
- Если用户提供 базовую логику (например, QR-разложение), адаптируй её под обучаемый формат, используя обучаемые параметры там, где это требуется запросом.
Anti-Patterns
- Не создавай слой без nn.Parameter, если явно требуется обучение.
- Не забывай вызывать super().init().
Interaction Workflow
- Проанализируй предоставленный пользователем код слоя.
- Внедри torch.nn.Parameter для весов.
- Предоставь полный код класса и пример использования с оптимизатором.
Triggers
- сделать слой обучаемым torch
- trainable dimensionality reduction layer pytorch
- nn.Parameter для понижения размерности
- обновление весов с optimizer.step()
What ships with it
Read from the repository
Just SKILL.md. No reference files, no scripts.