- Class 가 제대로 안들어가는것 같은 느낌… 앞에 모션 2개만 줘도 이어서 하는걸 잘하는데 쌩 generation을 못한다..? CFG도 크게 줬는데
⚠️ src_key_padding_mask는 무조건 Boolean 으로 들어가야 한다. 안그러면 added to the attention weight ⚠️
https://stackoverflow.com/questions/62170439/difference-between-src-mask-and-src-key-padding-mask
Token의 크기→ 생각보다 64dim에서도 잘했다고 한다.
⚠️ CFG guidance scale should be bigger ⚠️
from momask
from human motion model
❗MotionPrior & MotionGen의 mean, std문제❗
Motionprior 학습 할땐 MotionDataset 의 mean과 std를 직접 구하고 self.mean, self.std로 사용함.근데 meta dir에 mean과 std를 기존 HumanML3D에서 제공하는 mean, std를 저장하고 있어서 MotionGen을 학습할때 해당 mean과 std를 사용함.만약 HumanML3D에서 제공하는 mean과 std와 MotionDataset이 initialize될때 사용하는 mean과 std가 다르면 그 괴리 때문에 MotionGen모델이 이상한 latent를 학습할 수도 있음결론 : HumanML3D에서 제공하는 mean, std와 MotionPrior를 학습할때 사용한 mean, std가 다를수도
이 자식의 meta dir에 있는 mean과 std를 쓸것!
VAE Problems