Why BPTT ≈ Costate?

BPTT 역방향 패스가 폰트랴긴 공상태를 복원하는 원리.

PG-DPO 뒤의 기술 노트입니다. 시간 역전파(BPTT)의 역방향 패스는 시간 이산화된 제어 문제의 경로별 이산 수반(adjoint)을 계산합니다. 정상성과 마팅게일-투영 일관성 하에서, 이 이산 수반은 수반 BSDE — 연속시간 폰트랴긴 공상태 — 로 수렴합니다. 아래 도식이 이 대응 관계를 구체적으로 보여줍니다.

Why BPTT ≈ Costate — 도식 1
Why BPTT ≈ Costate — 도식 2
Why BPTT ≈ Costate — 도식 3
Why BPTT ≈ Costate — 도식 4
Why BPTT ≈ Costate — 도식 5
Why BPTT ≈ Costate — 도식 6
Why BPTT ≈ Costate — 도식 7

← 연구로 돌아가기