Pontryagin 최대원리와 HJB 비교하기
결정적·확률적 금융제어에서 보조상태와 Hamiltonian 최적화가 가치함수와 동적계획법에 어떻게 대응하는지 설명합니다
Mark 작성 · 하단에 공식 출처 표기
한눈에 답하기
Pontryagin 최대원리는 Hamiltonian과 뒤로 움직이는 보조상태를 이용해 최적 상태·제어 경로가 만족할 필요조건을 줍니다. HJB는 동적계획법으로 모든 상태의 가치를 규정하며, 가치함수가 매끄러우면 두 관점이 서로 연결됩니다
두 방법보다 제어문제가 먼저입니다
상태 X는 제어 u에 따라 움직이고 목적함수는 기간 보상, 종결가치와 필요하면 위험이나 제약을 결합합니다
허용 제어에는 정보, 적분가능성, 상태한도와 의사결정이 피드백인지 개방루프인지가 명시돼야 합니다
목적이나 허용집합을 바꾸면 최대원리 조건과 HJB 방정식이 모두 달라집니다
Hamiltonian은 국소 선택의 결과를 값으로 만듭니다
제어 Hamiltonian은 순간 목적과 보조상태에 제어된 상태 드리프트를 곱한 항을 결합합니다
부호규약에 따라 Hamiltonian을 최대화하거나 최소화하므로 목적함수와 함께 규약을 밝혀야 합니다
여기서 Hamiltonian은 제어이론의 도구이며 역학의 에너지나 시장가격을 뜻하지 않습니다
상태와 보조상태가 전후방 계를 이룹니다
상태방정식은 후보 제어 아래 주어진 초기조건에서 앞으로 움직입니다
보조상태 방정식은 종결조건에서 뒤로 움직이며 상태를 조금 바꿀 때 목적이 변하는 한계가치를 측정합니다
후보 제어는 두 경로와 활성 제약에 결합된 Hamiltonian을 각 시점에서 최적화합니다
최대원리는 대개 필요조건입니다
정리의 가정 아래 최대조건을 어긴 경로는 최적일 수 없습니다
조건을 만족해도 전역 최적이라고 단정할 수 없으며 비볼록 목적은 국소 극값이나 여러 후보를 만들 수 있습니다
특정 문제에서는 오목성, 볼록성, 횡단조건과 제약정칙성이 후보 조건을 충분조건으로 강화합니다
확률제어에는 보조상태의 무작위성이 더해집니다
확산위험이 있으면 보조상태는 후방 확률과정이 되고 Hamiltonian에는 무작위 충격 노출이 들어갑니다
제어가 비볼록한 확산계수에 들어가면 일반 확률 최대원리에는 이차 보조항까지 필요할 수 있습니다
결정론 공식과 닮았다는 이유로 이 항을 빼면 잘못된 일차조건을 얻을 수 있습니다
HJB는 한 경로가 아니라 모든 상태를 다룹니다
HJB는 Bellman 재귀에서 출발해 시간과 전체 상태공간의 가치함수를 구하는 비선형 방정식입니다
Pontryagin은 후보 최적경로를 상태·보조상태 방정식으로 따라가며 PDE 문제를 경계값 계로 줄이기도 합니다
가치가 매끄러우면 보조상태는 흔히 최적경로 위 가치 기울기와 대응하지만 부호와 정칙성 규약을 확인해야 합니다
금융에서는 두 관점을 조건부로 사용합니다
포트폴리오 선택, 최적 주문집행, 시장조성, 재고제어와 비용이 있는 헤징을 두 방식으로 모두 표현할 수 있습니다
HJB는 상태별 피드백 정책에 적합하고 최대원리는 고차원이나 경로제약이 있는 문제에서 편리할 수 있습니다
허용가능성, 경계조건, 이차조건과 모형·목적함수 오류에 대한 견고성을 반드시 검증해야 합니다
자주 묻는 질문
Pontryagin 최대원리는 최적성의 충분조건인가요?
일반적으로 필요조건이며 특정 문제에서 오목성, 볼록성, 정칙성 등을 더해야 충분조건이 됩니다
Pontryagin과 HJB는 어떻게 다른가요?
전자는 후보 경로 위 상태와 보조상태를 다루고 후자는 상태공간 전체의 최적가치를 구합니다
보조상태 변수란 무엇인가요?
후보 최적경로를 따라 상태를 조금 바꿀 때 목적함수가 변하는 한계효과를 측정하는 수반변수입니다
금융에서는 최대원리를 어디에 사용하나요?
포트폴리오 제어, 주문집행, 시장조성, 헤징, 소비 선택과 상태·경로 제약 문제에 사용합니다