Tất cả hướng dẫn quyền chọn
Hai góc nhìn về kiểm soát tối ưu15 phút đọc

Giải thích về Nguyên lý cực đại Pontryagin so với HJB

So sánh costate và phép cực đại Hamilton với hàm giá trị và quy hoạch động trong kiểm soát tài chính tất định và ngẫu nhiên

Biên soạn bởi Mark · Nguồn chính ở bên dưới

Câu trả lời trực tiếp

Nguyên lý cực đại Pontryagin sử dụng Hamilton và costate chạy ngược để đưa ra các điều kiện cần dọc theo một quỹ đạo tối ưu. HJB đặc trưng hóa giá trị trên mọi trạng thái bằng quy hoạch động; các nghiệm trơn kết nối hai góc nhìn

Bài toán kiểm soát có trước cả hai phương pháp

Một trạng thái X tiến triển dưới tác động của kiểm soát u, trong khi một mục tiêu kết hợp phần thưởng theo thời gian, giá trị cuối kỳ và có thể cả rủi ro hoặc ràng buộc

Các kiểm soát khả chấp phải chỉ rõ thông tin, tính khả tích, giới hạn trạng thái và việc quyết định sử dụng phản hồi hay vòng hở

Thay đổi mục tiêu hoặc tập khả chấp làm thay đổi cả các điều kiện của nguyên lý cực đại lẫn phương trình HJB

Hamilton định giá các hệ quả cục bộ

Một Hamilton kiểm soát kết hợp mục tiêu theo thời gian với costate nhân với độ trôi của trạng thái được kiểm soát

Quy ước dấu quyết định Hamilton được cực đại hóa hay cực tiểu hóa, vì vậy quy ước phải được nêu cùng với mục tiêu

Hamilton ở đây là một đối tượng của lý thuyết kiểm soát và không nên nhầm với năng lượng trong cơ học hoặc giá thị trường

Trạng thái và costate tạo thành một hệ xuôi-ngược

Phương trình trạng thái tiến về phía trước từ điều kiện ban đầu dưới tác động của kiểm soát ứng viên

Phương trình costate tiến về phía sau từ điều kiện cuối kỳ và đo giá trị biên của việc làm nhiễu trạng thái

Kiểm soát ứng viên tối ưu hóa Hamilton tại từng điểm, liên kết với cả hai quỹ đạo và mọi ràng buộc đang hoạt động

Nguyên lý thường là một phép kiểm tra cần

Một quỹ đạo vi phạm điều kiện cực đại không thể là tối ưu theo các giả định của định lý

Một quỹ đạo thỏa mãn điều kiện đó chưa chắc tối ưu toàn cục; mục tiêu không lồi có thể tạo ra cực trị cục bộ hoặc nhiều ứng viên

Tính lõm, tính lồi, điều kiện xuyên qua và các điều kiện đủ về ràng buộc có thể biến các điều kiện ứng viên thành kết quả đủ trong những bối cảnh đặc biệt

Kiểm soát ngẫu nhiên bổ sung tính ngẫu nhiên liên hợp

Với rủi ro khuếch tán, biến liên hợp trở thành một quá trình ngẫu nhiên chạy ngược và Hamilton bao gồm mức phơi nhiễm với các cú sốc ngẫu nhiên

Nếu kiểm soát đi vào hệ số khuếch tán không lồi, các hạng biến liên hợp bậc hai có thể cần thiết trong nguyên lý cực đại ngẫu nhiên tổng quát

Bỏ các hạng đó chỉ vì công thức tất định trông quen thuộc có thể cho ra điều kiện bậc nhất sai

HJB mô tả mọi trạng thái, không phải một quỹ đạo

HJB là một phương trình phi tuyến cho hàm giá trị trên thời gian và không gian trạng thái, được xây dựng từ phép đệ quy của Bellman

Pontryagin theo dõi một tối ưu ứng viên bằng các phương trình trạng thái và costate, thường rút gọn bài toán PDE thành một hệ bài toán biên

Khi giá trị trơn, costate thường khớp với gradient của giá trị dọc theo quỹ đạo tối ưu, tùy thuộc các quy ước về dấu và tính chính quy

Tài chính sử dụng cả hai góc nhìn một cách thận trọng

Lựa chọn danh mục, thực hiện tối ưu, tạo lập thị trường, kiểm soát tồn kho và hedge có chi phí có thể được xây dựng theo một trong hai hướng

HJB hỗ trợ các chính sách phản hồi trên các trạng thái; nguyên lý cực đại có thể thuận tiện trong không gian nhiều chiều hoặc với các ràng buộc theo quỹ đạo

Luôn xác minh tính khả chấp, điều kiện biên, điều kiện bậc hai và độ vững trước việc chỉ định sai mô hình hoặc mục tiêu

Câu hỏi thường gặp

Nguyên lý cực đại Pontryagin có đủ để chứng minh tính tối ưu không?

Nhìn chung, nguyên lý đưa ra các điều kiện cần; tính lõm, tính lồi và tính chính quy bổ sung có thể khiến chúng trở thành điều kiện đủ trong những bài toán cụ thể

Pontryagin khác HJB như thế nào?

Pontryagin nghiên cứu trạng thái và costate dọc theo một quỹ đạo ứng viên, còn HJB giải giá trị tối ưu trên toàn bộ không gian trạng thái

Biến costate là gì?

Đó là một biến liên hợp đo tác động biên của mục tiêu khi thay đổi trạng thái dọc theo tối ưu ứng viên

Nguyên lý cực đại được sử dụng ở đâu trong tài chính?

Nguyên lý xuất hiện trong kiểm soát danh mục, thực hiện lệnh, tạo lập thị trường, hedge, lựa chọn tiêu dùng và các bài toán có ràng buộc trạng thái hoặc quỹ đạo

Nguồn và tài liệu đọc thêm

Hướng dẫn liên quan