Х1

0 х1

 

Управление системы S в графическом изображении

рис.2.2

В общем случае, когда состояние системы описывается n параметрами x_i (i=1,2,…,n), областью возможных состояний служит n-мерное пространство, а уравление изображается перемещением точкиS из какой-то начальной области S₀ в конечную S_kпо некоторой “траектории” этого пространства.

Таким образом, задаче динамического программирования можно дать следующую геометрическую интерпретацию. Из всех траекторий, принадлежащих области возможных состояний системы и соединяющих области S₀ и S_k , необходимо выбрать такую, на которой критерий W принимает оптимальное значение.[7].

Чтобы рассмотреть общее решение задач динамического программирования, введем обозначения и сделаем для дальнейших изложений предположения.

Будем считать, что состояние рассматриваемой системы S на K-м шаге (k=1,n) определяется совокупностью чисел X^(k) =(x₁ ^(k) , x₂^(k) ,…, x_n^(k) ), которые получены в результате реализации управления u_k, обеспечившего переход системы S из состояния X^(k-1) в состояние X^(k). При этом будем предполагать, что состояние X^(k) , в которое перешла система S , зависит от данного состояния

X^(k-1) и выбранного управления u_k и не зависит от того, каким образом система S пришла в состояние X^(k-1) .

Далее будем считать, что если в результате реализации k-го шага обеспечен определенный доход или выигрыш, также зависящий от исходного

состояния системы X^(k-1) и выбранного управления u_k и равный W_k(X^(k-1), u_k), то общий доход или выигрыш за n шагов составляет

n

F=∑ W_k(X^(k-1), u_k ). (2.1)

k=1

Таким образом, задача динамического программирования должна удовлетворять два условия. Первое условие обычно называют условием отсутствия последействия, а второе – условием аддитивности целевой функции задачи.

2.2 Информационно-методическое обеспечение метода

Выполнение для задачи динамического программирования первого условия позволяет сформулировать для нее принцип оптимальности Беллмана. Прежде чем сделать это, надо дать определение оптимальной стратегии управления. Под такой стратегией понимается совокупность управлений U*=(u₁*, u₂*, …, u_n*), в результате реализации которых система S за n шагов переходит из начального состояния X⁽⁰⁾  в конечное X^(k)  и при этом функция (2.1) принимает наибольшее значение.

Принцип оптимальности: какое бы не было состояние системы перед очередным шагом, надо выбрать управление на этом шаге так, чтобы выигрыш на данном шаге плюс оптимальный выигрыш на всех последующих шагах был максимальным.

Отсюда следует, что оптимальную стратегию управления можно получить, если сначала найти оптимальную стратегию управления на n-м шаге, затем на двух последних шагах, затем на трех последних шагах и т.д., вплоть до первого шага. Таким образом, решение рассматриваемой задачи динамического программирования целесообразно начинать с определения оптимального решения на последнем, n-м шаге. Для того чтобы найти это решение, очевидно, нужно сделать различные предположения о том, как мог окончиться предпоследний шаг, и с учетом этого выбрать управление u_n⁰ , обеспечивающее максимальное значение функции W_n(X^(n-1), u_n). Такое управление u_n⁰ выбранное при определенных предположениях о том, как окончился предыдущий шаг, называется условно оптимальным управлением. Следовательно, принцип оптимальности требует находить на каждом шаге условно оптимальное управление для любого из возможных исходов предшествующего шага.

Чтобы это можно было осуществить практически, необходимо дать математическую формулировку принципа оптимальности. Для этого введем некоторые дополнительные обозначения. Обозначим через F_n(X⁰) максимальный доход, получаемый за n шагов при переходе системы S из начального состояния X⁽⁰⁾ в конечное состояние X^(k) при реализации оптимальной стратегии управления U=(u₁, u₂, …, u_n), а через F_n-k(X^(k)) –максимальный доход, получаемый при переходе из любого состояния X^(k) в конечное состояние X⁽ⁿ⁾ при оптимальной стратегии управления на оставшихся n-k шагах. Тогда:

F_n(X⁰)=max[W₁(X⁽⁰⁾, u₁)+…+ W_n(X^(n-1), u_n)]; (2.2)

U_k+j

F_n-k(X^(k))=max[W_k+1(X^(k), u_k+1)+F_n-k-1(X^k+1))](k=0, n-1). (2.3)

 U_k+1

Последнее выражение представляет собой математическую запись принципа оптимальности и носит название основного функционального уравнения Беллмана или рекуррентного соотношения. Используя данное уравнение можно найти решение задачи динамического программирования.

Полагая k=n-1 в рекуррентном соотношении (2.3) , получим следующее функциональное уравнение:

F₁(X^(n-1)=max[W_n(X^(n-1), u_n)+F₀(X⁽ⁿ⁾)]. (2.4)

u_n

В этом уравнении F₀(X⁽ⁿ⁾) будем считать известным. Используя теперь уравнение (1.4) и рассматривая всевозможные допустимые состояния системы S на (n-1)-м шаге X₁^(n-1), X₂^(n-1), …, X_m^(n-1), …, находим условные оптимальные решения

u_n⁰(x₁^(n-1)), u_n⁰(x₂^(n-1)),…, u_n⁰(x_m^(n-1)),…

и соответствующие значения функции (2.4)

F₁⁰ (X₁^(n-1)), F₁⁰ (X₂^(n-1)), …, F₁⁰ (X_m^(n-1)),… .

Таким образом, на n-м шаге находим условно оптимальное управление при любом допустимом состоянии системы S после (n-1)-го шага. То есть, в каком бы состоянии система ни оказалась после (n-1)-го шага, будет известно, какое следует принять решение на n-м шаге. Известно также и соответствующее значение функции (2.4). Рассмотрим функциональное уравнение при k=n-2:

F₂(X^(n-1))=max[W_n-1(X^(n-2), u_n-1)+F₁(X^(n-1))]. (2.5)

 U_n-1

Для того чтобы найти значения F₂ для всех допустимых значений X^(n-2), необходимо знать W_n-1(X^(n-2), u_n-1) и F₁(X^(n-1)). Что касается значений F₁(X^(n-1)), то они уже определены.Поэтому нужно произвести вычисления для W_n-1(X^(n-2), u_n-1) при некотором отборе допустимых значений X^(n-2) и соответствующих управлений u_n-1 . Эти вычисления позволят определить условно оптимальное управление u⁰_n-1 для каждого X^(n-2) . Каждое из таких управлений совместно с уже выбранным управлением на последнем шаге обеспечивает максимальное значение дохода на двух последних шагах.

Последовательно осуществляя описанный выше итерационный процесс, дойдем до первого шага. На этом шаге известно, в каком состоянии может находиться система. Поэтому уже не требуется делать предположений о допустимых состояниях системы, а остается лишь только выбрать управление, которое является наилучшим с учетом условно оптимальных управлений, уже принятых на всех последующих шагах.

Таким образом, в результате последовательного прохождения всех этапов от конца к началу определяется максимальное значение выигрыша за n шагов и для каждого из них находим условно оптимальное управление.

Чтобы найти оптимальную стратегию управления, то есть определить искомое решение задачи, нужно теперь пройти всю последовательность шагов, только на этот раз от начала к концу. А именно: на первом шаге в качестве оптимального управления u₁* возьмем найденное условно оптимальное управление u₁⁰. На втором шаге найдем состояние X₁* , в которое переводит систему управление u₁*. Это состояние определяет найденное условно оптимальное u₂⁰ , которое теперь считается оптимальным. Зная u₂*, находим X₂*, а значит, определяем u₃* и т.д. В результате этого найдется решение задачи, то есть максимально возможный доход и оптимальную стратегию управления U*, включающую оптимальные управления на отдельных шагах: U*= (u₁*, u₂*, …, u_n*).

Итак, из нахождения решения задачи динамического программирования видно, что этот процесс является довольно громоздким. Поэтому более сложные задачи решают с помощью ЭВМ.[1].

Динамическую задачу по замене оборудования возможно также решить и графическим методом. На оси Х откладывают номер шага (к). на оси У – возраст оборудования (t). Точка (к-1;t) на плоскости соответствует началу К-ого шага по эксплуатации оборудования в возрасте t лет.

Любая траектория переводящая точку S(k-1;t) из состояния S₀ S^, . Состоит из отрезков, то есть из шагов соответствующих годам эксплуатации. Нужно выбрать такую траекторию при которой затраты на эксплуатацию будут минимальны. Если известны зависимость производительности установленного на предприятии оборудования от времени его использования R(t) и зависимость затрат на ремонт оборудования при различном времени его использования S(t) и затраты связанные с приобретением нового оборудования, то показателем эффективности в этом случае является прибыль которая максимизируется.