凸および凹関数

$ f:S \ rightarrow \ mathbb {R} $とします。ここで、Sは$ \ mathbb {R} ^ n $に設定された空でない凸であり、$ f \ left(x \ right)$はS上で凸であると言われます。 if $ f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ leq \ lambda f \ left(x_1 \ right)+ \ left(1- \ lambda \ right)f \ left( x_2 \ right)、\ forall \ lambda \ in \ left(0,1 \ right)$。

一方、$ f:S \ rightarrow \ mathbb {R} $とします。ここで、Sは$ \ mathbb {R} ^ n $に設定された空でない凸集合であり、$ f \ left(x \ right)$と言います。 $ f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ geq \ lambda f \ left(x_1 \ right)+ \ left(1- \ lambda \ right)の場合、S上で凹型になります)f \ left(x_2 \ right)、\ forall \ lambda \ in \ left(0、1 \ right)$。

$ f:S \ rightarrow \ mathbb {R} $とします。ここで、Sは$ \ mathbb {R} ^ n $に設定された空でない凸であり、$ f \ left(x \ right)$はS上で厳密に凸であると言われます。 if $ f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)<\ lambda f \ left(x_1 \ right)+ \ left(1- \ lambda \ right)f \ left(x_2 \ right)、\ forall \ lambda \ in \ left(0、1 \ right)$。

$ f:S \ rightarrow \ mathbb {R} $とします。ここで、Sは$ \ mathbb {R} ^ n $に設定された空でない凸であり、$ f \ left(x \ right)$はS上で厳密に凹であると言われます。 if $ f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)> \ lambda f \ left(x_1 \ right)+ \ left(1- \ lambda \ right)f \ left(x_2 \ right)、\ forall \ lambda \ in \ left(0、1 \ right)$。

  • 一次関数は凸面と凹面の両方です。

  • $ f \ left(x \ right)= \ left | x \ right | $は凸関数です。

  • $ f \ left(x \ right)= \ frac {1} {x} $は凸関数です。

定理

$ f_1、f_2、...、f_k:\ mathbb {R} ^ n \ rightarrow \ mathbb {R} $を凸関数とします。関数$ f \ left(x \ right)= \ displaystyle \ sum \ limits_ {j = 1} ^ k \ alpha_jf_j \ left(x \ right)$を考えてみましょう。ここで$ \ alpha_j> 0、j = 1、2,。 ..k、$の場合、$ f \ left(x \ right)$は凸関数です。

証明

$ f_1、f_2、... f_k $は凸関数なので、

したがって、$ f_i \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ leq \ lambda f_i \ left(x_1 \ right)+ \ left(1- \ lambda \ right)f_i \ left (x_2 \ right)、\ forall \ lambda \ in \ left(0、1 \ right)$および$ i = 1、2、....、k $

関数$ f \ left(x \ right)$について考えてみます。

したがって、

$ f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)$

$ = \ displaystyle \ sum \ limits_ {j = 1} ^ k \ alpha_jf_j \ left(\ lambda x_1 + 1- \ lambda \ right)x_2 \ leq \ displaystyle \ sum \ limits_ {j = 1} ^ k \ alpha_j \ラムダf_j \ left(x_1 \ right)+ \ left(1- \ lambda \ right)f_j \ left(x_2 \ right)$

$ \ Rightarrow f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ leq \ lambda \ left(\ displaystyle \ sum \ limits_ {j = 1} ^ k \ alpha _jf_j \ left( x_1 \ right)\ right)+ \ left(\ displaystyle \ sum \ limits_ {j = 1} ^ k \ alpha _jf_j \ left(x_2 \ right)\ right)$

$ \ Rightarrow f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ leq \ lambda f \ left(x_2 \ right)\ leq \ left(1- \ lambda \ right)f \左(x_2 \ right)$

したがって、$ f \ left(x \ right)$は凸関数です。

定理

$ f \ left(x \ right)$を凸集合$ S \ subset \ mathbb {R} ^ n $の凸関数とすると、Sの$ f \ left(x \ right)$の極小値はグローバル最小値。

証明

$ \ hat {x} $を$ f \ left(x \ right)$の極小値とし、$ \ hat {x} $は大域的最小値ではありません。

したがって、$ \は、$ f \ left(\ bar {x} \ right)<f \ left(\ hat {x} \ right)$となるようにS $に\ hat {x} \が存在します。

$ \ hat {x} $は極小値であるため、$ f \ left(\ hat {x} \ right)\ leqfのような近隣$ N_ \ varepsilon \ left(\ hat {x} \ right)$が存在します。 \ left(x \ right)、\ forall x \ in N_ \ varepsilon \ left(\ hat {x} \ right)\ cap S $

ただし、$ f \ left(x \ right)$はSの凸関数であるため、$ \ lambda \ in \ left(0、1 \ right)$の場合

$ \ lambda \ hat {x} + \ left(1- \ lambda \ right)\ bar {x} \ leq \ lambda f \ left(\ hat {x} \ right)+ \ left(1- \ lambda \ right)f \ left(\ bar {x} \ right)$

$ \ Rightarrow \ lambda \ hat {x} + \ left(1- \ lambda \ right)\ bar {x} <\ lambda f \ left(\ hat {x} \ right)+ \ left(1- \ lambda \右)f \ left(\ hat {x} \ right)$

$ \ Rightarrow \ lambda \ hat {x} + \ left(1- \ lambda \ right)\ bar {x} <f \ left(\ hat {x} \ right)、\ forall \ lambda \ in \ left(0 、1 \ right)$

しかし、いくつかの$ \ lambda <1 $で、1に近い場合、

$ \ lambda \ hat {x} + \ left(1- \ lambda \ right)\ bar {x} \ in N_ \ varepsilon \ left(\ hat {x} \ right)\ cap S $および$ f \ left( \ lambda \ hat {x} + \ left(1- \ lambda \ right)\ bar {x} \ right)<f \ left(\ bar {x} \ right)$

これは矛盾です。

したがって、$ \ bar {x} $はグローバルな最小値です。

碑文

Sを$ \ mathbb {R} ^ n $の空でないサブセットとし、$ f:S \ rightarrow \ mathbb {R} $とすると、epi(f)または$ E_f $で示されるfのエピグラフはサブセットです。 $ E_f = \ left \ {\ left(x、\ alpha \ right):x \ in \ mathbb {R} ^ n、\ alpha \ in \ mathbb {で定義される$ \ mathbb {R} ^ n + 1 $のR}、f \ left(x \ right)\ leq \ alpha \ right \} $

ハイポグラフ

Sを$ \ mathbb {R} ^ n $の空でないサブセットとし、$ f:S \ rightarrow \ mathbb {R} $とすると、hyp(f)または$ H_f = \ leftで表されるfのハイポグラフ\ {\ left(x、\ alpha \ right):x \ in \ mathbb {R} ^ n、\ alpha \ in \ mathbb {R} ^ n、\ alpha \ in \ mathbb {R}、f \ left( x \ right)\ geq \ alpha \ right \} $

定理

Sを$ \ mathbb {R} ^ n $の空でない凸集合とし、$ f:S \ rightarrow \ mathbb {R} ^ n $とすると、エピグラフ$ E_f $がである場合に限り、fは凸になります。凸集合。

証明

fを凸関数とします。

$ E_f $を表示することは、凸集合です。

$ \ left(x_1、\ alpha_1 \ right)、\ left(x_2、\ alpha_2 \ right)\ in E_f、\ lambda \ in \ left(0、1 \ right)$

$ \ lambda \ left(x_1、\ alpha_1 \ right)+ \ left(1- \ lambda \ right)\ left(x_2、\ alpha_2 \ right)\ in E_f $を表示するには

$ \ Rightarrow \ left [\ lambda x_1 + \ left(1- \ lambda \ right)x_2、\ lambda \ alpha_1 + \ left(1- \ lambda \ right)\ alpha_2 \ right] \ in E_f $

$ f \ left(x_1 \ right)\ leq \ alpha _1、f \ left(x_2 \ right)\ leq \ alpha _2 $

したがって、$ f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ leq \ lambda f \ left(x_1 \ right)+ \ left(1- \ lambda \ right)f \ left (x_2 \ right)$

$ \ Rightarrow f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ leq \ lambda \ alpha_1 + \ left(1- \ lambda \ right)\ alpha_2 $

コンバース

$ E_f $を凸集合とします。

fが凸であることを示す。

つまり、$ x_1、x_2 \ in S、\ lambda \ left(0、1 \ right)$かどうかを表示します

$ f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ leq \ lambda f \ left(x_1 \ right)+ \ left(1- \ lambda \ right)f \ left(x_2 \ right)$

$ x_1、x_2 \ in S、\ lambda \ in \ left(0、1 \ right)、f \ left(x_1 \ right)、f \ left(x_2 \ right)\ in \ mathbb {R} $

$ E_f $は凸集合であるため、$ \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2、\ lambda f \ left(x_1 \ right)+ \ left(1- \ lambda \ right)\右)f \ left(x_2 \ right)\ in E_f $

したがって、$ f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ leq \ lambda f \ left(x_1 \ right)+ \ left(1- \ lambda \ right)f \ left (x_2 \ right)$