Опр.1.
, где
выпуклое множество, называется выпуклой на этом множестве, если
(1)
Замечание.
1) Если в (1) при
равенство выполняется только для
, то f-строго выпуклая.
2) f-вогнута, если – f - выпукла.
Теорема 1 (неравенство Иенсена). Если
,
выпуклые, то
(2)






