ПРЕДЕЛЬНОЕ МНОЖЕСТВО

C(f, z₀; S).функции f(x): G Q, определенной в области со значениями на сфере Римана W, в точке по множеству , - множество значений , для к-рых существуют такие последовательности точек , n=1, 2, . . .; , что

Каждое значение наз. предельным значением функции f в точке z₀ по множеству S. Теория П. м.- это раздел теории функций, в котором граничные свойства функций изучаются в терминах топологических и метрических свойств различных П. м.

Если в качестве множества S взята вся область G, то получается полное предельное множество С(f, z₀; G)=C(f,z₀); в случаях строгого включения соответствующие П. м. C(f, z₀; S).иногда наз. частными. Полное П. м. C(f, z₀) всегда замкнуто; если функция f непрерывна на множестве S, локально связном в точке , то П. м. С(f, z₀; S).либо вырожденное, т. е. состоит из одной точки, либо является невырожденным континуумом. Если П. м. С(f, z₀; S).совпадает с W, то оно наз. тотальным П. м. Значение принадлежит множеству повторяющихся значений R(f, z₀; S).функции f в точке z₀ по множеству S, если существует такая последовательность точек , n=1, 2, . . ., , что a=f(z_n), n=1, 2, ....

Всегда . Еслл для нек-рого а Q в области G существует путь L: z=z(t),0t<1, оканчивающийся в точке и такой, что , то а наз. асимптотическим значением функции f в точке z₀ (вдоль пути L). Асимптотическое множество A(f, z₀; G) - это совокупность всех асимптотич. значений f в точке z₀.

Понятие П. м. было впервые явно сформулировано П. Пенлеве в 1895 (под названием "область неопределенности", см. [1]) в связи с изучением поведения аналитич. ции вблизи ее особой точки и классификацией особенностей таких функций. С тех пор в теории П. м. изучаются в основном три геометрически простейших случая: а) z₀ - изолированная точка границы FrG или внутренняя точка G; б) G=D={|z|<1} - единичный круг или, вообще, нек-рая жорданова область, а z₀ - точка границы Г=FrD; в) граница E=FrG есть всюду разрывный компакт на плоскости (т. е. вполне несвязный компакт, не содержащий никакого невырожденного континуума) и . Ряд классич. результатов . теории аналитич. ций допускает формулировку в терминах П. м. Напр., Сохоцкого теорема в несколько усиленной форме: если z₀ - изолированная точка всюду разрывного компакта и f(z) - меромбрфная функция на GE, то П. м. C(f, z₀; GE).либо вырожденное, либо тотальное. Дополнительно к этому Пикара теорема утверждает, что в случае, когда C(f,z₀; GE).тотально, т. е. когда z₀ - существенно особая точка, множество CR(f, z₀; GE).WR(f, z₀; GE).содержит не более двух различных значений. В этом же случае

(Иверсена теорема).

Основной из результатов, касающийся теории поведения мероморфных функций вблизи "тощей" границы (теории Пенлеве), состоит в следующем (см. [1], [2]): если множество Е Gимеет линейную хаусдорфову меру нуль, m(E)=m₁ (E)=0, и функция f мероморфна в GE, то в каждой точке z₀EП. м. C(f, z₀; GE).либо вырожденное, либо тотальное; более того, в первом случае f мероморфна и в точке z₀. Таким образом, точка z₀ Е, в к-рой П. м. C(f, z₀; GE).вырожденное, является устранимой особой точкой функции f; изучение устранимых множеств различных классов функций можно рассматривать как раздел теории П. м.

Важным усилением теоремы Пикара является теорема Голубев а: если и f мероморфна в GE, то в любой существенно особой точке множество CR(f, z₀; GE).имеет аналитическую емкость нуль (и, следовательно, плоскую меру m₂( СR)=0).

Началом теории П. м. в случае непрерывной границы можно считать работу П. Фату (P. Fatou, 1906) о граничных значениях функций f(z), голоморфных в единичном круге D={|z|<1}Х Если такая функция f ограничена в D, то почти всюду (в смысле меры Лебега) на окружности Г={|z|=1} она имеет радиальные и угловые граничные значения (теорема Фату). Для произвольной точки пусть h(z,j) обозначает хорду круга D, оканчивающуюся в z и образующую с радиусом, проведенным в эту точку, угол раствора j, -p/2<j<p,/2. И пусть D(z, j₁, j₂) - угловая область с вершиной , состоящая из всех точек круга D, заключенных между двумя хордами

h(z, j_1:) и h(z, j₂), - p/2 <j₁ < j₂ < p/2.

Точку наз. точкой Фату и относят к множеству F(f), если объединение

по всем угловым областям Д(E, ф ₁₍ ф ₂) состоит из единственного значения , наз. угловым граничным значением функции / в точке E. Иная формулировка теоремы Фату состоит в том, что для ограниченной голоморфной в круге Dфункции / справедливо разложение . Результат дополняется теоремой единственности Ф. и М. Р и с с о в (1916): если / голоморфна и ограничена в круге В и на нек-ром множестве , mes М>0, имеет угловое граничное значение j(Q=a, , то . Это утверждение было независимо доказано Н. Н. Лузиным и И. И. Приваловым (1919), к-рые существенно распространили его также на случай произвольных мероморфных функций. В том же году Н. Н. Лузин и И. И. Привалов опубликовали граничную теорему единственно с-т и для случая радиальных граничных значений: если голоморфная в Dфункция / на множестве Мвторой категории и метрически плотном на нек-рой дуге имеет одно и то же радиальное граничное значение

, то есть , то /(z)=a.

В 1936 И. И. Привалов отметил, что утверждение /(z)=const остается в силе и в том случае, когда значения не обязательно одинаковы в точках , но принадлежат нек-рому множеству (логарифмической) емкости нуль. Основная идея и элементы доказательства теорем Лузина - Привалова применимы и в общем случае непрерывных отображений f круга D, что и было позднее использовано во многих работах.

Точку zГ= {|z| = 1} наз. точкой Плеснера и относят к множеству I(f), если пересечение

но всем угловым областям D(z, j₁, j₂) с вершиной z совпадает с W. В 1927 А. И. Плеснер доказал, что для любой мероморфной в круге Dфункции f почти все точки окружности Г принадлежат либо F(f), либо I(f), то есть , mes E=0. Точку наз. точкой Мейера и относят к множеству M(f), если C(f,z; D)W и пересечение хордальных П. м. по всем хордам, проведенным в точку z, совпадает с С(f,z; D). К. Мейер (К. Meier, 1961) установил следующий аналог теоремы Плеснера в терминах категории по Бэру: если f мероморфна в D, то все точки окружности Г, за возможным исключением множества Епервой категории, принадлежат объединению . Получено уточнение теоремы Мейера, согласно к-рому Еесть множество первой категории и типа F_s (см. [12] - [14], где получены усиления теорем Плеснера и Мейера, а также даны обращение теоремы Мейера и характеризация множества M(f)).

Работа П. Фату послужила первоначальным толчком к развитию фундаментальных исследований граничных свойств аналитич. ций. Исследования Ф. и М. Риссов, Н. Н. Лузина, И. И. Привалова, Р. Неванлинны (R. Nevanlinna), А. И. Плеснера, В. И. Смирнова и др. проводились независимо от идей П. Пенлеве, и для них характерно использование методов, связанных с теорией меры и теорией интегрирования, с понятием категории по Бэру (см. [4] - [9]).

Основным объектом исследований Ф. Иверсена (F. Iversen) и В. Гросса (W. Gross) были также мероморфные функции f в области Dс жордановой границей Г=Fr D. В произвольной точке граничное предельное множество С(f,z₀; Г) определяется следующим образом: если М _r обозначает замыкание объединения по всем точкам

то . Одна из основных теорем, полученных независимо Ф. Иверсеном и В. Гроссом, утверждает, что при указанных условиях в каждой точке множество

C_i(f,z₀; D) = C(f,z₀; D)C(f,z₀; Г)

открыто и все значения , за возможными двумя исключениями, принадлежат множеству повторяющихся значений R(f,z₀; D);кроме того, каждое исключительное значение (если таковые существуют) является асимптотич. значением функции f в точке z₀.

Исследования Ф. Иверсена и В. Гросса получили свое дальнейшее развитие в работах А. Бёрлинга (A. Beurling), В. Зайделя (W. Seidel, он и ввел термин "П. м." в 1932) и др. (см. [5] - [9]). Рассматривались в основном случаи, когда z₀ принадлежит нек-рому "малому" множеству Еточек границы Г нулевой линейной меры или нулевой емкости, и изучалось П. м. С(f,z₀; ГЕ), определяемое аналогично множеству C(f,z; Г). В этих исследованиях использовались и методы теории потенциала.

Новейшие результаты в этом направлении сформулированы ниже для случая круга D={|z|<l}. Пусть фиксировано множество Ена дуге g границы Г= {|z| =1}, mes E=0,. Каждой точке отнесем жорданову дугу , оканчивающуюся в z.

Пусть -замыкание объединения по всем точкам

и пусть Тогда множество

S(z₀) = C(f,z; D)C*(f,z; ГE)

открыто, множество S(z₀)R(f,z; D)имеет емкость нуль, а каждое значение является асимптотическим значением функции f либо в точке z₀, либо в каждой точке нек-рой последовательности . Если емкость Еравна нулю, то для каждой связной компоненты S_k(z₀), k=1, 2, . . ., множества S(z₀) множество S_k(z₀)R(f,z₀; D)состоит самое большее из двух различных значений.

С помощью нормальных семейств была доказана теорема Линделёфа: если голоморфная функция f ограничена в круге Dи имеет асимптотич. значение ав точке , то она имеет в этой же точке значение айв качестве углового граничного значения. Нормальность семейства F={f(z)}мероморфных функций f(z) в области Gможно характеризовать в терминах т. н. сферической производной

Именно, семейство Fнормально тогда и только тогда, когда сферич. производные , равномерно ограничены внутри G, т. е. для любого компакта можно указать такую постоянную С=С (К), что

Однако наиболее важный вклад нормальных семейств в теорию П. м. формулируется при помощи понятия нормальной функции. Мероморфная в односвязной области Gфункция f(z) наз. нормальной функцией в G, если нормально семейство {f(S(z))}, где Sпробегает семейство всех конформных автоморфизмов области G; f(z).нормальна в многосвязной области G, если она нормальна на универсальной накрывающей поверхности G. Мероморфная функция f(z) в круге D={|z|<1} нормальна тогда и только тогда, когда существует константа , такая, что

Здесь левая часть есть элемент длины в т. н. хордальной метрике на сфере Римана W для отображения w=f(z), а стоящее в правой части выражение ds(z)=|dz|/(l-|z|²) есть элемент длины в гиперболич. метрике круга D. Ограниченные голоморфные функции и мероморфные функции, не принимающие трех различных значений, являются нормальными функциями, и нек-рые свойства функций названных классов переносятся на произвольные нормальные функции. Напр., для произвольной нормальной функции справедливо утверждение теоремы Линделёфа. Класс всех нормальных мероморфных функций в круге Dимеет нек-рое сходство с классом ограниченного вида функций. Однако имеются и существенные различия. Напр., существуют нормальные мероморфные функции без асимптотич. значений, а следовательно и без радиальных граничных значений, чего не может быть для функций ограниченного вида. Важные исследования аспмнтотич. значений были проведены Дж. МакЛейном (G. R. MacLane, см. [7], [9]). Теория МакЛейна позволила получить новые доказательства известных ранее свойств нормальных функций; так, напр., множество точек , в к-рых нормальная голоморфная функция f(z) имеет асимптотич. значение, а следовательно и угловое граничное значение, плотно на Г.

С понятием нормальности тесно связано распределение значений мероморфных функций. Последовательность {z_n} точек z_n единичного круга , наз. Р- последовательностью для меро-морфной функции f(z) в D, если для любой ее бесконечной подпоследовательности и для любого e>0 множество

состоит самое большее из двух значений. Показано, что f обладает хотя бы одной P-последовательностью в том и только в том случае, если

Таким образом, распределение значений мероморфной функции f(z) связано со строением П. м. непрерывной функции q_f(z).

Существенные продвижения имеются в теории П. м. общих отображений . Так, еще в 1955 была доказана теорема о точках неопределенности: для произвольного отображения точки , в к-рые можно провести две непрерывные кривые и такие, что

образуют самое большее счетное множество. Теорема максимальности Коллингвуда: пусть L₀ - произвольный континуум в круге Dтакой, что , и пусть континуум L_q получается из L₀ поворотом на угол q вокруг начала координат; тогда для произвольного отображения f:DW точки , в к-рых

образуют множество первой категории на Г. Точку относят к множеству С(f), если П. м. C(f,z; D).совпадает с пересечением

по всем угловым областям с вершиной z. Доказано [10], что

для произвольного отображения f : DW, где Е - множество типа F_s и первой категории. Обратно, для произвольного множества типа F_s и первой категории существует голоморфная и ограниченная в Dфункция f(z), для к-рой E=ГC(f). Множество С(I).является подмножеством множества K(f), состоящего из таких точек , в к-рых

для любых двух угловых областей D(z, j₁, j₂) и D(z, j^'₁, j^'₂). Пусть и . Для данного e>0 пусть r(z, e, E).обозначает длину наибольшей открытой дуги на Г, лежащей в дуговой e-окрестности точки z и не имеющей общих точек с Е;если такой дуги нет, то полагают r(z, e, Е)=0. Множество Еназ. пористым на Г, если для любой точки

s-пористое множество есть объединение не более чем счетного числа пористых множеств. Всякое s-пористое множество есть множество первой категории и линейной меры нуль. Для произвольного отображения справедливо равенство Г=, где Еесть а-пористое множество типа G_ds. Обратно, для произвольного s-пористого множества Есуществует голоморфная и ограниченная в Dфункция f(z), для к-рой .

О теории П. м. для функций многих комплексных переменных см., напр., [15] - [17].

Лит.:[1] Рainleve P., Legons sur la theorie analytique des equations differentielles..., P., 1897; [2] Zoretti L., Lemons sur le prolongement analytique..., P., 1911; ЕЗ] Голубев В. В., Однозначные аналитические функции. Автоморфные функции, М., 1961; [4]Привалов. И. И., Граничные свойства аналитических функций, 2 изд., М.- Л., 1950; [5] Носиро Киоси, Предельные множества, пер. с англ., М., 1963; [6] Коллингвуд Э., Ловатер А., Теория предельных множеств, пер. с англ., М., 1971; [7] Мак-Лейн Г., Асимптотические значения голоморфных функций, пер. с англ., М., 1966; [8] Маркушевич А. И., Тумаркин Г. Ц., Хавинсон С. Я., в кн.: Исследования по современным проблемам теории функций комплексного переменного, М., 1961, с. 100-10; [9] Ловатер А., в кн.: Итоги науки и техники. Математический анализ, т. 10, М., 1973, с. 99-259; [10] Долженко Е. П., "Изв. АН СССР. Сер. матем.", 1967, т. 31, № 1, с. 3-14; [11] его же, "Ann. Math.", 1976, v. 2, p. 191-201; [12] Гаврилов В. И., "Докл. АН СССР", 1974, т. 216, № 1, с. 21-23; [13] Гаврилов В. И., Канатников А. Н., там же, 1977, т. 233, № l, с. 15-17; [14] Канатников А. Н., там же, 1978, т. 238, № 5, с. 1043-1046; [15] Рудин У., Теория функций в поликруге, пер. с англ., М., 1974; [16] Xенкин Г. М., Чирка Е. М., в кн.: Итоги науки и техники. Современные проблемы математики, т. 4, М., 1975, с. 13-142; [17] Rudin W., Function theory in the unit ball of C". N.Y. -[e.a.], 1980.

В. И. Гаврилов, Е. Д. Соломенцев.