У. У. Жамилов, У. А. Розиков, О динамике стро- го невольтерровских квадратичных стохастических опе- раторов на двумерном симплексе, Матем. сб. , 2009, том 200, номер 9, 81–94

Math-Net.Ru

Общероссийский математический портал

У. У. Жамилов, У. А. Розиков, О динамике стро- го невольтерровских квадратичных стохастических опе- раторов на двумерном симплексе, Матем. сб. , 2009, том 200, номер 9, 81–94

DOI: https://doi.org/10.4213/sm3962

Использование Общероссийского математического портала Math-Net.Ru под- разумевает, что вы прочитали и согласны с пользовательским соглашением http://www.mathnet.ru/rus/agreement

Параметры загрузки:

IP: 178.128.90.69

3 ноября 2022 г., 16:28:18

УДК 517.988.52

У. У. Жамилов, У. А. Розиков

О динамике строго невольтерровских квадратичных стохастических операторов на двумерном симплексе

Для произвольного строго невольтерровского квадратичного операто- ра на двумерном симплексе доказана единственность неподвижной точки.

Доказано, что эта точка непритягивающая. Дано описаниеω-предельного множества траектории для некоторых подклассов таких операторов. По- казано, что в отличие от вольтерровских операторов строго невольтерров- ские операторы имеют циклические траектории. Для двух конкретных операторов доказано, что существует циклическая траектория с перио- дом 3, и всякая траектория, начинающаяся на границе симплекса, схо- дится к этой циклической траектории, а траектории с начальной точкой (не неподвижной), лежащей внутри симплекса, расходятся;ω-предельное множество такой траектории бесконечно и лежит на границе симплекса.

Также изучены подклассы строго невольтерровских операторов, траекто- рии которых в пределе стремятся к циклической траектории с периодом 2.

Библиография: 18 названий.

Ключевые слова: квадратичные стохастические операторы, симп- лекс, траектория.

§ 1. Введение

Одна из основных задач при исследовании динамической системы состоит в изучении эволюции состояния системы. Обычно “потомки” состояния сис- темы определяются некоторым законом. Для решения задач, возникающих в математической генетике, используются квадратичные стохастические опе- раторы. Квадратичные операторы привлекают внимание специалистов в раз- личных областях математики и ее приложений (см., например, [1]–[17]). Поня- тие квадратичного стохастического оператора впервые было сформулировано в статье [5]. В работе С. Улама [6] была поставлена задача изучения поведе- ния траекторий квадратичных стохастических операторов. Эта задача в ос- новном решается для вольтерровских операторов (см. [1]–[4], [12], [15]). Но класс невольтерровских операторов изучен мало. В настоящей работе изуча- ются квадратичные стохастические операторы, которые будем называть стро- го невольтерровскими. Заметим, что класс строго невольтерровских опера- торов является подклассом невольтерровских операторов. Так как нет общей теории, изучающей такие операторы, то естественно вначале изучать их под- классы. Мотивацию рассмотрения произвольных (не только вольтерровских) квадратичных стохастических операторов можно найти, например, в [8], [10], [11], [14]. Результаты настоящей работы показывают, что динамика строго

⃝c У. У. Жамилов, У. А. Розиков, 2009

невольтерровских операторов намного богаче, чем динамика вольтерровских операторов. Следовательно, каждый строго невольтерровский квадратичный оператор является интересным примером в теории многомерных нелинейных динамических систем с разнообразным поведением траекторий.

Структура работы следующая. В §2 дается определение строго невольтер- ровского оператора и описывается вид произвольного строго невольтерровского оператора на двумерном симплексе S². Такие отображения образуют трехпа- раметрическое семейство. Изучению неподвижных точек таких операторов по- священ §3. Здесь показывается, что произвольный строго невольтерровский оператор на двумерном симплексе имеет единственную неподвижную точку.

В §4доказывается, что эта точка не может быть притягивающей, следователь- но, почти все траектории расходятся или сходятся к некоторой циклической траектории. В §5изучается вопрос о структуреω-предельного множества тра- екторий строго невольтерровских операторов на S². Этот вопрос решен для строго невольтерровских операторов, у которых один из параметров варьиру- ется, а другие два принимают крайние значения (теорема2, п. 2)), и рассмотрен один конкретный пример (теорема2, п. 1)). Кроме того, для одного однопара- метрического семейства изучена структураω-предельного множества траекто- рий с начальными точками вблизи устойчивого 2-цикла, а также на локальном устойчивом многообразии неподвижной точки (теорема 2, п. 3)). Во всех слу- чаях доказано, что ω-предельное множество последовательности (траектории) может быть конечным (имеющим более чем один элемент) множеством. Это существенное отличие строго невольтерровского оператора от вольтерровского, так как в последнем случае расходящиеся траектории имеют только бесконеч- ное множество ω-предельных точек (см. [1]). В §6 обсуждаются полученные результаты и сравниваются с известными результатами для вольтерровских операторов.

§ 2. Определения

ПустьE={1,2, . . . , n}. Множество Sⁿ⁻¹=

x= (x₁, . . . , x_n)∈Rⁿ :x_i>0,

n

X

i=1

x_i= 1

называется (n−1)-мерным симплексом. Каждый элемент x ∈ Sⁿ⁻¹ являет- ся вероятностной мерой на E, и его можно интерпретировать как состояние биологической (физической и т.п.) системы, состоящей из nэлементов.

Квадратичный стохастический оператор V:Sⁿ⁻¹→Sⁿ⁻¹ имеет вид V :x^′_k=

n

X

i,j=1

p_ij,kx_ix_j, (1)

где

pij,k >0, pij,k=pji,k,

n

X

k=1

pij,k = 1. (2)

В настоящее время хорошо развита теория вольтерровских квадратичных операторов (см. [1]–[4], [12]), т.е. операторов (1), (2) с условием

pij,k= 0 при k /∈ {i, j}, i, j, k= 1, . . . , n. (3) Определение 1. Квадратичный оператор (1),(2) назовем строго неволь- терровским, если

pij,k= 0 при k∈ {i, j}, i, j, k= 1, . . . , n. (4) Заметим, что строго невольтерровские операторы существуют только при n>3, так как приn= 2 условия (2) и (4) одновременно не выполняются.

В настоящей работе мы рассмотрим случай n = 3. Тогда произвольный строго невольтерровский оператор имеет вид

V :











x^′₁=αx²₂+cx²₃+ 2x2x3, x^′₂=ax²₁+dx²₃+ 2x1x3, x^′₃=bx²₁+βx²₂+ 2x₁x₂,

(5)

где

α, β, a, b, c, d>0, α+β=a+b=c+d= 1. (6) Замечание 1. Вид оператора (5) для случая α=β =a=b =c=d= 1/2 Р. Мухитдинову был сообщен У. Розиковым. В [13] показано, что этот оператор имеет единственную неподвижную точку(1/3,1/3,1/3).

§ 3. Единственность неподвижной точки

Неподвижная точка оператора (5) есть решение уравнения V(x) = x, т.е.

решение системы











x1=αx²₂+cx²₃+ 2x2x3, x₂=ax²₁+dx²₃+ 2x₁x₃, x3=bx²₁+βx²₂+ 2x1x2.

(7)

Теорема 1. Для любых α, β, a, b, c, d >0, α+β = a+b =c+d = 1, опе- ратор (5)имеет единственную неподвижную точку λ^∗= (x^∗₁, x^∗₂, x^∗₃)∈S².

Доказательство. Рассмотрим все возможные случаи.

Случай a ̸= 0, α ̸= 0. Подставляя x₁ = 1 −x₂ −x₃ в первое уравнение системы (7), получаем

αx²₂+ (2x3+ 1)x2+cx²₃+x3−1 = 0. (8) Из (8) получаем

x₂= −2x₃−1 +p

4(1−αc)x²₃+ 4(1−α)x₃+ 1 + 4α

2α >0, (9)

где x₃ ∈ 0,

√1+4c−1 2c

, если c ̸= 0, и x₃ ∈ [0,1], если c = 0. Аналогично, из второго уравнения системы (7) получаем

x1= −2x3−1 +p

4(1−ad)x²₃+ 4(1−a)x₃+ 1 + 4a

2a >0, (10)

где x₃ ∈ 0,

√1+4d−1 2d

, если d ̸= 0, и x₃ ∈ [0,1], если d = 0. Следовательно, система (7) может иметь решение только при

x3∈

0,

√1 + 4c−1 2c

∩

0,

√1 + 4d−1 2d

,

если c ̸= 0, d ̸= 0. В силу (6) c и d не могут быть одновременно равными нулю. Если один из них равен нулю, скажемc= 0, то система (7) может иметь решение только приx3∈

0,

√1+4d−1 2d

. Подставляя (9) и (10) вx1+x2+x3= 1, получаем (x=x3)

f(x) =x, (11)

где

f(x) =αp

4(1−ad)x²+ 4(1−a)x+ 1 + 4a 2(α+a−αa)

+ap

4(1−αc)x²+ 4(1−α)x+ 1 + 4α−α−a−2αa

2(α+a−αa) .

Имеем

f^′(x) = α[2(1−ad)x+ 1−a]

(α+a−aα)p

4(1−ad)x²+ 4(1−a)x+ 1 + 4a + a[2(1−αc)x+ 1−α]

(α+a−aα)p

4(1−αc)x²+ 4(1−α)x+ 1 + 4α>0, f^′′(x) = 2aα

α+a−aα

6−d−(4d+ 1)a

p[4(1−ad)x²+ 4(1−a)x+ 1 + 4a]³ + 6−c−(4c+ 1)α

p[4(1−αc)x²+ 4(1−α)x+ 1 + 4α]³

>0.

Эти неравенства следуют из (6) и из легко проверяемых неравенств α+a−aα >0, 6−d−(4d+ 1)a>0, 6−c−(4c+ 1)α>0.

Следовательно, функцияf возрастает и выпуклая. Кроме того, f(0) = a(√

1 + 4α−1−α) +α(√

1 + 4a−1−a) 2(α+a−aα) >0, f(1) = α√

9−4ad+a√

9−4αc−α−a−2aα 2(α+a−aα) <1.

Последнее неравенство следует из√

9−4ad63,√

9−4αc63. Следовательно, уравнение (11) имеет единственное решениеx^∗=x^∗₃. Подставляяx^∗₃в (9) и (10), получимx^∗₂и x^∗₁.

Случаиa= 0,α̸= 0иa̸= 0, α= 0. Они проверяются аналогично.

Случайa= 0,α= 0. Система (7) имеет вид











x1=cx²₃+ 2x2x3, x2=dx²₃+ 2x1x3, x₃= (x₁+x₂)².

(12)

Используя равенствоx1+x2= 1−x3, легко проверить, что система (12) имеет единственное решение

x^∗₁= (7−3√

5)c+ 4√ 5−8 2(4−√

5) , x^∗₂= (3√

5−7)c+√ 5−1 2(4−√

5) , x^∗₃= 3−√ 5 2 . Теорема1 доказана.

§ 4. Тип неподвижной точки

В этом параграфе проверим тип неподвижной точки λ^∗ ≡ λ^∗(α, a, c) = (x^∗₁, x^∗₂, x^∗₃)(см. теорему1).

Определение 2 (см. [18]). Если Якобиан J оператора V в неподвижной точке λ^∗ не имеет собственного значения на единичной окружности, то точка λ^∗ называетсягиперболической.

Определение 3 (см. [18]). Гиперболическая неподвижная точка λ^∗ назы- вается:

притягивающей, если все абсолютные величины собственных значений мат- рицы Якоби J(λ^∗)меньше единицы;

отталкивающей, если все абсолютные величины собственных значений мат- рицы Якоби J(λ^∗)больше единицы;

седловой, в остальных случаях.

Чтобы определить тип неподвижной точки для оператора (5), запишем его в виде

(x^′₁=cx²₁+ (α+c−2)x²₂+ 2(c−1)x1x2+ 2(1−c)x2−2cx1+c,

x^′₂= (a+d−2)x²₁+dx²₂+ 2(d−1)x1x2+ 2(1−d)x1−2dx2+d, (13) где(x₁, x₂)∈ {(x, y) :x, y>0,06x+y61}, аx₁,x₂– первые две координаты точек симплекса S².

Собственные значения матрицы Якоби оператора (13) в точкеλ^∗имеют вид µ1,2=−1±√

D, где

D≡D(α, a, c) = 1−4(1−αc)x^∗₂x^∗₃−4(1−ad)x^∗₁x^∗₃−4(1−bβ)x^∗₁x^∗₂. (14) Замечание 2. |µ₁| = |µ₂| = 1 при D = 0 (точка λ^∗ негиперболическая);

|µ1| < 1 < |µ2| при D > 0 (точка λ^∗ седловая); |µ1| > 1, |µ2| >1 при D < 0 (точка λ^∗ отталкивающая). Так как притягивающий случай невозможен, то

для любого начального λ⁰ ∈ S² сходимость (или ее отсутствие) траектории λ⁽ⁿ⁾=V(λ⁽ⁿ⁻¹⁾),n= 1,2, . . .,λ⁽⁰⁾=λ⁰, не следует из общей теории динамиче- ских систем. Поэтому проблема требует более подробного изучения. Интересно описать множествоω-предельных точек для каждой траектории{λ⁽ⁿ⁾}. (Этой проблеме посвящен §5).

Замечание 3. Точка λ^∗ гиперболическая, если D ̸= 0. Легко проверить, что D=D(1/2,1/2,1/2) = 0. Задача описания множества параметров(α, a, c), при которыхD= 0, оказалась достаточно сложной. (В конце этого параграфа мы решим эту задачу в классе параметровα=a,c= 1/2.)

Рассмотрим случайα=a >0,c= 1/2. Тогда уравнение (11) примет вид p2(2−a)x²+ 4(1−a)x+ 1 + 4a= (2−a)x+a+ 1. (15) Единственное решение уравнения (15) имеет вид

x=x3=3−a−√ 5−2a 2−a .

Легко проверить, чтоx₃∈[0,1]для любого0< a61. Следовательно,λ^∗имеет вид

λ^∗ =λ^∗

a, a,1 2

= √

5−2a−1 2(2−a) ,

√5−2a−1

2(2−a) ,3−a−√ 5−2a 2−a

.

В этом случае

D=D

a, a,1 2

= 9−2a−4√ 5−2a.

Заметим, что D(a, a,1/2) > 0 и D(a, a,1/2) = 0 тогда и только тогда, когда a= 1/2.

Замечание 4. В случае α = a = 0 и произвольного c ∈ [0,1] легко про- верить, что D(0,0, c) = 9−4√

5 > 0. Кроме того, можно проверить, что D(α, a, c) > −1/3. Эта оценка неулучшаема, так как D(0,1,1) = −1/3 < 0.

Таким образом, D может принимать как отрицательные, так и неотрицатель- ные значения.

Эти результаты приводят к следующей гипотезе.

Гипотеза 1. D(α, a, c) = 0тогда и только тогда, когдаα=a=c= 1/2.

§ 5. ω-предельное множество

В теории динамических систем очень важна задача описания ω-предельно- го множества траектории. В этом параграфе мы решим эту проблему при некоторых дополнительных ограничениях на параметры.

Пусть λ⁰ = (λ⁰₁, λ⁰₂, λ⁰₃) ∈ S² – начальная точка и {λ⁽ⁿ⁾, n = 0,1,2, . . .} – траектория точкиλ⁰при действии оператора (5), т.е.

λ⁽ⁿ⁾= (λ⁽ⁿ⁾₁ , λ⁽ⁿ⁾₂ , λ⁽ⁿ⁾₃ ) =V(λ⁽ⁿ⁻¹⁾), n= 1,2, . . . , λ⁽⁰⁾=λ⁰.

Обозначим через ω(λ⁰) ω-предельное множество траектории {λ⁽ⁿ⁾, n = 0,1, 2, . . .}. Поскольку {λ⁽ⁿ⁾} ⊂ S², а S² компактно, мы имеем ω(λ⁰) ̸= ∅. За- метим, что еслиω(λ⁰)содержит единственную точку, то траектория сходится к этой точке, она же является неподвижной точкой для оператораV, заданного формулой (5).

Для того чтобы систематически описать множествоω(λ⁰), рассмотрим опе- ратор (5) как семейство операторов с параметрами (6). Сопоставим операто- ру (5) матрицуM =α c

a d b β

, где элементы матрицы удовлетворяют условию (6).

Обозначим M =





 M =



 α c a d b β



: α, β, a, b, c, d>0, α+β=a+b=c+d= 1





 .

Обозначим через0(M)число нулей в матрицеM. Заметим, что060(M)63 для любого M ∈M. Пусть

Mi={M ∈M : 0(M) =i}, i= 0,1,2,3.

Две матрицыM1, M2∈M назовемэквивалентными и обозначимM1∼M2, если виды соответствующих операторов совпадают с точностью до переобозна- чения координат и параметров. Разобьем множествоMiна классы эквивалент- ности относительно этого отношения эквивалентности. Заметим, что

M3={M3⁽¹⁾,M3⁽²⁾}, где

M3⁽¹⁾ =







M ∈M3:M ∼



 0 1 1 0 0 1











, M3⁽²⁾=







M ∈M3:M ∼



 0 0 0 1 1 1









 .

ДляM2имеем M2={M2^(j), j= 1,2,3}, где M2⁽¹⁾=







M ∈M2:M ∼



 0 0 a 1 b 1











, M2⁽²⁾=







M ∈M2:M ∼



 0 c 0 d 1 1









 ,

M2⁽³⁾=







M ∈M2:M ∼



 0 c 1 d 0 1









 .

По построению ясно, что траектории операторов V1 и V2, соответствующих M1∼M2, совпадают с точностью до переобозначения параметров и координат предельных точек. Поэтому основной результат этого параграфа сформули- руем для операторов, соответствующих какому-то одному представителю из каждого класса Mi^(j). Обозначим черезe1= (1,0,0), e2= (0,1,0), e3= (0,0,1) вершины симплексаS², обозначим также

intS²={x= (x₁, x₂, x₃)∈S²:x₁x₂x₃>0}, ∂S²=S²\intS².

Теорема 2. 1)Оператор,соответствующий матрице_{0 1}

1 0 0 1

∈M3⁽¹⁾,име- ет единственную циклическую траекторию {e₁, e₂, e₃}, т.е. V(e₁) = e₂, V(e2) =e3, V(e3) =e1. Для любого λ⁰ ∈∂S² ω-предельное множество име- ет вид ω(λ⁰) ={e₁, e₂, e₃}. Точнее,траектория, начинающаяся в произволь- ной точке λ⁰ ∈ ∂S², сходится к циклической траектории {e1, e2, e3}. Для λ⁰∈intS²\ {λ^∗} ω-предельное множество траектории бесконечно и лежит на границе симплекса.

2)В случае_0c

0d 1 1

∈M2⁽²⁾ существует единственная циклическая траекто- рия {(c, d,0), e₃}. Для любогоλ⁰∈S² ω-предельное множество имеет вид

ω(λ⁰) =

({(c, d,0), e₃}, еслиλ⁰₃̸=x^∗₃, {λ^∗}, еслиλ⁰₃=x^∗₃. 3)В случае_{0 0}

a1 b1

∈M2⁽¹⁾существуют инвариантная криваяγ,проходящая черезλ^∗,и такое открытое множествоS_∗²,что {e2, e3} ⊂S²_∗⊂S²\ {γ}. Для любого λ⁰ ∈ S_∗² ω-предельное множество имеет вид ω(λ⁰) = {e2, e₃}. Если λ⁰∈γ,то ω(λ⁰) ={λ^∗}.

Доказательство. 1) Приα= 0,a=c= 1оператор (5) имеет вид

V :











x^′₁=x₃(x₃+ 2x₂), x^′₂=x1(x1+ 2x3), x^′₃=x2(x2+ 2x1).

(16)

Сначала изучим траекторию для начальных точек из границы симплекса:

пусть λ⁰ = (0, ε,1−ε)∈∂S² (случаиλ⁰₂= 0 и λ⁰₃ = 0изучаются аналогично), где ε∈[0,1]. Легко видеть, что

λ⁽ⁿ⁾=λ⁽ⁿ⁾(ε) =











(0, ε²ⁿ,1−ε²ⁿ), еслиn= 3k,

(1−ε²ⁿ,0, ε²ⁿ), еслиn= 3k+ 1, k= 0,1,2, . . . . (ε²ⁿ,1−ε²ⁿ,0), еслиn= 3k+ 2,

Следовательно,

ω(λ⁰) ={e1, e2, e3} при λ⁰∈∂S². (17) Пусть теперьλ⁰∈intS²\ {λ^∗}. В этом случае докажем, чтоλ⁽ⁿ⁾₁ λ⁽ⁿ⁾₂ λ⁽ⁿ⁾₃ →0 приn→ ∞. Дляλ= (λ1, λ2, λ3)∈intS²обозначим

ϕ(λ) =λ1λ2λ3, ψ(λ) = (1 +λ2−λ1)(1 +λ3−λ2)(1 +λ1−λ3).

Легко проверить, чтоϕ(V(λ))6ϕ(λ)ψ(λ)6ϕ(λ), так какψ(λ)61. Последнее неравенство следует из классического неравенства между средним арифмети- ческим и средним геометрическим. Равенство (т.е.ψ(λ) = 1) выполняется толь- ко в том случае, когда

1 +λ2−λ1= 1 +λ3−λ2= 1 +λ1−λ3.

Отсюда λ1=λ2=λ3= 1/3. Таким образом, max

x∈S²ψ(x) =ψ(λ^∗) = 1 ⇐⇒ λ^∗= 1

3,1 3,1

3

. (18)

Следовательно, ϕ(λ⁽ⁿ⁺¹⁾)6ϕ(λ⁽ⁿ⁾)иlimn→∞ϕ(λ⁽ⁿ⁾) =η.

Докажем, что η= 0. Пусть η >0; тогда 1 = lim

n→∞

ϕ(λ⁽ⁿ⁾)

ϕ(λ⁽ⁿ⁻¹⁾) = lim

n→∞(1 +λ⁽ⁿ⁾₂ −λ⁽ⁿ⁾₁ )(1 +λ⁽ⁿ⁾₃ −λ⁽ⁿ⁾₂ )(1 +λ⁽ⁿ⁾₁ −λ⁽ⁿ⁾₃ )

= lim

n→∞ψ(λ⁽ⁿ⁾). (19)

Теперь докажем, что если η >0, тоλ⁽ⁿ⁾ →λ^∗ = (1/3,1/3,1/3) при n→ ∞.

Предположим обратное, т.е. существует{nk}k=1,2,... такая, что

k→∞lim λ^(nk)=ν̸=λ^∗. (20)

В силу непрерывностиψиз (18) и (20) получаем lim

k→∞ψ(λ^(nk)) =ψ(ν)<1. (21)

Так какν ̸=λ^∗, то неравенство (21) противоречит равенству (19). Отсюда

n→∞lim λ⁽ⁿ⁾₁ = lim

n→∞λ⁽ⁿ⁾₂ = lim

n→∞λ⁽ⁿ⁾₃ =1 3.

Но это невозможно, так как единственная неподвижная точка λ^∗ = (1/3,1/3, 1/3) оператора (16) отталкивающая. Таким образом,

n→∞lim λ⁽ⁿ⁾₁ λ⁽ⁿ⁾₂ λ⁽ⁿ⁾₃ = 0. (22) Так как ϕ(λ) = λ1λ2λ3 > 0, если λ ∈ intS², то равенство ϕ(λ) = 0 может выполняться только на∂S². Из (22) получимω(λ⁰)⊂∂S².

Теперь докажем, что ω(λ⁰)– бесконечное множество для∀λ⁰∈intS²\ {λ^∗}.

Для этого рассмотрим оператор

B:











x^′₁=x1(x1+ 2x3), x^′₂=x₂(x₂+ 2x₁), x^′₃=x3(x3+ 2x2).

(23)

Для λ∈S² обозначим черезωB(λ) ω-предельное множество последовательно- сти{B⁽ⁿ⁾(λ)}. В [15] доказано, что для любогоλ∈intS²,λ̸=λ^∗,ω-предельное множество ωB(λ) траектории точки λ бесконечно и лежит на границе симп- лекса.

Теперь установим связь между операторами V (см. (16)) иB. Рассмотрим перестановку

π=

1 2 3 3 1 2

.

Определим отображениеTπ:S²→S² как

Tπ(x) = (x_π(1), x_π(2), x_π(3)) = (x3, x1, x2).

Легко проверить, что:

(i)V(x) =B(Tπ(x));

(ii)B⁽ⁿ⁾T_π=T_πB⁽ⁿ⁾ ∀n>1;

(iii)

V⁽ⁿ⁾=











B⁽ⁿ⁾, еслиn= 3k,

TπB⁽ⁿ⁾, еслиn= 3k+ 1, k= 0,1,2, . . . , T_π2B⁽ⁿ⁾, еслиn= 3k+ 2,

(24)

где π²=π⁻¹= ^{1 2 3}_{2 3 1} .

Заметим, что для любого λ∈S² и при каждом ν ∈ωB(λ) множествоω(λ) содержит хотя бы один элемент из {ν, T_πν, T_π2ν}. Действительно, пусть ν ∈ ωB(λ), т.e. существует последовательность{nk}k=1,2,... такая, чтоB^(nk)(λ)→ν приk→+∞. Ясно, что по меньшей мере одна из последовательностей

{n_k}_k=1,2,...∩ {3m}m=0,1,2,..., {n_k}_k=1,2,...∩ {3m+ 1}m=0,1,2,..., {nk}k=1,2,...∩ {3m+ 2}m=0,1,2,...

бесконечна. Пусть для определенности

{n_k}_k=1,2,...∩ {3m}m=0,1,2,...={n_kp}_p=1,2,...

является бесконечной последовательностью. Тогда из формулы (24) получим, что V^(nkp)(λ)→ν приp→ ∞, т.e. ν∈ω(λ). Следовательно,

|ω(λ)|>|ωB(λ)|, (25) где |A|обозначает число элементов множестваA. Так как в (25) |ωB(λ)|=∞, то получаем |ω(λ)|=∞.

2) При α=a= 0 оператор (5) имеет вид

V :











x^′₁=x₃(2x₂+cx₃), x^′₂=x3(2x1+dx3), x^′₃= (1−x3)².

(26)

Изучим поведение третьей координатыx⁽ⁿ⁾₃ . В силу третьего равенства из (26) траектория x⁽ⁿ⁾₃ задается динамической системой ψ(x) = (1−x)². Заметим, что ψ имеет единственную неподвижную точку x^∗₃ = (3−√

5)/2 и эта точка отталкивающая, т.е. |ψ^′(x^∗₃)|>1. Кроме того, функция ψ(ψ(x))имеет только три неподвижные точки: 0, x^∗₃, 1. Точки 0 и 1 являются притягивающими.

Таким образом,

n→∞lim x⁽²ⁿ⁾₃ =











0, еслиx⁰₃∈[0, x^∗₃), x^∗₃, еслиx⁰₃=x^∗₃, 1, еслиx⁰₃∈(x^∗₃,1],

n→∞lim x⁽²ⁿ⁺¹⁾₃ =











1, еслиx⁰₃∈[0, x^∗₃), x^∗₃, еслиx⁰₃=x^∗₃, 0, еслиx⁰₃∈(x^∗₃,1].

(27)

Заметим, что прямая {x ∈ S² : x3 = x^∗₃} инварианта относительно опе- ратора (26). На этом инварианте траектория оператора имеет вид λ⁽ⁿ⁾ = (λ⁽ⁿ⁾₁ ,1−λ⁽ⁿ⁾₁ −x^∗₃, x^∗₃), гдеλ⁽ⁿ⁾₁ удовлетворяет равенству

λ⁽ⁿ⁺¹⁾₁ =x^∗₃(2−(2−c)x^∗₃−2λ⁽ⁿ⁾₁ ). (28) Из (28) легко получаем, что limn→∞λ⁽ⁿ⁾₁ =x^∗₁. Заметим, что V((c, d,0)) =e3, V(e3) = (c, d,0). Более того,V((λ1, λ2,0)) =e3. Эти равенства вместе с фор- мулой (27) завершают доказательство п. 2).

3) При α=c= 0оператор (5) имеет вид

V :











x^′₁= 2x₂x₃,

x^′₂= (a−1)x²₁+ (1−x2)², x^′₃= (b−1)x²₁+ (1−x3)².

(29)

Замечание 5. Оператор (29) имеет устойчивый цикл{e₂, e₃}, а неподвиж- ная точкаλ^∗ оператора (29) седловая (см. ниже), отсюда (см. [18; c. 216–217]) следует п. 3) теоремы 2.

Докажем, что единственная неподвижная точка λ^∗ = (x^∗₁, x^∗₂, x^∗₃) операто- ра (29) седловая, т.е. |µ₁| < 1, |µ₂| > 1. Для этого необходима следующая лемма.

Лемма. 1)Первая координатаx^∗₁ принадлежит множеству 4√

5−6 11 ; 2−√

3

.

2)D(0, a,0) – положительное число (см. (14)).

Доказательство. Для удобства обозначим x = x^∗₁, y = x^∗₂, z = x^∗₃. Ра- венство V(λ^∗) =λ^∗ примет вид











x= 2yz,

y= (1−y)²−bx², z= (1−z)²−ax².

(30)

1) x= 2yz6(1−x)²/2. Отсюдаx62−√

3. Из (30) получаем y= 3−√

5 + 4bx²

2 , z=3−√

5 + 4ax²

2 . (31)

В силу (31) из условия x+y+z= 1и системы (30) получаем

4abx⁴= 11x²+ 12x−4. (32)

Заметим, что уравнение (32) имеет решение тогда и только тогда, когда11x²+ 12x−4>0, т.e.x>(4√

5−6)/11.

2) Из формулы (14) в силу (30) получаем

D(0, a,0) = 1−2x−4x(ay+bz) = 1−8x+ 2x4abx²+ 4x+ 4 x+ 2 , откуда в силу уравнения (32) и п. 1) леммы получаем

D(0, a,0) = 15x²+ 26x−8

x(x+ 2) >0, если 4 15 < 4√

5−6

11 6x62−√ 3.

Лемма доказана.

Замечание 6. Из (4√

5−6)/116x62−√

3следует, чтоx=x^∗₁ ≈0.2677, где x^∗₁ – первая координата неподвижной точкиλ^∗.

Из леммы следует, что λ^∗– седловая точка оператора (29). Таким образом, теорема2 доказана.

На основе компьютерных вычислений можно сформулировать следующую гипотезу.

Гипотеза 2. Имеет место равенствоS_∗²=S²\ {γ}.

Для любого оператора V, соответствующего матрице изM0∪M1∪M2⁽³⁾, очевидно, что V(intS²)⊂intS², т.е.λ⁽ⁿ⁾∈intS² для любогоλ⁰∈intS². При любыхλ⁰∈∂S²имеет место

λ⁽ⁿ⁾∈intS², гдеn>2.

Эти выводы и компьютерные вычисления приводят к следующей гипотезе.

Гипотеза 3. В случаях



 0 c 1 d 0 1



∈M2⁽³⁾,



 0 c a d b 1



∈M1,



 α c a d b β



∈M0

для любогоλ⁰∈S²\ {λ^∗}множествоω-предельных точек удовлетворяет вклю- чениюω(λ⁰)⊂intS², т.е.ω(λ⁰)∩∂S²=∅.

§ 6. Обсуждения

Условие (4) имеет такой смысл: “потомки” kне повторят признаки “родите- лей” i,j. С точки зрения биологии естественно ожидать, что “потомки” таких систем не имеют стабильной структуры, так как “потомки” теряют все свой- ства своих “родителей”. Результат настоящей работы (теорема 2) дает строго

математическое доказательство этого явления. Случай α = a = c = 1/2 со- ответствует равновероятностному появлению потомков. В статистической ме- ханике такие системы называются неупорядоченными системами. Сравнивая свойства строго невольтерровских операторов со свойствами вольтерровских операторов (см. [1]–[11]), легко убедиться, что свойства траекторий этих опе- раторов существенно различаются.

У. А. Розиков благодарит The Abdus Salam International Center for Theoretical Physics (ICTP; г. Триест, Италия) за финансовую поддержку его пребывания в ICTP в июне–августе 2008 г. Авторы благодарят Р. Н. Ганиходжаевa, Н. Н. Га- ниходжаевa и Ф. М. Мухамедовa за полезные дискуссии, а также благодарят рецензента, замечания которого значительно улучшили стиль и содержание работы.

Список литературы

[1] Р. Н. Ганиходжаев, “Квадратичные стохастические операторы, функции Ляпу- нова и турниры”, Матем. сб., 183:8 (1992), 119–140; англ. пер.: R. N. Gani- khodzhaev, “Quadratic stochastic operators, Lyapunov functions, and tournaments”, Russian Acad.Sci.Sb.Math.,76:2 (1993), 489–506.

[2] Р. Н. Ганиходжаев, А. Т. Саримсаков, “Математическая модель каолиции биоло- гических систем”,Докл.АН УзССР, 1992, № 3, 14–17.

[3] Р. Н. Ганиходжаев, “Об одном семействе квадратичных стохастических операто- ров, действующих вS²”,Докл.АН УзССР, 1989, № 1, 3–5.

[4] Р. Н. Ганиходжаев, Д. Б. Эшмаматова, “Квадратичные автоморфизмы симплекса и асимптотическое поведение их траекторий”, Владикавказ.матем.журн.,8:2 (2006), 12–28.

[5] С. Н. Бернштейн, “Решение одной математической проблемы, связанной с теори- ей наследованности”, Ученые записки науч.-исслед.кафедры Украины.Отделе- ние матем., 1924, № 1, 83–115.

[6] S. M. Ulam, A collection of mathematical problems, New York–London, Interscience Publ., 1960.

[7] С. С. Валландер, “О предельном поведении последовательности итераций неко- торых квадратичных преобразований”, Докл.АН СССР, 202:3 (1972), 515–517;

англ. пер.: S. S. Vallander, “On the limit behavior of iteration sequences of certain quadratic transformations”,Soviet Math.Dokl.,13(1972), 123–126.

[8] Ю. И. Любич,Математические структуры в популяционной генетике, Наукова думка, Киев, 1983.

[9] R. D. Jenks, “Quadratic differential systems for interactive population models”, J.Differential Equations,5:3 (1969), 497–514.

[10] H. Kesten, “Quadratic transformations: a model for population growth. I”,Advances in Appl.Probability,2:1 (1970), 1–82.

[11] H. Kesten, “Quadratic transformations: a model for population growth. II”,Advances in Appl.Probability,2:2 (1970), 179–228.

[12] Ф. М. Мухамедов, “О бесконечномерных квадратичных вольтерровских опера- торах”, УМН, 55:6 (2000), 149–150; англ. пер.: F. M. Mukhamedov, “Infinite- dimensional quadratic Volterra operators”, Russian Math. Surveys, 55:6 (2000), 1161–1162.

[13] Р. Т. Мухитдинов, “О строго невольтерровском квадратичном операторе”, Тези- сы докладов международной конференции “Операторные алгебры и квантовая теория вероятностей” (Ташкент, 2005), Университет, Ташкент, 2005, 134–135.

[14] J. Hofbauer, K. Sigmund,The theory of evolution and dynamical systems.Mathemat- ical aspects of selection, London Math. Soc. Stud. Texts,7, Cambridge Univ. Press., Cambridge, 1988.

[15] Н. Н. Ганиходжаев, Д. В. Занин, “Об одном необходимом условии эргодичности квадратичных операторов, определенных на двумерном симплексе”, УМН,59:3 (2004), 161–162; англ. пер.: N. N. Ganikhodzhaev, D. V. Zanin, “On a necessary condition for the ergodicity of quadratic operators defined on the two-dimensional simplex”,Russian Math.Surveys,59:3 (2004), 571–572.

[16] N. N. Ganikhodzhaev, U. A. Rozikov, “On quadratic stochastic operators generated by Gibbs distributions”,Regul.Chaotic Dyn.,11:4 (2006), 467–473.

[17] У. А. Розиков, У. У. Жамилов, “F-квадратичные стохастические операторы”,Ма- тем.заметки, 83:4 (2008), 606–612; англ. пер.: U. A. Rozikov, U. U. Zhamilov,

“F-quadratic stochastic operators”,Math.Notes,83:3–4 (2008), 554–559.

[18] R. L. Devaney, An introduction to chaotic dynamical systems, Stud. Nonlinearity, Westview Press, Boulder, CO, 2003.

У. У. Жамилов (U. U. Zhamilov)

Институт математики и информационных технологий НАН Узбекистана, г. Ташкент

E-mail:jamilovu@yandex.ru У. А. Розиков (U. A. Rozikov)

Институт математики и информационных технологий НАН Узбекистана, г. Ташкент

E-mail:rozikovu@yandex.ru, rozikovu@mail.ru

Поступила в редакцию 30.10.2007 и 28.04.2009