В. С. Атабекян, Нормальные автоморфизмы свобод- ных бернсайдовых групп, Изв. РАН. Сер. матем., 2011, том 75, выпуск 2, 3–18

Math-Net.Ru

Общероссийский математический портал

В. С. Атабекян, Нормальные автоморфизмы свобод- ных бернсайдовых групп, Изв. РАН. Сер. матем., 2011, том 75, выпуск 2, 3–18

DOI: https://doi.org/10.4213/im4256

Использование Общероссийского математического портала Math-Net.Ru под- разумевает, что вы прочитали и согласны с пользовательским соглашением http://www.mathnet.ru/rus/agreement

Параметры загрузки:

IP: 139.59.245.186

6 ноября 2022 г., 23:32:52

УДК 512.54+512.543+512.544.43

В. С. Атабекян

Нормальные автоморфизмы свободных бернсайдовых групп

Доказано, что для произвольного нечетного n > 1003 и m > 1 каж- дый автоморфизм свободной бернсайдовой группыB(m, n), который ста- билизирует любую максимальную нормальную подгруппу N E B(m, n) бесконечного индекса, является внутренним автоморфизмом. Для тех же значений m иn установлено, что подгруппа внутренних автоморфизмов группыAut(B(m, n))является максимальной среди всех тех подгрупп, по- рядки элементов которых ограничены числомn.

Библиография: 29 наименований.

Ключевые слова: свободная бернсайдова группа, нормальный авто- морфизм, внутренний автоморфизм, максимальная подгруппа, неабелева простая группа.

§ 1. Введение

Относительно свободная группа ранга m многообразия всех групп, удовле- творяющих тождественному соотношению xⁿ = 1, обозначается черезB(m, n) и называетсясвободной периодическойилисвободной бернсайдовой группой пе- риода nи рангаm. Более просто:

B(m, n) =⟨a₁, a₂, . . . , a_m; xⁿ= 1⟩.

Известная теорема С. И. Адяна [1] утверждает, что для всех нечетных n>

665 иm >1 группаB(m, n)бесконечна (решение проблемы Бернсайда). Клю- чевые результаты о свободных периодических группах, полученные в [1], по- казывают, что группыB(m, n)при нечетныхn>665обладают многими свой- ствами, аналогичными свойствам абсолютно свободных групп (подробнее об этом см. [2]–[7]).

Из теоремы С. И. Адяна о том, что центр группыB(m, n)для всех нечетных n > 665 и m > 1 тривиален (см. [1, гл. VI, теорема 3.3]), следует, что груп- па B(m, n) изоморфна группе своих внутренних автоморфизмов. В терминах так называемых “точных последовательностей” это означает, что последова- тельность гомоморфизмов

0→B(m, n),→Aut(B(m, n))Aut(B(m, n))/Inn(B(m, n))→0

является точной, где Inn(B(m, n))– группа внутренних автоморфизмов груп- пыB(m, n). Отметим, что факторгруппаAut(B(m, n))/Inn(B(m, n))обознача- ется черезOut(B(m, n))и называетсягруппой внешних автоморфизмовгруп- пы B(m, n).

Работа выполнена при финансовой поддержке РФФИ (грант № 08-01-91958-ННИО_а).

⃝c В. С. Атабекян, 2011

Определение 1. Пусть G – произвольная группа, ϕ ∈ Aut(G) – авто- морфизм группы G и H – подгруппа группы G. Автоморфизм ϕ назовем H-стабильным автоморфизмом, если ϕ(H) = H, при этом H называется ϕ-допустимой подгруппой.

Рассмотрим произвольное семейство K подгрупп группы G. Всевозмож- ные H-стабильные автоморфизмы при H ∈K составляют подгруппу группы Aut(G). Она называетсястабилизатором семействаK и обозначается

Aut_K(G){ϕ∈Aut(G)|ϕ(H) =H ∀H ∈K}.

Пусть N = N (G) – множество всех нормальных подгрупп группы G и M ⊂N . Легко заметить, что тогда выполнены следующие вложения:

Inn(G)EAut_N(G)6Aut_M(G)6Aut(G).

Каждый автоморфизм из Aut_N(G) принято называть нормальным автомор- физмом. Таким образом, при данном нормальном автоморфизмеϕ∈ Aut(G) любая нормальная подгруппа группы G ϕ-допустима, и наоборот. Ясно, что еслиN –ϕ-допустимая нормальная подгруппа группыG, то автоморфизмомϕ индуцируется некоторый автоморфизм факторгруппы G/N.

А. Любоцкий в [8] и А. Лю в [9] доказали, что каждый нормальный ав- томорфизм нециклической абсолютно свободной группы F является внутрен- ним, т. е. имеет место равенство Inn(F) = Aut_N(F). Соответствующее равен- ство было доказано в разные годы для различных интересных классов групп (см. [10]–[18]). В частности, М. В. Нещадим доказал в [17], усиливая результаты работ [8] и [9], что каждый нормальный автоморфизм свободного произведения нетривиальных групп является внутренним. В связи с этим результатом отме- тим, что аналогичное утверждение неверно дляn-периодических произведений групп, введенных С. И. Адяном в [19]. Например, рассмотримn-периодическое произведение⟨a⟩k

n∗ ⟨b⟩kдвух циклических групп порядкаk, гдеkиn– взаимно простые нечетные числа и n>665. Согласно [20, теорема 1] группа⟨a⟩_kⁿ∗ ⟨b⟩_k является простой, поэтому каждый ее автоморфизм нормальный. В силу прин- ципа симметричности (см. [1, гл. 1, § 5, п. 3]) отображение a → a⁻¹, b → b⁻¹ порождает нормальный автоморфизм порядка 2 группы ⟨a⟩k

n∗ ⟨b⟩k. Однако он не является внутренним, так как согласно [19, теорема 7] каждый внутренний автоморфизм группы⟨a⟩_kⁿ∗ ⟨b⟩_k имеет нечетный порядок, точнее, его порядок делит либо k, либо n. Добавим, что поскольку ⟨a⟩2

n∗ ⟨b⟩2 = ⟨a⟩2 ∗ ⟨b⟩2, то Inn(⟨a⟩2

n∗ ⟨b⟩2) = Aut_N(⟨a⟩2 n∗ ⟨b⟩2).

Представляет интерес следующий

Вопрос 1. Верно ли,что каждый нормальный автоморфизмn-периодиче- ского произведения нетривиальных групп периода nявляется внутренним?

А. Минасян и Д. Осин в [18] показали, что если G – нециклическая отно- сительно гиперболическая группа без нетривиальных конечных нормальных подгрупп, то Inn(G) = Aut_N(G).

E. А. Черепанов в [21] доказал, что при достаточно больших нечетных n, n > 10⁷⁸, группы нормальных автоморфизмов и внутренних автоморфизмов группы B(m, n) совпадают. В настоящей работе мы докажем, что это утвер- ждение распространяется на автоморфизмы свободных бернсайдовых групп

произвольного нечетного периода n>1003. Отметим, что вопрос об исследо- вании групп автоморфизмов свободных периодических групп достаточно боль- шого нечетного периода был поставлен А. Ю. Ольшанским в 1982 г. (см. [22, вопрос 8.53.а]).

Определение 2. Автоморфизм ϕ группы G назовем M-нормальным, ес- ли для любой максимальной нормальной подгруппы N группы Gвыполнено равенство ϕ(N) =N.

В работах [23], [24] было установлено, что не только множество нормаль- ных подгрупп, но и множество максимальных нормальных подгрупп груп- пыB(m, n)континуально. Основным результатом настоящей работы является следующая

Теорема 1. Для любого нечетного числаn>1003каждыйM-нормальный автоморфизм свободной бернсайдовой группы B(m, n)ранга m >1 (конечного или бесконечного)является внутренним автоморфизмом.

Следствие 1. Для любого нечетного числаn>1003 каждый нормальный автоморфизм свободной бернсайдовой группы B(m, n)ранга m >1 (конечного или бесконечного)является внутренним автоморфизмом.

Следствие 1 выявляет еще одну аналогию между свойствами свободных бернсайдовых и абсолютно свободных групп.

Замечание 1. Из теоремы 1 вытекает, что множества M-нормальных и нормальных автоморфизмов свободной бернсайдовой группы B(m, n) совпа- дают. Нетрудно указать примеры групп, содержащих максимальные нор- мальные подгруппы, для которых это утверждение неверно. Так, аддитивная группа рациональных чисел Q вкладывается в прямое произведение Q×Z2

как единственная максимальная подгруппа. Поэтому естественное продолже- ние автоморфизма φ(x) = ax до автоморфизма Φ : Q×Z₂ → Q×Z₂ будет M-нормальным автоморфизмом. Если|a| ̸= 1, то для подгруппы целых чисел Z ⊂Qимеем Φ(Z)̸=Z, т. е.Φне является нормальным автоморфизмом. Сле- довательно,Aut_N(Q×Z2)̸= Aut_M(Q×Z2), гдеM – множество максимальных нормальных подгрупп группыQ×Z₂.

На самом деле каждая максимальная нормальная подгруппа N EB(m, n), которая рассматривается в ходе доказательства теоремы 1, такова, что фак- торгруппа B(m, n)/N бесконечна, более того, всякая максимальная подгруппа в B(m, n)/N – циклическая группа порядка n (как установлено в [24], груп- паB(m, n)аппроксимируется такими группами). Поэтому получаем

Следствие 2. Пустьn>1003– произвольное нечетное число иϕ– такой автоморфизм группы B(m, n),чтоϕ(N) =N для каждой максимальной нор- мальной подгруппыN EB(m, n),для которойB(m, n)/N– бесконечная группа (содержащая элементы порядка n). Тогдаϕ – внутренний автоморфизм.

Следствие 2 и следствие 1 усиливают соответственно теорему 1.1 и след- ствие 2.2 из работы [21], где доказаны аналогичные утверждения для доста- точно больших нечетных n,n >10⁷⁸.

На основании теоремы1 мы докажем также следующее утверждение.

Теорема 2. Пусть n > 1003 – произвольное нечетное число, m > 1 и H – подгруппа группы автоморфизмов Aut(B(m, n)), удовлетворяющие сле- дующим двум условиям:

1)H ⊇Inn(B(m, n));

2)порядок каждого элемента подгруппы H не превосходит числоn.

Тогда H = Inn(B(m, n)).

Согласно теореме2 подгруппа внутренних автоморфизмовInn(B(m, n))яв- ляется максимальной среди всех тех подгрупп группы Aut(B(m, n)), порядки элементов которых ограничены числомn.

Следствие 3. Пусть θ – произвольный внешний автоморфизм группы B(m, n). Тогда в подгруппе группы Aut(B(m, n)), порожденной всеми внут- ренними автоморфизмами и автоморфизмом θ, содержится автоморфизм порядка > n.

Примеры внешних автоморфизмов группыB(m, n)можно получить с помо- щью приведенной далее леммы13. Например, любой не тождественный авто- морфизм, заданный на порождающих соотношениями φ(ai) = a^k_iⁱ, гдеn и ki

взаимно просты, i = 1,2, . . ., является внешним автоморфизмом (см. также лемму9).

§ 2. Доказательство теоремы1

Пусть ϕ – произвольный M-нормальный автоморфизм свободной бернсай- довой группы B(m, n) с базисом {a1, a2, . . .}. Нам понадобится следующий результат, доказанный автором в работе [25].

Лемма 1 [25, предложение 1]. Пусть B(m, n) – свободная бернсайдова группа нечетного периода n > 1003 с базисом {a1, a₂, . . .}. Предположим, что никакая степень данной порождающейaiне сопряжена с фиксированным элементом v ∈B(m, n). Тогда существует неабелева простая факторгруппа B(m, n)/Lтакая,что:

1)канонический образ порождающей a_i в B(m, n)/Lимеет порядок n;

2)ψ(aiL)̸=vLдля любого автоморфизмаψ:B(m, n)/L→B(m, n)/L.

Отметим, что лемма1 является усилением леммы 2.3 из [26].

Лемма 2. Пусть n > 1003 – произвольное нечетное число и ϕ – произ- вольныйM-нормальный автоморфизм свободной бернсайдовой группыB(m, n).

Тогда для каждого базиса {a1, a₂, . . .} свободной бернсайдовой группы B(m, n) ранга m существует такое целое число t, что ϕ(ai) сопряжен с a^t_i для лю- богоi.

Доказательство. Прежде всего убедимся в том, что для любого i эле- мент ϕ(ai) сопряжен в B(m, n) некоторой степени элемента ai. Доказывая от противного, предположим, что для некоторого j элемент v = ϕ(aj)не со- пряжен в B(m, n) никакой степени элемента aj. Для данного автоморфиз- ма ϕпостроим простую факторгруппуB(m, n)/Lсогласно лемме1. Посколь- ку максимальная нормальная подгруппаLявляетсяϕ-допустимой подгруппой группы B(m, n), то автоморфизм ϕ естественным образом индуцирует некий автоморфизм ψ: B(m, n)/L → B(m, n)/L. При этом, очевидно, имеет место

равенство ψ(ajL) =ϕ(aj)L=vL, что противоречит п. 2) леммы 1. Таким об- разом, мы доказали, что если ϕ– произвольный M-нормальный автоморфизм группы B(m, n), то для любого базиса {a1, a2, . . .} и для любого i существу- ют целое число ti и элемент bi ∈ B(m, n) такие, что ϕ(ai) = bia^t_iⁱb⁻¹_i . Заме- тим, что если система порождающих {a₁, a₂, a₃, . . .} является базисом груп- пы B(m, n), то и система {a1a2, a2, a3, . . .}является базисом дляB(m, n). По- этому для некоторого числа t и некоторого элементаb ∈B(m, n) имеет место ϕ(a1a2) =b(a1a2)^tb⁻¹. Отсюда следует, что

b1a^t₁¹b1−1·b2a^t₂²b⁻¹₂ =b(a1a2)^tb⁻¹.

Факторизуя группуB(m, n)по коммутанту, из последнего равенства немедлен- но получаем t1 =t2 =t. Аналогичным образом доказывается, что t1 =ti =t для любого i. Лемма доказана.

Исходя из леммы 2 зафиксируем целое число t такое, что ϕ(ai) сопряжен с a^t_i для любого i. Допустим, что ϕ(a_i) = v_i⁻¹a^t_iv_i, i = 1,2, . . .. Умножая M-нормальный автоморфизм ϕ на внутренний автоморфизм iv₁: B(m, n) → B(m, n) (i_v1(X) v₁Xv₁⁻¹), получим такой M-нормальный автоморфизм φ:B(m, n)→B(m, n), который удовлетворяет равенствамφ(a1) =a^t₁иφ(ai) = u⁻¹_i a^t_iui приi >1, гдеui=viv₁⁻¹.

Определение 3. Пару элементов {a, b} свободной периодической группы B(m, n)назовембазисной, если ее можно включить в какой-нибудь базис (т. е.

в систему свободных порождающих) группы B(m, n).

Предложение 1. Пустьφ:B(m, n)→B(m, n)–M-нормальный автомор- физм и{a, b}– базисная пара такие,чтоφ(a) =a^t,φ(b) =u⁻¹b^tuдля некото- рого целого|t|6 ⁿ⁻¹2 . Тогда t= 1и u=b^la^x для некоторых целых чиселx,l.

Сначала покажем, что из предложения1 следует теорема1.

Пустьa1, a2, . . . – произвольный базис группыB(m, n). В силу леммы2 су- ществует целое числоtтакое, чтоφ(a₁) =a^t₁и приi >1имеют место равенства φ(ai) =u⁻¹_i a^t_iui для некоторых элементовui.

В случае m = 2 получаем φ(a1) = a^t₁ и φ(a2) = u⁻¹₂ a^t₂u2, где{a1, a2} – ба- зисная пара группы B(m, n). Тогда согласно предложению 1 имеем t = 1 и u2=a^l₂a^x₁, что, очевидно, означает, чтоφсовпадает с внутренним автоморфиз- мом i_a−x

1 .

Пусть m > 2. Понятно, что тогда система a1, a2a3, a3, . . . также являет- ся базисом группы B(m, n). По лемме 2 для некоторого v имеем φ(a₂a₃) = v⁻¹(a2a3)^tv. Ясно, что каждая из пар {a1, a2}, {a1, a3}, {a1, a2a3} является базисной парой. Применяя предложение 1, получаем, что t = 1, u2 = a^l₂a^x₁, u₃=a^p₃a^y₁,v= (a₂a₃)^sa^z₁ для некоторых целых06l, p, s, x, y, z < n. Поскольку φ(a2a3) =φ(a2)φ(a3), то

a^−z₁ (a2a3)a^z₁=a^−x₁ a2a^x₁a^−y₁ a3a^y₁.

Каждое соотношение между порождающимиa1, a2, a3, . . . является тождеством в B(m, n), поэтому из последнего равенства получаем a^−z₁ a2a^z₁ = a^−x₁ a2a^x₁ и a^−z₁ a3a^z₁ =a^−y₁ a3a^y₁. По той же причине из полученных равенств следует, что элементы a^z−x₁ и a^z−y₁ принадлежат центру группы B(m, n). Поскольку со- гласно [1, гл. VI, теорема 3.3] центр группыB(m, n) тривиален, окончательно получаем, чтоz=x=y.

Тем самым, φ(a1) = a1, φ(a2) = a^−x₁ a2a^x₁, φ(a3) = a^−x₁ a3a^x₁. Точно так же можно показать, что φ(ai) = a^−x₁ aia^x₁ для любого i > 3. Это означает, что φ совпадает с внутренним автоморфизмом i_a^−x

1 .

Таким образом, теорема 1следует из предложения1. Доказательство пред- ложения1 приведем в §4.

§ 3. Два класса простых групп

При доказательстве предложения1нам понадобятся факторгруппы свобод- ной бернсайдовой группы B(m, n), построенные в работе [27], а также неко- торые их модификации. С помощью этих групп мы выберем способствующие доказательству предложения1 нормальные подгруппы.

Как известно, для каждого нечетного числаn>1003в [27] построена беско- нечная 2-порожденная группа Γ, каждая максимальная подгруппа которой – циклическая группа порядка n. Напомним ее определение. В дальнейшем мы будем использовать обозначения и терминологию из монографии [1] и рабо- ты [27].

Для простоты будем обозначать порождающие a1 и a2 черезaи b соответ- ственно. ПустьB(m, n,0)– свободная группа рангаmс порождающимиa1=a, a2=b,a3, . . .. Фиксируем нечетное числоn>1003и для всякого натурального β > 0 черезB(m, n, β) обозначим группу с теми же образующими и системой определяющих соотношений{Aⁿ= 1, гдеA∈S

i6βEi}(см. [1, гл. VI, § 2, п. 2]).

При α= 0,1,2 полагаемΓ_αB(m, n, α).

Предположим, что α > 2 и группы Γδ при δ < α уже определены. Пусть Ψα– множество всех элементарных периодовCрангаα−1, удовлетворяющих соотношению

C^α−2= A^−dZ⁻¹B^−dZA^dZ⁻¹A^dZ, (1) где A и B – минимизированные элементарные периоды некоторых рангов γ и β, Z ∈Mα−2,γ6β 6α−2,d= 191(см. [27, § 1]). ПодмножествоΨα⊂Ψα

выбираем так, чтобы каждый элемент C ∈ Ψ_α был сопряжен в группе Γ_α−2 одному и только одному слову D такому, что D ∈ Ψα или D⁻¹ ∈ Ψα. Это подмножество Ψα можно выбирать по-разному, чем мы будем пользоваться в дальнейшем.

В работе [27] черезΦαобозначено множество слов, содержащее для каждого периодаC∈Ψ_αи элементарного периодаAрангаγ6α−2, участвующих в со- отношении (1), ровно два слова: C²⁰⁰AC²⁰⁰A²· · ·Aⁿ⁻¹C²⁰⁰aиC³⁰⁰AC³⁰⁰A²· · ·

· · ·Aⁿ⁻¹C³⁰⁰b. В отличие от [27] здесь мы черезΦαобозначим множество слов, содержащее для каждого периода C ∈ Ψ_α и фиксированного элементарного периода Aрангаγ6α−2, участвующих в соотношении (1), только два слова:

C²⁰⁰AC²⁰⁰A²· · ·Aⁿ⁻¹C²⁰⁰xC, (2) C³⁰⁰AC³⁰⁰A²· · ·Aⁿ⁻¹C³⁰⁰yC, (3) где элементы xC и yC выбираются так, что один из них равенa, а другой ра- вен b. Очевидно, для выбора пары(x_C, y_C)для каждого C имеются лишь две возможности: (a, b) и (b, a). Если не указана конкретная пара, то она выби- рается для данного C произвольным образом. Далее мы укажем конкретные значения некоторых пар(xC, yC)(см. определения множествK1,K2).

Рассматриваются группы Γα

a1, a2, . . .

Rⁿ= 1, F = 1, R∈ [

β6α

Eβ, F ∈ [

β6α

Φβ

,

Γ

a1, a2, . . .

Rⁿ= 1, F = 1, R∈ [

β>0

Eβ, F ∈ [

β>3

Φβ

.

Через K обозначим класс всех групп Γ, которые получаются описанным выше способом при различных выборах подмножеств Ψ_α ⊂ Ψ_α и элемен- тов xC, yC.

Согласно основному результату работы [27] справедлива

Лемма 3. Каждая группа Γ ∈ K является бесконечной простой группой, порожденной элементами a и b, всякая собственная подгруппа которой со- держится в некоторой циклической подгруппе порядка n.

Поскольку каждая группа Γ ∈ K проста и в ней выполняется тождество xⁿ= 1, для некоторой максимальной нормальной подгруппыNгруппыB(m, n) имеем Γ =B(m, n)/N. Чтобы получить нужные нам максимальные нормаль- ные подгруппы, выделим два классаK1⊂ KиK2⊂ Kгрупп. Для этого будем налагать дополнительные условия на множествоΨ₃.

Лемма 4. В группе B(2, n,1) коммутатор [a^d,(aba⁻¹b²)^d] не сопряжен с коммутаторами [a^−d,(a⁻¹b⁻¹ab⁻²)^d], [a^−d,(a⁻¹b⁻¹ab⁻²)^d]⁻¹. Более того, несократимые формы указанных коммутаторов являются элементарными периодами ранга2.

Доказательство. Предположим, что коммутаторы[a^d,(aba⁻¹b²)^d] и[a^−d, (a⁻¹b⁻¹ab⁻²)^d]сопряжены в ранге 1. ПустьGиD – несократимые слова, рав- ные в ранге 0 коммутаторам[a^d,(aba⁻¹b²)^d]и[a^−d,(a⁻¹b⁻¹ab⁻²)^d]соответствен- но. По определению словGиD имеем

G≡a^−d·(b⁻²ab⁻¹a⁻¹)^d−1·(b⁻²ab⁻¹)·a^d·(ba⁻¹b²a)^d−1·(ba⁻¹b²), (4) D≡a^d·(b²a⁻¹ba)^d−1·(b²a⁻¹b)·a^−d·(b⁻¹ab⁻²a⁻¹)^d−1·(b⁻¹ab⁻²) (5) (записьX ≡Y означает графическое равенство словX и Y).

Прежде всего, легко убедиться в том, что любое нормальное порождающее вхождениеW ранга 2 в любое целое слово ранга 2 с периодомG (илиD) при l2,G(W)>9(илиl2,D(W)>9) имеет плотность 4 в ранге 2 относительно про- извольного минимального периода B ранга 2. Следовательно, периодыGи D являются элементарными периодами ранга 2. Выберем нормальное порожда- ющее вхождение ранга 2 вида

G¹⁰G1∗a^−d·(b⁻²ab⁻¹a⁻¹)^d−1·(b⁻²ab⁻¹)·a^d·(ba⁻¹b²a)^d−1·(ba⁻¹b²)·a^−d∗G2G¹⁸ в слово G³⁰. Если периоды E иD сопряжены в ранге 1, то согласно [27, лем- ма 2.7] можно найти взаимно нормированное с указанным вхождением в ранге 1 порождающее вхождение

R∗a^−d·(b⁻²ab⁻¹a⁻¹)^d−1·(b⁻²ab⁻¹)·a^d·(ba⁻¹b²a)^d−1·(ba⁻¹b²)·a^−d∗S в некоторое слово Y ∈Цел(X,2, D).

Однако прямая проверка показывает, что с помощью поворотов ранга 1 мы в словеDⁿ не получим подслово вида

a^−d·(b⁻²ab⁻¹a⁻¹)^d−1·(b⁻²ab⁻¹)·a^d·(ba⁻¹b²a)^d−1·(ba⁻¹b²)·a^−d,

чем и опровергается наше предположение.

Аналогично опровергается предположение сопряженности коммутаторов G≡a^−d·(b⁻²ab⁻¹a⁻¹)^d−1·(b⁻²ab⁻¹)·a^d·(ba⁻¹b²a)^d−1·(ba⁻¹b²), D≡(b²a⁻¹ba)^d−1·(b²a⁻¹b)·a^d·(b⁻¹ab⁻²a⁻¹)^d−1·(b⁻¹ab⁻²)·a^−d.

Лемма доказана.

Теперь обозначим через K1 множество всех тех групп Γ∈ K, для которых x_Caиy_Cb в соотношениях (2), (3), и множествоΨ₃в определении груп- пы Γ выбрано так, что G, D ∈ Ψ3, где Gи D – несократимые формы комму- таторов[a^d,(aba⁻¹b²)^d]и[a^−d,(a⁻¹b⁻¹ab⁻²)^d]соответственно. Для словGи D справедливы равенства (4) и (5). Лемма4 обеспечивает возможность включе- ния периодовGиD вΨ3. Из этого в силу соотношений (2), (3) следует

Лемма 5. В каждой группе Γ∈ K1 выполняются соотношения

G²⁰⁰aG²⁰⁰a²· · ·aⁿ⁻¹G²⁰⁰a= 1, D²⁰⁰a⁻¹D²⁰⁰a⁻²· · ·a⁻⁽ⁿ⁻¹⁾D²⁰⁰a= 1.

Для построения нужного нам второго класса групп понадобится следующая Лемма 6 [25, лемма 4]. При 16|k|6ⁿ⁻¹2 каждый из коммутаторов

[a^k, b⁻⁹a^kb⁹]≡a^−kb⁻⁹a^−kb⁹a^kb⁻⁹a^kb⁹

является минимизированным элементарным периодом ранга 2.

Поскольку очевидно, чтоa– минимизированный элементарный период ран- га 1 и b⁹ ∈ M1, то согласно лемме 6 и определению множества Ψ₃ имеем [a^d, b⁻⁹a^db⁹]∈Ψ3. Обозначим через K2 множество всех тех группΓ ∈ K, для которых выполняются дополнительные условия:

1) множествоΨ₃в определении группыΓвыбрано так, что[a^d, b⁻⁹a^db⁹]∈Ψ₃; 2) для периода C [a^d, b⁻⁹a^db⁹] ∈ Ψ₃ элементы x_C и y_C в соотношени- ях (2), (3) выбраны следующим образом: xCb, yCa;

3) для всех остальных периодов C ∈ Ψα, C

α−2

̸= [a^d, b⁻⁹a^db⁹], элементы xC

и yC в соотношениях (2), (3) выбраны следующим образом: xCa,yC b.

Из этих условий непосредственно следует

Лемма 7. В каждой группе Γ∈ K2 выполняются соотношения

[a^d, b⁻⁹a^db⁹]²⁰⁰a[a^d, b⁻⁹a^db⁹]²⁰⁰a²· · ·a⁽ⁿ⁻¹⁾[a, b⁻⁹ab⁹]²⁰⁰b= 1, (6) [a^d, b⁻⁹a^db⁹]³⁰⁰a[a^d, b⁻⁹a^db⁹]³⁰⁰a²· · ·a⁽ⁿ⁻¹⁾[a, b⁻⁹ab⁹]³⁰⁰a= 1, (7) C²⁰⁰AC²⁰⁰A²· · ·Aⁿ⁻¹C²⁰⁰a= 1, C³⁰⁰AC³⁰⁰A²· · ·Aⁿ⁻¹C³⁰⁰b= 1

для каждого периодаC∈Ψ_α,C

α−2

̸= [a^d, b⁻⁹a^db⁹].

Лемма 8. Если в группеΓ∈ K2 выполняется соотношение

F[a^k, b⁻⁹a^kb⁹]^sa^t[a^k, b⁻⁹a^kb⁹]^sa^2t· · ·a^(n−1)t[a^k, b⁻⁹a^kb⁹]^sa^t= 1,

где16|k|,|t|6 ⁿ⁻¹2 ,k≡dt (modn)иq+ 26s6 ⁿ⁻¹2 −2,тоk=±dиt=±1.

Доказательство. Пусть F = 1. Согласно лемме^Γ 16 (см. далее) слово F сопряжено в группе Γ₁ B(m, n,1) некоторому слову H ∈ M2 вида H ≡ D^ru1D^ru2· · ·u_n−1D^run, где D ≡[a^k, b⁻⁹a^kb⁹] – элементарный период ранга 2, r=s−2. В силу [1, гл. IV, § 1, п. 16] словоH не является приведенным словом в некотором ранге α > 2. Тогда согласно [1, гл. IV, § 1, п. 19] и [1, гл. II,

§ 1, п. 11] в H входит или некоторая нормированная элементарная 9-степень ранга 3, или некоторая нормированная квазиэлементарная 9-степень ранга 3.

Первое невозможно в силу леммы 18.

ПустьP∗E∗Q– вхождениe в словоH, аR∗E∗S – нормальная квазиэле- ментарная 9-степень ранга 3, входящая в слово Y ∼² H₁^s, причем имеет место ВзНорм₂(P∗E∗Q, R∗E∗S), где H1∈H3 и

H1≡D₁^r′u^′₁D^r₁^′u^′₂· · ·u^′_n−1D₁^r′u^′_n.

Применив лемму 17, получим, что элементарный период D ≡[a^k, b⁻⁹a^kb⁹]со- пряжен в ранге 1 или с элементарным периодомD1, или с его обратным. В свою очередь, согласно [27, лемма 4.1] период D₁ сопряжен в ранге 1 с некоторым периодом C= [A^{1 d}, Z⁻¹B^dZ]ранга 2, причем C∈Ψ₃,A иB – минимизирован- ные элементарные периоды ранга 1 и Z ∈M1. Отсюда, пользуясь леммой15, получаем k=±d, и посколькуk≡dt (mod n), тоt=±1. Лемма доказана.

§ 4. Доказательство предложения1

Лемма 9. Пусть φ: B(m, n) → B(m, n) – автоморфизм и a, b – базисная пара такие,что φ(a) =a⁻¹,φ(b) =b⁻¹. Тогда φне является M-нормальным автоморфизмом. В частности, любой автоморфизм ψ: B(m, n) → B(m, n), удовлетворяющий соотношениямψ(a) =a⁻¹,ψ(b) =a^sb⁻¹a^−sдля некоторого целого s,не являетсяM-нормальным автоморфизмом.

Доказательство. Рассмотрим элементарные периодыG и D, определен- ные равенствами (4), (5) соответственно. Из определения автоморфизмаφсра- зу следует равенство φ(G) = D. Пусть Γ ∈ K1 и N – такая максимальная нормальная подгруппа группыB(m, n), чтоΓ =B(m, n)/N. Согласно лемме4 имеем

G²⁰⁰aG²⁰⁰a²· · ·aⁿ⁻¹G²⁰⁰a∈N, D²⁰⁰a⁻¹D²⁰⁰a⁻²· · ·a⁻⁽ⁿ⁻¹⁾D²⁰⁰a∈N. (8) Если φ–M-нормальный автоморфизм, то

φ(G²⁰⁰aG²⁰⁰a²· · ·aⁿ⁻¹G²⁰⁰a) =D²⁰⁰a⁻¹D²⁰⁰a⁻²· · ·a⁻⁽ⁿ⁻¹⁾D²⁰⁰a⁻¹∈N.

Используя второе из соотношений (8), получаемa²∈N, но тогда имеемa^{2 Γ}= 1 иaⁿ = 1. Отсюда в силу нечетности^Γ nследуетa= 1, что противоречит лемме^Γ 3.

Значит, φне являетсяM-нормальным автоморфизмом.

Чтобы доказать второе утверждение леммы, остается заметить, что если φ не является M-нормальным автоморфизмом, то и автоморфизмia^s◦φ=ψ не является M-нормальным автоморфизмом, гдеi_as – внутренний автоморфизм.

Лемма доказана.

Лемма 10. Пусть φ: B(m, n) → B(m, n) – M-нормальный автоморфизм и a,b – базисная пара такие,что φ(a) =a^t,φ(b) =u⁻¹b^tu,|t|6 ⁿ⁻¹2 . Фикси- руем элементZ такой,чтоφ(Z) =b⁹. Тогда если коммутаторы[a^d, Z⁻¹a^dZ]

и [a^d, b⁻⁹a^db⁹] сопряжены в группе B(m, n),то Z=a^pb⁹a^s,u=b^la^r для неко- торых целых чиселp,s,l,r иt= 1.

Доказательство. Из сопряженности коммутаторов [a^d, Z⁻¹a^dZ] и [a^d, b⁻⁹a^db⁹]согласно лемме 14следует, что для некоторых целых чиселr иs или Z⁻¹a^−dZ ^B(m,n)= a^rb⁻⁹a^−db⁹a^s, или Za^−dZ^{−1 B(m,n)}= a^rb⁻⁹a^db⁹a^s. Рассмотрим каждый из этих случаев.

А. ЕслиZa^−dZ^−1B(m,n)= a^rb⁻⁹a^db⁹a^s, то

a^sZa^−dZ⁻¹a^{−s B(m,n)}= a^s+rb⁻⁹a^db⁹.

Очевидно, можно считать, что |s+r|6ⁿ⁻¹2 . Еслиs+r̸≡0 (modn), то слово a^s+rb⁻⁹a^−db⁹ является элементарным периодом ранга 2. Получается, что эле- ментарный период a^s+rb⁹a^−db⁻⁹ ранга 2 сопряжен со степенью элементарного периода aранга 1, а это противоречит [27, лемма 6.6]. Еслиs+r≡0 (modn), то получается, что сопряженыa^−d иa^d, а это противоречит лемме13. Значит, рассматриваемый случай А невозможен.

Б. ПустьZ⁻¹a^−dZ^B(m,n)= a^rb⁻⁹a^−db⁹a^s. Повторив рассуждения из случая А, получим, что s+r ≡ 0 (modn) и a^sZ⁻¹a^−dZa^{−s B(m,n)}= b⁻⁹a^−db⁹. Это озна- чает, что элемент b⁹a^sZ⁻¹ принадлежит централизатору элементаa^−d в груп- пе B(m, n). Согласно [1, гл. VI, теорема 3.2] получаем, что Z = a^pb⁹a^s для некоторого целогоp. Первое утверждение леммы доказано.

Докажем, что u = b^la^r и t = 1. Применив к обеим частям равенства Z = a^pb⁹a^s автоморфизм φ, получим b⁹ = a^ptu⁻¹b^9tua^st. Теперь, применив к последнему равенству гомоморфизмα:B(m, n)→B(m, n), заданный на по- рождающих равенствамиα(a) =aиα(b) = 1, получаемa^pt+st = 1. Поскольку (t, n) = 1, то p ≡ −s (modn). Таким образом, a^ptu⁻¹ принадлежит норма- лизатору элемента b⁹, из чего согласно лемме 13 следует, что u = b^la^pt для некоторого целогоl. Остается показать, чтоt= 1.

Заметим, что в силу равенств b⁹=a^ptu⁻¹b^9tua^−ptиu=b^la^ptимеем b⁹=b^9t. Поэтому

φ([a^d, b⁻⁹a^db⁹])^B(m,n)= a^−pt[a^k, b⁻⁹a^kb⁹]a^pt для некоторогоk≡dt (mod n), (k, n) = 1, 16|k|6ⁿ⁻¹₂ .

Пусть Γ – одна из групп классаK2 и Γ = B(m, n)/N. К левой части соот- ношения (7) применимM-нормальный автоморфизмφ. Далее, сопрягая полу- ченный элемент элементомa^pt, имеем

[a^k, b⁻⁹a^kb⁹]³⁰⁰a^t[a^k, b⁻⁹a^kb⁹]³⁰⁰a^2t· · ·a^(n−1)t[a^k, b⁻⁹a^−kb⁹]³⁰⁰a^t∈N.

Отсюда согласно лемме8следует, чтоk=±dиt=±1. Сопоставляя равенство b⁹ = b^9t с t = ±1 и учитывая, что порядок элемента b в B(m, n) равен n, немедленно получаем t= 1. Лемма доказана.

Лемма 11. Пусть φ: B(m, n) → B(m, n) – M-нормальный автоморфизм и a,b – базисная пара такие,что φ(a) = a^t,φ(b) =u⁻¹b^tu и ψ(Z) =b⁹. То- гда коммутатор[a^d, Z⁻¹a^dZ]не сопряжен в группеB(m, n)с коммутатором [a^d, b⁻⁹a^db⁹]⁻¹.

Доказательство. Доказывая от противного, предположим, что коммута- тор [a^d, Z⁻¹a^dZ] сопряжен в группе B(m, n) с коммутатором [a^d, b⁻⁹a^db⁹]⁻¹. Поскольку [a^d, b⁻⁹a^d, b⁹]⁻¹ = b⁻⁹[a^d, b⁹a^db⁻⁹]b⁹, то в B(m, n) сопряжены ком- мутаторы [a^d, Z⁻¹a^dZ] и [a^d, b⁹a^db⁻⁹]. Повторив рассуждения из доказатель- ства леммы 10, мы сначала получим равенство Z = a^pb⁻⁹a^s для некоторых целых p, s. Далее выведем, чтоu=b^la^pt, b⁹ =b^−9tи t=±1 (modn), из чего следует, чтоt≡ −1 (modn), но это противоречит лемме9.

Лемма 12. Пусть φ: B(m, n) → B(m, n) – M-нормальный автоморфизм и a, b – базисная пара такие, что φ(a) = a^t, φ(b) = u⁻¹b^tu. Фиксируем эле- мент Z такой, что φ(Z) = b⁹. Тогда коммутатор [a^d, Z⁻¹a^dZ] сопряжен в группеB(m, n)с коммутатором [a^d, b⁻⁹a^db⁹].

Доказательство. Лемму будем доказывать от противного. Пусть комму- татор[a^d, Z⁻¹a^dZ]не сопряжен в группеB(m, n)с коммутатором[a^d, b⁻⁹a^db⁹].

Посколькуφ– автоморфизм, то для простого числаd= 191найдется целое число k такое, что φ(a^d) = a^k, k ≡ dt (modn), (k, n) = 1 и 1 6 |k| 6 ⁿ⁻¹2 . Очевидно, можно предположить, что |t| 6 ⁿ⁻¹₂ . Так как φ(Z) =b⁹, то имеет место равенство

φ([a^d, Z⁻¹a^dZ])^B(m,n)= [a^k, b⁻⁹a^kb⁹].

Далее, в силу [1, гл. VI, § 2, п. 4; гл. IV, § 3, п. 12] можно считать, что Z ∈Mα∩Aα+1 для некоторого α>1. Выберем приведенную формуG1 ком- мутатора [a^d, Z⁻¹a^dZ]согласно [27, лемма 3.2]. По определению приведенной формы имеем G1

=0 w[a^d, Z⁻¹a^dZ]w⁻¹ для некоторого w≡a^j (см. [27, соотно- шения (3.6)]). В силу [27, лемма 7.2] получаем, чтоG1 – элементарный период некоторого ранга δ >2 для каждой из групп Γ ∈ K. Согласно нашему пред- положению о несопряженности в группеB(m, n)коммутаторов [a^d, Z⁻¹a^dZ]и [a^d, b⁻⁹a^db⁹]и лемме 11элементы [a^d, Z⁻¹a^dZ] и [a^d, b⁻⁹a^db⁹]^±1 не сопряжены в группе B(m, n,1). Отсюда следует, что существуют такие группы из класса K2 ⊂ K, для которых выполнено включение G1 ∈ Ψδ+1. Пусть Γ⁺ – одна из таких групп.

По лемме 7 в группе Γ⁺ выполняются как соотношения (6), (7), так и сле- дующие соотношения:

G²⁰⁰₁ aG²⁰⁰₁ a²· · ·aⁿ⁻¹G²⁰⁰₁ a= 1, (9) G³⁰⁰₁ aG³⁰⁰₁ a²· · ·aⁿ⁻¹G³⁰⁰₁ b= 1. (10) Поскольку G₁ =⁰ a^j[a^d, Z⁻¹a^dZ]a^−j, то φ(G₁) ^B(m,n)= a^jt[a^k, b⁻⁹a^kb⁹]a^−jt. Так как в группеΓ⁺ выполняется тождествоxⁿ= 1, то для некоторой нормальной подгруппыN₁ группыB(m, n)имеемΓ⁺ =B(m, n)/N₁.

Применив M-нормальный автоморфизм φ к левой части соотношения (9), получим

(a^jt[a^k, b⁻⁹a^kb⁹]a^−jt)²⁰⁰

×a^t(a^jt[a^k, b⁻⁹a^kb⁹]a^−jt)²⁰⁰· · ·a^(n−1)t(a^jt[a^k, b⁻⁹a^kb⁹]a^−jt)²⁰⁰a^t∈N1.