Алгебра и логика, 44, № 2 (2005), 211—237
УДК 512.544.43:512.543.12
ЭНДОМОРФИЗМЫ ГРУПП АВТОМОРФИЗМОВ СВОБОДНЫХ ГРУПП∗) Д. Г. ХРАМЦОВ
Группы автоморфизмов свободных групп являются классическим объектом комбинаторной теории групп, изучение которого, начатое Нильсеном в начале 20 в., активно идёт и в настоящее время. Данная работа продолжает исследования по этой тематике, изложенные в [1—6]. Предварительная версия опубликована в [7]. Группа называется совершенной, если каждый её автоморфизм является внутренним. Совершенность групп автоморфизмов свободных групп была доказана в [8]. Ранее автором была установлена совершенность групп внешних автоморфизмов свободных групп конечного ранга и исследованы вопросы их взаимной вложимости [3, 4]. В этих работах был развит метод исследования групп автоморфизмов свободных групп с помощью амальгам их конечных подгрупп и формульной определимости. Следуя этому методу, в настоящей работе изучаются эндоморфизмы указанных групп. Основным результатом является ТЕОРЕМА 1. (1) Нетривиальный эндоморфизм группы AutFn при n > 3 является либо автоморфизмом, либо гомоморфизмом на Z2 с ядром SAutFn . (2) Нетривиальный эндоморфизм AutF2 является либо автоморфизмом, либо гомоморфизмом на одну из групп S3 , D8 , Z2 × Z2 , Z2 , ∗)
Работа выполнена при финансовой поддержке Совета по грантам Президента РФ
и государственной поддержке ведущих научных школ, проект НШ-2069.2003.1, а также Российского фонда фундаментальных исследований, проект № 02-01-00293. c Сибиpский фонд алгебpы и логики, 2005
212
Д. Г. Храмцов
S3 ∗Z2 (Z2 × Z2 ). (3) Нетривиальный гомоморфизм группы AutFn , n > 3, в AutFm , m > 2, где n > m, является гомоморфизмом на Z2 с ядром SAutFn . Напомним, что группа называется кохопфовой, если она не изоморфна никакой своей собственной подгруппе. Из теоремы 1 вытекает СЛЕДСТВИЕ. Группа AutFn кохопфова при всех n > 2.
§ 1. Предварительные сведения и обозначения 1.1. Основные обозначения. Пусть Fn — свободная группа ранга n > 2 с базисом x1 , . . . , xn . Через AutFn обозначается группа всех автоморфизмов группы Fn . Внутренний автоморфизм группы Fn , переводящий произвольный w ∈ Fn в g −1 wg, g ∈ Fn , обозначим как gˆ. Центр группы Fn тривиален, поэтому все внутренние автоморфизмы группы Fn образуют в AutFn нормальную подгруппу InnFn , изоморфную самой Fn . Факторгруппа OutFn = AutFn /InnFn называется группой внешних автоморфизмов группы Fn . Действие AutFn на факторе Fn по коммутанту порождает гомоморфизм AutFn на общую линейную группу GLn (Z) целочисленных матриц с определителем ±1, ядро которого обозначим через Jn . Все ав±1 томорфизмы, переставляющие элементы множества {x±1 1 , . . . , xn }, обра-
зуют подгруппу Ωn мономиальных автоморфизмов Fn . Подгруппу всех автоморфизмов, переставляющих {x1 , . . . , xn }, назовём подгруппой S(n) симметрических автоморфизмов; заметим, что S(n) изоморфна симметрической группе Sn . Введём обозначения для используемых в дальнейшем специальных автоморфизмов группы Fn (см. след. стр.: в строках таблицы указаны образы порождающих свободной группы под действием соответствующих автоморфизмов). Через (xσ(1) , . . . , xσ(n) )
обозначается симметрический автомор-
физм, соответствующий перестановке порождающих xi → xσ(i) , σ ∈ Sn , i = 1, . . . , n. Там, где нет разночтений, будем использовать просто
Эндоморфизмы групп автоморфизмов свободных групп x1
x2
.
xi
.
xn
P
x2
x1
.
xi
.
xn
Q
x2
x3
.
xi+1
.
x1
.
xn
.
x−1 n
.
x−1 n
zi , i = 1, . . . , n
x1
x2
.
a
x−1 1
x−1 2
.
Pn P¯n−1
x1 x−1 n
x2 x−1 n
.
x−1 i −1 xi xi x−1 n
x1
x2 x−1 n
.
xi x−1 n
.
x−1 n
U
x1 xn
x2
.
xi
.
xn
K
x−1 n x1 xn
x2
.
xi
.
xn
213
символ σ. Подгруппа Ωn является расщепляемым расширением элементарной абелевой группы Z(n) периода два, порождённой автоморфизмами z1 , . . . , zn посредством симметрической группы S(n) с естественным действием σ −1 zi σ = zσ(i) , i = 1, . . . , n. В других терминах Ωn можно представить как подстановочное сплетение Z2 посредством S(n). Центр Ωn порождается элементом a = z1 z2 . . . zn . Элементы чётной длины из Z(n) ¯ образуют подгруппу Z(n). ПРЕДЛОЖЕНИЕ 1 (Нильсен, см. [9]). Группа AutFn порождается автоморфизмами P, Q, U, z1 . ПРЕДЛОЖЕНИЕ 2 (Нильсен, Магнус, см. [9]). Группа Jn является нормальным замыканием элемента K в AutFn . 1.2. Классы сопряженности конечных подгрупп в группах AutFn . В [2—4] построен алгоритм описания классов сопряжённости конечных подгрупп в группах AutFn и OutFn , перечислены классы сопряжённости ряда подгрупп, используемых в данной работе, и выписаны их представители. Классы подразделяются на стандартные, присутствующие при всех n > 2, и нестандартные, появляющиеся только при некоторых n 6 5. 1.2.1. Классы сопряжённости симметрической группы Sn+1 . Представителем единственного стандартного класса сопряжённости Sn+1 в
214
Д. Г. Храмцов
AutFn является подгруппа A(n), порождённая S(n) и автоморфизмом −1 Pn : xi → xi x−1 n , i = 1, . . . , n − 1, xn → xn . В группе Sn+1 подгруппа
S(n) соответствует стабилизатору n + 1, а Pn — транспозиции (n, n + 1). Кроме стандартного, при n = 3 в AutFn имеются два нестандартных класса S4 , порождённых изоморфизмом S4 × Z2 ≃ Ω3 . При этом группе S4 , рассматриваемой как расширение подгруппы Клейна V = = {1, (12)(34), (13)(24), (14)(23)} посредством S3 , сопоставляется расши¯ рение Z(3) = {1, z1 z2 , z1 z3 , z2 z3 } (соответствующие элементы выписаны по порядку) посредством S3 , а прямому сомножителю Z2 — подгруппа hai. Подгруппа Sn × Z2 при всех n > 3 содержит две копии Sn , каноническую Sn = {(σ, 1), σ ∈ Sn } и S¯n = {(σ, 1), σ ∈ An , (σ, b), σ ∈ Sn \An }, где hbi = Z2 . При n = 3 обозначим эти копии через A1 (3) и A2 (3), они являются представителями нестандартных классов сопряжённости S4 в AutF3 . 1.2.2. Группа AutFn , n > 3, содержит четыре стандартных класса сопряжённости подгруппы Sn × Z2 с представителями Bi (n), i = 1, . . . , 4. При n = 2 классы B2 (n) и B3 (n) совпадают. 1) B1 (n) порождается S(x1 , . . . , xn−1 ), zn и автоморфизмом Pn−1 : −1 xi → xi x−1 n−1 , i = 1, . . . , n − 2, xn−1 → xn−1 , xn → xn . В ней Sn реализуется
как подгруппа A(n − 1) в AutFn−1 (x1 , . . . , xn−1 ). 2) B2 (n) порождается S(x1 , . . . , xn−1 ), zn · x ˆn , Pn−1 . 3) B3 (n) порождается S(x1 , . . . , xn−1 ), zn , QKQ−1 · Pn−1 , где QKQ−1 · −1 −1 ·Pn−1 : xi → xi x−1 n−1 , i = 1, . . . , n − 2, xn−1 → xn−1 , xn → xn−1 xn xn−1 .
4) B4 (n) порождается S(x1 , . . . , xn ), a и содержится в Ωn . Каждая из этих подгрупп содержит S(x1 , . . . , xn−1 ). 1.2.3. Представитель cтандартного класса сопряжённости группы Sn+1 × Z2 в OutFn является образом подгруппы hA(n), ai из AutFn . Она разлагается в свободное произведение A(n) и S(n) × hai = B4 (n) с объединением по S(n). ТЕОРЕМА 2 [3, теор. 2]. (1) Группа AutFn при всех n > 2, n 6= 3, содержит только стандартный класс сопряжённости Sn+1 с представителем A(n). Группа AutF3 содержит три класса сопряжённости S4 с
Эндоморфизмы групп автоморфизмов свободных групп
215
представителями A(3), A1 (3) и A2 (3). (2) При всех n > 2, n 6= 3, группа OutFn содержит единственный класс сопряжённости Sn+1 × Z2 , являющийся стандартным. (3) Группа AutFn при всех n > 2, n 6= 4, 5, содержит только стандартные классы сопряжённости Sn × Z2 . ТЕОРЕМА 3 [4, теор. 2]. Группа AutFn при всех n > 2 содержит единственный класс сопряжённости подгрупп, изоморфных Ωn . 1.3. Обозначим через B(n) ≃ Sn подгруппу в AutFn , порождённую группой S(x2 , . . . , xn ) перестановок, порождающих x2 , . . . , xn , и автомор−1 физмом P¯n−1 : x1 → x1 , xi → xi x−1 n , i = 2, . . . , n − 1, xn → xn . Она соответствует подгруппе A(n − 1) < AutFn−1 , вложенной в AutFn как стабилизатор элемента x1 и подгруппы hx2 , . . . , xn i. Отметим, что B(n) сопряжена с подгруппой hS(x1 , . . . , xn−1 ), Pn−1 i из B1 (n) автоморфизмом Q. ¯ ¯ Пересечение A(n) и B(n) равно S(x2 , . . . , xn ) ≃ Sn−1 . Через A(n) и B(n) обозначим знакопеременные подгруппы этих групп, равные, соответственно, их пересечениям с подгруппой SAutFn собственных автоморфизмов Fn с определителем 1. При n = 2 верно B(n) = hz2 i ≃ S2 . ЛЕММА 1. (1) Группы A(n) и B(n) в совокупности порождают AutFn при всех n > 2. ¯ ¯ (2) Группы A(n) и B(n) в совокупности порождают SAutFn при всех n > 3. ДОКАЗАТЕЛЬСТВО. (1) Действительно, Pn P¯n−1 = U и Pn (Pn P¯n−1 )(Pn P¯n−1 )(12) · . . . · (Pn P¯n−1 )(1,n−1) = zn , поэтому утверждение (1) леммы следует из предложения 1. (2) Пусть n > 3. Выберем в A(n) ∩ B(n) элемент c = (23), он норма¯ ¯ лизует подгруппы A(n) и B(n) и порождает вместе с ними AutFn . Ввиду (1) произвольный элемент s из SAutFn записывается в виде a1 b1 . . . am bm , ¯i , bi = cli ¯bi , ai ∈ A(n), bi ∈ B(n). Каждый ai , bi выразим как ai = cki a ¯bi ∈ B(n), ¯ ¯ ki , li = 0, 1, a ¯i ∈ A(n), i = 1, . . . , m. Подставим это в выражение s = a1 b1 . . . am bm , перенесём все степени c влево, где они сократятся,
216
Д. Г. Храмцов
¯bi ∈ B(n). ¯ ¯ т. к. s ∈ SAutFn , получим s = a ¯1¯b1 . . . a ¯m¯bm , a ¯i ∈ A(n), Лемма доказана. Докажем пп. (1) и (2) теоремы 1. Возможны три основных случая: n > 4, n = 2 и n = 3.
§ 2. Эндоморфизмы группы AutFn при n > 4 Изложим краткую схему доказательства. Пусть θ — произвольный эндоморфизм группы AutFn . 1) Либо Kerθ ∩A(n) 6= 1 и Imθ 6 Z2 , либо Kerθ ∩A(n) = Kerθ ∩B(n) = = 1. 2) Исходя из описания классов сопряжённости Sn+1 в AutFn при n 6= 3 можно считать, что θ действует на A(n) тождественно (этого легко добиться, домножая на внутренний автоморфизм группы AutFn ). При n = 5 требуется учесть существование невнутреннего автоморфизма группы S6 . 3) Либо θ(a) = a, либо θ(a) = 1. В первом случае θ оказывается автоморфизмом. Во втором — θ пропускается через общую линейную группу GLn (Z). 4) Либо θ(z1 ) = 1, либо θ(z1 ) = a. В первом случае θ пропускается через конечную простую проективную специальную линейную группу PSLn (2), во втором — через центральное расширение Z2 посредством PSLn (2). 5) Оценив сверху порядки конечных подгрупп в AutFn и сравнив эту оценку с порядком PSLn (2), получим, что случай θ(a) = 1 невозможен. Таким образом, при n > 4 произвольный нетривиальный эндоморфизм группы AutFn является либо автоморфизмом, либо факторизацией по SAutFn . 2.1. Действие θ на A(n). Рассмотрим C = Kerθ ∩ A(n), D = = Kerθ ∩ B(n). Если C 6= 1, то C — нетривиальная нормальная подгруппа ¯ в A(n) ≃ Sn+1 , поэтому C содержит знакопеременную подгруппу A(n) из
Эндоморфизмы групп автоморфизмов свободных групп
217
A(n) и A(n)∩B(n) ≃ Sn−1 , значит, D содержит знакопеременную подгруп¯ пу B(n) из B(n). По лемме 1 в этом случае Kerθ ≥ SAutFn и образ θ либо изоморфен Z2 , либо тривиален. Поэтому далее считаем Kerθ ∩ A(n) = 1, и эндоморфизм θ изоморфно отображает A(n) в AutFn . При D 6= 1 доказательство проходит аналогично, кроме единственного варианта, когда n = 4 и D является подгруппой Клейна в B(4) ≃ S4 . Этот вариант можно исключить аналогично тому, как это будет сделано в лемме 10, но в этом нет необходимости, т. к. тривиальность D используется только в доказательстве леммы 7 в случае 3 при n = 4, который рассматривается несколько иначе. По [3, теор. 2] подгруппы θ(A(n)) и A(n) сопряжены, и, домножая θ на внутренний автоморфизм AutFn , можно считать, что θ(A(n)) = A(n). При n 6= 5 ввиду совершенности A(n) ≃ Sn+1 , и, снова домножая θ на внутренний автоморфизм AutFn из A(n), можно считать, что θ тождественно действует на A(n). Случай n = 5 требует отдельного рассмотрения, поскольку при этом сужение θ на A(5) может дать невнутренний автоморфизм группы A(5) ≃ S6 . Рассмотрим следующую конструкцию, полезную при решении вопроса о сопряжённости автоморфизмов свободных групп. Пусть φ — произвольный автоморфизм группы AutFn , обозначим через G(φ) группу, заданную представлением hx1 , . . . , xn | xi = φ(xi ), i = 1, . . . , ni. Очевидно, G(φ) изоморфна фактор-группе расширения Fn (φ) группы Fn посредством автоморфизма φ по нормальному замыканию в нём элемента (φ, 1). ЛЕММА 2. Если автоморфизмы φ и ψ сопряжены в AutFn , то группы G(φ) и G(ψ) изоморфны. ДОКАЗАТЕЛЬСТВО. Пусть ψ = α−1 φα, α ∈ AutFn . Искомый изоморфизм индуцируется сопряжением подгрупп Fn (φ) и Fn (ψ) в голоморфе AutFn посредством элемента (α, 1). Лемма доказана. ЛЕММА 3. Сужение θ на A(5) является внутренним автоморфизмом группы A(5). ДОКАЗАТЕЛЬСТВО. Рассмотрим Π = (x2 , x3 , x4 ) ∈ A(5) ∩ B(5).
218
Д. Г. Храмцов
Пусть θ индуцирует невнутренний автоморфизм группы A(5) ≃ S6 , тогда θ(Π) должен быть сопряжён в A(5) с элементом T , реализующим подстановку τ = (123)(456) ∈ S6 . Подсчёт показывает, что T : xi → xτ (i) x−1 4 , i = 1, 2, 3, 4, x5 → x−1 4 , и G(T ) ≃ Z ∗ Z3 . С другой стороны, Π содержится в подгруппе B(5) × hz1 i, следовательно, θ(Π) сопряжён с элементом порядка 3 из θ(B(5) × hz1 i). Пересечение Kerθ и A(5) равно 1, поэтому Kerθ ∩ (B(5) × hz1 i) ≤ hz1 i. Если θ(z1 ) = 1, то θ(a) = 1, и, повторяя рассуждения п. 2.3.1, получим Im(θ1 ) = 1. Необходимо отметить, что действие θ на A(5) при этом не имеет значения. Если θ(z1 ) 6= 1, то θ(B(5) × hz1 i) ≃ S5 × zh1 i, следовательно, θ(Π) сопряжён с элементом порядка 3 одной из подгрупп B1 (5), . . . , B4 (5). Каждый из таких элементов, в свою очередь, сопряжён с элементом порядка 3 из содержащейся во всех них подгруппы S(x1 , . . . , x4 ), т. е. с самим Π. Однако, G(Π) ≃ F3 6= G(T ) — противоречие, следовательно, θ индуцирует внутренний автоморфизм группы A(5). Лемма доказана. 2.2. Действие θ на Z(n). ЛЕММА 4 [4]. Пусть H — дважды транзитивная группа перестановок порождающих x1 , . . . , xn группы Fn , n > 3. Тогда централизатор группы H в AutFn порождается элементом a. ДОКАЗАТЕЛЬСТВО. Пусть c — произвольный нетривиальный элемент в AutFn , централизующий H, причём c(xi ) = wi , i = 1, . . . , n. Обозначим через H1 стабилизатор порождающего x1 в H, тогда H1 действует транзитивно на x2 , . . . , xn . Возьмём произвольный τ из H1 . Поскольку τ и c перестановочны, получим (τ −1 cτ )(x1 ) = (cτ )(x1 ) = τ (w1 ) = c(x1 ) = w1 , следовательно, w1 = xe1 и e = ±1. Возьмем σ ∈ H, переводящий x1 в xi , тогда (σ −1 cσ)(xi ) = (cσ)(x1 ) = σ(xe1 ) = xei = wi = c(xi ) для всех i = 1, . . . , n. Следовательно, e = −1 и c = a. Лемма доказана. ЛЕММА 5. Пусть θ тождественно действует на A(n) и не является автоморфизмом группы AutFn . Тогда θ(a) = 1.
Эндоморфизмы групп автоморфизмов свободных групп
219
ДОКАЗАТЕЛЬСТВО. По лемме 4, θ(a) = a или θ(a) = 1. В первом случае для внутреннего автоморфизма x ˆn имеем θ(ˆ xn ) = θ((Pn a)2 ) = (θ(Pn )θ(a))2 = (Pn a)2 = x ˆn . Поскольку A(n) вместе с x ˆn порождает подгруппу, содержащую всю InnFn , можно считать, что θ действует тождественно на InnFn . Для произвольных φ ∈ AutFn , w ∈ Fn имеем φ−1 wφ ˆ = φ(w) ˆ и [ = θ(φ(w)) [ = θ(φ−1 wφ) φ−1 wφ ˆ = φ(w) ˆ = θ(φ)−1 θ(w)θ(φ) ˆ = θ(φ)−1 wθ(φ). ˆ −1 = (θ(φ)φ \ −1 )(w) = w, Отсюда (θ(φ)φ−1 )−1 wθ(φ)φ ˆ ˆ следовательно,
θ(φ)φ−1 = 1 для произвольного φ ∈ AutFn . Значит, θ — тождественный автоморфизм группы AutFn . Лемма доказана. ЛЕММА 6. Нормальное замыкание N элемента a в AutFn является расширением Jn посредством hai. ДОКАЗАТЕЛЬСТВО. Автоморфизмы (Pn a)2 = Pn−1 aPn a и (P¯n a)2 = = P¯n−1 aP¯n a лежат в N и действуют на Fn следующим образом:
(Pn a)2 (P¯n−1 a)2
x1
x2
.
xi
.
xn
x−1 n x1 xn
x−1 n x2 xn
.
x−1 n xi xn
.
xn
x1
x−1 n x2 xn
.
x−1 n xi xn
.
xn
Значит, произведение φ = (Pn a)2 (P¯n−1 a)−2 лежит в N и φ : x1 → → x−1 n x1 xn , xi → xi , i = 2, . . . , n, поэтому φ = K и, по предложению 2, N содержит Jn . Образ a в общей линейной группе GLn (Z) после факторизации AutFn по Jn порождает её центр, следовательно, нормальное замыкание a в AutFn будет расширением Jn посредством hai. Лемма доказана. Таким образом, Kerθ ≥ hJn , ai и θ можно пропустить через GLn (Z), представив его как композицию θ1 : AutFn → GLn (Z) и θ2 : GLn (Z) → Imθ. Образ θ при этом является гомоморфным образом GLn (Z). Докажем, что это невозможно в ситуации, когда Kerθ∩A(n) = 1. В силу леммы 5 считаем, что θ действует на A(n) тождественно.
220
Д. Г. Храмцов ЛЕММА 7. Образ z1 под действием θ равен одному из автомор-
физмов 1, a, z1 . ДОКАЗАТЕЛЬСТВО. Положим θ(zi ) = z˜i , i = 1, . . . , n. Автоморфизм z1 перестановочен с любой перестановкой π порождающих из S(x2 , . . . , xn ), следовательно, z˜1 также перестановочен с подгруппой S(x2 , . . . , xn ). Пусть (˜ z1 )(xi ) = wi (x1 , . . . , xn ). Тогда для всех π из S(x2 , . . . , xn ) (π˜ z1 )(x1 ) = (˜ z1 )(x1 ) = w1 (x1 , . . . , xn ) = (˜ z1 π)(x1 ) = π(w1 (x1 , . . . , xn )) = w1 (x1 , xπ(2) . . . , xπ(n) ), поэтому w1 не содержит x2 , . . . , xn и равен xe1 , e = ±1. Аналогично, используя перестановочность z˜1 и произвольной π из S(x2 , . . . , xn ), фиксирующей xi , получим (˜ z1 )(xi ) = wi (x1 , xi ). По тем же соображениям wπ(i) (x1 , xπ(i) ) = = wi (x1 , xπ(i) ), i = 2, . . . , n. Множество слов w1 = xe1 , w2 , . . . , wn образует базис Fn . Удаляя начальную и конечную степени x1 из w2 , . . . , wn , добьёмся, чтобы каждое w ¯i , i = 2, . . . , n, начиналось и заканчивалось на степень xi . Полученное множество слов w ¯1 = xe1 , w ¯i , i = 2, . . . , n, является нильсеновски несократимым базисом в Fn , следовательно, длины всех этих слов равны единице. Итак, можно считать, что w1 = xe1 , wi = xs1 xdi xt1 , i = 2, . . . , n, где e, d = ±1, s, t ∈ Z. Далее, (˜ z1 )2 = θ(z12 ) = 1, поэтому s d t d et ((˜ z1 )2 )(xi ) = xes 1 (x1 xi x1 ) x1 = xi , i 6= 1.
Рассмотрев возможные комбинации знаков e и d, получим следующие четыре возможности для z˜1 : x1
x2
.
xi
.
xn
e=d=1
x1
x2
.
xi
.
xn
e = d = −1
x−1 1
−s xs1 x−1 2 x1
.
−s xs1 x−1 i x1
.
−s xs1 x−1 n x1
e = 1, d = −1
x1
s xs1 x−1 2 x1
.
s xs1 x−1 i x1
.
s xs1 x−1 n x1
e = −1, d = 1
x−1 1
xs1 x2 xt1
.
xs1 xi xt1
.
xs1 xn xt1
1) Пусть e = d = 1. Учтём соотношение перестановочности z˜1 и z˜2 . В данном случае z˜1 = 1 и требуемое соотношение, очевидно, выполнено.
Эндоморфизмы групп автоморфизмов свободных групп
221
s −1 −s 2) Пусть e = d = −1, z˜2 : x2 → x−1 2 , xi → x2 xi x2 , i 6= 2. Тогда −s s s −1 −s −s (˜ z1 z˜2 )(x1 ) = xs2 x1 x−s z2 z˜1 )(x1 ) = (xs1 x−1 2 , (˜ 2 x1 ) x1 (x1 x2 x1 ) ,
откуда s = 0 и z˜1 = a. s 3) Пусть e = 1, d = −1, z˜2 : x2 → x2 , xi → xs2 x−1 i x2 , i 6= 2. Тогда s s s −1 s −1 s s (˜ z1 z˜2 )(x1 ) = xs2 x−1 z2 z˜1 )(x1 ) = (xs1 x−1 1 x2 , (˜ 2 x1 ) x1 (x1 x2 x1 ) ,
откуда s = 0 и z˜1 = z1 a. s t 4) Пусть e = −1, d = 1, z˜2 : x2 → x−1 2 , xi → x2 xi x2 , i 6= 2. Тогда −1 −s s t t z2 z˜1 )(x1 ) = (xs1 x2 xt1 )s x−1 (˜ z1 z˜2 )(x1 ) = x−t 2 x1 x2 , (˜ 1 (x1 x2 x1 ) ,
откуда с учётом степени x1 получим −1 = −1 + (s + t)2 , значит, s = −t. Поэтому −s s −1 s −1 −s −s s −1 t t s (xs1 x2 xt1 )s x−1 1 (x1 x2 x1 ) = (x1 x2 x1 ) x1 (x1 x2 x1 ) −s −s s −1 −s = xs1 xs2 x−1 1 x2 x1 = x2 x1 x2 ,
а следовательно, s = 0 и z˜1 = z1 . При n = 4 в случае 3 имеем z˜i = zi a, i = 1, 2, 3, 4, поэтому θ(a) = a и по лемме 5 эндоморфизм θ является автоморфизмом AutF4 . При n 6= 4 верно Kerθ ∩ A(n) = Kerθ ∩ B(n) = 1 и в случае 3 выполняется θ(z1 ) 6= 1, поэтому θ(B(n) × hz1 i) ≃ Sn × Z2 . Следовательно, z˜1 сопряжён с центральным элементом одной из подгрупп B1 (n), . . . , B4 (n), т. е. с одним из элементов z1 , a, z1 x ˆ1 . Непосредственные вычисления показывают, что G(az1 ) ≃ Z ∗ Z2 ∗ . . . ∗ Z2 , G(z1 ) ≃ Z2 ∗ Z . . ∗ Z} , | ∗ .{z | {z } n−1
n−1
ˆ1 ) ≃ Z2 × Z . . ∗ Z} , G(a) ≃ Z2 ∗ . . . ∗ Z2 , G(z1 x | ∗ .{z {z } | n
n−1
т. е. группы попарно различны при n > 3, поэтому данный случай невозможен. Лемма доказана. Ввиду леммы 7, далее необходимо рассмотреть три случая: θ(z1 ) = 1, θ(z1 ) = a, θ(z1 ) = z1 . Из них случай θ(z1 ) = z1 уже рассмотрен в лемме 5,
222
Д. Г. Храмцов
поскольку тогда θ(a) = θ(z1 . . . zn ) = θ(z1 ) . . . θ(zn ) = z1 . . . zn = a, и θ — автоморфизм. Оставшиеся исследуются в пп. 2.3.1, 2.3.2. 2.3. Эндоморфизм θ пропускается через PSLn (2). ˜ = θ(U ), 2.3.1. Рассмотрим случай, когда θ(z1 ) = z˜1 = 1. Положим U ˜ )2 = θ(K) = (U ˜ )2 = 1. Обозначим через N нормальное запри этом (˜ z1 U мыкание в GLn (Z) подгруппы, порождённой элементами θ1 (z1 ) и (θ1 (U ))2 ; по уже доказанному N ≤ Kerθ1 . Рассмотрим в GLn (Z) главную конгруэнцподгруппу GLn (Z, 2Z) по модулю 2, состоящую из матриц с нечётными диагональными и чётными недиагональными элементами, являющуюся ядром естественного гомоморфизма GLn (Z) на группу GLn (Z/2Z) матриц степени n над полем из двух элементов. ЛЕММА 8. Группа N содержит конгруэнцподгруппу GLn (Z, 2Z). ДОКАЗАТЕЛЬСТВО. Трансвекцией tij (α), i 6= j с параметром α ∈ Z называется матрица, все диагональные элементы которой равны 1, элемент на месте (i, j) равен α, а остальные — нулю. Докажем, что GLn (Z, 2Z) порождается трансвекциями с чётными параметрами и диагональными матрицами, подобно тому, как GLn (Z) порождается всеми трансвекциями и диагональными матрицами. Домножение произвольной матрицы на tij (α) слева приводит к прибавлению её j-ой строки, умноженной на α, к i-ой строке, а умножение произвольной матрицы на tij (α) справа приводит к прибавлению её i-ого столбца, умноженного на α, к j-ому столбцу. Достаточно доказать, что с помощью нескольких таких операций по произвольной матрице M из GLn (Z, 2Z) можно получить диагональную матрицу. Рассмотрим её элементы m11 и m12 , первый из них нечётный, а второй — чётный. Если m12 ненулевой и делится на m11 (обратное невозможно), то m12 /m11 чётно. Домножив M на t12 (m12 /m11 ), получим 0 на месте (1, 2). Пусть теперь m12 ненулевой и не делится на m11 . Для любой пары целых чисел a, b, где a не делит b, можно найти чётное число k такое, что |a − bk| < |b|. Проделав с помощью таких операций аналог алгорифма Евклида для пары {m11 , m12 }, получим в итоге пару {±(m11 , m12 ), 0},
Эндоморфизмы групп автоморфизмов свободных групп
223
где (m11 , m12 ) — наибольший общий делитель m11 и m12 , который будучи нечётным стоит именно на первом месте. Совершив аналогичные операции с первым и вторым столбцами матрицы M , получим в ней 0 на месте (1, 2). Проделав это с парами {m11 , m12 }, {m11 , m13 }, . . . , {m11 , m1n }, занулим все недиагональные элементы первой строки. На месте (1, 1) будет ±1, поскольку определитель полученной матрицы должен равняться ±1. При каждой операции недиагональные элементы остаются чётными, а диагональные — нечётными. С помощью преобразований строк занулим все недиагональные элементы первого столбца. Продолжая так и далее, получим из M диагональную матрицу. Подгруппа N нормальна, содержит диагональную матрицу Diag(−1, 1, . . . , 1) = θ1 (z1 ) и трансвекцию t1n (2) = (θ1 (U ))2 , поэтому содержит и все сопряжённые с ними трансвекции с чётными параметрами и все диагональные матрицы, диагональные элементы которых равны 1 за исключением одного, равного −1. Следовательно, N содержит всю GLn (Z, 2Z). Лемма доказана. Из леммы 5 сразу вытекает, что в рассматриваемом случае θ пропускается через группу GLn (Z/2Z), совпадающую с проективной специальной линейной группой PSLn (2) над полем из двух элементов, являющуюся простой по теореме Жордана–Диксона при n > 3. Следовательно, образ θ либо тривиален, либо изоморфен PSLn (2). Первое невозможно в силу того, что θ тождественно действует на подгруппе A(n). Докажем что в группе AutFn нет подгрупп, изоморфных PSLn (2). ЛЕММА 9. Порядок произвольной конечной подгруппы AutFn не превосходит 2n n!. ДОКАЗАТЕЛЬСТВО. Ввиду [1] произвольная конечная подгруппа группы AutFn вкладывается в прямое произведение подстановочных сплетений симметрических групп Ski посредством Smi , i = 1, . . . , s, при некотоs P (ki − 1)mi 6 n. Оценим сверху рых натуральных ki > 2 и mi таких, что порядок групп такого типа.
i=1
1) При k > 3 порядок сплетения Sk посредством Sm не превосходит
224
Д. Г. Храмцов
((k−1)m+1)!. При m = 1 это очевидно, пусть далее m > 2. Действительно, порядок этого сплетения равен (k!)m m!. Утверждение настоящего пункта равносильно неравенству (km)! > (k!)m m!((k − 1)m + 2) · . . . · km. Пусть (ki + 1) · . . . · k(i + 1) = Ai , i = 0, . . . , m − 1, тогда (km)! = A0 . . . Am−1 . Отношение Ai к k! не меньше, чем (ki + 1)(i + 1)k−1 , поэтому ! m−1 m−1 . Y Y (km)!/k!m m! > (i + 1)k−1 (ki + 1) m! = (m!)k−2 (ki + 1) i=0
=
i=0
m Y
ik−2 (k(m − i + 1) + 1).
i=2
Далее,
ik−2 (k(m − i + 1) + 1) − (mk − i + 2) > > i(k(m − i + 1) + 1) − (mk − i + 2) = i(km + k + 2) − mk − 2 − i2 k, последнее выражение положительно при i = 2, m, значит, и при всех i = = 2, . . . , m. Следовательно, (km)!/k!m m! >
m Y (km − i + 2) i=2
откуда следует утверждение п. 1. 2) Пусть k1 = . . . = kp = 2, kp+1 , . . . , ks > 3. Произведение сплетений Ski посредством Smi , i = 1, . . . , p, вкладывается в сплетение S2 посредством Sm1 +...+mp , поэтому порядок его не превосходит 2m1 +...+mp (m1 +. . .+mp )!. С помощью неравенства (a+1)!(b+1)! 6 (a+b+1)!, применяя п. 1 и индукцию по числу сомножителей, оценим!порядок оставшейся части произведения s P сверху как (ki − 1)mi + 1 !. Обозначим m1 +. . .+mp через m, тогда i=p+1 s P
из неравенства
(ki − 1)mi 6 n получим верхнюю оценку для порядка
i=1
конечной подгруппы в AutFn , равную 2m m!(n − m + 1)!. При m > 1 m 2n n!/2m m!(n − m + 1)! = 2n−m Cn+1 /(n + 1) > 2n−m > 1,
а при m = 0 это отношение равно 2n n!/(n + 1)! (> 1).
Эндоморфизмы групп автоморфизмов свободных групп
225
Следовательно, порядок конечной подгруппы из AutFn не превосходит 2n n!. Лемма доказана. Порядок группы PSLn (2) равен (2n − 1)(2n − 21 ) . . . (2n − 2n−1 ) = = 2n(n−1)/2 (2 − 1)(22 − 1) . . . (2n − 1), что больше 2n n! при n > 3, поэтому при n > 3 нет эндоморфизма AutFn с образом PSLn (2). При n = 2 группа PSL2 (2) изоморфна S3 и такой эндоморфизм есть. Ядром его служит нормальное замыкание в AutF2 автоморфизма z1 (см. § 3). Случай θ(z1 ) = z˜1 = 1 рассмотрен. 2.3.2. Рассмотрим случай, когда z˜1 = θ(z1 ) = a. Имеем z˜1 z˜2 = a2 = 1 и при n > 3 элемент z2 перестановочен с U , следовательно, как и в случае ˜ 2 = (˜ ˜ )2 = (˜ ˜ )2 = (θ(K))2 = 1. Значит, ядро G гомоп. 2.3.1, U z1 z˜2 U z1 U морфизма θ2 группы GLn (Z) на образ θ содержит элементы θ1 (z1 )θ1 (z2 ) и θ1 (U )2 , а вместе с ними все трансвекции с чётными параметрами и диагональные матрицы, все диагональные элементы которых равны 1 за исключением двух, равных −1. Как и в лемме 8, умножая произвольный элемент конгруэнцподгруппы SL2 (Z, 2Z) = GL2 (Z, 2Z) ∩ SL2 (Z) на трансвекции с чётными параметрами, получим диагональную матрицу с чётным количеством единиц на диагонали, разлагающуюся в произведение диагональных матриц, сопряжённых с θ1 (z1 )θ1 (z2 ). Следовательно, G содержит всю SL2 (Z, 2Z). Фактор-группа H = GLn (Z)/SL2 (Z, 2Z) является центральным расширением Z2 с помощью конечной простой группы GLn (2), поэтому образ θ будет фактором H по нормальной подгруппе G/SL2 (Z, 2Z). В группе H собственная нетривиальная нормальная подгруппа либо совпадает с её центром Z2 , либо имеет индекс 2 и не пересекается с центром. В первом случае Imθ = GLn (2), что, как уже установлено, невозможно, во втором Imθ = Z2 , что соответствует факторизации AutFn по SAutFn . Случай n > 4 рассмотрен.
§ 3. Эндоморфизмы группы AutF2 3.1. Пусть сначала A(2) ∩ Kerθ 6= 1, тогда A(2) ∩ Kerθ совпадает с A3 (< A(2)) или с самой A(2), в обоих случаях Kerθ содержит R : x1 →
226
Д. Г. Храмцов
−1 → x2 x−1 1 , x2 → x1 — реализацию тройного цикла (123) из S3 . Комму-
татор [a, R] = a−1 R−1 aR является внутренним автоморфизмом x ˆ−1 1 , следовательно, InnF2 ≤ Kerθ. Согласно [10], AutF2 /InnF2 ≃ GL2 (Z), значит, θ пропускается через GL2 (Z). Будем далее называть образы автоморфизмов в GL2 (Z) так же, как и сами автоморфизмы, если это не приведёт к двусмысленности. Линейная группа GL2 (Z) является свободным произведением образов A(2) × hai ≃ S3 × Z2 и мономиальной подгруппы Ω2 ≃ D8 с объединением по подгруппе, порождённой a и P : x1 ↔ x2 , изоморфной Z2 × Z2 (см. [10]). Подгруппа A3 — нормальное дополнение объединяемой подгруппы до первого сомножителя, а hz2 i (или hz1 i) — дополнение объединяемой подгруппы до второго сомножителя. Тогда θ пропускается через D8 ≃ Ω2 < AutF2 , если A3 ≤ Kerθ. Эндоморфизм AutF2 на D8 реализуется факторизацией по нормальному замыканию hInnF2 , Ri. Рассматривая его композиции с гомоморфизмами D8 , получим эндоморфизмы AutF2 на Z2 × Z2 и Z2 . Далее считаем, что A(2) ∩ Kerθ = 1 и θ действует на A(2) тождественно. 3.2. Пусть B(2) ∩ Kerθ 6= 1, тогда B(2) ∩ Kerθ = B(2) = hz2 i. При этом a = [P, z2 ] ∈ Kerθ, x ˆ2 = [a, U ] ∈ Kerθ, следовательно, InnF2 ≤ ≤ Kerθ и θ пропускается через группу PGL2 (Z) ≃ GL2 (Z)/Z(GL2 (Z)) ≃ ≃ AutF2 /hInnF2 , ai. Группа PGL2 (Z) разлагается в свободное произведение S3 и S2 × Z2 с объединением по Z2 , где S3 — образ A(2) × Z2 , S2 × Z2 — образ D8 , и образ hz2 i дополняет объединяемую подгруппу до второго сомножителя. Заметим, что ввиду п. 1.2.3 группа PGL2 (Z) изоморфна подгруппе AutF2 , порождённой A(2) и a, т. е. вкладывается в AutF2 . Кроме того, z2 ∈ Kerθ, поэтому θ пропускается через S3 ≃ A(2) < < AutF2 . Эндоморфизм AutF2 на S3 реализуется факторизацией по нормальному замыканию hInnF2 , z2 i. Рассматривая его композиции с гомоморфизмами S3 , получим эндоморфизм AutF2 на Z2 . 3.3. Осталось рассмотреть случай, когда A(2) ∩ Kerθ = B(2) ∩ Kerθ =
Эндоморфизмы групп автоморфизмов свободных групп
227
= 1 и θ тождественно действует на A(2). 3.3.1. Если Kerθ ∩Ω2 6= 1, то нормальная подгруппа Kerθ ∩Ω2 6= 1 конечной 2-группы Ω2 должна содержать нетривиальный центральный элемент a. Следовательно, в этом случае a ∈ Kerθ и, аналогично лемме 6, θ пропускается через PGL2 (Z). Выясним, какие гомоморфные образы этой группы вкладываются в AutF2 , считая соответствующий гомоморфизм тождественным на сомножителе S3 = A(2). Элементы θ(z2 ) и θ(P ) перестановочны, как и их прообразы в PGL2 (Z). Анализируя матрицы этих автоморфизмов, получаем, что матрица θ(z2 ) совпадает либо с ±E, либо с ±P . Следовательно, θ(z2 ) ∈ ∈ {ˆ g , aˆ g , P gˆ, aP gˆ}, где gˆ — некоторый внутренний автоморфизм F2 . Перестановочность θ(z2 ) с P влечёт gˆ = 1, поэтому θ(z2 ) совпадает с одним из элементов 1, a, P, aP . В первом и третьем случаях, как в п. 3.2, θ пропускается через S3 . Во втором и четвёртом случаях L = Imθ = hA(2), a = θ(z2 )i ≃ PGL2 (Z). Следовательно, эти эндоморфизмы реализуется факторизацией по hInnF2 , ai. Эндоморфизмы AutF2 , пропускаемые через L, ничего нового не дадут. Повторяя рассуждения о перестановочности элементов θ(z2 ) и θ(P ) c заменой θ(z2 ) на θ(a), получаем тот же набор случаев θ(a) ∈ {1, a, P, aP }, дающих в итоге те же две возможности: L и S3 . Отметим, что подгруппа L является свободным сомножителем группы AutF2 , накрывающим при гомоморфизме на GL2 (Z) сомножитель A(2) × hai. 3.3.2. Если Kerθ ∩ Ω2 = 1, то θ(Ω2 ) ≃ Ω2 . По теореме 2 группа AutF2 содержит ровно один класс сопряжённости подгрупп D8 с представителем Ω2 , подгруппа θ(Ω2 ) сопряжена с Ω2 , θ(a) сопряжён с a. Ввиду тождественности θ на A(2), элемент θ(a) перестановочен с P , откуда, как в п. 3.3.1, θ(a) ∈ {a, P, aP }. Определители матриц двух последних автоморфизмов равны −1, поэтому они не сопряжены с a и θ(a) = a. Значит, θ(ˆ x2 ) = θ(P2 a)2 = (P2 a)2 = x ˆ2 , поэтому θ действует тождественно на InnF2 и, как было показано в случае n > 4 леммы 5, θ — тождественный автоморфизм группы F2 . Случай n = 2 рассмотрен.
228
Д. Г. Храмцов § 4. Эндоморфизмы группы AutF3 4.1. Пусть A(3) ∩ Kerθ 6= 1. Тогда A(3) ∩ Kerθ ∈ {A(3), A4 , V }, где
V — реализация подгруппы Клейна {1, (12)(34), (13)(24), (14)(23)} < S4 . В первом случае A(3) ∩ B(3) ≃ S2 ≤ Kerθ, откуда B(3) ≤ Kerθ и Kerθ = = AutF3 . 4.1.1. Во втором случае A(3) ∩ Kerθ — нормальное дополнение к A(3) ∩ B(3) в A(3), поэтому Imθ = θ(B(3)), и θ пропускается через S3 . Докажем, что θ пропускается через Z2 . Рассмотрим гомоморфные образы ˜ , P˜3 , P˜2 соответствующих элементов из AutF3 в S3 . При z˜i , i = 1, 2, 3, U этом выполняются следующие свойства: 1) P˜3 6= 1, т. к. P3 ∈ / A4 = A(3) ∩ Kerθ; 2) P˜2 = 6 1, иначе было бы Imθ ≤ θ(B(3)) = 1; можно считать, что P˜2 = (12); 3) z˜1 ∈ {1, (12)} ввиду перестановочности z1 и P¯2 , z˜1 и P˜2 . ˜ 2 = 1. В силу свойств 1 и 2 Если z˜1 = 1, то, как в п. 2.3.1, получим U ˜ = P˜3 P˜2 ∈ {1, (123), (132)}, следовательно, U ˜ = 1, P˜3 = P˜2 и справедливо U θ пропускается через S2 . Пусть далее z˜1 = (12). Все z˜i сопряжены между собой образом цикла (123) из A(3), лежащего в Kerθ, поэтому можно считать, что z˜i = (12), ˜ = P˜3 P˜2 следует, что либо P˜3 = P˜2 и U ˜ = 1, i = 1, 2, 3. Из соотношения U ˜ — тройной цикл. В последнем случае U ˜ и z˜2 не перелибо P˜3 6= P˜2 и U становочны, что противоречит перестановочности U и z2 . Значит, образы порождающих U , P , Q = (123), z1 группы AutF3 в S3 равны (12) или 1, следовательно, в этом случае θ пропускается через Z2 . 4.1.2. Пусть A(3) ∩ Kerθ = V . Сопряжём автоморфизм (12)(34) : −1 −1 ¯ x1 → x2 x−1 3 , x2 → x1 x3 , x3 → x3 , из V < A(3) с помощью P2 : x1 → x1 , −1 x2 → x2 x−1 из B(3), получим z3 P ∈ Kerθ. Тогда [z3 P, z1 ] = 3 , x3 → x3
= z1 z2 ∈ Kerθ, [z3 P, (23)] = (123)z1 z2 ∈ Kerθ, следовательно, R = (123) ∈ ∈ A(3) ∩ Kerθ, что противоречит предположению A(3) ∩ Kerθ = V . Итак, данный случай невозможен. 4.2. Далее считаем, что A(3) ∩ Kerθ = 1. По теореме 2 образ θ(A(3))
Эндоморфизмы групп автоморфизмов свободных групп
229
совпадает (с точностью до умножения θ на внутренний автоморфизм AutFn ) с представителем стандартного класса сопряжённости S4 в AutF3 , а именно с A(3), и действует на нём тождествено, или совпадает с представителем одного из двух нестандартных классов сопряжённости, каждый из которых лежит в Ω3 . Используем схему рассуждений для общего случая с рядом отличий. ЛЕММА 10. В рассматриваемом случае Kerθ ∩ B(3) = 1. ДОКАЗАТЕЛЬСТВО. Предположим противное, тогда Kerθ ∩ B(3) совпадает со знакопеременной подгруппой из B(3) и Imθ = θ(A(3)) = S4 . При этом θ(P¯2 ) = θ((x2 , x3 )) и θ(P3 ) являются различными непереста˙ P¯2 ) — циклом длины три. новочными транспозициями, а θ(U ) = θ(P3 )θ( Автоморфизм P = (x1 , x2 ) ∈ A(3) не лежит в подгруппе hP3 , (x2 , x3 )i, поэтому θ(P ) является транспозицией и не лежит в hθ(P3 ), θ((x2 , x3 ))i ∋ θ(U ). Следовательно, θ(U ) не перестановочен с θ(P )θ(U )θ(P ), что противоречит перестановочности U и P U P в AutF3 . Лемма доказана. 4.2.1. Группа θ(A(3)) совпадает c A(3) и θ действует на ней тождественно. Отметим, что фактически в данном пункте используется только тождественность θ на S(3). Положим z˜1 (xi ) = wi (x1 , x2 , x3 ), i = 1, 2, 3. ˜ = (23), как и в лемме 7 В силу перестановочности z˜1 = θ(z1 ) и (23) верно w1 = xe1 , w3 = (23)(w2 ). С помощью w1 в словах w2 и w3 уберём крайние степени x1 , в результате получится множество {w ¯ 1 = w1 , w ¯2 , w ¯3 }, являющееся свободным базисом F3 . Если длины некоторых слов этого множества больше единицы, оно должно быть нильсеновски сократимым, т. е. длина некоторого произведения w ¯i±1 w ¯j±1 (в нашем случае, очевидно, {i, j} = {2, 3}) не превосходит длины одного из w ¯i , w ¯j . Рассмотрим первую и последнюю буквы слов w ¯2 , w ¯3 , ими являются пары {xsi , xti }, {xsj , xtj } или {xsi , xtj }, {xsj , xti }, {i, j} = {2, 3}, соответственно. В первом случае сокращения в произведених w ¯i±1 w ¯j±1 невозможны, во втором сокращения возникают только в произведениях степеней одного знака. Покажем, что произведения равны единице. Пусть |w ¯2 w ¯3 | ≤ |w ¯2 | = |w ¯3 |, остальные случаи рассматриваются ана-
230
Д. Г. Храмцов
логично. В каждом из рассматриваемых слов должно сократиться не менее половины. Если эти слова нечётной длины, то их средние буквы равны одной из пар xp1 , xp1 , p = ±1 или xpi , xpj , p = ±1, {i, j} = {2, 3}, следовательно, они не могут сократиться друг с другом, поэтому длины слов чётны. Обозначим через v начальное подслово w ¯3 длины |w ¯3 |/2, тогда конечным подсловом w ¯2 длины |w ¯2 |/2 будет v −1 . При этом w ¯3 = (23)(w ¯2 ), значит, w ¯2 = (23)(v) · v −1 , w ¯3 = v · (23)(v −1 ), следовательно, эти слова взаимно сокращаются, что невозможно для разных элементов свободного базиса. Полученное противоречие доказывает, что |w ¯2 | = |w ¯3 | = 1. Таким образом, имеются две возможности: w1 = xe1 , w2 = xs1 xd2 xt1 , w3 = xs1 xd3 xt1 или w1 = xe1 , w2 = xs1 xd3 xt1 , w3 = xs1 xd2 xt1 , d, e = ±1, s, t ∈ Z. Все z˜i сопряжены между собой. Если θ не является автоморфизмом, то a ˜ = z˜1 z˜2 z˜3 = 1 по леммам 4 и 5. Поэтому определители матриц автоморфизмов zi равны единице. Отсюда e = 1 в первом случае и e = −1 во втором. Из соотношения z˜12 = 1 вытекает, что для z˜1 возможны следующие случаи: x1 e=d=1
x2
x3
x1
x2
x3
e = 1, d = −1
x1
s xs1 x−1 2 x1
s xss x−1 3 x1
e = −1, d = 1
x−1 1
xs1 x3 xt1
xs1 x2 xt1
e = −1, d = −1
x−1 1
−s xs1 x−1 3 x1
−s xs1 x−1 2 x1
Заметим, что полученные здесь случаи 1 и 2 совпадают с соответствующими случаями 1 и 3 общей ситуации, когда n > 4, и рассмотрение соотношений перестановочности z˜1 и z˜2 = (12)(˜ z2 ) также даёт для них либо z˜1 = 1, либо z˜1 = z1 a. Как при n > 4, первое приводит к тривиальному эндоморфизму θ. В силу леммы 10 второе исключается как в доказательстве леммы 7, с использованием классов сопряжённости подгрупп B1 (3), . . . , B4 (3). Рассмотрим два оставшихся случая. t s t s 3) Пусть e = −1, d = 1, и z˜2 : x2 → x−1 2 , x1 → x2 x3 x2 , x3 → x2 x1 x2 .
Тогда −1 −s z2 z˜1 )(x1 ) = (xs1 x3 xt1 )s xs1 x2 xt1 (xs1 x3 xt1 )t . (˜ z1 z˜2 )(x1 ) = x−t 2 x3 x2 , (˜
Эндоморфизмы групп автоморфизмов свободных групп
231
Эти слова не равны, т. к. при факторизации F3 по нормальному замыка−1 −s s t нию x1 они переходят в очевидно различные слова x−t 2 x3 x2 и x3 x2 x3 из
F2 (x2 , x3 ). Случай 3 невозможен. s −1 −s s −1 −s 4) Пусть e = d = −1 и z˜2 : x2 → x−1 2 , x1 → x2 x3 x2 , x3 → x2 x1 x2 .
Тогда s −s (˜ z1 z˜2 )(x1 ) = xs2 x3 x−s z2 z˜1 )(x1 ) = xs1 x−s 2 , (˜ 3 x2 x3 x1 .
Эти слова не равны, и случай 4 тоже невозможен. Случай θ(A(4)) = A(4) рассмотрен. 4.2.2. Группа θ(A(3)) сопряжена c A1 (3) или A2 (3). С точностью до умножения на подходящий внутренний автоморфизм AutF3 в первом случае эндоморфизм θ отображает каждый σ из A(3) в (σ, 1), а во втором — в (σ, ad(σ) ) из S4 ×Z2 , отождествленной с Ω3 указанным в п. 1.2.1 способом. Здесь d(σ) = 0 для чётных и d(σ) = 1 для нечётных σ. И в том, и в другом случаях можно считать, что θ тождественно действует на группе A3 < < A(3)∩Ω3 = S3 , порождённой циклической перестановкой Q = (x2 , x3 , x1 ) порождающих x1 , x2 , x3 . ЛЕММА 11. В рассматриваемом случае a ˜ = θ(a) ∈ {1, a}. ДОКАЗАТЕЛЬСТВО. Положим a ˜(xi ) = wi (x1 , x2 , x3 ); из переста˜ и a новочности Q и a следует перестановочность Q = Q ˜, откуда wi = = Qi−1 (w1 ), i = 1, 2, 3. Если длины этих слов больше единицы, то, повторяя рассуждения о нильсеновской сократимости множества слов w1 , w2 , w3 аналогично п. 4.2.1, получим, что длины этих слов чётны и они не могут в совокупности породить F3 . Следовательно, длины этих слов равны единице, откуда a ˜ = Qe ad , e = 0, 1, 2, d = 0, 1. Если e 6= 0, то (˜ a)2 6= 1, что невозможно, поэтому a ˜ = ad , d = 0, 1. Лемма доказана. А. Пусть θ(A(3)) сопряжена c A1 (3). Можно считать, что θ тождественно действует на S(3) < A(3) ∩ Ω3 . Повторяем рассуждения п. 4.2.1 (использующие только тождественность θ на S(3)). Однако теперь нельзя утверждать, что a ˜ = 1, если θ не является автоморфизмом. Случаи w1 = xe1 , w2 = xs1 xd2 xt1 , w3 = xs1 xd3 xt1 , d, e = ±1, s, t ∈ Z рассматриваются аналогично лемме 7, и приводят к тому, что z˜1 ∈ {1, z1 , a, z1 a}. Слу-
232
Д. Г. Храмцов
чай z˜1 = 1 приводит к тривиальному θ как в п. 2.3.1, случай z˜1 = z1 a исключается, как в доказательстве леммы 7, рассмотрением классов сопряжённости подгрупп B1 (3), . . . , B4 (3). Действие θ на этих подгруппах является вложением в силу леммы 9 и того, что θ(z1 ) 6= 1. В итоге получим z˜1 ∈ {z1 , a}. Случаи w1 = xe1 , w2 = xs1 xd3 xt1 , w3 = xs1 xd2 xt1 , d, e = ±1, s, t ∈ Z рассматриваются аналогично случаям 3 и 4 из п. 4.2.1 и не дают ни одного решения. В силу сделанного выше замечания P˜3 = (34) = (12)((12)(34)) = = (12)z1 z2 ∈ Ω3 . Пользуясь соотношениями P3 P¯2 = U, P3 · U · (12) · U · (12) = z3 ,
(∗)
получим P2 · (12)P3 P2 · (12) = z3 . Подставив P˜3 = (12)z1 z2 , получим z3 . Как уже установлено, z˜3 ∈ {z3 , a}, поэтому правая P˜2 z1 z2 P˜ −1 = (12)˜ 2
часть равенства будет равна (12)z3 или (12)a, что означает сопряжённость z1 z2 с одним из этих элементов. Такая ситуация невозможна, поскольку G(z1 z2 ) ≃ Z2 ∗ Z2 ∗ Z, G((12)z3 ) ≃ G((12)a) ≃ Z2 ∗ Z. Таким образом, эндоморфизма θ, переводящего A(3) в A1 (3), нет. Б. Рассмотрим последний случай, когда θ(A(3)) сопряжена c A2 (3). 1) Пусть Kerθ ∩ Ω3 = 1. Можно считать, что θ действует на Ω3 ≃ ≃ S4 × Z2 как автоморфизм ϕ : (σ, ae ) → (σ, ae+d(σ) ), при этом θ((12)z3 ) = = (12)z1 z2 . Однако из автоморфизма (12)z3 можно извлечь в AutF3 квад−1 −1 −1 2 ратный корень: ψ : x1 → x3 x−1 1 , x2 → x3 x2 , x3 → x2 x3 x1 , (ψ) = (12)z3 ,
а из его образа (12)z1 z2 — нельзя, поскольку определитель образа равен −1. Противоречие. ¯ 2) Пусть Kerθ ∩ Ω3 ≥ Z(3). Тогда z˜i = a ˜ = ae , e = 0, 1, i = 1, 2, 3 по ˜ = (12)a. Применяя соотношения (∗), получим лемме 10, и P˜3 = (12)z3 , (12) сопряжённость элементов z1 z2 и (12)ae , e = 0, 1. Это невозможно, т. к. G(z1 z2 ) ≃ Z2 ∗ Z2 ∗ Z, G((12)) ≃ F2 , G((12)a) ≃ Z2 ∗ Z. 3) Пусть Kerθ ∩Ω3 = hai. В этом случае θ(A1 (3)) = θ(A2 (3)) ≃ S4 . Поскольку θ(A1 (3)) ∩ A(4) = S(3) и θ(A(3)) сопряжена c A2 (3), то θ(A1 (3)) = = θ(A2 (3)) тоже сопряжены с A2 (3). Тогда θ(z3 ) = θ((12)(34)a) =
Эндоморфизмы групп автоморфизмов свободных групп
233
= θ((12)(34)) сопряжён с (12)(34) = z1 z2 . Рассмотрим автоморфизм P21 z3 : −1 −1 x1 → x2 x−1 1 , x2 → x1 , x3 → x3 из подгруппы B1 (3); легко убедиться, что
(P21 z3 )3 = z3 . ЛЕММА 12. Единственным решением уравнения X 3 = z1 z2 в группе AutF3 является X = z1 z2 . ДОКАЗАТЕЛЬСТВО. Решением уравнения X 3 = z1 z2 является автоморфизм порядка 2 или 6. В первом случае это, очевидно, X = z1 z2 . Определим классы сопряжённости элементов порядка 6 в AutF3 и покажем, что куб любого элемента порядка 6 не может быть сопряжён с z1 z2 , откуда будет следовать единственность решения. Для этого воспользуемся методом из [2—4]. Расширение G группы Fn посредством конечной группы автоморфизмов H является почти свободной группой и представляется в виде фундаментальной группы конечного графа конечных групп. Факторизация G по Fn даёт ретракцию на H. Более точно, имеет место ТЕОРЕМА 4 [3, теор. 1]. Каждому вложению конечной группы H в AutFn , n > 2, соответствуют (1) фундаментальная группа π(H, Γ) приведённого конечного графа конечных групп (H, Γ) с вершинными группами Vi , i = 0, . . . , p, причём V0 ≃ H, рёберными группами Ei , i = 1, . . . , p, проходными буквами tk , k = = 1, . . . , s, и ассоциированными подгруппами Lk , Mk = t−1 k Lk tk , k = = 1, . . . , s, групп вершин, (2) гомоморфизм Φ группы π(H, Γ) на V0 , удовлетворяющие условиям (У1) сужение Φ на каждой Vi , i = 1, . . . , p, является изоморфным вложением, Φ тождественно на V0 , (У2) пересечение всех Φ(Ei ) и Φ(Lk ) не содержит нетривиальных нормальных подгрупп группы V0 , p s P P |V0 : Φ(Lk )| = n. (У3) (|V0 : Φ(Ei )| − |V0 : Φ(Vi )|) + i=1
k=1
Обратно, каждые граф групп (H, Γ) и гомоморфизм Φ : π(H, Γ) →
→ H, удовлетворяющие условиям (У1)—(У3), определяют некоторое вло-
234
Д. Г. Храмцов
жение H в AutFn . В дальнейшем будем отождествлять H и V0 . Класс сопряжённости подгруппы H определяется парой {(H, Γ), Φ}, различные Φ могут определять несопряжённые вложения H в AutFn . Пусть Φ1 и Φ2 — гомоморфизмы групп G1 = π(H, Γ1 ) и G2 = π(H, Γ2 ) на H, удовлетворяющие (У1)—(У3). Справедлива ЛЕММА 13 [3]. Пары {G1 , Φ1 } и {G2 , Φ2 } определяют один класс сопряжённости H в AutFn тогда и только тогда, когда существуют ψ ∈ AutH и изоморфизм Ψ : G1 → G2 такие, что Φ1 ψ = ΨΦ2 , Ψ(H) = H. В случае (H, Γ1 ) = (H, Γ2 ) для сопряжённости необходимо и достаточно существования такого автоморфизма Ψ группы G, что Φ1 Ψ = ΨΦ2 и Ψ(H) = H. По заданной паре {(H, Γ), Φ} построим базис KerΦ ≃ Fn с помощью переписывающего процесса Райдемастера–Шрайера с системой представителей H и выбирающей функцией Φ. Действие H сопряжением в этом базисе представит её автоморфизмами Fn . Вернемся к доказательству леммы 12. 1) Подходящие графы групп. Будем считать вершины графов и рёбра их максимальных поддеревьев занумерованными так, что vi является концом ребра ei , соответственно, Φ(Vi ) > Φ(Ei ), 2i = 1, . . . , p. По условию (У2) либо одна из подгрупп Φ(Ei ), Φ(Lk ) единична, либо одна совпадает с Z2 , а другая — с Z3 . Условие (У3) в первом случае влечёт p = 1, s = 0, V1 ≃ Z2 , V0 = H ≃ Z6 , E1 = 1. Во втором случае p = 2, s = 0, V1 ≃ V2 ≃ V0 ≃ Z6 , E1 ≃ Z3 , E2 ≃ Z2 , граф Γ является деревом с двумя рёбрами и тремя вершинами. 2) Гомоморфизмы. Если p = 1, обозначим порождающие групп V0 , V1 через c, d, соответственно, тогда c6 = d2 = 1. В силу (У1) существует единственный гомоморфизм Φ группы G ≃ Z6 ∗ Z2 на V0 , образ которого даёт один класс сопряжённости Z6 в AutF3 . При этом Φ(c) = c, Φ(d) = c3 . Если p = 2, выделенная вершина может быть любой из трёх, и они не переводятся друг в друга автоморфизмом G. Покажем, что каждый из этих трёх случаев приводит к одному классу сопряжённости Z6 в AutF3 .
Эндоморфизмы групп автоморфизмов свободных групп
235
При этом всегда G ≃ Z6 ∗Z3 Z6 ∗Z2 Z6 . Обозначим порождающие групп V0 , V1 , V2 через c, d, e, соответственно, тогда c6 = d6 = e6 = 1 и либо d2 = = c2 , e3 = c3 , либо d2 = c2 , e3 = d3 , либо d2 = e2 , e3 = c3 , в зависимости от выделенной вершины. Из условия (У1) следует Φ(c) = Φ(d) = c, Φ(e) = = c±1 . Случай Φ(e) = c−1 сводится к Φ(e) = c посредством автоморфизма Ψ : c → c, d → d, e → e−1 группы G, удовлетворяющего условию леммы 13. 3) Представители классов сопряжённости Z6 в AutF3 . С л у ч а й 1. Метод Райдемастера–Шрайера с системой представителей Π = {ci , i = 0, . . . , 5} и выбирающей функцией Φ даёт для KerΦ множество порождающих x1 = dc−3 , x2 = c−1 dc−2 , x3 = c−2 dc−1 , x4 = c−3 d, x5 = c−4 dc, x6 = c−5 dc2 . Переписав в этих порождающих соотношения c−i d2 ci = 1, i = 0, . . . , 5, получим x1 x4 = x2 x5 = x3 x6 = 1; следовательно, свободный базис KerΦ состоит из x1 , x2 , x3 . В этом базисе c действует сопряжением как c : x1 → x2 , x2 → x3 , x3 → x−1 1 . Это приводит к представителю первого класса сопряжённости Z6 в AutF3 . Кубы порождающих подгрупп из этого класса сопряжены с автоморфизмом a, не сопряжённом с z1 z2 ввиду знака определителя. С л у ч а й 2. Пусть выделенной является средняя вершина, тогда c6 = d6 = e6 = 1, d2 = c2 , e3 = c3 (остальные два варианта сводятся к этому). Метод Райдемастера–Шрайера с системой представителей Π = {ci , i = 0, . . . , 5} и выбирающей функцией Φ даёт для KerΦ множество порождающих двух типов: u0 = dc−1 , u1 = c−1 d, u2 = c−2 dc, u3 = c−3 dc2 , u4 = c−4 dc3 , u5 = c−5 dc4 и v0 = ec−1 , v1 = c−1 e, v2 = = c−2 ec, v3 = c−3 ec2 , v4 = c−4 ec3 , v5 = c−5 ec4 . Переписав соотношения c−i (d2 c−2 )ci = c−i (e3 c−3 )ci = 1, i = 0, . . . , 5, в этих порождающих, получим ui ui+1 = 1, vi+2 vi+1 vi = 1, i = 0, . . . , 5. Следовательно, свободный базис KerΦ образуют элементы x1 = v0 , x2 = v1 , x3 = u0 и c действует в −1 −1 нём сопряжением как c : x1 → x2 , x2 → x−1 1 x2 , x3 → x3 . Это приводит к
представителю второго класса сопряжённости Z6 в AutF3 . Кубы порождающих подгрупп из этого класса сопряжены с автоморфизмом z3 , который не сопряжён с z1 z2 опять-таки ввиду знака определителя. Заметим, что в двух оставшихся вариантах соответствующие c отличаются от только что
236
Д. Г. Храмцов
рассмотренного умножением на внутренние автоморфизмы. Эти подслучаи можно рассматривать как первый вариант, в котором меняются ролями либо c и d, либо c и e, и в силу включений dc−1 , ec−1 ∈ KerΦ = F3 эти элементы отличаются от первого домножением на внутренний автоморd [ −1 или ec −1 . Следовательно, их матрицы совпадают с матрицей из физм dc первого рассматриваемого случая, и кубы порождающих подгрупп из этих
классов сопряжены с автоморфизмом z3 по модулю InnF3 , следовательно, не сопряжены с z1 z2 ввиду знака определителя. Лемма доказана. Завершим доказательство теоремы 1. Имеем θ(P21 z3 ) = θ(P21 )θ(az1 z2 ) = θ(P21 )z1 z2 , с другой стороны, θ(P21 z3 )3 = θ(z3 ) = z1 z2 . По лемме 12, θ(P21 )z1 z2 = z1 z2 , откуда θ(P21 ) = 1, следовательно, образ сопряжённого с P21 элемента порядка 3 из подгруппы B(3) тоже равен единице, что противоречит лемме 10. Обратимся к доказательству п. 3 основной теоремы. Пусть θ — нетривиальный гомоморфизм группы AutFn , n > 3, в AutFm , m > 2, при n > m. Из [3] следует, что группа AutFm , m < n, не содержит подгрупп, изоморфных Sn+1 , поэтому Kerθ ∩ A(n) 6= 1. При n > 4 как в п. 2.1 и при n = 3 как в п. 4.1 получаем Kerθ ≥ SAutFn и образ θ либо изоморфен Z2 , либо тривиален. Теорема доказана.
ЛИТЕРАТУРА 1. Д. Г. Храмцов, Конечные группы автоморфизмов свободных групп, Матем. заметки, 38, № 3 (1985), 386—392. 2. Д. Г. Храмцов, Конечные подгруппы групп внешних автоморфизмов свободных групп, Алгебра и логика, 26, № 3 (1987), 376—394. 3. Д. Г. Храмцов, О внешних автоморфизмах свободных групп, Теоретико групповые исследования, Свердловск, 1990, 95—127. 4. Д. Г. Храмцов, Совершенность групп внешних автоморфизмов свободных групп, Теоретико групповые исследования, Свердловск, 1990, 128—143. 5. Д. Г. Храмцов, Конечные графы групп с изоморфными фундаментальными группами, Алгебра и логика, 30, № 5 (1991), 595—623.
Эндоморфизмы групп автоморфизмов свободных групп
237
6. Д. Г. Храмцов, Гомоморфизмы групп автоморфизмов свободных групп, Межд. конф., посв. 60-летию ак. Ю. Л. Ершова, Новосибирск, 2000, Тез. сообщ., сб. „Логика и приложения“, Новосибирск, 2000, 107. 7. Д. Г. Храмцов, Эндоморфизмы групп автоморфизмов свободных групп, препринт № 124, Новосибирск, Ин-т матем. СО РАН, 2003. 8. J. Dyer, E. Formanek, The automorphism group of a free group is complete, J. Lond. Math. Soc., II. Ser., 11, N 2 (1975), 181—190. 9. А. Каррас, В. Магнус, Д. Солитэр, Комбинаторная теория групп, М., Наука, 1974. 10. Р. Линдон, П. Шупп, Комбинаторная теория групп, М., Мир, 1980.
Поступило 29 декабря 2003 г. Адрес автора: ХРАМЦОВ Дмитрий Геннадьевич, Институт математики СО РАН, пр. Ак. Коптюга, 4, г. Новосибирск, 630090, РОССИЯ. Тел.: (3832) 33-34-95. e-mail:
[email protected]