О разрешимости теорий первого порядка групп и моноидов целочисленных матриц

Алгебра и логика, 39, N 4 (2000), 480-504

УДК 510.665:512.54

О РАЗРЕШИМОСТИ ТЕОРИЙ ПЕРВОГО ПОРЯДКА ГРУПП И МОНОИДОВ ЦЕЛОЧИСЛЕННЫХ МАТРИЦ Ю. В. Н А Г Р Е Б Е Ц К А Я

А. И. Мальцев в [1] установил, что кольцо Z целых чисел в полной ли­ нейной группе GL(n,Z) целочисленных матриц порядка п ^ 3 формульно определимо. Отсюда и из алгоритмической неразрешимости 10-й пробле­ мы Гильберта (см. [2]) легко следует неразрешимость элементарной теории группы GL(n,Z)

при п ^ 3. В [3] А. М.Слободской доказал, что универ­

сальная теория группы G£(3,Z) неразрешима. В настоящей работе эти результаты существенно усиливаются и дополняются. Более того, теперь становится достаточно реальным решение вопроса о нахождении в некото­ рых рамках всех разрешимых теорий группы C?L(3,Z) и тесно связанного с ней полного линейного моноида MX(3,Z). Для этого можно воспользо­ ваться схемно-альтернативной иерархией, и указанный вопрос рассматри­ вать в русле концепции критических теорий, развитой Ю. М.Важениным в работах [4—7]. Основной результат настоящей работы — Т Е О Р Е М А . Теории V-nVGL(3,Z), 3-iAGL(3,Z), VnVML(3,Z) и 3-i A MX(3,Z) являются

критическими,

а теории 3VA Vft4" ^ «=2

а(0)

о о ь г Г Ы(') k(i)

где е

«'=2

1=1

1)

V о о 4 х-2п4°

•*п« 1. Теперь докажем справедливость А^ Е § для некоторого & Е {!»••• . . . , п}. Тем самым получим противоречие с предположением. Пусть / ;=± ^

I i Е { 2 , . . . , п} | С} = 0 >. Заметим, что н Е / , и поэтому / ф 0 .

Обозначим | / | = /. Если J — произвольное подмножество множества { 1 , . . . , п}, то под Sj будем понимать отображение из { 1 , . . . , п} в {1, 2,3},

487

О разрешимости теорий первого порядка,

определенное равенством Sj(i) = 2xj(i) + X{i,...,n}\jW Д л я каждого % 6 6 { 1 , . . . , п}, где XJ> X{i,...,n}\J ~~ характеристические функции для мно­ жеств J, { l , . . . , n } \ J соответственно. Исходя из равенства (1), вычис­ лим ot{l):

«(')=*

п( ° о «а« ^

Е

П

7С{1,...,т»}, \J\ = J / 0

-

t=l

о о bg(0 0

,(») » ° «MD.nCd

° с8(о / \

Е

(1) (О о о #.',„ п с4/(1) 'Mi) H

JC{l,...,n},

,(1) ^о о ^ ч П й j

£

«=2 ГГ>)

JC{1,...,«},

И =/ / 0 0 а (1)

\

Sj(l)

«

U

где Aj =i e

Si) П j6{2,...,n}\J

JJ У

Пусть J С {!,•.., п}, |«7| = / и J ф / , тогда Aj — нулевая матрица. Действительно, поскольку \J\ = |/| = /, то I\J jfo G { 2 , . . . , n}\ J имеем с ^ '

ф 0 и для некоторого

0. Следовательно,

Д

с (xj) = 0, и

j€{2,...,n}\J

поэтому Aj = 0. Поскольку 1 £ J, то

\i€/

п

>е{2,...,п}\/

/0

„ш

0

af>\

0 0 Ь?>

V 0 0 ci x ) У

ЛЛ ф 0, Коль скоро det Ai / 0 и для всех j £ { 2 , . . . , п}\1 выполняется с\' то найдется к Е / , при котором 4

— 0, и, следовательно, Ak E S; что и

требовалось показать. Лемма 2 доказана. Назовем замыканием произвольного множества А множество А

^

^ Л и {а"1 | a 6 Л} групповых слов над алфавитом Л. Множество Л назовем замкнутым, если Л = Л. Введем следующее семейство множеств групповых слов над алфавитом Л U {b,b~1} U {с, с""1}, где Л — замкну­ то: И^(Л,Ь) т=± ЛЬ U ЛЬ" 1 , ИЪ(Л,Ь) ^ Л ь и Л ь ~ \ И^з(Л,Ь) ^

И^(Л,Ь)и

Ю. В. Нагребецкая

488 UW2(A,b),

ТУ(Л,Ь,с)

W2{A,b)

U Widbb-1}^)

U W2{A,c)

U

Л Е М М А 3. Для любого конечного замкнутого множества А ма­ триц из GL(3, Z)\{±JB} существуют матрицы Дд, С л € GL(3, Z) такие, 4moW(A,BA,CA)f)S

= 0.

ДОКАЗАТЕЛЬСТВО. Покажем сначала, что для любого конечного замкнутого множества Л матриц из GL(3, Z)\{±1?} существует матрица Вл

Е GL(3,Z)\{±E}

такая, что W3(A, BA)f)S

тивное: W3(A,X)C\8

= 0 . Предположим про­

ф 0 для любой матрицы X Е GL(3,1)\{±E}.

По­

скольку J7y^ 0 { ± ^ } Д л « всех у, 2 Е Z\{0}, то И^СЛ, t/^) f]§ ф 0 для любых у, z £ Z\{0}. Заметим, что U~zl == U-Vi-Z для любых t/, г Е Z. Пусть А — произвольная матрица из GZ(3,Z) и пусть А имеет вид: / ai

а2

а3 \

\ bi

b2

b3

\ ci

c2

c3 J

.

(2)

Тогда a\ + a3 у a2 + a3z AUyz =

&i + &3 У ^2 + b3 z c\ + c3 у

Uy* AUyz =

b3 c3 J

I &i + a3 у

a2 + a3z

a3 \

b\ + b3 у

b2 + b3z

b3

-a2 у - b2z + c2 + zt

t

\ -ax y-hz где t

c2 + c3 z

a3 \

+ ci+yt

)

-a3y — b3z + c3. Заметим, что (AUyzeB)

(c 3 = ± l , У = ТСь 2 = q=c2), -(ai ^ l)y - biz + ci

(u-lAUvxe&)

-a2y-{b2^l)z - a 3 y - b3z + c 3

(3)

=

0,

+ C2 -

0,

=

±1.

(4)

Легко проверить, что множество В является замкнутым. Для этого доста­ точно показать, что А - 1 б S для произвольной матрицы А 6 S. Действи­ тельно, пусть матрица А имеет вид (2) и А 6 S, т.е. С\ = с2 = 0, с 3 = ± 1

489

О разрешимости теорий первого порядка Тогда 1

А- ^

а

СЗ&2

- ^ 2

-c 3 6i

c 3 ai

a3&i - ахбз

0

d

0

2 ^ 3 ~ «3^2

\

» )

1

где d ?=± csdetA.

Таким образом, Л" Е S. В силу нашего предположения

истинно утверждение Vy, * Е Z\{0} ( Л ^ и Л С 7 . ~ П 8 ^ 0 V (Л^* U Л*7-*-*) n S / 0 ) . Поскольку множество § замкнуто, справедливо \/y,z£

Z\{0}

(ЛС/у2 ПcS ф 0 V АЕЛ.У,-, П S ф 0 V Л ^ г VAu-y>~z Г\§ф0)

П$ф0

.

В силу конечности множества Л имеет место хотя бы одно из двух утвер­ ждений; 1) найдется матрица А Е Л, бесконечное множество целых чисел К} бесконечные множества целых чисел Ку для каждого у € К такие, что A Uyz Е S для любых у Е Я", z Е А у ; 2) существуют матрица i E Л, бесконечное множество целых чисел L, бесконечные множества целых чисел Ly для каждого у £ L такие, что для любых у Е £, z Е Ly. Первое невозможно в силу (3) и бесконечности множеств К и Jfy. Второе, в силу (4) и бесконечности множества Ly для любого у £ L, вы­ полняется только в том случае, если Ьг = 0, Ь2 ^F 1 = 0 и &з = 0. Таким образом, для любого ?/ Е L i -{ахц--1)у + сх

=

0,

Я - а 2 у + с2

=

0,

V ~-а 3 у4-с 3

=

±1.

Поскольку множество L бесконечно, то ах ~-f 1 = 0, с\ = а 2 = с2 = -• а 3 = 0, с 3 = ± 1 . Следовательно, А £ { ± # } , что неверно, ибо А € Л иЛССЬ(3,2)\{±4 Итак, существует матрица Дд ИЪ(Л,ДА)П8

=

0 . Множества Л,

£

GL(3, Z)\{±j£} такая, что

{ДА,^1},

И^(Л,В Л )

конечны

Ю. В. Нагребецкая

490

и замкнуты, следовательно, таким же является и множество Л\ ^

Л и {Вл,Вд1}

U WX(A,BA).

поэтому ТУ^Л, Дд) П {±-£7} = =

Кроме того, WX{A,BA)

П S =

^ 0,

0 и, следовательно, Лх П {±£7}

=

0 . Из доказанного выше вытекает существование матрицы BAl

€

£ GL(3,Z) такой, что И ^ О Л ь Д ^ ) П § = 0 . Имеют место включения

^ ( { Б л , ^ 1 } , ^ ) С WMuBAl),

Wl{Wl{A,BA),BAl)

С ТУ^ЛьВ^),

И ^ Л , Дд,) С Т72(Л1, ДА, ) и ИЪ(Л, В л ) С Ж 3 (Л, Дд). Отсюда следует, что И'(Л, Д А , Д*,) С И^3(Ль Дд,) U ^ 3 ( Л , Дд) и, значит, W(A, BA, BAl)nS — 0 . Таким образом, в качестве матрицы Сд можно взять матрицу

= ВАх.

Лемма 3 доказана. Сформулируем два полезных замечания. ЗАМЕЧАНИЕ 1. Пусть P(t/, z) G Z 3x3 [y, z] и пусть Z - бесконечное множество целых чисел, {Zy | у 6 Z} — некоторое семейство бесконечных множеств целых чисел. Тогда справедлива следующая импликация: если истинно утверждение Vy € ZVz £ Zy Р(у, z) — О, то Р(у, z) — 0 в Z 3x3 [t/, z], т. е. коэффициенты при всех одночленах в P(y,z)

являются нулевыми

матрицами. Замечание 1 непосредственно следует из теоремы о числе корней мно­ гочлена над полем комплексных чисел [10]. ЗАМЕЧАНИЕ 2. Пусть для некоторого набора А матриц из GL(3, Z)\S в G истинно утверждение k+i

VX \ / (wi{A,X)

= EV

Wi{A,X)

= -E) ,

2= 1

где Wi(a, x) £ if(ai, a 2 , . . . , а п ,ж). Тогда найдутся бесконечное множество целых чисел Z, бесконечные множества целых чисел Zy для каждого у £ Z такие, что в G истинна дизъюнкция к +1

\J (yyezvze

zy К(А,ху2) = я v wt(A,xyz) = -£?)) .

ДОКАЗАТЕЛЬСТВО. Очевидно, что для любых у, z £Ъ найдется qyz £ {!,...,&}, при котором выполняется равенство wqyz{A,Xyz)

= ±2£.

491

О разрешимости теорий первого порядка

Зафиксируем у0 £ Z. Поскольку {qVQZ | 2 € Z} С { 1 , . . .,&}, существуют номер qyo £ { 1 , . . . , к} и бесконечное подмножество целых чисел Z^ такие, что истинно утверждение V* 6 Zyo (wqyQ (А, Х Л ,,) = Е V ^

о

(А, Хуо>2) =

-Е).

Аналогично, найдутся номер д* и бесконечное множество Z целых чисел, для которых выполняется VyeZVzeZy

(wq.{A,Xyz)

= EVwq.(A,Xyx)

= -£?),

что и требовалось доказать. Л Е М М А 4. Пусть u>i(a, х) ;=± a^a^'i а{2хе{* ... а{пх€(п , где ег Е {±l},ai- Е { a b . . . , a n } . Пусть также А Е [G£(3, Z)\S] n . Тогда найдется матрица X Е GL(3, Z) такая, что G ^= (А, X), где Jk+1

^(А, X) ^ \ / (wt{A,X)

= EVwi(A,X)

-

-S)

tt Jfm ^ f? для любого т Е N. ДОКАЗАТЕЛЬСТВО. Предположим противное. Тогда С? (=

\

V «m(A",y) = £;vUm(A",y) = -£; . \т=Х

/

493

О разрешимости теорий первого порядка

Следовательно, G ф v?(A, X) и X™ ф ±Е для любого га Е N такого, что га ^ гао. Лемма 5 доказана. Л Е М М А 6. Пусть w(B,X)

^ B1v1(X)B2v2(X)

...Bmvm(X),

где Bi Е G?£(3,Z), Vj(f) £ У (ж), г Е { 1 , . . . , г а } , причем V\{x) . ..vm(x)

ф 1

в £Г(аГ) и Vi(x) несократимы в ЗГ(ж). И пусть в G истинна формула