После работ Эрнста Куммера надежды найти доказательство ослабли, как никогда прежде. Кроме того, в математике начали развиваться различные новые области. Возник риск, что новое поколение математиков останется в неведении относительно неразрешимой проблемы. К началу XX века теорема Ферма все еще занимала особое место в сердцах специалистов по теории чисел, но они относились к ней так же, как химики относятся к алхимии. И алхимия, и Великая теорема Ферма в глазах наших современников выглядят романтическими мечтами прошлого.
      В 1908 году Пауль Вольфскель, немецкий промышленник из Дармштадта, вдохнул в старую проблему новую жизнь. Семья Вольфскелей славилась своим богатством и покровительством искусствам и наукам, и Пауль не был исключением. В университете он изучал математику и хотя свою жизнь Пауль посвятил строительству империи семейного бизнеса, все же он поддерживал контакт с профессиональными математиками и продолжал на любительском уровне заниматься теорией чисел. В частности, Вольфскель не отказался от мысли найти доказательство Великой теоремы Ферма.
 
      Вольфскель отнюдь не был одаренным математиком, и ему не было суждено внести заметный вклад в поиски доказательства Великой теоремы Ферма. Но цепочка неординарных событий привела к тому, что его имя оказалось навсегда связанным с теоремой Ферма и вдохновило тысячи людей заняться поиском ее доказательства.
      История начинается с того, что Вольфскель увлекся красивой женщиной, личность которой так никогда и не была установлена. К великому сожалению для Вольфскеля, загадочная женщина отвергла его. Он впал в такое глубокое отчаяние, что решил совершить самоубийство. Вольфскель был человеком страстным, но не импульсивным, и поэтому принялся во всех подробностях разрабатывать свою смерть. Он назначил дату своего самоубийства и решил выстрелить себе в голову с первым ударом часов ровно в полночь. За оставшиеся дни Вольфскель решил привести в порядок свои дела, которые шли великолепно, а в последний день составил завещание и написал письма близким друзьям и родственникам.
      Вольфскель трудился с таким усердием, что закончил все свои дела до полуночи и, чтобы как-нибудь заполнить оставшиеся часы, отправился в библиотеку, где стал просматривать математические журналы. Вскоре ему на глаза попалась классическая статья Куммера, в которой тот объяснял, почему потерпели неудачу Коши и Ламе. Работа Куммера принадлежала к числу самых значительных математических публикаций своего века и как нельзя лучше подходила для чтения математику, задумавшему совершить самоубийство. Вольфскель внимательно, строка за строкой, проследил за выкладками Куммера. Неожиданно Вольфскелю показалось, что он обнаружил пробел: автор сделал некое предположение и не обосновал этот шаг в своих рассуждениях. Вольфскель заинтересовался, действительно ли ему удалось обнаружить серьезный пробел, или сделанное Куммером предположение было обоснованным. Если был обнаружен пробел, то имелся шанс, что Великую теорему Ферма удастся доказать гораздо проще, чем полагали многие.
      Вольфскель сел за стол, тщательно проанализировал «ущербную» часть рассуждений Куммера и принялся набрасывать минидоказательство, которое должно было либо подкрепить работу Куммера, либо продемонстрировать ошибочность принятого им предположения и, как следствие, опровергнуть все его доводы. К рассвету Вольфскель закончил свои вычисления. Плохие (с точки зрения математики) новости состояли в том, что доказательство Куммера удалось исцелить, и Великая теорема Ферма по-прежнему осталась недоступной. Но были и хорошие новости: время, назначенное для самоубийства, миновало, а Вольфскель был так горд тем, что ему удалось обнаружить и восполнить пробел в работе великого Эрнеста Куммера, что его отчаяние и печаль развеялись сами собой. Математика вернула ему жажду жизни.
      Вольфскель разорвал свои прощальные письма и переписал свое завещание в свете случившегося в ту ночь. После его смерти, последовавшей в 1908 году, завещание было оглашено и повергло семью Вольфскеля в шок: выяснилось, что Пауль завещал значительную часть своего состояния в качестве премии тому, кто сумеет доказать Великую теорему Ферма. Премия в 100000 марок (более 1 000 000 фунтов стерлингов в современных масштабах) была той суммой, которую Вольфскель счел своим долгом уплатить в награду за головоломную проблему, спасшую ему жизнь. Деньги были положены на счет Королевского научного общества Гёттингена, которое в том же году официально объявило о проведении конкурса на соискание премии Вольфскеля:

      «Во исполнение воли д-ра Пауля Вольфскеля, скончавшегося в Дармштадте, мы объявляем о создании фонда в сто тысяч марок, каковая сумма и будет вручена тому, кто первым докажет Великую теорему Ферма.
      Будут соблюдаться следующие правила.
      1. Королевское научное общество в Гёттингене обладает полной свободой воли в принятии решения, кому надлежит присудить премию. Рукописи, представленные с единственной целью принять участие в конкурсе на получение премии, приниматься не будут. К рассмотрению допускаются только математические мемуары, представленные в виде статей в периодических изданиях или имеющиеся в книжных лавках. Общество обращается к авторам подобных мемуаров с просьбой присылать по крайней мере пять печатных экземпляров.
      2. Работы, опубликованные на языках, непонятных ученым специалистам, выбранным для работы в жюри, не допускаются к участию в конкурсе. Авторам таких работ разрешается заменить их переводами, удостоверившись в точности последних.
      3. Общество не берет на себя ответственность за рассмотрение работ, не представленных на конкурс, а также за ошибки, которые могут произойти из-за того, что автор работы или часть работы не известны Обществу.
      4. Общество сохраняет за собой право принятия решения в случае, когда к решению проблемы имеет отношение несколько лиц или когда решение является результатом совместных усилий нескольких ученых, в том числе и по вопросам распределения премии.
      5. Премия присуждается Обществом не ранее, чем через два года после опубликования мемуара, удостоенного премией. Двухлетний промежуток времени необходим для того, чтобы немецкие и иностранные математики имели возможность высказать свое мнение по поводу опубликованного решения.
      6. После того, как состоится присуждение премии Обществом, секретарь от имени Общества уведомляет об этом лауреата. Решение публикуется всюду, где ранее было объявлено о конкурсе на соискание премии. Присуждение премии Обществом обсуждению не подлежит.
      7. Выплата премии лауреату производится в течение трех месяцев после присуждения Королевским казначеем Гёттингенского университета или, на ответственность получателя, в любом указанном им месте.
      8. Капитал может быть выплачен по желанию Общества под расписку либо наличными, либо переводом финансовых ценностей. Выплата премии считается произведенной при переводе этих финансовых ценностей даже в том случае, если к концу дня сумма премии не достигнет 100000 марок.
      9. Если премия не будет присуждена до 13 сентября 2007 года, то дальнейшие заявки не принимаются.
      Конкурс на соискание премии Вольфскеля считается открытым с сего дня на приведенных выше условиях.
       Гёттинген, 27 июня 1908 г.,
       Королевское общество наук»

      Следует заметить, что Комиссия выплатила бы 100000 марок первому математику, который доказал бы, что Великая теорема Ферма верна, но тот, кто доказал бы, что теорема Ферма не верна, не получил бы и пфеннига.
      О премии Вольфскеля было объявлено во всех математических журналах, и весть о конкурсе быстро распространилась по всей Европе. Несмотря на широкую рекламную кампанию и дополнительный побудительный стимул в виде огромной премии, Комиссии Вольфскеля не удалось вызвать особый интерес у серьезных математиков. Большинство профессиональных математиков считали поиск доказательства Великой теоремы Ферма безнадежным делом и решительно отказывались тратить свое драгоценное время на такое бесполезное занятие. Однако премии Вольфскеля удалось внедрить проблему Ферма в сознание совершенно новой аудитории — невидимой армии жаждущих знания молодых умов, жаждущих испытать себя на решении неприступной головоломки и не видящих ничего зазорного в том, что они приступают к поиску доказательства с явно недостаточным багажом.

      С античных времен и поныне математики пытались придать занимательность своим учебникам, излагая теоремы и доказательства в форме решений числовых задач-головоломок. Во второй половине XIX века такой игровой подход к математике проник на страницы общедоступной прессы, и числовые головоломки стали появляться в газетах и журналах наряду с кроссвордами и анаграммами. Растущая день ото дня аудитория жаждала математических головоломок, к числу которых непрофессионалы относили все — от тривиальнейших головоломок до глубоких математических проблем, включая Великую теорему Ферма.
      Возможно, самым плодовитым создателем головоломок был Генри Дьюдени, печатавшийся в десятках газет и журналов, в том числе таких, как «Strand», «Cassel's», «The Queen», «Tit-Bits», «The Weekly Dispatch» и «Blightly». Достопочтенный Чарльз Доджсон, лектор по математике колледжа Крайст Черч Оксфордского университета, более известный под литературным псевдонимом Льюис Кэрролл, был еще одним выдающимся автором головоломок викторианской эпохи. Несколько лет Доджсон потратил на то, чтобы собрать обширную коллекцию всяких математических курьезов и головоломок под общим названием «Curiosa Mathematica». Ему не удалось исполнить свой замысел до конца, но несколько книг все же было выпущено, в их числе «Полуночные задачи, придуманные в часы бессонницы».
      Но величайшим мастером головоломок был американский гений-самородок Сэм Лойд (1841–1911 гг.), который еще мальчишкой имел вполне приличный заработок, придумывая новые головоломки и усовершенствуя старые. В книге «Сэм Лойд и его головоломки: автобиографический обзор» он признает, что некоторые из его первых головоломок были созданы по заказу владельца цирка и фокусника П. Т. Барнума:
      «Много лет назад, когда "Цирк Барнума" был поистине "величайшем зрелищем на Земле", знаменитый шоумен заказал мне серию головоломок, предназначенных быть призами в рекламной кампании. Под названием "Вопросы сфинкса" они приобрели широкую известность из-за крупных призов, предлагавшихся тем, кто сумеет на них ответить».
      Интересно, что эта «автобиография» была написана в 1928 году, через 17 лет после смерти Лойда. Свое пристрастие к головоломкам Лойд передал своему сыну, также Сэму, который и был подлинным автором книги «Сэм Лойд и головоломки» и прекрасно знал, что всякий, кто ее купит, будет ошибочно полагать, что ее автор — более известный Сэм Лойд-старший.
      Самой знаменитой головоломкой Сэма Лойда стал викторианский эквивалент кубика Рубика — игра в 15, которую и поныне можно встретить в игрушечных лавках. Пятнадцать квадратных шашек с номерами от 1 до 15 находятся в квадратной коробочке размером 4?4. Цель игры состоит в том, чтобы, передвигая шашки в коробочке (но не вытаскивая их), расположить шашки по порядку номеров. В головоломке Лойда «15–14» начальное расположение шашек в коробочке было таким, как на рис. 14. Сэм Лойд предложил значительное вознаграждение тому, кто сумеет решить задачу-головоломку, передвинув шашки (проделав серию ходов) «14» и «15» так, чтобы они расположились в правильном порядке. Сын Лойда описал тот ажиотаж, который вызвала эта «механическая», а на самом деле математическая головоломка:
      «Премия в 1000 долларов тому, кто первым правильно решит эту головоломку, так и не была никем востребована, хотя тысячи людей утверждали, будто им удалось добиться желаемого. Люди теряли из-за головоломки «15–14» покой и сон. Рассказывали о владельцах лавок, которые забывали открывать свои заведения, о знаменитом священнике, который простоял всю зимнюю ночь под уличным фонарем, пытаясь припомнить, как ему удалось решить задачу. Самое удивительное во всех этих историях о головоломке «15–14» было то, что никто из «решивших» ее не мог вспомнить последовательность ходов, которая привела к победе. Рассказывали, будто лоцманы сажали суда на мели, а машинисты проскакивали без остановки железнодорожные станции. Известный балтиморский издатель рассказывал, как однажды он отправился на ленч и обнаружил, что сотрудники редакции и типографии самозабвенно играют в пятнадцать с полуночи, гоняя по тарелке кусочки пирога».
 
       Рис. 14. Карикатура с изображением мании, порожденной «Игрой в 15» Сэма Лойда (головоломки, в которой все шашки, кроме двух последних, расположены по порядку)
 
      Лойд был абсолютно уверен в том, что ему не придется выплатить объявленную премию в 1000 долларов, поскольку достоверно знал, что невозможно расположить шашки с номерами «14» и «15», не нарушив при этом правильного расположения каких-нибудь других шашек. Так же, как математик может доказать неразрешимость какого-нибудь уравнения, Лойд мог доказать, что предложенная им головоломка не имеет решения.
      Доказательство Лойда начиналось с определения величины, которая служила мерой беспорядка в расположении шашек — параметра беспорядка D p. Параметр беспорядка данного расположения шашек равен числу пар шашек, у которых больший номер предшествует меньшему, т. е. номера идут в неправильном, обратном, порядке. Для правильного расположения шашек, как на рис. 15 a, D p= 0.
 

а) Dp= 0

б) Dp= 6

в) Dp= 12

      Рис. 15. Передвигая шашки внутри коробочки (но не извлекая их из нее), можно создавать различные неупорядоченные расположения чисел. Для каждого расположения можно количественно измерить беспорядок, вводя параметр беспорядка  Dp
 
      Начав с правильного расположения шашек и передвигая их в коробочке (но не вынимая из нее), сравнительно легко получить расположение, представленное на рис. 15 б. В нем шашки идут в правильном порядке до тех пор, пока мы не достигнем шашек 12 и 11. Ясно, что шашка с номером 11 должна предшествовать шашке 12, поэтому шашки в этой паре расположены в обратном порядке. Полный список тех пар, в которых шашки расположены в обратном порядке таков: (12,11), (15,13), (15,14), (15,11), (13,11) и (14,11). Таким образом, при расположении шашек, показанном на рис. 15 б, имеется 6 пар с обратным расположением шашек, и D p= 6. (Заметим, что шашка 10 соседствует с шашкой 12. Это явно неверно, но такое расположение номеров шашек тем не менее не является обратным, поэтому эта пара шашек не вносит вклада в параметр беспорядка.) Еще несколько ходов, и мы приходим к расположению шашек, представленному на рис. 15 в. Составив полный список пар шашек с номерами, идущими в обратном порядке, мы обнаружим, что D p= 12. Важно заметить, что во всех трех случаях а, би в, значения параметра беспорядка четны (0, 6 и 12). Действительно, если вы начнете с правильного расположения шашек и будете передвигать их, не вынимая из коробочки, то утверждение о четности параметра беспорядка останется в силе. После любого числа ходов, при расположении шашек с пустой клеткой в правом нижнем углу, значение D pвсегда будет четным.
      Иначе говоря, четное значение параметра беспорядка — свойство всех расположении, получаемых из исходного правильного расположения. В математике свойство, которое сохраняется независимо от того, какие действия производятся над объектом, называется инвариантом.
      Но если вы проанализируете расположение шашек в головоломке Лойда «15–14», то обнаружите, что значение параметра беспорядка для нее равно единице: D p= 1, так как только у одной пары с номерами 13 и 15 номера идут в обратном порядке. В головоломке Лойда параметр беспорядка имеет нечетное значение! Но мы знаем, что у любого расположения, полученного из правильного исходного расположения, значение параметра порядка четно. Отсюда следует заключение: расположение шашек в головоломке Лойда «15–14» не может быть получено из правильного исходного расположения, и наоборот, расположение шашек в головоломке Лойда не может быть сведено к правильному расположению. За премию в 1000 долларов Лойд мог быть абсолютно спокоен!
      Головоломка Лойда и параметр беспорядка убедительно демонстрируют силу инварианта. Инварианты дают математикам важную стратегию, когда требуется доказать, что один объект невозможно преобразовать в другой. Например, в настоящее время большой интерес вызывает изучение узлов, и специалисты по теории узлов, естественно, пытаются выяснить, можно или нет преобразовать один узел в другой, изгибая и образуя петли, но не разрезая его. Чтобы ответить на этот вопрос, они пытаются найти какое-нибудь свойство исходного узла, которое сохранялось бы при любом изгибании и образовании петель, т. е. инвариант узла. Затем они вычисляют такой же инвариант для второго узла. Если значения инвариантов оказываются различными, то из этого с необходимостью следует вывод о том, что первый узел невозможно преобразовать во второй.
      До того, как первые шаги в этом направлении были сделаны Куртом Рейдемейстером в 20-х годах XX века, доказать, что один узел не может быть преобразован в другой, было невозможно. Иначе говоря, до открытия инвариантов узлов было невозможно доказать, что узел «бантиком» невозможно преобразовать в рифовый узел, простой узел или даже простую петлю без какого бы то ни было узла вообще.
      Понятие инвариантного свойства занимает центральное место во многих других математических доказательствах, и, как мы увидим в гл. 5, оно сыграло решающую роль в возвращении Великой теоремы Ферма в главное русло развития современной математической мысли.
      На стыке XIX и XX веков, благодаря поклонникам Сэма Лойда и его головоломки «15–14», миллионы любителей решать головоломки в Европе и Америке жаждали новых трудных задач. Когда весть о наследстве Вольфскеля дошла до этих начинающих математиков, великая теорема Ферма снова стала самой знаменитой математической проблемой в мире. Великая теорема Ферма была бесконечно более сложной, чем самая трудная из головоломок Лойда, но и приз был несравненно больше.
      Любители мечтали о том, что им, возможно, удастся найти сравнительно простой трюк, который ускользнул от внимания великих математиков прошлого. Когда речь заходила о знании математических приемов и методов, преисполненный рвением любитель, живущий в XX веке, во многом не уступал Пьеру де Ферма. Трудность была в другом — в отсутствии изобретательности, с которой Ферма пользовался известными ему приемами и методами.
      Через несколько недель после объявления конкурса на соискание премии Вольфскеля на Гёттингенский университет обрушилась лавина «доказательств». Не удивительно, что все они до одного оказались ошибочными. И хотя каждый из участников конкурса был убежден, что именно ему удалось решить проблему, пережившую столетия, но во всех присланных доказательствах неизбежно была какая-нибудь тонкая, а иногда и не очень тонкая — ошибка. Искусство теории чисел настолько абстрактно, что необычайно легко сойти с верного логического пути и незаметно заблудиться, даже впасть в абсурд. В Приложении 7 показана классическая ошибка такого сорта, которую легко может допустить энтузиаст-любитель.
      Независимо от того, кто был отправителем того или иного доказательства, каждое из них скрупулезно изучалось на тот случай, если неизвестному любителю все же удастся найти столь давно разыскиваемое доказательство. Деканом математического факультета Гёттингенского университета с 1909 по 1934 годы был профессор Эдмунд Ландау. Именно на него легла обязанность разбирать все доказательства, присланные на соискание премии Вольфскеля.
      Ландау был вынужден то и дело прерывать свои собственные исследования, поскольку ему нужно было разбирать десятки ошибочных доказательств, поступавших к нему на стол каждый месяц. Чтобы справиться с ситуацией, профессор Ландау изобрел изящный метод, позволивший избавиться от докучливой работы. Профессор попросил напечатать несколько сотен карточек, на которых значилось:

      Уважаемый(ая) . . . . . . . .
      Благодарю Вас за присланную Вами рукопись с доказательством Великой теоремы Ферма. Первая ошибка находится на стр … в строке … Из-за нее все доказательство утрачивает силу.
      Профессор Э.М. Ландау

       Каждое из полученных доказательств вместе с отпечатанной карточкой Ландау вручал одному из своих студентов и просил его заполнить пробелы.
      Доказательства продолжали поступать непрерывным потоком в течение нескольких лет даже после того, как премия Вольфскеля катастрофически обесценилась из-за гиперинфляции после первой мировой войны. Говорят, что тот, кто выиграл бы конкурс сегодня, вряд ли смог бы купить на премию чашку кофе, — но такие утверждения несколько преувеличены. Как пояснил д-р Ф. Шлихтинг, ответственный за рассмотрение доказательств в 70-х годах, премия Вольфскеля ныне составляет более 10000 марок. Уникальная возможность составить представление о работе Комиссии Вольфскеля дает письмо д-ра Ф. Шлихтинга Паулю Рибенбойму, приведенное в книге Ф. Шлихтинга «Тринадцать лекций о Великой теореме Ферма».

      «Уважаемый сэр!
      Общее число представленных к настоящему времени «решений» неизвестно. В первый год (1907–1908 гг.) в анналах Академии было зарегистрировано 621 решение. В настоящее время в Академии хранятся стопка бумаг, толщиной около трех метров, с материалами переписки по проблеме Ферма. В последние десятилетия работа с письмами производилась следующим образом. Секретарь Академии делил поступающие рукописи по следующим категориям: 1) полная чепуха, которая немедленно отсылалась обратно; 2) материал, который по крайней мере внешне походил на математику.
      Вторая часть корреспонденции передавалась математическому факультету, где работа по прочтению рукописей, нахождению ошибок и ответу авторам поручалась одному из ассистентов (в немецких университетах это люди, окончившие полный курс университета и работающие над диссертацией на соискание ученой степени «доктора философии» — Ph.D.). Сейчас очередная жертва — это я. Каждый месяц поступают 3–4 письма, на которые я должен отвечать. В этих письмах масса интересного и любопытного материала. Например, один из корреспондентов прислал половину доказательства и пообещал прислать вторую, если мы выплатим 1000 марок авансом. Другой корреспондент пообещал мне 1% от своих доходов от своих публикаций, интервью на радио и телевидении, когда он станет знаменитым, если только я окажу ему сейчас поддержку. В противном случае он угрожал послать свое доказательство в адрес математического факультета какого-нибудь российского университета и тем самым лишить нас славы его открывателей. Время от времени кто-нибудь из авторов «доказательств» наведывается в Гёттинген и настаивает на личной встрече и обсуждении.
      Почти все «доказательства» написаны на самом элементарном уровне (и используют обозначения, заимствованные из высшей математики и, быть может, некоторых плохо усвоенных работ по теории чисел). Тем не менее понять их очень трудно. В социальном плане отправители нередко оказываются людьми с техническим образованием, но с несложившейся карьерой, которые пытаются теперь достичь успеха с помощью доказательства Великой теоремы Ферма. Некоторые рукописи я передал психиатрам, и те диагностировали тяжелую шизофрению.
      Одно из условий в завещании Вольфскеля состояло в том, что Академия была должна ежегодно печатать извещение о конкурсе на соискание премии в главных математических журналах. Но уже через несколько первых лет журналы отказались печатать уведомление о конкурсе потому, что редакции оказались заваленными письмами и сумасшедшими рукописями. Надеюсь, что эта информация представит для Вас некоторый интерес.
      Искренне Ваш Ф. Шлихтинг»

       Как упоминает д-р Шлихтинг, участники конкурса не ограничивались тем, что присылали свои «доказательства» в Академию. Вряд ли во всем мире найдется хотя бы один математический факультет, где бы ни стоял шкаф, набитый поступившими от любителей «доказательствами». Большинство университетов попросту оставляет такие любительские доказательства без внимания и ответа, но некоторые университеты прибегали к более изобретательным способам, позволявшим отделаться от назойливых корреспондентов. Известный американский популяризатор науки Мартин Гарднер вспоминает об одном своем знакомом, имевшим обыкновение возвращать пришедшие в его адрес рукописи с запиской, в которой извещал отправителя, что недостаточно компетентен для того, чтобы вникнуть в детали доказательства, и сообщал имя и адрес эксперта, который мог бы разобраться в деталях доказательства, т. е. по существу предлагал любителю обратиться к несчастному эксперту. Другой приятель Мартина Гарднера отвечал авторам присланных доказательств так: «У меня есть замечательное опровержение присланного Вами доказательства, но, к сожалению, эта страница недостаточно велика, чтобы вместить его».