Одним из первых исследований по генетике поведения была работа М. П. Садовниковой-Кольцовой (1931), выполненная на крысах. Это исследование было начато с целью выяснения роли генотипических факторов в способности к обучению. При изучении способности к обучению в лабиринте «Хемптон-Курт» из 840 крыс путем селекции удалось вывести две линии: быстро и медленно обучающуюся. Индекс (логарифм времени, затраченного на 10 счетных опытов) в группе крыс быстро обучающейся линии оказался выше, чем индекс в группе крыс медленно обучающейся линии (разница индексов обеих групп в 20 раз превышала вероятную ошибку). Дальнейший тщательный анализ показал, что найденные различия между обеими линиями крыс определяются не различием в их способности к обучению, а большой пугливостью одной из линий крыс, происходящей в значительной степени от диких норвежских (Rattus norvegicus). При обучении в аппарате Стона, в котором крыса подгонялась захлопывающимися дверцами и потому не имела возможности забиваться от испуга в угол лабиринта, обучение обеих линий шло с одинаковой скоростью.
Проведенное исследование показало, что обнаруженные различия в скорости обучения обеих линий крыс обусловливаются не различиями в их способности к выработке условных рефлексов, а различной пугливостью; селекция хотя и велась на скорость обучения, однако фактически отбор шел на разную степень пугливости крыс в лабиринте.
Этот пример чрезвычайно поучителен. Проводя изучение генетики поведения, экспериментатор должен четко знать, с какой формой поведения он имеет дело. Для проведения исследования необходимо выделить наиболее элементарные акты поведения, которые проявляются в ответ на действие строго специфических раздражителей. В отличие от любых других исследований при изучении генетики поведения экспериментатор должен ясно отдавать себе отчет, что изучаемый им признак — одно из проявлений интегративной деятельности мозга, находящейся в зависимости от ряда параметров функциональной активности и зависящей в чрезвычайно большой степени от воспитания и ряда непредвиденных условий, в которые помещается животное при оценке особенностей его поведения.
Крысы оказались весьма удобным объектом для проведения физиолого-генетических исследований тех патологических нарушений, которые возникают у них при действии звукового раздражителя.
В 1924 г. Дональдсон (Donaldson, 1924) впервые описал развитие у крыс судорожных припадков при бряцании ключей. Одновременно с ним Е. Н. Ганике в лаборатории И. П. Павлова отмечал такую же патологическую реакцию у мышей.
Наиболее всестороннее физиолого-генетическое изучение этого феномена у крыс было проведено в Лаборатории физиологии и генетики Московского государственного университета. В популяции лабораторных крыс линии Wistar около 10–15 % особей дают судорожные припадки в ответ на действие звукового раздражителя (звонок 100–120 дБ). Л. В. Крушинскому и Л. Н. Молодкиной (Крушинский, 1959) удалось вывести линию (отбор по чувствительности к действию звукового раздражителя без строгого инбридинга), в которой при звуковой экспозиции 98–99 % особей давали судорожные припадки.
Исследование Л. Г. Романовой (1975), проведенное методом диаллельного скрещивания, показало, что чувствительность к звуковому раздражителю обусловливается рецессивными факторами.
В сложном комплексе реагирования крыс на действие звукового раздражителя ясно выделилась одна особенность, имеющая довольно простую картину наследования. Этим свойством оказалось затяжное возбуждение животного после прекращения звукового воздействия. Оно выражается в том, что после нескольких минут звуковой экспозиции (стандарт — 8 мин), несмотря на прекращение действия раздражителя, крысы продолжают находиться в состоянии сильного двигательного возбуждения, которое иногда длится в течение нескольких десятков минут. На фоне затяжного возбуждения у животных развивается целый ряд тяжелых патологических состояний. Наиболее ярко выступают сердечно-сосудистые нарушения, которые в ряде случаев имеют летальный исход (Крушинский, 1960).
Проведенный Л. В. Крушинским и Л. Н. Молодкиной (Крушинский, 1959) гибридологический анализ дает основание к допущению, что затяжное возбуждение контролируется двумя рецессивными генами, не имеющими 100 % пенетрантности (Крушинский, 1966). Физиолого-генетическое изучение генезиса патологических нарушений, возникающих при звуковой экспозиции крыс, выявило ту же закономерность, которая была обнаружена при изучении формирования нормальных реакций поведения у собак: степень развития патологической реакции является функцией уровня возбудимости; чем выше уровень возбудимости и чем сильнее возбуждение, тем ярче проявляются различные патологические состояния организма. Из ряда изученных в нашей лаборатории патологических реакций организма только канцерогенез (индуцированные опухоли путем инъекции под кожу 9,10-диметил-1,2-бензатроцена) не оказался связанным с состоянием возбуждения (Крушинский и др., 1954).
Однако, несмотря на несомненную ценность крыс как объекта экспериментального изучения генетики поведения, более удобным объектом являются мыши.
К настоящему времени известно свыше 100 линий мышей с мутациями, контролирующими развитие и функцию периферической и центральной нервной системы. Ряд мутаций приводит к нарушениям нервной деятельности, которые напоминают наследственные болезни человека (Sidman et al., 1965; Конюхов, 1969; Дыбан, 1974).
Гистолого-физиологические исследования показывают, что отдельные мутации поражают специфические отделы нервной системы (например, клетки Пуркинье мозжечка).
Эти факты, как справедливо указывает А. П. Дыбан (1974), говорят о том, что, несмотря на большую сложность самого процесса развития нервной системы, осуществляющегося при взаимодействии и под контролем многих генов, есть основание надеяться, что будут найдены те локусы, которые оказывают ведущее влияние на дифференциацию определенных популяций нервных клеток, детерминирующих их функциональные свойства.
И все же, несмотря на то что среди позвоночных животных генетика мышей изучена лучше всего, тем не менее исследование элементарных процессов, лежащих в основе простых поведенческих актов, гораздо удобнее проводить на еще более просто организованных животных.
Уже несколько десятков лет назад муха дрозофила привлекла внимание генетиков как возможный объект для изучения генетики поведения.
Одно из первых генетических исследований, проведенных на Drosophila melanogaster, принадлежит Р. А. Мазинг (1945). Работа, начатая перед самой войной в Колтушах, не прекращалась и в период блокады Ленинграда. Р. А. Мазинг изучала влияние генотипических факторов на фотореакцию и избирательную способность самок дрозофил к яйцекладке в различные среды. Исследования показало, что путем селекции можно вывести линии мух, выбирающих разную среду для яйцекладки. Эти различия обусловливаются аддитивными наследственными факторами (Мазинг, 1945). Изучение фотореакции показало, что особенности поведения мух нормальной линии доминирует над особенностями фотореакции линий white и vestigial. Путем селекции было доказано, что слабая фотореакция мух этих мутантных линий не является результатом плейотропного действия данных генов. При замене генотипической среды мух vg и w генотипической средой дикой линии их фотореакция оказывалась идентичной той, которая характерна для мух дикого типа. Эти исследования указывают на то, что тип поведения, характерный для линии мух, может быть отдифференцирован от морфологических особенностей той линии, в которой он наблюдается.
За последние годы изучения генетики поведения на дрозофилах, а также медоносных пчелах ведется рядом исследователей. В Советском Союзе весьма плодотворные исследования проводятся в Институте физиологии имени И. П. Павлова и в Ленинградском государственном университете. За рубежом, особенно в США, рядом генетиков проводятся интенсивные исследования поведения. Инициатива изучения генетики поведения принадлежит Бензеру.