Если встать на эту точку зрения, делается понятным, почему при изучении генетики поведения возникают большие трудности. Признаки поведения, как правило, имеют чрезвычайно широкую норму реакции, которая лежит в основе пластичности и высокой адаптивности организма (Lorenz, 1965, Caspari, 1967; Hirsch, 1967; Астауров, 1971; Беляев, 1972).
Играя огромную роль в видообразовании, особенности поведения контролируются в большинстве случаев коадаптированной полигенной системой и в своем формировании находятся под очень большим влиянием внешних факторов (Крушинский, 1960; Digler, 1965; Lorenz, 1965). Несмотря на ряд трудностей, стоящих на пути изучения поведения, это направление биологии прогрессивно развивается. Даже более того, генетика поведения делается той наукой, в которой соприкасаются важнейшие проблемы ряда других фундаментальных биологических наук: генетики, физиологии, этологии, биологии развития, молекулярной биологии и эволюционного учения. Трудно сомневаться в том, что это соприкосновение превратится в глубокий синтез указанных, а возможно, и ряда других научных дисциплин.
Один из наиболее трудных вопросов, которые вынуждены решать те, кто занимается генетикой поведения, — это выбор объекта исследования.
Классический объект физиологических исследований — собака, поведение и высшая нервная деятельность которой изучены наиболее полно, оказалась трудным объектом для генетических исследований. Исследования, начатые в лаборатории генетики высшей нервной деятельности в Колтушах (Павлово) по инициативе И. П. Павлова, прекратились в начале 60-х годов. Точно так же генетические исследования особенностей поведения собак, проводившиеся в лаборатории Джексона в США Скоттом и Фуллером, после получения 2–3 поколений собак были прекращены.
Тем не менее исследования, проводившиеся на собаках, показали ряд закономерностей в наследовании и формировании сложных актов поведения у этих животных. В опытах на собаках выявились ценность феногенетического анализа при изучении формирования особенностей поведения (Крушинский, 1938).
В исследованиях выявился эффект селекции, ведущейся в направлении различных типологических особенностей у этих животных (Зевальд и др., 1947; Крушинский, 1947).
Селекция оказалась эффективной при отборе собак по силе и слабости их нервной деятельности. Параметр силы нервной системы отражает уровень работоспособности нервных клеток (по терминологии И. П. Павлова).
Несомненно, генетически детерминирован и другой параметр высшей нервной деятельности, определенной И. П. Павловым как подвижность нервных процессов. Основной индикатор при оценке подвижности нервной системы — быстрота смены возбуждения и торможения. Исследование показало, что из всех исследованных в Институте физиологии имени И. П. Павлова собак наиболее плохой подвижностью нервной системы обладают среднеазиатские (туркменские) овчарки (Бурдина, Мелихова, 1962).
Исследования по феногенетике поведения показали, что проявление и выражение активно- и пассивно-оборонительных реакций у собак находится в ясной зависимости от уровня возбудимости животного, оцениваемой по двигательной активности собаки: чем выше уровень возбудимости животного, тем интенсивнее выражение агрессии и пугливости. При наличии генотипически обусловленной трусости и агрессии, но малой возбудимости эти акты поведения могут не проявляться. Однако при повышении возбудимости (введением фармакологических или гормональных препаратов) оборонительная реакция проявляется (Крушинский, 1960).
Значение уровня возбудимости в проявлении и выражении как нормальных, так и патологических особенностей поведения универсально. Многолетние исследования, проводимые Л. В. Крушинским и его сотрудниками, показали огромную роль уровня возбудимости в проявлении различных актов поведения у животных и, видимо, у человека (Крушинский, 1977). Они могут объяснить причину корреляции между талантливостью и нервно-психическими заболеваниями у человека.
Исследования, проводившиеся на собаках Скоттом и Фуллером (Scott, Fuller, 1965), выявили четкие генотипические различия в уровне межвидовых агрессивных отношений у собак разных пород. Эти исследования представляют значительный интерес для понимания роли поведения в механизме дифференциации популяции на отдельные родственно-кастовые группы. Возможность смешивания отдельных родственных групп лимитируется уровнем агрессии, которая контролируется генотипом.
Опыты по изучению роли генотипических факторов в решении предъявляемых собакам задач («problem solving») были проведены на пяти породах собак: шотландских овчарках, жесткошерстных фокстерьерах, коккер-спаниелях и африканских охотничьих собаках (бассенджи). Исследование показало, что все четыре породы охотничьих собак имеют несколько более высокие показатели в решении предъявляемых задач, чем шотландские овчарки. Скотт и Фуллер (Scott, Fuller, 1965) считают, что это различие в поведении обусловливается тем, что шотландских овчарок в течение длительного времени селекционировали на выполнение тех команд, которые им подавал хозяин. Собаки этой породы как бы ждут от экспериментатора помощи в выборе тактики своего поведения. Несмотря на небольшие различия в поведении собак разных пород, исследователи пришли к выводу, что собаки всех изученных ими пород имеют одинаковый уровень развития интеллекта.
Исследования, проводившиеся на собаках, выявили исключительно большую роль условий воспитания на проявление пассивно-оборонительного (трусливого) поведения. Собаки, воспитанные в изоляции, как это было впервые показано в лаборатории И. П. Павлова, сохраняют «естественный рефлекс осторожности» по отношению ко всяким объектам (Выржиковский, Майоров, 1933). Это боязливое отношение к незнакомым условиям изживается с очень большим трудом и сохраняется почти на всю жизнь (Зевальд, 1938).
Последующие исследования, проведенные на собаках разных пород, показали, что предрасположенность к сохранению боязливого отношения к незнакомым объектам (и в том числе к человеку) контролируется генотипическими факторами. Частота проявления и степень выраженности трусости у немецких овчарок значительно выше, чем у эрдельтерьеров, несмотря на воспитание собак обеих пород в условиях, ограничивающих возможность восприятия всего многообразия внешней среды (Крушинский, 1960).
Сходные результаты были получены также Скоттом и Фуллером в их исследованиях на собаках в лаборатории Джексона. Таким образом, генетические исследования, проводившиеся на собаках, несомненно, самом удобным объекте для исследования высшей нервной деятельности и сложных форм поведения, позволили установить ряд важнейших закономерностей роли генотипических факторов в поведении и высшей нервной деятельности. Они представляют особенно большой интерес для феногенетического направления изучения поведения.
Широкие физиолого-генетические исследования проводятся под руководством Д. К. Беляева на серебристо-черных лисицах. Показано, что оборонительные реакции этих животных контролируются генотипом. Д. К. Беляевым и Л. Н. Трут (1964) показано плейотропное действие генов окраски шерсти на оборонительное поведение и размножаемость этих животных. Селекция на хорошую приручаемость лисиц к человеку привела к большому полиморфизму селекционированной группы лисиц. Этот факт подтверждает гипотезу Д. К. Беляева, что отбор по признакам поведения может привести к дезинтеграции сбалансированных полигенных систем, лежащих в основе морфофизиологических признаков (Беляев, 1972). Отбор, действующий в обратном направлении стабилизирующему отбору (Шмальгаузен, 1946), согласно гипотезе Д. К. Беляева, должен увеличивать фенотипическое разнообразие, приводя к увеличению крайних вариантных форм в популяции.
Указанные исследования представляют значительный интерес для понимания закономерностей доместикации диких видов животных.
Лабораторным объектом, широко использованным для изучения генетики поведения, являются крысы. Относительная быстрота размножения и простота содержания делают крыс, несомненно, более удобным объектом для генетических исследований поведения млекопитающих, чем собаки. Однако по многообразию и пластичности поведения крысы значительно уступают собакам.