Таким образом, селекцией отбирались не генотипы, способствующие более или менее быстрому обучению, а генотипы, обусловливающие различную степень пугливости, которая и изменяла кривую обучаемости. Со сходным примером зависимости наследования скорости образования положительных условных рефлексов кур и осетровых рыб от безусловных рефлексов мы встречаемся в работе Пономаренко, Маршина и Лобашова. Наследование особенностей возбудительного процесса, который является одним из основных параметров при выработке условных рефлексов, авторы объясняют их корреляцией с характером безусловных рефлексов. У рыб имеется ясная зависимость скорости образования условных рефлексов от уровня возбуждения пищевого безусловного центра, зависящего, в свою очередь, от наследственно обусловленного темпа роста. Эти примеры показывают, что при генетическом анализе такого общего комплексного свойства, каким является обучаемость необходим самый тщательный и, если это возможно, параллельно проводимый физиологический анализ.

В течение многих лег генетикам известно, что некоторые гены оказывают плейотропный эффект на морфологические признаки и особенности поведения. В 1915 г. Стертевант обнаружил, что рецессивный ген, расположенный на одном конце Х-хромосомы у Drosophila melanogaster и вызывающий желтую окраску тела вместо нормальной серой, уменьшает также копулятивную способность самцов.

Дальнейшие исследования показали, что редуцированная половая активность самцов этой линии связана с нарушением времени и способа «ухаживания» за самками перед копуляцией. Желтые самцы, подсаженные к самкам, начинают ухаживать за ними в среднем через 9,6 мин, нормально окрашенные — через 4,9 мин. Для того чтобы началась копуляция, самцы желтой линии ухаживают в среднем в течение 10,5 мин, нормальные — в течение 6,0 мин. Помимо этого, у самцов желтой линии нарушается один из основных признаков ухаживания за самками — вибрация крыла, направленного в сторону самки. Этот акт поведения самца является необходимым ритуалом, который самка воспринимает посредством своей антенны для того, чтобы быть подготовленной к копуляции. У самцов желтой линии вибрационные удары слабее, чем у нормальных самцов, и осуществляются с более длинными интервалами.

В линиях желтых мух у самок наблюдается повышенная (статистически достоверная) готовность к копуляции по сравнению с нормальными самками, являющаяся компенсаторным приспособлением для возможности нормального спаривания. Эта повышенная готовность к спариванию у желтых самок не является плейотропным эффектом гена желтой окраски. Она определяется селекцией других генов, снижающих порог копулятивной готовности. Этот пример интересен в том отношении, что показывает, как в результате одной мутации с плейотропным эффектом, меняющим реакцию поведения, и последующего отбора создается линия, которая, как считает автор этой работы Басток, может привести к возникновению физиологически изолированного экотипа.

Яркий пример плейотропного действия генов на морфологические признаки и особенности поведения крыс описаны Килером и Кингом. Изучая различные мутации окрасок шерсти, проявляющиеся у диких (норвежских) крыс, содержащихся в течение многих поколений в неволе, авторы обнаружили, что мутантные особи отличаются от диких по своему поведению. Особенно резко по своему оборонительному поведению отличались мутантные особи с черной окраской шерсти. Такие крысы не кусались. Авторы считают, что полученные ими данные указывают на один из возможных путей, по которому шла доместикация диких крыс. Они предполагают, что лабораторные альбиносы возникли не в результате длительной селекции мелких мутаций, изменивших их «дикое» поведение, а в результате нескольких мутаций, некоторые из которых имели плейотропный эффект на окраску шерсти. Значительную роль в доместикации крыс сыграл отбор гена черной окраски шерсти в комбинации с геном пегости. У большинства лабораторных альбиносов эти гены находятся в криптомерном состоянии и не проявляются из-за отсутствия у альбиносов основного фактора пигментации.

Исследования, выявившие наличие широкого плейотропного эффекта генов, влияющих на поведение, проводятся Беляевым и Трут на лисах. Исследования на серебристо-черных лисицах, разводимых в звероводческих хозяйствах, показали большую гетерогенность популяции по оборонительным реакциям поведения. Выделено три основных типа оборонительного поведения: активно-оборонительное (агрессивное), пассивно-оборонительное (пугливое) и спокойное (отсутствие обоих типов оборонительного поведения). Результаты поставленных скрещиваний показали, что наибольший процент лисиц с тем или другим характерным поведением наблюдается в потомстве родителей, характеризующихся таким же типом поведения: наибольший процент агрессивных лисиц рождается в потомстве от скрещивания агрессивных особей; трусливые потомки обнаруживаются в наибольшем проценте при скрещивании между собой трусливых родителей. Селекция на «спокойное» поведение оказалась эффективной. Существенно отметить, что проведенный анализ не позволяет говорить о влиянии того или другого типа оборонительного поведения матери на характер поведения потомства, которое могло сформироваться в результате подражания. Значительный процент особей в звероводческих хозяйствах составляют особи с трусливым поведением, что является вероятным результатом изолированного воспитания (клеточное содержание) лисиц.

Исследование половой активности самок (время наступления течки) и их плодовитости показало, что у спокойных самок течка наступала во всех возрастных группах раньше, чем у агрессивных особей. В большинстве групп эта разница была статистически достоверной. Найдена также зависимость между характером оборонительного поведения и плодовитостью самок. Наибольшая плодовитость обнаружена у спокойных самок, наименьшая — у злобно-трусливых. Разница между этими группами статистически достоверна. Статистически достоверные различия (в первый год спаривания) обнаружены и между числом потомков спокойных самок по сравнению с числом щенят, рождающихся от злобных и трусливых самок. Обнаружена интересная зависимость между особенностями поведения и окраской. Наибольшее количество серебристого (зонарно окрашенного) волоса оказывается у лисиц с той или другой формой оборонительного поведения. Среди злобных лисиц оказался наименьший процент особей с низким содержанием серебристых волос. Среди лисиц, селекционируемых по спокойной форме поведения (такая селекция оказалась эффективной), встречались особи с аномалиями в строении мехового покрова. Поскольку количество серебра в мехе лисиц увеличивает ценность шкурки, делается понятным, почему в хозяйствах сохраняются злобные и трусливые особи (менее удобные при уходе за ними) и почему отбор лисиц по времени наступления у них течки, который ведется в звероводческой практике, не дает достаточного эффекта. Проводимое Беляевым исследование показывает значение изучения генетики поведения в селекции по хозяйственно полезным признакам в звероводческих хозяйствах, открывает новые пути подхода к проблеме одомашнивания животных и показывает роль поведения в формировании морфофизиологических особенностей популяции.

Выше были изложены данные, показывающие роль действия генов на формирование поведения особи на разных уровнях ее индивидуального развития. Однако генотипические факторы, как это выяснено в настоящее время, оказывают свое влияние на поведение животных также посредством установления различных взаимоотношений между особями в отдельных сообществах. Одним из наиболее хорошо изученных путей, посредством которого генотип оказывает влияние на групповое поведение, является степень выраженности агрессии по отношению к особям своего вида. В каждом сообществе позвоночных животных в результате агрессивности к особям своего вида устанавливается поведенческая иерархия: одни особи оказываются «преобладающими», другие «подчиненными»; «подчиненные» особи боятся «преобладающих». Иерархическая система поведения сообщества зависит от многих факторов. Как правило, молодые особи оказываются подчиненными более старым. Самцы вне периода размножения оказываются преобладающими над самками. Однако в сезон размножения, как это показано на птицах, самки начинают преобладать над самцами. Самцы, стоящие на самой низкой ступени иерархии сообщества, не выбираются самками птиц для спаривания. Самки, которые стоят на низкой ступени иерархии сообщества, если они спариваются с агрессивными, преобладающими самцами, сами начинают занимать преобладающее положение в сообществе.