Оптимальная численность экспертной группы как величина формальных способов определения не имеет. Очевидно, что минимальный предел должен обеспечивать возможность применения статистических процедур и известную гарантию против односторонности подбора экспертов, а максимальный диктуется реальными возможностями подготовки, проведения и обработки результатов экспертизы.
3. Проведение собственно экспертизы одним из известных методов. Методические сложности этого этапа состоят в необходимости сосредоточить внимание на таких аспектах, как заинтересованность экспертов в точности их оценок, выборе адекватных методов групповой оценки, согласованности мнений и ряда других моментов.
Изучение уже разработанных систем, сравнение их друг с другом, выявление преимуществ и недостатков каждой из них – один из апробированных методов совершенствования системы показателей. Сложность этого вида исследования состоит в том, что подобрать достаточное количество однотипных систем с одинаковым содержанием, структурой и целенаправленностью практически невозможно Обычно приходится иметь дело со сложным информационным массивом сравнений (компаративным массивом), состоящим из разнотипных систем. Процедуры сравнения в подобных случаях значительно затрудняются, т.к. появляется опасность случайных, субъективных произвольных выводов.
В информатике, статистике и компаративистике имеется достаточно много методик сравнительного анализа рассматриваемого объекта. Здесь же целесообразно остановиться на проблеме методологии формирования компаративного массива, компаративных процедур и получения выводов из проведенного сравнения.
• Формирование компаративного массива. Опыт показывает, что минимальное количество различных показателей, с которым можно вести сравнительное исследование – не более нескольких десятков единиц. Иначе потребуются годы работы большого исследовательского коллектива при значительных затратах времени и средств. Кроме того, наращивание информационного массива сверхдостаточного репрезентативного минимума существенно снижает эффективность выходных данных.
Имеются два метода отбора репрезентативного минимума: концентрического сужения потенциального массива информации по заранее заданным критериям; последовательного расширения какого-либо элемента указанного массива, принятого за исходный.
Сужение потенциального массива информации ведут несколькими этапами с удалением на каждом из них тех частей, которые признаются выходящими за рамки исследования или не имеют к нему непосредственно отношения. В итоге определяются узкие рамки окончательного отбора системы социальных показателей изучаемого объекта в целом, изложенные в специальных изданиях в определенном временном промежутке. Такому жесткому критерию обычно удовлетворяет лишь несколько названий работ в советской и зарубежной социологической литературе. Для обеспечения минимума достаточной репрезентативности требуется некоторое его расширение по другому ряду критериев.
Однако этот список необходимо дополнить работами, в названиях которых не фигурирует сам термин, обозначающий исследуемые явления, но которые по своему содержанию посвящены социальным показателям именно этого явления. Это относится в первую очередь к зарубежным работам, затем – к социальной статистике, охватывающей проблематику изучаемого объекта в целом, далее – к литературе по тем или иным социальным проблемам, где в центре внимания автора оказалась фактически интересующая нас проблематика.
Последний критерий наиболее сложен: тщательное изучение каждого издания и вынесение решения о включении или исключении его на основании индивидуальной экспертной оценки связано с повышением риска ошибки, особенно в тех случаях, когда содержание, структура и направленность издания не могут быть определены однозначно. Здесь возможен наибольший процент ошибочного выбора.
Перечисленные процедуры касаются содержательной стороны информационного массива. Аналогичную работу следует проделать и по критериям формальной стороны. Часто число изданий, опубликованных в виде монографий строго по данной проблематике по указанным критериям, насчитывает всего несколько единиц. Поэтому есть смысл добавить к ним статьи этого же характера из специальной научной периодики, издания по социальной статистике, полностью отвечающие установленным критериям, а также ротапринтные или ксерокопированные доклады. Эта последняя группа не уступает по своей содержательности монографиям и статьям, а по степени оперативности информации может их и превосходить.
В схематическом виде компаративный массив может быть представлен как совокупность блоков показателей (или отдельных агрегированных показателей) исследуемого объекта.
В целом сформированный таким образом информационный массив достаточно репрезентативен, чтобы вести сравнительное исследование, выводы которого могли бы иметь значение для всей совокупности систем и показателей исследуемого объекта в отечественной и зарубежной литературе.
• Компаративные процедуры: блоки показателей. Сравнительное исследование делится на два этапа: сравнение блоков показателей; исследовательские процедуры, той части компаративного массива, которая содержит сведения о конкретных показателях. Собственно процедуры таковы:
а) сравнение числа блоков показателей (или отдельных агрегированных показателей) в различных системах;
б) сравнительный анализ структуры блоков изучаемых систем. Процедура количественно-качественного характера, где на первом плане стоят вопросы соотношения различных блоков;
в) сравнительный анализ внутренней структуры каждого блока обозреваемых систем, для чего необходим частичный выход за рамки простой номенклатуры сопоставительной таблицы и изучение особенностей названий отдельных блоков. Здесь наиболее приемлем способ членения основных блоков типичной компактной системы, в котором выделяют три главных подхода:
• Разделение основных блоков на подблоки, выступающие в качестве самостоятельных наряду с основными.
• Разделение блока на несколько подгрупп показателей, образующих относительно самостоятельные подблоки. Это деление близко к первому, но отличается от него гораздо большей степенью детализации, причем каждый блок обычно выступает как совокупность нескольких подблоков под одной рубрикой.
• Сведение нескольких подблоков в один сложный блок, выступающий как совокупность подблоков под одной рубрикой. Достигается примерно тот же результат, что и в предыдущем случае, но уже не дифференциацией (декомпозицией) блока на подблоки, а, напротив, интеграцией (композицией) подблоков в блок, значительно более агрегированный и более сложный по своей структуре, чем обычные. По характеру – это качественно-количественная процедура;
г) сравнительный анализ внутреннего содержания систем, для чего необходим полный выход за рамки номенклатуры сопоставительной таблицы и изучение внутренней структуры каждого блока. Процедура сугубо качественного характера.
• Компаративные процедуры: отдельные показатели. Для того, чтобы выработать рекомендации по дальнейшему совершенствованию отдельных показателей, необходимо путем сравнительного анализа выявить наиболее эффективные частные типы показателей. С этой целью проводятся еще три процедуры исследования:
д) сравнение систем, состоящих не из блоков, а из отдельных агрегированных показателей;
е) сравнение блоков остальных систем компаративного массива, содержащих не только блоки, но и конкретные показатели;
ж) сравнительно-качественный анализ выявленных частных типов показателей.
Приведенный перечень не исчерпывает все существующие и потенциально возможные частные типы показателей (см. табл. 3). Требуется специальное исследование, чтобы свести эти типы в систему, сопряженную с системами классификации показателей.