Предполагает использование мнений экспертов. Термин "эксперт" определяется в дословном переводе с латинского языка как "опытный". Данный метод следует применять в основном в тех случаях, когда невозможно использовать объективные методы исследований (например, метод эксперимента или тесно связанный с ним расчетный метод).

Методы, использующие мнения экспертов, получили название "Дельфи". Изначально данный метод предназначался для составления прогнозов в науке и технике и определения тенденций в развитии мира на основе последовательного неоднократного анкетирования индивидуальных суждений (оценок) экспертов. Затем он стал применяться в других областях, в том числе в управлении и исследовании СУ.

К основным положениям использования метода "Дельфи" следует отнести:

• - осуществление научно-обоснованного отбора экспертов, состав которых должен быть относительно стабильным и рациональным по численности;
• - составление четко сформулированных и однозначно воспринимаемых анкет, обеспечивающих принятие суждений оценок экспертами преимущественно в количественной форме;
• - обеспечение сбора мнений экспертов при опросе должно проводиться в несколько туров (количество туров должно быть достаточным для уточнения как вопросов, так и для получения объективных ответов после ознакомления с результатами опроса каждого тура), не проводя при этом прямых дискуссий и дебатов;
• - обоснование экспертами после каждого тура своих суждений, при расхождении их с мнением большинства;
• - проведение после каждого тура статистической обработки, анализа и обобщения результатов суждений экспертов;
• - продолжительность работы экспертов при участии их во всех турах, как правило, не должна превышать тридцати дней.

Сущность экспертных методов, как при решении задач исследования СУ, так и при использовании их в практике принятия решений в других областях науки, техники, управления, заключается в усреднении различными способами мнений (суждений) специалистов-экспертов по рассматриваемым вопросам. При этом усредненная оценка мнений экспертов К в общем виде определяется по следующей формуле:

где N- количество экспертов; К- - оценка, данная;-м экспертом.

К разновидностям экспертных методов с определенной долей условности можно отнести органолептический и социологический.

Органолептический метод

Основан на использовании чувств (вкуса, слуха, зрения, обоняния, тактильности) эксперта. Этот метод применяется при измерении численных значений показателей, например, продукции пищевой промышленности.

Наиболее распространенными экспертными методами при классификации по способу получения экспертных оценок в настоящее время при принятии решений по управлению являются следующие:

• - метод рангов (ранжирования);
• - метод непосредственного оценивания (балльный);
• - метод сопоставлений.

Последний метод включает две его разновидности:

• - парного сравнения;
• - последовательного сопоставления.

В принципе, каждый из них имеет много общего, а отличие в основном только в том, что оценивание (измерение) изучаемых объектов системного управления осуществляется различными способами. Причем каждый из методов обладает определенными достоинствами и недостатками.

Общими достоинствами экспертных методов являются быстрота получения результатов без наличия нормативной базы в СУ, возможность оценивания того или иного объекта при невозможности измерить его характеристики количественными объективными методами.

К недостаткам экспертных методов можно отнести их определенную субъективность и соответствующие этому возможные погрешности результатов экспертизы, существенные затраты на привлечение опытных экспертов для участия в опросах, влияние авторитетных членов экспертной группы и корпоративных интересов на мнение отдельных экспертов.

Общность каждого из методов заключается в последовательности проведения процедур их использования. К ним следует отнести:

• - организацию экспертного оценивания;
• - проведение сбора мнений экспертов;
• - обработку результатов мнений экспертов.

Наиболее часто в практике исследования и проектирования социально-экономических систем используется анкетирование, которое позволяет с меньшими трудозатратами экспертов собрать их мнения, но по времени сбор мнений при использовании этого вида более длительный. Обычно процесс разработки анкеты включает:

• - определение формы и содержания обращения к эксперту;
• - выбор типа вопросов;
• - формулировку вопросов;
• - изложение необходимой для эксперта информации;
• - разработку формы анкеты.

Представляет интерес выбор типов вопросов, среди которых наиболее употребляемыми в последние годы стали так называемые веерный, закрытый и открытый типы (веерный - предполагает один ответ из представленного заранее в анкете ряда ответов; закрытый - "да", "нет", "не знаю"; открытый - вопрос, ответ на который может быть дан в произвольно форме).

В общем случае экспертные работы должны осуществляться в соответствии с определенными правилами, которые следует использовать в зависимости от целей проведения этих работ. Среди таких правил необходимо отметить следующие:

• - применение системного подхода при проведении экспертных работ;
• - обеспечение преемственности в проведении экспертных работ;
• - использование обратной связи с экспертами;
• - регулярное привлечение к работе экспертов;
• - обеспечение рационального баланса гласности и конфиденциальности экспертных работ и результатов экспертизы;
• - создание условий для персонификации суждений экспертов;
• - обеспечение условий для соблюдения экспертами полной независимости при выражении своих суждений;
• - создание условий для демократического проведения экспертных работ и ответственности субъектов экспертизы;
• - однократность проведения экспертизы.

В последнее время в различных сферах деятельности стали широко использовать метод тестирования. Первоначально в зарубежной практике с помощью тестов, т.е. комплекса определенных заданий стандартной формы, проводились испытания психического состояния, умственного развития, способностей, волевых и других свойств личности отдельного человека или социальной группы людей. В дальнейшем сфера использования метода тестирования стала более широкой и его начали применять для определения не только психофизических состояний и особенностей людей, но и при проведении исследований СУ, различного рода экспериментов. Особенно популярным тестирование стало в образовании. В управлении при помощи тестов исследуют, например, проблемы, связанные с определением квалификации и аттестации персонала, распределением функций управления и ресурсов, стиля управления и т.п.

В любом случае тест - искусственно созданное воздействие испытательного характера. Он может воздействовать на изучаемый элемент и/или СУ в целом в процессе проводимого эксперимента (в натурных или специально создаваемых имитируемых условиях). Как правило, вызывает ответную реакцию элемента и/или СУ в виде высказываний и других откликов на их выходе.

Натурное тестирование проводится в реальных условиях, а все остальные виды его - в специально созданных искусственных (имитируемых) условиях (например, деловые игры). Примерами натурного тестирования могут быть:

• - широкомасштабный эксперимент по созданию СУ на основе стандартизации, проводимый в 1980-е гг. в промышленности СССР, (такого рода эксперименты можно отнести к экстремальным, так как они являются высокорисковыми);
• - апробация опытных нормативов по труду на рабочих местах;
• - специально организованная дозированная утечка управленческой информации, позволяющей прозондировать ответную на нее реакцию, например, определенного слоя общества, и соответственно выявить его вектор, активность и т.п.

Для проведения работ по тестированию необходимо:

• - четко определять его цели, задачи, правила, условия, требуемые результаты, начало и конец, что следует отразить в соответствующем плане;
• - установить возможные последствия тестирования;
• - определить необходимый объем информации и методы ее сбора, обработки и использования;
• - разработать сценарии действий всех участников;
• - разработать методику проведения оценки результатов тестирования;
• - определить направления и варианты использования результатов.

Эффективным инструментом при исследовании СУ, как показывает опыт, оказывается метод структуризации, часто называемый методом "дерева" (метод "дерева" целей). Этот метод позволяет выявить количественные и качественные взаимосвязи и отношения между целями, увязать их разные уровни с конкретными средствами и сроками достижения.

Широко используются в исследовании СУ различные методы творческого характера типа творческих совещаний. Наиболее распространенными из них являются, в частности, следующие методы: творческого коллективного обсуждения; "мозговой" атаки; коллективного блокнота; морфологического анализа; анализа проблем; генерирования идей; деловой игры; контрольных вопросов 6-3-5.

Особенностью этих методов является то, что в ходе совещания запрещается их критика. Оценка идей, выдвинутых во время совещаний, проводится обычно не на совещании, а в ходе их экспертизы.

Помимо указанных методов в исследовании СУ могут использоваться деловые игры, конференции идей (где допускается критика в доброжелательной форме, идеи реализуются в рамках специально проводимой технологии их презентации), обмен мнениями, комиссии и др.

При использовании системного подхода к исследованию СУ предприятия с учетом его внутренней и внешней (оперативного и общего окружения) сред может широко применяться популярный и в определенной мере универсальный метод "SWOT-анализа" - (S - strength (сила), W - weakness (слабость), О - opportunity (возможность), Т- threat (угроза), т.е. метод ССВУ-анализа. По существу - это оперативный диагностический метод анализа стратегического положения предприятия на основе оценки его сильных и слабых сторон, возможностей и угроз ему. Условно данный метод можно отнести к разновидности экспертного.

С 1970 г. для целей анализа и определения стратегических позиций диверсифицированных организаций стала применяться матрица Бостонской консалтинговой группы (БКГ). Данная матрица строится на основе двух координат показателей - "темп роста объемов спроса в отрасли / относительная доля рынка". При использовании данной матрицы учитываются темпы роста отрасли, относительные доли рынка и эффект действия опыта и знаний на всех стадиях жизненного цикла продаж продукции, услуг. Темп роста объемов спроса в отрасли - это параметр внешней среды. Он показывает привлекательность рынка.

При развитии матрицы БКГ специалистами компании "Дженерал Электрик" и консультационной фирмой "МакКинзи" она была модифицирована и получила в 1979 г. их имя "Матрица "Дженерал Электрик" - "МакКинзи"" (ДЭМК). Она также предназначена для анализа привлекательности и позиции подразделения с определенным видом деятельности (продукцией, услугами) или предприятия на рынке в целом.

1.4. Пороговые значения определяются на основании мнений групп экспертов.

Достоинство метода – простота и гибкость, так как процедура оценки позволяет анализировать разнородные показатели и в любом количестве.

Однако результаты оценки во многом зависят от квалификации и опыта оценщика. Поэтому определяющим моментом и главной проблемой данного метода является отбор компетентных сотрудников и/или поиск экспертов, которым будет поручена оценка потенциала.

Экспертный метод - это комплекс логических и математико-статистических методов и процедур, связанных с деятельностью экспертов по переработке необходимой для анализа и принятия решений информации.

В практической деятельности по изучению и прогнозированию спроса метод экспертных оценок может быть использован для решения следующих задач: 1) Разработка средне- и долгосрочных прогнозов групповой структуры спроса на товары народного потребления. 2) Прогнозирование внутригрупповой (в развернутом ассортименте) структуры спроса на предстоящий хозяйственный год. 3) Определение групп потенциальных потребителей. 4) Оценка величины неудовлетворенного спроса по группам, видам и разновидностям товаров.

Эксперт – это компетентное лицо, имеющее глубокое знания о предмете или объекте исследования.

Как сформировать группу экспертов? На самом первом этапе отбора в качестве критериев целесообразно использовать два признака: род занятий и стаж работы по интересующему нас профилю. При необходимости учитываются также уровень, характер образования, возраст. Центральный среди критериев отбора экспертов – их компетентность. Для определения применимы, с той или иной степенью точности, два метода: самооценка экспертов и коллективная оценка авторитетности экспертов.

Наиболее простая и удобная форма самооценки экспертов – совокупный индекс, рассчитанный на основании оценки экспертами своих знаний, опыта и способностей по ранговой шкале с позициями “высокий”, “средний” и “низкий”. При этом первой позиции присваивается числовое значение “1”, второй – “0,5”, третий – “0”. В таком случае совокупный индекс – коэффициент уровня компетентности эксперта вычисляется по формуле.

Коэффицент уровня компетентности колеблется в интервале от 0 до 1. Обычно в группу экспертов принято включать тех, у кого индекс компетентности не менее среднего 0,5 и выше –1.

Метод коллективной оценки применяется для формирования группы экспертов в том случае, когда они иеют представление друг о друге как специалисты. Такая ситуация характерна для учёных, творческих деятелей, политииков, эономистов.

Прогноз. В нём наиболее наглядно проявляется отличие экспертной оценки от информации, получаемой в результате массового опроса. Оно заключается в стремлении к согласованности, единообразию суждений и оценок, высказываемых эспертами. Действительно, взможно ли использовать дя пракических целей, скажем, мнение тидцати экспертов, если они включают 5-7 взаимоисключающих прогностических оценок? Далее достоверность данных в массовом опросе как и некоторых среднестатистических показателей тем выше, чем больше совокупность опрошенных. В принципе прогностическая экспертная оценка осуществима для любых социальных процессов и явлений.

В прикладной социологии разработан ряд приёма опросов экспертов, используемых для получения прогностической оценки. При этом уместно заметить, что некоторые технические и методические приёмы, широко используемые в массовых опросах, теряют свою значимость при опросе такой спецефической аудитории, как эксперты. Как правило, массовые опросы носят анонимный характер. В экспертных опросах это теряет смысл, ибо эксперты должны быть полностью осведомлены о задачах, которые решаются в ходе исследования с их помощью. Поэтому нет никакой нужды применять в экспертной анкете косвенные или контрольные вопросы, тесты или какие-либо другие приёмы, имеющие своей целью выявить “скрытые” позиции респондента. Более того, использование таких приёмов может нанести заметный ущерб качеству экспертной оценки. Эксперт в полном смысле этого слова – активный участник научного исследования. И попытка скрыть от него цель исследования, превратив, таким образом, в пассивный источник информации, чревата потерей его доверия к организаторам исследования.

Основной инструментарий экспертного опроса – анкета или бланк-интервью, разработанные по специальной программе.

В отличие от массового опроса, программа прогнозированного опроса экспертов не столь детализирована и носит преимущественно концептуальный характер. В ней прежде всего однозначно формулируется подлежащее прогнозу явление, предусматривается в виде гипотиз возможные варианты его исхода.

Весьма часто применяется в прикладной социологии и такой метод экспертного прогноза, как “дельфинийская техника”. Он заключается в выработке согласованных мнений путём многократного повторения опроса одних и тех же экспертов. После первого опроса и обобщения результатов его итоги сообщаются участникам экспертной группы. Затем проводится повторный опрос, в ходе которого эксперты либо подтверждают свою точку зрения, либо изменяют оценку в соответствии с мнением большинства. Такой цикл содержит в себе 3-4 прохода. В ходе подобной процедуры вырабатывается оценка, но при этом исследователь, конечно, не должен игнорировать мнение тех, кто после неоднократных опросов остался на своей точке зрения.

Оценка степени достоверности результатов массовых опросов. В процессе выработки управленческих решений при помощи социологических исследований зачастую возникает вопрос о достоверности массового исследования и соответственно о правомерности сформулированных на их основе выводов. Словом, речь идёт об оценки компетентности мнений, высказанными респондентами.

Для этого составляется анкета эксперта, включающая в основном закрытые вопросы, по структуре идентичные вопросам, сформулированным в анкете репондента. Задача эксперта – с учётом объективной ситуации и интересующих исследователя факторов всказать по поставленным вопросам непредвзятую, весторонне взвешенную оценку.

Аттестация членов коллектива. В последние годы в практике исследования состояния идейно-воспитательной работы широко применяется такая разновидность метода экспертной оценки, как аттестация. При этом в роли экспертов вступают руководители коллектива, общественных организаций или специальная аттестационная комиссия.

ЭТАПЫ:

1. Постановка задачи

2. Технология организации экспертного анализа

3. Формирование экспертной комиссии

4. Организация экспертного опроса

5. Формальные методы описания предпочтений объектов

6. Формальные методы определения предпочтений

7. Математические методы обработки результатов экспертизы

8. Оценка согласованности экспертов

В процессе управления производственной системой непрерывно возникают ситуации, когда руководители различных уровней (от мастера до министра) сталкиваются с необходимостью выбора какого-либо одного из нескольких возможных вариантов действий. Выработка и принятие решения – узловая процедура в деятельности руководителя, которая определяет весь дальнейший ход процесса управления, в особенности конечный результат управленческой деятельности.

Многие факторы, определяющие или влияющие на выбор решения, по своей природе не поддаются количественной характеристике, другие - практически не могут быть измерены. Все это сделало необходимой разработку специальных методов, облегчающих выбор управленческих решений в сложных технических, организационных, экономических задачах (методы исследования операций, экспертные оценки и др.).

1.4. Ранжирование как метод коллективных экспертных оценок . Суть процедуры заключается в следующем: экспертам (специалистам в исследуемой области) предлагается провести ранжирование (расположение явлений в порядке возрастания (убывания) значимости) некоторых явлений (ценообразующих факторов). При этом каждому явлению (фактору) присваивается свой ранг (порядковое место явления (фактора) в общей последовательности факторов). Ранги принято обозначать порядковыми числами натурального ряда (1, 2, 3, 4 ……). При этом ранг 1 присваивается наиболее значимому фактору.

Сумма рангов, проставленных экспертом по всем факторам может быть вычислена по следующей формуле:

ri – ранг, поставленный i-ому фактору;

m – число исследуемых явления (факторов).

Суммы рангов проставленных каждым экспертом должны быть равны. Если же эксперт присваивает двум (трем и так далее) различным явлениям одинаковые ранги, т.е. считает два явления (фактора) равнозначными (связанные ранги), то суммы рангов проставленные каждым экспертом не будут совпадать

что в свою очередь не позволить произвести дальнейшие расчеты.

Для избежания нарушения выше представленного равенства, оценщику, проводящему экспертизу, необходимо произвести пересчет таких рангов, в так называемые стандартизированные ранги. Расчет осуществляется путем деления суммы мест, занимаемых связанными рангами, на их число. Пример расчета представлен в таблице 1.

В итоге мы получаем нормальную ранжировку, для которой выполнено основное условия ранжирования (1).

Далее по каждому явлению подсчитывается сумма рангов, проставленных каждым экспертам. Явлению (фактору), который получил наименьшую сумму рангов, присваивается соответственного ранг 1 и т.д. Если на данном этапе для некоторых явления суммы рангов совпадут, то необходимо снова произвести процедуру стандартизации рангов, но уже по рангам, полученным путем суммирования оценок экспертов. Пример ранжирования представлен в таблице 2. Необходимо отметить, что число экспертов (d) должно быть как минимум на 1 больше, чем число исследуемых факторов (m).

Факторы
Эксперт								сумма
Стандартизированные ранги
		3,5	3,5
			4,5		4,5
			4,5		4,5
Сумма рангов (r1)		23,5	31,5
Ранги факторов (R)
Стандартизированные итоговые ранги	1,5			1,5		6,5	6,5

Получение рангов позволяет произвести дальнейшие расчеты весовых коэффициентов для каждого ценообразующего фактора при проведении корректировок в квалиметрических моделях и других методах сравнительного подхода. Однако окончательный вывод о возможности использования коллективного мнения экспертов возможно после определения согласованности мнений экспертов. Проверку согласованности мнений осуществляют с помощью коэффициента конкордации (согласия). Расчет коэффициента осуществляет по следующей формуле:

где,
m – количество оцениваемых факторов;
d – число экспертов;
Ri – сумма рангов по i-ому фактору (явлению);

Чем ближе значение коэффициента к 1, тем выше согласованность. Приемлемость полученных экспертных оценок определяется путем сравнения критерия значимости x2факт=d*(m-1)*W с табличным значением x2табл. при степенях свободы (m-1) и заданной вероятностью (например: Pо = 0,05, P=1-Po). Если полученное расчетным путем значение равно или выше табличного, то коэффициент конкордации существенен и с надежностью 0,95, мнения экспертов согласованны. Табличные значения критерия значимости представлены в таблице 3.

m-1	P0		m-2	P0
0,05	0,01	0,001	0,05		0,001
	3,84	6,63	10,83		26,3		39,25
	5,99	9,21	13,81		27,59	33,41	40,79
	7,81		16,27		28,87	34,8	42,31
	9,49	13,28	18,46		30,14	36,19	43,82
	11,07	15,09	20,52		31,41	37,57	45,31
	12,59	16,81	22,46		32,67	38,93	46,8
	14,07	18,47	24,32		33,92	40,29	48,27
	15,51	20,09	26,12		35,17	41,63	49,73
	16,92	21,67	27,88		36,41	42,98	51,18
	18,31	23,21	29,59		37,65	44,31	52,62
	19,67	24,72	31,26		38,88	45,64	54,05
	21,03	26,22	32,91		40,11	46,96	55,48
	22,37	27,69	34,53		41,34	48,28	56,89
	23,68	29,14	36,12		42,56	49,59	58,3
		30,58	37,7		43,77	50,89	59,7

x2факт= 44,016 > x2табл.= 12,59

Таким образом, мнения экспертов, приведенные в нашем примере, достаточно согласованны и могут быть использованы в дальнейших расчетах.

Весовой коэффициент каждому фактору может быть присвоен с помощью следующей формулы:

ri – итоговый ранг фактора.
В нашем примере веса распределились бы следующим образом (таблица 4).

Факторы
								сумма
Ранг	1,5			1,5		6,5	6,5
Вес	0,232	0,179	0,143	0,232	0,107	0,054	0,054

Представленный способ распределения весов не претендует на объективность, и обладает рядом недостатков, в частности: распределение весов основано на ранжирование факторов, что в свою очередь позволяет распределить факторы только с заданным интервалом, т.е. метод дает ответ, что фактор «А» важнее чем «Б», а «Б» важнее чем «С». Однако, согласно этому фактор «А» в два раза важнее чем фактор «С», что может не соответствовать действительности.

Методы экспертных оценок в прогнозировании и перспективном планировании научно-технического прогресса применяются в сле-дующих случаях:

а) в условиях отсутствия достаточно представительной и досто-верной статистики характеристики объекта (например, лазеры, голографические запоминающие устройства, рациональное исполь-зование водных ресурсов на предприятиях);

б) в условиях большой неопределенности среды функционирования объекта (например, прогнозов человеко-машинной системы в кос-мосе или учет взаимовлияния областей науки и техники);

в) при средне- и долгосрочном прогнозировании объектов новых отраслей промышленности, подверженных сильному влиянию новых открытий в фундаментальных науках (например, микробио-логическая промышленность, квантовая электроника, атомное машиностроение);

г) в условиях дефицита времени или экстремальных ситуациях.

Экспертная оценка необходима, когда нет надлежащей теоре-тической основы развития объекта. Степень достоверности экспер-тизы устанавливается по абсолютной частоте, с которой оценка эксперта в конечном итоге подтверждается последующими собы-тиями. Существует две категории экспертов - это узкие специали-сты и специалисты широкого профиля, обеспечивающие формули-рование крупных проблем и построение моделей. Выбор экспертов для прогноза производится на основе их репутации среди опреде-ленной категории специалистов. Однако не следует забывать и того обстоятельства, что первоклассный специалист не всегда может достаточно квалифицированно рассмотреть и понять общие, глобальные, вопросы. Для этой цели нужно привлекать экспертов хотя и недостаточно узко информированных, но обладающих спо-собностью к дерзанию и воображению.

«Эксперт» в дословном переводе с латинского языка означает «опытный». Поэтому и в формализованном, и в неформализован-ном способах определения эксперта значительное место занимают профессиональный опыт и развитая на его основе интуиция. Усло-вия необходимости и достаточности отнесения специалиста к кате-гории экспертов вводятся следующим образом.

Важно установить не абсолютную степень надежности эксперт-ной оценки, а степень надежности по сравнению с оценкой среднего специалиста, а также корреляцию между вероятностью его прогноз-ной оценки и надежностью класса тех гипотез, которыми оперирует эксперт. В общем, нужно определить, что такое эксперт. Перечис-лим некоторые требования, которым должен удовлетворять эксперт:

1) оценки эксперта должны быть стабильны во времени и транзи-тивны; 2) наличие дополнительной информации о прогнозируемых признаках лишь улучшает оценку эксперта; 3) эксперт должен быть признанным специалистом в данной области знаний; 4) эксперт должен обладать некоторым опытом успешных прогнозов в дан-ной области знаний.

Характеризуя экспертов, следует иметь в виду, что в результате выработки оценок могут иметь место ошибки двух видов. Ошибки первого вида известны в технике измерений как систематические, ошибки второго вида -- как случайные. Эксперт, склонный к ошиб-кам первого вида, выдает значения, которые устойчиво отличаются от истинного в сторону увеличения или уменьшения. Полагают, что ошибки этого вида связаны со складом ума экспертов. Для коррек-ции систематических ошибок можно применять поправочные коэф-фициенты или же использовать специально разработанные трени-ровочные игры. Ошибки второго вида характеризуются величиной дисперсии. Исходя из анализа основных видов ошибок при выне-сении экспертных суждений, можно добавить к рассмотренному ранее перечню требований к экспертам еще одно. Смысл его состоит в том, что следует предпочесть эксперта, оценки которого имеют малую дисперсию и систематическое отклонение средней ошибки от нуля, эксперту со средней ошибкой, равной нулю, но с большей дисперсией. К сожалению, априори определить способность человека делать правильные экспертные оценки невозможно. Важным средством подготовки экспертов являются специальные тренировочные игры.

Организация форм работы эксперта может быть программиро-ванной или непрограммированной, а деятельность эксперта может осуществляться в устной (интервью) либо в письменной форме (ответ на вопросы специальных таблиц экспертных оценок или сво-бодное изложение по заданной теме).

Программирование формы работы эксперта предполагает:

построение граф-модели объекта на базе ретроспективного ана-лиза; определение структуры таблиц экспертных оценок (ТЭО) или программы интервью на базе граф-модели объекта и целей экспер-тизы; определение типа и формы вопросов в ТЭО или в интервью;

определение типа шкалы для вопросов в ТЭО; учет психологиче-ских особенностей экспертизы при определении последовательности вопросов в ТЭО; учет верифицирующих вопросов; разработка логи-ческих приемов для последующего синтеза прогнозных оценок в комплексных прогнозах объекта.

Организация стимуляции работы эксперта состоит в разработке:

эвристических приемов и способов, облегчающих поиск прогнозной экспертной оценки; правовых норм, гарантирующих эксперту оформление приоритета и авторства, а также неразглашения всех научно-технических идей, выдвигаемых им в процессе экспертизы;

форм моральной, профессиональной и материальной заинтересо-ванности эксперта в экспертных оценках; организационных форм работы эксперта (включение в план работы и т. п.).

Исходя из полученной в результате анализа модели объекта прогнозирования, определяются научные и технические направле-ния, по которым необходимо привлечь эксперта, выделяются группы экспертов по принадлежности вопроса к области фунда-ментальных, прикладных наук или к стыковым научным направ-лениям.

При решении задачи формирования экспертной группы необхо-димо выявить и стабилизировать работоспособную сеть экспертов. Способ стабилизации экспертной сети заключается в следующем. На основе анализа литературы по прогнозируемой проблеме выби-рается любой специалист, имеющий несколько публикаций в дан-ной области. К нему обращаются с просьбой назвать 10 наиболее компетентных, по его мнению, специалистов по данной проблеме. Затем обращаются одновременно к каждому из десяти названных специалистов с просьбой указать 10 наиболее крупных их коллег-ученых. Из полученного списка специалистов вычеркиваются 10 первоначальных, а остальным рассылаются письма, содержащие указанную выше просьбу. Данную процедуру повторяют до тех пор, пока ни один из вновь названных специалистов не добавит новых фамилий к списку экспертов, т. е. пока не стабилизируется сеть экспертов. Полученную сеть экспертов можно считать генеральной совокупностью специалистов, компетентных в области прогнози-руемой проблемы. Однако в силу ряда практических ограничений оказывается нецелесообразным привлекать всех специалистов к экспертизе. Поэтому необходимо сформировать репрезентативную выборку из генеральной совокупности экспертов.

Определение специфики процедур для методов класса ПЭО (персональных экспертных оценок) осуществляется на основе ана-лиза требований к экспертам и их оценкам, вытекающим из сущно-сти методов:

а) аналитические записки предъявляют требования структуризации экспериментируемой проблемы, экспликации и ранжирования целей, анализа альтернативных путей достижения цели, оценки затрат на каждую альтернативу и рекомендаций по наиболее эффективным способам решения проблем;

б) парные сравнения, нормирование и ранжирование требуют одно-родности оцениваемых признаков, наличия логически обоснованных критериев и эталонов, наличие однозначно определенных процедур оперирования с критериями, эталонами и признаками;

в) интервью предъявляют специфические требования как к экспер-ту, так и к интервьюеру;

г) морфологическая структуризация требует четкого определения функциональных характеристик объекта или проблемы, которые необходимо улучшить, классификации научных принципов, на основе которых возможно улучшение характеристики; анализа все-возможных комбинаций этих принципов и отсева заведомо абсурдных; оценки комбинаций по степени осуществимости и затрат на их реализацию; сравнения комбинаций по комплексному критерию «затраты -- эффективность -- время».

Общие представления

Экспертные методы применяются при решении следующих задач:

формулирование и уточнение цели оценки качества продукции;

разработка классификации продукции и потребителей;

построение иерархической структурной схемы показателей качества;

определение коэффициентов весомости показателей;

определение базовых значений показателей.

Применение экспертного метода предполагает соблюдение следующих условий:

экспертная оценка производится в случае невозможности использования более объективных методов для решения вопроса;

мнения экспертов должны быть независимыми;

формулировка вопросов, поставленных перед экспертами, должна исключать возможность различного толкования;

эксперты должны быть компетентны в решаемых вопросах;

количество экспертов должно быть оптимальным;

ответы экспертов должны быть однозначными и обеспечивать возможность их математической обработки.

Операции, выполняемые экспертами можно разделить на два класса: органолептические и мыслительные. Органолептические выполняются с помощью органов чувств, а мыслительные - принятие решений на основе переработки информации. К недостаткам экспертных методов следует отнести присущий ему субъективизм, а также явление конформизма - влияние преобладающего в группе суждения на мнение эксперта.

Применение экспертных методов требует привлечения высокопрофессиональных экспертов. В нашей стране еще не развит институт экспертов профессионалов по оценке качества. Поэтому, для этих целей, как правило, приглашаются специалисты по оцениваемой продукции.

В настоящее время активно заявляет о себе новый термин - “экспертные системы”. Под экспертной системой понимается система “человек - машина”, в которой человек играет решающую роль при вынесении оценок. Экспертные системы подразделяют на две группы:

• - системы, функционирующие за счет знаний, в основном, в процессе поиска информации;
• - системы, имеющие в своем составе ЭВМ с соответствующим математическим обеспечением, способные “отвечать” на вопросы типа “что будет, если...?”

Считается наиболее перспективным развитие экспертных систем первого типа, так как, прежде всего человек, в отличие от ЭВМ, может творчески мыслить и синтезировать информацию.

Формирование и подготовка экспертной комиссии

Экспертные комиссии, создаваемые для оценки качества продукции, состоят из двух групп: рабочей (организационная) и экспертной. Рабочая группа занимается разработкой методики оценивания качества, организацией и проведением экспертной оценки качества, обработкой полученной от экспертов информации и анализом результатов. В состав рабочей группы входит организатор, консультант по оцениваемой продукции и технические работники для выполнения машинописных, чертежных, вычислительных работ. Экспертная группа выполняет только оценочные операции.

Организация, в которой формируется экспертная комиссия, должна издать приказ или распоряжение, где указывается состав экспертной комиссии, обязанности ее членов, период и продолжительность работы. Для повышения качества работы экспертов, необходимо, чтобы состав экспертной комиссии был постоянным достаточно длительное время. В.И. Галеев считает, что в состав экспертной группы следует включать 7-12 (15) человек. При этом целесообразно принимать решение, за которое подано не менее 2/3 голосов членов экспертной комиссии. Г.Г. Азгальдов предлагает для упрощенного метода оценивания численность экспертной группы от 7 до 10 человек. В отдельных случаях, когда времени на разработку мало (не больше месяца), а оцениваемый объект сложный (например, грузовой автомобиль или морское судно) необходимо образовать две или три экспертных группы, численностью по 7-10 человек. В этом случае каждая группа работает на отдельных группах свойств объекта.

Если же для оценки качества используется приближенный или точный методы, то применяется более сложный и более точный способ определения численности экспертной группы, который основан на двух основных положениях:

1. Чем больше экспертов, тем, при прочих равных условиях, выше достоверность коллективной экспертной оценки gэ, тем меньше относительная погрешность и выше доверительная вероятность (надежность) , с которой вычислены gэ. Причем:

где gист - истинное значение той характеристики, которая определяется экспертным методом;

g - абсолютная погрешность, определяющая доверительный

интервал:

g =g ист - g э. (31)

2. Чем больше предварительной информации известно рабочей группе относительно экспертной группы и выносимых ею оценках, тем, при прочих равных условиях, может быть меньше численность экспертов.

При создании экспертной группы используются следующие методы анализа соответствия экспертов предъявляемым требованиям:

• 1) Качественный метод, при котором соответствие определяется в процессе беседы с экспертом организатора-руководителя деятельностью экспертной комиссии и консультанта по оцениваемой продукции.
• 2). Количественный метод включает в себя следующие виды оценки качества экспертов:

эвристические - значения оценок качества экспертов определяются человеком;

статистические - значения оценок получаются в результате обработки ответов экспертов;

тестовые - значения оценок находятся в результате специальных испытаний экспертов;

документальные - значения оценок основываются на анализе документальных данных об экспертах;

комбинированные - значения оценок получаются с помощью некоторой совокупности перечисленных методов.

Перед работой экспертов необходимо обсудить с ними следующие вопросы:

сущность понятия “качество продукции”;

основные термины и определения по оцениваемой продукции и квалиметрии;

сущность экспертных методов и область их применения;

основные оценочные операции, их описание, специфика, трудности выполнения;

наиболее распространенные ошибки экспертов, содержание и программа проводимой работы;

методы обработки значений экспертных оценок и их сущность.

Необходимо, чтобы структура экспертной группы, ее профессиональный состав и количество экспертов соответствовали способу опроса.

С этими целями рабочая группа выбирает способ опроса экспертов и проводит его до формирования экспертной группы.

Опрос экспертов осуществляется индивидуально или совместно с другими экспертами; с обсуждением суждений эксперта на заседании экспертной группы или без него. Опрос может заключаться в беседе эксперта с техническим работником, по схеме “вопрос - ответ” (интервьюирование), в самостоятельном заполнении карты опроса (анкетирование), в заполнении карты опроса, получая при этом все необходимые разъяснения от технического работника (смешенное анкетирование).

Если используется упрощенный метод оценивания качества, то рабочая (организационная) группа проводит выбор экспертов в следующем порядке. Отбирается группа потенциальных экспертов, численностью на 2 -5 человек больше, чем положено иметь в экспертной группе. Затем в личной беседе с каждым потенциальным экспертом стараются получить информацию о качестве самого эксперта. Г.Г. Азгальдов предлагает “дерево свойств” эксперта в виде рисунка 8.

Рассмотрим содержание каждого из приведенных свойств.

Компетентность - всестороннее знание экспертом объекта (профессиональная компетентность) и методов оценивания его качества (квалиметрическая компетентность). Профессиональная компетентность включает знание методов проектирования и производства продукции, показателей качества аналогов, перспектив развития продукции, условий и характера эксплуатации. Квалиметрическая компетентность обеспечивает понимание принципов и методов оценки качества продукции, практическое умение пользоваться ими, знание типов оценочных шкал, субъективных вероятностей и умение различать достаточное число градаций оцениваемого объекта. Компетентность является наиболее важным, но трудно оцениваемым свойством. Оценка специалиста по уже освоенной им профессии является достаточно простой, но экспертам приходится работать на стыке специальностей, здесь требуется оригинальное мышление, интуиция, умение оценить новые идеи, а “чрезмерный профессионализм” может мешать выйти эксперту за рамки его профессиональных представлений.

Для определения показателя компетенции чаще всего используют два метода: самооценка и взаимооценка, на них мы остановимся ниже. Расчетная формула показателя компетентности К ком выражена в виде:

К ком = 0,4К с ком + 0,6 К в ком, (32)

где К с ком - результат самооценки, в баллах;

К в ком - результат взаимооценки, в баллах.

Рисунок 3 Свойства, характеризующие качество эксперта

Уверенность - убежденность эксперта в правильности выбранной им оценки.

Объективность - способность эксперта быть объективным, то есть при участии в экспертизе не поддаваться ведомственным, начальственным или личным интересам.

Деловитость - умение быстро выполнять порученную работу, способность быстро переключаться с оценки одного показателя на оценку другого, умение работать с людьми в конфликтной ситуации, способность противостоять мнению большинства при уверенности в своей правоте, обоснованность и мотивированность выносимых оценок и суждений, умение четко формулировать свои мысли.

Заинтересованность - желание делать порученную работу зависит от его индивидуальных способностей, загруженности основной работой, целей экспертизы и возможностей использования ее результатов в своей практической деятельности.

Учитывая эти свойства, рабочая группа отбирает 7-10 экспертов, у которых они выражены в наибольшей степени.

Окончательным этапом формирования экспертной группы является проведение тестирования, самооценки, взаимооценки экспертов, анализа их надежности и проверки согласованности мнений.

Тестирование проводится для установления компетентности и профпригодности экспертов и заключается в решении экспертами задач, подобных реальным, с известными (но не экспертам) ответами.

Самооценка экспертов состоит в ответе каждым из них в строго ограниченное время на вопросы анкеты, после чего эксперт по бальной системе проверяет свои профессиональные знания и деловые качества.

Если эксперты имеют опыт совместной работы, то они могут провести взаимную оценку друг друга.

Анализ надежности экспертов проводится по степени надежности, которую можно рассчитать, основываясь на сведениях о результатах работы эксперта в других экспертных группах. Степень надежности - это отношение числа случаев, когда мнение эксперта совпало с результатами экспертизы, к общему числу экспертиз, в которых он участвовал.

Согласованность мнений экспертов оценивается коэффициентом конкордации W , о котором будет рассказано ниже.

Проведение экспертного опроса

Опрос экспертов должен соответствовать следующим требованиям:

• - ограниченное количество вопросов, задаваемых эксперту;
• - полнота охвата решаемой задачи;
• - всестороннее рассмотрение вопроса;
• - ограниченное время опроса;
• - возможность применения заочного опроса;

Операции экспертной оценки качества выполняются по этапам:

• 1. Подготовительный этап:
  • - формулирование цели оценки;
  • - формирование рабочей группы.
• 2. Этап работы рабочей группы:
  • - уточнение цели оценки;
  • - выбор методов, модификаций, способов и процедур оценки;
  • - определение перечня операций, выполняемых экспертами;
  • - формирование экспертной группы;
  • - выбор методов, способов и процедур опроса экспертов.
• 3. Этап работы экспертной группы:
  • - классификация продукции и потребителей;
  • - определение номенклатуры показателей качества;
  • - определение коэффициентов весомости показателей;
  • - определение базовых значений показателей;
  • - определение оценок единичных показателей;
  • - определение комплексных показателей.
• 4. Заключительный этап:
  • - обработка значений экспертных оценок;
  • - анализ результатов и подготовка решения экспертной группы.

При реализации третьего этапа - работы экспертной группы, получают ответы экспертов, которые можно разделить на:

• 1. Общие ответы в виде описаний, их используют при определении и уточнении целей оценки и условий эксплуатации (потребления) продукции или как источник дополнительной информации при оценке качества продукции.
• 2. Классификационные ответы могут быть как в виде описаний, так и в виде шкалы наименований (например, деление потребителей на группы в соответствии с условиями потребления оцениваемой продукции).
• 3. Оценочные ответы представляют в количественном виде (баллы, проценты, доли единицы) или качественной форме (“хорошо - плохо”, “достаточно - недостаточно”), их используют при определении коэффициентов весомости, значения оценок показателей качества. При оценке качества опрос экспертов рекомендуется проводить в два - три тура: индивидуальный и групповой. Это позволяет обеспечить независимость суждений экспертов в первом туре, (что снижает отрицательное конформное и авторитетное влияние) и обмен информацией между экспертами в последующих турах. Проведение более трех туров опроса экспертов нецелесообразно.

Необходимость повторения операций экспертизы оценки качества продукции может возникнуть по различным причинам:

• - сравнение результатов, полученных с использованием одинаковых процедур в различных условиях;
• - сравнение различных методов или процедур, например, очного или заочного опроса;
• - повышение точности результата за счет многократного обмена информацией;
• - оценка качества эксперта за счет определения стабильности его суждения, выраженного показателем воспроизводимости.

К одной из разновидностей многоэтапного метода относится метод Делфи, который американцы довольно долго держали засекреченным.

Метод Делфи был предложен в начале пятидесятых годов американскими учеными Т.Дж. Гордоном и О. Хелмером для решения военных проблем. Название этого метода происходит от древнегреческого города Дельфа, где с IX в. до н. э. при храме Аполлона существовал совет мудрецов - “дельфийский оракул”. Назначение метода Делфи состоит в выявлении мнения специалистов в обстановке, исключающей прямые дебаты между ними, но позволяющей им неоднократно взвешивать свои суждения, учитывая ответы коллег.

Характерными чертами метода Делфи являются:

• - анонимность; эксперты не встречаются друг с другом;
• - ответы на вопросы обязательно содержат количественную характеристику;
• - многоэтапность; после каждого тура эксперты знакомятся с ответами коллег и при необходимости составляют письменные обоснования своих точек зрения, что может найти отражение в изменении мнений эксперта на следующем этапе опроса;
• - контроль; после каждого тура проводится статистическая обработка полученных ответов до тех пор, пока степень согласованности мнений экспертов не достигнет заранее выбранного значения.

Количество проводимых туров опроса зависит от квалификации специалистов и опыта. При особо важных измерениях можно учитывать весовые коэффициенты квалификации экспертов. В среднем считается достаточно проведения трех туров для группы, состоящей из 10-12 экспертов.

По способу проведения экспертные опросы подразделяются:

• - непосредственное измерение;
• - ранжирование;
• - сопоставление.

При непосредственном измерении экспертным методом значения показателей качества определяются в установленных единицах: единицы СИ, баллы, нормо-часы, рубли, единицы условного топлива и т.д. Такие измерения могут проводиться по шкале отношений или по шкале интервалов. Для измерения по шкале отношений требуется наличие эталона. Непосредственное измерение весовых коэффициентов, сумма которых должна равняться единице, производится по шкале интервалов.

Значения коэффициентов рассчитываются по формуле (33):

где n - количество экспертов;

m - число взвешиваемых показателей;

G ij - коэффициент весомости j-го показателя в баллах, данный

i-м экспертом.

Непосредственное измерение экспертным методом является наиболее сложным и требует высококвалифицированных экспертов.

Ранжирование заключается в расстановке объектов измерений или показателей качества в порядке их предпочтения или по важности. Место, занятое при такой расстановке называется рангом. Согласно метода предпочтения эксперта просят пронумеровать все весомости M j в порядке их предпочтения так, что весомость наименее предпочитаемого свойства получает номер 1, следующее - 2, и чем важнее свойство, тем больше значение весомости.

Расчетная формула весомости j-го свойства M j:

где W jl - место, на которое поставлена весомость j-го свойства у

l-го эксперта;

r - количество экспертов;

n - количество свойств.

Согласно метода ранга эксперт делает оценку важности каждого свойства по шкале относительной значимости в диапазоне от 1 до 10, причем он может присваивать свойству как целые, так и дробные числа. В данном методе расчетная формула весомости M j имеет вид:

причем P jl - оценка весомости j-го свойства у l-го эксперта.

Сопоставление подразделяется на последовательное и попарное. Метод последовательного сопоставления заключается:

• 1. Расположение весомостей всех свойств в порядке предпочтения аналогично методу предпочтения (ранжирования).
• 2. Наиболее важное свойство получает весомость M j = 1,0; все остальные - в порядке убывания в диапазоне от 1 до 0.
• 3. Если свойство с весомостью M 1 важнее всех остальных свойств вместе взятых, то M 1 увеличивается до величины, превосходящей сумму всех прочих весомостей:

Если же эксперт считает, что свойство M 1 менее важное, то проводится обратная процедура:

• 4. Аналогичным образом сопоставляется второй объект с совокупностью всех остальных, стоящих ниже рангом, и так далее для всех остальных. При этом нужно следить, чтобы не нарушалось предпочтение первого объекта перед совокупностью всех остальных, если оно установлено на предыдущем этапе.
• 5. Полученные результаты измерений или весовые коэффициенты нормируют, то есть делят на общую сумму баллов или весовых коэффициентов, после этого они принимают значения в пределах от 0 до 1, а их сумма становится равной 1.

Метод попарного сопоставления является наиболее простым и заключается в сравнении двух объектов. Результаты представляются в форме ортогональной матрицы. Например, необходимо сравнить эстетические показатели шести видов обоев, обозначенных номерами 1, 2, ....6 (таблица 3), где предпочтение i-го вида над j-ым соответствует 1, а противоположное - 0.

Ранжированный ряд имеет вид (по возрастающей): №4 №5, №6, №2, №1, №3.

Этот же пример можно рассмотреть с проведением ранжирования следующего вида: преимущество i-го вида над j-ым соответствует 1, противоположное - (-1); а при равном качестве - 0 (таблица 4).

Следовательно, наивысшие эстетические показатели имеют обои № 3, затем, № 1; № 2, № 6 и № 4 имеют равные свойства, наихудшие показатели у обоев № 5.

Шишкин И.Ф. приводит следующий вариант проведения попарного сопоставления. Предпочтение выражается указанием номера предпочитаемого объекта (таблица 3).

Таблица 3

Таблица 4

Балл j-го объекта или весомость j-го показателя рассчитывается по формуле (39). В данном случае:

где F i,j - частота предпочтения i-м экспертом j-го объекта

экспертизы;

c - общее число суждений одного эксперта, связанное с

числом объектов экспертизы m (числом измеряемых

показателей или коэффициентов весомости) соотношением:

Таблица 5

Номер объекта экспертизы

Анализ результатов

После проведения опроса экспертов необходимо определить их степень согласованности, используя коэффициент конкордации W (41).

где S - сумма квадратов отклонений суммы рангов каждого объекта экспертизы от среднеарифметического рангов;

n - число экспертов;

m - число объектов экспертизы.

Коэффициент конкордации может принимать значения от 0 (при отсутствии согласованности) до 1 (при полном единодушии).

Существенность значения W устанавливают с помощью критерия (распределение Пирсона) (42):

Значение сравнивают с табличным при заданном уровне значимости и числе степеней свободы f = n-1. При (f) степень согласия между исследователями (значение коэффициента конкордации W) не вызывает сомнения.

Если имеют место «связанные ранги», то коэффициент конкордации задается формулой

L-е число одинаковых рангов в k-м ранжировании. Например, если некоторый k-й исследователь записал ранги 1; 2; 4,5; 4,5; 4,5; 4,5; 8; 8; 8; 10, то для него

(4 3 -4)+(3 3 -3)=84.

Существенность значения W устанавливается также с помощью критерия

который также сравнивают с табличным при заданном уровне значимости и числе степеней свободы f = n-1.