Существует огромное количество терминов: аналитика, data mining, анализ данных, business intelligence и разница между ними не всегда столь очевидна даже для людей, которые с этим связаны. Сегодня мы расскажем о том, что же такое Business Intelligence (BI) доступным и понятным языком. Тема безусловна огромна и её не покрыть лишь одной короткой статьей, но наша задача - помочь сделать первый шаг и заинтересовать читателя темой. Заинтересованный же читатель также найдет исчерпывающий список для дальнейших шагов.

Структура статьи

Зачем всё это нужно: из жизни аналитика

(кликабельно)

Представим, нами (неким аналитиком Петровичем у поставщика Цветочек) стоит задача оценить продажи ряда магазинов (куда мы поставляем товар) и каждый магазин ведет свой учет проданных товаров. Реальность такова, что формы учета будут заполнены не пойми как и не пойми кем, то есть у них будет разная структура и разный формат хранения (некоторая форма таблиц). Схематично эта задача изображена на схеме выше.

Казалось бы задача несложная и поэтому рассмотрим лобовое решение: пусть у нас есть N таблиц и нам нужно их собрать вместе в одну таблицу, тогда напишем N скриптов, которые преобразуют эти таблицы и один сборщик, который собирает их вместе.

Минусы такого подхода:

  • необходимо поддерживать N скриптов одновременно (где N в порядках тысяч);
  • при изменении структуры отчетов магазинов во времени (например, в магазине появился новый сотрудник) необходимо искать и переписывать отдельные скрипты;
  • при появлении нового магазина, необходимо писать новый скрипт;
  • при изменении нашей отчетности (поставщика Цветочек), необходимо вносить изменения во все скрипты;
  • сложная отладка и поддержка, так как магазины не уведомляют об изменении структуры и не следуют никаким спецификациям.

Если мы поднимемся на уровень целой организации, то увидим, что проблем даже больше.

В чем задача: проблема на уровне компании

(кликабельно)

Производитель Цветочек на самом деле работает не напрямую с магазинами, а через некоторых посредников. Посредники посещают магазины и непосредственно своими действиями пытаются стимулировать продажи. Соответственно, они являются материально заинтересованными лицами и информацию, которую они выдают, приходится перепроверять.

Принципиально, задача выглядит схожим образом: пусть у нас есть N магазинов и K дистрибьюторов, можем ли агрегировать данные магазинов и сравнить их с результатами дистрибьюторов? (У всех данные имеют разную структуру и формат.)

Здесь помимо таблиц, мы уже можем столкнуться с целым зоопарком форматов, к которым добавляются отчеты дистрибьюторов. Как правило задача характеризуется очень низким качеством данных, в том числе дублированием, несогласованностью и ошибками. На основе полученных результатов и сравнения данных, отдел по закупкам принимает решения о том сколько, кому и почем чего отгружать. То есть решение этой задачи непосредственно влияет на финансовые показатели компании, что безусловно важно.

Рассмотрим несколько вариантов решения на уровне компании:

  • самописное решение: компании производителю будет необходимо нанять специалиста не по профилю компании и критичное ПО будет зависеть от данного специалиста. Если он уйдет, то компания будет вынуждена срочно искать замену, которая сможет поддерживать ПО и качество будет напрямую зависеть от нанятого специалиста;
  • закупить ПО у третьей стороны, тут три ключевых фактора: цена, качество и время интеграции. Как правило цена и время интеграции слишком высоки для среднего производителя, и в том числе требует существенных временных затрат сотрудников. Выбор поставщика также не тривиален;
  • SaaS решения: методология еще нова для рынка и многие компании скептически относятся к подобным сервисам.

В целом если мы говорим о небольшом или среднем производителе, то с точки зрения времени интеграции, цены и качества решения сервис выглядит оптимальным вариантом, так как ценообразование динамическое и интеграция минимальна через веб. Как правило плюсом корпоративного ПО является настраиваемость и касмтомизированность (каждый бизнес считает себя уникальным), но описанная задача достаточно типична и стандартна для достаточно широкого круга компаний. Безусловно, нет единого решения для всех, но для каждого в отдельности его можно найти.

Сам процесс на уровне компании выглядит схожим образом: консолидируется данные, определенным образом трансформируются (агрегируются) и загружаются в систему для анализа.
(кликабельно)

Обобщаем задачу: всё это звенья одной цепи

(кликабельно)

В чём же разница между аналитикой, data mining и business intelligence (BI)? Первые включают в себя комплекс методов для анализа уже чистых данных, а на практике очистка и преобразование данных в удобный для анализа формат - важный и неотъемлемый процесс. Так же помимо работы с преобразованием и консолидацией данных, основная задача BI - это принятие решений для бизнеса.

Модные словечки, востребованная терминология, не совсем понятные определения и совершенно незнакомые лексические единицы. Все вышеуказанное можно применить как к понятию «business intelligence», так и к словосочетанию «data science». Попробуем не только преодолеть трудности перевода, но и разобраться в том, чем разнятся «наука о данных» и «бизнес интеллект».

Business Intelligence: интеллект, разведка, осмысление, аналитика

Многие уверены, что термин «business intelligence» впервые появился на свет в 80-х гг. прошлого столетия, но это не совсем так. Дело в том, что первым этот термин использовал Ханс Питер Лун, исследователь из компании IBM, в далеком 1958 году. А в 1989-ом Говард Дреснер, который позже стал аналитиком в Gartner, дал определение «business intelligence» как тому, что описывает «концепции и методы для улучшения принятия бизнес-решений с использованием систем на основе бизнес-данных».

Давайте прислушаемся к другим экспертам. Так, Джонатан Ву, менеджер компании Netgear, определяет BI как процесс сбора многоаспектной информации о предмете, который исследуется. А вот какую трактовку предложил Институт хранилищ данных (The Data Warehousing Institute): Business intelligence – это процесс превращения данных в знания, а знаний в бизнес-действия для получения выгоды.

BI можно рассматривать не только как процесс, но и как результат процесса получения знаний. Однако если компилировать все определения, которые «дрейфуют» на рынке, можно утверждать, что business intelligence в самом широком смысле этого понятия – это процесс превращения полученных данных в знания о бизнесе, которые используются для принятия улучшенных решений. Кроме того, это еще и информационные технологии сбора данных и их консолидации. И, наконец, BI представляет собой знания о бизнесе, которые добываются путем проведения углубленного анализа данных. Если говорить коротко, то business intelligence – это технологии, анализ и знания.

Data Science: наука о хаосе, приведенном в порядок

С недавних пор наука о данных рассматривается не только как академическая дисциплина, но и как практическая межотраслевая сфера деятельности. Сам термин был предложен Уильямом Кливлендом, профессором университета Пердью, который считается одним из самых больших авторитетов в области статистики, машинного обучения и визуализации данных.

Согласно определению международного совета CODATA (International Council for Science: Committee on Data for Science and Technology), наука о данных представляет собой дисциплину, которая объединяет различные направления статистики, data mining и машинное обучение. Однако наиболее популярное определение дано в статье «Что такое Data Science?» Майка Лукидиса, редактора O"Reilly Media и автора книг об операционных системах, компьютерной архитектуре и программировании. Стоит отметить, что данная трактовка на сегодняшний день является основополагающей. – это обобщенное название технологий, которые предназначены для производства данных как продукта. Если сравнивать науку о данных с традиционной статистикой, то на первый взгляд может показаться, что между ними нет никаких отличий. Однако Data Science характеризуется комплексным подходом, а data-ученые не изучают данные, а используют их.

Таким образом, мы приходим к выводу, что Data Science изучает проблемы анализа, обработки и использования данных. Это такое фантастическое «ассорти», от которого голова идет кругом: здесь вам и статистика, и интеллектуальный анализ данных, и искусственный интеллект, обрабатывающий большие объемы data, и методы проектирования баз данных, и многое другое.

Ничто не ново под… data-небосводом

Облачные вычисления и другие технические достижения заставили компании сосредоточиться больше на будущем, а не анализировать отчеты на основании данных прошлого. Чтобы получить конкурентные преимущества, компании начали объединять и преобразовывать данные, которые являются частью реальной науки о данных.

В то же время они практикуют Business Intelligence, создавая графики, отчеты и таблицы на базе полученных данных. И хотя между Data Science и Business Intelligence есть большие различия, они в равной степени важны и дополняют друг друга.


Для того чтобы практиковать BI и Data Science, многие компании нанимают специалистов, которые совмещают сразу две должности – BI-аналитиков и дата-сайентистов. Тем не менее, именно здесь и возникает путаница из-за непонимания того, что эти роли требуют различных экспертных знаний.

Несправедливо ожидать, что BI-аналитик может сделать точные бизнес-прогнозы. А это может стать причиной катастрофических последствий для любой компании. Однако, изучив главные различия между BI и наукой о данных, можно научиться подбирать подходящих кандидатов для выполнения определенных задач, которые намерен решить ваш бизнес.

Сфера интересов

С одной стороны, традиционный подход Business Intelligence подразумевает создание инструментальных панелей для отображения исторических данных в соответствии с фиксированным набором ключевых показателей эффективности. Отсюда делаем вывод, что BI больше полагается на отчеты, современные тренды и ключевые показатели эффективности (KPI).


С другой стороны, наука о данных больше фокусируется на предсказании того, что в конечном итоге может случиться в будущем. Таким образом, дата-сайентисты больше сосредоточены на изучении закономерностей и различных моделей, а также на нахождении корреляций для бизнес-прогнозов.


Например, компаниям, занимающимся , нужно предсказывать растущую потребность в новых видах обучения, основываясь на существующих шаблонах и требованиях корпоративных компаний.

Анализ и качество данных

BI требует от аналитиков умения сосредотачиваться не только на настоящем и будущем, но и заглядывать в прошлое – то есть активно использовать исторические данные. Поэтому анализ BI-аналитиков является в большей степени ретроспективным. Фокус Business Intelligence – это абсолютно точные данные, основанные на том, что на самом деле произошло в прошлом.


Например, ежеквартальные результаты компании формируются из реальных данных о ведении бизнеса на протяжении последних трех месяцев. Ошибки в этом случае попросту невозможны, потому что отчетность носит описательный характер и не может быть субъективной.

Что касается науки о данных, то дата-сайентисты должны использовать предиктивную и директивную аналитику. Они обязаны довольно точно предсказывать то, что должно произойти в будущем, используя вероятности и уровни уверенности.


То, как компания будет выполнять необходимые действия на основе предиктивного анализа и прогнозов на будущее, не может базироваться на простых догадках. Конечно, наука о данных не может быть точной на 100%, но она должна быть «достаточно хороша» для бизнеса, чтобы принимать своевременные решения и действия, а также обеспечивать необходимые результаты.

Идеальный пример науки о данных в действии – оценка прибыли компании в следующем квартале.

Источники и преобразование данных

Business Intelligence – это заблаговременное планирование и подготовка к использованию правильной комбинации источников данных для их преобразования. Чтобы получить соответствующие инсайты о клиентах, деловых операциях и продуктах, Data Science в состоянии на лету преобразовывать данные, используя те источники информации, которые доступны по требованию.


Потребность в смягчении

BI-аналитики не должны смягчать любые неопределенности, окружающие исторические данные, так как они основаны на реальных ситуациях. Такие данные точны и не предполагают каких-либо вероятностей.


В 2007 году на рынке BI-платформ произошли серьезные изменения, связанные с его существенной консолидацией. Крупные вендоры совершили стратегические приобретения: Oracle завершила сделку по присоединению Hyperion, SAP объявила о присоединении Business Objects, Cognos закончила присоединение Applix и согласилась на слияние с IBM.

Как же данные события повлияли на рынок BI-платформ? Наиболее наглядный ответ на этот вопрос можно получить, взглянув на «магический квадрат» Gartner (рис. 1), где показано распределение ведущих производителей BI-платформ на начало 2007 и 2008 годов.

Рис. 1. Положение ведущих вендоров на рынке BI-платформ (источник: Gartner)

Перед тем как прокомментировать обозначенные выше изменения, кратко рассмотрим методологию Gartner по отбору и представлению вендоров BI-платформ на плоскости «магического квадрата». Прежде всего поясним, что Gartner понимает под понятием «BI-платформа».

Что такое BI-платформа в толковании Gartner

В самом общем плане Gartner определяет BI-платформу как инструмент, который дает организациям возможность строить приложения, позволяющие изучать и понимать их бизнес. Согласно более подробному толкованию, Gartner определяет BI-платформу (BI platform) как программную платформу, предоставляющую 12 функций, которые, в свою очередь, делятся на три группы: интеграция, средства предоставления информации и средства анализа информации.

Интеграция

Общая BI-инфраструктура - все инструменты платформы должны использовать одни и те же средства обеспечения безопасности, общие метаданные, общие средства администрирования, общие средства генерации запросов, а также иметь однотипные интерфейсы.

Управление метаданными - все инструменты приложения должны не только опираться на одни и те же метаданные, но также должны обеспечиваться быстрый поиск, хранение, использование и публикация таких объектов метаданных, как размерности, иерархии, параметры оценки производительности и параметры оформления отчетов.

Средства разработки - наряду со средствами создания отдельных BI-приложений, BI-платформа должна предоставлять средства программной разработки для интеграции приложений в общий бизнес-процесс или обеспечивать их встраивание в другое приложение. BI-платформа должна давать разработчикам возможность создания BI-приложений без кодирования, на основе применения мастеров (wizard-like components) для визуального редактирования.

Совместная работа и управление рабочими процессами - данная возможность позволяет BI-пользователям разделять информацию и обсуждать ее с помощью общих папок и средств ведения дискуссионных тредов (discussion threads). В дополнение BI-приложения могут назначать и отслеживать события или задачи, возложенные на отдельных пользователей, на основе неких заранее определенных бизнес-правил. Обычно данная функциональность предоставляется на базе интеграции с отдельным workflow-инструментом.

Средства предоставления информации

Средства создания отчетов (Reporting) - дают возможность создавать форматированные интерактивные отчеты. В дополнение к этому поставщики BI-платформ должны предоставлять широкий набор типов отчетов (финансовых, операционных и т.п.) в виде приборных панелей дэшбордов (dashboards).

Дэшборды (Dashboards) - одна из составных частей отчетов, представление информации в виде интуитивно понятного графического изображения, включая диаграммы, круговые шкалы, светофоры и т.п. Данные индикаторы показывают состояние анализируемого параметра на фоне его целевого назначения (рис. 2).

Рис. 2. Пример информационной панели (Dashboard)

Руководитель или аналитик, подобно пилоту самолета, видит перед собой «доску приборов» и управляет системой, ориентируясь на значения индикаторов. При этом ключевые факторы, необходимые для управления предприятием, должны быть так или иначе измерены и представлены в виде показателей. Девиз концепции: «Если вы не можете это измерить, значит вы не можете этим управлять» (“If you can’t measure it, you can’t manage it”).

Генератор нерегламентированных запросов (Ad hoc query) - данная функция, известная также как создание отчетов в режиме самообслуживания, дает пользователям возможность получать ответы на возникающие вопросы. Система предоставляет средства навигации по доступным ресурсам данных.

Интеграция с Microsoft Office - в ряде случаев BI-платформы используются как промежуточное звено в цепочке анализа информации, а Microsoft Office (в частности Excel) выступает как BI-клиент. В этих случаях очень важно, чтобы BI-вендор обеспечивал интеграцию с Microsoft Office, включая поддержку форматов документов, формул и сводных таблиц.

Средства анализа информации

OLAP (Online Analytical Processing - аналитическая обработка в реальном времени) - технология обработки информации, включающая составление и динамическую публикацию отчетов и документов. Используется для быстрой обработки сложных запросов к базе данных. Технология OLAP обеспечивает высокую скорость обработки запросов. Она делает мгновенный снимок реляционной БД и структурирует ее в пространственную модель для запросов. Дело в том, что реляционные БД хранят сущности в отдельных таблицах и сложные многотабличные запросы выполняются в них относительно медленно, в то время как пространственная БД является более удачной моделью для запросов. Заявленное время обработки запросов в OLAP составляет около 0,1% от аналогичных запросов в реляционную БД.

Продвинутая визуализация - инструменты продвинутой визуализации позволяют представлять данные для более эффективного их восприятия посредством использования интерактивных картинок и диаграмм вместо таблиц (рис. 3). Обычно пользователи в динамическом режиме могут менять графическое представление, использовать масштабирование, объединять данные, изменять цвета.

Рис. 3. Пример использования визуализации в предоставлении данных
на дэшборде Cognos

Предиктивное моделирование и дейта майнинг. Предиктивное моделирование (Predictive Modelling) - это процесс создания (или выбора) модели для предсказания вероятности наступления некоторого события. Дейта майнинг (Data Mining) - это процесс обнаружения в «сырых» данных ранее неизвестных, нетривиальных полезных и доступных интерпретации знаний, необходимых для принятия решений. Информация, найденная в процессе использования методов Data Mining, должна описывать новые связи между свойствами, предсказывать значения одних признаков на основе других и т.д. Найденные знания должны быть применимы и по отношению к новым данным с некоторой степенью достоверности. Когда извлеченные знания непрозрачны для пользователя, должны существовать методы постобработки, позволяющие привести их к интерпретируемому виду. Задачи, решаемые методами Data Mining, включают:

  • классификацию - отнесение объектов (наблюдений, событий) к одному из заранее известных классов;
  • регрессию, в том числе задачи прогнозирования; установление зависимости непрерывных выходных от входных переменных;
  • кластеризацию - группировку объектов (наблюдений, событий) на основе данных (свойств), описывающих сущность этих объектов. Объекты внутри кластера должны быть похожими друг на друга и отличаться от объектов, входящих в другие кластеры. Чем больше похожи объекты внутри кластера и чем больше различий между кластерами, тем точнее кластеризация;
  • ассоциацию - выявление закономерностей между связанными событиями. Примером такой закономерности служит правило, указывающее на то, что из события X следует событие Y . Такие правила называются ассоциативными. Впервые эта задача была предложена для нахождения типичных шаблонов покупок, совершаемых в супермаркетах, поэтому иногда ее еще называют анализом рыночной корзины (market basket analysis);
  • последовательные шаблоны - установление закономерностей между связанными во времени событиями, то есть обнаружение зависимости, согласно которой если произойдет событие X , то спустя заданное время произойдет событие Y ;
  • анализ отклонений - выявление наиболее нехарактерных шаблонов.

Карты показателей (Scorecards) используют контрольные показатели, отображаемые на информационной панели, для более глубокого анализа путем наложения их на некоторую стратегическую карту, которая увязывает ключевые параметры производительности со стратегическими задачами. Данную концепцию поясняет рис. 4. Технология предполагает дальнейший анализ на базе применения методологии управления производительностью, например Six Sigma.

Рис. 4. Сравнение ключевых параметров производительности
со стратегическими задачами

После того как мы пояснили термин BI-платформа, вернемся к анализу «магического квадрата» на рис. 1.

Критерии отбора и оценки компаний

В исследовании Gartner (см. рис. 1) участвовали компании, отобранные по следующим принципам:

  • предоставляющие как минимум 8 из 12 функций, свойственных BI-платформе;
  • занимающие заметную долю рынка BI-платформ, что подтверждается объемами продаж не менее 20 млн долл.;
  • решения на платформах которых работают на уровне предприятия, а не только на уровне отделов.

На рис. 1 использован ряд терминов, в соответствии с которыми вендоры расположены на плоскости квадрата. Поясним их значение:

  • возможность реализации - определяется следующими факторами:
    • насколько конкурентными и успешными являются продукты,
    • какова вероятность того, что вендор будет продолжать инвестировать в продукт/сервис,
    • насколько успешную ценовую политику проводит вендор,
    • насколько вендор устойчив к изменениям на рынке,
    • насколько клиенты информированы в области предложений вендора,
    • насколько вендоры имеют возможность выполнять маркетинговые обещания,
    • насколько клиенты довольны сервисной поддержкой вендора;
  • полнота видения - это умение вендора эксплуатировать тенденции на рынке для создания дополнительных сервисов для клиентов и соответствующих выгод для себя. Полнота видения может быть оценена исходя из качества:
    • прогнозов потребностей покупателей,
    • маркетинговой стратегии,
    • стратегии продаж,
    • стратегии развития на вертикальных сегментах рынка,
    • стратегии выхода на удаленные рынки;
  • лидеры - это вендоры, обеспечивающие широкую функциональность своих продуктов, их успешное внедрение и предоставляющие качественную поддержку на глобальном уровне;
  • претенденты - обладают ограничениями, которые могут быть связаны не только с широтой спектра технологических решений, но и с рыночными показателями, такими как качество сбытовой сети и т.п.;
  • провидцы - это вендоры, обладающие мощной стратегией продвижения BI-платформ, что проявляется в открытости стандартов, гибкости архитектуры решений и глубине функциональности создаваемых приложений. Это лидеры в области инновационной деятельности;
  • нишевые игроки - занимают лидирующие позиции в некоторой ограниченной продуктовой или технологической области.

Тенденции на рынке BI-платформ

Как видно из рис. 1, мегавендоры начинают доминировать на BI-рынке. Действительно, менее чем за год Microsoft, Oracle, SAP и IBM прошли путь от владения четвертью рынка до владения его двумя третями.

При сравнении квадратов за 2007-й и 2008 годы видно, что Microsoft поднялась и занимает первое место по возможностям реализации. SAP пока не попадает в лидеры, по всей видимости потому, что объединение с Business Objects еще не закончено. Oracle переместилась на второе место после SAS по полноте видения.

Таким образом, «магический квадрат» BI-платформ за 2008 год отражает тот факт, что лидерство переходит от независимых BI-вендоров, таких как Business Objects и Cognos, к мегавендорам.

В июле 2007 года Oracle завершила сделку по приобретению Hyperion. Это привело к тому, что две конкурирующие платформы - Hyperion System 9 и Oracle Business Intelligence Enterprise Edition - объединились под руководством Oracle и соответственно расширили BI-ресурсы Oracle как в технологическом плане, так и в отношении людских ресурсов.

В октябре 2007 года SAP объявила о присоединении Business Objects с целью расширения своего присутствия на рынке. Данное присоединение (оно было закончено в январе 2008 года) закрывает существенный пробел SAP в части генераторов запросов и отчетов.

Cognos закончила присоединение Applix, обладающего мощной OLAP-технологией, и, в свою очередь, согласилась на свое поглощение корпорацией IBM.

За тот же период такие факторы, как взросление BI-портфеля Microsoft, развитие технологий Web 2.0, развитие продуктов BI с открытым кодом, развитие предложений ПО как услуги (SaaS), привели к тому, что BI-функциональность стала более доступной, чем ранее.

OpenSource BI-решения существенно продвинулись в своем развитии, однако оборот от их внедрения пока незначителен. Один из крупнейших вендоров в этой области JasperSoft утверждает, что у него имеется более 7 тыс. коммерческих клиентов и более 70 тыс. активных внедрений.

Наблюдается также растущий интерес к предоставлению BI-решений в форме SaaS. В частности, компания Business Objects является лидером в бизнесе по предоставлению BI-приложений по запросу (OnDemand), но существуют и более мелкие фирмы, такие как Seatab, Oco и LucidEra, предоставляющие BI-решения как услугу. Использование BI-решений в виде OnDemand-сервиса подходит не всем организациям, оно малоприменимо для организаций, которые работают с секретными данными. Тем не менее с каждым годом все больше компаний выбирают SaaS-модель как более экономичную и достаточно надежную.

Анализ положения ведущих вендоров

Business Objects

Среди компаний, специализирующихся исключительно на BI-решениях, Business Objects предлагает наиболее полную платформу с хорошо проработанной технологией генерации отчетов и запросов.

Около 90% организаций, внедривших данное решение, отмечают, что оно является стандартным для их организации.

Business Objects расширила спектр BI-предложений в 2007 году после присоединения фирмы Inxight.

Быстрый рост BI-предложений Business Objects по запросу (OnDemand), количество пользователей которых составляет уже более 70 тыс., делает ее де-факто лидером в сфере SaaS-BI.

Business Objects должна будет скорректировать свою стратегию после приобретения нового статуса в результате перехода в собственность компании SAP, то есть должна будет потратить некоторое время на изменение каналов продаж, систему поддержки и т.п.

По отзывам клиентов, OLAP является слабой стороной в решениях Business Objects.

Cognos

Cognos имеет исключительно высокий процент внедрений своей BI-платформы в качестве стандартного для предприятий решения. Более 90% опрошенных считают Cognos стандартом для своей организации.

Cognos активно инвестирует в работы по улучшению архитектуры платформы. С появлением версии 8.2 и будущей версии 8.3 Cognos 8 BI практически избавилась от проблем с недостаточной стабильностью работы и слабой технической поддержкой. В настоящее время большинство клиентов эксплуатирует последнюю версию Cognos BI.

После завершения присоединения Cognos к компании IBM платформа Cognos BI выиграет из-за возможности интеграции с технологиями IBM.

Еще одно преимущество Cognos получит по мере освоения технологии Applix TM1 OLAP.

Дейтамайнинговые технологии Cognos по-прежнему слабее, чем предложения ее конкурентов.

Microsoft

Удачная ценовая политика и интеграция с MS Office делает решения Microsoft особенно привлекательными для организаций, которые базируются на инфраструктурных решениях этой компании.

При продвижении своих BI-решений Microsoft может опереться на большую аудиторию разработчиков. По оценкам Microsoft, это 2 тыс. OEM/ISV-партнеров по внедрению ее BI-решений.

По отзывам клиентов, BI-решения от Microsoft вызывают минимальные нарекания.

BI-решения Microsoft были созданы именно ею, а не приобретены вместе с присоединенной фирмой.

Microsoft с опозданием включилась в гонку по продвижению BI-платформ и поэтому сейчас ее стратегия - «догнать и перегнать». По оценкам клиентов, Microsoft все еще отстает от компаний, традиционно занимающихся продвижением BI-платформ, особенно в плане управления мета-данными, генерирования отчетов и создания дэшбордов.

MicroStrategy

Вместо тактики присоединения MicroStrategy полностью построила технологию своими собственными силами. Это обеспечивает высокую степень интеграции в рамках платформы.

MicroStrategy имеет положительные отзывы клиентов по всем 12 критериям, которые оценивает Gartner.

Развитие новых технологий может привести к ослаблению позиций MicroStrategy, которые она пока занимает в области обработки сверхбольших объемов данных.

MicroStrategy имеет репутацию компании, предлагающей дорогие решения, на которые трудно получить скидку.

MicroStrategy фокусируется исключительно на BI-платформах и уделяет недостаточно внимания смежным технологиям - CPM (Corporate Performance Management - управление производительностью корпораций) и интеграции данных.

MicroStrategy имеет малый объем продаж в Азиатско-Тихоокеанском регионе.

Oracle

Еще до присоединения Hyperion, в середине 2007 года, позиции Oracle на рынке BI были достаточно сильными: ее комбинация BI-платформы и аналитических приложений (Oracle BI Enterprise Edition (OBIEE) и Oracle Analytic Applications) представляла собой весьма успешное предложение.

Клиенты дают E положительные отзывы на OBIE. Они отмечают широкие возможности решения относительно организации коллективной работы, а также продвинутые средства визуализации, являющиеся, по их словам, одними из лучших на рынке.

Сильные стороны Essbase OLAP-движка и возможности интеграции Hyperion с Microsoft Office повышают потенциал Oracle на рынке BI.

Компания Oracle имеет хорошие шансы продвигать свои BI-технологии различным клиентам, а не только приверженцам платформы Oracle.

Процесс интеграции BI-решений, полученных в результате слияния, займет немало времени в 2008 году.

Есть сведения, что среди инсталяций базы Hyperion BI процент последней версии невелик, что указывает на тот факт, что клиенты не спешат переходить на последнюю версию продукта.

Oracle следует улучшить техническую поддержку.

SAP

Имея более 13 тыс. внедрений, компания SAP добилась больших успехов в продвижении решения NetWeaver BI. Более 75% клиентов SAP из опрошенных Gartner свидетельствовали, что BI-решения от SAP являются стандартными в их организациях.

После завершения интеграции SAP и Business Objects фирма SAP станет крупнейшим вендором BI-платформ, который будет вдвое больше любого другого своего конкурента.

Сильные стороны Business Objects, в первую очередь генерирование форматированных отчетов и генерирование отчетов в режиме самообслуживания (self-service report creation), удачно восполняют пробелы, имеющиеся в решениях SAP BI.

В ходе исследования Gartner клиенты SAP, использующие последнюю версию SAP BI, отметили трудности, касающиеся ее внедрения.

Присоединение Business Objects несколько снижает показатель SAP, который Gartner условно называет возможностью реализации. Это связано с неизбежной неопределенностью для клиентов, которые рассчитывали на уже существующие внутренние продукты SAP в области BI.

Несмотря на тот факт, что внедренные решения на базе NetWeaver BI способны импортировать данные из не SAP-приложений, SAP может назвать не более 25 крупных предприятий, внедривших NetWeaver BI, где бы не доминировали учетные системы SAP. Для достижения лидерства на рынке SAP необходимо продемонстрировать, что она может внедрять свою платформу и на предприятиях, где SAP-приложения не являются доминирующими.

SAS

SAS лидирует в области продвинутой аналитики (Advanced Analytic Solutions).

SAS предлагает аналитические решения, которые не только обеспечивают базовую функциональность на уровне анализа KPI, но и предлагают продвинутую аналитику обнаружения бизнес-проблем, например таких, как выявление мошенничества.

SAS - это известный бренд, решения SAS имеют сервисную поддержку по всему миру.

Приложения SAS считаются трудными в освоении. Многие приложения продвинутой аналитики требуют применения специального языка программирования SAS - это является достоинством для программистов и существенным ограничением для людей, не обладающих подобными навыками.

В заключение перечислим основные тенденции на рынке BI-платформ:

  • актуальность задачи оптимизации производительности компаний на всех уровнях стимулирует спрос на BI-решения;
  • возможности BI-платформ расширяются, и, помимо традиционных генераторов отчетов и запросов, а также OLAP-функциональности, активное развитие получили «приборные панели» (dashboards), карты показателей (scorecards) и продвинутая визуализация;
  • мегавендоры начинают доминировать на BI-рынке;
  • BI-решения в форме SaaS активно продвигаются многими производителями;
  • процесс слияний и стандартизации является двигателем рынка.

Главная часть BI-инструментов делится на корпоративные BI-наборы и BI-платформы. Средства генерации запросов и отчетов в большой степени поглощаются и замещаются корпоративными BI-наборами. Многомерные OLAP-механизмы или серверы, а также реляционные OLAP-механизмы являются BI-инструментами и инфраструктурой для BI-платформ.

Большинство BI-инструментов применяются конечными пользователями для доступа, анализа и генерации отчетов по данным, которые чаще всего располагаются в хранилище, витринах данных или оперативных складах данных. Разработчики приложений используют BI-платформы для создания и внедрения BI-приложений, которые не рассматриваются как BI-инструменты. Примером BI-приложения является информационная система руководителя EIS.

Инструменты генерации запросов и отчетов

Генераторы запросов и отчетов - типично «настольные» инструменты, предоставляющие пользователям доступ к базам данных, выполняющие некоторый анализ и формирующие отчеты. Запросы могут быть как незапланированными (ad hoc), так и иметь регламентный характер. Имеются системы генерации отчетов (как правило, серверные), которые поддерживают регламентные запросы и отчеты. Настольные генераторы запросов и отчетов расширены также некоторыми облегченными возможностями OLAP. Развитые инструменты этой категории объединяют в себе возможности пакетной генерации регламентных отчетов и настольных генераторов запросов, рассылки отчетов и их оперативного обновления, образуя так называемую корпоративную отчетность (corporate reporting). В ее арсенал входят сервер отчетов, средства рассылки, публикации отчетов на Web, механизм извещения о событиях или отклонениях (alerts). Характерные представители - Crystal Reports, Cognos Impromptu и Actuate e.Reporting Suite.

OLAP или развитые аналитические инструменты

Инструменты OLAP являются аналитическими инструментами, которые первоначально были основаны на многомерных базах данных (МБД) .МБД - это базы данных, сконструированные специально для поддержки анализа количественных данных с множеством измерений, содержат данные в «чисто» многомерной форме. Большинство приложений включают измерение времени, другие измерения могут касаться географии, организационных единиц, клиентов, продуктов и др. OLAP позволяет организовать измерения в виде иерархии. Данные представлены в виде гиперкубов (кубов) - логических и физических моделей показателей, коллективно использующих измерения, а также иерархии в этих измерениях. Некоторые данные предварительно агрегированы в БД, другие рассчитываются «на лету».

Средства OLAP позволяют исследовать данные по различным измерениям. Пользователи могут выбрать, какие показатели анализировать, какие измерения и как отображать в кросс-таблице, обменять строки и столбцы «pivoting», затем сделать срезы и вырезки («slice&dice»), чтобы сконцентрироваться на определенной комбинации размерностей. Можно изменять детальность данных, двигаясь по уровням с помощью детализации и укрупнения «drill down/ roll up», а также кросс-детализации «drill across» через другие измерения.

Для поддержки МБД используются OLAP-серверы, оптимизированные для многомерного анализа и поставляемые с аналитическими возможностями. Они обеспечивают хорошую производительность, но обычно требуют много времени для загрузки и расширения МБД. Поставляются с возможностью «reach-through», позволяя перейти от агрегатов к деталям в реляционных БД. Классический OLAP-сервер - Hyperion Essbase Server.

Сегодня реляционные СУБД применяются для эмуляции МБД и поддерживают многомерный анализ. OLAP для реляционных БД (ROLAP) имеет преимущество по масштабируемости и гибкости, но проигрывает по производительности многомерному OLAP (MOLAP), хотя существуют методы повышения производительности, наподобие схемы «звезда». Несмотря на то что МБД являются по-прежнему наиболее подходящими для оперативной аналитической обработки, сейчас эту возможность встраивают в реляционные СУБД или расширяют их (например, MS Analysis Services или Oracle OLAP Services - это не то же самое, что ROLAP).

Также существует гибридная оперативная аналитическая обработка данных (HOLAP) для гибридных продуктов, которые могут хранить многомерные данные естественным образом, а также в реляционном представлении. Доступ к МБД осуществляется с помощью API для генерации многомерных запросов, тогда как к реляционным БД доступ производится посредством запросов на SQL. Примером ROLAP-сервера является Microstrategy7i Server.

Настольные OLAP-инструменты (например, BusinessObjects Explorer, Cognos PowerPlay, MS Data Analyzer), встроенные сейчас в EBIS, облегчают конечным пользователям просмотр и манипулирование многомерными данными, которые могут поступать из серверных ресурсов данных ROLAP или MOLAP. Некоторые из этих продуктов имеют возможность загружать кубы, так что они могут работать автономно. Как часть EBIS эти настольные инструменты оснащены возможностями серверной обработки, которые выходят за пределы их традиционных возможностей, но не конкурируют с MOLAP-инструментами. Настольные инструменты по сравнению с MOLAP-средствами имеют небольшую производительность и аналитическую мощь. Нередко обеспечивается интерфейс через Excel, например, MS Eхcel2000/OLAP PTS, BusinessQuery for Excel. Практически все OLAP-инструменты имеют Web-расширения (Business Objects WebIntelligence к примеру), для некоторых они являются базовыми.

Корпоративные BI-наборы

EBIS - естественный путь для предоставления BI-инструментов, которые ранее поставлялись в виде разрозненных продуктов. Эти наборы интегрируются в наборы инструментов генерации запросов, отчетов и OLAP. Корпоративные BI-наборы должны иметь масштабируемость и распространяться не только на внутренних пользователей, но и на ключевых заказчиков, поставщиков и др. Продукты BI-наборов должны помогать администраторам при внедрении и управлении BI без добавления новых ресурсов. Из-за тесного родства Web и корпоративных BI-наборов некоторые поставщики описывают свои BI-наборы как BI-порталы. Эти портальные предложения обеспечивают подмножество возможностей EBIS с помощью Web-браузера, однако поставщики постоянно увеличивают их функциональность, приближая ее к возможностям инструментов для «толстых» клиентов. Типичные EBIS поставляют Business Objects и Cognos.

BI-платформы

BI-платформы предлагают наборы инструментов для создания, внедрения, поддержки и сопровождения BI-приложений. Имеются насыщенные данными приложения с «заказными» интерфейсами конечного пользователя, организованные вокруг специфических бизнес-проблем, с целевым анализом и моделями. BI-платформы, хотя и не так быстро растут и широко используются как EBIS, являются важным сегментом благодаря ожидаемому и уже происходящему росту BI-приложений. Стараниями поставщиков реляционных СУБД, создающих OLAP-расширения своих СУБД, многие поставщики платформ, которые предоставили многомерные СУБД для OLAP, чтобы выжить были вынуждены мигрировать в область BI-приложений. Семейства продуктов СУБД, обеспечивающие возможности BI, действительно подталкивают рост рынка BI-платформ. Отчасти это происходит благодаря большей активности ряда поставщиков СУБД.

Рассматривая различные инструменты, видим, что EBIS являются высоко функциональными средствами, но они не имеют такого большого значения, как BI-платформы или заказные BI-приложения. Зато BI-платформы обычно не так функционально полны, как корпоративные BI-наборы. При выборе BI-платформ нужно учитывать следующие характеристики: модульность, распределенную архитектуру, поддержку стандартов XML, OLE DB for OLAP, LDAP, CORBA, COM/DCOM и обеспечение работы в Web. Они должны также обеспечивать функциональность, специфическую для бизнес-интеллекта, а именно: доступ к БД (SQL), манипулирование многомерными данными, функции моделирования, статистический анализ и деловую графику. Эту категорию продуктов представляют фирмы Microsoft, SAS Institute, Oracle, SAP и другие.

BI-приложения

В приложения бизнес-интеллекта часто встроены BI-инструменты (OLAP, генераторы запросов и отчетов, средства моделирования, статистического анализа, визуализации и data mining). Многие BI-приложения извлекают данные из ERP-приложений. BI-приложения обычно ориентированы на конкретную функцию организации или задачу, такие как анализ и прогноз продаж, финансовое бюджетирование, прогнозирование, анализ рисков, анализ тенденций, «churn analysis» в телекоммуникациях и т.п. Они могут применяться и более широко как в случае приложений управления эффективностью предприятия (enterprise perfomance management) или системы сбалансированных показателей (balanced scorecard).

Разведка данных

Разведка данных (data mining) представляет собой процесс обнаружения корреляции, тенденций, шаблонов, связей и категорий. Она выполняется путем тщательного исследования данных с использованием технологий распознавания шаблонов, а также статистических и математических методов. При разведке данных многократно выполняются различные операции и преобразования над сырыми данными (отбор признаков, стратификация, кластеризация, визуализация и регрессия), которые предназначены:

1) для нахождения представлений, которые являются интуитивно понятными для людей, которые, в свою очередь, лучше понимают бизнес-процессы, лежащие в основе их деятельности;

2) для нахождения моделей, которые могут предсказать результат или значение определенных ситуаций, используя исторические или субъективные данные.

В отличие от использования OLAP разведка данных в значительно меньшей степени направляется пользователем, вместо этого полагается на специализированные алгоритмы, которые устанавливают соотношение информации и помогают распознать важные (и ранее неизвестные) тенденции, свободные от предвзятости и предположений пользователя.

Другие методы и средства BI

Кроме перечисленных инструментов, в состав BI могут входить следующие средства анализа: пакеты статистического анализа и анализ временных рядов и оценки рисков; средства моделирования; пакеты для нейронных сетей; средства нечеткой логики и экспертные системы. Дополнительно нужно отметить средства для графического оформления результатов: средства деловой и научно-технической графики; «приборные доски», средства аналитической картографии и топологических карт; средства визуализации многомерных данных.

BI-системы – это аналитические системы, предназначенные для бизнес-анализа, которые способны объединить данные из совершенно разных источников информации. Данные программные системы обрабатывают информацию и предоставляют отчёт в удобном интерфейсе для детального изучения и последующей оценки полученных в процессе сведений.

Полученные отчётные данные и их оптимальное использование помогают в достижении поставленных бизнес-целей. Анализ данных в комплексе – это получение знаний, своего рода выжимка из массы источников, включая направление бизнеса, которая позволяет существенно повысить эффективность процесса и значительно снизить издержки.

BI-системы – это единый, предельно прозрачный и полный источник всех данных о бизнесе компании для её административного ресурса, но главным образом для руководства.

На сегодняшний день генерация отчётности и грамотный анализ уже далеко не роскошь, а, скорее, необходимость для компаний, отчётная документация требуется как внутри бизнеса, так и в каждом слагающем элементе всего процесса.

Решения, предусмотренные BI-системой, оптимальны для подготовки всей отчётности, в том числе охватывают все без исключения аспекты бизнеса, наличие таких возможностей уже считается обязательным и рассматривается вкупе с другими базовыми технологиями как корпоративный стандарт.

  1. BI-инструменты . Данные инструменты делят на генераторы запросов и отчётов, BI-инструменты аналитической обработки, корпоративные BI-платформы и BI-наборы. Основная часть BI-инструментов состоит из корпоративных BI-наборов и BI-платформ. Средства, предусмотренные для генерации запросов и отчётов, в основном поглощаются, или же корпоративные BI-наборы заменяют их. OLAP-механизмы – оперативная аналитическая обработка данных или серверы, в том числе реляционные. OLAP-механизмы являются инфраструктурой для BI-платформ и BI-инструментов. Большинство инструментов применимы пользователями для доступа, а так же анализа, включая генерацию отчётов, которые в большинстве случаев располагаются в хранилищах, витрине данных или же оперативном складе для данных.
  2. BI-приложения . Приложения, которые не рассматриваются как инструменты. Примером является EIS – информационная система для руководителя.

Характерные особенности BI-систем

  • В системах используют портальные технологии, которые обеспечивают единую точку входа в Интернет и информационное пространство предприятий.
  • Интерфейс представлен в виде пульта управления или приборной доски с отображением нескольких основных показателей. Это даёт возможность быстро оценить положение дел. Также предоставлена возможность быстро обращаться к ключевым показателям по отделам и подразделениям, они хранятся в отдельной папке, расположенной на приборной доске.
  • Многослойность: все данные отображаются в виде нескольких слоёв, при этом каждый последующий слой представляет все более детальную информацию относительно показателей, событий или процессов.
  • Интерактивность BI-систем, позволяющая пользователю быстро осуществлять навигацию, в том числе просматривать данные в различных разрезах и сечениях, а также проводить «бурение» данных, перемещаться по разного рода измерениям. Пользователи могут непосредственно выполнять операции над данными.
  • Управляемость и актуальность. Проактивность, содержащая машину построения правил, дающая возможность пользователям определять цели и пороговые ограничения для разного рода показателей и определять, при каких значениях данных должно выдаваться предупреждение. В системе предусмотрена возможность задавать параметры или показатели: если таковые достигнут критических значений, на монитор выдаются тревожные сигналы — визуальные и/или звуковые.
  • Кастомизация BI-систем — индивидуальная настройка пульта или приборной доски под уровень управления и роль пользователя. Персонализация даёт возможность пользователю самостоятельно выбирать объекты из авторизованных списков и располагать данные на приборной доске по мере их важности.
  • Гибкий доступ позволяет пользователям интуитивно обращаться к нужным данным и отчётам из огромного набора отчётов с результатами и графиков, в том числе предоставляет удалённый доступ и мобильные приложения.
  • Коллаборативность предусматривает одновременную совместную работу большой группы сотрудников, в том числе просмотр отчётов.

Магические квадранты

Грамотно оценить состояние современного рынка, а также дать исчерпывающее объективное описание основных его игроков – задача довольно нетривиальная. На рынке присутствует множество производителей, которые отличаются друг от друга размерами бизнеса, организационными структурами, стилем управления, стратегией и другими факторами.

Такое положение дел значительно усложняет процесс их сравнения, а также направление движения и развития рынка крайне неоднозначны и труднопредсказуемы. Для решения данной проблемы был разработан «магический квадрант» BI-систем, в котором используют 2 показателя, один из них – полнота видения. Другой – способность реализации.