ОБЗОР/ПРОГРАММНОЕ ОБЕСПЕЧЕНИЕ
Дмитрий Швецов
Интеллектуальные системы хранения данных в АСУ ТП В статье рассмотрены современные системы архивации данных в АСУ ТП, наиболее часто используемые СУБД и соответствующие аппаратные платформы. Описаны принципы построения многоуровневых систем сбора и архивации данных, агрегации и «горячего» резервирования.
42
Рынок систем диспетчерского управления и сбора данных (SCADA) является одним из самых быстро растущих рынков систем контроля в мире. Возрастающая потребность в модернизации электроэнергетической, водораспределительной и водоочистительной инфраструктур будет способствовать расширению данного рынка в странах Западной Европы и Северной Америки в течение нескольких следующих лет. В России, на Ближнем Востоке, в Африке, странах Азиатско-Тихоокеанского региона и Латинской Америки благодаря инвестициям в строительство новой инфраструктуры нефтегазовой отрасли, электроэнергетики, водообеспечения и обработки сточных вод также будет наблюдаться рост рынка систем SCADA. Согласно результатам нового исследования глобальной консалтинговой компании Frost & Sullivan «Стратегический анализ мирового рынка систем SCADA», в 2009 году выручка этого рынка составила 4623,1 млн долл., а к 2016 году, по прогнозам, она достигнет 7074,1 млн долл. Исследование охватывает конечных потребителей систем АСУ ТП: нефтегазовую отрасль, электроэнергетику, водообеспечение и водоочистку, автомобилестроение и транспортный сектор, а также другие отрасли, в которых используются такие системы заводского уровня (производство продуктов питания и напитков, фармацевтическая, химическая и целлюлозно-бумажwww.cta.ru
ная промышленность). В число проанализированной в этом исследовании продукции входят также программное обеспечение для АСУ ТП и АСУП, компьютерное оборудование и IT-услуги. В настоящее время, чтобы оставаться конкурентоспособными, производители во всех отраслях промышленности должны уметь контролировать свои производственные процессы оптимальным образом. Программное обеспечение (ПО), применяемое в АСУ ТП, позволяет осуществлять визуализацию всего предприятия в режиме реального времени. Современные технологии дают возможность корректировать настройки параметров технологических процессов с целью достижения оптимального состояния независимо от применяемого программного продукта. Оптимизация управления производством в реальном времени невозможна без анализа предыдущих событий и статистики производственных процессов, которые позволяют персоналу чётко и быстро определять, что пошло правильно или неправильно на предыдущем цикле производства. Оперативные данные об изменении параметров одной переменной могут дать весьма ценную информацию и повлиять на качество процесса в целом. Как правило, для осуществления анализа данных необходимо несколько производственных циклов, чтобы можно было судить об оптимальности тех или иных параметров. Чтобы провести анализ всех процессов, © СТА-ПРЕСС
необходимо иметь данные о состоянии и работе всех исполнителей в момент производства. В данном случае требуются приложения для архивации и анализа данных всех производственных процессов. Для этих целей многие производители прикладного программного обеспечения АСУ ТП предлагают системы хранения исторических данных, предназначенные для записи в реальном времени или по мере необходимости больших объёмов значений параметров, полученных в процессе производства. Как правило, большие объёмы данных требуется собирать во время запуска производства продукции и зачастую в те моменты, когда в силу различных причин ожидаются отклонения в технологии или в штатном режиме работы оборудования. Эта информация должна быть записана и сохранена точно и своевременно. Решение такой задачи не под силу классическим «коробочным» системам баз данных (БД). Помимо всего прочего для построения информационной системы требуются тщательный подбор серверной платформы (выбор серверной ОС и СУБД) и выбор платформ для клиентских рабочих мест. При выборе СУБД необходимо принимать во внимание следующие факторы: ● максимальное число пользователей, одновременно обращающихся к базе; ● характеристики клиентского ПО; ● аппаратные компоненты сервера; ● серверную операционную систему; ● уровень квалификации персонала. СТА 4/2011
ОБЗОР/ПРОГРАММНОЕ ОБЕСПЕЧЕНИЕ
ОБЗОР ОСНОВНЫХ СИСТЕМ ХРАНЕНИЯ ДАННЫХ В АСУ
ТП
На сегодня известно большое число различных серверов баз данных SQL. Рассмотрим более подробно следующие ведущие серверные СУБД: Oracle и Microsoft SQL Server. Пакет Oracle, наделённый самым развитым набором функций для работы с языком Java и доступа к данным через Интернет, также обладает системой оптимизации одновременного доступа. Единственным недостатком данной СУБД является сложность администрирования, однако все затраты на её внедрение и освоение впоследствии окупаются эффективной и надёжной работой. Среди основных свойств СУБД Oracle следует отметить такие как: ● высочайшая надёжность; ● возможность разбиения крупных баз данных на разделы, что позволяет эффективно управлять огромными гигабайтными базами; ● наличие универсальных средств защиты информации; ● эффективные методы максимального повышения скорости обработки запросов; ● индексация по битовому отображению; ● наличие свободных таблиц (в других СУБД все таблицы заполняются сразу при создании); ● распараллеливание операций в запросе; ● наличие широкого спектра средств разработки, мониторинга и администрирования; ● ориентация на Интернет-технологии. Решения, не уступающие разработкам Oracle, можно найти только в DB2 фирмы IBM и в отдельных решениях на базе MySQL. Важнейшие характеристики СУБД Microsoft SQL Server – это: ● простота администрирования; ● возможность Web-подключения; ● наличие специальных «мастеров» и средств автоматической настройки параметров; ● встроенный инструментарий для тиражирования, синхронизации и анализа данных; ● наличие средств удалённого доступа. В комплект средств административного управления данной СУБД входит целый набор специальных «мастеров» и средств автоматической настройки параметров конфигурации. Также MS SQL оснащён замечательными средствами тиражирования, позволяющими синСТА 4/2011
хронизировать данные ПК с информацией БД и наоборот. Входящий в комплект поставки сервер OLAP даёт возможность сохранять и анализировать все имеющиеся у пользователя данные. В принципе, данная СУБД представляет собой современную полнофункциональную базу данных, которая идеально подходит для малых и средних организаций. Необходимо заметить, что SQL Server уступает СУБД Oracle по двум важным показателям: программируемость и средства разработки. Повышенный интерес к проблемам хранения исторических данных вызван необходимостью принятия решений на основе не только текущей информации, но и информации за предыдущие периоды работы предприятия. На крупных предприятиях данная проблема решается путём покупки дорогостоящих систем централизованного архивирования данных, поступающих от различных SCADA-систем, работающих на предприятии. Самым ярким представителем таких систем является PI System (OSIsoft), основанная на платформе Oracle. Её функциональные возможности и производительность практически безграничны. Однако стоимость данной системы оказывается чересчур высокой для её использования в АСУ ТП и АСУП средних и крупных размеров. Кроме того, PI System требует установки выделенного сервера. Администрирование системы АСУ ТП и АСУП в целом усложняется за счёт присутствия в ней компонентов различных производителей. Поэтому для этих систем значительно проще и естественнее использование приложений, которые совмещают в себе функции поддержки и хранения данных, получаемых из SCADA. Именно такую систему архивации предложила компания ICONICS. Высокопроизводительная 64-битовая система сбора и архивации данных для АСУ ТП и АСУП
заслуженно носит название Hyper Historian®. Это мощное приложение для обработки исторических данных, предназначенное для критически важных приложений, которым требуется непрерывный доступ и сбор данных. В нём заложены возможности подключения к приложениям пакета ICONICS BizViz для использования лучшей в своём классе системы отчётности, анализа, портальных технологий или транзакций данных. Стандартный интерфейс запросов SQL обеспечивает интеграцию с Microsoft SQL совместимыми базами данных. Hyper Historian предоставляет возможность резервирования для критически важных приложений. Технология Store-and-Forward обеспечивает целостность данных в случае ошибок в системе или нарушения связи. Интеллектуальная система архивирования позволяет упорядочить архивы данных, используя расписание и триггеры. Это экономит место на диске, а также даёт возможность управлять процессами создания резервных копий файлов для долговременного хранения и поиска.
О РИГИНАЛЬНЫЕ ТЕХНОЛОГИИ ХРАНЕНИЯ ДАННЫХ Пользователи могут легко собирать информацию из различных АСУ ТП предприятий, объектов или по всем предприятиям, входящим в распределённую систему АСУП. Информация из различных источников данных (ПЛК, модулей ввода/вывода, сетевого оборудования и приложений HMI) может быть собрана и сохранена для формирования отчётности и анализа практически в реальном времени. Hyper Historian использует сжатие данных Swinging Door для высокоскоростного сбора данных со ссылкой на аппаратные средства в реальном времени в масштабах всего предприятия. Алгоритм Swinging Door использует 64-битовую
Группа архивации Группа сбора
ПЛК
Группа сбора
Группа сбора
Тег данных Тег данных
Папка Архивный тег
Архивный тег
Тег данных Архивный тег
Архивный тег
Архивный тег
Адресное пространство Hyper Historian
Адресное пространство ПЛК
43
Рис. 1. Связь между Hyper Historian и данными ПЛК © СТА-ПРЕСС
www.cta.ru
ОБЗОР/ПРОГРАММНОЕ ОБЕСПЕЧЕНИЕ
аппаратную и программную архитектуры, что позволяет получить доступ к более мощному процессору и ёмкой памяти по сравнению с аналогичными 32-битовыми инструментальными средствами и обеспечивает максимально возможное быстродействие. Hyper Historian использует расширенную интеграцию данных, обеспечивая подключение к любому устройству с помощью OPC UA, OPC DA, OPC XML, SNMP, BACnet или к историческим базам данных, как показано на рис. 1. Продукт Hyper Historian обеспечивает необходимую гибкость и высокий уровень масштабируемости и надёжности. Он является прекрасным решением для создания: ● простых одноузловых систем хранения архивных данных; ● многоуровневых систем хранения данных, которые можно разделять на уровни хранения, группируя различные типы данных и перемещая данные между уровнями системы; ● многоуровневых систем резервирования для послеаварийного восстановления работоспособности, гарантирующих возможности непрерывного сбора данных и полного исключения их потери даже в случаях системных сбоев или отказов сервера. В этом продукте развитая технология хранения и сжатия данных сочетается со стандартным механизмом интерфейса запросов, гарантирующим открытый и простой доступ к хранящейся в хронологическом порядке информации, что обеспечивает возможности анализа и принятия необходимых технологических и производственных решений соответствующим персоналом в режиме реального времени. Hyper HisICONICS Trend Viewer V10
torian Collector (полный набор соответствующих инструментальных средств) и информационный портал ICONICS PortalWorX предоставляют всей организации широкий спектр разнообразных инструментальных средств управления данными для анализа и оптимизации рабочих параметров. Производительность системы архивации достигла рекордных величин для подобных систем: максимальная скорость архивации для сервера Hyper Historian или однопользовательской системы – 50 000 тегов в секунду, а для центрального архивного сервера до 150 000 тегов в секунду (рекомендовано). Общее количество архивных тегов в однопользовательской системе может достигать 1 000 000. Такие высокие характеристики системы архивации позволяют использовать Hyper Historian для построения систем АСУ ТП и АСУП на средних и крупных промышленных предприятиях. Помимо обеспечения высокой производительности пакет осуществляет поддержку стандартного интерфейса SQL-запросов, что позволяет без труда взаимодействовать с Microsoft SQL совместимыми базами данных, такими как Microsoft SQL Server 2005/2008. Hyper Historian использует несколько передовых функций операционной системы, таких как File System Transactions (NTFS-транзакции) последних платформ Microsoft, для того чтобы обеспечить устойчивость и надёжность хранения данных. В качестве иллюстрации на рис. 2 приведена функциональная схема взаимодействия компонентов приложения Hyper Historian (HH) с источниками данных и приложений, которые используют полученную информацию ICONICS Workbench String Node ID
Struct Node ID
ICO-сервер SQL SQL-Клиент
Конфигурационная БД
HDA API
API
Struct Node ID
Коммуникационное ядро
Struct Node ID
EXE
PLC API HH Collector ICO GenClient OPC DA, HAD, XML, UA
44
EXE Компьютер
EXE
Получение конфигурации
Получение данных
HH Logger SQL Logger
Двоичные данные
EXE String Node ID
Получение данных в реальном времени
Рис. 2. Функциональная схема взаимодействия компонентов приложения Hyper Historian www.cta.ru
для визуализации и дальнейшей обработки. Также пакет Hyper Historian располагает уникальными особенностями, связанными с автоматизацией архивирования. Вот некоторые из них: возможность применения шаблонов, планирование архивации данных по расписанию, сжатие данных и резервное копирование файлов для длительного хранения и/или поиска. При разработке нового комплексного решения для 64-битовых платформ АСУ ТП компания ICONICS выпустила сервисное приложение Workbench с поддержкой функций WPF (Windows Presentation Foundation). Среда Workbench является контейнером для всех приложений, входящих в состав пакета GENESIS64 и Hyper Historian. Конфигуратор сервера архивации функционирует как «тонкий» клиент и позволяет осуществлять оптимистичное параллельное проектирование, выступая в качестве централизованной конфигурационной среды и одновременно интерфейса оператора; в режиме исполнения даёт полноценную визуализацию данных в реальном времени и исторических данных с 2D- и 3D-графикой. Оригинальная конфигурационная консоль Workbench содержит полный спектр сервисов управления, имеет встроенные шаблоны для управления проектами и возможности удалённого развёртывания. В среде Workbench есть возможность добавлять и полностью настраивать 3Dтренды и диаграммы. Также можно выбирать из библиотеки 3D-графики, строить зависимости X от Y в логарифмическом масштабе, в форме гистограмм и циклограмм, в режиме самописца и др., чтобы иметь ясное и точное представление о получаемой информации в реальном времени и исторических данных. Интуитивно понятные панели инструментов и галереи помогают настроить тренды, добавляя цвета, градиенты, привлекательную анимацию, эффекты прозрачности/отражения, сглаживание и многое другое, что делает анализ данных понятным и простым.
© СТА-ПРЕСС
С РЕДСТВА
ПОВЫШЕНИЯ НАДЁЖНОСТИ ДАННЫХ В АСУ ТП
Технологии поддержки «горячего» резервирования ICONICS для серверов, клиентов и других компонентов АСУ ТП реализованы и в новом пакете Hyper Historian версии 10.6. КонфигурироваСТА 4/2011
ОБЗОР/ПРОГРАММНОЕ ОБЕСПЕЧЕНИЕ
Hyper Historian основной
Удалённый сбор данных
Hyper Historian резервный
Верхний уровень
Локальный сбор данных
Нижний уровень
Hyper Historian Collector
Hyper Historian Collector
Рис. 3. Архитектура систем хранения DAS для Hyper Historian
Узлы кластера
Каналы коммуникации
Узлы кластера
Каналы коммуникации
Комм-ные Узлы Каналы
Узлы кластера
кластера
Управляющая сеть TCP/IP
Рис. 4. Базовая архитектура и топология DAS
Кластеризованные приложения Основной сервер
Резервный сервер
Синхронизация
Адаптер Адаптер SAS 5/E HBA SAS 5/E HBA
Адаптер Адаптер SAS 5/E HBA SAS 5/E HBA
Дисковый массив 1 2 Дисковые полки Рис. 5. Пример построения отказоустойчивого кластера для системы архивации данных
46
ние узлов для «горячего» резервирования даёт возможность построения универсальных многоуровневых систем с целью минимизации избыточности данных. С Hyper Historian достаточно легко создать распределённые многоуровневые системы. Система верхнего уровня может служить хранилищем данных для основной и резервной копий критической информации. Многочисленные системы верхнего уровня могут выполнять репликацию всех исторических данных. Также резервируеwww.cta.ru
мые системы нижнего уровня могут передавать либо весь информационный поток данных, либо только сводные агрегированные данные в одну или несколько систем верхнего уровня. Многоуровневые архитектуры обеспечивают защиту от возможных потерь данных, вызванных остановкой той или иной информационной системы, простоями в сети и т.п. В многоуровневых системах архивации данные не хранятся непосредственно в таблицах Microsoft SQL Server, вместо этого используется высокооптимизированная файловая система, независимая от реляционной базы данных. Одним из вариантов реализации передовых технологий хранения Hyper Historian являются устройства DAS (Direct Attached Storage). В основе решения DAS лежит технологическая схема, в которой устройство для хранения данных подключено непосредственно к серверу или к рабочей станции, как правило, через внешний интерфейс SAS. На рис. 3 схематично показано, как на любом уровне с одинаково высокой надёжностью полностью интегрируются данные, тревоги и события, сводная информация и другие производственные данные, а также информация о конфигурации базы данных. К основным преимуществам DAS-систем можно отнести их низкую стоимость (в сравнении с другими решениями систем хранения данных), простоту развёртывания и администрирования, а также высокую скорость обмена данными между системой хранения и сервером. Благодаря именно этому свойству они завоевали большую популярность в сегментах любого уровня АСУ ТП и многих корпоративных сетей АСУП. На рис. 4 приведена базовая топология организации хранилища данных, принятая в большинстве АСУ ТП. В то же время DAS-системы имеют и свои недостатки, к которым можно отнести неоптимальную утилизацию ресурсов, поскольку каждая DAS-система требует подключения выделенного сервера и позволяет подключить максимум два сервера к дисковому массиву в определённой конфигурации. Для создания отказоустойчивого кластера, SQL-сервера и других приложений АСУ ТП описанная модель DAS вполне подойдёт. Пример блок-схемы DAS приведён на рис. 5. Помимо программных технологий организации агрегации, «горячего» резервирования подобная система уже имеет активную логику внутри корпуса и полностью из© СТА-ПРЕСС
быточна за счёт использования двух встроенных контроллеров RAID, работающих по схеме «активный – активный» и имеющих зеркалированную копию буферизованных в кэш-памяти данных. Оба контроллера параллельно обрабатывают потоки чтения и записи данных, и в случае неисправности одного из них второй «подхватывает» данные с соседнего контроллера. При этом подключение к низкоуровневому SAS-контроллеру SAS 5E внутри двух серверов (кластеру) может производиться по нескольким интерфейсам (MPIO), что обеспечивает избыточность и балансировку нагрузки в средах Microsoft.
З АКЛЮЧЕНИЕ : СИСТЕМЫ ХРАНЕНИЯ ДАННЫХ УХОДЯТ В « ОБЛАКА »
По мнению экспертов, в настоящее время большинство пользователей тратят до 80% бюджета на построение и дальнейшую поддержку работоспособности систем хранения данных. В расширенных и развитых АСУ ТП и АСУП всё больше требуется общий доступ к архивным данным. Отсюда следует необходимость создания «облачных» ресурсов для организации вычислений, обмена и хранения информации. Такие системы позволяют арендовать инфраструктуру и её составляющие как сервис, где потребуется оплачивать только реально используемые ресурсы. Следует отметить и ряд недостатков «облачных» технологий в части ограниченного применения, некоторых проблем обеспечения безопасности, задержки производительности и др. В любом случае популярность «облачных» вычислений и виртуализация приложений АСУ ТП и АСУП будет расти, по мере того как компании будут привыкать к самой идее «публичных облаков», продолжая стремиться к экономии. Важно, чтобы глобальный «облачный тренд» поддержали в России не только заказчики, но и локальные пользователи АСУ ТП. Уже сейчас многие АСУП поддерживают режим виртуализации отдельных процессов и позволяют поддерживать работоспособность виртуальных ресурсов на одном устройстве и управлять этими ресурсами как единым объектом. ● Автор – сотрудник фирмы ПРОСОФТ Телефон (495) 234-0636 E-mail: info@prosoft.ru СТА 4/2011