Что такое парсинг данных. Что такое парсинг и когда используют парсеры? Как происходит процесс парсинга

18.03.2016 1144

После серии наших статей о big data и сборе данных (ссылки - Анализ рынка недвижимости , Прогноз зарплаты по описанию вакансии), мы получили кучу заявок на новые проекты по парсингу. Клиенты хотят собирать всё и вся - от данных по посещенным страницам и каталогам конкурентов, до сведений о выгуле собак (было предложение разработать приложение, связанное с таким событием).

Мы столкнулись с рядом однотипных вопросов и решили подготовить мини-ликбез по тематике сбора и обработки данных - парсингу.

1. Что такое парсинг?

Под парсингом мы подразумеваем сбор определенной информации в интернете в целом, или с конкретного ресурса - базы данных, веб-сайта, файла. С ресурсов можно собирать и все подряд, но как правило зада состоит в том, чтобы собрать что-то конкретное. Например, в задаче по анализу объявлений о продаже автомобилей мы собирали с Авито, Автору, Дром, и т. д. свойства автомобилей и их цену. При создании сервиса по недвижимости, мы собирали объявления по продаже квартир. В данной статье мы будем говорить о сборе данных с веб-сайтов.

2. Как происходит сбор данных? Настройка параметров парсера.

Программисты создают роботов, которые обходят заданные ресурсы (веб-сайты), просматривают все их страницы и собирают все данные, которые отвечают заданным параметрам, в подготовленную базу данных. Как правило, хоть информация везде может быть одной и той же (в примере с автомобилем, объем двигателя, пробег и т. п. для объявления на Авито и Автору одинаковые), но предоставление ее на сайтах будет разным - даже в силу того, что каждый сайт имеет уникальное оформление - читай код html.

В связи с этим, для каждого ресурса создается свое правило сбора данных, перед этим программисты анализируют страницу с данными и вырабатывают решение - в каком месте отображается необходимая информация, скрыта ли она, в каком виде представлена. Весь этот процесс по сути и означает настройку парсера.

Если необходимо собирать данные часто и с некоторых ресурсов, для удобства создается панель управления парсером, в которой задаются правила сбора (предварительно разработанные), отображается журнал работы парсера, статистика, а также предпросмотр "сырых" собранных данных. Не лишним будет настроить уведомления о возникающих ошибках, сбоях самого парсера, изменении структуры информации на целевом ресурсе.

Без панели управления тяжело анализировать работу сборщиков данных, невозможно быстро среагировать в случае возникновения проблем.

3. Возможные проблемы.

Владельцы многих популярных площадок и сайтов не любят, когда собирают с них информацию, для этого они усложняют структуру страницы (путают html-код), закрывают информацию невидимыми слоями, либо делают так, что страница генерируется только в браузере посетителя (физически на сервере просто нет такой страницы). В последнее время многие ресурсы просто отключают соединение, если понимают по запросам, что их парсят, особо наглых банят. Причем, некоторые из них чередуют и периодически меняют способы блокировки.

4. Как происходит обработка собранных данных.

Собрать "сырую" информацию - это полдела. Информация должна собираться в базу в единых единицах измерения, в корректном написании, учитывать возможные опечатки и ошибки кодировки. Ее надо разложить по полочкам, отделить зерна от плевел, так сказать. Для этого программисты создают дополнительные обработчики данных. Они проверяют массив собранных данных, убирают лишние пробелы, исправляют базовые опечатки. Обработчики позволяют избежать ошибки при дальнейшем анализе данных, и их использовании.

5. Что необходимо предусмотреть?

При составлении ТЗ для создания парсера у вас должны быть ответы на следующие вопросы:

• Какие конкретно данные вы бы хотели получить. Например, ссылка на объявление; характеристики-значение "Объем двигателя", "Пробег", "Тип КП", "Привод" и т. д.
• С каких ресурсов будет идти сбор (веб-сайты);
• Отдаются ли данные напрямую, нет ли блокировок по трафику/запросам, нет ли блоков на самих страницах;
• Разработал ли программист правило сбора с ресурса;
• Предусмотрено ли задание/изменение параметров сбора? Будет ли панель управления с журналом работы и статистикой работы парсера;
• Как вы будете узнавать о проблемах и ошибках работы парсера;
• Куда будут собираться данные, продумайте структуру и содержание базы данных;
• Что делать если в данных будет много мусора и ошибок, какие параметры для оценки качества сбора, какие возможны опечатки и некорректные заполнения;

6. Вместо итога

Мы бегло разобрали что такое сбор данных-парсинг, как он осуществляется и какие проблемы могут возникнуть.

Мы накопили огромный опыт в сфере сбора и анализа данных, наши программисты сочетают множество методов для обхода блокировок (виртуальные машины на базе Силениум, эмуляция поведенческих факторов, запросы с разных серверов и т. д.).

Если у вас есть интересный проект или хотя бы идея - мы открыты!

Представим такую ситуацию: вы пришли в библиотеку и нашли десятки книг по интересующей ваc теме и хотите разместить их тексты на своем сайте. Вам придется потратить много времени, чтобы отсканировать содержимое страниц и привести их в подходящий формат. А вот если бы можно было одним нажатием кнопки сделать все сразу?

Или такой пример: вы наши интересный сайт с рецептами и хотите скопировать рецепты на свой сайт. Это было бы просто, если страниц всего 2-3, а если тысячи? Как автоматизировать этот процесс, чтобы не потерять время? В этом случае, вам поможет парсинг.

Так что же такое парсинг?

Парсинг – это синтаксический анализ сайтов, производящийся парсером- специальной программой или скриптом. Собранная информация представляется в определенном виде, по определенным правилам, алгоритмам и проводится на одном из языков программирования. Только анализ и сбор информации происходит не из книг, а только с интернет-ресурсов.

Объектом парсинга может быть справочник, интернет-магазин, форум, блог и абсолютно любой интернет-ресурс.

Зачем нужен парсинг?

Особенность парсинга в том, что в отличие от человека, автоматическая программа:

• Быстро обработает необъятное количество страниц
• Отделит все типы информации и отберет все самое нужное
• Упакует результаты в заданном определенном виде

Однако если информация зашита в Flash ролике, спарсить ее не удастся.

Как происходит процесс парсинга?

Любой процесс парсинга состоит из следующих фрагментов:

1. Скачивание кода страниц, из которых извлекаются необходимые данные. Самым распространенным способом для получения кода является библиотека cURL для языка PHP
2. Анализ полученной информации. На этом этапе извлекают необходимую информацию из всей полученной. Для этой цели используют регулярные выражения.
3. Обработка и преобразование данных. В рамках данного фрагмента процесса преобразовывают данные в необходимый формат.
4. Генерация результата и его вывод в файл или на экран – завершающий этап парсинга.

Результатом парсинга может быть текстовый файл, файл Эксель, csv, HTML файл, каталог с картинками, видео или любой другой формат по желанию.

Парсинг сайтов – это самый лучший способ автоматизировать процесс сбора и сохранения информации. Благодаря парсеру можно создавать и обновлять сайты, схожие по оформлению, содержанию и структуре.

Все сталкивались с ситуацией, когда нужно собрать и систематизировать большое количество информации. Для стандартных задач по SEO-оптимизации сайта есть готовые сервисы , например, Netpeak Checker — для сравнения показателей конкурирующих сайтов или Netpeak Spider — для парсинга внутренней информации по сайту. Но что, если задача нетривиальна и готовых решений нет? Есть два пути: делать все руками и долго, или загнать рутинный процесс в матрицу, автоматизировать его и получать результат в разы быстрее. О таком кейсе и пойдет речь.

Что такое парсинг сайтов и зачем он нужен

Kimono — мощный и быстрый в настройке скрейпер с интуитивно понятным интерфейсом. Позволяет парсить данные с других сайтов и позже обновлять их. Бесплатный.

Познакомиться поближе и получить краткий мануал об использовании можно (на русском) или на moz.com (на английском). Давайте попробуем спарсить что-нибудь хорошее с помощью Kimono. Например, дополним созданную нами таблицу с городами списком курортов в стране Города 2. Как это можно реализовать при помощи Kimono Labs. Нам понадобятся:

• приложение для Google Chrome — Kimono;
• таблица Google Docs.

1. Находим сайт с необходимой нам информацией — то есть перечнем стран и их курортов. Открываем страницу, откуда необходимо получить данные.

2. Кликаем на иконку Kimono в правом верхнем углу Chrome.

3. Выделяем те части страницы, данные из которых нам необходимо спарсить. Если нужно выделить новый тип данных на той же странице, кликаем на «+» справа от «property 1 » — так указываем Kimono, что эти данные нужно разместить в новом столбце.

4. Кликнув на фигурные скобки <> и выбрав «CSV », можно увидеть, как выбранные данные будут располагаться в таблице.

5. Когда все данные отмечены:

• кликаем «Done » (в правом верхнем углу);
• логинимся в Kimono, чтобы привязать API к своему аккаунту;
• вводим название будущего АРI;
• кликаем «Create API ».

6. Когда API создано, переходим в таблицу Google, куда хотим загрузить выбранные данные. Выбираем «Connect to Kimono » и кликаем на название нашего API — «Resorts ». Список стран и ссылок на страницы с курортными городами выгружается на отдельный лист.

7. Переходим снова на сайт, берем для примера Ирландию, и снова выбираем через Kimono города, которые необходимо спарсить. Создаем API, называем его «Resorts in countries ».

9. В «Crawl Strategy » выбираем «URLs from source API ». Появляется поле с выпадающим списком всех API. Выбираем созданное нами ранее API «Resorts » и из него автоматически загружается список URL для парсинга. Кликаем синюю кнопку «Start Crawl » (начать обход) и следим за статусом парсинга. Kimono обходит страницы, парсит данные по заданному ранее шаблону и добавляет их в таблицу — то есть делает все то же самое, что и для Ирландии, но уже для всех других стран, что ввели автоматически и без нашего участия.

10. Когда таблица сформирована, синхронизируем Kimono Labs с таблицей Google — точно так же, как делали это в шестом пункте. В результате, в таблице появляется второй лист с данными.

Предположим, хотим, чтобы в таблице отображались все курортные города в стране города прибытия. Данные на листах Kimono обрабатываем с помощью формул для таблиц Google, и выводим в строку список городов, где еще можно отдохнуть в Австралии, кроме Сиднея.

Например, это можно сделать так . Разметить массив данных (список городов), используя логические функции и возвращая значение ячейке, равное TRUE или FALSE. На примере ниже выделили для себя города, которые находятся именно в Австралии:

• TRUE = город находится в Австралии;
• FALSE = город находится в другой стране.

По меткам TRUE определяем начало и конец обрабатываемого диапазона, и выводим в строку соответствующие этому диапазону города.

По аналогии можем вывести курортные города и для других стран.

Мы специально привели здесь достаточно простой и пошаговый пример — формулу можно усложнить, например, сделать так, чтобы достаточно было ввести страну в колонку С, а все остальные вычисления и вывод городов в строку происходили автоматически.

Результаты автоматизации

Как говорилось вначале, нам регулярно нужно составлять по 20 однотипных таблиц. Это рутинный процесс, съедающий по 40-50 минут на одну таблицу, и по 16 часов времени на каждые 20 шт. Согласитесь, 2 рабочих дня на одинаковые таблички — необоснованная трата времени. После автоматизации на одну таблицу уходит 5-10 минут, а на 20 — около 2 часов. Таблица имеет 17 ячеек, парсинг производится из 5 источников. Заполнение таблицы происходит автоматически при заполнении всего 2 ячеек с исходными данными.

Настройка и автоматизация парсинга суммарно заняла 30 часов времени, то есть потраченное время «окупится» уже на этапе генерации второй 20-ки таблиц.

Очень часто в Интернете можно столкнуться с таким понятием, как «парсинг». Что это такое и для чего нужно? Бывает так, что программистам дают задание спарсить какой-либо сайт. Или обычный пользователь сталкивается с таким термином и не знает его значения.

Определение

Если взять общий смысл, то парсинг - это когда последовательность слов линейно сопоставляется с правилами конкретного языка, который может быть любым человеческим, используемым при коммуникации. Также это может быть формализованный язык, например язык программирования.

А в отношении сайтов в качестве ответа на вопросы про парсинг - "что это такое", "зачем используется" - можно сказать, что это процесс последовательного синтаксического анализа той информации, которая размещена на веб-страницах. Текст здесь является набором данных, который иерархически упорядочен и структурирован при помощи компьютерного и человеческого языка. Последний дает непосредственно информацию, за которой люди и приходят. А языки программирования задают способы отображения этих данных на мониторе пользователя.

Поиск контента

Когда владелец только создает свой сайт, перед ним встает проблема: откуда брать контент для заполнения? Самым оптимальным вариантом является поиск в глобальной сети. Ведь там знаний бесконечно много. Но тут же возникают и некоторые сложности:

• Так как интернет постоянно растет и развивается, то ясно, что сайт должен содержать огромные объемы информации, чтобы иметь преимущество над конкурентами. Сегодня контента должно быть очень много. А вручную заполнить таким количеством информации сайт очень трудно.
• Так как человек не в состоянии обслуживать бесконечный поток постоянно меняющейся информации, необходим парсинг. Что это даст? Автоматизацию процесса сбора информации и ее изменения.

Плюсы парсера

Программа, осуществляющая процесс парсинга, в сравнении с человеком обладает рядом преимуществ:

• Она быстро пройдется по тысячам интернет-страниц.
• Без проблем разделит технические данные и нужную человеку информацию.
• Без ошибок отбросит ненужное, оставив только то, что необходимо.
• Произведет упаковку данных в необходимый для пользователя вид.

Конечно, итоговый результат все еще будет нуждаться в некоторой обработке. И неважно, будет или же база данных. Но это уже гораздо легче, чем если делать все вручную, а не использовать парсинг. Что это дает, совершенно ясно - экономию времени и сил.

Разработка

Для создания парсеров используются самые разные языки программирования. Самыми распространенными являются Это означает, что на них пишутся сценарии. Что такое скрипт и проведенный с помощью таких языков, будет рассмотрено далее.

Создание программы-парсера не требует серьезных знаний о языке программирования. Необязательны и фундаментальные сведения о технологиях. Но что-то знать все-таки необходимо. Итак, чтобы знать, как создать парсинг, то есть программу-анализатор, нужно усвоить следующее:

• Для первоначального алгоритма функционирования программы нужен тщательный анализ исходного кода веб-страницы, являющейся донором. Тут не обойтись хотя бы без средних знаний технологий верстки. Это и язык JavaScript.
• Чтобы погрузиться в тему поглубже, нужно изучить технологию под названием DOM. Она дает возможность очень эффективно работать с иерархией веб-страницы.
• Самый трудный этап - написание парсера. Здесь нужно владеть инструментом для обработки текста. Опытные программисты чаще всего используют для этой цели регулярные выражения, являющиеся достаточно мощным средством. Но это под силу далеко не каждому разработчику. Тут нужно особое мышление. Оптимальным решением будет использование уже готовых библиотек, которые создавались специально под парсинг. Что это за библиотеки? Это упакованный программный код, который уже содержит все функции для анализа.
• Очень желательно разбираться в объектно-ориентированном программировании, которое поддерживается любым языком программирования.
• Завершающий этап обработки результатов анализа предполагает, что данные будут структурированы и сохранены. Тут не обойтись без знаний баз данных.
• Нужны знания и владение функциями, служащими для работы с файлами. Ведь данные нужно будет записывать в эти самые файлы, а потом, возможно, конвертировать в формат электронных таблиц.

Этапы

Если все требования соблюдены, то дальнейший процесс можно разделить на этапы:

1. На первом этапе парсинга получают исходный код интернет-страницы.
2. Следующий шаг - извлечение нужных данных из кода разметки. Здесь отбрасывается ненужный код, вся информация выстраивается по иерархии.
3. После успешной обработки данных, их необходимо сохранить в том виде, который можно будет в дальнейшем обрабатывать.
4. Так как сайт состоит не из одной страницы, а из множества, алгоритм должен уметь переходить на последующие страницы.

Итак, парсинг - что это такое? Это процесс анализа содержимого сайта и вычленения нужной информации. Используя вышеописанные сведения, можно наполнять свои сайты большим количеством контента автоматически. А это дает возможность выиграть время и победить в сложной конкуренции на рынке сайтостроителей.

Парсинг (Parsing) – это принятое в информатике определение синтаксического анализа. Для этого создается математическая модель сравнения лексем с формальной грамматикой, описанная одним из языков программирования. Например, PHP, Perl, Ruby, Python.

Когда человек читает, то, с точки зрения науки филологии, он совершает синтаксический анализ, сравнивая увиденные на бумаге слова (лексемы) с теми, что есть в его словарном запасе (формальной грамматикой).

Программа (скрипт), дающая возможность компьютеру «читать» – сравнивать предложенные слова с имеющимися во Всемирной сети, называется парсером. Сфера применения таких программ очень широка, но все они работают практически по одному алгоритму.

Как работает парсинг, что это такое? Алгоритм работы парсера.

Независимо от того на каком формальном языке программирования написан парсер, алгоритм его действия остается одинаковым:

1. выход в интернет, получение доступа к коду веб-ресурса и его скачивание;
2. чтение, извлечение и обработка данных;
3. представление извлеченных данных в удобоваримом виде – файлы.txt, .sql, .xml, .html и других форматах.

В интернете часто встречаются выражения, из которых следует, будто парсер (поисковый робот, бот) путешествует по Всемирной сети. Но зачастую эта программа никогда не покидает компьютера, на котором она инсталлирована.

Этим парсер коренным образом отличается от компьютерного вируса – автономной программы, способной к размножению, хотя по сути своей работы он похож на трояна. Ведь он получает данные, иногда конфиденциального характера, не спрашивая желания их владельца.

Виртуальный хостинг сайтов для популярных CMS:

Зачем нужен парсинг?

Сбор информации в интернете – трудоемкая, рутинная, отнимающая много времени работа. Парсеры, способные в течение суток перебрать большую часть веб-ресурсов в поисках нужной информации, автоматизируют ее.

Наиболее активно «парсят» всемирную сеть роботы поисковых систем. Но информация собирается парсерами и в частных интересах. На ее основе, например, можно написать диссертацию. Парсинг используют программы автоматической проверки уникальности текстовой информации, быстро сравнивая содержимое сотен веб-страниц с предложенным текстом.

Без программ парсинга владельцам интернет-магазинов, которым требуются сотни однотипных описаний товаров, технических характеристик и другого контента, не являющегося интеллектуальной собственностью, было бы трудно вручную заполнять характеристики товаров.

Возможностью «спарсить» чужой контент для наполнения своего сайта пользуются многие веб-мастера и администраторы сайтов. Это оправдано, если требуется часто изменять контент для представления текущих новостей или другой, быстро меняющейся информации.

Парсинг – «палочка-выручалочка» для организаторов спам-рассылок по электронной почте или каналам мобильной связи. Для этого им надо запустить «бота» путешествовать по социальным сетям и собирать «телефоны, адреса, явки».

Ну и хозяева некоторых, особенно недавно организованных веб-ресурсов, любят наполнить свой сайт чужим контентом. Правда, они рискуют, поскольку поисковые системы быстро находят и банят любителей копипаста.

Основа работы парсера.

Конечно же, парсеры не читают текста, они всего лишь сравнивают предложенный набор слов с тем, что обнаружили в интернете и действуют по заданной программе. То, как поисковый робот должен поступить с найденным контентом, написано в командной строке, содержащей набор букв, слов, выражений и знаков программного синтаксиса. Такая командная строка называется «регулярное выражение». Русские программисты используют жаргонные слова «маска» и «шаблон».

Чтобы парсер понимал регулярные выражения, он должен быть написан на языке, поддерживающем их в работе со строками. Такая возможность есть в РНР, Perl. Регулярные выражения описываются синтаксисом Unix, который хотя и считается устаревшим, но широко применяется благодаря свойству обратной совместимости.

Синтаксис Unix позволяет регулировать активность парсинга, делая его «ленивым», «жадным» и даже «сверхжадным». От этого параметра зависит длина строки, которую парсер копирует с веб-ресурса. Сверхжадный парсинг получает весь контент страницы, её HTML-код и внешнюю таблицу CSS.

Парсеры и PHP.

Этот серверный язык удобен для создания парсеров:

• У него есть встроенная библиотека libcurl, с помощью которой скрипт подключается к любым типам серверов, в том числе работающих по протоколам https (зашифрованное соединение), ftp, telnet.
• PHP поддерживает регулярные выражения, с помощью которых парсер обрабатывает данные.
• У него есть библиотека DOM для работы с XML – расширяемым языком разметки текста, на котором обычно представляются результаты работы парсера.
• Он отлично ладит с HTML, поскольку создавался для его автоматической генерации.

Этические и технические сложности парсинга.

Вопрос о том, является ли парсинг воровством контента, активно обсуждается во Всемирной сети. Большинство оппонентов считают, что заимствование части контента, не являющегося интеллектуальной собственностью, например, технических описаний, допустимо. Ссылка на первоисточник контента рассматривается как способ частичной легитимации. В то же время, наглое копирование, включая грамматические ошибки, осуждается интернет-сообществом, а поисковыми системами рассматривается как повод для блокировки ресурса.

Кроме этических проблем парсер способен создать и технические. Он автомат, робот, но его вход на сайт фиксируется, а входящий и исходящий трафики учитываются. Количество подключений к веб-ресурсу в секунду устанавливает создатель программы. Делать этот параметр очень большим нельзя, поскольку сервер может не переварить потока входящего трафика. При частоте 200–250 подключений в секунду работа парсера рассматривается как аналогичная DOS-атаке. Интернет-ресурс, к которому проявлено такое внимание, блокируется до выяснения обстоятельств.

Парсер можно написать самому или заказать на бирже фриланса, если вам требуются конкретные условия для поиска и чтения информации. Или купить эту программу в готовом виде с усредненным функционалом на специализированном веб-ресурсе.