Содержание

1. Поиск
2. Темы дня и популярные записи
3. Рейтинги
4. Пульс блогосферы
5. API

Что такое Поиск по блогам?

Поиск по мнениям. Общественное мнение в интернете.

Поиск по текстам, где люди говорят от первого лица:

- что другие говорят о вас или ваших действиях
- что пишут о товаре, который вы собираетесь купить
- что пишут о вашей компании
- что пишут о каком-то событии
- сравнить обсуждаемость чего-либо

Наиболее обсуждаемые темы и самое популярное в интернете сегодня

Масштабы

* Около миллиона записей и комментариев из блогов и форумов каждый день
* Почти 7 миллионов источников
* Всего около миллиарда документов

Поиск по блогам – это почти одна пятая от поиска по всему русскоязычному интернету по количеству элементов индексации.

1. Поиск

На какие вопросы отвечает
По чему ищет
Чем отличается от поиска по всему интернету

Как происходит индексирование

Сервис основан на распространённых в интернете открытых форматах. Благодаря сотрудничеству с владельцами блог-хостингов эти форматы (RSS, Atom, Weblogs.Ping) стали стандартом в российской блогосфере.

На данный момент новые записи индексируются в течение 10 минут с момента их появления на более чем 120 блог-хостингах, включая:
- LiveJournal.com
- LiveInternet.ru
- Blogs.mail.ru
- Diary.ru

Индексируются комментарии на LiveJournal.ru, LiveInternet.ru и многих автономных блогах

Проиндексировано более 14 миллионов профилей, включая профили пользователей пяти крупнейших блог-хостингов

Как поиск узнаёт о новых блогах

- новые блоги на уже известных блог-хостингах добавляются, как только поиск по блогам получает пинг про первую запись
- из веб-поиска: когда веб-поиск находит новый сайт с известным блоговым движком
- из формы добавления blogs.yandex.ru/add.xml
- из веб-поиска: когда в интернете обнаруживается ссылка на новый RSS

Проблема: RSS не равно блогу

В RSS транслируются не только блоги, но и форумы, новости, обновления страниц вики, объявления, курсы валют и многое другое
Поиск по блогам мог бы быть замусорен всем этим, если бы не была построена система разметки потоков:

- по умолчанию RSS-поток не считается блогом
- автоматические правила по разным свойствам RSS-потоков (URL, название, движок)
- контент-менеджеры исправляют ошибки роботов

Побочный эффект: автономный блог на нестандартном движке по умолчанию не считается блогом. Чтобы быстро это исправить, владелец блога может написать в службу поддержки.

Как индексируются профили

Часто над результатами поиска по блогам есть "врезка", называющаяся "похожие блоги". Она показывается, если профиль соответствующего блога релевантен запросу.

Индексация профилей осуществляется при помощи FOAF – открытого формата для индексации данных о социальных связях и Yandex FOAF scheme – расширения к FOAF, которое позволяет в нём же указывать дополнительные профильные данные (возраст, пол и т.п.)

Благодаря индексации FOAF возможны поиск по френдленте и региону, подсчёт количества читателей в рейтинге и т.д.

Отличия от веб-поиска

- Очень быстрая индексация: запись попадает в поиск через 10 минут после написания
- Свежесть критична: ранжирование по времени
- Много небольших текстов
- Знаем информацию об авторстве и социальных связях
- Данные не переиндексируются каждый раз заново, а накапливаются в архив блогосферы
    • Существует проблема: RSS не позволяет сообщать об удалении записей – скрыть их из индекса можно только по запросу автора в службу поддержки

Проблемы собственно поиска

- Спам
- Дубли и их фильтрация
- Удаленные и скрытые записи
- Неверное число найденных документов

Спам

Спам в блогах - это автоматические, созданные программой записи или комментарии, как правило, предназначенные для влияния на ранжирование в веб-поиске, либо на накрутку того или иного рейтинга

Явление весьма масштабное. В среднем, 33% всех записей в блогах являются спамом. Например, за 22 января на пяти крупнейших блог-хостингах было сделано 225 тысяч записей, из которых 75 тысяч были определены как спам.

Количество записей, отображаемое в рейтинге блог-хостингов, не включает в себя спам.

Для исключения спама из поиска используются как специфические для блогов эвристики, так и универсальная технология Яндекса - Спамоборона. По проводимым нами измерениям, в результате удаётся удерживать уровень спама в поиске и его влияние на рейтинги невысоким, хотя, конечно, периодически случаются "всплески"

Проблема дублей

Когда среди найденных записей встречаются одинаковые, то, для удобства просмотра, из нескольких одинаковых результатов по умолчанию отображается только последний

Это, хотя и позволяет не видеть лишних дублей, иногда приводит к проблемам:
- из нескольких трансляций журнала, запись показывается в той, куда позже всего попала, а не в оригинальной
- иногда этим пользуются злонамеренные спамеры, чтобы показать свою запись вместо оригинальной записи блоггера

Решения:
- на последней странице выдачи есть ссылка на версию без отсечения дублей, про трансляции можно написать с службу поддержки
- появится интерфейс, в котором пользователи сами смогут управлять индексацией своих блогов

Проблема: неверное число записей

Все записи в блогах за всю историю блогосферы -это очень много данных. При этом большинству пользователей нужны только последние из них. Поэтому, по умолчанию для многих запросов поиск осуществляется по записям за последний месяц, автоматически переключаясь на полный, когда пользователь хочет увидеть более старые записи (листая результаты поиска).

Такая система имеет недостаток: число найденных записей, указанное на первой странице, является оценочным, и уточняется по мере листания.

Сейчас получить точное число результатов можно, долистав до 6-й страницы. В то же время, мы планируем исправить этот недостаток кэширования системным образом, давая более точное количество результатов сразу.

2. Темы дня и популярные записи

Темы дня: "О чём сейчас многие говорят?"

Популярные записи: "Что бы интересного почитать?"

Что такое темы дня?

События или явления, больше всего заинтересовавшие блоггеров сегодня по сравнению с обычным интересом к ним.

Что больше всего обсуждают сегодня блоггеры. В противоположность новостям, где событием считается то, о чём больше всего пишут СМИ.

Как работают темы дня

- сначала из различных источников выбирается набор гипотез, которые могут оказаться темами
- после этого определяется, как много записей о каждой из них написано сегодня, и как много писали в среднем в прошлом
- те гипотезы, о которых сегодня внезапно стали писать больше записей, чем обычно, считаются темами дня
- близкие темы дня объединяются
- для тем дня выбираются названия
    • проблема: запросы и заголовки записей блоггеров не очень информативны, поэтому параллельно совершенствованию технологии автоматического выбора заголовков, перед обновлением тем дня происходит проверка заголовков модераторами

Темы дня: проблемы

Робот плохо умеет выбирать названия (не всегда информативно)
Лишние запросы (слишком широкие), что приводит к мусорной выдаче по теме дня
Недосклейка тем дня (несколько формулировок про одну, по сути, тему)
Нет верной гипотезы - в результате темой может не стать что-то, что могло ей стать либо тема может появиться позже, чем могла бы

Популярные записи

Выбираются не темы, а отдельные записи: те, которые больше всего заинтересовали других блоггеров, то есть те, на которые они поставили ссылки.

Отвечают на вопрос «что нового и интересного почитать?», поэтому должны быстро обновляться

Основаны полностью на ссылках из одних блогов на другие.

Популярные записи: как работают

1. Сортируются по количеству ссылок на запись за последние три дня (с учетом пунктов 3 и 5)
2. Учитываются ссылки только из блогов старше полугода
3. Отфильтровываются накруточные ссылки (используя технологии, отработанные в веб-поиске)
4. Ссылки за последние 8 часов имеют удвоенный вес: чтобы записи чаще обновлялись
5. Не более одной записи из одного блога
6. Записи теряют вес за каждый час нахождения на главной странице: чтобы чаще обновляться
7. Рейтинг пересчитывается каждые 20 минут

Популярные записи: масштабы

Популярные записи – это что-то, что заинтересовало небольшое количество людей -иногда для попадания в них достаточно трёх-пяти ссылок.

Коммерческого значения популярные записи не имеют (т.к. дают небольшое количество посетителей -единицы тысяч в самом лучшем случае)

Тем не менее, их пытаются накручивать (скоординированно ставить ссылки, вручную или с помощью ботов, оплачивая блоггерам ссылки на нужную запись) – как правило, ради тщеславия, чтобы “получить медаль”.

Популярные записи: проблемы

Популярные записи формируются полностью автоматически, но поскольку их иногда накручивают, людям кажется, что они редактируются вручную.

Решение. Мы видим эти проблемы и планируем решать их следующими способами:
- рейтингов будет больше - благодаря чему ценность каждого из них как средства влияния будет меньше
- будет больше источников данных для рейтингования: рейтинг будет строиться не только по ссылкам, но и по комментариям и посещаемости
- у всех пользователей будет возможность посмотреть разные неотфильтрованные срезы по каждому из сточников - в результате станут гораздо более очевидными накрутки или ручные искажения

3. Рейтинги

Помогают ориентироваться:
Где больше всего пишут
Что обсуждают

Рейтинг блогов

Нужен для того, чтобы было проще найти, какой из блогов популярнее и что начать читать самому.

Помогает новичкам разобраться в положении дел в блогосфере.

Выделяет самые широко-популярные блоги.

Рассчитывается на основании данных о ссылках между блогами за последние полгода: чем больше блогов сослалось на разные записи данного, тем он выше в рейтинге.

Рейтинг блогов: проблемы

- Обратная связь: чем выше блог в рейтинге, тем проще ему стать ещё выше
- Рейтинг очень большой, поэтому даже перемещение на 1% в его хвосте кажется очень большим и вызывает сильное внимание к небольшим колебаниям
- Масштаб: кажется, что быть на стотысячном месте из шести миллионов не очень почётно, но на самом деле это популярнее 98% блоггеров
- Накрутки, подобные тем, что используются для рейтинга популярных записей

Возможное решение: исследуем возможность альтернативного представления рейтинга как в целом, так и на информерах для блоггеров.

Рейтинг сервисов

Рейтинг блог-хостингов строится ежедневно по количеству записей за вчерашний день.

В рейтинге учитывается меньше записей, чем попадает в поиск, не учитываются:

- автоматические записи (например, автопоздравления с днём рождения на Блоги@Mail.ru или “человек опубликовал фото” на Я.ру)
- импортированные записи
- записи автоматических ботов
- спамовые записи

4. Пульс блогосферы

Лучше один раз увидеть

Что такое “Пульс блогосферы”?

“Пульс блогосферы” -это служба в Поиске по блогам, с помощью которой можно увидеть, как много записей писали о том или ином явлении в разное время.

Результаты представлены в виде процентов записей от всех за указанное время.

С помощью “Пульса” можно сравнивать обсуждаемость событий в блогосфере, следить за тенденциями в общественном мнении или просто визуализировать популярность явлений.

Пульс: проблемы

- нормализация пока идёт на общее количество записей в день - а значит, текстовые запросы имеют некоторые собственные колебания. Мы исследуем возможность исправить это, нормируя график не на общее количество записей, а на количество текстовых записей
- возможны временные провалы на графиках, связанные с особенностями кэширования результатов поиска, что мы планируем в будущем решить техническими средствами

5. API

Как сделать свой поиск с помощью Поиска по блогам

Из чего состоит API Яндекс.Блогов?

Как открыть Поиску по блогам данные?
Открытые форматы для быстрой и полной индексации данных:

- RSS
- ATOM
- FOAF
- XML-RPC: Weblogs.ping

Как получить данные от Поиска по блогам?
Результаты поиска, доступные всем в тех же открытых форматах:

- RSS: результаты поиска по записям и комментариям
- ATOM+FOAF: результаты поиска по профилям

Какие данные доступны?

* Все свежие проиндексированные записи

* Поиск по всем профилям (FOAF) и данные из них

* Социальные связи (кого “зафрендил” каждый пользователь, кто “зафрендил” его)

* То, что мы смогли понять в результате сбора всех данных в одном месте (агрегирование и анализ):
- результат определения пола
- поиск по записям с учётом данных из FOAF
- фильтрация по блогам, форумам, комментариям и т.п.

* В будущем будут доступны, также, данные из всех рейтингов

Что можно сделать с помощью API?

Быстро поиск по своему блогхостингу, форуму или любому другому социальному сервису
- просто
- мгновенная индексация
- много готовых возможностей
     * поиск только по записям друзей
     * поиск по их профилям
     * с учётом демографии и т.п.
- например, поиски на livejournal.ru и diary.ru

Свой мета-сервис на основе данных из ППБ
- например, tkpled.ru :)