Robots да ещё и txt! (продолжение) |
Спецсимволы в robots.txt
При указании путей директив Allow-Disallow можно использовать спецсимволы ‘*’ и ‘$’, задавая, определенные регулярные выражения. Символ ‘#’ отделяет комментарии к коду в файле robots.txt.
Спецсимвол ‘*’ означает любую (в том числе пустую) последовательность символов. Примеры:
User-agent: Yandex
Disallow: /cgi-bin/*.aspx # запрещает ‘/cgi-bin/example.aspx’ и ‘/cgi-bin/private/test.aspx’
Disallow: /*private # запрещает не только ‘/private’, но и ‘/cgi-bin/private’
По умолчанию к концу каждого правила, описанного в robots.txt, приписывается ‘*’, например:
User-agent: Yandex
Disallow: /cgi-bin* # блокирует доступ к страницам начинающимся с ‘/cgi-bin’ Disallow: /cgi-bin # то же самое
Чтобы отменить ‘*’ на конце правила, можно использовать спецсимвол ‘$’, например:
User-agent: Yandex
Disallow: /example$ # запрещает ‘/example’, но не запрещает ‘/example.html’
User-agent: Yandex
Disallow: /example # запрещает и ‘/example’, и ‘/example.html’
User-agent: Yandex
Disallow: /example$ # запрещает только ‘/example’
Disallow: /example*$ # так же, как ‘Disallow: /example’ запрещает и /example.html и /example
Как видно из примеров, директивы можно сочетать друг с другом. Как правило, этого небольшого функционала достаточно для решения большинства вопросов с индексированием сайта, остальные директивы нуждаются в уточнении в рамках работы конкретной поисковой системы. Популярные поисковики предоставляют вебмастерам cправочную информацию по особенностям работы своих поисковых роботов – например, «Яндекс» и «Google».
|
Метки: site blog |
|
|
|
|
Robots да ещё и txt! |
Часто мы сталкиваемся с противоречием: обязательно хотим, чтобы наш сайт был проиндексирован для поиска, и не хотим, чтобы некоторые страницы его попадались на глаза кому попало.
И вот тут на выручку приходит стандарт WWW - robots.txt.
Это - не блюдо. Это - приправа к любому блюду, выложенному на вашем сайте.
Как его использовать? А просто: как горчицу или хрен, или сливовое повидло.
Стандарт для robots.txt никому не принадлежит, а начало его использования приходится на 1994 год. Сейчас robots.txt используется всеми популярными поисковыми системами. Файл robots.txt – это The Robots Exclusion Protocol, то есть файл исключений для поисковых роботов. Robots.txt противоположен по смыслу файлу sitemap.xml: robots.txt ограничивает поисковым роботам обход сайта, а sitemap.xml наоборот – указывает файлы для индексирования. При этом robots.txt первичен – прежде, чем поисковый робот начинает загружать какие-либо страницы сайта, он обращается именно к файлу robots.txt, поэтому основной директивой файла robots.txt является директива запрета индексирования – Disallow.
Основные базы знаний по использованию robots.txt – это сайт www.robotstxt.org (на английском языке) и robotstxt.org.ru.
ГЛАВНОЕ: Наличие файла robots.txt в структуре сайта не обязательно. Отсутствие явно заданного через robots.txt запрета воспринимается поисковым роботом как разрешение загружать любое доступное содержимое сайта. Если сайт ведёт работу с конфиденциальными данными, доступ к которым возможен без авторизации (так делать нельзя ни при каких обстоятельствах), SEO-специалистам и вебмастерам следует заранее позаботиться об ограничении попадания этой информации в открытый доступ: нужно составить список страниц сайта, которые ни в коем случае не должны попасть в индекс поисковых систем, и запретить индексирование этих страниц в файле robots.txt.
Синтаксис в robots.txt
Обратимся теперь к оформлению файла robots.txt. В отличие от HTML-документов или XML-карт, в robots.txt содержатся непосредственно директивы для поисковых систем без каких-либо дополнительных блоков информации, описывающих назначение файла – оно вытекает просто из названия.
Как мы говорили выше, основная используемая в robots.txt директива – Disallow. Поскольку в интернете существует далеко не одна поисковая система, то в общем случае вебмастер может задать запреты для всех поисковых роботов согласно принятом синтаксису, указав в строке после User-agent: символ ‘*’. Таким образом, самый простой запрет – это запрет индексирования всего сайта любыми поисковыми роботами. Выглядит он так:
User-agent: * Disallow: /
(Начиная со слеша можно указывать отдельные папки или файлы или маски для запрета индексирования),
при этом часть файлов из этих папок можно открыть, выглядеть это будет так:
User-agent: Yandex
Allow: /cgi-bin
Disallow: /
– запрещает скачивать всё, кроме страниц, начинающихся с ‘/cgi-bin’.
Обратите внимание, что если для данной страницы сайта подходит несколько директив, то выбирается первая в порядке появления в выбранном User-agent блоке. Например, такая запись –
User-agent: Yandex
Disallow: /
Allow: /cgi-bin
– запрещает скачивать весь сайт
Продолжение следует: тут не всё так просто.
Серия сообщений "Для сайтостроителей и блоговедов":
Часть 1 - Robots да ещё и txt!
Часть 2 - Быть белой вороной в интернете... Это возможно!
|
Метки: blog site |
|
|
|
|
Быстрая индексация сайта или блога |

Поговорим на тему аддурилок.
Аддурилка – от англ. add url – добавление сайтов, т.е. можно не ждать, когда ваш сайт посетит поисковый робот, а самим показать ему на новый сайт/страницу.
Аддурилка Яндекса находится здесь и выглядит следующим образом:

Все, что вам нужно сделать, это в строку ввести адрес своего сайта/страницы и ниже ввести цифровой код.
С аддурилкой Google все так же. Переходим по ссылке, указываем адрес сайта и вводим буквенный код:

Подобные алгоритмы добавления в индекс есть практически у всех поисковых систем мира.
Благодарю за подсказанную тему http://pro248.ru/
Метки: www site blog |
А деньги где? В тумбочке! |
"Главное в профессии вора - вовремя смыться" (Кторов. "Праздник Святого Иоргена")
Вчера мы с вами успешно выставили на продажу вашу первую статью. Пора получать наши денежки, не так ли?

Но, так уж заведено в Интернете, что без электронного кошелька вы денежки не сможете получить.
Поэтому, сегодня мы с вами вместе зарегистрируемся в платежных системах Яндекс Деньги и Webmoney, обзаведемся кошельками, куда будем складывать заработанные денежки.
Итак, сначала обзаведемся Яндекс-Деньгами. Читайте урок и выполняйте все действия вместе со мной.
«Регистрация на сервисе Яндекс Деньги».
Не секрет, что все расчеты в Интернете происходят при помощи двух платежных систем: Яндекс Деньги и Webmoney. Это самые ходовые системы расчетов. Первым делом мы с вами разберем Яндекс Деньги, потому что это более простой сервис и разобраться в нем вам будет легче и проще.
Вам нужно иметь два кошелька – WM и Яндекс Деньги, так как в Рунете это самые ходовые платежные системы.
Яндекс Деньги – это система для моментальных платежей в Интернете, которая позволяет оплачивать большой спектр всевозможных услуг. Все операции осуществляются только в рублях. Практически с любой точки России можно вводить и выводить деньги со счета. Управлять счетом вы можете прямо на сайте.
Теперь вам дам совет: не храните большие суммы на Яндекс Деньгах, как кошелек для хранения денег он не подходит. Вы скажете, почему? Потому, что они часто взламываются, в отличие от Webmoney. После того, как поступили деньги, надо сразу их потратить. Можно оплатить мобильный, купить что-то в интернете и так далее (спектр услуг большой).
Тем не менее, нам нужно с вами зарегистрироваться на сервисе Яндекс Деньги. Давайте это сейчас и сделаем.
Заходите на главную страницу Яндекса и нажимайте кнопочку «Деньги». В следующем окне жмите на кнопочку «Открыть счет к Яндекс Деньгах». Откроется окно входа или регистрации. Если вы уже регистрировались на Яндексе (может быть открывали почтовый ящик), то вам нужно просто ввести логин и пароль для входа, а если вы впервые регистрируетесь, то нажмите кнопочку «Регистрироваться». Введите свои паспортные данные и жмите «Далее».
Придумайте очень длинный пароль, с секретным вопросом будьте осторожны. Именно по секретному вопросу вскрывают кошельки на Яндекс Деньгах. Поэтому, будьте бдительны. Из предложенных системой я бы вам не рекомендовала выбирать, лучше придумайте свой вопрос. Введите вопрос и запишите в своем блокноте вопрос и ответ на него. Введите контрольное число, поставьте галочку о согласии с условиями и жмете «Зарегистрировать».
Поздравляю, вы успешно зарегистрированы.
Теперь жмите кнопочку «Начать пользоваться Яндекс Деньгами».Вот теперь вам предлагают открыть счет в Яндекс Деньгах.
Надо придумать платежный пароль. Это не тот пароль, который вы использовали при регистрации. Он не должен с ним совпадать, но должен быть так же длинным. Вам нужно будет вводить пароль потом при любых финансовых операциях (вывод денег и т. д.). Все заполнили и жмите на «Открыть счет в Яндекс Деньгах».
Все! Вы открыли счет в Яндекс Деньгах, можете теперь его отправлять заказчикам, которые вам будут переводить деньги. Когда деньги поступят на ваш счет, вы зайдете в Яндекс Деньги посмотрите историю платежей. Здесь будут указаны все ваши платежи, кто и сколько вам передал или сколько, кому и за что вы уплатили. Так же здесь вы увидите, сколько у вас денег на счету. Многие заказчики отправляют деньги с кодом протекции. Здесь вы вводите код протекции, который вам сообщает заказчик и получаете свои денежки. Как видите, ничего сложного!
А теперь давайте познакомимся с муравьем, таскающим в свой муравейник, то есть наш кошелек, золотые монетки.
«Регистрация в системе Webmoney».
Мы с вами уже написали первую статью, зарегистрировались на Яндекс Деньги, а теперь нам надо зарегистрироваться на Webmoney, потому что без данной регистрации навряд ли у вас получится работать копирайтером. Основной валютой для расчета в Интернете является Webmoney – это международная система платежей.
Выплаты с биржи, где мы с вами зарегистрировались, происходят с Webmoney. Так что данная регистрация вам неизбежна. Давайте сейчас вместе с вами пройдем все основные этапы регистрации.
1. Зайдите на официальный сайт start.webmoney.ru и выберите тип WebMoney Keeper. Это специальная программа, при помощи которой вы будете управлять своими электронными кошельками. Скачайте и установите программу на свой компьютер.
Обратите внимание, вас в течение регистрации попросят дать согласие на установление корневого сертификата программы, вы здесь должны дать свое согласие, иначе программа работать не будет.
WebMoney Keeper, это такой муравьишко, который будет у вас жить на нижней панели компьютера, вы его будете запускать каждый раз при входе. Это та программа, которая и будет вашим основным электронным кошельком.
2. После того, как программа будет установлена, вам нужно будет зарегистрироваться на Webmoney. Это делается здесь же, на сайте. Нажимаете кнопочку регистрации.
Предлагается несколько вариантов кошельков. Я вам рекомендую выбрать WM Keeper Classic. на мой взгляд, она очень проста и удобна. Конечно, вы можете и поэкспериментировать, попробовать другую версию, но только это будет потом.
3. Заполните регистрационную форму достоверными данными о своей личности.
Сведения должны обязательно соответствовать вашим паспортным данным, ведь это банковские операции, как же иначе? Помните, данные этих полей после регистрации изменить нельзя.
Хочу предупредить вас о контрольном вопросе, так же как и в Яндекс Деньгах. Задавайте вопрос и ответ с осторожностью и не забывайте его потом записывать. Пароль свой никому не рассказывайте и храните его в надежном месте.
Нажимаете кнопочку «Продолжить».
4. После заполнения данных для регистрации на указанный вами E-mail в течение пары минут придет письмо от системы WebMoney с кодом и дальнейшими инструкциями. Данный код сохраните, он вам понадобится для завершения регистрации в системе.
5. Далее запустите WM Keeper Classic и выберите «Регистрация». А вот теперь вам предложат указать высланный ранее регистрационный код. Введите его, придумайте пароль для входа в программу и нажмите «Далее». Пароль обязательно запишите в надежном месте и никому его не давайте.
6. В следующем окне сгенерируйте себе цифровую подпись. Просто водите мышкой по полю, чтобы компьютер не завис. После этого система сгенерирует ваш личный WM-идентификатор (WMID). Он состоит из 12 цифр и служит для узнавания вас системой.
7. Теперь после генерации ключей вам будет присвоен WM-идентификатор (WMID), который необходим для входа в систему. Советую вам так же записать свой WMID. Обратите внимание, к нему надо будет придумать хороший пароль.
Ключи автоматически сохраняются в E-num storage, используя число – ответ через SMS–сообщение, которое будет приходить к вам на мобильный телефон, который был указан вами при регистрации.
Но, вам могут предложить указать путь к файлу ключей (лучше записать ключ на CD или флэш-карту и пользоваться ею при входе в кошелек и для совершения операций). Старайтесь ключи не терять, никому не давать. Это ваше личное и денежное!
8. Для того, чтобы окончить регистрацию вам предложат ввести код активации, который был отправлен вам на E-mail в самом начале регистрации. Этот код нужно ввести на странице сервиса безопасности. После этого нажмите кнопку «Активировать».
9. Далее из стартового меню запускаем программу Webmoney Keeper Classic, вводим наш WMID и пароль, который вы указали, когда регистрировались. После этого вы получите полный доступ к созданным кошелькам.
В системе WebMoney каждый кошелек имеет номер и прикреплен к Webmoney идентификатору. Он так же WMID и состоит из двенадцати цифр. Например: R987456123970 – аналог российского рубля, Z159753654753 – аналог доллара США, E369741321987 – аналог евро, U357741963258012 – аналог украинской гривни. Зарегистрировать на один WMID можно несколько кошельков, если вам будет это нужно. В Интернете чаще всего используются кошельки WMR и WMZ.
10.Создадим кошельки.
Чтобы создать кошелек, необходимо открыть программу WebMoney Keeper Classic. На вкладке «Кошельки» нужно нажать правую клавишу мыши и выбрать пункт: «Создать кошелек».
Можно сделать то же самое через меню: меню "кошельки" создать новый. Я вам советую создавать сразу три кошелька – Z – типа (аналог доллара США), R-типа (аналог российского рубля) и E-типа (аналог евро). Это самые ходовые и востребованные знаки в Интернете.
Например, создадим рублевый кошелек.
Создать кошелек "WMR эквивалент RUB" соглашаемся с условиями и жмем «далее» жмем "готово".
Вот и все, готово
Если вы помните, у вас при регистрации на бирже Textsale требовали WMZ кошелек. Теперь можете его скопировать и отправить вашему заказчику и разместить его на бирже Textsale. Отныне все платежи на этой бирже будут проходить через WM кошелек. Как только на ваш кошелек поступят деньги, вместо вашего муравья будет крутиться монетка, которая говорит о том, что вам пришли деньги. Все!
Мы успешно зарегистрировались и создали себе электронные кошельки. Как видите, процесс сложный, но, тем не менее, пройти его можно.
Теперь вам надо обратить внимание на свой аттестат. Сейчас у вас аттестат псевдонима. Но, чтобы вести электронные расчеты, вам надо иметь аттестат повыше. Для этого нужно будет отправить на сайт в центр аттестации копию своего паспорта. Вы получите аттестат выше на уровень, и у вас уже будет меньше ограничений на вывод денег. Потом получите аттестат еще выше, например: персональный или аттестат продавца. Но это будет потом.
Если нужна будет консультация, я с удовольствием вам помогу.
А сейчас самое главное, что вы зарегистрировали кошелек и можете уже на него получить свои первые деньги. Для того чтобы вам рассчитываться в интернете за WebMoney, никаких аттестатов не нужно.
Поздравляю! Отныне вы полноправный пользователь Webmoney.
На этом все. В последнем уроке небольшого тренингового курса мы с вами рассмотрим, как можно обналичить электронные деньги и превратить их в обычные денежные купюры.
Метки: деньги |
Почему ваш блог покидают читатели и посетители? |
Факторы, из-за которых хочется закрыть сайт:
Благодарю за проведенное исследование Алексея Гончарова!
Метки: blogging blogger |
|
|
|
|
Иероглиф и жизнь |
Это я на фоне картины Бориса Черниченко с бокалом ручной работы Оксаны Андраш, а снимал меня Михаил Ясеновец в моей комнате-библиотеке.
P. S. Знакомство нас всех началось на сайте визуального искусства "Иероглиф" и потом переросло в дружбу.
Серия сообщений "Мир - Universe":
Часть 1 - Зимнее солнцестояние, полное лунное затмение и полнолуние
Часть 2 - За морем и телушка - полушка, а у нас... ох...
...
Часть 29 - Интернетзависимые. Чума 21-го века. Ага?
Часть 30 - После долгих поисков ориентации Россия выбрала нетрадиционную ориентацию
Часть 31 - Иероглиф и жизнь
Часть 32 - Социальные сети: подмена реального мира или угодивший в сети мир
Часть 33 - Делай!
...
Часть 38 - Бывает и на "о", и "на" ёбывают...
Часть 39 - О глупости и недальновидности
Часть 40 - О ветряных мельницах
Метки: Искусство Культура Живопись Стекло Иероглиф |
Большой вальс |
Для тех, кто любит классику, полностью фильм "Большой вальс" с Милицей Корьюс.
Метки: classics operetta |
|
|
|
|
|
|
|
|
Вести дневник... или не вести... |
Сегодня ознакомился на сайте "SEO блог Евгения Привалова" с очень интересным взглядом на вопрос "делать или не делать". Думаю, что он универсален в жизни вообще, хотя в этой статье он касается лишь вопроса о ведении дневника.
Любой успешный предприниматель расскажет вам, как он сожалеет, что не начал свой бизнес на 5, а лучше на 10 лет раньше, и насколько более выдающихся результатов ему бы удалось достичь.
Возможно, вы и сами сталкивались с подобными мыслями: " Вот если бы я начал заниматься этим, когда мне было 20 лет! "
Суровая правда заключается в том, что какой бы вид деятельности вы для себя ни выбрали, можно с уверенностью утверждать, что " уже слишком поздно" и "лучший момент для старта был вчера".
Если решение о создании блога было принято год назад, но вы до сих пор ищете "благоприятного момента" – могу вас поздравить – вы потеряли год.
Впрочем, я делюсь всеми этими "откровениями" вовсе не для того, чтобы демотивировать вас или убедить в том, что создавать блог "таки действительно поздно". Если сейчас вам 25 лет, и вы сожалеете, что не начали вести блог в 20, просто представьте, как вы будете сожалеть в 30 лет, что не сделали этого сегодня!
Помните: начинать хорошее дело всегда "слишком поздно". Но это не значит, что начинать его не стоит! И худшее решение, которое вы можете принять, осознав, что лучшим моментом для создания блога было "вчера" – это отложить его создание "на завтра" …
Метки: www blogger blog blogging |
|
|
|
|
|
|
|
|
Микаэл Таривердиев - СЛУШАЕМ ! |
Метки: music classics |
|
|
|
|