Тази статия ще обсъди някои от начините за обхождане на уебсайт, включително инструменти за обхождане на мрежата и как да използвате тези инструменти за различни функции. Инструментите, обсъдени в тази статия, включват:
- HTTrack
- Cyotek WebCopy
- Грабител на съдържание
- ParseHub
- OutWit Hub
HTTrack
HTTrack е безплатен софтуер с отворен код, използван за изтегляне на данни от уебсайтове в интернет. Това е лесен за използване софтуер, разработен от Xavier Roche. Изтеглените данни се съхраняват на localhost в същата структура, каквато е била на оригиналния уебсайт. Процедурата за използване на тази помощна програма е следната:
Първо инсталирайте HTTrack на вашата машина, като изпълните следната команда:
[имейл защитен]: ~ $ sudo apt-get install httrackСлед като инсталирате софтуера, изпълнете следната команда, за да обходите уебсайта. В следващия пример ще обходим linuxhint.com:
[имейл защитен]: ~ $ httrack http: // www.linuxhint.com -o ./Горната команда ще извлече всички данни от сайта и ще ги запише в текущата директория. Следващото изображение описва как да използвате httrack:
От фигурата виждаме, че данните от сайта са извлечени и записани в текущата директория.
Cyotek WebCopy
Cyotek WebCopy е безплатен софтуер за обхождане на уеб, използван за копиране на съдържание от уебсайт на localhost. След стартиране на програмата и предоставяне на връзката към уебсайта и папката за местоназначение, целият сайт ще бъде копиран от дадения URL адрес и запазен в localhost. Изтегли Cyotek WebCopy от следната връзка:
https: // www.cyotek.com / cyotek-webcopy / изтегляния
След инсталацията, когато уеб роботът е стартиран, ще се появи прозорецът на снимката по-долу:
След като въведете URL адреса на уебсайта и посочите целевата папка в задължителните полета, щракнете върху копие, за да започнете да копирате данните от сайта, както е показано по-долу:
След като копирате данните от уебсайта, проверете дали данните са копирани в директорията на местоназначението, както следва:
В горното изображение всички данни от сайта са копирани и записани в целевото местоположение.
Грабител на съдържание
Content Grabber е базирана на облак софтуерна програма, която се използва за извличане на данни от уебсайт. Той може да извлича данни от всеки многостранен уебсайт. Можете да изтеглите Content Grabber от следната връзка
http: // www.tucows.com / preview / 1601497 / Content-Grabber
След инсталиране и стартиране на програмата се появява прозорец, както е показано на следващата фигура:
Въведете URL адреса на уебсайта, от който искате да извлечете данни. След като въведете URL адреса на уебсайта, изберете елемента, който искате да копирате, както е показано по-долу:
След като изберете необходимия елемент, започнете да копирате данни от сайта. Това трябва да изглежда като следното изображение:
Данните, извлечени от уебсайт, ще бъдат запазени по подразбиране на следното място:
C: \ Users \ потребителско име \ Document \ Content GrabberParseHub
ParseHub е безплатен и лесен за използване инструмент за обхождане на уеб. Тази програма може да копира изображения, текст и други форми на данни от уебсайт. Кликнете върху следната връзка, за да изтеглите ParseHub:
https: // www.parsehub.com / quickstart
След като изтеглите и инсталирате ParseHub, стартирайте програмата. Ще се появи прозорец, както е показано по-долу:
Кликнете върху „Нов проект“, въведете URL адреса в адресната лента на уебсайта, от който искате да извлечете данни, и натиснете enter. След това кликнете върху „Стартиране на проект на този URL адрес.”
След като изберете необходимата страница, кликнете върху „Получаване на данни“ отляво, за да обходите уеб страницата. Ще се появи следният прозорец:
Кликнете върху „Run“ и програмата ще поиска типа данни, който искате да изтеглите. Изберете необходимия тип и програмата ще поиска целевата папка. И накрая, запишете данните в директорията на местоназначението.
OutWit Hub
OutWit Hub е уеб робот, използван за извличане на данни от уебсайтове. Тази програма може да извлича изображения, връзки, контакти, данни и текст от уебсайт. Единствените задължителни стъпки са да въведете URL адреса на уебсайта и да изберете типа данни, които да бъдат извлечени. Изтеглете този софтуер от следната връзка:
https: // www.надхитри.com / products / hub /
След инсталиране и стартиране на програмата се появява следният прозорец:
Въведете URL адреса на уебсайта в полето, показано на горното изображение и натиснете enter. Прозорецът ще покаже уебсайта, както е показано по-долу:
Изберете типа данни, който искате да извлечете от уебсайта, от левия панел. Следващото изображение илюстрира точно този процес:
Сега изберете изображението, което искате да запазите на localhost и кликнете върху бутона за експортиране, маркиран в изображението. Програмата ще поиска директорията на местоназначението и ще запази данните в нея.
Заключение
Уеб роботите се използват за извличане на данни от уебсайтове. Тази статия обсъжда някои инструменти за обхождане на уеб и как да ги използвате. Използването на всеки уеб робот беше обсъдено стъпка по стъпка с фигури, където е необходимо. Надявам се, че след като прочетете тази статия, ще ви бъде лесно да използвате тези инструменти за обхождане на уебсайт.