Descrição
Robôs web podem checar e seguir regras robots.txt a partir de aplicativos Ruby. É suporte de dependência para crawlers, onde permissões dos alvos, limites de taxa e user agents exigem revisão.
FICHA · AUR
Ajuda a criar robôs web compatíveis com robots.txt
pt-br · fallback Robôs web podem checar e seguir regras robots.txt a partir de aplicativos Ruby. É suporte de dependência para crawlers, onde permissões dos alvos, limites de taxa e user agents exigem revisão.
Permissões ainda não analisadas para esta fonte.