Contacte:Bib.utp@uab.cat

Dilluns 15 de juny del 2015


 
SobrecĂ rrega del DDD per robots xinesos

Bon dia,

durant tot el cap de setmana, el DDD ha estat patint una sobrecàrrega de consultes degut a la visita descontrolada dels robots de Baidu, el Google xinès.  Ja fa anys que coneixem la manca d'escrúpols i l'agresivitat d'aquests robots, evidentment no només el DDD; per poc que cerqueu a Internet missatges de com aturar Baiduspider entendreu com de desesperats van els administradors de les webs afectades per les seves visites.

Fins aquest cap de setmana, la regla que teníem al fitxer robots.txt era que podia recollr els documents però no fer cerques, perquè així ens estalviàvem la sobrecàrrega de la base de dades.  No sé per què, des de divendres al migdia, Baiduspider ja no fa cas d'aquesta regla.  Ahir diumenge vaig barrar-li el pas del tot, però les poques pàgines de Baidu que estan en anglès ja adverteixen que el resultat de canviar les regles de robots.txt poden trigar una estona en reflectir-se en el seu comportament.

El resultat d'aquesta sobrecàrrega és que el sistema va més lent i, de tant en tant, pot acabar reiniciant-se el servidor web (Apache).  Esperem que durant el dia d'avui la situació es vagi normalitzant.  Si no fos així, haurem de trobar solucions més radicals.

Ben cordialment,

Ferran Jorba

Servei d'Informàtica