Projet

Général

Profil

Actions

Bug #3553

fermé

Statistiques bloqués

Ajouté par Emmanuel GRANGE il y a presque 12 ans. Mis à jour il y a plus de 11 ans.

Statut:
Closed
Priorité:
High
Assigné à:
Catégorie:
Statistiques
Début:
18/07/2012
Echéance:
% réalisé:

100%

Temps estimé:
Navigateur:
Tous
Votre version de Silverpeas:
5.9
Système d'exploitation:
Linux
Votre base de données:
Toutes
Livraison en TEST:
Livraison en PROD:

Description

Bonjour,

Les statistiques du portail ne sont plus à jour.
Tous les matins, de 1:00 jusqu'à 2:00 du matin, on a des erreurs du style :

18/07/12-01:00:00,443 - ERROR : The job 'SilverStatisticsSize' was not successfull | MODULE : silverstatistics.SilverStatisticsManager.handleSchedulerEvent |
!!! Message The job 'SilverStatisticsSize' was not successfull NOT INITIALIZED !!!
...
18/07/12-01:30:38,714 - ERROR : silverstatistics.EX_SUPPLY_VOLUME_COMPONENT_FAILED | MODULE : silverstatistics.SilverStatisticsVolumeAlimentation.getCollectio
nUserIdCountVolume() | !!! Message silverstatistics.EX_SUPPLY_VOLUME_COMPONENT_FAILED NOT INITIALIZED !!! (No statistic implementation class for component 'AP
I')
...

Fichiers

annuites.xml (1,71 ko) annuites.xml Emmanuel Hugonnet, 28/08/2012 14:17
demandeConges.xml (1,75 ko) demandeConges.xml Emmanuel GRANGE, 03/09/2012 13:56
API.xml (3,2 ko) API.xml Emmanuel GRANGE, 03/09/2012 13:56
traces.zip (3,86 ko) traces.zip Emmanuel GRANGE, 05/09/2012 15:22
traces.20121112.zip (2,85 Mo) traces.20121112.zip Traces statistiques Emmanuel GRANGE, 13/11/2012 11:07
server.log.2012-11-12 (8,75 ko) server.log.2012-11-12 Traces JBOSS Emmanuel GRANGE, 13/11/2012 11:07
stat_evolution_taille_fichiers_joints-20121119.jpg (48,9 ko) stat_evolution_taille_fichiers_joints-20121119.jpg Emmanuel GRANGE, 19/11/2012 10:12
SilverStatistics.properties (4,1 ko) SilverStatistics.properties Emmanuel GRANGE, 19/11/2012 10:12

Mis à jour par Emmanuel Hugonnet il y a presque 12 ans

Auriez-vous un workflow API ?
Avez-vous déclaré alors :
API=com.silverpeas.processManager.ProcessManagerStatistics dans le fichier $SILVERPEAS_HOME/properties/com/stratelia/silverpeas/silverstatistics/SilverStatistics.properties

Mis à jour par Emmanuel GRANGE il y a presque 12 ans

Je serais tenté de dire "non", car je ne vois pas de quoi il s'agit.

Mis à jour par Emmanuel Hugonnet il y a presque 12 ans

  • Statut changé de New à Feedback

Chaque 'composant' de silverpeas doit déclarer la classe qui sera utilisée pour enregistrer ses statistiques.Cela est fait dans le fichier indiqué.
Dans le cadre des workflows, il faut ajouter l'entrée 'manuellement' par le biais de SilverpeasSettings.
Pouvez-vous effectuer cette opération manuellement et redémarrer le serveur avant cette nuit pour voir si cela corrige votre souci ?
Si c'est le cas je reviendrai vers vous avec le correctif de configuration à apporter.

Mis à jour par Emmanuel GRANGE il y a presque 12 ans

Nous avons testé, il y a quelques temps de ça, des workflows, mais nous n'avons pu donner suite principalement par manque de temps.

Donc , il y a effectivement quelques composants qui ont été instanciés, il y a longtemps, mais pour l'instant ils ne sont pas utilisé. Est-il possible de désactiver les statistiques de ces composants tout simplement, en attendant, que nous nous replongions dans le sujet ?

Mis à jour par Emmanuel Hugonnet il y a presque 12 ans

J'ai bien peur que non car il n'y a pas de notion d'actif pour les statistiques : tous les composants sont analysés pour produire les statistiques.
Pour ce que vous souhaitez il faudrait une 'liste noire' d'instances de composants à ignorer mais cela n'est pas à l’étude pour l'instant.

Mis à jour par Emmanuel GRANGE il y a plus de 11 ans

Certains composants n'ont pas de définitions dans $SILVERPEAS_HOME/properties/com/stratelia/silverpeas/silverstatistics/SilverStatistics.properties :

annuites
API
formsOnline
indicateurs
silverCrawler
wiki

Est-ce normal ?
De plus, Comment faire pour supprimer les applications 'annuites', 'API' et 'indicateurs' ?
Je n'accède plus à leurs pages de propriétés, car elles n'existe plus, donc je ne peux plus les supprimer, et j'obtiens une erreur Etat HTTP 500 !

Mis à jour par Emmanuel GRANGE il y a plus de 11 ans

Une solution pour supprimer ces composants ?

Mis à jour par Emmanuel Hugonnet il y a plus de 11 ans

Soit remettre les descripteurs XML afin de pouvoir les supprimer via l'interface.
Soit supprimer directement en base en respectant les contraintes .

Mis à jour par Emmanuel GRANGE il y a plus de 11 ans

Les descripteurs XML date de la v4.
Y-a-t'il un risque de les mettre sur une v5 ?

Faut-il d'autres fichiers ?

Mis à jour par Emmanuel GRANGE il y a plus de 11 ans

J'ai copié les descripteurs xml des composants manquants dans le dossier xmlcomponenets dans notre environnement de test.
Mais, après l'avoir démarré, je n'arrive toujours pas à accéder aux pages de paramétrage de ces composants (Etat HTTP 500).

Les descripteurs ont été déposés sur l'extranet : https://extranet.silverpeas.com/silverpeas/Publication/7305

Mis à jour par Emmanuel Hugonnet il y a plus de 11 ans

Effectivement depuis Silverpeas V5 il faut respecter le schema qui a été défini :
<WAComponent xmlns="http://silverpeas.org/xml/ns/component&quot; xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance&quot;
xsi:schemaLocation="http://silverpeas.org/xml/ns/component http://www.silverpeas.org/xsd/component.xsd">

Mis à jour par Emmanuel GRANGE il y a plus de 11 ans

Il faut mettre à jour chaque tag de chaque fichier ou bien seulement l'entête ?

Mis à jour par Emmanuel Hugonnet il y a plus de 11 ans

Non il faut réecrire le XML pour qu'il corresponde au schema.
Ce qui donne par exemple pour annuité :

Mis à jour par Emmanuel GRANGE il y a plus de 11 ans

Bonjour,

Lorsque j'essaie de convertir les fichiers xml exactement au bon format, ça ne marche pas.
Cependant, si j'omets les parties des paramétrages (<paramters>)de ces applications, j'accède enfin aux pages de propriétés.
Mais cela ne risque t'il pas de créer un problème de cohérence entre la base de données et les données du portail ?

Mis à jour par Emmanuel GRANGE il y a plus de 11 ans

Ci-joint, les 2 fichiers qui me posent problème

Mis à jour par David Lesimple il y a plus de 11 ans

Bonjour,

non, à priori, l'absence des paramètres n'est pas dommageable, l'essentiel est de pouvoir accéder à la page d'accueil de l'application pout pouvoir la supprimer de l'espace.
Note: ne pas oublier de la vider de la corbeille d'espaces également.

Mis à jour par Emmanuel GRANGE il y a plus de 11 ans

Bonjour,

J'ai installé les nouveau descriptif xml, et j'ai ainsi pu supprimer les instances des applications posant problème.
Cependant, ce matin (05/09/2012) à 1:00, après mise à jour des statistiques, j'ai toujours des erreurs dans le traces.txt (cf fichier joint).

L'évolution de la taille des fichiers joint est toujours bloquée en mai 2011

Mis à jour par Emmanuel GRANGE il y a plus de 11 ans

Pas d'idées ?

Mis à jour par Emmanuel Hugonnet il y a plus de 11 ans

Non je ne vois rien pouvant expliquer cela.
J'hésite à vous faire passer en mode debug pour avoir éventuellement plus de traces (et nous fournir aussi les traces de Jboss avec) car cela risque de produire des fichiers volumineux.

Mis à jour par Emmanuel GRANGE il y a plus de 11 ans

J'ai laissé tourné notre portail de test pendant plus d'une semaine, après avoir supprimé toutes les instances des applications obsolètes.
Les traces semblent bien montrer une mise à jour des statistiques.
Mais l'historique de la taille des fichiers joints n'a toujours pas évolué (dernière date Mai 2011 ~39Go),
Et la taille totale des pièces jointes affiche ~60Go, bien que la partition data affiche 82Go (workspaces=65Go)

Ci joint, les traces des statistiques effectuées en mode debug

scheduledGetStatSizeTimeStamp=05 15 * * *
scheduledGetStatVolumeTimeStamp=35 15 * * *
scheduledCumulStatTimeStamp=0 16 * * *

Mis à jour par Nicolas Eysseric il y a plus de 11 ans

Merci de nous fournir la capture d'écran du graphe de l'évolution de la taille des fichiers sur le serveur.
Pouvez-nous fournir le contenu de la table sb_stat_sizedir ainsi que le fichier SILVERPEAS_HOME/properties/com/stratelia/silverpeas/silverstatistics/SilverStatistics.properties ?

Après différentes recherches, il apparait que nous avons exactement le même problème sur notre extranet !
Le cumul est nul depuis le mois de Juin 2010...
David, peux-tu me fournir le contenu de la table sb_stat_sizedir de l'extranet ?

J'en profite pour apporter quelques précisions sur les volumes.
Le nombre de fichiers joints et la taille des fichiers joints sont basés sur les fichiers joints aux applications (interrogation de la base de données exclusivement).
L'évolution de la taille des fichiers joints a un comportement différent. Il s'agit là d'un calcul basé sur l'espace disque occupé par toutes les données (répertoire SILVERPEAS_DATA_HOME/data). Il est donc normal qu'une différence existe entre les deux derniers indicateurs.

Mis à jour par David Lesimple il y a plus de 11 ans

Sur l'extranet, la table sb_stat_sizedir est vide...

Mis à jour par Emmanuel GRANGE il y a plus de 11 ans

Pareil, la table sb_stat_sizedir est vide.
Les statistiques s'arrêtent en mai 2011 (graphique et fichier de config ci-joint)

Mis à jour par Nicolas Eysseric il y a plus de 11 ans

Pouvez-vous nous fournir le contenu de la table sb_stat_sizedircumul ?
De plus, pouvez-vous mettre le module Silverpeas.Bus.SilverStatistics en DEBUG et nous fournir les traces du lendemain ?

Merci d'avance...

Mis à jour par Nicolas Eysseric il y a plus de 11 ans

  • Statut changé de Feedback à In progress...
  • Assigné à mis à Nicolas Eysseric
  • % réalisé changé de 0 à 50
Deux problèmes ont été détectés :
  • les crons scheduledGetStatSizeTimeStamp et scheduledCumulStatTimeStamp ne sont pas corrects. Ils sont exécutés toutes les minutes respectivement entre 1h et 1h59 et entre 2h et 2h59. Cela génère des statistiques fausses sur les données présentes sur le serveur (beaucoup trop élevées).
  • le calcul de la taille de SILVERPEAS_DATA_HOME génère de manière aléatoire une erreur. Elle est "trappée" et ne peut donc pas être identifiée.

Mis à jour par Nicolas Eysseric il y a plus de 11 ans

  • Statut changé de In progress... à Closed
  • Version cible mis à Version 5.11.1
  • % réalisé changé de 50 à 100
  • Navigateur changé de Firefox 10 à Tous
  • Votre base de données changé de PostgreSQL à Toutes

Correction validée sur notre extranet.

Actions

Formats disponibles : Atom PDF