Outils pour utilisateurs

Outils du site


python

Quelques informations concernant l'utilisation de python sur la plateforme

Problème concernant le lock files avec Keras et H5PY

Si vous utilisez une bibliothèque pour manipuler des fichiers, il est possible que vous rencontriez un problème lié au lock file. En effet, sur toutes les machines utilisant CentOs (les noeuds liés à frontalhpc), il semblerait que le NFS (système de fichier en réseau) ait un paramètre visant à bloquer les lock files.

Voici la solution pour contourner ce problème si vous utilisez la bibliothèque de deep learning 'Keras'. Par exemple, si vous souhaitez enregistrer un modèle avec des checkpoints, vous risquez de rencontrer ce type d'erreur:

OSError: Unable to create file(unable to lock file, errno=5, error message='Input/output error')

Keras utilise la bibliothèque H5PY pour enregistrer ses modèles et c'est cette bibliothèque qui renvoie l'erreur.

Pour la résoudre, il faut lui spécifier, via une variable d'environnement, de ne pas utiliser les lock file:

export HDF5_USE_FILE_LOCKING="FALSE"

Vous pouvez insérer cette commande dans votre script d'exécution ou encore dans votre bashrc.

python.txt · Dernière modification: 2019/07/17 12:31 de nicwagne