Datasets documentation
Utilidades
Utilidades
Configurar el registro
🤗 Datasets se esfuerza por ser transparente y explícito sobre su funcionamiento, aunque a veces esto puede resultar bastante prolijo. Hemos incluido una serie de métodos de registro que te permiten ajustar fácilmente el nivel de detalle de toda la biblioteca. Actualmente, el nivel de detalle predeterminado de la biblioteca está establecido en WARNING.
Para cambiar el nivel de verbosidad, use uno de los setters directos. Por ejemplo, así se cambia la verbosidad al nivel INFO:
import datasets
datasets.logging.set_verbosity_info()También puede usar la variable de entorno DATASETS_VERBOSITY para anular la verbosidad predeterminada y establecerla en uno de los siguientes valores: debug, info, warning, error, critical:
DATASETS_VERBOSITY=error ./myprogram.py
Todos los métodos de este módulo de registro están documentados a continuación. Los principales son:
- logging.get_verbosity() para obtener el nivel de verbosidad actual del registrador
- logging.set_verbosity() para establecer el nivel de detalle que prefieras
En orden de menor a mayor nivel de detalle (con sus valores int correspondientes):
logging.CRITICALologging.FATAL(valor entero, 50): solo informa sobre los errores más críticos.logging.ERROR(valor entero, 40): solo informa sobre errores.logging.WARNINGologging.WARN(valor entero, 30): solo informa sobre errores y advertencias. Este es el nivel predeterminado utilizado por la biblioteca.logging.INFO(valor int, 20): informa sobre errores, advertencias e información básica.logging.DEBUG(valor int, 10): informa toda la información.
Devuelve el nivel actual del registro raíz de la biblioteca de conjuntos de datos de HuggingFace.
La biblioteca de datasets de HuggingFace tiene los siguientes niveles de registro:
datasets.logging.CRITICAL,datasets.logging.FATALdatasets.logging.ERRORdatasets.logging.WARNING,datasets.logging.WARNdatasets.logging.INFOdatasets.logging.DEBUG
datasets.utils.logging.set_verbosity
< source >( verbosity: int )
Establece el nivel del registrador raíz de la biblioteca Hugging Face Datasets.
Establece el nivel del registro raíz de la biblioteca de datasets de Hugging Face en INFO.
Esto mostrará la mayor parte de la información de registro y las barras de tqdm.
Atajo a datasets.logging.set_verbosity(datasets.logging.INFO).
Establece el nivel del registro raíz de la biblioteca de datasets de Hugging Face en WARNING.
Esto mostrará solo la información de registro de advertencias y errores y las barras de tqdm.
Atajo a datasets.logging.set_verbosity(datasets.logging.WARNING).
Establece el nivel del registro raíz de la biblioteca de datasets de Hugging Face en DEBUG.
Esto mostrará toda la información de registro y las barras de tqdm.
Atajo a datasets.logging.set_verbosity(datasets.logging.DEBUG).
Establezca el nivel del registro raíz de la biblioteca de conjuntos de datos de Hugging Face en ERROR.
Esto mostrará solo la información de registro de errores y las barras de tqdm.
Atajo a datasets.logging.set_verbosity(datasets.logging.ERROR).
Desactive la propagación de las salidas de registro de la biblioteca. Tenga en cuenta que la propagación de registros está desactivada de forma predeterminada.
Habilite la propagación de las salidas de registro de la biblioteca. Desactive el controlador predeterminado de la biblioteca Hugging Face datasets para evitar el registro duplicado si el registrador raíz ha sido configurado.
Configurar las barras de progreso
Por defecto, las barras de progreso de tqdm se mostrarán durante la descarga y el preprocesamiento de los conjuntos de datos. Puede desactivarlas de forma global estableciendo la variable de entorno HF_DATASETS_DISABLE_PROGRESS_BARS. También puede activarlas o desactivarlas mediante enable_progress_bars() y disable_progress_bars(). Si se establece, la variable de entorno tiene prioridad sobre los helpers.
Habilita las barras de progreso globales utilizadas en datasets, a menos que se haya establecido la variable de entorno HF_DATASETS_DISABLE_PROGRESS_BARS.
Use disable_progress_bars() para desactivarlos.
Desactiva globalmente las barras de progreso utilizadas en datasets, a menos que se haya establecido la variable de entorno HF_DATASETS_DISABLE_PROGRESS_BARS.
Use enable_progress_bars() para volver a activarlos.
Devuelve si las barras de progreso están deshabilitadas globalmente o no.
Las barras de progreso utilizadas en datasets se pueden habilitar o deshabilitar de forma global mediante enable_progress_bars() y disable_progress_bars() o estableciendo HF_DATASETS_DISABLE_PROGRESS_BARS como variable de entorno.