"""Tests for parallel JAX utilities, especially all_gather. These tests verify that the all_gather function correctly gathers distributed arrays from all devices and materializes them on each device. ...
assert ps.get_tensor_model_parallel_group() is not None assert ps.get_pipeline_model_parallel_group() is not None assert ps.get_data_parallel_group() is not None ...
Sommige resultaten zijn verborgen omdat ze mogelijk niet toegankelijk zijn voor u.
Niet-toegankelijke resultaten weergeven