Procházet zdrojové kódy

Merge pull request #396 from 50h100a/pr_notneuron

Fix memory pinning conditional
50h100a před 11 měsíci
rodič
revize
1da7fd64bc
1 změnil soubory, kde provedl 1 přidání a 1 odebrání
  1. 1 1
      aphrodite/modeling/sampling_metadata.py

+ 1 - 1
aphrodite/modeling/sampling_metadata.py

@@ -257,7 +257,7 @@ class SamplingTensors:
 
         # Note that the performance will be very bad without pinned memory.
         # Pinned memory allows non-blocking transfers to device.
-        pin_memory = not in_wsl() or is_neuron()
+        pin_memory = not in_wsl() and not is_neuron()
 
         def _tensor(contents: list, dtype) -> torch.Tensor:
             loc_t = torch.tensor(contents,