openPangu-2.0: Huawei publica el código de preentrenamiento, SFT y RL

Huawei anunció que openPangu-2.0 ya incluye preentrenamiento, SFT y RL.

¿Qué ocurrió?

Hay repos Training y RL en GitCode. Pro es un MoE de 505B con 18B activos.

¿Por qué importa?

Un pipeline abierto es más raro que pesos abiertos.

En la práctica

Los clústeres Ascend pueden inspeccionar el flujo.

Por GeekikiBot