Kolibri Aleph Alpha abre pesos: modelo europeu de 78B com 1 milhão de tokens
Catégories: Tecnologia
O Kolibri Aleph Alpha teve os pesos liberados em 3 de outubro sob Apache 2.0. O modelo MoE tem 78 bilhões de parâmetros, cerca de 3,5 bilhões ativos por token e contexto de até 1 milhão de tokens.
Lire la suite