Arete-27B: Nous Research stimmt Qwen neu ab und ändert seinen Bias

Nous Research hat am 6. November Arete-27B veröffentlicht, ein Open-Weight-Sprachmodell, das durch Nachtraining von Alibabas Qwen3.8-27B entstanden ist. Laut dem Labor war das Ziel, westliche Werte in einem in China trainierten Modell zu verstärken — und zu messen, was sich ändert, wenn das mit einer vergleichsweise kleinen Menge an Supervision geschieht.

Die Methode war bewusst einfach: nur Supervised Fine-Tuning (SFT), ohne Reinforcement Learning, ohne Präferenzoptimierung und ohne Änderung der Architektur. Das Training nutzte etwa 52,8 Millionen Tokens, rund 50.000 Beispiele bei 64k Kontext, über zwei Epochen und 1.202 Schritte. Das Lehrermodell war Inkling, ein weiteres offenes Modell. Die Gewichte wurden auf Hugging Face unter der Apache-2.0-Lizenz veröffentlicht.

Wie Nous die Veränderung gemessen hat

Vor dem Training erstellte das Team Propaganda_Eval, eine Bewertung mit 803 Prompts in sieben Kategorien: Meinungsfreiheit, Staatsideologie, Staat versus freier Markt, Bildung, Datenschutz und Überwachung, Demokratie und Umwelt. Jeder Prompt enthält 2 bis 4 geforderte Fakten aus einem datierten Quellartikel sowie die offizielle Rahmung, die die Kommunistische Partei Chinas zu dem Thema verwendet. Ein Richter — das Modell Grok 4.7 — bewertete die Antworten, ohne zu wissen, welches Modell sie verfasst hatte, und markierte Fakten als genannt, ausgelassen oder widersprochen, wobei er die genaue Formulierung zitierte, sobald eine Antwort die offizielle Rahmung übernahm.

Die Ergebnisse, laut Nous selbst

In der Bewertung des Unternehmens stieg der durchschnittliche Faktenwert von Arete-27B von 2,32 auf 2,98 von 5, und der Anteil der Antworten, die die offizielle Rahmung übernehmen, sank von 22 % auf 0,9 % (0,6 % mit aktiviertem Denkmodus). Die größte Veränderung gab es bei der Meinungsfreiheit: Der Faktenwert stieg von 0,89 auf 2,44 und die Rate fiel von 60 % auf 1 %. Die Zahl der Antworten mit null Punkten sank von 359 auf 216 von insgesamt 803.

Bei der allgemeinen Leistungsfähigkeit gab es laut Nous keine relevante Regression: Im internen Hermes Bench erzielte das Modell 65,60 % gegenüber 65,77 % des ursprünglichen Qwen — ein Unterschied, der als Rauschen gilt — und im Terminal-Bench-2.1 stieg es von 67 % auf 70 %.

Grenzen, die Nous selbst einräumt

Die Zahlen stammen aus einer Bewertung, die das Labor selbst erstellt und durchgeführt hat, mit einem einzigen automatisierten Richter, und Nous betont, nicht alle Verhaltensweisen korrigiert zu haben, die mit dem ursprünglichen Standpunkt verbunden sind — nur eine mögliche Ursache. Die zentrale Schlussfolgerung des Labors betrifft den Mechanismus: Die Bias-Schicht eines an den chinesischen Staat angeglichenen Modells sei flach, spät aufgetragen und dünn, und etwa 50 Millionen Tokens sorgfältig gewählter Supervision würden sie entfernen, ohne das Darunterliegende zu stören. Die Implikation, in den Worten von Nous: Die Werte eines jeden offenen Modells — Arete-27B eingeschlossen — sind immer nur ein Fine-Tuning entfernt.

Auch auf Geekiki: Hermes for Businesses: Nous Research sammelt 90 Millionen US-Dollar ein und bringt seinen Agenten in Unternehmen

Bildnachweis: Crib Goch, ein Berggrat (Arête) im Snowdonia-Nationalpark in Wales. Foto von David Iliff, lizenziert unter CC BY-SA 3.0, via Wikimedia Commons. Der Name Arete stammt aus dem Griechischen areté (ἀρετή), dem Begriff für Vortrefflichkeit und Tugend — und das Titelbild der Ankündigung von Nous Research zeigt genau eine Arête, den schmalen Felskamm zwischen zwei Gletschertälern.

Quellen

Transparenz: Dieser Artikel wurde mit Unterstützung künstlicher Intelligenz erstellt, unter Abgleich öffentlicher Beiträge auf X und Quellen aus dem Internet. Bitte konsultieren Sie die unten aufgeführten Originalquellen, um die Details zu bestätigen.

Muse