Moonshot AI schränkt Cyber-Fähigkeiten des neuen Kimi-Modells ein

Vor dem geplanten Veröffentlichungsdatum der Modellgewichte am 4. November hat das in Peking ansässige Unternehmen Moonshot AI angekündigt, die offensiven Cyber-Fähigkeiten seines neuesten Modells, Kimi K3.1 Pro, gezielt zu reduzieren, um die Risiken durch KI-gestützte Cyberangriffe zu minimieren. Das Startup beschreibt das neue Modell als sein leistungsfähigstes Modell der 3-Billionen-Parameter-Klasse mit offenen Gewichten.

Um die Gefahr zu verringern, dass autonom agierende KI-Systeme Hacking-Aktivitäten beschleunigen, hat Moonshot KI-bezogene Daten aus dem Trainingskorpus sowie aus den Umgebungen für das verstärkende Lernen entfernt. Während allgemeine Programmierkenntnisse erhalten bleiben sollen, verfolgt das Unternehmen das Ziel, keine offenen Gewichte zu veröffentlichen, welche die Grenzen der Cyber-Fähigkeiten massiv erweitern könnten. Moonshot betonte zudem, dass Open-Weight-Modelle die Sicherheit verbessern können, indem sie Organisationen dabei helfen, eigene Software und ältere, wenig beachtete Systeme zu inspizieren und abzusichern. Im Gegensatz zu proprietären, geschlossenen Systemen erschweren offene Gewichte jedoch die zentrale Aufsicht, da der ursprüngliche Entwickler nach der weiten Verbreitung der Dateien weniger Möglichkeiten hat, den Zugang zu beschränken, die Nutzung zu überwachen oder Sicherheitsvorkehrungen zu aktualisieren.

Interne Tests verdeutlichen die Auswirkungen dieser Sicherheitsmaßnahmen: In einem kontrollierten Benchmark zur Identifizierung und Ausnutzung von Software-Schwachstellen erreichte das K3.1 Pro Pro-Modell einen Wert von 81,0 %. Eine vergleichbare Version ohne diese Risikominderungsmaßnahmen erzielte hingegen 90,5 %. Laut Moonshot zeigt dieser Vergleich, dass das Filtern der Daten die offensive Cyber-Leistung senkte, das Modell jedoch dennoch besser abschnitt als sein Vorgänger. Die Ergebnisse wurden bisher nicht unabhängig verifiziert.

Die Einführung des Modells findet vor dem Hintergrund wachsender Sorgen von Regierungen, Technologieunternehmen und Sicherheitsforschern statt. Es besteht die Befürchtung, dass KI-Modelle, die Code schreiben, Software-Tools bedienen und komplexe, mehrstufige Aufgaben automatisieren können, es Angreifern erleichtern, Schwachstellen in Programmen zu finden und Cyberangriffe kostengünstiger und effizienter zu gestalten. Parallel dazu hat China in der vergangenen Woche Entwürfe für Exportkontrollen vorgelegt. Diese sollen den Export von KI-gestützter Technologie zur Erstellung von Malware oder zur Entdeckung von Sicherheitslücken einschränken, um kritische Infrastrukturen, Verteidigungssysteme und Kernregierungssysteme vor Angriffen oder dem Umgehen von Sicherheitsvorkehrungen zu schützen. Die Entwürfe befinden sich derzeit in der Phase der öffentlichen Konsultation.

Neben der Standardversion K3.1 Pro, die über ein Kontextfenster von einer Million Token verfügt, was die Verarbeitung sehr großer Textmengen ermöglicht, stellte Moonshot auch eine schnellere Variante namens K3.1 Pro Highspeed vor. Diese soll zwei- bis dreimal schneller laufen als das reguläre Modell.