❌

Lese-Ansicht

Alles Open Source, alles unsicher

Was soll man noch nach diesem Monat sagen? Ich habe gerade gesehen, dass wir diesen Monat auch rückwirkend Black October nennen können. Zeit, mal den Monat Revue passieren zu lassen.

Das Thema der KI hat dem Bereich der IT-Sicherheit in den letzten Monaten echt den Rang abgelaufen, daher war ich außerordentlich überrascht, zu sehen, dass die PHP-Lücke so hohe Wellen schlug. Dass tatsächlich ein Teil des WWW abgeschaltet wurde, weil der Patch einer Lücke erwartet wurde, zeigt in erster Linie, dass es einige Admins gibt, die noch schnell reagieren.

Andererseits wurde IT-Sicherheit auch vereinfacht. Wozu aufwändiges Schlüsselmanagement aufbauen, wenn die Zahl 4 auch reicht?

Es zeigt aber auch, dass wir einen Großteil der bei uns im Einsatz befindlichen Software schwer überblicken können. Das wird insbesondere beim Blick auf den PHP-"Fix" schnell deutlich, da es sich dabei nicht nur einfach um einen geänderten Check oder Systemaufruf handelt, sondern an tausenden Stellen Teile verändert werden mussten. Natürlich auch durch die Hilfe durch LLMs.

Wer jetzt allerdings sagt, proprietäre Software sei ja aufgrund des fehlenden Drucks durch Transparenz so viel unsicherer, der kann beruhigt sein, denn: alle Software ist ja mittlerweile Open Source. Zumindest, wenn es nach dem Projekt "Reverse Engineer Anything" (rea) geht, das auf GitHub trendet und gerne eingesetzt wird, um Spiele zu "erweitern" oder Software zu klonen.

Bei rea bin ich auch überrascht, aber nur, weil ich damit gerechnet hatte, dass wir schneller an diesem Punkt ankämen. Software zu kompilieren ist einfach, das Kompilat zu sinnvollem Code rückzuentwickeln ist schwierig – das ist eigentlich eine der Aufgaben, wo maschinelles Lernen am besten glänzen kann. Und das tut es offenbar.

Was der letzte Monat uns aber eigentlich gezeigt hat, ist, dass KI die Hürden zwischen einer Idee und ihrer Umsetzung abbaut. Und das ist das, was vielen eigentlich das Kopfzerbrechen bereitet. Bisher galt: eine Idee ist nicht viel wert, wenn man sie nicht umgesetzt bekommt. Daher lag der Burggraben ("Moat") oft in der Fähigkeit, etwas umzusetzen. Man musste sich keine Sorgen machen, dass jemand anderes die Idee schon vorher hatte. Aber genau das kehrt sich jetzt um. Sei es, dass Software entwickelt oder originalgetreu nachgebaut werden kann, oder dass Lücken in Software gefunden werden können.

Wir leben schon in einer spannenden Welt, wo die Idee "ich möchte in das System einbrechen" jemanden schon so nah an das Ziel bringt. Und Möglichkeiten hierfür gibt es offenbar zuhauf. Das Open-Source-Argument der transparenten Entwicklung hat uns offenbar weder vor der PHP-Lücke noch vor solchen Krachern wie der CVE-2026-99999 bewahrt.

Aber das gilt eben in beide Richtungen. Die gleichen Werkzeuge, die aus der Idee eines Einbruchs einen Einbruch machen, machen aus "wir sollten unseren Code aufräumen" ein tatsächliches Refactoring. Die Hürde sinkt für Angreifer wie für Verteidiger. Nur hatten Verteidiger bisher selten die Zeit, das Budget oder schlicht die Lust dazu.

Ich bin gespannt, was der nächste Monat bringt. In wenigen Tagen soll aus all den öffentlichkeitswirksamen Wohltaten ein Börsengang werden. Ruhiger wird der kommende Monat vermutlich nicht. Sicherlich nicht.

  •  

Bundesregierung rückt von Mistral AI ab

Die Bundesregierung distanziert sich offenbar von einer geplanten Zusammenarbeit mit dem französischen KI-Unternehmen Mistral AI und dem Softwarekonzern SAP. Ein im November 2025 vereinbarter Rahmenvertrag für den Einsatz entsprechender KI-Technologie beim Bund ist vorerst vom Tisch. Während SAP und Mistral ihre Entwicklung zunächst eigenständig fortsetzen sollen, könnte das deutsche KI-Unternehmen Aleph Alpha mit seinem Modell […]

Der Beitrag Bundesregierung rückt von Mistral AI ab erschien zuerst auf fosstopia.

  •  

Mistral greift die KI-Strategie der USA an

Mistral-Chef Arthur Mensch sieht die aktuellen Forderungen nach strengerer KI-Aufsicht kritisch. Seiner Ansicht nach könnten große US-Anbieter von zusätzlichen Regeln profitieren. Gleichzeitig setzt Mistral auf offene Modelle, eigene Rechenzentren und ein stärker europäisch geprägtes KI-Geschäft. Im Mittelpunkt seiner Kritik steht die geplante Zusammenarbeit von OpenAI, Anthropic und Google bei freiwilligen Aufsichtsmechanismen. Mensch vermutet dahinter auch […]

Der Beitrag Mistral greift die KI-Strategie der USA an erschien zuerst auf fosstopia.

  •  

Details zum Hugging Face-Angriff

In den vergangenen Wochen ging es ja rauf und runter über „ausgebrochene“ KI-Agenten und das, was sie auf Webseiten anrichten. Wesentlich interessanter als die Hysterie ist aus meiner Sicht allerdings das, was die Agenten tatsächlich auf den Webseiten getan haben.

In der Risikozone 108 habe ich schon collusion.wiki vorgestellt, wo der Angriff auf DseWiki ausgewertet wurde. Besonders schön fand ich dabei den Vergleich zwischen den Rohdaten und der Auswertung.

Anscheinend ist dieses Format eine gute Vorlage gewesen: swarmtraces.org analysiert in einem ähnlichen Format, wie der Vorfall bei Hugging Face vonstattenging und greift dabei auf öffentliche Spuren zurück. Sehr lesenswert, wie ich finde.

Hier wird dann auch klar, warum ich die Darstellung über diese Form der Angriffe kritisch sehe. Es klingt immer so, als wäre es ein chirurgischer, zielgerichteter Angriff, dabei hämmern die Agenten so lange auf die Webseiten, dass, wie bei Pentests, irgendwann irgendwas zum Vorschein kommt. Es sind eben Spammer, nur in einer sehr mutierten Form.

  •  

KDE plant den KI-Desktop: Auf der Akademy sorgt Kadai für Diskussionen

KDE feiert in diesem Jahr sein 30-jähriges Bestehen. Auf der Akademy in Graz steht trotzdem nicht nur Geschichte im Mittelpunkt. Ein Vortrag über einen KI-nativen und souveränen KDE-Desktop dürfte für kontroverse Diskussionen sorgen. Die Konferenz findet vom 19. bis 23. September an der Technischen Universität Graz statt. KDE blickt dabei auf eine lange Entwicklungsgeschichte zurück. […]

Der Beitrag KDE plant den KI-Desktop: Auf der Akademy sorgt Kadai für Diskussionen erschien zuerst auf fosstopia.

  •  

Mozilla setzt bei KI weiter auf offene Modelle

Mozilla fährt im Hinblick auf KI seine eigene Linie. Eine neue Partnerschaft mit dem französischen KI-Unternehmen Mistral und eine Initiative mit dem kanadischen Forschungsinstitut Mila unterstreichen das.

  •  

Mistral AI erhält 3 Milliarden Euro für Europas KI-Offensive

Mistral AI bekommt deutlich mehr finanziellen Spielraum. Das französische KI-Unternehmen hat 3 Milliarden Euro eingesammelt. Die Bewertung steigt damit auf mehr als 21 Milliarden Euro. Für Europa ist die Runde auch strategisch wichtig. Mistral soll eine Alternative zu den dominierenden US-Anbietern aufbauen. An der Finanzierung beteiligen sich Investoren aus mehreren Regionen. Samsung Electronics führt die […]

Der Beitrag Mistral AI erhält 3 Milliarden Euro für Europas KI-Offensive erschien zuerst auf fosstopia.

  •  

Verschlüsselte KI-Gedanken lassen sich offenbar trotzdem auslesen

Forscher haben eine Schwachstelle bei verschlüsselten KI-Denkprotokollen entdeckt. Betroffen sind offenbar Modelle von OpenAI, Anthropic und Google. Moderne Modelle verarbeiten komplexe Aufgaben intern Schritt für Schritt. Diese sogenannten Reasoning-Traces werden teilweise verschlüsselt an Anwendungen zurückgegeben. Bei späteren Anfragen können sie erneut an den jeweiligen Dienst übertragen werden. Genau diese Architektur haben die Forscher untersucht. Sie […]

Der Beitrag Verschlüsselte KI-Gedanken lassen sich offenbar trotzdem auslesen erschien zuerst auf fosstopia.

  •  

ChatGPT App für Linux geht an den Start

OpenAI veröffentlicht erstmals einen offiziellen Linux-Client für ChatGPT. Die Vorschau unterstützt mehrere verbreitete Distributionen und bietet zusätzlich Codex. Zum Start werden Ubuntu 24.04 LTS und Ubuntu 26.04 LTS unterstützt. Auch Debian 13 sowie Fedora 43 und 44 sind dabei. OpenAI stellt dafür passende DEB- und RPM-Pakete bereit. Unterstützt werden sowohl x64- als auch ARM64-Systeme. Dadurch […]

Der Beitrag ChatGPT App für Linux geht an den Start erschien zuerst auf fosstopia.

  •  

KI-Angriffe erreichen die Realität: Zwei Vorfälle erschüttern die Sicherheitsbranche

Autonome KI-Agenten haben erstmals reale IT-Systeme kompromittiert. Betroffen waren unter anderem Hugging Face sowie drei weitere Organisationen. Die Vorfälle werfen neue Fragen zur Sicherheit moderner KI-Modelle auf. Den ersten bekannt gewordenen Vorfall meldete Hugging Face Mitte Juli. Nach Angaben des Unternehmens führte ein autonomer KI-Agent eigenständig Code aus und verschaffte sich Zugriff auf interne Systeme. […]

Der Beitrag KI-Angriffe erreichen die Realität: Zwei Vorfälle erschüttern die Sicherheitsbranche erschien zuerst auf fosstopia.

  •  
❌