Character.AI, ein KI-Chatbot, bei dem sich der Anwender einen Gesprächspartner maßschneidern konnte, meldet nach nur 5 Jahren Existenz Konkurs an.

Mistral-Chef Arthur Mensch sieht die aktuellen Forderungen nach strengerer KI-Aufsicht kritisch. Seiner Ansicht nach könnten große US-Anbieter von zusätzlichen Regeln profitieren. Gleichzeitig setzt Mistral auf offene Modelle, eigene Rechenzentren und ein stärker europäisch geprägtes KI-Geschäft. Im Mittelpunkt seiner Kritik steht die geplante Zusammenarbeit von OpenAI, Anthropic und Google bei freiwilligen Aufsichtsmechanismen. Mensch vermutet dahinter auch […]

Der Beitrag Mistral greift die KI-Strategie der USA an erschien zuerst auf fosstopia.

Erst kamen immer mehr Einzelfälle hinzu, jetzt ist eine neue Dimension erreicht: Ausgebrochene Agenten von OpenAI sollen in mehr als 100 Fällen versucht haben, Sicherheitsvorkehrungen ohne…

In den vergangenen Wochen ging es ja rauf und runter über „ausgebrochene“ KI-Agenten und das, was sie auf Webseiten anrichten. Wesentlich interessanter als die Hysterie ist aus meiner Sicht allerdings das, was die Agenten tatsächlich auf den Webseiten getan haben.

In der Risikozone 108 habe ich schon collusion.wiki vorgestellt, wo der Angriff auf DseWiki ausgewertet wurde. Besonders schön fand ich dabei den Vergleich zwischen den Rohdaten und der Auswertung.

Anscheinend ist dieses Format eine gute Vorlage gewesen: swarmtraces.org analysiert in einem ähnlichen Format, wie der Vorfall bei Hugging Face vonstattenging und greift dabei auf öffentliche Spuren zurück. Sehr lesenswert, wie ich finde.

Hier wird dann auch klar, warum ich die Darstellung über diese Form der Angriffe kritisch sehe. Es klingt immer so, als wäre es ein chirurgischer, zielgerichteter Angriff, dabei hämmern die Agenten so lange auf die Webseiten, dass, wie bei Pentests, irgendwann irgendwas zum Vorschein kommt. Es sind eben Spammer, nur in einer sehr mutierten Form.

Nach einem erneuten Ausbruch eines KI-Agenten aus einer Testumgebung, die in diesem Fall nach dem Hugging-Face-Vorfall bereits besonders gesichert war, pausiert OpenAI das Training seiner Tools…

Wie nun bekannt wurde, sind KI-Agenten von OpenAI bereits im Mai und Juni ungewollt und unerlaubt in fremde Rechner eingebrochen oder haben das versucht.

Diskussionen um die Nutzung von KI in Freier Software werden oft unversöhnlich geführt. Wie bereits zuvor Debian erfährt nun das KDE-Projekt eine solche Auseinandersetzung, die durch Außenstehende zusätzlich befeuert wird.

KDE und GNOME haben Richtlinienentwürfe zur LLM-Nutzung veröffentlicht. Während der Vorschlag von KDE die LLM-Nutzung nicht ausschließt, wendet sich der Vorschlag eines GNOME‑Entwicklers klar dagegen.

KDE feiert in diesem Jahr sein 30-jähriges Bestehen. Auf der Akademy in Graz steht trotzdem nicht nur Geschichte im Mittelpunkt. Ein Vortrag über einen KI-nativen und souveränen KDE-Desktop dürfte für kontroverse Diskussionen sorgen. Die Konferenz findet vom 19. bis 23. September an der Technischen Universität Graz statt. KDE blickt dabei auf eine lange Entwicklungsgeschichte zurück. […]

Der Beitrag KDE plant den KI-Desktop: Auf der Akademy sorgt Kadai für Diskussionen erschien zuerst auf fosstopia.

Mozilla fährt im Hinblick auf KI seine eigene Linie. Eine neue Partnerschaft mit dem französischen KI-Unternehmen Mistral und eine Initiative mit dem kanadischen Forschungsinstitut Mila unterstreichen das.

OpenAI-CEO Sam Altman hat bekanntgegeben, dass er den für dieses Jahr geplanten Börsengang verschieben wird.

Wegen des Andrangs auf das erst vor wenigen Tagen freigegebene neue Modell GPT-6 Astra musste OpenAI die Anmeldungen für das 200-Dollar-Pro-Abo aussetzen.

Mistral AI bekommt deutlich mehr finanziellen Spielraum. Das französische KI-Unternehmen hat 3 Milliarden Euro eingesammelt. Die Bewertung steigt damit auf mehr als 21 Milliarden Euro. Für Europa ist die Runde auch strategisch wichtig. Mistral soll eine Alternative zu den dominierenden US-Anbietern aufbauen. An der Finanzierung beteiligen sich Investoren aus mehreren Regionen. Samsung Electronics führt die […]

Der Beitrag Mistral AI erhält 3 Milliarden Euro für Europas KI-Offensive erschien zuerst auf fosstopia.

Ein noch nicht veröffentlichtes KI-Modell von OpenAI hat eines der sieben sogenannten Millennium-Probleme der Mathematik geknackt, auf deren Lösung der amerikanische Geschäftsmann Landon T.

OpenAI hat mit ChatGPT-6 Astra sein bisher leistungsstärkstes Modell auf den Markt gebracht.

Das neue Sprachmodell Astra von OpenAI hat erstmals die höchste Cybersicherheitswarnstufe des Unternehmens erreicht.

Perplexity hat mit dem Projekt Portable Computer eine Version seiner Plattform für agentische KI veröffentlicht, die vollständig auf lokaler Hardware laufen kann, zunächst auf Nvidias DGX Spark…

OpenAI hat das KI-Training einiger seiner führenden Modelle vorübergehend ausgesetzt, um sicherzustellen, dass die Standards hinsichtlich Alignment, Sicherheit und Überwachung angesichts der…

Forscher haben eine Schwachstelle bei verschlüsselten KI-Denkprotokollen entdeckt. Betroffen sind offenbar Modelle von OpenAI, Anthropic und Google. Moderne Modelle verarbeiten komplexe Aufgaben intern Schritt für Schritt. Diese sogenannten Reasoning-Traces werden teilweise verschlüsselt an Anwendungen zurückgegeben. Bei späteren Anfragen können sie erneut an den jeweiligen Dienst übertragen werden. Genau diese Architektur haben die Forscher untersucht. Sie […]

Der Beitrag Verschlüsselte KI-Gedanken lassen sich offenbar trotzdem auslesen erschien zuerst auf fosstopia.

OpenAI veröffentlicht erstmals einen offiziellen Linux-Client für ChatGPT. Die Vorschau unterstützt mehrere verbreitete Distributionen und bietet zusätzlich Codex. Zum Start werden Ubuntu 24.04 LTS und Ubuntu 26.04 LTS unterstützt. Auch Debian 13 sowie Fedora 43 und 44 sind dabei. OpenAI stellt dafür passende DEB- und RPM-Pakete bereit. Unterstützt werden sowohl x64- als auch ARM64-Systeme. Dadurch […]

Der Beitrag ChatGPT App für Linux geht an den Start erschien zuerst auf fosstopia.

Igor Babuschkin, der einst zusammen mit Elon Musk dessen KI-Unternehmen xAI gegründet hatte, setzt mit seinem eigenen Startup River AI nun voll auf Open Source.

Ein neues Open-Weight-LLM des Startups Liquid AI, 2023 gegründet von ehemalihgen MIT-Forschern, hat mit LFM2.5-2.6B ein neues LLM veröffentlicht, dass ohne GPUs auskommt, lokal auf Laptops und…

Autonome KI-Agenten haben erstmals reale IT-Systeme kompromittiert. Betroffen waren unter anderem Hugging Face sowie drei weitere Organisationen. Die Vorfälle werfen neue Fragen zur Sicherheit moderner KI-Modelle auf. Den ersten bekannt gewordenen Vorfall meldete Hugging Face Mitte Juli. Nach Angaben des Unternehmens führte ein autonomer KI-Agent eigenständig Code aus und verschaffte sich Zugriff auf interne Systeme. […]

Der Beitrag KI-Angriffe erreichen die Realität: Zwei Vorfälle erschüttern die Sicherheitsbranche erschien zuerst auf fosstopia.

Torvalds stellte kürzlich klar, der Kernel sei nicht Anti-KI. Greg Kroah-Hartman hat jetzt eine Sperre für KI in einem von ihm verantworteten Subsystem verkündet.

Wir leben in wundersamen Zeiten. Einerseits beschert uns KI enorme Produktivitätsgewinne, andererseits drohen Gefahren wie autonom agierende Systeme, die durch Social-Engineering Angriffe planen.