Normale Ansicht

Received before yesterday

Open-Source-Tools von Nvidia sollen Chatbots sicherer machen

02. Mai 2023 um 06:10

“NeMo Guardrails” heißt das Toolkit von Nvidia, dass der Grafikspezialist unter einer Open-Source-Lizenz veröffentlicht hat. Damit sollen Chatbots sicherer werden.

NeMo Guardrails soll sich bei der Entwicklung sicherer und vertrauenswürdiger LLM-Konversationssysteme bewähren, teilt Nvidia mit. Die Sicherheit in der generativen KI sei ein branchenweites Anliegen und NeMo Guardrails sei so entwickelt worden, dass es mit allen LLMs funktioniere, einschließlich ChatGPT von OpenAI.

Dieses Leitplanken-Toolkit setze auf von der Community erstellten Werkzeugen wie LangChain. Die Toolkits würden kombinierbare und einfach zu verwendende Vorlagen und Muster anbieten, um LLM-gestützte Anwendungen zu erstellen. Dabei könnten LLMs, APIs und andere Softwarepakete zusammengebaut werden, so Nvidia in einem Blogbeitrag.

Mit dem Toolkit ließen sich Regeln aufstellen, um das Verhalten von Chatbots auf Nutzereingaben zu definieren. Derzeit gebe es die drei Regelsätze Topical, Safety und Security. Topical weise den Chatbot an, auf ein bestimmtes Thema konzentriert zu bleiben und nicht in unerwünschte Bereiche abschweifen. Security-Leitplanken würden dafür sorgen, dass Interaktionen mit einem LLM nicht zu Fehlinformationen, toxischen Reaktionen oder unangemessenen Inhalten führen. Security-Regeln verhinderten, dass ein LLM bösartigen Code ausführe oder eine externe Anwendung auf eine Weise aufrufe, die ein Sicherheitsrisiko darstellt.

Der Beitrag Open-Source-Tools von Nvidia sollen Chatbots sicherer machen erschien zuerst auf Linux-Magazin.

Facebook ab September ohne IE6

26. August 2010 um 20:43

Facebook hat in seinem Blog angekündigt, ab 15. September ein neues Chatsystem zu nutzen, um mehr Stabilität in die Funktion zu bringen. Oft kam es in letzter Zeit vor, dass der Chat einfach abstürzte oder Nachrichten im Nirwana verschwanden. Erst vor ein paar Monaten gab es eine Panne im Chat System. Damals war es möglich, andere Gespräche zu belauschen, woraufhin das ganze Chatsystem kurzzeitig abgeschaltet wurde. Mit dem neuen Chat System wird jedoch der Internet Explorer 6 nicht mehr unterstützt. So tragisch wird das für die Internet Explorer Nutzer nicht sein, denn dessen Anhängeranteil ist inzwischen deutlich unter 10 % gefallen. Die Mehrheit, also Firefox bzw. IE8 Nutzer und die etlichen Usern, die Facebook über Handys oder Smartphones aufsuchen (immerhin 150 Millionen), wird von der Umstellung also kaum etwas mitbekommen, außer dass Nachrichten eventuell regelmäßig beim Empfänger landen.

Urgstein mIRC mit neuer Version 7.1

02. August 2010 um 11:37

Lange war es ruhig um den IRC Client mIRC. Jetzt hat das Programm ein finales Update bekommen und steht offiziell in der Version 7.1 zur Verfügung.

Der Changelog ist etwas länger und kann für die komplette Version 7 hier eingesehen werden. Wer jetzt nicht gleich weiß was mIRC für ein Client sein soll, der ist gut beraten mal bei der Wikipedia nachzulesen was genau hinter dem Internet Relay Chat steckt. Kurz gesagt ist es ein recht altes textbasiertes Chatsystem, welches sich immer noch großer Beliebtheit erfreut. Leider handelt es sich bei mIRC um Shareware, das Programm kann aber dennoch ohne Probleme genutzt werden. Es gibt natürlich noch viele andere Clients, um sich im IRC zu bewegen oder man nutzt nur ein Plugin für den Browser. Empfehlen würde ich als Windows Alternative den Nettalk Client. Dieser ist Freeware und steht mIRC in Nichts nach. Was sind eure Favoriten?

 

❌