Allgemeines zu den neuen Plugins
GPT-4-Plugins sind Tools, die speziell für Sprachmodelle entwickelt wurden, wobei Sicherheit ein grundlegendes Prinzip ist. Sie helfen ChatGPT dabei, aktuelle Informationen zu erhalten, Berechnungen durchzuführen oder Drittanbieterdienste zu nutzen. Diese Plugins ermöglichen es den Sprachmodellen, auf Informationen zuzugreifen, die zu aktuell, zu persönlich oder zu spezifisch sind, um in den Trainingsdaten enthalten zu sein. Sie können auch auf ausdrücklichen Wunsch des Benutzers sichere, eingeschränkte Handlungen in seinem Namen ausführen, wodurch die Nützlichkeit des Systems insgesamt gesteigert wird.
Die ersten Plugins sind veröffentlicht
Entwickler, die von der Warteliste eingeladen wurden, können die Dokumentation von OpenAI nutzen, um ein Plugin für ChatGPT zu erstellen. ChatGPT listet dann die aktivierten Plugins in der Eingabeaufforderung auf, die dem Sprachmodell angezeigt wird, und stellt Dokumentation bereit, um dem Modell zu erklären, wie es jedes Plugin nutzen kann.
Die ersten Plugins, die implementiert wurden, stammen von externen Partnern wie Wolfram Alpha und Zapier. OpenAI hostet auch zwei eigene Plugins, einen Webbrowser und einen Code-Interpreter, und hat den Code für ein Plugin zur Abfrage einer Wissensbasis veröffentlicht, das von jedem Entwickler selbst gehostet werden kann, der Informationen hat, mit denen er ChatGPT ergänzen möchte.
Review zum GPT Plugin Store
Die Verbindung von Sprachmodellen mit externen Tools birgt neue Möglichkeiten, aber auch erhebliche neue Risiken. Plugins bieten das Potenzial, verschiedene Herausforderungen im Zusammenhang mit großen Sprachmodellen anzugehen, einschließlich “Halluzinationen”, dem Schritt halten mit aktuellen Ereignissen und dem Zugriff (mit Genehmigung) auf proprietäre Informationsquellen. Sie können auch dazu beitragen, die Antworten der Modelle mit evidenzbasierten Referenzen zu stärken und den Benutzern dabei helfen, die Vertrauenswürdigkeit der Ausgabe des Modells zu bewerten und dessen Genauigkeit zu überprüfen.
Gleichzeitig besteht das Risiko, dass Plugins die Sicherheitsherausforderungen erhöhen könnten, indem sie schädliche oder unbeabsichtigte Handlungen ausführen und die Fähigkeiten von schlechten Akteuren erhöhen, die betrügen, irreführen oder andere missbrauchen würden. Aus diesem Grund wurden von Anfang an mehrere Sicherheitsmaßnahmen implementiert, darunter die Durchführung von Red-Teaming-Übungen, um mögliche bedenkliche Szenarien zu identifizieren und Sicherheitsvorkehrungen in das Design der GPT-4-Plugins sind Tools, die speziell für Sprachmodelle entwickelt wurden, wobei Sicherheit ein grundlegendes Prinzip ist. Sie helfen ChatGPT dabei, aktuelle Informationen zu erhalten, Berechnungen durchzuführen oder Drittanbieterdienste zu nutzen.
Die neusten Plugins im Store
