ChatGPT-Integration

ChatGPT kann Ihnen helfen, viele Ihrer Aufgaben in den Bereichen Kundenservice, Inhaltserstellung, Zusammenarbeit und als Assistent zu automatisieren. Wir bei ScriptOne haben ChatGPT API bereits in unsere Kundenanwendungen implementiert. Kontaktieren Sie uns noch heute, um eine Demo zu sehen und zu erfahren, wie wir eine Integration für Ihre Anwendung erstellen können.

Um chatGPT API zu verwenden, benötigen Sie ein OpenAI-Konto und einen API-Schlüssel. Sie können dann auf die chatGPT-Modelle über den Endpunkt /v1/chat/completions zugreifen. Sie können Ihre Eingabeaufforderung entwerfen, indem Sie einige Anweisungen oder Beispiele angeben, die das Modell befolgen soll. Sie können auch verschiedene Parameter angeben, um die Ausgabe anzupassen, z. B. Temperatur, frequency_penalty, presence_penalty, stop_sequences, usw.

Hier sind einige technische Details

Wie man die chatGPT Vervollständigungs-API für konversationelle KI verwendet

Die chatGPT Vervollständigungs-API ist eine neue spezielle API für die Interaktion mit den chatGPT- und GPT-4-Modellen, bei denen es sich um Sprachmodelle handelt, die für konversationelle Schnittstellen optimiert sind. Die chatGPT- und GPT-4-Modelle verhalten sich anders als die älteren GPT-3-Modelle. Frühere Modelle waren text-in und text-out, d.h. sie akzeptierten einen Prompt-String und gaben eine Vervollständigung zurück, die an den Prompt angehängt wurde. Die chatGPT- und GPT-4-Modelle hingegen sind conversation-in und message-out. Die Modelle erwarten eine Eingabe, die in einem bestimmten Chat-ähnlichen Transkriptionsformat formatiert ist, und geben eine Vervollständigung zurück, die eine vom Modell geschriebene Nachricht im Chat darstellt.

In diesem Artikel zeigen wir Ihnen, wie Sie die chatGPT completion API verwenden können, um ansprechende und natürliche Unterhaltungen mit Ihren Benutzern zu führen. Wir werden auch einige der Funktionen und Parameter der API erklären, die Sie verwenden können, um Ihr Chaterlebnis anzupassen.

Voraussetzungen

Um die chatGPT Vervollständigungs-API zu verwenden, benötigen Sie:

- Ein Azure OpenAI-Konto mit Zugriff auf die chatGPT- und GPT-4-Modelle (Vorschau). Sie können den Zugang beantragen, indem Sie dieses Formular ausfüllen: https://learn.microsoft.com/en-us/azure/cognitive-services/openai/how-to/chatgpt.

- Einen Azure OpenAI Ressourcen-Endpunkt und einen API-Schlüssel. Sie finden diese in Ihrem Azure-Portal.

- Eine Python-Umgebung, in der das openai-Paket installiert ist. Sie können es mit pip install openai installieren.

Erstellen einer einfachen Konversationsschleife

Die chatGPT Vervollständigungs-API ist für die Verwendung in einer Schleife konzipiert, in der Sie eine Nachricht vom Benutzer an das Modell senden, eine Antwort vom Modell erhalten und dies wiederholen, bis die Konversation endet. Die API erwartet ein Array von Nachrichten als Eingabe, wobei jede Nachricht ein Wörterbuch ist, das eine "Rolle" und einen "Inhalt" enthält. Die Rolle kann entweder "Benutzer" oder "Assistent" sein, je nachdem, wer gerade spricht. Der Inhalt ist der Text der Nachricht.

Hier ist ein Beispiel, wie man die chatGPT completion API in Python benutzt:

import os
import openai
openai.api_type = "azure"
openai.api_version = "2023-03-15-preview"
openai.api_base = os.getenv("OPENAI_API_BASE") # Der Endpunktwert Ihrer Azure OpenAI Ressource.
openai.api_key = os.getenv("OPENAI_API_KEY")

messages = [] # Initialisieren Sie ein leeres Array mit Nachrichten
while True:
# Holen Sie sich die Benutzereingabe
user_input = input("User: ")
# Fügen Sie die Benutzernachricht zum messages-Array hinzu
messages.append({"role": "user", "content": user_input})
# Rufen Sie die chatGPT completion API mit dem messages-Array auf
response = openai.ChatCompletion.create(
engine="gpt-35-turbo", # Der Einsatzname, den Sie beim Einsatz des ChatGPT- oder GPT-4-Modells gewählt haben.
messages=messages
)
# Assistentennachricht aus Antwort abrufen
assistant_message = response["choices"][0]["message"]["content"]
# Assistentennachricht ausdrucken
print("Assistant:", assistant_message)
# Assistentennachricht zum messages-Array hinzufügen
messages.append({"role": "assistant", "content": assistant_message})

Dieser Code erstellt eine einfache Konversationsschleife, in der Sie als Benutzer irgendetwas eingeben können und eine Antwort vom Assistenten erhalten. Zum Beispiel:

Benutzer: Hallo

Assistent: Hallo, ich bin ein Assistent, der von chatGPT unterstützt wird.

Benutzer: Was können Sie tun?

Assistent: Ich kann mit Ihnen über alles reden, was Sie wollen.

Benutzer: Wie wäre es mit Sport?

Assistentin: Klar, ich mag Sport. Was ist Ihr Lieblingssport?

Anpassen der Chat-Erfahrung

Die chatGPT Vervollständigungs-API bietet mehrere Parameter, die Sie verwenden können, um Ihr Chaterlebnis zu individualisieren. Hier sind einige von ihnen:

- Temperatur: Dieser Parameter steuert, wie kreativ oder konservativ das Modell bei der Erstellung von Antworten ist. Eine höhere Temperatur bedeutet mehr Kreativität und Vielfalt, aber auch ein höheres Risiko von Fehlern oder unsinnigen Antworten. Eine niedrigere Temperatur bedeutet mehr Konsistenz und Kohärenz, aber auch mehr Vorhersehbarkeit und Wiederholungen. Der Standardwert ist 0,7, was ein gutes Gleichgewicht zwischen Kreativität und Kohärenz darstellt. Sie können mit verschiedenen Werten zwischen 0 und 1 experimentieren, um zu sehen, wie sie das Verhalten des Modells beeinflussen.

- Häufigkeit_Bestrafung: Mit diesem Parameter werden neue Token auf der Grundlage ihrer bisherigen Häufigkeit im generierten Text bestraft. Eine höhere Häufigkeitsstrafe bedeutet weniger Wiederholungen, aber auch ein größeres Risiko, Kohärenz oder Relevanz zu verlieren