OpenAI hat seine Nutzungsrichtlinien präzisiert und damit klargestellt, dass ChatGPT keine individuelle Rechts- oder Gesundheitsberatung leisten darf. Der KI-Dienst soll nicht in Situationen eingesetzt werden, in denen eine professionelle Lizenz oder Fachbegleitung erforderlich ist – etwa bei medizinischen Diagnosen, juristischen Einschätzungen oder finanziellen Entscheidungen.

Die überarbeiteten Formulierungen, die zum Monatswechsel in Kraft traten, verdeutlichen bestehende Vorgaben. Schon seit Jahresbeginn ist der Einsatz von ChatGPT nämlich untersagt, wenn dessen Nutzung erhebliche Auswirkungen auf Sicherheit, Wohlbefinden oder Rechte Dritter haben könnte. Gegenüber CTV National News betonte OpenAI, dass diese Einschränkungen nicht neu seien, sondern der besseren Verständlichkeit dienen. Der Chatbot könne zwar helfen, komplexe Themen einzuordnen, dürfe aber nicht als Ersatz für fachkundige Beratung gelten.

Aktuelle Studien untermauern, warum diese Klarstellung notwendig ist. Forschende der University of Waterloo fanden heraus, dass ChatGPT bei medizinischen Prüfungsfragen nur in etwa einem Drittel der Fälle vollständig korrekte Antworten lieferte. Eine weitere Untersuchung der University of British Columbia zeigte zudem, dass der selbstbewusste Sprachstil der KI Nutzerinnen und Nutzer leicht dazu verleitet, Aussagen als verlässlich einzustufen, auch wenn diese fehlerhaft sind.