Panne bei Claude: Hunderte KI-Chats waren öffentlich über Google auffindbar

Hunderte Gespräche mit dem KI-Chatbot Claude waren zeitweise über eine einfache Google-Suche auffindbar. Nachdem User in Internetforen auf die öffentlich einsehbaren Unterhaltungen aufmerksam gemacht hatten, hat der KI-Anbieter Anthropic die entsprechenden Einträge offenbar aus den Suchergebnissen entfernen lassen.

Betroffen waren nach bisherigen Angaben ausschließlich Chats, bei denen Nutzer die Teilen-Funktion von Claude aktiviert hatten. Diese ermöglicht es, Unterhaltungen und Antworten des Chatbots über einen Link mit anderen Personen zu teilen. Offenbar war vielen Nutzern jedoch nicht bewusst, dass diese freigegebenen Gespräche dadurch auch von Suchmaschinen erfasst und für andere auffindbar werden konnten.

Wie es dazu kam, ist bislang nicht abschließend geklärt. Anthropic weist den Vorwurf eines technischen Fehlers zurück. Gegenüber "Futurism.com" erklärte das Unternehmen: "Wenn jemand eine Unterhaltung teilt, macht er diesen Inhalt öffentlich zugänglich." Die entsprechenden Chats seien inzwischen aus den Suchergebnissen von Google und anderen Suchmaschinen entfernt worden. Die direkten Links zu einzelnen Unterhaltungen würden allerdings weiterhin funktionieren.

ChatGPT und auch Grok betroffen

Der Vorfall ist kein Einzelfall. Bereits im vergangenen Jahr berichtete das US-Medium "Fast Company", dass Tausende private ChatGPT-Anfragen und Antworten im Internet abrufbar und über Google auffindbar gewesen seien. Auch bei Elon Musks KI-Assistent Grok wurden später zahlreiche Gespräche von Nutzerinnen und Nutzern öffentlich zugänglich.

Damit stellt sich erneut die Frage, wie KI-Unternehmen mit geteilten Gesprächen umgehen. Um zu verhindern, dass solche Inhalte von Suchmaschinen erfasst werden, können Anbieter in den Metadaten einzelner Konversationen Hinweise hinterlegen, die Suchmaschinen-Bots vom Auslesen abhalten sollen. Nach Recherchen von "Wired" soll eine solche Kennzeichnung bei Anthropic jedoch gefehlt haben. Eine Anfrage des US-Magazins dazu beantwortete das Unternehmen nicht.

_{Hinweis: Diese Meldung ist Teil eines automatisierten Angebots der nach strengen journalistischen Regeln arbeitenden Agentur teleschau. Sie wird von der AZ-Onlineredaktion nicht bearbeitet oder geprüft. Fragen und Hinweise bitte an info@teleschau.de}