Können Nachrichtenagenturen einen „vertrauenswürdigen“ KI-Chatbot entwickeln?

Von Mia Sato, Plattform- und Community-Reporterin mit fünf Jahren Erfahrung in der Berichterstattung über die Unternehmen, die Technologie gestalten, und die Menschen, die ihre Tools nutzen.

Nachrichtenverleger sind kopfüber in die künstliche Intelligenz gesprungen und nutzen generative KI-Tools, um langweilige Reiseführer, ungenaue Filmblogs und SEO-Köder-Erklärungen zu erstellen. Im Großen und Ganzen lautete das Ziel: Können wir mehr Seiten für Anzeigen erstellen, ohne mehr Autoren zu bezahlen?

Jetzt versucht eine Gruppe von Technologieunternehmen, generative KI in ihre Websites zu integrieren, obwohl die Leser in absehbarer Zeit keine Namenszeile einer Maschine finden werden. Am 1. August wurde Macworld, PCWorld, Tech Advisor und TechHive ein KI-Chatbot-Tool hinzugefügt, das verspricht, dass Leser „[ihre] technischen Fragen von KI beantwortet bekommen können, basierend nur auf Geschichten und Bewertungen unserer Experten“.

Der KI-Chatbot mit dem Namen Smart Answers erscheint in fast allen Artikeln und auf den Homepages der Websites, die dem Medien-/Marketingunternehmen Foundry gehören. Smart Answers ist nur auf den Korpus englischsprachiger Artikel der vier Websites spezialisiert und schließt gesponserte Inhalte und Deals-Beiträge aus. Die Benutzererfahrung ähnelt anderen Verbrauchertools wie ChatGPT: Leser geben eine Frage ein und Smart Answers spuckt eine Antwort aus. Alternativ können Leser eine Anfrage aus einer FAQ-Liste auswählen, die KI-generiert ist, aber auf den Fragen und Klicks der Leute basiert. Die Antworten von Smart Answers enthalten Links zu den Artikeln, aus denen Informationen entnommen wurden.

Das Ziel, sagt die Führung, besteht darin, den Lesern dabei zu helfen, im Berg an Schriften nach bestimmten Informationen zu suchen.

„Wir haben eine riesige Fülle an Inhalten. Aber manchmal möchte man nicht 2.000 Wörter großartigen Journalismus lesen – manchmal möchte man einfach nur eine bestimmte Tatsache“, sagte Neil Bennett, Global Director of Product and Data bei Foundry, gegenüber The Verge.

Das Unternehmen habe vor dem Start etwa fünf Monate an der Entwicklung von Smart Answers gearbeitet, sagt Bennett, und zwei bis drei Monate lang Testrunden mit der Redaktion durchgeführt. Eine Arbeitsgruppe aus Redaktionen testete frühe Versionen des Tools und bewertete die Antworten, bis sie mit den Antworten zufrieden waren.

„Worauf wir bei unseren Tests wirklich achten mussten, ist, dass die Antworten, die sie geben, wirklich vertrauenswürdig sind, es sind die gleichen Antworten, die ein Redakteur geben würde“, sagt Marie Black, Redaktionsleiterin bei Foundry.

Man geht davon aus, dass Smart Answers ein zentrales Problem lösen könnte, das Nutzer bei anderen KI-Tools gesehen haben: die Tendenz, Fehler zu machen, nicht vorhandene Quellen zu zitieren oder falsche Informationen zu erfinden, die plausibel klingen. Smart Answers ist nur auf Inhalte spezialisiert, die von seriösen Medien veröffentlicht werden müssen – aber es ist immer noch ein großes Versprechen zu sagen, dass der Chatbot Antworten auf Redakteursebene liefern kann.

Smart Answers hat Probleme mit Fragen, die einfach erscheinen. Als ich den Chatbot fragte: „Wann wurde der letzte iPod Nano veröffentlicht?“ Es wurde fälschlicherweise angegeben, dass es im Jahr 2022 veröffentlicht und eingestellt wurde. Einige Tage später hatte sich die Antwort geändert: „Ich habe nicht genügend Informationen, um diese Frage zu beantworten.“

Der Chatbot antwortet oft auf diese Weise; Es weiß zum Beispiel nicht, wer der CEO von TikTok ist. Das könnte ein Hinweis auf die Art der Berichterstattung sein, die die Foundry-Verkaufsstellen anbieten (oder auch nicht). Es scheint sowohl eine Einschränkung als auch eine gute Sache zu sein – einerseits wird jemand, der das Tool verwendet, wahrscheinlich immer noch Fragen haben, die er woanders suchen muss, um Antworten zu erhalten. Aber in diesen Fällen ist es zumindest nicht so, dass man sich etwas ausdenkt, nur um eine Antwort zu bekommen.

Im Fall der iPod Nano-Anfrage schlug Black vor, dass der Chatbot möglicherweise auf ältere Geschichten über iPods zurückgreift, die seit Jahren nicht mehr aktualisiert wurden. (Das Gerät wurde 2017 eingestellt.) Bei Fehlern wie diesem verlässt sich Foundry auf das Feedback der Benutzer über die Nützlichkeit der Antworten – wenn Leser oder Mitarbeiter Probleme finden, werden sie zu Miso.AI zurückgeleitet, dem KI-Unternehmen, das den Chatbot von Foundry entwickelt.

Smart Answers dient einem anderen Zweck: Affiliate-Einnahmen

Smart Answers dient neben der Synthese von Informationen aus vollständigen Artikeln noch einem weiteren Zweck: Affiliate-Einnahmen. Unterhalb der generierten Antworten und oberhalb der relevanten Story-Links enthält das Tool Kaufoptionen für Artikel, die es für die Suche eines Lesers als relevant erachtet. Eine Frage zur iPhone-Akkulaufzeit lieferte beispielsweise Shopping-Links zu einer Handvoll Einzelhändlern, die Mobiltelefone verkaufen.

Viele Verkaufsstellen wie die von Foundry monetarisieren Inhalte mithilfe von Affiliate-Marketing-Anzeigen und generieren jedes Mal Einnahmen, wenn ein Leser über seinen Link einen Kauf tätigt. (Das machen wir auch bei The Verge.) Auf diese Weise wird Smart Answers zu einer neuen Möglichkeit, diese Anzeigen zu schalten, die so generiert werden, dass sie den Fragen eines Benutzers entsprechen.

„Da gibt es Links zum Kauf, die wir als Teil des Leserservices betrachten. Wenn sie nach einem Produkt fragen, sind sie wahrscheinlich auf dem Markt, um es zu kaufen“, sagt Black.

Nutzer auf der Website zu halten, bis sie etwas kaufen – sei es durch KI-generierte Klappentexte oder ausführliche Rezensionen – ist wichtiger denn je, da generative KI die Google-Suche übernimmt. Verlage, insbesondere diejenigen, die Produktrezensionen oder Empfehlungslisten erstellen, müssen erheblichen Traffic (und Werbeeinnahmen) verlieren, da Googles KI-gesteuerte Search Generative Experience Ausschnitte aus Artikeln über Informationsquellen platziert.

„Ich halte es für unrealistisch, jemals anzunehmen, dass Smart Answers den Traffic, den wir alle durch die Google-Suche verlieren, direkt ersetzen wird“, sagt Black. Die Hoffnung besteht darin, die Interaktion mit Lesern zu vertiefen, die bereits auf der Website sind.

Angesichts der Kritik an der Einführung von KI-Initiativen haben andere Medienunternehmen wie G/O Media die Generierung von KI-Inhalten verdoppelt, was die Mitarbeiter frustriert und die Betriebe dazu veranlasst hat, sich gewerkschaftlich zu organisieren. Black behauptet, dass Macworld, PCWorld, Tech Advisor und TechHive keine KI-generierten Geschichten veröffentlichen werden und dass der Chatbot für den Berichtsprozess nützlich sein könnte. Benutzeranfragen oder unbefriedigende Antworten könnten Reportern und Redakteuren signalisieren, dass mehr Berichterstattung erforderlich ist.

„Das stellt in keiner Weise eine Bedrohung für unsere Journalisten dar“, sagt Black. „Ohne unsere Journalisten kann es buchstäblich nicht existieren, ohne dass sie ausführliche Texte schreiben, die jede Frage beantworten, die ein Leser stellen könnte.“

/ Melden Sie sich für Verge Deals an, um täglich Angebote für von uns getestete Produkte in Ihrem Posteingang zu erhalten.