Die Wahrheit über LLM -Halluzinationen mit Barry Adams

Der Start von ChatGPT hat die Suchbranche ausgeholt, und in den letzten Jahren wurden immer mehr KI -Integration in die Ergebnisse der Suchmaschinen -Ergebnisse verzeichnet.

In dem Versuch, mit den LLMs Schritt zu halten, startete Google AI -Übersichten und kündigte gerade die Registerkarte AI -Modus an.

Die Erwartung ist, dass SERPs mit einer Schnittstelle für großes Sprachmodell (LLM) gemischt werden, und die Art der Suche nach Benutzern wird sich an Gespräche und Reisen anpassen.

Es gibt jedoch ein Problem im Zusammenhang mit KI -Halluzinationen und Fehlinformationen innerhalb von LLM- und Google -KI -Übersicht, die Ergebnisse generierten, und es scheint nicht nur von Google, sondern auch von den Nachrichtenverlagern, die es betrifft, weitgehend ignoriert zu werden.

Besorgniserregender ist, dass Benutzer entweder nicht wissen oder bereit sind, die Kosten für Fehlinformationen aus Gründen der Bequemlichkeit zu akzeptieren.

Barry Adams ist die Autorität für redaktionelle SEO und arbeitet mit den führenden Nachrichtenverlagern weltweit über polemische Digital zusammen. Barry gründete zusammen mit John Shehata auch den News & Editorial SEO Summit.

Ich habe einen LinkedIn -Beitrag von Barry gelesen, in dem er sagte:

„LLMs sind unglaublich dumm. An LLMs hat nichts Intelligentes. Sie sind fortgeschrittene Wortprädiktoren, und sie für jeden Zweck verwenden, der eine Grundlage für überprüfbare Fakten erfordert – wie Suchanfragen – ist grundlegend falsch.

Aber die Leute scheinen sich nicht darum zu kümmern. Google scheint sich nicht darum zu kümmern. Und die Tech -Industrie ist es verdammt noch mal egal, sie sind absichtlich von Dollarschildern geblendet.

Ich bin nicht der Meinung, dass die breiteren Medien über die inhärenten Ungenauigkeiten von LLMs ausreichend berichten. Verlage möchten sagen, dass generative KI eine existenzielle Bedrohung für die Veröffentlichung im Internet darstellen könnte, aber sie weisen jedoch nicht konsequent auf die größte Schwäche von Genai hin. “

Der Beitrag veranlasste mich, mit ihm ausführlicher über LLM -Halluzinationen, ihre Auswirkungen auf die Veröffentlichung und die Branche zu sprechen, um die Grenzen der KI zu verstehen.

Sie können das vollständige Interview mit Barry auf IMHO unten ansehen oder die Zusammenfassung der Artikeln weiter lesen.

Warum sind LLMs so schlecht in Quellen?

Ich bat Barry, zu erklären, warum LLMs mit genauem Quellzuordnung und sachlicher Zuverlässigkeit zu kämpfen haben.

Barry antwortete: “Es liegt daran, dass sie nichts wissen. Es gibt keine Intelligenz. Ich denke, es ist das falsche Etikett. Sie sind in keiner Weise intelligent. Sie sind Wahrscheinlichkeitsmaschinen. Sie haben keine Argumentationsfakultäten, wie wir es verstehen.”

Er erklärte, dass LLMs operieren, indem sie Antworten auf der Grundlage von Trainingsdaten erfassen und dann versuchten, ihre Antworten durch Grundlagen zu rationalisieren und Zitate zu verknüpfen.

Selbst bei sorgfältiger Aufforderung, nur verifizierte Quellen zu verwenden, behalten diese Systeme eine hohe Wahrscheinlichkeit, Referenzen zu halluzinieren.

“Sie sind nur einen prädiktiven Text von Ihrem Telefon, auf Steroiden, und sie werden es Ihnen einfach erfinden und es Ihnen sehr zuversichtlich präsentieren, denn das ist genau das, was sie tun. Das ist die ganze Natur der Technologie”, betonte Barry.

Diese selbstbewusste Präsentation potenziell falscher Informationen stellt ein grundlegendes Problem dar, wie diese Systeme in Szenarien eingesetzt werden, für die sie nicht geeignet sind.

Schaffen wir eine KI -Spirale der Fehlinformationen?

Ich teilte Barry meine Bedenken über eine KI -Fehlinformationsspirale mit, in der KI -Inhalte auf andere KI -Inhalte zunehmend verweist und möglicherweise die Quelle von Fakten und Wahrheit vollständig verliert.

Barrys Ausblick war pessimistisch: „Ich glaube, dass die Menschen sich nicht so sehr um die Wahrheit kümmern, wie wir es vielleicht glauben. Ich denke, die Leute werden ihnen Informationen akzeptieren, die ihnen präsentiert werden, wenn sie nützlich sind und wenn es ihren bereits bestehenden Überzeugungen entspricht.“

“Die Leute kümmern sich nicht wirklich um die Wahrheit. Sie kümmern sich um Bequemlichkeit.”

Er argumentierte, dass die letzten 15 Jahre der sozialen Medien bewiesen haben, dass Menschen die Bestätigung ihrer Überzeugungen vor der sachlichen Genauigkeit priorisieren.

LLMs ermöglichen diesen Prozess noch mehr als soziale Medien, indem sie bequeme Antworten geben, ohne kritisches Denken oder Überprüfung erforderlich zu machen.

“Die wirkliche Bedrohung ist, wie KI die Wahrheit durch Bequemlichkeit ersetzt”, stellte Barry fest und stellte fest, dass die Umarmung von KI von Google einen klaren Schritt davon darstellt, sachliche Informationen zu finden, um das zu liefern, was Benutzer hören möchten.

Barry warnte, dass wir eine Spirale betreten, in der „ganze Gesellschaften in parallelen Realitäten leben und wir die andere Seite als gefälschte Nachrichten und einfach nicht real verspotten“.

Warum rufen Mainstream -Medien nicht die Grenzen der KI auf?

Ich habe Barry gefragt, warum Mainstream -Medien nicht über die Schwächen von AI sind, insbesondere angesichts der Tatsache, dass Verlage sich selbst retten könnten, indem sie die öffentliche Wahrnehmung von Gen -AI -Grenzen beeinflussen.

Barry identifizierte mehrere Faktoren: „Google ist eine so leistungsstarke Kraft, um den Verkehr und Einnahmen für Verleger zu steigern, dass viele Verlage Angst haben, zu kritisch über Google zu schreiben, weil sie der Meinung sind, dass es sich um Auswirkungen handelt.”

Er bemerkte auch, dass viele Journalisten nicht wirklich verstehen, wie KI -Systeme funktionieren. Technologiejournalisten, die die Probleme verstehen, werfen manchmal Fragen auf, aber Generalreporter für große Zeitungen fehlen häufig das Wissen, um die KI -Behauptungen ordnungsgemäß zu prüfen.

Barry wies auf Googles Versprechen hin, dass KI -Übersichten als Beispiel mehr Verkehr an Verleger senden würden: „Es stellt sich heraus, nein, das ist genau das Gegenteil von dem, was passiert, was jeder mit zwei Gehirnzellen eine Meile entfernt sah.“

Wie erklären wir Nachrichtenverlagern die Verkehrsreduzierung?

Ich habe untersucht, dass Benutzer auf Quellen klicken, um die KI -Ausgänge zu überprüfen, und dass Google KI -Übersichten in Top -Nachrichten nicht anzeigt. Der Verkehr zu Nachrichtenverlagern sinkt jedoch weiterhin insgesamt.

Barry erklärte, dies beinhaltete mehrere Faktoren:

„Die Leute klicken auf Quellen. Die Leute überprüfen die Zitate doppelt, aber nicht im gleichen Maße wie zuvor. Chatgpt und Gemini geben Ihnen eine Antwort. Die Leute klicken auf zwei oder drei Links, um dies zu überprüfen.

Zuvor würden Benutzer, die ihre eigenen Forschungen durchführen, auf 30 bis 40 Links klicken und sie ausführlich lesen. Jetzt könnten sie KI -Antworten mit nur wenigen Klicks überprüfen.

Während Nachrichtenverlage weniger von KI-Übersichten betroffen sind, haben sie außerdem den Datenverkehr auf Erklärungsinhalten, Hintergrundgeschichten und Analysetiten verloren, die KI jetzt direkt mit minimalem Klick für Quellen übernimmt. “

Barry betonte, dass Google den Publisher -Verkehr seit Jahren durch Algorithmus -Updates und -bemühungen, die Benutzer innerhalb von Googles Ökosystem länger zu halten, verringert.

“Google ist das Monopol -Informations -Gateway im Web. Sie können also sagen:” Oh, sei nicht von Google abhängig “, aber Sie müssen dort sein, wo Ihre Benutzer sind und Sie kein praktikables Publishing -Unternehmen haben können, ohne sich stark auf Google -Verkehr zu verlassen.”

Was sollten Verlage tun, um zu überleben?

Ich fragte Barry um seine Empfehlungen zur Optimierung der LLM-Inklusion und der Überleben der Einführung der Suchergebnisse von AI-generierten.

Barry riet den Verlegern, zu akzeptieren, dass der Suchverkehr abnimmt und sich auf den Aufbau einer stärkeren Markenidentität konzentrieren wird.

“Ich denke, Verlage müssen sicherer sein, was sie sind, und speziell, was sie nicht sind.”

Er hob die finanziellen Zeiten als vorbildliches Modell hervor, weil „niemand Zweifel an der finanziellen Zeit hat und welche Art von Berichterstattung sie anmelden“.

Diese Klarheit ermöglicht eine starke Abonnementumwandlung, da die Leser den spezifischen Wert verstehen, den sie erhalten.

Barry betonte, wie wichtig es ist, die Markenmacht zu entwickeln, die die Benutzer speziell für bestimmte Veröffentlichungen suchen lässt.

Er verwendete das Beispiel der Daily Mail, die durch eine konsistente Markenidentität erfolgreich ist. Benutzer suchten speziell nach dem Markennamen mit aktuellen Suchanfragen wie „Meghan Markle Daily Mail“ oder „Prinz Harry Daily Mail“.

Ziel ist es, direkte Beziehungen aufzubauen, die Vermittler durch Apps, Newsletter und direkte Website -Besuche umgehen.

Die Markenidentität imperativ

Barry betonte, dass Verlage, die ähnliche Themen mit austauschbaren Inhalten behandeln, existenziellen Bedrohungen ausgesetzt sind.

Er arbeitet mit Publishern zusammen, wo „sie alle das gleiche Zeug mit denselben Screenshots und denselben festgelegten Fotos und so ziemlich den gleichen Inhalt berichten.“

Solche Veröffentlichungen werden anfällig, weil die Leser nichts verlieren, indem sie eine Quelle für eine andere ersetzen. Erfolg erfordert die Entwicklung von einzigartigen Wertversprechen, die das Publikum speziell nach bestimmten Veröffentlichungen suchen.

“Sie müssen als Verlag eine sehr starke Markenidentität haben. Und wenn Sie sie nicht haben, werden Sie wahrscheinlich in den nächsten fünf bis zehn Jahren nicht existieren”, schloss Barry.

Barry beriet Nachrichtenverlage, sich auf Markenentwicklung, Abonnementmodelle und Erstellung von Inhaltsökosystemen zu konzentrieren, die nicht ausschließlich auf Google beruhen. Das mag weniger Klicks bedeuten, aber ein sinnvolleres Engagement mit höherer Qualität.

Vorwärts gehen

Barrys Meinung und die Realität der Veränderungen, die KI erzwingen, sind harte Wahrheiten.

Die Branche erfordert eine ehrliche Anerkennung von KI -Einschränkungen, strategischen Markenaufbau und Akzeptanz, dass einfacher Suchverkehr nicht zurückkommt.

Verlage haben zwei Optionen: um den minderenden Suchverkehr mit den gleichen Inhalten, die alle anderen produzieren, weiter zu verfolgen, oder investieren in direkte Publikumsbeziehungen, die nachhaltige Grundlagen für Qualitätsjournalismus bieten.

Vielen Dank an Barry Adams, dass Sie seine Einsichten angegeben haben und mein Gast bei IMHO sind.

Weitere Ressourcen:

• Google Discover, AI -Modus und was es für Verlage bedeutet: Interview mit John Shehata
• KI hat die Funktionsweise der Suche verändert
• SEO im Zeitalter der KI

Ausgewähltes Bild: Shelley Walsh/Suchmaschine Journal