Doch der Schein trügt, denn manchmal liefern diese Systeme Antworten, die auf den ersten Blick richtig erscheinen, aber falsch sind – sie halluzinieren. Eine Tatsache, die gerade beim Einsatz in Unternehmen fatale Folgen haben kann.
Um Halluzinationen entgegenzuwirken, braucht es Lösungen, die als „Gatekeeper“ fungieren und die Ergebnisse, basierend auf den vorhandenen Unternehmensdaten, verifizieren. Dafür eignen sich Lösungen wie Insight Engines. Sie analysieren und verknüpfen Informationen aus den unterschiedlichen Datenquellen und bringen diese in eine einheitliche Form (Index). Durch den Einsatz von unterschiedlichen Methoden der künstlichen Intelligenz, wie Natural Language Question Answering (NLQA), können Abfragen in natürlicher Sprache eingegeben werden. Mitarbeitende stellen Fragen zu Produkten, Personen, Themen und erhalten entsprechend der Zugriffsrechte eine Antwort. Die Insight Engine liefert dabei dem LLM alle internen Fakten und das LLM erstellt daraus die Antwort inklusive Quellenangaben. Damit ist die Herkunft der Informationen eindeutig nachvollziehbar.
Erst in Kombination mit einer Insight Engine ist ein LLM in der Lage, verifizierbare Ergebnisse im Unternehmenskontext zu erzeugen und einen Mehrwert bei gleichzeitiger Reduktion von Halluzinationen und unter Beachtung des Zugriffs- und Rechtesystems zu erbringen. Beispielsweise in der Medikamentenentwicklung, wo sie potenzielle Wirkstoffkombinationen identifizieren oder Wechselwirkungen aufzeigen können. Sie vereinfachen und beschleunigen die tägliche Arbeit, indem sie Studienergebnisse sichten und je nach Anforderung entsprechende Zusammenfassungen verfassen oder Literaturdatenbanken durchsuchen und wichtige Punkte hervorheben. Der Zeitaufwand bei Neuzulassungen oder Erneuerungen kann reduziert werden, da sie historische Unterlagen prüfen und z. B. aufzeigen können, dass ähnliche Zulassungen bereits abgelehnt wurden.
Von der künstlichen Intelligenz à la Terminator sind wir noch weit entfernt. Es ist der Mensch, der die Entscheidungen trifft. KI-Systeme in der richtigen Kombination und für den richtigen Geschäftsfall eingesetzt, sind aber eine wertvolle Unterstützung, wenn es darum geht, große Datenmengen innerhalb kürzester Zeit zu analysieren, zu interpretieren, Zusammenfassungen zu erstellen oder auf Fragen zu antworten.
