Faktentreue beim Schreiben mit künstlicher Intelligenz: Spendenprojekt gestartet
Ein Dokument
Pressemitteilung
Freiburg, 14. November 2023
Faktentreue beim Schreiben mit künstlicher Intelligenz: Spendenprojekt gestartet
Sprachmodelle basierend auf künstlicher Intelligenz wie ChatGPT interagieren mit Nutzerinnen und Nutzern im Dialog und geben vertrauenswürdig erscheinende Antworten. Doch sind die Auskünfte immer richtig? Unabhängig von Auftraggebern und finanziert von privaten Spenden befasst sich das Öko-Institut in seinem neuen Spendenprojekt mit den spezifischen Risiken, aber auch mit den Chancen der neuen Sprachmodelle auf Basis künstlicher Intelligenz (KI).
Falschen Informationen entgegenwirken
Wenn KI-Sprachmodelle trainiert werden, werten sie große Text- und Datenmengen aus. Insbesondere beim Sprachmodell ChatGPT war es offenkundig das primäre Entwicklungsziel, dass es auf jede Frage eine Antwort gibt, die Qualität der Antwort ist nachrangig. Die Antworten können also plausibel klingen, aber keine faktische Basis haben. So wird es für Laien schwer, Fakten und Fiktion zu unterscheiden. Desinformationskampagnen, insbesondere im Klimaschutzbereich, nehmen zu und können durch die Werkzeuge der künstlichen Intelligenz erleichtert werden.
„Hier liegt eine große Gefahr, falsche Informationen können sich in der Gesellschaft negativ auf die Akzeptanz von Maßnahmen und Instrumenten zum Klimaschutz auswirken“, sagt Carl-Otto Gensch, Projektleiter am Öko-Institut. Bei der Faktentreue der Antworten setzt das neu gestartete Projekt an. Dort soll eine Methode entwickelt werden, um Antworttexte von KI-Sprachmodellen zu wichtigen Themen des Umwelt- und Klimaschutzes zu prüfen und auf ihre Faktentreue hin zu bewerten.
Einfacher Zugang zu Informationen
Außerdem analysiert das Projekt, wie sich die Faktentreue der Antworten über einen bestimmten Zeitraum verändert und wie sehr sie von wohl formulierten Eingabetexten, also den „prompts“, abhängt. Zudem wird untersucht, ob umweltrelevante Informationen mit Hilfe der KI-Sprachmodelle einfacher zugänglich sind. Und: Wie werden diese Modelle bereits in der Wissensaufbereitung und -vermittlung genutzt?
„Besonders hier sind faktenbasierte Informationen erforderlich, da das die Schnittstelle zwischen wissenschaftlicher Forschung und Kommunikation in die Öffentlichkeit ist“, gibt der Leiter des Bereichs Produkte & Stoffströme am Öko-Institut zu bedenken. „Das ist aber auch die große Chance von KI. Komplexe Informationen zu Umweltthemen können in verschiedenen Sprachstilen leicht aufbereitet werden und sind so für alle Menschen leicht zugänglich.“
Anschließend an die Analyse leitet das Projektteam politische Empfehlungen ab: Wie sollte ein regulatorischer Rahmen aussehen, um den möglichen Risiken zu begegnen aber auch die Chancen durch KI-Sprachmodelle zu erhöhen?
Spendenprojekte ermöglichen auftragsfreie, unabhängige Forschung am Öko-Institut. In diesen Projekten untersuchen die Wissenschaftlerinnen und Wissenschaftler wichtige Grundlagen der nachhaltigen Transformation, die unser gesellschaftliches Miteinander bestimmen und geben der Politik Handlungsempfehlungen für sozial gerechte und ökologisch sinnvolle Richtungsänderungen an die Hand.
Ansprechpartner am Öko-Institut
Carl-Otto Gensch
Leiter des Institutsbereichs
Produkte & Stoffströme
Öko-Institut e.V., Geschäftsstelle Freiburg
Telefon: +49 761 45295-241
E-Mail: c.gensch@oeko.de
Das Öko-Institut ist eines der europaweit führenden, unabhängigen Forschungs- und Beratungsinstitute für eine nachhaltige Zukunft. Seit der Gründung im Jahr 1977 erarbeitet das Institut Grundlagen und Strategien, wie die Vision einer nachhaltigen Entwicklung global, national und lokal umgesetzt werden kann. Das Institut ist an den Standorten Freiburg, Darmstadt und Berlin vertreten.
www.oeko.de | Podcast | blog.oeko.de | Twitter | Instagram | Onlinemagazin
Öko-Institut e.V. Mandy Schoßig Öffentlichkeit & Kommunikation Borkumstraße 2 D-13189 Berlin Tel: +49 30 405085-334 m.schossig@oeko.de