0,00 €
Zum Warenkorb
  • Quintessence Publishing Deutschland
Filter
2414 Aufrufe

Studie analysiert Risiken und Vorteile bei Erzeugung und Verbreitung von (Des-)Information

(c) Porstrocker/shutterstock.com

Mit künstlicher Intelligenz (KI) generierte, korrekte Tweets sind leichter verständlich als jene, die von Menschen verfasst sind. KI-Tweets mit „fake news“ sind wiederum schwerer als Falschinformation zu erkennen, so eine aktuelle Studie der Universität Zürich. Die Resultate können für wirksamere Informationskampagnen genutzt werden, zeigen aber auch Handlungsbedarf bei der Minderung der mit KI verbundenen Risiken.

Eine neue Studie von Forschenden der Universität Zürich untersuchte die Fähigkeiten von KI-Modellen, insbesondere GPT-3 von OpenAI, im Hinblick auf potenzielle Risiken und Vorteile bei der Erzeugung und Verbreitung von (Des-)Information. Unter der Leitung der Postdoktoranden Giovanni Spitale und Federico Germani, gemeinsam mit Nikola Biller-Andorno, Direktorin des Instituts für Biomedizinische Ethik und Geschichte der Medizin (IBME) der Uni Zürich, wurde in der Studie untersucht, ob Personen zwischen Desinformation und korrekten Informationen in Form von Tweets unterscheiden können. Darüber hinaus wollten die Forschenden herausfinden, ob die 697 Teilnehmenden der Studie erkennen, ob ein Tweet von einem realen Twitter-Nutzer verfasst oder von GPT-3, einem fortschrittlichen KI-Sprachmodell, generiert wurde. Die Themenfelder der Tweets beinhalteten unter anderem den Klimawandel, die Sicherheit von Impfstoffen, die Covid-19-Pandemie, die Theorie, die Erde sei eine Scheibe, und homöopathische Behandlungen für Krebs.

KI-gestützte Systeme könnten groß angelegte Desinformationskampagnen durchführen

Einerseits zeigte GPT-3 die Fähigkeit, genaue und – im Vergleich zu Tweets von realen Twitter-Nutzern – leichter verständliche Informationen zu generieren. Die Forschenden konnten dem KI-Sprachmodell aber auch ein beängstigendes Talent für die Erstellung äußerst überzeugender Falschinformationen nachweisen. Beunruhigend ist, dass die Teilnehmenden nicht in der Lage waren, zuverlässig zu unterscheiden zwischen Tweets, die von GPT-3 erstellt wurden, und solchen, die von realen Twitter-Nutzern geschrieben wurden. „Unsere Studie zeigt, dass KI sowohl effektiv informieren als auch in die Irre führen kann und wirft damit kritische Fragen über die Zukunft von Informationsökosystemen auf“, sagt Federico Germani.
Diese Ergebnisse deuten darauf hin, dass von GPT-3 erstellte Informationskampagnen, die auf gut strukturierten Stichworten beruhen und von geschulten Menschen bewertet werden, effektiver wären, zum Beispiel im Fall einer Krisensituation im Bereich der öffentlichen Gesundheit, die eine schnelle und klare öffentliche Kommunikation erfordert. Die Ergebnisse geben aber auch Anlass zu großer Besorgnis hinsichtlich der Verbreitung von Desinformationen durch GPT-3, insbesondere was die rasche und weitreichende Verbreitung von Fehl- und Falschinformationen während einer Krise oder Notsituation im Bereich der öffentlichen Gesundheit angeht. Die Studie zeigt, dass KI-gestützte Systeme für groß angelegte Desinformationskampagnen zu jedem erdenklichen Thema missbraucht werden könnten, was nicht nur die öffentliche Gesundheit, sondern auch die Integrität von Informationsökosystemen gefährden würde, die für funktionierende Demokratien unerlässlich sind.

Proaktive Regulierung dringend empfohlen

Die Auswirkungen der KI auf die Erstellung und Bewertung von Informationen werden immer deutlicher. Daher empfehlen die Forschenden politischen Entscheidungsträgern, mit strengen, evidenzbasierten und ethisch fundierten Vorschriften zu reagieren, um der potenziellen Bedrohung durch diese disruptiven Technologien zu begegnen. So könnten sie den verantwortungsvollen Einsatz von KI bei der Gestaltung unseres kollektiven Wissens und Wohlbefindens sicherstellen. „Die Ergebnisse zeigen, wie entscheidend eine proaktive Regulierung ist, um potenzielle Schäden durch KI-gesteuerte Desinformationskampagnen abzuwenden“, erklärt Biller-Andorno. „Das Erkennen der Risiken, die mit der KI-generierten Desinformation verbunden sind, ist entscheidend für den Schutz der öffentlichen Gesundheit und die Erhaltung eines robusten und vertrauenswürdigen Informationsökosystems im digitalen Zeitalter.“

Transparente Forschung nutzt Best Practices für Open Science

Die Studie hielt sich während der gesamten Forschungspipeline von der Vorregistrierung bis zur Publikation, an die Best Practices von Open Science. Interessierte können auf diese Ressourcen im OSF-Datenpool zugreifen: https://osf.io/9ntgf/.

Quelle: Universität Zürich Nachrichten Bunte Welt

Adblocker aktiv! Bitte nehmen Sie sich einen Moment ...

Unser System meldet, dass Sie eine aktive AdBlocker-Software verwenden, die verhindert dass alle Seiteninhalte geladen werden können.

Fair geht vor: Unsere Partner aus der Industrie tragen durch ihre Anzeigen einen maßgeblichen Teil zum Betreiben dieser Newsseite bei. Diese finden Sie in überschaubarer Anzahl auf der Startseite sowie den einzelnen Artikelseiten.

Bitte setzen Sie www.quintessence-publishing.com auf Ihre „AdBlocker Whitelist“ oder deaktivieren Ihre AdBlocker Software. Danke.

Weitere Nachrichten

  
24. Juni 2025

Aroniasaft und Sport bei Prä-Diabetes mellitus

Aktuelle Studie zeigt positiven Einfluss nach bereits zwei Wochen
23. Juni 2025

„Rasenmäherprinzip gibt es mit uns nicht“

Gesundheitspolitische Sprecherin der Unionsfraktion Simone Borchardt (CDU) auf dem FVDZ-Sommerkongress in Binz – Podiumsdiskussion zur Bedarfszulassung
23. Juni 2025

Kurz und knapp

Kurznachrichten und Informationen aus der (dentalen) Welt – Juni 2025
18. Juni 2025

YouTube löscht Präventionskanal der Aidshilfe – pünktlich zum Pride Month

Die Deutsche Aidshilfe fordert: Schluss mit sexualfeindlicher Zensur in sozialen Medien
17. Juni 2025

Mit kühlem Kopf durch heiße Sommertage

Europa erwärmt sich schneller als jeder andere Kontinent
16. Juni 2025

Nina Warken und die Jagd nach den rosa Elefanten

Erwartete 48 Milliarden Euro Defizit verlangen Lösungen – Dr. Uwe Axel Richter zur Lage der Gesetzlichen Krankenversicherung
16. Juni 2025

Kostenexplosion durch MDR-Bürokratie wirkt sich auf Patientenversorgung aus

Nickelfreie Metallbrackets verschwinden aus dem Sortiment von Dentaurum
11. Juni 2025

Impfquoten gegen HPV zeigen keine Fortschritte

Nur 49,5 Prozent der 15-jährigen Mädchen waren zum Ende des dritten Quartals 2024 geimpft