In Bezug auf künstliche Intelligenz (KI) gibt es Bedenken hinsichtlich der Verbreitung von automatisch generierten Falschinformationen. Eine aktuelle Studie hat gezeigt, dass KI-generierte Texte in sozialen Netzwerken oft glaubwürdiger wirken als Texte von Menschen. Ein Experte plädiert für strenge Regulierung, da es in Österreich noch großen Nachholbedarf gibt. Das Europäische Parlament strebt eine Einteilung der KI in vier Kategorien an, je nach dem Risiko, das von den KI-Systemen ausgeht. Das Ziel ist die Umsetzung des geplanten „AI Act“, dem weltweit ersten umfassenden KI-Gesetz. Der Einsatz von Gesichtserkennungssoftware zur Echtzeitüberwachung der Bevölkerung soll in Europa komplett verboten werden.

Es wird auch über die Gefahr beliebter KI-Sprachmodelle wie Chat-GPT diskutiert, dass automatisch generierte Falschinformationen verbreitet werden könnten. Eine Schweizer Studie, veröffentlicht im Fachjournal „Science Advances“, hat gezeigt, dass Menschen Schwierigkeiten haben, KI-generierte Tweets von echten Texten zu unterscheiden. Die KI-Tweets wurden als oft verständlicher empfunden, auch wenn der Inhalt nicht der Wahrheit entsprach. Die „Fake News“ der KI wirkten überzeugender als falsche Informationen, die von Menschen geschrieben wurden.

Der KI-Forscher Günter Klambauer von der Johannes-Keppler-Universität (JKU) in Linz betont die potenzielle Verbreitung von Falschinformationen durch KI-Systeme.

Er stellt jedoch klar, dass ein KI-Sprachmodell immer noch die Eingabe eines Menschen benötigt, um Texte zu generieren, und dass das Modell nicht absichtlich Falschinformationen verbreitet. Klambauer betont die Notwendigkeit einer strengeren Regulierung, klarer Kennzeichnungen in den sozialen Medien und weiterer Forschung, um das Potenzial und die damit verbundenen Gefahren der KI-Modelle besser zu verstehen. Österreich hat Nachholbedarf in der KI-Debatte und sollte mehr in die Forschung investieren, um eine führende Rolle in der Entwicklung von KI-gestützten Systemen einzunehmen.