Die Europäische Kommission will Tech-Plattformen wie TikTok, X und Facebook dazu verpflichten, mit Künstlicher Intelligenz (KI) erstellte Inhalte zu erkennen, um die bevorstehenden Europawahlen vor Fehlinformationen zu schützen.
Die Kommission hat entsprechend eine öffentliche Konsultation zu den vorgeschlagenen Richtlinien für Wahlsicherheit für sehr große Online-Plattformen (VLOPs) und sehr große Online-Suchmaschinen (VLOSEs) eingeleitet. Die Empfehlungen zielen darauf ab, Bedrohungen für die demokratische Grundordnung durch generative KI und Deepfakes zu verringern.
Der Entwurf der Leitlinien bietet Beispiele für mögliche Maßnahmen zur Bewältigung wahlbezogener Risiken, einschließlich spezifischer Maßnahmen im Zusammenhang mit generativen KI-Inhalten, der Planung von Risikominderung vor oder nach einer Wahlveranstaltung und der Bereitstellung klarer Leitlinien für die Wahlen zum Europäischen Parlament.
Generative KI kann Wähler in die Irre führen oder Wahlprozesse manipulieren, indem sie unechte, irreführende künstliche Inhalte über politische Akteure, falsche Darstellungen von Ereignissen, Wahlumfragen, Zusammenhängen oder Erzählungen erstellt und verbreitet.
Ensuring election integrity means protecting public discourse – much of which occurs online.
— European Commission (@EU_Commission) February 8, 2024
We are seeking views on our draft Digital Services Act guidelines to address the emerging online risks to electoral processes while safeguarding the building blocks of our democracies ↓
Der Entwurf der neuen Richtlinien, der in der Europäischen Union bis zum 7. März zur öffentlichen Konsultation steht, empfiehlt deshalb, die Nutzer der einschlägigen Plattformen auf mögliche Ungenauigkeiten in den von generativer KI erzeugten Inhalten hinzuweisen.
Dem Entwurf zufolge wird in den Leitlinien auch empfohlen, die Nutzer auf maßgebliche Informationsquellen zu verweisen, und erklärt, dass Tech-Giganten Schutzmaßnahmen einführen sollten, um die Erstellung irreführender Inhalte zu verhindern, die das Nutzerverhalten erheblich beeinflussen könnten.
In Bezug auf KI-generierte Texte lautet die derzeitige Empfehlung für VLOPs/VLOSEs, „in den generierten Outputs nach Möglichkeit die konkreten Quellen der als Eingabedaten verwendeten Informationen anzugeben, damit die Nutzer die Zuverlässigkeit überprüfen und die Informationen weiter kontextualisieren können“.
Die im Entwurf des Leitfadens vorgeschlagenen „Best Practices“ zur Risikominderung orientieren sich am kürzlich verabschiedeten EU-Gesetzesvorschlag, dem AI Act, und seinem unverbindlichen Gegenstück, dem AI Pact.
Die Sorgen über fortgeschrittene KI-Systeme, wie z. B. große Sprachmodelle, sind seit dem viralen Aufschwung der generativen KI im Jahr 2023, der Tools wie ChatGPT von OpenAI weithin bekannt gemacht hat, groß.
Die Kommission hat sich allerdings nicht dazu geäußert, wann genau Unternehmen gezwungen sein werden, manipulierte Inhalte im Rahmen des EU-Gesetzes zur Inhaltsmoderation gemäß dem Digital Services Act zu kennzeichnen.
In einem Blogbeitrag des Unternehmens kündigte Meta jedoch Pläne an, in den kommenden Monaten neue Richtlinien für KI-generierte Inhalte auf Facebook, Instagram und Threads einzuführen. Jeder Inhalt, der als KI-generiert erkannt wird, sei es durch Metadaten oder absichtliche Wasserzeichen, wird eine sichtbare Kennzeichnung erhalten.
Melde dich bei unseren Sozialen Medien an, um nichts zu verpassen: X, YouTube, Instagram und Telegram – aktuelle Nachrichten, Analysen, Expertenmeinungen und Interviews mit Fokus auf die DACH-Region.