Eine Gruppe von US-Parlamentariern unter der Leitung des Abgeordneten Adam Schiff hat dem CEO von Alphabet/Google, Sundar Pichai, eine Frist bis zum 1. August gesetzt, um einer Aufforderung zur Informationsfreigabe im Hinblick auf das Google-Feature „AI Overview“ nachzukommen.
AI Overview ist ein Fenster, das an oberster Stelle in den Google-Suchergebnisseiten angezeigt wird, wenn ein Nutzer eine Anfrage stellt. Es enthält in der Regel eine kurze Textantwort, ein Bild, falls relevant, und unterstützende Links zur Suche. In Europa ist das Feature allerdings noch nicht standardmäßig implementiert.
Nach Angaben des Büros von Schiff, das sich auf zahlreiche Berichte beruft, neigt AI Overview bisher allerdings dazu, falsche und/oder potenziell gefährliche Informationen auszugeben.
In der von Schiff und von vier weiteren Kongressmitgliedern unterzeichneten Beschwerde wird um die Beantwortung von elf Fragen zu dem Feature gebeten, die sich auf die Bemühungen des Unternehmens um größere Genauigkeit und Sicherheit beziehen.
AI Overview noch nicht fehlerfrei
Einige der Probleme mit AI Overview resultieren aus der offensichtlichen Unfähigkeit der Künstlichen Intelligenz zu erkennen, ob eine bestimmte Quelle Satire ist oder nicht. „Googles AI Overview riet den Nutzern zum Beispiel, mindestens einen Stein pro Tag zu essen, um Vitamine und Mineralien aufzunehmen“, schrieben Schiff und die anderen Kongressabgeordneten und fügten hinzu, dass die KI dahingehend die Satire-Nachrichtenseite ‚The Onion‘ zitierte.
In anderen Fällen, z. B. als Nutzer zu berichten begannen, dass AI Overview behauptete, Barack Obama sei der erste muslimische US-Präsident, zitierte das KI-System bereits entlarvte Verschwörungstheorien.
In seinem Schreiben erkannte Schiff zwar die laufenden Bemühungen von Google zur Bekämpfung von Fehlinformationen an, erklärte jedoch, dass noch mehr getan werden müsse:
„Wir begrüßen Googles Bemühungen, diese Fehler zu beheben, indem die Funktion durch weitere Tests verbessert wird, Antworten, die gegen die Inhaltsrichtlinien des Unternehmens verstoßen, entfernt werden und KI-generierte Antworten als experimentell gekennzeichnet werden. Es muss jedoch noch mehr getan werden, um angemessen sicherzustellen, dass Google eine vertrauenswürdige und zuverlässige Informationsquelle für die Amerikaner bleibt.“
Kann KI denken?
Bislang gibt es keinen wissenschaftlichen Konsens darüber, ob diese Art von Problemen tatsächlich gelöst werden kann. Der Kern des Problems ist, dass KI nicht „denkt“ oder „vernunftbegabt“ ist, obwohl beide Begriffe im Marketing für KI-Produkte häufig verwendet werden.
Generative KI-Systeme imitieren die menschliche Sprache, sind aber nicht in der Lage, den Kontext zu verstehen oder erworbene Erfahrungen auf eine Situation anzuwenden.
Diese Probleme sind seit langem bekannt und wurden schon bei frühen großen Sprachmodellen wie GPT-2 von OpenAI und dem inzwischen eingestellten „Galactica“-System von Meta bemerkt, das nach nur drei Tagen wegen der Gegenreaktionen, die seine Einführung auslöste, vom Netz genommen wurde.
Abgeordnete wollen Klarheit
Um die Bemühungen von Google besser zu verstehen, haben Schiff und seine Kollegen gefordert, dass Pichai und Google bis zum 1. August Antworten auf eine Liste von 11 Fragen geben. Dazu gehören Fragen zu den Ranking-Verfahren des Unternehmens, zur automatischen Überprüfung von Fakten, zur Genauigkeit, zu den Quellen, zur Transparenz und dazu, wie das Unternehmen mit den Behörden zusammenarbeitet, um die Sicherheit zu gewährleisten.
Melde dich bei unseren Sozialen Medien an, um nichts zu verpassen: X, YouTube, Instagram und Telegram – aktuelle Nachrichten, Analysen, Expertenmeinungen und Interviews mit Fokus auf die DACH-Region.
