Apple Intelligence, ein KI-Feature, das Nachrichten zusammenfasst, steht unter Kritik. Nach einer fehlerhaften Zusammenfassung einer Nachricht hat die Organisation Reporters sans frontières (RSF) Apple aufgefordert, verantwortungsbewusst zu handeln und das Feature zu entfernen. Journalisten argumentieren, dass KI-Tools noch zu unausgereift sind, um verlässliche und qualitativ hochwertige Informationen zu liefern. Die automatisierte Erstellung von Falschinformationen durch Sprachmodelle untergräbt das Vertrauen in die Medien und bedroht den Journalismus.
KIs sind “Wahrscheinlichkeitsmaschinen”, sagt RSF, und Fakten sollten nicht zufällig entstehen. Die Organisation fordert nicht nur Apple auf, sondern auch die EU-Kommission, Maßnahmen zu ergreifen. Der Einsatz von KI in Nachrichten sollte nicht erlaubt sein, so RSF. Die europäische KI-Verordnung (EU AI Act) hat es versäumt, solche durch KI erstellten Nachrichtenzusammenfassungen als hochriskante Systeme einzustufen, was ein “rechtliches Vakuum” hinterlässt. Dies müsse nun behoben werden.
Der Aufruf von RSF folgte einer Beschwerde der BBC. Der britische Sender wandte sich an Apple, nachdem die KI-Funktion eine Headline irreführend zusammengefasst hatte. In einem viel beachteten Mordfall in den USA wurde berichtet, dass sich der Tatverdächtige selbst erschossen habe. Diese Information war jedoch falsch und wurde von Apples Sprachmodell generiert. Wie die ursprüngliche Headline lautete, ist unklar. Apple hat bisher nicht öffentlich auf die Angelegenheit reagiert.
Apple Intelligence kann derzeit nur englische Texte zusammenfassen. Seit iOS 18.1 gibt es diese Funktion, die auf Wunsch Nachrichten zusammenfasst. Die Funktion arbeitet nur auf Englisch und ist in der EU nur auf Macs verfügbar, nicht auf iPhones und iPads. Solche Fehler sind schwer reproduzierbar, da Sprachmodelle unterschiedliche Ausgaben liefern können. Je nach vorherigen Mitteilungen variiert die KI-Zusammenfassung. Seit Einführung der Funktion gibt es Berichte über skurrile, lustige bis verstörende Zusammenfassungen durch Apple Intelligence.
Die Diskussion um die Zuverlässigkeit von KI-gestützten Nachrichten-Tools ist nicht neu. Viele Experten warnen davor, dass KI-Modelle, die auf Wahrscheinlichkeiten basieren, nicht immer korrekte Informationen liefern können. Dies kann zu Verwirrung und Misstrauen in der Öffentlichkeit führen. Der Ruf nach strikteren Regeln und Kontrollen für den Einsatz von KI in der Nachrichtenbranche wird lauter.
Einige Befürworter von KI-Tools argumentieren, dass diese Technologien das Potenzial haben, die Effizienz in der Nachrichtenproduktion zu steigern. Sie könnten Journalisten entlasten, indem sie Routineaufgaben übernehmen. Doch die Kritiker betonen, dass die Qualität und Genauigkeit der Informationen nicht leiden dürfen.
Die Debatte zeigt, dass es wichtig ist, ein Gleichgewicht zwischen technologischer Innovation und ethischer Verantwortung zu finden. Unternehmen wie Apple stehen vor der Herausforderung, ihre KI-Tools so zu entwickeln, dass sie sowohl nützlich als auch zuverlässig sind. Gleichzeitig müssen Regulierungsbehörden sicherstellen, dass der Einsatz solcher Technologien im Einklang mit den gesellschaftlichen Erwartungen und Standards steht.
In der Zwischenzeit bleibt abzuwarten, wie Apple und andere Technologieunternehmen auf die wachsende Kritik reagieren werden. Es ist klar, dass die Diskussion über die Rolle von KI in der Nachrichtenbranche noch lange nicht abgeschlossen ist. Die Entwicklungen in diesem Bereich werden weiterhin genau beobachtet werden, da sie Auswirkungen auf die Art und Weise haben, wie Informationen konsumiert und verbreitet werden.