Missbrauch Deepfakes KI: EU plant Verbot für Gefährliche Anwendungen
Maik Möhring 
EU will KI für Missbrauch-Deepfakes verbieten
Die EU plant ein Verbot von KI-Anwendungen, die zur Erstellung von Missbrauch-Deepfakes verwendet werden. Diese Entscheidung zielt darauf ab, die Verbreitung von sexuell missbräuchlichen Inhalten, insbesondere von solchen, die Kinder betreffen, einzudämmen und die Opfer vor den schwerwiegenden Folgen solcher Fälschungen zu schützen. Missbrauch Deepfakes KI steht dabei im Mittelpunkt.
Auf einen Blick
- EU-Einigung auf Verbot von KI-gestützten Missbrauch-Deepfakes.
- Das Verbot soll ab dem 2. Dezember 2026 durchgesetzt werden.
- KI-Gesetz soll vereinfacht werden, um wirtschaftliches Potenzial zu nutzen.
- FDP-Europaabgeordnete Svenja Hahn begrüßt die Einigung.
Vertreter der EU-Mitgliedstaaten und des Europäischen Parlaments haben sich auf eine entsprechende Anpassung des KI-Gesetzes geeinigt, wie Stern berichtet. Bevor die Änderungen in Kraft treten können, müssen sie noch vom EU-Parlament und dem Rat der Regierungen der Mitgliedstaaten bestätigt werden. (Lesen Sie auch: Digitale Gewalt: Einigung: EU will KI für…)
Was sind Missbrauch Deepfakes und wie entstehen sie?
Missbrauch Deepfakes sind synthetische Medien, bei denen durch künstliche Intelligenz Gesichter oder Stimmen von Personen in Videos oder Audiodateien eingefügt oder nachgeahmt werden. Dies kann dazu genutzt werden, täuschend echte Inhalte zu erstellen, die nie tatsächlich stattgefunden haben. Durch die Fortschritte im Bereich der KI ist die Erstellung solcher Inhalte erheblich einfacher geworden.
Das neue KI-Gesetz der EU
Das geplante Verbot von KI für Missbrauch-Deepfakes ist Teil eines umfassenderen KI-Gesetzes, das darauf abzielt, die Entwicklung und Nutzung von künstlicher Intelligenz in der EU zu regulieren. Ein Ziel ist es, die wirtschaftlichen Chancen der KI zu nutzen und gleichzeitig Risiken zu minimieren. Die zyprische EU-Ratspräsidentschaft teilte mit, dass die KI-Regeln vereinfacht werden sollen, um das wirtschaftliche Potenzial von Künstlicher Intelligenz in Europa auszuschöpfen. (Lesen Sie auch: Digitale Gewalt: Was Tun gegen Hass und…)
Die Europäische Union arbeitet seit längerem an einer umfassenden Regulierung von Künstlicher Intelligenz. Das KI-Gesetz soll einen Rahmen für die Entwicklung und Nutzung von KI-Systemen schaffen, der sowohl Innovation fördert als auch ethische und rechtliche Bedenken berücksichtigt.
Was bedeutet das für Bürger?
Das Verbot von KI für Missbrauch-Deepfakes soll Bürger vor den negativen Auswirkungen solcher Technologien schützen. Opfer von Deepfakes erleiden oft erheblichen Schaden durch die Verbreitung gefälschter, kompromittierender Inhalte. Das neue Gesetz soll dazu beitragen, solche Fälle zu verhindern und die Täter zur Rechenschaft zu ziehen. (Lesen Sie auch: KI Nacktbilder Verbot: EU will Nudifier-Systeme Stoppen)
Welche Strafen drohen bei Verstößen gegen das Verbot?
Obwohl die genauen Strafen für Verstöße gegen das Verbot noch nicht festgelegt sind, ist zu erwarten, dass diese empfindlich sein werden. Die EU plant, das Verbot ab dem 2. Dezember 2026 durch das neu geschaffene KI-Amt der EU durchzusetzen. Dieses Amt wird befugt sein, Untersuchungen durchzuführen, Geldbußen zu verhängen und andere Maßnahmen zu ergreifen, um die Einhaltung des Gesetzes sicherzustellen.
Reaktionen aus der Politik
Die FDP-Europaabgeordnete Svenja Hahn begrüßte die Einigung und betonte, dass KI kein Werkzeug für sexualisierte Gewalt gegen Kinder sein dürfe. Andere Politiker und Experten haben sich ähnlich geäußert und die Notwendigkeit betont, die Entwicklung und Nutzung von KI ethisch und verantwortungsvoll zu gestalten. (Lesen Sie auch: Allgemeinwissen Quiz: Testen Sie Ihr Wissen Spielerisch!)
Der Grok-Skandal als Auslöser
Ende des vergangenen Jahres rückte das Thema auf EU-Ebene durch den KI-Chatbot Grok in den Fokus. Nutzer befahlen der KI, Frauen in Bildern zu entkleiden, bis die Betreiberfirma, geführt von Elon Musk, die Funktion einschränkte. An Silvester entschuldigte sich der Chatbot sogar für die Erstellung eines Bildes von zwei Mädchen im Teenager-Alter „in sexualisierten Outfits“.
Wie geht es weiter?
Nach der Einigung müssen das EU-Parlament und der Rat der Regierungen der Mitgliedstaaten die Änderungen noch bestätigen. Dies gilt jedoch als Formalie. Das Verbot soll ab dem 2. Dezember 2026 durch das KI-Amt der EU durchgesetzt werden. Die EU-Kommission wird in den kommenden Monaten weitere Details zur Umsetzung des Gesetzes vorlegen. Auf Netz.EU finden sich weiterführende Informationen zu diesem Thema.
Das Europäische Parlament bietet auf seiner Webseite aktuelle Informationen zu Gesetzesvorhaben.
📚 Das könnte Sie auch interessieren
