Datensatzfilterung bietet nur begrenzten Schutz vor der Erzeugung von CSAM in Text-zu-Bild-Modellen

Дата публикации: 15-07-2026 06:42:00

Text-zu-Bild-Modelle haben die Erzeugung synthetischer Bilder, darunter illegale Inhalte wie Darstellungen sexuellen Kindesmissbrauchs (CSAM), deutlich vereinfacht. In öffentlichen Debatten wird häufig vorgeschlagen, Bilder von Kindern aus den Trainingsdatensätzen zu entfernen. Eine von CISPA-Faculty Dr. Ana-Maria Cretu geleitete Studie legt jedoch nahe, dass dieser Ansatz nur begrenzten Schutz bietet und leicht umgangen werden kann. Die Ergebnisse der Studie mit dem Titel „Evaluating Concept Filtering Defenses against Child Sexual Abuse Material Generation by Text-to-Image Models“ präsentierte sie auf dem 47. IEEE-Symposium für Sicherheit und Datenschutz (S&P 2026).

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	Dataset Filtering Provides Only Limited Protection Against CSAM Generation in Text-to-Image Models	0	7	15-07-2026
2	AI powers around a quarter of child image abuse cases	-2	6	07-07-2026
3	Bill aims to crack down on sexually explicit AI chatbots posing as kids	-2	6	17-06-2026
4	Bill aims to crack down on sexually explicit AI chatbots posing as kids	-2	6	17-06-2026
5	Bill aims to crack down on sexually explicit AI chatbots posing as kids	-2	6	17-06-2026
6	Bill aims to crack down on sexually explicit AI chatbots posing as kids	-2	6	17-06-2026
7	Bill aims to crack down on sexually explicit AI chatbots posing as kids	0	7	17-06-2026
8	AI prey: why watchdogs are telling parents to protect children from nudification apps	-5	6	03-07-2026
9	Forscher entwickeln neue Methode zum Aufspüren manipulierter Videos	5	8	16-07-2026
10	Lawsuit: Grok user made 7K child sex images; xAI only reported one gang rape prompt	-5	7	10-07-2026

Классификация: . Схожих патентов: 0. Схожих новостей: 10. Тональность: 0. Информативность: 7. Источник: idw-online.de.