Исследование выявило детскую порнографию в обучающих наборах для AI генераторов изображений

Недавно обнаружено, что некоторые популярные искусственные генераторы изображений содержат тысячи фотографий сексуального насилия над детьми в своих обучающих базах данных. Исследователи настаивают на необходимости действий со стороны разработчиков для исправления этой проблемы, которая может привести к вредным последствиям. Содержащийся контент позволяет системам AI создавать реалистичные изображения лиц, которые психически были ранее злоупотреблены.

Stanford Internet Observatory обнаружил свыше 3200 изображений с подозрением на сексуальное насилие в базе данных LAION, которая использовалась для обучения передовых генераторов изображений. LAION, крупная некоммерческая сеть, была вынуждена временно удалить свои наборы данных.

Разработчики поспешили с созданием и открытым доступом к своим проектам AI, не уделив должного внимания фильтрации нежелательного контента. Теперь предлагаются меры для устранения незаконного контента и предотвращения его распространения.

искусственный_интеллект, порнография, защита_детей