Google открывает инструмент для определения текста, сгенерированного ИИ

Google только что опубликовал новый инструмент под названием SynthID, который поможет пользователям определить, был ли текст произведен искусственным интеллектом или написан человеком. Этот инструмент позволяет "водяным знаком" идентифицировать и отмечать AI-контент.

Ранее SynthID использовался только в системах генерации контента Google, но теперь он доступен в режиме открытого исходного кода для других разработчиков. Это означает, что другие инструменты генерации текста могут внедрить технологию в свои продукты.

С помощью SynthID в тексте будут скрыты особые узоры, которые трудно заметить человеку, но которые можно обнаружить с помощью соответствующего программного обеспечения. Тем не менее, автоматическое определение водяных знаков все еще встречает трудности, особенно если текст подвергается изменениям или переводу.

Google, ИИ, технологии