Google DeepMind представляет инструмент для определения текста, сгенерированного ИИ

Компания Google DeepMind представила новый инструмент SynthID, направленный на идентификацию текста, написанного ИИ, и сделала его доступным как open-source проект. Этот инструмент является частью усилий по созданию водяных знаков для повышения прозрачности выводов автономных систем. SynthID также внедрял водяные знаки для изображений и видео в прошлом году.

Особенности SynthID

SynthID использует невидимые водяные знаки, которые можно встроить в текст, не изменяя его. С помощью статистического анализа инструмент изменяет вероятность генерации токенов, чтобы идентифицировать текст, созданный ИИ. Исследования показывают, что SynthID не ухудшает качество и скорость создаваемого текста.

Ограничения SynthID

Однако водяной знак имеет свои ограничения. Он менее эффективен при значительных изменениях текста, таких как перезапись. SynthID - это шаг к повышению прозрачности ИИ, но эксперты подчеркивают необходимость дополнительных мер для безопасного использования технологий.

ИИ, технология, инструмент