Искусственное искусство: "Гугл" открыл для широкой публики "детектор ИИ"

Корпорация "Гугл" открыла всем желающим доступ к инструменту под названием SynthID Detector. Он распознает специальные метки, которыми некоторые сервисы снабжают искусственно сгенерированный контент.

Речь идет о проверке изображений, видео- и звуковых файлов. Детектор распознает только метки, которые ставит гугловский механизм SynthID. Его используют сервисы самого "Гугла", а также OpenAI (ChatGPT), южнокорейский гигант "Какао" (нейросеть "Канана", генерирующая картинки и видео), а также в генераторах компании Nvidia (Edify и другие).

Таким образом, все видео, изображения и звуковые файлы, которые генерируют нейросетевые сервисы этих фирм, сейчас помечены "водяными знаками" формата SynthID.

Открытый "Гуглом" детектор позволяет прогонять разные файлы на предмет поиска этих меток. Хотя есть много других платформ (а также локальных нейросетей), которые генерируют контент без метки SynthID, через четыре указанных сервиса производится огромная масса искусственного контента.

Пока что распознаватель ограничен 10 попытками в сутки на одного пользователя. Это сделано для того, чтобы "генераторщики" звука, видео и изображений не пытались избавиться от меток, постоянно анализируя результат в детекторе "Гугла" после разных трансформаций.

Если детектор заметит, что через него несколько раз прогоняется одинаковый файл, он может заблокировать попытки и не дожидаясь десятого раза.

Текстовые файлы этот анализатор не принимает, хотя технология SynthID применяется и в сгенерированных текстах на сервисах "Гугла", прежде всего "Джемини".

Однако OpenAI для текстов применяет собственную технологию, дешифратор которой тоже пока не собирается выкладывать в публичный доступ – из-за того, что "подобрать ключи" к текстовой маркировке гораздо проще, чем к тайным пометкам в визуальном и звуковом контенте, которые практически неистребимы.

Тем не менее, инструментов для распознавания "искусственного искусства" становится все больше. Они будут совершенствоваться и постепенно внедряться в широкое использование. Со временем это положит конец толкам о том, "настоящий это ролик или ИИ", хотя, разумеется, останутся мелкие сервисы, не маркирующие контент. Кроме того, у предприятий и отдельных пользователей, обладающих серьезными вычислительными мощностями, есть возможность разворачивать нейросетевые движки локально, не связывая себя ограничениями крупных платформ.
Источник

Теперь, будет больше недорогого топлива на заправках и прилавки ломиться от хорошей, качественной и недорогой едой.

Я опубликовал в Facebook фотографию своей собаки, и искусственный интеллект Meta пометил её как сгенерированную ИИ, хотя я сделал этот снимок сам и выложил его без какой-либо обработки.

Я вот все таки не понимаю, сначала скупили всю ОЗУ что бы сделать нейронки для генерации контента и потом сами же обесценивают мол - это нейронка а я яй!... Ну так уберите нейронки, на кой они тогда?

kiska-sakuya писал(а):

Ну так уберите нейронки, на кой они тогда?

выше уже привели пример (фото собаки)
"правильные" изображения = будут "настоящими" (не смотря на то что поделка)
а "Не правильные "(по указке выше) = будут называть поделками

XitrLIS
К сожалению, так оно и есть. Я отправил эту фотографию нескольким системам искусственного интеллекта, и мнения разделились поровну ))) одни утверждали, что изображение создано ИИ, а другие что оно подлинное.

цифровые фото генерируются с момента появления цифрового фото)) а не копируют игру света и тени в окружающем мире, в отличие от аналоговой фотопленки

Giorgisia писал(а):

Я опубликовал в Facebook фотографию своей собаки, и искусственный интеллект Meta пометил её как сгенерированную ИИ, хотя я сделал этот снимок сам и выложил его без какой-либо обработки.

Если фото было сделано на телефон (относительно современный) то вероятно была постобоработка алгоритмами с ИИ. Вот такие нынче телефоны

Хорошая вещь.

Совсем скоро , умельцы с 4Pda и подобных сделают программу для стирания меток

и опять будет борьба болта с гайкой , денуво ,ватермарки ..

Понятно, что будет наблюдаться обратный эффект тому, что хотели крупные компании IT в сфере генерации контента. Народные промыслы вверх пойдут, художники, холсты, картины писаные маслом... Одна сфера для сгенерированного контента подходит просто идеально - дезинформация. И этот процесс уже идёт и уже фактически вышел из под контроля, не даром на Западе панику разводят в связи с развитием ИИ-систем. Исследования то уже проводились и дали неутешительные выводы. Короче - бредят все , и ИИ, и их создатели .

"Ни чего личного, только бизнес!"

плохо определяет.
рисунки еще нормально, но ни одного звукового файла, ни видео не определил.
Причем специально брал файлы вот только что созданные, разных(используемых) форматов.

Цитата:

Только люди с психическими расстройствами смогут построить успешную карьеру в эпоху ИИ, — глава Palantir.

концептуально бесполезная вещь, у любого произведения есть авторство, если я читаю произведения одного автора то в первую очередь автор отвечает за содержание и подачу текста в произведении, и мне глубоко фиолетово писал он его на винде или маке, сам ручками набирал или с ии сделал по итогу он ставит свое авторство под произведением и отмазки для неудачных вариантов от него что он сделал это с ии не помогут, так как именно он подписался под ним, т.е. адекватно надо понимать что ии это инструмент, но то что вы в итоге опубликуете это ваша ответственность а не ии