Что остановит ИИ от наводнения Интернета поддельными изображениями?

Как ни странно, ситуация с фальшивыми изображениями и дезинформацией, созданными при помощи искусственного интеллекта, тоже несет в себе оптимистические моменты. Технологические компании, такие как Google, Adobe и Microsoft, активно работают над разработкой новых методов маркировки контента, созданного ИИ. Они внедряют различные формы маркировки в свои продукты для того, чтобы помочь пользователям лучше различать поддельные изображения от настоящих.

Например, Google планирует предоставить письменное раскрытие информации, аналогичное уведомлению об авторских правах, для результатов, сгенерированных искусственным интеллектом в Google Images. Также популярная технология генерации изображений OpenAI DALL-E добавляет красочный водяной знак в виде полосы в нижней части всех создаваемых изображений. Adobe, с своей стороны, разработала инструмент, позволяющий отслеживать редактирование изображений с использованием искусственного интеллекта и добавлять учетные данные контента, сохраняющиеся вместе с файлом вне зависимости от места его публикации.

Эти шаги компаний указывают на то, что технологии маркировки и обнаружения контента, созданного ИИ, находятся в стадии разработки и стремятся к совершенствованию. Даже несмотря на ограничения и возможность обмана водяных знаков и метаданных, прогресс в этой области дает надежду на то, что в будущем мы сможем лучше ориентироваться в сети и отличать реальные материалы от фальшивых.

Кроме того, создание стандартов, таких как C2PA (Coalition for Content Provenance and Authenticity) коалиции, является очень важным шагом в направлении повышения прозрачности и доверия к контенту, созданному с применением искусственного интеллекта. Этот стандарт позволяет фотографам и другим создателям контента вносить информацию о происхождении и истории контента с целью подтверждения его подлинности.

Таким образом, проблема дезинформации, связанной с искусственным интеллектом, стимулирует технологические компании к разработке новых методов маркировки и обнаружения контента. Эти усилия направлены на создание более надежных инструментов, которые помогут пользователям лучше понимать и оценивать контент, с которым они взаимодействуют в сети.