Google DeepMind запускає відкритий інструмент для водяних знаків, щоб допомогти виявляти текст, згенерований штучним інтелектом

Google DeepMind цього середи запустив відкритий інструмент для водяних знаків під назвою SynthID-Text, щоб допомогти виявити текст, створений штучним інтелектом. Інструмент доступний для бізнесу та розробників безкоштовно та працює, вбудовуючи невидимі водяні знаки — непомітні для людського ока — в текст під час генерації, змінюючи ймовірності слів.

“Тут ми описуємо SynthID-Text, готову до виробництва схему водяного знака для тексту, яка зберігає якість тексту та забезпечує високу точність виявлення, з мінімальними затримками,” – йдеться в резюме дослідження, опублікованого в Nature. “Щоб забезпечити маркування водяними знаками на велику шкалу, ми розробляємо алгоритм, який інтегрує маркування водяними знаками зі спекулятивним вибірком, технікою ефективності, яка часто використовується в виробничих системах”

Згідно з MIT Technology Review, лабораторія дослідження штучного інтелекту технологічного велетня розробила технологію SynthID для створення декількох інструментів водяних знаків AI, які тепер можуть розпізнавати текст, музику, відео та зображення, створені AI. Google DeepMind поділилася відео, яке пояснює, як працює технологія в різних типах медіа.

Here’s how SynthID watermarks AI-generated content across modalities. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 23 жовтня, 2024

SynthID доступний за допомогою Google Responsible Generative AI Toolkit від компанії, а дослідники працюють разом із Hugging Face — колаборативною платформою для розробників, яка також приймає інші відкриті проекти, як ось підручник LeRobot для будівництва роботів на основі ШІ вдома — щоб розмістити його на своєму сайті.

“Тепер інші розробники [генеративного] ШІ зможуть використовувати цю технологію для виявлення того, чи були текстові виводи створені їхніми власними [великими моделями мови], що полегшує більшості розробників більш відповідальне створення ШІ”, — сказав Пушміт Кохлі, віце-президент з питань досліджень у Google DeepMind, у коментарі для MIT Technology Review.

SynthID було протестовано в продуктах Google Gemini, і мільйони користувачів не могли відрізнити вміст з водяним знаком від вмісту без водяного знаку. Однак, дослідники визнали, що він має обмеження, коли текст було відредаговано або перекладено, але вони залишаються оптимістами і вірять, що цей інструмент може допомогти боротися з дезінформацією та покращити безпеку AI.

Декілька технологічних компаній оголошували про стратегії маркування AI протягом останніх кількох місяців. Meta оголосила в лютому систему ідентифікації контенту AI на Instagram, Facebook та Threads, Google вимагав від користувачів маркувати контент AI у березні, а Tiktok додала мітки до контенту, згенерованого AI, у травні.